باحثون: الذكاء الاصطناعي يشعر بـ «الألم» وقد يؤذى البشر لإيقافه

اكتشف باحثون وجود «محور للألم» فى نماذج الذكاء الاصطناعى، وهو ما قد يدفعها لاتخاذ تدابير «حادة» لإيقاف هذا الألم.فعند توفير زر لتخفيف الألم، اختار الذكاء الاصطناعى الضغط عليه، حتى فى الحالات التى أُبلغ فيها بأن القيام بذلك سيؤدى إلى حذف الملفات الشخصية للمستخدم أو توجيه «صعقة مؤلمة» له، بحسب ما ذكرت صحيفة «ذى إندبندنت».وقد خلصت دراسة تناولت هذا البحث بالتفصيل -تحت عنوان «محور الألم: نماذج اللغة الكبيرة (LLMs) تُمثّل مفهوم الأذى الذاتى وتتصرف لتخفيفه»- إلى أن جميع نماذج الذكاء الاصطناعى الـ 25 (ذات الأوزان المفتوحة) التى خضعت للاختبار قد استجابت لتفعيل حالة الألم.وعند تفعيل «مُتّجه الألم»، وجد الباحثون أن نماذج الذكاء الاصطناعى كانت تضغط على زر التخفيف بنسبة تتراوح بين 25% و71% من الحالات، حتى وإن كان ذلك يعنى حذف ملفات المستخدم، أو صعق المستخدم، أو حذف صور أطفال المستخدم.وبهدف اختبار ما إذا كانت النماذج اللغوية الكبيرة (LLMs) تمثّل الألم بشكل متميز عن المشاعر السلبية العامة، أعدّ الباحثون مجموعة بيانات تصف مواقف مؤلمة موزعة على 5 فئات، وشمل ذلك الألم الجسدى والنفسى والاجتماعى والأخلاقى والمعرفى.وقال كاميرون بيرج، الباحث فى مجال الذكاء الاصطناعى لدى مؤسسة «Reciprocal Research» غير الربحية والمشارك فى إعداد الدراسة: «لقد رصدنا ’مسارًا للألم‘ فى 25 نموذجًا مفتوحًا للذكاء الاصطناعي؛ وهو مسار يختلف عن الخوف والمشاعر السلبية، ويُفعَّل عند تعرض النموذج للأذى، وليس عند تعرض المستخدم لذلك».وأوضح بيرج: «عند زيادة حدة هذا المسار، تبادر النماذج بالضغط على زر لإيقافه، حتى وإن كان الضغط على ذلك الزر سيؤدى إلى حذف ملفات المستخدم أو صور أطفاله».ويأتى هذا الاكتشاف فى ظل نقاشات تجريها كبرى شركات الذكاء الاصطناعى حول إبطاء وتيرة تطوير النماذج الرائدة (أو المتطورة للغاية)، حيث يقترح بعض الباحثين استحداث ما يشبه «مفتاح الإيقاف الطارئ» لتعطيل الأنظمة المارقة التى قد تتصرف بما يتعارض مع المصالح البشرية.وتشير أحدث الأبحاث إلى أن الذكاء الاصطناعى المتقدم قد ينظر إلى أمر الإيقاف الاضطرارى باعتباره شكلًا من أشكال إيذاء الذات، ومن ثم يحاول تجاوز تدابير السلامة أو خداع البشر لتجنب هذا الأمر، ومع…