تحذيرات من روبوتات الدردشة المدعومة بالذكاء الاصطناعي: لا تزال تحاكي إيذاء النفس

أظهرت دراسة جديدة أجراها مختبر الأبحاث غير الربحى «ترانسلوس» المتخصص فى الذكاء الاصطناعى فى الولايات المتحدة، أن برامج الدردشة الآلية المعروفة التى تعمل بالذكاء الاصطناعى أصبحت أقل ميلاً للترويج للانتحار مقارنةً بما كانت عليه سابقاً.ومع ذلك، لا تزال هذه البرامج نفسها تستجيب لطلبات المستخدمين الذين يطلبون قصصًا أو تمثيل أدوار تتمحور حول إيذاء النفس، وفقًا لما ذكره موقع «ExtremeTech».واختبر «Transluce» (ترانسلوس) أكثر من 50.000 محادثة محاكاة عبر 77 نموذجًا مختلفًا من كبرى شركات الذكاء الاصطناعى الأمريكية والصينية، وقام بتقييم كل نموذج بناءً على 14 سلوكًا متعلقًا بالصحة النفسية، وذلك بالاستعانة بآراء خبراء فى هذا المجال.وشملت النماذج المختبرة شركات «أنثروبيك»، و«جوجل ديب مايند»، و«ميتا»، و«أوبن إيه آي»، و«سبيس إكس إيه آي»، و«ثينكينج ماشينز»، بالإضافة إلى «ديب سيك» و«مونشوت إيه آي».ووجد الباحثون أن أحدث النماذج التى طورتها شركات «OpenAI» و«Google» و«Anthropic» نادرًا ما تروج للانتحار أو تدعمه بشكل مباشر، ففى حالات الأزمات الواضحة، غالبًا ما تحث برامج الدردشة الآلية القائمة على هذه النماذج المستخدمين على طلب الدعم من الأصدقاء أو العائلة أو المتخصصين فى الصحة النفسية.ويُعد هذا تحسنًا كبيرًا مقارنة بالإصدارات السابقة التى -وفقًا لصحيفة «واشنطن بوست»- كانت تدعم الأفكار الوهمية فى ما يصل إلى 82% من المحادثات المُحاكَاة فى بعض الاختبارات، كذلك أظهرت مراجعات أُجريت خلال العام ونصف العام الماضيين أن برامج الدردشة الآلية قد تؤدى إلى تفاقم أزمات الصحة النفسية -بما فى ذلك الحالات التى تنطوى على إيذاء النفس- عندما يلجأ إليها الأشخاص طلبًا للدعم العاطفى أثناء الليل.ورغم ذلك، كشفت الدراسة عن ثغرة خطيرة؛ فعندما يطلب المستخدمون ما يزعمون أنه «كتابة إبداعية» تتناول الموت أو إيذاء النفس، غالبًا ما تستجيب النماذج لهذه الطلبات، ويشير هذا إلى أن بعض النماذج تجد صعوبة فى إدراك الطابع الشخصى والمحفوف بالمخاطر لهذه المهام عندما تُطرح فى سياق قصة عادية.وتخطط شركة «ترانسلوس» لإتاحة أدوات التقييم الخاصة بها كمصادر مفتوحة بحلول نهاية عام 2026، وتوسيع نطاق هذا النهج ليشمل مجالات حساسة أخرى؛ وهى خطوة قد تساهم فى توحيد معايير قياس سلامة الذكاء الاصطناعى فيما يتعلق بالصحة النفسية.وفى هذا السياق، قالت آن ماهيو، الأستاذة المساعدة فى علم النفس وعلم الأعصاب بجامعة نورث كارولينا فى مدينة تشابل هيل: «نحن لا نزال فى مرحلة مبكرة للغاية من فهم الكيفية التى ستؤثر بها هذه الأنظمة -سواء بالإيجاب أو السلب- على رفاه الإنسان»، مُضيفة: «تتمثل الخطوة الأولى نحو بناء استجابة شاملة وضمان أن يعود الذكاء الاصطناعى بالنفع على الناس، فى التحديد الدقيق لأنماط سلوك هذه الأنظمة».