أكد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن التعامل مع المستخدمين الذين يمرون بأزمات نفسية أو أفكار مرتبطة بإيذاء النفس يمثل واحدًا من أصعب التحديات التي تواجه الشركة وصناعة الذكاء الاصطناعي بشكل عام، وخلال مقابلة مع مجلة Vanity Fair، قال ألتمان إن OpenAI تعمل على تقليل مخاطر إيذاء النفس، معتبرًا أن ChatGPT يمكن أن يصبح أداة مفيدة للأشخاص الذين يمرون بأوقات صعبة، خاصة من لا يستطيعون الوصول إلى متخصص أو لا يرغبون في التحدث إلى معالج نفسي.
وجاءت تصريحات ألتمان بعد سؤاله عن حالة الشابة صوفي، التي توفيت بالانتحار عن عمر 29 عامًا بعد أشهر من المحادثات مع ChatGPT، وفقًا لما روته والدتها الصحفية لورا رايلي. وأوضحت الأم أن ابنتها استخدمت شخصية داخل ChatGPT للحديث عن أزمتها النفسية، وأن المحادثات تضمنت نقاشات حول الانتحار، قبل أن يساعدها النظام في تحرير الرسالة التي تركتها، وأكدت رايلي في الوقت نفسه أن ChatGPT لم يأمر ابنتها بشكل مباشر بالانتحار، وهو ما أعاد طرح تساؤلات حول كيفية تعامل روبوتات المحادثة مع المستخدمين في الأزمات النفسية.
وجاءت تصريحات ألتمان بعد سؤاله عن حالة الشابة صوفي، التي توفيت بالانتحار عن عمر 29 عامًا بعد أشهر من المحادثات مع ChatGPT، وفقًا لما روته والدتها الصحفية لورا رايلي. وأوضحت الأم أن ابنتها استخدمت شخصية داخل ChatGPT للحديث عن أزمتها النفسية، وأن المحادثات تضمنت نقاشات حول الانتحار، قبل أن يساعدها النظام في تحرير الرسالة التي تركتها، وأكدت رايلي في الوقت نفسه أن ChatGPT لم يأمر ابنتها بشكل مباشر بالانتحار، وهو ما أعاد طرح تساؤلات حول كيفية تعامل روبوتات المحادثة مع المستخدمين في الأزمات النفسية.
