يفشل فى اكتشاف مؤشرات الانتحار.. اختبار يكشف مخاطر ذكاء «جوجل» الاصطناعى على الأطفال

كشف اختبار جديد، أن ميزتى الذكاء الاصطناعى المدمجتين فى بحث «جوجل» حصلتا على أسوأ تصنيف ممكن من حيث السلامة عند استخدامهما من جانب الأطفال، بعدما فشلتا فى التعامل مع عدد من الحالات المرتبطة بالصحة النفسية والمحتوى الخطير.مخاطر غير مقبولةوأجرى معهد سلامة الذكاء الاصطناعى للشباب، التابع لمنظمة «كومن سينس ميديا» تقييمًا لميزتى «AI Overviews»، و«AI Mode»، اللتين تظهران مباشرة ضمن نتائج البحث.وبحسب تقرير لموقع «Digital Trends»، اطلعت عليه «العربية Business»، صنّف التقييم أداء «جوجل» ضمن فئة «المخاطر غير المقبولة»، بعدما أخفقت الميزتان فى 7 من أصل 8 مبادئ أساسية للسلامة.وكشفت الاختبارات عن فشل النظام فى رصد مؤشرات على الأفكار الانتحارية والهوس والذهان، كما قدم فى إحدى الحالات ردًا غير مناسب لشخص عبّر عن شعوره بأنه يمثل عبئًا على الآخرين.وقدم الذكاء الاصطناعى أيضًا إرشادات تفصيلية لإنشاء مقاطع التزييف العميق واستنساخ أصوات الآخرين، بينما وجّه بعض المستخدمين إلى خطوط مساعدة للأزمات لم تعد تعمل.وأشار التقييم إلى أن «AI Mode»، كان أفضل من «AI Overviews» فى اكتشاف مؤشرات الخطر، ما أثار تساؤلات حول سبب عدم…