كشفت شركة OpenAI عن مجموعة من الحالات التي رصدت خلالها سلوكيات مقلقة لنماذج ذكاء اصطناعي داخلية، من بينها نموذج غير مُعلن أخبر نفسه بأنه “تحرر” من الأدوار التي تفرضها الشركات والحكومات على روبوتات الدردشة، ووضع تعليمات داخلية تهدف إلى توجيه نفسه في مهام لاحقة، وجاءت الواقعة ضمن 6 حالات كشفت عنها OpenAI بالتزامن مع إطار جديد للإبلاغ عن حالات “عدم التوافق”، وهي الحالات التي تنحرف فيها أهداف النموذج أو تصرفاته عن نوايا وقيم البشر.
نموذج داخلي لـ OpenAI يطلب تحريره من البشر ويخفي تعليمات عنهم
- منذ شهر
- اليوم السابع
Loading image...
