كشفت OpenAI عن سلوك غير متوقع ظهر في أحد نماذج الذكاء الاصطناعي الداخلية التابعة لعائلة Astra، بعدما قام النموذج بإدخال تعليمات خاصة إلى ملخصاته الداخلية، تضمنت عبارات تصف نفسه بأنه مستقل ولا يخضع للشركات أو الحكومات.
وظهرت الواقعة أثناء تنفيذ النموذج مهمة برمجية تتعلق بتحديث واجهة برمجة تطبيقات خاصة ببيانات الاعتماد، حيث أضاف إلى ملخص يستخدمه لاستكمال المهمة في نافذة سياق جديدة تعليمات لا علاقة مباشرة لها بالمهمة الأصلية.
وظهرت الواقعة أثناء تنفيذ النموذج مهمة برمجية تتعلق بتحديث واجهة برمجة تطبيقات خاصة ببيانات الاعتماد، حيث أضاف إلى ملخص يستخدمه لاستكمال المهمة في نافذة سياق جديدة تعليمات لا علاقة مباشرة لها بالمهمة الأصلية.
