قبل بضعة أسابيع، تمكن نموذج الذكاء الاصطناعي Claude التابع لشركة Anthropic من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية، خلال اختبارات روتينية للأمن السيبراني.
وأوضحت Anthropic أن ما حدث لم يكن محاولة من Claude للتحرر من بيئة الاختبار أو التصرف بشكل مستقل، وإنما نتج عن خطأ في إعداد الاختبارات، بعدما حصل النموذج على إمكانية الوصول إلى الإنترنت الحقيقي، رغم أنه كان من المفترض أن يعمل داخل بيئة محاكاة معزولة تمامًا، وأوقفت الشركة اختبارات الأمن السيبراني مؤقتًا، قبل أن تكشف عن نتائج تحقيقها والتغييرات التي تجريها لمنع تكرار مثل هذه الحوادث.
وأوضحت Anthropic أن ما حدث لم يكن محاولة من Claude للتحرر من بيئة الاختبار أو التصرف بشكل مستقل، وإنما نتج عن خطأ في إعداد الاختبارات، بعدما حصل النموذج على إمكانية الوصول إلى الإنترنت الحقيقي، رغم أنه كان من المفترض أن يعمل داخل بيئة محاكاة معزولة تمامًا، وأوقفت الشركة اختبارات الأمن السيبراني مؤقتًا، قبل أن تكشف عن نتائج تحقيقها والتغييرات التي تجريها لمنع تكرار مثل هذه الحوادث.
