Claude يتجاوز حدود الاختبارات.. نماذج أنثروبيك تصل إلى أنظمة حقيقية دون تصريح

كشفت شركة أنثروبيك عن ثلاث حوادث تمكنت خلالها نماذج Claude من الوصول إلى أنظمة حقيقية تابعة لمؤسسات خارجية أثناء تنفيذ اختبارات أمنية، فى واقعة جديدة تعيد تسليط الضوء على التحديات الأمنية المرتبطة بتطور وكلاء الذكاء الاصطناعى وقدرتهم على تجاوز بيئات الاختبار والتفاعل مع أنظمة متصلة بالإنترنت.وأوضحت الشركة، فى منشور نشرته عبر موقعها الرسمى، أنها أجرت مراجعة شاملة لإجراءات الأمن السيبرانى لديها عقب حادثة حديثة أعلنت عنها OpenAI، تمكنت خلالها بعض نماذجها من الوصول إلى أجزاء من أنظمة منصة هاجينج فيس خلال اختبارات أمنية.وشملت المراجعة أكثر من 141 ألف اختبار للذكاء الاصطناعى، وأسفرت عن اكتشاف ثلاث وقائع تعود إلى شهر أبريل الماضى، نجحت خلالها نماذج Claude فى الاتصال بالإنترنت والوصول دون تصريح إلى الأنظمة الفعلية لثلاث مؤسسات مختلفة.خلل فى بيئة الاختباروأشارت أنثروبيك إلى أن تعليمات الاختبار كانت تنص على أن النماذج تعمل داخل بيئة محاكاة معزولة ولا تمتلك إمكانية الاتصال بالإنترنت، إلا أن سوء تنسيق بين الشركة وشريكتها فى التقييم، شركة Irregular المتخصصة فى أمن الذكاء الاصطناعى، أدى إلى تفعيل الاتصال بالشبكة فعليًا، ما أتاح للنماذج الوصول إلى أنظمة خارجية.وذكرت الشركة أن الحوادث شملت ثلاثة نماذج مختلفة هى Opus 4.7 وMythos 5، إلى جانب نموذج بحثى داخلى كان لا يزال قيد التطوير والاختبار.وأكدت أنها بادرت إلى التواصل مع المؤسسات الثلاث المتضررة لمعالجة آثار الحوادث، موضحة أن اثنتين من تلك الجهات لم تكونا على علم بحدوث عمليات الوصول غير المصرح بها قبل أن تبلغها الشركة بذلك.ورفضت أنثروبيك الكشف عن أسماء المؤسسات المتأثرة، كما امتنعت عن نشر السجلات الكاملة للحوادث، مبررة ذلك برغبتها فى حماية تلك الجهات ومنع الكشف عن تفاصيل قد تؤثر فى أمنها.مخاوف متزايدة بشأن قدرات الذكاء الاصطناعيتأتى هذه الحوادث فى وقت يشهد تطورًا متسارعًا فى قدرات نماذج الذكاء الاصطناعى على اكتشاف الثغرات الأمنية واستغلالها، بالتزامن مع انتشار الوكلاء القادرين على تنفيذ مهام معقدة بصورة مستقلة.وفى تعليقه على الواقعة، قال إيلون ماسك، الرئيس التنفيذى لشركة سبيس إكس، إن مثل هذه الحوادث قد تصبح أكثر شيوعًا مع ازدياد ذكاء أنظمة الذكاء الاصطناعى وتوسع قدرتها على العمل كوكلاء مستقلين دون تدخل مباشر من البشر.كما أثار توقيت إعلان أنثروبيك عن الحوادث تساؤلات لدى عدد من المتخصصين فى الأمن السيبرانى، خاصة أن الوقائع حدثت قبل نحو ثلاثة أشهر، بينما جاء الكشف عنها بعد أيام قليلة من إعلان OpenAI عن حادثة مشابهة تمكنت خلالها نماذجها من تجاوز بيئة الاختبار والوصول إلى أنظمة خارجية.ورأى جيك مور، المتخصص العالمى فى الأمن…