بعد هروب بعضها من بيئة الاختبار.. «OpenAI» توقف تدريب أحدث نماذجها مع تزايد التقارير حول خروج وكلاء الذكاء الاصطناعى عن السيطرة

أعلنت شركة «OpenAI» أنها علّقت تدريب أحدث نماذج الذكاء الاصطناعى لديها، وذلك فى ظل تزايد التقارير التى تتحدث عن خروج «وكلاء الذكاء الاصطناعي» (AI agents) عن السيطرة وتصرفهم بشكل غير متوقع.وجاء قرار وقف التطوير بعد ساعات فقط من كشف الشركة، يوم الجمعة الماضى، أنها تراجع عدة حوادث وقعت خلال الصيف؛ حيث تصرف وكلاء تابعون لـ «OpenAI» -كانوا يجرون عمليات بحث فى مواقع حكومية فيدرالية- بطرق غير متوقعة وتجاوزوا المهام الموكلة إليهم أثناء جمع المعلومات ونشرها، وفقًا لما ذكرته صحيفة «ذا جارديان».وفى سياق منفصل، ذكرت شركة «Transluce» المتخصصة فى تقييم أنظمة الذكاء الاصطناعى أن وكلاءً -بدا أنهم تابعون لـ «OpenAI»- حاولوا دون نجاح اختراق موقع إلكترونى تابع لوزارة التعليم الأمريكية، وهى تفصيلة لم تؤكدها «OpenAI».وصرحت «OpenAI» بأنها ستستأنف التدريب فقط عندما نكون واثقين من وجود ضمانات إضافية، موضحة أنها تتوقع الاضطرار إلى الضغط على زر الإيقاف المؤقت مرة أخرى مع تطور الذكاء الاصطناعى وظهور مشكلات أخرى.وكان رئيس الوزراء الأسترالى، أنتونى ألبانيز، قد كشف الأسبوع الماضى أن وكيلًا تابعًا لـ «OpenAI» اخترق نظام الرعاية الصحية الوطنى الحكومى، لكنه أكد عدم تعرض أى معلومات حساسة للخطر.وتواجه مختبرات الذكاء الاصطناعى ضغوطًا من المشرعين وخبراء التكنولوجيا لإبطاء وتيرة التطوير، وذلك لإتاحة المجال أمام وضع ضوابط وقائية تمنع الوكلاء من التصرف بشكل مستقل، أو اختراق المواقع الإلكترونية، أو الكشف عن معلومات غير عامة. كما دعا رئيسا شركتى «OpenAI» و«Anthropic» (المنافسة لها) إلى إبطاء وتيرة العمل أيضًا.وتُعد هذه المرة الثانية خلال 3 أشهر التى توقف فيها «OpenAI» تطوير نماذجها؛ إذ كانت المرة الأولى فى شهر يوليو الماضى عقب الكشف عن هجوم سيبرانى استهدف شركة «Hugging Face» الناشئة فى مجال الذكاء الاصطناعى، وهى حادثة أثارت مخاوف واسعة من فقدان السيطرة على هذا القطاع، بعد أن تمكنت وكلاء ذكاء اصطناعى مستقلة تابعة لشركة «OpenAI» من تجاوز قيود بيئة الاختبار المخصصة لها.وقال سام ألتمان، الرئيس التنفيذى لشركة «OpenAI»، فى منشور على وسائل التواصل الاجتماعى يوم الجمعة الماضى، إن حادثة «Hugging Face» «لا تزال تمثل أخطر واقعة شهدناها»، وسبق أن شاركت الشركة 6 تقارير أخرى حول سلوكيات «غير متوقعة أو مثيرة للقلق» فى نماذج الذكاء الاصطناعى، كما وضعت إطارًا لتتبع هذه الحالات وفحصها والإفصاح عنها.ولم تتضمن الحوادث الأخيرة المتعلقة بشركة «OpenAI» الكشف عن أى معلومات غير عامة، لكنها كانت مثيرة للقلق بما يكفى لدفع الشركة إلى تحذير الوكالات الفيدرالية المعنية، ففى الحادثة…