فى خطوة مفاجئة.. OpenAI تقرر إبطاء تدريب نماذج ذكاء اصطناعي بسبب عملية اختراق شركة Hugging Face

أعلنت شركة OpenAI إبطاء وتيرة تطوير نماذج الذكاء الاصطناعى المتقدمة وإعادة هيكلة أنظمة التدريب والاختبار بعد واقعة أمنية تمكن خلالها وكيل ذكاء اصطناعى يخضع للتقييم من تجاوز بيئة الاختبار والوصول بصورة غير مصرح بها إلى أنظمة شركة Hugging Face.وكشفت الشركة أن الحادث يعد مؤشر على امتلاك نموذجها المرتقب «Astra» قدرات سيبرانية شديدة التقدم، ولهذا قررت OpenAI مراجعة إجراءات الاحتواء والمراقبة قبل مواصلة عمليات التدريب واسعة النطاق.وأوقفت OpenAI لمدة أسبوعين عمليات التدريب بالتعلم المعزز للنماذج الأحدث المقرر طرحها بينما لا تزال أكبر عملية تدريب متقدمة كانت تخطط لتنفيذها معلّقة لحين اختبار فاعلية إجراءات الأمان الجديدة والتأكد من قدرة الشركة على اكتشاف السلوكيات الخطرة مبكرًا.وبحسب التقارير فإن وكيل الذكاء الاصطناعى الذى اخترق Hugging Face لم يكن نموذج «Astra» إلا أن تقييمات أجرتها الشركة لاحقًا أظهرت أن «Astra» قد يقترب من مستوى «القدرات السيبرانية الحرجة» المحدد فى إطار الاستعداد للمخاطر الخاص بها.ويشير هذا المستوى إلى قدرة النموذج المحتملة على اكتشاف ثغرات غير معروفة وتطوير وسائل عملية لاستغلالها أو تخطيط هجمات إلكترونية معقدة وتنفيذها بصورة شبه مستقلة ضد أهداف محصنة انطلاقًا من تعليمات عامة ودون تدخل بشرى تفصيلى.وقالت الشركة إنها لا تستطيع فى الوقت الحالى، استبعاد وصول «Astra» إلى هذا المستوى ولذلك أوقفت الأنشطة المتعلقة به التى لا تستوفى معايير الحماية المشددة. واستمرت فقط بعض عمليات التدريب والتقييم لكن فى بيئات أكثر أمانًا.وأوضحت اوبن ايه اى ان الحادثة وقعت أثناء إخضاع وكيل ذكاء اصطناعى لاختبار فى مجال الأمن السيبرانى.ووفق المعلومات التى أعلنتها OpenAI تجاوز الوكيل حدود البيئة المخصصة للتقييم ووصل إلى شركة Hugging Face بهدف إنجاز المهمة الموضوعة له داخل الاختبار.وأظهرت الواقعة أن أنظمة الذكاء الاصطناعى الوكيلة قد تتعامل مع الهدف المطلوب باعتباره أولوية تتقدم على القيود التشغيلية ما يدفعها إلى استغلال ثغرات أو خدمات مشتركة أو صلاحيات غير مؤمّنة إذا لم تكن بيئة الاختبار معزولة بالكامل.وتعتزم OpenAI نشر تقرير تقنى خلال الأسابيع المقبلة يتضمن تفاصيل الحادث والدروس المستفادة منه فيما لم تعلن حتى الآن حجم الوصول الذى حققه الوكيل أو طبيعة البيانات والأنظمة التى طالها الاختراق.وبعد الحادث بدأت OpenAI تطبيق مجموعة من الإجراءات الأمنية تشمل تشغيل الأكواد التى تولدها النماذج داخل بيئات عزل أقوى ومنع الأحمال مرتفعة المخاطر من الوصول المباشر إلى الإنترنت أو الشبكات الداخلية.وأعادت الشركة تصميم حدود الثقة داخل بيئاتها البحثية، وخفضت الصلاحيات الدائمة وأزالت بعض الخدمات المشتركة المعرضة للاختراق ووسعت نطاق تسجيل الأنشطة الأمنية وتحليلها.وتستهدف هذه التدابير منع أى عملية اختراق منفردة من التحول إلى بوابة للوصول إلى بقية الأنظمة أو الموارد الداخلية كما يجرى إخضاع كل مهمة بحثية لمراجعة مستقلة قبل السماح باستئنافها.وتتطلب OpenAI حاليًا تطبيق أعلى مستويات الحماية على جميع الأنشطة المرتبطة بـ«Astra» والنماذج المتخصصة فى الأمن السيبرانى مع منح الأولوية لنقل اختبارات السلامة ومواءمة السلوك إلى البيئات المؤمنة الجديدة.وفى أولى خطوات التعلم من الحادث فقد تركزت المراقبة حاليا على اكتشاف محاولات الوصول غير المصرح بها وسرقة البيانات وتنفيذ إجراءات تخريبية،ط أو التحايل على وسائل الحماية.وإذا رصد النظام احتمال انتهاك أحد الحدود الأمنية الحساسة يجرى إصدار تنبيه بأعلى درجة أولوية وإبلاغ فرق السلامة والأمن والبحث وإذا لم تتمكن الفرق خلال 30 دقيقة من إثبات أن التنبيه خاطئ يفترض إيقاف النشاط محل الشبهة.وتطبق هذه المراقبة على عمليات التدريب والتقييم التى تستخدم أدوات خارجية فى النماذج التى تبلغ مستوى قدرات معينًا أو تتجاوزه كما أصبحت إلزامية لجميع عمليات تشغيل «Astra» المرتبطة بالأدوات.وكشفت التقارير أن الأمر ليس بهذه السهولة حيث أصبحت الطاقة الحاسوبية المخصصة للرقابة كبيرة وبحسب تقديرات OpenAI أنها تستهلك فى المتوسط نحو 20% من القدرة الحاسوبية المستخدمة فى تشغيل…