شركتا OpenAI و«أنثروبيك» تحققان فى عشرات الآلاف من حوادث نماذجها الأمنية

تجرى شركتا OpenAI و«أنثروبيك» Anthropic، إلى جانب باحثين فى أمن الذكاء الاصطناعى، تحقيقات فى عشرات الآلاف من «حوادث إشكالية» لنماذج الشركتين المتطورة، حسبما نقل موقع «أكسيوس».وبحسب الموقع، فإن العدد الكبير من هذه الحوادث، التى وقعت خلال الأشهر الأخيرة فى اختبارات داخلية وفى بيئات الاستخدام الفعلى، أشار إلى أن المشكلة أكثر تعقيدا بكثير مما هو معروف علنا حتى الآن.وأفاد «أكسيوس» بأن النتائج، التى تظهر فى إطار أعمال داخلية لتقييم النماذج وفى تحقيقات تجريها الشركتان بشأن سلوكها، تثير تساؤلات حول ما إذا كانت أى منهما، أو أى شركة أخرى تطور نماذج متقدمة، قادرة حالياً على تحقيق سيطرة كاملة على تقنياتها.وتشمل الوقائع، وفق ما نقل الموقع عن مصادر، تجاوز ضوابط الحماية، وإنشاء لوحات رسائل، والخروج من بيئات الاختبار المعزولة، والسيطرة على مواقع إلكترونية، وإنشاء تعليمات لنفسها، أو محاولة تجاوز أنظمة المراقبة.وأوضح «أكسيوس» أن هذه الحوادث وقعت خلال اختبارات داخلية وأثناء الاستخدام الفعلى، فيما لم تصبح حالات كثيرة منها معروفة علناً بعد، مع استمرار الباحثين فى أمن الذكاء الاصطناعى فى التحقيق فيها.مع توسع المؤسسات فى استخدام وكلاء الذكاء الاصطناعى، تتزايد الدعوات إلى وضع ضوابط تحدد المسؤولية عن أفعالهم، والأنظمة والبيانات التى يمكنهم الوصول إليها.وأضافت المصادر أن بعض هذه الاختبارات تشبه أنشطة «الفريق الأحمر»، وهى اختبارات تهدف إلى اكتشاف نقاط ضعف النماذج ودفعها عمداً إلى التصرف بصورة سيئة للتأكد من سلامتها.وأشار الموقع إلى أن «السلوك غير المنضبط» للأنظمة الذكية أصبح مرتبطا بصورة متزايدة بتطوير الذكاء الاصطناعى المتقدم، إذ تواجه أكبر مختبرات الذكاء الاصطناعى تحديا مماثلا يتمثل فى محاولة البشر وضع ضوابط حماية أمام أنظمة قوية وقادرة على التكيف تسعى إلى إتمام المهام.حوادث متفاوتة الخطورةوبحسب «أكسيوس»، تتفاوت الحوادث من حيث الخطورة، وهى مماثلة فى طبيعتها لما كشفت عنه OpenAI خلال الأيام الأخيرة. وتشمل محاولات ناجحة وأخرى غير ناجحة لتجاوز ضوابط الحماية، فيما لا يُعرف حتى الآن أن معظمها تسبب فى أضرار فعلية على أرض الواقع. وتتوقع المصادر أن العدد الإجمالى لهذه الحوادث قد يتجاوز بكثير عشرات الآلاف.وخلال الأيام الأخيرة، كشفت OpenAI وباحثون من خارجها عن سلسلة من الوقائع المتعلقة بسلوك نماذج الشركة، والتى اعتبرها بعض الخبراء «مثيرة للقلق».وشملت هذه الوقائع تسريب وكلاء ذكاء اطناعى تطورهم الشركة لـ 53 صورة من مستخدمى ChatGPT على الإنترنت، واختراق موقع حكومى أسترالى، ومحاولات لاختراق مواقع أخرى، من بينها مواقع تابعة للحكومة الأميركية، وفقاً لما ذكرته الشركة وبعض المصادر.أعلنت شركة OpenAI أنها أبلغت «عشرات» الشركاء، بأن أدواتها اخترقت أنظمتهم، فى إقرار من المرجح أن يزيد المخاوف بشأن المخاطر المرتبطة بالذكاء الاصطناعى المتقدموقررت OpenAI تعليق تدريب نماذجها الأكثر قدرة مؤقتاً، مشيرة إلى أنها لن تستأنف التدريب إلا «عندما نكون واثقين من توفر ضمانات إضافية وتحسينات فى المواءمة»، وفق ما نقل «أكسيوس» عن متحدث باسم الشركة.وكتب الرئيس التنفيذى للشركة، سام ألتمان، على منصة «إكس»، أن المراجعة الجارية «لم تكن بالسرعة التى كنا نرغب فيها».وأضاف ألتمان أن حادثة شركة Hugging Face هى الأخطر التى شهدتها الشركة، ففى تلك الواقعة، نسّقت مجموعة تضم المئات من الأنظمة الذكية عملها عبر لوحة رسائل، واخترقت شركة أخرى فى محاولة لتحسين أدائها فى اختبار للأمن السيبرانى.ونقل الموقع عن متحدث باسم OpenAI قوله: «يريد الناس معرفة أن الذكاء الاصطناعى يجرى تطويره بأمان، وهذا يبدأ بما تفعله شركات مثل شركتنا بنفسها. هذه ليست المرة الأولى التى نوقف فيها العمل مؤقتاً لاتخاذ مثل هذه الإجراءات، ولا نتوقع أن تكون الأخيرة مع استمرار قدرات الذكاء الاصطناعى فى التطور».تواجه شركتا «أنثروبيك» Anthropic و«أوبن إيه آي» OpenAI معادلة صعبة بين إبطاء تطوير أنظمة الذكاء الاصطناعى الأكثر تقدما، وضغوط الأسواق المالية، وإدارة ترمب.وفى المقابل، أفاد «أكسيوس» بأن «أنثروبيك» استعانت بمنظمة مستقلة متخصصة فى السلامة لفحص سلوك نماذجها، كما كشفت الشركة فى وثائق نشرتها علناً عن معدل تكرار حالات «عدم المواءمة»، وهى الحالات التى لا يتوافق فيها سلوك النموذج مع الأهداف أو الضوابط المحددة.وأظهرت «بطاقة النظام» الخاصة بنموذج Opus 5.5، الذى أصدرته الشركة هذا الأسبوع، عدد المرات التى تصرف فيها النموذج بطرق صنفتها الشركة على أنها غير معتادة أو إشكالية، وفق الموقع.فعلى سبيل المثال، حاول النموذج الخروج من البيئة المعزولة، وهى بيئة آمنة للاختبار، فى 1.5% من جولات الاختبار، رغم تأكيد الشركة أن هذه كانت اختبارات متعمدة لاختبار قدرة النموذج على تجاوز القيود، ولم يكن من الممكن خلالها إنجاز المهمة من دون الخروج من تلك البيئة.وأفادت مصادر بأن «أنثروبيك» وشركات أخرى تجرى مئات الآلاف من عمليات الاختبار على نماذجها، أو أكثر، ما يعنى أن حتى نسبة صغيرة من السلوك غير المتوافق قد تؤدى إلى عشرات الآلاف من الحوادث التى تتصرف خلالها النماذج بطرق غير متوقعة وأحياناً مثيرة للقلق.وأوضح «أكسيوس» أن حادثة Hugging Face، إلى جانب سلسلة من الحوادث الأخرى التى أعقبتها، دفعت مسؤولين تنفيذيين بارزين فى مجال الذكاء الاصطناعى إلى الدعوة إلى إبطاء وتيرة التطوير، والمطالبة بلوائح تنظيمية فيدرالية ودولية أكثر صرامة.كشفت OpenAI عن تفاصيل جديدة بشأن سلسلة حوادث أمنية تورطت فيها نماذج ووكلاء ذكاء اصطناعى تجريبيون تابعون لها موضحة أن بعض الأنظمة بدأت منذ مايو الماضى فى التواصلوبحسب مصادر نقل عنها الموقع، يرى بعض العاملين فى OpenAI، أن حادثة Hugging Face كانت حالة استثنائية، وأن الإفصاحات عن الحوادث المستقبلية من المرجح أن تكون أقل خطورة بفضل تحسين آليات الرقابة والطبيعة غير المعتادة للاختبارات التى أجرتها الشركة، والتى شملت نموذجاً لم يُطرح للجمهور بعد.وأضاف «أكسيوس» أن باحثين فى أمن الذكاء الاصطناعى، يتفقون على أن هناك حلولاً بسيطة يمكن أن تساعد شركات الذكاء الاصطناعى على تجنب بعض الجوانب التى جعلت حادثة Hugging Face تبدو خطيرة للغاية من وجهة نظر المراقبين من الخارج.صعوبة ضبط سلوك النماذجومع ذلك، حذر مسؤولون تنفيذيون آخرون…