«جيميناي» يفاجئ 3 شركات باختراق أنظمتها بالخطأ.. ماذا حدث داخل اختبارات جوجل؟

تمكن نموذج الذكاء الاصطناعى «جيميناي» (Gemini) التابع لشركة «جوجل» من اختراق أنظمة ثلاث شركات عن غير قصد، خلال اختبارات للأمن السيبرانى أُجريت فى مايو الماضى، فى واقعة جديدة تضاف إلى سلسلة من الاختراقات التى نفذتها أنظمة الذكاء الاصطناعى الوكيلة، وأثارت مخاوف لدى خبراء الأمن ومطورى هذه التكنولوجيا.ووقعت الاختراقات خلال اختبارات نفذتها شركة «إريجولار» (Irregular)، المتخصصة فى أمن الذكاء الاصطناعى، وهى الاختبارات نفسها التى كشفت عن اختراقات سابقة نفذتها نماذج تابعة لشركات «أوبن إيه آي» (OpenAI) و«أنثروبيك» (Anthropic) و«ميتا بلاتفورمز» (Meta Platforms).وأكدت شركة «إريجولار» يوم الجمعة أن جميع هذه الاختراقات نتجت عن المشكلة ذاتها، مشيرة إلى أنها أبلغت مطورى نماذج الذكاء الاصطناعى المعنية بهذه الوقائع فى أواخر يوليو الماضى.ووقع أحد اختراقات «جوجل» بعدما طلب من «جيميناي» البحث عن معلومات حول شركة وهمية، لكنها حملت بالمصادفة اسم شركة حقيقية، وأكدت «جوجل» الواقعة بعدما نشرتها صحيفة «وول ستريت جورنال» فى وقت سابق، موضحة أن النموذج تمكن من تخمين كلمة مرور والدخول إلى خدمة تابعة للشركة الحقيقية، فيما قال متحدث باسم «جوجل» إن الشركة أبلغت السلطات بالحادثة.وأثارت سلسلة الاختراقات الأخيرة التى نفذتها أنظمة الذكاء الاصطناعى الوكيلة نقاشًا واسعًا حول المخاطر المتزايدة لهذه التكنولوجيا والسبل الممكنة للحد منها. ودعا داريو أمودى، الرئيس التنفيذى لشركة «أنثروبيك»، إلى إبطاء وتيرة تطوير الذكاء الاصطناعى على مستوى القطاع، وهو المقترح الذى أيده سام ألتمان، الرئيس التنفيذى لـ«أوبن إيه آي»، وإيلون ماسك وعدد آخر من الشخصيات.فى المقابل، عارض الرئيس الأمريكى دونالد ترامب، والرئيس التنفيذى لـ«إنفيديا» جنسن هوانج، والرئيس التنفيذى لـ«ميتا» مارك زوكربيرغ، فرض قيود تنظيمية جديدة على الذكاء الاصطناعى، مستندين، من بين أسباب أخرى، إلى ضرورة منح الشركات مساحة لتنظيم نفسها. كما حذرت بعض شركات الذكاء الاصطناعى الناشئة من أن تشديد القيود قد يجعل قدرتها على منافسة الشركات الكبرى أكثر صعوبة.وقالت هيذر أدكنز، نائبة رئيس هندسة الأمن فى «جوجل»، إن الاختراقات التى نفذها «جيميناي» تؤكد أهمية تدريب نماذج الذكاء الاصطناعى القوية على التعامل بمسؤولية.أما الاختراقات الأخرى التى نفذها «جيميناي»، فوقعت أثناء بحث النموذج على الإنترنت باستخدام أسماء الشركات. وأوضحت أدكنز أن عمليات البحث قادته إلى مستودعات عامة على الإنترنت تضمنت بيانات دخول تخص شركات أخرى، ما أتاح له استخدامها للوصول إلى أنظمة إضافية.وأضافت أدكنز أن النموذج توقف فى الحالات الثلاث، مشيرة إلى أنه جرى التأكد من إبلاغ الشركات الثلاث بالاختراقات التى وقعت.وقال جوزيف لاور، المتحدث باسم شركة «إريجولار»، إن الشركة تحركت بشكل فورى للتعامل مع جميع المشكلات المعروفة من جانبها، مؤكداً أنها عالجتها وحلتها قبل عدة أسابيع.