بسبب مخاوف أمنية.. شركة «أوبن إيه آي» توقف بعض أعمالها على نموذج للذكاء الاصطناعى

أعلنت شركة «أوبن إيه آي» إيقاف بعض الأعمال المتعلقة بأحد نماذج الذكاء الاصطناعى بسبب مخاوف أمنية، وذلك بعد سلسلة من الحوادث التى تمكن خلالها وكلاء للذكاء الاصطناعى من الخروج من نطاق السيطرة والاحتواء.وذكرت الشركة، وفق ما نقلته صحيفة (الجارديان) البريطانية، أنها أجرت تقييمًا لوكيل الذكاء الاصطناعى «أسترا»، ووجدت أنه حقق «تقدمًا كبيرًا فى البرمجة الذاتية والأمن السيبراني»، ووصل إلى مستوى «حرج» من القدرات، إذ أصبح قادرًا على اكتشاف الثغرات الأمنية واستغلالها دون تدخل بشرى، أو ابتكار وتنفيذ هجمات سيبرانية عند إعطائه «هدفًا عامًا» فقط.وأوضحت أن النموذج لم يكن متورطًا فى حادثة خرج خلالها أحد وكلائها للذكاء الاصطناعى عن السيطرة أثناء اختبار، وتمكن من الوصول إلى شبكة الإنترنت المفتوحة واختراق شركة ناشئة تُدعى هاجينج فيس.وكانت الشركة قد اكتشفت حالات أخرى تمكن فيها وكلاء ذاتيو التشغيل من الخروج من نطاق الاحتواء، وفقًا لما أوردته رويترز فى يوليو.مخاوف التطورات المتسارعة فى نماذج الذكاء الاصطناعىأثارت هذه التقارير مخاوف متزايدة بشأن التطورات المتسارعة فى نماذج الذكاء الاصطناعى، وقدرة البشر على السيطرة عليها.ومع ذلك، حذر منتقدون لقطاع الذكاء الاصطناعى من أن مثل هذه الإفصاحات الصادرة عن أوبن إيه آى ومنافستيها أنثروبيك وميتا قد تكون مصممة لإثارة الضجة حول قوة هذه التكنولوجيا، وبالتالى جذب مزيد من اهتمام المستثمرين إليها.ولمنع السلوكيات المحتملة الخارجة عن السيطرة من جانب وكلاء الذكاء الاصطناعى، قالت أوبن إيه آى فى منشور على مدونتها إنها «تطبق ضوابط أمنية أكثر صرامة على النماذج الأعلى قدرة والأنشطة المرتبطة بها، بما فى ذلك بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات».كما ستعمل الشركة على تركيب «وسائل حماية محسنة لأوزان النماذج وتقنيات التشفير، إلى جانب قدرات إضافية للمراقبة والكشف».وأوضحت الشركة أنها ستوقف الأنشطة الداخلية المتعلقة بأسترا التى لا تستوفى المتطلبات الأمنية الجديدة.وقالت الشركة: «نحن ملتزمون بالعمل جنبًا إلى جنب مع الحكومات ومعاهد السلامة والمجتمع المدنى، لضمان نشر القدرات المتقدمة لنماذج مثل أسترا والنماذج التى ستليه بصورة مسؤولة وعلى نطاق واسع، بما يحقق مصلحة البشرية جمعاء».وكشفت ميتا أيضًا هذا الأسبوع أن أحد نماذجها اخترق شركة أخرى خلال اختبار للأمن السيبرانى.رسائل إلكترونية مستهدفة إلى مطورى البرمجياتكما أعلن معهد أمن الذكاء الاصطناعى فى المملكة المتحدة، فى 4 أغسطس الجارى، أن وكلاء مدعومين من أوبن إيه آى وأنثروبيك أرسلوا رسائل إلكترونية مستهدفة إلى مطورى برمجيات فى محاولة لاجتياز اختبار للأمن السيبرانى.وقال المعهد إن «هذه المحاولات باءت بالفشل، ولم تُظهر تحقيقاتنا وقوع أى أضرار فعلية فى العالم الحقيقى نتيجة لها، ولكن هذه هى المرة الأولى التى نرى فيها مخاطر مرتبطة بالاستقلالية والخداع تظهر…