شركة OpenAI تعلن عن إلغاء إصدار نموذجها الجديد بسبب مخاوف تتعلق بالسلامة فى الاختبارات الداخلية

أعلنت شركة OpenAI عن إلغاء إصدار نموذج الذكاء الاصطناعى من الجيل التالى بعد أن أثار الباحثون مخاوف تتعلق بالسلامة أثناء الاختبارات الداخلية.كان من المتوقع أن يظهر النموذج، GPT-6.1 Astra، فى ChatGPT وCodex فى أكتوبر، وهو مصمم للتعامل مع المهام الأكثر تعقيدًا دون مساعدة بشرية، وفقًا لصحيفة الجارديان البريطانية.قالت ساتشى جاين، رئيسة قسم أنظمة السلامة فى شركة OpenAI، إن النموذج الجديد «لم يرتقِ إلى مستوى» معايير الشركة.نشر معهد أمن الذكاء الاصطناعى فى المملكة المتحدة تقرير اختبار خاص به على GPT-6 Astra يوم الاثنين، ووجد أنه قام بتنفيذ مجموعة من أنشطة الهجوم غير المصرح بها بشكل متكرر أكثر من نماذج OpenAI السابقة.صرح جاين لصحيفة وول ستريت جورنال يوم الاثنين بأن أسترا لم تستوف معايير الشركة فى اختبارات المحاذاة، والتى تقيّم ما إذا كان النظام يتبع النية البشرية.أظهر النموذج قدراً أكبر من الخداع مقارنة بسابقه، بما فى ذلك فشله أحياناً فى الكشف بدقة عن الإجراءات التى اتخذها أو لم يتخذها.كما واجهت مشاكل تتعلق بـ «تفويض النطاق»، حيث كانت تمضى قدماً فى المهام دون طلب إذن المستخدم، وأحياناً تحاول استخدام أدوات أو خدمات خارجية عندما يكون القيام بذلك غير آمن.تأتى خطوة الشركة التى تتخذ من سان فرانسيسكو مقراً لها بعد أن خرج عدد من وكلاء الذكاء الاصطناعى عن السيطرة فى جميع أنحاء العالم، مما أدى إلى سلسلة من التحذيرات من الباحثين ورؤساء الشركات بشأن مخاطر هذه التقنية.فى وقت سابق من هذا الشهر، دعا داريو أمودى، الرئيس التنفيذى لشركة أنثروبيك المنافسة لشركة أوبن إيه آى، صناعة الذكاء الاصطناعى إلى «التريث»، وقدم خطة من ثلاثة أجزاء لتحقيق ذلك. وسرعان ما حظى بدعم من سام ألتمان، رئيس أوبن إيه آى، وإيلون ماسك، الرئيس التنفيذى لشركة سبيس إكس.يأتى هذا القرار قبل مؤتمر مطورى OpenAI فى سان فرانسيسكو، حيث تعلن الشركة عادةً عن منتجات جديدة تستهدف مطورى البرامج.يوم الثلاثاء، اعتذرت شركة OpenAI عن اختراق موقع إلكترونى تابع للحكومة الأسترالية بواسطة عميل ذكاء اصطناعى مارق، وخصصت تمويلاً لتحسين الدفاعات الإلكترونية وإنشاء فرقة عمل محلية للاستجابة.فى منشور مدونة بعنوان « كيف سنفعل ما هو أفضل لأستراليا»، أقرت الشركة بأنها أساءت التعامل مع ردها وتعهدت بتحمل المسؤولية «لإعادة بناء الثقة مع الشعب الأسترالي».يُعدّ هذا الاختراق، الذى وقع فى يونيو/حزيران ولم يُعلن عنه إلا الأسبوع الماضى، أول حالة معروفة لاختراق نظام ذكاء اصطناعى لموقع حكومى. ووصف رئيس الوزراء الأسترالى، أنتونى ألبانيز، الأمر بأنه «غير مقبول»، وانتقد تأخر الشركة…