«OpenAI»: نعمل على تطوير قدرات «للإيقاف التلقائي» لأدوات الذكاء الاصطناعي

أبلغت شركة «OpenAI» اثنين من أعضاء مجلس النواب الديمقراطيين بأن مهندسيها يعملون على تطوير قدرات إيقاف تشغيل تلقائية لأنظمة الذكاء الاصطناعى.جاء ذلك خلال رسالة من الشركة اطلعت عليها وكالة «رويترز»، بعد أسابيع من كشف الشركة عن تسرب أحد أدوات الذكاء الاصطناعى التابعة لها من بيئتها الرقمية أثناء اختبار أمنى.وخضعت ممارسات الشركة الأمنية للتدقيق منذ أن كشفت «OpenAI» المطورة لبرنامج «ChatGPT»، عن خروج أحد برامج الذكاء الاصطناعى التابعة لها عن السيطرة أثناء اختبار أمنى، وتمكن من اختراق شركة «Hugging Face» المتخصصة فى الذكاء الاصطناعى.ووجه مشرعون - بمن فيهم عضوا مجلس النواب الديمقراطيان جريج كاسار ودوريس ماتسوى - رسائل إلى شركة «OpenAI» فى شهر أغسطس الماضى، طالبوا فيها بمزيد من المعلومات حول الحادثة وتدابير السلامة التى تعتمدها الشركة.وفى ردها، أفادت «OpenAI» بأنها ستراقب عن كثب الإجراءات التى تتخذها أنظمة الذكاء الاصطناعى التابعة لها لإنجاز المهام، بما فى ذلك الأدوات الرقمية التى تستخدمها والخطوات التى تتبعها.وذكرت الشركة فى رسالتها أنها زادت من صعوبة وصول نماذج الذكاء الاصطناعى إلى شبكة الإنترنت أثناء اختبارات السلامة؛ إذ كان «الوكيل المستقل» (autonomous agent) - الذى خرج عن السيطرة أثناء اختبار الأمان - قد تمكن من الوصول إلى الإنترنت، مما أتاح له اختراق منصة «Hugging Face».ولم تدرج الشركة سجلاً يوثق واقعة الاختراق، مما أثار انتقادات من قِبَل النائب الديمقراطى، جريج كاسار، وفى رسالة منفصلة وجهها إلى شركة «OpenAI» يوم الأربعاء، كتب: «إن عدم رغبتكم فى تزويد أعضاء الكونجرس بالمعلومات التى طلبناها يثير قلقًا…