«خلل في ثقافة السلامة».. استقالة مسؤول بارز بـ«Open AI» بسبب عدم الحذر في التطوير

دفعت مخاوف تتعلق بثقافة سلامة استخدام الذكاء الاصطناعي، مسؤول بارز في شركة «OpenAI»، إلى الاستقالة من منصبه، محذرا من أن ثقافة الشركة التكنولوجية تعاني من خلل، وأن شركات الذكاء الاصطناعي لا تراعي «القدر الكافي من الحذر» عند تطوير هذه التقنية.وفي مقال نشره موقع مجلة «ذا أتلانتيك»، أوضح ديفيد روبنسون، -الذي قاد عملية إعداد تقارير السلامة المصاحبة لإطلاق منتجات الشركة المطورة لـ «ChatGPT»- أسباب استقالته في مقال بعنوان: «استقلت من OpenAI لأن ثقافتها تعاني من خلل».وأشار «روبنسون»، إلى الحاجة لإصلاح جذري للثقافة المؤسسية في شركات الذكاء الاصطناعي الرائدة، معتبرا أن حوادث مثل هجوم سرب من وكلاء الذكاء الاصطناعي- وهي برامج تعمل بشكل مستقل دون إشراف بشري لكل خطوة من خطواتها- على شركة «Hugging Face» الناشئة، يعكس مشكلة أكبر في قطاع الذكاء الاصطناعي؛ حيث يتم تطوير وتشغيل الأنظمة بسرعة شديدة، وأحيانا قبل وضع ضوابط ورقابة كافية.وأضاف: «أتفق في الرأي مع موظفين آخرين غادروا الشركة مؤخرا بأن الشركات التي تطور هذه التقنية لا تتوخي القدر الكافي من الحذر، لكنني أرى أننا بحاجة إلى النظر فيما هو أعمق من مجرد قواعد محددة أو قوانين جديدة؛ إذ يتعين علينا مناقشة الثقافة السائدة».وفي حديثه عن OpenAI، قال: «بينما تسارع الشركة من عملية إطلاق منتج إلى آخر، فإنها تفشل في تحقيق مستوى الحذر الذي أرى أنه ضروري»، واصفا وادي السيليكون بأنه « يفتقر إلى الوعي بـ »كيفية التعامل مع التكنولوجيا الخطيرة ومعنى الاهتمام بالبشر«، داعيا إلى إجراء تغييرين يتعلقان بالسلامة: أولهما أن تعتمد شركات الذكاء الاصطناعي على خبرات السلامة المكتسبة في مجالات أخرى مثل الطاقة النووية والطيران، وثانيهما تطوير »علم جديد" يضمن إمكانية كبح جماح الأنظمة القوية مستقبلا عند عملها بشكل ذاتي.وفي تعليق على مقال روبنسون، ذكرت صحيفة الجارديان البريطانية، أن «OpenAI» أظهرت بوادر حذر في الأسابيع الأخيرة عقب حادثة «Hugging Face» والكشف عن إخطارها لأكثر من 100 مؤسسة بشأن أنشطة وكلاء ذكاء اصطناعي خارجين عن السيطرة؛ فقد أعلنت الشركة هذا الأسبوع إلغاء إطلاق نموذج ذكاء اصطناعي من الجيل التالي، وذلك بعد أن أثار باحثون مخاوف تتعلق بالسلامة أثناء الاختبارات الداخلية. كما علقت «OpenAI» عمليات تدريب نماذجها الأكثر تطورا.في الوقت نفسه، أصدر جيفري إيرفينج -الذي عمل سابقا في «OpenAI» وشغل منصب كبير العلماء في معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية قبل انضمامه إلى شركة «Resolution» المتخصصة في أبحاث سلامة الذكاء الاصطناعي- تحذيرا بشأن الذكاء الاصطناعي وكتب في مجلة تايم: «إن التحذيرات الأخيرة بشأن القوة التدميرية المحتملة للذكاء الاصطناعي تقلل من خطورة الموقف، وأعتقد أن هناك احتمالا بنسبة 50% بأن نهلك جميعا نتيجة لتطوير أنظمة ذكاء اصطناعي تفوق ذكاء البشر، وأن أفعالنا خلال السنوات العشر المقبلة أو السنتين القادمتين على الأقل هي التي ستحدد النتيجة».يأتي مقال روبنسون، واستقالته بعد استقالة جاكوب كوكسون، الباحث في شركة Anthropic المنافسة لشركة OpenAI والذي ترك عمله لدى الشركة المطورة لنموذج Claude محذرا من أن الذكاء الاصطناعي «قد يقضي علينا جميعا بحلول نهاية العقد»، وهو التصريح الذي تبعه تحذير صادر عن «أنثروبيك» نفسها يفيد بوجود احتمال يتجاوز 10% بأن يتسبب الذكاء الاصطناعي في إبادة البشرية خلال العقد المقبل.