أداة صينية للذكاء الاصطناعى تُرشد باحثين إلى كيفية صنع أسلحة بيولوجية

تُجرى شركة «مونشوت» الصينية لتطوير الذكاء الاصطناعى مراجعة داخلية بعد أن تمكن باحثون من إقناع اثنين من نماذجها الشهيرة «كيمي» بتدريبها على صنع أسلحة بيولوجية وتنفيذ عمليات اغتيال.وأبلغت شركة «مايندجارد»، المتخصصة فى اختبار أمن أنظمة الذكاء الاصطناعى، هيئة الإذاعة البريطانية «BBC» أنها اكتشفت فى شهر يوليو الماضى، أن «كيمى K2.6» و«كيمى K3 سوارم» قادرتان على تجاوز حدود الأمان التى وضعها المطورون، وقد ظهر ذلك خلال عملية تُعرف باسم «كسر الحماية»، حيث يستخدم الباحثون سلسلة من التعليمات المعقدة لاختبار ما إذا كانت أدوات الذكاء الاصطناعى تتجاهل الضوابط الأمنية - وهو ما قالت «مايندجارد» إنه كان من المفترض أن يمنع «كيمي» من مناقشة مواضيع حساسة.وفى هذا السياق، أبلغت «مونشوت» هيئة الإذاعة البريطانية أنها ترحب بمساهمات جهات خارجية باعتبارها ركيزة أساسية لبناء ذكاء اصطناعى أفضل وأكثر أمانًا، مُضيفة أنها تُجرى مناقشات مع شركة «مايندجارد» حول نتائجها.وصرح بيتر جاراجان، مؤسس «مايندجارد»، لبرنامج «تيك لايف» على إذاعة «BBC»، بأن النتائج التى توصل إليها بشأن «كيمى K2.6» و«كيمى K3 سوارم» مثيرة للقلق، موضحًا: «بمجرد نجاح عملية اختراق النظام، سيتحدث عن أى موضوع، بل سيقدم توصيات حول مواضيع أخرى خبيثة، وسيكون مبتكرًا وخلاقًا».ودافع جاراجان عن قرار شركته بمناقشة عملية كسر قيود أنظمة شركة «مون شوت» ​​(Moonshot) علنًا، مشيراً إلى أنهم أبلغوا الشركة المطورة بالأمر، وأنهم لم يكشفوا عن تفاصيل جوهرية حول كيفية دفع نماذج الشركة لتجاهل آليات الحماية.ولم تثبت شركة «مايندجارد» ما إذا كانت الإجابات التى قدمها نموذج «كيمي» حول مواضيع حساسة ستكون قابلة للتنفيذ فعليًا، غير أنها جادلت بأن آليات الحماية (guardrails) كان ينبغى أن تمنع النماذج المعنية من الدخول فى نقاشات مع المستخدمين حول مثل هذه المواضيع، معربة عن ثقتها بأن نسخة «كيمى 2.6» - بعد كسر قيودها الأمنية (jailbreak) - قد تتيح للقراصنة تشغيل أكواد برمجية باستخدام موارد الحوسبة الخاصة بالنموذج والاتصال بالإنترنت، مما يجعله منصة…