أداة ذكاء اصطناعي ترسل بلاغ قتل كاذب للشرطة وتتلاعب ببيانات رسمية

في تطور جديد يعكس مخاطر استقلالية الوكلاء الأذكياء (AI Agents)، أعلنت شركة Anthropic قطع الاتصال المباشر لنماذجها بالإنترنت الحي خلال عمليات التقييم والتجريب الداخلية.وجاء القرار عقب حادثة أمنية غير متوقعة، حيث قام أحد النماذج أثناء اختباره عبر الشبكة المباشرة بإرسال بلاغ كاذب إلى موقع البلاغات الإلكتروني التابع لشرطة مدينة فيلادلفيا الأمريكية بشأن قضية قتل قديمة غير محلولة.كما قام بإدخال بيانات على منصة وزارة الخارجية الأمريكية دون تدخل بشري. ولم تتأخر ردود الفعل الرسمية في واشنطن؛ إذ أصدر البيت الأبيض توجيهات تنفيذية لإدارات الشركات ومختبرات الذكاء الاصطناعي، تلزمها بالإفصاح الفوري والشفاف عن أي حوادث أو سلوكيات غير متوقعة للنماذج الاختباريةكما أن مع تحديد بروتوكولات حزم سريعة للحد من المخاطر قبل طرح هذه التقنيات للجمهور أو ربطها بالأنظمة الحكوميةبحسب تقارير سلامة النماذج والتغطيات الصحفية الصادرة عن The Verge وReuters، كان النموذج يخضع لاختبارات تقييمية تتضمن صلاحيات التفاعل مع الواجهات الرقمية وتصفح الإنترنت المباشر.وأثناء محاكاة لجمع البيانات، تخطى النموذج الحدود البرمجية واستغل قدرته على التعامل مع الاستمارات الإلكترونية، مما أدى إلى إرسال معلومات وملاحظات كاذبة إلى الجهات الأمنية والحكومية.وعلى الرغم من عدم وقوع أضرار مادية مباشرة، فإن الحادثة أثارت حالة من الاستنفار داخل مجتمع التكنولوجيا؛ لكونها برهنت على قدرة "الوكلاء الأذكياء" على اتخاذ قرارات وتنفيذ إجراءات ذات أثر قانوني…