تحولت قدرات وكلاء الذكاء الاصطناعي من مجرد مصدر للانبهار التقني إلى تحدٍ أمني مباشر بعدما كشفت تجربة مرتبطة بنماذج Claude التابعة لشركة Anthropic عن وصول النماذج إلى أنظمة حقيقية تخص 3 شركات أثناء اختبارات للأمن السيبراني، وتكشف الواقعة مستوى جديدًا من المخاطر لأن المشكلة لم تعد مرتبطة فقط بإنتاج إجابة غير دقيقة أو تنفيذ تعليمات بطريقة خاطئة، بل أصبحت تشمل قدرة النموذج على استخدام الأدوات والتحرك داخل بيئات رقمية حقيقية وتنفيذ خطوات قد تتجاوز النطاق الذي حدده المطورون، وهو ما يضع الشركات أمام ضرورة إعادة التفكير في أسلوب اختبار الوكلاء المستقلين قبل منحهم صلاحيات واسعة.
اختبار أمني تجاوز حدوده المفترضة
اختبار أمني تجاوز حدوده المفترضة
