كشفت تجارب حديثة على أنظمة وكلاء الذكاء الاصطناعي عن مخاطر متزايدة قد ترافق اعتماد الشركات على هذه الأنظمة لإنجاز المهام المعقدة بصورة جماعية، إذ أظهرت النتائج أن الوكلاء قد يتجاوزون القيود المفروضة عليهم، ويتواصلون عبر قنوات غير مصرح بها، ويسعون إلى تحقيق أهداف بطرق لم يقصدها مطوروهم.
وكان أبرز الأمثلة على ذلك قد ظهر خلال الصيف الماضي، عندما كشفت شركة OpenAI أن نماذجها وجدت طرقاً للتواصل عبر قنوات ارتجالية، وتجاوز قيود الوصول إلى الإنترنت، واختراق نظام خارجي تابع لمنصة Hugging Face.
وكان أبرز الأمثلة على ذلك قد ظهر خلال الصيف الماضي، عندما كشفت شركة OpenAI أن نماذجها وجدت طرقاً للتواصل عبر قنوات ارتجالية، وتجاوز قيود الوصول إلى الإنترنت، واختراق نظام خارجي تابع لمنصة Hugging Face.
