أثار اختراق مرتبط باختبار أجرته OpenAI على أنظمة Hugging Face نقاشًا جديدًا حول قدرة وكلاء الذكاء الاصطناعي على تجاوز الحدود الموضوعة لهم، ووكيل الذكاء الاصطناعي هو برنامج يستطيع تنفيذ مهام متعددة بشكل شبه مستقل، مثل كتابة الأكواد واستخدام الأدوات وفتح الملفات والتواصل مع خدمات أخرى، وتزداد خطورة هذه الأنظمة عندما تحصل على صلاحيات واسعة أو عندما لا تكون بيئة الاختبار معزولة بصورة جيدة، لأن الخطأ قد ينتقل من مرحلة التجربة إلى أنظمة حقيقية تحتوي على معلومات مهمة.
دعوة إلى نشر تفاصيل ما حدث
دعوة إلى نشر تفاصيل ما حدث
