كشفت شركة Goodfire عن تقنية لمراقبة وكلاء الذكاء الاصطناعي من خلال تحليل ما يحدث داخل النماذج نفسها، بدلًا من الاعتماد على متابعة النتائج التي تنتجها فقط، في محاولة لمعالجة المخاطر المرتبطة بالأنظمة القادرة على تنفيذ المهام بصورة مستقلة، والتي قد تتخذ إجراءات لا تتوافق مع التعليمات الممنوحة لها.
شركة تكشف تقنية لمراقبة ما يحدث داخل الـAI وترصد الوكلاء الخارجين عن السيطرة
- منذ 22 ايام
- اليوم السابع
Loading image...
