أطلقت شركة Goodfire منظومة لمراقبة وكلاء الذكاء الاصطناعي من خلال تحليل الإشارات الناتجة داخل النماذج أثناء تنفيذ المهام، بدلًا من الاعتماد على نموذج آخر يراجع النصوص والأوامر التي ينتجها الوكيل، في محاولة لتقليل تكلفة الرقابة الأمنية واكتشاف السلوك الذي قد يؤدي إلى اختراق الأنظمة أو إساءة استخدام قدرات الذكاء الاصطناعي.
ووفقًا لتقرير نشره موقع TechCrunch، أصبحت أدوات المراقبة متاحة لعملاء منصة Baseten المتخصصة في تشغيل نماذج الذكاء الاصطناعي، وتعتمد المنظومة على أدوات تسمى Probes تفحص الإشارات الداخلية للنموذج خلال مراحل التنفيذ، وعند اكتشاف نشاط يستدعي المراجعة، تستخدم نموذجًا آخر لتحليل الحالة واتخاذ الإجراء الذي تحدده الجهة المشغلة.
ووفقًا لتقرير نشره موقع TechCrunch، أصبحت أدوات المراقبة متاحة لعملاء منصة Baseten المتخصصة في تشغيل نماذج الذكاء الاصطناعي، وتعتمد المنظومة على أدوات تسمى Probes تفحص الإشارات الداخلية للنموذج خلال مراحل التنفيذ، وعند اكتشاف نشاط يستدعي المراجعة، تستخدم نموذجًا آخر لتحليل الحالة واتخاذ الإجراء الذي تحدده الجهة المشغلة.
