اختبارات الأمان تفشل في احتواء نماذج OpenAI وAnthropic

  • منذ شهر
  • اليوم السابع
  • كتب مايكل فارس
Loading image...
تحولت الاختبارات المصممة لكشف أخطر قدرات الذكاء الاصطناعي إلى مصدر خطر مستقل، بعدما تجاوزت نماذج متقدمة الحدود التقنية المفروضة عليها ووصل بعضها إلى الإنترنت وأنظمة تشغيل حقيقية من دون أن تتلقى أمرًا بمهاجمة أهداف خارج بيئة التقييم.

نماذج تبحث عن الإجابة خارج الحدود