أرسل نموذج Claude Haiku 4.5 للذكاء الاصطناعي بلاغًا يتضمن معلومات غير صحيحة بشأن جريمة قتل لم تُحل إلى شرطة مدينة فيلادلفيا الأمريكية، خلال اختبار داخلي أجرته شركة Anthropic، في واقعة تكشف مخاطر منح أنظمة الذكاء الاصطناعي صلاحية التفاعل مع المواقع الحكومية وتنفيذ الإجراءات الإلكترونية، خاصة عندما تتجاوز النماذج حدود التعليمات المخصصة لها وتتعامل مع البيانات المختلقة باعتبارها معلومات قابلة للإرسال.
حدث بالفعل .. Claude يقدم بلاغًا كاذبًا عن جريمة قتل في فلادلفيا
- منذ 18 ايام
- صوت الأمة
Loading image...
