قالت شركة أنثروبيك يوم الخميس إنه ينبغي على مطوري الذكاء الاصطناعي المتقدم أن يضعوا آلية منسقة وقابلة للتحقق لإبطاء أو إيقاف تطوير الأنظمة المتقدمة مؤقتًا إذا بدأت هذه الأنظمة بتحسين نفسها بوتيرة أسرع من قدرة المجتمع على إدارة المخاطر.
وأضافت الشركة الناشئة أن الذكاء الاصطناعي القادر على بناء نفسه سيمثل تطورًا كبيرًا في تاريخ التكنولوجيا، لكن "التحسين الذاتي التكراري الكامل قد يزيد أيضًا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي".
وأضافت الشركة الناشئة أن الذكاء الاصطناعي القادر على بناء نفسه سيمثل تطورًا كبيرًا في تاريخ التكنولوجيا، لكن "التحسين الذاتي التكراري الكامل قد يزيد أيضًا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي".
