انتقد أحد رواد الذكاء الاصطناعي الدعوات لمنح هذه التقنية حقوقًا قانونية، محذرًا من أنها تُظهر علامات على غريزة الحفاظ على الذات، وأنه يجب على البشر أن يكونوا مستعدين لإيقافها عند الحاجة، وقال يوشوا بنجيو إن منح وضع قانوني لأنظمة الذكاء الاصطناعي المتطورة يُشبه منح الجنسية لكائنات فضائية معادية، وسط مخاوف من أن التطورات في هذه التقنية تتجاوز بكثير القدرة على كبح جماحها.
يجب أن نحتفظ بالقدرة على إيقاف الآلات عند الضرورة
يجب أن نحتفظ بالقدرة على إيقاف الآلات عند الضرورة
