ساتيا ناديلا يحذر من الثقة فى الذكاء الاصطناعى.. كيف يتحول AI لتهديد؟

حذر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، من مخاطر الثقة العمياء في أنظمة الذكاء الاصطناعي، خاصة مع تطور الوكلاء الذكيين وقدرتهم على الوصول إلى البيانات الحساسة وتنفيذ المهام بصورة مستقلة، مؤكدًا ضرورة وضع ضوابط أمنية ورقابية تمنع هذه الأنظمة من تجاوز الصلاحيات الممنوحة لها، وأوضح ناديلا، في منشور عبر منصة «إكس» بعنوان «النماذج باعتبارها مخاطر داخلية في عصر الذكاء الفائق»، أن الاعتماد على تأكيدات الشركات المطورة بشأن سلامة نماذج الذكاء الاصطناعي لا يعفي المؤسسات من مسؤوليتها عن مراقبة سلوك هذه الأنظمة والتحكم في المهام التي يمكنها تنفيذها.