في تطور مقلق على صعيد الأمن السيبراني، أعلنت شركة مايكروسوفت اليوم عن اكتشاف مجموعة من التقنيات المعقدة التي يستخدمها القراصنة لخداع أنظمة الذكاء الاصطناعي، تعتمد هذه الهجمات على ما يُعرف بإساءة استخدام الأوامر النصية، حيث يتم توجيه المساعد الذكي لتجاوز بروتوكولات الأمان وتنفيذ أوامر خبيثة تسرب بيانات حساسة، تسلط هذه الاكتشافات الضوء على الثغرات الأمنية الكامنة في نماذج الذكاء الاصطناعي التوليدي التي أصبحت جزءًا لا يتجزأ من بيئة العمل المؤسسية.
التلاعب بالنماذج اللغوية
التلاعب بالنماذج اللغوية
