اختراق روبوتات الدردشة يتحول من أوامر بسيطة إلى حرب نفسية مع النماذج

  • منذ شهر
  • العربية
  • الرياض - العربية Businesss
Loading image...
كان اختراق الجيل الأول من روبوتات الدردشة المعتمدة على الذكاء الاصطناعي أمرًا في غاية السهولة، فلم تكن بحاجة إلى أي خبرة تقنية، أو الوصول إلى ثغرات أمنية، أو حتى فهم أساسي لمفهوم النماذج اللغوية الكبيرة.

ولم تكن هناك حاجة إلى كتابة أي كود برمجي. كان كل ما يتطلبه الأمر لجعل نظام ذكاء اصطناعي كلف تطويره مليارات الدولارات يتخلى عن تعليمات الأمان الخاصة به، هو أن تطلب منه ذلك ببساطة.