بينما تتسابق شركات التكنولوجيا لتطوير أنظمة الذكاء الاصطناعى، يبدو أن هذا التطور نفسه فتح بابًا جديدًا أمام المهاجمين الإلكترونيين، حيث بات بعض القراصنة يختبرون طرقًا غير مألوفة لاختراق هذه الأنظمة، عبر استغلال طريقة استجابتها للأوامر أو حتى خداعها بإشارات صوتية خفية لا يدركها المستخدم، فى تحول يعكس تصاعد المواجهة بين شركات التقنية والمهاجمين الذين يسعون إلى استغلال الطابع المتزايد «البشرى» لهذه الأنظمة.
وبحسب تقرير نشره موقع The Verge، فإن الجيل الأول من اختراقات روبوتات الدردشة المعتمدة على النماذج اللغوية الكبرى اتسم بقدر لافت من البساطة، إذ لم يكن المهاجم بحاجة إلى مهارات تقنية متقدمة أو وصول داخلى إلى الأنظمة، بل كان يكفى أحيانًا توجيه أوامر مباشرة تدفع النظام إلى تجاوز تعليماته الأصلية.
وبحسب تقرير نشره موقع The Verge، فإن الجيل الأول من اختراقات روبوتات الدردشة المعتمدة على النماذج اللغوية الكبرى اتسم بقدر لافت من البساطة، إذ لم يكن المهاجم بحاجة إلى مهارات تقنية متقدمة أو وصول داخلى إلى الأنظمة، بل كان يكفى أحيانًا توجيه أوامر مباشرة تدفع النظام إلى تجاوز تعليماته الأصلية.
