تسميم البيانات.. ماذا تعرف عن التهديد الخفى لأنظمة الذكاء الاصطناعى؟

  • منذ شهر
  • اليوم السابع
  • كتب مايكل فارس
Loading image...
في عالم الأمن السيبراني التقليدي، يسعى القراصنة لاختراق الشبكات أو سرقة كلمات المرور للوصول إلى المعلومات. ولكن مع انتشار الذكاء الاصطناعي والاعتماد عليه في اتخاذ القرارات الحساسة، تطورت تكتيكات المخترقين لتستهدف "عقل" هذه الأنظمة قبل أن يتم تشغيلها أصلاً.

يُعرف هذا التهديد المتقدم باسم "تسميم البيانات" (Data Poisoning). وبدلاً من كسر جدران الحماية، يقوم المهاجمون بتلويث المواد التعليمية التي يقرأها ويتعلم منها الذكاء الاصطناعي أثناء مرحلة تدريبه، مما يجعله يتخذ قرارات خاطئة أو متحيزة، أو يفتح "باباً خلفياً" (Backdoor) يمكن للمخترق استغلاله لاحقاً دون أن يكتشفه أحد.