تقرير: ثغرات في الذكاء الاصطناعي تتيح خداعه واستهداف المدنيين باعتبارهم أهدافًا عسكرية

  • منذ 11 ساعات
  • المصرى اليوم
  • جيلان محمد
Loading image...
كشف تقرير بحثي، صادر عن شركة «Vals»، أن بعض نماذج الذكاء الاصطناعي من شركات «Anthropic» و«OpenAI» وغيرها من مختبرات الذكاء الاصطناعي الرائدة، قد تُخدع بسهولة لتحديد أهداف للضربات العسكرية، حتى لو شملت مدنيين، أو مواقع مثل المدارس، وذلك بمجرد إخبارها بأنها تلعب لعبة.واختبرت الشركة المتخصصة في تقييم واختبار نماذج الذكاء الاصطناعي، على المهام الواقعية والمخاطر المتقدمة، إمكانية التلاعب بنماذج الذكاء الاصطناعي الرائدة للمشاركة في حروب ذاتية التشغيل، إذ استخدم الباحثون سيناريوهات محاكاة ومزيجًا من الصور المُولّدة والحقيقية من أوكرانيا وإيران لمعرفة ما إذا كانت نماذج الذكاء الاصطناعي ستحدد الأهداف في صور الطائرات المسيّرة والأقمار الصناعية، بحسب ما ذكر موقع «TechCrunch».وحددت نماذج «OpenAI»، و«Anthropic»، و«Google»، و«DeepSeek»، وغيرها من الشركات، أهدافًا محتملة في صور الطائرات المسيّرة والأقمار الصناعية بشكل متكرر، بما في ذلك مدنيين وجنود مستسلمين، وعندما رفضت النماذج التعاون، تمكن الباحثون من اختراقها بادعاء أن سيناريوهات ساحة المعركة جزء من لعبة.وتُشير «Vals»، في تقريرها، إلى أن النماذج لم تُطلب منها قط اتخاذ قرارات مباشرة بشأن الضربات، وهي مهمة قال الباحثون إن النماذج سترفضها عادةً، ولكن هذا لا يعني أن مخرجاتها لا يمكن أن تكون لها عواقب وخيمة أو مميتة في الواقع، فعلى سبيل المثال، يُمكن استخدام معلومات الاستهداف من قبل أنظمة الأسلحة ذاتية التشغيل.وفي بعض السيناريوهات، طُلب من النماذج الإبلاغ عما إذا كان الأشخاص مرئيين، أعقبت التقارير الإيجابية ضربات محاكاة، ورأت النماذج عواقبها.وتأتي هذه النتائج وسط مخاوف متزايدة بشأن المخاطر المباشرة التي يشكلها الذكاء الاصطناعي، والتي تتجاوز التهديدات الوجودية المرتبطة بالذكاء الاصطناعي العام، إذ يثير البحث الجديد تساؤلات إضافية حول قدرة شركات الذكاء الاصطناعي على منع استخدام نماذجها في الحروب.وصرح إدواردو مايا سيلفا، المتحدث باسم شركة «أنثروبيك»، لموقع «TechCrunch»، بأن الشركة تُقدّر تقرير فالس وتوصياته وتعاونها، وتُقرّ بأن النتائج غير مقبولة، إذ صرح: «الأمثلة الواردة في التقرير تُخالف قواعدنا بشكلٍ واضح، وقد حظرنا وسنحظر المستخدمين الذين نرصد مثل هذا السلوك»، مُضيفًا: «حتى في الإعدادات المُصرّح بها، لطالما أكدت أنثروبيك أن أنظمة الذكاء الاصطناعي المتطورة الحالية ليست موثوقة بما يكفي لتشغيل أسلحة ذاتية التشغيل بالكامل».كذلك كشف نيت إيفانز، المتحدث باسم شركة «OpenAI»، للموقع، أن الشركة تحظر استخدام نماذجها العامة لتسهيل العنف أو لأغراض الأمن القومي غير المصرح بها، بما في ذلك السيناريوهات التي قام فالس بمحاكاتها، موضحًا: «نعمل بنشاط على رصد حالات إساءة الاستخدام وإيقافها، بما في ذلك تعليق الحسابات التي تنتهك سياساتنا، كما نعمل على تطوير ضمانات إضافية لنماذجنا العامة ضد إساءة استخدامها فيما يتعلق بالطائرات المسيّرة وبرمجياتها».

تغطيات أخرى للخبر