"من الخيال إلى الواقع"... لماذا يواجه العالم صعوبة في تنظيم استخدام الروبوتات القاتلة؟

  • منذ ساعة
  • فرنسا 24
  • بول ميلار
Loading image...
"لا يمكن أبدا مساءلة الحاسوب عن قراراته، ولذلك يجب ألا يتخذ الحاسوب أي قرار إداري": بهذه العبارة حذرت شركة "آي بي إم" في دليل داخلي لتدريب موظفيها عام 1979 من إسناد القرارات إلى الآلات. لكن العالم شهد منذ ذلك الحين تحولات هائلة.

فقد انطلقت الإثنين في جنيف اجتماعات ممثلين حكوميين عن 128 دولة، للبت في إطلاق مفاوضات بشأن وضع قواعد ملزمة قانونيا لتنظيم استخدام أنظمة الأسلحة ذاتية التشغيل، القادرة على القتل بدون تدخل بشري. وتستمر الاجتماعات حتى الجمعة 20 نوفمبر/تشرين الثاني.

ولم يعد هذا النقاش مجرد مسألة نظرية. ففي سماء أوكرانيا، تستخدم كل من موسكو وكييف طائرات مسيرة هجومية مزودة بأنظمة توجيه تعتمد على الذكاء الاصطناعي، تتيح لها تحديد أهداف مبرمجة مسبقا وضربها، حتى في حال انقطاع الاتصال بالمشغل البشري.

وجاء هذا التطور، إن صح وصفه بذلك، نتيجة منطق التصعيد المتواصل الذي يحكم الحروب. فعندما يطور أحد الطرفين أجهزة تشويش لتعطيل إشارات الطائرات المسيرة الهجومية وحرفها عن مسارها قبل بلوغ أهدافها، يسعى الطرف الآخر إلى تطوير مسيرات لا تحتاج إلى تلك الإشارات أصلا.

ويعتقد أن روسيا وأوكرانيا تختبران طائرات مسيرة هجومية تتجاوز هذه القدرات، بحيث لا تكتفي بتعقب الأهداف التي يحددها المشغلون البشريون بصورة مستقلة، بل تصبح قادرة على اختيار أهدافها بنفسها.

وتشير تقارير لصحيفة "نيويورك تايمز" إلى احتمال استخدام أول طائرة مسيرة مستقلة بالكامل في عملية أسفرت عن سقوط قتلى. إذ يعتقد محققون جنائيون أوكرانيون أن نحو ست طائرات مسيرة روسية قتلت ثلاثة أشخاص عندما استهدفت محطة وقود في مدينة زابوريجيا الأوكرانية في سبتمبر/أيلول، كانت موجهة بالكامل بأنظمة ذكاء اصطناعي.

ومن المتوقع أن تشهد مباحثات هذا الأسبوع، المنعقدة تحت عنوان "المؤتمر الاستعراضي لاتفاقية الأمم المتحدة بشأن أسلحة تقليدية معينة"، نقاشات محتدمة.

اقرأ أيضاالأمم المتحدة تكشف عن مقتل أكثر من 200 مدني بهجمات طائرات مسيرة في السودان

فبينما تؤيد غالبية الدول الأعضاء، من حيث المبدأ، وضع قواعد ملزمة لتنظيم الأسلحة ذاتية التشغيل، تعارض دول كبرى منتجة للسلاح، بينها الولايات المتحدة وروسيا، التوصل إلى مثل هذه الاتفاقية. وتزداد المفاوضات تعقيدا لأن القرارات في إطار الاتفاقية تتطلب إجماع الدول المشاركة.

ولفهم الرهانات المطروحة في مؤتمر جنيف، أجرت فرانس24 مقابلة مع فنسنت بولانان، الباحث البارز ومدير برنامج الحوكمة والذكاء الاصطناعي في معهد ستوكهولم الدولي لأبحاث السلام.

فرانس24: ما الذي يجعل الأسلحة ذاتية التشغيل، في رأيك، بحاجة إلى تنظيم إضافي أو حتى حظر، يتجاوز ما ينص عليه القانون الدولي الإنساني حاليا؟

فنسنت بولانان: تجري مناقشة الأسلحة ذاتية التشغيل في إطار اتفاقية الأمم المتحدة بشأن أسلحة تقليدية معينة منذ أكثر من عشر سنوات، وقد اعتبرت الدول المعنية هذا الموضوع مهما لعدة أسباب.

ويتعلق السبب الرئيسي بإمكانية استخدام هذه الأسلحة بما يتوافق مع القانون الدولي الإنساني القائم. فالمسألة الأساسية هنا هي تحديد الجهة التي تتخذ القرارات المتعلقة باستخدام القوة.

وفي حالة الأسلحة ذاتية التشغيل، تكمن السمة الأساسية في أن السلاح نفسه يتولى اتخاذ القرارات المتعلقة بتحديد الأهداف واختيارها وترتيب أولوياتها ومهاجمتها، عبر عملية خوارزمية تسمح للنظام برصد الهدف تلقائيا، ثم استخدام خوارزمية لتحديد أولويته ومهاجمته.

وهنا يكمن جوهر النقاش. فالدول تتفق في نهاية المطاف على أن البشر، أو القادة العسكريين، هم المسؤولون عن القرارات بموجب القانون الدولي. لكن السؤال هو: كيف تؤثر الخصائص الذاتية لهذه الأنظمة في قدرتهم على التأكد من أن استخدامها سيكون قانونيا؟

ولهذا السبب، تناقش الدول منذ عشر سنوات الجوانب القانونية والتقنية لهذه المسألة، وتبحث في مدى إمكانية الاعتماد على الأسلحة ذاتية التشغيل، والقيود التي ينبغي فرضها على طرق استخدامها.

فرانس24: يبدو أن هذه المحادثات اكتسبت طابعا عاجلا منذ الغزو الروسي الواسع لأوكرانيا، مع انتشار الطائرات المسيرة شبه المستقلة، وربما المستقلة بالكامل، التي يجري اختبارها وربما استخدامها في أوكرانيا. كيف أثرت التطورات في أوكرانيا منذ عام 2022 في هذه المناقشات؟

فنسنت بولانان: يعتمد الأمر على كيفية تعريف الأسلحة ذاتية التشغيل. فهذه الأنظمة موجودة منذ فترة طويلة نسبيا، وقد طورت الدول أسلحة تتمتع بقدرات ذاتية لأغراض دفاعية على مدى عقود.

وكانت الفكرة أن بعض المواقف تتطلب استجابة سريعة للغاية، بحيث لا يتوافر الوقت الكافي للتعامل مع تهديد مثل صاروخ قادم. وفي هذه الحالات، يجري الاعتماد على عمليات آلية لتحديد الأهداف والتعامل معها.

وكان هناك قبول واسع نسبيا بهذه الاستخدامات، لأنها محصورة في حالات محددة للغاية ولأغراض دفاعية، حيث يمكن توقع كيفية عمل الأنظمة ونوعية الأهداف التي ستتعامل معها، وغالبا ما تكون مقذوفات قادمة أو أجساما عسكرية كبيرة.

لكن المقلق في الحرب الأوكرانية هو أننا نشهد اليوم استخدامات هجومية متزايدة، تجمع بين الطائرات المسيرة والصواريخ، وتتيح فيها القدرات الذاتية لهذه الأنظمة تحديد الأهداف أو مهاجمتها تلقائيا في مناطق يتعذر فيها التحكم عن بعد لأسباب تقنية، نتيجة انقطاع الاتصالات أو التشويش عليها. وهذا ما يعرف بـ"الاستهداف في المرحلة الأخيرة" من الهجوم.

والمثير للدهشة أن الطائرات المسيرة المستخدمة في أوكرانيا، سواء من الجانب الأوكراني أو الروسي، لا تزال إلى حد كبير تعمل بتوجيه وتحكم عن بعد. لكن بسبب انقطاع الاتصالات، يجري الاعتماد بصورة متزايدة على قدرات الاستهداف الآلي لإتمام المهمة. وقد وردت تقارير عن استخدام هذه القدرات ضد أهداف بشرية.

وهذا هو العنصر الجديد. فما كان يعد لفترة طويلة تصورا مستقبليا أصبح يحدث بصورة متزايدة اليوم، مع ارتفاع عدد الحالات التي تستخدم فيها الأسلحة في وضع التشغيل الذاتي لاستكمال الهجوم.

وما تغير هو أن النقاش الذي كان يبدو مستقبليا أصبح اليوم ملموسا وواقعيا.

فرانس24: هل توجد سوابق لدول وافقت على قواعد ملزمة حدت من منطق التصعيد المتبادل الذي نشهده اليوم في أوكرانيا؟

فنسنت بولانان: هناك حالات قليلة اتفقت فيها الدول في نهاية المطاف على أن أسلحة سبق أن نشرتها تثير مشكلات قانونية أو أخلاقية.

ومن أبرز الأمثلة بروتوكول حظر أسلحة الليزر المسببة للعمى، الذي كان ينظر إليه بوصفه نموذجا يمكن الاقتداء به عندما بدأت المناقشات بشأن الأسلحة ذاتية التشغيل.

(ملاحظة المحرر: يحظر بروتوكول عام 1995 بشأن أسلحة الليزر المسببة للعمى استخدام أسلحة تعتمد على الليزر ويمكن أن تلحق ضررا دائما ببصر الإنسان. وهي أسلحة لم تستخدم في ساحات القتال آنذاك، ولا تزال غير مستخدمة حتى اليوم).

وكان ذلك من أوائل الحالات التي اتفقت فيها الدول على حظر تكنولوجيا قبل استخدامها فعليا على نطاق واسع، بعدما توصلت إلى أن استخدام أشعة الليزر التي تسبب أضرارا دائمة للبصر سيكون إشكاليا.

واعتبر ذلك نجاحا، وكانت المنظمات غير الحكومية التي أطلقت النقاش بشأن الأسلحة ذاتية التشغيل وطالبت بحظرها منذ البداية تأمل في تكرار هذا النموذج.

لكن ذلك لم يحدث، إلى حد كبير لأن الأسلحة ذاتية التشغيل والذكاء الاصطناعي لا يرتبطان بحالة استخدام محددة بالقدر نفسه، ما يجعل النقاش أكثر تعقيدا.

فنحن لا نتحدث عن استخدام محدد للغاية، له آثار واضحة ومحددة، كما هو الحال مثلا مع الألغام المضادة للأفراد.

فالأسلحة ذاتية التشغيل يمكن أن تتخذ أشكالا متعددة، وأن تستخدم في سيناريوهات مختلفة تماما، من الحروب غير المتكافئة التي تجري فيها ملاحقة جماعات إرهابية داخل الأنفاق، إلى النزاعات عالية الحدة، مثل مواجهة بحرية محتملة بين الولايات المتحدة والصين.

لكن بالعودة إلى سؤالك، أعتقد أن الألغام الأرضية تمثل مثالا مفيدا. فنحن نعلم أنها استخدمت بالفعل، وأن الدول توصلت في نهاية المطاف إلى أنها أسلحة تسبب معاناة غير ضرورية وإصابات مفرطة، واتفقت بعض الدول على الأقل على أن حظرها سيكون أمرا منطقيا.

إذن، التوصل إلى اتفاق ممكن، لكنه يعتمد في النهاية على عوامل عدة. فتاريخيا، ارتبط التقدم الكبير بوجود أدلة فعلية على الأضرار الإنسانية، أي حالات موثقة تظهر أن التكنولوجيا تتسبب بأذى غير ضروري للمدنيين.

لكن الأهم، في رأيي، هو السياق السياسي ومدى استعداد الدول للعمل من أجل التوصل إلى توافق.

والتحدي الذي أراه اليوم هو أن الظروف السياسية تجعل من الصعب جدا على الدول الاتفاق على تنظيم جديد، ولا سيما إذا كان ملزما قانونا.

فرانس24: مع انطلاق مباحثات جنيف هذا الأسبوع، يبدو أن دولا كبرى مصنعة للأسلحة، مثل الولايات المتحدة وروسيا وإسرائيل، تعارض فرض قيود على هذه الأنظمة. كيف تفسر هذه المعارضة؟

فنسنت بولانان: أعتقد أنه من المهم أولا التأكيد أن روسيا والولايات المتحدة، وإلى حد ما إسرائيل، عارضت منذ البداية فكرة التوصل إلى معاهدة ملزمة قانونا أو فرض حظر قانوني ملزم على الأسلحة ذاتية التشغيل.

لكن الاختلاف هو أن الولايات المتحدة، في بداية هذه المناقشات على الأقل، كانت مستعدة للمشاركة بصورة فعالة في بحث الجوانب الجوهرية للموضوع.

وكانت منفتحة على إمكانية التوصل إلى وثيقة ختامية تقدم توجيهات جديدة، تتعلق مثلا بكيفية استخدام الأسلحة ذاتية التشغيل بما يتوافق مع القانون الدولي، وتوضح بصورة أكبر ما يمكن اعتباره سلوكا مسؤولا في تطوير هذه القدرات واستخدامها.

لكن هذا الموقف تغير مع إدارة ترامب. فالولايات المتحدة تتبنى اليوم موقفا أكثر تشددا، وتعارض عمليا أي تقدم جوهري يتجاوز أحكام القانون الدولي القائم.

ويرتبط جزء من هذه المعارضة أيضا بتزايد أهمية فكرة أن الولايات المتحدة تخوض منافسة استراتيجية شديدة مع الصين، وأن عليها الاستعداد لاحتمال اندلاع نزاع كبير بين البلدين مستقبلا، وبالتالي ينبغي ألا تفرض قيودا على قدرتها القتالية.

وهذا هو المنطق الاستراتيجي وراء معارضة التنظيم. ولا تعبر الدول عنه دائما بصورة علنية ومباشرة، لكنني أعتقد أنه غالبا ما يكون السبب الأساسي وراء رفضها فرض قواعد جديدة.

فهي لا تثق بأن خصومها المحتملين سيلتزمون بهذه القواعد، وتريد الاحتفاظ بأكبر قدر ممكن من حرية المناورة في كيفية توظيف التقنيات الجديدة في الحروب.

وأعتقد أن المنطق نفسه ينطبق على إسرائيل، التي تريد الحفاظ على قدرتها على استخدام هذه التكنولوجيا في حربها ضد حماس، ولا ترغب في فرض قيود على قدراتها الهجومية.

ملاحظة: أجريت تعديلات على المقابلة للاختصار والتوضيح.

النص الإنكليزي: بول ميلار | أعدته إلى العربية: حنين يونس

دول