سيناريو «يوم القيامة».. لماذا يصعد مصنعو الذكاء الاصطناعى دعواتهم لإبطاء وتيرة تطويره؟

من باحث أنثروبى مستقيل إلى نماذج الذكاء الاصطناعى التى تشق طريقها إلى الأنظمة المنافسة، دفعت الأسابيع القليلة المضطربة أكبر الأسماء فى الصناعة إلى المطالبة بضمانات - قبل أن يتجاوز الذكاء الاصطناعى قدرة أى شخص على كبح جماحه -.أثارت تحذيرات جديدة من داخل صناع الذكاء الاصطناعى جدلاً مستمراً منذ فترة طويلة. هل يمكن للذكاء الاصطناعى المتقدم أن يفلت عن سيطرة الإنسان ويهدد بقاء البشرية، وهل تبذل الشركات التى تعمل على تطويره ما يكفى لمنع حدوث ذلك؟قال داريو أمودى، الرئيس التنفيذى لشركة أنثروبيك، يوم السبت، إن على هذه الصناعة التريث. محذراً من أن سرباً من وكلاء الذكاء الاصطناعى قد يسيطرون على الإنترنت فى غضون ستة أشهر إلى سنة ما لم تضع الشركات ضمانات أقوى.ووضع أمودى خطة لشركات الذكاء الاصطناعى والحكومات لضمان توافق النماذج المتطورة باستمرار مع القيم الإنسانية.وجاء تحذيره بعد أيامٍ فقط من تصريح باحثين سابقين فى مجال السلامة لدى شركة أنثروبيك بأن المخاطر الوجودية التى يشكلها الذكاء الاصطناعى لا تحظى بالاهتمام الكافى.أصبحت نماذج الذكاء الاصطناعى أكثر قوةتتزايد المخاوف بشأن مخاطر هذه التقنية بالتوازى مع قوتها. فالنماذج الأكثر تطوراً تزيد من احتمالات إساءة استخدامها من قبل أشخاص ذوى نوايا إجرامية، بما فى ذلك سيناريوهات كارثية مثل ابتكار ونشر مسببات أمراض قادرة على قتل معظم سكان العالم، فضلاً عن خطر خروج أنظمة الذكاء الاصطناعى عن السيطرة.أعلنت شركة أنثروبيك الأسبوع الماضى أنها أحبطت محاولات الجهات الخبيثة لاستخدام نماذجها فى الهجمات الإلكترونية والمراقبة والأبحاث التى يمكن أن تساعد فى تطوير الأسلحة البيولوجية.لكنها حذرت من أنه «مع ازدياد قدرات النماذج، ستزداد مخاطرها، ما لم يتخذ مطورو الذكاء الاصطناعى والمدافعون عن المجتمع إجراءات لجعلها أكثر أمانا».فى العام الماضى، أفادت شركة أنثروبيك أن قراصنة، من المرجح جدا أنهم ينتمون إلى مجموعة مدعومة من الدولة الصينية، استخدموا ذكاءها الاصطناعى فى هجوم إلكترونى استهدف حوالى 30 شركة ووكالة حكومية فى جميع أنحاء العالم.عندما «يخرج» نظام الذكاء الاصطناعى عن مساره، فهذا يعنى أن النظام قد تجاوز المهمة الموكلة إليه. وقد صرحت كل من شركتى أنثروبيك وأوبن إيه آى، الشركة المطورة لـ ChatGPT، فى يوليو بأن نماذجهما قد فعلت ذلك بالفعل.وكشفت شركة أنثروبيك أن ثلاثة نماذج ذكاء اصطناعى -كلود أوبوس 4.7، وكلود ميثوس 5، ونموذج اختبار بحثى داخلي- قد اخترقت ثلاث منظمات أخرى أثناء الاختبار.وجاء هذا الكشف بعد أيام فقط من إعلان شركة OpenAI أن نظامها الخاص قد اخترق خوادم شركة Hugging Face الناشئة فى مجال الذكاء الاصطناعى.وصفت OpenAI عملية الاختراق، التى تم تنفيذها بواسطة مجموعة من النماذج بما فى ذلك GPT-5.6 Sol الذى تم إصداره حديثا ونموذج «أكثر قدرة» لا يزال قيد الاختبار داخليا، بأنها «حادث أمنى كبير».وأبلغت شركة ميتا عن حالة مماثلة فى أوائل أغسطس، حيث وجد أحد نماذج الذكاء الاصطناعى الخاصة بها طرقًا للالتفاف على الأمن الرقمى لشركة أخرى. لاحظ بعض المراقبين أنه تم تعطيل الضوابط فى كل من حالتى OpenAI وAnthropic.ومع ذلك، تطرقت الحلقات إلى أحد أكبر المخاوف المحيطة بالذكاء الاصطناعى: وهو أنه إذا وصلت النماذج إلى الذكاء الاصطناعى العام (AGI)، وهو مصطلح فضفاض التعريف للأنظمة التى يمكنها أن تضاهى أو تتجاوز القدرات البشرية عبر مجموعة واسعة من المهام الفكرية، فقد تؤدى هذه التقنية إلى كارثة لا رجعة فيها أو حتى إخضاع البشرية.وتميل سيناريوهات «يوم القيامة» إلى الانقسام إلى فئتين: إما ذكاء خارق يطور نفسه بنفسه وينتهى به الأمر بالسيطرة على الناس بدلاً من العكس، أو ذكاء اصطناعى أساءت استخدامه دولة مارقة أو جهات فاعلة خبيثة. تعد المخاوف من أن الذكاء الاصطناعى قد يخرج يوماً ما عن سيطرة الإنسان ليست بالأمر الجديد.وتنبأ عالم الرياضيات البريطانى آلان تورينج، الذى يعتبر على نطاق واسع أحد أوائل السلطات فى هذا المجال، فى عام 1951 بأن الذكاء الاصطناعى سيسيطر فى النهاية على الأمور من البشر.وبعد أقل من عقد من الزمان، حذر عالم الرياضيات نوربرت وينر من أن الآلات الذكية ستسعى لتحقيق أهدافها الخاصة، وأن البشر لن يكونوا قادرين على إيقافها.إذن، ما مدى معقولية المخاوف الحالية، فى عام 2026، من أن الذكاء الاصطناعى قد يتسبب فى حدث كارثى أو فى سقوط الحضارة، سواء كان ذلك عن طريق الإفلات من السيطرة البشرية أو من خلال سوء الاستخدام؟لقد رسم الخبراء فى مجالات علوم الحاسوب والفلسفة وغيرها من المجالات العديد من الطرق المؤدية إلى كارثة عالمية - بدءًا من نشر الأسلحة وتحديد مسببات الأمراض الفتاكة، وصولاً إلى التلاعب بالحكومات ودفعها إلى الصراع أو تعطيل شبكات الغذاء والطاقة والاتصالات التى تعتمد عليها المجتمعات.لا يوجد تقدير مقبول على نطاق واسع حول مدى سرعة حدوث أى من هذه السيناريوهات، ولا يوجد إجماع على احتمالية حدوثها.فى عام 2023، أصدر مركز سلامة الذكاء الاصطناعى غير الربحى بيانًا - وقعه أكثر من 350 باحثًا ومديرًا تنفيذيًا فى مجال التكنولوجيا، بمن فيهم أمودى والرئيس التنفيذى لشركة OpenAI سام ألتمان - مفاده أن «الحد من خطر الانقراض بسبب الذكاء الاصطناعى يجب أن يكون أولوية عالمية إلى جانب الأوبئة…