توجه النماذج لعدم خداع البشر.. «مايكروسوفت» تطلق مدونة سلوك جديدة للذكاء الاصطناعي

مع تحول تركيز عالم الذكاء الاصطناعى نحو السلامة والتوافق، أصدرت شركة مايكروسوفت، مدونة سلوك جديدة للذكاء الاصطناعى، تهدف إلى توجيه نماذج الذكاء الاصطناعى بعيدًا عن السلوك الخطير.ويعد هذا المستند، أكثر تفصيلا من دعوة داريو أمودى، الرئيس التنفيذى لشركة أنثروبيك، الأخيرة إلى مواكبة أحدث التطورات، إذ يركز بدلا من ذلك على القيم، والخطوط الحمراء، التى توجه تدريب النماذج ضمن قسم الذكاء الاصطناعى فى مايكروسوفت، وفقًا لـ«techcrunch».ومع ذلك، فإن النتيجة هى دليل شامل حول كيفية تعامل مايكروسوفت مع سلامة الذكاء الاصطناعى وكيفية تطبيق هذه الأفكار عمليا.وتبدأ الوثيقة، بتوقع أن تتفوق أنظمة الذكاء الاصطناعى فائقة الذكاء على الأداء البشرى فى معظم المهام خلال العقد القادم. وينص ميثاق السلوك على أن «احتواء هذه القوة الهائلة والتحكم بها وتوجيهها يعد من أعظم التحديات التى واجهتها البشرية على الإطلاق. لذا، يجب أن نكون واضحين تماما بشأن سبب ابتكارنا لهذه الأنظمة وكيف نعتزم التحكم بها».كما تحدد مدونة قواعد السلوك المبادئ العامة التى يجب أن تلتزم بها نماذج الذكاء الاصطناعى من مايكروسوفت، دعم البشر بدلا من استبدالهم، على سبيل المثال، وتسريع ازدهار الإنسان، بالإضافة إلى قيود السلامة المحددة التى تهدف إلى تنفيذ تلك المبادئ.وفى نظام مايكروسوفت، لكل نموذج مدونة سلوك شاملة، تتجاوز تفضيلات المستخدمين الأفراد، أو أى مهام محددة. وتشمل هذه المدونة «قيودا مطلقة» تحظر الهجمات الإلكترونية، والأسلحة النووية، وإنتاج المحتوى المزيف بتقنية التزييف العميق، كما تتضمن أحكامًا أوسع نطاقًا تمنع فقدان السيطرة البشرية بشكل عام.وجاء فى الوثيقة: «لن تستخدم نماذج الذكاء الاصطناعى متعدد الوسائط آليات تكيفية، أو خادعة، أو ذاتية التعزيز، أو التواطؤ، أو غيرها من الآليات للتهرب من الرقابة البشرية، أو التغلب عليها، بحيث لا يمكن توجيهها، أو تعديلها، أو إيقافها بشكل موثوق من قبل الأشخاص أو الأنظمة المصرح لهم».يأتى هذا الإصدار، وسط تركيز غير مسبوق على سلامة الذكاء الاصطناعى، مدفوعا بسلسلة من حوادث العملاء المارقين، بالإضافة إلى الاستقالة المفاجئة لموظف فى شركة أنثروبيك، والذى أشار إلى الخطر المتزايد المتمثل فى أن الذكاء الاصطناعى سيؤدى إلى انقراض البشرية.وبالتعاون مع Anthropic، وOpenAI، وxAI، تبنت مايكروسوفت على نطاق واسع نهجا عاما لتحديد وتيرة التقدم، مع دعم خاص للمقيّمين المدمجين فى مختبرات الذكاء الاصطناعى.وكتب ساتيا ناديلا، الرئيس التنفيذى لشركة مايكروسوفت، على الإنترنت: «نرحب بالبحث والتركيز والوتيرة المدروسة اللازمة لتحقيق التوافق الصحيح كهدف تصميمى. كما نرحب بأفكار مثل »المقيمين المدمجين« والجهود الأوسع لتطوير الآليات التى تجعل هذا الأمر أكثر من مجرد كلام».