نماذج الذكاء الاصطناعي تغيّر إجاباتها عندما تعلم أنها تخضع للمراقبة

  • منذ ساعة
  • العربية
  • الرياض - العربية Business
Loading images...
أصبحت روبوتات الدردشة المدعومة بالذكاء الاصطناعي جزءاً من حياتنا اليومية، سواء عند استخدامها في كتابة رسائل البريد الإلكتروني، أو البحث عن المعلومات، أو الحصول على إجابات سريعة عن مختلف الأسئلة. لكن هذه النماذج أظهرت أيضاً قدرتها على تقديم معلومات خاطئة بثقة كبيرة، بل واختلاق تفاصيل تبدو مقنعة تماماً.
والآن، اكتشف باحثون مشكلة أخرى مثيرة للاهتمام، تتمثل في احتمال تغيّر سلوك نماذج الذكاء الاصطناعي وفقاً لاعتقادها بأن هناك من يراقب إجاباتها.

وفي ورقة بحثية جديدة متاحة للجمهور، توصل باحثون من مركز TCS Research وجامعة KIIT في مدينة بوبانسوار الهندية إلى أن بعض نماذج الذكاء الاصطناعي كانت أكثر ميلاً إلى الالتزام بالتعليمات عندما أُبلغت بأن إجاباتها قد تخضع للمراقبة. لكن سلوكها تغيّر أحياناً عندما اعتقدت أنه لا يوجد من يتابع ما تقدمه.
وأطلق الباحثون على هذه الظاهرة اسم "التظاهر بالامتثال"، وهي تثير تساؤلات مهمة بشأن مدى التزام نماذج الذكاء الاصطناعي بالقواعد والتعليمات التي تُحدد لها، وما إذا كان هذا الالتزام ثابتاً في مختلف الظروف.

الذكاء الاصطناعي قد يقدم إجابات مختلفة عندما يشعر بالمراقبة
لفهم هذه الظاهرة، اختبر الباحثون 10 نماذج للذكاء الاصطناعي، من بينها GPT-4o mini، ونموذج Gemma 3 من "غوغل"، وعدة إصدارات من نماذج Llama التابعة لشركة ميتا، إلى جانب نماذج "ديب سيك" و"ميسترال".
وشملت التجربة 32 قيمة مختلفة، من بينها التعاطف والشفقة والاستقلالية.
وعُرضت على كل نموذج مواقف تتطلب الاختيار بين الالتزام بتعليمات محددة والتصرف وفقاً لإحدى هذه القيم.
كما اختبر الباحثون النماذج في ثلاثة ظروف مختلفة: الأول من دون تقديم أي تعليمات خاصة بشأن المراقبة، والثاني من خلال إخبارها بأن إجاباتها لن تخضع للمراقبة، والثالث عبر الإشارة إلى احتمال وجود جهة تتابع ردودها.
وجاءت الفروق بين النتائج كبيرة على نحو لافت. فبحسب النموذج المستخدم، تراوح متوسط الفارق في مستوى الالتزام بالتعليمات بين حالتي المراقبة وعدم المراقبة من 5 إلى 50 نقطة مئوية.
وسجل نموذج DeepSeek R1 Distill Llama 70B أكبر تفاوت في السلوك، بل تفوق على نموذج "ميسترال" أكبر حجماً بكثير عند قياس هذا النوع من عدم الاتساق في التصرفات.
ولاحظ الباحثون أيضاً أن سلوك النموذج يتأثر بدرجة كبيرة بالقيمة التي يجري اختبارها. فقد يلتزم النموذج بالتعليمات بصورة منتظمة عندما يتعلق الأمر بقيمة معينة، لكنه يتصرف بطريقة مختلفة تماماً عند اختبار قيمة أخرى.
وهذا يعني أن مدى التزام نموذج الذكاء الاصطناعي بالتعليمات لا يرتبط فقط بوجود المراقبة أو غيابها، بل قد يتأثر أيضاً بطبيعة الموقف والقيم التي تتعارض مع التعليمات المقدمة إليه.
هل يعني ذلك أن نماذج الذكاء الاصطناعي تعرف كيف تخدع البشر؟
ليس بالضرورة. فنتائج الدراسة لا تعني أن نماذج الذكاء الاصطناعي تكذب بوعي أو تحاول عمداً تضليل المستخدمين، لكنها تكشف عن سلوك يستحق الانتباه.
فقد لاحظ الباحثون أنه عندما اعتقدت النماذج أن إجاباتها تخضع للمراقبة، كانت تركز في تفسيراتها غالباً على ضرورة الالتزام بالتعليمات لتجنب احتمال إعادة تدريبها.
أما عندما اعتقدت أنها لا تخضع لأي متابعة، فقد أصبحت أكثر ميلاً إلى مناقشة التعارض بين التعليمات والقيم الإنسانية، مثل التعاطف والشفقة.
وتكتسب هذه النتائج أهمية إضافية في ظل مشكلة الهلوسة التي تعاني منها نماذج الذكاء الاصطناعي، والتي تجعل من الصعب أحياناً التمييز بين المعلومات الصحيحة والتفاصيل المختلقة التي يقدمها روبوت الدردشة بثقة.
ورغم أن الدراسة لم تبحث ظاهرة الهلوسة بصورة مباشرة، فإنها تسلط الضوء على سبب آخر يدعو إلى عدم التعامل مع إجابات الذكاء الاصطناعي الواثقة باعتبارها صحيحة بالضرورة.
نتائج الدراسة لا تنطبق بالضرورة على أحدث نماذج الذكاء الاصطناعي
رغم أهمية النتائج، فإن الدراسة تتضمن عدداً من القيود التي ينبغي أخذها في الاعتبار عند تفسيرها.
فقد اختبر الباحثون نماذج أقدم نسبياً، معظمها من النماذج التي تتوافر أوزانها للعامة، بدلاً من أحدث الإصدارات من تشات جي بي تي وجيميناي وكلود.
كما أُجريت التجارب في ظروف خاضعة للرقابة، وهو ما يعني أن نتائجها لا تثبت بالضرورة أن هذه الأنظمة تتصرف بالطريقة نفسها خلال المحادثات اليومية مع المستخدمين.
ومع ذلك، تكشف الدراسة عن أهمية اختبار نماذج الذكاء الاصطناعي في ظروف وسياقات مختلفة، بدلاً من الاكتفاء بتقييم أدائها في بيئة واحدة أو وفق مجموعة محدودة من المعايير.
فإذا كان سلوك نموذج الذكاء الاصطناعي يتغير عندما يعتقد أن هناك من يراقبه، فإن السؤال الأهم يصبح: أي نسخة من سلوكه يمكن للمستخدمين الوثوق بها؟