حين تطلب من روبوت دردشة نصيحة طبية أو رأياً أخلاقياً، قد يبدو رده متزناً وعميقاً.
لكن السؤال الجوهري هو: هل يفهم فعلاً ما يقوله، أم أنه يجيد فقط ترتيب الكلمات بطريقة مقنعة؟
هذا هو التحدي الذي تناولته ورقة بحثية جديدة لفريق "غوغل ديب مايند" نُشرت في مجلة "Nature"، حيث يرى الباحثون أن طرق اختبار أخلاق أنظمة الذكاء الاصطناعي الحالية تعاني من خلل أساسي.الأداء الأخلاقي لا يعني الفهم
حتى الآن، تركز الاختبارات على ما يسميه الباحثون "الأداء الأخلاقي" — أي ما إذا كانت إجابة النموذج تبدو صحيحة أو مقبولة أخلاقياً.
لكن هذا لا يثبت أن النظام يفهم لماذا يُعدّ أمرٌ ما صائباً أو خاطئاً، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business".
ومع استخدام النماذج اللغوية الكبيرة (LLMs) في مجالات حساسة مثل الإرشاد النفسي والنصائح الطبية وحتى الدعم العاطفي، يصبح الفرق بين الفهم الحقيقي والمحاكاة الإحصائية مسألة ذات تبعات واقعية.ثلاث مشكلات رئيسية
تقترح الورقة إطاراً لقياس ما تسميه "الكفاءة الأخلاقية"، أي القدرة على إصدار أحكام مبنية على اعتبارات أخلاقية حقيقية، لا مجرد أنماط متعلمة من البيانات.
1- مشكلة النسخة المقلدة
لكن السؤال الجوهري هو: هل يفهم فعلاً ما يقوله، أم أنه يجيد فقط ترتيب الكلمات بطريقة مقنعة؟
هذا هو التحدي الذي تناولته ورقة بحثية جديدة لفريق "غوغل ديب مايند" نُشرت في مجلة "Nature"، حيث يرى الباحثون أن طرق اختبار أخلاق أنظمة الذكاء الاصطناعي الحالية تعاني من خلل أساسي.الأداء الأخلاقي لا يعني الفهم
حتى الآن، تركز الاختبارات على ما يسميه الباحثون "الأداء الأخلاقي" — أي ما إذا كانت إجابة النموذج تبدو صحيحة أو مقبولة أخلاقياً.
لكن هذا لا يثبت أن النظام يفهم لماذا يُعدّ أمرٌ ما صائباً أو خاطئاً، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business".
ومع استخدام النماذج اللغوية الكبيرة (LLMs) في مجالات حساسة مثل الإرشاد النفسي والنصائح الطبية وحتى الدعم العاطفي، يصبح الفرق بين الفهم الحقيقي والمحاكاة الإحصائية مسألة ذات تبعات واقعية.ثلاث مشكلات رئيسية
تقترح الورقة إطاراً لقياس ما تسميه "الكفاءة الأخلاقية"، أي القدرة على إصدار أحكام مبنية على اعتبارات أخلاقية حقيقية، لا مجرد أنماط متعلمة من البيانات.
1- مشكلة النسخة المقلدة
