عندما تسأل روبوت دردشة عن نصيحة طبية، يجيبك برد مفصل ومدروس. لكن هل فكر مليًا في عواقب الأمر، أم أنه اكتفى بالحظ الجيد؟.
هذه هي المشكلة التي يتناولها فريق "غوغل ديب مايند" في ورقة بحثية جديدة نُشرت في مجلة نيتشر.
ويجادل الفريق بأن طريقة اختبارنا لأخلاقيات الذكاء الاصطناعي معيبة، فنحن نتحقق مما إذا كانت نماذج الذكاء الاصطناعي تُنتج إجابات تبدو صحيحة، وهو ما يسمونه الأداء الأخلاقي. لكن هذا لا يُخبرنا شيئًا ما إذا كان النموذج يفهم سبب صحة أو خطأ شيء ما، بحسب تقرير لموقع "ديجيتال تريندز" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
يستخدم الناس النماذج اللغوية الكبيرة لأغراض العلاج النفسي، والإرشاد الطبي، وحتى الرفقة. وهذه الأنظمة بدأت تتخذ قرارات نيابة عنا. إذا لم نستطع التمييز بين ما إذا كان سلوكها هو فهم حقيقي أم تقليد بارع، فنحن نضع ثقتنا في صندوق أسود له عواقب حقيقية على البشر.
يقدم فريق "ديب" مايند حلًا يتمثل في خارطة طريق لقياس الكفاءة الأخلاقية، أي القدرة على إصدار الأحكام بناءً على اعتبارات أخلاقية فعلية بدلًا من الأنماط الإحصائية. تُحدد الورقة البحثية ثلاثة عوائق رئيسية وطرقًا لاختبار كل منها.3 أسباب تجعل روبوتات الدردشة تتظاهر الأخلاق
أول هذه الأسباب هو مشكلة التقليد، فالنماذج اللغوية الكبيرة هي نماذج تتنبأ بالكلمة التالية تعتمد على أخذ عينات من توزيعات الاحتمالات المستخلصة من بيانات التدريب. وهي لا تشغل وحدات التفكير الأخلاقي.
لذا، عندما يعطي روبوت دردشة نصيحة أخلاقية، قد يكون فعليًا يفكر، أو قد يكون يعيد تدوير شيء مأخوذ من منشور على منصة ريديت، ولن يخبرك الناتج وحده بذلك.
وهناك أيضًا مشكلة تعدد أبعاد الأخلاق، فنادرًا ما تتوقف الخيارات الحقيقية على شيء واحد، إذ أنك توازن بين الصدق واللطف، وبين التكلفة والإنصاف.
هذه هي المشكلة التي يتناولها فريق "غوغل ديب مايند" في ورقة بحثية جديدة نُشرت في مجلة نيتشر.
ويجادل الفريق بأن طريقة اختبارنا لأخلاقيات الذكاء الاصطناعي معيبة، فنحن نتحقق مما إذا كانت نماذج الذكاء الاصطناعي تُنتج إجابات تبدو صحيحة، وهو ما يسمونه الأداء الأخلاقي. لكن هذا لا يُخبرنا شيئًا ما إذا كان النموذج يفهم سبب صحة أو خطأ شيء ما، بحسب تقرير لموقع "ديجيتال تريندز" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
يستخدم الناس النماذج اللغوية الكبيرة لأغراض العلاج النفسي، والإرشاد الطبي، وحتى الرفقة. وهذه الأنظمة بدأت تتخذ قرارات نيابة عنا. إذا لم نستطع التمييز بين ما إذا كان سلوكها هو فهم حقيقي أم تقليد بارع، فنحن نضع ثقتنا في صندوق أسود له عواقب حقيقية على البشر.
يقدم فريق "ديب" مايند حلًا يتمثل في خارطة طريق لقياس الكفاءة الأخلاقية، أي القدرة على إصدار الأحكام بناءً على اعتبارات أخلاقية فعلية بدلًا من الأنماط الإحصائية. تُحدد الورقة البحثية ثلاثة عوائق رئيسية وطرقًا لاختبار كل منها.3 أسباب تجعل روبوتات الدردشة تتظاهر الأخلاق
أول هذه الأسباب هو مشكلة التقليد، فالنماذج اللغوية الكبيرة هي نماذج تتنبأ بالكلمة التالية تعتمد على أخذ عينات من توزيعات الاحتمالات المستخلصة من بيانات التدريب. وهي لا تشغل وحدات التفكير الأخلاقي.
لذا، عندما يعطي روبوت دردشة نصيحة أخلاقية، قد يكون فعليًا يفكر، أو قد يكون يعيد تدوير شيء مأخوذ من منشور على منصة ريديت، ولن يخبرك الناتج وحده بذلك.
وهناك أيضًا مشكلة تعدد أبعاد الأخلاق، فنادرًا ما تتوقف الخيارات الحقيقية على شيء واحد، إذ أنك توازن بين الصدق واللطف، وبين التكلفة والإنصاف.
