باحث روسي يطور منهجية لكشف الأخطاء المنطقية في استدلالات الذكاء الاصطناعي بدقة عالية

  • منذ 4 ساعات
  • روسيا اليوم
  • كتبه/صححه: فريق العمل
Loading image...
ومن شأن هذه التقنية أن تعزز موثوقية استخدام الذكاء الاصطناعي في المجالات الطبية والقانونية والعلمية، التي قد تترتب على الأخطاء فيها عواقب خطيرة.

وأعلن مركز التواصل العلمي في معهد موسكو للفيزياء والتكنولوجيا أن المنهجية الجديدة تعتمد على تحليل البنية المنطقية لاستدلالات نماذج اللغة الكبيرة، والتمييز بين التفسيرات القائمة على أدلة متماسكة وتلك التي تتضمن استنتاجات غير مبررة أو ما يعرف بـ"الهلوسة المنطقية".

وقال بوريس غاليتسكي، الباحث العلمي الرئيسي في معهد الذكاء الاصطناعي بالمعهد، إن مخرجات الذكاء الاصطناعي لا تقتصر أخطاؤها على اختلاق المعلومات والمصادر غير الموجودة، بل قد تتضمن أيضا سلاسل استدلال تبدو منطقية ظاهريا، لكنها تقوم على روابط واستنتاجات غير سليمة.

وأوضح أن هذه الأخطاء تكتسب خطورة خاصة عند التعامل مع أسئلة طبية أو قانونية أو علمية معقدة، تتطلب جمع أدلة متباينة ومقارنتها واختيار ما يدعم فرضية معينة.

اختبار على ألف حالة افتراضية

ولاختبار المنهجية، أعد الباحث مجموعة بيانات تضم نحو ألف شكوى طبية افتراضية لمرضى يشتبه في إصابتهم بأمراض المناعة الذاتية، ووضع لكل حالة مسارين للاستدلال أنتجهما الذكاء الاصطناعي للوصول إلى التشخيص: أحدهما قائم على استنتاجات مبررة، والآخر يتضمن استدلالات وهمية أو غير سليمة.

وقسمت النصوص إلى مقاطع دلالية قصيرة، ثم خضعت للتحليل باستخدام خوارزمية تصنيف متخصصة، أظهرت قدرتها على التمييز بين الاستدلالات الصحيحة والخاطئة في 81% من الحالات، بالاعتماد على بنية التفكير وحدها.

وارتفعت دقة الكشف إلى 84% عند إضافة تحليل محتوى النصوص وخصائص أخرى للمخرجات التي تنتجها النماذج.

ويرى غاليتسكي أن اختلاف البنية الداخلية للاستدلالات الخاطئة عن الاستدلالات السليمة يتيح إمكانية رصد الخلل قبل أن تعتمد نماذج الذكاء الاصطناعي على تلك الاستنتاجات في مراحل لاحقة من التحليل ودمج المعلومات.

وقد تمثل المنهجية أساسا لتطوير أدوات تحقق إضافية من استدلالات نماذج اللغة الكبيرة، بما يعزز موثوقيتها في المجالات التي قد تؤدي فيها الأخطاء إلى عواقب خطيرة في العالم الحقيقي.

المصدر: روسيا اليوم (RT)+ "تاس"