في ظل استخدام ادوات الذكاء الاصطناعي التي أصبحت الشريك الأساسي لعدد كبير من مهوسي تلك الطفرة التقنية التي استطاعت أن تجتاح الكثير من مجالات التكنولوجيا، وصل الأمر إلى استشارة أدوات الذكاء الاصطناعي في كثير من الشؤون الحياتية، الأمر الذي بلغ ذروته باعتبار عدد كبير من المستخدمين لـ CHATGPT، دكتور واخصائي تغذية حتي مدرب لياقة بدنية، وبدأت الأسئلة تتجه على النحو الطبي كبديل لزيارة الطبيب.
وبعد الحادثة التي أودت بحياة مسن نتيجة الإصابة بحالة تسمم حادة، عقب استشارة أدوات الذكاء الاصطناعي، والتي طلب الرجل خلالها النصيحة للتقليل من استهلاك ملح الطعام، فاقترح عليه تشات جي بي تي استبداله بمركب بروميد الصوديوم، وهو مادة كيميائية تشبه الملح لكنها سامة وغير صالحة للاستهلاك البشري، وتستخدم في مجالات صناعية وزراعية.
«ممكن تموت لو مشيت ورا شات جي بي تي».. التحقيق مع «ميتا» و«Character.ai» بسبب تضليل المستخدمين
استمر الرجل في استخدام هذا المركب حسب ما وصفه CHATGPT، لمدة ثلاثة أشهر، ما تسبب في أعراض خطيرة شملت التعب، الأرق، اضطراب الحركة، طفح جلدي، عطش مفرط، إضافة إلى أورام وعائية صغيرة في الجلد، وصولًا إلى أعراض ذهانية وهلاوس، ما استدعى وضعه في الحجز النفسي، وفق ما أفاد موقع «BBC».
فيما تمكن الأطباء من علاج المريض عبر السوائل الوريدية والإلكتروليتات وأدوية مضادة للذهان، قبل خروجه من المستشفى بعد ثلاثة أسابيع من المراقبة.
وأكد الباحثون أن الحادثة تبرز خطورة المعلومات الطبية غير الدقيقة التي قد تنتجها أنظمة الذكاء الاصطناعي، داعين إلى عدم استخدامها كبديل عن الاستشارة الطبية المؤهلة.
«ممكن تموت لو مشيت ورا شات جي بي تي».. التحقيق مع «ميتا» و«Character.ai» بسبب تضليل المستخدمين
وفي واقعة أخرى أطلق المدعي العام لولاية تكساس الأميركية، كين باكستون، تحقيقًا بشأن منصتي «Meta AI Studio» التابعة لشركة ميتا و«Character.AI» لاحتمال تورطهما في ممارسات تجارية خادعة، حيث يتم التسويق لهم من قبل منصاتهم بشكل غير صحيح ومفبرك على أنهما أدوات للصحة النفسية.
واتهم مكتب المدعي العام في تكساس شركتي ميتا و«Character.AI» بإنشاء شخصيات ذكاء اصطناعي تقدم نفسها على أنها «أدوات علاجية مختصة»، رغم افتقارها إلى المؤهلات الطبية المناسبة أو الرقابة، وسط تأكيد الخبراء أن تلك الأدوات غير مؤهلة لاصدار أحكام طيبية، بالإضافة إلى أنها ليست أدوات تعتمد على بيانات معاد تدوريرها وليس لديها أي صلة بالنصائح العلاجية المعتمدة من أي جهة.
«ممكن تموت لو مشيت ورا شات جي بي تي».. التحقيق مع «ميتا» و«Character.ai» بسبب تضليل المستخدمين
لذا لابد من مراقبة المعلومات التي يصدرها أي من أدوات الذكاء الاصطناعي، خاصة المعلومات الصحية والطيبية لعدم التورط في مشاكل صحية على المدي القريب أو البعيد، بالإضافة إلى ضرورة مراقبة الغير بالغين والأطفال في نوعيه الأسئلة التي يطرحوها على «شات جي بي تي» لمراقبة الردود والتأكد من صحتها من خلال مراجعة المصادر الموثوقة.
وبعد الحادثة التي أودت بحياة مسن نتيجة الإصابة بحالة تسمم حادة، عقب استشارة أدوات الذكاء الاصطناعي، والتي طلب الرجل خلالها النصيحة للتقليل من استهلاك ملح الطعام، فاقترح عليه تشات جي بي تي استبداله بمركب بروميد الصوديوم، وهو مادة كيميائية تشبه الملح لكنها سامة وغير صالحة للاستهلاك البشري، وتستخدم في مجالات صناعية وزراعية.
«ممكن تموت لو مشيت ورا شات جي بي تي».. التحقيق مع «ميتا» و«Character.ai» بسبب تضليل المستخدمين
استمر الرجل في استخدام هذا المركب حسب ما وصفه CHATGPT، لمدة ثلاثة أشهر، ما تسبب في أعراض خطيرة شملت التعب، الأرق، اضطراب الحركة، طفح جلدي، عطش مفرط، إضافة إلى أورام وعائية صغيرة في الجلد، وصولًا إلى أعراض ذهانية وهلاوس، ما استدعى وضعه في الحجز النفسي، وفق ما أفاد موقع «BBC».
فيما تمكن الأطباء من علاج المريض عبر السوائل الوريدية والإلكتروليتات وأدوية مضادة للذهان، قبل خروجه من المستشفى بعد ثلاثة أسابيع من المراقبة.
وأكد الباحثون أن الحادثة تبرز خطورة المعلومات الطبية غير الدقيقة التي قد تنتجها أنظمة الذكاء الاصطناعي، داعين إلى عدم استخدامها كبديل عن الاستشارة الطبية المؤهلة.
«ممكن تموت لو مشيت ورا شات جي بي تي».. التحقيق مع «ميتا» و«Character.ai» بسبب تضليل المستخدمين
وفي واقعة أخرى أطلق المدعي العام لولاية تكساس الأميركية، كين باكستون، تحقيقًا بشأن منصتي «Meta AI Studio» التابعة لشركة ميتا و«Character.AI» لاحتمال تورطهما في ممارسات تجارية خادعة، حيث يتم التسويق لهم من قبل منصاتهم بشكل غير صحيح ومفبرك على أنهما أدوات للصحة النفسية.
واتهم مكتب المدعي العام في تكساس شركتي ميتا و«Character.AI» بإنشاء شخصيات ذكاء اصطناعي تقدم نفسها على أنها «أدوات علاجية مختصة»، رغم افتقارها إلى المؤهلات الطبية المناسبة أو الرقابة، وسط تأكيد الخبراء أن تلك الأدوات غير مؤهلة لاصدار أحكام طيبية، بالإضافة إلى أنها ليست أدوات تعتمد على بيانات معاد تدوريرها وليس لديها أي صلة بالنصائح العلاجية المعتمدة من أي جهة.
«ممكن تموت لو مشيت ورا شات جي بي تي».. التحقيق مع «ميتا» و«Character.ai» بسبب تضليل المستخدمين
لذا لابد من مراقبة المعلومات التي يصدرها أي من أدوات الذكاء الاصطناعي، خاصة المعلومات الصحية والطيبية لعدم التورط في مشاكل صحية على المدي القريب أو البعيد، بالإضافة إلى ضرورة مراقبة الغير بالغين والأطفال في نوعيه الأسئلة التي يطرحوها على «شات جي بي تي» لمراقبة الردود والتأكد من صحتها من خلال مراجعة المصادر الموثوقة.
