لا تخلو برامج الدردشة الآلية من العيوب، فقد تُخطئ أحيانًا، ببساطة، تُدرَّب نماذج اللغة الكبيرة للذكاء الاصطناعي (LLMs) على استخدام الأنماط للتنبؤ بالكلمة التالية المحتملة في سلسلة من الكلمات، وإذا لم يتمكن النموذج من إيجاد نمط محدد للإجابة على سؤال ما، فسيحاول الإجابة عليه بتجميع كلمات منطقية إحصائيًا، حتى لو كانت غير صحيحة من الناحية الواقعية، وهو ما يسمى بهلوسة الذكاء الاصطناعى.
وفقا لما ذكره موقع "Phonearena"، لهذا السبب، لا تزال نماذج الذكاء الاصطناعي بحاجة إلى تدخل بشري للتحقق من البيانات، مثل أسعار الأسهم والأسماء والتواريخ، ولا يُلام نموذج الذكاء الاصطناعي عندما يُخطئ، فهو لا يزال يتبع ما بُرمج عليه حتى لو لم تكن البيانات متوفرة للإجابة.
وفقا لما ذكره موقع "Phonearena"، لهذا السبب، لا تزال نماذج الذكاء الاصطناعي بحاجة إلى تدخل بشري للتحقق من البيانات، مثل أسعار الأسهم والأسماء والتواريخ، ولا يُلام نموذج الذكاء الاصطناعي عندما يُخطئ، فهو لا يزال يتبع ما بُرمج عليه حتى لو لم تكن البيانات متوفرة للإجابة.
