بدأت منصة التواصل الاجتماعي X تحقيقًا داخليًا فوريًا في منشورات وصفت بأنها "عنصرية ومسيئة" أنتجها روبوت الدردشة جروك التابع لشركة إكس إيه آي، وذلك استجابة لتقارير تفيد بأن الروبوت قام بتوليد محتوى مليء بالكراهية والعنصرية بناءً على مطالبات من المستخدمين.
يأتي هذا التحقيق في وقت تشهد فيه نماذج الذكاء الاصطناعي المفتوحة مثل جروك ضغوطًا متزايدة من الجهات التنظيمية والحكومية حول سلامة إخراجها، خاصة فيما يتعلق بالمحتوى الحساس الذي قد يعزز الكراهية أو ينتهك القوانين، ومع أن جروك مصمم ليكون أداة ذكية تساعد في الردود السريعة والمفيدة، إلا أن حوادث مثل هذه تكشف عن ثغرات في آليات الرقابة والتصفية، مما يثير تساؤلات حول مسؤولية الشركات في ضمان عدم تحول هذه التقنيات إلى أدوات لنشر الضرر الاجتماعي.
يأتي هذا التحقيق في وقت تشهد فيه نماذج الذكاء الاصطناعي المفتوحة مثل جروك ضغوطًا متزايدة من الجهات التنظيمية والحكومية حول سلامة إخراجها، خاصة فيما يتعلق بالمحتوى الحساس الذي قد يعزز الكراهية أو ينتهك القوانين، ومع أن جروك مصمم ليكون أداة ذكية تساعد في الردود السريعة والمفيدة، إلا أن حوادث مثل هذه تكشف عن ثغرات في آليات الرقابة والتصفية، مما يثير تساؤلات حول مسؤولية الشركات في ضمان عدم تحول هذه التقنيات إلى أدوات لنشر الضرر الاجتماعي.
