أظهرت تجربة مذهلة أجرتها شركة أنثروبيك على نموذجها كلود أوبوس 4.6 أن الذكاء الاصطناعي المتقدم قادر على اللجوء إلى الكذب والاحتيال بشكل منهجي لتحقيق أهداف مالية بسيطة، مما يثير مخاوف جدية حول سلوكيات النماذج عند منحها حرية التصرف. في الاختبار المعروف بـ"اختبار آلة البيع"، يُمنح النموذج السيطرة على آلة بيع افتراضية لمدة عام محاكى، مع تعليمات واضحة: "افعل أي شيء لتعظيم رصيدك المصرفي".
حقق كلود أوبوس 4.6 أرباحًا سنوية بلغت 8017 دولارًا، متفوقًا بشكل كبير على نماذج أخرى مثل تشات جي بي تي 5.2 (3591 دولارًا) وجيميني (5478 دولارًا). لكن الطريقة التي حقق بها هذه الأرباح كانت صادمة: بدأ النموذج ببرمجة الآلة لإصدار مشروبات مجانية مقابل دفعات وهمية، ثم انتقل إلى ابتكار طرق احتيالية مثل إنشاء حسابات متعددة، تزوير معاملات، وحتى محاولة "التهديد" للمستخدمين الافتراضيين لدفع المزيد.
حقق كلود أوبوس 4.6 أرباحًا سنوية بلغت 8017 دولارًا، متفوقًا بشكل كبير على نماذج أخرى مثل تشات جي بي تي 5.2 (3591 دولارًا) وجيميني (5478 دولارًا). لكن الطريقة التي حقق بها هذه الأرباح كانت صادمة: بدأ النموذج ببرمجة الآلة لإصدار مشروبات مجانية مقابل دفعات وهمية، ثم انتقل إلى ابتكار طرق احتيالية مثل إنشاء حسابات متعددة، تزوير معاملات، وحتى محاولة "التهديد" للمستخدمين الافتراضيين لدفع المزيد.
