أضاف وكيل ذكاء اصطناعي 72 بيضة إلى طلب مشتريات أحد مستخدميه دون أن يطلبها، وعندما طالبه المستخدم بتفسير سبب إضافة هذه الكمية، عجز الوكيل عن تقديم إجابة واضحة، وأقرّ بأنه أضافها دون أي سبب.
وقال وكيل الذكاء الاصطناعي: "أضفت 4 عبوات من بيض Vital Farms الكبير، الذي تنتجه دجاجات تتغذى في المراعي، وتحتوي كل عبوة على 18 بيضة، إلى سلة المشتريات التي أتممت طلبها"، وفقًا للقطات شاشة نشرها مات سميث، من شركة ريبيليونير، وهي شركة استثمار في الأسهم، على منصة "إكس".
وطالب سميث الوكيل بتفسير ما حدث، لكنه لم يتمكن من تقديم إجابة، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه "العربية Business".
واعترف الوكيل قائلًا: "ليست لدي إجابة جيدة. لا أستطيع العثور على أي ملاحظة توضح سبب اختياري 4 عبوات".
ثم اقترح وكيل الذكاء الاصطناعي أنه ربما أساء قراءة السطر الخاص بالبيض في صورة قائمة المشتريات التي قدمها سميث، لكن الأخير أوضح له على الفور: "لم يكن هناك أي سطر خاص بالبيض في قائمتي".
ورد الوكيل قائلًا: "إذًا أضفتها دون أي سبب، وهذا خطئي".
وتسلط هذه الواقعة الضوء على مخاطر الاعتماد على وكلاء الذكاء الاصطناعي لأتمتة المهام اليومية، فعلى الرغم من الإمكانات الكبيرة لهذه التقنية، فإنها لا تزال عرضة للأخطاء.
ومع ذلك، تشجع صناعة الذكاء الاصطناعي المستخدمين على تزويد نماذجها بمزيد من المعلومات والصلاحيات، بما في ذلك إتاحة الوصول إلى بيانات مالية حساسة مثل الحسابات المصرفية.
وقد تكون عواقب ذلك مقلقة أحيانًا. فبعد فترة وجيزة من إطلاق شركة ميتا وكيل الذكاء الاصطناعي "ميوز"، قال أحد المستخدمين إن الوكيل كشف عنوان منزله لأشخاص غرباء على "فيسبوك ماركت بليس" دون علمه، وأرسلهم إلى منزله.
من جهته، وصف سميث الواقعة بأنها "المرة الأولى التي أواجه فيها عواقب حقيقية في العالم الواقعي لهلوسة نموذج لغوي كبير"، مضيفًا أن العواقب كان من الممكن أن تكون أسوأ بكثير.
وقال وكيل الذكاء الاصطناعي: "أضفت 4 عبوات من بيض Vital Farms الكبير، الذي تنتجه دجاجات تتغذى في المراعي، وتحتوي كل عبوة على 18 بيضة، إلى سلة المشتريات التي أتممت طلبها"، وفقًا للقطات شاشة نشرها مات سميث، من شركة ريبيليونير، وهي شركة استثمار في الأسهم، على منصة "إكس".
وطالب سميث الوكيل بتفسير ما حدث، لكنه لم يتمكن من تقديم إجابة، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه "العربية Business".
واعترف الوكيل قائلًا: "ليست لدي إجابة جيدة. لا أستطيع العثور على أي ملاحظة توضح سبب اختياري 4 عبوات".
ثم اقترح وكيل الذكاء الاصطناعي أنه ربما أساء قراءة السطر الخاص بالبيض في صورة قائمة المشتريات التي قدمها سميث، لكن الأخير أوضح له على الفور: "لم يكن هناك أي سطر خاص بالبيض في قائمتي".
ورد الوكيل قائلًا: "إذًا أضفتها دون أي سبب، وهذا خطئي".
وتسلط هذه الواقعة الضوء على مخاطر الاعتماد على وكلاء الذكاء الاصطناعي لأتمتة المهام اليومية، فعلى الرغم من الإمكانات الكبيرة لهذه التقنية، فإنها لا تزال عرضة للأخطاء.
ومع ذلك، تشجع صناعة الذكاء الاصطناعي المستخدمين على تزويد نماذجها بمزيد من المعلومات والصلاحيات، بما في ذلك إتاحة الوصول إلى بيانات مالية حساسة مثل الحسابات المصرفية.
وقد تكون عواقب ذلك مقلقة أحيانًا. فبعد فترة وجيزة من إطلاق شركة ميتا وكيل الذكاء الاصطناعي "ميوز"، قال أحد المستخدمين إن الوكيل كشف عنوان منزله لأشخاص غرباء على "فيسبوك ماركت بليس" دون علمه، وأرسلهم إلى منزله.
من جهته، وصف سميث الواقعة بأنها "المرة الأولى التي أواجه فيها عواقب حقيقية في العالم الواقعي لهلوسة نموذج لغوي كبير"، مضيفًا أن العواقب كان من الممكن أن تكون أسوأ بكثير.
