المخاطر الخفية للذكاء الاصطناعي.. لماذا يتجه قادة الشركات الآن إلى «الوكلاء»؟

أصبح الذكاء الاصطناعي بارعًا بشكل ملحوظ في إظهار الثقة، تكمن المشكلة في أنه يظل واثقًا بنفس القدر حتى عندما يكون مخطئًا، وفي بيئة المؤسسات، قد يكون لهذا الاختلاف عواقب وخيمة، وفقًا لـ فوربس.هذه هي الحقيقة التي بدأ العديد من قادة الشركات بمواجهتها مع انتقالهم من تجربة الذكاء الاصطناعي التوليدي إلى نشر وكلاء الذكاء الاصطناعي. تستطيع هذه الأنظمة الآن التوصية بإجراءات، وبدء سير العمل، واتخاذ القرارات نيابةً عن المستخدمين. إن فوائد الإنتاجية واضحة. لم يعد السؤال هو ما إذا كان يعمل، بل إلى أي مدى يمكن الوثوق به.يتجه قادة الشركات الآن إلى وكلاء الذكاء الاصطناعي، القادرين على التوصية بإجراءات، وبدء سير العمل، وحتى اتخاذ القرارات نيابةً عن المستخدمين. الإمكانات هائلة، وكذلك المخاطر.خلال الأشهر القليلة الماضية، وفي جلسات إحاطة مع موردي برامج المؤسسات وقادة العمليات، برز موضوع متكرر. الحماس حول الذكاء الاصطناعي الوكيل حقيقي، لكن القلق كذلك. خطأ في صياغة بريد إلكتروني يُعدّ إزعاجًا. أما قيام وكيل بإعادة توجيه سلسلة التوريد، أو الموافقة على معاملة، أو إعادة ترتيب أولويات تصعيد عميل بناءً على افتراضات خاطئة، فهو أمر مختلف تمامًا.الثقة بدون مساءلة تُشكّل ثغرة أمنية كامنة قد تظهر في الوقت غير المناسب. أنشأتُ مؤخرًا وكيلًا للتعامل مع مهمة روتينية. بدت التعليمات واضحة، لكنه أساء فهم تاريخ الإجراء، مما تسبب في تفويتي اجتماعًا.يثير هذا النوع من الأخطاء تساؤلًا أوسع يُطرح الآن في العديد من المؤسسات: إذا كان بإمكان وكلاء الذكاء الاصطناعي استقبال طلب بلغة بسيطة وتنفيذه عبر الأنظمة، فهل يصبح جزء كبير من برامج المؤسسات التقليدية غير ضروري؟ هل ما زلنا بحاجة إلى لوحات المعلومات، وآليات الموافقة، والتطبيقات التي استغرق بناؤها عقودًا؟لماذا لا تزال أنظمة السجلات مهمة؟ليس تمامًا. قد تتغير واجهة المستخدم بشكل جذري، لكن التعقيد يبقى كامنًا. برامج المؤسسات لا تقتصر على كونها مجرد أداة للنقر عليها؛ بل هي مستودع للقواعد، والصلاحيات، ومعايير الامتثال، والمنطق التنظيمي الذي تم تطويره على مدى عقود. لا يختفي الذكاء الاصطناعي ببساطة بمجرد أن تبدو واجهة المستخدم كصندوق دردشة. بل على العكس، تزداد أهميته، إذ يحتاج النظام إلى جهة موثوقة للتحقق من دقة معلوماته.لذا، أعتقد أن الفائزين في المرحلة القادمة من تطور برمجيات المؤسسات سيكونون أولئك الذين يطورون الذكاء الاصطناعي كطبقة أساسية فوق أنظمة السجلات الحالية ويخضعون لسيطرتها. سواءً أكان الحديث عن Salesforce أو ServiceNow أو SAP أو Microsoft أو أي من الشركات الأخرى الناشئة بسرعة، فإن النتيجة واحدة: تعتمد فائدة النظام على الضوابط المحيطة به. الشركات التي تُتقن كيفية منح أنظمتها استقلالية حقيقية مع الحفاظ على المساءلة البشرية عن النتائج ستتفوق على منافسيها.بالنسبة لقادة الشركات، يعني هذا تجنب مأزقين. الأول هو المبالغة في تقدير الذكاء الاصطناعي بسبب…