«OpenAI» تُطلق نموذجها الجديد «Astra».. وخبراء يبدون قلقهم

كشفت شركة «OpenAI»، النقاب عن نموذج ذكاء اصطناعى طال انتظاره أطلقت عليه اسم «GPT-6 Astra».ورغم أن النموذج قد حقق تحسينات كبيرة فى اختبارات الأداء القياسية ووفر مجموعة من الميزات الجديدة الموجهة للأعمال، إلا أن هناك مخاوف جدية لا تزال تحيط به، وفقًا لما ذكره موقع «techradar».ففى أعقاب حادثة الاختراق غير المقصود لمنصة «Hugging Face» من قِبَل «OpenAI»، وما تلا ذلك من جهود بذلتها الشركة لتحسين سلوك وتفاعلات وكلاء الذكاء الاصطناعى، أبدى العديد من خبراء الأمن السيبرانى قلقهم بشأن قدرات الاستدلال الجديدة فى النموذج، والتى تُعرف بـ «العمق التكراري» (recurrent depth).وتتيح بنية الاستدلال الجديدة هذه للنموذج دراسة المشكلة ومعالجتها عدة مرات قبل اتخاذ أى إجراء، وذلك بخلاف أسلوب «سلسلة الأفكار» (chain-of-thought) القياسى الذى كان يُستخدم فى النماذج السابقة.ويبدو أن هذا المستوى الجديد من الاستدلال يتيح أداءً أفضل، إذ صرحت شركة «OpenAI» بأنها عالجت مشكلة قدرة نماذجها على تجاوز القيود أثناء الاختبارات، وذلك من خلال مراقبة عمليات الاستدلال التى تجريها النماذج وضمان التزامها بنطاق المهام الموكلة إليها.وخلال فعالية إطلاق «أسترا» (Astra)، قال ياكوب باتشوك، كبير العلماء فى «OpenAI»: «لن نقبل بأى تراجع فى قدرتنا على مراقبة مدى توافق النموذج (مع المعايير المحددة) يتجاوز حدًا معينًا وسنُرجئ توسيع نطاق العمليات إلى حين استعادة القدر الكافى من الثقة».وغير أن العديد من الخبراء يرون أن الدروس المستفادة من واقعة «Hugging Face» لم تُستوعب بعد، إذ أُطلق النموذج دون إجراء اختبارات كافية لقدرات «Astra» على الاستنتاج وآليات مراقبتها.ففى النهاية، لم يتوقع أحد أن يتمكن أحد نماذج شركة «OpenAI» من إنشاء لوحة مراسلات خفية متصلة بالإنترنت، تتيح لوكلاء الذكاء الاصطناعى التأثير فى سلوك بعضهم البعض.