Open AI تبدأ بوضع علامات مائية على نصوص Chat GPT

أعلنت شركة OpenAI أمس الاثنين، في منشور على مدونتها أنها ستبدأ في إضافة علامة مائية غير مرئية إلى النصوص التي تم إنشاؤها بواسطة ChatGPT وCodex في الاتحاد الأوروبي للامتثال لقانون الذكاء الاصطناعي للاتحاد الأوروبي.تتطلب قواعد الشفافية في قانون الذكاء الاصطناعي للاتحاد الأوروبي، والتي دخلت حيز التنفيذ في 2 أغسطس، من شركات الذكاء الاصطناعي وضع علامات على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بطريقة يمكن للأنظمة الأخرى التعرف عليها، وفقًا للموقع التكنولوجي Techcrunch.أعلنت OpenAI أن ميزة العلامة المائية ستُفعّل تدريجيا خلال الأسابيع القادمة لمستخدمي ChatGPT وCodex المؤهلين في جميع الباقات، ولكن في الاتحاد الأوروبي فقط. ويمكن للمطورين الذين يستخدمون واجهة برمجة تطبيقات OpenAI في أي مكان في العالم تفعيلها لنماذج محددة بدءًا من اليوم؛ وهي مُعطّلة افتراضيًا. وأكدت OpenAI أنها لن تجعل وضع العلامة المائية النصية إعدادًا افتراضيًا عالميًا عند الإطلاق.العلامة المائية ليست رمزًا فعليًا، بل تعمل من خلال تعديل اختيارات الكلمات في النموذج بشكل دقيق، تاركةً نمطًا لا يراه القارئ، لكن يمكن لبرامج الكشف رصده. ولأنها جزء لا يتجزأ من الكلمات نفسها، فإنها تنتقل مع النص عند نسخه ولصقه. وأكدت OpenAI أن العلامة المائية لا تكشف هوية المستخدم، وأنها لم تلاحظ أي تغيير يُذكر في أداء نماذجها عند تفعيلها.نشرت OpenAI أيضًا تقريرًا تقنيًا عن طريقتها، المسماة textGrain، بالتزامن مع الإعلان. يشرح التقرير، الذي شارك في كتابته باحثون من جامعتي بنسلفانيا وييل، مثالًا عمليًا لاستخدام مفتاح سري لترتيب توقعات الكلمات التالية لإكمال الجملة. وبإضافة مئات من هذه التوجيهات، يستطيع النظام رصد المحتوى المُولّد بالذكاء الاصطناعي باستخدام النص والمفتاح فقط.هل يمكن إزالة العلامة المائية بالتعديل؟، تشير اختبارات OpenAI إلى إمكانية ذلك. في أحد الاختبارات، أدى استبدال 10% من الكلمات بمرادفاتها إلى انخفاض نسبة الكشف من حوالي 92% إلى 66%. كما ذكرت الشركة أن المقاطع القصيرة، وإجابات المعادلات الرياضية، والنصوص المترجمة يصعب اكتشافها.وقالت الشركة: «تساهم هذه القيود في قرارنا بتوفير الوصول الأولي إلى أجهزة الكشف فقط للباحثين المعتمدين والمنظمات الخبيرة، الذين يمكنهم مساعدتنا في تقييم الموثوقية والاستخدامات المسؤولة».حذرت شركة OpenAI من أن غياب العلامة المائية «لا يثبت أن النص من تأليف بشري». فقد يكون النص قصيراً جداً أو خضع لتحرير مكثف، أو قد يكون ناتجاً عن ذكاء اصطناعي لشركة أخرى.وقالت الشركة: «يمكن أن تشير [العلامات المائية] إلى أن نظام OpenAI قد أنشأ أو عالج جزءًا من فقرة ما، ولكن ليس مقدار…