أعلنت منصة الفيديو "يوتيوب" عن توسيع نطاق تقنيتها الخاصة باكتشاف مقاطع التزييف العميق (Deepfake) المدعومة بالذكاء الاصطناعي، لتشمل مجموعة تجريبية من المسؤولين الحكوميين والمرشحين السياسيين والصحافيين.
وتهدف الخطوة إلى تمكين هذه الفئات من رصد المقاطع المصورة التي تستخدم وجوههم أو هوياتهم الرقمية بشكل مزيف عبر تقنيات الذكاء الاصطناعي، مع إمكانية طلب إزالة تلك المقاطع إذا كانت تنتهك سياسات المنصة.أداة لرصد الوجوه المزيفة
وتعمل التقنية الجديدة على اكتشاف الوجوه التي يتم توليدها أو تعديلها بواسطة أدوات الذكاء الاصطناعي، وهي مقاطع قد تُستخدم أحياناً لنشر معلومات مضللة أو للتلاعب بالرأي العام عبر إظهار شخصيات عامة وهي تقول أو تفعل أشياء لم تحدث في الواقع، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
وكانت المنصة قد أطلقت هذه التقنية العام الماضي لملايين صناع المحتوى ضمن برنامج YouTube Partner Program، حيث استفاد منها نحو 4 ملايين منشئ محتوى بعد سلسلة من الاختبارات الأولية.
وتشبه التقنية في عملها نظام Content ID الذي تستخدمه "يوتيوب" لاكتشاف المقاطع التي تحتوي على مواد محمية بحقوق النشر.حماية النقاش العام
وقالت نائبة رئيس يوتيوب للشؤون الحكومية والسياسات العامة ليزلا ميرا إن توسيع هذه الأداة يهدف إلى حماية نزاهة النقاش العام، خاصة مع ارتفاع مخاطر انتحال الهوية باستخدام الذكاء الاصطناعي في المجال السياسي.
وأضافت أن المنصة تسعى إلى تحقيق توازن بين حرية التعبير ومواجهة مخاطر التقنيات القادرة على تقليد ملامح وصوت الشخصيات العامة بشكل مقنع.ليس كل المحتوى سيُحذف
وأوضحت الشركة أن اكتشاف مقطع مزيف لا يعني حذفه تلقائياً، إذ سيتم تقييم كل طلب إزالة وفق سياسات الخصوصية الخاصة بالمنصة.
فبعض المقاطع قد تُصنف ضمن السخرية أو النقد السياسي، وهي أشكال من التعبير المسموح بها على المنصة.توثيق الهوية أولاً
وللاستفادة من الأداة الجديدة، يجب على المشاركين في البرنامج التجريبي إثبات هويتهم عبر رفع صورة شخصية (سيلفي) بالإضافة إلى وثيقة رسمية صادرة عن جهة حكومية.
وبعد ذلك يمكنهم إنشاء ملف شخصي يتيح لهم مراجعة المقاطع التي تطابق ملامحهم، ومن ثم طلب إزالة المحتوى المخالف.تنظيم استخدام الذكاء الاصطناعي
وفي موازاة ذلك، أعلنت "يوتيوب" دعمها لمشروع قانون في الولايات المتحدة يُعرف باسم NO FAKES Act، والذي يهدف إلى تنظيم استخدام الذكاء الاصطناعي في إنشاء نسخ رقمية غير مصرح بها من صوت أو صورة أي شخص.توسع مستقبلي
وتخطط المنصة مستقبلاً لتوسيع قدرات هذه التقنية لتشمل التعرف على الأصوات المقلدة أيضاً، إضافة إلى حماية شخصيات وعلامات تجارية شهيرة من الاستغلال عبر تقنيات الذكاء الاصطناعي.
كما تؤكد "يوتيوب" أنها ستواصل وضع علامات توضيحية على المقاطع المصنوعة بالذكاء الاصطناعي، مع اختلاف طريقة عرض هذه العلامات حسب حساسية موضوع الفيديو.
وتهدف الخطوة إلى تمكين هذه الفئات من رصد المقاطع المصورة التي تستخدم وجوههم أو هوياتهم الرقمية بشكل مزيف عبر تقنيات الذكاء الاصطناعي، مع إمكانية طلب إزالة تلك المقاطع إذا كانت تنتهك سياسات المنصة.أداة لرصد الوجوه المزيفة
وتعمل التقنية الجديدة على اكتشاف الوجوه التي يتم توليدها أو تعديلها بواسطة أدوات الذكاء الاصطناعي، وهي مقاطع قد تُستخدم أحياناً لنشر معلومات مضللة أو للتلاعب بالرأي العام عبر إظهار شخصيات عامة وهي تقول أو تفعل أشياء لم تحدث في الواقع، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
وكانت المنصة قد أطلقت هذه التقنية العام الماضي لملايين صناع المحتوى ضمن برنامج YouTube Partner Program، حيث استفاد منها نحو 4 ملايين منشئ محتوى بعد سلسلة من الاختبارات الأولية.
وتشبه التقنية في عملها نظام Content ID الذي تستخدمه "يوتيوب" لاكتشاف المقاطع التي تحتوي على مواد محمية بحقوق النشر.حماية النقاش العام
وقالت نائبة رئيس يوتيوب للشؤون الحكومية والسياسات العامة ليزلا ميرا إن توسيع هذه الأداة يهدف إلى حماية نزاهة النقاش العام، خاصة مع ارتفاع مخاطر انتحال الهوية باستخدام الذكاء الاصطناعي في المجال السياسي.
وأضافت أن المنصة تسعى إلى تحقيق توازن بين حرية التعبير ومواجهة مخاطر التقنيات القادرة على تقليد ملامح وصوت الشخصيات العامة بشكل مقنع.ليس كل المحتوى سيُحذف
وأوضحت الشركة أن اكتشاف مقطع مزيف لا يعني حذفه تلقائياً، إذ سيتم تقييم كل طلب إزالة وفق سياسات الخصوصية الخاصة بالمنصة.
فبعض المقاطع قد تُصنف ضمن السخرية أو النقد السياسي، وهي أشكال من التعبير المسموح بها على المنصة.توثيق الهوية أولاً
وللاستفادة من الأداة الجديدة، يجب على المشاركين في البرنامج التجريبي إثبات هويتهم عبر رفع صورة شخصية (سيلفي) بالإضافة إلى وثيقة رسمية صادرة عن جهة حكومية.
وبعد ذلك يمكنهم إنشاء ملف شخصي يتيح لهم مراجعة المقاطع التي تطابق ملامحهم، ومن ثم طلب إزالة المحتوى المخالف.تنظيم استخدام الذكاء الاصطناعي
وفي موازاة ذلك، أعلنت "يوتيوب" دعمها لمشروع قانون في الولايات المتحدة يُعرف باسم NO FAKES Act، والذي يهدف إلى تنظيم استخدام الذكاء الاصطناعي في إنشاء نسخ رقمية غير مصرح بها من صوت أو صورة أي شخص.توسع مستقبلي
وتخطط المنصة مستقبلاً لتوسيع قدرات هذه التقنية لتشمل التعرف على الأصوات المقلدة أيضاً، إضافة إلى حماية شخصيات وعلامات تجارية شهيرة من الاستغلال عبر تقنيات الذكاء الاصطناعي.
كما تؤكد "يوتيوب" أنها ستواصل وضع علامات توضيحية على المقاطع المصنوعة بالذكاء الاصطناعي، مع اختلاف طريقة عرض هذه العلامات حسب حساسية موضوع الفيديو.
