واجهت شركات أبل وجوجل وميتا ضغوطا من ثلاثة أعضاء بمجلس الشيوخ الأمريكي، بسبب انتشار تطبيقات تعتمد على الذكاء الاصطناعي لإنشاء صور عارية أو إباحية لأشخاص حقيقيين دون موافقتهم، والمعروفة باسم تطبيقات “التعرية الرقمية” (Nudify Apps)، مطالبين الشركات بتوضيح أسباب استمرار إتاحة هذه التطبيقات أو الترويج لها عبر منصاتها.
ووفقا لما ذكره موقع 9to5Mac، أرسل أعضاء مجلس الشيوخ الأمريكي رون وايدن وإد ماركي وبن لوجان، رسائل إلى الرؤساء التنفيذيين للشركات الثلاث، أكدوا فيها أن الإجراءات المتبعة لحظر هذه التطبيقات لا تزال غير كافية لمنع انتشارها، خاصة مع إمكانية وصول الأطفال والمراهقين إليها.
تطبيقات التعرية الرقمية تتجاوز قواعد متاجر التطبيقات
تأتي هذه الخطوة بعد تحقيقات أجراها مشروع شفافية التكنولوجيا (Tech Transparency Project)، كشفت عن وجود 135 تطبيقا قادرا على إنشاء صور عارية أو إباحية باستخدام الذكاء الاصطناعي، عبر متجري أبل وجوجل، وذلك باستخدام حسابات مسجلة على أنها لمراهقين يبلغون من العمر 13 عاما.
وأظهرت التحقيقات أن بعض هذه التطبيقات تمكنت من الوصول إلى المستخدمين حتى مع تفعيل أدوات الرقابة الأبوية، دون الحاجة إلى موافقة الوالدين على تنزيلها.
ورغم إزالة أبل وجوجل التطبيقات التي حددها الباحثون بعد إبلاغهما بها، فإن المشكلة لم تنته، إذ ظلت بعض التطبيقات تعمل على الأجهزة التي سبق تثبيتها عليها، حتى بعد حذفها من المتاجر.
اتهامات للشركات بالاستفادة من انتشار التطبيقات
لم تقتصر انتقادات أعضاء مجلس الشيوخ على ضعف إجراءات الحظر، بل امتدت إلى احتمال تحقيق الشركات أرباحا من توزيع هذه التطبيقات أو الترويج لها.
وأشار الأعضاء إلى أن شركة ميتا لا تزال تسمح بظهور إعلانات على فيسبوك وإنستجرام تروج لتطبيقات تتيح إنشاء صور حميمة لأشخاص دون موافقتهم، رغم سياساتها المعلنة التي تحظر هذا النوع من الإعلانات.
وفي المقابل، قالت جوجل وميتا إنهما تحظران هذه التطبيقات أو الترويج لها، وتعملان على اكتشاف الانتهاكات وإزالتها من منصاتهما.
أما أبل، فقد أكدت مرارا أن تطبيقات التعرية الرقمية تخالف إرشادات مراجعة التطبيقات الخاصة بها، وأنها ترفض التطبيقات المخالفة وتحذفها، بما في ذلك تلك التي يبلغ عنها المستخدمون.
أبل تشدد قواعد متجر التطبيقات لمواجهة إساءة استخدام الذكاء الاصطناعي
كانت أبل قد أعلنت في أكتوبر الماضي تحديث إرشادات مراجعة التطبيقات، بهدف تعزيز الحماية من الصور الحميمة المنشأة دون موافقة أصحابها، بما في ذلك الصور التي ينتجها الذكاء الاصطناعي.
وتُلزم القواعد الجديدة التطبيقات التي تتيح إنشاء المحتوى أو مشاركته بتوفير أدوات لمنع المحتوى المسيء والإبلاغ عنه وحظر المستخدمين المخالفين، كما تحظر التطبيقات التي تخفي وظائف ضارة أثناء مراجعتها، ثم تضيفها بعد الحصول على الموافقة، وهي ممارسة تعرف باسم “التحايل بالتبديل” (Bait-and-Switch).
ومع ذلك، يرى مساعد السيناتور رون وايدن أن تحديث السياسات وتوضيح قواعد الاستخدام لا يكفيان، ما لم تتمكن الشركات من تطبيقها فعليا ومراقبة التطبيقات بصورة مستمرة بعد الموافقة على نشرها.
تحذيرات من تدخل الكونجرس الأمريكي
حذر وايدن من أن الكونجرس الأمريكي قد يضطر إلى التدخل إذا لم تحسن الشركات إجراءاتها لمنع انتشار التطبيقات المصممة لإنتاج صور جنسية دون موافقة أصحابها.
وتسلط هذه القضية الضوء على تحديات الرقابة على تطبيقات الذكاء الاصطناعي، خاصة أن بعض المطورين يستطيعون إخفاء الوظائف المخالفة خلال مراجعة التطبيقات، ثم تفعيلها لاحقا، ما يجعل اكتشافها وإزالتها أكثر صعوبة.
ووفقا لما ذكره موقع 9to5Mac، أرسل أعضاء مجلس الشيوخ الأمريكي رون وايدن وإد ماركي وبن لوجان، رسائل إلى الرؤساء التنفيذيين للشركات الثلاث، أكدوا فيها أن الإجراءات المتبعة لحظر هذه التطبيقات لا تزال غير كافية لمنع انتشارها، خاصة مع إمكانية وصول الأطفال والمراهقين إليها.
تطبيقات التعرية الرقمية تتجاوز قواعد متاجر التطبيقات
تأتي هذه الخطوة بعد تحقيقات أجراها مشروع شفافية التكنولوجيا (Tech Transparency Project)، كشفت عن وجود 135 تطبيقا قادرا على إنشاء صور عارية أو إباحية باستخدام الذكاء الاصطناعي، عبر متجري أبل وجوجل، وذلك باستخدام حسابات مسجلة على أنها لمراهقين يبلغون من العمر 13 عاما.
وأظهرت التحقيقات أن بعض هذه التطبيقات تمكنت من الوصول إلى المستخدمين حتى مع تفعيل أدوات الرقابة الأبوية، دون الحاجة إلى موافقة الوالدين على تنزيلها.
ورغم إزالة أبل وجوجل التطبيقات التي حددها الباحثون بعد إبلاغهما بها، فإن المشكلة لم تنته، إذ ظلت بعض التطبيقات تعمل على الأجهزة التي سبق تثبيتها عليها، حتى بعد حذفها من المتاجر.
اتهامات للشركات بالاستفادة من انتشار التطبيقات
لم تقتصر انتقادات أعضاء مجلس الشيوخ على ضعف إجراءات الحظر، بل امتدت إلى احتمال تحقيق الشركات أرباحا من توزيع هذه التطبيقات أو الترويج لها.
وأشار الأعضاء إلى أن شركة ميتا لا تزال تسمح بظهور إعلانات على فيسبوك وإنستجرام تروج لتطبيقات تتيح إنشاء صور حميمة لأشخاص دون موافقتهم، رغم سياساتها المعلنة التي تحظر هذا النوع من الإعلانات.
وفي المقابل، قالت جوجل وميتا إنهما تحظران هذه التطبيقات أو الترويج لها، وتعملان على اكتشاف الانتهاكات وإزالتها من منصاتهما.
أما أبل، فقد أكدت مرارا أن تطبيقات التعرية الرقمية تخالف إرشادات مراجعة التطبيقات الخاصة بها، وأنها ترفض التطبيقات المخالفة وتحذفها، بما في ذلك تلك التي يبلغ عنها المستخدمون.
أبل تشدد قواعد متجر التطبيقات لمواجهة إساءة استخدام الذكاء الاصطناعي
كانت أبل قد أعلنت في أكتوبر الماضي تحديث إرشادات مراجعة التطبيقات، بهدف تعزيز الحماية من الصور الحميمة المنشأة دون موافقة أصحابها، بما في ذلك الصور التي ينتجها الذكاء الاصطناعي.
وتُلزم القواعد الجديدة التطبيقات التي تتيح إنشاء المحتوى أو مشاركته بتوفير أدوات لمنع المحتوى المسيء والإبلاغ عنه وحظر المستخدمين المخالفين، كما تحظر التطبيقات التي تخفي وظائف ضارة أثناء مراجعتها، ثم تضيفها بعد الحصول على الموافقة، وهي ممارسة تعرف باسم “التحايل بالتبديل” (Bait-and-Switch).
ومع ذلك، يرى مساعد السيناتور رون وايدن أن تحديث السياسات وتوضيح قواعد الاستخدام لا يكفيان، ما لم تتمكن الشركات من تطبيقها فعليا ومراقبة التطبيقات بصورة مستمرة بعد الموافقة على نشرها.
تحذيرات من تدخل الكونجرس الأمريكي
حذر وايدن من أن الكونجرس الأمريكي قد يضطر إلى التدخل إذا لم تحسن الشركات إجراءاتها لمنع انتشار التطبيقات المصممة لإنتاج صور جنسية دون موافقة أصحابها.
وتسلط هذه القضية الضوء على تحديات الرقابة على تطبيقات الذكاء الاصطناعي، خاصة أن بعض المطورين يستطيعون إخفاء الوظائف المخالفة خلال مراجعة التطبيقات، ثم تفعيلها لاحقا، ما يجعل اكتشافها وإزالتها أكثر صعوبة.








