فيسبوك وإنستغرام يحققان في محتويات جنسية مزيفة لنساء مشهورات

وقد اختيرت الحالتان «لتقويم ما إذا كانت قواعد (ميتا) وتطبيقها فعالة في معالجة (مشكلة) الصور الجنسية الناتجة عن الذكاء الاصطناعي»، وفق بيان صادر عن هذا المجلس الملقب بـ«المحكمة العليا» في مجموعة «ميتا».

ويتكون هذا المجلس الذي أنشأته المجموعة الاجتماعية العملاقة من أعضاء مستقلين، وهو مسؤول عن البت في القضايا الشائكة المتعلقة بالإشراف على المحتوى.

وقد أعطى ظهور الذكاء الاصطناعي التوليدي، القادر على إنتاج محتويات معقدة بسرعة كبيرة، زخماً جديداً لظاهرة «التزييف العميق، لا سيما صور لنساء يتم التلاعب بها مع إضفاء طابع جنسي عليها لأغراض التخويف أو التحرش».

وقال البيان إن الحالة الأولى التي اختارها المجلس الإشرافي لشركة «ميتا» تتعلق بصورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية نُشرت على «إنستغرام»، «تشبه شخصية عامة هندية».

واشتكى أحد المستخدمين من أن الشركة التي تتخذ مقراً في كاليفورنيا لم تسحب هذه الصورة.

ويشير مجلس الإدارة إلى أن «(ميتا) اعتبرت أن قرارها بترك المحتوى المنشور كان خاطئاً وأزالت المنشور لانتهاكه قواعدها المتعلقة بالتنمر والتحرش».

وتتعلق الحالة الثانية بصورة منشورة على مجموعة «فيسبوك» لإنشاء محتوى باستخدام الذكاء الاصطناعي، تُظهر «امرأة عارية مع رجل يتحسس ثدييها». المرأة «تبدو وكأنها شخصية عامة أميركية»، وورد اسمها في التوضيح المرفق بالصورة.

وأزالت «ميتا» الصورة، وأضافتها إلى بنك المحتوى الذي يُعد جزءاً من نظام تنفيذ القواعد الخاص بها، للعثور تلقائياً على الصور التي حددها الموظفون بالفعل على أنها إشكالية وإزالتها من منصاتها، وفقاً لتقرير لوكالة الصحافة الفرنسية.

وحسب دراسة أجرتها شركة «سنسيتي» الهولندية المتخصصة في الذكاء الاصطناعي عام 2019، فإن 96 في المائة من مقاطع الفيديو المزيفة عبر الإنترنت هي مواد إباحية غير رضائية، وأغلبها تصور نساء، مشهورات أو غير مشهورات.