دعا مجلس الرقابة التابع لشركة "ميتا" إلى تشديد إجراءات حماية المستخدمين الذين يتعرضون لمحتوى جنسي مفبرك باستخدام تقنيات الذكاء الاصطناعي، مطالبًا بإدراج هذه الانتهاكات ضمن سياسة الشركة الخاصة بالاستغلال الجنسي للبالغين، باعتبار أن هذا النوع من المحتوى يُنتج دون موافقة الضحايا.
وحثّ المجلس الشركة على تمكين المستخدمين من تعيين "حسابات مرتبطة" تضم أفرادًا موثوقين من العائلة أو الأصدقاء، بما يتيح لهم الإبلاغ عن الانتهاكات نيابةً عن الضحايا. كما أوصى باستحداث فئة مستقلة للتزييف الجنسي المعتمد على الذكاء الاصطناعي ضمن نماذج الإبلاغ والطعون، بدل إدراجه حاليًا ضمن فئات التحرش أو العري.
وأشار المجلس إلى أن خدمة الإبلاغ المخصصة للصور الحميمة المفبركة بتقنية التزييف العميق متاحة حاليًا فقط للمستخدمين في ولايتي تكساس وفلوريدا الأميركيتين، داعيًا إلى تعميمها عالميًا. وأكد أن الانتهاكات الجنسية غير الرضائية الناتجة عن تقنيات الذكاء الاصطناعي، بما يشمل انتحال الشخصيات لأغراض جنسية، أصبحت مشكلة عالمية متنامية.
وجاءت هذه التوصيات عقب تحقيق أجراه المجلس بشأن مقطع فيديو نُشر على "إنستغرام" ومُنتج بالذكاء الاصطناعي، أظهر امرأة بصورة مضللة بعد التلاعب بمشاهد لها. ووفق التحقيق، أبلغ أحد أصدقاء السيدة المتضررة عن المحتوى، كما تقدمت الضحية نفسها ببلاغ، إلا أن "ميتا" لم تُزل الفيديو في البداية.
وخلص المجلس إلى أن آليات الشركة الحالية تفرض عمليًا على الأشخاص غير المشهورين تقديم البلاغات بأنفسهم لإثبات عدم موافقتهم على هذا النوع من المحتوى، في حين أن اللجوء إلى الشرطة أو وسائل الإعلام يبقى خيارًا أكثر سهولة للشخصيات العامة مقارنة بالمستخدمين العاديين.
