قال ضباط في شبكة "جرائم الإنترنت ضد الأطفال" (ICAC) الأميركية إن أنظمة الذكاء الاصطناعي التي تستخدمها شركة "ميتا" لرصد محتوى الاستغلال الجنسي للأطفال تولّد أعدادًا كبيرة من البلاغات غير القابلة للمعالجة، ما يستنزف موارد جهات إنفاذ القانون ويبطئ التحقيقات.
وجاءت هذه التصريحات خلال جلسات محاكمة في ولاية نيومكسيكو، حيث يلاحق المدعي العام للولاية شركة "ميتا" قضائيًا بدعوى تغليب الأرباح على سلامة الأطفال. وتنفي الشركة الاتهامات، مشيرة إلى إدخال ميزات حماية افتراضية لحسابات المراهقين.
وقال بنجامين زويبيل، وهو عميل خاص ضمن قوة المهام في نيومكسيكو، أمام المحكمة: "نتلقى الكثير من البلاغات من ميتا، لكنها في كثير من الأحيان غير مفيدة". وأضاف أن الكم الكبير من الإخطارات يجعل من الصعب التركيز على القضايا ذات الأساس الجنائي الواضح.
وأشار ضابط آخر في الشبكة، فضّل عدم الكشف عن هويته، إلى أن عدد البلاغات الإلكترونية التي تلقاها قسمه تضاعف بين عامي 2024 و2025، موضحًا أن آلاف البلاغات الشهرية تفتقر في أحيان كثيرة إلى عناصر حاسمة مثل الصور أو المقاطع أو النصوص اللازمة للمضي في التحقيق.
ووفق إفادات الضباط، فإن بعض البلاغات تتضمن محتوى لا يرقى إلى مستوى الجريمة، فيما تشير أخرى إلى احتمال وقوع انتهاك، لكن من دون بيانات كافية لتحديد المشتبه بهم. وقال أحدهم إن البلاغات الواردة من "إنستغرام" ارتفعت بصورة حادة خلال الأشهر الأخيرة، مع نقص ملحوظ في المعلومات المرفقة.
من جانبها، أكدت "ميتا" أنها تدعم جهات إنفاذ القانون منذ سنوات، مشيرة إلى أن وزارة العدل الأميركية أشادت بتعاونها السريع الذي ساهم في تنفيذ عمليات توقيف. وأضافت أنها أحالت في عام 2024 أكثر من 13.8 مليون بلاغ إلى "المركز الوطني للأطفال المفقودين والمستغلين" (NCMEC)، من أصل 20.5 مليون بلاغ تلقاها المركز في ذلك العام.
وبموجب القانون الأميركي، تلتزم شركات التواصل الاجتماعي بالإبلاغ عن أي مواد يُشتبه بأنها تتعلق بالاستغلال الجنسي للأطفال إلى NCMEC، الذي يحيلها بدوره إلى الجهات المختصة داخل الولايات المتحدة وخارجها. غير أن المركز لا يملك صلاحية استبعاد البلاغات غير القابلة للمعالجة قبل إرسالها إلى أجهزة إنفاذ القانون.
وتستخدم "ميتا" أنظمة ذكاء اصطناعي لرصد المحتوى المشبوه، إلى جانب مراجعين بشريين للتدقيق في جزء من المواد قبل الإبلاغ عنها. إلا أن تقارير سابقة أفادت بأن البلاغات التي يُنشئها الذكاء الاصطناعي من دون مراجعة بشرية قد تتطلب مذكرة قضائية إضافية لتمكين المحققين من الاطلاع عليها، ما يطيل أمد الإجراءات.
ويأتي تصاعد البلاغات في أعقاب دخول "قانون الإبلاغ المعدّل" (Report Act) حيّز التنفيذ في نوفمبر/تشرين الثاني 2024، والذي وسّع نطاق التزامات الشركات ليشمل الإبلاغ عن حالات الاستغلال الوشيك والاتجار الجنسي بالأطفال، مع تشديد العقوبات على الإخلال بالواجبات القانونية.
ويرى بعض الضباط أن ارتفاع عدد البلاغات غير القابلة للمعالجة قد يكون نتيجة سعي الشركات إلى الامتثال الصارم للتشريعات الجديدة. غير أنهم يحذرون من أن تدفق الإخطارات منخفضة الجودة يؤثر سلبًا على القدرة العملياتية، ويضعف المعنويات داخل الوحدات المختصة.
وقال أحد الضباط: "نحن نغرق في البلاغات، بينما نريد توجيه جهودنا إلى القضايا الحقيقية. الموارد البشرية محدودة، ومن الصعب مواكبة هذا التدفق المتزايد".
