"تطور الذكاء الاصطناعي يزيد التنميط العرقي"

"تطور الذكاء الاصطناعي يزيد التنميط العرقي"
متظاهرة برازيليّة (أ. ب.)

شدد خبراء في الأمم المتحدة على ضرورة تعزيز الجهود العالمية لمكافحة التنميط العرقي، في ظل خطر تنامي هذا المنحى بفعل تقنيات الذكاء الاصطناعي المستخدمة للتعرف على الوجوه أو تحديد مصادر الخطر المحتملة من جانب الشرطة.

وتقول الخبيرة في حقوق الإنسان، فيرين شيبيرد، في تصريحات لـ"فرانس برس": "يتعاظم خطر استنساخ هذه الأنماط الانحيازية وتفاقمها أو بروز ممارسات تمييزية" بفعل الذكاء الاصطناعي. وتنتمي هذه الجامايكية إلى لجنة الأمم المتحدة للقضاء على العنف العنصري المؤلّفة من 18 خبيرا والتي أصدرت تقريرا عن السبل المتاحة للسلطات للتصدّي للتنميط العرقي الممارس من قبل قوى الأمن.

ولفتت اللجنة خصوصا إلى خطورة الخوارزميات (وهي سلاسل طويلة من التعليمات) المستخدمة في أدوات "التنبؤ" أو تلك الخاصة بـ"تقدير المخاطر" المعتمدة في أجهزة الشرطة، كما في محرّكات البحث ومواقع التواصل الاجتماعي لتوجيه إعلانات موجهة الهدف مثلا.

وكانت هذه الأنظمة للمساعدة في الحفاظ على الأمن والتي من المفترض أن تساهم في الحدّ من الجرائم قد انتشرت بداية في الولايات المتحدة بحدود العقد الثاني من القرن الحادي والعشرين. وهي غالبا ما تتعرّض للانتقاد باعتبار أنها تفاقم الأحكام المسبقة إزاء بعض الفئات.

وتشير شيبيرد إلى أن "البيانات التاريخية حول عمليات التوقيف في حيّ ما قد تعكس ممارسات انحياز من قبل الشرطة"، ما قد ينعكس بدوره في أنظمة الذكاء الاصطناعي. وتردف أن "هذه المعطيات قد تزيد من خطر انتشار الشرطة في موقع ما بأعداد مبالغ بها، ما قد يؤدّي إلى مزيد من عمليات التوقيف ويُحدث من ثمّ حلقة مفرغة".

وأعربت اللجنة في توصياتها عن قلقها من الاستخدام المتزايد لتقنية التعرّف على الوجوه وغيرها من التقنيات المعتمدة في المهمّات الأمنية.

ففي هذه الحالة أيضا، تكون تحاليل الذكاء الاصطناعي مرتبطة بشكل وثيق بالبيانات المستخدمة لتغذية النظام.

وقد أظهرت دراسات صعوبة هذه الأنظمة في التعرّف على الوجوه الداكنة البشرة أو حتّى النسائية.

ومن بين الأمثلة المقدّمة في هذا الصدد، توقيف الأميركي من أصل إفريقي روبرت وليامز، هذه السنة في ديترويت، بالاستناد إلى تحاليل معادلة خوارزمية ركيكة خلصت إلى أنه أحد المشتبه بهم في حادثة سرقة.

وتقول شيبيرد "تلقّينا شكاوى من هذا النوع بسبب أصل التكنولوجيا والجهات المشرفة على تطويرها والعيّنات المستخدمة في هذه الأنظمة"، مشدّدة على أن الوضع "يبعث فعلا على القلق".

وتوصي اللجنة الدول خصوصا بتنظيم الشركات العاملة في هذا المجال لضمان تماشي هذه الأنظمة مع القوانين الدولية لحقوق الإنسان وتشدّد على أهمية الشفافية من ناحية التصميم والتطبيق لا سيّما إزاء الرأي العام.

وتذكّر شيبيرد بأن "التنميط العرقي لم يبدأ مع هذه التقنيات"، لكنها تعرب عن أملها في أن يساعد "اتّساع نطاق حركة 'بلاك لايفز ماتر'... وغيرها من الحملات المندّدة بالتمييز الذي يطال بعض الفئات الضعيفة على إبراز أهمية هذه التوصيات".

"العاصمة"... القدس والفعل الثقافيّ | ملف خاص