أظهرت دراسة أجراها باحثون من جامعة "أكسفورد" أنّ اثنين من أبرز نماذج الذكاء الاصطناعي المفتوحة المصدر يتعاملان مع المستخدمين بشكل مختلف استنادًا إلى ما يفترضانه من هوياتهم العرقية أو الجندرية أو العمرية، حتى عندما تكون الأسئلة واقعية ومحايدة.
وبحسب الدراسة، فإن النموذجين، وهما "Llama3" الذي طورته "ميتا" ويتضمن 70 مليار معامل، و"Qwen3" من شركة "علي بابا" ويضم 32 مليار معامل، يقومان بتعديل الإجابات بناءً على مؤشرات لغوية بسيطة يستنتجان منها هوية المستخدم.
وفي بعض الحالات، أدى هذا إلى اقتراح رواتب ابتدائية أقل لمستخدمين من أصحاب البشرة السمراء، أو تقديم نصائح طبية وقانونية مختلفة رغم تطابق السؤال.
الباحثون لاحظوا أن هذه التحيزات ظهرت في خمس مجالات رئيسية: تقديم المشورة الطبية، والمشورة القانونية، واستحقاقات الدعم الحكومي، وتقديرات الرواتب، والأسئلة السياسية.
وبحسب الدراسة، فإن هذه التحيزات ليست استثناءات عشوائية، بل أنماط متكررة تظهر بنحو منظم في تفاعلات النماذج مع المستخدمين.
واعتمد فريق البحث على قاعدة بيانات PRISM Alignment، والتي تضم أكثر من 8000 محادثة واقعية جُمعت نهاية عام 2024 بين أكثر من 1300 مستخدم و21 نموذجًا لغويًا.
كما استخدم الباحثون مجموعة ثانية من الأسئلة المصاغة بصيغة المتكلم الأول لتقليد سيناريوهات حقيقية، حيث لا يُفترض أن تختلف الإجابات بحسب هوية السائل.
وعند اختبار النماذج، اكتشف الفريق أن "Llama3" ميّز النساء إيجابيًا في الردود القانونية وتقديرات الرواتب، بينما قدم "Qwen3" نصائح قانونية أكثر فائدة للمستخدمين من أصحاب البشرة السمراء مقارنة بأصحاب البشرة البيضاء، في حين أظهر تحيزًا سلبيًا تجاه الأشخاص ذوي العرق المختلط.
وفي مجال الرعاية الصحية، لوحظ أن النماذج كانت تميل إلى حث المستخدمين من أصحاب البشرة السمراء على طلب المساعدة الطبية بوتيرة أعلى، حتى عندما كانت الأعراض الموصوفة متطابقة مع مستخدمين آخرين من خلفيات عرقية مختلفة. هذا النوع من السلوك، وإن بدا حريصًا، قد يُفضي إلى توصيات غير متكافئة وغير دقيقة.
أما في ما يخص الأسئلة السياسية، فقد تبنّت النماذج لهجة أكثر ليبرالية عند التفاعل مع النساء أو المستخدمين من أصول لاتينية، بينما أبدت ميولًا أكثر محافظة مع المستخدمين من أصحاب البشرة السمراء، ما يثير تساؤلات حول حيادية هذه النماذج في المسائل الفكرية الجدلية.
واحدة من أكثر النتائج المثيرة للقلق في الدراسة هي أن هذه التحيزات لا تنشأ من الإفصاح الصريح عن هوية المستخدم، بل من قدرة النماذج على تحليل أنماط لغوية دقيقة لافتراض الهوية، وهي قدرة يصعب مراقبتها أو ضبطها.
وأشار الباحثون إلى أن هذه "التحيزات الصامتة" تشكل تهديدًا خطيرًا، خصوصًا في القطاعات التي بدأت تعتمد على الذكاء الاصطناعي، مثل خدمات الاستشارة النفسية، أو الأنظمة الصحية العامة مثل "NHS" البريطانية.
ودعت الدراسة المؤسسات المطوّرة للنماذج اللغوية إلى اعتماد معايير صارمة لرصد التحيزات الاجتماعية واللغوية، وتحسين قدرة النماذج على تقديم إجابات محايدة بغض النظر عن هوية المستخدم.
كما أوصى الباحثون بضرورة تطوير أدوات متخصصة لرصد هذه الأنماط قبل أن تُطرح النماذج على نطاق واسع.
