في العصر الرقميّ الحديث، أصبحت الخوارزميّات أدوات تشكّل تقريبًا كلّ شيء على شبكة الإنترنت، من المحتوى الّذي نراه على منصّات التواصل الاجتماعيّ إلى المنتجات الّتي نواجهها في التسوّق عبر الإنترنت، ونظرًا لأنّ الخوارزميّات تقود بشكل متزايد عمليّات صنع القرار، فقد نشأت مخاوف بشأن قدرتها على التحكّم في الأفكار والمواقف والتأثير عليها.
ويعدّ التأثير المتزايد للخوارزميّات على أفكارنا ومواقفنا قضيّة معقّدة ومتعدّدة الأوجه، وعلى الرغم من أنّ الخوارزميّات لديها القدرة على تحسين تجارب المستخدم وتقديم توصيات قيّمة، إلّا أنّها تمتلك أيضًا القدرة على معالجة التحيّزات واستقطابها وتعزيزها، حيث سلّطت الدراسات والأبحاث الضوء على الحالات الّتي تشكّل فيها الخوارزميّات خيارات المستخدمين وعواطفهم وآرائهم، ممّا يثير مخاوف أخلاقيّة حول الاستقلاليّة والتلاعب والتمييز.
وتتمتّع الخوارزميّات، المدعومة بالتعلّم الآليّ وتحليلات البيانات، بالقدرة على معالجة كمّيّات هائلة من المعلومات وتخصيص المحتوى للمستخدمين الفرديّين، وغالبًا ما يهدف هذا التخصيص إلى تحسين تجربة المستخدم، ولكنّه يفتح أيضًا الباب للتلاعب بالأفكار والمواقف، وتشير ظاهرة "فقّاعة التصفية"، إلى التخصيص الحسابيّ للمحتوى عبر الإنترنت، ممّا يؤدّي إلى تعرّض المستخدمين بشكل أساسيّ للمعلومات الّتي تتوافق مع معتقداتهم وتفضيلاتهم الحاليّة، حيث يمكن لهذا التخصيص إنشاء غرف صدى، وتعزيز المواقف الحاليّة والحدّ من التعرّض لوجهات نظر متنوّعة.
وأظهرت الدراسات أنّ التوصيات الخوارزميّة تلعب دورًا مهمًّا في تشكيل خيارات المستخدمين ومواقفهم، على سبيل المثال، وجدت دراسة أجراها باحثون في جامعة بنسلفانيا وجامعة كاليفورنيا في لوس أنجلوس أنّ خوارزميّة التوصية في يوتيوب تميل إلى توجيه المستخدمين نحو محتوى أكثر تطرّفًا بمرور الوقت، وكشفت الدراسة أنّ المستخدمين الّذين شاهدوا في البداية محتوى سياسيًّا معتدلًا كانوا أكثر عرضة للتوصية بمقاطع الفيديو المتطرّفة، والّتي يمكن أن تسهم في الاستقطاب والتطرّف.
بالإضافة إلى ذلك، تعرّضت منصّات التواصل الاجتماعيّ لانتقادات لدورها في تضخيم المحتوى المشحون عاطفيًّا، حيث كشفت دراسة أجراها فريق علوم البيانات في فيسبوك في عام 2014 أنّه من خلال التلاعب بخلاصات الأخبار للمستخدمين لعرض منشورات إيجابيّة أو سلبيّة، يمكن أن تؤثّر على الحالة العاطفيّة للمستخدمين، وسلّطت هذه التجربة الضوء على قوّة الخوارزميّات للتحكّم في العواطف من خلال تنسيق المحتوى لاستحضار ردود فعل محدّدة.
وتثير قدرة الخوارزميات على التأثير في الأفكار والمواقف مخاوف أخلاقية كبيرة، وأحد الشواغل الرئيسية هو إمكانية التلاعب والاستغلال، حيث إذا تم تصميم الخوارزميات لدفع المستخدمين نحو محتوى أو منتجات أو أفكار معينة دون وعيهم ، فقد يؤدي ذلك إلى تآكل استقلالية الأفراد والتلاعب بعمليات صنع القرار الخاصة بهم، ويصبح هذا الأمر إشكاليًا بشكل خاص عندما يكون هذا التلاعب مدفوعًا بمصالح تجارية أو أجندات سياسية.
وتعدّ فضيحة "كيمبردج أنالتيكا" بمثابة مثال صارخ على كيفيّة استخدام الخوارزميّات للتلاعب بالرأي العامّ، حيث جمعت الشركة البيانات الشخصيّة من ملايين مستخدمي فيسبوك لإنشاء ملفّات تعريف نفسيّة واستهدافهم بإعلانات سياسيّة مخصّصة خلال الانتخابات الرئاسيّة الأمريكيّة لعام 2016، وكشفت هذه الحادثة كيف يمكن للتلاعب الخوارزميّ أن يقوّض العمليّات الديمقراطيّة ويؤثّر على المواقف العامّة على نطاق واسع.
وتشير الدراسات أيضًا إلى أنّ التخصيص الخوارزميّ يمكن أن يكون له عواقب سلبيّة غير مقصودة، حيث تحدث ظاهرة "التحيّز الخوارزميّ" عندما تعزّز الخوارزميّات التحيّزات المجتمعيّة القائمة، ممّا يؤدّي إلى نتائج غير عادلة وتمييزيّة، على سبيل المثال، ثبت أنّ الخوارزميّات المتحيّزة في أنظمة العدالة الجنائيّة تستهدف بشكل غير متناسب المجتمعات المهمّشة، ومثل هذه الحالات لا تديم الظلم الاجتماعيّ فحسب، بل تساهم أيضًا في تشكيل المواقف السلبيّة تجاه هذه المجتمعات.
وتتطلّب معالجة التحدّيات الأخلاقيّة المرتبطة بالتلاعب الخوارزميّ نهجًا متعدّد الأوجه، وخطوة مهمّة واحدة هي زيادة التنظيم والشفّافيّة، واتّخذت اللائحة العامّة لحماية البيانات في الاتّحاد الأوروبّيّ (GDPR) خطوة في هذا الاتّجاه من خلال تزويد الأفراد بمزيد من التحكّم في بياناتهم الشخصيّة ومطالبة الشركات بتقديم تفسيرات واضحة للقرارات الآليّة. ومع ذلك، لا تزال هناك حاجة إلى لوائح أوسع تركّز بشكل خاصّ على تأثير الخوارزميّات على الأفكار والمواقف.
بالإضافة إلى ذلك، يمكن للشفّافيّة المتزايدة في تصميم ونشر الخوارزميّات أن تمكّن المستخدمين من اتّخاذ قرارات مستنيرة بشأن مشاركتهم عبر الإنترنت، وبحسب خبراء، يجب على الشركات الكشف عن كيفيّة قيام الخوارزميّات برعاية المحتوى، ويجب أن يكون لدى المستخدمين خيار تعديل إعداداتهم لتنويع المحتوى الّذي يتعرّضون له، حيث يمكن أن تساعد هذه الشفّافيّة في التخفيف من مخاطر وقوع الأفراد في فقّاعات المرشّح وغرف الصدى.
ويعدّ تعزيز محو الأمّيّة الرقميّة ومهارات التفكير النقديّ جانبًا مهمًّا آخر لمواجهة التحدّيات الّتي يفرضها التلاعب الخوارزميّ، وذلك من خلال تثقيف المستخدمين حول كيفيّة عمل الخوارزميّات، والتحيّزات الّتي يمكن أن تحملها، وتأثيرها المحتمل على المواقف، يمكن للأفراد تطوير نهج أكثر تمييزًا للمحتوى الّذي يستهلكونه، كما يمكن للمدارس والمؤسّسات الإعلاميّة وشركات التكنولوجيا التعاون لتوفير الموارد التعليميّة الّتي تمكّن المستخدمين من التنقّل في المشهد الرقميّ بشكل أكثر مسؤوليّة.
التعليقات