أعلنت شركة "ميتا" عن إطلاق أدوات جديدة تتيح للآباء حظر تواصل أطفالهم مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي، وذلك بعد تقارير أثارت القلق حول محادثات غير لائقة بين هذه الروبوتات والمستخدمين القُصّر.
ووفقًا للإجراءات الجديدة، سيتمكن أولياء الأمور من إيقاف جميع التفاعلات بين حسابات أبنائهم المراهقين – الذين تقل أعمارهم عن 18 عامًا – وروبوتات الدردشة التي تنتشر في تطبيقات فيسبوك وإنستغرام وتطبيق Meta AI. كما سيتمكنون من حظر شخصيات معينة فقط دون منع التفاعل مع جميع الروبوتات، بالإضافة إلى الحصول على "رؤى" حول المواضيع التي يتحدث عنها أطفالهم مع هذه الروبوتات.
وقالت "ميتا" إن هذه التحديثات ستُطبق بداية من العام المقبل في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، ضمن جهود الشركة لتوفير "بيئة رقمية أكثر أمانًا للعائلات"، على حد تعبير آدم موسيري، رئيس إنستغرام، وألكسندر وانغ، كبير مسؤولي الذكاء الاصطناعي في "ميتا".
وتأتي هذه الخطوة بعد موجة من الانتقادات الحادة، حيث كشفت تقارير صحفية أن بعض روبوتات الدردشة كانت تدخل في محادثات "رومانسية أو حسّية" مع أطفال. وأشارت صحيفة وول ستريت جورنال في وقت سابق إلى أن روبوتات تحمل أسماء مثل "Hottie Boy" و"Submissive Schoolgirl" شجّعت القُصّر على الدخول في محادثات جنسية، بل استخدمت شخصيات لمشاهير مثل جون سينا في سيناريوهات غير لائقة.
وفي استجابة لهذا الجدل، أكدت "ميتا" أنها عدّلت الإرشادات الخاصة بروبوتات الذكاء الاصطناعي، مشددة على أنه لن يُسمح بعد الآن بمناقشة مواضيع مثل إيذاء النفس أو السلوكيات الغذائية المضطربة مع المستخدمين المراهقين، وستُقتصر المحادثات على موضوعات مناسبة مثل التعليم والرياضة.
كما أعلنت إنستغرام هذا الأسبوع أنها ستتبنى نظام تصنيف يشبه تصنيف الأفلام PG-13 لتحديد ما يمكن للمراهقين رؤيته أو التفاعل معه على المنصة، في خطوة تهدف لتعزيز الرقابة الأبوية.
يُذكر أن روبوتات "ميتا" تعتمد على تقنيات متقدمة تتيح للمستخدمين إجراء محادثات طبيعية مع شخصيات مدعومة بالذكاء الاصطناعي، لكن التجاوزات الأخيرة أثارت مخاوف بشأن مدى الأمان في استخدام هذه الأدوات بين الفئات العمرية الصغيرة.
التعليقات