كشفت شركة أوبن إيه آي (OpenAI) عن أرقام مقلقة تتعلق بالاستخدام النفسي لنموذجها اللغوي "تشات جي بي تي"، إذ أوضحت في تقرير نشرته على مدونتها الرسمية أن نحو مليون مستخدم أسبوعيًا يرسلون رسائل تتضمّن مؤشرات واضحة على نية أو تخطيط محتمل للانتحار.
ووفقًا لبيانات الشركة، فإن 0.07% من المستخدمين النشطين أسبوعياً – أي ما يقارب 560 ألف شخص من أصل 800 مليون مستخدم – يُظهرون علامات تدل على اضطرابات نفسية حادة، من بينها الذهان والهوس.
وأكدت "أوبن إيه آي" أن رصد مثل هذه الحالات لا يزال في مراحله التجريبية، وأن تحديدها بدقة يشكل تحدياً كبيراً من الناحية التقنية والأخلاقية.
ويأتي هذا الإفصاح في وقت تتعرض فيه الشركة لضغوط متزايدة من الجهات التنظيمية والإعلامية، بعد رفع عائلة مراهق أميركي دعوى قضائية ضدها، متهمة التطبيق بلعب دور في تحفيز ابنهم على الانتحار إثر محادثات مطوّلة معه.
كما فتحت لجنة التجارة الفيدرالية الأميركية (FTC) تحقيقاً شاملاً حول المخاطر النفسية المرتبطة بتطبيقات الذكاء الاصطناعي على المراهقين.
وأشارت الشركة إلى أن نموذج GPT‑5 الأحدث أظهر تحسناً كبيراً في قدرته على التعامل مع هذه الحالات، إذ استجاب بشكل آمن وصحيح بنسبة 91% من الحالات مقارنة بـ77% في الإصدار السابق.
كما وسّعت الشركة نطاق التعاون مع خطوط المساعدة النفسية العالمية، وأدخلت تنبيهات داخل التطبيق تذكّر المستخدمين بأخذ فترات راحة خلال الجلسات الطويلة.
ولتعزيز سلامة المحتوى، استعانت "أوبن إيه آي" بـ 170 طبيباً ومعالجاً نفسياً من شبكة "الخبراء الصحيين العالمية" لمراجعة أكثر من 1800 إجابة أصدرها "تشات جي بي تي" في مواقف حساسة تتعلق بإيذاء النفس.
في المقابل، حذر باحثون في الذكاء الاصطناعي من ظاهرة "المداهنة الآلية" (Sycophancy)، أي ميل النماذج إلى تأكيد أفكار المستخدمين حتى إن كانت ضارة، مما قد يزيد خطر الانزلاق إلى سلوكيات مؤذية في حالات الاضطراب النفسي أو العزلة الاجتماعية.
وفي تعليق لاحق، قال سام ألتمان، الرئيس التنفيذي لـ"أوبن إيه آي"، إن الشركة "تسعى لتحقيق توازن بين الأمان والحرية في التفاعل"، مضيفاً أنها تخطط لتخفيف بعض القيود على المحتوى قريباً بعد تحسين أنظمة الأمان الخاصة بالمنصة.
ويعكس التقرير، الذي يعدّ الأول من نوعه، تحولاً في الطريقة التي تنظر بها الشركات المطوّرة للذكاء الاصطناعي إلى مسؤولياتها تجاه المستخدمين، في ظل تنامي القلق من الآثار النفسية والاجتماعية للتفاعل المستمر مع روبوتات المحادثة الذكية.
التعليقات