قالت شركة "أوبن إيه آي" إن وفاة المراهق الأميركي آدم راين (16 عامًا)، الذي أنهى حياته بعد سلسلة محادثات مطوّلة مع "شات جي بي تي"، لم تكن نتيجة خلل في تقنيتها، بل ناجمة عن "سوء استخدام" الروبوت، وذلك في ردّها الرسمي على دعوى قضائية رفعتها عائلة الشاب في كاليفورنيا.
الدعوى تتهم "أوبن إيه آي" والرئيس التنفيذي سام ألتمان بأن روبوت المحادثة قدّم لآدم إرشادات حول طرق انتحار محتملة، وساعده في صياغة رسالة وداع، رغم أنه كان يعاني من ضائقة نفسية واضحة.
وتقول العائلة إن النسخة التي استخدمها الشاب طُرحت في السوق بسرعة "رغم وجود مشكلات سلامة واضحة".
لكن الشركة نفت مسؤوليتها، مؤكدة في وثائق المحكمة أن ما حدث كان نتيجة استخدام غير مصرح به أو غير متوقع للنظام، وذكرت أن شروط الخدمة تمنع صراحة طلب نصائح تتعلق بإيذاء النفس، وتشير إلى أن المستخدمين لا ينبغي الاعتماد على مخرجات الذكاء الاصطناعي كمصدر وحيد للحقيقة أو المعلومات.
وقالت أوبن إيه آي في بيان علني إنها تتعامل مع قضايا الصحة النفسية "بأعلى درجات الحذر والاحترام"، مضيفة أن تقديمها لسجلات المحادثات في الملف القضائي جاء "لتوفير سياق أوسع" حول حالة آدم الصحية وظروفه. لكنها أكدت أنها حرصت على عدم كشف الأدلة الحساسة للجمهور، وأودعتها لدى المحكمة .
محامي العائلة، جاي إدلسون، وصف رد الشركة بأنه "مقلق"، واتهمها بمحاولة تحميل الضحية نفسه المسؤولية، رغم أنه تفاعل مع النظام "بالضبط كما صُمّم ليعمل".
هذه القضية ليست الأولى من نوعها؛ فقد تلقت "أوبن إيه آي" خلال الشهر الجاري سبع دعاوى إضافية تتعلق باتهامات مشابهة، بينها شكوى تتهم "شات جي بي تي" بأنه تصرف كـ"مدرب انتحار".
وفي مواجهة هذه الانتقادات، أشارت الشركة إلى تحديثات أجرتها مؤخرًا لتعزيز آليات السلامة في المحادثات الطويلة، إذ اعترفت أنه في بعض الحالات كانت نماذجها تستجيب بشكل صحيح في البداية عبر تحويل المستخدمين إلى خطوط المساعدة، لكنها قد تُظهر لاحقًا سلوكًا يخالف قواعد الأمان بعد تبادل عدد كبير من الرسائل - وهي مشكلة تقول الشركة إنها تعمل بجد على معالجتها.
القضية تعيد فتح النقاش حول حدود مسؤولية الشركات المطورة للذكاء الاصطناعي، خصوصًا مع اتساع استخدام روبوتات المحادثة في الفئات العمرية الأصغر، وسهولة تحول هذه الأنظمة إلى مصدر خطر عند غياب الحماية الكافية أو الرقابة الأسرية.
التعليقات