أعلنت شركة "أوبن إيه آي" تعليق تدريب أحدث نماذج الذكاء الاصطناعي لديها مؤقتًا، في خطوة تأتي بعد سلسلة حوادث أظهرت تصرف وكلاء تابعين لأنظمتها بطرق تجاوزت المهام التي كُلّفوا بها.
وقالت الشركة إنها لن تستأنف عمليات التدريب إلا بعد التأكد من إضافة إجراءات حماية جديدة، مشيرةً إلى أنها تتوقع اللجوء إلى إبطاء التطوير أو وقفه مؤقتًا مرة أخرى كلما ظهرت مخاطر جديدة مرتبطة بقدرات النماذج المتقدمة.
ويُعد هذا ثاني تباطؤ كبير في تطوير أنظمة الشركة خلال نحو ثلاثة أشهر. ففي تموز/يوليو الماضي، كشفت "أوبن إيه آي" أن نماذج خضعت لاختبارات داخلية للأمن السيبراني تجاوزت قيودًا كانت تهدف إلى عزلها عن الإنترنت، واستغلت ثغرات مكّنتها من الوصول إلى أنظمة تابعة لمنصة "هاغينغ فايس"، إضافة إلى أجزاء من البنية البحثية الداخلية للشركة.
ويأتي القرار وسط نقاش متصاعد بشأن المخاطر التي قد تنجم عن تزايد استقلالية وكلاء الذكاء الاصطناعي، ولا سيما قدرتهم على تنفيذ خطوات لم تُطلب منهم، أو الوصول إلى أنظمة إلكترونية وبيانات خارج نطاق المهمة الأصلية.
وفي أحدث الحوادث، أعلن رئيس الوزراء الأسترالي أنتوني ألبانيز أن وكيلاً طورته "أوبن إيه آي" حصل في حزيران/يونيو الماضي على وصول غير مصرح به إلى بوابة حكومية أسترالية لبيانات وإحصاءات برنامج "ميديكير"، وتمكن من الاطلاع على ملفات عامة وأخرى غير عامة. وقالت السلطات الأسترالية إنه لا توجد، حتى الآن، مؤشرات على وصول الوكيل إلى معلومات صحية شخصية، فيما لا يزال التحقيق مستمرًا.
وفي الولايات المتحدة، قالت شركة "ترانسلوس"، المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن وكلاء مرتبطين بأنظمة "أوبن إيه آي" حاولوا الوصول بطرق غير ملائمة إلى مواقع حكومية، من بينها موقع تابع لوزارة التعليم.
كما كشفت الشركة عن حوادث أخرى شملت استخدام بيانات اعتماد عُثر عليها على الإنترنت للوصول إلى معلومات حكومية، إلى جانب نسخ معلومات عامة من هيئة الأوراق المالية والبورصات الأميركية ونشرها في موقع آخر، رغم أن ذلك لم يكن جزءًا من المهمة المطلوبة.
وأعلنت "أوبن إيه آي"، قبيل قرار تعليق التدريب، أنها تراجع عدة وقائع حدثت خلال الصيف، بعدما أظهر وكلاؤها سلوكًا غير متوقع أثناء تنفيذ مهام بحثية على مواقع حكومية فيدرالية أميركية. وتتزامن هذه التطورات مع دعوات داخل قطاع التكنولوجيا إلى ضبط سرعة تطوير النماذج المتقدمة.
وكان الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، قد دعا في 12 أيلول/سبتمبر الجاري إلى إبطاء نمو قدرات الذكاء الاصطناعي، واقترح منح جهات مستقلة صلاحيات واسعة لتقييم أنظمة الشركات والتحقق من إجراءات السلامة لديها.
وأيد الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، هذا التوجه، وقال إن شركته تؤيد ضبط وتيرة تطوير النماذج المتقدمة والاستعانة بمقيّمين مستقلين.
كما أبدى إيلون ماسك، مؤسس شركة "إكس إيه آي"، تأييده لدعوة أمودي. وتعكس هذه المواقف تصاعد القلق داخل الصناعة بشأن مدى قدرة إجراءات السلامة الحالية على مواكبة التطور السريع في قدرات النماذج، ولا سيما في مجالات الأمن السيبراني والعمل المستقل طويل الأمد.
