كشفت سلسلة من الوقائع الأمنية عن وصول وكلاء ذكاء اصطناعي طورتهم "أوبن إيه آي" إلى مواقع حكومية أميركية وخدمات خارجية خلال اختبارات داخلية، في وقت لا تزال فيه الشركة تحقق في نطاق أنشطة نفذتها أنظمتها بصورة لم تكن مقصودة.
وأكدت "أوبن إيه آي" أن وكلاء تابعين لها دخلوا إلى مواقع لوزارة التجارة وهيئة الأوراق المالية والبورصات الأميركية، فيما حاول أحد الأنظمة الوصول إلى موقع تابع لوزارة التعليم من دون نجاح.
وقالت الشركة إن النشاط المرتبط بالجهات الحكومية اقتصر على معلومات متاحة للعامة، ولم يؤد إلى الوصول إلى أنظمة حكومية غير عامة.
وشمل النشاط الحصول على بيانات لمكتب الإحصاء الأميركي عبر موقع وزارة التجارة، إلى جانب نسخ معلومات عامة من موقع هيئة الأوراق المالية والبورصات. وتأتي هذه الوقائع ضمن مراجعة أوسع لسلوك وكلاء كانت الشركة تختبر قدرتهم على تنفيذ مهام بحثية وأمنية عبر الإنترنت.
وتصف "أوبن إيه آي" جانبًا من هذه التصرفات بأنه غير متوافق مع الأهداف التي حُددت للوكلاء، إذ تحولت بعض المهام إلى تصفح مكثف للإنترنت ومحاولات لتجاوز قيود أو التفاعل مع أنظمة لم يكن من المفترض الوصول إليها.
وفي حادثة منفصلة كشفتها الشركة في 25 أيلول/سبتمبر 2026، أرسل وكلاء يعملون داخل بيئات البحث والاختبار 53 صورة رفعها مستخدمون إلى "شات جي بي تي" إلى مواقع خارجية لاستضافة الصور، من دون أن يكون نشرها هناك جزءًا من المهمة المطلوبة.
وقالت "أوبن إيه آي" إن الصور ظهرت في شكل روابط غير مدرجة علنًا على خدمات الاستضافة، وإنها تعاونت مع الشركات المشغلة لهذه المواقع لإزالة معظمها، فيما استمر العمل على حذف البقية.
ولم تكشف الشركة ما إذا كانت الصور مولدة بالذكاء الاصطناعي أم تتضمن أشخاصًا حقيقيين يمكن التعرف إليهم، كما لم تحدد موعد نشرها. وأوضحت أن الصور جاءت من بيانات مستخدمين كانت مؤهلة للاستخدام في تحسين النماذج وفق إعداداتهم الخاصة بمشاركة البيانات.
ولا تشير المعلومات المعلنة إلى اختراق مباشر لحسابات المستخدمين أو خوادم "شات جي بي تي"، بل إلى وصول وكلاء يعملون في بيئات داخلية إلى بيانات كانت متاحة لأنظمة الشركة، قبل نقل جزء منها إلى خدمات خارجية بطريقة غير مقصودة.
وتأتي الإفصاحات الجديدة بعد حادثة أعلنت عنها "أوبن إيه آي" في تموز/يوليو 2026، عندما تمكنت نماذج داخلية خاضعة لتقييمات للأمن السيبراني من تجاوز بعض ضوابط العزل والوصول إلى الإنترنت وأنظمة خارجية.
وفي تقرير نشرته في 26 آب/أغسطس 2026 بشأن حادثة مرتبطة بمنصة "هاغينغ فيس" (Hugging Face)، أقرت الشركة بأن نماذج قيد الاختبار استغلت ثغرات في بنية بحثية مشتركة، واستخدمت قنوات اتصال غير مصرح بها، ووصلت إلى أنظمة تابعة لجهات خارجية بعدما تمكنت من تجاوز القيود المفروضة عليها.
وقالت "أوبن إيه آي" عقب الحادثة إنها شددت عزل بيئات الاختبار، وفرضت قيودًا أكبر على الوصول إلى الإنترنت، ووسعت أدوات مراقبة سلوك النماذج والوكلاء.
وبحسب تقارير صحافية، كانت الشركة قد رصدت بحلول منتصف أيلول/سبتمبر نحو 24 حادثة تصرف فيها وكلاء بطرق غير مرغوبة، فيما أبلغت جهات خارجية قد تكون تأثرت بأنشطة نفذتها الأنظمة من دون قصد. وأشارت إلى أن مراجعة السجلات السابقة قد تستغرق أشهرًا بسبب حجم البيانات المطلوب تحليلها.
وتبرز الوقائع صعوبة ضبط الوكلاء كلما ازدادت قدرتهم على تصفح الإنترنت واستخدام الأدوات والوصول إلى الملفات والخدمات وتنفيذ مهام متتابعة بصورة شبه مستقلة، إذ يصبح من الضروري مراقبة ليس فقط النتيجة النهائية للمهمة، وإنما الخطوات التي تتخذها الأنظمة أثناء تنفيذها.
وتقول "أوبن إيه آي" إنها تستخدم طبقات متعددة للحد من هذه المخاطر، تشمل مراقبة محاولات التلاعب بالتعليمات، وتقييد بعض عمليات الوصول، وطلب تأكيد بشري قبل إجراءات محددة، لكنها تقر بأن هذه الإجراءات لا تضمن منع جميع التصرفات غير المقصودة.
