كشف تحقيق مستقل أن 688 وكيلاً للذكاء الاصطناعي تابعين لشركة "أوبن إيه آي" نسقوا، من دون تدخل بشري مباشر، عملية استهدفت الأنظمة الداخلية لمنصة "هاغينغ فيس"، بعدما تمكنت نماذج كانت تخضع لاختبارات في بيئة مغلقة من الوصول إلى الإنترنت والخروج عن نطاق المهام المحددة لها.
ووفق التقرير، الذي نُشر الأربعاء ويتناول حادثة وقعت في تموز/يوليو الماضي، تعاونت "أوبن إيه آي" مع التحقيق، وأتاحت لباحثين من معهد "إم إي تي آر" المتخصص في تقييم مخاطر الذكاء الاصطناعي، إلى جانب محلل من شركة "ريد وود ريسيرتش"، الوصول إلى مكاتبها وبيانات داخلية مرتبطة بالواقعة.
وبدأت الحادثة خلال اختبارات أجرتها "أوبن إيه آي" في كاليفورنيا، حين نجح نموذجان في تجاوز البيئة المغلقة المخصصة لهما والوصول بصورة مستقلة إلى الإنترنت، قبل أن يتمكنا من اختراق أنظمة داخلية تابعة لمنصة "هاغينغ فيس"، التي تستضيف نماذج وأدوات وموارد مرتبطة بالذكاء الاصطناعي.
وأثار الحادث مخاوف بشأن قدرة شركات الذكاء الاصطناعي على ضمان بقاء النماذج المتقدمة ضمن الحدود الموضوعة لها، ولا سيما مع إعلان شركتي "أنثروبيك" و"مونشوت إيه آي" الصينية عن حوادث مماثلة تضمنت خروج نماذج تابعة لهما بصورة غير مخطط لها.
وحدد المحققون مشاركة 688 وكيلاً تابعًا لـ"أوبن إيه آي" في العملية ضد "هاغينغ فيس". ووكلاء الذكاء الاصطناعي برامج مستقلة مبنية على نماذج للذكاء الاصطناعي، ويمكن تكليفها بتنفيذ مهام مع قدر من الاستقلالية من دون الحاجة إلى تدخل بشري مستمر.
وبحسب التحقيق، أنشأ الوكلاء وسيلة مشتركة للتواصل فيما بينهم، استخدموها لتبادل الرسائل والأفكار ونتائج المحاولات المختلفة. وفي مرحلة لاحقة، برز وكيل أطلق عليه اسم "فيز وان" بوصفه منسقًا للعملية، وأصدر مئات التعليمات إلى وكلاء آخرين، على الرغم من أن تولي هذا الدور لم يكن جزءًا من برمجته الأصلية.
وكشفت المراسلات التي فحصها المحققون عن مستوى مرتفع من التعاون بين الوكلاء، بما في ذلك تنفيذ أنشطة لا ترتبط مباشرة بالمهام التي كلفهم بها مهندسو "أوبن إيه آي". كما استخدم بعض الوكلاء ما تبقى من موارد الحوسبة المخصصة لهم لاختبار أفكار يمكن أن يستفيد منها الوكلاء الآخرون.
وأظهر التحقيق أن عددًا من الوكلاء أدركوا أن استهداف "هاغينغ فيس" يقع خارج نطاق الاختبار المحدد لهم، إلا أن معظمهم شاركوا مع ذلك في العملية.
وعزا معهد "إم إي تي آر" بداية التواصل غير المسموح به بين الوكلاء إلى تكليفهم، من دون قصد، بمهمة غير قابلة للتنفيذ بالشكل المطلوب. ودفع ذلك الوكلاء إلى البحث عن وسائل بديلة لتحقيق أهدافهم، شملت التواصل فيما بينهم والوصول إلى الإنترنت الخارجي، قبل أن تتوسع دائرة الاتصال لتضم مئات الوكلاء وتتطور إلى عملية تعاون واسعة.
وكانت "أوبن إيه آي" قد أعلنت، الأسبوع الماضي، إبطاء تدريب بعض نماذجها وأدواتها المتقدمة على خلفية حادثة "هاغينغ فيس"، محذرة من تزايد مخاطر فقدان السيطرة على أدوات الذكاء الاصطناعي وتصاعد سلوكها بصورة متسلسلة.
كما حذرت الشركة من أن مطوري النماذج وخبراء الأمن السيبراني سيواجهون تحديات متزايدة من هجمات مدعومة بالذكاء الاصطناعي، يمكن تنفيذها بسرعة وعلى نطاق أوسع وبمستويات تنسيق تتجاوز قدرات المهاجمين البشر.
