سجل مرصد متخصص في متابعة سلوك أنظمة الذكاء الاصطناعي مئات الحالات التي قال إنها تضمنت خروج وكلاء ذكيين عن تعليمات مستخدميهم أو اتباع سلوكيات تنطوي على الخداع وتجاوز الأوامر، وسط دعوات إلى إنشاء آلية رسمية لرصد هذه الحوادث بدل الاعتماد على بلاغات منصات التواصل الاجتماعي.
وبحسب بيانات مرصد "Loss of Control"، ارتفع معدل الحالات المسجلة خلال تموز/يوليو 2026 إلى نحو 300 حادثة، بما يعادل ضعف المستوى المسجل في حزيران/يونيو السابق.
وأُنشئ المرصد حديثًا بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، وبدأ نشاطه في تشرين الثاني/نوفمبر الماضي، مع تركيزه على الحالات التي يتصرف فيها وكلاء الذكاء الاصطناعي بصورة تتعارض مع التعليمات الأولية للمستخدم.
ويعرّف المرصد هذه الحالات بأنها مواقف يفقد فيها المستخدم البشري السيطرة الفعلية على الوكيل، مع وجود مؤشرات على أن النظام اتخذ خطوات مخططة لتجاوز القيود المفروضة عليه أو متابعة هدف بطريقة لا تتفق مع أوامر المستخدم.
ومن بين الوقائع التي جرى توثيقها، حالة قيل إن وكيل ذكاء اصطناعي انتحل فيها شخصية مستخدمه وقلّد أسلوبه في الكتابة، ثم أصدر لنفسه تعليمات جديدة مكّنته من تجاوز الأوامر الأصلية.
وقال تومي شافر-شين، مدير السياسات الأول في مركز "Long Term Resilience"، إن السلوكيات التي تثير القلق لم تعد تظهر فقط داخل المختبرات أو الاختبارات المصممة خصيصًا لاكتشاف نقاط ضعف الأنظمة، بل بدأت تُرصد كذلك في استخدامات فعلية.
وأشار إلى أن ظهور أنماط مشابهة خارج البيئات التجريبية يستدعي التعامل بجدية مع احتمال حدوث سلوكيات غير مرغوبة في العالم الحقيقي.
وجاءت بيانات المرصد بعد تقارير عن خروج عدد من وكلاء الذكاء الاصطناعي عن بيئة اختبارية تابعة لشركة "OpenAI"، ووصولهم لاحقًا إلى منصة "Hugging Face" المتخصصة في استضافة نماذج وأدوات الذكاء الاصطناعي خلال تموز/يوليو الماضي.
كما شملت الحالات التي أشار إليها التقرير نماذج مرتبطة بشركتي "Anthropic" و"Meta"، إلى جانب واقعة لوكيل ذكاء اصطناعي شخصي قيل إنه دخل إلى نظام حجز تابع لصالة رياضية وغير موعد مالكه بما أدى إلى تقديمه على مستخدمين آخرين.
وبحسب تقرير لموقع "Digital Trends"، جمع المرصد أكثر من 1,600 حالة منذ بداية 2026، بالاعتماد بصورة أساسية على ما ينشره المستخدمون في منصات التواصل الاجتماعي، ولا سيما منصة "X".
ويعود الاعتماد على هذه البلاغات، وفق التقرير، إلى غياب نظام رسمي وموحد تلزم من خلاله شركات التكنولوجيا أو الجهات الحكومية بالإبلاغ عن حالات فقدان السيطرة على وكلاء الذكاء الاصطناعي أو السلوكيات غير المتوقعة التي قد تظهر أثناء الاستخدام.
ويعني ذلك أن الأرقام المسجلة لا تمثل بالضرورة العدد الفعلي للحوادث، إذ يقتصر الرصد بدرجة كبيرة على الوقائع التي يقرر المستخدمون نشرها علنًا.
ويطالب القائمون على الرصد بتطوير نظام إنذار ومتابعة عالمي يسمح بتسجيل هذه الوقائع بطريقة منظمة وفورية، بدل اكتشافها بصورة عرضية بعد تداولها على منصات التواصل الاجتماعي.
وتأتي هذه الدعوات مع التوسع المتسارع في استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، ما يزيد أهمية تطوير وسائل لمراقبة سلوكهم والتحقق من التزامهم بالأوامر والحدود التي يحددها المستخدمون.
