دعت شركة "أوبن إيه آي" إلى وضع معايير وطنية ودولية أكثر صرامة للتعامل مع أنظمة الذكاء الاصطناعي المتقدمة، محذرة من المخاطر التي قد ترافق وصول النماذج مستقبلًا إلى القدرة على تحسين نفسها بصورة متكررة ومستقلة.
وفي مقترحات نشرتها الشركة في 9 أيلول/سبتمبر 2026، شددت على ضرورة التعاون بين الحكومات وشركات الذكاء الاصطناعي لوضع آليات مشتركة لقياس قدرات الأنظمة المتقدمة، وإدارة مخاطرها، وضمان استمرار خضوعها لسيطرة بشرية فعلية. كما دعت إلى تحديد معايير واضحة للحالات التي قد تستدعي إبطاء تطوير نماذج جديدة أو وقفه.
ويركز التحذير بصورة خاصة على ما يعرف بـ"التحسين الذاتي المتكرر" (RSI)، وهو سيناريو تستطيع فيه أنظمة الذكاء الاصطناعي المشاركة بصورة متزايدة في تطوير أجيال أكثر قدرة من نفسها.
وأكدت "أوبن إيه آي" أن التحسين الذاتي المتكرر والمستقل بالكامل لا يزال غير متحقق في الوقت الراهن، وأن الوصول إليه لا ينبغي أن يكون هدفًا قبل التأكد من إمكان تنفيذه بأمان.
وأشارت الشركة، في المقابل، إلى أن أنظمة الذكاء الاصطناعي بدأت بالفعل تسهم في تسريع بعض المهام البحثية المستخدمة لتطوير النماذج اللاحقة وتحسين مواءمتها، بما في ذلك تنفيذ أعمال كانت تحتاج من باحثين متخصصين إلى عدة أيام.
وترى "أوبن إيه آي" أن الخطر قد يتصاعد إذا أصبحت أنظمة الذكاء الاصطناعي قادرة على دفع عمليات البحث والتطوير إلى مستويات من التعقيد يصعب على البشر فهمها أو الإشراف عليها بصورة فعالة، ما قد يضعف قدرة المطورين على توقع النتائج غير المقصودة أو الحفاظ على السيطرة على مسار التطوير.
وفي مواجهة ذلك، تقول الشركة إنها تسعى إلى تطوير باحثين آليين يعملون تحت إشراف بشري، بحيث تستخدم قدرات كل جيل من النماذج للمساهمة في جعل الجيل التالي أكثر أمانًا وقابلية للمواءمة والسيطرة، بدل التركيز حصريًا على رفع قدراته.
وشددت كذلك على ضرورة أن تواكب أبحاث المواءمة والسلامة الزيادة السريعة في قدرات النماذج، مع تطوير وسائل للرصد والرقابة وأنظمة دفاعية قادرة على التعامل مع المخاطر الناشئة.
وتضمنت توصيات "أوبن إيه آي" الدعوة إلى متطلبات وطنية إلزامية للسلامة تستند إلى قدرات النماذج، إلى جانب مواصلة تطوير معايير مشتركة بين مختبرات الذكاء الاصطناعي المتقدمة، وبناء أطر دولية متوافقة لإدارة المخاطر والحفاظ على السيطرة البشرية.
وتأتي هذه الطروحات في ظل نقاش متزايد داخل قطاع الذكاء الاصطناعي بشأن كيفية التعامل مع أنظمة قد تصبح قادرة على أداء أجزاء متزايدة من أعمال البحث والتطوير بصورة آلية، بالتوازي مع مبادرات لشركات أخرى، بينها "أنثروبيك"، لوضع أطر لتنظيم مخاطر النماذج الأكثر تقدمًا.
