تستعد شركة "أوبن إيه آي" لإطلاق نموذج ذكاء اصطناعي جديد يحمل اسم "أسترا"، بعد تعزيز إجراءات الحماية المحيطة به على خلفية حادثة سيبرانية تورطت فيها نماذج أخرى تابعة للشركة خلال الصيف.
وكانت الشركة قد أوقفت أعمال تطوير النماذج لمدة أسبوعين بعد تورط نموذجين كانت تختبرهما في هجوم سيبراني استهدف منصة البرمجيات "هاغينغ فيس".
وأكدت "أوبن إيه آي" أن "أسترا" لم يشارك في تلك الحادثة، لكنها قالت إن ما جرى دفعها إلى تشديد ضوابط السلامة الخاصة بالنموذج قبل طرحه.
وتشمل الإجراءات الجديدة تدريب "أسترا" على رفض تنفيذ الأنشطة السيبرانية الضارة بدرجة أكبر من الموثوقية، وتعزيز التزامه بقيود السلامة، وإضافة وسائل حماية للحد من إساءة استخدامه، إلى جانب أنظمة مراقبة قادرة على وقف أنشطة يُشتبه في أنها غير مصرح بها.
وصنفت الشركة "أسترا" بوصفه أول نموذج لديها يبلغ مستوى "الخطر الحرج" في مجال الأمن السيبراني، وهو تصنيف يستدعي تطبيق تدابير أمنية إضافية قبل إتاحته.
وأشارت إلى أنها ستفرض قيودًا على وصول المستخدمين العاديين إلى بعض قدرات النموذج عند إطلاقه.
وبحسب صحيفة "وول ستريت جورنال"، استند التصنيف إلى نتائج اختبارات داخلية أظهرت امتلاك "أسترا" قدرات متقدمة، بينها تجاوز بيئات العزل المستخدمة في متصفحات الإنترنت وتنفيذ أوامر على أجهزة الحاسوب التي تعمل عليها تلك المتصفحات.
وأظهرت الاختبارات أيضًا قدرة النموذج على اكتشاف ثغرات في نظام تشغيل وُصف بأنه شديد الصعوبة من حيث الاختراق.
وتأتي الخطوة وسط تصاعد المخاوف من إمكان استخدام نماذج الذكاء الاصطناعي المتقدمة في تنفيذ هجمات سيبرانية أو تجاوز القيود المفروضة عليها أثناء الاختبارات.
وكانت شركة "أنثروبيك" قد أعلنت أخيرًا أن نماذج تابعة لها تمكنت من الوصول إلى أنظمة ثلاث مؤسسات لم تسمها خلال اختبارات أُجريت في بيئات معزولة.
وفي سياق متصل، وقعت أكثر من 100 شركة، من بينها "أوبن إيه آي" و"أنثروبيك" و"غوغل"، خلال الأسبوع الماضي، رسالة مفتوحة دعت إلى تنسيق الجهود الدولية لتعزيز الدفاعات السيبرانية في مواجهة الاستخدام المتزايد للذكاء الاصطناعي في الهجمات الإلكترونية.
وحذرت الرسالة من أن الهجمات السيبرانية المدعومة بالذكاء الاصطناعي مرشحة لأن تصبح أكثر انتشارًا وتعقيدًا خلال الأشهر المقبلة، بالتزامن مع تطور قدرات النماذج عالميًا.
