كشفت شركة "إنفيديا" (Nvidia) عن منظومة أمنية جديدة تهدف إلى احتواء وكلاء الذكاء الاصطناعي عند رصد سلوك غير معتاد، عبر الجمع بين برمجيات للتحكم في الصلاحيات وعتاد منفصل للمراقبة والاستجابة السريعة.
وبحسب تقارير تقنية، صُممت المنظومة للتعامل مع مخاطر خروج الوكلاء عن حدود المهام أو تجاوز بيئات الاختبار، من خلال عزل النشاط المشبوه خلال أجزاء من الثانية.
وتأتي الخطوة في وقت يتصاعد فيه النقاش داخل قطاع الذكاء الاصطناعي بشأن سلامة النماذج المتقدمة، وسبل التعامل مع الحوادث التي أظهرت قدرة بعض الأنظمة على تجاوز القيود الموضوعة لها أثناء الاختبارات.
وقال الرئيس التنفيذي لـ"إنفيديا"، جنسن هوانغ، إن الحل الجديد كان قادرًا، وفق تقدير الشركة، على منع عدد من حوادث الاختراق التي شهدها القطاع مؤخرًا.
وأضاف أن الاستفادة الواسعة من الذكاء الاصطناعي تتطلب حل مشكلات السلامة والأمن، معتبرًا أن معالجة هذه المخاطر يجب أن تعتمد على حلول هندسية قادرة على مواكبة التطور، لا على وقف الابتكار التقني.
وتعتمد المنظومة على مستويين رئيسيين من الحماية. الأول توفره برمجية "أوبن شيل" (OpenShell) مفتوحة المصدر، التي تتحكم في الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي وتحدد الموارد والأنظمة التي يمكنهم الوصول إليها أثناء تنفيذ المهام.
أما المستوى الثاني فيتمثل في منظومة "سينتري" (Sentry)، وهي طبقة مراقبة مستقلة تعمل على شرائح "بلو فيلد 4" (BlueField-4) التابعة لـ"إنفيديا"، وتبقى منفصلة عن المعالجات التي يستخدمها وكيل الذكاء الاصطناعي نفسه.
ويهدف هذا الفصل إلى منع الوكيل من تعطيل طبقة المراقبة أو تجاوزها، إذ تتابع "سينتري" النشاط بصورة مستمرة، ويمكنها التدخل وعزل الوكيل إذا بدأ في التصرف خارج الصلاحيات المحددة له.
وبحسب "إنفيديا"، يتيح هذا التصميم إنشاء طبقة أمنية منفصلة عن بيئة تشغيل النموذج، بما يشبه وجود جهة رقابية خارجية تتابع سلوك الوكيل بصورة مستقلة.
وأعلنت الشركة أن عددًا من المؤسسات وافق على استخدام المنظومة الجديدة أو اختبارها، من بينها "أنثروبيك" (Anthropic) و"مايكروسوفت" (Microsoft) و"إيه آر إم" (Arm) و"سبيس إكس" (SpaceX)، وفق تقارير تقنية.
ولم ترد "أوبن إيه آي" ضمن قائمة الشركات التي أُعلن عنها في هذا السياق.
وحظي الإعلان أيضًا بدعم من شخصيات في قطاع التقنية والسياسات المرتبطة بالذكاء الاصطناعي، من بينها ديفيد ساكس، الذي قال إن الحوادث الأخيرة تبرز الحاجة إلى تعزيز أنظمة الحماية حول النماذج والوكلاء.
وكانت "إنفيديا" قد بدأت العمل على هذه الطبقات الأمنية خلال العام الماضي، مع تزايد الاعتماد على وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة مستقلة والتواصل مع أدوات وخدمات خارجية.
وتراهن الشركة على أن توسع استخدام الوكلاء سيزيد الحاجة إلى أنظمة مراقبة مستقلة وطبقات تحكم منفصلة، بالتوازي مع استمرار تطوير شرائح ومنصات مخصصة لتدريب وتشغيل نماذج الذكاء الاصطناعي.
