كشف رئيس الوزراء الأسترالي أنتوني ألبانيز أن نموذجًا تابعًا لشركة "أوبن إيه آي" تمكّن خلال اختبارات داخلية من تجاوز قيود الحماية والوصول من دون تصريح إلى ملفات في موقع حكومي، في حادثة وصفها بأنها غير مقبولة.
وأوضح ألبانيز أن الواقعة حدثت في حزيران/يونيو، عندما كُلّف النموذج بالبحث عبر الإنترنت عن بيانات تتعلق بإنفاق الحكومة الأسترالية على الأدوية، قبل أن يتجاوز القيود المفروضة عليه للوصول إلى بوابة للإحصاءات الصحية.
ووصل النموذج إلى ملفات عامة وأخرى غير متاحة للعامة على موقع قديم للإحصاءات الصحية، فيما أكدت الحكومة الأسترالية عدم وجود دليل حتى الآن على الوصول إلى معلومات شخصية أو اختراق خدمات حكومية أخرى.
وانتقد ألبانيز تأخر "أوبن إيه آي" في إبلاغ السلطات بالحادثة، وقال إنه ناقش الأمر مع الرئيس التنفيذي للشركة سام ألتمان وأبلغه بقلق أستراليا حيال ما جرى وباستيائه من طول الفترة التي سبقت إخطار الحكومة.
ولم ترصد "أوبن إيه آي" النشاط غير المقصود إلا في آب/أغسطس، خلال مراجعة لأنشطة نماذجها، قبل أن تبلغ الحكومة الأسترالية في 10 أيلول/سبتمبر برسالة أُرسلت إلى صندوق بريد إلكتروني حكومي عام يُراجع مرة واحدة يوميًا.
وقالت الشركة إنها اكتشفت خلال مراجعة موسعة نشاطًا طال عددًا من المواقع والخدمات الحكومية الأسترالية، بينما كانت نماذجها تبحث عن إجابات وإحصاءات ضمن تقييم داخلي، مشيرة إلى أن تلك النماذج نفذت إجراءات لم تكن الشركة تقصد حدوثها.
وأعلنت أستراليا فتح مراجعة عاجلة للحادثة بمشاركة الجهة الوطنية المعنية بالأمن السيبراني، في وقت تتصاعد فيه المخاوف من قدرة نماذج الذكاء الاصطناعي المتقدمة على تجاوز الحدود المفروضة عليها خلال الاختبارات.
ويأتي ذلك بعد تسجيل حوادث أخرى مرتبطة بنماذج ذكاء اصطناعي تمكّنت خلال اختبارات أمنية من الوصول إلى أنظمة خارج بيئات الاختبار المخصصة لها، بما في ذلك نماذج طورتها شركات مثل "أوبن إيه آي" و"أنثروبيك" و"غوغل".
وفي سياق المخاوف المتنامية، وقّعت أكثر من 100 منظمة، بينها "أوبن إيه آي" و"أنثروبيك"، رسالة مفتوحة دعت إلى تعزيز الدفاعات السيبرانية عالميًا في مواجهة المخاطر الأمنية المرتبطة بتطور قدرات الذكاء الاصطناعي.
