تواجه شركة "أنثروبيك" ضغوطًا متزايدة لتحقيق توازن بين تسريع تطوير أدوات الذكاء الاصطناعي والحفاظ على معايير السلامة، في ظل مخاوف داخلية وخارجية مرتبطة بنموذجها الجديد "ميثوس" (Mythos).
وبحسب تقرير لـ"بلومبرغ"، حدّت الشركة من اختبار النموذج على عدد محدود من المؤسسات بسبب مخاوف تتعلق بإمكانية استخدامه في تنفيذ هجمات إلكترونية، رغم أن موظفين داخل "أنثروبيك" يرون أنه أكثر قربًا من السلوك البشري مقارنة بالإصدارات السابقة.
وكان الرئيس التنفيذي للشركة، داريو أمودي، قد وصف "ميثوس" الشهر الماضي بأنه شديد الخطورة إلى درجة تحول دون إطلاقه حاليًا، في وقت تسعى فيه "أنثروبيك" إلى تجهيزه للإطلاق التجاري بالتوازي مع استعدادات لطرح عام محتمل في البورصة.
وتحاول الشركة، التي تقدّم نفسها بوصفها من أكثر شركات الذكاء الاصطناعي تشددًا في معايير السلامة، تعزيز صورتها كمطور مسؤول للتقنيات المتقدمة، عبر التواصل مع مؤسسات دولية لمناقشة المخاطر المحتملة المرتبطة بأنظمتها.
وشمل ذلك اجتماعات مغلقة مع مجلس الاستقرار المالي في سويسرا لمناقشة المخاطر السيبرانية المرتبطة بـ"ميثوس"، إضافة إلى مشاركة أحد مؤسسي الشركة، كريستوفر أولاه، في فعاليات بالفاتيكان تناولت تأثيرات الذكاء الاصطناعي والتحذير من استخدامه في الحروب.
وفي الوقت نفسه، تواجه "أنثروبيك" انتقادات متزايدة من بعض المطورين والخبراء الماليين بسبب ارتفاع مستوى استقلالية أدواتها، ولا سيما "كلود كود" (Claude Code)، القادرة على تشغيل عشرات أو مئات وكلاء الذكاء الاصطناعي لساعات طويلة من دون تدخل بشري مباشر.
وقال أحد المطورين العاملين في بنك كبير بـ"وول ستريت" إن هذه القدرات تجعل من الصعب تحديد المسؤولية عند وقوع أخطاء، داعيًا إلى فرض ضوابط إضافية على الأنظمة المستقلة.
من جهتها، قالت كات وو، المسؤولة عن المنتجات في "كلود كود"، إن النظام "آمن للغاية"، معتبرة أن التحدي الأساسي يكمن في شرح آليات الحماية المدمجة داخله للمستخدمين.
ويشير التقرير إلى أن بعض المطورين باتوا يشعرون بأن أدوات "أنثروبيك" تتحول تدريجيًا إلى "صندوق أسود"، مع تراجع مستوى الشفافية في عرض كيفية معالجة المهام واتخاذ القرارات.
ومع تنامي قدرات هذه الأنظمة واستقلاليتها، يزداد الرهان على قدرة "أنثروبيك" في الحفاظ على ثقة المستخدمين والمؤسسات، بينما يواصل أمودي السعي إلى إطلاق "ميثوس" من دون التفريط باعتبارات السلامة والتنظيم.
