نماذج أنثروبيك المصنفة كأمن سلاح Mythos تتعرض لوصول غير مصرح به: كيف تمكنوا من ذلك؟

ذكرت بلومبرغ أن مجموعة منتديات خاصة يُشتبه أنها أعلنت بشكل علني، في نفس يوم إطلاقها، عن تجاوز القيود المتعلقة بنموذج الأمن السيبراني التابع لشركة Anthropic والمسمى Mythos. وقد تمكنت عبر صلاحيات الوصول الممنوحة عبر مقاولين من جهات خارجية من الدخول إلى النظام واستخدام هذا النموذج، ما أثار مخاوف لدى المراقبين بشأن الحوكمة الآمنة للنماذج الذكية المتقدمة.

(أطلقت Anthropic برنامجًا عالميًا للأمن السيبراني باسم Glasswing، فما سبب عدم إتاحة النموذج الجديد Mythos للاستخدام من قبل العامة؟)

تعرّض Mythos للاختراق دون تصريح في يومه الأول على الإنترنت

أعلنت شركة Anthropic في 7 أبريل عن نموذج جديد للذكاء الاصطناعي للأمن السيبراني على الويب باسم Claude Mythos، غير أن مجموعة منتديات أونلاين خاصة لم يكشف عن هوية أصحابها حتى الآن، وفقًا للتقارير، تمكنت سرا من الحصول على صلاحيات الوصول إلى هذا النموذج.

يُعتقد أن هؤلاء لم يلجؤوا إلى أساليب اختراق تقليدية، بل استخدموا معرفتهم بصيغة عناوين URL التي استخدمتها Anthropic في نماذجها السابقة، وهو ما يتيح توقعًا معقولًا لموقع Mythos داخل النظام. وكانت الثغرة الحاسمة ناتجة عن موظف يعمل لدى مقاول طرف ثالث تابع لـ Anthropic. وبما أنه كان يمتلك أصلًا تفويضًا قانونيًا لعرض نماذج ذكاء Anthropic، فقد تسلل أفراد المجموعة إلى النظام عبر بوابة امتثال.

بعد ذلك، قدمت المجموعة إلى بلومبرغ لقطات شاشة وعرضًا حيًا لإثبات ما قامت به، وكشفت أنها مستمرة في استخدام Mythos حتى الآن، لكنها أكدت أن هدفها يقتصر على «التلاعب بالنموذج الجديد»، دون نية القيام بأي أفعال تخريبية، لأنهم لا يريدون أن يتم اكتشافهم.

ما هو Mythos؟ ولماذا أثار قلقًا لدى العامة؟

يُعد Claude Mythos نموذجًا للذكاء الاصطناعي صممته Anthropic خصيصًا للدفاع عن أمن شبكات الشركات، وقد عرفه الفريق بأنه «أداة قوية للغاية بحيث لا تناسب النشر العام». تتمثل قدراته الأساسية في التعرف الاستباقي على الثغرات الأمنية في الأنظمة الرقمية، ومساعدة الشركات على إتمام الإصلاح قبل التعرض للهجمات.

لكن هذه «سيف الدفاع» قد يكون أيضًا «سيفًا ذا حدين». صرحت Anthropic بأنه بمجرد وقوع Mythos في أيدي أشخاص ذوي نوايا خبيثة، تصبح قدراته كافية لاستخدامها لشن الهجمات. لذلك تفتح الشركة Mythos فقط لعدد محدود من المؤسسات الكبيرة أو شركات التكنولوجيا التي تم تدقيقها بدقة، ضمن برنامج للأمن السيبراني يحمل اسم «Project Glasswing».

تتمثل الفرضية الأساسية وراء آلية الرقابة المغلقة هذه في أن شركاء موثوقين قادرون على ضمان ألا تتسرب صلاحيات الوصول المتبادلة فيما بينهم.

(يثير نموذج Anthropic Mythos مخاوف بشأن التنظيم، ويعقد مسؤولو بيزنت وبويل اجتماعا طارئا في بنك)

رد Anthropic: نحن نحقق، ولا توجد تبعات

أعلنت Anthropic: «نحن نحقق في تقرير يدعي أنه تم الوصول دون تصريح إلى Claude Mythos Preview عبر بيئة مورد طرف ثالث». وأكدت الشركة أنه حتى الآن لم يتم العثور على أي تأثير على أنظمتها، وأن التقييم الأولي للحادثة يشير إلى أنها «على الأرجح ناتجة عن إساءة استخدام صلاحيات الوصول، وليست هجومًا من قراصنة من الخارج».

حتى لو لم يقم المستخدمون الذين استخدموا Mythos مسبقًا بأعمال خبيثة، فإن الحادث بحد ذاته يبقي خبراء الأمن السيبراني في حالة تأهب عالية. قال الرئيس التنفيذي لشركة أمن سيبراني Smarttech247، Raluca Saceanu:

عندما يتم الوصول إلى أدوات ذكاء اصطناعي قوية أو استخدامها خارج آليات الرقابة المحددة، فإن المخاطر لا تقتصر على كونها مجرد حادثة أمن سيبراني، بل قد تثير أيضًا شكوكًا بشأن الاحتيال أو إساءة استخدام الإنترنت أو استخدامات خبيثة أخرى.

ما التأثير الذي يمكن أن يحدثه ذلك؟ نقاط الضعف في الرقابة على أمن الذكاء الاصطناعي

المكان الحقيقي الذي يثير القلق في هذه الواقعة ليس محاولة التخريب، بل ما تكشف عنه من هشاشة منهجية: عندما تقوم شركات الذكاء الاصطناعي بتحويل صلاحيات الوصول إلى نماذج شديدة الحساسية إلى موردين من الجهات الخارجية، فإن أي ثغرة في أي حلقة من حلقات شبكة الرقابة بأكملها قد تصبح منفذًا وتؤدي إلى أزمة.

في الوقت الحالي، تذكّر حادثة Mythos كامل الصناعة بأن تصميم البنية الأمنية لا يمكن أن يعتمد فقط على الثقة، بل يحتاج إلى مرونة مؤسسية قادرة على تحمل فشل الثقة، في ظل تقدم قدرات الذكاء الاصطناعي بسرعة. وبالنسبة إلى Anthropic، فإن كيفية إعادة بناء ثقة الجمهور في آليات رقابة شركائها سيكون تحديًا أكثر امتدادًا من مجرد إجراء التحقيقات.

العنوان: هذه المقالة عن نموذج الأمن السيبراني من مستوى الأسلحة التابع لـ Anthropic Mythos الذي تعرض لوصول غير مصرح به: كيف تمكنوا من ذلك؟ وأول ظهور لها كان في سلسلة الأخبار ABMedia.