Mythos، النموذج الذي حجبته Anthropic
أعلنت Anthropic في أبريل عن نموذج قالت إنها لن تتيحه للعموم. ما هو Mythos، وما الذي حدث بعد ذلك، وماذا يعني.
يُعلَن عن معظم نماذج الذكاء الاصطناعي في اليوم الذي يصبح فيه استخدامها متاحًا للجميع. أما Claude Mythos فلا. ففي أبريل وصفت Anthropic نموذجًا قالت إنه يستطيع العثور على الثغرات البرمجية واستغلالها بمهارة لا يضاهيها إلا أمهر الخبراء، وقالت إنها لن تتيحه للاستخدام العام.
وبعد ستة أشهر، صارت نسخة محصّنة منه معروضة للبيع العام، بعد أن أجبرتها رسالة حكومية على التوقف قرابة ثلاثة أسابيع في يونيو، وما زال السؤال الذي أثاره مفتوحًا: من يقرر متى يصبح نموذج أقوى من أن يُباع. وهذا ما حدث، وما نخرج به منه.
تسريب، ثم تحذير
انكشف وجوده بالصدفة. ففي 26 مارس أفادت Fortune بأن Anthropic تركت مسودات غير منشورة في مخزن بيانات يمكن لأي أحد البحث فيه. وصفت إحداها Mythos بأنه «أقوى نموذج ذكاء اصطناعي طوّرناه على الإطلاق، وبفارق كبير»، وقالت إن تشغيله مكلف وإنه غير جاهز للإصدار العام. وأكدت Anthropic هذا العمل، ووصفت النموذج بأنه «نقلة نوعية، والأقدر بين كل ما بنيناه حتى اليوم».
وفي 7 أبريل قدّمت Claude Mythos Preview ومعه Project Glasswing، وهو برنامج لتسخير النموذج في الدفاع. وكان من شركاء الإطلاق Amazon Web Services وApple وCrowdStrike وGoogle وJPMorganChase وLinux Foundation وMicrosoft، وحصلت على الوصول أيضًا أكثر من 40 جهة أخرى تتولى صيانة برمجيات حيوية. والتزمت Anthropic بما يصل إلى 100 مليون دولار من أرصدة الاستخدام، وبعدها يدفع الشركاء 25 دولارًا لكل مليون رمز (token) من المُدخَلات و125 دولارًا لكل مليون رمز من المُخرَجات.
وكانت أمثلتها ملموسة: ثغرة عمرها 27 عامًا في OpenBSD تتيح للمهاجم إسقاط جهاز عن بُعد، وثغرة عمرها 16 عامًا في FFmpeg، وسلسلة من ثغرات نواة Linux تقود إلى السيطرة الكاملة على الجهاز. وقد أُبلغ عنها جميعًا وسُدّت. أما سبب حجب النموذج فقيل بوضوح: «لا نعتزم إتاحة Claude Mythos Preview للاستخدام العام». وجادلت Anthropic بأن انتشار قدرات كهذه قد تكون له عواقب وخيمة على الاقتصادات والسلامة العامة والأمن القومي.
ما وجده الآخرون
اختبر معهد أمن الذكاء الاصطناعي البريطاني النموذج في غضون أسبوع. فصار أول نموذج يُتمّ من أوله إلى آخره الهجوم المحاكى الذي أعدّه المعهد على شبكة شركة، والمؤلف من 32 خطوة، وذلك في 3 من 10 محاولات، وبلغ متوسطه 22 خطوة في حين لم يتجاوز أفضل نموذج تالٍ 16 خطوة. وأضاف المعهد تحفظًا مهمًا: لم يكن في شبكاته الاختبارية مدافعون نشطون، لذا «لا يمكننا الجزم بما إذا كان Mythos Preview قادرًا على مهاجمة أنظمة محكمة الدفاع».
وشكك آخرون في مدى تفرّد هذه القدرة. ففي يوم الإطلاق، أعطى ستانيسلاف فورت من شركة الأمن AISLE الشيفرة المعيبة من أمثلة Anthropic لنماذج صغيرة ورخيصة. فعثرت النماذج الثمانية كلها على ثغرة FreeBSD التي عرضتها Anthropic، ومنها نموذج بـ 3.6 مليار معامل نشط، وإن كانت قد أُعطيت الدالة الصحيحة مباشرة. وخلص إلى أن الأفضلية تكمن في المنظومة المحيطة بالنموذج أكثر مما تكمن في أي نموذج بعينه.
وتبيّن أيضًا أن العثور على الثغرات أسهل من إصلاحها. تقول Anthropic إن شركاء Glasswing عثروا على 129,000 ثغرة مؤكدة على الأقل بين أبريل ويوليو. وفي سبتمبر فحص باتريك غاريتي من VulnCheck النتائج البالغة 26,153 التي تنسبها Anthropic إلى فحصها الذاتي: نحو واحدة من كل عشر وصلت إلى سجل الإفصاح العلني، وأقل من واحدة من كل مئة وُسمت بأنها أُصلحت. وكتب: «بدأت الإيصالات تصل تباعًا، لكنها لا تتطابق».
Fable، ثم التعطيل
في 9 يونيو أصدرت Anthropic نموذج Claude Fable 5، «نموذجًا من فئة Mythos جعلناه آمنًا للاستخدام العام»، وأصدرت Mythos 5 لشركائها في Glasswing. وهما النموذج نفسه بضمانات مختلفة. ففي Fable تراقب مصنِّفات منفصلة الطلبات المتعلقة بالهجمات السيبرانية والبيولوجيا والكيمياء، ومحاولات نسخ النموذج، وتحيلها إلى نموذج Claude أقدم.
وبعد ثلاثة أيام كتبت وزارة التجارة الأمريكية إلى Anthropic أن أي شخص أجنبي، داخل الولايات المتحدة أو خارجها، بمن في ذلك موظفو Anthropic أنفسهم، بات يحتاج إلى ترخيص تصدير لاستخدام أيٍّ من النموذجين. وبحسب ما أُفيد، كان باحثون في Amazon قد وجدوا طريقة للالتفاف على حواجز الحماية في Fable. ولم يكن في وسع Anthropic التحقق من جنسية كل مستخدم، فكتبت أنها مضطرة إلى «تعطيل Fable 5 وMythos 5 فجأة لجميع عملائنا». وشكك محللون في CSIS في الأساس القانوني، إذ لا يُشحن شيء: فالمستخدمون يصلون إلى النموذج على خوادم Anthropic.
وفي 30 يونيو رفعت وزارة التجارة هذه القيود. وفي المقابل، بحسب Al Jazeera، وافقت Anthropic على رصد المخاطر الأمنية ومعالجتها، والمساعدة في وضع معايير للنماذج المستقبلية، والإبلاغ عن النشاط الخبيث. وعاد النموذجان في 1 يوليو. ثم تبعهما الإصدار 5.1 في 1 سبتمبر، مع إتاحة Mythos 5.1 للجهات الموثّقة فقط، وفي الولايات المتحدة حتى الآن. وفي 6 أكتوبر دمجت Anthropic برنامج Glasswing في برنامج أوسع هو Cyber Verification Program بثلاث فئات، ويُراجَع كل طلب للفئة العليا بالتعاون مع الحكومة الأمريكية.
لماذا جرى الأمر على هذا النحو
السبب المعلن لدى Anthropic أن القدرة سبقت الضمانات. وكتبت عند إطلاق Fable: «بلغت النماذج من فئة Mythos عتبة باتت عندها تنطوي على مخاطر كبيرة»، وكان جوابها تسلسلًا: المدافعون أولًا، ثم المصنِّفات، ثم إصدار عام محصّن في الأخير. وفي سبتمبر ذهب رئيسها التنفيذي، داريو أمودي، أبعد من ذلك: «علينا أن نبطئ الوتيرة التي نحسّن بها قدرات نماذج الذكاء الاصطناعي».
ولم يعد هذا مسار شركة واحدة. فحين أصدرت OpenAI نموذج GPT-6 Astra في سبتمبر، كان أول نموذج لديها يبلغ «عتبة القدرة الحرجة في الأمن السيبراني» التي وضعتها بنفسها، وذهب إلى المدافعين السيبرانيين قبل أي أحد آخر. ويتحول الوصول المتدرّج بحسب درجة الثقة إلى الطريقة المعتادة لإصدار أقوى النماذج.
ما يعنيه ذلك للشركة
يترتب على ذلك ثلاثة أمور. فأفضل النماذج تأتي الآن في مستويات من الثقة، وقد تحيل النسخة العامة بعض الأسئلة إلى نموذج أقدم. ويمكن لنموذج أن يختفي بين ليلة وضحاها لأسباب لا علاقة لكم بها: ففي 12 يونيو فقده كل عملاء Fable في اليوم نفسه. والعثور على الثغرات صار الآن الجزء الرخيص من الأمن. أما سدّها فهو الجزء الصعب، ولهذا جاءت نصيحة المعهد للشركات بعيدة عن البريق: تحديثات في وقتها، وضوابط وصول صارمة، وإعدادات آمنة، وتسجيل جيد للأحداث.
لهذا نحفظ معرفة الشركة خارج أي نموذج بعينه، في Twin، ولهذا نأتي في الأعمال الحرجة بـ Eigna: نموذج خاص بالشركة نفسها، من بناء شريكنا Eigna Labs، يعمل في سحابتها الخاصة أو على خوادمها الخاصة، ومصمَّم ليعمل دون اتصال في الشبكات المغلقة. لن يضاهي نماذج الصف الأول في كل مهمة، ولا يحتاج إلى ذلك في معظم الأعمال السرية. فالنموذج الذي يعمل على عتادكم أنتم لا يختفي لأن موردًا تلقّى رسالة.
