Mythos, המודל ש־Anthropic עצרה
באפריל הכריזה Anthropic על מודל שהיא לא מתכוונת לשחרר לציבור. מה זה Mythos, מה קרה אחר כך ומה זה אומר.
רוב מודלי הבינה המלאכותית מוכרזים ביום שבו כל אחד יכול להשתמש בהם. Claude Mythos לא. באפריל תיארה Anthropic מודל שלדבריה יכול למצוא ולנצל פרצות בתוכנה טוב יותר מכמעט כל אדם, מלבד המיומנים ביותר, ואמרה שלא תהפוך אותו לזמין לכלל הציבור.
שישה חודשים אחר כך גרסה מוגנת שלו נמכרת לכולם, אחרי שמכתב ממשלתי הוריד אותו מהאוויר לכמעט שלושה שבועות ביוני, והשאלה שהוא העלה עדיין פתוחה: מי מחליט מתי מודל מסוגל מדי מכדי למכור אותו. הנה מה שקרה, ומה אנחנו לוקחים מזה.
דליפה, ואז אזהרה
קיומו נחשף במקרה. ב־26 במרץ דיווח Fortune ש־Anthropic השאירה טיוטות שלא פורסמו במאגר נתונים שאפשר היה לחפש בו באופן ציבורי. אחת מהן כינתה את Mythos "מודל הבינה המלאכותית החזק ביותר שפיתחנו אי פעם, ובפער גדול", ואמרה שהוא יקר להפעלה ולא מוכן לשחרור כללי. Anthropic אישרה את העבודה וכינתה את המודל "קפיצת מדרגה, והמודל המסוגל ביותר שבנינו עד היום."
ב־7 באפריל היא הציגה את Claude Mythos Preview יחד עם Project Glasswing, תוכנית לשימוש במודל לצורכי הגנה. בין השותפים בהשקה היו Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, Linux Foundation ו־Microsoft, ויותר מ־40 ארגונים נוספים שמתחזקים תוכנה קריטית קיבלו גישה. Anthropic התחייבה לעד 100 מיליון דולר בקרדיטים לשימוש; אחרי זה השותפים משלמים 25 דולר למיליון טוקנים של קלט ו־125 דולר למיליון טוקנים של פלט.
הדוגמאות שלה היו קונקרטיות: פרצה בת 27 שנים ב־OpenBSD שאפשרה לתוקף להפיל מכונה מרחוק, פרצה בת 16 שנים ב־FFmpeg, ושרשרת של פרצות בליבת Linux שהובילה לשליטה מלאה במכונה. כולן דווחו ותוקנו. הסיבה לעיכוב המודל נאמרה במפורש: "אנחנו לא מתכננים להפוך את Claude Mythos Preview לזמין לכלל הציבור." אם יכולות כאלה יתפשטו, טענה Anthropic, ההשלכות על כלכלות, על ביטחון הציבור ועל הביטחון הלאומי עלולות להיות חמורות.
מה אחרים מצאו
UK AI Security Institute, המכון הבריטי לאבטחת בינה מלאכותית, בדק את המודל בתוך שבוע. הוא הפך למודל הראשון שהשלים מתחילתה ועד סופה את המתקפה המדומה של המכון על רשת ארגונית, בת 32 שלבים, ב־3 מתוך 10 ניסיונות, והגיע בממוצע ל־22 שלבים, כשהמודל הבא אחריו הגיע ל־16. המכון הוסיף הסתייגות חשובה: ברשתות הבדיקה שלו לא היו מגינים פעילים, ולכן "איננו יכולים לומר בוודאות אם Mythos Preview יוכל לתקוף מערכות מוגנות היטב."
אחרים הטילו ספק בכמה היכולת הזו בלעדית. ביום ההשקה נתן סטניסלב פורט מחברת האבטחה AISLE את הקוד הפגיע מהדוגמאות של Anthropic למודלים קטנים וזולים. כל שמונת המודלים מצאו את הפרצה ב־FreeBSD ש־Anthropic הציגה, כולל אחד עם 3.6 מיליארד פרמטרים פעילים, אם כי הם קיבלו ישירות את הפונקציה הנכונה. המסקנה שלו: היתרון טמון יותר במערכת שסביב המודל מאשר במודל בודד כלשהו.
התברר גם שלמצוא קל יותר מלתקן. Anthropic אומרת ששותפי Glasswing מצאו לפחות 129,000 פגיעויות מאומתות בין אפריל ליולי. בספטמבר בדק פטריק גאריטי מ־VulnCheck את 26,153 הממצאים ש־Anthropic מייחסת לסריקות שלה עצמה: כאחד מכל עשרה הגיע ליומן הגילוי הפומבי שלה, ופחות מאחד ממאה סומן כמתוקן. "הקבלות מתחילות לטפטף, הן פשוט לא מתיישבות זו עם זו", כתב.
Fable, וכיבוי
ב־9 ביוני שחררה Anthropic את Claude Fable 5, "מודל בדרגת Mythos שהפכנו לבטוח לשימוש כללי", ואת Mythos 5 לשותפי Glasswing שלה. זה אותו מודל עם אמצעי הגנה שונים. ב־Fable, מסווגים נפרדים עוקבים אחרי בקשות שנוגעות למתקפות סייבר, לביולוגיה ולכימיה, ואחרי ניסיונות להעתיק את המודל, ומעבירים אותן למודל Claude ישן יותר.
שלושה ימים אחר כך כתב משרד המסחר האמריקאי ל־Anthropic שכל אדם זר, בתוך ארצות הברית או מחוצה לה, כולל עובדי Anthropic עצמה, צריך מעתה רישיון יצוא כדי להשתמש באחד מהמודלים. לפי הדיווחים, חוקרים ב־Amazon מצאו דרך לעקוף את מעקות הבטיחות של Fable. Anthropic לא יכלה לבדוק את האזרחות של כל משתמש, ולכן כתבה שהיא נאלצת "להשבית בפתאומיות את Fable 5 ואת Mythos 5 לכל הלקוחות שלנו." אנליסטים ב־CSIS הטילו ספק בבסיס המשפטי, כי שום דבר לא נשלח: המשתמשים ניגשים למודל בשרתים של Anthropic.
ב־30 ביוני הסיר משרד המסחר את ההגבלות. בתמורה, דיווחה Al Jazeera, Anthropic הסכימה לזהות סיכוני אבטחה ולטפל בהם, לעזור בקביעת סטנדרטים למודלים עתידיים ולדווח על פעילות זדונית. שני המודלים חזרו ב־1 ביולי. גרסה 5.1 הגיעה ב־1 בספטמבר, כש־Mythos 5.1 פתוח רק לארגונים מאומתים, בינתיים בארצות הברית. ב־6 באוקטובר שילבה Anthropic את Glasswing בתוכנית רחבה יותר, Cyber Verification Program, עם שלוש דרגות, וכל מועמד לדרגה הגבוהה ביותר נבדק יחד עם ממשלת ארצות הברית.
למה זה טופל כך
הסיבה ש־Anthropic מציינת היא שהיכולת רצה לפני אמצעי ההגנה. "מודלים בדרגת Mythos הגיעו לסף שבו הם מציבים סיכונים משמעותיים", כתבה כש־Fable הושק, והתשובה שלה הייתה רצף: קודם המגינים, אחר כך המסווגים, ולבסוף שחרור כללי מוגן. בספטמבר הלך המנכ״ל שלה, דריו אמודיי, רחוק יותר: "עלינו להאט את הקצב שבו אנחנו משפרים את היכולות של מודלי בינה מלאכותית."
זו כבר לא הדרך של חברה אחת. כש־OpenAI שחררה את GPT-6 Astra בספטמבר, הוא היה המודל הראשון של OpenAI שעבר את "סף יכולת הסייבר הקריטית" שלה עצמה, והוא הגיע למגיני סייבר לפני כל אחד אחר. גישה מדורגת לפי אמון הופכת לדרך המקובלת לשחרר את המודלים החזקים ביותר.
מה זה אומר לחברה
מכאן נובעים שלושה דברים. המודלים הטובים ביותר מגיעים היום בדרגות של אמון, והגרסה הציבורית עשויה להעביר חלק מהשאלות למודל ישן יותר. מודל יכול להיעלם בין לילה מסיבות שאין להן שום קשר אליכם: ב־12 ביוני כל לקוחות Fable איבדו אותו באותו יום. ומציאת פרצות היא היום החלק הזול של האבטחה. התיקון הוא החלק הקשה, ולכן העצה של המכון לחברות לא זוהרת: עדכונים בזמן, בקרות גישה חזקות, תצורה מאובטחת ותיעוד טוב ביומני מערכת.
זו הסיבה שאנחנו שומרים את הידע של חברה מחוץ לכל מודל בודד, ב־Twin, ושלעבודה קריטית אנחנו מביאים את Eigna: מודל פרטי של החברה עצמה, שבנתה השותפה שלנו Eigna Labs, שרץ בענן שלה או על השרתים שלה ותוכנן לפעול במצב לא מקוון ברשתות סגורות. הוא לא ישתווה למודל חזית בכל משימה, ולרוב העבודה החסויה הוא גם לא צריך. מודל שרץ על החומרה שלכם לא נעלם כי ספק קיבל מכתב.
