מודלים פתוחים, ומאיפה הם מגיעים

לחברה שרוצה בינה מלאכותית משלה, החדשה החשובה ביותר של השבוע שעבר לא הייתה צ׳אטבוט חדש. היו אלה שלושה דברים שקרו בתוך כמה ימים: מודל פתוח של Reflection AI שנכנס בשרת יחיד, משקלים חדשים למודל הפתוח של DeepSeek, וצו של ממשל ארה״ב שמסלק את DeepSeek מהסוכנויות האזרחיות שלו. יחד הם אומרים משהו פשוט. המודלים הפתוחים טובים עכשיו מספיק לעבודה רצינית, והשאלה עברה מאיכות למקור.

Beam: פחות טוקנים, לא טוקנים זולים יותר

ב־16 באוקטובר הוציאה Reflection AI את Beam, המודל הראשון שלה עם משקלים פתוחים, תחת רישיון Apache 2.0, שמתיר שימוש מסחרי ושינויים. יש לו 501 מיליארד פרמטרים, ש־23 מיליארד מהם פעילים בכל טוקן. בגרסת 8 ביט או 4 ביט הוא נכנס בשרת אחד עם שמונה מעבדי GPU, כמו H100, H200 או GB300. הגרסה המלאה צריכה "עשרות מעבדי GPU", דיווח VentureBeat.

ההבטחה של Reflection היא לא טוקנים זולים יותר אלא פחות טוקנים. במהלך האימון היא הענישה את המודל על כל טוקן שלא היה נחוץ לו, ולפי הקריאה של VentureBeat בתרשים שלה, Beam משתמש בכ־25,000 טוקנים לניסיון במבחן קוד שבו GLM-5.2 צריך כ־80,000. זה לא המודל הפתוח החזק ביותר. ב־Terminal-Bench 2.1 דיווח VentureBeat על כ־80 אחוזים ל־Beam, לעומת 90.6 אחוזים ל־DeepSeek V4.1 Flash ו־85 אחוזים ל־Kimi K3. לדברי Reflection, Beam "ינצח בזכות האיכות שלו ולא בזכות שום דבר אחר."

DeepSeek: חזק יותר, וברישיון MIT

באותם ימים פרסמה DeepSeek משקלים מעודכנים ל־V4.1 Flash, שבשמם מופיע התאריך 17 באוקטובר. כרטיס המודל מכנה זאת "עדכון קטן", עם שיפורים בהסקה, בכתיבת קוד, במשימות סוכניות ובראייה, וממליץ על הקשר של מיליון טוקנים. הרישיון לא יכול להיות פתוח יותר: "המאגר הזה ומשקלי המודל מורשים תחת MIT License."

DeepSeek גם מאחדת את ההיצע שלה. בספטמבר היא העבירה את כל הבקשות למודל הגדול יותר שלה, V4 Pro, אל V4.1 Flash, "בתעריפים של V4.1-Flash", והתחילה להוציא את V4 Pro משימוש. לפי מבחן הביצועים ש־VentureBeat ציטט, זה החזק מבין המודלים הפתוחים שהוזכרו כאן.

וושינגטון מותחת קו

ב־19 באוקטובר דיווח CyberScoop שהמשרד לביטחון המולדת של ארה״ב אוסר על סוכנויות פדרליות אזרחיות להשתמש במוצרים של DeepSeek, מכוח חוק שרשרת אספקה משנת 2018. הסוכנויות חייבות להסיר את הגרסאות שיש להן, ואסור להן לקנות חדשות. הסיבות נוגעות לנתונים: DeepSeek שומרת נתונים על שרתים בסין, ותהליך הפרומפטים והתשובות שלה "עלול להביא להעברה של נתונים רגישים" לממשלת סין. הצו מזכיר רק את DeepSeek, אף שמודלים פתוחים סיניים אחרים, כמו Kimi ו־Qwen, עוררו חששות דומים.

הדיווח לא אומר אם האיסור חל גם על המשקלים של DeepSeek כשסוכנות מריצה אותם על השרתים שלה, שם שום נתון לא נשלח לשום מקום. את השאלה הפתוחה הזו כל חברה צריכה לרשום לפניה. הרצת מודל בבית עונה על השאלה לאן הולכים הנתונים. היא לא עונה על השאלה מאיפה המודל מגיע.

מה זה אומר למודל משלכם

משקלים פתוחים על השרתים שלכם פותרים את הבעיות הברורות ביותר: הנתונים נשארים בבית, ואף אחד לא יכול לשנות את המודל או למשוך אותו באיזה יום שלישי. הם לא פותרים את כולן. מודל הוא גם מוצר עם מקור, רישיון, נתוני אימון והתנהגות שאף אחד מחוץ למעבדה לא יכול לבחון עד הסוף. עבור בנק, רשות ציבורית או ספק ביטחוני, השאלה כבר אינה אם מודל פתוח טוב מספיק. השאלה היא אם המקור שלו יעבור את הביקורת הבאה, את שאלון הלקוח הבא, או את הצו הבא מהסוג הזה.

בפועל זה אומר שלושה דברים. בחרו את מודל הבסיס בקפידה, כמו שאתם בוחרים את הרישיון: Apache 2.0 ו־MIT הם שניהם מתירניים, אבל אף אחד מהם לא אומר דבר על המקור. שמרו על המודל ניתן להחלפה, כך שהידע, הכללים והבדיקות של החברה יישבו מחוצה לו, ומודל טוב יותר או בטוח יותר יוכל לתפוס את מקומו בתוך שבועות. ובדקו כל מועמד על העבודה שלכם לפני שהוא עולה לאוויר, לא רק במבחני ביצועים ציבוריים.

איך Eigna מתמודדת עם זה

כך בנויה Eigna, הבינה המלאכותית הפרטית שאנחנו מקימים ללקוחות כשותפים של Eigna Labs. היא מתחילה ממודל פתוח, שמותאם לתחום של הלקוח ומאומן על העבודה, הכללים והשפה שלו, ורצה בענן שלו או על השרתים שלו. גרסה חדשה עולה לאוויר רק כשהיא מצליחה בבדיקות יותר מהקודמת, ואפשר לחזור לגרסה הקודמת בצעד אחד. איזה מודל פתוח יושב מתחת היא החלטה שאנחנו מקבלים עם כל לקוח, כולל המקור שלו, והיא יכולה להשתנות כשמגיע מודל טוב יותר.