פרומפטים עוזרים, מערכות מתרחבות

רוב החברות פגשו את הבינה המלאכותית דרך תיבה ריקה וסמן מהבהב. מה שיצא היה תלוי במה שנכנס, ולכן אנשים למדו לכתוב פרומפטים. חלקם נעשו טובים מאוד בזה. העמיתים שלהם ביקשו את מילות הקסם, המילים הודבקו במסמכים ובצ׳אטים, וכך נולד סוג חדש של פולקלור.

כתיבת פרומפטים חשובה, וכדאי לעשות אותה היטב. אבל חברה לא יכולה לפעול על פולקלור. הנה מה שהופך פרומפט לטוב, מה המעבדות עצמן ממליצות, ולמה החברות שמפיקות הכי הרבה מבינה מלאכותית מפסיקות להסתמך על פרומפטים מבריקים.

פרומפט גרוע ופרומפט טוב

קחו בקשה שכל צוות שיווק מגיש. הגרסה הגרועה אומרת: כתוב פוסט ל־LinkedIn על השירות החדש שלנו.

למודל אין עם מה לעבוד, אז הוא כותב את פוסט ה־LinkedIn הממוצע על השירות הממוצע, עם שאלת פתיחה, שורת אימוג׳ים וקריאה לפעולה. הוא לא שגוי. הוא פשוט לא של אף אחד.

הגרסה הטובה אומרת מי כותב ולמי, מה השירות וכמה הוא עולה, מה הקורא צריך לעשות אחר כך, מה האורך המותר לפוסט, ובאילו מילים החברה אף פעם לא משתמשת. היא כוללת שני פוסטים קודמים שעבדו, מסומנים כדוגמאות. והיא אומרת למה: הפוסט מיועד למנהלי כספים שספקנים לגבי בינה מלאכותית, ולכן הוא צריך להיפתח בעובדה, לא בהבטחה.

הפרומפט השני ארוך בהרבה, והסיכוי שיפיק טיוטה שמישהו יוכל להשתמש בה גבוה בהרבה. ההבדל הוא לא תחכום. הוא הקשר.

מה המעבדות ממליצות

המדריכים הרשמיים של שלוש המעבדות הגדולות אומרים פחות או יותר אותו דבר.

המדריך של Anthropic ל־Claude מבקש "לחשוב על Claude כעל עובד מבריק אבל חדש, שחסר לו הקשר לגבי הנורמות ותהליכי העבודה שלכם". כלל הזהב שלו: "הראו את הפרומפט לעמית שיש לו מעט הקשר על המשימה ובקשו ממנו לפעול לפיו. אם הוא יתבלבל, גם Claude יתבלבל". הוא גם מראה למה נימוקים עדיפים על פקודות. במקום לכתוב באותיות רישיות שאסור להשתמש בשלוש נקודות, הסבירו שהתשובה תוקרא בקול על ידי מנוע המרת טקסט לדיבור שלא יודע להגות אותן. המודל מכליל מתוך הנימוק.

המדריך של OpenAI ממליץ לתת למודל את ההקשר שהוא צריך, ודוגמאות של קלטים אפשריים עם הפלטים הרצויים, במגוון רחב. הוא מכנה כתיבת פרומפטים "שילוב של אמנות ומדע".

המדריך של Google ל־Gemini ממליץ לכלול תמיד כמה דוגמאות, ומזהיר שפרומפטים בלעדיהן צפויים להיות פחות אפקטיביים. במשימות מורכבות הוא מציע להפוך כל שלב לפרומפט נפרד ולשרשר אותם זה לזה. והוא כן לגבי התהליך: "הנדסת פרומפטים היא תהליך איטרטיבי".

למה פרומפטים לא עובדים בקנה מידה

קראו שוב את המדריכים האלה ושימו לב למה שהם מניחים: מישהו שמכיר את הנורמות של החברה, שיש לו את הדוגמאות הנכונות בהישג יד ושיש לו זמן לנסות שוב ושוב. ברוב הצוותים זה מתאר כמה אנשים, ביום טוב.

כל השאר מעתיקים פרומפט מצ׳אט, משנים מילה ומקבלים תוצאה אחרת. הפרומפט שעבד באביב מתנהג אחרת אחרי עדכון מודל. שני צוותים מחזיקים שתי גרסאות, עם כללים שסותרים זה את זה. אחד ממדריכי הפרומפטים של OpenAI עצמה מזהיר שהוראות סותרות או מעורפלות עלולות להזיק יותר למודל היסק, כי הוא משקיע מאמץ בניסיון ליישב ביניהן. הדוגמה שלו היא עוזר בתחום הבריאות שנאמר לו גם לעולם לא לקבוע תור בלי הסכמה מתועדת של המטופל, וגם לקבוע את התור המוקדם ביותר בלי ליצור קשר עם המטופל קודם.

מסיבה זו OpenAI מתייחסת לפרומפטים כאל תוכנה. המדריך שלה מורה למפתחים לשמור את פרומפטי הייצור בקוד של האפליקציה, לקבע את האפליקציות לגרסאות מודל מסוימות, ולבנות בדיקות וחבילות הערכה שמודדות איך הפרומפטים מתנהגים. זה ההפך מספריית פרומפטים במסמך משותף.

המחיר ניכר בתוצאות. יוזמת NANDA של MIT דיווחה בשנה שעברה שרק כ־5 אחוזים מפיילוטי ה־AI שבחנה השיגו האצה מהירה בהכנסות. Fortune סיכם את הסיבה כפער למידה: כלים גנריים נתקעים בתוך חברות כי הם לא לומדים מהאופן שבו העבודה נעשית ולא מסתגלים אליו.

מפרומפטים למערכות

המעבדות הסיקו את המסקנה בעצמן. Anthropic מדברת היום על הנדסת הקשר ולא על הנדסת פרומפטים: אוצרות של כל מה שהמודל רואה, לא רק של ההוראה, ומציאת הסט הקטן ביותר האפשרי של טוקנים עתירי אות שהופך את התוצאה הנכונה לסבירה. המהנדסים שלה מזהירים משני סוגי כשל: מצד אחד לוגיקה שבירה שמקודדת בקשיחות בתוך הפרומפטים, ומצד שני הנחיות מעורפלות שלא נותנות למודל שום דבר קונקרטי.

התשובה המעשית היא מיומנויות (skills). Anthropic מתארת אותן כ"תיקיות מאורגנות של הוראות, סקריפטים ומשאבים" שסוכן טוען כשהוא צריך אותן, ומשווה כתיבה של מיומנות ל"הכנת מדריך קליטה לעובד חדש". בפוסט על עיצוב כתבה אותה חברה שמיומנויות הופכות פרומפטים אפקטיביים לרב־פעמיים ומותאמים להקשר, כך שאף אחד לא צריך לחזור על אותן הנחיות בכל בקשה. מאז דצמבר 2025 הפורמט הוא תקן פתוח.

מיומנות היא פרומפט טוב שנכתב פעם אחת, קיבל את הנימוקים, הדוגמאות והבדיקות שלו, נבדק, והונח במקום שבו כל עוזר בחברה יכול למצוא אותו. הוסיפו את הידע של החברה, את הכללים שלה ואת החיבורים שלה למערכות אמיתיות, ויש לכם מוח של החברה. ואז האיכות כבר לא תלויה במי שהקליד.

איך אנחנו עוזרים

זו העבודה שמאחורי Twin. אנחנו בודקים איך חברה עובדת בפועל, משפרים את התהליך היכן שצריך, ואז בונים את המוח שלה: ידע עם המקור בכל תשובה, מיומנויות לכל תפקיד שנכתבו לפי המוסכמות של החברה, אינטגרציות למערכות שלה, וכללים והרשאות לפי תפקיד. הוא פועל בעוזר שהצוות כבר משתמש בו, Claude, ChatGPT או Codex, והחברה מקבלת את קוד המקור.

בלי Twin, כל פרומפט מתחיל מאפס והאיכות תלויה במי ששואל. עם Twin, כל תשובה מתחילה מהחברה, עם סטנדרט אחד על כל שולחן.

כך אנחנו מנהלים גם את crue: יותר מ־80 מיומנויות ומוח לכל אחד מהמוצרים שלנו, ב־Claude וב־ChatGPT ועל החומרה שלנו עם המודל שלנו. כשהנתונים רגישים מכדי לצאת מהבניין, יש את Eigna, שבונה השותפה שלנו Eigna Labs: מודל פרטי שמאומן על הקבצים, הכללים והשפה של החברה, רץ בענן שלה או על השרתים שלה, ומתאמן מחדש בשלבים שעולים לאוויר רק כשהם מצליחים יותר בבדיקות.

מה חברה יכולה לעשות

המשיכו לכתוב פרומפטים טובים, ולמדו את היסודות מהמדריכים שלמעלה. אחר כך אספו את עשרת הפרומפטים שהאנשים הטובים ביותר שלכם באמת משתמשים בהם, ושאלו מה כל אחד מהם יודע שהמודל לא יודע. כתבו את זה פעם אחת: ההקשר, הנימוקים, הדוגמאות, הכללים והבדיקה בסוף. תנו לכל אחד מהם בעלים ובדיקה, ושימו אותו במקום שכל עוזר יכול להגיע אליו. זו מיומנות.

אנחנו רוצים שהמכונה תיקח את השגרה, את הטיוטות הראשונות ואת החיפושים, ותעשה אותם מהר יותר ועקבי יותר מכל אחד מאיתנו. שיקול הדעת, הקשר האישי עם הלקוחות והאחריות למה שנשלח נשארים אצל אנשים, ומערכת טובה נותנת להם יותר זמן בדיוק לזה.

פרומפט מבריק הופך אדם אחד למהיר יותר. מערכת הופכת את כל החברה לטובה יותר, וממשיכה לעבוד גם אחרי שהאדם המבריק הלך הביתה.