הגונקור והמכונה

ב־3 בנובמבר העניקה אקדמיית גונקור את הפרס שלה לפיליפ ז׳נאדה על L’Inconnue du quai de Javel, בשישה קולות מול שלושה. למחרת הוא סיפר ל־France Inter שהשתמש ב־ChatGPT שלוש פעמים במהלך הכתיבה. משפט אחד בספר נכתב בידי המכונה, והוא שם אותו שם בכוונה.

ההודאה הגיעה פחות משישה שבועות אחרי שאותה אקדמיה הוציאה רומן אחר מהרשימה שלה, בטענה שהוא ככל הנראה ברובו תוצר של בינה מלאכותית. שני המקרים נראים דומים. לדעתנו הם נמצאים משני צדדיו של קו שעובר לא דרך הכלי אלא דרך האדם שמשתמש בו.

מה הוא אמר

ז׳נאדה, בן 62, זכה על התחקיר שלו על הרצח הלא מפוענח של צעירה ברטונית בפריז בסוף שנות ה־40. השימוש הראשון מבין השלושה היה המשפט, שאותו הכניס, לדבריו, כדי "jouer avec le lecteur", לשחק עם הקורא. הוא גילה איזה משפט זה רק לשופטי הגונקור, והתבדח: "Si ça sort, je sais de qui ça viendra", אם זה ידלוף, אדע ממי זה הגיע.

הפעם השנייה, אמר, הייתה "pour me moquer un peu de ChatGPT, qui fait des réponses complètement absurdes à propos d’une donnée technique": כדי ללעוג מעט לכלי שנתן תשובות אבסורדיות לגבי פרט טכני. השלישית הייתה מחקר. "On ne peut pas faire comme si ça n’existait pas," אמר, אי אפשר להעמיד פנים שזה לא קיים. ועוד: "Il faut s’en servir, il faut le reconnaître, il faut l’apprivoiser et ne pas se faire remplacer." בתרגום שלנו: צריך להשתמש בזה, להודות בזה, לביית את זה ולא לתת לזה להחליף אותנו.

התגובות ברשת היו מעורבות, דיווחה Euronews. היו שראו בינה מלאכותית הופכת לבלתי נמנעת כמו בודק איות, ואחרים התאכזבו.

שני ספרים, אקדמיה אחת

ב־25 בספטמבר הוציאה האקדמיה מהרשימה הראשונה שלה את C’était ça ou mourir, רומן הביכורים של תליסון אורליין. היא הצביעה על גניבה ספרותית של המחבר ועל ניתוחים של חוקרים ועיתונאים שהגיעו למסקנה שהספר היה "selon toute vraisemblance très largement le produit d’une Intelligence Artificielle", ככל הנראה ברובו הגדול תוצר של בינה מלאכותית. תפקידה, אמרה האקדמיה, הוא לקדם ולהכתיר את "la littérature écrite par des femmes et des hommes", ספרות שכתבו נשים וגברים.

אורליין הכחיש שהשתמש בבינה מלאכותית ואמר ל־AFP ש"aucune phrase de ce livre n’a été créée par une machine", אף משפט בספר לא נוצר בידי מכונה. ב־22 באוקטובר הודיעה ההוצאה הקנדית שלו, Les Éditions du Boréal, שבכתיבת הרומן נעשה שימוש בבינה מלאכותית, וסיימה את העבודה איתו.

זה לצד זה, שני המקרים נבדלים פחות בכמות הטקסט של המכונה ויותר במה שקרה סביבו. באחד, ספר נשפט כמחולל ברובו בזמן שהמחבר שלו הכחיש זאת. בשני, סופר בחר משפט אחד, אמר לחבר השופטים איזה, והסביר את עצמו ברדיו יום אחרי שזכה.

איפה עובר הקו

שום דבר בתיאור של ז׳נאדה לא מרמז שהכלי החליט משהו. הוא בחר לבקש משפט, בחר לשמור אותו, בחר איפה הוא ימוקם ולמה. לעג לתשובה אבסורדית הופך את הכישלון של הכלי לחומר גלם. שימוש בו למחקר הוא מה שסופרים כבר עושים עם ארכיונים ומנועי חיפוש, והדוגמה שלו עצמו מראה למה כל תשובה צריכה בדיקה.

שם היינו מותחים את הקו בין כלי למחבר. הוא לא עובר דרך חלק המילים שמכונה הפיקה. הוא עובר דרך שתי שאלות: האם אדם בחר כל משפט שנשאר, והאם האדם הזה ייקח עליו אחריות? סופר שמבקש ממודל עשר שורות ושומר אחת הוא עדיין המחבר. ספר שבו המודל בחר והאדם רק חתם הוא משהו אחר, יהיה האחוז אשר יהיה.

ההסתרה היא הבעיה

אם יש לבינה מלאכותית בעבודה יצירתית שערורייה, היא טמונה בהסתרה, לא בשימוש. קורא, חבר שופטים או לקוח סומכים על כך שהשם על היצירה שייך לאדם שקיבל את ההחלטות. האמון הזה שורד כלי. הוא לא שורד את הגילוי המאוחר שהכלי עשה את העבודה ומישהו שתק.

אנחנו קוראים את ההחלטה של האקדמיה בספטמבר ואת הפתיחות של ז׳נאדה בנובמבר כשני צדדים של עיקרון אחד: השם על ספר צריך לומר את האמת על מי שיצר אותו. גילוי לא חייב להיות חגיגי. ז׳נאדה הפך את הגילוי שלו לחלק ממשחק עם הקורא, ואמר לשופטים איפה המשפט נמצא. הוא השתמש בכלי, שמר לעצמו את הבחירה ואמר זאת, בסדר הזה.

אותה שאלה למותגים

מותג שמפרסם תמונות, סרטים או טקסטים שנוצרו בבינה מלאכותית נותן את אותה הבטחה כמו מחבר: זה מה שבחרנו לומר. האיחוד האירופי מעגן עכשיו חלק מזה בחוק. מאז 2 באוגוסט 2026, סעיף 50 של חוק ה‑AI של האיחוד האירופי (AI Act) מחייב כל מי שמשתמש בבינה מלאכותית כדי ליצור דיפפייק לגלות שהתוכן נוצר או שונה, ומחייב את אותו הדבר לגבי טקסט שנוצר בבינה מלאכותית ומתפרסם כדי ליידע את הציבור בנושאים שיש בהם עניין ציבורי.

החובה לגבי טקסט נופלת כשהתוכן עבר בדיקה אנושית או בקרה עריכתית ואדם או חברה נושאים באחריות העריכתית עליו. החוק מותח את הקו שלו איפה שגם אנחנו היינו מותחים אותו: אצל מישהו שבודק את מה שיוצא ונושא באחריות לו.

החצי השני של השאלה הוא מה נכנס. בשבוע שעבר הגישו בעלי המוזיקה של אלביס פרסלי והמו״ל של אמינם, Eight Mile Style, תביעה בקליפורניה נגד מחולל המוזיקה Suno, והאשימו אותו בהעתקת היצירות שלהם, ובמקרה של פרסלי גם בחיקוי הקול שלו. Suno אמר שהשירות שלו נועד לעזור לאנשים ליצור מוזיקה מקורית, "לא לעשות רווח מהשם או מהדמות של אף אחד." לחברה, שני החצאים מסתכמים בתיעוד: אילו תמונות, קטעים וטקסטים נוצרו בבינה מלאכותית, הייחוסים והגרסאות שמאחוריהם, והאדם שאישר כל אחד מהם.

איפה crue עומדת

ב־Reel, שכבר זמין, הרעיונות, הייחוסים והסגנונות שיש לנעול מוסכמים עם אדם לפני שמשהו נוצר, אדם בוחר כל תמונה וכל קטע שנעשה בהם שימוש, וכל אחד מהם נשמר בספריית מדיה עם כל הגרסאות והמתכון שמאחוריו. ב־Studio, בגישה מוקדמת, העוזר מנסח טיוטות ואדם מאשר כל שינוי לפני שהוא עולה לאוויר, וכל פעולה נרשמת ביומן ביקורת. אף אחד מהם לא בוחר בשבילכם. שניהם מאפשרים לומר, בכל רגע, מי בחר.