Der Goncourt und die Maschine
Der diesjährige Prix Goncourt ging an einen Roman mit einem Satz, den ChatGPT geschrieben hat. Warum nicht das Werkzeug der Skandal ist und warum es wichtig ist, es offen zu sagen.
Am 3. November verlieh die Académie Goncourt ihren Preis mit sechs zu drei Stimmen an Philippe Jaenada für L’Inconnue du quai de Javel. Am Tag darauf sagte er gegenüber France Inter, er habe ChatGPT beim Schreiben dreimal benutzt. Ein Satz im Buch stammt von der Maschine, und er hat ihn absichtlich dort platziert.
Das Eingeständnis kam weniger als sechs Wochen, nachdem dieselbe Akademie einen anderen Roman aus ihrer Auswahl entfernt hatte, mit der Begründung, er sei sehr wahrscheinlich grösstenteils das Produkt künstlicher Intelligenz. Die beiden Fälle sehen sich ähnlich. Wir meinen, sie liegen auf entgegengesetzten Seiten einer Linie, die nicht durch das Werkzeug verläuft, sondern durch die Person, die es benutzt.
Was er gesagt hat
Jaenada, 62, gewann mit seiner Recherche zum ungeklärten Mord an einer jungen Bretonin in Paris Ende der 1940er-Jahre. Die erste der drei Nutzungen war der Satz, den er nach eigenen Worten eingefügt hat, um «jouer avec le lecteur», also um mit dem Leser zu spielen. Welcher Satz es ist, hat er nur der Goncourt-Jury verraten, und er scherzte: «Si ça sort, je sais de qui ça viendra», wenn das herauskommt, weiss ich, von wem es kam.
Das zweite Mal sei gewesen, sagte er, «pour me moquer un peu de ChatGPT, qui fait des réponses complètement absurdes à propos d’une donnée technique»: um sich ein wenig über ein Werkzeug lustig zu machen, das zu einem technischen Detail absurde Antworten gab. Beim dritten Mal ging es um Recherche. «On ne peut pas faire comme si ça n’existait pas», sagte er, wir können nicht so tun, als gäbe es das nicht. Und: «Il faut s’en servir, il faut le reconnaître, il faut l’apprivoiser et ne pas se faire remplacer.» In unserer Übersetzung: Wir müssen es nutzen, es zugeben, es zähmen und uns nicht ersetzen lassen.
Die Reaktionen im Netz waren gemischt, berichtete Euronews. Manche sahen KI so unumgänglich werden wie eine Rechtschreibprüfung, andere waren enttäuscht.
Zwei Bücher, eine Akademie
Am 25. September hatte die Akademie C’était ça ou mourir, den ersten Roman von Thélyson Orélien, aus ihrer ersten Auswahl zurückgezogen. Sie verwies auf Plagiate des Autors und auf Analysen von Forschenden und Journalisten, die zum Schluss kamen, das Buch sei «selon toute vraisemblance très largement le produit d’une Intelligence Artificielle», aller Wahrscheinlichkeit nach sehr weitgehend das Produkt von KI. Ihre Aufgabe sei es, so die Akademie, «la littérature écrite par des femmes et des hommes» zu fördern und auszuzeichnen, Literatur, die von Frauen und Männern geschrieben wird.
Orélien bestritt, KI genutzt zu haben, und sagte gegenüber AFP, «aucune phrase de ce livre n’a été créée par une machine», kein einziger Satz des Buches sei von einer Maschine erstellt worden. Am 22. Oktober erklärte sein kanadischer Verlag, Les Éditions du Boréal, beim Schreiben des Romans sei künstliche Intelligenz verwendet worden, und beendete die Zusammenarbeit mit ihm.
Nebeneinander betrachtet, unterscheiden sich die beiden Fälle weniger in der Menge an Maschinentext als darin, was rundherum geschah. Im einen wurde ein Buch als grösstenteils generiert beurteilt, während sein Autor das bestritt. Im anderen wählte ein Schriftsteller einen Satz, sagte der Jury, welchen, und erklärte sich am Tag nach seinem Sieg im Radio.
Wo die Linie verläuft
Nichts in Jaenadas Schilderung deutet darauf hin, dass das Werkzeug irgendetwas entschieden hat. Er entschied, um einen Satz zu bitten, ihn zu behalten, wohin er gehört und warum. Wer sich über eine absurde Antwort lustig macht, verwandelt das Versagen des Werkzeugs in Material. Es für die Recherche zu nutzen, ist das, was Schreibende mit Archiven und Suchmaschinen ohnehin tun, und sein eigenes Beispiel zeigt, warum jede Antwort geprüft werden muss.
Genau dort würden wir die Linie zwischen einem Werkzeug und einem Autor ziehen. Sie verläuft nicht durch den Anteil der Wörter, die eine Maschine erzeugt hat. Sie verläuft durch zwei Fragen: Hat ein Mensch jeden Satz gewählt, der stehen geblieben ist, und steht dieser Mensch dafür ein? Wer ein Modell um zehn Zeilen bittet und eine behält, ist weiterhin der Autor. Ein Buch, in dem das Modell gewählt und der Mensch nur unterschrieben hat, ist etwas anderes, ganz gleich, wie hoch der Prozentsatz ist.
Das Verstecken ist das Problem
Wenn es bei KI in kreativer Arbeit einen Skandal gibt, dann liegt er im Verschweigen, nicht in der Nutzung. Eine Leserin, eine Jury oder ein Kunde vertraut darauf, dass der Name auf dem Werk der Person gehört, die die Entscheidungen getroffen hat. Dieses Vertrauen übersteht ein Werkzeug. Es übersteht nicht, später herauszufinden, dass das Werkzeug die Arbeit gemacht und jemand geschwiegen hat.
Wir lesen den Entscheid der Akademie im September und Jaenadas Offenheit im November als zwei Seiten eines Prinzips: Der Name auf einem Buch sollte die Wahrheit darüber sagen, wer es gemacht hat. Offenlegung muss nicht feierlich sein. Jaenada machte seine zu einem Teil des Spiels mit dem Leser und sagte der Jury, wo der Satz steht. Er nutzte das Werkzeug, behielt die Entscheidung und sagte es, in dieser Reihenfolge.
Dieselbe Frage für Marken
Eine Marke, die mit KI erstellte Bilder, Filme oder Texte veröffentlicht, gibt dasselbe Versprechen wie ein Autor: Genau das wollten wir sagen. Die EU schreibt einen Teil davon nun ins Gesetz. Seit dem 2. August 2026 verlangt Artikel 50 der EU-KI-Verordnung (AI Act) von allen, die mit KI einen Deepfake erstellen, offenzulegen, dass der Inhalt erzeugt oder manipuliert ist, und dasselbe für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Die Pflicht für Texte entfällt, wenn der Inhalt eine menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen hat und eine Person oder ein Unternehmen die redaktionelle Verantwortung dafür trägt. Das Gesetz zieht seine Linie dort, wo wir sie ziehen würden: bei jemandem, der prüft, was hinausgeht, und dafür einsteht.
Die andere Hälfte der Frage ist, was hineingeflossen ist. Letzte Woche verklagten die Inhaber der Musik von Elvis Presley und Eminems Verlag Eight Mile Style den Musikgenerator Suno in Kalifornien. Sie werfen ihm vor, ihre Werke kopiert und im Fall von Presley seine Stimme nachgeahmt zu haben. Suno sagte, sein Dienst solle Menschen helfen, eigene Musik zu machen, «nicht, aus dem Namen oder dem Abbild von jemandem Kapital zu schlagen». Für ein Unternehmen laufen beide Hälften auf eine Dokumentation hinaus: welche Bilder, Clips und Texte mit KI erstellt wurden, welche Referenzen und Versionen dahinterstehen und welche Person jedes einzelne freigegeben hat.
Wo crue steht
In Reel, bereits live, werden die Ideen, Referenzen und festzulegenden Stile mit einem Menschen abgestimmt, bevor etwas entsteht, ein Mensch wählt jedes verwendete Bild und jeden Clip aus, und alles liegt in einer Mediathek, mit jeder Version und dem Rezept dahinter. In Studio, im frühen Zugang, entwirft der Assistent, und ein Mensch gibt jede Änderung frei, bevor sie live geht, mit jeder Aktion in einem Audit-Log. Keines von beiden trifft die Wahl für Sie. Beide machen es möglich, jederzeit zu sagen, wer gewählt hat.
