Il Goncourt e la macchina

Il 3 novembre l’Académie Goncourt ha assegnato il suo premio a Philippe Jaenada per L’Inconnue du quai de Javel, con sei voti contro tre. Il giorno dopo l’autore ha detto a France Inter di aver usato ChatGPT tre volte mentre lo scriveva. Una frase del libro è stata scritta dalla macchina, e lui l’ha messa lì di proposito.

L’ammissione è arrivata meno di sei settimane dopo che la stessa accademia aveva escluso un altro romanzo dalla sua selezione, sostenendo che fosse con ogni probabilità in gran parte il prodotto dell’intelligenza artificiale. I due casi sembrano simili. Secondo noi si trovano ai lati opposti di una linea che non passa per lo strumento, ma per la persona che lo usa.

Che cosa ha detto

Jaenada, 62 anni, ha vinto con la sua inchiesta sull’omicidio irrisolto di una giovane donna bretone a Parigi alla fine degli anni Quaranta. Il primo dei tre usi è stata la frase, che ha inserito, ha detto, per «jouer avec le lecteur», per giocare con il lettore. Ha rivelato di quale frase si tratti solo ai giurati del Goncourt, e ha scherzato: «Si ça sort, je sais de qui ça viendra», se trapela, saprò da chi è venuta.

La seconda volta, ha detto, è stata «pour me moquer un peu de ChatGPT, qui fait des réponses complètement absurdes à propos d’une donnée technique»: per prendere un po’ in giro uno strumento che dava risposte assurde su un dettaglio tecnico. La terza è stata per la ricerca. «On ne peut pas faire comme si ça n’existait pas», ha detto, non possiamo fare come se non esistesse. E: «Il faut s’en servir, il faut le reconnaître, il faut l’apprivoiser et ne pas se faire remplacer.» Nella nostra traduzione: dobbiamo usarlo, ammetterlo, addomesticarlo e non lasciarci sostituire.

Le reazioni online sono state contrastanti, ha riferito Euronews. Alcuni hanno visto l’IA diventare inevitabile quanto un correttore ortografico, altri sono rimasti delusi.

Due libri, una sola accademia

Il 25 settembre l’accademia aveva ritirato dalla sua prima selezione C’était ça ou mourir, il primo romanzo di Thélyson Orélien. Aveva citato plagi da parte dell’autore e analisi di ricercatori e giornalisti secondo cui il libro era «selon toute vraisemblance très largement le produit d’une Intelligence Artificielle», con ogni verosimiglianza in larghissima parte il prodotto dell’IA. Il suo ruolo, ha spiegato l’accademia, è promuovere e premiare «la littérature écrite par des femmes et des hommes», la letteratura scritta da donne e da uomini.

Orélien ha negato di aver usato l’IA e ha detto all’AFP che «aucune phrase de ce livre n’a été créée par une machine», nessuna frase del libro è stata creata da una macchina. Il 22 ottobre il suo editore canadese, Les Éditions du Boréal, ha dichiarato che nella scrittura del romanzo era stata usata l’intelligenza artificiale, e ha interrotto la collaborazione con lui.

Messi uno accanto all’altro, i due casi differiscono meno per la quantità di testo prodotto dalla macchina che per ciò che è successo intorno. In uno, un libro è stato giudicato in gran parte generato mentre il suo autore lo negava. Nell’altro, uno scrittore ha scelto una frase, ha detto alla giuria quale fosse e si è spiegato alla radio il giorno dopo la vittoria.

Dove passa la linea

Nulla nel racconto di Jaenada fa pensare che lo strumento abbia deciso qualcosa. È stato lui a scegliere di chiedere una frase, a scegliere di tenerla, a scegliere dove metterla e perché. Prendere in giro una risposta assurda trasforma l’errore dello strumento in materia prima. Usarlo per la ricerca è ciò che gli scrittori fanno già con archivi e motori di ricerca, e il suo stesso esempio mostra perché ogni risposta va verificata.

È lì che tracceremmo la linea tra uno strumento e un autore. Non passa per la quota di parole prodotte da una macchina. Passa per due domande: una persona ha scelto ogni frase rimasta, e quella persona ne risponderà? Uno scrittore che chiede a un modello dieci righe e ne tiene una resta l’autore. Un libro in cui ha scelto il modello e la persona si è limitata a firmare è un’altra cosa, qualunque sia la percentuale.

Il problema è nascondere

Se l’IA nel lavoro creativo ha uno scandalo, sta nell’occultamento, non nell’uso. Un lettore, una giuria o un cliente si fidano del fatto che il nome sull’opera appartenga alla persona che ha fatto le scelte. Questa fiducia sopravvive a uno strumento. Non sopravvive alla scoperta, a posteriori, che il lavoro l’ha fatto lo strumento e qualcuno ha taciuto.

Leggiamo la decisione dell’accademia a settembre e l’apertura di Jaenada a novembre come due facce di un unico principio: il nome su un libro dovrebbe dire la verità su chi lo ha fatto. La trasparenza non deve per forza essere solenne. Jaenada l’ha resa parte di un gioco con il lettore, e ha detto ai giurati dove si trovava la frase. Ha usato lo strumento, ha mantenuto la scelta e lo ha detto, in quest’ordine.

La stessa domanda per i brand

Un brand che pubblica immagini, filmati o testi realizzati con l’IA fa la stessa promessa di un autore: questo è ciò che abbiamo scelto di dire. L’UE ne ha ora tradotto una parte in legge. Dal 2 agosto 2026 l’articolo 50 dell’AI Act impone a chiunque usi l’IA per creare un deepfake di rendere noto che il contenuto è generato o manipolato, e impone lo stesso per i testi generati dall’IA pubblicati per informare il pubblico su questioni di interesse pubblico.

L’obbligo per i testi decade quando il contenuto è stato sottoposto a revisione umana o a controllo editoriale e una persona o un’azienda ne detiene la responsabilità editoriale. La legge traccia la linea dove la tracceremmo noi: in corrispondenza di qualcuno che rivede ciò che esce e ne risponde.

L’altra metà della questione è ciò che è entrato. La settimana scorsa i titolari della musica di Elvis Presley e l’editore di Eminem, Eight Mile Style, hanno fatto causa in California al generatore musicale Suno, accusandolo di aver copiato le loro opere e, nel caso di Presley, di averne imitato la voce. Suno ha detto che il suo servizio serve ad aiutare le persone a creare musica originale, «non a sfruttare il nome o l’immagine di qualcuno». Per un’azienda, entrambe le metà si riducono a una documentazione: quali immagini, clip e testi sono stati realizzati con l’IA, i riferimenti e le versioni che stanno dietro, e la persona che ha approvato ciascuno.

Dove si colloca crue

In Reel, già disponibile, le idee, i riferimenti e gli stili da fissare vengono concordati con una persona prima di realizzare qualsiasi cosa, una persona sceglie ogni immagine e clip utilizzata, e ciascuna si trova in una libreria multimediale con tutte le versioni e la ricetta che c’è dietro. In Studio, in accesso anticipato, l’assistente prepara le bozze e una persona approva ogni modifica prima che vada online, con ogni azione registrata in un log di audit. Nessuno dei due sceglie al posto vostro. Entrambi permettono di dire, in qualsiasi momento, chi ha scelto.