Гонкур и машина

3 ноября Гонкуровская академия шестью голосами против трёх присудила свою премию Филиппу Жаенаде за роман «L’Inconnue du quai de Javel». На следующий день он рассказал France Inter, что трижды пользовался ChatGPT во время работы над книгой. Одну фразу в книге написала машина, и он вставил её туда намеренно.

Это признание прозвучало менее чем через шесть недель после того, как та же академия исключила из своего списка другой роман, заявив, что он, весьма вероятно, в значительной мере является продуктом искусственного интеллекта. Два случая выглядят похоже. Мы считаем, что они находятся по разные стороны границы, которая проходит не через инструмент, а через человека, который им пользуется.

Что он сказал

62-летний Жаенада получил премию за расследование нераскрытого убийства молодой бретонки в Париже в конце 1940-х годов. Первым из трёх случаев была та самая фраза, которую он, по его словам, вставил, чтобы «jouer avec le lecteur», то есть поиграть с читателем. Какая это фраза, он раскрыл только членам жюри Гонкуровской премии и пошутил: «Si ça sort, je sais de qui ça viendra», то есть если это выйдет наружу, я буду знать, от кого.

Во второй раз, по его словам, это было «pour me moquer un peu de ChatGPT, qui fait des réponses complètement absurdes à propos d’une donnée technique»: чтобы немного посмеяться над инструментом, который давал абсурдные ответы по поводу одной технической детали. Третий случай касался поиска информации. «On ne peut pas faire comme si ça n’existait pas», сказал он, то есть нельзя делать вид, будто этого не существует. И ещё: «Il faut s’en servir, il faut le reconnaître, il faut l’apprivoiser et ne pas se faire remplacer». В нашем переводе: этим нужно пользоваться, это нужно признать, это нужно приручить и не позволить себя заменить.

По данным Euronews, реакция в интернете была неоднозначной. Одни увидели в этом знак того, что ИИ становится таким же неизбежным, как проверка орфографии, другие были разочарованы.

Две книги, одна академия

25 сентября академия исключила из своего первого списка «C’était ça ou mourir», дебютный роман Тэлисона Орельена. Она сослалась на плагиат со стороны автора и на анализы исследователей и журналистов, которые пришли к выводу, что книга является «selon toute vraisemblance très largement le produit d’une Intelligence Artificielle», то есть, по всей вероятности, в очень большой мере продуктом ИИ. По словам академии, её роль состоит в том, чтобы продвигать и венчать наградами «la littérature écrite par des femmes et des hommes», литературу, написанную женщинами и мужчинами.

Орельен отрицал использование ИИ и заявил AFP, что «aucune phrase de ce livre n’a été créée par une machine», то есть ни одна фраза в книге не была создана машиной. 22 октября его канадское издательство Les Éditions du Boréal сообщило, что при написании романа использовался искусственный интеллект, и прекратило с ним сотрудничество.

Если сравнить два случая, они различаются не столько объёмом машинного текста, сколько тем, что происходило вокруг него. В одном книгу признали в значительной мере сгенерированной, а её автор это отрицал. В другом писатель выбрал одну фразу, сказал жюри, какую именно, и объяснился в радиоэфире на следующий день после победы.

Где проходит граница

Ничто в рассказе Жаенады не говорит о том, что инструмент что-то решал. Он сам решил попросить фразу, сам решил её оставить, сам выбрал, где она стоит и зачем. Насмешка над абсурдным ответом превращает провал инструмента в материал. Использование его для поиска информации ничем не отличается от того, что писатели уже делают с архивами и поисковыми системами, а его собственный пример показывает, почему каждый ответ нужно проверять.

Именно здесь мы провели бы границу между инструментом и автором. Она проходит не через долю слов, созданных машиной. Она проходит через два вопроса: выбрал ли человек каждую оставшуюся фразу и готов ли он за неё отвечать? Писатель, который просит у модели десять строк и оставляет одну, по-прежнему остаётся автором. Книга, в которой выбирала модель, а человек только подписал, является чем-то другим, каким бы ни был процент.

Проблема в сокрытии

Если у ИИ в творческой работе и есть скандал, то он кроется в сокрытии, а не в использовании. Читатель, жюри или клиент верят, что имя на работе принадлежит человеку, который делал выбор. Это доверие переживёт инструмент. Но оно не переживёт, если позже выяснится, что работу сделал инструмент, а кто-то промолчал.

Мы видим в сентябрьском решении академии и ноябрьской открытости Жаенады две стороны одного принципа: имя на книге должно говорить правду о том, кто её создал. Раскрытие не обязано быть торжественным. Жаенада сделал своё частью игры с читателем и сказал членам жюри, где находится фраза. Он воспользовался инструментом, оставил выбор за собой и сказал об этом, именно в таком порядке.

Тот же вопрос для брендов

Бренд, который публикует изображения, видео или тексты, созданные с помощью ИИ, даёт то же обещание, что и автор: это то, что мы решили сказать. Теперь ЕС частично закрепляет это в законе. С 2 августа 2026 года статья 50 Регламента ЕС об ИИ (AI Act) требует от каждого, кто использует ИИ для создания дипфейка, раскрывать, что контент сгенерирован или изменён, и требует того же для созданных ИИ текстов, опубликованных, чтобы информировать общественность по вопросам, представляющим общественный интерес.

Обязанность для текстов отпадает, если контент прошёл проверку человеком или редакционный контроль и человек или компания несут за него редакционную ответственность. Закон проводит границу там же, где провели бы её мы: на том, кто проверяет то, что выходит, и отвечает за это.

Вторая половина вопроса касается того, что пошло на вход. На прошлой неделе владельцы музыки Элвиса Пресли и издатель Эминема, Eight Mile Style, подали в Калифорнии иск против музыкального генератора Suno, обвинив его в копировании их произведений, а в случае Пресли и в имитации его голоса. Suno заявила, что её сервис существует, чтобы помогать людям создавать оригинальную музыку, «а не наживаться на чьём-либо имени или образе». Для компании обе половины сводятся к документации: какие изображения, ролики и тексты созданы с помощью ИИ, какие референсы и версии за ними стоят и какой человек утвердил каждый из них.

Позиция crue

В Reel, который уже доступен, идеи, референсы и стили, которые нужно зафиксировать, согласуются с человеком до того, как что-либо будет создано, каждое используемое изображение и каждый ролик выбирает человек, а каждый из них хранится в медиатеке со всеми версиями и рецептом, по которому он создан. В Studio, который находится в раннем доступе, ассистент готовит черновики, а человек утверждает каждое изменение до публикации, и каждое действие попадает в журнал аудита. Ни один из них не делает выбор за вас. Оба позволяют в любой момент сказать, кто сделал выбор.