공쿠르상과 기계

11월 3일 아카데미 공쿠르(Académie Goncourt)는 6 대 3의 표결로 『L’Inconnue du quai de Javel』의 작가 Philippe Jaenada에게 상을 수여했습니다. 다음 날 그는 France Inter에서 이 책을 쓰는 동안 ChatGPT를 세 번 사용했다고 말했습니다. 책 속 한 문장은 기계가 썼고, 그는 일부러 그 문장을 넣었습니다.

이 고백은 같은 아카데미가 다른 소설 한 편을 후보 명단에서 제외한 지 6주도 채 되지 않아 나왔습니다. 당시 아카데미는 그 소설이 상당 부분 인공지능의 산물일 가능성이 매우 높다고 밝혔습니다. 두 사례는 비슷해 보입니다. 저희는 두 사례가 하나의 선을 사이에 두고 서로 반대편에 있다고 생각합니다. 그 선은 도구가 아니라 도구를 쓰는 사람을 지나갑니다.

그가 한 말

올해 62세인 Jaenada는 1940년대 말 파리에서 일어난 젊은 브르타뉴 여성의 미제 살인 사건을 추적한 작품으로 상을 받았습니다. 세 가지 사용 가운데 첫 번째가 바로 그 문장으로, 그의 말에 따르면 “jouer avec le lecteur”, 즉 독자와 장난을 치기 위해 넣은 것입니다. 그는 그 문장이 어느 것인지 공쿠르 심사위원들에게만 밝혔으며, 이렇게 농담했습니다. “Si ça sort, je sais de qui ça viendra”, 새어 나가면 누구에게서 나왔는지 알 수 있을 거라는 뜻입니다.

두 번째는 “pour me moquer un peu de ChatGPT, qui fait des réponses complètement absurdes à propos d’une donnée technique”였다고 그는 말했습니다. 기술적인 세부 사항에 대해 터무니없는 답을 내놓는 도구를 조금 놀려 주기 위해서였다는 것입니다. 세 번째는 자료 조사였습니다. 그는 “On ne peut pas faire comme si ça n’existait pas”라고 말했습니다. 그것이 존재하지 않는 것처럼 행동할 수는 없다는 뜻입니다. 그리고 이렇게 덧붙였습니다. “Il faut s’en servir, il faut le reconnaître, il faut l’apprivoiser et ne pas se faire remplacer.” 저희가 옮기면 이렇습니다. 그것을 사용하고, 인정하고, 길들여야 하며, 그것에 대체되어서는 안 됩니다.

Euronews에 따르면 온라인 반응은 엇갈렸습니다. AI가 맞춤법 검사기만큼 피할 수 없는 것이 되어 간다고 보는 이들도 있었고, 실망한 이들도 있었습니다.

두 권의 책, 하나의 아카데미

9월 25일 아카데미는 Thélyson Orélien의 첫 소설 『C’était ça ou mourir』를 1차 후보 명단에서 철회했습니다. 아카데미는 저자의 표절, 그리고 이 책이 “selon toute vraisemblance très largement le produit d’une Intelligence Artificielle”, 즉 십중팔구 대부분 AI의 산물이라고 결론 내린 연구자와 기자들의 분석을 근거로 들었습니다. 아카데미는 자신의 역할이 “la littérature écrite par des femmes et des hommes”, 즉 여성과 남성이 쓴 문학을 알리고 그에 상을 주는 것이라고 밝혔습니다.

Orélien은 AI 사용을 부인하며 AFP에 “aucune phrase de ce livre n’a été créée par une machine”, 즉 이 책의 어떤 문장도 기계가 만들지 않았다고 말했습니다. 10월 22일 그의 캐나다 출판사 Les Éditions du Boréal은 소설 집필에 인공지능이 사용되었다고 밝히고 그와의 작업을 끝냈습니다.

나란히 놓고 보면, 두 사례의 차이는 기계가 쓴 텍스트의 양보다 그 주변에서 일어난 일에 있습니다. 한쪽에서는 저자가 부인하는 가운데 책이 대부분 생성된 것으로 판단되었습니다. 다른 쪽에서는 작가가 문장 하나를 골랐고, 그것이 어느 문장인지 심사위원단에게 알렸으며, 수상 다음 날 라디오에서 직접 설명했습니다.

선은 어디에 있는가

Jaenada의 설명 어디에도 도구가 무언가를 결정했다는 암시는 없습니다. 문장을 요청하기로 한 것도, 그것을 남기기로 한 것도, 어디에 왜 넣을지 정한 것도 그 자신입니다. 터무니없는 답을 조롱하는 것은 도구의 실패를 소재로 바꾸는 일입니다. 자료 조사에 쓰는 것은 작가들이 이미 기록 보관소와 검색 엔진으로 해 온 일이며, 그 자신의 사례는 왜 모든 답을 확인해야 하는지 보여 줍니다.

저희가 도구와 저자 사이에 선을 긋는다면 바로 그곳입니다. 그 선은 기계가 만든 단어의 비율을 지나지 않습니다. 두 가지 질문을 지나갑니다. 남은 모든 문장을 사람이 골랐는가, 그리고 그 사람이 그것에 책임을 질 것인가입니다. 모델에게 열 줄을 요청해 한 줄을 남기는 작가는 여전히 저자입니다. 모델이 고르고 사람은 서명만 한 책은 비율이 얼마이든 다른 무엇입니다.

문제는 숨기는 것

창작 작업에서 AI에 스캔들이 있다면, 그것은 사용이 아니라 은폐에 있습니다. 독자, 심사위원단, 고객은 작품에 적힌 이름이 선택을 내린 사람의 것이라고 믿습니다. 그 신뢰는 도구를 견뎌 냅니다. 하지만 나중에 도구가 일을 했고 누군가 침묵했다는 사실을 알게 되면 견디지 못합니다.

저희는 9월 아카데미의 결정과 11월 Jaenada의 솔직함을 하나의 원칙의 양면으로 읽습니다. 책에 적힌 이름은 누가 그 책을 만들었는지에 대해 진실을 말해야 합니다. 밝히는 일이 엄숙할 필요는 없습니다. Jaenada는 그것을 독자와의 놀이의 일부로 삼았고, 그 문장이 어디에 있는지 심사위원들에게 알렸습니다. 그는 도구를 사용했고, 선택은 자신이 했으며, 그 사실을 말했습니다. 바로 그 순서대로입니다.

브랜드에게도 같은 질문

AI로 만든 이미지, 영상, 카피를 게시하는 브랜드는 저자와 같은 약속을 합니다. 이것이 우리가 말하기로 선택한 것이라는 약속입니다. EU는 이제 그 일부를 법으로 정합니다. 2026년 8월 2일부터 EU 인공지능법(AI Act) 제50조는 AI로 딥페이크를 만드는 모든 이에게 해당 콘텐츠가 생성되거나 조작된 것임을 고지하도록 요구하며, 공익에 관한 사안을 대중에게 알리기 위해 게시되는 AI 생성 텍스트에도 같은 의무를 부과합니다.

텍스트에 대한 의무는 콘텐츠가 사람의 검토나 편집 통제를 거쳤고, 사람이나 회사가 그에 대한 편집 책임을 지는 경우에는 사라집니다. 법은 저희가 그을 법한 곳에 선을 긋습니다. 내보내는 것을 검토하고 그에 책임을 지는 누군가입니다.

질문의 나머지 절반은 무엇이 들어갔느냐입니다. 지난주 Elvis Presley 음악의 소유자들과 Eminem의 음악 출판사 Eight Mile Style은 캘리포니아에서 음악 생성 서비스 Suno를 고소했습니다. Suno가 자신들의 작품을 복제했고, Presley의 경우에는 그의 목소리를 흉내 냈다는 주장입니다. Suno는 자사 서비스가 사람들이 독창적인 음악을 만들도록 돕기 위한 것이며 “누군가의 이름이나 초상을 이용하려는 것이 아니다”라고 말했습니다. 기업에게 이 두 절반은 결국 기록으로 귀결됩니다. 어떤 이미지, 클립, 텍스트가 AI로 만들어졌는지, 그 바탕이 된 레퍼런스와 버전, 그리고 각각을 승인한 사람입니다.

crue의 입장

이미 제공 중인 Reel에서는 무엇이든 만들기 전에 고정할 아이디어, 레퍼런스, 스타일을 사람과 합의하고, 사용되는 모든 이미지와 클립을 사람이 고르며, 각각은 모든 버전과 그 바탕이 된 레시피와 함께 미디어 라이브러리에 보관됩니다. 얼리 액세스 단계인 Studio에서는 어시스턴트가 초안을 쓰고 모든 변경은 게시되기 전에 사람이 승인하며, 모든 작업이 감사 로그에 남습니다. 어느 쪽도 귀사 대신 선택하지 않습니다. 두 제품 모두 언제든 누가 선택했는지 말할 수 있게 해 줍니다.