AI 콘텐츠에 누가, 언제 라벨을 붙이는가

많은 기업이 EU에서 AI 콘텐츠에 라벨을 붙여야 하는 날로 12월 2일을 달력에 표시해 두었습니다. 이는 절반만 맞습니다. 이 날짜는 생성형 도구를 만드는 기업에 해당하며, 그것도 하나의 의무, 즉 자사 시스템이 만든 결과물을 기계가 감지할 수 있도록 마킹하는 의무에 관한 것입니다. 딥페이크를 게시하는 기업에는 8월 2일부터 별도의 의무가 있었고, 추가로 주어진 몇 달은 여기에 적용되지 않습니다.

아래에서는 누가 어떤 의무를 지는지, 무엇이 딥페이크로 간주되는지, 예외는 어디에 있는지, 그리고 스위스 기업이 왜 적용 대상인지 살펴봅니다. 이 글은 개요이며 법률 자문이 아닙니다.

누가 마킹하고, 누가 라벨을 붙이는가

EU 인공지능법(AI Act) 제50조는 이 일을 둘로 나눕니다. 생성형 시스템을 개발해 자기 이름으로 제공하는 기업인 제공자(provider)는 그 결과물이 “기계 판독 가능한 형식으로 마킹되고 인공적으로 생성되거나 조작된 것으로 감지될 수 있도록” 보장해야 합니다. 업무에 그 시스템을 사용하는 기업인 배포자(deployer)는 딥페이크를 고지해야 합니다. 즉 “해당 콘텐츠가 인공적으로 생성되거나 조작되었음을 고지해야 합니다.” 모델 위에 자체 생성기를 만들어 자기 이름으로 서비스에 투입하는 기업은 제공자도 될 수 있습니다.

개인적이고 비직업적인 사용은 법의 적용 범위 밖에 있지만, 이를 통해 정기적으로 수입을 얻는 사람은 배포자로 간주됩니다. 계약업체나 프리랜서가 기업을 대신해 그 통제 아래에서 시스템을 운영하는 경우에도 기업은 여전히 배포자입니다.

7월 24일 공포된 AI 디지털 옴니버스, 즉 규정(EU) 2026/1744는 한 집단에 시간을 더 주었습니다. 2026년 8월 2일 이전에 시장에 출시된 생성형 시스템은 2026년 12월 2일까지 제50조 제2항의 마킹 의무를 충족해야 합니다. 그 이후에 출시된 시스템은 처음부터 마킹해야 했습니다. 집행위원회는 이 유예 기간이 “마킹 및 감지 의무에 관해서만” 적용된다고 밝히므로, 배포자에게는 달라진 것이 없습니다. 8월 2일 이전에 만든 콘텐츠에는 소급해서 라벨을 붙일 필요가 없습니다.

파일 속 마킹이 라벨을 대신하지는 않습니다. 집행위원회의 표현으로 배포자는 “제공자가 콘텐츠에 삽입한 기계 판독 가능한 마킹에 그대로 의존할 수 없습니다.” 사람들은 늦어도 콘텐츠를 처음 보거나 들을 때, 명확하고 구별 가능한 방식으로 이를 고지받아야 합니다.

무엇이 딥페이크인가

이 법은 딥페이크를 실존하는 사람, 사물, 장소, 단체 또는 사건과 닮았고 “사람에게 진짜이거나 사실인 것처럼 잘못 보일 수 있는”, AI로 생성되거나 조작된 이미지, 오디오 또는 영상 콘텐츠로 정의합니다. 집행위원회는 여기서 세 가지 기준을 읽어 냅니다. 높은 유사성, 실존하거나 “그럴듯하게 존재할 수 있는” 대상, 그리고 오해를 불러일으킬 수 있는 능력입니다. 실존한 적 없는 사실적인 인물도 해당할 수 있고, 복제된 음성도 마찬가지입니다. 오디오도 이미지나 영상과 똑같이 적용 대상이기 때문입니다.

7월 20일 발표된 집행위원회의 최종 가이드라인은 청중이 진짜라고 기대하지 않는 경우 콘텐츠가 정의에서 벗어날 수 있다고 덧붙입니다. 하지만 가이드라인의 예시는 마케팅에 그리 관대하지 않습니다. 로펌 Faegre Drinker의 요약에 따르면, 제품을 실제와 다르게 보이게 하는 생성 이미지, 실존 인물의 디지털 복제, 더 젊어 보이게 만든 배우는 모두 고지가 필요한 딥페이크에 해당합니다. 텍스트는 결코 딥페이크가 아닙니다. 텍스트에는 별도의 규칙이 있습니다.

예술, 풍자, 그리고 편집된 텍스트

딥페이크가 “명백히 예술적, 창작적, 풍자적, 허구적이거나 이와 유사한 작품 또는 프로그램”의 일부인 경우, 의무는 “작품의 전시나 감상을 방해하지 않는 적절한 방식으로” 고지하는 것으로 줄어듭니다. ‘명백히’라는 단어가 중요합니다. Faegre Drinker는 최종 가이드라인이 광고를 좁은 경우에만 창작물로 인정하며, 대부분의 광고 예시는 이 완화된 규정 밖에 있다고 해석합니다.

텍스트의 경우 이 의무는 공익에 관한 사안을 대중에게 알리기 위해 게시되는 글에 적용됩니다. 집행위원회는 정치, 공중 보건, 소비자 안전, 그리고 공론의 대상이 될 수 있는 모든 경제, 금융, 정치, 과학 또는 문화적 동향을 꼽으므로, 이 규칙은 언론사뿐 아니라 기업의 블로그나 뉴스레터에도 미칠 수 있습니다. 텍스트가 사람의 검토나 편집 통제를 거쳤고 누군가 편집 책임을 지는 경우에는 이 의무가 사라집니다. 이 기준은 결코 형식적이지 않습니다. 맞춤법 검사와 문법 교정은 해당하지 않으며, 누군가 해당 게시물에 대해 “최종적인 법적 책임”을 져야 합니다.

스위스 기업이 적용 대상인 이유

이 법은 EU 밖까지 미칩니다. “AI 시스템이 생성한 결과물이 EU 안에서 사용되는” 경우 제3국의 제공자와 배포자에게도 적용됩니다. 독일의 구매자를 대상으로 생성된 얼굴이 들어간 캠페인을 운영하거나, 프랑스의 고객을 위해 복제된 음성이 들어간 영상을 내보내는 스위스 기업은 라벨 표시 의무를 자기 의무로 다루어야 합니다. 각국 시장 감시 당국이 이를 집행하며, 집행위원회는 투명성 의무 위반에 대한 과징금을 최대 1500만 유로 또는 전 세계 매출의 3퍼센트로 제시합니다.

스위스 국내에는 아직 AI 법이 없습니다. 연방 법무경찰부는 2026년 말까지 의견 수렴용 초안을 내놓을 예정이며, 투명성도 그 주제 가운데 하나입니다. 그때까지는 스위스 연방 데이터보호법(FADP)이 적용되며, FDPIC는 식별 가능한 사람의 얼굴, 이미지 또는 음성 메시지를 조작하는 프로그램을 사용할 때도 “언제나 이를 명확히 표시해야 한다”고 말합니다.

12월 전에 해야 할 일

직원들이 스스로 찾아 쓰는 것까지 포함해 사용 중인 생성형 도구의 목록을 만들고, 각 제공자에게 결과물을 어떻게, 언제부터 마킹하는지 서면으로 물으십시오.

귀사의 작업 흐름이 그 마킹을 유지하는지 확인하십시오. 내보내기, 압축, 편집 과정에서 메타데이터가 지워질 수 있습니다. 6월 10일 발표된 AI 생성 콘텐츠의 투명성에 관한 행동 강령(Code of Practice)은 어떤 단일 기법도 충분하지 않으므로, 제공자가 마킹을 여러 겹으로, 대개 서명된 메타데이터와 인지할 수 없는 워터마크를 함께 적용하도록 합니다.

라벨을 어떻게 붙일지 정하십시오. 집행위원회와 AI 위원회(AI Board)는 이 강령이 적절한 자발적 수단임을 확인했으며, EU는 이를 위한 아이콘 세트를 제공합니다. 대행사를 포함해 각 채널에서 누가 라벨을 붙일지 합의하십시오.

텍스트의 경우, 공익에 관한 사안을 다루는 글을 최종 승인하는 편집자를 지정하십시오. 게시하는 모든 글마다 프롬프트, 원본, 결정 내용을 보관하십시오. 당국이 묻는다면 그 기록이 답이 됩니다.

저희의 입장

이미 제공 중인 Reel은 AI로 이미지, 영상, 3D를 만들며, 사용되는 모든 이미지와 클립은 사람이 고릅니다. 각각은 모든 버전과 그 바탕이 된 레시피와 함께 미디어 라이브러리에 보관됩니다. 얼리 액세스 단계인 Studio는 기업의 마케팅을 한곳에서 관리하며, 모든 변경은 게시되기 전에 사람이 승인하고 모든 작업은 감사 로그에 남습니다. 어느 쪽도 라벨을 대신하지는 않습니다. 두 제품 모두 라벨이 어디에 필요한지 알기 쉽게 해 줍니다.