Mythos, Anthropic이 공개를 보류한 모델

대부분의 AI 모델은 누구나 쓸 수 있게 되는 날 발표됩니다. Claude Mythos는 그렇지 않았습니다. 4월 Anthropic은 가장 숙련된 사람을 제외한 누구보다도 소프트웨어 결함을 잘 찾아내고 악용할 수 있다는 모델을 소개하며, 이 모델을 일반에 제공하지 않겠다고 밝혔습니다.

여섯 달 뒤, 6월 정부 서한으로 거의 3주간 서비스가 중단된 일을 거쳐 안전장치를 갖춘 버전이 일반에 판매되고 있습니다. 그리고 이 모델이 던진 질문은 여전히 열려 있습니다. 모델이 팔기에는 너무 강력하다는 판단은 누가 내리는가 하는 질문입니다. 무슨 일이 있었는지, 그리고 저희가 무엇을 얻었는지 정리합니다.

유출, 그리고 경고

모델의 존재는 우연히 알려졌습니다. 3월 26일 Fortune은 Anthropic이 공개적으로 검색 가능한 데이터 저장소에 미공개 초안을 남겨 두었다고 보도했습니다. 그중 하나는 Mythos를 “저희가 지금까지 개발한 AI 모델 중 단연 가장 강력한 모델”이라고 부르며, 운영 비용이 비싸고 일반 출시 준비가 되지 않았다고 적고 있었습니다. Anthropic은 이 작업을 확인하고 이 모델을 “비약적인 도약이자 지금까지 만든 모델 중 가장 뛰어난 모델”이라고 불렀습니다.

4월 7일 Anthropic은 이 모델을 방어에 쓰기 위한 프로그램인 Project Glasswing과 함께 Claude Mythos Preview를 소개했습니다. 출시 파트너에는 Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft가 포함되었고, 핵심 소프트웨어를 유지 관리하는 40곳이 넘는 조직이 추가로 접근 권한을 받았습니다. Anthropic은 최대 1억 달러의 사용 크레딧을 약정했으며, 그 이후 파트너는 입력 토큰 100만 개당 25달러, 출력 토큰 100만 개당 125달러를 냅니다.

예시는 구체적이었습니다. 공격자가 원격으로 컴퓨터를 다운시킬 수 있게 하는 OpenBSD의 27년 된 결함, FFmpeg의 16년 된 결함, 그리고 컴퓨터를 완전히 장악하게 만드는 Linux 커널 결함의 연쇄입니다. 모두 보고되고 패치되었습니다. 모델을 보류한 이유는 분명하게 밝혀졌습니다. “Claude Mythos Preview를 일반에 제공할 계획은 없습니다.” Anthropic은 이런 능력이 확산되면 경제, 공공 안전, 국가 안보에 미칠 여파가 심각할 수 있다고 주장했습니다.

다른 이들이 발견한 것

영국 AI Security Institute는 일주일 안에 이 모델을 테스트했습니다. 이 모델은 연구소의 32단계 기업 네트워크 공격 시뮬레이션을 처음부터 끝까지 완수한 첫 모델이 되었고, 10번의 시도 중 3번 성공했으며, 평균 22단계를 진행했습니다. 그다음으로 뛰어난 모델은 16단계였습니다. 연구소는 중요한 단서를 덧붙였습니다. 테스트 네트워크에는 능동적인 방어자가 없었기 때문에 “Mythos Preview가 잘 방어된 시스템을 공격할 수 있을지는 확실히 말할 수 없다”는 것입니다.

그 능력이 얼마나 독보적인지 의문을 제기한 이들도 있었습니다. 출시 당일 보안 회사 AISLE의 Stanislav Fort는 Anthropic이 예로 든 취약한 코드를 작고 저렴한 모델들에 주었습니다. 여덟 개 모델 모두 Anthropic이 소개한 FreeBSD 결함을 찾아냈고, 그중에는 활성 파라미터가 36억 개인 모델도 있었습니다. 다만 이 모델들은 해당 함수를 직접 건네받았습니다. 그의 결론은 이렇습니다. 강점은 개별 모델보다 모델을 둘러싼 시스템에 더 많이 있습니다.

찾는 것이 고치는 것보다 쉽다는 것도 드러났습니다. Anthropic은 Glasswing 파트너들이 4월부터 7월 사이 검증된 취약점을 최소 129'000건 찾았다고 말합니다. 9월 VulnCheck의 Patrick Garrity는 Anthropic이 자체 스캔으로 찾았다고 주장하는 26'153건을 확인했습니다. 약 열 건 중 한 건만 Anthropic의 공개 취약점 공지 목록에 올라 있었고, 수정 완료로 표시된 것은 백 건 중 한 건도 되지 않았습니다. 그는 이렇게 썼습니다. “증빙이 조금씩 들어오기 시작했지만, 수치가 맞지 않습니다.”

Fable, 그리고 서비스 중단

6월 9일 Anthropic은 “일반 사용에 안전하도록 만든 Mythos급 모델”인 Claude Fable 5를 출시했고, Glasswing 파트너를 위해서는 Mythos 5를 내놓았습니다. 두 모델은 안전장치만 다른 같은 모델입니다. Fable에서는 별도의 분류기가 사이버 공격, 생물학, 화학에 관한 요청과 모델을 복제하려는 시도를 감시하고, 이를 이전 Claude 모델로 넘깁니다.

사흘 뒤 미국 상무부는 Anthropic에 서한을 보내, 미국 안팎의 모든 외국인은 Anthropic 자체 직원을 포함해 이제 두 모델 중 어느 것을 쓰든 수출 허가가 필요하다고 통보했습니다. 보도에 따르면 Amazon의 연구자들이 Fable의 안전장치를 우회하는 방법을 찾아냈습니다. Anthropic은 모든 사용자의 국적을 확인할 수 없었기 때문에 “모든 고객에게 Fable 5와 Mythos 5를 갑작스럽게 비활성화”해야 한다고 썼습니다. CSIS의 애널리스트들은 아무것도 반출되지 않는다는 점에서 법적 근거에 의문을 제기했습니다. 사용자는 Anthropic의 서버에 있는 모델에 접속하기 때문입니다.

6월 30일 상무부는 통제를 해제했습니다. Al Jazeera에 따르면 그 대가로 Anthropic은 보안 위험을 탐지하고 대응하며, 향후 모델의 표준 마련을 돕고, 악의적인 활동을 보고하기로 합의했습니다. 두 모델은 7월 1일 돌아왔습니다. 9월 1일에는 5.1 버전이 뒤를 이었고, Mythos 5.1은 검증된 조직에만 열려 있으며 현재까지는 미국에 한정됩니다. 10월 6일 Anthropic은 Glasswing을 세 단계로 구성된 더 넓은 Cyber Verification Program에 통합했으며, 최상위 단계의 모든 신청자는 미국 정부와 함께 심사됩니다.

왜 이렇게 다루어졌는가

Anthropic이 밝힌 이유는 능력이 안전장치를 앞질렀다는 것입니다. Fable을 출시할 때 Anthropic은 “Mythos급 모델은 상당한 위험을 초래하는 임계점에 도달했다”고 썼고, 그 답은 하나의 순서였습니다. 방어자가 먼저, 분류기가 그다음, 안전장치를 갖춘 일반 출시가 마지막입니다. 9월 최고경영자 Dario Amodei는 더 나아갔습니다. “AI 모델의 능력을 향상시키는 속도를 늦춰야 합니다.”

이것은 더 이상 한 회사만의 길이 아닙니다. OpenAI가 9월에 GPT-6 Astra를 출시했을 때, 이 모델은 OpenAI 자체의 “치명적 사이버 보안 능력 임계치”를 충족한 첫 OpenAI 모델이었고, 다른 누구보다 먼저 사이버 방어자들에게 제공되었습니다. 신뢰에 따른 단계적 접근은 가장 강력한 모델을 출시하는 일반적인 방식이 되어 가고 있습니다.

회사에 주는 의미

세 가지가 따라옵니다. 최고의 모델은 이제 신뢰 등급별로 제공되며, 공개 버전은 일부 질문을 이전 모델로 넘길 수 있습니다. 모델은 귀사와 아무 상관 없는 이유로 하룻밤 사이에 사라질 수 있습니다. 6월 12일 모든 Fable 고객이 같은 날 모델을 잃었습니다. 그리고 결함을 찾는 일은 이제 보안에서 저렴한 부분입니다. 어려운 것은 패치이며, 그래서 연구소가 기업에 주는 조언은 화려하지 않습니다. 적시 업데이트, 강력한 접근 통제, 안전한 설정, 충실한 로깅입니다.

그래서 저희는 회사의 지식을 특정 모델 밖, Twin에 보관하며, 중요한 업무에는 Eigna를 제안합니다. 파트너 Eigna Labs가 만든 회사 고유의 프라이빗 모델로, 자체 클라우드나 자체 서버에서 실행되고 폐쇄망에서 오프라인으로 작동하도록 설계되었습니다. 모든 작업에서 최첨단 모델과 대등하지는 않겠지만, 대부분의 기밀 업무에서는 그럴 필요도 없습니다. 자체 하드웨어에서 돌아가는 모델은 공급업체가 서한 한 통을 받았다고 사라지지 않습니다.