AI 청구서

11월 4일 Bloomberg는 Apple이 10월에 일부 엔지니어의 하루 AI 지출 한도를 300달러에서 200달러로 조용히 낮췄다고 보도했으며, 이 소식은 9to5Mac과 MacRumors를 통해 전해졌습니다. Apple은 일부 엔지니어링 팀을 하루 100달러까지 낮출 수 있는 추가 삭감을 계획하고 있는데, 이는 엔지니어링 외의 많은 조직이 이미 적용받는 한도이며, 일부 팀에는 25달러까지도 검토했습니다. 일부 팀은 더 저렴한 모델이나 자체 기기에서 실행되는 모델을 쓰도록 권장받고 있으며, 더 많은 예산이 필요한 사람은 고위 경영진에게 예외를 요청할 수 있습니다.

Bloomberg의 소식통들은 하루 300달러를 모두 쓰는 사람은 많지 않았다고도 전했으며, Apple이 얼마를 절감하게 될지는 분명하지 않습니다. Apple이 AI에서 물러서는 것도 아닙니다. 9to5Mac에 따르면 Apple의 연구개발비는 2026 회계연도에 32퍼센트 늘어난 458억 달러였고, 그 일부는 인프라와 AI에 쓰였습니다. 한도는 AI가 효과가 없다는 판정이 아닙니다. 지출이 관리해야 할 만큼 커졌다는 신호입니다.

지난 2년 동안 대부분의 기업은 AI를 소프트웨어처럼, 1인당 좌석 하나를 고정 가격으로 샀습니다. 코드베이스를 읽고, 테스트를 돌리고, 다시 시도하는 에이전트는 훨씬 더 많은 양을 쓰며, 이제 그중 더 많은 부분이 사용량에 따라 청구됩니다. 그 결과 AI는 매일 변하는 직원 1인당 비용이 되고, 기업이 이미 급여에 적용하는 것과 같은 관리 규율이 필요해집니다. 아래에서는 지출로 얻는 것을 잃지 않으면서 이를 관리하는 방법을 살펴봅니다.

Apple만이 아니다

Apple만 그런 것이 아닙니다. 6월 Uber 대변인은 연초에 AI 예산을 초과한 뒤 모든 직원의 토큰 지출을 AI 코딩 도구별로 월 1'500달러로 제한하고 있다고 Bloomberg에 확인했습니다. 10월 404 Media는 Accenture가 많은 직원에게 앞으로 Claude에 1인당 월 29달러만 쓰겠다고 알렸다고 보도했으며, 그 직원들 가운데 일부는 월 1'000달러까지 쓰고 있었습니다.

공급업체들도 같은 변화를 봅니다. 10월 28일 Microsoft 실적 발표에서 Satya Nadella는 사용량 기반 과금이 시행된 이후 GitHub의 에이전틱 기능에서 소비되는 크레딧이 두 배 넘게 늘었다고 말했습니다. 그는 고객들이 크레딧을 사서 효율적으로 쓰기를 원한다며 이렇게 말했습니다. “고객이 한 가지를 과하게 사 놓고 토큰을 최대한 써 버리고 있다고 느끼기를 바라지 않습니다.”

계산해 보면

Apple의 이전 한도로는 엔지니어 한 명이 하루 300달러를 쓸 수 있었습니다. 근무일이 약 20일인 한 달로 치면 최대 6'000달러이고, 10명으로 이루어진 팀이라면 60'000달러입니다. 코딩 도구 두 개를 쓰는 경우 Uber의 상한은 1인당 월 3'000달러이고, Accenture는 29달러입니다.

이것은 상한이지 평균 지출이 아니지만, 이 정도 규모의 금액에는 급여와 클라우드 비용에 이미 갖춰진 것이 필요합니다. 책임자, 예측, 그리고 월간 검토입니다. 급여는 고정되어 있지만, AI 청구서는 일하는 방식에 따라 움직입니다. 어떤 모델이 실행되는지, 얼마나 많은 맥락을 읽어야 하는지, 얼마나 자주 다시 시작하는지에 따라서입니다. 한도는 지출을 제한합니다. 지출을 더 낫게 만들지는 않습니다.

일상 업무는 다른 경로로

첫 번째 지렛대는 일상적인 작업을 가장 비싼 모델로 보내지 않는 것입니다. 10월 28일 Universe 콘퍼런스에서 GitHub는 Copilot Fusion을 모든 Copilot 요금제에 정식 출시했습니다. 개발자는 모델을 고르는 대신 Fusion과 세 가지 강도 수준 중 하나를 선택하고, 각 프롬프트를 어떤 모델이 처리할지는 Copilot이 결정합니다. 한 워크플로에서는 효율적인 모델이 답의 초안을 쓰고, 품질 검사가 이를 받아들이거나 더 강한 모델에 작업을 넘깁니다. Fusion이 쓸 수 있는 모델은 관리자가 정하며, 각 모델은 표준 요금으로 청구됩니다.

GitHub에 따르면 Fusion Max는 Artificial Analysis Coding Agent Index에서 Opus 5.5 Max를 쓴 Claude Code와 2점 이내의 차이를 기록했으며, 작업당 평균 API 비용은 약 절반, 토큰도 약 절반이었고, 시간은 약 40퍼센트 적게 들었습니다. Nadella는 실적 발표에서 더 나아갔습니다. “프런티어급 품질을 최대 40퍼센트 더 빠르게, 최대 77퍼센트 더 낮은 비용으로 제공합니다.” 애널리스트들의 질문에 답하면서는 45퍼센트와 75퍼센트를 제시했습니다. 이는 공급업체 자체의 수치이며, ‘최대’는 가장 좋은 경우를 뜻합니다. GitHub의 자체 벤치마크는 절감 폭을 약 절반으로 봅니다.

그 바탕에 있는 가격 차이는 큽니다. Anthropic의 Haiku 5.5는 짧은 프롬프트 기준 입력 토큰 100만 개당 0.10달러로, Sonnet 5.5의 20분의 1입니다. Anthropic은 이 모델이 “대량의, 비용에 민감한 작업을 위해 설계되었다”고 말하며, 복잡한 에이전틱 코딩에는 더 큰 모델이 여전히 더 나은 선택이라고 말합니다. 목표는 작업에 충분히 좋은 가장 저렴한 모델이며, Apple은 이제 일부 팀에게 이를 직접 찾아내라고 요구하고 있습니다.

예산과 공유된 맥락

두 번째 지렛대는 예산을 어디에 두느냐입니다. 1인당 일률적인 한도는 대규모 코드베이스를 다시 구축하는 엔지니어를 이메일을 요약하는 동료와 똑같이 취급합니다. 저희가 보기에는 팀별 예산이 더 효과적이며, 매주 지출을 확인하는 책임자와 예외를 위한 명확한 절차가 함께 있어야 합니다. Apple의 예외 절차는 올바른 직감입니다.

세 번째 지렛대는 맥락입니다. 에이전트가 읽는 것의 상당 부분은 회사 그 자체입니다. 고객이 누구인지, 회사가 제안서를 어떻게 쓰는지, 자료가 어디에 보관되는지, 어떤 규칙이 적용되는지입니다. 모든 에이전트와 모든 사람이 이를 처음부터 다시 구성하면, 회사는 그때마다 토큰과 수정 작업으로 그 비용을 치릅니다. 한 번 작성되고, 최신으로 유지되며, 공유되는 맥락은 읽는 비용이 적게 들고 잘못된 길로 빠지는 일도 줄여 줍니다. 제공업체들도 재사용에 맞춰 가격을 매깁니다. Haiku 5.5에서는 캐시에서 맥락을 읽는 비용이 일반 입력 가격의 10분의 1입니다.

사용량이 아니라 성과를 측정하기

마지막 지렛대는 무엇을 세느냐입니다. 사용한 토큰 순위는 결과가 아니라 지출에 보상하며, 이는 Nadella가 누구에게도 도움이 되지 않는다고 말한, 토큰을 최대한 써 버리는 행태입니다. 저희가 보기에 유용한 척도는 회사가 이미 이해하고 있는 것들입니다. 병합된 뒤 한 달이 지나도 여전히 작동하는 변경, 처리된 티켓, 발송된 제안서, 완료된 작업당 비용입니다.

더 많이 쓰고 더 많이 내놓는 팀은 회사에서 가장 좋은 투자처일 수 있습니다. 더 많이 쓰면서 같은 결과를 내는 팀이 대화가 필요한 팀입니다. 이렇게 관리하면, 효과는 줄이지 않으면서 청구서는 줄일 수 있습니다.

저희의 입장

crue는 이런 방식으로 만듭니다. North는 실제 재무를 포함해 의사결정에 중요한 모든 숫자를 한 화면에 모읍니다. AI 청구서가 있어야 할 자리도 바로 그곳, 그 일이 가져온 성과 옆입니다. Twin은 회사의 어시스턴트와 에이전트에게 회사의 지식, 규칙, 도구를 한 번 연결한 하나의 두뇌를 주므로, 모든 답이 제로가 아니라 회사에서 출발합니다. 두 제품 모두 제공 중입니다.