AI는 무엇으로, 어디서 돌아가는가

어시스턴트의 모든 답변은 어딘가에서 계산됩니다. 데이터 센터의 칩이 연산을 하고, 전력망이 전기를 보내고, 냉각 시스템이 열을 실어 나릅니다. 대부분의 기업에게 이 모든 것은 보이지 않는 영역이었습니다.

이제 그것이 경영상의 결정이 되고 있습니다. AI의 가격과 속도, 그리고 데이터가 가는 곳을 정하기 때문입니다.

컴퓨팅은 주변의 무엇보다 빠르게 성장합니다

Stanford의 AI Index 2026은 전 세계 AI 컴퓨팅 용량이 2022년 이후 해마다 3.3배씩 늘어 Nvidia H100 칩 약 1710만 개에 해당하는 수준에 이르렀다고 추정합니다. 그중 60퍼센트 이상을 Nvidia가 차지합니다. 나머지의 상당 부분은 Google과 Amazon이 자체 칩으로 공급하며, Huawei는 작지만 커지는 점유율을 갖고 있습니다. 거의 모든 최첨단 AI 칩은 대만의 파운드리 한 곳, TSMC가 만듭니다.

돈이 뒤따릅니다. 국제에너지기구(IEA)에 따르면 최대 기술 기업들의 설비 투자는 2025년 4천억 달러를 넘었고, 2026년에는 75퍼센트 더 늘어날 것으로 예상됩니다. IEA는 AI 칩 생산에 필수적인 부품인 고대역폭 메모리의 부족도 지적하며, 이 부족이 적어도 2027년 말까지 이어질 것으로 봅니다.

전력이 새로운 한계입니다

칩에는 전기가 필요합니다. IEA는 2025년 데이터 센터 전력 수요가 17퍼센트, AI용으로 지은 데이터 센터에서는 50퍼센트 늘었다고 집계합니다. IEA의 기본 전망에 따르면 데이터 센터 전력 소비는 2025년 485테라와트시에서 2030년 950테라와트시로 대략 두 배가 되어, 전 세계 전력 수요의 약 3퍼센트에 이릅니다. 같은 기간 AI 중심 데이터 센터의 소비는 세 배가 됩니다.

AI Index는 2025년 말 AI 데이터 센터의 전력 용량을 약 29.6기가와트로 보는데, 뉴욕주의 최대 수요에 맞먹는 규모입니다. AI Index의 추정으로는 모든 AI 시스템의 전력 수요를 합치면 스위스나 오스트리아의 국가 전력 소비에 맞먹습니다.

유럽은 그 용량을 더 많이 역내에 두고 싶어 합니다. IEA에 따르면 유럽연합 집행위원회는 5~7년 안에 EU의 데이터 센터 용량을 세 배로 늘린다는 목표를 세웠습니다. 2026년 7월 30일 EuroHPC 공동사업단은 최소 7개 회원국에 최대 7곳의 AI 기가팩토리를 세우기 위한 공모를 시작했습니다. 공공 자금이 앵커 고객 역할을 하며, 200억 유로가 넘는 민간 투자가 예상됩니다. 제안서 마감은 11월 12일이고, 선정은 2027년 초로 예상됩니다.

답변 하나의 비용은 줄어듭니다

총량이 늘어나는 동안 답변 하나는 더 싸집니다. IEA는 최근 AI 작업당 에너지 사용량이 해마다 적어도 10분의 1로 줄었으며, 이제 간단한 텍스트 질의는 대개 같은 시간 동안 텔레비전을 켜 두는 것보다 전기를 덜 쓴다고 씁니다.

가격도 같은 이야기를 합니다. Epoch AI는 일정 수준의 성능에 도달하는 데 드는 가격이 얼마나 빨리 떨어지는지 측정했습니다. 작업에 따라 해마다 9배에서 900배까지였습니다. 가장 빠른 하락은 최근에 있었으며, Epoch는 그 속도가 지속되지 않을 수도 있다고 신중하게 말합니다.

그 아래의 하드웨어도 따라왔습니다. AI Index는 IEA 데이터를 바탕으로 GPU 연산 비용이 2006년 이후 99퍼센트 넘게 떨어졌으며, 최첨단 칩은 10년 전 칩보다 와트당 약 열 배 많은 연산을 해낸다고 밝힙니다.

함정은 일 그 자체에 있습니다. IEA에 따르면 영상, 추론, 에이전트는 질의당 간단한 텍스트 답변보다 수백 배에서 수천 배 많은 에너지를 쓸 수 있습니다. 단가는 싸집니다. 청구액은 기계에게 무엇을 시키느냐에 달려 있습니다.

사무실에 들어갈 만큼 작게

두 번째 변화는 크기에 있습니다. 유능한 모델에 더 이상 데이터 센터가 필요하지 않습니다. Nvidia의 DGX Spark는 최대 128 GB 메모리를 갖춘 데스크톱 기기입니다. Nvidia에 따르면 이 기기는 최대 2천억 개 파라미터의 모델을 실행하고, 최대 700억 개 파라미터의 모델을 미세 조정할 수 있으며, 더 큰 모델을 위해 최대 네 대까지 연결할 수 있습니다.

작은 모델은 자기 크기에서 점점 나아지고 있습니다. AI Index는 Grok 4보다 90배 가까이 적은 320억 개 파라미터로 여러 벤치마크에서 비슷한 결과를 내는 오픈 모델을 예로 듭니다. 개발진은 훨씬 적은 토큰으로 학습시키고, 데이터를 매우 신중하게 골랐습니다.

스위스는 자체 모델을 만듭니다. EPFL, ETH Zurich, 스위스 국립 슈퍼컴퓨팅 센터가 2025년 9월 공개한 Apertus는 Alps 슈퍼컴퓨터에서 1천만 GPU 시간 이상을 들여 80억 개와 700억 개 파라미터 크기로, 1'000개가 넘는 언어의 15조 토큰으로 학습했습니다. 가중치, 학습 레시피, 학습 데이터 문서가 모두 공개되어 있습니다. 2026년 7월에는 이미지와 오디오를 이해하는 1.5 버전과 소형 모델 제품군이 뒤따랐습니다.

스위스에는 그럴 인재가 있습니다. AI Index는 스위스의 AI 저자 및 발명가 수를 인구 100'000명당 110.5명으로 집계하는데, 다른 어느 나라보다 많고, 싱가포르가 그 뒤를 바짝 따릅니다.

스위스와 유럽의 호스팅

대형 제공업체들은 더 가까이 왔습니다. 2025년 6월 Microsoft는 의료, 금융, 행정 같은 규제 산업을 위한 AI를 염두에 두고 취리히와 제네바 인근의 데이터 센터 네 곳을 확장하는 데 4억 달러를 투자한다고 발표했습니다. Heise는 Reuters를 인용해 이번 확장으로 데이터가 스위스 국경 안에 머물게 될 것이라고 보도했습니다.

Swisscom은 자체 플랫폼 위에 구축합니다. 2026년 2월 Swisscom은 여러 오픈 소스 모델을 수정 없이 사용해, 전적으로 스위스에서 운영되는 기업 지식용 어시스턴트를 출시했습니다. 모든 데이터는 Swisscom의 스위스 데이터 센터에서 저장되고 처리되며, 기업 데이터는 기반 모델 학습에 쓰이지 않습니다. 그 아래의 플랫폼은 다른 기업에도 GPU 용량과 모델 인터페이스를 제공하며, Swisscom은 추가할 계획인 모델 중 하나로 Apertus를 꼽았습니다.

AI를 어디서 돌릴지 고르기

중소기업에게 이는 세 가지 선택지로 좁혀집니다. 기업용 약관과 유럽 리전을 갖춘, 인터페이스로 빌려 쓰는 최첨단 모델. 스위스나 유럽 클라우드에 호스팅한 오픈 모델. 또는 자사 건물이나 자사 클라우드 계정 안의, 자체 하드웨어에서 돌리는 모델.

저희는 네 가지를 염두에 두고 결정합니다. 데이터가 얼마나 민감한가. 모델을 거치는 일이 얼마나 많은가. 고정 비용은 일정량을 넘어서야 사용량 기반 비용보다 유리하기 때문입니다. 답이 얼마나 빨라야 하는가. 그리고 가동한 뒤 시스템을 누가 돌볼 것인가.

저희도 이 중 여러 가지를 씁니다. 저희의 Twin은 Claude와 ChatGPT에서, 그리고 자체 하드웨어 위의 자체 모델에서 일합니다. Studio는 데이터를 취리히에 둡니다. 고객을 위한 Twin은 스위스나 EU, 또는 고객 자체의 하드웨어에서 실행됩니다.

저희 파트너 Eigna Labs가 만든 Eigna는 가장 프라이빗한 끝에 있습니다. 기기 한 대부터 클러스터까지, 회사 자체의 클라우드나 서버에서 실행되며, 폐쇄망에서 완전히 오프라인으로 실행되도록 설계되었습니다. 수정 사항은 회사 자체의 하드웨어에서 Eigna를 재학습시키며, 새 버전은 테스트에서 더 나은 결과를 낼 때만 실제로 적용됩니다.

기계는 스프레드시트로 고를 수 있습니다. 어떤 데이터가 건물 밖으로 나가도 되는지는 판단의 문제이며, 그 판단은 책임질 사람의 몫입니다. 데이터에서 시작하십시오. 칩, 건물, 국가는 그다음에 따라옵니다.