The Korea Headline

더 코리아 헤드라인

New York Dateline · Korean Voice

구글 TPU 4종, 새 칩 대신 전환 비용 낮춰 구매자 힘 키웠다

구글은 기존 칩으로 TPU 4종을 구성하고 토치TPU로 인기 모델 98%를 실행했습니다. 클라우드 매출 307억달러와 알파벳 설비투자 514억달러는 외부 판매의 중요성을 보여 줍니다. 2027년 가격·전력과 실제 전환 비용이 구매자 협상력을 가릅니다.

|

구글 TPU 4종은 왜 엔비디아에서 갈아탈 비용을 겨눴나?

구글은 11월 9일 기존 8세대 칩을 다시 구성한 TPU 8tx와 8i Max를 발표했습니다. 4월에 나온 두 제품을 합치면 올해 공개한 TPU 시스템은 4종입니다. 메타와 함께 만든 토치TPU는 인기 AI 모델의 98%를 오류 없이 실행합니다. 구글 클라우드 매출이 307억달러로 늘어난 3분기에도 알파벳의 설비투자는 514억달러였습니다. 구글은 보안·메모리·코드 장벽을 낮춰 외부 고객을 늘리고 있으며, 그 과정에서 대형 구매자의 협상력도 커지고 있습니다.

Google expanded its eighth-generation TPU line to four systems by reconfiguring existing chips. TorchTPU runs 98% of popular AI models without errors, while Alphabet's $51.4 billion in quarterly capital spending makes outside customers increasingly important. Lower switching costs also give large buyers more bargaining power.

목차

구글 TPU 4종, 새 칩 대신 전환 비용 낮춰 구매자 힘 키웠다 인포그래픽

구글은 왜 기존 칩으로 TPU 두 종을 더 만들었나?

두 신제품의 차이는 새 실리콘보다 칩 주변 설계에 있습니다. 구글은 공통 칩의 패키징과 보안·메모리·네트워크 구성을 바꿔 4월 발표 뒤 7개월 만에 용도별 시스템을 추가했습니다.

TPU 8tx는 학습용 8t와 같은 칩에 연산 중 데이터와 모델을 보호하는 기밀 컴퓨팅 기능을 더했습니다. 기밀 추론과 소규모 학습이 필요한 정부·규제 산업을 겨냥합니다. TPU 8i Max는 추론용 8i 칩 두 개를 한 패키지에 묶어 연산 능력과 HBM 대역폭을 두 배로 높였습니다. 두 제품은 2027년부터 사용할 수 있습니다. 구글이 고객의 보안 요건과 작업 규모에 맞춰 제품을 나눈 것은 칩 자체의 성능만으로는 풀리지 않던 도입 문제를 겨냥한 결정입니다.

TPU 8tx adds confidential computing to existing silicon for sensitive workloads, while TPU 8i Max combines two inference chips in one package. Both are due in 2027; their design addresses distinct barriers to adoption without a new chip generation.

토치TPU는 GPU에서 옮기는 비용을 얼마나 줄였나?

토치TPU는 모델을 실행하는 장벽을 크게 낮췄습니다. 최대 성능을 얻는 데 필요한 코드 조정까지 없앤 것은 아닙니다. 이 차이가 대형 고객과 작은 고객의 전환 비용을 가릅니다.

기존 PyTorch/XLA에서는 TPU를 쓰려면 코드를 상당 부분 고쳐야 했습니다. 구글과 메타가 10월 공개한 토치TPU는 PyTorch에 직접 연결됩니다. 많이 내려받은 Hugging Face 모델 4,917개 중 4,821개(98%)가 오류 없이 실행됐고, 대표 모델 구조 657개 중 638개(97%)는 GPU와 같은 수치 결과를 냈습니다. 다만 GPU에 맞춘 데이터 형태와 연산 분할 방식을 그대로 두면 TPU의 최대 성능은 나오지 않습니다. 일부 연산은 대체 구현도 필요합니다. 실행 가능성과 성능 이식은 별개의 과제입니다.

메타는 공개에 앞선 2월 구글 데이터센터의 TPU를 빌리는 다년 계약을 맺었고, 엔비디아·AMD와의 대형 계약도 유지합니다. 여러 공급자를 쓸 수 있는 고객은 가격과 공급 조건을 비교할 선택지를 얻습니다. 반면 전담 엔지니어가 적은 고객에게는 남은 성능 조정이 실제 비용입니다.

TorchTPU removes much of the work needed to run PyTorch models on TPUs, but GPU-tuned workloads still need engineering to reach peak performance. Meta's TPU rental alongside its other chip contracts shows why a usable second supplier matters most to large buyers.

메모리와 투자 수치는 무엇을 드러내나?

8i Max의 수치는 구글이 메모리 문제를 하드웨어와 소프트웨어로 함께 다룬다는 점을 보여 줍니다. 재무 수치는 그 제품을 외부 고객에게 넓혀야 할 이유를 설명합니다.

비교 항목TPU 8iTPU 8i Max
연산 능력기준 1약 2배
HBM 대역폭약 8.6TB/s17.2TB/s
패키지당 HBM 용량약 288GB384GB
8i 칩 하나에 해당하는 HBM약 288GB약 192GB

8i 값은 8i Max의 384GB가 기존보다 33% 많고 대역폭은 두 배라는 수치를 같은 패키지 기준으로 적용해 역산한 추정치입니다. 구글은 공식 사양에 HBM 절대 용량을 싣지 않았습니다. 이 비교가 맞다면 연산 능력은 두 배가 되지만 칩 하나에 해당하는 메모리는 약 3분의 1 줄어듭니다. 구글은 TPU Sync로 앞선 문맥을 저장하는 KV 캐시를 칩 밖의 서버 메모리와 스토리지로 옮깁니다. 긴 문맥 처리에서 하드웨어의 용량 제약을 소프트웨어로 보완하는 설계입니다.

2026년 3분기 구글 클라우드 매출은 전년 동기 152억달러에서 307억달러로, 영업이익률은 23.7%에서 36.2%로 올랐습니다. 클라우드 수주잔고는 5,608억달러입니다. 다만 이 잔고는 TPU 계약만의 합계가 아니며, 특수관계자 계약 168억달러와 올해부터 포함된 단기 계약도 들어 있습니다. 같은 분기 알파벳 전체 설비투자는 514억달러, 잉여현금흐름은 91억달러 적자였습니다. 클라우드 매출과 전사 투자액은 범위가 달라 TPU의 수익성을 직접 계산할 수는 없습니다. 그래도 늘어나는 설비를 채울 외부 수요가 왜 중요한지는 분명합니다.

Reported figures imply that TPU 8i Max doubles compute and bandwidth while providing less HBM per underlying chip; TPU Sync is designed to ease that constraint. Cloud revenue and margins rose, but Alphabet's much larger companywide investment and negative free cash flow increase the importance of converting outside demand into revenue.

2027년에는 어떤 결정이 TPU의 가치를 가르나?

8i Max의 가격·전력·성능 자료가 공개돼야 실제 작업 비용을 다른 시스템과 비교할 수 있습니다. 메타가 협의 중인 자사 데이터센터 직접 설치를 결정할지도 TPU가 클라우드 임대를 넘어 확산하는지 보여 줄 변수입니다.

토치TPU가 아직 지원하지 않는 연산과 데이터 형태·분할 제약을 얼마나 풀지도 봐야 합니다. 한국의 삼성전자·SK하이닉스에는 패키지당 HBM 증가와 연산 단위당 용량 감소가 서로 다른 수요 신호입니다. 국내 공공 구매자는 절감률만 볼 것이 아니라 비교한 모델과 GPU 세대, 전력비, 코드 이식 비용, 보안 요건을 같은 조건에 놓고 따져야 합니다.

Published price, power and workload results will determine whether TPU 8i Max is cheaper to use, while Meta's decision on direct deployment will test demand beyond cloud rental. Korean memory suppliers and public buyers need comparisons that account for memory per unit of compute and the full cost of migration.

두 번째 공급원에서 누가 이익을 얻고 비용을 지나?

구글 TPU의 현재 역할은 AI 연산 시장의 두 번째 공급원입니다. 기존 칩의 재구성은 보안과 시스템 구성을 바꿨고, 토치TPU는 코드를 옮기는 문턱을 낮췄습니다. 설비투자와 수주잔고가 함께 커지는 구글에는 외부 고객을 확보할 유인이 있습니다. 세 근거를 잇는 것은 최고 속도 기록보다 고객이 실제로 옮길 수 있는 조건을 만드는 일이 판매를 좌우한다는 판단입니다.

선택지가 늘어난 혜택은 먼저 대형 구매자에게 갑니다. 메타처럼 여러 칩을 계약하고 성능 조정 인력을 둔 고객은 공급 조건을 비교할 수 있습니다. 작은 고객은 같은 모델을 실행할 수 있어도 최적화 비용을 부담해야 합니다. 구글 역시 전환 장벽을 낮추는 만큼 자기 고객이 다른 공급자로 옮기기 쉬워지는 위험을 감수합니다. 공개되지 않은 가격과 전력 자료 앞에서는 어느 쪽이 총비용에서 앞서는지 단정할 수 없습니다.

따라서 2027년의 결정은 제품 출시 자체가 아니라 검증 가능한 비교 조건의 공개입니다. 한국의 공공 구매자는 8i Max의 가격·전력과 코드 이식 비용을 같은 작업 기준으로 요구해야 두 번째 공급원이 생긴 시장의 협상력을 실제 비용 절감으로 바꿀 수 있습니다.

Google's second supply option helps large customers negotiate, while smaller ones still bear optimization costs and Google accepts easier customer exit. Its real test in 2027 is a verifiable total-cost comparison; Korean public buyers should demand price, power and migration costs for the same workload before committing.

자주 묻는 질문

Q. TPU 8tx와 8i Max는 지금 사용할 수 있나요?두 제품은 2027년부터 제공될 예정입니다. 8i Max의 가격과 전력 소비는 아직 공개되지 않았습니다.
Q. 모델 98% 실행은 GPU와 속도도 같다는 뜻인가요?아닙니다. 98%는 시험한 모델이 오류 없이 실행됐다는 비율입니다. TPU에서 최대 성능을 내려면 연산 분할 등 추가 조정이 필요할 수 있습니다.
Q. TPU Sync는 HBM을 대체하나요?HBM을 없애는 기술은 아닙니다. 자주 쓰는 데이터를 HBM에 두고 KV 캐시 일부를 서버 메모리·스토리지로 옮겨 용량 제약을 완화합니다.
Q. 한국 공공기관은 어떤 비용을 비교해야 하나요?같은 모델과 작업량을 기준으로 칩 사용료·전력·운영 인력·코드 이식 비용을 함께 계산해야 합니다. 데이터 보호 요건과 실제 공급 일정도 확인해야 합니다.

관련 기사

Tags

#tech#구글tpu#토치tpu#엔비디아#hbm#ai반도체#google-tpu#torchtpu

본 기사의 정정·문의는 info@koreaheadline.com 으로 보내주십시오. 정정 정책은 편집강령을 따릅니다.