구글은 왜 엔비디아처럼 AI 칩을 팔기 시작했을까

직접 쓰고 클라우드로 빌려주기만 하던 AI 칩 TPU, 이제 본격적으로 판다

| 조회 84 |
0
|

글 · Sian · 전략기획 10년 차가 기업의 돈·힘·타이밍을 읽습니다

첨부 이미지

구글은 2016년부터 직접 설계한 AI 칩 TPU를 자사 서비스에 쓰고 구글 클라우드에서 빌려주기만 했어요. 그러다 1년 사이 앤스로픽이 최대 100만 개를 쓰기로 했고, 메타도 임대 계약을 맺었다고 보도됐어요.

올해부터는 칩을 고객 데이터센터에 직접 설치해 파는 판매도 시작했고, 지난 9일에는 정부와 일반 기업까지 겨냥한 신제품 두 종을 내놨어요.  

 

구글이 TPU 판매를 본격화하는 이유는 엔비디아가 칩값에 붙이던 높은 마진을 구글 매출로 가져올 수 있어서예요. 앤스로픽·메타가 제미나이의 경쟁사여도, 그 회사들이 클수록 구글의 칩 매출도 커져요. 다만 엔비디아를 넘으려면 개발자들이 엔비디아용 개발 도구를 떠나 TPU로 넘어와야 해요.

 


💡 오늘 다룰 것

  • TPU는 GPU와 무엇이 다르고, 이번 신제품은 무엇이 새로운가
  • 구글은 왜 지금 AI 칩을 팔기 시작했나
  • 엔비디아는 어떤 영향을 받고 있나

무슨 일이 있었나

(Source: decrypt)
(Source: decrypt)

구글은 11월 9일 TPU 신제품 두 종, TPU 8tx와 TPU 8i Max를 공개했어요. AI 연구소에 이어 정부 기관과 일반 기업까지 TPU 고객으로 끌어들이려는 제품이에요. 

 

TPU가 뭔지부터 알아보면.. 

TPU는 AI 계산만 하도록 만든 칩이에요

  • 정의: TPU(Tensor Processing Unit)는 구글이 직접 설계한 AI 전용 반도체예요.
  • GPU와의 차이: 엔비디아 GPU가 무엇이든 해내는 맥가이버 칼이라면, TPU는 한 가지 수술만 하도록 만든 수술용 메스에 가까워요. 용도는 좁지만 그 일만큼은 더 빠르고 싸게 해서, 매일 수억 건의 질문에 답하는 서비스에서 비용을 아껴 줘요. 다만 개발자 대부분이 GPU용 개발 도구에 익숙하다는 게 걸림돌이에요.
  • 작동 원리: AI 계산은 대부분 숫자 표를 곱하는 행렬 곱셈이에요. 범용 칩인 GPU는 이 계산을 할 때도 데이터를 메모리에서 꺼내고 결과를 다시 넣는 일이 잦은데, 이 왕복에 시간과 전기가 많이 들어요. TPU는 계산기를 격자로 붙여 두고, 데이터가 심장 박동처럼 계산기 사이를 차례로 흘러가며 결과를 옆 계산기로 바로 넘기게 만들었어요.

 

  • 장점:
    • 메모리 왕복이 줄어 같은 계산을 더 빠르게, 더 적은 전력으로 해요. 구글이 TPU의 강점으로 '전력당 성능'을 내세우는 이유예요.
    • 그래픽 처리처럼 AI 계산에 필요 없는 기능을 덜어냈어요.
    • 7세대 Ironwood는 칩 바로 옆에 메모리를 크게(192GB) 달아, 큰 AI 모델도 멀리서 불러오지 않고 처리해요. 구글은 첫 추론 전용 TPU라고 소개했어요.
  • 주요 사용처: 구글 제미나이가 TPU로 학습했고, 애플도 애플 인텔리전스 모델을 구글 클라우드의 TPU로 학습했어요.

 

  • 공급 구조: 구글이 사양을 정하면 반도체 회사 브로드컴이 실제 칩으로 설계해 만들어 줘요. 두 회사는 4월에 2031년까지 장기 계약을 맺었어요.
엔비디아 GPU구글 TPU
출발점그래픽 처리용으로 시작해 여러 계산에 두루 쓰는 칩처음부터 AI 행렬 계산만 하도록 만든 칩
개발 도구CUDA (사실상 업계 표준)JAX 중심, 10월 PyTorch용 전용 도구(TorchTPU) 공개
고객의 구매 방식칩·서버를 직접 사거나 여러 클라우드에서 빌림- 구글 클라우드 임대 - 2026년부터 고객 데이터센터 설치형 구매 - 2027년부터 오라클 클라우드

1년 사이 TPU를 쓰는 외부 고객이 크게 늘었어요

 

< TPU 외부 고객이 늘어난 과정  >

첨부 이미지

 

 

TPU 매출은 따로 공개하지 않지만, 2027년에 크게 잡혀요

구글은 TPU 매출만 따로 공개하지 않아요. 분기보고서는 3분기 클라우드 매출이 1년 새 두 배 넘게 늘어 307억 달러(약 41조 원)가 됐다며 그 요인 중 하나로 TPU 시스템 판매를 꼽았고, 고객 데이터센터 설치형 매출은 대부분 2027년에 잡힌다고 밝혔어요.

앞으로의 매출은 재고로 가늠해 볼 수 있어요. 구글은 하드웨어를 고객에게 넘길 때 매출로 잡는데, TPU 하드웨어와 픽셀폰 등으로 이뤄진 재고가 작년 말 24억 달러에서 9월 말 133억 달러(약 17조 7,000억 원)로 다섯 배 넘게 늘었어요. 고객에게 넘길 TPU 시스템을 미리 쌓아 둔 것으로 보여요.

모건스탠리는 8월 TPU 관련 클라우드 매출이 2027년 840억 달러(약 112조 원)에 이를 수 있다고 추정했어요.


쉽게 말하면

자기 매장에서 쓰려고 직접 원두를 볶아 온 커피 체인이, 그 원두를 경쟁 카페에도 납품하기 시작한 것과 비슷해요. 경쟁 카페에 손님이 늘어도 원두 매출은 함께 늘어요.

다른 말로 하면, 구글은 AI 모델 시장에서는 앤스로픽·메타와 경쟁하지만, 칩 시장에서는 그 회사들이 클수록 돈을 버는 공급사예요.


여기부터가 이 뉴스레터가 진짜 하려는 이야기예요. 이런 분석을 매주 받아보세요. 무료 구독 →

속사정

경쟁구도

TPU가 고객에게 중점적으로 내세울 수 있는 것중 하나는 비용이에요. SemiAnalysis는 칩을 만들어 주는 브로드컴이 엔비디아보다 마진을 훨씬 적게 붙여서, 구글이 자기 마진을 얹어 빌려줘도 고객 비용(전력·운영비 포함)이 엔비디아 최신 서버(GB300)보다 최대 약 41% 낮을 수 있다고 추산했어요. 칩 하나의 성능은 엔비디아 GB200보다 10%가량 낮지만, 비용 차이가 그보다 크다는 분석이에요.

다만 소프트웨어가 허들이에요. 다른 회사 개발자 대부분은 엔비디아 전용 개발 도구 CUDA로 코드를 짜 와서 TPU로 옮기기 어려워요. SemiAnalysis는 앤스로픽이 TPU를 대규모로 들일 수 있었던 데도 구글 딥마인드 출신 TPU 인력의 도움이 컸다고 봤어요. 구글이 10월 설정 한 줄만 바꾸면 기존 코드가 돌아가는 TorchTPU를 내놨지만, 그것만으로는 성능을 다 끌어내지 못한다고 인정했어요.

지금의 TPU는 엔비디아를 대체하기보다 싸고 쓸 만한 대안에 가까워요. 엔비디아를 넘을지는 이 허들을 얼마나 낮추느냐에 달렸다고 봐요.

 

이해관계

구글의 고객
고객이 TPU로 갈아타는 부담을 덜어 줘요. 일부 계약에는 고객이 TPU 시스템(칩을 꽂은 서버와 소프트웨어 묶음)을 정해진 가격에 구글에 되팔 수 있는 조건이 붙어 있어요(최대 66억 달러, 약 8조 8,000억 원). 다만 되사는 가격의 할인 폭이 커서 실제로 쓸 일은 적다는 게 구글의 설명이에요.

 

앤스로픽
구글의 고객이자 투자처예요. 구글은 앤스로픽 상장 직후 100억 달러(약 13조 원)어치 주식을 사기로 해서, 앤스로픽이 커질수록 칩 매출과 지분 가치가 함께 늘어요.

 

엔비디아
고객을 TPU에 뺏기기 전에 협상에서 먼저 양보하고 있어요. SemiAnalysis에 따르면 OpenAI는 TPU를 쓸 수 있다는 점을 내세워 엔비디아에서 더 좋은 조건을 받아냈고, 이를 비용으로 따지면 엔비디아 칩 비용을 약 30% 아낀 효과를 봤어요.
다만 엔비디아는 칩값을 깎아 주지 않고 고객에게 지분을 투자하는 방식으로 양보해요. 칩값을 내리면 이익률이 떨어져 투자자가 동요하기 때문이에요. 엔비디아는 앤스로픽 주식도 상장 직후 100억 달러어치 사기로 했어요. 칩값을 내리지 않으니 매출총이익률은 아직 75%로 높아요.

 

타이밍

구글은 AI 투자가 돈이 된다는 걸 보여줘야 하는 시점이에요.
올해 1~9월 설비투자는 1,320억 달러(약 176조 원)로, 영업현금흐름 1,271억 달러(약 170조 원)보다 많았어요. TPU 설치형 매출과 오라클 판매가 모두 2027년에 본격화하는 만큼, 지금 확보하는 고객이 내년 실적을 좌우해요.


다음에 볼 것

  • 구글 4분기 분기보고서: 133억 달러 재고가 매출로 바뀌는지, 66억 달러 재매입 한도가 늘어나는지 보면 TPU가 얼마나 빨리 팔리는지 알 수 있어요.
  • 메타의 TPU 이전 규모: 메타는 TorchTPU로 더 큰 AI 모델 작업을 TPU로 옮길 계획이에요. 실제로 얼마나 옮기는지 보면 개발 도구 장벽이 정말 낮아졌는지 알 수 있어요.

한 줄 결론

구글은 앤스로픽·메타가 커질수록 칩을 더 많이 파는 구조를 만들고 있어요. TPU가 아직 엔비디아를 넘지는 못했지만, 고객이 엔비디아와 가격을 협상할 때 꺼낼 수 있는 대안이 될 만큼은 컸어요.

 

이 글을 공유받아 읽으셨나요? 매주 기업 뉴스 뒤의 '돈·힘·타이밍'을 3분 분량으로 정리해 보내드려요.

전략의 속사정 무료 구독하기

 

 

 

 

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

전략의 속사정 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

다른 뉴스레터

이웃 뉴스레터 Beta

비슷한 이야기를 하는 다른 뉴스레터의 글이에요.

© 2026 전략의 속사정

"왜 저 회사는 저런 선택을 했을까?" 기업이 말하지 않는 돈, 힘, 타이밍을 읽습니다.

메일리 로고

도움말 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so 채팅으로 문의하기

메일리 사업자 정보

메일리 (대표자: 이한결) | 대표번호: 070-8027-1409 | 사업자번호: 717-47-00705 | 서울특별시 송파구 위례광장로 199, 5층 501-2-31호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스