Microsoft CEO인 사티야 나델라가 유튜브 채널 Dwarkesh Patel과 진행하여 2025년 11월 13일 공개된 인터뷰 내용을 리뷰해봤습니다.
1부에 이어 2부를 이어갑니다.
숨고르기에 들어간 데이터센터 건설
"우리는 하나의 모델 회사를 위한 호스터가 되어 단기 계약에 묶이고 싶지 않았습니다. 다음 5년이 아니라 다음 50년을 생각해야 합니다."
인터뷰어가 물었습니다. Microsoft가 데이터센터 확장을 "일시 중지"했다는 데 사실이냐고요.
원래 계획대로라면 2028년까지 12-13GW 규모에 도달하여 Amazon을 추월할 예정이었으나 2024년 하반기부터 Microsoft는 여러 사이트에서 철수했고, 그 자리를 Google, Meta, Amazon, Oracle이 차지했습니다. 현재 Microsoft의 데이터센터 규모는 약 9.5GW로, 계획보다 3.5GW가량 적습니다. 한편, Microsoft의 1/5 규모에 불과했던 Oracle은 스타게이트 프로젝트에 의해 2027년 말에는 Microsoft보다 커질 전망입니다. (스타게이트 프로젝트는 현재 다소 난관을 겪고 있는 것으로 알려져있습니다.)
나델라는 이 결정의 배경에 3가지 이유가 있음을 솔직하게 설명했습니다.
먼저, 핵심은 "누구를 위해 짓는가"입니다. 만약 OpenAI 한 회사를 위해 대규모 데이터센터를 구축하고, 제한된 시간밖에 OpenAI 모델을 사용하지 못하는 계약에 묶인다면, 그것은 사업적으로 맞지 않습니다.
그리고 한 세대 또는 한 브랜드의 GPU에 올인했다가 다음 세대의 물리적 요구사항이 완전히 달라지면 해당 GPU에 투자한 돈은 그대로 사라지는 셈이 되어버립니다. 매년 Nvidia에서 새로운 아키텍처의 GPU가 나오니 2027년에 3.5GW를 한꺼번에 짓기보다, 2027-28년에 걸쳐 분산하는 것이 맞다고 생각합니다. 이렇게 하면 5년 후에는 여러 세대의 GPU가 균형 있게 섞인 유연한 데이터센터 클러스터를 갖게 될 것입니다.
끝으로 세 번째는 지역 다양성입니다. 미국 내 용량도 중요하지만, EU 데이터 경계 규정, 각국의 데이터 주권 요구 등을 생각하면 UAE, 인도, 유럽 등 전 세계에 분산 투자해야 합니다. 텍사스에 대규모 훈련 시설을 지어도, EU 고객의 데이터는 유럽에서 처리해야 하기 때문입니다.
Oracle의 급성장에 대해서는 나델라는 경의를 표하면서도 선을 그었습니다. "Oracle의 성공을 빼앗고 싶지 않습니다. 우리는 Oracle 용량의 구매자이기도 합니다. 그들의 성공을 바랍니다." 하지만 Microsoft의 정체성은 다르다고 했다. "하이퍼스케일 사업은 본질적으로 AI 워크로드의 롱테일 사업입니다. 다섯 개 고객과 다섯 개 계약으로 많은 인프라에 투자하는 것은 Microsoft의 사업이 아닙니다."
다만 나델라는 최근 몇 주간 Iris Energy, Nebius, Lambda Labs 등 네오클라우드들과 용량 계약을 체결한 것도 인정했다. 수요가 보이는 곳에서 용량이 필요하면, 임대든 빌드투수트든 GPU-as-a-Service든 유연하게 확보하겠다는 것이다. 심지어 네오클라우드들이 Azure 마켓플레이스에 들어오는 것도 환영한다고 했다. 그들의 용량을 Azure 고객이 사용하면, 네오클라우드는 승리하고, 고객은 그 위에 Azure의 컴퓨트, 스토리지, 데이터베이스를 함께 쓴다. "내가 모든 것을 직접 삼켜야 한다고 생각하지 않습니다."
자체 칩 전략: NVIDIA와의 공존
"저희가 만드는 새로운 AI 칩. MAIA의 가장 큰 경쟁자는 이전 세대의 NVIDIA입니다."
하이퍼스케일러들의 자체 칩 개발 경쟁에서 Microsoft는 많이 언급되지 못하고 있습니다. Google은 TPU를 10년 넘게 발전시켜 연간 5-7백만 칩을 생산하고, Amazon도 Trainium과 Inferentia로 3-5백만 칩 규모를 생산하고 있는 반면 Microsoft의 자체 칩 Maia의 주문량은 이에 한참 못 미치고 있습니다. 왜 이런 차이가 생겼을까요?
나델라의 설명은 의외로 솔직했습니다. 현시점 Microsoft의 MAIA칩이 "이전 세대의 NVIDIA"보다 떨어지고 있기 때문입니다. MAIA칩으로 이미 검증된 NVIDIA 칩들과 동등한 성능을 내려면 그냥 NVIDIA 칩을 사서 쓰는 것보다 훨씬 더 많은 비용이 들어갑니다. 이 간격을 좁히는 것이 MAIA칩 팀의 당면 과제입니다. 그래서 당장 NVIDIA를 대체하는 것이 아니라, 특정 용도에 최적화된 자체 칩을 점진적으로 추가하는 전략을 택했습니다.
Microsoft가 칩 제조에 뒤쳐진 것은 이렇다할 자체 모델이 없기 때문이기도 합니다. 훈련이든 추론이든 자체 모델이 해당 칩을 사용하고, 그 수요를 직접 생성하거나 보조금을 줄 수 있어야 자체 칩을 개발하는 동력이 만들어집니다. 그렇지 않으면 그냥 NVIDIA를 사는 게 낫고, 이게 현 시점 나델라의 생각이죠.
다만, Microsoft에 유리한 점이 하나 있습니다. 바로 OpenAI와의 상호 IP 접근 권한입니다. 이 계약 조건에 따르면, Microsoft는 OpenAI의 칩 IP에도 완전한 접근권이 있습니다. 따라서 OpenAI가 개발한 칩의 노하우를 Microsoft는 힘들이지 않고 곧바로 흡수할 수 있죠.
"우리가 그들에게 많은 IP를 제공해서 부트스트랩하게 했고, 이제 그들이 혁신하면 우리도 그 모든 것에 접근할 수 있습니다."
주권 AI와 글로벌 신뢰의 방정식
"미국 기술에 대한 신뢰가 깨지면, 미국에 좋은 날이 아닙니다."
나델라는 인터뷰 중 흥미로운 숫자를 제시했습니다. 미국은 세계 인구의 4%에 불과하지만, GDP의 25%, 시가총액의 50%를 차지합니다. 이 불균형의 원인은 무엇일까요? 나델라의 답은 "신뢰"입니다. 전 세계가 미국의 자본시장, 기술, 그리고 핵심 산업의 선도자 역할을 수행하는 것에 대해 갖는 신뢰가 이 프리미엄을 만듭니다. AI 시대에 그 신뢰가 깨진다면, 미국의 기술 기업들만이 아니라 미국 자체에 좋지 않은 일입니다.
인터뷰어는 묻습니다. "과거 기술 혁명에서 미국은 Windows, Office, 클라우드 인프라 등을 전 세계에 배포했습니다. 중국에서도 Windows가 주요 운영체제입니다. 하지만 AI는 다르지 않은가? 미국과 중국의 양극화, 유럽과 인도의 주권 AI 야망, 각국의 데이터 주권 요구. 과거처럼 '미국이 만들고 세계가 쓰는' 구도가 가능할까요?"
나델라의 대응은 실용적이면서도 장기적이었습니다. 팬데믹 이후 세계는 "글로벌 공급망의 효율성"만큼이나 "회복탄력성(resilience)"을 중시하게 되었습니다. 반도체든 AI든, 국가들은 핵심 기술에 대한 자기 결정권을 원합니다. 이것을 무시하고 "글로벌화가 최고"라고 주장하는 것은 현실을 외면하는 것입니다.
Microsoft의 대응은 여러 층위에서 이루어지고 있습니다. EU에서는 "EU 데이터 경계"를 만들어 유럽 데이터가 유럽 내에서 처리되도록 보장했습니다. 프랑스와 독일에는 별도의 주권 클라우드를 구축했습니다. Azure Sovereign Services는 키 관리 서비스와 함께 GPU에서의 기밀 컴퓨팅(confidential computing)을 제공합니다. NVIDIA와 협력해 개발한 이 기술은 데이터가 처리되는 동안에도 암호화 상태를 유지할 수 있게 합니다.
2025년 11월 발표에 따르면, Microsoft는 EU 데이터 경계 내에서 엔드투엔드 AI 데이터 처리를 지원하고, Microsoft 365 Copilot의 국내 데이터 처리를 15개국으로 확대했습니다. 2026년에는 한국을 포함한 11개국이 추가될 예정입니다.
하지만 나델라가 강조한 더 큰 그림은 "미국 기술에 대한 신뢰 구축"이었습니다. 미국 정부와 기술 기업들이 해야 할 일은 전 세계에 AI 인프라를 직접 투자하고, 이를 미국의 외국인 직접 투자(FDI)로서 자랑스럽게 알리는 것입니다. "미국으로 들어오는 FDI만 이야기할 것이 아니라, 미국 기업들이 전 세계에 AI 팩토리를 짓고 있다는 것을 알려야 합니다."
TSMC와의 비유에 대해서도 나델라는 반론을 폈습니다. 반도체는 현실적으로 TSMC 의존도가 극도로 높고, TSMC가 미국에 짓고 있는 공장이 그 대안이 되기에는 역부족입니다. 하지만 AI는 다르다고 그는 주장했습니다. 첫째, 오픈소스 모델이라는 구조적 견제가 존재합니다. 둘째, 국가들은 집중 위험(concentration risk)을 피하기 위해 여러 모델을 사용하려 할 것입니다. 셋째, 데이터 유동성이 있어서 필요하면 다른 모델로 이전할 수 있습니다. 따라서 AI에서는 "하나의 모델이 모든 것을 지배하는" 시나리오보다 "여러 모델이 공존하는" 시나리오가 더 가능성 있다는 것입니다.
"그저 평범한 CEO"의 50년 계획
"창업자 CEO들은 그들이 누구인지 때문에 일부 것들을 당연하게 여길 수 있습니다. 저는 저를 '단순한 인간 CEO'로 묘사합니다. 그래서 목적의식과 문화를 훨씬 더 명확하게 하고 싶었습니다."
빌 게이츠와 스티브 발머 이후 Microsoft의 세 번째 CEO인 나델라는 스스로를 "그저 평범한 CEO"라고 불렀습니다. 창업자가 아니기에 당연하게 여길 수 있는 것이 없고, 그래서 목적의식과 문화를 더 명시적으로 만들어야 했다는 것입니다. 이 겸손한 자기 규정은 이 인터뷰 전반에 걸친 그의 전략적 선택들을 관통하는 철학이기도 합니다.
나델라의 Microsoft는 "다음 5년이 아니라 다음 50년"을 봅니다. 이것은 단순한 수사가 아니라 구체적인 의사결정에 반영됩니다. GPU 한 세대에 올인하지 않는 것, 한 모델 회사에 종속되지 않는 것, 한 지역에 집중하지 않는 것. 모든 선택에서 "만약 상황이 바뀌면?"이라는 질문이 깔려 있습니다.
동시에 나델라는 이 시대가 "산업혁명 이후 가장 큰 변화"일 수 있다는 흥분도 공유했습니다. Raj Reddy(CMU의 튜링상 수상자)의 AI 비유를 인용하며, AI는 "수호천사"이자 "인지 증폭기(cognitive amplifier)"여야 한다고 말했습니다. 도구로서의 AI. 인간의 잠재력을 대체하는 것이 아니라 증폭하는 AI.
이 철학이 MAI Superintelligence Team의 이름에도 반영되어 있습니다. 2025년 11월 발표된 이 팀은 무스타파 슐레이만이 이끌며, 목표는 "인간주의적 초지능(Humanist Superintelligence)"입니다. AGI 경쟁을 거부하고, 흥분과 실망의 이분법을 거부하며, "인간에게 봉사하는 실용적 기술"을 만들겠다는 선언입니다.
슐레이만은 블로그에서 이렇게 썼습니다.
"우리는 방향 없는 기술적 목표, 공허한 도전, 그 자체를 쫓는 것이 아닙니다. 인간주의적 초지능은 문제 지향적이고 도메인 특화적인 시스템입니다. 높은 자율성을 가진 무한하고 제한 없는 존재가 아니라, 신중하게 조정되고 맥락화된, 경계 내의 AI입니다."
물론 이것이 얼마나 현실적인지, 경쟁의 압력 속에서 지켜질 수 있는지는 시간이 말해줄 것입니다.
인터뷰의 마지막에서 나델라는 AI가 "인더스트리얼 비즈니스"가 되었음을 인정했습니다. 소프트웨어 회사가 수십억 달러의 물리적 인프라를 짓고, 전력과 냉각과 공급망을 고민하는 시대. 하지만 그는 여전히 Microsoft가 "소프트웨어 회사"로 남을 것이라고 말했습니다. 자본 집약적이면서 지식 집약적인 사업. 하드웨어의 무어의 법칙도 중요하지만, 소프트웨어 최적화로 토큰당 비용을 분기마다 5배, 10배, 때로는 40배까지 개선하는 것. 이것이 호스터와 하이퍼스케일러의 차이라고 그는 말했습니다.
정리
1부와 2부에 걸쳐 나델라의 인터뷰를 리뷰하면서, Microsoft가 AI 시대에 어떻게 자신을 포지셔닝하고 있는지 명확하게 볼 수 있었습니다.
핵심 전략을 한마디로 요약하면 "유연성을 통한 지속가능성"입니다.
인프라 측면에서 Microsoft는 특정 GPU 세대나 단일 고객에 종속되지 않는 다목적 하이퍼스케일 플릿을 구축하고 있으며, 이는 Vera Rubin Ultra처럼 전력 밀도와 냉각 요구사항이 급변하는 미래에 대비하기 위함입니다. 모델 역량에서는 OpenAI와의 7년 파트너십을 통해 프론티어 모델에 대한 접근권을 확보하면서도, MAI Superintelligence Team을 통해 자체 연구 역량을 병행 구축하는 이중 전략을 취하고 있습니다.
플랫폼 전략의 핵심은 GitHub을 단순한 코드 저장소에서 여러 AI 에이전트들이 협업하는 "Mission Control" 허브로 진화시키는 것이며, 이를 통해 경쟁사의 AI 코딩 도구들조차 GitHub 생태계 안에서 작동하도록 유도합니다. 비즈니스 모델은 전통적인 사용자당 구독에서 AI 토큰 소비량을 반영한 하이브리드 과금으로 전환 중이며, 이는 높은 COGS를 시장 확장으로 상쇄하려는 계산이 깔려 있습니다. 마지막으로 지정학적 측면에서 Microsoft는 각국의 데이터 주권 요구를 적극 수용하면서도, 이것이 곧 미국 기술에 대한 글로벌 신뢰를 강화하는 길이라는 논리로 양립을 추구하고 있습니다.
개인적으로 가장 인상 깊었던 부분은 "도광양회(韜光養晦)"적 접근입니다. 자체 칩에서든, 자체 모델에서든 Microsoft는 "지금 당장 최고가 아니어도 된다"는 것을 인정합니다. 대신 OpenAI의 IP 접근권, NVIDIA와의 밀착 협력, 네오클라우드와의 유연한 파트너십을 통해 옵션을 확보하면서, 장기적으로 자체 역량을 키워가는 전략입니다.
APAC 지역에서 AI 관측 플랫폼 비즈니스를 하면서 느끼는 것이지만, 실제로 많은 기업들이 "어떤 모델을 써야 하나", "어떤 클라우드에 락인되면 안 되나"를 고민합니다. 나델라가 말하는 "여러 모델이 공존하는 시나리오"는 이미 현실이 되어가고 있습니다. 고객사들은 OpenAI, Anthropic, Google, 오픈소스 모델을 상황에 따라 혼용하고 있고, 이런 멀티모델 환경에서 관측과 평가의 중요성은 더욱 커지고 있습니다.
나델라의 비전은 "AGI 경쟁"이 아니라 "인간주의적 초지능(Humanist Superintelligence)"입니다. 그리고 이것은 지금보다 100배, 1000배 더 많아진 AI 에이전트의 형태로 구현될 것입니다. 사람이 아닌 이런 AI 에이전트가 향후 Microsoft의 고객이 될 것이라는 나델라의 비전은 중요한 순간마다 맞는 방향으로 베팅을 해온 그였기에 더욱 신뢰가 갑니다.
2026년도를 시작하며, 사티야 나델라의 인사이트를 꼭 한번 다뤄보고 싶었습니다. 독자 여러분들도 많은 인사이트 얻으셨길 바라며 이만 마칩니다. 감사합니다.
의견을 남겨주세요