인공지능

Microsoft CEO 사티야 나델라가 말하는 AI 에이전트의 미래

AI는 맥락을 이해하고 당신의 상황에 맞는 답변을 해줄 것입니다.

2025.01.04 | 조회 301 |
0
|
주간 Tech Review의 프로필 이미지

주간 Tech Review

IT 업계의 정보와 인사이트를 공유하고 있습니다.

Microsoft CEO 사티야 나델라가 유튜브 채널 Bg2 Pod과 진행하여 2024년 12월 13일 공개된 인터뷰 내용을 리뷰해봤습니다.

사티야 나델라 (Satya Nadella)

1992년에 마이크로소프트에 합류했을 때, Windows 3.1이 막 출시된 직후였습니다. 사실 Sun에서 일하다가 비즈니스 스쿨에 갈 생각이었죠.

경력 사항

  • 1967년 인도 하이데라바드 출생 (만 57세)
  • 1988년 마니팔 공과대학교에서 전자공학 학사 취득
  • 1990년 위스콘신-밀워키 대학교에서 컴퓨터 공학 석사
  • 1992년: 마이크로소프트 입사
  • 1996년 시카고 대학 부스 경영대학원 MBA 취득
  • 2007년: 온라인 서비스 부문 담당
  • 2011년: 클라우드 및 엔터프라이즈 그룹 총괄
  • 2014년: CEO 취임

주요 경영 성과

  • 시가총액 3조 달러 증가
  • Azure 클라우드 매출 66억 달러 달성
  • 전체 매출 2.5배 증가
  • 순이익 3배 이상 증가
  • 주가 10배 상승

10년전에 쓴 10장의 메모

우리의 CEO 선임 과정은 상당히 공개적이었습니다. 그 당시, 솔직히 말해서, 처음에는 빌이 떠날 것이라고도, 스티브가 떠날 것이라고도 전혀 생각하지 않았습니다.

메모 작성의 계기

  • 2013년 8월 스티브 발머의 갑작스러운 은퇴 발표
  • 당시 나델라는 서버 및 툴 사업부 담당
  • 처음에는 CEO 지원을 고려하지 않았음
  • 이사회의 요청으로 메모 작성

메모의 내용

  • "ambient intelligence(주변 지능)"와 "ubiquitous computing(유비쿼터스 컴퓨팅)" 개념 제시
  • Ambient, 즉 배경음악처럼 사용자 주변에 늘 존재하며 손쉽게 접근할 수 있는 지능의 출현을 예고 
  • Ubiquitous, 즉 장소에 구애받지 않고 서비스 제공이 가능한 클라우드 서비스로의 집중이 필요함을 주장
  • 후에 "모바일 퍼스트, 클라우드 퍼스트"로 단순화

놓쳐버린 검색과 모바일

우리는 브라우저는 잘 만들었지만, 검색은 놓쳤습니다. 모바일에서도 여러 시도를 하긴 했습니다만, 그다지 성공적이지 못했구요. 다만, 클라우드는 잘 잡았습니다. 그리고 지금은 AI를 잡아야 할 때입니다.

Microsoft가 클라우드에 진입하겠다고 했을 때 사람들은 이미 클라우드는 Amazon이 하고 있기 때문에 진입이 어려울 것이라고 했습니다. 하지만 저는 다르게 생각했어요. 서버시장에는 이미 IBM과 Oracle이 있지만 Microsoft는 서버시장에서 의미있는 시장점유율을 확보한 경험이 있습니다. 인프라를 한 회사가 독점하는 일은 잘 일어나지 않습니다. 

OpenAI와의 파트너십

이 세대의 기업은 이미 만들어졌습니다. 그것은 바로 OpenAI입니다. Google이나 Microsoft가 이전 시대를 상징했듯이, OpenAI는 AI 시대를 상징하는 기업으로 자리매김하고 있습니다.

이러한 평가의 근거로 그는 다음과 같은 요소들을 제시했습니다:

  • ChatGPT의 폭발적인 성공과 시장 지배력
  • Apple과의 전략적 파트너십 체결
  • AI 기술 혁신을 주도하는 위치

문화적 혁신: 성장 마인드셋의 힘

우리는 '모든 것을 아는 사람들'에서 '모든 것을 배우는 사람들'로 변화했습니다. 성장 마인드셋을 가졌다고 말하는 순간, 그것은 이미 성장 마인드셋이 아닙니다.

문화 혁신의 주요 요소들:

  • Carol Dweck의 성장 마인드셋 이론 도입
  • 지속적인 학습과 혁신 강조
  • 겸손과 호기심을 핵심 가치로 설정

AI 인프라 투자와 미래 전략

우리의 목표는 AI를 통한 운영 레버리지를 창출하는 것입니다. 직원당 비용은 증가할 것이고, 연구원당 GPU도 증가할 것입니다. 그리고 전체적인 인건비는 줄어들 것입니다.

인프라 투자의 핵심 전략:

  • 60개 이상의 글로벌 데이터 센터 구축
  • 추론(Inference) 중심의 확장 전략
  • OpenAI와의 시너지를 통한 효율적 자원 활용

AI 모델 스케일링의 미래

확장의 법칙은 깨진 것이 아닙니다. 물론 기존 방식의 성장이 클러스터가 커질수록 더욱 어려워진 것은 사실입니다. 하지만 그 대신 지금은 OpenAI o1과 같이 추론에 의한 확장이 가능해졌습니다. 

주요 고려사항:

  • 분산 컴퓨팅의 복잡성 증가
  • 경제적 효율성과의 균형
  • 추론 시간 컴퓨팅의 중요성 증대

소프트웨어의 미래

비즈니스 애플리케이션들은 본질적으로 비즈니스 로직과 데이터베이스로 만들어집니다. 앞으로 비즈니스 로직은 모두 에이전트로 이동할 것입니다.

실제 적용 사례

1. 공급망 관리의 변화

공급망은 실시간 정보가 없는 트레이딩 데스크와 같습니다. AI 티어는 실시간 금융 분석가처럼 즉각적인 인사이트를 제공할 수 있습니다.

  • 실시간 재고 최적화
  • 동적 가격 책정
  • 예측적 수요 관리

2. 고객 서비스의 혁신 - 개인화

  • 사용자의 맥락을 이해한 응답 생성
  • 이메일, 채팅, 음성, 소셜 미디어 등 다양한 채널에서의 대화가 통합되어 처리
  • 고객의 맥락을 알기 때문에 선제적으로 문제 해결 e.g. 매주 주문하는 동일한 품목이 있다면, 고객이 주문하기 전에 AI가 자동으로 주문

기술적 구현 고려사항

1. 아키텍처 설계

  • 마이크로서비스 기반 구조
  • 이벤트 중심 아키텍처
  • 확장 가능한 API 계층

2. 데이터 관리

  • 실시간 데이터 처리
  • 멀티모달 데이터 통합
  • 보안 및 규정 준수

리뷰

사티야 CEO의 1시간이 넘는 긴 인터뷰는 사실 처음 접해봤는데요, 굉장히 커뮤니케이션을 잘한다는 느낌을 받았습니다. 그리고 10년전의 메모에서, 앞으로의 미래가 지금의 모습이 될 것임을 예견하기도 했다는 점이 놀라웠구요. 일론 머스크, 젠슨 황의 경우에서처럼 성공한 CEO들은 대부분 아주 명확한 비전을 가지고 있다는 공통점을 확인할 수 있었습니다.

조금 특이했던 점은 OpenAI를 언급할 때 마치 자신의 회사처럼 애정하는 모습을 자주 보였다는 것인데요. 사실 OpenAI와 Microsoft의 인연은 2015년으로 거슬러 올라가는데요, 이미 10년전, 그러니까 사티야 CEO가 취임하고 1년밖에 안된 시점에서 OpenAI의 샘 알트만과 밀접하게 교류를 시작했었고, 일종의 후견인처럼 샘 알트만을 지지했었지요. 이 내용은 이전에 발행된 뉴스레터에서 자세히 다룬 적이 있습니다.

Microsoft가 주주로서 OpenAI의 지분을 상당히 많이 확보한 상태라, OpenAI의 성공은 곧 Microsoft의 성공으로까지 인식하고 있는 모습으로 이해되었습니다.

이번 인터뷰에서는 몇가지 주목할 만한 인사이트를 찾을 수 있었는데요, 첫번째는 소프트웨어의 미래에 관한 것이었습니다. 보통 커뮤니케이션 잘하는 사람들이 어려운 개념을 아주 쉬운 용어로 설명을 잘한다는 것인데요, "비지니스 어플리케이션은 비지니스 로직과 데이터베이스로 구성되고, 여기서 비지니스 로직은 프로그래머의 코드에서 AI 에이전트로 완전히 넘어갈 것"이라는 말이 와닿았습니다.

그만큼 AI 에이전트의 능력이 더욱 확장될 것이라는 이야기로 이해되었고요, AI 에이전트가 상황을 이해하고, 다음 행동을 계획하고, 계획된 작업을 수행하고, 수행된 결과를 리뷰하는 파이프라인이 점차 고도화되면서 인간 개발자의 개입이 줄어드는 미래를 보고 있다고 느껴졌습니다. 그래서 이어지는 발언인 "기업 전체로 봤을 때 인건비는 줄 것이고, 각 직원의 임금은 높아질 것입니다."가 나오게 된 것으로 이해하였습니다.

두번째 인사이트는 개인화에 관한 것이었습니다. 개발자들이 쓰는 용어중에 Stateful과 Stateless라는 용어가 있습니다. 전자는 특정 세션에서 일어나는 일들을 모두 기억해두었다가, 다음 작업에 사용하는 방식이고, 후자는 특정 세션에서 일어나는 일을 기억하지 않는 방식인데요. 비유를 하자면, 전자는 단골 커피가게이고, 후자는 스타벅스입니다. 단골을 잘 아는 사장님은 고객의 취향을 기억해두었다가 취향에 맞게 커피를 내려주지만, 체인점을 여럿 내기가 어렵습니다. 후자는 아메리카노와 같은 맛의 단일 메뉴로 대다수의 기호를 충족시켜줍니다. 

당연히 후자의 경우, 즉 Stateless 방식이 그동안 클라우드를 통한 대규모 어플리케이션을 작성할 때 선호되었는데요, 사티야 CEO는 AI 시대에는 다시 Stateful 해져야 한다는 강조하고 있습니다. Stateless 방식이 선호되었던 이유는 수백만의 요청 중에 어떤 게 누구의 요청인지를 대규모 시스템에서 식별해서 처리하기가 어렵기 때문이었는데요, 이 어려운 문제를 앞으로 AI가 대신 풀어주면 단골 커피가게의 고객 맞춤 커피 같은 서비스를 수백만, 수천만 고객에게 제공할 수 있게 된다는 것이죠.

세번째 인사이트는 겸손에 관한 것이었습니다. 사티야 CEO는 캐록 드웩의 "성장 마인드셋"이라는 책을 통해 기업문화를 바꾼 사례를 소개해주었습니다. 이건 저 역시 매우 공감하는 부분인데요, 일을 하다보면 정말 실력이 있는 사람일수록 오히려 더 겸손하고 사고가 유연하다는 점을 자주 발견하게 됩니다. 

사회자가 불쑥 "Microsoft도 자체적으로 AI 연구인력이 있을텐데, 왜 OpenAI와 파트너십을 맺었나요?"라는 질문을 했었는데, 이미 내부적으로 상당한 투자가 진행된 상황에서 외부의 기업과 파트너십을 맺는 결정은 쉽지만은 않았을 것입니다. 하지만 유연한 사고를 발휘해 OpenAI와의 파트너십을 체결한 결정은 Microsoft가 AI 업계에서 두각을 나타내는 데에 크게 기여하게 되었죠.

또한 "고대 그리스에서 현대 실리콘밸리에 이르기까지, 문명과 국가, 기업을 몰락시키는 것은 단 하나입니다. 바로 오만함입니다."라는 말로 오만함을 끊임없이 경계해야 한다는 이야기도 있었는데요. Microsoft 시가 총액이 $3 Trillion 달러를 넘은 날, 자기도 모르게 걸음걸이가 자신만만해져있어 새삼 내가 오만해졌구나를 인지했다는 경험을 공유해주었습니다.

데스크탑과 브라우저는 잡았지만, 모바일과 검색을 놓친 Microsoft와 모바일과 검색을 잡은 Google, 전자상거래와 클라우드를 잡은 Amazon, 그리고 처음부터 AI만을 보고 달려온 OpenAI와 Anthropic이 AI라는 신세계의 주인이 되기 위해 격돌하는 시대입니다. 2025년은 정말 너무나 많은 뉴스들이 쏟아질 것이 기대되네요. 

 

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

주간 Tech Review 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

다른 뉴스레터

© 2025 주간 Tech Review

IT 업계의 정보와 인사이트를 공유하고 있습니다.

메일리 로고

자주 묻는 질문 서비스 소개서 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so

메일리 사업자 정보

메일리 (대표자: 이한결) | 사업자번호: 717-47-00705 | 서울 서초구 강남대로53길 8, 8층 11-7호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스