Divided by Zero에 오신 걸 환영합니다. IT테크, 스타트업 그리고 자본시장에 대한 2차적 사고를 공유합니다.
최근 즐겨 쓰던 AI 서비스의 요금제가 갑자기 바뀌거나, 무료 플랜이 축소되는 걸 경험한 적 없으신가요? AI 코딩 서비스로 엄청난 돌풍을 일으켰던 커서(Cursor)라는 서비스는 월 20달러짜리 프로 요금제 외에, 최근 월 200달러짜리 울트라 요금제를 새로 내놓았습니다. 10배나 비싼 가격에, 사용량은 20배를 제공하는 조건이었죠.
표면적으로는 "파워 유저들을 위한 합리적인 선택지"라고 포장했지만, 이 움직임의 본질은 훨씬 더 냉혹한 현실을 가리키고 있습니다. 바로 AI 기술을 사용하는 데 드는 진짜 비용, 그 청구서가 마침내 우리에게 날아오기 시작했다는 신호죠. 과연 AI는 점점 더 비싸지기만 하는 기술일까요? 아니면, 우리 모두가 그 비용을 이제야 제대로 내기 시작한 걸까요?
파운데이션 모델의 경제학
우리가 사용하는 AI 서비스의 이면에는, 그야말로 천문학적인 비용 구조가 숨어있습니다. 특히 OpenAI의 GPT-4나 xAI의 Grok 같은 파운데이션 모델을 개발하고 운영하는 데는 두 종류의 막대한 비용이 발생합니다.
1. 훈련 비용
게임에 참여하기 위한 '입장료' 최신 AI 모델을 한 번 '훈련'시키는 데 드는 비용은 상상을 초월합니다. GPT-3를 훈련하는 데 수십억 원이 들었다면, GPT-4는 1억 달러 이상, 구글의 제미나이는 1억 9100만 달러의 컴퓨팅 비용이 들어간 것으로 추정됩니다. 앤트로픽의 CEO는 다음 세대 모델 훈련에는 10억 달러, 우리 돈으로 조 단위가 필요할 것이라고 공언하기까지 했죠.
수만 개의 엔비디아 H100 GPU를 몇 달씩 쉬지 않고 돌리는 데 필요한 컴퓨팅 인프라와 전기료, 그리고 전 세계 최고 수준의 AI 연구원들에게 지급하는 엄청난 연봉까지. 이 모든 비용은, 이 AI 군비 경쟁에 참여하기 위해 내야 하는 최소한의 '입장료'인 셈입니다. 이 게임은 이제 국가 수준의 자금력이나 빅테크의 후원이 없으면 애초에 명함도 내밀 수 없는 그들만의 리그가 되었습니다.
2. 추론 비용
똑똑함을 유지하기 위한 '세금' 모델을 한 번 훈련했다고 끝나는 게 아닙니다. 우리가 챗봇에 질문을 던지고 답을 얻는 모든 순간, 즉 추론(Inference) 과정에서도 계속해서 돈이 나갑니다. 저는 이걸 일종의 추론세라고 부르고 싶습니다.
최신 모델인 GPT-4 API를 사용하는 비용은 100만 토큰당 약 13.5달러인 반면, 작지만 효율적인 오픈소스 모델인 미스트랄 7B는 단 0.1달러면 됩니다. 무려 135배의 비용 차이죠. OpenAI나 xAI가 수조 원대의 매출을 올리면서도 여전히 수조 원의 손실을 내는 이유가 바로 여기에 있습니다. 최첨단 성능을 유지하면서 대중적인 서비스를 제공하는 데 드는 막대한 추론세를 회사가 대신 감당하고 있는 겁니다.
청구서가 날아오기 시작했다
이 거대한 비용 구조의 여파는 이제 파운데이션 모델을 넘어, 그 위에서 서비스를 만드는 애플리케이션 회사들에게 직접적인 압박으로 작용하고 있습니다. 앞서 언급했던 커서의 사례가 그 증거중에 하나죠.
커서는 월 20달러라는 파격적인 요금제로 단 14개월 만에 연간 반복 매출(ARR) 1억 달러를 달성하는 등, 역사상 가장 빠른 SaaS 성장세를 보였습니다. 하지만 이 성공의 이면에는 소위 '추론 스퀴즈(Inference Squeeze)'라는 함정이 있었습니다. 소수의 파워 유저들이 월 20달러의 구독료보다 훨씬 더 많은 API 비용을 발생시키며, 쓰면 쓸수록 회사가 손해를 보는 구조가 만들어진 겁니다.
결국 월 200달러짜리 울트라 요금제의 등장은, 이 파워 유저들에게 "당신이 쓰는 만큼 비용을 내세요"라는, 지극히 자본주의적인 청구서를 내민 셈입니다. 이는 AI 애플리케이션 시장에서 '무제한 요금제의 종말'을 알리는 신호탄일 수 있습니다. 과거 우리가 누렸던 저렴한 AI 서비스들은, 사실 AI 기업들이 막대한 손실을 감수하며 제공했던 일종의 '체험판'이었을지도 모릅니다.
분기점
그렇다면 이 무제한의 종말은 AI 시장을 어떤 미래로 이끌게 될까요? 단순히 가격표만 바뀌는 수준에서 그치지는 않을 겁니다. 이건 비즈니스 모델과 시장 구조 자체의 근본적인 변화를 예고하는 신호탄이죠.
가장 즉각적이고 단순한 해결책은, 당연히 쓴 만큼 돈을 내게 하는 겁니다. 우리가 전기를 쓴 만큼 전기료를 내는 것처럼 말이죠. AI 서비스들은 이제 "월 20달러에 무제한" 같은 애매한 약속 대신, 사용한 토큰의 양이나 API 호출 횟수에 따라 정확히 비용을 청구하는 방식으로 전환할 가능성이 높습니다.
혹은, 커서의 '울트라' 요금제처럼 명확한 사용량 한도를 가진 여러 단계의 요금제를 만들어, 헤비 유저들에게는 그에 합당한 비용을 요구하게 되겠죠. 이는 기업 입장에서 수익성을 예측하고 방어하기 위한 가장 합리적인 선택입니다.
하지만 더 흥미로운 변화는, 아예 컴퓨팅 비용과 가격을 분리하려는 시도에서 나올 겁니다.
"우리가 사용한 토큰이 얼마냐"가 아니라, "우리가 당신에게 얼마만큼의 가치를 제공했느냐"를 기준으로 가격을 책정하는 거죠. 예를 들어, AI 기반의 영업 지원 툴이 고객의 이메일 초안을 작성해주는 데 그치지 않고, 실제 계약 성사에 결정적인 역할을 했다면, 그 계약 금액의 일정 비율을 수수료로 요구하는 식입니다. AI 법률 비서가 단순 문서 요약이 아니라, 리스크가 높은 조항을 찾아내 수백억 원의 손실을 막아줬다면, 그에 상응하는 높은 컨설팅 비용을 청구할 수도 있겠죠. 이는 AI가 단순한 보조 도구를 넘어, 비즈니스의 핵심적인 성과 파트너가 될 때 가능한 비즈니스 모델입니다.
아니면 추론세 문제를 해결하는 근본적인 방법은, 세금을 낼 필요가 없는, 즉 자신이 직접 파운데이션 모델과 인프라를 소유하는 것일 겁니다. 그리고 이건 오직 소수의 거인들만이 가능한 게임이죠.
마이크로소프트가 자사의 '코파일럿'을 오피스나 윈도우에 깊숙이 통합하는 것이 예시 중 하나가 될 수 있겠죠. MS에게 GPT-4의 추론 비용은 외부로 지불하는 비용이 아니라, 내부적으로 처리하는 원가일 뿐입니다. 이런 구조적 이점 때문에, 빅테크들은 유망한 AI 애플리케이션 스타트업들을 더욱 공격적으로 인수하려 들 겁니다.
막대한 추론 비용으로 고통받는 스타트업을 헐값에 인수해 자사의 거대한 생태계 안으로 흡수해버리는 거죠. 이는 결국 AI 시장의 부익부 빈익빈과 대규모 통합(Consolidation)을 가속화할 수밖에 없습니다.
이런식으로 미래가 전개된다면 이제 투자자나 창업가에게 중요한 질문은 "AI가 비싼가?"가 아니라, "당신은 지금 어떤 게임에 참여하고 있는가?"일 겁니다. 수십조 원이 오가는 거인들의 AGI 쟁탈전인가, 아니면 특정 분야에서 확실한 수익을 내는 전문가들의 비즈니스인가.
그 선택에 따라 AI의 가격표는 전혀 다르게 보일 테니까요.
의견을 남겨주세요