이제는 추론 반도체의 시간

대규모 자금 조달에 성공한 Groq

그록(Groq)이 시리즈 D 라운드를 완료하였습니다. 무려 8,700억 원 ($640M)에 달하는 대규모 자금입니다. 블랙락의 사모펀드 부서가 리드투자자로 나섰으며 시스코 인베스트먼트, 삼성 카탈리스트 펀드, 누버거 버만, KDDI 등 그로쓰 단계 투자사 및 전략적 투자자들이 대거 투자 라운드에 참여하였습니다.

그록은 이번 라운드를 통해 약 3.5조 원 ($2.8B)의 기업 가치를 인정받았습니다. 2021년 진행한 시리즈 C 라운드 대비 2배 이상 가치가 상승한 것입니다. 포브스에 따르면 그록은 2023년 50억 원 수준의 매출이 올해 최대 1,300억 원까지 치솟을 것으로 전망하는 것으로 나타납니다. 

실리콘밸리에서는 올해 들어 AI 반도체에 대한 관심이 뜨겁습니다. 초대형 웨이퍼 사이즈 칩을 만드는 세레브라스 (Cerebras)는 하반기 IPO 대어로 주목받고 있으며 그록, 삼바노바, SiMa 등 자체 기술을 보유한 반도체 스타트업들이 기업 가치를 높이며 대규모 자금 유치에 성공하고 있습니다. 세콰이어캐피탈은 AI 투자 경쟁이 결국은 Steel, Server and Power일 수밖에 없다며 AI 인프라 투자로 눈을 돌리는 모습입니다. 

Groq의 시작은 2016년

그록의 창업은 조나단 로스(Jonathan Ross)의 독특한 경력에서 시작됩니다. 로스는 구글에서 TPU(Tensor Processing Unit) 프로젝트의 핵심 설계자로 일하며 AI 하드웨어 분야에서 전문성을 쌓았습니다. 당시 그가 가지고 있었던 AI 연산을 수행할 반도체와 관련한 아이디어가 너무 진보적이란 이유로 구글에서 실현되지 못했고, 이는 그가 자신의 비전을 추구하기 위해 그록을 설립하는 계기가 되었습니다.

그록의 초기 비전은 단순히 더 빠른 칩을 만드는 것이 아니었습니다. 로스와 그의 팀은 AI 워크로드에 대한 근본적인 재고찰을 통해, 기존 CPU와 GPU 아키텍처의 한계를 뛰어넘는 완전히 새로운 프로세서 설계를 목표로 했습니다.

그록이 추구했던 방향은 Tensor Streaming Processor(TSP) 아키텍처입니다. 이 아키텍처는 AI 워크로드, 특히 대규모 언어 모델(LLM) 추론에 최적화되어 있습니다. TSP는 전통적인 von Neumann 아키텍처와 달리, 데이터 흐름에 기반한 처리 방식을 채택하여 놀라운 성능 향상을 실현했습니다.

그록이 첫 상용 칩을 선보인 것은 2020년 입니다. GroqChip™은 단일 코어에서 1 petaOperation/s 이상의 성능을 달성하며 업계의 주목을 받았습니다. 덕분에 회사는 시리즈 B 자금을 유치에 성공하며 생존할 수 있었습니다.

하지만 그록의 여정은 결코 순탄치만은 않았습니다. 최근 포브스와의 인터뷰에서 로스는 회사의 초기 시절을 회상하며 다음과 같이 언급했습니다:

하지만 그록의 비전을 믿어준 투자자들이 있었습니다. 이들은 그록의 위기마다 자금 지원에 나서며 후원자 역할을 충실히 해냈습니다.

Groq의 잠재력을 알아본 투자자들

그록의 가능성을 알아보고 로스와 그의 동료들이 구글을 나올때부터 인큐베이팅 투자자를 자처한 인물은 바로 차마스 팔리하피티아입니다. 올인(All-In) 팟캐스트의 진행자 중 한 명으로도 잘 알려진 차마스는 2016년 설립 당시부터 자신의 투자사인 소셜캐피탈(Social Capital)을 통해 $10M 규모 시드 라운드를 리드하며 지난 9년 간 그록의 챔피언 투자자로 활약해오고 있습니다.

차마스가 그록을 가리켜 AI 시대에 가장 중요한 회사가 될 것이라고 언급한 부분이 흥미롭습니다. 2024년이 아닌, 2018년의 트윗입니다. 반도체 전문가가 아니었던 차마스가 그록에 베팅할 수 있었던 것은 로스가 가졌던 비전에 대한 믿음이었습니다. 

타이거글로벌, D1 Capital Partners, Addition, GCM그로브너 등 그로쓰 단계 투자사들이 그록의 가능성을 일찍 알아보고 베팅에 나섰다는 점도 흥미롭습니다. 그록은 챗GPT가 발표되기 몇 달 전인 2021년 시리즈 C 라운드 $300M 규모 시리즈 C 라운드를 완료하며 유니콘에 등극하였는데, 당시 투자자들은 그록의 매출 규모에 관계없이 새로운 AI 추론 전용 반도체의 필요성과 폭발적인 컴퓨팅 수요에 대한 방향성에 베팅, 일찍부터 투자자로 이름을 올릴 수 있었습니다.

Groq에 열광하는 이용자들

그록은 메타가 공개한 라마3(Llama3)와 만나 날개를 달았습니다. 챗GPT보다 20배 빠른 언어 모델로 입소문을 타며 빠르게 이용자들의 반응을 이끌어내고 있습니다. 게다가 오픈소스 모델인 라마3의 가능성을 실현하게 해준 반도체란 측면에서 향후 AI 시대의 경쟁 판도가 단순 언어 모델의 훈련에서 추론은 물론 새로운 아키텍처룰 가진 반도체까지 확대될 것이라는 전망도 가능하게 합니다.

그록과 같은 도전자들이 여전히 낙관적인 이유는 현재 AI 시장을 선도하고 있는 엔비디아의 칩이 원래는 AI를 위해 설계된 것이 아니기 때문입니다. 엔비디아의 CEO 젠슨 황이 1999년 그래픽 처리 장치(GPU)를 처음 선보였을 때, 이는 그래픽 집약적인 비디오 게임을 구동하기 위해 설계되었습니다. GPU가 AI 훈련에 가장 적합한 칩으로 밝혀진 것은 우연한 일치였던 것입니다.

AI 하드웨어 시장은 현재 중요한 변곡점에 있습니다. 엔비디아의 GPU가 우연히 AI 훈련에 적합했던 것과 달리, 그록을 비롯한 새로운 스타트업들은 처음부터 AI를 위해 설계된 칩을 개발하고 있습니다. 이는 AI 성능의 획기적인 향상을 가져올 수 있는 잠재력을 갖고 있습니다. 앞으로 그록이 이 잠재력을 어떻게 현실화시키고, AI 기술 발전에 어떤 영향을 미칠지 주목해야 할 것입니다. 

오늘 뉴스레터 어떠셨나요? 어떤 점이 좋았고, 아쉬웠는지, 좀 더 다뤘으면 하는 내용은 없는지 아래 버튼을 누르고 의견을 남겨주시면 감사하겠습니다. 여러분의 작은 피드백이 큰 힘이 됩니다!

피드백 남기기