인공지능 버블, 그 붕괴의 시작이 보인다? (feat. OpenAI, Perplexity, Character AI, Glean, Harvey AI)

안녕하세요 Ian님! 주간 실리콘밸리는 경제, 테크, 스타트업, 부동산, 재정적 자유, 비지니스에 관한 정보들을 함께 토론하면서 제가 배워가는 목적으로 평생 무료로 운영되고 있습니다. 그 과정에서 여러분들도 함께 배워나가시면 더 좋을 것 같습니다.

본 커뮤니티의 모든 내용은 대중에게 공개된 정보를 기반으로한 개인적인 의견이며 투자에 대한 조언이 아닌 전반적인 미국의 시장, VC, 스타트업, 기술 트렌드와 그에 대한 개인적인 의견들입니다. 

홈페이지 (영문 블로그, 유튜브, 링드인, 카카오픈채팅 링크)

주간실리콘밸리 유튜브

주실밸 오픈채팅방 (비번 2055)

제가 엘에이를 거쳐 샌디에이고에 방문해서 친구 돌잔치를 다녀왔습니다. 이 모든 과정을, 제가 FSD와 테슬라 네트워크를 경험하기위해, 지난달에 리스한 2024년형 최신 테슬라 모델 3를 타고 다녀왔습니다. 엘에이까지 갈때는 충전만하고 7시간만에 도착했고 돌아오는 길에는 샌디에이고 출발, 엘에이에 들려 점심도 먹고 구경도 하면서 총 10시간정도 걸려왔는데 생각보다 나쁘지않은 경험이었습니다. 곧 뉴스레터로 한번 정리해보도록 하겠습니다.

예고편으로 제가 직접 찍은 FSD가 엘에이 시내에서 유턴하는 모습입니다. 촬영은 RAY-BAN META SMART GLASSES로 하였습니다.

"다들 아직 아니었어?" 싶으시겠지만 제가 공식적으로 Andrew Ng 교수님의 advisor가 되었습니다! 앞으로도 여태까지처럼 한국과 관련된 모든 부분에서 제가 열심히 도와드리기로 했습니다.

그리고 앞으로 세상을 바꿔놓을 인공지능 시대를 대비해 저희 프라이머사제와 응교수님의 AI fund간의 협력은 더욱 더 긴밀해질 예정입니다.

그 협업의 시작으로 이번달 7월 30일, 서울에서 프라이머사제 A.I. day를 개최하고 Andrew Ng교수님이 키노트로 참가해주실 예정입니다. 저희 포트폴리오회사인 Upstage의 성킴대표님도 함께하십니다! 공간이 한정적이라 CVC 및 LP 위주로만 모시고 있는점 양해해주시고 아래 링크를 통해 신청해주세요!

신청 후 참석 확정 이메일은 이번주내에 나갈 예정입니다.

주간 실리콘밸리 마피아 1기 마지막 공지입니다! 실리콘밸리시간 7월 8일 월요일 아침 / 한국시간 7월 8일 월요일밤에 마감하도록 하겠습니다. 

인공지능 버블, 드디어 금이 가기 시작했다?

다들 아시겠지만 저는 위의 글을 썼던 2022년부터 "이번 인공지능 사이클은 장기적으로 세상을 바꾸겠지만 단기적으로 Generative AI에 대한 버블과 FOMO를 경계해야"한다는 제 의견을 여러 관점에서 정리해두었습니다.

그리고 저는 2024년 여름부터 그 버블 붕괴의 시작이 눈에 보이기 시작했다고 생각합니다.

물론, 당연히, 높은 확률로, 제가 틀릴수도 있습니다. 아무리 좋은 정보들을 모았다고 하더라도 제가 인공지능 전문가가 아니고 깊이가 부족한건 사실이다보니 그 해석에 있어서는 그저 개인적인 의견에 불과한 글이라고 생각합니다.

또한 대부분의 제 글들이 그렇듯이 오늘 쓴 글도 저만의 창조적인 연구의 결과가 아니고 Sequoia, Goldman Sachs, Morgan Stanley를 비롯한 다양한 투자자들과 미디어들의 analysis들을 synthesize 해본 글이기때문에 정보출처가 거짓이면 제 분석도 의미가 없어진다는 부분도 명확한 한계입니다 (ㅋㅋㅋ그런데 가만보면 컨설팅하던 시절처럼 여기저기서 지나치듯 본 글들속에서 뭔가 방향성이 보이면 정보들을 꿰어내서 이야기를 풀어내는게 바로 주실밸이네요 ㅎㅎㅎ)

다만 10년도 더 지난 대학생시절부터 얕게나마 인공지능에 대해 공부했고, 실제로 컨설팅과 투자업 실무에도 적용해봤고, 이번 인공지능 쓰나미의 한가운데서 세계 최고의 VC들에게 인공지능에 대한 다양한 견해를 들으면서, 동시에 당시 가장 유명했던 인공지능 회사들을 직접 발굴하고 검토했고, 오늘도 실시간으로 실리콘밸리 현지 생태계내에서 매주 여러 채널로 다양한 최신 정보들을 접하는만큼, 그리고 인공지능이 세상을 바꿀거라는 확신을 가진만큼, VC투자자로서의 제 견해를 정리하면서 더 공부하고 또 나중에 복기해야겠다는 생각으로 글을 적어봤습니다.

또한 이 글이 여러분들께서 다른 다양한 의견들과 함께 종합적으로 자신만의 판단을 하시는데 도움이 되시면 좋겠다는 마음입니다. 동시에 저와 다른 의견들, 틀린 부분에 대한 지적을 받고 제가 배우기위함이기도 합니다. 말을 해야 틀린줄 알고, 틀린줄 알아야 고칠수있다고 생각합니다. 그러니 편하게 피드백주시고 틀린부분이 있으면 카톡방에서 알려주세요! 아래 링크에 2022년, 2023년에 썼던 인공지능에 관한 글들을 다 정리해두었고 카톡방 링크도 첨부되어있습니다.

1. B2C Consumer AI 앱들의 위기

a. 낮은 retention과 engagement - 킬러앱은 어디에?

작년 12월에 나온 모건스탠리의 자료(Bessemer가 정리)에 따르면 Consumer AI 앱들이 기존 앱들에 비해서 훨 낮은 retention과 engagement를 보인다고 합니다. 

이를 통해 생각해볼 수 있는 부분은 "아직까지 고객들이 장기적으로 돈을 내며 충성할 앱이 부족하다"라는 점입니다. 물론 우후죽순으로 생겨난 AI앱들이 기존 앱들에 비해 너무 많아서라는 데이터가 편향되었다라는 주장도 어느정도 설득력은 있긴합니다.

다만 개인적으로 Netflix와 Microsoft는 끊었지만 Youtube Premium, Amazon, Uber, Canva (Figma로 바꿔볼까 생각중), Zoom, Google Cloud는 못 끊는것처럼 이런 내 일상속에 깊게 파고들어 삶을 편리하게 해주고, 내가 내는 비용보다 더 큰 가치를 주는 회사들이 아직 적다라고 느낍니다 (이젠 지겨우시겠지만 결국 궁극적으로 사용자 경험과 제공하는 가치가 제일 중요하다!라는 말은 아래글에서 지난주에도 했습니다 ㅋㅋㅋ)

또한 개인적으로는 2023년 초기에는 OpenAI를 유료버전을 사용했었는데 지금은 Google Gemini로 갈아탔습니다. 최근에는 Claude sonnet 3.5 성능이 너무 좋다고 소문이 자자해서 넘어갈까하는 고민과 동시에 그냥 내가 API콜로 필요한 부분을 웹앱을 만들고 나머지 질문들은 Perplexity를 사용해볼까라는 생각도 해봤습니다. 사실 메타와 구글덕에 풀려버린 다양한 무료버전 챗봇들도 일반적인 질문은 잘 대답하긴해서 또 consumer 용으로는 따로 구독이 필요가 없다는 생각도 듭니다.

이렇듯 결론은 아직까지 기술이 조금씩 발전하고 있으나, Deep Learning의 아버지중의 한명이자 메타 AI head인 Yann Lecun의 아래 기사처럼 인공지능에 대한 근본적인 접근의 변화가 없다면 이번 사이클의 한계가 보이기 시작했다고 생각하고 그로인해 발전속도가 정체되면서 기업들간의 기술이 수렴하고 있는만큼 경쟁은 오히려 점점 더 가속화되고 있기때문에 소비자들을 지키기가 쉽지 않아보입니다.

뭔가 너무 비관적이면서도 어느정도 논리가 있는것 같아보이기도 하지않나요? 그럼 좀 더 깊이 파고들어서 실제로 이런 트렌드를 요즘 어디서 관찰 혹은 유추할수 있을까 살펴보겠습니다. 

b. 빅테크의 역습과 생태계의 중요성

사실 굉장히 많은 인공지능 B2C 스타트업들이 어떻게 보면 단발성으로 출시되고 만들어지고 있는데 그 생명이 생각보다 길지않다고 생각합니다. 다들 아시다시피 너무나도 많은 앱들이 OpenAI의 업데이트나, Claude의 업데이트나, Google, Apple, Meta, Nvidia의 업데이트가 나올때마다 사라지고 pivot하고 있습니다. 

다들 이번 Google I/O도 별로였고 Apple의 WWDC도 별로였다는 평가도 많지만 저는 이 두 회사가 본인들이 가지고 있는 힘을 아주 잘보여줬다고 생각합니다. 다만 프레젠테이션이 구식이 되어버린건 OAI의 마케팅이 너무 핫하기때문이라고 인정하는 부분입니다 ㅎㅎㅈ

제가 메타 선글라스를 사고나서 가장 먼저했던 말이 있었죠? "애플 주식을 사야겠다"입니다. 아무리 좋은 하드웨어가 나오고 인공지능이 나와도 지금 이 인공지능이 모바일폰의 컴퓨팅파워를 쓰는 이상 그곳에 귀속될수 밖에 없고 앞으로도 반독점 이슈 더욱 커지겠지만 여전히 애플과 구글이 가진 생태계의 힘은 OAI도, Perplexity도, Character AI도 항상 느끼고 있을거라고 봅니다. 

c. OpenAI, Character AI, Perplexity을 보면...

Consumer AI를 위해 애플 매달리는 OpenAI

OpenAI의 경우, 최근 디인포메이션 기사에 따르면 annualized revenue인 $3.4B중에 $1B이 API에서 나왔고 앞으로도 더욱 B2B에 집중할 계획인 것으로 알려졌습니다. 다르게 말하면 지금 최근 한달에 벌었던 $300M정도 매출의 70%가 ChatGPT구독을 통한 매출이라는 말인데, 친 OAI 매체로 알려진 디인포메이션조차도 이런 개인소비자들이 언젠가는 구독을 중단하고 churn할 것이라고 예측했습니다. 아마도 애플,구글과 같은 생태계 플레이어들과 Anthropic, Mistral과 같은 다른 모델들의 추격으로 결국 파이를 나눠먹어야할것이라는 생각일거라고 봅니다.

(참고로 얼마전에 유튜브에서 Jake님과 제가 말씀드렸듯이 The information은 좀 걸러들어야하는게 찌라시성향이 있고 제가 직접 확인한 가짜뉴스만해도 다수 존재합니다. 특히 다른 신문사에서 보도하지않거나 타신문사에서 디인포메이션을 소스로 기재하는 뉴스들은 더 조심하는 편입니다.)

얼마전에 유튜브에서 종현님과 함께 이 부분에 대해 이야기하고 함께 공감했었는데 저는 2022년에 처음봤을때부터 일반 대중을 대상으로한 ChatGPT는 주요 매출 채널이라기보단 실험 및 hype을 만드는 훌륭한 도구이고, 결국은 소비자시장은 생태계를 가진 애플이 유리할 것이며, 투자대상으로써 OpenAI가 매력적인 이유는 세상 모든 소프트웨어의 B2B AI 백앤드가 될수있기때문이라고 생각해왔습니다. 

다만 문제점은 OpenAI는 회사들이 local에서 데이터를 처리할수없고 API를 통해서만 사용가능하며 AGI를 목표로하는 회사이다보니 궁극적으로는 고객들의 정보를 사용하겠다는 입장이라 Fortune 500와 같은 B2B에는 진출이 쉽지않아보이긴 합니다. 그렇지만 execution을 잘하는 OpenAI인만큼 좋은 방법을 찾아내리라는 기대도 큽니다.

이와 반대로 AGI보단 수익성에 집중하고, API보단 on-prem + cloud hybrid기반으로 security, privacy, customization에 집중하는 회사들도 존재하고 (누굴까요?ㅋㅋㅋ)미스트랄과 같은 오픈소스 모델들도 비슷한 방향성을 잡을수 있다고 생각합니다. 물론 향후 OAI도 이쪽으로 더 관심을 가지고 있고 집중할 수도 있을거구요. 

저와 비슷하게 OpenAI를 비롯한 인공지능 모델회사들이 API와 B2B쪽으로 집중할 것이라는 예측을 한 VC들도 많았고, 반대로 최근까지도 ChatGPT가 OpenAI의 매출의 대부분이 될 거라고 예상한 대형 VC들도 있었는데 앞으로 그 결과가 궁금합니다. 그 결과를 보면서 이 투자자들이 FOMO에 휩쓸리는 편인지, 충분히 고민하는지, 장기적인 관점으로 고려하는지등등에 대한 깊이를 알아볼수있는 기회가 될 거라는 생각도 듭니다. 

어쨋든 디인포메이션과 비슷하게 아마 OpenAI도 B2C는 쉽지않고 B2B가 살길이다라고 생각을 하고 있기때문에 API쪽을 더 집중하고 동시에 애플에게 달라붙어 consumer쪽을 더 버텨보려고 하는 움직임이라고 생각합니다. 지금의 플레이를 보면 이 부분이 더 명확한데:

(1) 아이폰에 독점도 아니고 구글/앤트로픽와 같이 탑재되면서,

(2) 답변제공에 필요한 비용이 있을텐데 돈을 전혀 받지않고,

(3) 마소때와는 다르게 키노트를 하청업체중의 일부로 관중석에서 보았고,

(4) 고객을 질문을 아이폰/맥북에서 on-device AI로 1차적으로 답변을 하고 고객이 원할시에만 꼭 필요한 정보만으로 무료 ChatGPT에 접근하게 해주고 만약 구독을 할경우에도 애플이 일정부분 수수료를 받아갈 예정이고,

(5) OpenAI의 49%의 지분을 가진 마이크로소프트의 경쟁사인 애플에게 그와 동급인 투표권 없는 보드옵저버 자리는 내어주는 것을 보면,

독자적으로 OpenAI가 consumer AI 비지니스만으로 성장하기에는 힘들다는 판단을 애플, OAI 모두 내린 것 같아보입니다. 다만 그 현실을 확실히 인지하고 해결책을 찾아나서는 부분은 역시 실행의 OpenAI라는 생각이 들고 이미 지난 6개월만에 월매출을 두배로 늘리면서 그 능력을 보여준만큼, 앞으로 애플과의 협업이 어떻게 흘러갈지 기대가 됩니다.

이쯤에서 보고가는 인공지능시대에 애플을 무시하면 안되는 이유!

구글과 메타에 매달리는 Character AI

개인적으로 Character AI의 프로덕트를 굉장히 좋아합니다. 바로 본인이 원하는 인격의 아바타와 대화를 할수있는 프로덕트인데요, 저도 케인즈와 한참 대화해보기도 하면서 많은 시간을 보낸 재미있는 서비스라고 생각합니다. 창업자중 한명인 Noam Shazeer 같은 경우 이번 transformer발 인공지능 사이클의 기반인 Attention Is All You Need 논문의 공동저자중 한명이기도 한만큼 많은 기대를 모았던 회사죠. 얼마전 주요 투자자와 통화했을때 예전만큼은 아니지만 그래도 좋은 retention을 보여주고 있다는 소식도 들었습니다 (진실일까, 블러핑일까?)

이렇듯 지표들은 좋은 편이라고 하지만 아직까지 매출이 눈에 띄게 빠르게 성장하는 트렌드는 아닌걸로 알려졌고 오히려 모델 트레이닝과 서빙하는 비용이 아주 높은 것으로 알려졌습니다. 분위기가 약간 클럽하우스 느낌도 나는데, 정말 재미있고 한때 핫했지만 장기적인 수익모델의 부재와 새로움에 익숙해져가는 유저들을 어떻게 유지할 것인지에 대한 고민이 좀 필요하다고 생각하고 이건 결코 쉬운 문제가 아니라고 생각합니다. 

사실 Character AI의 프로덕트가 좋지만 정말 쉽지 않은 비지니스라고 생각하는 더 큰 문제는 따로 있습니다. 바로 기술적해자와 경쟁사들입니다. 개인적으로 Character AI는 2023년 초반부터 지속적으로 들어왔는데 항상 고민되는 부분이 기술적 해자와 생태계이었습니다. (1) 지금 Character AI가 만드는 것이 얼마나 방어가능한가, (2) 충분한 네트워크 이펙트를 만들수있는가, (3) 이 앱이 스스로 생태계를 만드는 것이 빠를 것인가, 아니면 생태계가 있는 회사가 이 앱을 만드는게 빠를 것인가등 저의 주요 고민이었죠. 

2023년초의 제 판단에는 Character AI의 기술은 방어하기 쉽지 않아보였고, 소비자를 잡아둘 커뮤니티적인 요소가 적었으며, 더 커지기 위해서는 생태계가 필요한 게임이라고 생각했습니다. 실제로 GPTs가 나오면서 OpenAI에서도 이런 챗봇들을 만들수있게 되었고, 구글을 비롯해 메타도 Whatsapp과 연동까지 해가면서 이런 챗봇들을 개발하고 있습니다. 비슷한 스타트업들은 셀수도 없이 많이 들어봤구요.

이렇듯 (3) 생태계가 있는 회사들이 이런 앱을 만드는게 확실히 트렌드가 되었고 최근 기사에 따르면 Character AI가 구글, 메타, xAI에 접근해서 research partnership을 제안했다고 합니다. GPU와 같은 자원을 제공받는 대신에 Character AI만의 기술을 공유해주겠다는 내용인 것으로 알려졌는데 개인적으로 이건 사실상 항복선언이라고 봐도 된다고 생각합니다. 

제 눈에는 결국 reverse acquihire offer처럼 보이는데 여기서 acquihire란 대기업들이 반독점법을 피하기위해 쓰는 방법으로 회사 전체를 인수합병하면 반독점법에 걸릴테니 회사의 껍데기는 그대로두고 주요인력만 빼오는 방법입니다. 최근에 구마소의 Inflection AI "인수" 그리고 Amazon의 Adept "인수"가 이런 방식이었는데 주요인력만 데려오고 회사는 남긴뒤 license fee를 지불하여 기존 투자자와 남은 직원들에게 보상을 해주는 형태입니다. 

아무튼 Character AI의 오퍼는 사실상 본인들의 주요 인력들을 데려가달라라는 느낌이고 실제로 몇몇 연구원들이 올해 다른 경쟁사들로 이직한 것으로 알려지기도 해서 더욱 더 관심이 갑니다. 만약 이대로 aquihire가 이루어진다면 저에게 항상 character AI를 찬양하던 주요투자자들의 고민의 깊이에 대해 되돌아볼만한 좋은 기회가 될 것 같습니다ㅎㅎㅎ

농담반 진담반으로 한가지만 이야기하자면 제 생각에 Character AI가 살아나는 방법은 구글, 메타, xAI가 못할만한 "Only Fans for Chatbot"을 해버려서 GenAI가 이끄는 성인물 혁신의 선두주자에 서는 것도 방법이라고 생각합니다. 구글과 메타의 (xAI는 해버릴지도...) 이미지상 쉽게 할수없는 플레이이고 이미 반복적으로 (저는 모르는 플레이어들에 의해) 증명된 시장인만큼 정말 큰 회사를 만들고 돈을 많이 벌고 싶다면 충분히 시도해볼만한 가치가 있다고 생각합니다.

소프트뱅크와 손잡은 Perplexity

(개인적으로 정말 존경하는 주실밸마피아가 요직에 있는 회사이다보니 조심스럽긴하지만ㅋㅋㅋ) 최근 Perplexity가 Softbank으로부터 $3B 밸류에 투자를 받기로했고 동시에 일본 통신업계에 1년간 유료 구독 서비스를 무료로 제공하기로 했다는 소식도 있습니다.

유저관련 지표들은 뛰어나기로 소문난 Perplexity이고 이번 계약이 GTM관점에서 좋은 마일스톤일수도 있겠지만 (1) 그만큼 간절하기때문에 organic한 성장이 아니라 이런 방식을 사용한다는 것, (2) 다른 툴들과의 경쟁이 심하기때문에 땅선점 land grab이 필요한 시점이라는 판단이라면 우버의 경우와 같이 앞으로 돈이 엄청많이 필요할 것, (3) 인공지능 기술이 완벽하지 않은 상황에서 소비자들이 불만족할 경우 1년후 엄청난 churn을 대비해야할 것정도의 불안한 메세지가 있다고 생각합니다.

물론 Perplexity의 선점전략이 우버와 SpaceX의 경우처럼 성공할수도 있겠죠. 다만 그 상대가 구글을 비롯해 넓게는 메타,마소,애플과 같이 돈많은 빅테크라는 점을 생각했을때 힘든 싸움이 될 것이라는 생각도 듭니다. 대신 이 싸움을 승리했을때는 넥스트 구글이 될수있는 어마어마한 기회이기도 한만큼 Perplexity팀의 앞으로의 행보가 기대되고 응원합니다. 

2. ???: B2B AI는 이미 증명되었다구욧!

위의 OpenAI에서도 잠깐 다루었지만 B2B는 회사간의 거래라고 가정했을때 아무래도 장기계약이기때문에 좀 상황이 나을수도 있다는게 시장의 막연한 생각이라고 봅니다. 여태까지 B2B SaaS의 꾸준한 dollar retention을 보면서 B2B AI도 비슷하겠거니 생각하는게 당연한 것 같기도 하구요.

하지만 제 생각에 B2B AI에는 몇가지 불안요소가 있습니다. 

a. Usage based pricing의 불확실성

OpenAI를 비롯한 주요 모델 회사들의 B2B AI매출은 현재까지는 대부분 API를 통해 token단위로 비용을 지불하는 형태입니다. 이런 형태는 사용량에 따라서 비용이 발생하기때문에 쓴만큼 낸다! 라는 측면에서 고객기업 입장에서도 유리하게 느껴지고 동시에 판매기업 입장에서도 리소스를 쓴만큼 비용이 들고 대가를 받으니 공평하고 가끔 많이쓰면 잭팟!이라는 생각이 들수가 있습니다.

그말을 반대로 돌려보면 판매기업입장에서는 어쩌면 꾸준한 반복매출의 형성이 확정되지않는다라는 불안요소가 존재합니다. 기존의 B2B SaaS와 다르게 장기계약을 하지않기때문에 언제든 고객이탈이 발생할수있다는 것이죠. 또한 Product Led Growth라는 관점에서 의사결정권자가 고객사의 leadership이 아니라 엔지니어일수도 있다보니 차후에 결정이 바뀔수도 있는 위험이 존재합니다.

그리고 많은 스타트업과 엔지니어들이 OpenAI의 CEO가 순식간에 날아가는 상황을 보면서 좀 더 다른 API로의 이동이 flexible하게 설계하거 아니면 아예 다양한 모델을 적절하게 섞어쓰는 방식을 택했을거라고 생각합니다. 이미 이런 것을 대신해주는 스타트업도 존재하구요. 아래는 그 당시에 썼던 글입니다.

따라서 이 부분에서 기존 B2B SaaS에서 세일즈팀이 고객사의 의사결정권자와 2-3년 계약을 해서 안정적인 ARR을 확보하는 모델과는 다른 부분이고 아직 더 증명해야할 부분이 남았다고 생각합니다. 

b. 아직 Early innings of renewal cycle

그럼 Usage based pricing이 아닌 ARR로 계약한 B2B AI들은 이제 탄탄대로 인걸까요? 아직까지 그런 판단을 내리기에는 이른 것 같습니다. $50M ARR을 달성하였다고 하더라도 아직까지 약속과 할인이라는 무기가 얼마나 사용되었는지 그리고 고객기업들의 실제 유저들이 장기적으로 이 회사가 충분한 가치를 주고 있다고 생각하고 재계약을 할지에 대한 질문이 남아있는 초기단계라고 생각합니다. 아래 Harvey와 Glean의 사례도 비슷한 맥락이라고 생각합니다. 

초반에 많은 희망을 보여주면서 "우리도 AI를 하고있다!"라는 말을 하고 싶어하는 경영진을 설득해 1년 혹은 2년 계약을 맺었다면 실무진들의 사용 만족도에 따라 앞으로 그 판도가 갈릴때까지 시간이 조금 남았다고 생각합니다. 또한 사용만족도와는 별개로  구독할만큼 지속적으로 필요하고 만들기 힘든 프로덕트인가에 대한 질문도 남아있습니다. 의외로 빠른 traction을 위해서 공격적인 세일즈로 온보딩을 했지만 retention에 실패하는 케이스도 주변에는 꽤 있다고 생각합니다.

c. Privacy와 Regulation

위에서 잠깐 다루었지만 많은 Fortune 500 회사들이 API나 클라우드를 통한 자료유출에 대해서 굉장히 조심스럽습니다. 이미 OpenAI나 다른 GenAI 고객 리스트에 fortune 500회사들이 있는데 무슨 말이냐구요? 이건 OpenAI도 그렇고 Fortune 500 기업 양쪽이 서로 마케팅차원에서 마음이 맞은거라고 생각합니다. 돈을 주고 사용은 하되 주요 데이터를 건드리지않는 범위내에서 (e.g. 직원들 리서치용 = B2C와 비슷한 성격?) 아직 가장 중요한 기업 중심에 자리잡지는 못했다고 보는게, 모르는건 일단 안하고 싶어하는 보수적인 전통기업 내부에서도 더 보수적인 IT조직의 관점에서는 더 설득력이 있다고 생각합니다. 

Regulation도 문제입니다. 일단 아직까지 새로 시작한 분야이고 기술이기때문에 industry standard가 만들어져가는 과정이다보니 명확한 guideline이 부족하고 기업들이 쉽게 뛰어들지못하고 동시에 빠져나갈 구멍을 많이 만들어놓았을거라고 생각합니다. 그만큼 B2B AI회사 입장에서는 onboarding도, retention도 쉽지않은 것이죠. 

d. 그래서 아직 좀 더 기다려봐야할때가 아닐까

위의 내용들이 "B2B SaaS도 마찬가지 아닌가?"라고 생각하실수도 있는데 AI는 B2B SaaS에 비해 (1) hype으로 인해 경영진의 AI 도입에 대한 push 훨씬 심함, (2) 기술적으로 빠르게 너무 변하고 있어서 이해와 검증이 힘듬, (3) 시장표준이 아직 확립되지 않은 리스크를 받아들이기 쉽지않음정도로 다르다고 생각합니다.

결국 단기적으로 봤을때 AI hype과 경영진들의 마케팅을 위해, 든든한 VC 투자금을 기반으로 B2B AI회사들이 열심히 확장해나가고 있는데, 한편으로는 누가 수영복을 입지않고 수영을 하고 있었는지는 아직 밝혀지지 않았고, 그 순간이 앞으로 1-2년안에 도래할지도 모른다고 생각합니다. 이미 안정적으로 시장에 자리잡은 legacy? B2B Saas 시장과 달리 초반 traction도 모든걸 보장해주지 않는다는 부분을 주의해서 봐야하지않을까라는게 제 생각입니다. 

e. Glean과 Harvey AI를 들여다보면...

Glean

기업 내부정보 인공지능 전문가의 컨셉으로 실리콘밸리에서 많이 인기를 끌고 있는 서비스입니다. 이 회사에 투자한 지인들말로는 최근까지 직접 사용해 본 결과 조금씩 나아지고는 있지만 아직 퍼포먼스에 대한 불만이 있다고 합니다. 솔직히 잘못된 답변이나 hallunication이 존재한다고 하는데 장기적으로는 해결해가는 과정중에 있다고 한다고 하네요 (진실일까, 블러핑일까?)

그런데 이런 상황에서 최근 Glean이 인도오피스를 열었다는 소식을 들었습니다. 뭐 아웃소싱하는가보다라고 단순하게 생각할수도 있는데 저는 좀 이상하다는 생각이 들었습니다. 기본적으로 아웃소싱+AI는 "AI가 70%를 하고 인건비가 저렴한 곳에서 인간이 직접 30%를 해서 완벽한 제품을 제공한다"라는 모델자체는 제가 좋아하는 모델이긴 합니다.

하지만 Glean과 같은 최신 실리콘밸리 생성형 인공지능의 선두주자이자 미래로 가치평가를 받고 성장세를 보여주는 회사가 최고의 인공지능 인재들이 대부분 실리콘밸리에 있는데도 불구하고 인도에 오피스를 연다는게 앞뒤가 안맞는다는 생각이 들었습니다. 적다보니 너무 글이 음모론 같기도 한데ㅋㅋㅋ 결국 인공지능만으로는 해결이 안되어서 뭔가 뒷단에서 수작업이 필요한게 아닌가라는 합리적인 의심이 들기도 하네요.

뭐 그렇다고해도 고객에게 충분한 가치만 줄수있다면 상관없다고 생각합니다! 아마 다른 인공지능 모델회사들처럼 인건비가 싼 나라에서 수동으로 데이터를 tagging을 해서 각 고객에 맞게 fine tuning을 하는 용도가 아닐까 싶은데 (설마 인도에서 답을 확인하고 찾아주는건 아니겠죠...?) 이런 모델이 완벽히 scalable한 100% 소프트웨어 인공지능회사 가치평가를 계속받아도 되는걸까라는 질문은 있습니다. 이런식으로 고객들에게 맞추서 하다보면 B2B SaaS가 아니라 손이 많이가는 consulting business가 되어버리는 거니까요. 

Harvey AI

세쿼이아와 마소 그리고 OpenAI 투자한 가장 핫한 법률관련 인공지능회사가 한달전만해도 $2B valuation에 $600M을 모으다가 지난주부터 $1.5B에 $100M을 모으고 있다는 소식입니다. 애초에 목표로 하고 있던 M&A를 포기하면서 사이즈를 줄였다는 소식입니다. 

인수에 실패했으니 사이즈를 줄이는게 충분히 이해가 되는 부분인데 다만 이 기사로인해 도대체 Harvey가 뭐가 다르길래 훨씬 더 고객이 많은 경쟁사인 Castext(650M, acquired)나 EvenUp($325M)보다 이렇게 높은 가치평가를 받느냐? 라는 근본적인 질문들이 시작되었습니다. 

아래 그래프는 2024년 5월에 Stanford의 인공지능 연구소인 HAI에서 내놓은 현재 법률 인공지능 회사들의 오류 통계입니다. 보시다시피 GPT보다 나은점도 못한점도 있는데 주목해야할 점은 이 법률용 인공지능 회사들의 가장 근본적인 가치는 "정확도"이라는 부분입니다. 변호사들이 법률적으로 하는 일인만큼 정확도가 가장 중요한데 그 부분이 아직도 완벽히 해결되지 않았다는게 HAI의 분석입니다. 

이 리포트에서는 "Hallucination은 RAG로도 해결되지 않는 것으로 증명했다"라고 전달하면서 "법률산업에 인공지능을 쓰는것은 특히 어려운 부분들이 있다"고 말했고 덧붙여 "법률 인공지능이 더 발전하길 바란다면 다양한 모델회사들이 본인들의 모델을 벤치마킹에 공개해야한다"라고 이야기했는데 보시다시피 Harvey를 비롯한 스타트업들은 아직 참여하지 않은 상황입니다.

제 생각에도 지금의 인공지능은 확률적으로 다음 글을 생산할 뿐이고, 사고하지 않아서, 진실과 거짓을 구분하지 못하기때문에 RAG기반이라고 하더라도 법률 인공지능에는 어려운 점이 많다고 생각합니다. 

주변의 리뷰를 봐도 Harvey가 압도적이라는 평은 들어보지 못했는데 밸류에이션도 그렇고 HAI report도 그렇고 Harvey는 왜 이렇게 높은 가치평가를 받을수있는 걸까요? 밸류에이션이 Even up의 4배가 넘는데 그정도 성능이라면 왜 benchmark에는 참여하지 않는 걸까요? 뭔가 애매하지 않나요? 혹시 시장의 음모론대로 Harvey는 결국 OpenAI와 마소가 로펌들의 법률자료를 빼오기위한 장치인걸까요? B2B AI의 선두주자중 하나인 Harvey는 앞으로 어떻게 될지 기대가 됩니다. 

3. 과도한 인프라투자에 대한 경고들

이미 많은 곳에서 다뤄진 글들이라 따로 깊이 분석하지는 않겠지만 몇주전부터 세쿼이아와 Goldman Sachs와 같은 대형 투자사들에서 인공지능 관련 인프라투자가 과도한 것 아닌가? 라는 질문을 던지고 있습니다.

"투자한 금액이 $600B인데 매출은 다 어디간거죠?"라는게 그 골자로 개인적으로도 굉장히 공감하는 부분입니다. 주실밸에서 입아프게 말했듯이 미래는 생각보다 멀리있고, 당신은 하루아침에 부자가 되지 않으며, 당장 내일 AGI가 오진 않을것이고, GPU만 있다고 모든 것이 해결되는게 아니라는 말로 마무리가 됩니다. 

원래 새로운 기술이라는게 boom과 bust 사이클을 지나가기 마련이라면 우리는 지금 어디쯤에 와있는가에 대해서 다시 한번 생각해보게하는 글들입니다. 

그리고 이런 글들이 GenAI투자에 진심이었던 Sequoia 내부에서도 나온다는 사실도 주목할 부분이라고 생각합니다. 2021년 코인버블시절에 FTX사태를 통해 어느정도 자정작용이 있었나라는 생각도 드네요. 

가장 바이럴했던 제 뉴스레터인 아래 글에 썼듯이 저도 항상 이런 의구심이 있었습니다.

그래서 어쩌라고

결론적으로 제가 실리콘밸리 현지에서 보면서 느끼는 인공지능 버블은 아직도 진행중이지만 실리콘밸리의 주요 투자자들이 뭔가 경계를 하기시작하고 주요 회사들에게서 애매한, 뭔가 미심쩍은 플레이들이 나오면서 드디어 인공지능 버블의 끝이 시작되는가라는 생각이 들어서 이 제 생각을 공유해보고 싶었습니다.

그리고 이 뉴스레터를 쓰면서 느낀점 몇가지를 함께 공유해보려고 합니다. 

스타트업 성공의 기준? Valuation이 아니라 EXIT!

꽤 오랫동안 최근에 투자받은 금액과 밸류에이션, 가치평가를 기준으로 스타트업들을 판단하고 평가하는 경향이 자연스러웠습니다. "어떤 회사는 유니콘이기때문에 성공했다!"라는게 자연스러웠던거죠.

하지만 제 생각에 최근 밸류에이션의 스타트업의 미래를 보장한다, 혹은 성장과 매출이 뛰어나다라는 가정은 2021과 2023년을 지나면서 무의미해졌다고 생각합니다. 시장은 정보가 공개되지 않은 비상장회사들의 매출, 수익, 성장에 대한 대체지표로 VC들이 책정하고 동의한 밸류에이션을 이용해왔고 그 기반에는 VC들이 모든 정보를 고려하고 깊이 고민하며 건정하고 공평하게 만들어낼 것이라는 기대가 있었기 때문입니다.

하지만 2021년에 VC들이 보여준 무분별한 가치평가와 FTX사건을 필두로한 코인시장을 보았을때, 과연 우리가 2023년 그리고 2024년의 VC들이 보여주는 가치평가를 믿을수있을지에 대한 고민이 생길수밖에 없습니다. 제 2의 FTX사태가 벌어지지는 않을까? 어딘가 또 천재창업자라는 주장만 믿고, 실사는 커녕 정기적인 재무정보도 받지못하는 상태로 유명하다는 인공지능회사에 투자하지 않았을까? 혹은 매출과 성장이 별로라도 남들 다 하는 투자이기때문에 뒤쳐지지 않으려고 비싸더라도 일단 투자한건 아닐까? 개인적인 track record를 위해 무리해 투자한건 아닐까?라는 걱정은 충분히 근거가 있는 부분이라고 생각합니다. 

따라서 지금까지 매출이 빠르게 성장했다고, 유명 VC들에게 큰 투자를 받았다고, 그 인공지능 스타트업들이 성공했다고 판단하기에는 이르다는 말씀을 드리고 싶었습니다. 종이나 모니터에 적힌 가치나 수익은 보기에는 좋지만 그걸로 음식을 사서 배를 채울수는 없습니다. 그 가치와 수익이 우리 지갑으로 들어와야 음식을 사고 배를 채울수 있는거죠 (You cannot eat IRR, you can only eat DPI!)

관련해서 유니콘 밸류에이션이 중요한게 아니라 매출이 중요하다!라는 2023년 2월 글도 공유해드립니다 (저도 참 어그로가 한결같군요...ㅋㅋㅋ)

여담이지만 제가 다른 VC들과 포커를 치는 이유가 이런 부분이기도 합니다. 스타트업투자는 마치 포커와 비슷한 부분도 있거든요. 두 게임 모두 불완전한 정보를 기반으로 최고의 결정을 내려야하고, 여러가지 정황으로 상황을 빠르게 파악해야하고, 내가 믿는 것을 남들도 믿게 만들어야 게임이니까요. 남들의 그런 블러핑을 꿰뚫어보는 능력을 기르기에도, 혹은 내가 믿는 미래를 남들도 믿게만드는 능력을 기르기에도 좋은, 참 재미있는 게임이라고 생각합니다. 

아래 글은 몇주전에 쓴 글인데 세계 최고의 VC들을 의심할때마다 필요한 글이라고 생각해서 오늘도 퍼왔습니다 ㅎㅎㅎ

최고의 인공지능 기업은 아직 태어나지않았다? Last mover advantage

우리는 요즘 너무 급하고 빠르게 돈을 벌겠다는 욕심에 사로잡혀 있는 것 같습니다. 특히나 2021년에서 2023년에 걸친 VC들의 FOMO를 보면 더더욱 그렇게 느껴지구요. 저도 당연히 그럴때가 있는데 그럴때마다 제가 몇달전에 정리해둔 글을 보면서 마음을 달래곤합니다. 

개인적으로 Last mover advantage는 존재하고 First mover advantage만큼 강력하다고 믿습니다. 그리고 그 last mover는 지금의 인공지능 거품이 빠지고 나서 모두가 인공지능에 대한 관심을 잃었을때 그때 살아남은 회사일수도 있다고 생각합니댜. 제가 지금 모두가 컨슈머에 대해 관심을 가지지않을때 컨슈머에 투자해야한다고 생각하는 것과 마찬가지로요. 

남들과 같이해서는 남들보다 뛰어날 수 없다

몇일전 저의 LA현지의 멘토들과 Korean BBQ를 먹으면서 재미있는 이야기가 정말 많이 오고갔습니다. (여담인데, 개인적으로 충격적이었던건 LA라서 그런지 모르겠지만 백인들도 모두 다 정말 아무렇지도 않게 젓가락을 너무 능숙하게 사용했으며 그 모습을 보면서 칭찬을 하거나 언급을 하는 사람이 단 한사람도 없었다는 사실입니다 ㅎㅎㅎ)

초기 투자전문가인 분은 이번 AI버블의 붕괴가 3-5년후 올거라고 생각하고 on-device AI가 되는 그 순간을 기대하고 있다고 하셨고, 컨슈머 투자전문가인 분은 다들 항공사들에 대한 기대가 없는 지금, 오젬픽(GLP-1)을 통한 체중감소로 항공사들의 가장 큰 비용인 연료사용이 줄어들면서 수익성이 나아질것에 베팅하기도 하고, 출자전문가인 분은 15년후쯤 벌어질 자율주행 시대가 가져올 인류의 큰 변화에 대해 고민하고 있었고, 전통적으로 유명한 VC인분은 저와 똑같이 GenAI의 핵심은 새로운 인터페이스의 등장이라고 생각한다고 하셨고, 컨텐츠/엔터 투자전문가인 분은 의외로 성장이 멈춘 회사들은 모아서 키우는 것에 관심이 많았고, 저는 SpaceX없이는 완전 자율주행은 없다 + 인공지능의 최종 승자는 애플일 것이다라는 주장을 하면서 다같이 애플 주식을 구매하기도 했습니다ㅎㅎㅎ

다들 본인의 투자 아이디어들을 이야기하면서, 서로 동의도 하고, 반대도 했지만, 결국 모두 각자 남들과는 다른, 남들은 모르는, 자신만의 세상에 대한 이해를 통해 thesis를 만들어가고 있는 모습들을 보면서 많은걸 배울수 있었습니다.

역시 VC라면 남들이 다 투자하는 곳에 투자해서는 남들과 다른 특별한 alpha를 만들수 없다는걸 명심하고, 앞으로도 열심히 연구하고 공부해서 남들이 생각하지 못하는 부분을 고민하고, 남들보다 먼저 투자하거나, 남들보다 늦게 투자하는, 그리고 그렇게 알파를 만드는 투자자가 되어야겠고 다짐했습니다. 

쓰다보니 또 글이 길어졌네요. 원래 좀 과감하고 욕많이 먹을 것 같은 글을 쓰다보면 길어지더라구요 ㅎㅎㅎ결론은 이제 2025-2027년즈음에 인공지능 버블이 터졌을때 저는 "햇제와 그랫제?"를 외칠 준비가 완료되었다는 부분입니다 ㅋㅋㅋ 안터지면 어쩔거냐구요? Sequoia가 본인들이 썼던 FTX를 찬양글을 사건이 터지자 아무도 모르게 지웠듯이 저도 지우면 되죠! (농담입니다. 복기하고 공부해야죠 ㅋㅋㅋ)

다음주에는 한동안 뜸했던 "좋은 VC란 무엇인가?" 시리즈 한편을 오랜만에 써볼까합니다. 다들 오늘도 읽어주셔서 감사합니다!

개인적인 공부 겸 나중에 뒤돌아보기 위해 글을 쓰고 있습니다 투자에 대한 조언이 아닙니다.

주간 실리콘밸리가 널리 알려질수록 그 내용은 더 깊어집니다! 주변에 벤쳐캐피탈, 스타트업, 테크, 경제 트렌드에 관심있는 분들게 공유해주세요! 감사합니다. 

주간실리콘밸리 메인 페이지