안녕하세요 구독자님! 주간 실리콘밸리는 경제, 테크, 스타트업, 부동산, 재정적 자유, 비지니스에 관한 정보들을 함께 토론하면서 제가 배워가는 목적으로 운영되고 있습니다. 그 과정에서 여러분들도 함께 배워나가시면 더 좋을 것 같습니다. 본 커뮤니티의 모든 내용은 개인적인 의견이며 투자에 대한 조언이 아닌 전반적인 트렌드와 그에 대한 의견들입니다.
평일 매일 실리콘밸리 시간으로 아침 6시 (서울 밤 11시)에 세계 각국에 계신 패널분들과 1시간동안 최신 뉴스를 읽고 녹음과 기사모음을 뉴스레터로 보내드립니다.
실리콘밸리 스타트업 트렌드와 VC 동향에 실밸과 한국에 계신 VC + 스타트업 관계자 분들과 매주 서부시간 토요일 저녁 5시(서울 일요일 오전 10시) 에 정기세션을 갖고 있습니다. 정기적으로 창업자분들을 초대해 이야기를 들어보고 다함께 대화할수있는 세션을 가지려고 합니다.
오픈채팅방: 기사 공유, 정보 (비번:2045, 1500명 가득찼는데 가끔 자리가 납니다)
ChatGPT관련 리플레이/뉴스레터
이번주 뉴스레터는 아직까지 진행중인 토픽이라 간단하게 쓸 예정(하...쓰다보니 간단하지 않았음)이고 제목은 역시 오늘도 아주 자극적으로 뽑아봤습니다. 이번 주제는 제 이야기보다 다른 많은 분들이 좋은 이야기들을 해주셔서 출퇴근시간에 한번쯤 들어보시기를 추천드립니다.
참고로 위의 링크를 이용하시면 웹에서 1.5배속이나 2배속으로 들으실수있고 다음 스피커로 뛰어넘어가는 기능도 가능합니다.
위의 링크는 제가 ChatGPT가 처음 나오자마자 쓴 글입니다. ChatGPT, 정확히 말해 Large Language Model (LLM)을 포함한 Generative AI는 참 거짓을 구분하지 못하기때문에 (이 부분에 대한 우리의 이해를 위해 구글이 본인들의 주식을 희생해가면서까지 BARD데모에서 이걸 보여줬죠 - 이는 GPT모델의 근본적인 문제이기때문에 GPT4에서조차도 해결할수 없을 것이고 아마 Transformer와 같은 역사에 한 획을 긋는 새로운 모델 아키텍쳐가 나와야하지 않을까 생각합니다.) 아직 인간을 대체할수없고 밸류에이션 버블이 많이 있으나 근본적으로 혁신적인 기술이고 이 기술로 어떤 비지니스를 만드냐가 가장 중요하다고 요약했었죠. 물론 그런 특이점이 오는데는 지금 당장보다는 시간이 좀 더 걸릴지도 모른다는 입장이구요.
오늘은 이 내용에 이어서 그렇다면 LLM시장의 value chain은 어떤 모습이고 경쟁구도와 승자에 대해서 이야기해보려고 합니다. 그리고 앞으로 지속적으로 이 시장에서의 비지니스모델들에 대해서도 주기적으로 다루려고합니다.
LLM 시장의 큰 그림
제가 좋아하는 NFX에서 작년 12월에 공유한 GenAI tech stack의 레이어들입니다. 지난주에도 이 글을 작성한 James를 만나서 직접 이야기를 들었는데 그 내용도 클럽하우스 리플레이에서 자세히 들으실 수 있습니다.
(1) General AI Models
기본적으로 이 다섯개의 층이 있을 것이라고 보고있는데 1층인 General AI Model은 OpenAI의 문서를 위한 GPT (GPT3.5=ChatGPT), 이미지를 위한 DALL-E가 좋은 예입니다. 경쟁사로는 구글의 LaMDA (BARD)등이 있고 중국의 Baidu도 관련 모델을 곧 런칭할 예정이라고 합니다. 가장 많은 데이터로 만들어진 모델로써 대부분의 AI모델의 근본이 되지 않지않을까 생각합니다.
(2) Specific AI Models
General AI Model을 기반으로 좀 더 특정 분야의 데이터를 이용해 만들어낸 모델입니다. 자율주행이나 코딩같은경우가 여기 속하지 않을까 합니다.
(3) Hyper-Local AI Models
기본적으로 클라우드에 올리기 힘든 데이터들을 위해 로컬에서 훈련해 만들어낸 모델입니다. 아마 환자기록이나 극비자료들을 위해 만들어질것 같습니다.
(4) Operating System and API Layers
OS와 API 레이어는 이 모델들을 쉽고 빠르게 쓸수있게 만들어주는 도구들이라고 보시면 될 것 같습니다.
(5) Application
위의 모델들을 OS와 API를 통해 만든 비지니스 어플리케이션을 말합니다.
그리고 저는 이 layer아래쪽에는 뭐가 있을까 궁금해서 우리 주실밸 세션에서 관계자분들께 여쭤보고 제 나름 뇌피셜+검색으로 정리해봤습니다 (이건 뉴스레터이자 제 노트이기도 하니까...)
(0) Cloud
이 모델들이 올라갈 클라우드 기반인데 현재 OpenAI팀인 마소 Azure, BARD의 주인인 구글 Google Cloud, 그리고 아직 프로젝트가 없지만 앞으로 기대가 되기도 하고 동시에 회사 DNA와 안 맞다는 평도있는 아마존의 AWS가 있습니다.
(-1) NPU production
NPU는 Neural Processing Unit으로 여지껏 이런 대형 모델들을 GPU로 트레이닝하고 써왔었는데 그래픽을 위해 만들어진 GPU보다 딥러닝 전용으로 만들어진 하드웨어라 더 성능이 좋을 것으로 기대되고 있습니다.
이런 클라우드를 구성하는, 데이터 센터에 들어가는 하드웨어들을 생산하는 회사들인데 TSMC, Samsung, Intel, Global Foundries정도가 있습니다.
(-2) NPU design
NPU를 디자인을 하는 회사들인데 사실 생산보다 디자인이 가장 중요하고 경쟁도 치열합니다. 구글, 애플, 인텔, 엔비디아, 바이두, 퀄컴, 삼성, 테슬라, 알리바바등 많은 대기업들이 여기에 뛰어들고 있고 Graphcore과 같은 엄청나게 많은 스타트업들이 이 분야에서 경쟁하고 있습니다.
그래서 어쩌라고
이렇게 다섯가지 층이 있는데 현재 가장 핫 한 분야는 4층 5층으로 보이고 여기에는 너무나도 많은 스타트업들이 나타나면서 hype과 거품을 만끽하면서 돈을 뿌려야하는 VC들에게 돈쓸곳을 만들어주고 있고 1,2,3층에 대한 연구 또한 다양하게 계속 되고 있으며 1층은 어느정도 윤곽이 보이는 것 같습니다.
단기적으로는 OpenAI와 구글의 대결이 될 것이고 바이두같은경우는 중국이다보니 기대가 상대적으로 적은 상황으로 느껴집니다. 왜 더 많은 회사들이 참여하지 못하고 있냐를 생각해보면 물론 어느정도 기술의 차이도 있겠지만 결정적인 이유는 비용때문으로 보입니다.
돈! 돈! 돈! 그리고 기술 한스푼
개인적으로 기술력은 어차피 Attention is all you need (링크)라는 역사적인 페이퍼를 기점으로 근원기술은 모두가 알고있고 어느정도 fine-tuning의 노하우가 있지만 극비리의 기술을 소수만 독점하고 있는 상황은 아니라고 생각합니다.
결국은 이 모델을 만들기위해 정보를 수집하고 저장하고 트레이닝하는 과정에서 드는 어마어마한 하드웨어와 팔로알토 도시 하나의 일년치 전기사용량과 맞먹는 자원을 꾸준히 제공할수있는 회사만이 이 모델을 운영할수있는것이 이 1층 회사들의 해자 moat 이라고 볼수있을것 같습니다. 그래서 결국 클라우드 회사들이 이를 이끌어나가게 될 것이고 결국 마소(openAI), 아마존, 구글이 주류가 되지 않을까 합니다.
그래서 구글 vs OpenAI 승자가 누구냐고
저는 구글과 OpenAI 둘 다 (그리고 다른 회사들도) 승리할수 있는, 클라우드 시장과 비슷한, Oligopoly 시장이 될 것이라고 기대합니다.
굳이 구글과 OpenAI를 비교하자면 적은 샘플의 각 기업 직원들과 업계의견을 보자면 OpenAI는 애초부터 이런 비지니스를 위해 모인 세계최고의 연구자들이 같은 목표를 위해 뛰고 있고 구글은 어떤 정해진 목표보다는 일단 업계 최고만 모아놓았기때문에 어떤 비지니스적인 목적을 위해 모두 함께 합심해서 나아가기가 비교적 느리고 힘들어보인다는 평들이 많았습니다.
그것이 구글이 바드의 런칭이 OpenAI의 ChatGPT보다 늦은 이유라고 분석하고 있는것 같고 많은 분들이 구글에 실망한 바드의 데모중 실수는 ChatGPT에서도 너무나도 당연히 일어날수있는, 모든 LLM모델의 근본적인 한계이기때문에 저는 큰 문제라거나 큰 성능의 차이를 보여준다고 생각하지 않습니다.
빅테크는 정말 이대로 영원할까
생각해보면 되게 씁쓸한게 클하에서도 이야기했지만 1990년대 대장주가 복사기 만드는 제록스였다는걸 생각해보면 이번 빅테크들도 뭔가 자연스러운 세대교체를 기대했는데 미래의 기반이자 각각 국가들의 주요 안보 전략자원이될 인공지능도 결국 현재 빅테크의 영향력에서 벗어나지 못하는구나라는 생각이 듭니다.
개인적으로도 아직까지 한국 티비를 틀면 전부 유재석만 나오는게 맞냐라고 와이프한테 물어봤더니 그건 니가 아재라서 유재석이 나오는 것만 봐서 그런거 아니냐라고 뼈를 맞긴했는데 빅테크도 제가 이 동네에서 매일봐서 그런건지 아니면 세상의 많은 것들이 이전 세대보다 사이클이 길어지는건지 궁금하네요.
아무튼 앞으로 한동안은 인공지능이야기를 많이할테니 함께 해주시고 많이 가르쳐주시면 감사드리겠습니다!
언제나 그렇듯 제 글에 부족한 점이나 틀린 점에 대한 피드백은 오픈채팅방이나 댓글로 알려주세요! 그 피드백을 통해 배우기위해 매주 이 글을 쓰는것이니까 모든 피드백을 언제나 환영합니다.
댓글 1개
의견을 남겨주세요
스카일라
다음 글이 벌써 너무나 기대되면서, 동시에 역시 똑똑한 사람 곁엔 더 현명한 배우자가 있다는 걸 증명한 뉴스레터군요. 아재님들 화이팅 👍
의견을 남겨주세요