안녕하세요 구독자님! 주간 실리콘밸리는 경제, 테크, 스타트업, 부동산, 재정적 자유, 비지니스에 관한 정보들을 함께 토론하면서 제가 배워가는 목적으로 평생 무료로 운영되고 있습니다. 그 과정에서 여러분들도 함께 배워나가시면 더 좋을 것 같습니다.
본 커뮤니티의 모든 내용은 대중에게 공개된 정보를 기반으로한 개인적인 의견이며 투자에 대한 조언이 아닌 전반적인 미국의 시장, VC, 스타트업, 기술 트렌드와 그에 대한 개인적인 의견들입니다.
주간실리콘밸리 유튜브 (매일 밤 10시 라이브 및 세션 녹음)
카카오 오픈채팅방 링크모음 (VC, 스타트업, 투자, 실버산업)
정말 오랜만에 인사드립니다. 유튜브세션은 가끔 했었는데 뉴스레터를 쓸만큼 생각을 정리할 시간이 없었네요. 죄송합니다.
일단 핑계를 대자면 제가 4월말에 다니던 직장을 퇴사하였습니다. 많이 배우고 많은 친구들을 만날수있었던 소중하고 감사한 성장 기회였고 이제 또다른 성장과 더 큰 기회를 찾아 떠나기로 했습니다. 그동안 왜 뉴스레터도 안쓰고 이렇게 조용하냐 무슨일 있냐라고 연락주신 분들이 계셨는데 이래저래 너무 정신이 없었습니다. 신경써주신분들 다시 한번 감사드립니다.
올해들어 제 인생을 돌아볼 기회들이 몇번 있었는데 그러다 만약 내 인생이 앞으로 10년밖에 안남았다면 뭘하고 싶을까에 대해 생각해보니 저는 좋은 투자 기회를 발굴할때, 그 회사의 성공을 도와줄때, 그리고 주실밸을 할때, 가장 행복하다는 걸 깨달았습니다.
그리고 실리콘밸리에서 세계 최고의 VC들과 스타트업사이에서 매일같이 부대끼면서 최근 "앞으로 5년이 내 인생에서 가장 중요한 시기일것같다"라는 생각이 자주 들더라구요.
단지 인공지능에 국한된 이야기가 아니라 더 크게 전반적인 시장과 기술의 흐름을 보았을때 우리는 어떤 변곡점에 다가가고 있고 이번 기회를 가까이서 지켜보면서 빠르게 판단하고 과감하게 행동할 수도 있어야겠다는 결론을 내렸습니다.
그래서 저는 제 인생에서 가장 중요할지도 모르는 이번 기회를 잡고 동시에 제가 가장 좋아하는 일들을 하기위해 더 치열하게 도전해보려고 합니다. 분명히 더 힘들고 어려운 길이겠지만 그만큼 더더욱 값진 경험이 될 거라고 생각합니다.
덧붙여 이제 뉴스레터도 더 자주쓰고 유튜브도 본격적으로 시작해보려고 합니다.앞으로는 재미있는 토픽들을 우선 유튜브로 전달해드리고 그중 남기고 싶은 것들을 뉴스레터로 정리해서 보내드릴 예정입니다.
제 다음 직장에 대해 궁금해하시는 분들이 계신데 이 부분은 곧 올라올 유튜브 영상에서 확인하시면 됩니다. 자연스럽게 구독, 좋아요, 알림설정을 하셔야 놓치지 않으시겠죠?ㅎㅎㅎ감사합니다!
이렇게 퇴사 소식만 전하면 재미가 없으실것 같아서 오늘은 짧게나마 애플이야기를 좀 해보려고 합니다.(라고 하고 시작했는데 새벽 3시까지 즐겁게 썼습니다 ㅋㅋㅋ)
애플에 대한 미디어의 태세전환
지난 3월, 4월만 하더라도 애플에 대해서는 부정적인 기사들로 가득했었죠. "인공지능 관련해서 하는게 하나도 없다", "구글이나 OpenAI 모델들을 도입해야할 정도로 뒤떨어져있다", "애플카처럼 인공지능도 망할것이다"등등 애플의 시대가 끝날것이라는 예상들이 많았었죠. 물론 이 모든 부정적인 미디어의 반응들이 지난주 애플이 뛰어난 실적 예상치 및 $110B stock buyback 계획까지 발표하면서 흐름이 정반대로 바뀌어가고 있습니다. 월가에서도 다들 타겟을 상향조정하고 있구요.
애플은 죽지않는다?
개인적으로는 이런 최근 시장의 센티먼트 변화는 최근 있었던 어닝에서 향후성장에 대한 기대 그리고 곧있을 WWDC에서의 인공지능관련 발표에 대한 기대와 같은 약간 단기적인 부분이라는 느낌입니다.
제가 뉴스레터를 쓰지못한 3월, 4월에도 라이브세션에서 여러번 말씀드렸듯이 저는 그런 단기적인 움직임보다는 당장 한동안 어닝에서는 보이지 않겠지만 전체적인 인공지능의 발전 방향과 흐름을 보면 애플이 인공지능 시대에도 계속해서 앞서 나갈수도 있겠다고 생각합니다. 매번 그 이유를 정리해서 뉴스레터로 보내드린다고 말씀만 드리고 못보냈었는데 오늘 늦게나마 나중에 복기를 위해서 정리해두려고 합니다.
사실 오늘 쓸 글의 논리는 제가 지난번에 썼던 Nvidia의 거품이 빠질수있는 이유와도 맞닿아있습니다. 결국 모두 이번 인공지능 사이클에 대한 제 thesis에 맞춰서 앞으로의 트렌드를 분석해본다고 생각해주시면 좋겠습니다.
참고로 지금은 좀 내려왔지만 아래 엔비디아에 대한 우려의 글이 나가고나서 그 주식은 떡상했었습니다 ㅎㅎㅎ 그러니 제 글들은 주가에 대한 예측이 아니라 장기적인 기술이나 시장의 방향성에 대한 개인적인 의견으로만 봐주세요!
그리고 아시다시피 저는 애플과 엔비디아를 포함한 개별주식투자는 전혀 하지않습니다. 주식은 가장 저렴한 인덱스 ETF만 주기적으로 투자합니다. 그마저도 요즘은 미국채가 너무 꿀맛이라 훨씬 더 적게 하는 편이긴 합니다.
소형모델이 승리한다면? On-Device AI 시대가 온다
지난번 엔비디아글에서도 말씀드렸듯이 저는 인공지능 모델이 커지는 것에 비해 그 성능의 증가가 어느정도 정체기에 접어들었다고 생각합니다. 무작정 사이즈를 키운다고 더 좋은 성능이 나오는 시점은 지났을수도 있다는 말이죠.
실제로 최근 출시되는 인공지능 모델들을 보면 사이즈를 키우는 방향보다는 더 작고 효율적인 모델을 개발하는 방향으로 가는 것으로 보입니다. 마소와 메타가 최근 발표한 모델들 모두 사이즈가 작은 모델이었죠. 여기서 흥미로운 부분은 이 작은 모델들이 기존의 큰 모델들과 비슷하거나 더 나은 성능을 보여주고 있다는 부분입니다.
무섭게 따라오는 소형 오픈소스 성능들
최근 메타가 발표한 Llama 3를 LMSYS Chatbot Arena기준으로 성능을 비교해보겠습니다. 참고로 LMSYS Chatbot Arena같은 경우는 실제 유저들이 이상형 월드컵처럼 둘중에 선호하는 인공지능 모델을 고르는 방식으로 순위를 가리는 시스템으로 알고있습니다.
카테고리를 영어로 제한했을때 오픈소스인 Llama 3 (70B)가 몇몇 GPT-4 버전들을 제치고 공동 2위를 차지하고 있고 Llama 3 (8B)도 9위라는 준수한 성적을 보여주고 있습니다.
전체 카테고리로 보더라도 6등이라는 준수한 성적을 보여주고 있고 GPT-4-0314 버전보다 유저들이 선호하는 모습을 보여주고 있습니다.
참고로 GPT-4의 경우 220billion개의 parameter를 가진 모델 8개를 합쳐서 1.7 trillion개의 parameter가 있다고 추정되고 있는데 그 사이즈의 25분의 1정도밖에 되지 않는 메타의 70b 사이즈의 오픈소스 모델이 GPT-4 turbo보다는 떨어지지만 기존 GPT-4와는 이미 비슷한 성능을 보여줄 정도로 따라잡았다는게 놀랍습니다.
마이크로소프트가 얼마전에 발표한 소형모델들인 Phi-3도 한번 보겠습니다. 이 모델들은 아직 chatbot arena에는 안올라와서 마소가 발표한 벤치마크기준으로 보도록 하겠습니다. 가장 작은 Phi-3-mini 3.8b의 경우 GPT-3.5에 가까운 성능을 보여주며 small 7b은 GPT-3.5와 비슷하고 medium 14b의 경우 GPT-3.5보다 훨씬 나은 벤치마크를 보여주고 있습니다.
GPT-3.5의 경우 parameter 개수가 175b개정도로 추정되는데 50분의 1정도의 훨씬 작은 사이즈로 비슷한 혹은 더 뛰어난 성능을 보여주고 있는거죠.
더 큰 모델을 위한 데이터도 부족
인공지능 모델들이 작아지는 트렌드를 보이는 것은 단지 데이터 투입의 ROI가 떨어져서만은 아닙니다. 실제로 우리가 쓰는 인터넷에 존재하는 데이터 양이 제한적인 문제도 존재합니다.
WSJ의 최근 기사에 따르면 몇몇 전문가들은 산업에서 필요한 고급 텍스트데이터가 2년이면 부족하게 될 것이라고 예측했다고 합니다. OpenAI의 GPT-5의 경우 유튜브를 받아적어서 트레이닝 시키고 있다는 소문도 돌고 있고 이는 유튜브의 정책위반이라 구글이 대응을 준비하고 있다고 합니다.
지난주에는 8곳의 미국 신문회사가 OpenAI를 고소하기도 했죠. 결국 합의는 하겠지만 중요한건 모두가 본인들의 데이터의 가치를 알아버렸고 이제 고급 데이터를 저렴하게 구하는 시대는 끝이 나간다는 부분입니다. 따라서 계속해서 모델이 대형화 된다면 관련된 소송과 데이터에 대한 접근을 제한하고 돈을 받는 일은 점점 늘어갈 것이고 초대형 모델을 만드는 회사들의 수익성은 악화될수 밖에 없겠죠.
결론적으로 이처럼 성능을 유지하면서 모델사이즈를 줄여가는것이 요즘 트렌드인 것은 확실하고 그렇게 된다면 앞으로는 온라인 API콜이 아니라 개인 기기에 인공지능 모델이 탑재되는 on-device AI가 곧 오지않을까 생각하고 이는 애플에게는 큰 호재가 아닐까라는 생각이 듭니다.
하나만 덧붙이자면 상황이 이렇다보니 synthetic data를 만들어내서 그걸로 다시 모델을 만드는 방법에 기대가 모아지고 있는데 이건 아직은 좀 더 지켜봐야할 부분인 것 같습니다.
생태계, 생태계, 생태계
제가 메타의 smart sunglasses를 쓰고 있고 너무 만족한다는 리뷰는 여러번 말씀 드렸었는데 그때 항상 했던말이 "이걸 써보니 애플 주식을 사야겠다는 생각이 들었다"라는 말이었습니다. 그 이유는 이게 메타의 스마트안경이다보니 저의 아이폰과 호환이 잘되지 않아서 말도 잘알아듣고 똑똑한 안경인데 할수있는게 너무 적어서 였습니다.
개인적으로는 폰을 두눈으로 보면서 터치로 컨트롤하는 현재의 구식 인터페이스를 넘어서는 바로 다음세대 하드웨어가 곧 나와야한다고 생각하는데 장기적으로는 뉴럴링크처럼 brain implant가 될수도 있겠지만 당장 바로 다음세대는 아마도 스마트안경이 되지 않을까 생각하고 그나마 메타 스마트안경이 그 폼팩터에서는 가장 앞서나가 있다고 생각합니다 (아 지난주에 새로 구입한 테슬라 신형 모델 3 FSD를 이 스마트안경으로 찍어서 곧 보여드리겠습니다 ㅎㅎㅎ)
이런 스마트 안경들이 지금보다 더 가볍고 사용시간이 길어지려면 다른 personal device에서 computation과 같은 workload를 분산해서 도와줘야 할 것 같은데 지금 우리가 가진것들중에서 그 역할을 할 device로는 당연하게도 핸드폰이 가장 유력하지 않나 싶습니다.
그렇게되면 우리는 지금 각자가 속해있는 애플/삼성/구글 생태계를 벗어나기가 더 힘들어 질 것이고 이들중 하드웨어와 소프트웨어를 꽉 쥐고 컨트롤하면서 가장 강력한 생태계를 가지고 있는 애플에게는 더할나위 없는 호재가 될거라고 생각합니다. 솔직히 저만해도 애플 스마트안경나오면 메타 스마트안경을 떠나서 바로 갈아타고 애플 스마트링도 나오면 Oura링을 떠나서 바로 갈아탈 예정입니다 ㅎㅎㅎ
물론 Rabbit R1이나 Humane AI같은 기업들이 이 생태계를 깨부수고 인공지능 시대를 위한 새로운 폼팩터, 하드웨어를 만들려고 노력하고 있고 개인적으로 응원하지만 아직까지는 갈길이 멀어보이는 것도 사실입니다.
아래는 구독자가 1.8천만명이 넘는 유명 테크 리뷰 유튜버인 MKBHD가 해당 프로덕트들을 리뷰한 영상인데 MKBHD의 리뷰가 항상 맞는 건 아니지만 현재까지의 시장의 반응과 비슷한점은 있어보입니다. 이 리뷰영상에 대해서 현지에서도 논란이 많았는데 ("스타트업들 기죽이지마라"등등), 대세는 "리뷰영상은 나쁜제품이 되돌아볼 기회를 주며 제품이 망하는 이유는 그 제품이 나빠서이지 리뷰영상때문이 아니다"라는 여론이 지배적인것 같습니다.
애플의 MLX에 대한 기대?
애플은 본인들의 M series chip들을 위해 새로운 오픈소스 머신러닝 프레임워크인 MLX를 약 반년전인 작년 12월에 발표했습니다. 이는 Nvidia의 CUDA와 같은 역할이라고 보시면 되고, 애플의 반도체들이 가진 장점들을 더 잘 활용하기위해 만든 프레임워크라고 생각하시면 좋을 것 같습니다.
제가 반도체 전문가는 아니라 정확히는 모르겠지만 Trisan Bilot이라는 Université Paris-Saclay 박사과정의 분석에 따르면 물론 아직 갓비디아의 한참 더 GPU가 더 빠르지만 그동안 Nvidia가 투자한 금액과 시간을 생각해볼때 상대적으로 얼마되지않은 apple silicon과 MLX의 성과는 주목할만한 가치가 있다는 평가입니다.
몇몇 부분에서는 애플이 Nvidia에 비슷한 성능을 보여준다는 것 자체도 대단한데 특히 맥북에서는 따로 GPU를 구매하고 세팅하지 않아도 상대적으로 가격도 저렴하고 전기도 덜쓰면서 비교적 큰 인공지능 모델들을 돌릴수있게 되었다는게 이번 MLX 등장의 놀라운점이라고 합니다.
특히 주목할만한 점은 apple silicon은 메모리가 일체화되어있기때문에 Nvidia chip은 탑재된 메모리만 사용할수있으나 애플은 해당 맥컴퓨터 전체의 메모리를 사용할수있다는 점과 CPU와 GPU간의 데이터를 주고받는 과정이 없다는 것이라고 합니다.
결론적으로는 애플이 on-device AI를 하기에 더 효율적인 구조로 진화해가고 있다는 것이고 저는 이 방향성이 초대형모델을 온라인으로 API를 통해 이용하는 것보다 더 주류가 되지 않을까라고 생각합니다.
그래서 어쩌라고?
결국 인공지능 모델은 메타를 비롯한 강력한 빅테크들이 지원하는 오픈소스들을 필두로 성능을 유지하면서 작아지고 저렴해질 것이고 training보다는 inference의 수요가 훨씬 더 많아질 것이며 애플은 이런 트렌드에 맞춰서 다양한 방면으로 잘 준비해나가고 있는만큼 우리는 모바일과 클라우드 시대를 지나 이번 인공지능 사이클에서도 애플을 무시하면 안된다는게 제 생각입니다.
사실 제 thesis에 기반해서 보면 갓비디아를 비롯해 앞으로 늘어날것으로 예상되는 전기수요나 데이터센터같은 경우도 점진적인 성장은 확실히 있을것이고 빅테크들도 많이 투자하고 있지만 시장이 상상하고 가격을 책정하는만큼의 엄청난 기회는 아닐수도 있다고 생각합니다.
당연한 이야기지만 제 주장이 틀릴수도 있고 (그럴 확률이 더 높고 ㅋㅋㅋ) 이 글이 흑역사가 될수도 있지만 그래도 이렇게 기록해둬야 나중에 다시 돌아보면서 배울수있기때문에 정리해봤습니다.
그럼 어딜 투자해야하나?라는 생각이 드는데 저는 그래도 역시 application이라고 생각합니다. 이건 솔직히 저도 정확히 어떤 방향일지 아직 모르겠고 열심히 찾고있는데 앞으로도 계속 제가 실리콘밸리에서 직접 보고 느끼면서 다음 우버를 열심히 찾는 과정을 계속 공유드리도록 하겠습니다.
오늘도 읽어주셔서 감사합니다. 좋은 한주보내세요!
댓글
의견을 남겨주세요