Y Combinator 파트너들이 말하는 Vertical AI의 시대

Y Combinator 파트너들이 정기적으로 진행하는 유튜브 채널에서 2024년 11월 23일 공개된 에피소드 내용을 리뷰해봤습니다.

SaaS (Software-as-a-Service) 혁명

엔터프라이즈 소프트웨어의 진화는 혁신적인 기술 변화로 특징지어집니다. XML HTTP 요청이 웹 애플리케이션이 데스크탑 소프트웨어와 경쟁할 수 있게 함으로써 SaaS 혁명을 일으켰던 것처럼, 대규모 언어 모델(LLM)에서도 비슷한 패러다임의 변화를 목격하고 있습니다.

SaaS 성공 패턴

SaaS 시대에는 세 가지 뚜렷한 패턴이 등장했습니다:

1. 대중 소비자 제품

2. 예상치 못한 소비자 혁신

3. B2B 버티컬 솔루션

버티컬 AI 에이전트의 기회

버티컬 AI 에이전트의 주요 이점

1. 비용 효율성

2. 전문화된 솔루션

초기 성공 사례

1. 소프트웨어 품질 테스트

2. 고객 지원

3. 음성 애플리케이션

미래 시사점

이러한 변화는 다음과 같이 시사합니다:

결론

버티컬 AI 에이전트 시장은 엔터프라이즈 소프트웨어의 근본적인 변화를 의미하며, 잠재적으로 SaaS 혁명보다 더 큰 가치를 창출할 수 있습니다. 성공 여부는 심층적인 도메인 전문성, 전략적 포지셔닝, 소프트웨어와 인적 역량을 하나의 제품에 결합한 전문 솔루션을 제공할 수 있는 능력에 달려 있습니다.

여기서 버티컬이라는 용어에 대해서 좀 더 살펴보자면, 우리말로는 전문 또는 전문가로 번역하는 게 가장 적절해 보입니다. GPT나 Claude 같은 모델들은 범용 모델로 볼 수 있겠고요. 최근 Nvidia로부터 투자를 받아 화제가 된 SoundHound와 같이 음성처리 전문 모델을 만드는 곳이나, Cursor와 같이 코드 생성 전문 모델을 만드는 곳, 법률 서비스 전문 모델을 만드는 Thomson Reuters 같은 곳이 바로 Vertial AI 기업이라고 할 수 있겠습니다.

음성기술과 같은 특정 기술을 전문으로 할 수도 있고, 법률, 금융, 세무, 회계, 인사관리, 의료 등과 같이 특정 직업군을 전문으로 할 수도 있습니다.

사실 이런 움직임은 올해 내내 관찰되던 것이었죠. 이미 많은 엔터프라이즈들에서 GPT나 Claude를 프로토타입만들때만 사용하고, 실제 상용서비스를 오픈할 때에는 자체 버티컬 모델을 만드는 케이스가 많이 목격되었습니다.

아무래도 점점 더 데이터의 중요도가 높아지다보니, 데이터를 아예 회사 밖으로 못나가게 하는 정책때문인 것도 있고, 모델을 학습하는 난이도가 파인튜닝 기법과 오픈소스 모델 그리고 쉽게 접근할 수 있는 튜토리얼 및 샘플 코드 덕분에 많이 낮아진 것도 컸습니다.

가령 지금이라도 GPT-2 수준의 모델을 처음부터 학습하겠다고 하면 안드레이 카파시의 4시간 짜리 영상을 보고 따라하면 됩니다. (물론 4시간 가지고는 쉽지는 않은 것 같긴 합니다.)

일론 머스크의 말처럼 배우고자는 의지만 있다면 무료로 배울 기회는 얼마든지 있는 시대입니다. 논문이나 예제 코드, 강의들이 무료로 접근가능한 시대라서 전세계에서 많은 사람들이 정말 무서운 속도로 학습하고 그 성과를 공유하고 있습니다. 인간의 학습 능력이라는 것에 한계라는 게 있는 걸까하는 생각이 들 정도로, 사람들의 학습 속도는 점점 빨라지고 있습니다.

이런 무한 속도 경쟁 속에서 이제부터 펼쳐지는 Vertical AI 시장의 승자가 누가 될지, 그리고 나는 이 시장에서 어떻게 자리를 잡아야 할지 이 영상이 한번 생각해보는 계기가 되면 좋겠습니다.