앤드류 응 교수가 말하는 스타트업 성공의 핵심

오랜만에 다시 앤드류 응 교수의 강연을 리뷰해봤습니다. Y Combinator가 주최한 AI Startup School 2025 행사에 연사로 참석하여 "스타트업 성공의 핵심"이라는 주제로 강의를 진행해주셨습니다.

먼저 행사 개요를 조금 정리해봤습니다.

행사 개요

행사명: YC AI Startup School (YC 사상 첫 번째 AI 스타트업 스쿨)
일정: 2025년 6월 16일-17일 (2일간)
장소: 샌프란시스코
참가자 규모: 2,500명의 AI 분야 최고 학부생, 석사, 박사과정 학생들

행사 특징

100% 무료 컨퍼런스로, 모든 참가자는 직접 선별됨
샌프란시스코가 아닌 지역 참가자들에게는 항공료 최대 $500 지원
컴퓨터 사이언스, AI, 응용수학, 로보틱스 등 고도로 기술적이고 관련성 높은 분야의 학부생, 대학원생, 최근 졸업생들을 대상

Y Combinator 배경

2005년 설립 이래 YC는 Airbnb, Meesho, Zepto, Dropbox, Stripe, Reddit을 포함해 4,500개 이상의 스타트업에 투자했습니다. 2022년에 도입된 YC의 표준 거래는 선정된 각 스타트업에 50만 달러를 투자하는 것입니다

앤드류 응 박사의 현재 타이틀

AI Fund: Managing General Partner (벤처 스튜디오)
DeepLearning.AI: 창립자 겸 리더 (교육 기술 회사)
Landing AI: 창립자 (컴퓨터 비전 소프트웨어 회사)
Coursera: 회장 겸 공동창립자
스탠포드 대학교: 부교수
아마존: 이사회 멤버 (2024년 4월부터)

들어가며: 속도가 모든 것을 결정합니다

AI Fund라는 벤처 스튜디오에서 매월 평균 1개의 스타트업을 구축하고 있는 앤드류 응 박사가 AI 스타트업 성공의 핵심 요소를 공유했습니다. 그는 AI 분야의 세계적인 리더로, DeepLearning.AI 창립자이자 Coursera 공동창립자, 스탠포드 대학교 부교수로 활동하며 쌓은 경험을 바탕으로, 실행 속도가 스타트업 성공 확률을 예측하는 강력한 지표라고 강조했습니다.

1. AI 스택에서 가장 큰 기회는 애플리케이션 레이어에 있습니다

"미디어와 소셜 미디어는 애플리케이션 레이어에 대해 많이 이야기하지 않는 경향이 있습니다. 하지만 스타트업을 구축하려는 여러분에게는 정의상 가장 큰 기회가 그곳에 있어야 합니다."

앤드류 응은 AI 스택을 다음과 같이 구분했습니다:

하위 레이어: 반도체 회사들 (Nvidia, TSMC, 삼성전자)
클라우드: 하이퍼스케일러들 (Amazon, Microsoft, Google)
AI 파운데이션 모델: 대형 AI 회사들 (OpenAI, Anthropic)
애플리케이션 레이어: 실제 수익을 창출하는 영역 (Cursor, Harvey)

새로운 게임 체인저: 에이전틱 오케스트레이션 레이어

최근 1년간 에이전틱 워크플로우라는 새로운 오케스트레이션 레이어가 등장했습니다. 이는 애플리케이션 빌더들이 하위 기술 레이어들에 대한 수많은 호출을 조율할 수 있게 도와줍니다.

2. 에이전틱 AI: 차세대 AI 트렌드의 핵심

"우리가 LLM을 사용하는 방식은 마치 인간이나 AI에게 가서 첫 번째 단어부터 마지막 단어까지 백스페이스를 사용하지 않고 한 번에 에세이를 써달라고 요청하는 것과 같습니다."

에이전틱 워크플로우는 AI 에이전트에게 구조, 목적, 적응성을 제공합니다. 기존의 일회성 프롬프트 방식과 달리, 에이전틱 워크플로우는:

계획 수립: 먼저 에세이 개요 작성
연구 수행: 필요시 웹 검색 및 자료 수집
초안 작성: 첫 번째 초안 완성
검토 및 수정: 초안을 읽고 비판하며 개선

실제 적용 사례

AI Fund에서 진행한 다양한 프로젝트에서 에이전틱 워크플로우는 다음 영역에서 "작동함"과 "작동하지 않음"의 결정적 차이를 만들었습니다:

복잡한 컴플라이언스 문서 처리
의료 진단
복잡한 법률 문서 분석

3. 속도 향상을 위한 핵심 전략

"구체적인 아이디어나 구체적인 제품 아이디어란 엔지니어가 그것을 구축할 수 있을 만큼 충분히 상세하게 명시된 것입니다."

모호한 아이디어의 예:

"AI를 사용해 헬스케어 자산을 최적화하자"
"이메일 개인 생산성을 위해 AI를 사용하자"

구체적인 아이디어의 예:

"병원에서 환자들이 MRI 기계 슬롯을 온라인으로 예약할 수 있는 소프트웨어를 작성해 사용률을 최적화하자"
"Gmail과 통합되는 앱을 구축해 프롬프트를 사용해 전체 이메일을 필터링하는 자동화를 만들자"

주제 전문가의 직감 활용

"오랜 시간 동안 이 문제에 대해 생각한 사람들의 직감은 실제로 신속한 결정을 내리는 데 놀랍도록 좋은 역할을 할 수 있습니다."

4. AI 코딩 지원으로 변화하는 소프트웨어 개발

"프로덕션 품질 코드를 작성할 때는 AI 시스템으로 30~50% 정도 빨라질 수 있습니다. 하지만 빠르고 더러운 프로토타입을 구축하는 측면에서는 50% 빠른 게 아닙니다. 쉽게 10배는 빨라졌고, 아마 10배보다 훨씬 더 빠를 수도 있습니다."

새로운 세대의 AI 코딩 지원 도구

1세대: GitHub Copilot 등의 자동완성 도구
2세대: Cursor, Windsurf 등의 AI 지원 IDE
3세대: Claude Code와 같은 고도로 에이전틱한 코딩 지원 도구

코드의 가치 재정의

"코드를 만들기가 너무 어려웠기 때문에 코드를 정말 가치 있는 산출물로 생각하는 데 익숙했습니다. 하지만 소프트웨어 엔지니어링 비용이 내려가면서 코드는 예전만큼 가치 있는 산출물이 아닙니다."

5. 모든 직무에서 코딩을 배워야 하는 시대

"제가 아마 약간 앞서가고 있을 것입니다. 아마 대부분의 기업들은 아직 거기까지는 아닐 것입니다. 하지만 미래에는 모든 사람이 코딩할 수 있게 하면 많은 사람들이 더 생산적이 될 수 있다고 생각합니다."

앤드류 응의 팀에서는 CFO, 인재 담당자, 리크루터, 프론트 데스크 직원까지 모두 코딩을 할 줄 알며, 이를 통해 각자의 업무 기능에서 더 나은 성과를 내고 있습니다.

예술사 전문가의 미드저니 활용 사례

"제 팀원 중 한 명은 미술사를 알고 있어서, 장르, 팔레트, 예술적 영감을 가지고 미드저니에 프롬프트를 줄 수 있어서 생성하는 이미지에 대해 매우 좋은 제어권을 가졌습니다."

6. 제품 관리가 새로운 병목지점이 되고 있습니다

엔지니어링 속도 향상으로 인한 팀 구조 변화

"3~4년 전 실리콘밸리에는 약간 의심스럽지만 그럼에도 불구하고 경험칙이 있었습니다. PM 1명당 엔지니어 4명 또는 PM 1명당 엔지니어 7명의 비율을 두는 것이었습니다."

엔지니어링이 빨라지면서 제품 관리 작업이 같은 속도로 빨라지지 않아, 이 비율이 변화하고 있습니다. 실제로 한 팀에서는 처음으로 "PM 1명당 엔지니어 0.5명"이라는 제안을 했습니다.

빠른 제품 피드백을 위한 전술들

빠르지만 덜 정확한 방법부터 느리지만 더 정확한 방법까지:

본인이 직접 제품을 보고 직감으로 판단
친구나 팀원에게 피드백 요청
낯선 사람 3~10명에게 피드백 요청
100명의 테스터에게 프로토타입 전송
A/B 테스팅 (가장 느린 방법)

"실리콘밸리에서는 A/B 테스팅을 좋아한다는 걸 압니다. 물론 저도 A/B 테스팅을 많이 합니다. 하지만 많은 사람들이 생각하는 것과는 반대로, A/B 테스팅은 제 메뉴에서 가장 느린 전술 중 하나입니다."

7. AI 이해가 가져다주는 경쟁 우위

신흥 기술로서의 AI

"AI는 신흥 기술이고, AI를 정말 잘하는 방법에 대한 지식이 널리 퍼져있지 않습니다. 그래서 실제로 AI를 이해하는 팀들은 그렇지 않은 팀들보다 우위를 가지고 있습니다."

올바른 기술적 판단의 중요성

"두 가지 가능한 아키텍처 결정이 있다면, 그것은 1비트의 정보입니다. 올바른 답을 모른다면 기껏해야 2배 느려질 뿐이라고 느껴집니다. 하지만 실제로 제가 보는 것은 잘못된 비트를 뒤집으면 2배 느려지는 게 아니라 막다른 골목을 쫓느라 10배 정도 더 오래 걸린다는 것입니다."

8. AI 빌딩 블록의 조합적 성장

지수적으로 증가하는 가능성

"기본적인 흰색 레고 블록 하나를 가지고 있다면, 멋진 것들을 만들 수 있습니다. 아마 프롬프팅 방법을 안다면 하나의 레고 블록을 가진 것입니다. 이것만 가지고도 놀라운 것들을 만들 수 있죠. 하지만 다양한 레고 블록을 갖고 있다면 어떨까요? 훨씬 더 근사한 것들도 만들 수 있겠죠."

현재 사용 가능한 GenAI 빌딩 블록들: