안드레이 카파시가 말하는 AI 시대의 소프트웨어

전 테슬라 AI 디렉터이자 오픈AI 창립 멤버인 안드레이 카파시가 2025년 6월 19일 Y Combinator가 설립한 AI Startup School 창립행사에서 진행한 기조연설 내용을 리뷰해봤습니다.

카파시는 AI 분야의 권위자로, 스탠포드 대학교에서 Fei-Fei Li 교수의 지도하에 컴퓨터 비전과 자연어 처리 분야로 박사학위를 취득했으며, 2015년부터 2017년까지 OpenAI의 연구 과학자로 활동했고, 2017년부터 2022년까지 테슬라의 AI 디렉터로 자율주행 기술 개발을 이끌었습니다.

소프트웨어의 근본적 변화: 70년 만의 패러다임 전환

카파시는 현재를 소프트웨어 개발 역사상 매우 독특하고 흥미로운 시점이라고 진단합니다. 지난 70년간 근본적으로 변화하지 않았던 소프트웨어가 최근 몇 년 사이 두 차례에 걸쳐 급격한 변화를 겪고 있다는 것이죠. 이는 기존 개발자에게는 큰 위기일 수도 있으나 산업에 진입하는 신규 개발자들에게 전례 없는 기회를 제공합니다.

세 가지 소프트웨어 패러다임의 탄생

소프트웨어 1.0: 전통적 프로그래밍

기존의 소프트웨어 1.0은 개발자가 컴퓨터를 위해 직접 작성하는 코드를 의미합니다. 이는 명시적 알고리즘과 논리를 통해 작동하는 전통적인 프로그래밍 방식입니다.

소프트웨어 2.0: 신경망의 등장

소프트웨어 2.0은 안드레이 카파시가 도입한 개념으로, 기계학습 알고리즘과 신경망을 사용하여 데이터로부터 학습하고 시간이 지남에 따라 개선되는 자율 시스템을 구축하는 새로운 패러다임입니다. 개발자는 코드를 직접 작성하는 대신 데이터셋을 큐레이션하고 최적화 프로세스를 통해 신경망의 매개변수를 생성합니다.

소프트웨어 3.0: 자연어 프로그래밍

가장 혁신적인 변화는 대형 언어 모델(LLM)의 등장으로 인한 소프트웨어 3.0입니다. 이제 프롬프트가 LLM을 프로그래밍하는 프로그램이 되었으며, 놀랍게도 이러한 프롬프트는 영어로 작성됩니다. 이는 프로그래밍을 모든 사람이 접근할 수 있는 영역으로 확장시켰습니다.

2023년 1월 25일에 올린 카파시의 트윗 - "영어가 새로운 프로그래밍 언어입니다"

테슬라에서의 실제 적용 사례

카파시는 테슬라에서의 경험을 통해 소프트웨어 2.0이 기존 소프트웨어 스택을 "잠식"하는 과정을 목격했습니다. 오토파일럿 시스템에서 기존 C++ 코드로 구현되었던 기능들이 점차 신경망으로 대체되었으며, 이는 소프트웨어 2.0 스택이 기존 소프트웨어 스택을 말 그대로 "먹어치우는" 현상을 보여줍니다.

LLM: 새로운 운영체제의 등장

유틸리티로서의 LLM

앤드류 응(Andrew Ng)이 "AI는 새로운 전기"라고 말했듯이, LLM은 유틸리티/인프라의 특성을 가지고 있습니다. OpenAI, Gemini, Anthropic 등의 LLM 랩들은 LLM을 훈련시키기 위해 자본을 투자하고(전력망 구축과 유사), API를 통해 지능을 서비스로 제공합니다(토큰당 요금제).

운영체제로서의 LLM

카파시는 LLM을 새로운 운영체제로 비유합니다. LLM이 CPU 역할을 하고, 컨텍스트 윈도우가 메모리 역할을 하며, 문제 해결을 위해 메모리와 컴퓨팅을 조정합니다. 이는 Windows, Mac OS 같은 폐쇄형 제공업체와 Linux 같은 오픈소스 대안이 존재하는 기존 운영체제 생태계와 유사한 패턴을 보입니다.

LLM의 심리학: 인간적 특성과 한계

초인적 능력과 인지적 결함

LLM은 백과사전적 지식과 기억력을 가지고 있어 어떤 개인보다도 더 많은 것을 기억할 수 있습니다. 영화 '레인맨'의 더스틴 호프만 같은 캐릭터를 연상시킵니다. 하지만 동시에 환각 현상, 불완전한 자기 인식, 들쭉날쭉한 지능(9.11이 9.9보다 크다고 주장하거나 딸기에 'r'이 두 개 있다고 하는 등) 같은 인지적 결함도 보입니다.

기억 상실 문제

영화 '메멘토'나 '50번째 첫 키스'의 주인공처럼, LLM은 매번 새로운 대화마다 기억이 초기화됩니다. 이는 조직에서 일하거나 관계를 유지하는 데 심각한 문제가 될 수 있습니다.

부분 자율성 애플리케이션의 기회

Cursor: 코딩에서의 부분 자율성

카파시는 Cursor를 부분 자율성 앱의 좋은 예로 제시한다. Cursor는 다음과 같은 특징을 가집니다:

인간-AI 협력의 원칙

효과적인 협력을 위해서는:

바이브코딩: 모든 사람이 프로그래머가 되는 시대

바이브코딩(Vibe Coding)은 카파시가 만든 용어로, 자연어를 사용한 프로그래밍을 의미합니다. 이제 5-10년간 공부해야 했던 소프트웨어 개발이 자연어로 가능해졌죠. 카파시는 직접 Swift를 몰라도 iOS 앱을 만들고, MenuGen이라는 실제 서비스를 개발한 경험을 공유했습니다.

2025년 2월 3일에 올린 카파시의 트윗, 이 트윗 이후로 바이브 코딩이라는 용어가 유행되기 시작했다

에이전트를 위한 소프트웨어 구축

새로운 정보 소비자의 등장

에이전트는 컴퓨터이지만 인간적인 특성을 가진 "인터넷상의 가상 인간"입니다. 이제 이들을 위해 소프트웨어 인프라를 구축해야 합니다:

LLM 친화적 문서화

유용한 도구들

미래 전망: 아이언맨 슈트 모델

카파시는 아이언맨 슈트를 이상적인 모델로 제시하며 현 단계에서는 화려한 자율 에이전트 데모보다는 부분 자율성 제품에 집중해야 한다고 강조합니다. 자율주행차 개발에 12년이 걸린 것처럼, AI 에이전트도 상당한 시간이 필요할 것이라고 예측합니다.

결론: 새로운 시대의 기회

카파시는 현재를 세 가지 핵심 포인트로 요약합니다:

향후 10년간 자율성 슬라이더를 왼쪽에서 오른쪽으로 움직이는 과정이 매우 흥미로울 것이며, 이는 소프트웨어 개발의 완전히 새로운 장을 열 것입니다.