
이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
디오고 알메이다는 자기 회사 모델이 출시 일주일 만에 하루 1조 토큰을 넘긴 주에 이렇게 말했습니다. "감정적으로는 인생 최악이에요. 지금 저는 너덜너덜한 시체예요." 출시 영상 조회수는 3,800만 회를 넘겼고, 디스코드 참여자는 10만 명이 됐는데도요.
요즘 AI 모델 경쟁이라고 하면 누가 더 똑똑한 챗봇을 만드느냐, 누가 벤치마크 1등을 하느냐로 흘러가죠. 그런데 디오고는 정반대 길을 갑니다. 사람과 대화하는 AI가 아니라, 코드가 호출하는 AI를 만들겠다는 거예요. 벤치마크 점수도 공개하지 않고, 거절(refusal) 기능도 넣지 않았습니다.
디오고는 오픈AI에서 인스트럭트GPT(InstructGPT, 사람의 지시를 따르도록 훈련한 GPT 모델) 배포를 밀어붙였던 사람이고, 지금은 타입세이프(TypeSafe)의 공동창업자이자 CEO입니다. 이번에 내놓은 모델 이름이 제브(Jev)예요. AI 엔지니어 팟캐스트 레이턴트 스페이스(Latent Space)에서 진행자 스윅스(swyx)와 나눈 두 시간 넘는 대담을 가져왔습니다.
그가 왜 오픈AI 안에서는 이걸 만들 수 없었는지, 인터뷰 형식으로 자세히 풀어볼게요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
감정은 최악인데 머리는 최고인 한 주
Q. 제브 출시 이후 타임라인이 온통 제브 이야기예요. 요즘 어떠세요?
감정적으로는 최악이고, 머리로는 최고예요. 기술 CEO라서 꺼야 할 불이 너무 많아요. 그런데 몇 년 동안 제가 느낀 AI 업계는 놀이공원 거울의 집 같았거든요. 다들 말이 안 되는 이야기를 하고 있고요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
이번 주만큼은 처음으로 현실과 박자가 맞는 느낌이에요. 사람들이 이제 보는 거죠. AI가 생각보다 훨씬 많은 걸 할 수 있고, AI 기반의 경제 혁명이 다시 테이블에 올라왔다는 걸요. 개발자들이 이걸 알아봐 줘서 정말 신나요.
Q. 아직 모르는 분들을 위해, 제브가 뭔가요?
새로운 종류의 모델이 필요하다고 봤어요. 저희는 이걸 '시스템 원(System One) 모델'이라고 불러요. 사전학습(pre-training)만 한 언어 모델은 인터넷 문장 자동완성용이고, RLHF(사람의 피드백으로 강화학습한 방식) 모델은 사람의 글에 답하는 챗봇용이죠. 저희 모델은 결과를 코드가 바로 받아 쓰도록 만들었어요. 회사 이름이 타입세이프(TypeSafe, 자료형이 어긋나지 않게 보장한다는 프로그래밍 용어)인 이유예요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
제브는 저희의 첫 번째 프로그래머블 모델이고, 달러당 지능(intelligence per dollar)을 최대로 끌어올리는 데 맞췄어요. 이름도 제번스의 역설(Jevons paradox, 효율이 좋아지면 오히려 사용량이 폭증한다는 경제학 개념)에서 따왔고요. 신뢰성, 비용, 보정(calibration), 속도 중 무엇이 가장 중요한지 사람들과 토론하는 걸 좋아하는데, 제브는 그중 달러당 지능의 최전선에 서는 모델입니다.
Q. 출시 후 숫자로 보면 어때요? 가입자 같은 거요.
저희가 넘긴 이정표는 하루 토큰 처리량이에요. 하루 1조 토큰을 넘겼어요. 잠깐 튄 숫자가 아니라 밤에도 계속 돌아가요. 사람이 써 보는 게 아니라 기계가 호출하고 있다는 뜻이죠.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
가입자 수는 저한테 별 의미가 없어요. 가입자 상당수는 개발자가 아닐 거예요. 들어와서 몇 번 질문해 보고 "챗GPT는 어디 있지?" 하고 나가죠. 계산해 본 건 아니지만, 전 세계 사람이 전부 몇 번씩 질문해도 파워 유저 한 명이 돌리는 반복문(for loop) 하나에 비하면 반올림 오차일 거예요. 정작 무서운 건 호출 한도(rate limit)였어요. 가치를 맛본 사람들은 한도를 끝없이 원하거든요.
거절은 타입 에러입니다
Q. 디스코드에서 많이 나온 질문인데요, 제브는 왜 요청을 거절하지 않나요?
안전을 반대하는 게 아니에요. 안전 정렬(safety alignment)이 사용자와 어긋나 있다고 보는 거예요. 사람이 클로드 코드를 쓰다가 "죄송하지만 DNA.py는 읽을 수 없습니다"라는 답을 받으면 짜증 나도 어떻게든 돌아가잖아요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
그런데 그 모델이 소프트웨어 깊숙한 곳에서 의존성으로 돌고 있다고 해 볼게요. 다른 사람은 그 안에 뭐가 있는지도 모르고 쓰고 있어요. 그런데 사용자가 이상한 메시지 하나 넣었다고 소프트웨어가 확률적으로 멈춘다면요? 그건 소프트웨어를 모르는 사람들의 발상이에요. AI를 동료처럼 보는 '말 없는 마차' 시절의 사고방식이죠.
Q. 그래도 AI가 전쟁에 쓰이는 건 회사가 막고 싶을 수 있잖아요.
물론 사람 죽이는 데 쓰이지 않길 바라요. 하지만 그걸 기술 계층에서 하진 않을 거예요. 모델이 이상한 규칙에 과적합될 때마다 지능이 쪼개지거든요. 지금 모델들은 이미 너무 쪼개져 있어요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
저는 AI가 동료보다 데이터베이스에 가까워질 거라고 봐요. 데이터베이스가 자기가 어디에 쓰이는지 검사하진 않잖아요. 챗GPT나 클로드 같은 1차 제품이라면 안전 정렬이 말이 돼요. 부모와 아이가 쓰니까요. 그런데 API에서 그러면 개발자가 그걸 피해서 프로그래밍해야 해요. 그건 사용자에 대한 배신이에요.
Q. 고객이 "이거 배포해도 되나요?" 하고 물어오기도 한다면서요.
네, 슬랙으로요. 그럴 때마다 "형제여, 저희는 API고 당신은 개발자예요. 제가 알 바가 아니에요" 하고 싶어요. 일이 작은 단위로 잘게 나뉘어 있다면 저희가 전체 작업이 뭔지 알 수도 없어야 해요. 그게 소프트웨어 엔지니어에게 최대한의 힘을 주는 경계선이에요.
공개 벤치마크는 믿지 않습니다
Q. 벤치마크 이야기가 나오면 늘 반대하시더라고요.
공개 벤치마크는 극단적으로 반대하고, 대리 지표로 쓰는 비공개 벤치마크는 중간 정도예요. 저희가 파는 건 달러당, 초당 지능이에요. 사람들은 비용과 속도에 집착하는데, 결국 중요한 건 지능이에요. 문제는 지능이 말로 설명하기 어려운 '감'의 영역이라는 거죠.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
공개 벤치마크는 아무리 조심해도 결국 게임이 돼요. 옛날엔 연구소마다 MMLU(대표적인 언어 모델 평가 시험)처럼 생긴 데이터를 모으는 팀이 따로 있었어요. 몇 단계 더 거친 벤치마크 맞추기죠. 결국 믿음은 쌓여 가는 신뢰와 감에서 오고, 최종적으로는 각자 자기 업무 흐름에 넣어서 직접 재 봐야 해요. 저희가 멍청해지고 싶었으면 1년 반 전에 제브를 냈을 거예요.
Q. 그 선택 때문에 투자받기 힘들지 않았어요?
많이 힘들었어요. 작년에 투자받을 때 아무도 저희 말을 안 믿었어요. 투자자들은 벤치마크를 원했고, 저희는 원칙대로 가겠다고 버텼죠. 벤치마크를 맞추는 건 나쁜 행위자에게 상을 주는 구조니까요. 결과적으로는 믿을 수 없을 만큼 잘 풀렸어요.
Q. 벤치마크 대신 늘 말씀하시는 게 '가장 쓴 교훈'이죠.
리처드 서튼(Richard Sutton)의 '쓴 교훈(The Bitter Lesson)'을 제 식으로 한 단계 더 밀어붙인 거예요. 데이터가 연산보다 훨씬 중요하고, 올바른 과제(task)를 정하는 게 가장 어렵고 가장 중요하다.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
언어 모델 역사에서 이런 전환은 두 번쯤 있었어요. RLHF가 과제를 '지시 따르기'로 바꿨죠. 그게 가능하다고 아무도 생각 못 했어요. RLVR(검증 가능한 보상으로 강화학습해 추론 모델을 만든 방식)은 방향을 살짝 튼 정도고요. 그리고 이제 저희의 RLCD가 새로운 과제예요. 목표는 루프 안에 사람이 아니라 프로그램이 있는 AI예요.
Q. 그래서 스스로를 모델 연구소가 아니라 데이터 연구소라고 부르시는군요.
네. 저한테 모델 능력은 곧 데이터예요. 데이터가 얼마나 많은 걸 바꾸는지 사람들은 몰라요. 그래서 데이터 담당자는 무한정 뽑고 있어요. 신입 데이터 담당자 온보딩 강의가 이 팟캐스트보다 길 거예요.
사용자 데이터로 학습하지 않는 이유도 있어요. 실제 데이터는 편향이 심해요. 비슷한 질문이 멱법칙처럼 몰리니까 거기 과적합되거든요. 그리고 저희는 몇 년 뒤 모델이 소프트웨어 스택 깊숙한 곳의 기반 인프라가 되는 미래를 노려요. 기존 언어 모델이 UDP라면 저희 모델은 TCP 같은 거예요. 현재 데이터를 다 가져와도 현재에 과적합될 뿐이죠.
수학 난제는 풀면서 단순 업무는 못 합니다
Q. 강연 때마다 던지시는 질문이 있잖아요.
AI는 어떻게 이렇게 똑똑한데, 가장 기초적인 일조차 자동화하지 못할까요? 수학의 밀레니엄 난제를 푸는 시대인데요. 아주 단순한 반복 업무는 똑똑한 사람이 할 필요도 없고, 만족스러운 일도 아니에요. 그런데도 자동화가 안 되니까 사람이 하고 있죠.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
엄청난 자동화 엔진은 있는데, 경제적으로 가치 있는 일에 꽂을 플러그가 없는 거예요. 저는 이번 출시로 그 길이 열렸다고 봐요. 타입세이프가 통째로 사라져도 사람들이 따라잡는 데 1~2년은 걸리겠지만, 기술의 방향은 이미 바뀌었어요.
Q. 그 플러그가 결국 '신뢰성'인 거죠?
AI가 무언가를 자동화하지 못한다면 그 이유는 대부분 신뢰성 문제예요. 큰 추론 모델들은 아주 똑똑하지만 신뢰성이 부족해요. 자동화할 경제적 동기도 있고 충분히 똑똑해 보이는데, 인턴만큼도 믿을 수가 없어요. 다른 목표에 맞춰 최적화됐거든요.
제 꿈은 모델을 써 보지 않아도 잘 될 거라고 믿을 수 있는 수준이에요. 코딩하다가 지능이 필요한 분기점에서 타입세이프 질의 한 줄을 쓰면 정확하게 분기되는 거죠. 그게 프로그래밍의 몰입 상태예요. 물론 아주 긴 여정이 될 거예요.
Q. 그럼 같은 입력에 늘 같은 출력이 나오나요? 시드 설정이 없던데요.
결정성(determinism)은 틀린 목표라고 봐요. 사람들에게 진짜 필요한 건 견고성(robustness)이에요. 입력이 같으면 출력이 같은 게 아니라, 입력이 비슷하면 출력도 비슷해야 한다는 거예요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
저희는 이렇게 시험해요. 프롬프트에 UUID 같은 의미 없는 값을 끼워 넣어요. 의미상 완전히 같은 질문이니까 답도 비슷해야 하죠. 그런데 언어 모델은 여기서 놀랄 만큼 흔들려요. AI에게 결정을 맡겼다가 사람들이 데는 게 바로 이 지점이에요. 결정성도 만들 수는 있어요. 다만 그만큼 달러당 지능을 내줘야 해요.
Q. 비용 때문에 출시 후에 몰래 모델을 줄이는 건 아니냐는 걱정도 있어요.
배포한 모델은 바꾸지 않아요. 그건 미친 짓이에요. 1차 제품이라면 마음대로 해도 되지만 API는 안 되죠. 다만 새 모델은 사람들 예상보다 훨씬 빨리 낼 거고, 장기 지원(LTS)은 아직 약속하지 않아요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
지금 많이 쓰이는 제브 1.13.0은 임시로 장기 지원할 수도 있어요. 개발자들이 의존성이 깨지는 걸 얼마나 싫어하는지 아니까요. 그런데 버전을 계속 늘리면 서버 자원이 쪼개져요. 그래서 더 나은 방법을 연구하고 있어요.
시스템 메시지는 지저분한 전역 변수입니다
Q. API의 기본 타입이 세 가지던데, 어떻게 이해하면 될까요?
셋 다 프로그래밍의 기본 문법에 대응해요. 선택(choice)은 열거형(enum)에 대한 switch 문이에요. 참·거짓을 확률로 돌려주는 타입은 if 문이고, 이름도 베르누이(Bernoulli) 확률에서 따왔어요. 점수(score)는 정렬하거나 기준값으로 자르는 데 쓰고요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
일부러 기존 타입과 다른 새 개념으로 만들었어요. 점수는 정수(int)가 아니거든요. 기존 도구로 정수나 실수에 억지로 맞추면 꼬여요. 앞으로 타입은 더 늘어날 거고, 전부 프로그래밍의 기본 요소에 대응하게 할 거예요.
Q. 제브에 진지하게 투자하려는 개발자에게 팁을 준다면요?
입력을 문자열 템플릿으로 만들지 마세요. 상태, 지시, 기준을 전부 구조화된 JSON으로 넣을 수 있어요. 템플릿으로 시스템 메시지를 만들고 있다면 옛날 방식으로 생각하는 거예요. 프로그램 안에서 숫자를 굳이 문자열로 바꿔 넘기진 않잖아요. 그건 사람에게 보여 줄 때나 하는 일이죠.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
시스템 메시지는 지저분한 전역 변수예요. 모든 지시를 한곳에 몰아넣고 전부 지켜지길 기도하는 거죠. 차라리 AI를 함수라고 생각하세요. 내가 가진 변수 중 어떤 부분을 이 함수에 넘길지 고르는 거예요. 그리고 질문을 잘게 쪼개서 많이 던지세요. 돈을 벌려고 하는 말이 아니에요.
Q. 그런데 제가 해 보니 잘게 쪼개면 더 느리고 비싸고, 결과도 별로였어요.
맞아요, 그런 일이 생겨요. 번거롭고, 질문마다 같은 내용을 반복하니 비효율적이죠. 그래서 다들 한데 몰아넣어요. 그런데 그렇게 만든 건 믿고 맡기기가 어려워요. 백그라운드에서 조용히 돌아가야 하는 소프트웨어가 될 수 없죠.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
"이 하위 폴더는 읽지 마" 같은 규칙을 큰 시스템 메시지에 넣고, 지켰는지 또 다른 큰 AI로 검사한다고요? 그건 스톡홀름 증후군이에요. 쪼개 두면 호출됐는지 확인할 수 있고, 하나하나 측정할 수 있어요. 긴 상태에 여러 질문을 던질 땐 메시지마다 ID를 붙이세요. 그 상태 비용은 한 번만 내고 ID별로 따로 물을 수 있어요.
Q. 어디까지 쪼개야 할지 예를 들어 주실 수 있어요?
거절을 예로 들어 볼게요. "여기서 거절해야 할까?"라고 한 번에 묻지 마세요. 답이 꽤 괜찮게 나오긴 할 거예요. 그래도 거절해야 하는 상황을 하나하나 독립된 질문으로 나눠 묻는 게 훨씬 나아요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
그러다 "이 이유로는 거절을 안 했네, 내가 이 부분을 정의 안 했구나" 하는 경우를 발견하면, 그게 멋진 일이에요. 그게 소프트웨어 공학이거든요. 질문 하나 추가하고, 기준값을 정하고, 테스트 케이스로 남기면 영원히 해결돼요. 컨텍스트가 길어져 프롬프트 속 지시를 잊어버리는 일도 없고요. 머신러닝 없이 하는 머신러닝이죠.
Q. 모델이 그냥 틀리면요? 기준값 조정 말고는 방법이 없잖아요.
틀려요. 많이 틀릴 거예요. AI가 불완전하다는 건 인정하는 게 실용적이에요. 문제 신고 버튼도 있고 디스코드에서 불평해 주세요. 모델 버전마다 눈에 띄게 좋아지지 않으면 빠른 출시를 멈출 거예요.
사람도 일을 완벽하게 못 해도 기대값이 높으면 많은 일을 하잖아요. 기준값만 잘 잡으면 실수가 있어도 할 수 있는 일은 많을 거예요. 물론 자동 트레이딩처럼 어려운 과제는 아직 전문가에게 맡기라고 말하고 싶어요. VIP 고객이 비꼬는 말투로 쓴 글처럼 모델이 약한 건 사람에게 넘기면 돼요. 신뢰도 추정이 바로 그걸 위한 거예요.
SaaS는 망하지 않고 더 강해집니다
Q. AI가 결국 배경으로 사라져야 한다고 하셨죠.
AI가 늘 주인공인 게 지겨워요. 세상이 조금 더 즐거워지고 AI는 그걸 돕기만 하면 돼요. 강연에서 이렇게 묻곤 해요. 2019년 소프트웨어도 아주 가치 있었죠. 지금은 2026년인데, AI가 이렇게 대단한데도 소프트웨어가 거의 그대로예요. 옆에 채팅창 하나 붙은 것 말고는요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
그 채팅창은 회사가 책임질 결정을 맡기지 못해요. 믿을 수 없으니까요. 저는 '거꾸로 된 SaaS 종말'이 올 거라고 봐요. SaaS가 오히려 AI로 크게 강해질 거예요. 무엇을 자동화해야 가치가 있는지 가장 잘 아는 게 SaaS 회사들이거든요. 저희가 내건 문장 중에 5년 안에 총요소생산성(TFP) 성장률 3%라는 목표도 있어요. 경제 혁명이라면 경제 통계에 나타나야 하니까요.
Q. 시스템 원 문제와 시스템 투 문제는 어떻게 구분하나요? 요즘 다들 뭐든 제브로 해 보던데요.
솔직히 경험적으로 확인할 문제예요. 스케일링 법칙처럼요. 제가 보기에 사전학습된 모델은 근본적으로 시스템 원 사고(빠르고 직관적인 판단)를 하는 존재예요. RLVR은 시스템 투 사고(느리고 단계적인 추론)에서 놀라운 일을 해냈고, 저도 감탄해요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
그런데 추론 모델은 들쭉날쭉해요. 챗GPT 초기엔 "범용인데 수학은 못 한다"고 했는데, 지금은 "이상한 문제는 푸는데 왜 이건 못 하지?"라고 하잖아요. 각자 목표가 달라서 그래요. RLHF의 목표는 사람을 기쁘게 하는 것, RLVR은 벤치마크를 최적화하는 것, 저희 RLCD는 프로그램이 믿고 쓸 수 있게 하는 거예요.
Q. 출시 전 반응은 어땠어요? 다 검증하고 내신 거죠?
반응은 꽤 나빴어요. 팀의 비기술 인력들은 정말 걱정했어요. 진통제가 아니라 비타민을 파는 것 같다고요. 출시 전 매출은 거의 없었어요. 써 본 사람의 절반 이상이 이게 뭔지 이해하지 못했고, 이해한 사람들은 "멋진데 구매 승인을 어떻게 받죠?"라고 물었죠.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
그래서 목표 시장을 개발자로 정했어요. 개발자가 쓰임새를 찾아내면 모두가 뒤따라올 거라고요. 그리고 터졌죠. "이게 우리 문제를 푸는지 모르겠다"던 사람들이 이제는 "GPU를 직접 드리면 한도를 더 주실 수 있냐"고 물어요. 제품 시장 적합성(PMF)이라는 개념 자체를 의심해 보게 되더라고요.
Q. 실제로 어디에 가장 많이 쓰이나요?
출시 한참 전부터 네 갈래로 정리해 뒀어요. 첫째는 '다크 데이터'예요. 기업들이 쌓아만 두고 언어 모델을 돌리기엔 너무 비싸서 손도 못 댄 데이터요. 이게 코딩 에이전트와 함께 가장 큰 돈벌이가 될 거예요. 양이 거기 다 있으니까요.
두 번째는 실시간이에요. 10밀리초를 줄일 때마다 제품이 얼마나 좋아지는지 아는 회사들이요. 세 번째는 모든 언어 모델 호출을 검증하는 관측(observability) 영역이고, 네 번째는 원래 불가능했던 이상하고 재밌는 일을 하는 똑똑한 소프트웨어예요. 음성으로 컴퓨터를 조작하는 쓰임새는 예상 밖이었는데, 정말 멋지더라고요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
Q. 코딩 에이전트에는 어떤 변화가 올까요?
클로드 코드와 코덱스는 모델 하나만 쓰는 세상을 전제로 만들어졌어요. 지금까진 같은 모델의 다른 지능을 고르는 게임이었으니 말이 되죠. 그런데 오픈소스 코딩 에이전트들은 지금 신이 났어요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
코딩 에이전트들은 대체로 비슷한 수준이에요. 반복문 하나로 할 수 있는 게 많지 않으니까요. 그런데 누군가 제브로만 가능한 결정적 쓰임새를 찾으면 모두 그쪽으로 몰릴 거예요. 오픈소스 에이전트들은 금방 따라 할 수 있고요. 단일 모델에 묶인 쪽이 어떻게 대응할지가 정말 흥미로워요.
일주일이면 될 줄 알았는데 몇 년이 걸렸습니다
Q. 오픈AI 시절 이야기를 해 볼까요. 이 문제는 언제부터 고민하셨어요?
챗GPT가 나오기 전부터요. 저는 인스트럭트GPT 배포를 강하게 밀어붙였어요. 초기 버전은 공개하지 않은, 제가 직접 만든 알고리즘으로 학습하기도 했어요. 내놓자마자 당시 언어 모델 시장 점유율 50%를 가져갔죠.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
그때 진지하게 '이게 AGI인가?' 생각했어요. 지시를 넣으면 초인적으로 결과를 내니까요. 그런데 결국 카피라이팅에만 쓰였어요. 지금 말로 하면 웹페이지를 채우는 '슬롭'이죠. 인터넷을 더 나쁜 곳으로 만든 건 아닌가 걱정이 됐어요.
Q. 그래서 무엇이 빠졌다고 결론 내리셨어요?
AI 기반 경제 혁명이 일어난 순간에서 거꾸로 생각해 봤어요. 그때 AI를 호출하는 건 사람일까, 코드일까? 압도적으로 코드일 거예요. 그런데 모든 최적화는 사람 쪽에 몰려 있었죠. 그때 딱 맞아떨어졌어요. 이게 북극성이구나.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
문서를 써서 샘에게 보여 줬더니 "정말 좋다, 가서 해 봐"라고 했어요. 저는 "샘, 저 할 일 있어요" 했죠. 게다가 너무 당연해 보여서 앤트로픽은 이미 하고 있을 거라고 생각했어요. 나중에 지시 따르기 팀이 "우리는 해냈다"고 선언했을 때 이걸 가지고 놀기 시작했어요. 일주일이면 될 줄 알았는데, 몇 년이 걸렸어요.
Q. 회사를 나와 창업하기로 한 계기는요?
가능성이 보이기 시작하자 이 방향에 모든 걸 걸어 보고 싶었어요. AI 겨울이 오는데 제가 할 수 있는 걸 다 하지 않았다면, 개인적으로 책임을 느낄 것 같았어요. 다른 회사들과 이야기하면서 여기서 하는 것과 스타트업 중 뭐가 빠르냐고 물었더니 다들 스타트업이라더군요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
공동창업자 에릭에게 먼저 연락했어요. 사샤는 영입할 생각이 없었어요. 제가 오픈AI 거품 안에 있어서 뭘 놓친 거냐고 물어봤을 뿐이에요. 그런데 사샤가 "나 할래"라고 했어요. "너 지금 스타트업 다니잖아" 했더니 "지금 접는 중이야"라더군요. 2주 만에 투자를 받았고, 사람들이 제 아파트로 들어와 살았어요. 저는 깔끔한 걸 좋아해서 최악이었죠.
Q. 10억 달러를 줘도 사전학습은 안 하겠다고 하셨다던데요.
투자자에게 사적으로 한 말은 대중 앞에서도 할 수 있어야 한다는 게 제 원칙이에요. 그래서 말할게요. 10억 달러(약 1조 4,000억 원)를 줘도 사전학습은 안 해요. 지금도 그렇게 믿어요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
너무 비싸거든요. 엔지니어라면 이미 있는 걸 자르고 붙여서 온갖 걸 할 수 있어요. 여러 모델을 이어 붙이는 게 가장 우아한 방법은 아니지만, 문제는 풀리잖아요.
Q. 프런티어 연구소 안에서 예전의 디오고처럼 답답해하는 연구자에게 조언한다면요?
왜 하려는지에 달렸어요. 솔직히 요즘 생기는 네오랩(neo-lab, 새로 생긴 AI 연구소 스타트업) 대부분은 별로라고 봐요. 방향 없이 실험할 돈을 원하는 경우가 많더라고요. 이미 한 일을 처음부터 다시 하면서 최전선을 옮길 확률은 낮아요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
연구 자체를 즐기고 싶다면 큰 연구소가 가장 좋은 곳이에요. 그런데 올바른 과제를 풀고 싶다면, 꼭 하세요. 지금 AI를 보는 단일한 시각, 엄청나게 들쭉날쭉한 초천재 AI라는 그림을 깨 주세요. 현실과 맞지 않고, 풀 수 있는 문제니까요.
Q. 마지막으로, 디오고는 안 하지만 누군가 꼭 해 줬으면 하는 과제가 있다면요?
재밌는 쪽은 게임이에요. 저는 스타듀 밸리(Stardew Valley) 팬인데, 그렇게 정적인데도 매력적이잖아요. 게임 루프마다 제브를 부르긴 비싸겠지만, 엔피시(NPC)에 간단한 상태 머신만 붙여도 정말 흥미로운 세계를 만들 수 있을 거예요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
제가 정말 파 보고 싶은 건 KV 캐시(모델이 이전 문맥을 저장해 두는 메모리)의 폭정에서 벗어난 코딩 에이전트예요. 지금 코딩 에이전트는 효율을 위해 한 모델에 묶여 문맥을 계속 덧붙여야 해요. 그래서 상태 관리, 추상화, 분해 같은 좋은 소프트웨어 원칙을 못 써요. 서브 에이전트에게 쉬운 일을 못 맡기는 것도 그 상태를 넘겨야 하기 때문이고요.
값싼 지능으로 상태를 똑똑하게 다룰 수 있다면요? 하위 작업 트리에서 필요한 문맥만 찾아 쓰고, 병렬 에이전트가 서로의 상태를 읽고, 누가 먼저 쓸지 똑똑하게 조율하는 거죠. 지금 '지속 학습'이라고 부르는 문제도 사실은 메모리 관리 문제일 수 있어요.
똑똑한 누군가가 시간을 들여 코딩 에이전트 경험을 처음부터 다시 생각해 준다면, 그게 제 꿈이에요.

이미지 출처 : Youtube 'Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO', by Latent Space
원본 영상: Why I couldn't build Jev at OpenAI — Diogo Almeida, TypeSafe Co-founder & CEO
의견을 남겨주세요