Divided by Zero에 오신 걸 환영합니다. IT테크, 스타트업 그리고 자본시장에 대한 2차적 사고를 공유합니다.
지난 6월 9일, 앤트로픽이 차세대 모델 페이블 5(Fable 5)와 미토스 5(Mythos 5)를 동시에 공개했습니다. 같은 가중치(weights, AI가 학습한 핵심 파라미터)를 공유하는 두 모델이었는데, 페이블은 일반 공개용, 미토스는 미국 정부와 200곳 안팎의 검증된 파트너만 쓸 수 있는 비공개 버전이었죠. 둘의 성능 차이는 "안전 분류기"라는 보호장치가 켜져 있느냐 꺼져 있느냐였습니다.
그런데 사흘 뒤인 6월 12일 금요일 저녁 5시 21분(미 동부시간), 앤트로픽이 미국 상무부로부터 한 통의 명령서를 받았습니다. 두 모델 모두 즉시 외국인 접근을 차단하라는 거였죠. 회사는 외국인 직원조차 분리해 차단할 시스템을 단기간에 짤 수 없다고하면서 13일 토요일에 페이블 5와 미토스 5를 전 세계 모든 사용자에게 통째로 꺼버렸습니다. 미국 정부가 상업용 AI 모델 하나를 사실상 수출 통제 대상으로 지정한 첫 사례거든요.
출시 일주일도 안 된 차세대 모델이 미국 정부 손에 멈춘 셈입니다.
배경부터 짚어두면, 페이블 5는 출시 당시 SWE-bench Pro 코딩 벤치마크에서 80.3%로 직전 1위였던 GPT-5.5(58.6%)를 큰 차이로 제쳤습니다. 스트라이프가 5,000만 줄짜리 루비 코드베이스 마이그레이션을 하루 만에 끝냈다는 사례가 나왔죠.
문제는 같은 모델 안에 공개버전과 내부버전이 따로 있었단 점입니다. 페이블 5는 사이버보안, 생물, 화학 관련 질문, 그리고 모델 능력을 복제하기 위한 정보 추출(distillation)을 시도하면 자동으로 한 단계 낮은 오푸스 4.8 모델로 답을 갈아 끼우는 구조였거든요.
사용자는 자기가 받은 답이 진짜 페이블의 답인지, 막힌 뒤 갈아 끼워진 옛 모델의 답인지 알 길이 없습니다. 회사는 5% 미만의 세션에서만 발생한다고 했지만, 같은 가중치인데도 페이블은 터미널 작업 벤치마크에서 84.3점, 미토스는 88점을 받았습니다. 보호장치 때문에 4점 가까이 떨어진 거죠.
(당장 저만해도 바이오 관련 질문을 하니까 바로 모델이 다운그레이드 됐습니다)
반면 미토스 5는 보호장치가 다 풀린 상태로 프로젝트 글래스윙(Project Glasswing)이라는 비공개 프로그램을 통해서만 제공됩니다. 200개 안팎의 빅테크, 핵심 인프라 사업자, 미 정부만 들어옵니다. 이쪽 회사들은 미토스를 써서 27년간 숨어 있던 오픈BSD 운영체제 버그를 찾아내고, FreeBSD NFS 서버의 17년 묵은 취약점에 대한 원격 코드 실행 코드를 자동으로 짜는 일을 하고 있었습니다. 모질라는 미토스로 파이어폭스 버그 271개를 한꺼번에 잡았고, 클라우드플레어도 2,000개를 잡았습니다.
같은 회사의 같은 가중치인데, 누구한테 풀리느냐에 따라 사이버 무기가 되거나 브레이크 걸린 차가 되는 구조였단 얘기죠.
아마존
이번 정부 개입의 직접 도화선은 아마존이었습니다. 아마존 사이버보안팀이 페이블 5의 탈옥(jailbreak, 안전장치 우회) 방법을 발견했거든요. 보호장치를 우회해 미토스급 사이버 능력을 일반 사용자도 끌어낼 수 있는 경로였습니다. CEO 앤디 재시가 이 사실을 미국 정부 고위 관계자에 직접 전달했고, 상무부가 그날 저녁 명령서를 보냈습니다.
이 사건은 트럼프 행정부가 6월 2일에 사인한 AI 안전 행정명령의 첫 적용 사례기도 합니다. 이 명령은 사이버 능력이 일정 기준을 넘는 프런티어 모델을 정부가 따로 지정해서 일반 공개 30일 전에 정부에 먼저 검사받게 했죠. 표면적으론 강제 인허가가 아닌 자발적 협력 틀이지만, 결과적으로 정부가 먼저 보고, 그다음 인너서클이 보고, 마지막에 일반에 풀리는 순서를 행정명령으로 굳혀놓은 셈입니다. 이번 페이블 차단이 그 순서가 실제로 작동한 첫 사례인거죠.
덧붙여 배경에 깔린 그림이 또 있습니다. 앤트로픽은 지난 5월 국방부로부터 공급망 위협 기업으로 지정됐다가 연방법원이 가처분으로 임시 해제한 분쟁이 막 끝난 직후였거든요. 앤트로픽 CEO 다리오 아모데이가 군사 AI 윤리 기준을 양보할 수 없다면서 정부와 대치하던 와중에 일주일 만에 회사의 최신 모델이 정부 명령으로 꺼지는 그림이 됐습니다.
그럼 빈틈은 누가 가져가나?
이런 규제적 빈자리에 곧장 들어설 수 있는 회사는 뭘까요?
중국 딥시크입니다. 4월 말 공개된 딥시크 V4 프로 모델은 입력 100만 토큰당 0.435달러, 출력은 0.87달러였습니다. 같은 작업을 페이블 5로 돌리면 입력 10달러, 출력 50달러죠. 약 20분의 1 수준입니다. 코딩 성능은 페이블에 못 미치지만, 일반적 작업이라면 굳이 20배 비싼 모델을 쓸 이유가 사라지는 가격이거든요. (물론 성능은 아직 정말 현저히 떨어집니다 지금은. 근데 6개월 후는? 1년 후는?라는 거죠)
기업 결제 데이터 회사 램프(Ramp)의 6월 자료를 보면, 딥시크가 미국 기업이 새로 도입한 소프트웨어 벤더 순위에서 1위에 올라섰습니다. 작년만 해도 중국 모델은 보안상 자기 서버에 따로 깔아 써야 한다는 게 상식이었는데, API 가격이 너무 싸지면서 그 보안 부담을 그냥 감수하고 중국 서버에 데이터를 직접 보내는 회사가 늘어난 거죠. 오픈라우터(OpenRouter) 같은 모델 집계 플랫폼의 5월 통계에서는 딥시크 V4 플래시가 주간 토큰 사용량 1위, 텐센트, 미니맥스, 샤오미가 2~4위를 휩쓸었습니다.
미국 회사들도 같은 방향으로 움직였습니다. 우버는 1년치 AI 예산을 4개월 만에 다 태웠고, 세일즈포스는 앤트로픽에 한 해 3억 달러를 결제할 처지에 놓였죠. 베인앤컴퍼니 조사에선 매출 1억 달러 이상 기업의 44%가 AI 투자에 비해 비용 절감 효과가 전혀 없다고 답했습니다.
이런 상황에서 정부까지 미국산 최상위 모델을 갑자기 꺼버리니, 멀티 모델 라우팅(쉬운 작업은 싼 중국 모델, 어려운 작업만 비싼 미국 모델)이 표준 전략으로 굳어질 수 있는겁니다.
안전?
페이블 사건의 진짜 의미는 AI가 갑자기 위험해졌다는건 아닐겁니다. AI에 누가 접근하는지를 정부가 직접 결정하기 시작했다는 신호탄인거죠. 안전을 명분으로 한 이너서클이 만들어졌고, 일반 기업과 외국 사용자는 그 외부에 남게 됐죠. 미국의 안전 행정명령과 중국의 이중 트랙 정책(국내는 엄격 통제, 해외에는 오픈소스 무료 살포)이 거울처럼 마주 서 있는 양상인겁니다.
저희 입장에선 곤란한 상황이긴합니다. 1월에 발효된 AI 기본법으로는 책임을 외국 빅테크 API를 가져다 쓰는 배포자가 아니라, 자체 모델을 만드는 개발자에게 더 무겁게 지웠습니다.
그러는 사이 미국 최상위 모델 접근은 막혔고, 중국 모델은 데이터 주권 우려 때문에 정부나 금융권엔 못 쓰고, 자체 모델을 키울 자본은 빠듯하죠. 페이블이 갑자기 꺼졌다는 건 국내 기업 입장에서 우리가 의존하던 외국 모델은 언제든 정치적 이유로 사라질 수 있다는 사실이 확인된거구요.
페이블이 다시 켜질지는 아직 모르겠습니다. 다만 앤트로픽이 외국인 직원 분리 시스템을 만드는 데 시간이 좀 걸릴 거고, 그동안 시장의 무게는 빠르게 오픈웨이트 쪽으로 더 기울 겁니다. 그러니 안전을 위해 닫은 문 뒤에서 막힌 사용자들이 더 통제 안 되는 대안으로 갈아탄다는 역설이 어디까지 진행될지가 지금부터의 전환점이 되지 않을까 싶습니다.
의견을 남겨주세요