🛑Fable 5, 사흘 만에 멈추고 18일 만에 돌아오다!

구독자님 안녕하세요!

혹시 AI가 하루아침에 사라질 수도 있다는 상상 해보신 적 있으신가요? AI가 업무 곳곳에서 공공연하게 쓰이고있는 지금 상상만 해도 아찔한 이야기죠. 그런데 몇개월 전 실제로 벌어진 일이에요!

Anthropic이 야심 차게 선보인 최상위 AI 모델 Fable 5가 출시 사흘 만에 미국 정부의 명령 한 통으로 전 세계 접속이 끊겨버렸거든요.⛔️ 더 놀라운 건 이 사건이 AI 모델이 수출통제 대상이 된 최초의 사례라는 점이에요. 특정 국가의 무기 수출을 막듯 AI 모델 하나의 접근권을 국가가 직접 통제한 거죠.

이번 뉴스레터에서는 Fable 5가 왜 갑자기 멈췄는지, 그 이면에 있었던 안전장치 우회 사건은 무엇이었는지 그리고 18일 만에 서비스가 재개되기까지 Anthropic과 미국 정부가 어떤 협상을 했는지 차례로 살펴보도록 하겠습니다!🚀

⏱️출시부터 중단까지, 사흘

출처: Letem světem Applem

Anthropic은 2026년 6월 9일, 자사 최상위 모델 라인업인 Fable 5와 Mythos 5를 공개했어요. 두 모델은 동일한 베이스 모델을 공유하는 사실상 같은 모델이지만 사이버보안·생물·화학·보건처럼 오용될 경우 위험도가 큰 영역에서 안전장치를 얼마나 촘촘하게 적용했느냐에 따라 이름이 갈렸어요.

Fable 5는 이런 고위험 영역에서 위험도 높은 요청이 들어오면 답변을 자동으로 한 단계 아래 모델인 Opus 4.8 수준으로 대체하는 강력한 보호 장치를 탑재한 모델이에요.🛡️ 이 장치 덕분에 일반 사용자에게도 공개될 수 있었죠. 반면 Mythos 5는 이 제한을 해제한 모델로 방어적 사이버보안 목적의 소수 검증 파트너 Project Glasswing 소속 기관들에게만 제한적으로 제공됐어요.

그런데 공개 사흘 만인 6월 12일, 미국 상무부가 두 모델에 수출통제를 적용했어요. 명령의 핵심은 "외국 국적자의 접근을 막으라"는 것이었는데, 문제는 이 조치가 즉시 발효됐고 Anthropic에게는 실시간으로 이용자 국적을 확인할 방법이 없었다는 점이에요.🚨 결국 Anthropic은 미국인 이용자까지 포함해 전 세계 모든 사용자에 대해 두 모델의 서비스를 전면 중단했어요. 국가 단위 규제가 특정 AI 모델의 접근 자체를 막은 최초의 사례로 기록됐죠.

📄발단: 아마존 연구진의 보고서

이번 조치의 계기는 아마존 연구진이 작성한 사이버보안 보고서였어요. 특정 방식으로 프롬프트를 설계하게되면 Fable 5가 원래 안전장치에 의해 제한되어야할 취약점 분석을 수행해냈고, 한 사례에서는 해당 취약점을 실제로 공격하는 코드까지 생성했다는 내용이었죠.🔍

여러 외신 보도에 따르면 해당 사안은 아마존 CEO 앤디 재시가 직접 미 재무부 장관에게 전달하면서 정부에 곧바로 보고됐다고 알려졌어요. 그리고 상무부 러트닉 장관 명의의 수출통제 지시서는 보고가 올라간 지 얼마 지나지 않아 6월 12일 금요일 저녁에 곧바로 발송됐다고 해요. 하나의 사이버보안 보고서가 단 며칠 만에 국가안보 조치로 이어진 셈이에요.⚡

Anthropic은 이후 약 2주간 정부, 아마존을 비롯한 관련 기관들과 함께 보고 내용과 증거를 함께 검토했다고 밝혔어요. 다만 Anthropic 의 판단은 정부와 달랐어요. 자체 조사 결과를 근거로 "이번에 드러난 건 이미 알려진 사소한 취약점 몇 가지였고, 다른 공개 모델에서도 똑같이 재현 가능한 수준"이라며 조치가 과도하다는 입장을 밝혔거든요. Anthropic은 이번 사례를 "안전장치가 판단을 애매하게 내리는 경계선상의 사례"였다고도 설명했는데 쉽게 말하면 "실제로 얼마나 위험했는지는 이 시점까지도 명확히 결론이 나지 않은 상태였다"는 뜻이에요. 같은 사건을 두고 정부와 Anthropic의 위험 평가가 엇갈렸던 셈이죠.

💬Anthropic의 반박: 그 정도로 고유한 위험은 아니었다

여기서 흥미로운 점은 Anthropic이 자체적으로 검증한 결과 Opus 4.8·GPT-5.5·Kimi K2.7 등 Fable 5보다 낮은 등급의 모델들도 동일한 취약점을 식별할 수 있었다는 점이었어요.🧐 더 나아가 문제가 됐던 단일 취약점 공격 시연은 Haiku 4.5, Sonnet 4.6, Opus 4.6/4.7/4.8, GPT-5.4/5.5, Kimi K2.7 등 테스트한 거의 모든 모델에서 동일하게 재현됐다고 해요. 즉, 이번에 문제가 된 능력 자체는 Fable 5만의 고유한 사이버 위협이 아니라 여러 모델이 이미 갖고 있던 수준의 능력이었다는 거예요.

출처: Anthropic

그럼 애초에 왜 이 요청이 막혔어야 했을까요? Anthropic 측에서는 "Fable 5의 안전 분류기는 확실히 위험한 요청만 막는 게 아니라 애매하게 위험할 가능성이 있는 요청까지 보수적으로 차단하도록 설계"했다는 입장이에요. 이는 safety margin이라고 불리는 개념으로, 오탐을 어느 정도 감수하더라도 진짜 위험한 요청을 놓치지 않는 쪽을 택한 거죠. 이번에 아마존이 뚫은 지점은 바로 이 여유 있게 차단해둔 영역이었지 정말 위험한 능력(uniquely dangerous behaviors)을 막기 위한 부분이 뚫린 건 아니었다는 게 Anthropic의 주장이에요.🚧

다만 정부는 이 설명을 그대로 받아들이지는 않았어요. Anthropic의 반박에도 불구하고 통제는 유지됐고 해제로 이어진 건 이 반박이 아닌 뒤이은 기술적 조치였어요.

🔧재개까지의 과정

Anthropic은 정부와 협력해 이번에 보고된 우회 기법을 정확히 겨냥한 새 안전 분류기를 훈련시켰고 99% 이상의 확률로 해당 기법을 차단하도록 개선했다고 밝혔지만, 이 개선에는 대가도 따랐어요.

원래 Fable 5는 출시 때부터 safety margin를 역대 어느 모델보다 크게 잡아둔 상태였는데요. 그래서 취약점 탐색뿐 아니라 평범한 유지보수 작업이나 디버깅 요청도 사이버 공격 패턴과 유사하다고 판단되면 분류기가 이를 차단하고 Opus 4.8로 자동 대체되곤 했어요.🔒 여기에 이번 사건으로 탐지 민감도가 더 높은 분류기까지 추가되면서 정상 요청의 오탐률이 한층 높아지고 작업 도중 하위 모델로 전환되면서 결과물의 품질이 흔들릴 수 있다는 지적이 나오는거죠.

방어를 촘촘히 하려는 방향 자체는 타당하지만 상위 모델에 대한 접근 권한을 얻어도 정작 요청이 해당 모델까지 도달하지 못한다면 실질적 효용이 반감된다는 게 이용자들의 불만인 셈이에요. 미 상무부 산하 CAISI 연구진은 이런 트레이드오프를 인지하고도 기존·신규 안전장치 모두 "우회 저항성이 매우 높은 수준(extraordinarily strong)"이라고 평가했으며, 이 평가가 정부 입장에서 통제를 풀어도 된다는 근거가 됐어요.

그 결과 6월 30일 하워드 러트닉 미 상무장관이 직접 수출통제 해제를 알렸고 서비스는 다음 날인 7월 1일부터 순차적으로 재개됐어요. 6월 12일 중단부터 6월 30일 해제까지 약 18일간 통제가 유지된 셈이에요. 재개는 Claude Platform, Claude.ai, Claude Code, Claude Cowork를 시작으로 이뤄졌고, AWS·Google Cloud·Microsoft Foundry 등 클라우드 파트너사 쪽 접근은 "가능한 한 빠르게" 순차 복원하겠다고 밝혔어요. Mythos 5 역시 6월 26일 정부 승인을 받은 일부 미국 기관부터 재개됐고 Glasswing 프로그램 소속 파트너들로 접근 범위를 계속 넓혀갈 계획이라고 밝혔어요.🌍

👣이번 사태가 남긴 것: 업계 공통 기준과 정부 협력 강화

이번 사건에서 Anthropic이 던진 문제의식은 다음과 같아요

지금까지는 새로운 탈옥 기법이 발견될 때마다 각 기업이 각자 기준으로 심각성을 판단해왔는데 그러다 보니 정부 입장에서도 “이번 건 진짜 위험한 건지, 아니면 또 과잉 대응인지" 판단할 근거가 부족했던 거죠. 실제로 이번 Fable 5 사태 자체가 그 공백을 보여준 사례이기도 하고요. 🕳️

그래서 Anthropic은 아마존·마이크로소프트·구글 등 Glasswing 파트너들과 함께 탈옥 심각도를 평가하는 공통 프레임워크를 만들겠다고 발표했어요. 평가 기준은 네 가지예요.

1️⃣ 기존 도구 대비 얼마나 큰 능력을 얻는지(capability gain)

2️⃣ 그 능력이 얼마나 넓은 범위에 적용되는지(breadth)

3️⃣ 공격으로 전환하기 얼마나 쉬운지(ease of weaponization)

4️⃣ 그 기법이 얼마나 널리 알려져 있는지(discoverability)

이 기준을 바탕으로 가장 심각한 등급에 해당하는 탈옥이 발견되면 확인 즉시 임시 대응책부터 배포하고 24시간 모니터링 체계를 가동하겠다는 구체적인 대응 방침도 함께 내놨어요. 다만 Anthropic도 이 프레임워크가 아직 완성형이 아니라 계속 다듬어가는 중이라고 밝힌 만큼, 실제로 업계 표준으로 자리 잡을지는 좀 더 지켜봐야 할 것 같아요.🔍

💭 우리에게 남은 질문

이번 사태는 단순한 서비스 장애를 넘어 AI 모델도 국가안보 자산으로 취급될 수 있다는 걸 실제로 보여준 사례예요. 정부 명령 한 통으로 특정 AI 서비스 전체가 하룻밤 사이 사라질 수 있다는 사실은 실제 업무 환경에서 특정 AI 모델 하나에 의존하는 것의 리스크를 다시 생각하게 만들었어요.

OpenAI의 Astra 모델까지 공개된 지금, AI의 성능이 빠르게 높아지는 만큼 이제는 얼마나 뛰어난가뿐 아니라 얼마나 안정적으로 사용할 수 있는가 그리고 갑작스러운 접근 제한에 어떻게 대비할지도 함께 생각해봐야 할 것 같아요.🤔

여러분이라면 하룻밤 사이 접속이 끊길 수도 있는 AI 서비스에 어느정도의 핵심 업무를 맡기고 싶으신가요? 그리고 이런 리스크를 줄이려면 어떤 대비가 필요할까요? 댓글로 의견을 남겨주세요!🐣 

구독자님, 오늘 뉴스레터는 어떠셨나요?

해킹/보안 관련 콘텐츠를 계속 받아보고 싶으시다면 구독 부탁드려요! 🙌

구독자님, 오늘 뉴스레터는 어떠셨나요?
해킹/보안 관련 콘텐츠를 계속 받아보고 싶으시다면 구독 부탁드려요! 🙌