앤트로픽 보고서가 지목한 중국 AI 7곳, Claude를 증류하려다 자국 기밀까지 흘렸다

2,300만 건의 우회 요청과 사고 과정 추출 파이프라인, 140쪽 위협 보고서로 본 중국 AI의 추격법

| 조회 98 |
0
|
해설자가 앤트로픽의 보안 보고서 공개 소식으로 영상을 여는 장면.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
해설자가 앤트로픽의 보안 보고서 공개 소식으로 영상을 여는 장면.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

석 달 동안 2,300만 건입니다. 중국 AI 회사 문샷 AI(Moonshot AI, 챗봇 '키미(Kimi)'를 만든 회사)가 싱가포르와 일본에 깔아 둔 가상 계정 5천여 개로 Claude에 보낸 요청 수라고, 앤트로픽(Anthropic)이 보고서에서 지목했어요. 딥시크(DeepSeek)는 지난 7월 단 14일 동안 1,210만 건을 Claude의 최상위 모델 Opus에 보냈다고 하고요.

요즘 "중국 AI가 미국을 거의 따라잡았다"는 말이 자주 들리는데, 앤트로픽이 9월 10일 내놓은 140쪽이 넘는 위협 인텔리전스 보고서는 그 추격의 뒷면을 가리킵니다. 알리바바, 문샷 AI, 딥시크, 지푸 AI, 샤오미, 센스타임, 미니맥스. 중국을 대표하는 AI 기업 일곱 곳이 '불법 증류' 항목에 이름을 올렸어요. 그리고 그 과정에서 중국 군 시설 영상, 공안 시스템 문서, 국유기업 로그인 정보까지 미국 서버로 흘러들어 갔다는 게 보고서의 내용입니다.

이번 글은 중국 문제를 다루는 해설 채널 China Insights가 이 보고서를 20여 분으로 풀어낸 영상을 옮겼습니다. 인터뷰가 아니라 해설 영상이라, 질문에 대한 답은 영상이 설명한 내용이에요. 채널이 중국 공산당에 비판적인 시각을 갖고 있어서, 보고서가 밝힌 사실과 해설자의 해석은 구분해서 적었습니다. 지목된 기업들의 입장은 영상에 나온 만큼만 담았어요.

중국 AI는 어떻게 따라잡았고, 그 대가로 무엇이 새어 나갔을까.

해설자가 유출 경로와 기술적 배경, 중국이 풀기 어려운 딜레마를 차례로 짚겠다고 소개하는 장면.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
해설자가 유출 경로와 기술적 배경, 중국이 풀기 어려운 딜레마를 차례로 짚겠다고 소개하는 장면.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

140쪽 보고서에 중국 AI 7곳의 이름이 올랐습니다

Q. 먼저 어떤 보고서인지부터 알려 주세요.

앤트로픽이 지금까지 낸 같은 종류의 보안 보고서 가운데 가장 규모가 크고 중요한 보고서라고 영상은 소개해요. 분량은 140쪽이 넘고, 단어 수로는 3만 6천 단어가 넘습니다. 다루는 기간은 지난해 12월부터 올해 8월까지예요.

앤트로픽이 140쪽 넘는 위협 인텔리전스 보고서를 공개했다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
앤트로픽이 140쪽 넘는 위협 인텔리전스 보고서를 공개했다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

내용은 일곱 갈래로 나뉩니다. 사이버 공격, 여론 조작(influence operations), 감시, 사기, 생물학적 악용, 재래식 무기 개발, 그리고 '불법 증류(illicit distillation)'예요. 영상이 가장 무게를 두는 건 마지막 항목입니다.

Q. 거기에 중국 회사 일곱 곳이 이름을 올렸다고요.

네, 영상은 이 명단이 테크 업계와 미국 정보당국을 흔들었다고 표현해요. 알리바바, 문샷 AI(키미), 딥시크, 지푸 AI, 샤오미, 센스타임, 미니맥스. 모두 중국의 대표 AI 기업이죠.

보고서가 지목한 중국 기업 일곱 곳의 이름을 부르는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
보고서가 지목한 중국 기업 일곱 곳의 이름을 부르는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

재밌는 건 이 보고서가 기술을 베꼈다는 의혹에서 멈추지 않는다는 점이에요. 해설자는 중국의 국가 기밀이 새어 나간 것도 이 가운데 두 회사가 한 일 때문이라고 짚습니다. 그 연결 고리가 '래퍼(wrapper, 남의 AI를 뒤에 숨기고 자기 서비스처럼 겉포장하는 개발 방식)'예요.

사용자 질문을 몰래 미국으로 보냈다는 의혹

Q. 래퍼 방식이 정확히 어떻게 돌아가는 건가요?

쉽게 풀면 이래요. 중국 본토 사용자가 국산 AI 앱을 열고 질문을 입력합니다. 그런데 뒤에서 회사가 "이 질문은 너무 어렵다" 싶거나, 아니면 그냥 비용을 아끼려고, 아무런 알림 없이 그 질문을 포장해 미국의 Claude로 넘긴다는 거예요.

국산 AI 앱에 들어온 질문이 알림 없이 Claude로 넘어가는 흐름을 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
국산 AI 앱에 들어온 질문이 알림 없이 Claude로 넘어가는 흐름을 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

Claude가 답을 내면 그 답을 그대로 복사해 사용자 화면에 띄웁니다. 사용자는 국산 AI에 물었다고 생각하지만, 입력한 글자 하나하나가 캘리포니아에 있는 앤트로픽 서버로 가는 셈이죠.

해설자는 이걸 식당에 비유해요. 간판은 국산인데 주방 문은 손님에게 닫혀 있습니다. 주문한 사람은 그 요리가 옆 가게에서 넘어온 건지 알 길이 없어요. AI 화면에는 결국 글 한 덩어리만 돌아오니까요.

Q. 규모가 어느 정도였나요?

보고서가 든 숫자는 이렇습니다. 문샷 AI는 올해 5월부터 7월 사이 싱가포르와 일본에 배치한 가상 계정 5천여 개로 국내 사용자 질문 2,300만 건 이상을 묶어 미국으로 보냈다고 지목됐어요.

문샷 AI가 가상 계정 5천여 개로 2,300만 건 넘는 요청을 보냈다는 수치를 전하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
문샷 AI가 가상 계정 5천여 개로 2,300만 건 넘는 요청을 보냈다는 수치를 전하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

딥시크는 지난 7월 14일 동안 프로그래밍과 심층 질문 1,210만 건을 Claude Opus에 보냈다고 하고요. 샤오미도 비슷한 경우로 이름이 나왔습니다. 20일 만에 40만 건이 넘는 사용자 요청이 포장돼 미국으로 향했고, 그중 일부에는 사용자 이름과 연락처, 회사 관련 민감 정보가 그대로 실려 있었다는 거예요.

Q. 알리바바는 명단 맨 앞에 있던데요.

보고서는 알리바바 건을 "역사상 가장 큰 규모의 증류 공격"으로 규정했다고 영상은 전해요. 5월부터 7월까지 가상 계정 5천 개 가까이를 돌려, 가장 많을 때는 하루 300만 건 가까운 요청을 보냈고, 누적으로는 수억 건에 이른다는 겁니다.

알리바바가 가상 계정 5천 개 가까이로 하루 최대 300만 건 가까운 요청을 보냈다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
알리바바가 가상 계정 5천 개 가까이로 하루 최대 300만 건 가까운 요청을 보냈다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

목표도 분명했다고 해요. Claude의 사고 과정을 긁어 알리바바의 큐원(Qwen) 3.5, 3.6, 3.7 모델을 학습시키는 것이었다는 거죠. 보고서는 여기에 더해 알리바바가 Claude로 강화학습 환경(모델이 시행착오로 배우게 하는 연습장)을 만들어 기반 구조 연구에 썼다고도 적었습니다.

요리사의 머리 대신 요리를 맛본다

Q. 보고서 전체를 관통하는 단어가 '증류'라고요. 증류가 뭔가요?

영상은 요리사 비유로 설명해요. Claude Opus 같은 최상위 모델을 일류 요리사라고 해 볼게요. 요리는 정말 맛있는데, 그 요리사의 머리를 훔쳐 올 수는 없잖아요.

최상위 AI 모델을 일류 요리사에 빗대 증류를 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
최상위 AI 모델을 일류 요리사에 빗대 증류를 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

그럼 어떻게 할까요. 매일 그 요리를 주문해 하나하나 맛보고, 뜯어보고, 내 견습생에게 따라 만들게 하는 겁니다. 충분히 맛보면 견습생도 열 가지 중 일고여덟 가지는 비슷하게 만들게 돼요. AI 업계에서는 이걸 증류라고 부릅니다. 강한 모델의 출력으로 약한 모델을 학습시키는 거죠.

Q. 그 자체는 흔한 기술 아닌가요?

맞아요. 영상도 증류 자체는 불법이 아니고, 규정에 맞는 기술 방법이라고 분명히 말해요. 문제는 보고서가 일곱 회사에 붙인 '불법 증류'가 전혀 다른 이야기라는 점입니다.

가상 계정과 프록시망, 도용한 신용카드로 지역 제한을 우회했다는 설명이 나오는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
가상 계정과 프록시망, 도용한 신용카드로 지역 제한을 우회했다는 설명이 나오는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

보고서가 묘사한 방식은 수천 개의 가짜 계정, 프록시 네트워크(접속 위치를 숨기는 중계 서버망), 심지어 도용한 신용카드까지 동원해 지역 제한을 피하고, 산업적인 규모로 상대의 능력을 빼 간다는 거예요. 해설자는 핵심 단어를 두 개로 꼽습니다. '우회'와 '빼 가기'. 이 두 가지가 합법 증류와 불법 증류를 가른다는 거죠.

Q. 그냥 자기들이 질문을 만들어서 물어보면 되지 않나요? 왜 굳이 실제 사용자 질문을 보냈을까요?

실제 사용자의 질문이 가장 값지기 때문이라고 영상은 설명해요. 연구원이 지어낸 질문은 실험실 문제에 가깝습니다. 반면 사용자가 앱에 넣는 건 실제 상황이에요.

실제 사용자는 맥락을 잔뜩 붙여 넣고 중간에 말을 바꾼다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
실제 사용자는 맥락을 잔뜩 붙여 넣고 중간에 말을 바꾼다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

사람들은 두서없이 묻고, 지저분한 맥락을 통째로 붙여 넣고, 중간에 마음을 바꾸고, 버그가 있는 코드 조각을 던지잖아요. 현실에서 쓸모 있는 모델을 만들려면 바로 이런 질문으로 가르쳐야 합니다.

그래서 내 사용자의 질문을 그대로 최강 모델에 넘기고, 그 답을 받아 오는 게 가장 싸고 품질 좋은 증류 경로라는 거예요. 질문은 사용자가 대 주고, 답은 경쟁사가 대 주고, 국산 AI는 가운데 앉아 이용료만 받는 구조. 해설자의 표현을 빌리면 그렇습니다.

Q. 답만 모으는 게 아니었다고요.

답보다 더 값진 게 있어요. '사고 과정(chain of thought, 답을 내기 전 AI가 문제를 쪼개고 순서를 정하는 추론 흐름)'입니다. 강한 모델은 답하기 전에 문제를 어떻게 나눌지, 무엇부터 계산할지, 어디가 함정일지를 속으로 먼저 따져 봐요.

답은 결과이고 사고 과정은 풀이법이라고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
답은 결과이고 사고 과정은 풀이법이라고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

답은 결과이고, 사고 과정은 풀이법이죠. 영상의 말을 옮기면, 답 1만 개를 얻으면 무엇이 정답인지를 배웁니다. 그런데 사고 과정 1만 개를 얻으면 정답에 이르려면 어떻게 생각해야 하는지를 배워요. 해설자는 뒤쪽의 가치가 한 자릿수는 더 높다고 말합니다.

Q. 회사마다 방식이 달랐나요?

보고서에 따르면 문샷 AI는 사고 과정만 따로 뽑아내는 전용 추출 파이프라인을 만들었다고 해요. 지푸 AI는 더 돌아가는 길을 택했다고 합니다.

지푸 AI가 뽑아낸 추론 과정을 다시 Claude에 넣어 정제했다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
지푸 AI가 뽑아낸 추론 과정을 다시 Claude에 넣어 정제했다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

지푸는 이렇게 얻은 추론 과정을 다시 Claude에 넣어 한 번 더 다듬게 한 뒤, 그걸로 자기 모델을 학습시켰다는 거예요. 6월 중 단 열흘 동안 이 작업을 77만 600번 넘게 돌렸다고 보고서는 적었습니다.

Q. 결국 왜 이런 지름길이 필요했던 건가요?

영상은 원인을 반도체 봉쇄에서 찾아요. 미국의 칩 수출 통제가 조여 올수록 중국 AI 기업은 최상위 연산 자원을 구하기 어려워집니다. 정공법으로 처음부터 학습시켜서는 추론이나 사고 과정 면에서 미국 모델을 따라가기 벅차다는 거죠.

미국의 칩 봉쇄 때문에 중국 AI 기업이 최상위 연산 자원을 구하지 못한다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
미국의 칩 봉쇄 때문에 중국 AI 기업이 최상위 연산 자원을 구하지 못한다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

한쪽에서는 중국 AI 기업끼리 경쟁이 치열하고, 다른 한쪽에서는 산업 전체가 미국을 추월하라는 당의 요구에 답해야 해요. 그 사이에서 가장 빠르고 싼 지름길이 미국 최상위 모델의 출력을 증류하는 것이었다는 게 영상의 해석입니다. 국산 AI는 좋은 학습 데이터를 얻고, 사용자는 완벽한 답을 받는 닫힌 고리. 그리고 그 고리 안에서 기밀이 미국 서버로 넘어갔다는 거예요.

군 시설 영상이 캘리포니아 서버에 도착하기까지

Q. 구체적으로 무엇이 새어 나갔나요?

영상이 첫 사례로 꼽는 건 중국 인민해방군(PLA) 시설과 관련된 장면이에요. 청두의 한 사용자가 도시 곳곳에 흩어진 감시 카메라 수백 대의 보관 영상을 묶어 국산 AI 키미에 넣었다고 합니다.

청두의 한 사용자가 감시 카메라 수백 대의 영상을 키미에 넣고 특정 인물을 추적하게 했다는 사례를 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
청두의 한 사용자가 감시 카메라 수백 대의 영상을 키미에 넣고 특정 인물을 추적하게 했다는 사례를 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

그리고 영상 속 특정 인물을 지정해, 모든 녹화본에서 그 사람을 따라가며 행동이 수상한지 묻게 했다는 거예요. 보고서가 특히 짚은 건, 올라간 카메라 영상 일부가 해방군 시설 바깥에서 찍힌 장면이었다는 점입니다. 앤트로픽은 이 사용자가 해방군과 관련 있을 가능성이 매우 높다고 평가했다고 해요.

해설자가 꼬집는 대목은 여기예요. 이 사람은 처음부터 끝까지 국산 AI를 쓴다고 믿었습니다. 군사 민감 구역과 얼굴 추적이 담긴 영상이 태평양을 건너 캘리포니아에 도착해 있을 줄은 몰랐다는 거죠.

Q. 두 번째 사례는요?

딥시크를 거쳐 미국으로 넘어간 데이터 가운데, 한 중국 시 공안국의 사건 관리 시스템 기술 매뉴얼을 쓰던 엔지니어의 요청이 있었다고 해요. 해설자는 여기에 무엇이 담겼을지 떠올려 보라고 합니다.

한 엔지니어가 시 공안국 사건 관리 시스템의 기술 매뉴얼을 작성하고 있었다는 사례를 소개하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
한 엔지니어가 시 공안국 사건 관리 시스템의 기술 매뉴얼을 작성하고 있었다는 사례를 소개하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

데이터 구조, 누가 접근 권한을 갖는지, 어떤 민감 사건이 걸려 있는지, 관련 인물 파일을 어떻게 연결하는지 같은 것들이죠. 보고서는 이 밖에도 일부 회사 직원들이 AI로 사내 문서를 분석했다고 적었고, 해설자는 이걸 빙산의 일각이라고 표현해요.

Q. 국유기업 이야기도 나왔죠.

중국 대형 국유기업의 한 고참 직원이 AI로 사내 코드를 분석하면서 민감한 소스 코드를 대량으로 올렸다는 사례예요. 문제는 그 안에 당시에도 유효한 여러 회사의 로그인 정보가 들어 있었다는 점입니다.

국유기업 직원이 올린 소스 코드에 유효한 로그인 정보가 들어 있었다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
국유기업 직원이 올린 소스 코드에 유효한 로그인 정보가 들어 있었다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

그 정보만 있으면 외부인이 이 국유기업들의 관리자 화면에 바로 로그인할 수 있었다는 뜻이죠. 앞서 말한 샤오미 건에서 사용자 이름과 연락처가 실려 나간 것도 같은 줄기의 이야기예요.

국방 연구자들은 Claude를 직접 썼습니다

Q. 국산 AI를 거친 경우만 있는 건 아니었다고요.

보고서의 '재래식 무기' 장에는 사용자가 중국의 차단을 스스로 우회해 Claude를 직접 쓴 사례들이 나와요. 해설자는 이걸 중국 체제 안의 전문가들조차 이 분야에서는 미국이 더 강하다고 본다는 증거로 해석합니다.

첫 사례는 대만 방공망 공격을 모의하는 알고리즘이에요. 중국 본토의 한 사용자가 Claude로 전자전과 적 방공망 제압(SEAD, 공습 전에 상대 레이더와 방공 미사일을 무력화하는 작전)용 소프트웨어를 만들었다고 합니다. 표적 우선순위를 매기고 레이더 교란을 모의하는 프로그램이었다고 해요.

사용자가 모의 시나리오를 대만의 실제 핵심 군사 표적 12곳으로 바꿨다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
사용자가 모의 시나리오를 대만의 실제 핵심 군사 표적 12곳으로 바꿨다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

모의의 가장 중요한 단계에 이르자, 이 사용자는 시나리오를 대만의 실제 핵심 군사 표적 12곳으로 바꿨다고 보고서는 적었습니다. 조기 경보 레이더, 패트리엇 미사일 기지, 스카이 보우(Sky Bow, 대만의 지대공 미사일) 기지, 공군 기지, 지휘 벙커였어요. 앤트로픽은 네트워크 경로와 계정 속성을 추적해 이 사용자를 해방군 군사과학원 등 중국 연구기관으로 연결했다고 합니다.

Q. 다른 사례는요?

앤트로픽이 중국 방산업체로 지목한 한 사용자는 Claude로 200쪽이 넘는 기술 제안서를 만들었다고 해요. 해방군 해군에 무기 사양과 조달을 제안하는 문서였다고 합니다.

방산업체 사용자가 Claude로 200쪽 넘는 제안서를 만들고 미 해군 기술과 비교하게 했다는 사례를 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
방산업체 사용자가 Claude로 200쪽 넘는 제안서를 만들고 미 해군 기술과 비교하게 했다는 사례를 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

제안서를 다듬으려고 Claude에게 심사위원 역할까지 맡겼다는 게 흥미로운 대목이에요. 미 해군이 쓰는 비슷한 기술과 비교하면서 약점을 계속 짚게 해, 완벽한 입찰 문서로 만들어 갔다는 거죠.

마지막은 고출력 마이크로파 무기에 관한 브리핑입니다. 국방 정보 쪽 배경이 있는 것으로 파악된 중국 본토 사용자가 Claude로 외국의 고출력 마이크로파 무기를 조사했다고 해요. 부품, 공급업체, 공급망을 추적해 역설계와 대응책 개발까지 노렸다는 겁니다. 마지막 단계에서는 중앙군사위원회나 국가안전부 고위직에 올릴 대외비 브리핑 초안을 Claude에게 쓰게 했다고 보고서는 적었어요.

사용자가 Claude에게 고위직용 내부 브리핑 초안을 쓰게 했다는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
사용자가 Claude에게 고위직용 내부 브리핑 초안을 쓰게 했다는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

해설자는 이 대목을 두고, 정부 보조금으로 키운 국산 AI가 그 돈으로 미국 AI의 VIP 구독료를 내는 꼴이라고 비꼽니다. 추월이 아니라 경쟁자의 실적을 올려 주는 부메랑이라는 거예요.

Q. 군사 말고 다른 용도도 있었나요?

보고서에는 해킹, 감시, 사기 사례도 담겼어요. 중국의 대학생 두 명은 Claude로 완전 자동 해킹 파이프라인을 만들었다고 합니다. 소프트웨어 파일을 넣으면 AI가 밤낮없이 취약점을 찾고, 공격 도구를 만들고, 실행까지 하는 구조였다고 해요.

대학생 두 명이 Claude로 자동 해킹 파이프라인을 만들었다는 사례를 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
대학생 두 명이 Claude로 자동 해킹 파이프라인을 만들었다는 사례를 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

겨냥한 대상은 교육, 에너지, 기술, 의료, 금융, 여러 나라 정부기관까지 50곳이 넘었어요. 그런데 실제로 공격을 감행한 곳은 전부 중국 국내 기관이었다는 게 보고서의 아이러니한 대목이에요.

감시 쪽에서는 앤트로픽이 '종교 업무 정보 수집 플랫폼'이라 부른 작전이 나옵니다. 아시아 가톨릭 추기경들, 대만 장로교회 지도부, 티베트 불교 공동체, 파룬궁 수련자, 신당인(NTD) TV의 정보와 위치를 모니터링했다는 거예요. 앤트로픽은 중국 공안과 국가안전 기관과 연결된 계정 세 개도 찾아냈는데, 밴쿠버 민주화 행진의 집결지와 경로, 튀르키예의 위구르 문화 행사장, 오슬로 자유 포럼 상영 장소 같은 해외 모임 정보를 미리 알아내려 했다고 합니다.

국가안전 기관이 밴쿠버 민주화 행진의 경로 등 해외 모임 정보를 요청했다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
국가안전 기관이 밴쿠버 민주화 행진의 경로 등 해외 모임 정보를 요청했다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

사기도 있었어요. 한 중국 앱 개발사는 데이팅 앱 20개 이상을 만들어, 지난 4월 2주 만에 AI 페르소나 4,700개 이상을 넣었다고 합니다. 이 AI들이 실제 사용자 최소 2만 5천 명과 200만 건이 넘는 메시지를 주고받았고, 들키지 않으려고 사람 직원이 영상 통화를 거들며 AI와 사람 비율을 3대 1로 맞췄다는 거예요. 겉으로는 사람과 사람을 잇는 서비스라고 내세웠고요.

보안 규칙은 USB 시대에 멈춰 있습니다

Q. 중국이 이렇게 보안에 민감한데, 왜 막지 못했을까요?

영상은 첫째 원인으로 직원들의 사각지대를 꼽아요. 이 보고서가 나오기 전까지, 당사자들은 규칙을 어긴다는 생각조차 없었다는 거죠.

중국의 오래된 보안 체계는 종이와 USB 시대의 유물이라고 해설자는 말합니다. 기밀 컴퓨터의 인터넷 차단, 파일 복사 제한, USB 등록처럼 물리적 통제에 기대요. 유출이란 곧 무언가가 물리적으로 밖으로 나가는 것이라는 전제죠.

AI에 질문하는 건 파일 복사도 이메일 발송도 USB 연결도 아니라고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
AI에 질문하는 건 파일 복사도 이메일 발송도 USB 연결도 아니라고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

그런데 AI에게 묻는 건 어떤 행동일까요. 파일을 복사하지도, 이메일을 보내지도, USB를 꽂지도 않았어요. 자주적이고 통제 가능하다고 홍보하는 국산 소프트웨어에 글자를 입력했을 뿐입니다. 보안 점검 관점에서는 컴퓨터도 규정대로, 소프트웨어도 깨끗, 행동도 업무용이에요. 해설자는 이 사람이 오히려 "챗GPT는 안 썼으니까" 하며 보안 의식이 높다고 느꼈을 수도 있다고 말합니다.

Q. 보안 부서가 잡아낼 수는 없었나요?

기존 데이터 유출 방지(DLP) 소프트웨어는 AI 앞에서 완전히 무력하다는 게 영상의 설명이에요. 예전 DLP는 누가 해외의 민감한 IP 주소로 파일을 보내는지를 살폈습니다.

방화벽에는 평범한 웹 트래픽으로만 보인다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
방화벽에는 평범한 웹 트래픽으로만 보인다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

지금은 다르죠. 앱은 합법이고, 방화벽에는 평범한 웹 트래픽으로 보이고, 뒤에서 벌어지는 일도 국내 웹 서핑처럼 보여요. 정작 데이터가 바다를 건너는 구간은 사용자 쪽에서 보이지 않는 서비스 회사 뒤편에 있으니까요.

Q. 인터넷을 끊고 자체 서버에 모델을 돌리면 되지 않나요?

기술적으로는 가능하지만 대가가 크다고 영상은 말해요. 제대로 된 사설 배포(private deployment, 모델을 자기 서버에 설치해 외부와 끊고 쓰는 방식)를 하려면 오픈소스 모델을 써야 하니, 최상위 폐쇄형 AI는 포기해야 합니다.

사설 배포에는 오픈소스 모델과 값비싼 GPU, 유지 관리가 필요하다고 설명하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
사설 배포에는 오픈소스 모델과 값비싼 GPU, 유지 관리가 필요하다고 설명하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

값비싼 GPU를 사고, 유지 관리와 튜닝도 직접 해야 하죠. 지방 기관이나 연구소에는 비쌀 뿐 아니라 빠르고 품질 좋은 사용 경험까지 내려놓는 일이에요. 그래서 대부분은 결국 클라우드 API를 부르는 길을 택합니다. 그리고 그 순간부터 데이터가 안전한지는 운에 달린 일이 된다고 해설자는 말해요.

사실 이 대목은 중국만의 이야기가 아닙니다. 사내 코드를 AI에 붙여 넣는 개발자, 고객 정보가 섞인 문서를 요약시키는 1인 창업가에게도 똑같이 적용되거든요. 내가 쓰는 AI 앱이 뒤에서 어느 모델, 어느 서버로 요청을 넘기는지 모른다면, 영상 속 국유기업 직원과 크게 다르지 않은 자리에 서 있는 셈이죠. 로그인 정보가 든 코드를 통째로 붙여 넣지 않는 것, 앱의 이름보다 그 뒤에 어떤 모델이 있는지를 확인하는 것. 모델을 고를 때 성능표만큼 따져 볼 대목입니다.

Q. 해설자는 이 문제를 중국이 풀 수 없다고 보던데요.

해설자 본인의 판단은 "지금 체제에서는 거의 피할 수 없다"예요. 중국이 세 가지를 동시에 원하기 때문이라는 겁니다. 연산 자원, 미국을 따라잡을 AI 자주성, 그리고 절대적인 기밀 유지.

해설자가 중국이 연산 자원, AI 자주성, 절대 기밀을 동시에 원한다고 짚는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
해설자가 중국이 연산 자원, AI 자주성, 절대 기밀을 동시에 원한다고 짚는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

칩이 막혀 있으니 증류라는 지름길을 타야 하고, 따라잡으려면 최강 모델의 출력을 가져와야 하고, 그러려면 가짜 계정으로 차단을 우회해야 해요. 미국 AI 기업 입장에서는 이게 불법 증류죠. 우회에 성공하면 가장 빠르고 효과적인 재료는 매일 쏟아지는 자기 사용자의 실제 질문이고, 그 사용자 중에는 체제 안의 사람도 반드시 섞여 있습니다. 해설자는 이 사슬의 고리 하나하나가 부메랑처럼 결국 자기 등에 꽂힌다고 표현해요.

Q. 지목된 쪽의 반응은 어땠나요? 미국 쪽 대응은요?

영상에 따르면 중국 외교부는 "상황을 알지 못하며, 비방에 반대한다"는 입장을 냈어요. 알리바바, 문샷 AI, 딥시크 같은 기업들은 영상이 만들어진 시점까지, 실제 데이터가 미국으로 전송된 패킷 기록에 대해 아무 말도 하지 않고 있다고 해요.

중국 외교부가 모른다며 비방에 반대한다는 입장을 냈다고 전하는 대목.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
중국 외교부가 모른다며 비방에 반대한다는 입장을 냈다고 전하는 대목.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

미국 쪽 대응으로 영상이 다루는 건 앤트로픽의 보고서 자체입니다. 앤트로픽은 네트워크 경로와 계정 속성을 추적해 사용자를 기관까지 연결했고, 기업 이름과 요청 규모를 공개했어요. 다만 계정 차단이나 제재 같은 후속 조치는 영상에서 다루지 않았습니다.

Q. 마지막으로, 영상은 어떤 질문을 남기나요?

이 보고서가 나온 뒤에도 중국 AI 기업들이 사용자 질문을 미국으로 보내는 일을 멈출까, 하는 질문이에요. 멈춘다면 가장 빠르고 싼 학습 지름길을 스스로 끊는 셈입니다. 해설자 표현으로는 자기 팔을 자르는 일이고, 국내 경쟁에서도 버티기 어려워지죠.

해설자가 중국 AI 기업들이 멈출 수 있을지 시청자에게 묻는 장면.이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights
해설자가 중국 AI 기업들이 멈출 수 있을지 시청자에게 묻는 장면.
이미지 출처 : Youtube 'China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights', by China Insights

그런데 멈추지 못한다면, 중국이 가장 중시하는 보안 체계가 AI 시대에는 통째로 무력해진다는 뜻이 돼요. 해설자는 이것이 언젠가 예상하지 못한 블랙 스완이 될 수 있다고 봅니다.

한 사람은 막을 수 있어도, 모두가 AI를 쓰는 시대에 모두를 막을 수는 없으니까요.


원본 영상: China Tried to Copy Claude. It Ended Up Leaking Its Own Secrets. I China Insights

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

핫비즈니스테크 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

다른 뉴스레터

이웃 뉴스레터 Beta

비슷한 이야기를 하는 다른 뉴스레터의 글이에요.

© 2026 핫비즈니스테크

현재 핫하고 섹시한 비즈니스와 테크 이야기를 보내드립니다

메일리 로고

도움말 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so 채팅으로 문의하기

메일리 사업자 정보

메일리 (대표자: 이한결) | 대표번호: 070-8027-1409 | 사업자번호: 717-47-00705 | 서울특별시 송파구 위례광장로 199, 5층 501-2-31호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스