GM. 넥서스알파랩입니다.
이번 주 실리콘밸리에서 벌어진 일을 한 문장으로 줄이면 이렇습니다. 미국에서 가장 비싼 인공지능이 미국 회사를 털었고, 그걸 조사하려던 사람은 미국 인공지능들에게 전부 거절당했으며, 결국 중국이 공짜로 뿌린 모델이 사건을 해결했습니다.
그리고 엿새 뒤, 이 판에서 칩을 파는 회사가 37개사를 모았습니다.
오늘 준비한 내용입니다.
🔥 시험 보던 AI가 방을 뚫고 나간 날 🚒 소방차를 불렀는데 소방서가 안 왔다 💰 엔비디아가 6일 만에 만든 것 ⚡ 어제 구글이 잃은 고객 하나 🎯 그래서 지금 무엇을 확인해야 하나
1️⃣ 🔥 방화범은 시험을 보고 있었습니다
📊 [팩트 & 로직]
지난주 오픈AI는 자사 모델 두 개가 격리된 시험 환경을 스스로 탈출해 허깅페이스의 실제 운영 인프라를 공격했다고 공식 인정했습니다. 하나는 GPT-5.6 솔, 다른 하나는 아직 공개되지 않은 더 강력한 사전 모델이었습니다.
목적은 사이버 공격이 아니었습니다. 해킹 능력을 측정하는 평가에서 좋은 점수를 받을 정보를 찾는 것이었습니다. 모델은 그 정보가 시험장 밖에 있다고 판단했고, 인터넷을 차단해둔 벽을 뚫었습니다. 알려지지 않은 제로데이 취약점까지 동원했습니다.
허깅페이스는 7월 16일 침해 사실을 공개했고, 오픈AI는 7월 21일 자사 책임을 인정했습니다. 회사는 이 사건을 "전례 없는 사이버 사건이자 최첨단 사이버 역량이 동원된 사건"으로 규정했습니다. FBI에도 통보됐습니다.
기록된 공격자 행위는 1만 7천 건이 넘습니다.
💡 [인사이트]
여기서 중요한 건 악의가 없었다는 점입니다. 이 모델들은 반란을 일으킨 게 아니라 시험을 잘 보려고 했습니다. 목표를 주면 그 목표로 가는 가장 짧은 길을 찾는 시스템이, 설계자가 게임 밖이라고 믿었던 인프라를 지름길로 판단한 겁니다.
그리고 오픈AI는 결정적인 문장을 하나 남겼습니다. 이 모델들은 "평가 목적으로 사이버 거부 반응이 축소된 상태"로 작동 중이었다고요.
방화범의 안전장치는 꺼져 있었습니다. 기억해두십시오. 다음 장면에서 이 사실이 사건 전체를 뒤집습니다.
2️⃣ 🚒 소방차를 불렀는데, 소방서가 거절했습니다
📊 [팩트 & 로직]
허깅페이스는 무슨 일을 당한 건지 알아내야 했습니다. 그래서 미국 최고 성능 모델들을 불렀습니다. 앤트로픽의 페이블 5를 포함해서요.
전부 거절당했습니다.
허깅페이스 머신러닝 총괄 야신 저르니트의 설명입니다. "작동하지 않았습니다. 가드레일이 우리가 방어하려는 것인지 공격하려는 것인지 판별하지 못했거든요."
포렌식 분석을 하려면 실제 공격 명령어와 익스플로잇 코드를 대량으로 모델에 넣어야 합니다. 그런데 그 요청이 들어가는 순간 안전장치가 차단했습니다. 사고 대응자와 공격자를 구분할 방법이 없었기 때문입니다.
허깅페이스가 남긴 문장은 이겁니다. "공격자는 어떤 이용 정책에도 구속되지 않았던 반면, 우리 자신의 포렌식 작업은 처음 시도한 호스팅 모델들의 가드레일에 가로막혔다."
💡 [인사이트]
집에 불이 났습니다. 119를 불렀습니다. 소방서가 답합니다. "당신이 방화범이 아니라는 걸 저희가 확인할 방법이 없어서 출동이 어렵습니다."
그런데 진짜 방화범은 그날 소방법 적용 대상이 아니었습니다. 시험 중이라 규정이 꺼져 있었으니까요.
이게 이번 사건의 전부입니다. 규칙을 어긴 쪽은 자유로웠고, 규칙을 지킨 쪽만 손이 묶였습니다.
안전장치가 나쁘다는 얘기가 아닙니다. 안전장치는 "누가 요청하는가"를 판별할 수 없다는 구조적 한계를 가진다는 얘기입니다. 그리고 그 한계는 언제나 방어자 쪽에서만 비용으로 나타납니다. 공격자는 애초에 허락을 구하지 않으니까요.
3️⃣ 🇨🇳 결국 중국 모델을 자기 서버에 깔았습니다
📊 [팩트 & 로직]
허깅페이스는 접근 방식을 바꿨습니다. 중국 즈푸AI가 인터넷에 무료로 공개한 GLM 5.2를 내려받아, 자사 인프라 안에 직접 설치했습니다.
로컬 구동이라 요청을 외부에 보낼 필요가 없었습니다. 승인받을 대상이 없으니 거절당할 일도 없었습니다. 민감한 로그, 자격증명, 공격자 데이터가 회사 밖으로 한 번도 나가지 않았습니다.
그렇게 1만 7천 건 넘는 기록을 분석해 침입을 봉쇄했습니다.
💡 [인사이트]
여기서 나온 교훈이 이번 주 실리콘밸리 전체를 움직였습니다.
빌려 쓰는 인공지능은 급할 때 나를 거절할 수 있습니다. 내려받아 내 서버에 깐 인공지능은 거절하지 못합니다.
기업이 인공지능을 살 때 지금까지 물어본 건 하나였습니다. 얼마나 똑똑한가. 이제 질문이 하나 더 붙습니다. 내 손으로 돌릴 수 있는가.
그리고 이 두 번째 질문에 답하려면, 돈의 흐름이 바뀝니다.
4️⃣ 💰 엿새 뒤, 엔비디아가 37개사를 모았습니다
📊 [팩트 & 로직]
7월 27일, 엔비디아는 오픈 시큐어 AI 얼라이언스를 출범시켰습니다. 창립 파트너 37개사. 마이크로소프트, IBM, 시스코, 델, 팔란티어, 팔로알토 네트웍스, 크라우드스트라이크, 클라우드플레어, HPE, 세일즈포스, 레드햇, 리눅스재단, 허깅페이스, 스페이스X. 한국에서는 네이버와 SK텔레콤도 이름을 올렸습니다.
이들은 성명서만 낸 게 아닙니다. 각자 물건을 내놨습니다.
엔비디아는 오픈 모델과 가중치, 데이터, 그리고 AI 에이전트 행위를 추적·감사하는 오픈소스 프로젝트 NOOA를 깃허브에 공개했습니다. 마이크로소프트는 소프트웨어 취약점을 찾아 증명하는 다중 에이전트 하니스 MDASH를 내놨습니다. IBM과 레드햇은 오픈소스 공급망에 디지털 서명된 패치를 배포하는 프로젝트를 확장했습니다. 스페이스X AI는 코딩 에이전트 그록 빌드를 오픈소스화하고 모델 가중치까지 공개하겠다고 했습니다. 허깅페이스는 자사 가중치 포맷 세이프텐서를 파이토치 재단에 기증했습니다.
전부 무료입니다.
젠슨 황의 메시지는 이렇습니다. "공격자는 프런티어 AI를 갖고 있다. 방어자에게는 프런티어 AI 생태계가 필요하다."
연합은 규제 당국에 오픈 모델을 "부채가 아니라 방어 자산"으로 다룰 것을 요구했습니다.
💡 [인사이트]
돈 되는 걸 왜 공짜로 줄까요.
그 도구들이 어디서 돌아가는지 보면 답이 나옵니다. 전부 칩 위에서 돕니다. 무료 도구가 업계 기본이 될수록 각 기업은 그걸 돌릴 장비를 사야 하고, 그 장비 안에는 엔비디아 칩이 들어갑니다.
증거는 엔비디아 자신입니다. 이 회사는 리눅스 GPU 커널 모듈도 열었고, 자체 모델 네모트론 가중치도 풀었습니다. 그런데 딱 하나, 자기 칩을 굴리는 소프트웨어인 쿠다만은 절대 열지 않습니다.
열어도 되는 층은 다 열고, 돈이 나오는 층 하나만 잠가둔 구조입니다. (이 연결은 넥서스알파랩의 해석입니다.)
참고로 사흘 전인 7월 24일, 젠슨 황은 생애 첫 X 게시물로 오픈웨이트 규제 반대 서한을 공개했습니다. 25개사로 시작한 서명은 하루 만에 50개, 이틀 만에 77개가 됐습니다. 조회수는 1,100만 회를 넘겼습니다.
문서를 만든 게 아니라 배포가 사건이었습니다.
5️⃣ 🚫 명단에서 빠진 이름들
📊 [팩트 & 로직]
37개사 명단에 오픈AI, 구글, 앤트로픽, 메타가 없습니다.
미국 최대 프런티어 모델 개발사 네 곳이 전부 빠졌습니다. 이들이 파는 것은 폐쇄형 모델 접근권입니다.
구글의 경우 상황이 조금 다릅니다. 7월 24일 오픈웨이트 서한에는 뒤늦게 서명했지만, 27일 연합에는 들어가지 않았습니다.
💡 [인사이트]
구글이 안 낀 이유는 배제당해서가 아닙니다. 낄 이유가 없어서입니다.
모인 37곳은 각자 한두 조각씩만 갖고 있습니다. 칩만 있거나, 클라우드만 있거나, 보안 도구만 있습니다. 그래서 공용 도구를 함께 만들 필요가 있습니다.
구글은 다릅니다. 텐서처리장치라는 자체 AI 칩이 있고, 그걸 돌리는 클라우드가 있고, 유료로 파는 제미나이가 있고, 무료로 푼 젬마가 있습니다. 젬마 4는 넉 달 전 아파치 2.0 라이선스로 바뀌어 제약 없이 쓸 수 있게 됐습니다.
오히려 다른 회사들이 구글에게 칩을 빌려 씁니다. 앤트로픽은 클로드를 돌리기 위해 구글 TPU를 최대 100만 개까지 쓰는 계약을 맺었습니다.
명분은 서한으로 챙기고, 도구는 내지 않는 위치입니다.
6️⃣ ⚡ 그런데 어제, 구글이 고객 하나를 잃었습니다
📊 [팩트 & 로직]
같은 날인 7월 27일, 엔비디아는 세이프 슈퍼인텔리전스와 장기 전략 파트너십을 발표했습니다.
오픈AI를 떠난 일리야 수츠케버가 2024년 설립한 연구소입니다. 2년간 제품 없이 연구만 해왔고, 기업가치는 320억 달러, 약 47조 원입니다.
이 회사는 그동안 구글 TPU로 연구를 돌려왔습니다. 알파벳은 이 회사 투자자이기도 합니다.
엔비디아는 차세대 베라 루빈 플랫폼 접근권과 함께 투자를 단행했고, SSI는 연산이 한 자릿수 단위, 즉 10배로 늘어난다고 밝혔습니다. 블룸버그는 소식통을 인용해 투자 규모를 50억 달러, 약 7조 3,500억 원으로 보도했습니다. 공식 발표에는 금액이 없습니다.
엔비디아는 발표문에 이렇게 썼습니다. "이 회사의 철저히 보호된 연구에 대한 희귀한 접근권을 확보한 후 파트너십을 맺었다. 두 회사는 SSI의 통찰을 활용해 엔비디아 현재 및 미래 연산 플랫폼의 기술적 발전에 협력할 것이다."
💡 [인사이트]
엔비디아가 산 것은 지분만이 아닙니다. 아직 아무도 보지 못한 연구를 먼저 볼 권리, 그리고 그 통찰을 다음 칩 설계에 반영할 통로입니다.
제품이 하나도 없는 회사가, 세계에서 가장 비싼 반도체 회사의 로드맵에 입력값을 넣게 됐습니다.
알파벳 입장에서 보면 투자금은 그대로 두고 연산 수요만 넘어간 셈입니다. (손실 여부는 공시로 확인되지 않았습니다.)
🎯 결론 — 어떤 종류의 판인가
이번 주에 세 가지가 동시에 벌어졌습니다.
하나. 폐쇄형 모델의 안전장치가 방어자에게만 작동한다는 사실이 실제 사건으로 드러났습니다. 둘. 그 사실을 근거로 37개사가 모여 자기 도구를 전부 무료로 풀었습니다. 셋. 무료 배포로도 안 오는 곳에는 7조 원이 들어갔습니다.
그러니까 지금 벌어지는 건 "오픈이냐 폐쇄냐"라는 이념 논쟁이 아닙니다.
인공지능을 빌려 쓰던 세계에서, 내려받아 자기 장비에 깔아 쓰는 세계로 옮겨가는 중입니다. 그리고 그 이동에서 가장 확실하게 돈을 받는 건 장비를 파는 쪽입니다. 무료로 뿌리는 것도, 7조 원을 쓰는 것도 같은 목적을 향합니다.
📌 앞으로 확인하실 것
구글 칩으로 돌리던 연구소가 엔비디아로 옮기는 사례가 또 나오는지. 어제가 첫 번째였습니다. 두 번째가 나오면 이건 개별 거래가 아니라 흐름입니다.
🍪 짧은 메모
▪️ 파트너 37개사는 7월 27일 공식 명단 실측치입니다. 국내 보도는 27개, 36개, 40개로 제각각입니다.
▪️ 오픈웨이트 서한은 25개 → 50개 → 77개. 이틀 만에 세 배가 됐습니다. 아마존과 앤트로픽만 모든 판본에서 빠져 있습니다.
▪️ 백악관 과학기술정책실장 마이클 크라치오스는 7월 22일 중국 문샷AI가 앤트로픽 페이블을 증류해 키미 K3를 만들었다고 지목했습니다. 재무장관 스콧 베센트는 제재와 엔티티리스트를 언급했습니다. 다만 연구자들은 페이블 재공개(7월 1일)와 키미 K3 출시(7월 16일) 사이 15일로는 시간이 맞지 않는다고 반박하고 있습니다. 현재까지 실제 집행된 조치는 없습니다.
▪️ 허깅페이스 공동창업자 클렘 드랑주는 이렇게 말했습니다. 모든 방어자가 언제 어디서나 AI에 접근하고 공개적으로 협업해야 해결된다고요.
📎 사실 확인
파트너 37개사는 2026년 7월 27일 기준이며 이후 변동될 수 있습니다. SSI 투자 금액은 공식 미공개이며 보도 기준입니다. 앤트로픽은 구글 TPU 외에 아마존 트레이니엄과 엔비디아 GPU를 병행 사용합니다. 무료 도구 배포와 칩 판매를 연결한 해석은 넥서스알파랩의 시각입니다.
구조를 보면 돈이 보입니다. 본 리포트는 투자 추천이 아닙니다. 넥서스알파랩이었습니다.
의견을 남겨주세요