Divided by Zero에 오신 걸 환영합니다. IT테크, 스타트업 그리고 자본시장에 대한 2차적 사고를 공유합니다.
작년에 제가 공저로 출간했던 책 CRYPTO.AI는 블록체인과 AI의 교차점에 대해 다뤘어죠. 그리고 벌써, 두 영역의 경계가 깨지는 사건이 하나 벌어졌습니다.
지난 5월 29일, 테일러 혼비라는 한 보안 연구원이 프라이버시 코인 지캐시(Zcash)에 4년간 숨어 있던 치명적 버그를 찾아냈습니다. 가짜 지캐시를 무제한으로 찍어낼 수 있는 사실상의 위조지폐 인쇄기 수준의 결함이었죠. 그런데 진짜 충격은 누가 찾았느냐였습니다.
사람이 아니라 AI거든요.
정확히 말하면 5월 28일에 막 출시된 앤트로픽의 클로드 오푸스 4.8 모델이, 출시 후 단 28시간 만에 세계 최고 암호학자들이 4년간 못 찾은 결함을 잡아낸 겁니다.
AI가 이제 코인 코드까지 직접 뚫을 수 있는 단계에 들어섰다는 건데, 그 능력이 단 하루 만에 한 코인 시가총액에서 30억 달러를 증발시켰습니다.
지캐시가 뭐였더라
배경부터 잠깐. 지캐시는 2016년 나온 프라이버시 코인입니다. 비트코인처럼 모든 거래 내역이 누구나 들여다볼 수 있게 공개되는 게 아니라 보낸 사람, 받는 사람, 금액을 전부 암호로 가리는 게 핵심이죠. 어떻게 그게 가능하냐면 영지식증명(zero-knowledge proof)이라는 기술 덕분입니다.
2023년에 굉장히 핫했던 기술인데, 내가 이 돈을 정당하게 갖고 있고, 같은 돈을 두 번 쓰지 않는다는 사실을 "그 돈이 얼마인지"나 "누구한테 가는지"는 절대 공개하지 않으면서 수학적으로 증명하는 기술이거든요.
이번에 문제가 터진 곳은 지캐시의 가장 최신 프라이버시 풀인 오차드(Orchard)였습니다. 2022년 5월에 출시된 가장 진보된 암호화 계층이죠. 모든 거래가 완전히 가려지는 만큼, 이 안에서 무슨 일이 벌어지는지는 바깥에서 절대 들여다볼 수 없습니다. 그런데 바로 차단막이 이번 사건의 가장 큰 원인이 됩니다.
위조지폐 인쇄기
버그의 실체는 수학적 제약 하나가 빠져 있던 것이었습니다. 어려운 얘기 같지만 비유로 풀어보죠. 지캐시는 코인을 쓸 때마다 그 코인 고유의 무효화 표식(nullifier)이라는 일회용 도장을 찍습니다. 같은 도장이 두 번 찍히면 이중 지불이니 거래가 거부되죠. 이 도장은 코인 하나당 단 하나만 만들어질 수 있게 수학적으로 묶여 있어야 합니다.
그런데 오차드 회로엔 그 하나의 코인은 하나의 도장만을 강제하는 검사 한 줄이 빠져 있었던 겁니다. 그래서 공격자가 똑같은 코인 한 개로 매번 다른 도장을 만들어내 같은 코인을 무한히 다시 쓸 수 있었습니다. 코인 100개로 시작했다면 다음 단계엔 200개, 그다음엔 400개, 이렇게 두 배씩 늘어나는 거죠.
혼비가 실제로 자기 컴퓨터의 로컬 테스트 환경에서 이 익스플로잇(공격 코드)을 돌렸더니, 지갑이 1,000만 지캐시로 부풀어 올랐습니다. 그리고 모든 거래가 시스템상 정상으로 통과됐죠. 위조된 코인이 진짜 코인과 구별이 안 됐던 겁니다.
게다가 오차드는 모든 게 숨겨지는 구조였기 때문에, 만약 누군가 이 버그를 4년 동안 조용히 이용해왔다 해도 외부에서 확인할 방법이 없습니다. 비유하자면 연방준비제도가 누군가 우리 인쇄기를 몰래 썼는데, 얼마나 찍어냈는지 알 길이 없다고 말하는 상황인 거죠.
사람은 왜 못 찾았나
여기서 궁금한건, 그동안 세계 최고 수준의 암호학자들이 이 코드를 봤을 텐데, 왜 다들 못 봤을까요?
답은 사람은 코드가 하는 일을 보지만, AI는 코드가 안 하는 일을 본다는 데 있습니다. 사람이 감사를 할 때는 이 코드가 의도대로 잘 작동하는지를 추적하죠. 그런데 이번 버그는 코드가 뭘 잘못한 게 아니라, 있어야 할 검사 한 줄을 하지 않은 것이었거든요. 빠진 거를 찾는 일은 인간의 인지 패턴과 잘 안 맞습니다. 게다가 제로지식증명 회로는 복잡한 다항식 수학으로 짜여 있어서 이걸 통째로 머릿속에 펼쳐놓고 여기 빠진 게 있다는걸 잡아내는 데는 박사급 암호학자가 몇 달을 매달려도 부족할 정도였죠.
그래서 이 접근이 유효했던겁니다.
혼비는 지캐시 풀스택 감사 에이전트라는 자체 도구를 만들고, 그 안에 클로드 오푸스 4.8을 끼워 넣었습니다. 그러곤 오차드 회로 전체에 깊이 집중하라고 지시한 거죠. AI는 28시간 만에 이 자리에 있어야 할 제약이 빠졌다고 찾아냈고, 거기서 곧장 실제 공격 코드까지 만들어냈습니다. 재밌는건 같은 작업을 한 세대 이전 모델인 클로드 오푸스 4.7로 돌렸을 땐 못 찾았다는 점이거든요.
새 모델이 한 세대 더 똑똑해진 것만으로 결함이 바로 풀린 셈입니다. AI가 사람을 이겼다라기보다는 발견의 방식이 아예 바뀌었다는게 더 정확한 표현으로 보이죠. 박사급 인력 몇 달치 비용이 이제 API 키와 잘 짠 에이전트로 줄어들었으니까요.
코인의 운명은...
혼비는 메인넷에서 공격을 실행하지 않고 곧장 지캐시 개발팀에 알렸습니다. 그리고 개발자들은 5일 만에 이 버그를 봉합했죠. 6월 2일에 소프트포크로 오차드 거래를 잠가두고 다음 날 하드포크(NU6.2)로 회로를 수정해 재가동한 겁니다. 게다가 지캐시엔 턴스타일(turnstile)이라는 안전장치가 있어서, 풀 안에서 아무리 위조지폐를 찍어도 풀 밖으로 빼낼 땐 풀에 들어온 만큼만 인출되도록 자동으로 막아줬습니다. 덕분에 지캐시의 전체 발행량 한도인 2,100만 개는 지켜졌고요.
그런데도 폭락한 이유는 뭘까요?
이 버그가 4년간 진짜로 한 번도 안 쓰였느냐를 누구도 수학적으로 증명할 수 없다는 점이거든요. 오차드 자체가 안을 들여다볼 수 없게 설계됐기 때문에 이미 만들어진 위조 코인이 풀 안에 조용히 섞여 있더라도 영원히 찾아낼 수가 없습니다. 아마 아무도 안 썼을 거다?라는 추정만 가능한 거죠. 크립토 계의 거물 중 한명인 아서 헤이스는 지캐시 보유분을 전량 청산했는데요.
"프라이버시 코인의 논리는 완벽함을 요구하지, 가능성이 낮음을 요구하지 않는다"라고 남겼습니다.
ZEC 가격은 48시간 만에 48% 폭락했고, 시가총액 30억 달러가 증발했습니다. 그리고 곧장 다음 표적이 거론됐죠. 혼비가 다음은 모네로를 감사해보겠다고 밝히자, 모네로(XMR)는 그 트윗 한 줄에 10% 빠졌습니다. 모네로는 지캐시와 달리 턴스타일 같은 안전장치가 없기 때문에, 만약 비슷한 결함이 나오면 피해를 막을 방법이 없거든요.
이제 AI는 이제 보조 도구가 아니라 직접 코인의 핵심 코드를 뚫는 행위자가 됐고, 그 능력이 한 모델 세대만으로도 가파르게 올라가고 있는걸 보여줬습니다.
혼비는 화이트 햇(선의의 보안 연구자)이라 알리고 패치를 도왔지만, 같은 도구가 누군가의 손에서는 자유롭게 풀린 무기가 될겁니다. 아마 이미. 지캐시가 그나마 운이 좋았던 건 먼저 잡힌 쪽이었다는 점이고, 다음 코인은 그렇지 않을 수도 있겠죠.
AI가 코드를 짜는 시대가 끝나가고, AI가 코드를 깨는 시대가 막 시작된 셈입니다.
의견을 남겨주세요