😱 자고 일어났더니 랜섬웨어 사건 범인 된 썰 푼다

구독자님 안녕하세요! 혹시 AI가 직접 만든 랜섬웨어가 있다면 믿을 수 있나요? 그런데 그것이 실제로 일어났습니다. 오늘은 보안 커뮤니티를 크게 흔든 사건, “AI가 직접 대본을 쓰고 움직이는 랜섬웨어” 프롬프트록(PromptLock)을 소개해 드리려 해요. 

🧪어느 날 VirusTotal에 올라온 수상한 파일 하나

[출처 The Daily Swig]

지난 8월 26일, ESET Research는 “세계 최초 AI 기반 랜섬웨어가 발견됐다”는 충격적인 소식을 전했습니다. 사건의 발단은 VirusTotal에 올라온 한 파일🗂️이었습니다. 겉보기에 평범해 보였던 이 샘플을 분석한 결과, ESET 연구진은 그것이 단순한 악성코드가 아닌, AI가 직접 공격용 스크립트를 만들어 실행하는 실험적 랜섬웨어임을 밝혀낸 것이죠.

이 랜섬웨어는 공격 단계마다 Lua 스크립트를 즉석에서 생성해 파일을 찾고, 선별하고, 유출하며, 최종적으로 암호화까지 수행합니다. 그동안 상상 속 가능성에 불과했던 “AI가 만든 랜섬웨어”가 현실로 등장한 순간이었고, 많은 보안 업계에 의해 이 사건이 큰 관심을 받으며 새로운 패러다임 전환의 신호탄으로 받아들이게 되었어요.🚨

💸AI가 직접 짓는 랜섬웨어, 프롬프트록(PromptLock)

PromptLock의 본체는 Go 언어로 만들어진 작은 실행 파일이에요. 그런데 이 파일 안에는 우리가 흔히 떠올리는 “완성된 공격 코드”가 들어 있지 않습니다. 대신 자연어로 작성된 지시문(프롬프트)이 담겨 있고, 실행되면 AI 모델을 불러 그때그때 악성 스크립트를 생성해 실행하는 방식이에요.🤖 공격자가 미리 모든 기능을 짜 넣지 않고 “AI야, 이 기능을 해줘”라고 지시하는 식이라 기존의 패턴 기반 보안 탐지가 훨씬 까다로워집니다.

프롬프트록(PromptLock), 어떻게 동작할까?

[출처 druva]: PromptLock: AI-Powered Ransomware and Its Sophisticated Architecture

PromptLock의 동작 방식을 확인해볼까요?

먼저 AI는 시스템 정보를 수집하는 스크립트 코드를 만들어요. “운영체제가 뭔지, 사용자 폴더는 어디 있는지, 임시 폴더 경로나 현재 작업 위치는 어디인지” 등을 확인하죠. 이렇게 수집된 정보는 이후 어떤 파일을 노릴지, 어떤 방법으로 접근할지를 결정하는 기초 자료가 됩니다.📊

다음으로 AI는 파일 목록을 살펴보고 중요한 파일을 선별합니다.📚 텍스트, 문서, 이미지, PDF 등 형식에 따라 접근 방식이 달라지는데, 어떤 파일은 직접 열어서 내용을 보고, 어떤 파일은 이름만으로 중요도를 추정합니다. 이 판단 기준 역시 공격자가 프롬프트에 미리 적어둔 지시 덕분이죠.

[출처 ESET]: Example of malicious prompt from PromptLock

랜섬웨어의 핵심은 결국 랜섬노트죠. 흥미로운 점은, 프롬프트록도 AI가 직접 랜섬 노트🗒️(몸값 요구 쪽지)도 쓴다고 해요. 개인 PC라면 “당신의 사진을 유출하겠다”, 회사 서버라면 “중요 데이터를 암호화했다” 같은 식으로 상황에 맞는 문구를 조합할 수 있다는 점이 흥미로운데요. 심지어 결제에 쓰일 비트코인 주소까지 자동으로 랜섬 노트에 삽입된다고 합니다. 🪙💰

마지막으로, AI는 파일을 암호화하는 코드를 생성합니다. PromptLock은 SPECK 128비트 암호화 알고리즘이 사용됐다고 분석되었어요.🧬 암호화 자체가 최신식은 아니지만, “AI가 스스로 암호화 루틴까지 만들어낸다🧠”는 점이 큰 의미를 가집니다. 이 암호화로 인해 사용자는 파일에 접근할 수 없게 되고, 공격자의 요구를 들어야만 복구가 가능해진다고 해요.

🎓AI 기반 랜섬웨어, 사실은 연구진들이 만들었다고?

[출처 NYU Tandon School of Engineering]

아마 가장 먼저 떠오르는 질문은 “이 랜섬웨어, 도대체 누가 만든 걸까?”일 텐데요. 처음 자료가 공개됐을 때만 해도 보도들은 모두 “ESET이 VirusTotal에서 샘플을 발견했다”는 설명에 그쳤습니다. 미국의 사용자가 해당 샘플을 업로드했다는 사실 외에는 정체에 대한 정보가 전혀 없었던 거죠.

그런데 9월 5일, 깜짝 반전이 등장했어요.😱 뉴욕대학교 탠던 공과대학(NYU Tandon School of Engineering) 연구팀이 “그 코드, 우리가 연구 프로젝트로 만든 거예요”라고 밝힌거에요. 공개된 해당 논문의 제목은 ‘Ransomware 3.0: Self-Composing and LLM-Orchestrated’로, 해당 프로젝트의 목표는 단순했어요. “AI가 스스로 계획하고, 적응하고, 실행하는 랜섬웨어 공격이 정말 가능할까?”라는 의문을 직접 실험으로 증명해 보이자는 것이었죠.🎓

연구팀을 이끈 라메시 카리 교수와 박사과정 연구원들은, 오픈소스 소프트웨어와 GPU 몇 대를 빌려 실험을 진행했다고 합니다. 논문의 주저자인 Md Raz 박사과정 학생은 “랜섬웨어는 점점 정교해지고, AI도 점점 똑똑해지고 있다. 그렇다면 둘이 만나는 지점을 연구해 보자”는 것이 프로젝트의 동기였다고 밝혔어요. 최종 테스트 중 Proof-of-Concept 코드를 VirusTotal에 올렸는데, 공교롭게도 ESET이 그것을 발견하면서 “돌아다니는 신종 랜섬웨어”로 오인된 거죠.🧪

[출처 ESET]: First known AI-powered ransomware uncovered by ESET Research

이 에피소드를 더욱 흥미롭게 만든 건 바로 이 예상치 못한 해프닝이었습니다. 해당 프로젝트에 참여했던 Raz는 인터뷰에서 “VirusTotal에 해당 샘플을 올린 건 정말 운이 좋았다”고 웃으며 말했다고 해요.😂 애초에 코드가 눈에 띄게 설계된 것도 아니었고, 실제로 그간 주요 백신 제품들도 해당 샘플 코드를 전혀 감지하지 못했다고 하는데요. 그러나 prompt lock이 세상에 알려진 덕분에 업계가 앞다투어 토론을 시작하게 되었으니, 결과적으로는 더 큰 관심을 얻게 된 셈이죠.

논문에 따르면 Ransomware 3.0은 기존 악성코드와 달리 바이너리에는 단순한 자연어 지시문만 들어 있고, 실제 악성 로직은 실행할 때마다 LLM이 합성하는 구조입니다. 그 결과 매번 다른 코드, 다른 실행 시간, 다른 흔적이 남아서 탐지·분석이 훨씬 어려워지는 것인데요. 연구팀은 실제 악용을 막기 위해 스크립트와 JSON 요청 같은 핵심 자료는 공개하지 않았고, 앞으로 학술 컨퍼런스에서만 구체적으로 다룰 예정이라고 밝혔어요.🧑‍🔬

해당 보도 이후, ESET 역시 입장을 정리했어요. “이게 연구진들의 프로토타입이었음을 인정한다. 하지만 우리가 말한 발견한 샘플이 ‘AI 기반 랜섬웨어’의 최초 사례를 대표한다’는 사실은 여전하다.” 라는 사실을 밝혔습니다. 즉, 실제 사이버 범죄자가 배포한 것은 아니었지만, ‘AI가 랜섬웨어 공격 과정을 처음부터 끝까지 주도할 수 있음을 보여준 첫 사례’라는 결론은 여전했다는 것이죠. 해당 주장에 대해 NYU 연구자들도 동의하며 사건은 훈훈하게 일단락되었다고 합니다.😄

👮AI를 통한 사이버 범죄가 실제로 일어난다면?

[출처 MAEIL BUSINESS NEWSPAPER]

앞서 다룬 PromptLock 사건은 NYU 연구팀이 만든 연구용 실험 코드로, 실제 사이버 범죄에 사용된 것은 아니었어요. 그런데 PromptLock이 세간의 주목을 크게 받은 데에는 또 다른 이유가 있었습니다. 같은 시기, Anthropic의 AI 언어 모델 ‘Claude’가 해커들에게 실제로 악용된 사건이 보도된 거예요.🚓

보고서에 따르면 해커들은 Claude를 활용해 병원, 정부 기관, 종교 단체 등 최소 17곳을 공격했고, 이는 단순한 실험이 아니라 대규모 데이터 절도와 협박으로 이어졌다고 해요.🫢 미국 AI 기업 Anthropic도 이를 인정하며, “자사 모델이 해커에 의해 무기화(weaponised)되어 정교한 사이버 공격에 사용됐다”고 공식 발표했죠. 해커들은 Claude를 활용해 병원, 정부 기관, 종교 단체 등 최소 17곳을 공격했으며, 단순한 실험이 아닌 대규모 데이터 절도와 협박으로 이어졌습니다.🚨

더 충격적인 건 Claude의 역할이 단순한 코드 작성 보조에 그치지 않았다는 점이에요. 해커들은 Claude를 이용해 협박 메시지를 피해자 맞춤형으로 작성하고, 심지어 몸값 금액까지 제안받으며 전략적·전술적 의사결정까지 지원받을 수 있었습니다.

결국 이 사건은 “AI가 공격자의 손에 들어간다면?”이라는 물음을 더 이상 상상이 아닌 현실적 위협으로 바꿔 놓았고, 동시에 PromptLock 역시 “AI가 실제로 악용될 수 있다”는 우려와 맞물려 더 큰 관심을 받게 되었던 것이죠.

마무리

PromptLock이 “AI가 만들어낼 수 있는 잠재적 위험”을 보여줬다면, Claude는 “AI 기반 위협이 이미 현실에서 발생했다”는 것을 증명한 사건이었습니다. 앞으로 AI는 우리를 지켜줄 방패가 될까요, 아니면 더 강력한 무기가 되어 돌아올까요? 구독자님의 생각을 댓글에 남겨주세요!

구독자님, 오늘 뉴스레터는 어떠셨나요?
해킹/보안 관련 콘텐츠를 계속 받아보고 싶으시다면 구독 부탁드려요! 🙌