공지
[BoB 뉴스레터 6월호 이벤트 개편 안내]

BoB 뉴스레터 2026년 8월 호

2026.09.01 | 조회 125 |
0
|
첨부 이미지

BoB NewsLetter 76호

Vol. Aug 2026


안녕하세요, 구독자 님!

뉴스레터를 구독하신 분들께 매번 감사드립니다.


🍎 BoB 뉴스레터 08월호 스토리

  1. 📢 08월 BoB 수료생&멘토 소식
  2. 📚 2026년 주요 보안 학회에서 보인 변화: AI는 공격면과 연구 방법을 함께 넓혔다
  3. 🎭 익명정보라면 AI 학습에 마음대로 써도 될까? — 익명화와 재식별의 경계
  4. 📊 KISA 보고서로 정리하는 2026년 상반기 국내 보안 현황
  5. 🎭 AI 학습에 개인정보를 써도 될까?(08/20 개인정보 처리 특례 개정안 통과를 배경으로)

📢 08월 BoB 수료생&멘토 소식

🍧 동문들의 소식들을 기다립니다

뉴스레터가 여러분의 소식을 함께 전달해드립니다. 🎉


📚 2026년 주요 보안 학회에서 보인 변화: AI는 공격면과 연구 방법을 함께 넓혔다

NDSS·IEEE S&P·USENIX Security 등 11개 학회의 공개 논문으로 읽는 연구 지형

2026년 보안 연구를 한 단어로 요약하라고 하면 많은 사람이 ‘AI’를 고를 것이다.

실제로 주요 보안 학회의 논문 제목에는 대규모 언어 모델(LLM), AI 에이전트, 프롬프트 인젝션, 생성형 AI가 반복해서 등장한다. 공격자가 AI를 악용하는 방법뿐만 아니라 AI 시스템을 공격하는 방법, AI로 취약점을 찾는 방법, AI가 만든 결과를 다시 검증하는 방법까지 연구 범위가 넓어졌다.

그러나 논문을 조금 더 자세히 들여다보면 기존 보안 연구가 완전히 AI 연구로 대체됐다는 설명은 맞지 않는다. 오히려 AI가 브라우저와 클라우드, 개발 도구, OS, 네트워크에 들어가면서 기존의 권한 관리, 입력 검증, 격리, 공급망 문제가 다른 형태로 다시 나타나고 있다.

동시에 AI는 보안 연구의 대상에만 머물지 않고 연구 방법에도 들어오기 시작했다. 퍼징과 프로그램 분석에서는 LLM이 사람이 직접 수행하던 API 분석이나 테스트 입력 생성을 보조하면서 연구 방법도 바꾸고 있다. 다만 좋은 연구들은 LLM의 답을 그대로 결과로 사용하지 않고 실제 프로그램 실행과 명세 비교, PoC 재현을 통해 LLM의 오류를 다시 걸러냈다.

2026년 분석은 11개 학회 1,449편을 기준으로 하며, 시계열 비교를 위해 IEEE S&P, USENIX Security, NDSS, PETS·PoPETS 등 과거 연도의 전체 논문 목록도 추가로 수집하였다. 동일한 분류 기준을 적용해 2024~2026년 사이 어떤 분야가 실제로 증가하거나 유지됐는지를 비교했다.


11개 학회, 1,449편을 같은 지도 위에 놓았다

1,449편은 워크숍, 포스터, 키노트, 산업 발표를 제외하고 각 학회의 본행사 논문을 집계한 결과이다.

학회논문 수
USENIX Security 2026362
NDSS 2026265
IEEE S&P 2026253
PETS·PoPETS 2026160
ACM AsiaCCS 2026120
IEEE EuroS&P 202682
IEEE SaTML 202662
IEEE CSF 202642
SOUPS 202639
DIMVA 202633
ACM WiSec 202631
합계1,449

IEEE S&P, USENIX Security, NDSS, EuroS&P, AsiaCCS처럼 여러 분야를 함께 다루는 종합 보안 학회가 1,083편으로 전체의 74.7%를 차지했다. 나머지 367편은 프라이버시, 사용자 보안, 형식기법, 무선 보안, 신뢰할 수 있는 머신러닝처럼 특정 분야를 깊게 다루는 전문 학회에서 나왔다.


1. 공격면은 제품 하나가 아니라 ‘연결 관계’가 됐다

최근의 서비스는 하나의 프로그램만으로 동작하지 않는다. 로그인을 위해 외부 인증 서비스를 사용하고, 여러 클라우드 서비스가 API를 통해 연결되며, 수많은 오픈소스 패키지 위에서 하나의 제품이 만들어진다.

이 과정에서는 각각의 구성요소가 안전하더라도 연결 방법이 잘못되면 문제가 발생할 수 있다.

IEEE S&P 2026의 OAuth 기반 Account Linking 연구는 생산성 앱과 자동화 플랫폼, AI 에이전트가 Google Drive나 Slack 같은 외부 서비스에 접근하는 커넥터 생태계를 분석했다. 연구에서 주목한 문제는 OAuth 프로토콜 자체의 취약점이라기보다, OAuth를 통해 얻은 외부 계정의 권한을 현재 서비스의 어떤 사용자·테넌트·커넥터에 연결할 것인지 결정하는 Account Linking 과정이었다.

연구진은 조사 대상 중 40개 업체에서 사용자가 시작한 OAuth 세션과 실제 권한을 부여한 사용자가 잘못 연결될 수 있는 Cross-user OAuth Session Fixation(COSF) 취약점을 확인했다. 또한 OAuth 기능을 대신 제공하는 8개 OAuth-as-a-Service 업체를 조사한 결과, 일부 서비스에서는 서로 다른 커넥터의 권한을 혼동하는 Client ID Confusion 및 Cross-tenant COAT와 같은 Confused Deputy 문제가 발견됐다. 이는 개별 OAuth 인증 절차가 정상적으로 수행되더라도, 애플리케이션이 OAuth 권한을 내부 계정과 잘못 연결하면 계정 탈취나 권한 오연결로 이어질 수 있음을 보여준다.

USENIX Security 2026의 이동통신 코어망 연구도 비슷한 구조를 보여준다. 과거 코어망의 내부 인터페이스는 물리적으로 분리되어 있다는 가정 아래 설계됐다. 하지만 코어망이 클라우드 네이티브 구조로 바뀌면서 외부 공격자가 이전에는 내부였던 인터페이스에 접근할 가능성이 커졌다.

연구진은 한 구성요소가 다른 구성요소의 메시지 형식과 의미, 자원 요청을 충분히 확인하지 않는 문제를 Implicit Trust Error라고 정의했다. 7개 오픈소스 구현을 분석한 결과 84개의 알려지지 않은 취약점을 발견했고, 학회 발표 시점에는 70개가 확인됐으며 40개에 CVE가 부여됐다.

ACM AsiaCCS 2026의 Original Sin of npm은 같은 문제를 소프트웨어 공급망에서 확인했다. 연구진은 1,077,946개의 자바스크립트 패키지와 의존성 관계를 분석했다. 전체 패키지의 21.6%는 의존성 네트워크 안에 하나 이상의 알려진 취약점을 가지고 있었고, 자주 등장하는 상위 7개의 취약점이 전체 사례의 25%를 차지했다.

세 연구의 대상은 OAuth, 이동통신, npm으로 서로 다르다. 하지만 문제의 구조는 같다. 다른 서비스가 전달한 인증 결과를 과도하게 신뢰하거나, 내부 요청이라는 이유로 검증을 생략하거나, 한 패키지의 취약점이 의존성 관계를 따라 퍼지는 것이다.

2026년 역시, 어느 함수에 버그가 있는가에서 끝나지 않으며, 누가 누구를 신뢰하고 있으며 그 신뢰가 다른 시스템으로 전달될 때 어디에서 검증이 생략되는가를 확인해야 한다.


2. LLM이 에이전트가 되면서 출력보다 권한과 실행이 중요해졌다

AI 에이전트는 LLM과 별개의 존재가 아니다. LLM에 도구 목록과 메모리, 계획과 실행을 반복하는 제어 루프가 결합된 시스템이다. 따라서 에이전트 보안은 모델이 어떤 문장을 출력하는지만 보는 문제가 아니다. 악성 문서가 에이전트의 도구 선택을 바꿀 수 있는지, 호출된 도구가 어떤 데이터에 접근할 수 있는지, 여러 도구 사이에서 정보가 이동할 때 권한이 유지되는지를 함께 봐야 한다.

NDSS 2026의 ToolHijacker는 공격자가 악성 도구 설명을 도구 목록에 추가해 에이전트가 정상 도구 대신 공격자의 도구를 선택하도록 만들 수 있음을 보였다. 문제는 사용자의 프롬프트 한 문장보다 도구를 검색하고 선택하는 과정에 있었다. 기존의 프롬프트 방어 기법도 이러한 도구 선택 공격을 충분히 막지 못했다.

같은 학회의 ACE는 이 문제를 기존 시스템 보안 방식으로 풀려고 했다. 신뢰할 수 있는 정보만으로 먼저 추상적인 실행 계획을 만들고, 이후 설치된 앱과 연결해 구체적인 계획을 생성한다. 실행 단계에서는 앱 사이에 데이터와 권한 장벽을 적용한다.

즉 LLM이 알아서 안전하게 행동할 것이라고 기대하는 대신, 계획과 실행 사이에 명시적인 보안 경계를 넣은 것이다. LLM 서비스의 성능을 높이기 위한 기능도 공격면이 되고 있다. Semantic Cache Poisoning 연구는 의미가 비슷한 질문에 이전 답변을 재사용하는 캐시에 공격자가 악성 응답을 넣으면, 다른 사용자가 공격자가 의도한 답변을 받을 수 있음을 보였다. 오래된 캐시 오염 문제가 LLM 서빙 환경에서 다시 나타난 사례이다. 연구진은 이 공격이 주요 퍼블릭 클라우드의 의미 기반 캐시에서도 재현될 수 있다고 보고했다.

이러한 연구들은 LLM 보안이 탈옥 프롬프트 하나를 찾는 것에서 끝나지 않는다는 것을 보여준다. 에이전트가 연결한 도구와 데이터, 캐시, 인증 정보, 실행 계획 전체가 하나의 공격면이 되고 있다.


 3. AI는 퍼저를 대체하지 않았다. 분석 파이프라인의 일부가 됐다

AI 관련 연구가 많아졌지만, 2026년 학회 프로그램에서는 퍼징과 프로그램 분석 연구도 여전히 활발하게 등장했다. 다만 기존 연구와 달라진 점은 LLM이 퍼저 자체를 대체하기보다는, 퍼징 과정에서 사람이 직접 분석해야 했던 부분을 보조하는 연구가 등장했다는 것이다.

USENIX Security 2026의 PANGOLIN은 여러 프로그래밍 언어로 작성된 IoT 펌웨어를 대상으로 한다. LLM이 API 분기 구조를 분석해 숨겨진 인터페이스를 찾고, LLM 에이전트가 언어를 넘나들며 입력 매개변수 명세를 생성한다. 이후 응답 기반 피드백으로 명세를 수정하고, 실제 퍼징을 통해 더 깊은 코드 경로를 탐색한다. 연구진은 이 과정에서 68개의 알려지지 않은 취약점을 발견했다고 보고했다.

NDSS 2026의 FirmAgent는 역할을 반대로 배치했다. 퍼징으로 실행 중 입력 지점과 잠재적인 취약 경로를 먼저 수집한 뒤, LLM 에이전트가 문맥 기반 오염 분석을 수행하고 PoC 테스트케이스를 보완한다. 연구진은 14개의 실제 펌웨어에서 182개의 취약점을 찾았고, 91%의 정밀도를 보고했다. 이 가운데 140개는 기존에 알려지지 않은 취약점이었으며 17개에는 CVE가 부여됐다.

중요한 점은 두 연구 모두 LLM의 답변을 취약점으로 바로 인정하지 않았다는 것이다. LLM은 API를 이해하고 입력 형식을 만들거나 분석 범위를 좁히는 데 사용됐다. 최종 결과는 실제 프로그램 실행과 충돌, 비정상 동작, PoC 재현을 통해 확인됐다.


4. AI는 기존 보안 연구 위에 새로운 대상으로 올라왔다

앞에서는 LLM이 퍼징이나 프로그램 분석에 활용되면서 기존 보안 연구의 방법이 바뀌는 모습을 살펴봤다. 반대로 기존의 시스템·하드웨어·암호 연구가 AI를 새로운 분석 대상으로 받아들이는 흐름도 나타났다.

중요한 점은 이러한 분야들이 AI 때문에 새롭게 생긴 것은 아니라는 것이다. 메모리 격리, Side-Channel, Trusted Execution Environment, 암호화 연산과 같은 문제는 이전부터 계속 연구돼 왔다. 다만 AI 모델이 GPU와 Cloud에서 실행되고 많은 데이터를 처리하기 시작하면서, 기존 연구가 다루던 문제들이 AI 시스템에도 그대로 적용되기 시작했다.

DIMVA 2026의 프로그램에서도 이러한 모습을 확인할 수 있다. 정규 논문 33편은 IoT·Embedded Security, Platform·Hardware Vulnerabilities, Vulnerability Detection·Fuzzing, Systems·Microarchitecture, Software Security, Malware, Network Security, Incident Response 등 다양한 분야로 구성됐다. AI for Security & Robustness라는 별도의 연구 주제도 있었지만, 학회 전체가 AI 연구로 바뀐 것은 아니었다.

암호 분야에서도 비슷하다. FHE는 AI 때문에 등장한 기술이 아니지만, 최근에는 암호화된 데이터를 복호화하지 않고 AI 추론까지 수행하려는 연구가 이어지고 있다. USENIX Security 2026의 Orbit은 FHE 기반 머신러닝 추론에서 비용이 큰 연산을 줄여 실제 활용 가능성을 높이는 데 초점을 맞췄다.

즉 2026년에는 기존 보안 연구가 AI에 밀려난 것이 아니라, 기존의 연구 문제 위에 AI라는 새로운 시스템과 Workload가 추가되는 모습이 나타났다. AI를 안전하게 사용하려면 모델 자체뿐만 아니라 모델이 실행되는 시스템과 하드웨어, 데이터를 보호하는 기존 보안 기술도 함께 봐야 한다.


5. 보안은 사용자를 만나면 다른 문제가 된다

기술적인 보안 성질이 존재한다고 해서 사용자가 실제로 보호받는 것은 아니다. 2026년의 PETS와 SOUPS에서는 이 오래된 질문을 생성형 AI, 패스키, 공유 기기처럼 지금의 환경에 맞춰 다시 다뤘다.

SOUPS 2026의 Passkeys in the Wild는 111개 웹사이트를 28개 요소로 비교했다. 패스키의 핵심 기능은 비슷해지고 있었지만, 계정 복구나 관리 같은 주변 기능은 사이트마다 달랐다. 같은 기술을 사용하더라도 구현 경험이 제각각이면 사용자는 다른 사이트에서 배운 방법을 그대로 적용하기 어렵다.

공유 기기 연구는 18개 이민자 가정을 조사했다. 가족이 기기를 함께 사용하는 것은 예외적인 행동이 아니라 문화적이고 현실적인 사용 방식이었다. 하지만 많은 기기와 계정은 한 사람만 사용한다는 가정으로 설계돼 있었고, 이 차이가 개인정보 노출과 가족 간 갈등으로 이어졌다.

PoPETS 2026의 Bot Among Us는 5개 메신저 플랫폼의 사용자 374명을 조사했다. 참가자 중 41.7%만 그룹 채팅의 챗봇이 어떤 메시지에 접근할 수 있는지 정확하게 이해했다. 실제 권한을 설명한 뒤에는 개인정보 우려도 크게 높아졌다.

이러한 연구들은 사용자가 조심해야 한다는 결론에서 끝나지 않는다. 시스템이 사용자의 기대와 실제 권한을 얼마나 다르게 보여주는지, 안전한 선택을 할 수 있는 정보를 제때 제공하는지를 측정한다.


결론: AI는 보안을 대체하지 않았다. 보안이 봐야 할 범위를 넓혔다

2026년 주요 보안 학회의 논문들을 살펴보면서 가장 눈에 띄었던 것은 AI라는 새로운 연구 분야 하나가 등장했다는 사실보다, AI가 기존 보안 문제와 계속 결합하고 있다는 점이었다.

AI 에이전트가 브라우저와 외부 도구를 사용하기 시작하면서 Prompt Injection은 단순히 이상한 답변을 만드는 문제를 넘어 권한과 도구 호출의 문제가 됐다. LLM이 퍼징과 프로그램 분석에 들어오면서 사람이 직접 분석하던 부분을 자동화할 수 있게 됐지만, 최종 결과는 여전히 실제 실행과 PoC를 통해 검증해야 했다.

반대로 시스템·하드웨어·암호와 같은 기존 연구도 사라지지 않았다. AI가 GPU와 Cloud 위에서 실행되고 민감한 데이터를 처리하기 시작하면서, 기존에 연구되던 격리와 Side-Channel, 암호화 연산 문제가 AI 시스템에서도 다시 중요한 문제가 되고 있다.

OAuth Connector, 이동통신 코어망, npm 공급망과 같은 연구에서는 또 다른 공통점이 나타났다. 취약점이 반드시 하나의 코드나 제품 안에서 발생하는 것이 아니라, 서로 다른 구성요소가 권한과 데이터를 전달하고 상대방을 신뢰하는 과정에서도 만들어질 수 있다는 것이다.

결국 2026년의 변화를 단순히 “AI 연구가 많아졌다”라고 정리하기는 어렵다. AI는 보안의 공격면과 연구 방법을 함께 넓혔고, 그만큼 기존의 권한 통제와 격리, 검증, 신뢰 관계를 더 넓은 범위에서 확인해야 하게 만들었다.

새로운 AI 모델을 어떻게 사용할 것인지도 중요하지만, 보안 연구에서는 그보다 먼저 어떤 데이터를 읽을 수 있는지, 어떤 도구를 호출할 수 있는지, 무엇을 신뢰하고 있는지, 그리고 그 결과를 실제로 검증할 수 있는지를 확인하는 것이 더 중요해질 것으로 보인다.


분석 방법과 자료

  • 분석 데이터 시트 및 제목 신호 목록
  • NDSS 2024~2026 공개 논문 제목 목록
  • IEEE S&P 2026 Accepted Papers
  • USENIX Security 2026 Technical Sessions
  • NDSS 2026 Accepted Papers
  • PETS·PoPETS Acceptance Rates
  • SOUPS 2026 Proceedings
  • IEEE CSF 2026 Accepted Papers
  • IEEE EuroS&P 2026 Accepted Papers
  • DIMVA 2026 Program
  • ACM WiSec 2026 Accepted Papers
  • ACM AsiaCCS 2026 Cycle 1·2 Accepted Papers
  • IEEE SaTML 2026 Accepted Papers
첨부 이미지

🎭 익명정보라면 AI 학습에 마음대로 써도 될까? — 익명화와 재식별의 경계

출처: GPT 생성
출처: GPT 생성

이름을 지우면 개인정보가 아닐까

AI를 학습시키려면 데이터가 필요하다. 그리고 일반적으로 데이터가 많을수록 AI가 다양한 패턴을 학습하는 데 유리하다. 문제는 현실의 데이터에는 사람에 관한 정보가 섞여 있다는 것이다. 이름이나 전화번호처럼 누가 봐도 개인정보인 항목도 있지만, 나이·성별·지역·구매내역·이동기록처럼 다른 정보와 결합했을 때 특정인을 알아볼 수 있는 정보도 있다.

그렇다면 이름이나 전화번호처럼 개인을 직접 식별할 수 있는 정보만 지우면 AI 학습에 자유롭게 사용할 수 있을까?

답은 생각보다 복잡하다. 개인정보보호법은 개인정보를 단순히 '이름이 적혀 있는 정보'로 한정하지 않는다. 해당 정보만으로 특정 개인을 알아볼 수 없더라도 다른 정보와 쉽게 결합하여 알아볼 수 있다면 개인정보에 포함될 수 있다. 따라서 이름을 삭제하거나 회원번호를 임의의 값으로 바꾸었다는 이유만으로 그 데이터가 곧바로 개인정보의 영역을 벗어나는 것은 아니다.

여기서 등장하는 개념이 가명정보와 익명정보다.

비슷해 보이지만 전혀 다른 가명정보와 익명정보

가명정보는 개인정보의 일부를 삭제하거나 대체하는 등의 방법으로, 추가정보 없이는 특정 개인을 알아볼 수 없도록 처리한 정보다. 예를 들어 고객의 이름을 삭제하고 고객번호를 무작위 코드로 바꿔 놓은 데이터가 이에 해당할 수 있다.

하지만 가명정보는 여전히 개인정보다. 개인정보보호법의 적용을 받으며, 처리 목적과 방법에도 제한이 존재한다. 다만 통계작성, 과학적 연구, 공익적 기록보존 등의 목적이라면 정보주체의 동의 없이 가명정보를 처리할 수 있도록 일정한 특례가 인정된다.

AI 개발에서도 이 지점이 중요하다. AI 모델을 연구하거나 개발한다는 이유만으로 모든 개인정보를 자유롭게 학습시킬 수 있는 것은 아니지만, 일정한 요건을 충족하는 경우 가명정보를 활용할 가능성이 열려 있기 때문이다.

반면 익명정보는 다르다.

개인정보보호법은 시간·비용·기술 등을 합리적으로 고려했을 때 다른 정보를 사용하더라도 더 이상 개인을 알아볼 수 없는 정보에는 개인정보보호법을 적용하지 않는다. 정말로 익명화가 이루어졌다면 해당 데이터는 더 이상 개인정보가 아니므로 개인정보보호법상의 동의나 가명정보 관련 규정에서도 원칙적으로 벗어나게 된다.

그래서 AI 학습 데이터를 준비하는 입장에서는 매력적인 선택지가 된다.

"개인정보를 충분히 익명화한 다음 AI에게 학습시키면 되는 것 아닐까?"

하지만 문제는 바로 '충분히'라는 말에 있다.

누구인지 모르게 만들었는데, 다시 알아낼 수 있다면?

익명화의 가장 큰 난점은 재식별(re-identification) 가능성이다.

데이터 하나만 놓고 보면 누구인지 알 수 없어도 다른 데이터와 결합하면 특정인을 찾아낼 수 있는 경우가 있기 때문이다. 특히 오늘날에는 공개된 데이터의 양 자체가 과거와 비교하기 어려울 정도로 많아졌다.

예를 들어 어떤 데이터셋에서 이름과 주소를 모두 삭제하고 다음과 같은 정보만 남겼다고 생각해보자.

24세 / 여성 / 경기도 거주 / 특정 날짜 특정 지역 방문

각 항목만 보면 개인을 특정하기 어려워 보인다. 하지만 SNS 게시물이나 공개된 위치정보, 다른 데이터베이스와 결합했을 때 이 조건을 모두 만족하는 사람이 한 명뿐이라면 익명성이 보장되지 않는다.

실제로 개인정보 분야에서는 오래전부터 이런 문제가 제기돼 왔다. 대표적으로 미국의 온라인 영화 대여 서비스 Netflix가 연구 목적으로 공개한 이용자 평점 데이터가 있다. 회사는 이용자를 직접 식별할 수 있는 정보를 제거한 뒤 데이터를 공개했지만, 연구자들은 공개된 영화 평가 사이트의 정보와 이를 비교하여 일부 이용자를 다시 식별할 가능성을 보여주었다.

즉, 식별자를 지우는 것과 익명화는 같은 의미가 아님을 알 수 있다.

AI 시대에는 재식별 문제가 더 까다로워진다

생성형 AI의 등장 이후 이 문제는 한층 복잡해지고 있다.

과거에는 사람이 여러 데이터베이스를 직접 비교하면서 개인을 찾아냈다면, 이제는 AI가 방대한 데이터 사이의 관계와 패턴을 분석할 수 있기 때문이다. 개별적으로는 의미가 없어 보이는 정보도 여러 조각을 연결하면 한 사람을 상당히 구체적으로 추론할 수 있다.

AI 학습 과정 자체에서도 새로운 문제가 생긴다. 학습 데이터에서 직접 식별자를 제거했더라도 모델이 데이터에 포함된 특징이나 패턴을 학습하면서 특정 개인과 밀접하게 연결된 정보를 기억할 가능성이 있기 때문이다.

특히 특정 정보가 학습 데이터에서 반복적으로 등장하거나 매우 독특한 조합을 가지고 있다면 모델이 이를 일반적인 패턴으로 학습하는 대신 사실상 '암기'할 가능성도 존재한다. 이후 특정한 질문이나 공격을 통해 학습 데이터의 일부가 모델의 출력으로 드러난다면, 처음 데이터셋을 만들 때 수행했던 익명화만으로는 충분했다고 단정하기 어려워진다.

결국 AI 시대의 익명화는 단순히 "학습시키기 전에 이름을 잘 지웠는가”만의 문제가 아니다.

익명화된 데이터가 다른 정보와 결합됐을 때 개인을 다시 식별할 수 있는지, 그리고 AI 모델을 통해 원래 정보가 다시 노출될 가능성은 없는지까지 고려해야 하는 문제가 된 것이다.

한 번 익명정보가 되면 영원히 익명정보일까

여기서 더 어려운 질문이 생긴다.

현재 기술로는 개인을 알아볼 수 없도록 충분히 익명화했다고 판단한 데이터가 몇 년 뒤에도 익명정보라고 할 수 있을까?

개인정보보호법 역시 익명 여부를 판단할 때 단순히 기술적으로 '절대 복원이 불가능한가'만을 보는 것이 아니라 시간, 비용, 기술 등을 합리적으로 고려한다. 이는 익명성이 고정된 속성이라기보다 당시의 기술과 데이터 환경에 영향을 받을 수 있는 개념이라는 점을 보여준다.

오늘은 개인을 찾아내는 데 막대한 비용과 전문기술이 필요하더라도, 미래에는 AI 기술의 발전으로 같은 작업이 훨씬 쉬워질 수 있다. 새로운 공개 데이터가 등장하면서 과거에는 연결할 수 없었던 정보들이 연결될 수도 있다.

특히 장기간 데이터를 보관하거나 반복적으로 AI 학습에 사용하는 기업이라면 익명화 당시의 조치뿐 아니라 시간이 지나면서 재식별 위험이 어떻게 변화하는지도 함께 살펴볼 필요가 있다.

개인정보를 없애는 기술이 아니라, 위험을 관리하는 과정

결국 익명화의 핵심은 이름 몇 글자를 지우는 데 있지 않다.

직접 식별자를 제거하고, 개인을 특정할 가능성이 높은 속성을 일반화하거나 삭제하고, 다른 데이터와 결합했을 때 발생할 수 있는 위험을 평가해야 한다. 필요하다면 데이터 접근 권한이나 이용 환경 자체를 제한하는 관리적·기술적 조치도 함께 적용해야 한다.

AI 학습에서도 마찬가지다. 학습 전 데이터만 익명화하고 끝내는 것이 아니라 학습 데이터가 모델을 통해 다시 노출될 가능성까지 포함하여 전체 생애주기에서 위험을 살펴볼 필요가 있다.

AI가 더 많은 데이터를 연결하고 더 정교하게 사람을 추론할 수 있게 될수록 익명정보와 개인정보 사이의 경계 역시 단순하게 그어지기 어려워질 것이다.

개인정보를 AI가 활용할 수 있도록 만드는 것과 개인을 다시 알아볼 수 없도록 만드는 것. AI 시대의 익명화는 이 두 목표 사이에서 적절한 균형을 찾아가는 과정이 되어야 한다.

[참고자료]

  1. 개인정보보호위원회, 「개인정보 보호법」 제2조(개인정보·가명정보의 정의)
  2. 개인정보보호위원회, 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」(2025.8.)
  3. European Data Protection Board(EDPB), 「Guidelines 02/2026 on Anonymisation」(2026.7.)https://www.edpb.europa.eu/public-consultations/guidelines-022026-anonymisation_en
  4. European Data Protection Board(EDPB), 「Guidelines 01/2025 on Pseudonymisation」(2025.)https://www.edpb.europa.eu/our-work-tools/documents/public-consultations/2025/guidelines-012025-pseudonymisation_en
  5. NIST, 「De-Identifying Government Datasets: Techniques and Governance (SP 800-188)」(2023.)https://csrc.nist.gov/pubs/sp/800/188/final
  6. NIST, 「De-Identification of Personal Information (NISTIR 8053)」(2015.)https://csrc.nist.gov/pubs/ir/8053/final
  7. Narayanan & Shmatikov, 「How To Break Anonymity of the Netflix Prize Dataset」(2006.)https://arxiv.org/abs/cs/0610105
첨부 이미지

📊 KISA 보고서로 정리하는 2026년 상반기 국내 보안 현황

2026년 상반기, 우리는 어떻게 공격받았나

2026년 상반기에도 국내 기업과 기관을 대상으로 한 사이버 공격이 이어졌다.

과학기술정보통신부와 한국인터넷진흥원(KISA)이 발표한 「2026년 상반기 국내 사이버위협 동향」에 따르면, 올해 상반기 KISA에 접수된 침해사고는 1,236건으로 지난해 상반기 1,034건보다 19.5% 증가했다. 특히 DDoS 공격과 랜섬웨어 신고가 크게 늘었다.

유형2025년 상반기2026년 상반기증감
서버 해킹531건487건▼ 8.3%
DDoS238건373건▲ 56.7%
랜섬웨어82건145건▲ 76.8%
전체 침해사고1,034건1,236건▲ 19.5%

그렇다면 이러한 통계는 실제 국내에서 어떤 모습으로 나타났을까. 상반기 국내 언론에 보도된 주요 사고를 통해 살펴보자.



[출처] - ChatGPT
[출처] - ChatGPT

랜섬웨어: 시스템을 고장내고, 데이터를 탈취하다

KISA 통계에서 가장 큰 증가폭을 보인 유형은 랜섬웨어였다. 상반기 신고 건수는 145건으로 전년 동기 대비 76.8% 증가했다. KISA는 랜섬웨어가 데이터를 암호화하는 데 그치지 않고, 중요 정보를 먼저 탈취한 뒤 공개를 빌미로 추가적인 금전을 요구하는 이중 갈취 방식으로 이어지고 있다고 설명했다.

실제 사례에서도 이러한 양상을 확인할 수 있다.

지난 1월 교원그룹은 랜섬웨어 공격으로 가상 서버 약 600대가 암호화됐고, 홈페이지와 영업관리 시스템 등 주요 서비스에 장애가 발생했다. 당시 약 554만 명의 이용자가 영향권에 포함될 수 있는 것으로 추정됐으며, 교원그룹은 데이터 외부 유출 정황도 확인해 관계 기관과 조사를 진행했다.

이 사례를 보면 상반기 랜섬웨어 공격은 단순한 파일 암호화뿐 아니라 서비스 중단과 정보 유출이 함께 발생하는 형태로 나타나고 있었다.

개인정보 유출: 다양한 공격 경로

상반기에는 대규모 개인정보 유출 사고도 발생했다.

대표적인 사례가 티빙 개인정보 유출 사고다. 6월 공개된 자료에 따르면 피해 규모는 약 1,953만 명으로 파악됐다(6월22일 기준). 유출 정보에는 아이디, 이름, 생년월일, 비밀번호, 환불 계좌번호와 함께 CI·DI 등이 포함된 것으로 알려졌다.

티빙 사례에서 주목할 부분은 개인정보 자체뿐만 아니라 클라우드 접근 권한과 개발 환경의 관리 문제다. ZDNet은 사고와 관련해 GitHub에 AWS 액세스 키가 노출됐을 가능성이 제기됐으며, 이후 해당 키와 계정 인증정보를 폐기·교체하는 조치가 이뤄졌다고 보도했다. 다만 구체적인 원인과 책임은 관계 기관의 조사를 통해 확인될 부분이다.

또 다른 사례로 6월에는 중소벤처기업부와 창업진흥원이 운영한 ‘모두의 창업’ 플랫폼에서 API를 통한 정보 노출이 발생했다. 조사 결과 1차 합격자 프로필 페이지와 연결된 백엔드 API가 비정상적으로 호출됐으며, 최대 5,000명의 정보 피해가 발생했다. 그 항목에는 이메일 주소, 심사평, 200자 이내 창업 아이디어 요약이 포함된다.

즉, 개인정보 유출은 하나의 공격 방식으로 설명하기 어렵다. 클라우드 접근 권한, 개발 환경, API 등 기업이 운영하는 여러 접점이 개인정보 유출로 이어질 수 있었다.

DDoS: 가장 크게 증가한 공격

DDoS 역시 상반기 눈에 띄는 변화 중 하나다. KISA에 신고된 DDoS 공격은 지난해 상반기 238건에서 올해 373건으로 56.7% 증가했다.

KISA는 이러한 증가와 관련해 국제 핵티비스트 그룹의 국내 기업·기관 대상 공격을 주요 위협 중 하나로 꼽았다. 이들의 공격은 정보를 탈취하기보다는 웹사이트나 인터넷 서비스의 가용성을 떨어뜨리는 것을 주요 목적으로 하는 것으로 분석됐다.

따라서 DDoS는 개인정보 유출과는 피해 형태가 다르다. 정보를 가져가는 공격의 경우 기밀성의 위협, 서비스를 멈추는 공격의 경우 가용성의 위협이 존재하는데, 상반기에는 후자에 해당하는 공격도 크게 증가한 셈이다.

결론

상반기 국내 사이버 사고를 한 문장으로 정리하면 ‘사고 건수는 증가했고, 특히 DDoS와 랜섬웨어의 증가폭이 컸다’고 볼 수 있다. 또한, KISA의 통계를 실제 사건과 함께 살펴보면 몇 가지 공통점을 확인할 수 있다.

첫째, 랜섬웨어 피해가 특정 산업에만 집중되지 않았다. 교육·생활문화 기업인 교원그룹부터 해당 기사에 담지 못한 사례를 포함하여 여러 업종에서 사고가 발생했다.

둘째, 하나의 시스템만 보호하는 것으로 끝나지 않는 사고가 나타났다. 티빙 사례에서는 클라우드 접근 권한과 개발 환경이 문제로 지목됐고, 모두의 창업 사례에서는 API를 통한 정보 노출이 발생했다.

셋째, 공격의 목적도 다양하다. 랜섬웨어는 시스템 중단과 정보 유출을 동시에 노릴 수 있고, DDoS는 서비스 가용성 자체를 떨어뜨리는 방식으로 나타났다.

다만 신고 건수는 실제 발생한 모든 사고의 규모와 동일하지 않다. 따라서 이러한 수치를 국내 전체 사이버 공격의 절대적인 발생량으로 해석하기보다는, KISA에 신고·접수된 침해사고의 동향을 보여주는 지표로 보는 것이 적절하다.

[참고자료]

  1. 상반기 사이버 침해사고 1천236건…디도스·랜섬웨어 기승, 연합뉴스 - https://www.yna.co.kr/amp/view/AKR20260730070900017
  2. 교원그룹 서버 600대·이용자 960만명 안팎 '해킹사고' 영향권 - https://www.yna.co.kr/view/AKR20260114052900030?utm_source=chatgpt.com
  3. 랜섬웨어부터 개인정보 유출까지…올해도 계속된 침해사고 - https://zdnet.co.kr/view/?no=20260708012913
  4. 랜섬웨어 경보…상반기 사고 80% 폭증 - https://www.etnews.com/20260729000273
  5. 티빙 개인정보 유출 피해 1953만명… 역대 4번째 규모 - https://biz.chosun.com/industry/business-venture/2026/06/22/ZC3PPK2EXZELPB63BATXFNMIF4/?outputType=amp
  6. 2026년 상반기 사이버위협 동향, 기업이 주목해야 할 5가지 보안 이슈 - https://www.ahnlab.com/ko/contents/content-center/36241
첨부 이미지

🎭 AI 학습에 개인정보를 써도 될까?(08/20 개인정보 처리 특례 개정안 통과를 배경으로)

  출처: 개인정보보호위원회, facebook 게시글  
  출처: 개인정보보호위원회, facebook 게시글  

국회 통과한 개인정보 보호법 개정안, AI 데이터 활용의 법적 경계는 어떻게 달라지나

인공지능(AI)의 성능을 높이기 위해서는 충분한 양과 품질의 학습데이터가 필요하다. 그러나 AI가 학습하는 영상·음성·이미지·텍스트에는 개인을 식별할 수 있는 정보가 포함될 수 있다. 개인정보를 제거하거나 가명처리하면 개인정보 침해 위험은 낮아지지만, 데이터의 특성이 훼손돼 AI 학습에 활용하기 어려워지는 경우도 있다.

이처럼 AI 개발을 위한 데이터 활용과 개인정보 보호 사이의 긴장이 커지는 가운데, 새로운 법적 경로를 마련하는 「개인정보 보호법 일부개정법률안」이 지난 8월 20일 국회 본회의를 통과했다.

이번 개정안의 핵심은 일정한 요건을 갖추고 개인정보보호위원회의 심의·의결을 받은 경우, 기존에 적법하게 수집한 개인정보를 AI 기술 개발을 위해 이용할 수 있도록 별도의 특례를 마련하는 것이다. 동시에 고위험 개인정보 처리에 대한 위험요인 평가와 공개, 개인정보위의 사후 관리·감독도 함께 도입한다.

다만 국회 본회의에서 의결된 개정안은 8월 28일 정부에 이송됐으며, 앞으로 국무회의 의결과 공포 절차를 거쳐야 한다. 개인정보위에 따르면 해당 개정안은 공포 후 6개월이 지난 시점부터 시행될 예정이다.

왜 AI에는 별도의 개인정보 활용 근거가 필요했을까

현행 「개인정보 보호법」은 개인정보를 적법한 처리 근거에 따라 수집하고 그 목적 범위에서 이용하도록 규정하고 있다. 수집 목적을 넘어 개인정보를 이용하려면 별도의 동의를 받거나 법률에 특별한 규정이 있는 경우 등 법에서 정한 근거가 필요하다. 물론 동의를 받지 않고 데이터를 활용할 수 있는 제도가 전혀 없는 것은 아니다.

2020년 데이터 3법 개정으로 도입된 가명정보 제도에 따라 개인정보처리자는 통계작성, 과학적 연구, 공익적 기록보존 등을 위해 정보주체의 동의 없이 가명정보를 처리할 수 있다. 하지만 AI 개발에서는 가명정보만으로 해결하기 어려운 문제가 제기돼 왔다. 예를 들어 보이스피싱 탐지 기술이 실제 사람의 음성과 억양을 분석하거나 자율주행로봇이 실제 환경에서 촬영된 영상 데이터를 학습한다고 가정해 보자. 개인정보를 제거하거나 과도하게 변형하면 AI가 학습해야 하는 특징까지 사라질 수 있다.

개인정보위도 현행 제도에서는 정보주체의 동의나 계약 등을 통해 적법하게 수집한 개인정보를 다른 목적으로 이용하려면 별도 동의나 법률상 근거가 필요하고, 그렇지 않은 경우 가명·익명정보 형태로 활용해야 해 AI 개발 현장에서 어려움이 있었다고 설명했다. 실제로 그동안 보이스피싱 예방이나 자율주행로봇 개발처럼 개인정보가 포함된 영상·음성 데이터가 필요한 일부 서비스는 규제샌드박스를 활용해 예외를 인정받아 왔다.그러나 규제샌드박스는 기본 2년, 최대 4년이라는 한시적 특례라는 한계가 있다. 개인정보위는 산업진흥 목적의 개별 규제특례만으로는 개인정보 보호를 위한 충분한 안전장치와 전문적인 감독체계를 갖추기 어렵다는 점도 별도의 법적 근거가 필요한 이유로 들었다.

즉 이번 개정안은 단순히 “AI 기업이 데이터가 필요하다”는 이유만으로 등장한 것이 아니라, 가명·익명정보만으로는 개발하기 어려운 AI 영역에서 개인정보를 어떤 조건으로 활용할 것인지에 대한 일반적인 법적 기준을 마련하려는 시도라고 볼 수 있다.

논의는 2025년 두 개의 의원안에서 본격화됐다

이번 개정안의 직접적인 입법 출발점은 2025년으로 거슬러 올라간다.

2025년 1월 31일 민병덕 의원 등 10인은 「개인정보 보호법 일부개정법률안」을 발의했다. 민 의원안은 AI 기술 발전을 뒷받침하기 위해 충분한 학습데이터 확보가 필요하다는 점과 함께 사회적 안전망 확보, 범죄예방 등 공익성이 높은 분야에서 개인정보가 포함된 데이터 활용 필요성이 증가하고 있다는 점을 제안 이유로 들었다. 그러면서 단순히 데이터 활용만 확대하는 것이 아니라 민감정보·고유식별정보 등 권리침해 가능성이 높은 개인정보 처리에 대해서는 위험요인을 평가하고, 개인정보 처리 현황을 공개하며, 개인정보위가 사후적으로 이행 여부를 감독하는 구조를 제안했다.

이어 2025년 3월 13일에는 고동진 의원 등 10인이 별도의 개정안을 발의했다. 고 의원안 역시 글로벌 AI 경쟁이 심화되는 상황에서 첨단의료·모빌리티·로보틱스 등 신산업과 재난·범죄예방 등 공익적 분야에서 개인정보가 포함된 데이터 활용 필요성이 커지고 있다는 문제의식을 제시했다.

두 법안은 국회 정무위원회 심사 과정에서 통합·조정됐다. 정무위원회는 2026년 5월 14일 위원회 대안을 의결했고, 법제사법위원회는 7월 29일 이를 수정가결했다. 같은 날 정무위원장 명의의 「개인정보 보호법 일부개정법률안(대안)」, 의안번호 제2220246호가 본회의에 제출됐고, 8월 20일 제438회 국회 임시회 본회의에서 원안가결됐다. 이후 8월 28일 정부로 이송됐다.

따라서 이번 개정안은 특정 시점에 갑자기 등장한 정책이라기보다 AI 데이터 활용을 위한 별도 법적 근거와 그에 상응하는 보호·감독 체계를 마련하려는 논의가 국회에서 통합된 결과라고 할 수 있다.

개정안이 시행되면 무엇이 달라질까

가장 중요한 변화는 기존에 적법하게 수집한 개인정보를 AI 기술 개발을 위한 다른 목적으로 이용할 수 있는 별도의 특례가 생긴다는 점이다. 그러나 모든 AI 개발에 개인정보를 자유롭게 이용할 수 있게 되는 것은 아니다.

국회를 통과한 최종 대안에 따르면 특례를 적용받기 위해서는 몇 가지 요건을 모두 충족해야 한다. 우선 익명처리 또는 가명처리만으로는 AI 기술 개발이 곤란해야 한다. 또 개인정보의 안전한 처리를 위한 안전장치를 마련해야 하며, AI 개발이 공공의 이익 또는 사회적 이익 증진 등을 위한 경우로서 정보주체나 제3자의 이익을 부당하게 침해할 우려가 현저히 낮아야 한다. 그리고 이러한 요건을 충족했다는 기업이나 기관의 자체 판단만으로 개인정보를 이용할 수 있는 것도 아니며, 개인정보보호위원회의 심의·의결을 거쳐야 한다. 따라서 이번 특례는 “AI를 개발한다”는 사실 자체를 새로운 개인정보 처리 근거로 인정하는 구조와는 다르다. 가명·익명처리가 어려운 이유, AI 개발 목적의 공익·사회적 필요성, 개인정보 침해 가능성, 안전조치 등을 개별적으로 검토한 뒤 개인정보위가 이를 심의하도록 하는 구조에 가깝다. 또 하나 주의할 점은 특례 대상이 기존에 적법하게 수집한 개인정보’라는 것이다.

이번 개정안이 시행되더라도 이를 근거로 AI 기업이 필요한 개인정보를 제한 없이 새롭게 수집할 수 있게 되는 것은 아니다. 개인정보를 처음 수집하는 단계에서는 여전히 「개인정보 보호법」상 적법한 수집 근거가 필요하다. 특례는 그렇게 적법하게 확보한 개인정보를 AI 기술 개발 목적으로 이용할 수 있는 별도의 경로를 마련하는 데 초점이 있다.

민감정보·고유식별정보를 다룬다면 ‘위험요인평가’

개정안은 개인정보 활용 범위를 넓히는 대신 위험도가 높은 개인정보 처리에는 추가적인 책임도 부과하는 방향으로 설계됐다. 최종 대안에 따르면 민감정보·고유식별정보 처리 여부와 정보주체의 권리 또는 이익에 미치는 영향, 위험 정도 등을 고려해 대통령령으로 정하는 기준에 해당하는 경우 개인정보위의 심의·의결에 앞서 위험요인을 평가해야 한다. 평가의 주요 내용 역시 공개 대상이 된다.

특례가 시행될 경우 AI 개발자는 단순히 “개인정보가 필요하다”고 주장하는 것에 그치지 않고, 해당 개인정보를 처리했을 때 어떤 위험이 발생할 가능성이 있고 이를 어떻게 줄일 것인지까지 사전에 검토해야 하는 셈이다. 이는 최근 개인정보 정책에서 강조되는 위험 기반 접근과도 연결된다.

승인으로 끝나지 않는다…개인정보위의 사후 감독

이번 개정안은 사전 심의뿐 아니라 사후 관리·감독도 규정하고 있다. 개인정보위는 특례와 관련한 심의·의결 사항이 제대로 이행되고 있는지를 주기적으로 관리·감독할 수 있게 된다. 거짓이나 부정한 방법으로 특례를 적용받았거나 특례 적용 요건을 충족하지 못하게 된 경우 등에는 개인정보 처리를 제한할 수 있도록 하는 규정도 포함됐다. 이미 심의를 거친 AI 기술·서비스와 내용·방식·형태 등이 실질적으로 동일하거나 유사한 경우에는 심의 절차를 간소화할 수 있는 근거도 마련된다. 이는 모든 기업이 동일한 사안을 처음부터 반복 심사받는 부담을 낮추기 위한 장치다.

결국 개정안의 구조는 크게 보면 “사전 요건 충족 → 개인정보위 심의·의결 → 필요한 경우 위험요인평가 → 개인정보 활용 → 공개 및 사후 감독” 으로 이어진다고 볼 수 있다.

이번 개정은 더 큰 개인정보 제도 변화의 일부

이번 AI 특례를 하나의 독립된 예외조항만으로 바라보면 최근 개인정보 정책의 흐름을 놓칠 수 있다.

개인정보위는 이미 2024년 7월 「인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서」를 마련해 인터넷 등에 공개된 개인정보를 AI 개발에 활용할 때 적용할 기준을 제시했다. 같은 해 12월에는 「AI 프라이버시 리스크 관리 모델」을 발표해 AI의 유형과 활용 맥락에 따라 생애주기 전반의 프라이버시 위험을 식별하고 관리하는 방식을 제시했다.

2025년에는 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」를 통해 생성형 AI의 개발·활용 과정에서 발생하는 개인정보 처리와 보호 이슈를 AI 수명주기 단계별로 정리했다.

그리고 2026년 정책 방향은 보다 구조적인 제도개편으로 확대되고 있다. 개인정보위는 지난 7월 발표한 「제3차 개인정보 보호 기본계획(2027~2029)」에서 AI 환경 이전에 설계된 일률적인 규율을 개선하고, 위험에 비례한 원칙 중심의 개인정보 보호체계로 전환하겠다는 방향을 제시했다. 에이전틱 AI의 책임구조, 피지컬 AI의 상시적인 정보 수집, 프라이버시 위험평가, AI 보안점검 등도 향후 검토·제도화할 과제로 제시했다.

8월에는 논의가 한 단계 더 나아갔다. 개인정보위는 7월 30일 「개인정보 제도 혁신 TF」를 구성하고 8월 6일부터 31일까지 AI 시대 개인정보 제도 개편에 대한 국민·기업·연구기관·학계·시민사회 등의 의견을 받고 있다. 개인정보위는 현행 개인정보 법체계가 30여 년 전의 디지털 환경을 토대로 형성됐고, 개별적 동의 중심 규율과 수집·이용·제공 단계별 규율이 핵심 구조로 유지되고 있다고 평가했다.

반면 AI 환경에서는 비정형데이터에 제3자의 개인정보가 함께 포함되고, 여러 기관이 데이터를 연계하며, AI 에이전트가 다른 서비스와 상호작용하는 등 기존과 다른 개인정보 처리 형태가 등장하면서 기존 동의 중심 구조만으로는 실질적인 보호와 데이터 활용 모두에 한계가 있다는 문제도 제기되고 있다. 개인정보위는 올해 안에 AI 시대 개인정보 제도 혁신 방향을 마련할 계획이다. 이번 AI 개인정보 활용 특례는 바로 이러한 흐름과 맞닿아 있다.

‘동의를 받았는가’에서 ‘위험을 어떻게 통제했는가’까지

그렇다고 동의 원칙이 사라지거나 개인정보 보호법이 전면적인 위험 기반 규제로 바뀐다고 단정하기는 이르다. 다만 최근 정책 방향과 이번 개정안에서는 기존의 적법처리 근거를 확인하는 것에 더해 처리의 필요성과 위험, 안전조치, 투명성, 사후 책임을 함께 평가하려는 경향이 보다 뚜렷하게 나타난다.

이번 특례가 시행되면 AI 개발 과정에서 다음과 같은 질문이 더욱 중요해질 가능성이 있다. “왜 원본 개인정보가 필요한가.”, “가명정보나 익명정보로는 정말 개발하기 어려운가.”, “AI 개발이 가져올 공공적·사회적 이익은 무엇인가.”, “정보주체에게 발생할 수 있는 위험은 어느 정도인가.”, “그 위험을 줄이기 위해 어떠한 기술적·관리적 보호조치를 적용했는가.”

개인정보를 AI에 활용할 수 있는지에 대한 판단이 단순한 동의 여부를 넘어 데이터 활용의 필요성과 위험을 종합적으로 설명하고 관리하는 문제로 확장될 수 있다는 의미이다.

가장 중요한 내용은 아직 남아 있다…시행령이 정할 세부기준

국회가 법안을 통과시켰다고 해서 제도가 모두 완성된 것은 아니다. 최종 대안은 안전장치의 구체적인 내용이나 위험요인평가 대상이 되는 기준 등 여러 사항을 대통령령에서 정하도록 하고 있다.

따라서 향후 하위법령에서는 적어도 다음과 같은 쟁점이 중요해질 것으로 보인다. 어느 정도까지 가명·익명처리가 어려워야 특례 대상이 되는지, AI 개발에 요구되는 기술적·관리적 안전조치의 수준은 무엇인지, 어떤 민감정보 처리에 위험요인평가를 요구할 것인지, 공공의 이익이나 사회적 이익을 어떤 기준으로 판단할 것인지 등이다. 개인정보위 역시 법 시행 전까지 전문가와 산업현장의 의견을 수렴해 AI 특례 운영방안과 하위법령을 마련할 계획이라고 밝혔다.

따라서 기업 입장에서 이번 개정안의 본회의 통과는 개인정보를 즉시 AI 학습에 사용할 수 있다는 의미라기보다, 앞으로 어떤 조건을 충족하면 기존 개인정보를 AI 기술 개발에 활용할 수 있는지가 법률 차원에서 처음 구체화되기 시작했다는 의미에 가깝다.

의료·모빌리티·보안 AI에는 어떤 영향을 미칠까

법안이 공포되고 시행되면 가장 직접적으로 영향을 받을 가능성이 있는 분야는 영상·음성·생체정보 등 원본 데이터의 특성이 AI 성능과 밀접한 분야다. 입법 과정에서는 첨단의료·모빌리티·로보틱스, 사회적 안전망, 재난 및 범죄예방 등이 개인정보가 포함된 데이터 활용 필요성이 큰 분야로 제시됐다.

보안 분야도 무관하지 않다. 보이스피싱 탐지, 이상행위 탐지, 사기 방지 등에서는 실제 이용자의 음성이나 행위 패턴 등 개인정보가 포함된 데이터를 활용할 필요성이 발생할 수 있다. 실제 개인정보위도 규제샌드박스를 통해 보이스피싱 예방을 위한 개인정보 활용 사례를 허용해 왔다고 설명하고 있다.

특례가 시행되면 이러한 AI 서비스 가운데 법률상 요건을 갖춘 경우 규제샌드박스와 같은 한시적 예외가 아니라 개인정보 보호법에 근거한 심의 절차를 통해 데이터를 활용할 수 있는 가능성이 열리게 된다.

반대로 AI 기업에는 새로운 책임도 요구될 수 있다. 학습데이터에 누가 접근했는지, 데이터는 어떤 환경에서 저장·처리되는지, 개인정보가 AI 개발 목적에 필요한 최소한의 범위인지, 위험평가에서 확인된 위험을 실제로 줄였는지 등 데이터 거버넌스와 보안 통제의 중요성이 더욱 커질 것으로 보인다.

개인정보위가 제3차 개인정보 보호 기본계획에서 AI 보안점검 제도화와 프라이버시 리스크 대응, 개인정보보호강화기술(PET) 연구개발 등을 추진과제로 제시한 것도 같은 맥락에서 주목할 필요가 있다.

개인정보 활용의 문을 넓히되, 책임도 함께 묻는 방향으로

이번 개정안을 단순히 ‘AI 산업을 위한 개인정보 규제 완화’라고 평가하기에는 법안의 구조가 단순하지 않다. 가명·익명정보만으로 AI 개발이 어려운 경우 개인정보를 이용할 수 있는 새로운 가능성을 마련하지만, 동시에 공공·사회적 이익과 정보주체의 권익을 따지고, 개인정보위의 사전 심의, 위험요인평가, 공개, 사후 감독이라는 장치를 함께 둔다. 개인정보 활용 범위를 넓히는 대신 그 활용이 왜 필요한지, 어떤 위험이 있는지, 이를 어떻게 관리할 것인지에 대한 책임도 함께 강화하려는 구조다.

그리고 이 변화는 최근 개인정보위가 추진하는 위험비례 규율과 AI 시대 개인정보 보호체계 재설계라는 더 큰 정책 흐름 속에서 진행되고 있다. 본회의를 통과한 개정안은 정부로 이송됐으며 앞으로 공포 절차와 하위법령 마련이 남아 있다. 실제 제도가 어떻게 작동할지는 개인정보위가 마련할 세부 심의기준과 위험요인평가 기준, 안전조치 수준 등에 따라 달라질 가능성이 크다. 따라서 지금 던져야 할 질문은 단순히 “앞으로 AI가 개인정보를 학습할 수 있게 되는가”만은 아니다. 오히려 더 중요한 질문은 “어떤 개인정보를, 어떤 AI 개발에, 어떤 조건과 책임 아래 활용하도록 허용할 것인가.” 이다.

국회 본회의를 통과한 이번 개인정보 보호법 개정안은 그 질문에 대한 첫 번째 법률적 기준을 제시하고 있다.

[참고자료]

  1. 국회 정무위원회. (2026). 「개인정보 보호법 일부개정법률안(대안)」, 의안번호 제2220246호, 2026. 7. 29.
  2. 민병덕 외 9인. (2025). 「개인정보 보호법 일부개정법률안」, 의안번호 제2207858호, 2025. 1. 31.
  3. 고동진 외 9인. (2025). 「개인정보 보호법 일부개정법률안」, 의안번호 제2208904호, 2025. 3. 13.
  4. 개인정보보호위원회. (2026). “안전한 인공지능 개발을 위한 개인정보 활용 특례 신설: 「개인정보 보호법」 개정안 국회 본회의 통과”, https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=&nttId=12391, 2026. 8. 20.
  5. 개인정보보호위원회. (2026). 「제3차 개인정보 보호 기본계획(2027~2029)」, 2026.
  6. 개인정보보호위원회. (2024). 「안전한 인공지능(AI)·데이터 활용을 위한 AI 프라이버시 리스크 관리 모델」, 2024. 12.
  7. 개인정보보호위원회. (2025). 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」, 2025.
  8. 개인정보보호위원회. (2026). 「가명정보 처리 가이드라인」, 2026. 3.
첨부 이미지

📢 신규 '친구 초대 누적 레이스' 안내

안녕하세요, BoB 뉴스레터 구독자 여러분!

매달 뜨거운 성원을 보내주셨던 ‘BoB 뉴스레터 퀴즈 이벤트’가 예산상의 이유로 6월호를 마지막으로 잠정 중단하게 되었습니다. 그동안 퀴즈에 적극적으로 참여하며 반짝이는 보안 지식을 나눠주신 모든 분께 진심으로 감사드립니다.

하지만 아쉬워하긴 이릅니다! 더욱 묵직한 혜택을 담은 장기 프로젝트가 찾아옵니다! 💎

퀴즈 이벤트의 아쉬움을 달래기 위해, 2026년 7월호 부터 [BoB 뉴스레터 친구 초대 누적 레이스]를 새롭게 시작합니다.

  • 참여 방법:
    • 이메일로 발송된 뉴스레터 하단의 [공유하기] 버튼을 눌러 주변에 공유합니다.
    • 친구가 해당 링크를 통해 뉴스레터를 구독하면 나만의 포인트가 차곡차곡 적립됩니다.
  • 진행 방식:
    • 매달 정산하는 방식이 아닌, 4개월(7월~10월) 동안 포인트를 누적하는 장기 레이스입니다.
    • 4개월 후, 누적 포인트가 높은 순서대로 많은 분께 이벤트 상품을 드립니다! 🎁

주변에 보안 트렌드를 함께 나누고 싶은 분들이 있다면, 이번 호 링크를 활용해 지금부터 미리미리 나만의 초대 포인트를 빌드업해 두세요! 😉


E D I T O R

첨부 이미지
첨부 이미지
첨부 이미지
첨부 이미지

🚨 BoB 가족들의 소중한 소식을 기다리고 있습니다. 🚨

함께 공유하고 싶은 소식, 수상 내역, 행사기타 소소한 일상까지 구독자분들의 공유를 기다립니다.

- 함께 만들어가는 BoB 뉴스레터 -  


bobnews@bobnews.kr

Best of the Best 뉴스레터팀 7기

 

(13449) 경기도 성남시 수정구 대왕판교로 815(시흥동 321) 기업지원허브 혁신기술존 4층

대표번호: 02-405-6512~5 | Fax: 02-565-6052


 

 

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

BoB Newsletter 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

다른 뉴스레터

© 2026 BoB Newsletter

BoB 소식지: 보안 소식을 전달합니다.

뉴스레터 문의bobnews@bobnews.kr

메일리 로고

도움말 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so 채팅으로 문의하기

메일리 사업자 정보

메일리 (대표자: 이한결) | 대표번호: 070-8027-1409 | 사업자번호: 717-47-00705 | 서울특별시 송파구 위례광장로 199, 5층 501-2-31호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스