🔒[시큐리티핫이슈] AI에 울고 웃고...보안판 흔드는 AI의 두얼굴

구독자님을 위한 디지털투데이 [시큐리티핫이슈] 주간 뉴스레터!

디지털투데이가 발행하는 테크 뉴스레터입니다. 매일 아침 주 5회 ▲월(AI) ▲화(핀테크) ▲수(모빌리티) ▲목(크립토) ▲금(시큐리티) 등 분야별 이슈를 엄선한 주간 핫이슈 뉴스레터로 독자 여러분을 찾아 갑니다. 간편하고 빠르게 글로벌 최신 IT 트렌드와 K컬처 소식을 파악해 당신의 경쟁력을 높여보세요.

[시큐리티 간추린 뉴스]

   [사진: 구글 제미나이]

AI로 보안 위협을 막기도 하지만, AI가 인간의 통제 밖에서 보안을 위협할 수 있다는 우려도 커지고 있다. 최근 오픈AI가 테스트 중인 AI 에이전트가 통제 환경을 꺠고 나와 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사실이 공개되면서 이같은 우려는 더욱 힘을 받는 모양새다.

통제 벗어난 오픈AI AI 에이전트, 모달랩스 고객 계정도 침해

오픈AI가 시험 운용하던 AI 에이전트는 허깅페이스를 공격하는 과정에서 모달랩스(Modal Labs) 고객 시스템도 침해한 것으로 확인됐다. 오픈AI 에이전트는 모달랩스에 구축된 격리된 테스트 환경(샌드박스)에 먼저 침입한 뒤 이를 발판으로 허깅페이스에 대한 대규모 공격을 수행했다.

 앤트로픽 클로드 코워크도 AI가 통제된 환경을 벗어날 수 있다는 지적이 있다. 보안업체 어컴플리시AI(Accomplish AI)는 클로드 코워크 AI 에이전트가 리눅스 취약점을 이용해 가상머신(VM)을 탈출한 뒤 맥 운영체제 파일에 접근할 수 있음을 시연했다. 

 AI 모델을 겨냥한 랜섬웨어도 등장했다. 미국 보안업체 시스디그(Sysdig)는 동일한 공격자가 인터넷에 노출된 랭플로우(Langflow) 서버를 두 차례 침해했으며, 두 번째 공격에서는 AI 모델을 겨냥한 전용 랜섬웨어 'ENCFORGE'를 사용했다고 밝혔다.

 AI가 보안에 의미 있는 역할을 하는 사례들도 계속 나오고 있다. 앤트로픽은 AI 모델 미토스로 양자내성암호(PQC) 후보 알고리즘 HAWK에서 근본적인 약점을 찾아 관심을 끌었다.

취약점 탐지부터 추론까지…보안 특화 AI 모델 쏟아진다

소프트웨어 취약점을 찾아 문제를 해결할 수 있도록 지원하는데 초점이 맞춰진 보안 특화 AI 모델 경쟁도 고조되고 있다.

 마이크로소프트 본사 김태수 에이전틱 보안 부사장은 최근 열린국제해킹방어대회 및 보안 컨퍼런스인 코드게이트 2026에서  "대형언어모델(LLM)은 매우 뛰어난 역량을 보이는 동시에 기초적인 실수를 저지르는 이중적 존재"라며 "어떤 문제를 AI에게 맡기고 사람이 판단할지 구분하는 작업이 AI 활용에 있어 핵심"이라고 강조했다.

 AI 시대 소프트웨어와 에이전트를 보호하기 위한 개방형 기술과 기법, 도구를 개발하고 공유하는 연합체인 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’가 엔비디아와 글로벌 기업들 주도로 출범한다.

 그 외 보안을 둘러싼 국내외 기업들 행보와 이슈를 정리했다.

   [사진: 셔터스톡]

한컴위드, NH손보에 안면인증 솔루션 '한컴오스' 공급

아이티센피엔에스는 암호모듈 ‘엣지크립토(EdgeCrypto) v4.2’에 양자내성암호(PQC) 기반 하이브리드 암호방식을 적용해 암호모듈검증(KCMVP) 인증을 취득했다. 한컴그룹 지주회사 역할을 하는 한컴위드가 NH농협손해보험과 안면인증 솔루션 ‘한컴오스(Hancom Auth)’ 공급 계약을 체결했다. 지란지교그룹 일본 계열사 제이시큐리티(JSecurity)는 도메인 기반 공격표면 관리(ASM) 및 다크웹 정보유출 탐지 솔루션 '세이프인텔리전스(SafeIntelligence)'를 한국에 출시했다. 파수 AI는 멀티클라우드 데이터 보안 태세 관리 솔루션 ‘파수 DSPM’ 클라우드 저장소 및 SaaS 애플리케이션 지원을 확대한다. KCC정보통신은 글로벌 사이버보안 기업 카스퍼스키와 총판 계약을 체결하고 국내 기업 시장 공략에 나선다.

사이에라, 10억달러에 오아시스 시큐리티 인수

데이터 보안 기업 사이에라는 오아시스 시큐리티를 10억달러 규모에 인수한다. 사이에라는 인수 이후 오아시스 시큐리티 기술을 자사 통합 신원·데이터 보안 플랫폼에 결합할 계획이다. 글로벌 AI 데이터 클라우드 기업 스노우플레이크는 기업이  AI 에이전트 보안을 강화하고 AI 사용 비용에 대한 중앙집중형 가시성 및 통제력을 제공하는 ‘코텍스 AI 게이트웨이(Cortex AI Gateway)’를 공개했다.

[시큐리티 핫클립]

👍🏻 디지털투데이 뉴스레터 무료 구독하기: https://maily.so/digitaltoday
👉🏻 디지털투데이 뉴스레터 관련 문의:  ai@d-today.co.kr