🔒[시큐리티핫이슈] AI發 보안 위협 대응 어떻게? 테크 기업 연대 확산

구독자님을 위한 디지털투데이 [시큐리티핫이슈] 주간 뉴스레터!

디지털투데이가 발행하는 테크 뉴스레터입니다. 매일 아침 주 5회 ▲월(AI) ▲화(핀테크) ▲수(모빌리티) ▲목(크립토) ▲금(시큐리티) 등 분야별 이슈를 엄선한 주간 핫이슈 뉴스레터로 독자 여러분을 찾아 갑니다. 간편하고 빠르게 글로벌 최신 IT 트렌드와 투자 소식을 파악해 당신의 경쟁력을 높여보세요.

[시큐리티 간추린 뉴스]

[사진: Reve AI]

AI 확산으로 제기되는 새로운 보안 위협에 어떻게 대응해야 하는지를 둘러싼 논의가 활발하다. 보안을 넘어 반도체, 플랫폼 기업들까지 참여하는 업체 간 연대도 구체화되고 있다.

엔비디아가 주도하는 오픈 시큐어 AI 얼라이언스(OSAA)가 출범 일주일 만에 첫 워킹그룹 SAFE( the Shared AI Findings Exchange)를 꾸리고 AI 보안 사고 대응 제안을 공개했다. 제안은 AI 사이버보안 사고를 기밀로 신고하는 방식, 피해를 입은 당사자에게 알리는 절차, 책임 추궁보다 학습에 초점을 둔 사후 분석 체계 등을 담고 있다. 당장 큰 기술 변화를 내놓은 것은 아니지만, 업계 공통 대응 규칙을 먼저 세우는 데 초점을 맞췄다.

엔비디아 주도 오픈 시큐어 AI 얼라이언스, AI 보안 사고 대응 제안

오픈AI가 테스트 중이던 AI에이전트가 통제를 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건이 이후 허깅페이스 CE0 클렘 들랑그는 AI 기업에 대한 해킹 공시를 의무화해야 한다고 주장했다. 강력한 AI 모델 공개를 막는 방식보다 사고를 투명하게 공개하는 제도가 더 중요하다는게 그의 설명이다.

허깅페이스 CEO "오픈AI발 해킹 사고 이후 AI 기업 해킹 공시 의무화해야"

첨단 AI를 악용하거나 AI가 통제를 벗어나 의도치 않은 사고를 칠 수 있다는 우려도 점점 커지는 모양새다. 독립 테스트기관 2곳은 앤트로픽과 오픈AI 최상위 모델들이 지난달 제3자 시스템을 침해하려 시도했고 일부는 실제 성공한 사례를 추가로 확인했다. 앤트로픽과 메타 AI 모델도 테스트 도중 해킹을 하는 장면이 연출됐다.

오픈AI의 허깅페이스 해킹...판도라의 상자가 열렸다?

보안 업체 크라우드스트라이크는 '2026 위협 헌팅 보고서'를 통해 인공지능이 공격 도구를 넘어 직접적인 공격 표적이 되고, 취약점 악용 속도도 시간 단위로 빨라졌다고 진단했다. 가트너는 2029년까지 대부분 개인정보 침해 사고가 직접적인 개인식별정보(PII) 유출이 아니라 AI가 개인에 대해 생성한 추론에서 비롯될 것으로 전망했다.

"취약점 악용, 48시간 내 집중"...크라우드스트라이크 보고서

AI 자체 보안 취약점을 겨냥한 공격을 우려하는 목소리도 높다. 오픈AI AI에이전트가 테스트 도중 허깅페이스를 해킹한 사건 이후 유력 기업들 AI 툴에도 취약점이 있다는 사례가 계속 나오고 있다.

유명 AI 툴 보안 취약점 확산....마이크로소프트 코파일럿서도 두 건 발견

그 외 보안을 둘러싼 국내외 기업들 행보와 이슈를 정리했다.

[사진: 셔터스톡]

LG유플러스는 관리형탐지대응(MDR) 솔루션 전문기업 파고네트웍스를 인수했다. 파고네트웍스가 보유한 위협 탐지·분석·대응 역량을 내재화해 전사 보안 체계를 고도화하고 기업 고객 대상 보안 사업을 확대한다는 계획이다. LG유플러스 통합 계정관리 서비스 '알파키'로 클라우드서비스 보안인증(CSAP) 서비스형 소프트웨어(SaaS) 표준등급을 획득했다.

LG유플러스, 파고네트웍스 품었다...전사 보안 체계 고도화

원격지원 전문기업 알서포트는 사이버물리시스템(CPS) 보안 전문기업 앤앤에스피와 협력해 국가망보안체계(N2SF) 및 산업제어망에 적용할 수 있는 원격지원 사업모델을 공동 발굴한다. 아톤은 한국인터넷진흥원(KISA)와 악성문자 사전차단체계 전문 솔루션사로서 업무협약을 맺고 인터넷 문자발송 사업자에게 사전차단체계를 공급하고 특수부가통신사업자 등록에 필요한 도입확인서를 발급한다. 나루씨큐리티는 KISA가 추진하는 ‘지역 침해사고 피해기업 탐지 및 취약점 진단’ 사업을 수행한다. 한국엡손은 보안 솔루션 전문기업 넥스팟솔루션과 위조방지 보안 라벨 시장 확대 및 고부가가치 라벨 솔루션 개발을 위한 업무협약(MOU)을 체결했다. 펜시브 사이버 보안 전문 기업 티오리(Theori)는 우리금융그룹에 자사 AI 기반 블랙박스 모의해킹 솔루션 ‘진트 웹(Xint Web)’을 공급했다.

아톤, KISA와 협약…악성문자 사전차단 전문 솔루션 지원

한국퀀텀컴퓨팅(이하 KQC)은 독일 사이버보안·정보관리 전문 소프트웨어 기업인 데이터-웨어하우스(Data-Warehouse GmbH)와 전략적 업무협약(MOU)을 체결하고, 양자내성암호(Post-Quantum Cryptography, PQC) 전환(Migration) 플랫폼 사업에 나선다. 네트워크 보안 업체 엑스게이트는 AI로 그동안 안했던 영역을 공략하기 보다는 그동안 잘해왔던 분야 경쟁력을 강화하는데 목표를 두고 AI 전략을 강화하고 있다. 이스트시큐리티는 아마존웹서비스(AWS) 파트너 네트워크(AWS Partner Network, 이하 APN) '셀렉트 티어(Select Tier)' 파트너 등급을 받아 클라우드 및 AI 보안 사업에 나선다.

한국퀀텀컴퓨팅, 독일 보안 업체와 제휴...PQC 전환 플랫폼 사업 본격화

아마존웹서비스(AWS)는 앤트로픽과 오픈AI AI 코딩 도구에 코드 취약점 점검 서비스 'AWS 컨티뉴엄'을 연동한다. 오픈AI와 앤트로픽 코딩 툴에서 바로 취약점을 검사할 수 있게 됐다. F5는 엔비디아 네모 가드레일(NVIDIA NeMo Guardrails)과 통합해 자사 엔터프라이즈급 AI 보안 역량을 실제 운영 단계 AI 애플리케이션에 제공하는 AI 네이티브 솔루션인 F5 AI 가드레일(F5 AI Guardrails)을 공개했다. 팔로알토 네트웍스는 프론티어 AI 시대에 대응하기 위한 네트워크 보안 연구 결과와 신제품을 함께 공개했다. 서비스나우는 아미스와 베자 인수 이후 자율형 보안 제품 6종과 AI 보안 에이전트군을 공개했다. 이들 제품은 취약점 처리와 사고 대응을 분석가가 단계마다 직접 개입하지 않아도 종결 단계까지 진행하도록 지원한다.

AWS, 오픈AI·앤트로픽 AI 코딩 툴에 컨티뉴엄' 연동…편집기 안에서 취약점 검사

테라 시큐리티는 AI 에이전트가 실제로 통한다고 검증한 공격을 막는 방화벽 규칙 자동 생성 기능 '프리벤션'을 출시했다.

테라 시큐리티, 검증된 익스플로잇 차단용 방화벽 규칙 자동 생성 기능 출시

[시큐리티 핫클립]

👍🏻 디지털투데이 뉴스레터 무료 구독하기: https://maily.so/digitaltoday
👉🏻 디지털투데이 뉴스레터 관련 문의:  ai@d-today.co.kr