🔒[시큐리티핫이슈] 뭉쳐야 AI發 위협 막는다...테크판 동맹 확산

구독자님을 위한 디지털투데이 [시큐리티핫이슈] 주간 뉴스레터!

디지털투데이가 발행하는 테크 뉴스레터입니다. 매일 아침 주 5회 ▲월(AI) ▲화(핀테크) ▲수(모빌리티) ▲목(크립토) ▲금(시큐리티) 등 분야별 이슈를 엄선한 주간 핫이슈 뉴스레터로 독자 여러분을 찾아 갑니다. 간편하고 빠르게 글로벌 최신 IT 트렌드와 K컬처 소식을 파악해 당신의 경쟁력을 높여보세요.

[시큐리티 간추린 뉴스]

[사진: 셔터스톡]

오픈AI, AI 기반 사이버 보안 이니셔티브 띄운다

AI 모델을 활용한 소프트웨어 취약점 발견을 둘러싼 사이버 침해 우려가 확산하는 가운데 협력을 통해 대응 방안을 모색하려는 관련 업계의 움직임이 탄력을 받고 있다. 앤트로픽이 4월 주요 기업 및 기관들이 자사 AI 모델 미토스로 소프트웨어 취약점을 찾고 대응할 수 있도록 지원하는 프로젝트 글래스윙 프로그램을 선보인데 이어 오픈AI는 AI를 활용해 소프트웨어 취약점 식별, 패치 검증, 보안 강화 속도를 높이는 사이버보안 이니셔티브 '데이브레이크(Daybreak)'를 내놨다.

팔로알토 네트웍스는 첨단 AI 모델을 활용해 사이버 위협에 대응하는 'AI 디펜스(Frontier AI Defense)' 이니셔티브를 선보였다. 프런티어 AI 디펜스는 AI 네이티브 보안 플랫폼과 유닛42(Unit 42) 컨설팅·위협 전문성, 전략적 파트너들을 결합해 AI를 보안 위협에 보다 효과적으로 대응하는데 초점이 맞춰져 있다.

ㆍ오픈AI, AI 기반 사이버 보안 이니셔티브 '데이브레이크' 띄운다

ㆍ팔로알토네트웍스 "미토스, 3주 만에 1년치 수동 침투 테스트 수준 취약점 발견"

앤트로픽 미토스와 오픈AI GPT-5.5 사이버 모델을 활용해 소프트웨어 취약점을 전문가들 경험담도 올라오고 있다.

팔로알토 네트웍스는 앤트로픽(Anthropic)과 오픈AI(OpenAI) 고성능 AI 사이버보안 모델들을 사용하기 시작한 후 한 달 만에 자사 제품에서 취약점 75개를 발견했다. 월평균 발견 건수 5~10개 보다 7배 이상 많은 수치다.

ㆍ팔로알토 네트웍스, 미토스·GPT-5.5-사이버로 자사 제품 취약점 찾아보니

소프트웨어 취약점을 찾아내는 앤트로픽 미토스 AI 모델 역량이 세간에 알려진 것보다 강력하지 않다는 반응도 있다.

ㆍ미토스, 오픈소스 툴 curl에선 저위험 취약점 1건만 발견...앤트로픽 과장 마케팅 ?

구글, 실제 현장서 제로데이 취약점 악용 AI 익스플로잇 첫 포착

AI 모델을 활용한 공격을 우려할 만한 사례들도 계속 나오고 있다.

구글은 사이버 범죄자들이 AI를 활용해 제로데이 취약점을 발견하고 무기화한 첫 실제 사례를 확인했다고 밝혔다. 앤트로픽 AI 모델 미토스가 수천 여건 소프트웨어 취약점을 발견하며 전 세계 은행, 기술 기업들, 정부들이 긴장하고 있는 가운데, 보안 전문가들은 이미 기존 모델로도 이같은 역량을 재현하는 것이 가능하다고 밝혔다.

ㆍ구글, 실제 현장서 제로데이 취약점 악용 AI 익스플로잇 첫 포착

ㆍ미토스 충격에 보안 전문가들 "제로데이 취약점 탐지, 기존 AI 모델로도 이미 가능"

앤트로픽 미토스와 오픈AI GPT-5.5 사이버 모델에 접근권을 확보하려는 각국 움직임도 빨라지고 있다. 한국 정부도 적극적이다. 과학기술정보통신부는 앤트로픽 사이버보안 협의체 '프로젝트 글래스윙' 참여를 적극 타진하고 있다. 정부는 이르면 5월 말 인공지능(AI)발 사이버보안 위협에 대한 종합 대응 방안도 발표한다.

ㆍ과기정통부, 앤트로픽 미토스 접근 가능할까?

ㆍ"오퍼스 4.7도 충분한 위협"...정부 '미토스 대응책' 이르면 5월 말 공개

ㆍ과기정통부, '미토스' 등 AI 보안 대응 산학연과 논의

유럽연합(EU)의 경우 오픈AI GPT-5-5 사이버 보안 모델 접근을 논의하고 있는 가운데 앤트로픽은 미토스를 EU에 공개하지 않고 있다. 일본 3대 메가뱅크들은조만간 앤트로픽 AI 모델 미토스에 접근 권한을 확보할 것으로 예상된다는 보도가 나왔다.

ㆍEU, 오픈AI와 GPT-5-5 사이버 접근 논의…앤트로픽 '미토스'는 아직

ㆍ"일본 3대 메가뱅크, 2주내 앤트로픽 미토스 접근권 확보"

국제통화기금(IMF)이 앤트로픽의 미토스 같은 AI 모델을 개별 금융사의 운영 문제가 아니라 금융 시스템 전반의 시스템 리스크로 다뤄야 한다고 촉구했다.

ㆍ미토스가 드러낸 새 사이버 위협…IMF "금융 시스템 전체가 흔들릴 수 있다"

그외 보안을 둘러싼 국내외 기업들 행보를 정리했다.

시스코, LLM 기반 보안 평가 표준화 프레임워크 오픈소스로 공개

[사진: 셔터스톡]

팔로알토 네트웍스는 사람, 머신, AI 에이전트 신원을 단일 권한 접근 관리 프레임워크로 통합 관리하는 신원 보안 플랫폼 '이디라(Idira)'를 선보였다. 시스코는 LLM을 활용한 IT 시스템 보안 평가를 표준화하는 '파운드리 시큐리티 스펙(Foundry Security Spec)'을 오픈소스로 공개했다.

ㆍ팔로알토 네트웍스, 사람·머신·AI 에이전트 신원 통합 관리 플랫폼 '이디라' 출시

ㆍ시스코, LLM 기반 보안 평가 표준화 프레임워크 오픈소스로 공개

글로벌 침해 격리 전문 기업 일루미오가 기업 사이버 보안에서 과제로 떠오른 '측면 이동'이 갖는 위험성을 강조하고 공격자 이동 경로에 대한 가시성을 확보하고, 침해 확산을 막기 위한 영역 분할(마이크로세그멘테이션)을 제로 트러스 보안 전략에 중심으로 삼아야 한다고 강조했다.

ㆍ"예방과 탐지 중심 보안 끝났다...격리의 시대로 가야 제로트러스트 보안 가능

구글, 안드로이드 침입 로깅 기능 배포…스파이웨어 조사 기능 강화

구글이 안드로이드에 스파이웨어 침해 흔적을 기록·분석할 수 있는 보안 기능 인트루전 로깅(Intrusion Logging)을 도입한다.

ㆍ구글, 안드로이드 침입 로깅 기능 배포...스파이웨어 조사 기능 강화

NH농협은행은 금융보안원과 디지털자산 서비스 기술 검증 및 보안 강화를 위한 업무협약(MOU)을 체결했다.

ㆍNH농협은행, 금융보안원과 디지털자산 보안 협력 강화

올해 하반기부터 주요 공공시스템과 대규모 개인정보를 처리하는 약 1700개 고위험 시스템들은 정기적인 점검을 받게 된다. 또 선제적인 개인정보 보호 투자를 한 기업․기관들에 대해서는 의미 있는 수준의 인센티브가 부여된다. 개인정보보호위원회은 이같은 내용을 담은 예방 중심 개인정보 관리체계 전환 계획을 대통령 주재 국무회의에서 보고했다.

ㆍ개인정보보호체계, 예방 중심 전환 본격화...징벌적 과징금·인센티브 병행