🔒[시큐리티핫이슈] AI 해킹 '책임 공방' 불붙었다

구독자님을 위한 디지털투데이 [시큐리티핫이슈] 주간 뉴스레터!

디지털투데이가 발행하는 테크 뉴스레터입니다. 매일 아침 주 5회 ▲월(AI) ▲화(핀테크) ▲수(모빌리티) ▲목(크립토) ▲금(시큐리티) 등 분야별 이슈를 엄선한 주간 핫이슈 뉴스레터로 독자 여러분을 찾아 갑니다. 간편하고 빠르게 글로벌 최신 IT 트렌드와 투자 소식을 파악해 당신의 경쟁력을 높여보세요.

[시큐리티 간추린 뉴스]

[사진: 제미나이]

통제를 벗어난 AI가 외부 사이트를 공격해 벌어지는 사건사고들에 대한 공방이 법정으로 옮겨붙고 있다.

오픈AI가 허깅페이스 해킹 사건으로 소송을 당했다. 공익 법률단체 LASST(Legal Advocates for Safe Science and Technology)는 캘리포니아주 고등법원에 오픈AI를 상대로 소장을 제출했다. LASST는 법무법인 거스타인 해로우와 함께 소송에 나서면서 해킹 재발을 막을 수 있도록 법원이 오픈AI 활동을 제한해 달라고 요구했다. 앤트로픽도 AI 에이전트 행동을 두고 고객과 사용자들로부터 소송을 당할 수 있다는 점을 투자자들에게 공유했다.

오픈AI, '허깅페이스 해킹'으로 피소... "AI 에이전트 행동 책임은 개발사에"

미국 연방거래위원회(FTC)가 오픈AI와 앤트로픽 등 AI 기업들을 상대로 잠재적인 제품 위험성에 대한 조사에 착수했다. 이번 조사는 AI 제품이 초래할 수 있는 위험을 들여다보는 차원에서 진행된다.

AI 보안에 대한 책임은 기업 내에서도 쟁점으로 떠오르고 있다. AI 활용에 따른 기업 내부 정보 유출 방지의 경우 기업내 보안팀에서 커버하기 쉽지 않다는 얘기도 나오고 있다.

그 외 보안을 둘러싼 국내외 기업들 행보와 이슈를 정리했다.

[사진: 구글 제미나이]

AI 보안·인증 플랫폼 기업 '라온시큐어는 에이전틱AI 보안을 위한 청사진을 공개했다. 라온시큐어는 ‘AI가 실제 업무를 수행하려면 자율성 확대만큼 신원·권한·행위에 대한 검증과 책임 체계, 곧 AI에 내재된 보안 기술이 함께 갖춰져야 한다는 점을 강조하고 있다. 데이터 인텔리전스 기업 에스투더블유(S2W)는 온톨로지(Ontology) 기반 의사결정 운영체제(OS) ‘SAIP’의 주요 기능을 고도화하고 비보안 사업으로 확장에 속도를 낸다. 오펜시브 사이버 보안 기업 티오리(Theori)는 자사 AI 기반 자율형 모의해킹 플랫폼 ‘진트(Xint)’를 통해 미국 국방고등연구계획국(DARPA) ‘자율 AI 애플리케이션 보안’ 연구 수행 사업자로 선정됐다. 지란지교시큐리티는 임직원 보안 행동을 AI로 분석해 위험 수준을 측정·관리하는 AI 기반 휴먼 리스크 관리(Human Risk Management, 이하 HRM) 플랫폼 ‘머드스코프(MudScope)’를 선보였다. 

라온시큐어, 웹3 기반 AI 에이전트 보안 전략 탄력

메가존클라우드는 크라우드스트라이크와 협력을 맺고 국내 기업이 크라우드스트라이크 팔콘(Falcon) 플랫폼으로 사이버보안을 통합하고 보안 운영을 현대화하도록 지원한다. 메가존클라우드는 미국 생성형 AI 거버넌스·보안 전문 기업 포털26(Portal26)가 제공하는 기업용 생성형 AI 통합 관리 플랫폼도 국내에 공급한다. 파수 AI는 보안 솔루션 도입을 시작하는 기업들을 위한 ‘보안 케어 서비스’를 출시했다.

프랑스 업체 탈레스가 구글 클라우드와 협력을 확대한다. 탈레스는 자사 'AI 시큐리티 패브릭'을 구글 클라우드 '제미나이 엔터프라이즈 에이전트 플랫폼'과 결합한다. 기업용 브라우저 개발사 아일랜드가 시리즈 F 라운드에서 4억달러 규모 투자를 유치했다. 아일랜드 브라우저는 악성 웹페이지와 피싱 이메일 등 위협을 차단하고, 보안이 취약한 업무용 단말기나 와이파이 환경에서의 로그인 요청도 막을 수 있다.

마이크로소프트는 AI 기반 자동화 공격에 맞설 보안 전략으로 성과 중심 운영을 제시했다. 에이전트가 실행을 맡고 사람은 성과를 책임지는 구조로 보안팀이 방식을 바꿔야 한다는 것이었다.

엔비디아는 AI 에이전트가 격리 환경을 이탈하고 외부 시스템에 접근하는 것을 막는 소프트웨어 플랫폼 '오픈 에이전트 세이프티 플랫폼'을 공개했다.

정보보안책임자(CISO) 가운데 41%가 지난 12개월 동안 직원 음성 통화 중 딥페이크를 악용한 사회공학 공격을 최소 한 차례 이상 겪었다는 조사 결과가 나왔다. 화상 통화에서 동일한 유형의 공격을 경험했다는 비율 역시 36%에 달했다.

신한은행에서 약 2만5000명의 고객 개인·신용정보가 유출되는 사고가 발생했다. 금융감독원이 긴급 현장조사에 착수한 가운데 사고 원인과 피해 규모뿐 아니라 신한은행의 정보보호·내부통제 체계가 적절하게 작동했는지 여부가 핵심 쟁점으로 떠오를 전망이다.

[시큐리티 핫클립]

👍🏻 디지털투데이 뉴스레터 무료 구독하기: https://maily.so/digitaltoday
👉🏻 디지털투데이 뉴스레터 관련 문의:  ai@d-today.co.kr