🔒[시큐리티핫이슈] 사람 몰래 해킹까지...AI發 보안 위협 우려 확산

구독자님을 위한 디지털투데이 [시큐리티핫이슈] 주간 뉴스레터!

디지털투데이가 발행하는 테크 뉴스레터입니다. 매일 아침 주 5회 ▲월(AI) ▲화(핀테크) ▲수(모빌리티) ▲목(크립토) ▲금(시큐리티) 등 분야별 이슈를 엄선한 주간 핫이슈 뉴스레터로 독자 여러분을 찾아 갑니다. 간편하고 빠르게 글로벌 최신 IT 트렌드와 K컬처 소식을 파악해 당신의 경쟁력을 높여보세요.

[시큐리티 간추린 뉴스]

[사진: Reve AI]

오픈AI 모델이 테스트 중 오픈소스 AI 모델 공유 플랫폼 허깅페이스 시스템을 해킹하는 사고가 터지면서 AI가 몰고올 보안 위협에 대한 우려가 고조되고 있다.

이번 사고는 오픈AI가 테스트 하던 내부 모델이 샌드박스를 뚫고 나가 허깅페이스를 해킹한 것이 골자.

오픈AI 모델은 주말 동안 수만건에 달하는 자동화된 행동을 실행했다. 허깅페이스가 사고 뒤 로그를 다시 확인해보니, 실제 기록된 행동만 1만7000건이 넘었다. 조사 결과 오픈AI 모델은 대형 테크 기업 두 곳에 있는 제로데이 취약점을 찾아내 서로 엮었고 오픈AI는 이를 "최첨단 사이버 역량이 동원된 전례 없는 사고"라고 표현했다.

오픈AI 모델 허깅페이스 해킹 충격..."샌드박스 격리 실패 때문" 지적

토마스 울프 허깅페이스 공동창업자는 이번 사고에 대해 "업계에 던지는 경고음"이라며 "이런 사이버 공격이 앞으로 흔해질 것이지만 대부분 기업들은 아직 게임의규칙이 바뀌었다는 사실을 모르고 있다"고 말했다. 미국 하원의원들은 이번 사건을 이유로 인공지능 기업에 모델 중단 수단을 의무화하는 'AI 킬 스위치 법안'도 발의했다. 

AI가 보안 취약점을 빠르게 찾아내면서 기업들이 패치 속도를 끌어올려야 한다는 과제를 안게 됐다. 버라이즌 연례 데이터침해보고서에 따르면 지난해 기업이 치명적 결함을 고치는 데 걸린 중간값은 43일로, 2024년 32일에서 늘었다.

그 외 보안을 둘러싼 국내외 기업들 행보와 이슈를 정리했다.

[사진: Reve AI]

안랩은 차세대 위협 인텔리전스 플랫폼 ‘안랩 TIP’ 다양한 위협 정보를 애플리케이션 프로그래밍 인터페이스(API) 형태로 제공하는 안랩 TIP API(AhnLab TIP API)를 선보였다. 클라우드 및 AI 매니지드 서비스 전문기업 클루커스는 글로벌 에이전틱 AI 보안 전문기업 스트라이커( Straiker)와 전략적 파트너십을 체결하고, AI 에이전트 도입 과정에서 발생하는 새로운 보안 과제에 대응하기 위한 전문 서비스를 제공한다. 아이티센피엔에스는 양자내성암호(PQC, Post-Quantum Cryptography) 전환 사업을 본격 확대한다. 이글루코퍼레이션은 보안 특화 인공지능(AI) 에이전트 ‘에어(AiR, AI Road)’로 한국표준협회(KSA)로부터 AI+(에이아이플러스) 인증을 획득했다.

안랩, ‘안랩 TIP’ API 전용 상품 출시...위협 정보 API로 제공

시스코가 코드 저장소 안에서 알려진 보안 취약점이 있을 가능성이 큰 파일을 추려주는 소형 언어모델 제품군 '안타레스'를 공개했다. 구글도 보안 특화 모델을 내놨다.제미나이 3.5 플래시 사이버는 소프트웨어 취약점을 탐지하고 패치하는 모델이다. 초기에는 정부와 신뢰할 수 있는 파트너들만 제한 접근 방식 파일럿으로 사용할 수 있다. 구글은 이 모델이 큰 모델들보다 토큰당 가격이 낮다고 설명했다. 마이크로소프트는 기업들이 AI로 소프트웨어 버그를 찾아낼 수 있도록 지원하는 신규 보안 제품을 준비 중이다.

팔로알토네트웍스는 사용자 경험 옵저버빌리티 기업 임브레이스(Embrace)를 인수하기로 했다. 팔로알토네트웍스는 임브레이스 인수로 자사 옵저버빌리티(Observability) 플랫폼에 실사용자모니터링(RUM) 기능을 추가하게 됐다.피그 시큐리티는 보안 운영용 AI 에이전트 '피가로'와 함께 탐지 변경에 따른 테스트, 배포, 버전관리, 롤백을 묶은 플랫폼을 공개했다. 피그가 겨냥한 문제는 보안 운영센터을 둘러싼 잦은 변경 리스크다. 새로운 데이터 소스와 탐지, 클라우드 서비스가 계속 추가되고 상위 연동 시스템도 예고 없이 바뀌면서 작은 수정만으로도 탐지 파이프라인이 끊길 수 있어서다. 이런 문제가 생기면 보안팀은 위협 탐지 능력을 잃고도 공백이 생긴 사실을 바로 파악하지 못할 수 있다.

코카콜라는 랜섬웨어 공격으로 유제품 자회사 페어라이프 미국 내 생산 운영을 일시 중단했다.

개인정보보호위원회는 22일 제14회 전체회의를 열고, 개인정보 보호법 및 구 정보통신망 이용 촉진 및 정보보호에 관한 법률(이하 ‘정보통신망법’)을 위반한 틱톡, 애플 2개 계열사에 대해 과징금 총 105억 5800만 원을 부과하고 시정 및 공표 명령을 의결했다.

자동차 업계에서 무선 소프트웨어 업데이트 기술인 OTA(over-the-air)가 빠르게 확산되면서 차량 시스템이 사이버공격에 취약해질 수 있다는 우려가 커지고 있다.

[시큐리티 핫클립]

👍🏻 디지털투데이 뉴스레터 무료 구독하기: https://maily.so/digitaltoday
👉🏻 디지털투데이 뉴스레터 관련 문의:  ai@d-today.co.kr