👔[엔터프라이즈핫이슈] 초고속 자동 AI 해킹 확산...보안업계 대응 분주

구독자님을 위한 디지털투데이 [엔터프라이즈핫이슈] 주간 뉴스레터!

디지털투데이가 발행하는 테크 뉴스레터입니다. 매일 아침 주 5회 ▲월(블록체인) ▲화(금융·핀테크) ▲수(모빌리티) ▲목(엔터프라이즈 컴퓨팅) ▲금(주간인기뉴스) 등 분야별 이슈를 엄선한 주간 핫이슈 뉴스레터로 독자 여러분을 찾아갑니다. 간편하고 빠르게 글로벌 최신 IT 트렌드를 파악하고 당신의 경쟁력을 높여보세요.

[엔터프라이즈 간추린 뉴스]

해킹. [사진: 셔터스톡]

정부와 민간 모두에 공히 AI를 활용한 사이버 공격에 대한 경계령이 고조되는 모양새다. 이에 대응하려는 보안업계의 행보도 빨라지고 있다.

앤트로픽 클로드, 中 해커 공격에 악용…30곳 공격 성공

AI 기반 해킹은 최근 중국 국가 지원을 받은 해커들이 주요 기업과 해정부들을 겨냥한 침입을 자동화하기 위해 앤트로픽 AI 기술을 활용했다는 사실이 알려지면서 더욱 관심을 끌고 있다.

이번 해킹 공격의 경우 앤트로픽 사이버 보안 조사관들도 이전에는 보지 못한 자동화 수준을 보여줬다. 그동안 해커들은 AI를 사용해 피싱 메일을 다듬거나 인터넷에 걸쳐 취약 시스템 스캐닝 등 개별 작업들을 수행하기 위해 AI를 사용해왔는데, 이번 공격은 프로세스 80~90% 가까이가 자동화돼 이뤄졌다는 분석이다. 사람은 몇몇 의사 결정에만 개입한 것으로 전해진다.

구글도 최근 AI 기반 악성코드를 사용하는 해킹 사례를 확인했다. 구글 위협 인텔리전스 그룹 연구원들은 거대 언어 모델(LLM)을사용해 공격 도중에 행동을 바꾸는 신종 악성코드 변종들인 프롬프트플럭스(PromptFlux)와 프롬프트스틸(PromptSteal)을 발견했다.

구글이 발견한 프롬프트플럭스(PromptFlux)와 프롬프트스틸(PromptSteal은 역동적으로 악의적인 스크립트를 생성하는 것은 물론 탐지를 피하기 위해 코드를 모호하게 하는 역량도 갖추고 있다. AI 모델을 활용애 악의적인 기능들을 온디맨드로 생성할 수 있다.

AI 기반 해킹과 관련해 보안 업계는 AI 기반 방어로 맞불을 놓고 있다. 글로벌 대형 보안 업체인 팔로알토 네트웍스는 AI를 활용한 공격을 AI로 막아야 한다며 자사 플랫폼 전반에 걸쳐 AI 역량을 강화하고 있음을 강조했다. 마이크로소프트도 주요 보안 제품군을 업데이트하고 AI에이전트 취약점에 대한 대응 역량을 끌어올렸다.

MS, 통합 AI 에이전트 관리 플랫폼 에이전트365 공개

AI를 직접 개발하거나 활용하려는 국내외 테크 기업들 행보는 이번 주에도 계속됐다.

마이크로소프트는 기업용 AI 에이전트 관리 플랫폼 에이전트365(Agent 365)를 공개했다. 이전트365는 기업 내 AI 에이전트들을 중앙에서 관리할 수 있는 제어 센터로, 텔레메트리, 대시보드, 경고 기능을 통합 제공한다. 마이크로소프트 플랫폼, 오픈소스 프레임워크, 서드파티 플랫폼에서 구축된 에이전트까지 지원한다. 마이크로소프트가 파운드리(Foundry) AI 개발 플랫폼도 업데이트하고 AI 에이전트 개발·배포·관리를 단순화하고, 기업이 AI를 비즈니스 애플리케이션에 보다 깊숙하게 통합할 수 있도록 지원한다.

마이크로소프트는 AI 모델 개발 기업 앤트로픽과도 협력한다. 앤트로픽은 마이크로소프트와 300억달러 규모 애저 클라우드 용량 구매 계약을 맺었고 마이크로소프트는 앤트로픽에 50억달러를 투자하기로 했다. 이번 협력으로 마이크로소프트 애저 클라우드 고객들은 클로드 소넷 4.5, 클로드 오푸스 4.1, 클로드 하이쿠 4.5 등 앤트로픽 최신 AI 모델에도 접근할 수 있게 된다.

제미나이(Gemini) [사진: 셔터스톡]

구글 제미나이 3 공개…거대 AI 모델 판세 뒤흔드나

구글은 최신 AI 모델 ‘제미나이 3’를 공개했다. 제미나이3는 구글이 선보인 가장 강력한 거대 언어 모델(LLM)로 오픈AI GPT-5.1, 앤트로픽 소넷 4.5와 어떻게 경쟁할지 주목된다. 제미나이 3는 독립 벤치마크 ‘휴먼리티 라스트 이그잼(Humanity’s Last Exam)’에서 37.4점을 기록하며 최고 점수를 경신했다. 이는 기존 GPT-5 프로(31.64점)를 넘어서는 성과다. 사용자 만족도를 측정하는  LM아레나(LMArena)에서도 1위를 차지했다. 제미나이3가 선전할 경우 오픈AI가 주도하는 거대 언어 모델(LLM) 시장 판세에도 큰 변화가 있을 것으로 보여 구글 행보가 특히 주목된다. 구글은 AI 기반 쇼핑 기능 강화 일환으로 대화형 검색과 AI가 매장에 직접 전화해 제품 재고를 확인하는 기능도 선보였다

ㆍAI 모델 시장 새국면...구글·앤트로픽 '오픈AI 아성' 위협

오픈AI, GPT-5.1 출시…고급 추론 모델도 함께

오픈AI는 GPT-5를 업그레이드한 GPT-5.1 인스턴트, GPT-5.1 씽킹 모델을 공개했다 같은 대화창 안에서 다수 사용자가 챗GPT와 함께 대화를 나누며 협업할 수 있는 그룹 채팅(Group Chat) 기능도 한국에 시범 선보였다. 링크드인은 AI 기반 검색 기능을 선보였다. 사용자들은 자연어로 검색 쿼리를 입력해 원하는 사람들을 보다 쉽게 찾을 수 있게 됐다. 

ㆍ오픈AI, GPT-5.1 출시...고급 추론 모델 GPT-5.1 씽킹도 공개

LG CNS는 마케팅 업무를 AI로 자동 수행하는 CDP 에이전틱 AI 서비스 ‘클레어보(Clairvo)’를 출시했다. 커머스 AX 전문 기업 인덴트코퍼레이션은 AI 기반 글로벌 크로스보더 커머스 플랫폼 ‘보부샵(vovu.shop)’을 정식 출시했다.

AI 기반 온라인 평가 솔루션 모니토를 운영하는 그렙은 생성형 AI 기반 부정행위 증가에 대응하기 위해 응시자의 기기 환경에서 비허용 프로그램과 외부 기기를 자동 차단하는 기능을 추가한 '모니토 플러스(Monito+)'를 출시했다.

ㆍ그렙, 생성형 AI 부정행위 차단 '모니토플러스' 출시

클라우드 기반 데이터베이스 플랫폼 데이터브릭스가 1300억달러 규모 가치에 투자 유치 협상을 진행 중이라는 소식이다. 국내 AI 전환(AX, AI Transformation) 전문 스타트업 바이버스(Vibers)는  카카오벤처스와 서울대기술지주로부터 11억원 규모 시드 투자를 유치했다. 일본 AI 스타트업 사카나 AI가 1억3500만달러 규모 시리즈B 투자를 받았다.

ㆍ데이터브릭스, 1300억달러 가치에 추가 투자 유치 추진

ㆍ사카나AI, 1억3500만달러 투자 유치...일본 특화 AI 모델로 승부

AI 버블론에도 코딩 AI 스타트업 몸값 고공 행진

AI 버블 우려가 제기되고 있다고 있는 가운데서도 코딩 AI를 주특기로 하는 주요 스타트업들의 몸값도 치솟고 있다. AI 코딩 툴 커서(Cursor)는 최근 283억달러 가치를 인정 받고 23억달러 규모 투자를 유치했다. 스웨덴 코딩 AI 스타트업 러버블도 60억달러 가치에 추가 투자 유치를 추진하고 있다는 소식이다.

구독이나 사용량 기반 과금이 대세인 AI 서비스 수익모델이 광고로 확대되는 모양새다. 주류로 부상할지는 두고봐야겠지만 광고를 수익모델도 삼아 보려는 관련 업계의 행보가 구체화되고 있다.

유력 테크기업들부터 신생 스타트업들까지 기업용 AI 에이전트를 선보이면서 쓰는 쪽 입장에서 헷갈릴 만한 장면들도 여기저기에서 연출되고 있다. 주특기가 다른 소프트웨어 회사 AI 에이전트들인데 제공하는 기능은 데이터 탐색, 매출 전망, 대고객 커뮤니케이션 등 비슷해지면서 기업들 간 경계가 희미해지는 모양새다. 그러다 보니 예전에는 경쟁하지 않았던 기업용 소프트웨어 업체들이 AI 에이전트를 내놓으면서 처음으로 맞대결을 펼치는 사례가 늘고 있다.

AI 산업에서 GPU 감가상각을 둘러싼 논쟁도 고조되는 모양새다. 오라클, 마이크로소프트, 구글은 AI 칩 감가상각 기간을 6년으로 설정하고 있지만, 현실성에 대한 의문이 커지고 있다.

[엔터프라이즈 핫클립]

👍🏻 디지털투데이 뉴스레터 무료 구독하기: https://maily.so/digitaltoday
👉🏻 디지털투데이 뉴스레터 관련 문의: d-today@d-today.co.kr