👔[엔터프라이즈핫이슈] 진화하는 AI 해킹...인간 능가 현실로?

구독자님을 위한 디지털투데이 [엔터프라이즈핫이슈] 주간 뉴스레터!

디지털투데이가 발행하는 테크 뉴스레터입니다. 매일 아침 주 5회 ▲월(블록체인) ▲화(금융·핀테크) ▲수(모빌리티) ▲목(엔터프라이즈 컴퓨팅) ▲금(K컬처 소식) 등 분야별 이슈를 엄선한 주간 핫이슈 뉴스레터로 독자 여러분을 찾아갑니다. 간편하고 빠르게 글로벌 최신 IT 트렌드와 K컬처 소식을 파악해 당신의 경쟁력을 높여보세요.

[엔터프라이즈 간추린 뉴스]

[사진: 셔터스톡]

AI 해킹툴 실력, 예상보다 훨씬 강했다…스탠퍼드대 실전 테스트

AI 해킹툴이 점점 위력적인 수준으로 진화하고 있다는 시그널이 속속 포착되고 있다. 예전만 해도 AI 해킹툴이 실전에서 통하기는 쉽지 않다는 얘기도 많았지만 최근 상황은 바뀌는 모양새다.

스탠퍼드 대학이 진행한 실험에선 AI 해킹 툴 실력이 인간 해커들도 뛰어넘었다.

스탠퍼드대 연구팀은 지난 1년 간 ‘아르테미스’(Artemis) AI 봇으로 AI 해킹에 대해 연구했다. 아르테미스는 연구진이 당초 예상했던 것보다 훨씬 위력적이었다.

연구 결과 아르테미스는 앤트로픽 생성형 AI 기술을 사용해 대기업과 해외 정부기관들에 침투한 중국 해커들과 유사한 접근을 취했다. 네트워크를 스캐닝하고, 버그를 탐색하고 이걸 악용할 수 있는 방법까지 찾아냈다고 한다.

테스트에서만 강력한 것이 아니었다. 아르테미스는 실전에서도 예상을 훨씬 뛰어 넘는 내공을 보였다. 아르테미스는 스탠퍼드 연구원들이 채용한 전문 네트워크 침입 테스터 10명 중 1명만 뺴고 나머지는 압도했다. 아르테미스는 매우 빠른 속도로 버그를 찾았고 1시간 돌리는데 60달러도 들지 않았다.

물론 아르테미스가 완벽한 건 아니었다. 버그라고 보고한 것들 중 18%는 틀린 것이었다. 명백한 버그를 놓친 경우도 있었다. 그럼에도 스탠포드대 연구는 AI 해킹의 진입 장벽이 낮아지고 있음을 보여주는 사례여서 주목된다.

취약점을 찾아내는 AI 툴은 해킹 공격을 막아야 하는 입장에서도 중요한 요소로 부상했다. AI를 활용해 소프트웨어를 개발하는 기업들이 늘고 있는 가운데 소프트웨어 출시 전 보안 결함을 찾아내는데 있어 AI가 중요한 역할을 할 수 있다는 얘기다.

ㆍ"AI 생성 소프트웨어 코드, 사람이 짠 것 보다 결함 많아"

AI 확산에 따른 위협에 대응할 필요성이 커지면서  인수합병(M&A)을 통해 AI 보안 역량을 강화하려는 테크 업계 행보도 빨라지고 있다. 레드햇, 서비스나우 등 유력 기업용 소프트웨어 회사들이 최근 AI 보안을 겨냥한 스타트업들을 인수하고 나섰다.

AI를 직접 개발하거나 활용하려는 국내외 테크 기업들 행보는 이번 주에도 계속됐다.

오픈AI가 새롭게 선보인 GPT-5.2 [사진: 오픈AI]

오픈AI, GPT-5.2 출시…구글 공세 방어할까

오픈AI는 GPT-5.2와 새로운 플래그십 이미지 생성 모델을 기반으로 한 챗GPT 이미지를 공개했다. 챗GPT 이미지의 경우 새로운 이미지를 만들거나 기존 사진을 편집할 때 사용자가 생각하는 결과에 더 가까운 결과물을 얻을 수 있을 것이란게 회사측 설명이다. 오픈AI는 디즈니로부터 10억달러 규모 투자를 유치하고, 캐릭터 라이선스 계약도 체결했다. 이번 계약을 통해 오픈AI는 디즈니, 마블, 픽사, 루카스필름 등 인기 프랜차이즈 200개 이상의 캐릭터를 활용할 수 있게 된다.

구글, 제미나이 3 플래시 출시…제미나이 앱 기본 모델 적용

구글은 제미나이 3 플래시 모델을 출시하며, 이를 제미나이 앱과 검색 AI 모드 기본 모델로 적용한다. 회사 측에 따르면 제미나이3 플래시는  6개월 전 나온 제미나이 2.5 플래시보다 성능이 대폭 향상됐으며, 제미나이 3 프로 및 GPT-5.2와 유사한 수준을 보인다. 구글은 또 바이브 코딩 툴인 '오팔(Opal)'을 제미나이(Gemini) 웹 앱에 통합한다. 오팔을 활용해 사용자는 자연어로 설명하는 방식으로 앱을 만들 수 있다. 구글은 이메일 기반 생산성 AI 비서 'CC'를 실험적으로 공개했다. CC는 제미나이(Gemini)에 기반하며 사용자가 지메일, 구글 드라이브, 구글 캘린더와 연동해 이메일로 하루 일정을 요약해 제공한다

ㆍ구글, 제미나이 앱에 일반 사용자 겨냥 바이브 코딩 툴 '오팔' 통합

어도비는 파이어플라이 AI 모델 내 영상 제작 기능을 업그레이드했다. 이번 업데이트로 크리에이터들은 AI 영상 생성뿐 아니라 세밀한 편집과 카메라 움직임까지 직접 연출할 수 있게 됐다. 배달앱 도어대시는 레스토랑을 추천해주는 AI 기반 소셜 앱 '제스티'를 출시했다. 오페라는 AI 기반 브라우저 '네온'을 정식 출시하고 월 19.90달러 유료 구독모델도 선보였다.

알리바바, 비주얼 생성 모델 Wan2.6 시리즈 공개

알리바바는 비주얼 생성 모델 최신 버전 완(Wan) 2.6’ 시리즈를 공개했다. Wan 2.6은 크리에이터가 자신의 모습과 목소리를 그대로 반영해 AI 생성 영상에 직접 등장하고, 다중 장면을 활용한 유연한 스토리텔링이 가능하도록 지원한다. 줌이 AI 컴패니언 3.0을 발표하며 AI 어시스턴트 기능을 웹으로 확장한다. 이번 업데이트로 무료 사용자도 제한적으로 회의 요약, 액션 아이템 정리, 인사이트 제공 기능 등이 포함된  AI 어시스턴트를 활용할 수 있다.

AWS는 세일즈포스(Salesforce)와 협력해 AWS 환경에서 운영되는 ‘에이전트포스 360 포 AWS(Agentforce 360 for AWS)’를 선보인다. 에이전트포스 360 포 AWS는 AWS의글로벌 보안 인프라 상에서 운영되며, 아마존 베드록(Amazon Bedrock)을 통해 검증된 파운데이션 모델을 제공한다. 아마존은 오픈AI에 100억달러 이상을 투자하기 위한 협상을 진행 중이라는 소식이다. 양사 협상에서 오픈AI 가치는 5000억달러 이상으로 책정된 것으로 전해졌다. 양사는 커머스 관련 협력도 논의중인 것으로 알려졌다.

엔비디아, 네모트론 3 오픈 모델 공개

엔비디아는 네모트론 3(Nemotron 3) 오픈 모델 제품군을 공개하고, 언슬로스(Unsloth) 프레임워크를 통해 거대 언어 모델(large language model, LLM) 미세 조정을 가속화한다. 오픈AI CTO 출신 미라 무라가 주도하는 AI 스타트업 씽킹머신즈(Thinking Machines)가 AI 파인튜닝 서비스 팅거(Tinker)를 정식 출시했다.

파수는 서비스형 AI사용을 위한 민감정보 관리 솔루션 ‘AI-R DLP’ 신규 버전을 출시했다. 업데이트된 AI-R DLP는 챗GPT 등과 같은 생성형 AI 서비스 사용시 유출될 수 있는 개인정보는 물론 조직 고유 민감정보까지 검출이 가능하다. 보안 업체 수산아이앤티는 인공지능 기업 페르소나에이아이와 AI 솔루션 총판 계약을 체결하고 AI 사업 확대에 나선다. 클라우드 기반 SIEM 업체인 로그프레소는 최근 160억원 규모 투자를 유치하고 AI에이전트와 XDR로의 확장에 속도를 낸다.

ㆍ파수, ‘AI-R DLP’ 고도화...생성형 AI 데이터 검출 및 통제 지원

ㆍ로그프레소, 160억원 투자 유치... AI 에이전트 기반 보안 모델로 전환

거대언어모델(LLM)이 테크판에 미치는 영향을 놓고 이렇다 저렇다 말들이 많은 가운데, 실리콘밸리 VC인 앤드리슨 호로위츠(a16z)가 실전에서 LLM이 어떻게 쓰이는지 나름 깊숙하게 분석한 결과물을 공개해 눈길을 끈다.

지금의 AI 열풍을 90년대 말 신경제라는 이름으로 전세계를 강타했다가 확 꺼져버린 닷컴 버블과 닮았다고 보는 시각이 적지 않다. 하지만 AI 열풍에서 버블이 없는 건 아니지만 닷컴때와는 성격이 다르다고 보는 이들 또한 여전히 다수다.

[엔터프라이즈 핫클립]

👍🏻 디지털투데이 뉴스레터 무료 구독하기: https://maily.so/digitaltoday
👉🏻 디지털투데이 뉴스레터 관련 문의: d-today@d-today.co.kr