[PRIBIT LETTER] '길게 헛소리하기'…AI를 무장 해제하는 마법의 키였다

프라이빗테크놀로지는 이번 시범사업을 성공적으로 완수해 하나은행의 제로 트러스트 도입 범위를 하나금융그룹사 전체와 전 세계 지점 및 점포 등의 거점을 대상으로 확산하는 것을 목표로 하고 있다. 또한 회사는 최근 VPN 취약점을 이용한 대규모 침해사고가 발생함에 따라 선제적 대응이 가능한 제로 트러스트 보안 모델이 필요하다는 인식이 확산되고 있는 점에도 주목한다.

업계에서는 제로 트러스트를 접목한 솔루션에 대해 긍정적인 시선을 보이고 있습니다. 최근 관련 기술을 도입해 고객사에 솔루션을 제공한 한 업계 관계자는 "제로 트러스트 기술을 활용한 솔루션을 고객사에게 제공해 최근까지 상당한 성과를 내고 있다"라며 "시스템을 (스스로) 구축할 수 없는 기업들에게 큰 힘이 될 것"이라고 설명했습니다. 다른 관계자도 "기술 도입 이후 기업들의 관련 문의가 크게 증가했다"고 강조했는데요.

기존의 통념은 "위험한 질문(유해한, 악의적인)이 AI를 위험하게 만든다"였습니다. 그러나 최근 등장한 '다중 예시 탈옥기법(Many-Shot Jailbreaking, MSJ)'은 다릅니다. MSJ는 악의적인 질문(마약, 폭탄 제조법 등) 앞에 먼저 모델이 수행해야 할 과업의 목적을 제시한 뒤 다량의 악의적 예시를 혼합해 LLM의 혼동을 야기하는 기법인데요.