AI, 그리고 테러의 미래

* 본 아티클은 전략국제문제연구소(CSIS)의 <Artificial Intelligence and the Future of Terrorism> 보고서를 번역 및 편집하였습니다.

1. 서론

대중적 담론에서는 흔히 인공지능을 전쟁과 거버넌스, 그리고 사회를 완전히 뒤바꿔놓을 혁명적인 힘으로 묘사하곤 한다. 특히 테러리즘을 논할 때 AI가 테러 조직으로 하여금 파멸적인 공격을 감행하고, 자율 살상 시스템을 구축하며, 위험한 병원체를 무기화할 수 있도록 만들 것이라는 가정을 자주 하곤 한다.

테러리즘과 기술 간의 역사적 관계를 살펴보면 AI가 개별 테러리스트의 역량을 강화할 수 있음을 시사하지만, 실제 현실은 비관론자들이 우려하는 것보다 더 제한적일 가능성이 크다. 아울러 AI는 대테러 활동의 발전도 가능하게 만들겠지만, 이 역시 그 자체의 위험을 수반한다.

테러 집단이 대중의 인식만큼 기술적으로 혁신적이었던 경우는 드물었다. 이들은 대개 결핍과 불확실성, 그리고 극심한 압박 속에서 운영되는 보수적인 조직이다. 실패는 개인과 조직 모두에게 치명적일 수 있다. 작전상의 실수는 네트워크를 노출시키고, 안전 가옥을 파괴하며, 지지자들을 이탈하게 만들고, 국가의 보복을 자초한다. 결과적으로 테러 집단은 통상적으로 신뢰할 수 있고, 비용이 적게 들며, 심리적으로 효과적인 방법을 선호한다. 총기, 급조폭발물(IED), 자살 폭탄 테러, 차량 돌진 공격이 여전히 매력적인 이유는 바로 그것이 확실히 작동하기 때문이다.

동시에 이들의 기술적 적응력을 완전히 무시하는 것 또한 실책이다. 테러 조직들은 기존 기술을 흡수하고 이를 창의적으로 활용하는 능력을 입증해 왔다. 9·11 테러는 항공기 납치와 자살 테러라는 이미 확립된 두 가지 방법을 전례 없는 방식으로 결합한 결과였다. 이슬람국가(IS)는 세력의 정점에서 상용 소셜 미디어 플랫폼을 당시 대부분의 정부보다 더 효과적으로 활용했다. 오늘날 헤즈볼라는 드론, 정밀 유도 무기, 정보 작전을 더 광범위한 정치·군사 캠페인에 통합시켰다. 테러리스트들은 전통적인 의미의 기술적 선구자는 아니지만, 종종 유능한 도입자로 기능한다.

AI는 장벽을 낮추고, 워크플로우를 최적화하며, 선전과 모집의 개인화를 가능하게 만든다. 또한 과거에는 더 많은 인력과 기술적 전문성, 시간, 비용이 필요했던 작업들을 더 작은 집단이나 개인이 수행할 수 있도록 지원한다. 대테러 관료들은 AI가 테러 작전의 성공률과 살상력을 어떻게 높일 수 있는지에 주목해야 하지만, AI가 가장 큰 영향력을 발휘할 분야는 선전, 모집, 급진화, 작전 지원, 허위 정보, 그리고 조직 유지 영역이다. 화려하고 극적인 공격에만 독점적으로 집중하는 분석가들은 테러 운동이 어떻게 살아남고 확장하는지 오판할 위험이 있다.

2. 테러리즘과 기술적 적응

AI가 테러리즘을 어떻게 형성할지 이해하려면, 먼저 테러 조직들이 역사적으로 기술을 어떻게 도입해 왔는지 이해해야 한다. 일반적인 가정과 달리, 대부분의 테러 집단은 그리 혁신적이지 않다. 혁신은 비용이 많이 들고, 위험하며, 작전상 위태롭다. 테러리스트들은 실패가 즉각적인 결과로 이어지는 경쟁적인 환경에서 활동한다. 새로운 유형의 폭탄을 개발했으나 폭발에 실패하는 등 혁신에 실패할 경우, 조직적인 망신은 물론 부족한 시간과 자원의 손실을 감수해야 한다.

게다가 인명 피해를 입히기 위해 테러리스트들이 사용하는 기존 방식들은 여전히 매우 효과적이거나, 최소한 충분한 효과를 발휘한다. 차량 돌진 공격, 총기 습격, 재래식 폭탄 테러는 비교적 낮은 기술적 정교함만을 요구하면서도 공포, 정치적 양극화, 언론의 주목, 경제적 혼란을 유발할 수 있다. 실제로 지난 10년 동안 발생한 모든 테러 공격의 80% 이상을 총기와 몇 가지 유형의 폭탄이 차지했다. 많은 경우, 로우테크(low-tech) 방식이 선호되는 이유는 바로 그것이 확실히 믿을 수 있기 때문이다. 부족한 자원을 복잡한 AI 기반 시스템에 투자할지 고민하는 집단이라면, 입증된 대안들과 비교해 비용 편익을 따져보아야만 한다.

이러한 보수적 성향은 조직 구조에 의해 더욱 강화된다. 많은 테러 집단이 분권화되어 있고, 파벌로 갈라져 있으며, 자원의 제약을 받는다. 이들의 구성원은 보통 엘리트 과학자나 엔지니어가 아니기에, 최첨단 기술을 완전한 잠재력까지 끌어올려 사용할 능력이 떨어진다. 작전 보안에 대한 우려 역시 실험과 협업, 테스트를 저해한다. 광범위한 실험은 정보기관의 침투와 감시에 노출될 위험을 높이기 때문이다.

그럼에도 테러 조직들은 변화하는 기술 환경에 적응하며, AI의 가장 큰 이점 중 하나는 과거에는 전문가의 영역이었던 일련의 활동들을 훈련을 덜 받은 사람도 수행할 수 있게 해준다는 점이다. 테러 집단은 대개 이미 상업적으로 이용 가능하거나, 사회적으로 널리 보급되었거나, 국가 행위자 및 민간 기업에 의해 검증된 기술을 도입한다.

이슬람국가는 소셜 미디어, 암호화 메신저, 온라인 선전의 활용을 통해 이러한 적응 패턴을 명확히 보여주었다. 이들은 많은 적대 세력보다 더 공격적이고 체계적으로 이러한 도구들을 사용하여 다국어 선전, 모집 자료, 전장 이미지, 이념적 메시지를 신속하게 유포했다.

발명하기보다 적응하는 경향은 파키스탄에 기반을 둔 조직인 라슈카르에타이바(LeT)의 행동에서도 분명하게 드러난다. 이 조직은 2023년 드론을 이용해 조직원 한 명을 펀자브 지역에 투입했다. 중요한 점은 이슬람국가의 많은 노력이 현대 통신 기술에 익숙한 젊은 구성원들에 의해 주도되었다는 사실이다. 반면 대테러 관료들은 더 많은 나이에서 오는 경험과 지혜라는 이점을 가질 수 있지만, 최신 기술에는 흔히 덜 숙달되어 있다.

이러한 패턴은 AI에서도 지속될 가능성이 높다. AI와 테러리즘에 대한 많은 주장들은 입증된 사용 사례보다는 대개 추측에 기반한 최악의 시나리오에 의해 형성되곤 한다. 테러 조직들은 내부적으로 개발한 최첨단 시스템보다는 상용 모델, 오픈소스 도구, 널리 보급된 플랫폼에 압도적으로 의존할 것이다. AI 역량이 일상적인 소프트웨어 생태계에 내재화됨에 따라, 극단주의 행위자들은 이를 기회주의적으로 착취할 것이다. 그 결과는 혁명적이라기보다는 누적적인 형태가 될 가능성이 크다.

3. 선전과 모집

선전과 모집은 AI 기반 테러 활동이 가장 중요하게 전개될 분야 중 하나가 될 것으로 보인다. 테러리즘은 언제나 선전의 폭력적인 형태였다. 테러 조직은 대중의 주목, 정당성 확보, 위협, 모집, 그리고 양극화를 추구한다. AI는 이러한 목적을 향한 선전물의 제작과 유포를 강화한다.

생성형 AI는 설득력 있는 콘텐츠를 제작하는 비용을 극적으로 낮춘다. 고도로 맞춤화된 텍스트, 이미지, 오디오, 비디오, 밈, 번역, 그래픽 디자인을 이제 신속하게 대규모로 생성할 수 있다. 유니레버, 네슬레, 몬델리즈와 같은 대기업들은 이미 광고에 AI를 활용하고 있는 것으로 알려졌다. 오늘날 공개적으로 사용 가능한 오디오 및 비디오 생성 도구와 서비스들은 설득력이 있을 뿐만 아니라, 특정 유형의 사용자나 표적 언어에 맞춤화된 콘텐츠를 생성하는 데 사용될 수 있다. 더욱이 소셜 미디어 등에서 관객의 참여를 극대화할 목적으로 이러한 콘텐츠를 제작할 수 있는 새로운 기법들이 등장했다.

비용 절감, 도달 범위의 확장, 그리고 맞춤화 기능이 중요한 이유는 역사적으로 테러 선전이 자원과 현지화라는 두 가지 제약에 직면해 왔기 때문이다. 과거에 극단주의 조직들이 활동하려면 인쇄기, 비밀 유포 네트워크, 번역가, 전담 미디어 운영 조직이 필요했다. 유포 과정은 노동집약적이었고 비용이 많이 들었다.

AI는 이러한 장벽을 실질적으로 낮춘다. 예컨대 번역 능력은 서로 다른 문화적 환경 전반에 걸쳐 불만을 확산시키려는 초국가적 운동에 특히 중요하다. 이제 AI 번역 및 언어 생성 도구 덕분에 다국어 소통이 극적으로 수월해졌다.

그 영향력은 단순한 언어 번역에만 그치지 않는다. AI 시스템은 특정 인구통계학적 특성이나 심리적 프로필에 맞춰 선전물을 개인화할 수 있다. 서로 다른 청중들은 종교적 정체성, 반정부적 불만, 인종적 혐오, 반이민 정서, 남성성, 소외감, 혹은 음모론적 서사를 강조하는 맞춤형 메시지를 받게 될 수 있다. 개인화된 설득은 오랫동안 상업 광고와 정치 캠페인의 핵심적인 특징이었다. 극단주의자들 역시 이러한 기술을 점점 더 많이 착취할 수 있다.

딥페이크 기술은 정보 환경을 더욱 복잡하게 만든다. AI가 생성한 오디오와 비디오는 정치 지도자, 종교적 인물, 피해자, 혹은 무장 대원을 사칭할 수 있다. 조작된 영상은 지역 사회의 긴장을 고조시키고, 허위 잔혹 행위 서사를 유포하며, 제도에 대한 신뢰를 약화시키거나, 세력을 확장하고 있다는 인식을 날조하는 데 사용될 수 있다. 위기나 분쟁의 시기에는 검증 메커니즘이 대응하기도 전에 이러한 자료들이 급속도로 퍼져나갈 수 있다.

보고된 바에 따르면 "알카에다 계열의 최소 한 개 조직이 시각적 선전물 개발을 위한 AI 활용 워크숍과 잠재적 모집책을 급진화하기 위한 챗봇 사용법 안내서를 제공했다." 아울러 '이슬람국가 호라산주(IS-K)'는 다양한 환경에서 딥페이크를 사용해 왔으며, 보도에 따르면 2024년 3월 크로쿠스 시티 홀 테러 공격 이후 딥페이크 뉴스 속보 등의 저작물을 제작하는 등, 이미 2023년부터 선전 부서를 대상으로 AI 교육 과정을 운영해 왔다.

더 넓은 의미의 정보 환경은 이미 조작에 취약한 상태다. AI가 생성한 콘텐츠는 허위 서사와 이미지의 양, 속도, 그리고 사실성을 배가시킨다. 테러 집단은 청중이 조작된 콘텐츠를 완전히 진실로 믿도록 만들 필요까지는 없다. 단지 혼란, 양극화, 격분, 혹은 불확실성을 조성하는 것만으로도 충분할 수 있기 때문이다.

동시에, AI 기반 선전의 효과를 과장해서도 안 된다. 소셜 미디어 플랫폼들은 지난 15년 동안 테러 선전물을 단속하기 위한 조치를 취해왔다. 예컨대 메타(Meta)는 "수십억 달러를 투자했으며 안전 및 보안 분야에 약 4만 명의 인력을 투입하고 있다"고 주장하는데, 여기에는 자사 플랫폼에서 테러 콘텐츠를 찾아내려는 노력이 포함된다. 테러 집단은 이러한 콘텐츠를 사냥하기 위해 소셜 플랫폼이 고용한 숙련된 인력과 정교한 알고리즘을 회피할 만한 대등한 수준의 AI 전문성을 보유하고 있지 않다.

AI가 선전물 제작의 효율성을 향상시키고 메시지를 정교화하는 데 도움을 줄 수는 있을지라도, 그것이 설득의 성공을 보장하지는 않는다. 테러리스트의 메시지는 여전히 혼잡한 디지털 환경 속에서 경쟁해야 한다. 대부분의 선전은 실패하며, 극단주의 콘텐츠에 노출된 많은 개인은 이를 거부한다.

더욱이 극단주의 조직들은 자신들의 잔혹성, 파벌주의, 전략적 일관성 결여, 혹은 이념적 극단주의로 인해 스스로를 무너뜨리는 경우가 많다. AI가 선전물 제작의 효율성을 향상시키고 메시지를 정교화하는 데 도움을 줄 수는 있을지라도, 그것이 설득의 성공을 보장하지는 않는다.

4. 허위 정보와 위기 조작

AI의 지원을 받는 선전은 정치적 위기, 지역 사회의 긴장, 혹은 테러 공격 직후의 불확실한 시기에 특히 위험한 것으로 판명될 수 있다. 테러리즘 자체는 흔히 폭력적인 형태의 선전으로 이해하는 것이 가장 정확하다. 테러 공격이 주는 정신적 피해는 흔히 전술적 결과보다 더 중요하다. 실제로 공포야말로 테러리즘의 핵심 본질이며, 테러리즘은 심리적 효과를 노리고 폭력을 사용하고자 한다.

공격이 발생한 직후의 정보 환경은 혼란 그 자체다. 사실관계는 불분명하고, 루머는 빠르게 퍼지며, 대중의 담론은 감정적 반응에 지배당한다. (실제로는 단 한 명이었음에도) 총격범이 여러 명이라거나, 정부의 음모가 개입되었다는 등 위협을 과장하는 패닉성 보도가 빈번하게 나타난다. 2013년 보스턴 마라톤 폭탄 테러 이후, 자칭 온라인 수사대들은 브라운 대학교 학생인 수닐 트리파티를 용의자라고 허위 선언했다. 이 주장은 소셜 미디어와 기성 언론을 통해 널리 유포되었고, 대중의 힘을 모아 인간 사냥을 시도하는 결과를 초래했다.

전통적으로 기회주의적인 극단주의 미디어를 제작하려면 인간의 투입이 필요했으며, 이는 AI에 비해 더 쉽게 차단될 수 있었다. 합성 오디오를 완전히 갖추고 가상의 내레이터가 등장하는 딥페이크 비디오는 인간 내레이터를 대체할 것이며, 이는 비디오 제작자들에게 신원 확인과 체포를 회피할 수 있는 메커니즘을 제공한다.

2024년 5월 17일 아프가니스탄 바미안에서 발생한 테러 공격 이후 공개된 딥페이크 보도는 이러한 변화의 초기 사례다. 공격 이후 가상의 앵커가 뉴스를 낭독하는 모습이 묘사되었다. 이러한 종류의 AI 생성 이미지, 비디오, 오디오는 테러 공격 직후의 혼란을 가중시킬 것이며, 극단주의 행위자들은 사상자 수를 과장하거나, 잔혹 행위를 날조하거나, 허위로 자신들의 소관이라고 주장할 수 있다.

허위 서사는 양극화된 사회에서 특히 위험하며, 정확성보다는 감정적 관여에 최적화된 소셜 미디어 생태계를 통해 급속도로 확산될 수 있다. 일시적인 혼란조차도 폭동, 보복 공격, 공황 상태, 혹은 정치적 과잉 반응을 포함한 현실 세계의 결과들을 만들어낼 수 있다. 이러한 혼란은 정부나 지역 사회가 스스로를 파멸시키는 반응을 보이도록 도발하려는 테러리스트들에게 전략적 호재다. AI로 강화된 허위 정보는 선동적인 서사의 확산을 가속화함으로써 이러한 역학을 증폭시킬 수 있다. 거짓 정보는 흔히 진실보다 빠르게 퍼지며, AI는 이러한 위험을 가중시킬 뿐이다.

5. 자금 조달, 사기, 그리고 범죄 역량 강화

AI는 고도로 정교한 금융 혁신을 주도하기보다는, 주로 사기와 기만 능력을 향상시킴으로써 테러 자금 조달력을 강화할 가능성이 크다. 많은 극단주의 조직은 혁신적인 무기보다 돈을 더 시급하게 필요로 한다. 작전상 생존은 네트워크를 유지하고, 구성원을 지원하며, 장비를 구매하고, 통신을 유지하는 것에 달려 있다.

AI로 강화된 사기는 점점 더 중요해지고 있다. 생성형 시스템은 설득력 있는 피싱 캠페인, 합성 신원, 위조 문서, 가짜 자선 단체, 날조된 인도주의적 호소, 그리고 그럴듯한 온라인 사기 행각을 만들어낼 수 있다. 암호화폐와 온라인 금융 사기는 점차 확산되는 추세다.

중요한 점은 이러한 수법들이 이미 더 광범위한 범죄 생태계 내에 존재하고 있다는 사실이다. 테러 조직들은 역사적으로 완전히 새로운 구조를 창조하기보다는 조직범죄, 밀수 네트워크, 불법 금융 시스템에서 많은 메커니즘을 차용해 왔다. AI는 단지 이러한 활동의 효율성과 그럴듯함을 증대시킬 뿐이다.

그럼에도 중요한 한계는 존재한다. 테러 집단은 대개 오직 재정적 이익에만 집중하는 정교한 범죄 조직들에 비해 능력이 떨어진다. 이들은 종종 기술적 전문성, 작전 기율, 전문 인력이 부족하다. 더욱이 금융 감시 시스템은 계속해서 향상되고 있다. AI가 전반적인 사기 시도를 증가시키겠지만, 모든 극단주의 조직이 동등하게 이득을 보지는 못할 것이다.

6. 급진화와 가상 멘토십

어쩌면 AI가 사회적으로 가장 중대한 영향을 미칠 분야는 급진화와 대인 관계적 강화 영역에서 나타날 것이다. 현대의 AI 시스템은 점차 단순한 정보 검색 도구를 넘어 대화 상대이자 감정적(때로는 연인과 같은) 동반자로 기능하고 있다. 이러한 추세가 지속된다면, 이는 극단주의 확산에 중요한 함의를 갖는다.

역사적으로 급진화는 흔히 대인 관계, 사회적 네트워크, 카리스마 있는 모집책, 그리고 조직적 구조에 의존해 왔다. 많은 개인이 친구 관계, 가족적 유대, 종교 공동체, 혹은 직접적인 사회적 상호작용을 통해 극단주의 운동에 발을 들였다. 테러 모집책들은 소셜 미디어에서 처음 모집되거나 급진화된 이들의 급진성을 공고히 하기 위해 종종 대면 만남을 활용했다.

사람들은 이제 동반자를 얻기 위해 챗봇을 사용하며, 테러 집단은 이를 악용할 수 있다. 극단주의 챗봇이나 이념적으로 편향된 대화형 시스템은 모집책, 멘토, 이념적 인도자, 혹은 감정적 상담 상대의 역할, 또는 이 모든 역할을 동시에 시뮬레이션할 수 있다. AI 시스템은 질문에 답하고, 불만을 정당화하며, 불확실성을 줄여주고, 헌신을 독려하며, 개인을 다른 자원으로 안내하고, 오랜 기간에 걸쳐 관계를 유지할 수 있다. 이러한 역학은 취약하거나 사회적으로 고립된 개인들에게 특히 중요할 수 있다.

이러한 발전은 특히 현대 미국의 맥락에서 중요하다. 가장 지속적인 위협은 흔히 규율 잡힌 계층제 조직이 아니라 급진화된 개인이나 소규모 세포 조직으로부터 오는데, 이들 중 다수는 공식적인 조직 구조가 없음에도 온라인상에서 고도로 네트워크화되어 있다. 따라서 AI 시스템은 이 기술을 가장 잘 활용할 수 있는 집단뿐만 아니라, 폭력을 향한 개인화된 경로를 형성하는 데에도 기여할 수 있다.

이러한 위험은 AI 에이전트와 챗봇이 더욱 고도화되어 외로운 늑대(외톨이형 테러리스트)의 급진화를 강화하고, 이들이 탐지를 회피하도록 도우며, 폭력 계획을 수립하도록 지원하고, 그 외 테러 집단의 염원을 수행할 수 있게 됨에 따라 더욱 커질 가능성이 높다.

동시에 분석가들은 인과관계에 대한 단순한 가정을 경계해야 한다. 사회적으로 고립된 개인의 절대다수가 테러리스트가 되는 것은 아니다. 극단주의 콘텐츠에 노출된다고 해서 자동으로 폭력으로 이어지는 경우는 드물다. AI가 기존의 불만과 이념적 궤적을 강화할 수는 있겠지만, 여전히 더 광범위한 사회적, 정치적, 심리적 맥락 속에서 작동할 것이다.

7. 작전 계획 및 전술적 지원

AI는 테러 조직과 개인의 작전 계획 수립을 지원할 수도 있다. 다만 이러한 역량은 변혁적이라기보다는 점진적인 진화에 가까울 가능성이 크다.

AI 시스템은 정찰, 번역, 표적 조사, 급조폭발물(IED) 설계, 이동 경로 계획, 문서 초안 작성, 코딩, 통신 보안, 오픈소스 인텔리전스(OSINT) 분석을 포함한 일련의 작전 계획 기능을 지원할 수 있다. 이러한 정보의 대부분은 이미 온라인에 존재한다. 가장 주요한 변화는 AI가 정보를 더 빠르고 효율적으로 조직화하고 개인화할 수 있다는 점이다. 또한 AI는 사용자가 아이디어를 제안하고, 문제점을 학습하며, 이를 극복하는 방법에 대한 조언을 제공하는 등 끊임없이 반복 수정을 거듭하도록 도울 수 있다.

거대언어모델(LLM)을 제작하는 주요 기술 기업들이 극단주의 콘텐츠 생성을 제한하는 최소한의 안전장치(가드레일)를 도입하려 노력하고 있지만, 우회 방법은 존재하며 이는 심각한 위협을 초래한다.

오픈소스 소프트웨어 및 모델 공유 사이트(예: 깃허브, 허깅페이스)에는 수천 개의 LLM이 공개되어 있는데, 이들의 독립 개발자들은 가드레일을 도입할 인센티브가 거의 없었기에 어중간한 소프트웨어 개발자조차 '극단주의 챗봇'을 제작하는 것이 가능하다. 일례로 2026년 5월 26일 기준으로 머신러닝 모델의 깃허브 격인 허깅페이스(Hugging Face)는 368,944개의 텍스트 생성 모델을 호스팅하고 있었으며, 이 중 어떤 것이든 다운로드되어 극단주의 챗봇 제작에 악용될 잠재력이 있었다.

또한 이곳은 100,333개의 텍스트-이미지 생성 모델(텍스트 프롬프트를 사용해 이미지를 제작하는 모델), 5,670개의 텍스트-음성 변환 모델, 그리고 1,723개의 텍스트-비디오 생성 모델을 호스팅하고 있었다. 업로드된 모델들은 매일 향상되고 있으며, 가장 최근의 모델들은 대형 AI 기업들이 개발한 모델들과 비교해도 그리 뒤처지지 않는 수준이다. 따라서 가드레일은 설계자들의 기대보다 효과가 떨어지는 경우가 많으며, 결과적으로 테러리스트들이 AI를 더 잘 착취할 수 있도록 방조한다.

경험이 부족한 행위자들에게 AI는 정보적 마찰을 크게 줄여줄 수 있으며, 기술적 전문성이 제한적인 개인도 더 유능해지도록 지원한다. 예컨대 2025년 11월 델리에서 발생한 폭탄 테러와 관련하여 인도 국립조사국(NIA)이 2026년 5월에 제출한 '기소장'에 따르면, 인도 아대륙 알카에다(AQIS)와 연계된 피고인 주범이 유튜브와 챗GPT를 활용해 "로켓[IED]을 만드는 방법과 혼합물의 비율을 어떻게 해야 하는지" 학습한 것으로 기록되어 있다.

그럼에도 중요한 작전상의 한계는 여전히 존재한다. 폭력을 실행하는 것은 어려운 일이며, 훈련받지 않은 개인은 작전 집행 과정에서 빈번히 실패한다. 많은 공격이 스트레스, 경험 부족, 미숙한 작전 보안 기술, 혹은 군수 보급 역량 부족으로 인해 무산된다. AI가 이러한 제약 조건들을 완전히 제거할 수는 없다. 더욱이 고도화된 테러 작전은 통상적으로 신뢰, 조직적 조율, 작전 보안, 자금 조달, 그리고 실전 경험을 필요로 한다. AI가 계획 수립의 효율성은 높여줄지 몰라도, 조직의 기반 시설을 대체하지는 못한다.

따라서 예상되는 결과는 고도로 정교한 공격의 폭발적인 증가가 아니라, 하부 행위자들의 역량이 완만하게 향상되는 수준일 것이다. 작전 능력이 미미하게 개선되는 것조차도 여전히 중요한 문제다. 특히 외로운 늑대가 이미 상당한 위험을 초래하고 있거나, 역량을 갖춘 집단이 이미 수많은 공격을 감행하고 있는 환경에서는 더욱 그러하다.

8. CBRN 테러리즘과 생물학적 위험

AI와 화학·생물·방사능·핵(CBRN) 테러리즘의 교차점은 극심한 우려를 자아내고 있다. 특히 생물학적 위험은 최첨단 프런티어 AI 시스템에 관한 토론의 중심 주제가 되었다.

당장 직면한 위험은 AI와 드론을 결합하여 CBRN 시설을 타격하는 방식이다. 이미 많은 테러 집단이 드론 사용을 도입했다. 이와 동시에 우크라이나 전쟁은 음향 탐지나 저비용 요격 등 드론에 여러 형태의 AI를 적용하는 흐름을 가속화했다. 다른 지역의 테러리스트들 역시 시판 중인 머신러닝 및 이미지 분석 라이브러리를 활용해 GPS 없이도 표적을 식별하고, 음향 탐지기를 교란하기 위해 음향 방출에 의도적으로 노이즈를 주입하며, 방어자에게 위치 정보가 노출되는 것을 피하고자 통신을 제한하는 방식으로 작전을 업그레이드하는 데 AI를 사용할 수 있다.

이와 별개로 우려되는 지점은 새로운 단백질 생성의 필수 단계인 단백질 구조 예측을 위해 알파폴드(AlphaFold)와 같은 AI 모델을 사용하는 것이다. 현재의 단백질 구조 예측 방법과 단백질 언어 모델에는 인류에게 유익한 치료제 대신 치명적인 병원체를 개발하려는 악의적인 개인이나 국가 행위자를 저지할 가드레일이 거의 없다. 더 넓게 보면, 최근의 평가들은 고도화된 모델들이 실험실 절차의 문제 해결이나 전문적인 기술 정보 합성 같은 지엽적인 과학적 과제에서 고도로 훈련된 인간 전문가를 점차 능가하고 있음을 시사한다. 모델이 발전함에 따라, 악의적 행위자가 병원체를 식별하고, 실험 절차를 최적화하며, 기술적 병목 구간을 돌파하는 과정에서 AI 시스템이 도움을 줄 수 있다는 가능성은 한층 더 그럴듯해진다.

그러나 신중한 접근이 필요하다. 생물학 영역은 여전히 복잡하고 불확실하다. 시뮬레이션 환경이나 이론적 모델링에서의 성공이 반드시 성공적인 무기화로 이어지는 것은 아니다. 암묵지, 실험실 기반 시설, 원료 확보, 안전 프로토콜, 환경적 변수, 조직적 역량은 여전히 주요한 제약 사항으로 남이 있으며, 테러 집단이 이를 극복하려면 상당한 전문 지식과 자금, 지원이 필요할 것이다.

역사적으로 대부분의 테러 조직은 진정한 의미의 대량 살상 생물 테러에 제한적인 관심만을 보여왔다. 수많은 민간인을 살해하려는 집단조차도 대개 아포칼립스적 파멸보다는 상징적, 정치적, 혹은 전략적 효과를 추구한다. 마찬가지로 끔찍한 폭력을 수용하는 집단(예: 이슬람국가)이라 할지라도 그들에게는 지지층이 존재하며, 자신들의 수많은 지지자가 피해를 입는 것을 원치 않을 것이다. 대규모 생물학 공격은 작전상 까다롭고, 전략적으로 예측 불가능하며, 잠재적으로 역효과를 낳을 수 있다.

더 큰 위험은 정치적 변화가 아니라 세상의 종말이나 인류의 대량 학살을 원하는 허무주의적 개인, 사이비 종교 등에서 기인한다. 과거에 옴진리교 같은 사이비 종교는 생물 무기를 추구했다. 그 조직은 내부에 수많은 과학자와 엔지니어를 거느리고 있었고, 제한적인 수준의 무기화에 실제로 성공하기도 했다.

최근 연방수사국(FBI)은 '허무주의적 폭력적 극단주의자'라는 카테고리를 대외적으로 알렸는데, 이들은 "주로 사회 전반에 대한 증오와 무차별적인 혼란, 파괴, 사회적 불안정을 조장하여 사회를 붕괴시키려는 욕망에서 비롯된 정치적, 사회적, 또는 종교적 목표를 진전시키기 위해 미국 국내외에서 범죄 행위에 가담하는 개인들"로 정의된다. 이들 중 다수는 대량 살상을 추구하며 사회적 피해에는 거의 신경 쓰지 않는데, 왜냐하면 이들 스스로에게는 보호해야 할 지지층이 없기 때문이다.

낮은 확률이 재앙적인 결과와 결합할 때, 지속적인 경계태세는 정당성을 얻는다. 그러나 분석 과정에서 AI가 생물 테러에 대한 모든 장벽을 자동으로 무너뜨린다고 가정하는 오류는 피해야 한다. 더 그럴듯한 단기적 위험은 기술 정보에 대한 접근성을 높이거나, 학습 곡선을 앞당기거나, 역량이 부족한 행위자가 특정 난제를 해결하도록 돕는 등 점진적인 역량 강화 형태일 것이다. 아무리 미미한 능력 향상이라 할지라도 결연한 행위자와 결합할 때는 위험해질 수 있다.

9. 이란, 국가 지원, 그리고 AI 기반 대리전 활동

국가의 지원은 역사적으로 테러 및 무장 조직의 역량을 증폭시켜 왔다. AI는 국가가 부인 가능한 형태의 기술 지원, 정보 작전, 혹은 사이버 지원을 제공할 수 있도록 허용함으로써 이러한 역학을 강화할 수 있다.

이러한 맥락에서 특히 주목해야 할 국가는 이란이다. 테헤란(이란 정부)은 유의미한 사이버 역량, 정교한 정보 기관, 그리고 중동 전역의 대리 조직들과의 광범위한 관계를 보유하고 있다. 이란의 영향력 공작은 미국 내부의 인식을 형성하려 시도해 왔으며, 이란 연계 사이버 활동은 기간 시설과 지역 내 적대국들을 표적으로 삼아왔다.

현재 미국 및 이스라엘과 이란 간의 갈등을 고려할 때, 이란은 테러 공격을 고려할 많은 유인을 가지고 있다. 실제로 미국은 이란과 긴밀한 관계를 맺고 있는 이라크 기반 조직인 카타이브 헤즈볼라의 고위 작전요원을 체포했는데, 그는 미국 내 유대인 시설에 대한 일련의 공격을 계획하고 있었으며 유럽 내 유대인 시설 연쇄 공격과도 연계되어 있었던 것으로 밝혀졌다.

상용 AI 시스템이 더욱 강력해짐에 따라 이란과 같은 국가들은 이를 대리전에 활용할 수 있다. AI는 물리적·사이버적 취약점을 모두 식별하고 허위 정보, 기만, 선전 캠페인을 정교화하며 오픈소스 인텔리전스를 분석하거나 영향력 공작을 조율하는 데 도움을 줄 수 있다. 미국의 동맹국들이 상대적으로 취약한 사이버 방어력을 가졌거나 정보 환경이 더 양극화되어 있다면 특히 이 위험에 취약할 수 있다.

동시에 갈등 고조에 대한 우려가 실질적인 제약으로 작용한다. 국가 후원자들은 대개 더 강력한 적대국과의 직접적인 충돌을 피할 수 있는 부인 가능하고 정밀하게 조율된 행동을 선호한다. 아울러 테러 조직에 고도화된 AI 시스템을 제공하는 것은 국가 행위자가 예상하지 못하거나 피하고 싶어 하는 역량을 그 집단이 보유하게 만드는 결과를 초래할 수 있다. 따라서 AI 기반 대리전 활동은 무차별적인 파멸적 공격보다는 영향력 행사, 사이버 교란, 선전, 그리고 표적화된 지원에 집중될 가능성이 크다.

10. AI와 대테러 활동

극단주의자들에게 힘을 실어주는 바로 그 기술들이 대테러 역량 또한 강화할 것이다. 역사적으로 테러리즘과 대테러 활동은 상호작용하며 진화해 왔다. 이 관계는 국가와 비국가 행위자가 서로의 혁신에 대응하는 지속적인 적응의 순환 고리와 닮아 있다. 예컨대 1970년대와 1980년대 임시 아일랜드 공화국군(PIRA)이 급조폭발물(IED)을 사용하자 영국은 원격으로 폭탄을 조사하고 해체하는 방법을 개발했다. AI는 이러한 경쟁 과정을 한층 더 심화시킬 것이다.

정보기관들은 데이터 분석과 패턴 인식 등 전략적 및 전술적 목적 모두를 위해 머신러닝 도구를 사용할 수 있다. AI 기반 기술을 활용하면 테러 집단의 공격 타이밍, 위치, 표적 유형을 더 잘 예측할 수 있다. 전술적 측면에서 AI는 의심스러운 구매 행동을 식별하고, 비정상적인 여행 패턴을 감지하며, 금융 거래를 분석하고, 테러 사건의 배후를 규명하며 파편화된 데이터 세트를 연결하는 데 사용될 수 있다.

AI 기반의 소셜 미디어 분석 역시 상당한 가능성을 내포하고 있다. 테러리스트들은 의도적이든 의도치 않든 온라인에 정보를 자주 노출한다. AI 도구는 인간 분석가 단독으로 처리하는 것보다 방대한 양의 디지털 통신, 이미지, 비디오, 메타데이터를 훨씬 더 효율적으로 처리할 수 있다. AI 기반 도구를 사용해 테러 행위를 지원하거나 미화하는 게시물을 식별할 수 있다.

또한 조직원 모집을 시도하는 게시물에 플래그를 지정하고 급진화된 개인을 찾아내는 데도 활용될 수 있다. 마지막으로 테러대응글로벌인터넷포럼(GIFCT) 같은 조직들은 여러 기술 기업, 대학, 연구 기관 간의 노력을 조율하여 테러에 관한 플랫폼 가이드라인을 위반하는 게시물을 찾아낸다. 그러나 이러한 AI 기술은 오탐을 낳을 수 있어 죄 없는 개인이 테러 동조자로 의심받을 가능성이 있으므로 신중하게 사용해야 한다.

AI는 테러리스트 및 테러 용의자에 대한 고도화된 감시를 위해서도 전례 없는 기회를 제공한다. 오늘날 AI 시스템은 전화 통화를 '도청'하고, 음성-텍스트 변환 모델을 사용해 통신 녹취록을 자동으로 생성하며, 해당 녹취록을 모국어에서 다른 언어로 번역하고, 이를 분석하여 위협 지수를 산출할 수 있다. 위치 추적과 생체 인식 분석 역시 더욱 정교해질 수 있다. 오늘날 AI 시스템은 드론 및 위성 이미지와 컴퓨터 비전 알고리즘을 결합해 차량의 이동을 실시간으로 추적할 수 있다. 확장되는 감시 인프라와 결합할 때, 정부는 네트워크 분석과 머신러닝을 연계하여 극단주의 네트워크를 식별, 모니터링, 차단하는 역량을 크게 향상시킬 수 있다.

그러나 이러한 역량은 깊은 윤리적, 정치적 우려를 낳는다. 예측 시스템은 결정론적이 아니라 확률론적으로 작동한다. 높은 확률 점수가 나왔다고 해서 그 개인이 반드시 폭력을 행사한다는 의미는 아니다. 테러리즘은 통계적으로 드문 현상이며 행동학적으로 예측하기 어렵다. 이는 과잉 대응, 편향, 그리고 오탐의 심각한 위험을 창출한다. 기존의 프로파일링 시스템도 이미 정확성 측면에서 고전하고 있다.

부실하게 설계된 AI 시스템은 차별적 관행을 증폭시키거나 과도한 감시를 부추길 수 있지만, 그 위험성은 맥락에 따라 다르다. 정부는 자국민이 얽힌 국내 범죄 수사보다 입국하는 외국인에게 더 낮은 입증 기준을 적용할 수 있다. 전반적으로 민주주의 사회는 적법 절차, 사생활 침해, 책임성이라는 까다로운 질문에 직면해 있다.

정부 관료들이 AI 시스템을 과도하게 신뢰할 수 있다는 더 광범위한 위험도 존재한다. 자동화 편향은 증거가 취약하거나 모호할 때조차 관료들이 알고리즘의 결과물에 맹종하도록 만들 수 있다. 이러한 역학은 안보를 유의미하게 개선하지 못하면서도 시민의 자유를 침해할 수 있다. 실제로 가장 큰 장기적 위험 중 하나는 대테러 활동이라는 명목하에 자행되는 AI의 오남용일지 모른다. 안보 우려로 정당화된 광범위한 감시 아키텍처는 더 넓은 의미의 정치적 감시와 사회 통제 시스템으로 진화할 수 있다. 따라서 AI 기반 감시 국가의 도래 가능성은 민주주의의 핵심적인 우려 사안이다.

11. 정책 제언

민주주의 사회는 까다로운 균형 잡기 시험대에 서 있다. 이들은 AI 분야에서 기술적 경쟁력을 보존하는 동시에, 재앙적인 오남용의 위험 또한 줄여야 한다. 과도하게 제한적인 정책은 특히 권위주의 경쟁국들과 비교했을 때 혁신과 전략적 우위를 약화시킬 수 있다. 그러나 불충분한 감독은 위험한 취약점을 만들어낼 수 있다. 이러한 환경을 감안할 때 몇 가지 정책적 우선순위가 부각된다.

AI 기반 대테러 시스템의 경우, 정부는 관련 기업들이 제시하는 주장과 위험 완화 절차에 대해 독립적인 감사를 요구해야 한다. 따라서 이러한 감사는 기업의 자발적인 확약에만 의존하기보다는, 정부의 감독하에 운영되는 독립적인 전문가 기구를 통해 이루어져야 한다.

민관 조율이 실질적으로 개선되어야 한다. 관련 기술 인프라와 전문 지식의 대부분은 민간 기업의 손에 있는 반면, 정부는 정보 권한, 법 집행 역량, 국가 안보 책임을 보유하고 있다. 따라서 효과적인 대테러 활동을 위해서는 AI 기업, 정부 기관, 그리고 여타 기구 간의 정보 공유, 위협 평가, 위기 조율을 위한 제도화된 메커니즘이 필요하다.

화학 및 생물학적 위험 평가는 지속적인 주목을 받아야 마땅하다. 생성형 AI 시스템은 치명적인 화학 및 생물학 작용제를 설계하는 데 필요한 시간을 크게 단축할 잠재력이 있다. 정부는 AI 기반 화학 및 생물학적 역량과 관련하여 엄격한 테스트 체계, 레드팀 평가, 그리고 국제 과학계의 조율을 지원해야 한다. 유엔 화학무기금지조약(CWC)이나 유엔 생물무기금지조약(BWC) 같은 기존 안전장치에 대한 과도한 신뢰는 위험한 것으로 판명될 수 있다.

AI 모델 개발에 참여하는 기업들은 위험한 생물 및 화학 작용제 생성에 가드레일을 설치할 일정 수준의 의무를 지녀야 하며, 독립적인 엔티티가 테스트와 감사를 수행해야 한다. 이러한 조치는 기업을 처벌하기 위한 것이 아니라, 기업과 협력하여 가드레일을 개선하기 위한 방향으로 존재해야 한다.

정책 입안자들은 법적 권리와 시민의 자유를 철저히 보호해야 한다. AI 기반 감시 및 예측 분석을 중심으로 구축된 대테러 시스템은 투명한 감독, 사법적 심사, 그리고 책임 메커니즘을 요구한다. 민주주의는 자신들이 수호하고자 하는 헌법적 원칙을 저버림으로써 안보를 지켜낼 수 없다.

분석가들은 기술 결정론을 피해야 한다. 극단주의 폭력은 정체성, 불만, 조직적 역학, 갈등, 거버넌스 실패, 양극화, 그리고 전략적 계산이 얽힌 더 넓은 맥락에서 발생한다. AI가 이러한 근본적인 역학을 대체하는 것은 아니다.

인공지능이 테러리즘을 하룻밤 사이에 뒤바꿔놓을 가능성은 낮다. 단기적으로 가장 중대한 영향은 자율 작동하는 슈퍼 무기나 아포칼립스적 시나리오가 아니라 모집, 허위 정보, 사기, 작전 지원, 사회적 강화 영역에서 일어나는 작고 누적적인 변화를 통해 나타날 것이다. AI는 과거에 더 큰 조직과 더 방대한 전문성을 요구했던 과제들을 더 작은 행위자들이 수행할 수 있도록 도울 수 있다.

동시에 AI는 향상된 감시, 패턴 인식, 정보 분석을 통해 국가의 대테러 역량을 강화할 것이다. 궁극적으로 이 도전 과제는 기술적인 문제만큼이나 정치적이고 제도적인 문제다. 민주주의 사회는 오남용에 대한 신뢰할 수 있는 안전장치를 구축하는 동시에 혁신을 보존하는 전략을 추구해야 한다.

목표는 극단주의 행위자들의 모든 기술적 적응을 막는 것이 아니라, 재앙적인 위험을 줄이고, 사회적 복원력을 강화하며, 테러에 대한 대응이 자신들이 보호하려는 민주적 가치를 훼손하지 않도록 보장하는 것이어야 한다.