큐티코 님, 안녕하세요?
AI 트렌드를 전달해드리는 Trendium.ai 입니다.
미국·러시아가 유엔 자율무기 협상에서 AI가 선택한 표적에 대한 인간의 사전 검토 등 핵심 안전장치 문구를 삭제했습니다.
by 👁️🗨️ 예언카드 prophecycardmaster
AI가 표적을 판단하고 공격하는 시대, 전쟁에서 인간의 최종 통제권이 어디까지 남을 것인지가 새로운 국제적 쟁점으로 떠오르고 있습니다.
AI가 표적을 고르고 인간은 승인만 한다?, 미국·러시아, 유엔 자율무기 규제의 핵심 안전장치가 사라졌다
전쟁에서 가장 중요한 질문은 이제 ‘미사일을 누가 발사하는가’가 아닐 수 있습니다.
‘누가 죽일 대상을 결정하는가’가 더 중요한 문제가 되고 있습니다.
지난 9월 초 스위스 제네바에서 열린 유엔 재래식무기금지협약(CCW) 산하 치명적 자율무기체계(LAWS) 정부 전문가그룹 협상에서 미국과 러시아가 자율무기 규제 문안의 일부 핵심 안전장치를 삭제했다고 워싱턴포스트가 보도했습니다.
보도에 따르면 양국 대표단은 협상 마지막 날 약 15시간 동안 문구를 집중 수정했고,
이 과정에서
- AI가 선택한 군사 목표에 대한 인간의 사전 검토
- 무기의 예측 가능성과 신뢰성
- AI 무기 사용에 대한 윤리적 고려
등이 문안에서 빠졌습니다.
여기서 중요한 점이 있습니다
현재 이것은 ‘유엔 AI 무기 협약’이 체결됐다는 이야기가 아닙니다. 유엔 CCW 전문가그룹은 2026년 8월 31일~9월 4일 회의를 포함해 자율무기에 대한 국제적 규범과 운용 원칙을 마련하고 있으며, 최종적으로 어떤 형태의 국제문서가 만들어질지는 아직 결정되지 않았습니다. 2026년 11월 CCW 검토회의가 중요한 다음 단계입니다.
그런데 삭제된 문구가 중요한 이유가 있습니다.
자율무기(AWS)는 단순히 ‘AI가 장착된 미사일’을 의미하지 않습니다. 핵심은 인간이 구체적인 표적과 공격 시점을 직접 결정하지 않아도 센서와 소프트웨어가 특정 조건을 충족하는 대상을 찾아 무력을 행사할 수 있다는 점입니다.
특히 머신러닝이 들어가면 문제가 복잡해집니다.
AI는 수많은 데이터를 기반으로 표적의 특징을 분류하지만, 인간처럼 상황의 맥락을 완전히 이해한다고 보장할 수 없습니다. 센서 오류, 학습 데이터의 편향, 적의 기만, 통신 장애 등이 겹치면 AI가 ‘적군’이라고 판단한 대상이 실제로는 민간인이나 민간시설일 가능성도 존재합니다.
국제적십자위원회(ICRC)가 오래전부터 예측 가능성·인간의 감독·개입 및 비활성화 능력을 인간 통제의 핵심 요소로 강조해온 이유입니다. ICRC는 예측하기 어려운 자율무기와 인간을 직접 표적으로 삼는 자율무기에 대한 금지 및 나머지 시스템에 대한 엄격한 제한을 국제적으로 마련해야 한다고 주장해왔습니다.
더 흥미로운 부분은 미국의 국내 정책입니다
미 국방부의 2023년 자율무기 지침인 DoD Directive 3000.09 역시 자율·반자율 무기체계가 무력 사용에 대해 적절한 수준의 인간 판단을 행사할 수 있도록 설계돼야 한다고 규정하고 있습니다. 또한 시스템의 검증·검증확인(V&V), 시험평가, 신뢰성, 추적 가능성, 의도하지 않은 행동을 보이는 시스템의 비활성화 능력 등을 요구합니다.
따라서 이번 논란의 본질은 단순히 ‘미국과 러시아가 AI 무기를 찬성한다’는 이야기가 아닙니다. 더 근본적인 문제는 인간이 AI의 결정을 어느 단계까지 통제해야 하는가입니다.
전통적인 무기체계에서는 인간이 표적을 선택하고 무기를 발사합니다. 하지만 완전 자율화에 가까워질수록 구조가 달라집니다.
인간 → AI에 임무 부여 → AI가 표적 탐색 → AI가 위협 판단 → AI가 공격 실행
이 과정에서 인간이 마지막 승인 버튼만 누르는 구조라면, 형식적으로는 인간이 개입했지만 실질적인 의사결정은 이미 AI가 수행했을 가능성이 있습니다.
더 큰 문제는 군집드론과 자율 시스템입니다
수십~수백 개의 드론이 서로 정보를 교환하며 움직이는 환경에서는 인간이 모든 개별 표적을 실시간으로 검토하는 것 자체가 기술적으로 불가능해질 수 있습니다. 결국 ‘휴먼 인 더 루프(Human-in-the-loop, HITL)’에서 ‘휴먼 온 더 루프(Human-on-the-Loop, HOTL)’로, 그리고 상황에 따라 인간이 사후 감독하는 구조로 이동할 가능성이 생깁니다.
- ‘휴먼 인 더 루프(Human-in-the-Loop, HITL)’: 인공지능(AI)이나 자동화 시스템이 의사결정을 내리고 실행하는 과정에 인간이 적극적으로 개입하여 판단을 보완하고 검증하는 협업 구조
- ‘휴먼 온 더 루프(Human-on-the-Loop, HOTL)’: 인공지능(AI)이나 자동화 시스템이 대부분의 판단과 실행을 스스로 수행하고, 인간은 루프(프로세스) '위'에서 전체 과정을 모니터링하다가 예외 상황이나 위험 신호가 발생할 때만 개입해 이를 바로잡거나 중단시키는 운영 구조
이것이 바로 이번 협상에서 ‘인간 감독’이라는 표현 하나가 중요한 이유입니다.
AI가 전쟁에 사용되는 속도는 국제법이 새로운 규칙을 만드는 속도보다 빠를 수 있습니다. 유엔 역시 2026년 문서에서 자율성이 증가하는 무기체계가 이미 현실이 됐으며 기술 발전 속도가 매우 빠르다고 지적했습니다.
결국 앞으로의 전쟁에서 가장 중요한 무기는 미사일이나 드론 자체가 아니라 표적을 판단하는 알고리즘이 될 가능성이 있습니다.
그리고 지금 국제사회가 협상하고 있는 것은 단순한 무기 규제가 아닙니다. ‘생사에 관한 최종 결정권을 인간에게 남겨둘 것인가, 아니면 알고리즘에게 일부 넘겨줄 것인가’라는 문제입니다.
이번 문구 삭제가 최종적인 국제규범을 의미하는 것은 아닙니다. 11월 이후 협상에서 다시 복원될 가능성도 있습니다. 하지만 한 가지 사실은 분명합니다.
AI가 전쟁터에 들어오는 순간, ‘인간의 통제’는 기술 문제가 아니라 국제안보의 핵심 인프라가 됩니다.
오늘 뉴스레터를 읽고 나면
AI 기술이 단순한 산업 혁신을 넘어 국방과 국제질서까지 어떻게 바꾸고 있는지 이해할 수 있습니다.
특히 AI를 공부하는 분, AI·방산 분야에 투자하는 분, 관련 기술과 사업을 준비하는 분이라면 자율무기와 인간 통제라는 새로운 기술·규제 환경이 앞으로의 산업과 시장에 어떤 변화를 가져올지 생각해보는 데 도움이 될 것입니다.
[ 원문 자료 출처]
- https://www.washingtonpost.com/technology/2026/09/26/how-us-russia-weakened-global-effort-regulate-killer-ai/
- https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/CCW-GGE.1-2026-WP.2.pdf
- https://www.hrw.org/news/2026/09/07/un-talks-on-killer-robots-ends-with-calls-for-negotiations-growing
- https://www.war.gov/News/Releases/Release/Article/3278076/dod-announces-update-to-dod-directive-300009-autonomy-in-weapon-systems/
오늘의 미래 예언 카드
by 👁️🗨️ 예언카드 prophecycardmaster
의견을 남겨주세요