피스모모의 가연과 아영, 대훈은 8월 31일부터 9월 4일까지 열린 특정재래식무기금지협약(CCW) 자율살상무기체계(LAWS) 정부전문가회의(GGE)에 참여하고 무사히 귀국했습니다. 응원해주신 모든 분들께 감사의 말씀을 드려요.
정부전문가회의는 매일 오전 10시부터 오후 6시까지 진행되었는데요. 피스모모는 회의 전 일정에 참여하는 동시에, 회의 둘째날이었던 9월 1일 점심시간 동안 전문가 토론회(Side event)도 개최했습니다. 프리드리히 에버트재단 한국사무소와 제네바사무소와 함께 주최한 토론회였어요.
토론회의 주제는 <인간통제(Human Control), 거버넌스의 갈림길에서: 안보예외, 무기를 넘어선 군사 AI, 그리고 ‘의미 있는’ 인간 통제의 후퇴>였는데요. 하루종일 진행되는 빽빽한 회의 일정 속에도 피스모모가 예상했던 것보다 훨씬 많은 인원이 함께해주셔서 기쁘고 놀라웠습니다. 자리가 없어 바닥에 앉으시거나 벽에 기대 서서 참여하시는 분들도 계셨어요. 자율살상무기체계를 둘러싼 인간통제의 문제에 대한 관심이 그만큼 높다는 것을 확인할 수 있었습니다.
피스모모 평화/교육 연구소 이대훈 소장님의 진행으로 부드럽게 열린 토론회는 프리드리히 에버트 재단 제네바 사무소의 군축전문가 리사 뮐러 도르만의 여는 말과 국제적십자위원회(ICRC) 법률자문관 하이디 칸디엘, 피스모모의 아영, 영국 노팅엄대학교의 오즐렘 울겐 교수, 스탑킬러로봇 정책국장 엘리자베스 마이너의 발표, 그리고 참여자들의 토론으로 채워졌습니다.
프리드리히 에버트 재단 제네바사무소 군비통제 전문가 리사 뮐러 도르만(Lisa Muller-Dormann)은 여는 말에서, 지정학적 긴장과 재무장 지출이 늘어나는 국면일수록 군축 논의의 중요성이 커진다는 점을 강조했습니다. 그리고 그간 진전되어 온 국제사회의 군비축소 흐름의 핵심 동력이 중견국과 시민사회-국가 간 연대였음을 환기해주었습니다.
첫 번째 발제자는 국제적십자위원회(ICRC) 법률자문관 하이디 칸디엘(Heidi Kandiel)이었는데요. 하이디 칸디엘 법무전문관은 국제인도법(IHL) 관점에서 인간통제의 실행 방안에 대해 발제했습니다. 국제인도법이 무기체계 수명주기 전 단계의 직접적·물리적 통제까지 요구하지는 않지만, 공격의 합법성에 대한 법적 판단과 군사적 이점·비례성 같은 가치판단적 결정은 반드시 인간이 내려야 하며, 기계에 위임될 수 없다는 점을 강조했어요. ICRC는 인공지능 기반 의사결정지원체계(DSS)의 개발 및 사용에 관한 16개 예비 권고안을 제시하고, 인간통제는 단일한 체크박스가 아니라 설계부터 사용 까지 전 수명주기에 걸쳐 총체적으로 검토돼야 한다고 결론지었습니다.
두 번째 발제자는 피스모모 대표 아영이었어요. 아영은 “설계된 거버넌스 공백(A Governance Gap by Design)”이라는 제목으로 한국의 군사 AI 입법 공백을 짚었습니다. 지난 1월 22일 시행된 AI기본법이 “오로지” 국방·안보 목적의 AI를 적용 대상에서 제외하면서도 EU AI 기본법와 달리 이중용도(Dual-Use) 기술을 보완할 장치가 없다는 점, 그리고 국회에 계류 중인 국방AI법안이 “인간 개입”이라는 표현을 단 한 차례만 사용할 뿐 구체적 적용 규정을 두지 않고 있다는 점을 지적했습니다. 아영은 이러한 공백이 결국 책임소재의 공백으로 이어지며, 알고리즘의 판단을 형식적으로 “승인”하기만 하는 지휘관은 자동화의 “도덕적 완충재”로 전락할 위험이 있다는 점을 경고했습니다.
세 번째 발제자는 영국 노팅엄대학교의 오즐렘 울겐(Ozlem Ulgen) 교수였습니다. 오슬렘 울겐 교수는 EU AI 기본법과 한국 AI기본법의 위험기반 규제 체계를 비교하며, 양 법제 모두 군사적 예외 조항을 두고 있지만 한국법에는 EU식 이중용도 세부 규정이 없다는 점을 지적했습니다. 또한, 두 법제와 정부전문가회의에서 합의한 지도원칙(인간 책임, 인간-기계 상호작용, 책임성) 간의 정합성을 짚으면서도, 행사 당일 오전 GGE 회의중에 협상 초안 문구 중 “인간(human)”이라는 단어가 삭제되는 흐름을 목격했다는 점을 짚으며 우려를 표했습니다.
마지막 발제자는 스탑킬러로봇(Stop Killer Rotobs) 정책국장 엘리자베스 마이너(Elizabeth Minor)였는데요. 엘리자베스 마이너 정책국장은 현재 정부전문가회의에서 논의되고 있는 문안들이 예측가능성·신뢰성·추적가능성·설명가능성 개념을 포함하는 유의미한 인간통제의 기반을 가지고는 있지만, 대인(anti-personnel) 자율무기체계 문제를 여전히 다루지 못하고 있다고 지적했습니다. 또한, ‘의미 있는 인간통제’의 핵심 요건으로 사용자가 시스템의 작동 방식과 사용 맥락을 충분히 이해하는지, 시스템의 작동 범위·시간·발사 횟수 를 실질적으로 제한할 수 있는지를 제시하며, 다음 단계는 이를 명확한 법적 규칙으로 전환하는 협상이라는 점을 강조했습니다.
네 사람의 발제를 마치고, 모두가 참여하는 토론이 진행되었습니다. 30분 정도 진행된 토론에서는 이중용도 판별 기준 및 대인 자율무기 정의 등 쟁점들에 대한 다양한 의견이 쏟아졌고, 한국의 하위 규범(국방지침·교리 등)이 부재하다는 문제와 AI 하드웨어 생산국의 영향력 및 모델 개발국·연산 수행국·데이터 출처국·산출물 사용국이 상이할 경우의 관할권 문제 등이 폭넓게 논의되었습니다.
뜨거운 토론을 마치고, 발제자들은 마무리 발언을 통해 “기술이 아닌 인간이 결정해야 할 미래”라고 한 목소리로 인간 중심의 통제 원칙을 강조했어요. 엘리자베스 마이너는 GGE 에서 마련된 토대를 국가들이 법적 규칙으로 전환해야 한다고 말했고, 오즐렘 울겐은 인간 판단과 통제 가 핵심이어야 하는 이유에 대한 규범적 정당화가 국가 간에 더 명확히 공유돼야 한다는 점을 강조했습니다. 피스모모 대표 아영은 지금 이 사회가 인간중심적이면서도 정작 인간다움에 대한 근본적 논의는 잃어가고 있다고 우려하며, 10년간 GGE에 참여해 온 모든 사람들의 노력과 연대에서 희망을 찾는다고 이야기했습니다. 하이디 칸디엘 법률자문관은 국제인도법 준수는 협상의 대상이 아니라, 모두가 반드시 이행해야 하는 의무이며, 전쟁뿐 아니라 인류의 미래는 기계가 아닌 인간에 의해 결정되어야 한다는 점을 재차 강조했습니다.
이번 회의는 특정재래식무기금지협약(CCW)에서 정부전문가회의(GGE)에 위임한 임기의 마지막이었습니다. 이 회의에서 결정된 사항들을 가지고 11월 중순 열리는 검토회의(Review conference)에서 최종적인 협약 수립 과정으로의 이행여부가 확정되게 됩니다.
하지만 유감스럽게도, 마지막 날 회의 전체가 비공식으로 진행되면서, 특정재래식무기금지협약 당사국인 국가들 외에, 참관국이나 연구자, 연구기관, 시민사회단체들에게는 회의의 최종결론이 공유되지 않고 있습니다. 당사국들이 비공식회의를 임기 마지막 날인 금요일 새벽 3시까지 진행했다고 알려지고요. 최종문서 직전 버전까지는 입수하여 살펴보고 있지만, 최종문서가 언제 공개될지에 대해서도 의견이 분분합니다. 피스모모는 이번 회의 모니터링 보고서를 작성하고 있습니다. 보고서와 함께 다시 한 번 인사드릴게요.
피스모모의 이 모든 활동은 후원해주시는 분들 덕분에 가능합니다. 누군가는 꼭 해야하는 일, 피스모모가 인공지능의 군사적 이용과 그를 둘러싼 사회적 담론을 만들어가는데 더 힘 낼 수 있도록 후원으로 함께해주세요! 고맙습니다!
의견을 남겨주세요