여성을 위한 한국은 없다

구독자님, 안녕하세요. 

최근 인공지능(AI) 기술의 급속한 발전과 함께 딥페이크(Deepfake) 기술도 급부상하며 사회 전반에 걸쳐 커다란 파장을 일으키고 있습니다. 딥페이크는 인공지능을 활용해 사람의 얼굴이나 목소리를 사실적으로 합성하는 기술로, 원래 존재하지 않는 가짜 영상을 만들어낼 수 있습니다. 처음에는 오락이나 예술 분야에서 창의적인 도구로 주목받았지만, 시간이 지나면서 이 기술이 악의적으로 사용되는 사례가 늘어나면서 심각한 문제를 일으키고 있습니다.

특히 텔레그램과 같은 익명성과 보안성이 강조된 메신저 플랫폼에서는 딥페이크 기술이 악용되는 빈도가 급증하고 있습니다. 텔레그램은 암호화 기능과 사용자 익명성을 기반으로 많은 이들에게 인기를 끌고 있지만, 그 이면에는 이를 악용하는 자들로 인해 피해자들이 극심한 고통을 겪고 있는 현실이 존재합니다.

이번 뉴스레터에서는 텔레그램에서 벌어지고 있는 불법합성물(딥페이크) 성범죄 사태 관련 문제에 대해서 살펴보고자 합니다. 

위험한 기술의 그림자

2016년 알파고를 시작으로 인공지능의 시대가 도래했습니다. 인공지능의 장점은 데이터를 스스로 학습해 지능을 만들어낸다는 것이죠. 사람의 뇌처럼 경험을 축적하고 완성도를 높이는 인공지능은 매우 복잡한 분야도 시스템으로 쉽게 구현할 수 있게 되었습니다. 

그렇다면 딥페이크는 어떻게 만들어졌을까요?

'딥러닝(Deep Learning)'과 '가짜(Fake)'의 합성어인 딥페이크(Deepfake)에 활용되는 AI는 '생성적 적대 신경망(GAN)'이라는 모델입니다. 기존의 콘텐츠를 학습해 새로운 콘텐츠로 만드는 능력을 갖추고 있어 스스로 어색한 부분을 찾아서 보정할 수 있으며 가짜지만 사실 같은 정밀한 콘텐츠를 생산할 수 있습니다. 다양한 분야에서 활용도가 높아 엔터테인먼트 분야에서 배우나 가수 등 유명인이 직접 출연하지 않고도 영상을 제작할 수 있다는 장점이 있습니다.

그러나 분별할 수 없는 수준의 콘텐츠를 제작하여 악용하는 사례 또한 증가하기 시작했습니다. 주로 개인의 얼굴을 성인물에 합성하거나, 악의적인 목적을 가진 가짜 뉴스와 정치적 악용, 금전적 사기 등에 사용되면서, 사람들의 명예와 사생활을 심각하게 침해했습니다.

더 큰 문제는 이러한 피해가 대부분 은밀히 이루어지고, 피해자들이 이를 인지했을 때는 이미 치명적인 결과를 초래한 경우가 많다는 점입니다. 인공지능이 사람의 피부뿐 아니라 머리카락까지 실제와 비슷한 이미지를 생성하는 수준에 이르러, 기술적 한계를 이미 뛰어넘은 것으로 판단되고 있는 상황에서요. 말만 들어도 정말 위험한 기술이라는 점을 알 수 있습니다. 

딥페이크 범죄의 온상, 텔레그램

사실 딥페이크를 악용한 사례는 이미 몇 년 전부터 가속화되고 있습니다. 지난 1월 홍콩의 다국적 엔지니어링 그룹의 재무 담당자가 영상회의에서 딥페이크 기술에 속아 2,500만 달러를 송금하는 사건이 발생하기도 했고, 미국의 유명 팝 가수 테일러 스위프트의 얼굴이 합성된 음란 영상이 'X(전 트위터)'를 통해 전 세계로 확산하여 큰 논란이 되기도 했습니다.

기업이나 유명인이 아닌 일반인들에게도 위협적입니다. 그 예시로 중국 항저우에서 딥페이크 기술을 이용해 음란 영상을 제작하고 유포한 남성이 징역형을 선고받았으며, 스페인에서는 남학생들이 같은 동네 여학생들의 딥페이크 음란물을 제작해 피해를 입은 여학생 28명의 부모는 경찰에 고소장을 접수했던 사건도 있었습니다. 조사 결과 대부분의 가해자는 12~14세 남학생들이었죠. 그만큼 일반인도 쉽게 접할 수 있는 기술이 되었습니다.

이런 사례라면 당연히 한국도 빠질 수 없습니다. 여성을 착취하는 역사가 뿌리 깊은 나라인 만큼 최근 텔레그램 불법 합성물(딥페이크) 성범죄 사태가 수면 위로 떠올라 전 세계에 큰 충격을 안겨주고 있는데요. 사실 우리는 몇 년 전 이미 비슷한 사건에 분노했었습니다.

2019년에 등장했던 N번방과 조주빈을 기억하시나요? 미성년자 성 착취물뿐만 아니라 일반인 여성과 배우, 아이돌, 아나운서 등의 얼굴을 음란 영상의 여성 몸과 정교하게 합성한 딥페이크 합성물도 공유했다는 것이 알려졌었습니다. 그 이후 '텔레그램 N번방 방지법'(성폭력범죄의 처벌 등에 관한 특례법 개정안)에 딥페이크로 영상을 제작 및 배포해 얻은 범죄 수익을 환수할 수 있게 하는 내용이 포함됐습니다. 

그러나 현행법상 딥페이크 성범죄의 최대 형량이 5년 이하의 징역 또는 5,000만 원 이하의 벌금에 불과합니다. 이마저도 유포할 목적을 증명하지 않으면 처벌이 어렵습니다. 혼자 만들어 혼자 보는 것은 처벌할 수 없다는 것이죠. 2020년 이래 딥페이크 성범죄로 기소된 71건 가운데 35건은 집행유예를 받는 데 그쳤습니다. 당시의 N번방에 20만 명이 참여해 있었다는 사실을 기억하면 얼마나 적은 숫자인지 알 수 있습니다.

여성에게 안전한 공간은 없다

최근 사회를 뒤흔들고 있는 사건이자 현재 진행형인 텔레그램 불법 합성물 성범죄 사태는 'X(전 트위터)'로부터 시작되었습니다. 사건을 공론의 장으로 끌어올린 '퀸아카이브'와 '길티아카이브'라는 닉네임을 가진 인물은 한 시민으로부터 딥페이크를 활용한 음란물이 텔레그램에서 판치고 있다는 제보를 받았습니다. 그는 가해자를 추적하기 위해 직접 텔레그램에 잠입해 상황을 알렸습니다. 그러자 SNS와 각종 온라인 커뮤니티에서 범죄가 일어난 피해 학교 명단이 올라오기 시작하며 파장을 일으켰죠. 

이런 음란 합성물을 제작하는 딥페이크 봇의 가입자 수는 21일 기준 무려 22만 7천여 명에 달했습니다. 피해자의 수는 현재까지 2,000여 명이 넘고, 피해 학교 명단은 100곳이 넘습니다. 피해자 대부분은 10대 여성이었으며, 초중고부터 대학교, 군조직까지 텔레그램 방이 존재했습니다. 그뿐인가요. '사촌방', '엄마방', '지인방', '누나방' 등 여성 가족구성원들을 대상으로 성 착취물을 유포하는 '능욕방' 또한 존재했습니다. 학교, 직장, 집까지 한국 어디서도 여성에게 안전한 공간이 없다는 것을 체감할 수 있었습니다. 

한편으로는 그런 생각이 들었습니다. 만약 N번방 사건의 가해자들에게 강력한 처벌을 내렸다면 어땠을까요? '국외에 서버가 있어 못 잡는다'라고 하지 않고 자국민의 안전을 위해 국가가 더 노력했다면 어땠을까요? 가해자에게 미미한 실형이 아닌 사회적 거세나 무기징역을 선고했다면 어땠을까요? 해외처럼 딥페이크로 음란물을 제작 및 소지하기만 해도 처벌했다면 어땠을까요?

'N번방 사건'이라는 미리 대처할 수 있는 시기가 있었음에도 불구하고 미진한 대응 탓에 이와 같은 디지털 성범죄가 반복되고 있습니다. 지난 일로 치부하기에는 이미 엄청난 피해자가 존재하며, 지금도 새로운 피해자가 생겨나고 있습니다. 과연 한국은 외양간을 고칠 의지가 있긴 한건지에 대한 의문이 듭니다.

한겨레 신문에 따르면 김혜정 한국성폭력상담소장은 “수익 구조화돼 있다는 건 그만큼 수요가 많다는 의미”라며, “여성에 대한 성적 모욕이 온라인상에서 하나의 ‘콘텐츠’가 돼버렸는데도, 이를 경미한 사안이라고 보는 사회 인식이 성범죄를 키우는 주요 원인”이라고 짚었습니다. 

여성들의 '호들갑'이 지겨운 한국 남성들

영국 BBC와 가디언 등 외신들은 이번 사태에 대해 "과거 불법 촬영과 싸우던 한국이 딥페이크 성범죄에 직면했다"며 주목했습니다. 특히 BBC는 한국의 '성별 격차'를 꼬집었는데요. 윤 대통령이 후보 시절 "한국 여성들은 '구조적 성차별'을 겪지 않았다'고 말했다"고 말했으나 "한국 상장 기업 중 여성 임원은 겨우 5.8% 정도이며, 임금도 한국 남성 평균보다 3분의 1이 적다"며, "이는 한국의 세계에서 성별 임금 격차가 가장 심하다는 것을 의미한다"고 말했습니다. 그리고 "기술 산업의 호황에 힘입어 만연한 성희롱 문화가 디지털 성범죄를 폭발적으로 증가시키는데 기여할 수 있다"고 덧붙였습니다. 한국의 구조부터 잘못되었다는 것을 지적하고 있는 것이죠. 이런 국제적 망신이 또 없습니다.

구조 안에는 사람이 있고, 그 절반을 차지하는 게 한국 남성입니다. 이런 사태에 대한 한국 남성들의 반응을 살펴보면 왜 이런 사건이 발생하게 되었는지 알 수 있습니다. 대표적인 사례로 딥페이크 성범죄에 대한 우려감을 표하는 여성들에게 '호들갑을 떤다'는 막말을 뱉은 유튜버 뻑가가 있습니다. 뻑가가 올린 딥페이크 성범죄에 대한 영상에서 여성들을 조롱하자 지난 30일 유튜브는 크리에이터 가이드라인 위반으로 수익 창출을 중단시켰습니다. 

학교 인증을 해야만 활동할 수 있는 대학생 커뮤니티 에브리타임에서는 "호들갑 지겹다", "딥페이크도 노동인데, 네 얼굴로는 안 한다" 등, 이 모든 상황을 별일 아닌 것처럼 여기고, 여성을 비하하는 분위기가 포착되었습니다. 이에 분노하는 게시글에는 페미들이 점령했다거나 젠더 갈등을 유발하지 말라거나 일베랑 페미랑 똑같다면서 논점을 흐리고 여성을 혐오하는 댓글이 달렸습니다. 에브리타임뿐이 아닌 남성 위주 커뮤니티 사이트, 펨코, 블라인드, 유튜브 등도 비슷했습니다. 사태의 심각성을 자각하기는커녕 남성들의 억울함만 호소하며 군대에서 겪는 부당함을 토로하거나 남성을 욕하지 말라는 글이 대부분입니다.

한 학교의 대처방식도 문제가 되고 있습니다. 딥페이크 음란물 제작 및 유포로 피해자가 발생한 학교에서 여자 학생들만 학교 강당에 따로 불러 각별히 주의를 요구한 것으로 알려졌습니다. 심지어 여자 학생들은 강당에 불려 간 동안 남학생들은 운동장에서 축구를 했다고 하죠. 이 글은 각종 온라인 커뮤니티로 퍼지며 많은 이들의 공분을 샀습니다.

대체 여자들은 뭘 조심해야 하는 걸까요? 프로필 사진에 사진을 올리는 게 잘못이었을까요? 그렇다면 여성은 본인의 사진조차 찍으면 안 되는 걸까요? 범죄를 저지르는 가해자는 따로 있는데 왜 피해자가 조심하고 다녀야 하는지, 왜 피해자에게 책임을 강요하는지 정말 알 수 없는 일입니다. 실제로 여성들은 자신의 사진이 담긴 SNS 계정을 비공개로 설정하거나 아예 SNS에서 얼굴이 담긴 사진을 모두 내리고 있습니다. 

딥페이크 성범죄가 전국적으로 확산함에 따라 지자체에서도 경각심을 일깨워주기 위해 다양한 시도를 하고 있습니다. 그중에서 지난 30일 충남도와 여성 긴급전화 1366 충남센터, 충남 아동 청소년센터 등의 이름으로 배포한 카드뉴스가 논란이 되었습니다. 여성을 가해자로, 남성을 피해자로 묘사한 이미지를 담고 있기 때문이었는데요. <프레시안>의 제보자는 “남성도 피해자일수 있지만, 언론에서 대부분 피해자가 여성인 것으로 보도하고 있는데, 굳이 남성을 피해자로 묘사한 카드뉴스를 만든 이유를 모르겠다”고 말했습니다. 카드뉴스 배포 이후 이에 따른 항의가 빗발치자, 충남도와 센터 관계자는 "뭐가 문제인지 모르겠다"는 반응을 보인 것으로 알려졌습니다. 

지금은 국가 위기 상태

슬픈 사실은 위와 같은 한국 남성들의 태도나 학교나 기관의 대처가 낯설지 않다는 것입니다. 이런 심각한 사안에도 그들의 태도는 한결같이 평온합니다. 그러나 조금이라도 본인들의 심기를 거스르는 '남성 혐오'라 생각되는 표현이 등장하면 돌변합니다. 아직도 희한하다 여겨지는 건 최근 커뮤니티에서 '안달 나다'라는 뜻으로 쓰이고 있는 '드릉드릉'부터 '오조오억(많은 수량을 뜻함)', '허버허버(허겁지겁 먹을 때를 뜻함)', '웅앵웅(웅얼거린다는 뜻함)' 등이 '남성 혐오'적인 표현으로 굳어진 것입니다.

오마이뉴스에 따르면 국가인권위원회는 혐오 표현을 "어떤 개인 집단에 대하여 그들이 사회적 소수자로서의 속성을 가졌다는 이유로 그들을 차별·혐오하거나 차별·적의·폭력을 선동하는 표현"이라고 규정하고 있습니다. '맘충', '김치녀', '짱깨' 등이 대표적인 '혐오 표현'이라 할 수 있죠. 그렇기 때문에 위와 같은 단어들은 혐오 표현으로서의 성격이 존재하지 않습니다. 특정한 남성집단을 차별하거나 적의를 선동하려는 의도가 없기 때문입니다. 

아직도 논란이 이어지고 있는 지긋지긋한 집게손가락도 빼놓을 수 없습니다. 2015년 메갈리아 사이트의 로고가 남성의 작은 성기를 상징하는 집게 손 모양이었던 것에서 비롯하여 2021년에 GS25 포스터에 '남성 혐오'를 의도하는 집게 손을 숨겨놓았다는 의혹이 제기되면서 갑자기 혐오 표현이 되었습니다. 그러자 수많은 기관과 기업이 홍보물에 집게 손 모양이 있었다는 이유로 모두 철회하고 사과하기 시작했습니다. 이런 주장과 여론에 힘을 실어주는 정치인과 언론도 문제지만 '불쾌감을 드렸으니 죄송'하다며 사과하는 공공기관과 회사 역시 똑같은 방관자일 뿐입니다. 

이런 표현들이 남성을 혐오하는 단어로 취급받게 된 이유는 단 한 가지입니다. 바로 여성 위주 커뮤니티에서 많이 사용되는 표현이기 때문입니다. 남성을 비판할 때 종종 쓰일 수도 있다는 이유로 '남성 혐오'적인 표현이 된다면 그 기준은 누가 정하는 걸까요? 여성은 아무 이유 없이 범죄의 대상이 되고, 죽임을 당하지만 잠재적 범죄자 취급을 당해서 기분이 나쁘다는 이유로 징징대는 한국 남성이겠죠. 그리고 그들의 말을 잠자코 들어주는 국가가 있습니다.

'텔레그램 성범죄'에 대한 저항은 시간이 지날수록 거세지고 있습니다. SNS상에서 지역별, 학교별 텔레그램 방의 현황을 공유하는 '가해자 명단'과 참여자들의 신상을 밝히는 폭로 글이 이어지고 있기 때문입니다. 상당수의 여성은 "국가적 차원에서 발생한 범죄 사건을 사적 고발과 제재로 해결할 수 없기에 '무력감을 느낀다'"며 "끊임없이 발생하는 디지털 성범죄에 국가가 손을 놓고 있다"고 호소했습니다.

어쩌면 우리는 은연중에 알고 있을지도 모릅니다. 이번 사건과 비슷한 일이 또 일어날 수도 있다는 사실을요. 그래서 참을 수 없는 분노를 담아 일부 여성들이 공동 행동에 나섰습니다. '여성혐오폭력 규탄 공동행동(이하 공동행동)'은 28일 소셜미디어 계정을 통해 "딥페이크 불법 합성물을 비롯한 온라인 내 성 착취물을 제대로 규제하고 엄벌할 수 있는 제도 개선을 요구하기 위해 딥페이크 성 착취 엄벌 촉구 시위를 개최한다"고 밝혔습니다. 

우리가 목소리를 내지 않으면, 아무도 우리의 이야기를 들어주지 않습니다. 국가는 여전히 방관하고 있지만, 여성들은 꾸준히 목소리를 내며 더디지만 큰 변화를 만들어가고 있습니다. 이번 집회는 9월 21일 오후 3시부터 5시까지 서울 혜화역 2번 출구 앞에서 열립니다. 이 글이 구독자님께 작은 울림이 되어, 같은 공간에서 같은 목소리를 내며 서로의 존재를 확인할 수 있기를 기대하겠습니다. 

이번 주, 여성위인의 이야기가 흥미로우셨다면

응원하기 를 통해서 커피 한 잔 사주셔도 좋습니다☕