소름돋는 인공지능 기술, 딥페이크

안녕하세요 구독자님, 완연한 가을입니다. 아침저녁으로 선선하고 낮에는 여름의 기운이 있어 일교차가 심하게 느껴졌었는데 이제는 제법 낮에도 선선한 바람이 부네요. 눈부시게 예쁜 계절과 맑고 높은 하늘을 만끽하시는 하루 보내시기 바랍니다. 

얼마 전 뉴스에서 '딥페이크 범죄'에 대한 보도 내용을 접했습니다. 인공지능에 많은 관심을 가지고 있는 저로서는, 그동안 인공지능이 가져올 효율성과 경제성의 긍정적인 영향에 기대가 커 인공지능의 기술 발전을 무척이나 환영했으나, 딥페이크 기술이 심각한 사회적 범죄로 대두되는 것을 보며 인공지능의 부정적인 측면 역시 우리 주변에 가까이 와있음을 실감하게 되었어요.

하여, 오늘은 '딥페이크'에 대해서 함께 알아보도록 하겠습니다.

딥페이크(Deepfake)란?

‘딥페이크(Deepfake)’는 인공지능(AI) 기술을 활용하여 사람의 얼굴, 목소리, 동작을 디지털 콘텐츠에서 실제처럼 교묘하게 변조하는 기술이다.

‘딥러닝(Deep Learning)’과 ‘페이크(Fake)’의 합성어로, AI 알고리즘이 학습한 데이터를 기반으로 원본과 매우 흡사한 가짜 영상이나 음성을 만들어 낼 수 있다.

주로 GAN(Generative Adversarial Network, 생성적 적대 신경망) 기술을 사용하며, 이 기술을 통해 생성된 딥페이크는 영상, 음성, 이미지 등 다양한 디지털 미디어에 적용된다.

*GAN(Generative Adversarial Network, 생성적 적대 신경망)이란?

GAN(Generative Adversarial Network)은 딥 러닝 아키텍처로서, 새 데이터를 생성하기 위해 두 신경망을 서로 경쟁하도록 훈련시켜 원본과 일치하는 가짜 데이터를 만들어내는 기술이다.

한 신경망은 입력 데이터를 최대한 많이 수정하여 새 데이터를 생성하며, 다른 한 신경망은 생성된 데이터 출력이 원본 데이터와의 일치 여부를 확인한다. GAN 기술은 예측 신경망이 더 이상 가짜(Fake)와 원본을 구분할 수 없을 때까지 작동하여 최종적으로 원본에 가까운 가짜(Fake) 버전을 만들어낸다. 

딥페이크, 언제부터? 

딥페이크 기술은 2017년 경부터 급격하게 발전하기 시작했으며, AI 알고리즘이 데이터 분석과 학습 능력을 통해 점점 더 정교한 합성이 가능해졌다. 현재는 전문가뿐 아니라 일반인도 온라인에서 딥페이크 소프트웨어를 접할 수 있게 되어 누구나 쉽게 가짜 콘텐츠를 만들 수 있다.

비즈니스에도 활용되는 딥페이크 

현재 딥페이크 기술은 매우 정교한 단계까지 발전하여 일반 사람들이 육안으로 원본 데이터와 가짜 데이터를 판별하는 것이 어려울 정도다. 고도화된 딥러닝 모델을 통해 얼굴 표정, 음성, 그리고 감정까지도 섬세하게 표현할 수 있으며, 초당 수십 프레임을 실시간으로 변환하는 것도 가능하다.

엔비디아나 구글과 같은 대기업은 딥페이크 영상 품질을 더욱 높이기 위해 새로운 AI 모델들을 계속 개발하고 있으며, 전문가들은 앞으로 딥페이크 기술이 더욱 발전해 다양한 미디어 콘텐츠에 더욱 자연스럽게 적용될 것으로 예측하고 있다.

이러한 딥페이크 기술은 광고, 마케팅, 영화 제작 등 다양한 비즈니스 분야에서 활용된다.

1. 마케팅 및 광고

딥페이크는 소비자 맞춤형 콘텐츠 제작과 비용 절감 측면에서 유용하여 마케팅 및 광고 분야에서 많이 사용된다. 위 영상에서 확인할 수 있듯, Nike는 Footballverse 광고 캠페인에서 딥페이크 기술을 활용하여 과거와 현재의 스타들을 합성해 혁신적인 광고를 만들어냈다.

2. 교육 및 예술

교육 분야에서는 딥페이크 기술을 활용하여 학생들이 더 현실감 있게 학습할 수 있도록 몰입감과 상호작용을 강화하는데 쓰인다. 예술 분야에서는 2023년 4월, 플로리다 달리 미술관이 AI를 활용한 전시를 진행하여 많은 관심을 이끌었다. 

달리 미술관은 ‘Dream tapestry experience’ 전시에서 관람객들이 꿈을 말하면 AI가 이미지로 구현해 내는 딥페이크 기술을 통해 관람객들의 꿈을 보여줬다. 이 전시는 관람객들에게 교육적 아트 경험을 제공한 좋은 예로 꼽힌다.

3. 의료

딥페이크 기술은 언어 문제나 실어증을 겪는 환자들에게 목소리를 복원하거나, 맞춤형 의사소통 장치를 제공할 수 있다. 딥페이크 음성 합성 기술을 통해 환자의 실제 목소리를 복제하고, 텍스트나 제스처를 입력하면 환자의 목소리로 말하는 장치를 개발할 수 있다.

또한, 딥페이크 기술을 사용해 가상 상담 환경을 구축하여 심리 치료사들이 다양한 시나리오를 시뮬레이션할 수 있으며, 우울증, 불안, 트라우마 등 심리적인 문제를 겪는 가상의 환자와 상호작용할 수 있다. 

4. 영화 및 엔터테인먼트

영화 제작 시, 배우의 얼굴을 대역 배우에게 자연스럽게 합성하거나, 또는 영화 속 인물의 나이를 조정하는 데 활용할 수 있다.

대표적인 예로, 영화 <분노의 질주>의 사례다. <분노의 질주> 시리즈 가운데 '더 세븐' 촬영 기간 중 폴 워커(Paul Walker)가 자선 행사에 참석 후, 돌아오던 중에 예기치 못한 사고로 사망하였다. 당시 영화 제작은 약 80%까지만 진행된 상태였는데, 이후 20% 정도의 출연 분량은 그의 형제가 대역으로 연기했으며, 폴 워커의 얼굴과 음성을 딥페이크로 합성하여 끝내 영화 제작을 문제없이 완성할 수 있었다. 

5. 공공 안전

경찰은 딥페이크 기술을 활용해 실제 범죄 현장을 가상으로 재현하여 복잡한 범죄 수사나 위기 대응 훈련을 진행할 수 있다. 인질 사건, 은행 강도, 테러 공격과 같은 시나리오를 딥페이크 기술로 재현하면, 단순한 모형 훈련을 넘어 실제 인물의 움직임, 대화, 표정까지 포함한 생동감 있는 상황 체험이 가능하다.

군사 훈련 시, 딥페이크 기술은 잠재적인 적의 행동이나 전략을 시뮬레이션하는 데 유용하게 쓸 수 있다. 군인들은 전투 상황에서 적군과 민간인의 차이점을 신속하게 파악하는 훈련을 딥페이크로 강화할 수 있으며, 이를 통해 오인 사격이나 판단 실수의 위험을 줄일 수 있다.

소방서에서는 딥페이크로 생성된 화재 현장에서 불길의 확산, 연기의 흐름, 사람들의 탈출 경로 등 복잡한 환경적 요소들을 반영할 수 있어, 소방관들이 보다 전략적으로 현장에 대응할 수 있다.

딥페이크 관련 범죄

위에서 언급한 것처럼, 딥페이크 기술은 다양한 분야에서 유용하게 쓰이고 있지만, 반면에 음란물 제작 및 근거없는 가짜 뉴스와 같은 심각한 문제도 대두되고 있다. 

2020년 4월 기준 텔레그램에서 ‘딥페이크봇’에 걸려 나체 사진에 자신의 얼굴이 합성되는 피해를 당한 여성이 전 세계 기준, 10만 4852명인 것으로 밝혀졌다. 머니투데이에 따르면, 이 중 70%는 유명인이 아닌 일반인들의 개인 SNS 등에서 불법적으로 수집한 이미지와 영상이었던 것으로 조사됐다.

일반 여성들을 타깃으로 한 불법 딥페이크 합성물이 빠르게 확산되고 있다. Sensity 연구소의 2019년 조사에서 그 해 제작된 1만 4600여 건의 딥페이크 영상 중 96%가 음란물이고, 이중 25%는 한국 여성 연예인들의 얼굴이 합성된 것으로 밝혀졌다.

주로 가해자들은 개인 SNS(인스타그램, 페이스북 등) 게시물에서 셀카 사진을 무단으로 수집해 AI에게 학습시켜 기존 음란물에 얼굴을 바꿔 합성하는 것으로 음란물 제작을 하여 텔레그램 또는 디스코드와 같은 플랫폼에 공유하고 있다. 

위의 경찰청 자료에 따르면, 2021년부터 2023년까지 딥페이크 성범죄 피해자 527명 중 청소년인 10대의 비율이 약 60%에 달하며, 그 피해자는 매년 증가하는 추세다. 

딥페이크의 흑과 백

10년 전만 해도 상상하지 못할 범죄가 벌어지고 있어요.

이 소름 돋는 범죄의 피해자는 내가 될 수도, 가족이 될 수도, 친구가 될 수도 있습니다. 심지어 범죄의 피해자가 되고도 당했는지 모를 수도 있는 현실입니다. 

딥페이크 기술에 대해 조사하며 가장 경악을 금치 못했던 부분은, 딥페이크를 이용한 합성 사진의 대상의 절반 이상이 알고 지내는 여성이라는 점, 이러한 사진을 메신저 프로필이나 개인 SNS를 통해 무단으로 사용한다는 점, 또한 피해자의 연령이 10대가 압도적으로 높다는 사실이었습니다. 

여자분들 중 몇몇 분은 주변 어른들에게 자기 몸을 지키기 위해 스스로 조심해야 한다는 말을 한 번쯤은 들어보셨을 겁니다. 저도 어릴 적, 어른들로부터 여자들은 몸 간수를 잘해야 한다는 말을 들어본 적이 있습니다. 남자들의 성욕(性慾)을 자극하지 않기 위해, 옷을 단정하게 입고, 말과 몸가짐을 눈에 띄게 하지 않아야 한다는 뜻이 담겨있었죠. 남자들은 성(性)에 민감하니 여자들이 '자극'하지 않아야 한다는 의도에서 나온 어른들의 당부였습니다.

그런 당부를 듣고 자라서 인지, 이러한 범죄 유형을 알게되자 나와 내 가족이 범죄의 대상이 될 수도 있겠다는 두려움이 가득 차올라 개인 SNS와 메신저 프로필을 검토해 보게 되더군요. 나와 지인들의 얼굴이 나온 사진을 모조리 삭제 해서 혹시 모를 범죄를 예방해야겠다는 생각이 스쳤습니다.

그 순간, 이전에 보았던 <82년생 김지영>이 생각나더군요. 영화 속 주인공 김지영이 성범죄의 위험에 놓이자, 아버지는 딸에게 치마를 왜 짧게 입고 다니냐며 더 긴 치마를 입으라고 다그칩니다. 잘못이 없는 딸에게 아버지가 꾸중했던 이면에는, 성희롱 또는 성범죄에 관해서 '원인'을 제공한, 다시 말해 남자들의 성욕을 자극한 여자들의 잘못이 있다는 사회의 암묵적 동의가 있었기 때문일 겁니다.

하지만, 성범죄를 저지른 사람의 잘못일까요? 짧은 치마를 입은 사람의 잘못일까요? 

여자들이 '원인 제공'을 하지 않아야 한다는 이전 시대의 발상은 모든 남자들을 잠재적 성범죄자로 취급하는 것과 같은 말 입니다. 대부분의 건강한 정신과 신체를 가진 남자들을 역차별하는 모순적 행태에 불과한 것이죠. 남자도, 여자도, 자신의 성욕을 컨트롤할 수 있으며, 짐승이 아닌 인간이라면 마땅히 그렇게 해야 합니다. 또한, 모든 범죄에 관해 원인을 제공한 피해자는 이 세상 어디에도 없으며, 가해자의 범죄에 어떠한 당위성도 인정되지 않아야 합니다.

메신저 프로필과 SNS에 본인 또는 가족의 사진을 올리는 것은 타인의 권리를 해치지 않는 자유이지만, 어떠한 동의도 없이 타인의 사진을 무단으로 활용하여 성적 음란물을 만들고 이를 공유하는 행위는 타인의 인격을 모독하는 명백한 범죄에 해당합니다. 자유와 범죄는 구별되어야 하며, 개인의 자유와 사회의 규율을 해치는 범죄 행위에 대해서는 강력한 처벌이 가해져야 합니다.

윤덕경 한국여성정책연구원 연구위원은 "딥페이크를 이용한 성폭력은 분명히 '처벌되는 범죄'라는 인식을 확산할 필요가 있으며, 수사·피해자 보호 현장에서도 딥페이크 영상물 탐지·삭제를 위한 기술 개발·도입에도 보다 적극적일 필요가 있다"라고 의견을 내었고, 다른 전문가들도 잇따라 타인의 동의를 받지 않은 딥페이크 합성 콘텐츠는 '범죄'라는 사회적 인식 확산이 중요하다고 전했습니다. 

현재 우리나라는 딥페이크 관련 범죄를 예방하기 위하여 AI 생성물에 대해 '워터마크' 표시를 의무화하기로 했습니다. 또한, 성적 음란물을 촬영·영상·음성물 등을 편집·합성·가공했거나 이를 배포하면, 5년 이하 징역 또는 5000만 원 이하 벌금형을 받을 수 있고, 불법 합성 영상 제작·유포에 돈을 거래하면 7년 이상 징역형에 처할 수 있습니다. 혹여 성적 수치심을 유발하지 않더라도, 동의 없이 합성 대상의 얼굴을 변형해 모욕감을 느끼게 하는 등의 행위도 명예훼손이나 초상권 침해 등의 범죄에 해당하여 처벌을 받게 됩니다. 

인공지능 기술의 발전으로 10년 전에는 상상할 수 없었던 편리함을 누리고 있지만, 다른 한 쪽에서는 이러한 기술을 악용한 범죄가 무자비하게 행해지고 있습니다. 딥페이크와 같은 기술 범죄에 대해 더욱 더 경각심을 갖고, 강력한 법적 대응과 사회적 인식이 어느 때 보다 중요한 것 같습니다. 이전에는 없던 새로운 기술 딥페이크, 딥페이크의 흑과 백은 우리가 만들어갈테니까요. 

AI 관련 비케이레터 톺아보기🔍

✍🏻이번 주 문장들

1. 세계에서 행복 지수가 가장 높은 나라, 부탄에는 ‘사랑해'라는 말이 없다고 한다. 대신 ‘당신과 함께해 내 마음이 빛나요'라고 말한다고. <나는 죽음 앞에 매번 우는 의사입니다.>

2. 꼭 무엇이 되지 않아도, 누구 하나 알아주지 않는 결과라해도 시작하고 이어 가는 과정 속에서 나는 이미 많은 것을 얻는다. 실패를 두려워하지 않는 마음과 삶을 원하는 대로 꾸려 간다는 자긍심은 그것만으로 충분한 의미가 됐다. <어떤 꿈은 끝내 사라지지 않고>

3. 의식적이든 무의식적이든 우리가 공부하고 있는 것들은 우리도 모르는 사이에 삶을 형성시켜 간다. 공부는 결국 삶의 태도이자 인격이 된다. <독학력>

4. 책 읽기야말로 스스로를 돌아보는 반성의 한 방법이다. 책을 통해 직접 경험할 수 없는 다양한 세계와 견해를 접하고 이를 거울삼아 자신을 돌이켜 보는 것, 그것이 바로 독서가 가진 의미다. 이때 자신을 돌아본다는 건 자기 안의 허위와 편견을 들여다보는 것이며, 최대한 투명한 눈으로 자신과 세계를 보려고 노력하는 것이다. <책 먹는 법>

5. 나는 아이에게 좋은 부모가 되고자 안달하기보다 먼저 한 사람의 좋은 벗이 되고 닮고 싶은 인생의 선배가 되고 행여 내가 후진 존재가 되지 않도록 아이에게 끊임없이 배워가는 것이었다. <박노해의 시, ‘부모로서 해줄 단 세가지'>

다음 주에 뵙겠습니다. 한 주간 평안하세요!