🔎 Daily Prompt #232: AI 딥페이크 기술 악용, 일반인 인플루언서도 대상

구독자님, 안녕하세요?
매일 1개의 프롬프트를 배달해드리는 Daily Prompt입니다.

오늘은 AI 딥페이크 광고로 인해 일반인 인플루언서의 초상권도 침해되고 있다는 소식을 다룹니다.

AI 딥페이크 기술 악용, 일반인 인플루언서도 대상

SNS에서 연예인이 주식 투자를 권유하는 광고를 한 번쯤 보셨을텐데요, 모두 당사자 동의없이 무단으로 초상권이 사용되었습니다. [관련 국내 기사] 이런 사례는 국내 뿐만 아니라 해외에서도 빈번하게 일어나고 있습니다.

워싱턴포스트 기사에 따르면 딥페이크 기술을 악용한 사기 광고는 연예인 뿐만 아니라 틱톡 등 SNS에서 높은 조회수를 기록한 일반인 인플루언서도 대상이 되고 있다고 합니다. 기사에는 다음과 같이 세 명의 피해 사례가 소개되었습니다.

1. Michel Janse (27세, 콘텐츠 크리에이터)

신혼여행 중 자신의 모습이 발기부전 치료제 광고에 도용된 사실을 알게 됨
사기꾼들이 그녀의 인기 영상을 도용해 AI 기술로 본인처럼 보이게 조작
존재하지 않는 파트너와 성생활 문제를 언급하는 등 명예훼손 피해

2. Olga Loiek (20세, 펜실베니아대 학생)

중국 SNS에 자신을 닮은 AI 영상 5천여개가 확산
우크라이나 출신인데 영상 속 분신은 러시아어를 하며 푸틴을 찬양
자신이 절대 하지 않을 행동을 하는 모습에 큰 모욕감을 느낌

3. Carrie Williams (46세, 인사담당 임원)

지인으로부터 발기부전 치료법 광고에 자신의 모습이 등장한다는 제보를 받음
2020년 신장과 간 부전으로 투병하며 아들에게 조언하는 영상이 악용됨
저품질에도 불구하고 성적으로 노골적인 내용에 충격을 받고 아들이 볼까 두려워함

마무리

1) AI 기술의 발달로 유명인뿐 아니라 일반인도 딥페이크 피해자가 되고 있습니다. 동의 없이 사진/영상이 도용되고, Olga의 사례처럼 전혀 다른 정체성을 보여주며 당사자에게 모욕을 주고 있기도 합니다.

이런 무단 사진 도용은 이전부터 존재하기는 했지만, "누구나 손쉽게 다국어로" 딥페이크 영상을 만들 수 있기 때문에 딥페이크 범죄 피해 사례가 이전보다 증가할 것이고, 딥페이크 영상을 보고 피해를 입는 사례도 앞으로 더 증가할 것입니다.

2) 앞으로 사람들은 온라인 상에 나의 모습과 일상을 게시하는 것을 점점 꺼려하게 될 것입니다. 또한, 온라인보다 오프라인 교류를 더 중시하게 될 것입니다.

일상을 게시하면 모두 AI의 학습 데이터로 사용될 것이고, 얼굴과 목소리를 노출하면 나도 모르게 이상한 광고의 모델로 사용될테니까요. 이는 어른과 아이 모두 해당됩니다.

3) 최근 Daily Prompt 발행인 소영의 인스타그램 계정을 열었습니다. 2번의 이야기와 어울리지 않는, 생뚱맞은 소리 같지만, 이 계정에 업로드되는 이미지 대부분은 미드저니로 생성된 것입니다. 일부 사진은 실제일 수도 있고, 어떤 것은 AI가 만들어낸 것일 수도 있습니다. 이는 온라인 상에서 현실과 AI가 만들어낸 현실의 경계가 점차 희미해지고 있음을 보여주기 위한 일종의 실험인데요, 계정을 팔로우하시고, 각각의 이미지가 진짜인지 아닌지 직접 맞춰보세요:)

진짜 vs 가짜 맞춰보기

오늘의 Midjourney 프롬프트

프롬프트 제공: @jae_hong__an

오늘의 프롬프트: A dynamic illustration by Burnt Toast, representing the diversity of AI applications in the modern lifestyle integrations. The images are artfully arranged, dynamic arrangement, diverse application showcase, technological theme, artistic presentation --ar 3:4 --v 6.0 --style raw