2024년 1월, 미국 뉴햄프셔주 민주당 예비선거(프라이머리)를 불과 이틀 앞두고 주민들의 전화가 울렸다. 수신음 너머로 익숙한 목소리가 흘러나왔다. “이번 화요일 예비선거에 투표하는 건 공화당을 도울 뿐입니다. 여러분의 투표는 11월 본선에 쓰여야 합니다.” 조 바이든 미국 대통령 특유의 말투와 관용구를 완벽하게 재현한 이 전화는, 바이든 본인이 건 것이 아니었다. AI로 바이든의 음성을 정확히 복제한 것이었다. 즉, ‘AI 딥페이크 음성 전화’였다. 이 사건은 단순한 해프닝이 아니라, 인공지능이 현실을 재구성하고, 민주주의의 핵심인 선거의 신뢰를 왜곡할 수 있다는 것을 보여준 경고음이었다.
AI의 급진적인 발전은 탈진실 현상을 단순한 가짜 뉴스를 넘어 현실을 조작하였다. 과거의 허위 정보는 조작된 텍스트나 합성 이미지였다면, AI 딥페이크 음성은 직관적인 감각인 청각을 모방한다. 유권자들은 대통령의 친숙한 목소리와 자주 쓰는 어휘를 들으며 의심의 끈을 놓았다. 탈진실 시대의 위험성은 가짜를 진짜로 믿게 만드는 것에서 비롯된다. 더 큰 문제는 진짜조차 가짜로 의심하게 만드는 것이다. 사실과 거짓의 경계가 무너져버린 전형적인 탈진실 상황이다.
영국의 언어철학자 존 오스틴(John L.Austin)은 언어가 단순히 정보를 전달하는 데 그치지 않고, 그 자체로 일종의 사회적 행위를 수행한다는 언어행위론을 제시했다. 이번 AI 딥페이크 사건은 바이든의 목소리를 흉내 냈지만, 실제 바이든이라는 발화 주체가 없다. 그럼에도 불구하고 AI 가짜 음성은 언약적 행위를 수행한다. 그리고 실제로 일부 유권자들을 혼란에 빠뜨리게 하는 발화효과적 행위로 이어졌다.
오스틴은 언어 행위가 올바르게 성립하려면 적절성 조건이 충족되어야 한다고 보았다. 그러나 AI 딥페이크 전화는 이 적절성 조건을 위조하여, 발화 주체의 책임은 삭제하고 타인의 행동 변화만을 추출해 냈다.
탈진실과 AI 기술이 결합한 현대 시대에 필요한 것은 단순히 AI 가짜를 밝혀내는 기술적 대응에만 의존하는 것이 아니다. 타인의 목소리를 도용해 언어행위의 신뢰를 훼손하는 행위에 대해 책임을 묻고, 들리는 목소리를 무작정 신뢰하기보다 진실인지 꼼꼼하게 가려내는 유권자의 지혜로운 태도가 필요하다.
의견을 남겨주세요