가짜 뉴스, 생성 AI 선거와 규제 열풍

아래 그림은 매년 책에서 소개되는 기적의 빈도를 역사적으로 추적한 것이다. 카메라 발명 이후에 거의 사라졌던 기적이 사진을 조작/편집이 가능한 Photoshop   발명 후에 다시 카메라 이전 시대의 시대로 돌아 갔다는 것을 보여준다.  이러니 생성  AI의 출현으로 누구나 간단한 기술로 문서, 이미지, 동영상을 자유 자재로 만들 수 있는 시대에  가짜 뉴스의 생성이 얼마나 기승을 부리겠냐는 걱정은 일견 타당해 보인다. 

카메라 발명으로 거의 살라졌던 기적은 디지털 사진을 자유자재로 편집할 수 있는 포토샵의 발명으로 기적의 언급은 카메라 발명의 이전으로 복귀했다.

인공지능은 성능은 최근 눈부시게 향상하고 있다.  이제 손글씨의 인식, 이미지의 인식, 대화의 인식과, 읽기 능력 모두 사람들의 능력을 추월한 것으로 평가되고 있고 인식한 정보를 변형해서 인간이 생성한 것처럼 문서, 번역, 이미지, 동영상을 생성하여 사람처럼 대화하는, 즉 자연어 처리의 획기적 성능이 향상된 ㅜ인공지능이 화제가 되고 있는  GPT 기술의 생성  AI이다.

생성 AI는 문서, 이미지, 동영상, 목소리 등 모든 디지털 콘텐츠의 생산의 대중화의 시대를 열고 있다.  이제 어떤 글이나, 이미지나 동영상을 볼 때, 연설을 들을 때 그것이 인간이 생성한 것인지 AI가 생성한 것인지를 의심해야 하는 시대가 되었다. 그러니 일반인들도 누구가  딥 페이크 (Deep Fake)를 자유자재로 만들 수 있는 생성 인공지능 시대가 앞으로 선거를 가짜 뉴스판으로 만들 것이라는 우려를 하게 만드는 것은 일견 타당해 보인다. 

인터넷의 가짜 뉴스를 이루는 잘못된 정보, 허위정보, 악성정보  (Mis-information, Dis-information, Mal-information)의 논란은 어제 오늘의 일은 아니다.  하지만 새로운 인공지능 기술의 대두로 가짜 뉴스의 양과 질에서 이전과 비교할 수 없이 향상을 가져올 것이라는 두려움이 새로운 인공지능의 규제의 논리 중에 주된 하나를 차지하고 있다.   특히 선거의 악용 가능성은 인공지능이 민주주의를 위협할 것이라는 주장을 강하고 설득력 있게 만들고 있다.  

지금 우리나라에서도 검찰은 지난 대선에서 대장동 사건과 관련해 민주당 이재명 후보를 위해 행해진 뉴스타파의 가짜 뉴스를 활용한 언로의 선거 개입이 검찰 수사상에 올라 보수권의 공분을 사고 있다.   이런 가짜 뉴스를 활용한 선거 교란 행위는 보수권에게는 "김대업 병풍 가짜 뉴스"와 억대 미용실 이용이라는 가짜 뉴스가 이회창 전 대표의 대선 낙마와  나경원 후보의 서울 시장 후보의 낙마의 원인이라고 믿는 보수권을 분노하게 만들고 있다. 지난 서울 시장 선거에서도  "생태탕"이라는 가짜 뉴스가 이슈로 부상했던 적이 있다. 

언론이 보도를 하면서  진실을 추구하기는 커녕, 녹취록을 자의로 편집해서 가짜 뉴스를 만들고, 관찰자의 입장을 지켜야 하는 언론이 정치의 참여자를 자임하는 것은 법 이전에 언론의 윤리 규범을 심대하게 위반한 것이다. 이러한 행위는 선진국 같으면 법이 아니라 언론사의 자율 규제에 의해 퇴출이 마땅한 부도덕한 일이다. 언론의 존재 이유와 가장 기본적인 규범을 위반했기 때문이다. 어떤 사회가 선진 사회인가를 판단하는데 하나는 사회 각 부분이 자율적인 윤리 규범이 작동하고 있느냐 로 볼 수 있다. 그런 의미에서 이번 사건은 다시금 한국 언론의 후진성과 타락을 웅변하고 있다.  

하지만 우리가 주의해서 생각해 볼 일이 있다. 우리 선거법은 선거 후보자들의 거짓에 대해서 처벌하는 법을 갖고 있다.  그리고 지금 이재명 민주당 대표는 여러가지 혐의를 받고 검찰에 불려 다니고 있지만 지금 재판이 가장 많이 진행 중인 협의는 공직선거법 위반 사례다.  

지난 대선 과정에서 이 대표가 대장동 개발 사업 관련자인 고(故) 김문기 성남도시개발공사 개발1처장에 대해 "시장 재직 때는 몰랐다"는 취지로 말한 것이 허위사실 공표에 해당한다고 보고  불구속 기소 되어 재판 중이다. .

또한 수원지검 역시 이 대표가 지난해 10월 20일 국회 국토교통위원회 경기도 국정감사에서 백현동 한국식품연구원 부지 용도변경 특혜 의혹과 관련해 허위 발언을 했다고 보고 그를 기소했다.  

하지만 우리에게는 당연한 "허위사실에 의한 공표"가 당선을 무효로 하는 범죄로 처벌 되는  경우는 미국이나 영국과 같은 민주주의 선진국에는 없다는 사실에 주목할 필요가 있다. 

법정에서 그리고 언론의 팩트 체크에 의해 지난 대선이 부정선거로 자신의 당선이 도적 맞았다는 트럼프 전 대통령은 지금도 그 주장을 굽히지 지 않고 있다.  법원에 의해 트럼프와 그의 측근들의 부정선거 주장은 아무런 근거도 제시되지 못한 거짓말로 반복해서 판결되어 왔다.  만약 우리의 법을 적용하면 트럼프 대통령은 재선이 되어도 "허위사실 공표"에 의한 당선 무효로 기소당하고 법정에서 정치생명을 걸어야 한다.  트럼프는 이런 거짓말로 기소 당한 것이 아니라 거짓을 근거로  공무를 방해한 혐의로 기소 당한 것이다. 

트럼프는 민주당 힐러리 후보와의 대선 과정에서도 숱한 거짓말 공약을 해서 그해 미국의 "올해의 거짓말 상"을 수상했다.  트럼프는 멕시코와 미국 사이에 불법 이민자를 막을 수 있는 거대한 벽을 세울 것이고 그 비용은 모두 멕시코가 지불하게 만들 것이라고 공약했다.  멕시코가 미국 대통령이 세우는 국경 벽의 비용을 지불할 것이라는 것은 상식적으로 명백한 허위라고 할 수 있다. 중국에게 대규모 관세를 부과하겠다는 공약을 하면서도 그 비용은 미국 소비자나 기업이 아니라 중국이 부담하게 될 것이라는 경제학의 상식을 벗어난 거짓말을 서슴없이 했다.  

미국 뉴욕의 공화당 하원의원 조지 산토스(George Santos)는 당선 전의 이력이 모두 거짓일 정도로 거짓된 삶과 이력으로 하원의원에 당선되었지만 그 거짓으로 처벌을 받거나 기소되어 있지 않고 의원 생활을 계속하고 있다.  하원 윤리 위원회에서 심의를 받고 있지만 "허위 사실 공표"의 죄가 없는 나라이기 때문이다.

미국에서 이런 "허위사실 공표"애 대한 법원의 판결은 분명하다. 2016년 미국의의 대법원은 Susan B. Anthony List 대 Driehaus 판결에서 선거 캠페인 중 허위 사실 공표를 금지한 오하이주 선거법이 표현의 자유를 보장한 미국 수정헌법 1항의 위반으로 위헌이라고 만장일치로 판결했다. 즉 표현의 자유는 올바른 말만 할 자유가 아니라 거짓말을 포함한 표현의 자유인 것이다.  이 판결은 정치인들의 거짓말이 합법이라는 것을 다시 한번 확인해 주었다. 미국의 공정거래위원회 (FTC)는 기업의 허위 광고는 처벌을 하지만 정치 광고에 대해서는 진실성 여부를 누구도 심사하지 않는다 (The truth in political advertising: 'You're allowed to lie', NPR, March 17, 2022). 

영국의 수상  보리스 존슨(Boris Johnson)은 EU 예산에 대한 영국의 재정 기여에 대해 반복적으로 거짓 보고를 의회에서 한 것에  대해 공직자의 품위 위반 또는 위법 (misconducts in public office)으로 기소되었지만 정치적 발언은 투표로 국민이 처벌할 일이지 법원이 결정할 일이 아니라는 결정을 받아 처벌되지 않았다. 

 프랑스, 독일, 네덜란드 등은 선거에 영향을 미치려는 분명한 의도를 갖고 행한 의도된 거짓말에 대해 처벌하는 조항이 있지만 이런 법률의 실제 집행은 어렵고 예외적이다. 

미국, 영국, 이탈리아와 같이 오래된 민주주의 국가에서 우리와 달리 "허위 사실 공표"가 범죄가 아니라는 것은 단지 '표현의 자유'라는 기본권의 해석의 문제만은 아니다.

우선은 거짓을 판단하는 일이 쉽지 않다는 점이다. 자칫하면 회색지대에 있는 사실들을 갖고 정치의 사법화의 위험에 빠지게 된다. 국민의 선거의 선택을 존중하지 않고 사법을 통해 선거 결과를 전복시키려는 "사법의 정치적 무기화"의 유혹에 사회가 빠지고 정치 불안으로 이어질 수 있다. 거짓이라는 것은 많은 경우 절대적이거나 객관적이지 않다.  다른 사람들에게는 명백한 거짓말이라도 자신이 그렇게 믿었다면 거짓이 아니고 그 믿음은 내면의 양심에 따른 것으로 외부에서 거짓을 알고 한 발언이라는 것을 증명하는 일도 쉽지 않다. 

그보다도 더 근본적은 의문이 존재한다. 선거 결과가 정말 가짜 뉴스에 의해 좌우되느냐는 것이다.   우리는 종종 자신의 지식과 확신은 과신하고 남들의 판단력은 과소 평가하는 지독한 자기 중심적 편견이 존재한다.  우리나라의 보수권의 많은 사람들은 좌파 세력을 지지하는 것이 한겨레, 오마이 뉴스, 김어준 방송 등을 보고 그들의 선동과 거짓에 속아서 그렇게 진보 좌파를 지지한다고  생각한다.  레이몽 아롱이 "지식의 아편"에서 한 말이라고 잘못 알려진 "정직한 좌파는 머리가 나쁘고, 머리가 좋은 좌파는 정직하지 않다. 모순투성이인 사회주의 본질을 모른다면 머리가 나쁜 것이고, 알고도 추종한다면 거짓말쟁이다.”라는 말이 이러한 견해를 대변한다.

반대로 우리나라의 좌파 또는 자칭 진보 지지자들은 나 같은 사람의 '극우적 발언'(?)은 조중동만 보아서 그런 생각을 한다고 주장하고 비난한다.   여기서 우리는 자신은 똑똑하고 독립적이고 비판적 사고를 하는데 자신과 의견이 다른 사람들은 스스로 생각할 능력이 없고 언론 또는 에코 챔버 (메아리 방)의 선전 선동에 세뇌되는 지적으로 열등한 존재들로 가정하고 있다는 사실을 발견할 수 있다.  
이는 자기 중심적 편견일 수 밖에 없다.  좌우 이념 지향에 따라 지적 능력이 차이가 난다는 증거는 어디에도 없다. 

이런 편견이 사실인양 착각을 하며 우리는 살고 있다. 선거에서 가짜 뉴스가 승패를 좌우한다는 가정은 사람들이 지지 후보를 쉽게 바꾼다는 가정하에 가능한 일이다.  지금 트럼프는 중첩되는 기소에도 공화당 예선에서 지지율은 흔들리기는 커녕 더 공고화되고 있다.  어떤 추가적인 정보가 발표되면 트럼프 지지자가 바이든 지지자로 바뀔 것 같은가? 바이든의 어떤 나쁜 정보가 바이든 지지자를 트럼프 지지자로 바꿀 수 있을까?  마찬가지로 윤석열 지지자가 어떤 추가적인 정보가 공개되면 이재명 지지자로, 이재명 지지자가 윤석열 지지자로  지지를 바꿀 것 같은가? 좀처럼 바뀌지 않는다. 

사람들이 좀처럼 지지자를 바꾸지 않고 선거 홍보나 캠페인 정보가 선거결과를 크게 바꾸지 못한다는 것은 여러 실증 연구에서 밝혀지고 있다.  후보자의 선거 운동 메세지로 쉽사리 결과가 바뀐다면 선거자금을 더 많이 모금하고 쓴 후보들이 절대적으로 유리할 것이다. 특히 선거자금의 상한선 제한이 사실상 없고 국토가 넓어서 미디어 홍보에 대부분 의존해야 하는 미국에서 그러할 것이다. 하지만 1976년에서 2016년 사이의 대선에서 선거 자금을 더 많이 쓴 후보의 승률은 53%일 뿐이다.  이것도 선거자금을 더 많이 모금한 후보는 이미 앞서 있어서 당선 가능성이 높은 후보였기 때문이라서 순수한 선거 자금만 고려하면 승패에 거의 영향이 없다는 것을 보여준다.  말미에 첨부한연구 논문들이 이러한 사실을 보여준다.  

가끔 선거에 선거자금이 결과에 영향을 주는 경우는 지명도가  낮은 후보자들 간의 경쟁인 경우이고 이는 대부분 지역의 지자체 의원과 같은 낮은 단계의 선거에 국한된다.  

선거자금이나 선거 홍보가 사람들의 생각을 잘 바꾸지 못하는 이유는 여러 가지가 존재한다.  에코 챔버에 관한 주장이 많지만 소셜 미디어 사용자들은 자신과 생각이 유사한 사람들을 팔로우하는 경향이 있지만,  생각보다 다양한 정치적 견해에 노출되어 있다.  연구에 의하면 하루에 무려 11.8 가지의 다른 정치적 견해의 자료에 노출되고 있으며, 소셜 미디어가 정치적 양극화 (political polarization)를 강화시키지 않고 있다고 한다. 이 연구는 경제학의 최고 저널인 American Economic Review에 실린 논문이다. (Exposure to Diverse Political Views on Social Media: Evidence from a Randomized Experiment" by Matthew Gentzkow, Jesse M. Shapiro, and Michael Yarmolinsky. American Economic Review. 2019)

아래 자료도 많은 소셜미디어와 언론에 공화당, 민주당 지지자들이 구독하고 있는 것을 보여준다. 

우리는 여기서 한 가지 주의해야 할 사항이 있다.  어떤 사용자가 조중동 신문을 구독해서 우파가 된 것이 아니라 우파이기 때문에 조중동을 보는 것이고, 한겨레, 오마이 뉴스, 김어준 방송에 심취하는 것도 이미 좌파 성향의 사람들이기 때문이라는 것이다.  펜실바니아 대학의 연구가 이를 뒷받침하고 있다.  소셜미디어 사람들의 자신의 기존 믿음과 일치하는 뉴스와 정보에 더 많이 노출되지만 이를 통해 더 극단적인 견해를 갖게 되지는 않는다는 점이다.  사용자들은 자신의 견해와 아주 일치하는 정보뿐만 아니라 자신이 동의하지 못하는 정보도 더 많이 공유한다고 한다.  ("The Effects of Social Media on Political Polarization" by Matthew A. Baum and Samuel S. Morris. Journal of Politics. 2010.)

미시간 대학의 연구는 소셜 미디어 사용자들이 정치적으로 왜곡된 정보 (political misinformation)에 더 많이 노출되지만 그렇다고 이런 잘못된 정보를 더 믿게 되는 것은 아니라는 실증 결과를 보고하고 있다. ("The Effects of Political Misinformation on Social Media" by Emily K. Vraga, Karis MacDorman, and Michael J. Xenos. Political Communication. 2018.)

결론은 우리는 자신과 생각이 다른 사람들은 쉽게 세뇌 당하는 지적 능력이 떨어지는 사람이라는 아주 잘못된 편견을 갖고 있다는 것이다. 그리고 소셜 미디어는 우리를 더 극단적으로 만들지도 정치적으로 분열되게 만드는데 효과적이지 않다는 점이다. 우리가 어떤 견해의 미디어를 더 소비하는 이유는 이미 우리가 그 견해를 더 지지하기 때문일 뿐이다.

정치와 선거는 정직한 정책대결이라는 이상론이 지배하는 곳이 아니다. 현실은 거짓말 경연장이다.  그리고 그 거짓은 소셜미디어나 인공지능 이전에 이미 정치인들이 끊임없이 만들어 내고 있다. 트럼프는 연일 거짓을 말하고 있고, 이재명도 정직하지 않았고 지금도 정직해 보이지 않는 발언들을 쏟아내는데 왜 인공지능만 규제의 대상이 되어야 하느냐는 의문을 갖게 된다. 

선거에서 거짓을 함부로 처벌하지 않는 이유는 거짓에 의해 음해를 받는 쪽에 대응 수단이 있다는 것이다.  그것이 선거 운동이다.   거짓에 대응을 제대로 못한다면 그는 유능한 정치인이 아니다. 큰 권력을 쥐게 되면 그의 정치적 견해와 정책에 반대하는 정치세력과 이해집단, 그리고 적대적 외국의 정부나 세력들에 의해 왜곡과 거짓에 근거한 공격을 늘 받게 된다. 그런 공격과  왜곡된 정보에 대응하지 못하면 국민을 설득하지도, 정책을 밀고가는 추진력도 힘을 받지 못한다.  따라서 거짓에 대응하고 자신의 메세지를 강하게 전달하고 거짓을 말하는 상대의 부정직을 국민들에게 폭로할 수 있는 능력이야 말로 큰 권력을 추구하는 정치인의 본질적 능력 중에 하나로 보아야 한다.   이것이 거짓 내지는 왜곡과 과장의 대결이 선거 과정의 이탈이 아니라 본질적 내용 중에 하나라는 것을 인식해야 한다. 

보수권은 다시금 냉정하게 생각해 보아야 한다.  정말 이회창 대표가 김대업 때문에 패배한 것이냐 하는 점이다.  이회창 후보는 이미 가장 지명도가 높은 후보였다. 15대 대선에서 이인재의 탈당을 막고 포용하지 못해 김대중, 김종필의 정치적 연합에 굴복했다. 16대 대선에서 노무현/정몽준 단일화 이후의 노무현의 상승세는 일관되게 진행되었다.  이를 김대업 때문에 졌다는 것이 사실일까?  왜 이재명의 도덕성은 따지지 않는 국민들이 이회창의 작은 흠결 가능성에는 지지를 철회했다고 우리는 믿고 있는가?

위에서 설명한 대로 사람들은 자신이 지지하던 후보에서 반대당으로 좀처럼 지지를 바꾸지 않는다.   이는 나경원 후보의 경우도 마찬가지다. 왜 나경원은 억대 미용실 주장에 낙마하고 오세훈은 생태탕에도 낙마하지 않았을까?  나경원 후보가 억대 미용실 주장으로 낙마했다면 그의 서민과 아주 동떨어진 선민적 엘리트의 인상이 박원순의 서민적 모습에서 이미 인심을 잃고 있었기 때문일 것이다. 그것은 힐러리가 트럼프에게 패배했던 원인과 같다. 

우리는 지지하는 후보의 패배를 인과관계가 검증되지 않는 사건들로 설명하며 상대방의 사악한 공작으로 석패를 했다는 믿음으로 위안을 삼는 정신승리의 우를 범하는 것이 아닌지 하는 점이다.  이런 일부 우파의 표피적 단순한 논리로는 선거에서 현실을 보기 힘들다.  많은 국민들은 완벽한 인격체의 정치인을 원하는 것이 아니다. 내 이익과 신념에 부합하는 정책을 펼칠 후보를 찾고 있는 것이다. 

인공지능이 양산할 가짜 뉴스가 민주주의를 위협한다는 것도 과장된 규제 논리가 위험한 생각일 이유가 여기에 있다.  그 규제가 어떻게 인공지능을 사용하는 사람들을 착하게 만들지는 또다른 이야기지만. 

 참고자료: 선거자금의 제한된 효과에 대한 실증 논문들

"Using Repeat Challengers to Estimate the Effect of Campaign Spending on Election Outcomes in the U.S. House" by Michael J. McDonald (1997). This study found that campaign spending has an extremely small impact on election outcomes regardless of incumbency status.

"Good Money and Bad Money: Do Funding Sources Affect Electoral Outcomes?" by Bruce Cain, John Ferejohn, and Morris Fiorina (2000). This study found that there is no clear evidence that the source of campaign funding affects election outcomes.

"How Money Affects Elections" by FiveThirtyEight (2019). This article summarizes the research on the impact of campaign spending on election outcomes, and concludes that money is not the deciding factor in who wins a general election.

Here are some other research papers on the topic:

"The Effects of Campaign Spending in U.S. House Elections" by Gary C. Jacobson (1980)

"Money and Politics: A Study of Campaign Finance Reform" by Anthony C. Downs (1987)

"The Buying of Elections: Money, Politics, and the Marketing of Political Influence" by Larry J. Sabato (2000)

"The Impact of Campaign Spending on Election Outcomes" by John R. Lott Jr. and John W. Kenny (1999)

"Does Money Matter? The Effect of Campaign Spending in House Elections" by Paul S. Herrnson (2000)

이병태의 자유주의 대한민국/경제지식네트워크(FEN) 뉴스레터