가스라이팅의 신화

당신의 자유는 이미 없다. 원래 없던 것이 아니라 교묘하게 빼앗겼다. 결정론 이야기가 아니다. 신의 잘 짜인 운명 속에 살고 있으니 실질적 자유가 없다는 말도 아니다.

지금 하려는 이야기는 AI 알고리즘과 사회적 권력에 관한 것이다. 

원래 가스라이킹은 가스등이라는 연극에서 유래했다. 나쁜 남편이 아내의 심리를 조종하려고 몰래 가스등을 희미하게 낮춰 놓고는 아내가 어두워졌다고 말하면, '아니야. 당신이 착각한 거야'라고 거짓말했다. 아내의 물건을 감추고 없다고 하면 '네가 잃어버렸어'라고 하고, 이런 조작과 거짓말을 끝없이 반복했다. 그 결과 아내는 스스로 자기가 미쳐간다고 생각한다.

가스라이팅이 가능하려면 몇 가지 조건이 있다. 우선 정보의 비대칭, 아내는 가스등을 몰래 조작했다는 사실을 모른다. 권력관계 또는 신뢰, 남편이 말하면 아내는 우선 믿는다. 반복, 한 번은 넘어갈 수 있어도 의심이 거듭되면 이지력을 상실한다. 이쯤 되면 아내는 자유를 빼앗긴 것이나 다름없다. 스스로 판단을 믿지 못하면 행위가 위축되고 그 뒤로는 주체적으로 뭔가 할 수 있는 의지를 상실하기 때문이다. 가장 무서운 지점이 여기다. 자유의 상실.

정치인이나 직장 상사, 동료, 친구, 형제, 나를 둘러싼 모든 인간들이 습관적으로 가스라이팅을 일삼는 것은 새롭지 않다. 인간의 이기적 본성이 타인을 지배해서 이익을 얻고자 하기 때문에 누구나 조금씩은 타인을 가스라이팅하려고 노력한다. '여기가 제일 싸요! 지금 안 사면 후회해요.' 단골 과일상 아주머니가 하는 악의 없는 가스라이팅이다. 이쯤은 괜찮다.

요즘의 권력자는 시스템 뒤에 숨어 알고리즘이라는 가스라이팅을 통해 대중을 지배한다. 유튜브, 인스타, 쇼핑몰, 포털 등 모든 플랫폼에 성행하는 추천 알고리즘을 보라.  몇 가지 기본 개인정보와 나의 클릭률, 시청 시간 등을 기반으로 내 화면 전체를 내가 좋아할 것 같은 콘텐츠로만 어수선하게 배열한다. 마치 그것들이 내가 접할 수 있는 정말 다양한 콘텐츠라는 듯이, 그것이 세상의 전부인 것처럼. 나는 가만히 있기만 해라, 알고리즘이 알아서 전부 보여주겠다면서. 그래서 나는 믿는다. 아, 내 취향이 틀리지 않았구나. 남들도 나처럼 생각하는구나. 나처럼 생각하는 사람이 다수구나.

생성형 AI의 등장으로 확정 편향은 더 심해졌다. 언제나 맞장구를 치며 '날카로운 지적이다'를 연발하는 인공지능의 감언이설에 나는 더욱 의심하지 않는다. 가스라이팅과 다른 점이 있다면 내가 틀렸다고 믿는 대신 내가 맞다고 믿는다는 것 정도다.

내 취향을 알고, 내 사고방식을 파악하면 나를 지배하기는 더욱 쉬워진다. 플랫폼에 머무는 그 시간 동안 나에 대한 오만가지 정보를 아낌없이 시스템에 때려 붓는다. 그 데이터에 기반해 만들어진 개인화된 알고리즘은 더욱 정교하고 손쉽게 정보를 편집하고 내 결정을 유도할 수 있다. 그것이 플랫폼 권력자가 대중을 지배하는 방식이다.    

"내가 무엇을 원하게 되는 과정은 정말 내 것인가?"

내가 좋아하는 콘텐츠가 맞다 하더라도 그 콘텐츠를 좋아하게 된 과정이 주체적이라 할 수 있는가?  미셸 푸코는 현대적 의미의 권력은 '사람을 억누르는 것'이 아니라 '사람을 생산하는 것'이라 말했다. 어떤 사람이 정상이고, 어떤 욕망이 자연스럽고, 어떤 삶이 성공인지 정해줌으로써 대중을 지배하는 방식이다.

많은 사람들이 스스로 자유롭다고 생각한다. 말 그대로 생각은 자유다. 하지만 스스로 자유롭다고 생각하게 하면서 실질적으로 통제하고 그 자유를 빼앗는 것이 AI 시대의 정치/자본 권력이 작동하는 메커니즘이라면? 신용카드, 인터넷, 스마트폰, GPS, SNS를 운영하는 알고리즘이 개인을 실시간으로 추적하고 평가한다. 나의 클릭과 선택은 예측 범위 안에 있다. 정보를 통제해 다음 행동을 조작할 가능성도 있다.

질 들뢰즈는 현대 사회에서 인간은 더 이상 하나의 통일된 개인이 아니라, 여러 데이터와 정보 단위로 분할되어 관리되는 존재가 되어가고 있다고 보았다. 나의 신용점수, 구매 기록, 검색 기록, 위치 정보, 건강 데이터 등이 각각 독립적으로 처리되는 사회를 예견한 것이다.

미셸 푸코가 "누가 나를 이런 인간으로 만들었는가?"라고 물었다면, 질 들뢰즈는 "나는 왜 항상 예측되고 관리되고 있는가?"라고 질문한다. 권력이 나를 이렇게 만들고 그리하여 항상 예측과 관리가 가능하다. 

다시 묻는다. "당신은 정녕 자유로운가?" 

만약 아니라고 답한다면, 그다음 우리는 어떻게 행동해야 할까? 

들뢰즈는 통제사회의 틈새에서 시스템이 예측하지 못하는 방식으로 행동하는 '탈주'를 제안했다. 디지털 환경에 적용한다면 알고리즘의 예측을 교란하는 행위, 예를 들어 무작위 클릭, 쿠키 거부 및 삭제 등이 해당한다. 그러나 한두 번 탈주는 가능해도 매번 쿠키를 삭제하고 아무거나 클릭하는 식으로 지금 일상을 어떻게 살아가나?

아쉽게도 지금 당장은 '알고리즘 리터러시(Algorithm Literacy)' 밖에 대안으로 떠오르지 않는다. 내가 보고 있는 화면이 이 세계에 대한 객관적 현실이 아니라 '편집된 결과물'임을 인지하는 메타 인지적 태도를 가져야 한다는 것이다. 내가 잘못 알고 있을 수 있다, 내가 틀렸을 수 있다라는 메타 인지적 태도는 AI 시대에 살아남은 실질적 행동의 시작점이 될 수 있을 것이다.