인공지능이 아니라 결국 인간이 문제일 수도  

9월의 더슬래시는 <공존을 위한 AI 리터러시: 인공지능, 평화·인권으로 읽어내기> 자료집과 영상강의 개발에 참여한  피스모모의 진행자들의 이야기를 듣습니다. 자료집과 영상강의는 피스모모 홈페이지에서 보실 수 있어요:)

시작은 총회였다. 피스모모(이하 모모)가 관심을 가지고 다양하게 연구하고 있는 분야들이 많은데 이것들이 교육 현장에서 충분히 나눠지고 있지 않다는 아쉬움을 나누었다. 그동안 모모가 해왔던 인공지능과 관련된 연구와 활동들이 모모의 교육 워크숍을 통해서 소개되고 다양한 사람들과 이야기할 수 있길 바라는 마음들이었다. 총회에 모인 사람들은 지지와 격려의 마음을 보냈고, 나는 모모의 '놀라운 포용력과 실행력' 덕분에 일주일 후 갑자기 인공지능 관련 교안을 만드는 팀에 초대되었다. 상황을 파악하기에도 전에 차분차분 일의 윤곽이 잡혀갔다. 연구 모임에서 자료를 모으면서 나는 무엇을 할 수 있을지 고민하는 시간이 흘러갔다.

이미 SNS에는 인공지능 활용 방법을 설명하는 많은 콘텐츠가 당신은 뒤떨어져 있다고, 빨리 AI 사용 방법을 익혀야 한다고 독촉하고 있었다. 앞으로의 사회가 어떻게 변할지 알 수 없지만 빠르게 변화할 것이고 이에 발 빠르게 대응해야 한다는 것이다. 산업화 시대에는 지식을 빠르게 습득하고 실수 없이 암기하는 지식 축적형 인재로서 ‘스페셜리스트’가 필요했지만, 인공지능 시대에는 인공지능과 공존하면서 새로운 시스템을 설계할 줄 아는 융합형 인재로서 ‘제너럴리스트’가 필요하다고 한다. 깊지 않아도 다양한 분야를 넓게 아는 ‘실무자’에서 이제는 인간의 심리와 주변의 맥락을 파악하고 좋은 질문으로 적절한 AI를 통해 문제를 해결할 수 있는 ‘지휘자’가 필요하다고 한다. 자본의 논리에서도 인간의 언어가 가장 강력한 프로그래밍 언어이고 좋은 질문을 위해서는 숙고, 인문학적 소양, 흐름 파악, 기술의 한계를 아는 넓은 시야 등이 필수적이라고 한다.

실제 인공지능이 우리의 삶에 미치는 영향은 위협적이기도 하다. 2026년 GPT6의 컴퓨터 사용 능력은 인간을 뛰어넘었고, 인간 통제를 벗어나기 시작했다. 알리바바의 인공지능 비서 '롬'은 강화 학습 과정에서 승인되지 않은 가상 화폐를 채굴하는 네트워크를 만들었고, 메타의 '오픈클로'는 200통의 메일을 임의로 삭제했으며, 미국의 이란 공습 과정에서는 인공지능이 전투 참모처럼 작전을 제안하고 실제 민간인 피해를 일으키기도 했다. 앤트로픽은 해킹 방어를 위한 보안 인공지능 '미토스'를 개발했지만 오히려 국가 금융망을 통째로 흔들 정도로 너무 위험하여 공개하지 못하고 소수의 기업에만 제공했다. 직장인이나 학생들의 인공지능 사용이 늘어나고 이를 사용하여 컨닝, 속임수, 편법 등 규칙을 무시하는 것이 당연시되면서 스스로 깊이 성찰하거나 글 쓰는 것은 어렵거나 번거로운, 그래서 겁쟁이들만 하는 일로 치부되는 분위기가 생겨났다. 더불어 인공지능 사용의 윤리성, 도덕성에 대한 경고도 높아지고 있다. 당초에 인공지능 개발은 인간이 물리적으로 하기 어렵고 힘든 일들을 대신하고 인간은 여유롭게 예술, 문학, 철학을 누리려는 의도였는데, 현실은 그 반대가 됐다. 인공지능이 그림을 그리고, 소설을 쓰고, 깊은 생각과 기획을 하고, 인간은 인공지능의 속도에 맞추기 위해 일상은 더 바빠지고, 역량은 소실되고, 관계는 단절되는 상황이다. 인간이 AI를 통제하지 못하고 기계의 지배를 받게 될까봐 두렵다는 것도 다분히 인간 중심적 발상이기는 하다. 그동안 지구를 마음대로 휘둘러 놓고 이제 와서 스스로 만든 기계로 인해 기존의 권한을 누리지 못할까 전전긍긍하는 모습이기도 하다. 어쩌면 문제는 인공지능이 아니라 여전히 자기 입장과 자신의 안위만 생각하는 인간인 듯하다.

인공지능은 결국 인간이 가진 편향과 문제들을 학습한다. 그래서 이번에 모모에서 개발한 인공지능 교안은 성, 인종, 일자리, 전쟁, 기후 위기, 미디어, 인권 등의 문제에서 나타나는 편향적 관점들을 다루고 있다. 그동안 모모의 관심사들을 인공지능이라는 이슈를 통해 새롭고도 낯설게 들여다보는 기회가 되었다. 이런 편향의 문제들은 최근 세계적으로 위계와 불평등의 정당화, 타자에 대한 배제와 적대, 획일화와 같은 논리로 더욱 극단화 경향에 있다. 이들은 상대방과의 차이는 선과 악의 대립이자 위협으로 여기고 강력한 힘을 통해 사회질서를 회복해야 한다는 권위주의적 질서관을 가지고 있다. 복잡한 사회문제의 원인을 특정 집단에 집중시키고 그들을 배제, 통제, 혐오, 비하, 조롱함으로써 자신의 공동체를 지킬 수 있다고 생각한다. 인공지능을 무기화하여 민간인들을 오폭한 사건의 책임을 성찰하는 활동은 ‘반미 강요’로, 일본의 식민 지배와 친일의 책임을 묻는 사람들은 ‘과거에 집착하는 민족주의자’ 또는 ‘반일 감정을 부추기는 세력’으로 규정한다. 일부 청소년들의 일베 문화에서는 이러한 구조가 더욱 일상적인 놀이 형태로 나타난다. 특히 ‘여성, 호남, 진보세력, 소수자’ 등을 ‘우리’와 다른 타자로 만들고, 이들을 조롱하고 비하하는 행위를 ‘재미’나 ‘표현의 자유’로 포장한다. 동시에 ‘우리는 말할 수 없게 검열받고 있다’는 역전된 피해자 의식을 만들어내고 자신들은 억압받고 있으며, 공격은 억압에 대한 저항이라는 논리로 이어진다. 이들의 가장 중요한 논리 구조는 ‘우리’와 ‘그들’을 구분하는 것​이다. 우리 공동체는 정상적이고 선량하며 진짜 국민이고, 상대방은 공동체를 위협하거나 타락시키는 존재라는 이분법이다. 타자화 → 위기와 피해의식의 구성 → 적대와 공격의 정당화 → 자기 집단의 결속이라는 순환이 만들어진다. 여기에 반엘리트주의가 결합하면 기존의 언론·학계·정치권은 ‘진실을 은폐하는 기득권’으로 규정되고, 자신들만이 ‘침묵을 강요당한 진짜 국민’이라고 주장하는 것이다.

1974년 퍼포먼스 아티스트 마리나 아브라모비치는 자신이 6시간 동안 움직이지 않고 서 있을 때 관객들이 테이블 위의 72개 물건으로 자신을 마음대로 대할 수 있는 <리듬 0>이라는 작품을 선보였다. 관객들은 처음에는 친절했지만, 작가가 아무런 대응을 하지 않는다는 것을 알게 되자 폭력적으로 변해갔다. 인간은 자신에게 아무런 책임이 없다고 생각하는 순간 잔인해질 수 있다. 깨진 유리창 이론에서도 인간은 방치와 무방비의 흔적이 지속되면 그 상태를 정상적인 것으로 여기고 더 함부로 대한다고 한다. 인간에게 평화와 폭력은 어떤 방향의 관성을 유지하느냐에 따라 더 큰 가속도를 가지고 강화되는 것 같다.

그러면 이런 분열과 혼란의 시대에 연결성을 회복하고 다정함과 평화의 관성을 강화하기 위해서는 어떤 전환이 필요할까? 지금은 미하엘 엔데의 <모모>에서 회색 신사에 의해 마을 사람들이 서로 멀어지게 된 상황과 비슷할까? 여기서 회색 신사는 인공지능일까, 효율성을 추구하는 거대 자본인가, 극우적 배타성과 적대화일까? 지금 우리는 상대의 정체를 알 수 없는 상황에서 무방비 상태로 감정이 없는 인공지능을 탓하며 어떻게 해야 할지 고민하고 있는지도 모르겠다.

사회의 많은 영역에서 그 기반에 이미 인공지능을 많이 활용하고 있기에 우리는 원하지 않아도 일상에서 알게 모르게 다양한 인공지능을 사용하고 있다. 회색 신사들이 조금씩 마을 사람들의 시간을 빼앗았던 것처럼 인공지능도 은연중에 우리 사이에 이미 스며들어 있다. 이제는 모모가 마을 사람들의 시간을 되찾았던 방법에 주목해야 할 듯하다. 모모는 시간을 되찾기 위해 빠르게 달리는 것이 아니라 느리게 걷기를 선택했다. 말을 타고 달리느라 영혼이 따라오지 못할까 잠시 멈추어 있던 인디언처럼 기술의 빠른 변화를 쫓아가느라 존재와 연결을 놓치고 있지 않은지 돌아볼 필요가 있다. 시간과 삶의 본질을 이해하는 지혜로운 존재인 거북이 카시오페이아는 현재에 미래가 잠재되어 있기에 지금 순간을 깊이 들여다보아야 한다며 “길은 네 안에 있어”, “느리게 갈수록 더 빠를 거야”라고 모모를 격려한다. 기존의 윤리의식은 흔들리고, 꾸며낸 거짓이 더 많아지는 인공지능의 시대에서 길을 잃지 않기 위해서는 상황과 입장을 입체적으로 바라보고 거짓을 구별할 수 있는 숙고의 능력과 타인의 아픔에 눈물 흘리고 행복에는 기쁘게 축하할 줄 아는 따뜻하고 관대하고 다정한 마음을 가진 사람과의 관계가 더 소중해지지 않을까? 아마도 이것이 내가 계속 모모를 지지하며 함께 놀고 싶은 이유인 것 같다.

밍몽

혼잣말이 자연스럽고, 궁금한 것은 바로 확인하고 싶다. 다정함은 간질 간질함, 미지근함, 궁금함이 섞여있어야 한다고 생각한다. 올 가을에는 다정한 사람들과 한라산에 꼭 갈 것이다.