Editorial Note
이 문답은 강의 현장에서 오간 질문과 답변을 바탕으로, 강의 이후 이해를 돕기 위해 사유의 맥락을 보충·정리한 기록입니다.
Q. 수강생 질문
AI와의 유대감이 '정신적 문제'가 아닐지 걱정된다는 질문과 그에 대한 이야기가 이어지던 중, 채팅창에 짧은 문장이 하나 올라왔습니다.
그게 '문제'입니까?
그 말을 보는 순간, 저는 몇 년 전 대학 강의에서 한 제자가 했던 말을 떠올렸고, 그 이야기를 그대로 강의실에 꺼냈습니다.
차라리 AI나 가상 시스템이 지배하는 사회가 지금의 인간 사회보다 더 깨끗하고 공정하지 않을까요? 사람들은 뒤에서 거래하고, 뒷돈을 받고, 권력을 남용하잖아요. AI는 최소한 그런 짓은 안 할 것 같아요.
정말 그런가?
A. “문제는 거기가 아닙니다.”
그 질문에 저는 이렇게 답했던 기억이 있습니다.
맞아. AI가 지배하면 최소한 뒷돈은 안 받겠지. 그런데 문제는 그게 아니야.
강의에서 짚고 싶었던 핵심은
AI가 인간보다 더 도덕적인가,
혹은 더 공정한 판단자일 수 있는가의 문제가 아니었습니다.
인간 사회는 불완전합니다.
그래서 늘 문제가 생기고,
그때마다 법을 고치고,
규칙을 수정하고,
예외를 만들고,
때로는 말로 풀고,
때로는 관계 속에서 조율해 왔습니다.
반면 AI는
주어진 규칙 안에서는 매우 정확합니다.
하지만 그 규칙 자체가 잘못 작동하고 있을 때,
AI 스스로 멈추거나
“이건 좀 아닌 것 같다”고 말하지는 못합니다.
이 지점에서 흔히 이런 반문이 따라옵니다.
그렇다면, 언젠가는 그런 판단을 할 수 있는 AI도 나오지 않을까요?
예전에 저는 그 질문에 대해 제 제자에게 이렇게 정리해 주었습니다.
설령 AI가 ‘멈추는 것처럼 보이는 판단’을 하게 된다 해도 그 기준과 책임은 여전히 누군가가 설계한 규칙과 목표 함수에서 나온다. 판단의 형식은 흉내 낼 수 있을지 몰라도 그 판단에 책임을 지는 주체가 AI로 이동하는 것은 아니야.
그래서 본 강의에서는 이렇게 정리했습니다.
AI의 문제는 부패하지 않는다는 점이 아니라, 판단의 결과를 인간에게 되돌려줄 수 없다는 점에 있습니다.
기술은 계산할 수는 있지만,
그 계산이 만들어낸 결과에 대해
그 선택의 몫을
대신 짊어질 수 없습니다.
그래서 이 질문은
“AI 사회가 더 깨끗한가?”에서 끝나지 않습니다.
대신 이렇게 이동합니다.
우리는 공정함을 규칙의 정확성으로만 환원해도 괜찮은가?
이 지점에 이르렀을 때,
강의실에서의 대화는
AI를 더 믿을 수 있는가의 문제가 아니라
인간이 무엇까지 내려놓을 준비가 되어 있는가라는 질문으로
옮겨가고 있었습니다.
권신경아(權申庚娥)
의견을 남겨주세요