AI의 차별이 시작된다.

AI가 차별할 것이라고는 생각해 보지 않았다. 

민주주의니 뭐니 해서 현대 사회는 제법 공평할 것 같아도 도처에 차별이 넘쳐난다. 여자라서 차별,  노인이라 차별, 장애인이라서 차별, 못 살아서 차별. 요즘은 반대의 경우도 종종 있다. 남자라서 차별, 어려서 차별, 멀쩡해서 차별, 잘 살아서 차별. 이쯤 되면 차별이 우리 모두를 차별하는 것만큼은 꽤 공평하다.

워낙 차별이 흔해진 사회에 살다보니 차별에 익숙해졌다. 그런데 AI가 차별한다니 이건 무슨 소리인가? 실제 AI 개발자들은 AI가 차별하지 않고 공평하고 투명하게 결정할 수 있도록 많은 노력을 기울이고 있다. 그 말을 뒤집어 보면, 그냥 놔두면 AI는 인간을 차별할게 뻔하다는 뜻이다. 왜 그럴까?

AI가 학습한 데이터 때문이다. 파운데이션 모델이 학습한 데이터셋에는 인간의 역사가 고스란히 담겨 있다. 타인을 괴롭히고, 조직이 개인을 소외시키며, 국가가 시민을 차별하는 인간의 부정적 면모는 아무리 숨기려 해도 수많은 문장과 단어들의 문맥 속에 녹아있다. 그러니 강화 학습을 통해 아무리 AI를 공정한 모델로 만들려 해도 그건 불가능하다. 심지어 휴먼 피드백을 주면서 강화학습을 시행하는 그 인간은 100% 공정한 마인드셋을 가지고 있다 보장할 수 있을까?

AI의 차별은 차갑고도 섬뜩하다. 배달앱 시켰다가 문제가 생겨 1:1 채팅을 이용해 보면 AI가 얼마나 신경을 제대로 긁는지 체험해 볼 수 있다. 친절하지만 동문서답, 같은 말 반복, 기다려 달라, 기다려줘서 고맙다 하지만 또 동문서답, 상담사 연결하겠다면서 무한 기다림, 그러다 미안하다. 상담사 연결 어렵다.  아, 진짜!

사실 이 정도는 문제도 아니다. AI 차별이 위험한 이유는 ‘차별 메커니즘’을 밝히기 어렵다는 점이다. 딥러닝 기반의 알고리즘은 수천만 개의 변수가 뒤엉킨 연산을 통해 결론을 낸다. AI의 대출 심사에서 탈락했다 치자. 은행 직원조차 이유를 알 수 없다. "저희도 정확한 이유는 모릅니다. 본사 인공지능(AI) 심사 프로그램이 부적격 판정을 내렸네요. 시스템이 거부하면 저희가 손쓸 방법이 없습니다." 바로 ‘AI 블랙박스’ 문제다. 진짜 차별이 있었는지 아닌지 알 수 없고, 차별이 있었다 해도 밝힐 수 없다. 게다가 AI는 인간이 하루에 한 건 처리할 일을 수백 건, 수천 건씩 해낸다. 그만큼 많은 차별이 생성돼도 막을 방법이 없다. 

AI는 다수가 만들어낸 표준에 최적화돼 있다. 

버거킹 키오스크 앞에서 아무리 버벅거려도 도와주는 사람은 없다. 주문 받는 직원이 없어 쭈뼛거리다가 결국 햄버거를 못 사고 가게를 나간다. 이런 불편을 해소하기 위해 음성 인식 AI가 주문을 받는다고 하자. 그 AI는 말투가 느리고 어눌한 노인의 말을 싹싹 알아듣고 햄버거를 주문해 줄 것인가?

생체 인식 AI는 어떨까? 척추 기형, 안면 장애, 절단 등 신체적 특수성을 지닌 장애인들은 얼굴 인식이나 시험적인 생체 인증 시스템에서 드물지 않게 실패를 경험한다. 학습 데이터가 표준적인 신체를 중심으로 구성되었기 때문이다. 공항 자동 출입국 심사대, 병원 무인 키오스크, 온라인 본인 인증 앞으로 AI 생체 인식이 본격화되면 차별이 더 극심해지지 않을까? 

시장의 논리가 또 문제다.

AI가 차별하지 않게, 사회적 아웃라이어까지 포괄할 수 있게 더 정교하게 학습시키는 것이 가능하다 해도 사업자들이 그만한 투자를 할지 의문이다. 손해를 싫어하고 초과 이익을 좋아하는 인간이 큰돈을 들여 AI는 그러지 않게 만든다고 믿기 어렵다. 그런 인간들이 실속 투자해서 만든 AI가 딱 그정도의 퍼포먼스를 내는 것은 너무도 당연하지 않은가?

역사적으로 기계화되고 문명화 될수록 소외 계층이 더 차별 받는 사례는 늘 있었다. 스마트폰 앱으로 하면 다 될 것 같지만, 동시에 스마트폰 못 쓰면 아무것도 못하는 사회가 되고 있지 않은가. 만약 AI 시대가 도래했는데 AI를 제대로 쓰지 못하면 그들은 또 어떤 차별을 받게 될까?

점차 AI는 휴대하고 다니는 제2의 지능이 되고 있다. 

지금은 무료와 유료의 결과 수준이 큰 차이가 없지만, 유료화가 본격화되면 이용료 수준에 따라 AI의 결과물은 상당한 격차가 생길 것이 뻔하다. -현재에도 단순 질의 응답은 무료 서비스에서 가능하지만, 복잡한 회사 업무처리나 코딩은 모두 유료다- 곧 비싼 AI를 쓰는 것이 한 인간의 능력치를 대변하는 시대가 올 것이다. 타고나기를 똑똑하게 태어나도 고급 AI를 사용하는 평범한 인간을 당해낼 수 없다. 그것은 아무리 싸움을 잘해도 총을 이길 수 없는 것과 비슷하다. 

최대한 노력한다해도 AI의 차별을 원천적으로 막아내긴 어려울 것이다. 인간의 본성 속에 차별하는 마음이 가득하기 때문이다. 당장 베네수엘라의 지진 피해로 몇 명이 죽든, 가자 지구에 어떤 지옥이 펼쳐져 있든 우리나라 월드컵 성적이 중요하고 삼전닉스 주가가 더 중요하지 않은가? 너무도 당연한 것인데 그 당연함 때문에 생기는 일들을 감수하기는 또 싫다. 어떻게 해야 할까?