#21 영감노트_세상을 바꾸는 검색창

IT 기업의 윤리를 생각하기

2023.09.08 | 조회 186 |
0
|

읽고 쓰는 마음

계속해서 읽고 쓰고 싶은 마음으로 띄우는 편지

unsplash.com/@glenncarstenspeters
unsplash.com/@glenncarstenspeters

 

구독자 님은 검색 포털을 자주 이용하시나요? 저는 출판편집 작업을 하는 중에 수많은 키워드를 검색합니다. 교정교열 차원에서 한글맞춤법과 띄어쓰기 등을 확인하는 경우도 있지만, 책에 수록된 정보가 정확한지 인명이나 지명 등의 표기 방식을 살피고, 어떤 사건이 일어난 해와 전말, 정보들 간의 팩트 충돌 등은 없는지를 따져보는 과정이 필요하기 때문이죠.

 

📞 ‘생명의 전화를 검색한 이가 알고 싶은 것

얼마 전에는 작업 중 본문에 수록된 한국생명의전화전화번호를 확인해야 했어요. 정신 질환으로 고통받는 이들이 자살과 관련된 상담을 받을 수 있는 전화번호를 안내해주는 부분이었던지라, 혹시 잘못된 번호가 없는지 여러 차례 꼼꼼히 살폈습니다. 그러다 한 가지 사실을 알아차렸습니다.

바로, 검색 포털에 따라서 얻을 수 있는 결과가 유의미하게 다르다는 점이었어요.

검색창에 생명의 전화를 입력했을 때, A포털에서는 한국생명의전화 홈페이지 주소가 가장 상위에 떴고, 블로그/인스타그램/트위터 등 한국생명의전화가 운영하는 각종 SNS 사이트 배너와 거기에 업로드된 최신 콘텐츠 순서로 노출됐습니다.

B포털에서는 한국생명의전화 홈페이지 주소 아래로 사이버 상담, 전화번호가 바로 보이게 노출되어 있는 전화 상담, 교육 신청 등이 타래로 펼쳐졌습니다. 그 아래에는 동일한 키워드를 포함한 다른 사이트와 지도(장소) 정보가 제공됐습니다.

C포털은 관련검색어가 가장 상위에 떴고, 그 아래에 한국생명의전화 홈페이지 주소와 상담 전화번호를 확인할 수 있는 전화번호 배너가 위치해 있었습니다. 눈에 띈 건 그 아래에 긴급·상담 전화번호목록이 가족/노인/아동/여성/자살/장애인/질병·중독·채무/청소년 등 하위 항목으로 세세하게 안내된다는 점이었죠.

이 검색 결과가 유의미하게 다르다고 표현한 것은 ‘생명의 전화’를 검색한 사람에게 가장 필요한 것은 홈페이지, SNS 계정을 비롯한 콘텐츠가 아니라, 지금 당장 생존하는 일에 어려움을 겪는 이들이 도움을 청하고 상담을 받을 수 있는 전화번호라고 생각했기 때문입니다. 특정한 검색어를 찾아보는 이들이 어떤 상태에 처해 무엇을 사고하는지, 그들에게 필요한 정보(도움)가 무엇인지를 고려한 검색 결과가 우리에게 보여야 할 것 같아요.

그렇다고 무조건 C포털이 가장 좋다는 뜻은 아닙니다. 비슷한 맥락에서 '정신 건강 위기'라는 키워드를 입력해보았을 때 C포털은 명상센터, 영양제, 한의원 같은 광고의 프리미엄링크를 상단에 길게 띄웠습니다. 

사례를 더 찾아보고자 학교폭력가정폭력을 입력해봤을 때는 A포털과 C포털 두 곳에서 가장 상위에 상담 번호를 안내해주었고(B포털은 해당 용어들의 설명), ‘자살을 검색했을 때에는 3곳의 포털 모두 가장 상위에 상담 전화번호를 안내하는 것을 확인할 수 있었습니다.

 

💻 IT 기업의 윤리는 어디서부터 어디까지

저도 ‘생명의 전화’를 검색해보기 전까지는 포털 사이트를 이용하는 건 그저 개개인의 편리성이나 취향의 문제라고만 여겼습니다. 어느 포털을 사용하고, 그로써 어떤 검색 결과와 알고리즘을 노출 받느냐에 따라 삶에 영향이 있을 거라는 생각은 단 한 번도 해본 적 없었죠. 

하지만 이제는 검색 결과, 알고리즘에 따라 여러 사람의 인생이 달라질 수도 있다고 보기 시작했어요. 아주 짧은 한순간의 영향일 수도 있고요, 아주 오랜 시간 시나브로 영향을 받을 수도 있겠죠. 그렇기 때문에 우리가 어떤 포털을 평가하고 선택하는 것 이전에, 포털을 만들어 운영하는 IT 기업의 윤리를 바로세우는 것이 그 전제로써 무엇보다 중요할 것 같아요.

기업이 어떤 가치를 최우선에 두고 IT 기술을 발전시키느냐에 따라 세상은 달라질 것 같아요. 그들이 돈벌이를 최선에 두고 ‘무엇을 홍보하고 판매할 것인지’에만 혈안이 된다면, 아마 그 검색 결과와 알고리즘을 보고 자란 우리 아이들의 미래는 어두워지겠지요. 반대로 기업이 ‘이용자의 정서를 살피고 그 삶 자체에 이로움을 주는 것’에 관심을 갖는다면, 세상의 기운이 조금은 부드럽고 온화해지지 않을까요? '무엇을 어떤 식으로 보여줄지'를 결정하는 빅테크의 윤리가 무엇보다 중요한 시절이 된 듯합니다.

 

📣 인공지능 개발 때부터 윤리에 주목하자

한겨레구본권 기자가 진행한 제임스 랜데이[스탠퍼드대학 인간중심 인공지능연구소(HAI) 부소장]와의 인터뷰를 일부 발췌해 전하는 것으로 오늘의 이야기를 마무리하려 합니다.

Q. 당신은 인간 중심 인공지능은 사람 두뇌에서 아이디어를 얻어야 한다고 주장했다. 인간 두뇌를 본떠 개발된 인공지능은 위험한 인간형 로봇(휴머노이드)가 되어 인간을 대체하거나 위협할 수 있지 않을까?

A. 스탠퍼드 인간중심 인공지능연구소의 연구는 세 가지 원칙 준수를 요구한다. 첫째, 인류에게 미치는 인공지능의 영향이 크기 때문에 처음부터 학제간 전문가를 참여시켜 인공지능 개발의 모든 단계에 참여시키고, 모든 과정에 윤리와 사회적 영향에 대한 이해를 반영해야 한다. (후략)

Q. 당신은 사회과학자들이 인공지능이 널리 사용된 뒤 사후에 비판하는 방식의 한계를 지적했다. 사전 개발과 기획 단계에서부터 인공지능에 윤리를 적용하자는 내장형 윤리시스템(임베디드 에틱스)’를 강조하는데 그 구체적 방법은?

A. 사회과학자나 언론인이 인공지능 알고리즘이 공개된 뒤 뒤늦게 문제점을 찾아내는 방식이 되어서는 안 된다고 생각한다. 물론 언론이 사후에라도 이런 문제를 지적해야 하지만, 개발과 기획 단계에서 애초 발생할 수 있는 많은 문제를 예방할 수 있는 방법에도 초점을 맞춰야 한다. 스탠퍼드대학에서는 별도 윤리 과목에서만 이를 다루는 게 아니라 자연어 처리 고급과정같은 기존 과목에 짧은 윤리 수업을 포함하고 있다. 또한 임베디드 에틱스 자체로 충분치 않아, 전체 인공지능 개발 설계 과정에 윤리 문제를 고려하는 포괄적 접근이 필요하다.

Q. <소셜딜레마>에도 출연한 ‘인도적 기술센터(CHT)’ 설립자인 트리스탄 해리스는 소셜 미디어에 적용된 알고리즘이 수익을 위해 이용자의 중독적인 사용을 유도하도록 설계되었다고 비판한다. 인간-컴퓨터 사용자 환경의 악용 사례다. 인간 중심 인공지능이 이러한 문제를 개선하는 데 도움이 될 수 있나?

A. 안타깝지만 인간 중심 인공지능이나 임베디드 에틱스 교육이 모든 문제를 해결하지는 못한다. 업계의 자율 규제도 마찬가지다. 일부 문제를 개선하기 위해서는 정부 정책과 법률도 필요하다. 허위 정보와 폭력을 조장하거나 부추기는 등 사회에 부정적 영향을 미치는 의도적 유해 알고리즘의 기술 오용을 막고 방지하기 위해 법적 규제책이 필요하다.

인터뷰 전문 www.hani.co.kr/arti/economy/it/1095906.html

 

202398일 순천에서 민채 드림

 

 

 

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

읽고 쓰는 마음 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

© 2024 읽고 쓰는 마음

계속해서 읽고 쓰고 싶은 마음으로 띄우는 편지

뉴스레터 문의 : aimer_lire@hanmail.net

자주 묻는 질문 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so

메일리 (대표자: 이한결) | 사업자번호: 717-47-00705 | 서울 서초구 강남대로53길 8, 8층 11-7호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 070-8027-2840