🤖[128호] AI와 사람 : 정보인권 관점에서 본 인공지능

💌 뉴스레터 128호

🤖 2026년 1월, 세계 최초로 인공지능기본법이 시행되었습니다. 이 법은 과연 누구를 위한 법일까요?

❓이번 호 인디앤임팩트는 인공지능이 삶과 노동의 현장에 깊숙이 들어온 지금, 기술의 이용자가 아니라 그로 인해 ‘영향을 받는 사람’의 권리는 어디에 있는지를 묻습니다.

⚖️ AI가 고용과 창작, 결정의 주체가 되어가는 시대, 우리는 설명을 요구할 수 있는지, 참여할 수 있는지, 협상할 수 있는지 묻고, 기술의 속도에 가려진 민주주의의 과제를 함께 생각해보아요. 

소중한 후원금은 뉴스레터 원고료로 사용됩니다. 

✨ 구독후원은 언제나 큰 힘이 됩니다! '구독하기'에서 유료 멤버십을 선택해주세요!

월 5,000원으로 인디&임팩트는 계속 달려갈 수 있습니다~ 🏃‍♀️

편집자주 | 인디앤임팩트를 발행하는 독립미디어연구소는 포항문화재단과 함께, 작년 11월 14일부터 16일까지 인디플러스 포항에서 AI WAVE: 포항시민AI영화제를 개최했습니다. 인디앤임팩트에서는 영화제 기간 동안 진행된 포럼과 대중강연을 두 차례에 걸쳐 소개합니다. 이번 호에서는 대중강연에서 나왔던 이야기를 더욱 확장한 원고를 싣습니다.  

AI와 사람 : 정보인권 관점에서 본 인공지능

창작자들은 AI 시대를 어떤 마음으로 맞고 있는가? 2022년 11월 이후 챗GPT를 비롯한 생성형 AI가 잇따라 출시되자 마음이 설렌 사람들이 있었을 것이다. 이 기계가 우리에게 제공할 수 있는 인사이트와 자동화가 인간의 창작력을 증강하여 줄 것이라는 기대도 있었다. 그러나 텍스트, 이미지, 오디오, 영상을 아우르는 기계의 유창함은 급속하게 빠른 속도로 창작 노동 시장을 점유해 갔다. 사람이 기계와 공존하는 삶을 준비하는 속도보다, 시장이 사람보다 효율적인 기계의 생산성을 선택하는 속도가 더 빨랐다.

경기 침체에 AI 창작이 더해지면서 광고와 영상업체가 잇따라 폐업하고 있다는 소식도 들린다. 하버드비즈니스리뷰가 지난해 11월 발표한 보고서에 따르면 챗GPT가 등장한 지 1년 만에 그래픽 디자인과 3D 모델링 프리랜서 수요가 17% 감소했다. 글쓰기 직무 관련 채용 공고는 30% 줄었다고 한다.

미국작가조합 파업 장면(2023년 5월 4일)(이미지 출처: ufcw770, CC-BY-2.0)

창작 노동자들도 맞서기 시작하였다. 특히 2023년 헐리우드 파업은 ‘인류가 최초로 AI에 맞선 투쟁’으로 알려졌다. 당시 제작사들은 시나리오와 연출 작업, 배우의 연기 모사에 생성형 AI를 도입하기 시작한 참이었다. 이에 대해 감독조합은 사측인 제작사와 “감독은 인간이고 작품 당 1명만 배정된다”는 원칙을 합의하였다. 작가조합과 배우조합은 64년 만의 동반파업 끝에 생성형 인공지능에 대한 더 많은 합의사항을 쟁취하였다. 작가조합에서는 AI는 작가가 아니고 AI가 작성한 자료는 저작물로 보지 않는다는 원칙에 합의하였다. 그 의미는 제작사가 작가에게 AI가 생성한 자료에 기반하여 대본을 쓰도록 요구하더라도 원작자 지위가 작가에게 있다는 것이다. 또 제작사가 작가의 대본으로 AI를 학습시켜 작품에 활용하는 경우에도 작가의 원작 대본에 대하여 보상하도록 하였다. 배우조합은 AI가 배우를 모사하는 복제본을 사용할 때 해당 배우에게 임금을 지급할 것을 요구하였다. 물론 배우는 복제본 사용에 동의하지 않을 권리가 있다. 이들 노동조합과 사용자단체는 이후로도 AI의 사용에 대해 정기적으로 협의하기로 합의하였다(김하늬, 2025).

헐리우드 노동조합은 생성형 AI 사용 자체를 막지 못했지만 인공지능 도입으로 인해 초래될 수 있는 저작권, 초상권, 노동권 침해를 최소화하였다. 무엇보다 AI 사용에 대해 그 영향을 받게 될 노동자들의 집단적 참여권을 확립했다는 점에서 의미가 깊다. 미국의 일부 주에서는 이와 같은 권리를 법률화하여 창작자를 보호하는 제도를 도입하기 시작했다.

이처럼 인공지능이 도입되는 세계 여러 현장에서는 그 영향을 받게 될 사람들이 목소리를 내고 때로 맞서 싸우기 시작하였다. 인공지능이 발휘하는 생산성의 마법이 결국 그 영향을 받는 사람들의 삶과 노동을 파괴할 뿐이라면, 당사자들이 이에 맞서지 않을 수 있겠는가. 특히 조직화된 운동은 간헐적이나마 작은 승리를 조금씩 쟁취하며 이 기술의 지배적 권력구조, 그리고 신비화에 도전해 왔다. 

창작 노동자들에 앞서서는 알고리즘으로 노동이 파편화되는 경험을 해 온 플랫폼 노동자들이 분투해 왔다. 근로자성에 대한 인정을 요구하고, 노동조합에 대한 인정을 요구하고, 자신의 데이터가 어떻게 처리되는지 공개할 것을 요구하고, 알고리즘이 노동자를 감시하거나 노동자에 대한 결정을 내릴 때 넘어서는 안 되는 금지선을 설정하였다. 유럽연합 인공지능법의 경우 이러한 활동에 힘입어 직장의 감정인식을 금지하고, 고용과 관련된 모니터링이나 결정을 내리는 데 사용되는 인공지능을 고위험 인공지능으로 규제하도록 규정하였다. 업무에 고위험 인공지능을 배치하는 회사는 그 영향을 받게 되는 노동자와 노동조합에게 정보를 제공해야 한다. 노동조합은 이런 정보에 기초하여 노동관계법에 따른 협상을 요구할 수 있다. 

인공지능 환경에서 식별되는 권리주체는 ‘영향 받는 사람(affected person)’이라고 부른다. 이는 인공지능을 활용하는 '이용자(user)’와 구분되고, 기업 활동과 피해의 인과관계를 입증해야 하는 ‘피해자(victim)’와도 구분되는 개념이다. 유엔에서 오랫동안 요구해온 기업과 인권에 대한 규범들은 국가가 기업 활동과 관련된 인권 침해로부터 그 ‘영향을 받는’ 사람을 보호해야 할 의무가 있다고 강조해 왔다. 그리고 최근 유엔 인권최고대표 사무소를 비롯한 국제인권기구는 기업과 인권에 대한 국제인권규범을 인공지능을 비롯한 글로벌 첨단 기술 기업에도 적용할 것을 요구하고 있다.

공공기관이 활용하는 인공지능 채용도구가 사투리를 잘 인식하지 못하여 특정 지역 사투리를 구사하는 사람에 대하여 부당한 불합격 결정을 내렸을 경우, 특정 지역 출신인 그 사람 뿐 아니라 유사한 사투리를 사용하는 지역의 사람들 모두가 이 인공지능이 내리는 결정에 의해 실제적 또는 잠재적으로도 부정적인 영향을 받는 사람들이다. 환자의 질병을 진단하고 수술 필요 여부를 제안하는 병원 인공지능이 여성 환자에 대해서 학습이 잘 되어 있지 않아 오진을 내렸을 경우, 이 병원 인공지능으로 인해 부정적인 영향을 받는 것은 여성들이다. 

시민사회의 요구와 국제 규범의 영향을 받아 2026년 1월 22일 시행된 한국의 인공지능기본법에서도 ‘영향받는 자’에 대한 정의를 두었다. 그러나 영향 받는 자는 설명을 제공받을 권리가 있다는 원칙만 선언되었을 뿐(제3조), 실제적인 행사 방법에 대해서는 구체적인 규정을 두지 않았다. 인공지능 사업자에 대한 규제를 완화하고 유예하고 면제하는 규정들로 점철된 현재의 인공지능기본법 하에서는 그 권리를 행사하는 것이 거의 불가능한 상황이기도 하다. 

영향 받는 사람의 권리를 보장하기 위해서는 인공지능 사업자가 규제 당국과 영향 받는 사람들에 대하여 충분히 투명한 정보를 제공해야 한다. 인권에 중대한 영향을 미칠 잠재성이 있는 인공지능 시스템에 관한 정보를 규제 당국과 영향 받는 사람이 개별적 또는 공공적으로 사전에 제공받을 수 있어야 하는 것이다. 또한 인공지능 기반 결정이 누군가에게 영향을 미쳤다면, 그 영향을 받은 사람은 해당 결정의 이유에 대한 충분한 설명을 듣고 이의를 제기할 수 있어야 하며, 관할 당국에 진정을 제기할 권리도 보장받아야 한다.

나아가 국가는 권리주체, 특히 가장 큰 영향을 받거나 부정적인 결과를 겪을 가능성이 높은 권리주체가 인공지능 개발 과정에 효과적으로 참여하고 기여할 수 있는 기회를 창출하여야 한다. 이러한 참여 보장과 포용적 의견수렴을 통해서, 경제적 효율성, 환경적 지속 가능성, 포용성 및 형평성을 갖춘 균형적이고 통합적인 지속 가능 개발 목표에 있어 어떤 기술이 가장 적절하고 효과적인지 결정할 수 있을 것이다(A/HRC/43/29). 

인간인 우리가, 그리고 우리의 창작물이 생성형 AI과 공존하기 위해서는 이처럼 여러 질문을 던지고 요구할 수 있어야 한다. 우리의 삶과 노동은 인공지능으로부터 여러 영향을 받게 될 것이다. 국가는 인공지능으로부터 영향을 받게 될 우리의 권리를 보호하기 위하여 어떤 채비를 갖추고 있는가. 회사는 당사자인 우리에게 투명한 정보를 제공하고 있는가. 인공지능이 우리의 고용 조건에 대해 결정을 내리는 데 이르렀을 때 우리는 그 결정을 거부하거나 설명을 요구할 수 있는가. 우리는 국가적인 인공지능 정책에, 또 개별적인 업무 인공지능의 도입에 대하여 의견을 내고 참여할 수 있는가. 중대하게 우리의 안전과 인권을 위협하는 인공지능은 금지되고 있는가. 특히 우리의 고용 형태와 조건에 실제적이고 잠재적인 영향을 미치게 될 고위험 인공지능에 대하여 우리는 협상할 수 있는가. 오늘날 이것은 소수 빅테크 기업과 엘리트 관료들로 권력관계가 치우친 인공지능 시대에, 평범한 사람들의 민주주의를 달성하기 위한 과제이기도 하다. 🔗

참고문헌

김하늬. (2025). “AI와 노동운동의 대응”. 제2회 AI 시민사회포럼: AI 민주주의와 영향을 받는 사람의 권리.

💖 글쓴이. 장여경

정보인권연구소 상임이사. 시민사회 관점에서 인공지능에 대한 대안적 정책을 연구하고 있다.

📰관련기사  

인디&임팩트미디어 뉴스레터는 미디어운동에 대해 새롭게 질문하고 좀 더 발전할 수 있는 방법은 무엇인지 여러 사람들이 함께 고민하고 찾아가기 위해 발행됩니다.

미디어 환경이 빠르게 변화하고 각종 담론과 현상이 범람하는 가운데 과연 우리가 주목해야 할 대상은 무엇인지, 사람들의 삶을 개선하는 데 있어 정작 중요하게 필요한 미디어의 변화는 무엇인지 관점을 제공하는 공간을 만들고자 합니다.

변화를 위한 인사이트, 인디&임팩트미디어뉴스레터!

구독후원은 편집진에게 큰 힘이 됩니다.

월간 5,000원, 연간 54,000원(10%할인)