🏄‍♀️[71호] Z세대가 그리는 인간중심의 AI 미래 : 글로벌 AI 행동 선언 <인코드 저스티스> AI 2030

💌 뉴스레터 71호

🌊 인디&임팩트 71번째 뉴스레터입니다.

인디&임팩트에서는 창작자, 미디어리터러시, 영상운동, 공동체 등 AI 로 대표되는 기술혁신의 변화에도 견지해야 할 다양한 관점을 소개하고자 노력하고 있는데요. 이런 변화에 대응하는 움직임 중 최근 주목을 받는 목소리가 있습니다. 바로 미래 당사자인 청년 Z세대가 자신들의 미래를 결정지을 중요한 정책 결정에 참여해야 된다는 것인데요.

지난 5월 서울에서 열린 ‘AI 서울 정상회의’를 앞두고, ‘AI의 그레타 툰베리’라 불리는 청년 AI 운동 단체 <인코드 저스티스 Encode Justice>가 인간중심의 AI 정책 수립을 위한 5가지 요구안과 22가지 행동 촉구를 담은 ‘AI 2030’ 행동 선언을 발표하였습니다.

📰 이번 뉴스레터에서는 ‘AI 2030’을 통해, 청년 세대가 당면한 인공지능 사회의 현실적 과제와 낙관론적 미래 사이에서의 균형을 잡기 위해 어떤 노력을 조직하고 있으며, 인간중심적인 AI 미래는 우리에게 어떤 의미인지 짚어보고자 합니다. 🧐

AI 2030 l 선언문 전문보기

Z세대가 그리는 인간중심의 AI 미래

- 글로벌 AI 행동 선언 <인코드 저스티스> ‘AI 2030’

지난 5월 21일-22일 양일간 각국 정상들이 서울에 모여 'AI 서울 정상회의'(AI Seoul Summit)를 개최하였다. 이번 회의는 작년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의를 이어받아 AI 생태계의 지속적 발전, 혁신-안전-포용이라는 공동 목표로 ‘AI 서울 정상회의 서울선언 및 의향서’ 를 발표하였다.

AI의 혜택과 위험은 모든 국가들이 영향을 받는다는 점을 상호 인식하고, AI 거버넌스 관련 대화에 정부·민간·학계·시민사회를 포함한 국제 이해관계자들을 적극적으로 포함시킬 것을 확인한 이번 포럼은 AI 거버넌스를 진전시킨 정상급 회의라는 평가를 받았다.

이번 정상회의에 앞서 AI 정책 거버넌스의 진전을 이끌어 내기 위해, 10대-20대 Z세대 중심의 AI 글로벌 운동 단체 <인코드 저스티스 Encode Justice>는 인공지능이 가져올 미래 당사자인 Z세대가 참여하는 인간중심의 AI 정책 수립을 위한 5가지 요구안과 22가지 강령을 담은 ‘AI 2030’ 행동 선언을 발표하였다.

이종호 과학기술정보통신부 장관(오른쪽)이 5월 22일 한국과학기술연구원에서 열린 'AI 서울 정상회의' 장관 세션에서 개회사를 하고 있다. 왼쪽은 공동의장 미셸 더넬란 영국 과학혁신기술부 장관 ㅣ 출처-서울정상회의 공식 페이지 제공

인공지능과 대면할 당사자인 Z세대

불투명한 미래, 불안-위기에 맞설 안전망 구축 촉구

‘AI 2030 선언’ 곳곳에서는 인공지능이 가져올 낙관할 수 없는 미래와 Z세대가 직면하고 있는 위기-불안을 언급하며, 인공지능으로부터의 미래 세대의 안전망을 구축해달라고 세계 지도자들에게 촉구하고 있다.

그 어느 세대보다 ‘인간적인 것’에 도전받으며, 얻는 것도 잃을 것도 많은 Z세대의 목소리를 ‘AI 2030’ 선언문을 통해 전달하고자 하였다.

우리는 역사상 가장 큰 선거의 해인 2024년에 이 메시지를 씁니다. 인류의 절반에 해당하는 사십억 이상이 자신이 속한 정부의 선거를 앞두고 있고, 시민들은 허위 정보의 안개 속에 투표장에 나서야 됩니다. (중략)

AI는 이제 ‘선전 기계-프로파간다 머신’이 되어, 산출물을 너무나 쉽게 생성하고, 불안할 정도로 설득력이 있으며, 고도로 개인화되어 기존 방법으론 유통되는 것을 막을 방법이 없습니다. 2024년은 탄광의 카나리아에 불과합니다. : AI가 계속해서 현실을 강탈한다면, 정보와 제도에 대한 우리 세대의 신뢰는 곧 무너질 수밖에 없습니다.

비단 정치뿐만이 아닙니다. 온라인에선 AI로 생성된 비동의 포르노가 넘쳐나고 있습니다. 낯선이가 우리 인격을 모독하는 합성 포르노를 만들고, 퍼나르는 시대에 우리가 어떻게 안전하다고 느낄 수 있을까요?

결국, 우리 사회를 지탱하는 공동의 유대가 파편화되는 것을 목도하게 될지도 모릅니다. 외로움에 고립된 젊은이들은 위기 상황에 조언을 구하거나, 동반자를 찾거나, 친구, 가족, 정신 건강 전문가 대신 그저 시간을 보내기 위해 챗봇에 의지하고 있습니다. 우리는 사람들이 다른 사람들과 의미 있는 관계를 누리는 세상에서 살고 싶지, 그 역할을 기계가 대신하는 세상에 살고 싶지 않습니다.

개입하지 않는다면 실제와 조작된 것, 사람이 만든 것과 기계가 생성한 것, 진실과 거짓 사이의 경계가 완전히 흐려질 것이며, 가장 고통받는 것은 우리 세대일 것입니다.

AI는 채용, 교육, 형사 사법 등 중요 결정에 방향성을 제시하고 있습니다. 그러나 작동 원리를 알 수 없는 불투명한 시스템은 차별과 배제를 더욱 공고히 합니다. 영국에서는 코비드-19로 인해 대학 입시에 사용된 시험 점수 예측 알고리즘이 빈곤층이 많은 지역의 학교에 불이익을 준다는 사실이 드러나자 학생들이 거리로 나섰습니다. 미국에서는 어두운 피부색에 상대적 오류 빈도가 높은 안면 인식 기술로 흑인들의 부당한 체포가 잇따르고 있습니다.

우리 세대는 겉보기에는 중립적인 AI가 가속시킨 감시와 차별, 그리고 오류에 대한 책임은 누구도 지지 않는 세상에서 성년을 맞이하고 있습니다. 우리가 재판을 받든, 의료 서비스를 받든, 구직 활동을 하든, 인공지능은 우리의 공과 사 삶의 면면을 바꿀 것입니다.

장기적으로 AI는 일자리를 창출하고 우리의 목적 의식을 새롭게 할 수도 있지만, 반대로 준비되지 않은 노동 없는 미래로 우리를 몰아넣을 수도 있습니다. AI가 다양한 직능에서 인간을 따라잡거나 심지어 능가하기 시작하면서 젊은이들은 불안 속에 미래를 바라봅니다. 우리는 어떻게 경제적 가치를 계속 창출할 수 있을 것이며, 우리의 생계는 어떻게 될까요? 오늘날 학생들은 꿈꾸던 일이 막상 사회에 나갈쯤 직업으로 존재할지 누구도 확신하지 못합니다.

가까운 미래에는 AI가 승자독식의 경제 역학을 만들어내고 시장 지배 편중을 심화시킴에 따라 불평등이 증가할 것입니다. 매사추세츠 공과대학(MIT)의 연구에 따르면 1980년 이래 자동화는 미국에서 소득 불평등의 주요한 원인이였으며, 교육 수준이 높은 노동자와 그렇지 않은 노동자 사이의 임금 격차 증가의 50% 이상을 차지한다고 밝혔습니다. 남반구의 노동 시장이 가장 큰 타격을 입을 것으로 예상됩니다. 어느 나라에서나 저임금 노동자들이 가장 심각한 영향을 받을 수 있지만, 사무직 노동자들 역시 심각한 실직 위험에 처해 있습니다.

AI는 미래의 전쟁을 극도로 치명적으로 만들 수 있습니다. 우리는 이미 러시아-우크라이나 전쟁을 포함한 분쟁 지역에서 반자율 공격 드론이 사용되는 것을 보았습니다. AI 작동무기가 인간의 감시 없이 운영될 때, 오작동으로 인한 책임을 묻는 것은 거의 불가능합니다. 게다가 자율 무기 시스템은 예측할 수 없는 행동과 오작동, 해킹 또는 오용 될 수 있으며, 이로 인해 의도하지 않은 민간인 사상자가 발생하거나 민간에 대한 무차별 공격을 초래할 수 있습니다. 최악의 경우 AI가 대량 살상 무기에 동력을 공급하여 대규모 사상자를 낼 수 있습니다.

또한, 대규모 AI 모델을 훈련하고 운영하는 데 필요한 막대한 에너지는 우리의 기후 목표 달성을 위협합니다. 글로벌 AI 거버넌스는 AI로 증가하는 탄소 배출을 논의하고, 다른 환경적 피해로 확산되는 것을 막아야합니다.

AI 개발과 그 위험은 점점 국경을 초월하고 있으며, 그에 따른 AI를 감독할 책임도 국경을 넘어서야 합니다. 연대의 시작이라 할 수 있는 AI 윤리에 대한 유네스코 권고는 지구상의 거의 모든 국가가 지지하였고, 거버넌스를 위한 또 다른 발판이된 블레츨리 선언은 세계 주요 AI 플레이어들 간의 전례 없는 대화의 결과였습니다. 전 지구적 과제에 직면하여, 우리는 단결해야 합니다. 기후 변화와 핵 비확산 문제처럼, AI를 관리하기 위해 국제적인 협력이 필요합니다.

세계 지도자들은 우리의 모든 생명, 권리, 생계를 보호하는 AI-인공지능 시대의 안전망을 구축하여 우리 세대가 살기 좋은 미래를 물려받을 수 있도록 해야 합니다.
인코드 저스티스 <AI 2030>

⏳ 우리의 행동 촉구 ⌛

1. 신뢰와 인간적 관계를 구축할 것

AI 생성 정치 광고에 대한 공개 의무화 제도 마련
딥페이크 콘텐츠에 대한 기업의 책임 강화
정부는 언론의 자유와 익명성의 권리를 보장하고, AI 규제의 대상과 책임의 주체는 기업임을 명시
기업의 AI 생성물에 명확한 경고 기호나 라벨 표시 및 출처 표기 의무화
기업은 AI 시스템의 사용자가 인간이 아닌 기계와 상호 작용하고 있다는 것을 인식할 수 있도록 명확하고 지속적인 안내 제공
기업은 사용자가 콘텐츠 타겟팅 알고리즘이나 챗봇과 같은 내장된 AI 시스템을 거부할 수 있도록 허용
기업은 사용자에게 개인 데이터에 대한 주도권과 소유권을 제공
정부는 사람들이 AI 비판적 상호작용을 훈련할 수 있는 공교육 프로그램(AI 리터러시 프로그램)에 자금 지원 해야함
인간성 회복과 진실을 지키기 위한 기술 솔루션에 대한 대규모의 공공 및 민간의 투자

2. 우리의 기본권과 자유를 보호할 것

정부는 기본권 보장과 공정성 측정을 위한 AI 시스템에 대한 공개 영향 평가 의무화
공공 및 민간은 모든 AI 시스템의 영향 평가를 모니터링하고, 피해가 확인 될 경우 개입
AI 시스템으로 인한 권리 침해가 드러났을 경우, 법적 행정적 구제책의 권한 부여
공정한 AI 시스템 발전을 위한 학계, 산업, 정부 간의 협력과 자금 지원

3. 우리의 경제적 미래를 보장할 것

정부는 인간을 대체하는 인공지능이 아닌, 인간의 역량을 향상시키는 것이 목적인 AI 기술에 R&D 투자
글로벌 재교육 기금 마련을 통해 개발도상국의 교육 수준이 낮은 노동자들이 인재 개발 프로그램에 참여할 수 있도록 지원
AI 발전과 함께 노동, 경제적 가치 창출의 패러다임 전환이 야기한 대응이 필요한 경제적 상황이 발생할 경우, 보편적 기본 소득 제도 및 협동조합 등 대담하고 혁신적인 정책 전환을 구상 해야 함

4. 완전 자동화 살상 무기를 금지할 것

정부는 유의미한 인간의 통제권 밖의 완전 자율 공격 무기 시스템의 생성, 제조 및 배치를 금지하는 국제 조약을 비준해야함
공공 및 민간에서의 평화 유지와 갈등 해결을 촉진하는 AI 응용 프로그램 투자 활성화

5. 더 안전한 오늘과 내일을 위해 협력할 것

정부 공동의 AI, 특히 기본 모델의 위험을 최소화하기 위한 글로벌 기구 설립
정부 공동의 AI의 유익한 결과를 촉진하는 글로벌 AI 안전 연구소 설립
정부 공동의 AI의 혜택을 공정하게 나누고 전 세계적인 환경 피해를 줄이도록 보장: 개발도상국을 발전시킬 수 있는 헬스케어, 농업, 교육 등 다양한 영역의 AI 프로그램 투자
각국 정부는 국가별 AI 관련 규제를 마련하고, 기존 법률로 보장할 수 있는 반독점, 소비자 보호, 지식 재산권, 그리고 차별 금지법 등 적용

디지털 행동주의와 소셜 미디어 참여

청년 주도 AI 운동 단체 <인코드 저스티스>가 발표한 이 의제들은 민간 및 공공 부문의 지도자들에게 AI가 청년의 "생명, 권리, 생계"를 보호할 수 있도록 2030년까지 다양한 정책 권고안을 제정할 것을 촉구하였다.

이 발표는 AI 정책 입안의 중요한 시기에 나왔다.

미국에서는 찰스 E. 슈머(Charles E. Schumer, 민주당) 상원 원내대표와 초당적 상원의원 그룹이 AI 기술 입법을 위한 로드맵을 발표하는 등 주 및 연방 의원들이 새로운 AI 가이드라인을 통과시키기 위해 노력하고 있다.

국제적으로도 ‘AI 서울 정상회의’를 앞두고, Z세대의 목소리가 의제에 반영되기 바라며, 청년 당사자 뿐만 아니라 각계 여러 분야의 지지를 이끌어내기 위해 서명 동참을 촉구하였다.

지금까지 메리 로빈슨(Mary Robinson) 전 아일랜드 대통령, 빌 드 블라시오(Bill de Blasio) 전 뉴욕 시장, 과학자 게리 마커스(Gary Marcus), 시민 및 인권 리더십 회의(Leadership Conference on Civil and Human Rights) CEO 마야 와일리(Maya Wiley) 등 정치 지도자, 지지자, 학자들이 서명에 동참하였다.

출처-Creating a Youth-Led Tech Future: Sneha Revanur

기술의 발전은 정의와 함께 계속 설계되고 인코딩해야 된다는 의미를 담고 있는 <인코드 저스티스>는 디지털 행동주의에 기반하여 2020년 7월 당시 15세였던 창립 대표 스네하 레바누르(Sneha Revaur)의 주도 하에 고등학생과 대학생 네트워크 조직을 목표로 설립되었다. 현재 미국 40개 주와 30개국에 걸쳐 1,000여명의 고등학생 및 대학생들이 구성원으로 참여하고 있다.

설립 이후 미니애폴리스, 뉴올리언스, 시애틀 등에서 감시를 제한하는 지역 조례를 통과시키는데 기여하였고, 10개 이상의 연방 입법 옹호 활동을 주도하였다. 또한 자동화된 사회를 위한 백악관의 권리장전(Bill of Rights for an Automated Society)과 AI에 대한 바이든 대통령의 행정 명령을 구체화하는 데 도움을 주며, 창립자인 스네하 레바누르(Sneha Revanur)는 2023년 7월 백악관에서 열린 AI 비공개 원탁회의에 카말라 해리스 부통령에게 조언하는 최연소 시민사회 지도자로 초청받았다.

<인코드 저스티스> 창립자 스네하 레바누르가 참여한 AI 관련 해리스 부통령과의 원탁 회의ㅣ출처 https://encodejustice.org

의제의 진전, 실행 가능한 조직화의 힘

<인코드 저스티스>는 어떻게 전 세계의 다양한 경험을 가진 청년 세대 그룹의 요구와 목소리를 파악하고 의제화 할 수 있었을까?

스네하 대표는 인터뷰에서 다음과 같이 얘기했다.

“세계적으로 다양한 경험을 가진 수많은 젊은이들이 있습니다. 예를 들어, 일부 국가에서는 AI에 대한 논의보다 인터넷 접근성에 대한 의제가 더 근본적인 문제로 여겨지는 경우가 있습니다. 우리는 이러한 다양한 사회적, 문화적, 정치적 맥락에 민감하게 대응하려고 노력하고, 우리의 워크숍 프로그램을 통해 현장에서 젊은이들이 느끼는 감정을 파악하려고 최선을 다하고 있습니다. 우리 조직에는 대중 인식 함양을 위한 부서가 있으며, 실제로 고등학교와 대학에서 직접 워크숍을 진행하고 있습니다. 우리는 항상 묻습니다: 여러분은 이러한 기술들에 대해 어떻게 느끼고 있나요? 여러분은 이러한 기술들을 어떻게 사용하고 있나요?”

실제로 <인코드 저스티스>는 20,000명 이상의 고등학생과 대학생들에게 자체 커리큘럼을 사용한 AI의 의미에 대한 워크숍을 진행해 왔으며, 50개 이상의 자치 주, 국가 및 캠퍼스 지부 네트워크를 구축했다.

<인코드 저스티스> 의 뉴욕 해커톤ㅣ출처 https://encodejustice.org

<AI 2030> 선언은 2030년까지 더 많은 지도자들이 실행해주기를 바라는 의제로 제시되었지만, 동시에 젊은 세대들이 2030년까지 추진해야 할 정책 목표이기도 하다.

또한, <AI 2030> 선언은 AI에 대한 대중의 일반적인 내러티브를 바꾸는 중요한 전환점이 되고 있다. 실제로, 배우 조셉 고든 레빗의 지지 성명을 그와의 줌 인터뷰로 인스타에 올리며, AI 전문가나 정책 지도자가 아닌 개인의 서사로 대중을 설득하는 계기를 만들었다.

조셉 고든 레빗과 대표 정책 담당자의 줌 인터뷰ㅣ출처- 인코드 저스티스 인스타그램

Z세대가 그리는 인간 중심의 AI의 미래

Z세대는 소셜 미디어의 시대에 태어나 AI 기반 플랫폼이 어떻게 확장하고 새로운 연결 방식을 만들어내는지 보았다. 한편 청소년 정신 건강 위기를 초래하고 잘못된 정보도 확산시키는 피폐한 상황도 함께 경험하고 있다.

지지자, 소비자, 유권자, 정책 입안자, 개발자, 교육자, 부모 및 지역 사회 구성원의 다음 세대인 그들은 어떤 세대보다 AI의 즉각적이고 장기적인 영향에 대해 독특한 이해관계를 가지고 있다.

오늘날 구축되는 AI는 그들이 물려받을 세상을 형성할 것이며, 그렇기에 그들은 인간 중심의 AI가 다양한 이해 관계자에 의해 구축되고 설계, 관리되어야 한다고 믿는다.

인간과 인간의 능력을 대체하는 AI를 만드는 대신, 인간의 지식, 창의성, 연결, 건강을 증진하는 맞춤형 교육이나 의학의 혁신과 같이 인간의 잠재력을 향상시키는 AI에 투자하면서도, 동시에 기술의 혜택이 공평하게 분배되도록 해야한다고 말한다.

적절한 가이드라인, 안전망이 있다면 AI는 인간의 조건을 극적으로 발전시킬 수 있는 잠재력의 원천이 될 것이다.

"모두에게 안전하고 공평한 AI의 미래가 가능하단 낙관론에 빠져 우리는 움직이고 있습니다. 그러나 그런 AI의 미래가 도래하기 위해서는 책임있는 규제가 동반되어야 합니다. 앞으로 이 문제는 우리 시대 가장 중요한 윤리적 도전 과제가 될 것입니다.

시간은 흐르지만, 우리 세대는 행동할 준비를 할 것입니다. 결국 선택의 몫을 떠안는 건 우리니까요.

지금, 우리의 목소리를 선명하게 외쳐주세요.

세계 지도자들이 모두를 위한 미래를 위해 우리 세대와 발 맞추어 노력할 것을 촉구합니다. "

관련 자료

AI 서울 정상회의 홈페이지 ㅣ https://aiseoulsummit.kr/kor/
｢AI 서울 정상회의｣와 ｢AI 글로벌 포럼｣의 성과 발표 ㅣ https://www.youtube.com/watch?v=n441T_UfKJQ
Creating a Youth-Led Tech Future: Sneha Revanur 인터뷰 영상 ㅣ https://youtu.be/Xn67D2p08_8?si=IKmCnNoLM9md6uI_
<인코드 저스티스> 홈페이지 ㅣ Homepage - Encode Justice

🌲글쓴이. 장은경

미디액트 직장인 활동가. 본전 생각나면 퇴사하겠다 말은 하지만, 좋아서 배운 영화를 옳다고 믿는 방향으로 행동할 수 있다는 점에 혹해 근속 중이다.

8월 1주 (2024)

https://🤖[70호] AI 영화는 어디를 향...

🖥️ [68호] 청소년과 함께 하는 비판적 AI 교육 가이드북: 독일 택티컬테크의 <어디서나, 항상>

7월 2주 (2024)

https://🖥️ [68호] 청소년과 함께 하는...

🤖[47호] 인권과 안전을 위한 인공지능이 필요한 이유

1월 3주 (2024)

https://🤖[47호] 인권과 안전을 위한 인...

🍂[38호] 디지털 기술 혁신에 대한 노동자들의 반격 : 미국작가조합 파업의 의미

2023년 10월 셋째주