🛡️[108호] 영국 공영방송이 밝히는 생성형 AI 활용 원칙: 인간의 감독과 투명성 강조

💌 뉴스레터 108호

🤖AI 시대, 저널리즘과 미디어의 신뢰는 어떻게 지켜질 수 있을까? 영국의 대표 공영방송인 채널4와 BBC는 최근 생성형 AI 사용에 대한 원칙과 지침을 잇따라 발표하며, 인간의 감독과 투명성을 핵심 가치로 내세우고 있습니다. 🧠 

⚖️ 인디&임팩트 108호에서는 이들 기관이 제시한 AI 활용 기준과 그 배경, 주요 내용들을 정리했습니다. 국내 언론계가 주목해야 할 시사점과 함께, 한국 언론단체들이 제정한 AI 활용 준칙도 함께 소개합니다. 미디어의 미래를 고민하는 활동가들이라면 꼭 읽어보세요~~ 📰

😉 인디&임팩트 구독후원에도 많은 참여 부탁드립니다! 💘

소중한 후원금은 뉴스레터 원고료로 사용됩니다. 

✨ 구독후원은 언제나 큰 힘이 됩니다! 구독하기에서 멤버십을 선택해주세요!

월 5,000원으로 인디&임팩트는 계속 달려갈 수 있습니다~ 🏃‍♀️

🛡️ 영국 공영방송이 밝히는 생성형 AI 활용 원칙

: 인간의 감독과 투명성 강조

▲ 뉴스룸에서 AI와 인간이 함께 일하는 모습 (챗gpt를 통해 생성함) 

채널4, AI 원칙 발표... “기계에 열쇠를 넘겨주지 않을 것”

BBC와 함께 영국의 대표적 공영방송인 채널4는 최근 <채널4의 AI 원칙>을 발표했다. 채널4는 AI 미션 선언문에서 “AI는 인간의 창의성을 대체하는 것이 아니라 지원하기 위해 존재하는 것”이라며 “기계에 열쇠를 넘겨주지 않겠다”고 명시했다. 

▲ 채널4의 AI원칙 캡쳐 화면

채널4는 이어서 AI와 관련한 핵심 신념 4가지를 제시했는데 △창의성 우선 △투명성 옹호 △포용적 스토리텔링 △진실성이 그것이다. 항목별로 간단히 요약하면 다음과 같다.

     AI는 인간의 판단을 대체하는 것이 아니라 인간의 판단을 향상시키고 지원하는 도구이다.

      AI는 우리가 AI를 사용하는 이유, AI의 기능, 작동방식을 이해할 때에만 유용하다. 우리는 AI를 목적에 맞게 사용하고 사용법을 공유한다.

      우리는 AI로 인한 편견의 위험이나 AI가 소외된 커뮤니티에 미치는 실제적 영향을 무시하지 않을 것이다.

      우리는 잘못된 정보를 근절하고자 하며, 허위 정보의 확산으로 이어질 수 있는 AI 시스템 사용을 적극적으로 피할 것이다.

채널4는 현재 자신들이 AI를 어떻게 활용하고 있는지도 공개했는데, 프로그램 영상을 사전 검토하거나 규정 준수 여부를 파악하는 데 사용하기도 하고(Prime Focus의 AI 도구), 마케팅 콘텐츠를 만드는 데에도 AI를 쓰고 있다고 밝혔다(Adobe AI). 또한 직원들이 일상적 업무를 하는 데 마이크로소프트 코파일럿을 사용하고 있으며, 자체 AI 챗봇을 개발해 인사 정책과 관련한 직원들의 문의에 답변하는 데 이용하기도 한다고 밝혔다.

채널4의 AI 원칙에서 가장 눈길을 끄는 대목은 AI를 활용해 지원하지 않는 사항에 관한 것이다. 항목별로 간단히 설명하면 다음과 같다.

     신뢰할 수 없는 정보, 또는 허위 정보의 유포로 이어질 수 있는 AI 사용을 지양한다.

     기존의 편향을 강화시키거나, 소외된 목소리를 제한하거나, 불평등한 대표성과 차별을 초래하는 AI 알고리즘을 사용하지 않는다.

      창작자, 아티스트, 기고자 등의 권리를 고려하며 창의적 표현을 촉진하는 방법을 고민해야 한다.

      인간의 판단, 비판적 사고, 복잡한 문제에 대한 깊은 이해를 대체하기 위한 목적으로 AI를 사용하지 않는다.

      AI 사용은 인간의 감독과 통제를 받는다. 콘텐츠 검토 또는 윤리적 딜레마 상황에서 AI만을 사용하지 않으며, 이러한 결정은 전문지식과 감독 능력을 갖춘 인간이 내린다.

      원작자의 지적재산권을 존중하지 않는 AI 시스템을 사용하지 않는다.  

BBC, AI 투명성 지침 발표...“투명한 공개로 콘텐츠에 대한 신뢰 도움”

채널4에 앞서 BBC도 <AI 투명성 지침>을 발표했다. BBC는 지난 2023년 10월 생성형 AI에 대한 지침을 처음으로 발표하고 2024년 2월에 그 개정안을 내놓은 바 있는데, 올해 1월에는 '투명성'에 초점을 투어 별도 문서를 공표한 것이다. 

BBC는 투명성의 중요함에 대해 “AI를 언제 어디서 사용하는지 투명하게 공개하면 콘텐츠와 서비스에 대한 신뢰를 유지하는 데 도움이 된다”고 밝혔다. BBC는 이 문서에서 “생성형 AI는 뉴스, 시사 또는 사실에 입각한 콘텐츠를 만드는 데 직접 사용되어서는 안된다”고 강조한다. 시범 운영 과정에서 예외가 있을 수 있지만 이 경우 화면에 AI 활용 사실을 주석으로 다는 등 직접적 방식으로 공개해야 한다는 것이다.

▲ BBC의 AI 투명성 지침 캡쳐 화면

BBC의 AI 투명성 지침에서는 ‘AI 투명성 공개 공식’이 눈에 띄는데 BBC가 제안하는 공식은 다음과 같다.

공개 공식 = 콘텐츠 형식 + 인간의 역할(감독 포함) + AI의 역할 + 추가 정보를 얻을 수 있는 링크

공개 공식에 ‘인간의 역할’을 포함시킴으로써 AI를 활용함에 있어 인간의 감독과 검토를 보다 명확히 하는 효과가 있다. 채널4의 AI 원칙 문서와 마찬가지로 AI에 대한 인간의 감독을 강조하고 있다는 점이 눈길을 끈다. BBC는 앞으로 이 지침을 계속 업데이트할 것이라며 독자가 이를 정기적으로 다시 확인할 것을 안내하고 있다.

한편, 우리나라에서는 지난해 12월, 한국신문협회·한국방송협회·한국기자협회·한국신문방송편집인협회·한국인터넷신문협회·한국온라인신문협회 등 언론관련 단체들이 공동으로 언론을 위한 생성형 인공지능 준칙을 발표한 바 있다. 준칙 제1조 ‘인간의 관리와 감독’에서 인공지능은 뉴스 생산에 보조적 수단으로 활용되어야 하며 인간의 관리 및 감독 하에 사용되어야 한다고 강조하고 있으며, 인공지능 활용 시에 다양성, 독립성, 투명성, 책무성 같은 저널리즘 가치 준수해야 한다고 강조한다. 

채널4와 BBC의 AI 원칙, 그리고 국내 언론단체들의 준칙은 공통적으로 인간의 감독, 그리고 AI 활용에 있어서의 투명성을 강조하고 있다. 저널리즘은 독자와 시청자의 신뢰를 핵심으로 하는 만큼 AI 활용에 신중을 기해야 한다는 데에는 공감대가 있는 것으로 보인다. 하지만 문제는 AI를 둘러싼 기술 환경이 하루가 다르게 변하고 있고, AI 시스템 안에서 무슨 일이 일어나고 있는지 인간으로서는 완전히 알 수 없다는 점이다. 언론사들이 발표하는 AI 활용 관련 원칙이 선언적인 지침에 머물러 있지 않도록 독자들의 지속적인 감시가 필요해 보인다.

🌏 글쓴이. 정은경

2012년 마을미디어 시범 사업 때부터 2023년 사업 종료 때까지 미디액트에서 서울마을미디어지원센터 사업 담당 실무자로 일했다. 지금은 잠깐 현업에서 벗어나 평생교육 관점으로 공동체미디어 활동을 연구중이다.

인디&임팩트미디어 뉴스레터는 미디어운동에 대해 새롭게 질문하고 좀 더 발전할 수 있는 방법은 무엇인지 여러 사람들이 함께 고민하고 찾아가기 위해 발행됩니다.

미디어 환경이 빠르게 변화하고 각종 담론과 현상이 범람하는 가운데 과연 우리가 주목해야 할 대상은 무엇인지, 사람들의 삶을 개선하는 데 있어 정작 중요하게 필요한 미디어의 변화는 무엇인지 관점을 제공하는 공간을 만들고자 합니다.

이름에 맞게 ‘임팩트’ 있는 뉴스레터가 되도록 노력하겠습니다. 

관심 있는 분들의 많은 구독과 주변 홍보를 부탁드려요! 감사합니다. 🙇‍♀️

변화를 위한 인사이트, 인디&임팩트미디어뉴스레터!

구독후원은 편집진에게 큰 힘이 됩니다.

월간 5,000원, 연간 54,000원(10%할인)