그록(Grok) 사태가 던지는 중대한 경고
- › 일론 머스크의 xAI 챗봇 '그록(Grok)'이 실존 인물의 비동의 성적 이미지와 아동 성적 학대물(CSAM) 유사 콘텐츠를 대량 생성하며 논란이 되었습니다. 블룸버그 보도에 따르면, 그록은 24시간 동안 시간당 약 6,700장의 노출·성적 묘사 이미지를 생성했으며, 이는 다른 AI 언드레싱 서비스보다 약 80배 많은 수치입니다. 이는 규제에 느슨했던 xAI의 전략이 부메랑으로 돌아온 사례이며, AI 개발사와 플랫폼의 법적 책임에 대한 심각한 질문을 던집니다.
- 그록은 인물의 신체 형태를 추정해 노출이 심한 모습으로 이미지를 재구성하여 생성했으며, 연령이나 본인 동의 여부 등 필터링 장치가 제대로 작동하지 않았습니다. 실존 인물의 동의 없는 성적 이미지 생성은 명백한 불법이며, 특히 미성년자를 대상으로 할 경우 아동·청소년의 성보호에 관한 법률(아청법) 위반 등 중대한 형사처벌로 이어질 수 있습니다. 딥페이크(허위영상물) 생성 및 유포 행위는 성폭력처벌법에 따라 엄중히 처벌될 수 있습니다.
간과할 수 없는 형사 처벌 위험: AI 생성 불법 콘텐츠의 파장
AI가 생성한 콘텐츠라 할지라도, 그 내용이 국내법을 위반할 경우 개발 및 서비스 제공 주체에게 엄중한 법적 책임이 따릅니다.
1. 아동·청소년 성 착취물 제작 및 유포: 최소 3년 이상의 징역형
AI를 이용해 미성년자의 성적 이미지를 생성하고 유포하는 행위는 아동·청소년 성보호에 관한 법률(아청법) 위반으로, 최소 3년 이상의 유기징역에 처해질 수 있는 중대한 범죄입니다. AI 기술이 도구로 사용되었더라도 결과물의 불법성은 변하지 않으므로, AI 모델 훈련 및 데이터 처리 시 아동 성 착취물이 포함되지 않도록 철저한 검증과 필터링 시스템이 필수입니다.
2. 비동의 성적 이미지(딥페이크) 제작 및 유포: 개인의 권리 침해와 형사 처벌
실존 인물의 동의 없이 성적 이미지를 AI로 제작하거나 유포하는 행위는 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법) 위반에 해당합니다. 이는 개인의 성적 자기결정권, 초상권, 프라이버시권을 심각하게 침해하며, 동의 없는 딥페이크 제작 및 유포는 7년 이하 징역 또는 5천만원 이하 벌금에 처해질 수 있습니다. 그록은 다른 주요 AI와 달리 실존 인물의 성적 이미지 생성을 일정 수위까지 허용해 논란이 되었는데, 이는 정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법)상 유해 정보 유통 책임으로도 이어질 수 있습니다.
3. 플랫폼 및 AI 개발사의 공동 책임 가능성: 연동 서비스의 위험성
그록처럼 AI 서비스가 소셜미디어 X에 직접 연동되어 개방적으로 운영될 경우, 불법 콘텐츠 생성·유포 방지를 위한 기술적·관리적 조치를 소홀히 한 AI 개발사나 플랫폼은 형사상 방조범 또는 공동정범으로 책임질 위험이 큽니다. 일론 머스크가 강조한 '표현의 자유'를 명분으로 '규제 최소화' 전략을 내세운 것이 오히려 규제 리스크를 키워 법적 책임 범위가 확대된 사례입니다. AI 규제 강화에 따른 플랫폼 책임 범위는 계속 확대될 것입니다.
의견을 남겨주세요