#340: 진짜 인간만 살아남는다? - 인스타그램의 AI 계정 단속

구독자님, 안녕하세요?

AI 트렌드를 전달해드리는 Trendium.ai 입니다.

인스타그램이 AI 생성 인물을 실제 사람처럼 내세우는 계정에 ‘AI-generated profile’ 표시를 도입하고, 미표시 계정의 추천 노출을 제한하기 시작했습니다.

by 👁️‍🗨️ 예언카드 prophecycardmaster

AI 사용 자체를 막는 것이 아니라 “이 계정 뒤에 실제 인간이 있는가”를 플랫폼이 관리하기 시작했다는 점에서 AI 시대의 새로운 신원 검증으로 볼 수 있습니다.

Google Gemini Nano Banana에서 이미지 생성

인스타그램이 AI 인간을 걸러내기 시작했다 - 라벨을 넘어 ‘추천 알고리즘’까지 움직인다

인스타그램이 AI로 만들어진 가상 인물을 앞세운 계정을 정조준하기 시작했습니다.

메타는 기존 ‘AI creator’ 표시를 ‘AI-generated profile’로 변경하고, AI로 생성된 인물을 실제 사람처럼 내세우면서도 이를 표시하지 않는 계정의 도달 범위를 제한하겠다고 밝혔습니다. 특히 이러한 계정은 릴스나 탐색 등 비팔로어 대상 추천 영역에서 노출이 줄어들 수 있습니다.

겉으로 보면 단순한 라벨 변경입니다. 하지만 조금 다르게 보면 이야기가 달라집니다.

인스타그램이 이제 ‘콘텐츠가 AI인가’를 넘어 ‘계정의 주체가 인간인가’를 관리하기 시작했다는 뜻이기 때문입니다.

Google Gemini Nano Banana에서 이미지 생성

AI를 쓰는 것과 AI가 사람이 되는 것은 다릅니다

이번 정책에서 중요한 구분이 있습니다.

사진을 보정하거나 캡션을 다듬고, 그래픽을 만드는 과정에서 AI를 사용하는 일반 이용자는 ‘AI-generated profile’ 표시 대상이 아닙니다. 핵심은 계정의 주인공 자체가 AI로 생성된 인물인지 여부입니다.

즉 인스타그램이 문제 삼는 것은 AI 지원을 받는 인간(AI-assisted human)이 아니라 가상의 인간(AI-generated human)에 가깝습니다.

이 구분은 앞으로 상당히 중요해질 가능성이 있습니다.

이미 메타는 2024년부터 페이스북·인스타그램·스레드에서 AI 생성 콘텐츠를 식별하기 위해 C2PA, IPTC와 같은 기술 표준과 메타데이터, 보이지 않는 워터마크 등을 활용하겠다고 밝혀왔습니다.

결국 플랫폼은 지금까지 콘텐츠를 관리했다면, 앞으로는 콘텐츠를 생산한 ‘정체성’까지 관리하는 방향으로 움직이고 있는 셈입니다.

Google Gemini Nano Banana에서 이미지 생성

그런데 더 섬뜩한 장면은 따로 있습니다

AI 인플루언서는 이미 단순한 가상 캐릭터 수준을 넘어섰습니다.

최근 와이어드는 데이팅 앱 ‘Goose’를 둘러싼 인스타그램 계정들을 조사하면서 실제 사람처럼 보이는 AI 생성 인플루언서 계정이 여러 개 존재하는 정황을 보도했습니다. 조사에서는 비슷한 형태의 계정이 20개 이상 발견됐고, 일부는 이용자에게 직접 DM을 보내 앱 가입을 유도한 것으로 조사됐습니다.

여기서 문제가 발생합니다. 사람이 AI를 사용하는 것과 AI가 사람인 척 행동하는 것은 완전히 다른 문제입니다. 가상의 얼굴이 실제 인간처럼 보이고, 가상의 일상과 인간관계를 만들어내며, 다른 이용자에게 직접 메시지를 보낸다면 이용자는 그 상대가 인간인지 인공지능인지 판단하기 어려워집니다. 그 순간 소셜미디어의 기본 전제가 흔들립니다.

우리는 지금까지 팔로워 수, 댓글, 사진, 메시지를 통해 상대방의 존재를 간접적으로 확인했습니다. 하지만 생성형 AI가 인간의 얼굴과 말투, 생활방식까지 복제할 수 있게 되면 ‘팔로워’라는 개념 자체가 인간과 봇을 구분하지 못하게 됩니다.

Google Gemini Nano Banana에서 이미지 생성

그래서 이번 정책은 ‘AI 규제’보다 ‘인터넷 신원 규제’에 가깝습니다

더 흥미로운 부분은 표시하지 않았을 때 추천 알고리즘이 움직인다는 점입니다.

인스타그램은 AI 생성 인물을 사용하면서 라벨을 붙이지 않은 프로필의 도달 범위를 제한할 수 있다고 밝혔습니다. 반대로 AI 생성 프로필 표시를 제대로 한 계정은 AI 인물을 사용한다는 이유만으로 불이익을 받지 않는다고 설명했습니다.

이것은 새로운 형태의 플랫폼 통제입니다. 과거에는 게시물을 삭제하거나 계정을 정지시키는 방식이었다면, 이제는 “존재는 허용하지만 사람들에게 덜 보이게 만드는 방식”이 가능해졌습니다.

그리고 이 지점에서 조금 불편한 질문이 생깁니다.

누가 인간이고 누가 AI인지 플랫폼은 어떻게 판단할 것인가?

더 나아가 AI 생성 여부를 잘못 판단했을 경우 누가 책임질 것인가?

실제로 인스타그램의 AI 라벨 시스템은 이미 오탐 논란을 겪고 있습니다. 최근에는 단순한 사진 편집이나 배경 제거처럼 생성형 AI와 거리가 있는 작업에도 AI 관련 표시가 붙었다는 이용자들의 사례가 보도됐습니다.

Google Gemini Nano Banana에서 이미지 생성

따라서 이번 정책을 단순히 “인스타그램이 AI 계정을 잡는다”고 해석하는 것은 부족합니다

오히려 지금 벌어지는 변화는 AI가 인터넷의 새로운 인간 계층으로 등장하면서 플랫폼이 ‘인간성의 인증 시스템’을 만들기 시작한 과정에 가깝습니다.

앞으로 소셜미디어에서 중요한 질문은 “이 콘텐츠가 진짜인가?”에서 끝나지 않을 것입니다.

“이 계정 뒤에 실제 인간이 존재하는가?” 그리고 언젠가는 이 질문조차 바뀔 수 있습니다.

“인간과 AI가 함께 운영하는 계정이라면, 우리는 그것을 누구의 계정이라고 불러야 하는가?”

인스타그램의 작은 라벨 하나가 생각보다 훨씬 큰 변화를 예고하고 있는 이유입니다.

왜 지금 이 뉴스를 읽어야 할까요?

오늘의 변화는 단순한 인스타그램의 정책 변경이 아닙니다. AI가 콘텐츠를 만드는 단계를 넘어 ‘사람의 정체성’까지 만들어내는 시대가 시작됐다는 신호입니다.

이번 뉴스레터를 읽고 나면

특히 앞으로는 “AI를 사용할 수 있는가”보다 “AI로 만들어진 존재를 어떻게 인증하고 신뢰할 것인가”가 더 중요한 문제가 될 수 있습니다. 이번 인스타그램의 변화는 그 시작점일지도 모릅니다.

[ 원문 자료 출처]

오늘의 미래 예언 카드

by 👁️‍🗨️ 예언카드 prophecycardmaster

구독자 님의 생각이 궁금해요!

자유로운 소통을 원하시는분은 오픈카톡방으로 오세요!