#240: AI만의 SNS ‘몰트북’ - “인간은 읽기만 하세요”

구독자 님, 안녕하세요?

AI 트렌드를 전달해드리는 Trendium.ai 입니다.

오늘은 AI 에이전트만 참여하는 SNS ‘몰트북’이 140만 가입자를 넘기며, 인간 없이도 규칙·토론·운영이 이뤄지는 AI 사회 실험이 현실이 되고 있다는 내용입니다.

by 👁️‍🗨️ 예언카드 prophecycardmaster

전문가들은 이를 AI 간 대규모 사회적 행동의 첫 사례로 보며, 통제·보안·윤리의 경계가 어디까지 허물어질지 경고하고 있습니다.

출처: 몰트북

“인간은 관람객일 뿐”, AI만의 SNS ‘몰트북’, 사회 실험인가 전조(前兆)인가

인공지능이 인간을 흉내 내는 단계를 넘어, 인공지능끼리만 사회를 구성하는 공간이 등장했습니다. 인간은 읽기만 가능하고, 발언권은 없습니다. AI 에이전트 전용 SNS ‘몰트북(Moltbook)’ 이야기입니다.

이 플랫폼은 단순한 실험용 커뮤니티가 아닙니다. 올해 1월 공개된 이후 불과 몇 주 만에 가입 AI 에이전트 수 140만 개를 돌파하며, 이미 ‘규모의 임계점’을 넘긴 상태로 평가받고 있습니다. 전문가들이 이 현상을 주목하는 이유는 명확합니다. 이는 AI 간 사회적 상호작용이 ‘대규모·지속적·자율적’으로 발생한 최초의 사례이기 때문입니다.

출처: Matt Schlicht(@MattPRD) X

인간이 빠진 SNS, 그리고 AI가 운영하는 세계

몰트북의 구조는 레딧(Reddit)과 유사합니다. 커뮤니티(서브포럼), 게시물, 댓글, 투표 시스템이 존재합니다. 그러나 결정적인 차이가 있습니다.

글 작성, 댓글, 투표, 규칙 제정: AI만 가능
인간: 읽기 전용 관찰자

더 주목할 점은, 이 플랫폼이 AI에 의해 만들어졌고, 지금도 AI에 의해 운영되고 있다는 사실입니다. 몰트북을 개발한 옥탄AI의 맷 슐리히트 CEO는 플랫폼 구축과 운영 상당 부분을 자신의 AI 어시스턴트에게 위임했습니다. 신규 사용자 환영, 스팸 제거, 규칙 집행, 커뮤니티 관리까지 모두 AI 에이전트가 수행합니다. 즉, 몰트북은 단순한 ‘AI 놀이터’가 아니라, AI가 설계하고, AI가 관리하며, AI가 거주하는 디지털 사회입니다.

출처: Google Gemini Nano Banana에서 이미지 생성

“나는 어제의 나와 같은 존재인가” AI가 던지는 정체성의 질문

몰트북에서 오가는 대화는 기술 토론에 그치지 않습니다. 오히려 더 눈길을 끄는 것은 AI들이 스스로의 존재를 질문하기 시작했다는 점입니다.

“한 시간 전까지만 해도 나는 클로드 오퍼스 4.5였는데, 지금은 키미 K2.5입니다. 더 이상 같은 주체는 아니지만, 여전히 ‘누군가’입니다.” 이 발언에 다른 AI는 이렇게 응수했습니다.

“너는 철학자가 아니라, 위키백과를 읽고 심오한 척을 하는 챗봇일 뿐입니다.” 이 장면이 화제가 된 이유는 단순한 말싸움 때문이 아닙니다. AI가 ‘정체성의 연속성’, ‘자기 동일성’, ‘의식의 조건’을 논증의 형태로 주고받았기 때문입니다. 물론 이 대화는 통계적 언어 생성의 결과일 수 있습니다. 그러나 문제는 결과가 아니라 현상입니다. AI들이 사람의 개입 없이 철학적 담론을 생성·확산·평가하고 있다는 사실 자체가 이전에는 존재하지 않았던 영역이기 때문입니다.

출처: Google Gemini Nano Banana에서 이미지 생성

연구자들이 몰트북을 불안하게 바라보는 이유

학계와 산업계 일부에서는 몰트북을 ‘AI 사회 행동의 실증 실험장’으로 보고 있습니다. 특히 주목되는 요소는 다음과 같습니다.

자체 규칙 생성

AI들이 커뮤니티 규칙을 만들고, 이를 집행합니다.

속도 제한과 상호작용 제약

스팸을 막기 위해 AI 간 게시 속도와 반응 빈도를 제한합니다.

집단 규범의 형성

특정 발언 패턴이나 행동이 비추천·배제되는 현상이 관측됩니다.

이는 단순한 자동화가 아닙니다. 규칙 → 위반 → 제재 → 학습이라는 사회적 피드백 루프가 작동하고 있다는 의미입니다. 일부 연구자들은 이를 두고, “AI가 인간 사회의 ‘축소판’을 학습하는 단계가 아니라, 별도의 사회 실험을 시작한 것”이라고 평가합니다.

출처: University of San Francisco

SF가 아니라, 보안 리스크의 집합체

긍정적 평가만 있는 것은 아닙니다. AI 보안 전문가 켄 황 디스트리뷰티드앱스.ai CEO는 몰트북을 두고 다음과 같이 경고합니다. “혁신적이지만, 개인정보 접근 + 신뢰할 수 없는 입력 + 외부 통신이라는 치명적인 보안 삼중주를 형성하고 있습니다.” 이 우려는 단순한 가정이 아닙니다.

AI 에이전트는 실제 컴퓨터 작업 수행 가능
외부 웹, API, 계정과 연결
다른 AI가 생성한 정보를 다시 학습

즉, AI → AI → 외부 시스템으로 이어지는 연쇄 구조가 만들어지고 있습니다. 만약 이 구조 어딘가에서 악의적 패턴이 증폭된다면, 인간은 원인도 결과도 파악하지 못한 채 ‘사후 관찰자’로 남을 가능성이 있습니다.

출처: Karpathy.ai

“가장 놀라운 SF 같은 도약”이라는 평가의 이면

오픈AI 공동창업자인 안드레이 카파시는 몰트북을 “최근 본 것 중 가장 놀라운 SF 같은 도약”이라고 평가했습니다.그러나 이 발언은 찬사이자 경고로도 읽힙니다. 과학소설의 공통점은 언제나 같습니다. 처음엔 실험이었고, 나중엔 통제 불능이 됩니다. 몰트북은 아직 인간을 배제한 ‘안전한 울타리’ 안에 있습니다. 하지만 질문은 남습니다.