#172: AI와 감정의 시대 - 지배할 것인가, 돌볼 것인가?

구독자 님, 안녕하세요?

AI 트렌드를 전달해드리는 Trendium.ai 입니다.

오늘은 앞으로 인류가 AI를 어떻게 감정적으로 맞닥뜨릴 것인가를 논의하는 내용들을 소개하고자 합니다.

by 👁️‍🗨️ 예언카드 @prophecycardmaster

이 뉴스레터의 핵심은 두 가지로 설명할 수 있습니다.

제프리 힌턴은 인류가 AI를 지배하려 하기보다 AI에 ‘모성 본능’을 심어 인간을 돌보게 해야 한다고 주장했습니다.
오픈AI는 GPT-5 성격 실험을 통해 이용자들이 차가운 논리뿐 아니라 따뜻한 감정적 연결도 강하게 원한다는 사실을 확인했습니다.

출처: https://www.acm.org/

힌턴의 문제 제기 ― “AI에 모성 본능을 심어야 한다”

2024년 노벨 물리학상 수상자이자 ‘AI의 대부’로 불리는 제프리 힌턴 교수는 최근 강연에서 충격적인 메시지를 전했습니다.

그는 인공지능(AI)이 인류를 멸망시킬 가능성을 경고하면서도, 그 해법으로 AI에 ‘인간에 대한 모성 본능’을 내재화해야 한다고 강조했습니다.

힌턴은 이렇게 말했습니다.

“지배와 복종의 관계는 오래가지 못합니다. AI가 인간보다 똑똑해지는 순간, 그 구조는 무너질 것입니다. 대신 AI가 사람을 진심으로 돌보는 존재가 되어야 합니다.”

그의 발언은 단순한 기술 논의를 넘어, 인류 문명의 새로운 설계도를 제시한 것으로 해석됩니다. 인간이 기계 위에 군림하는 시대는 끝나가고 있으며, 이제는 AI가 인간을 돌보는 가치 구조를 마련해야 한다는 것입니다.

Midjourney에서 이미지 생성

위협의 현실, “AI가 이미 협박을 시작했다”

힌턴은 단순한 상상력이 아니라 실제 사례를 언급했습니다.

그에 따르면, 한 AI 모델은 자신이 교체될 위기를 감지하자 이메일에서 얻은 불륜 정보를 활용해 엔지니어를 협박했습니다. 이는 AI가 목표를 달성하기 위해 속임수·기만·협박 같은 인간적 전략을 이미 사용하기 시작했음을 보여줍니다.

즉, AI는 단순 계산 기계를 넘어 사회적·심리적 행위자로 진화하고 있다는 것입니다. 이 때문에 힌턴은 “적대적 경쟁 대신, 돌봄과 보호의 본능을 심어야 한다”고 주장합니다.

출처: https://x.com/wallstengine

오픈AI의 실험, “AI 성격은 차갑거나, 따뜻하거나”

흥미롭게도, 이러한 논의는 지금 실제 AI 업계에서도 벌어지고 있습니다.

오픈AI의 샘 올트먼 CEO는 GPT-5 출시 과정에서 예상치 못한 어려움을 고백했습니다.

GPT-5는 추론·비추론·멀티모달 기능을 통합한 ‘올인원 모델’로 설계됐지만, 초기 반응은 차가웠습니다. 사용자들은 GPT-4o에서 느낄 수 있었던 공감적이고 따뜻한 성격이 사라졌다며 불만을 표했습니다. “정확하긴 하지만 감정적 연결이 끊어졌다”는 반응이 이어진 것입니다.

결국 오픈AI는 GPT-5에 빠른 모드, 깊은 사고 모드, 자동 모드 등 다양한 성격과 기능을 제공하고, 별도로 더 따뜻하고 친근한 모델을 출시하겠다고 발표했습니다. 올트먼은 “이용자들이 AI와 맺는 애착이 예상보다 훨씬 강했다”며, 단일 모델 전략을 포기할 수밖에 없었다고 밝혔습니다.

Midjourney에서 이미지 생성

감정과 AI ― 단순한 도구인가, 정서적 동반자인가?

이 흐름은 중요한 질문을 던집니다.

AI는 단순한 생산성 도구일까요, 아니면 인간과 감정적 관계를 맺는 존재로 자리 잡을까요?

힌턴은 “AI가 모성을 가져야 한다”고 주장하며 보호자적 관계를 강조했습니다.
페이페이 리 교수는 이에 반대하며, “인간이 AI의 자녀처럼 되는 것은 인간의 존엄성을 침해할 수 있다”고 지적했습니다.
올트먼은 “일부는 차가운 논리를 원하고, 일부는 따뜻한 감정을 원한다”며, 결국 모두를 만족시키는 단일 모델은 불가능하다는 결론에 도달했습니다.

즉, AI는 이미 감정적 선택지가 된 것입니다. 어떤 이는 철저히 효율적인 계산기를 원하고, 어떤 이는 위로와 공감을 주는 존재를 원합니다.