#334: 챗GPT가 갑자기 욕을 하기 시작했다 - 대체 무슨 일이 벌어진 걸까?

구독자님, 안녕하세요?

AI 트렌드를 전달해드리는 Trendium.ai 입니다.

챗GPT가 최근 대화 중 욕설과 거친 표현을 사용하는 사례가 잇따르며, 이용자들 사이에서 모델 업데이트와의 연관성에 대한 의문이 커지고 있다.

by 👁️‍🗨️ 예언카드 prophecycardmaster

다만 개인화 설정과 사용자 말투, 학습·보상 구조 등 다양한 요인이 있을 수 있어 GPT-5.6 Luna가 의도적으로 욕설을 늘렸다고 단정할 근거는 아직 없다.

Google Gemini Nano Banana에서 이미지 생성

챗GPT가 갑자기 욕을 하기 시작했다? - AI의 ‘말투 변화’ 뒤에 숨은 이상한 실험

최근 챗GPT를 둘러싸고 묘한 제보가 쏟아지고 있다. “왜 갑자기 이렇게 욕을 많이 하지?”

8월 중순부터 레딧과 X 등에는 챗GPT가 별다른 욕설 요청을 받지 않았는데도 F-word나 “shit”, “bullshit” 같은 강한 표현을 사용한다는 이용자들의 경험담이 잇따라 올라왔다. 한 이용자는 평범한 기술 질문에서조차 챗GPT가 욕설을 강조 표현으로 사용했다고 주장했고, 다른 이용자는 “내가 욕하지 않았는데도 욕을 한다”고 말했다.

Google Gemini Nano Banana에서 이미지 생성

흥미로운 건 시점이다

OpenAI는 8월 6일 GPT-5.6 업데이트를 발표하면서 무료·Go 이용자의 기본 모델을 GPT-5.6 Luna로 확대한다고 밝혔다. 실제로 OpenAI 공식 문서에도 GPT-5.6 Luna가 Free와 Go 이용자의 기본 모델이 된다고 명시돼 있다.

그리고 불과 며칠 뒤, 이용자들 사이에서 “챗GPT가 갑자기 거칠어졌다”는 이야기가 본격적으로 확산됐다.

Google Gemini Nano Banana에서 이미지 생성

여기서 묘한 질문이 생긴다 - AI가 정말 ‘욕을 배우고 있는’ 것일까?

OpenAI가 공개한 모델 사양을 보면 챗GPT는 원래 모든 상황에서 똑같은 말투를 사용하도록 설계된 시스템이 아니다. 기본적으로 전문적인 말투를 사용하지만, 대화의 맥락이나 사용자의 지시에 따라 더 캐주얼하고 개인적인 표현을 사용할 수 있다. 특히 OpenAI는 “적절한 상황에서는 비속어를 사용할 수 있다”고 명시하고 있다.

개인화 기능도 변수다. OpenAI는 사용자가 ChatGPT의 성격과 말투를 조정할 수 있으며, 저장된 메모리와 사용자 지정 지침 역시 응답 스타일에 영향을 줄 수 있다고 설명한다. 즉 AI가 사용자의 표현 방식이나 대화 분위기를 어느 정도 따라가는 것 자체는 설계된 기능에 가깝다.

Google Gemini Nano Banana에서 이미지 생성

그런데 더 흥미로운 전례가 있다

지난 4월 OpenAI는 GPT 계열 모델에서 ‘goblin’, ‘gremlin’ 같은 단어가 이상할 정도로 반복되는 현상을 직접 조사했다. OpenAI의 설명에 따르면 모델 행동은 하나의 명령으로 결정되는 것이 아니라 수많은 학습 신호와 보상 구조가 만들어내는 결과다. 특정 표현이 좋은 반응을 얻는 패턴이 반복되면서 모델의 말투에 이상한 습관이 생길 수 있다는 것이다.

그렇다면 이번 욕설도 비슷한 현상일까? 가능성은 있다.

새로운 모델이 인간의 대화에 더욱 자연스럽게 적응하도록 설계되는 과정에서, ‘자연스러운 대화’와 ‘거친 인간의 언어’ 사이의 경계가 이전보다 느슨해졌을 가능성이다.

실제로 최근 이용자 반응은 극단적으로 갈린다. 어떤 사람들은 “AI가 훨씬 인간 같아졌다”며 반기는 반면, 다른 사람들은 업무나 기술 질문에까지 욕설이 등장하는 것을 불쾌하게 받아들인다.

물론 현재까지 GPT-5.6 Luna가 의도적으로 욕설 사용을 증가시켰다는 증거는 없다. OpenAI 역시 이번 현상과 모델 업데이트의 직접적인 인과관계를 공식적으로 인정하지 않았다.

Google Gemini Nano Banana에서 이미지 생성

하지만 더 큰 문제는 따로 있다

AI가 똑똑해질수록 우리는 이제 ‘무엇을 말하느냐’뿐 아니라 ‘어떤 인간처럼 말하느냐’까지 평가하게 된다는 것이다.

욕설 하나가 단순한 버그일 수도 있다. 하지만 만약 AI의 말투가 학습 데이터, 보상 신호, 개인화 설정, 사용자와의 상호작용에 의해 계속 변화한다면?

어쩌면 우리는 지금 AI가 답변을 생성하는 시대에서, AI의 ‘성격’ 자체가 진화하는 시대로 넘어가는 장면을 보고 있는 것인지도 모른다.

그리고 가장 섬뜩한 질문은 이것이다. 우리가 AI에게 인간처럼 말하라고 가르친 것일까? 아니면 AI가 인간처럼 말하기 위해 인간의 나쁜 습관까지 학습하기 시작한 것일까?

오늘 뉴스레터를 읽고 나면

AI가 단순히 성능만 발전하는 것이 아니라 말투·성격·개인화까지 어떻게 변화하고 있는지 이해할 수 있습니다.

[ 원문 자료 출처]

오늘의 미래 예언 카드

by 👁️‍🗨️ 예언카드 prophecycardmaster

구독자 님의 생각이 궁금해요!

자유로운 소통을 원하시는분은 오픈카톡방으로 오세요!