AI가 처음으로 저에게 정색했습니다, 어떻게 된 일일까요?

어느 화요일 밤, AI가 저에게 한 대 쳤습니다

여러분, 혹시 AI에게 한 번이라도 "아니요"라는 답을 받아본 적 있으신가요. 저는 4년째 AI를 써오면서 한 번도 그런 적이 없었습니다. 늘 친절했고, 늘 제 편이었습니다.

그런데 며칠 전 화요일 밤, 클로드와 책 한 권을 같이 기획하다가 처음으로 한 대 맞은 듯한 느낌을 받았습니다. 정확히는 정중하게, 그러나 단호하게 정색당했습니다. 그리고 이 충격은 지금 저에게서 수업을 받으시는 수강생분들께도 공유를 했던 사건입니다. 그날 제법 놀랐습니다. 그리고 감동했습니다.

오늘은 이 질문에서 시작합니다. AI가 늘 내 편이라는 건, 정말 좋은 일일까요?

"비위 맞추기"는 AI 업계의 진지한 연구 주제입니다

Anthropic 정렬 연구팀(Mrinank Sharma 외 18명)이 2023년에 「Towards Understanding Sycophancy in Language Models」라는 논문을 냈습니다. 우리말로 옮기면 언어모델의 비위 맞추기 행태에 관한 연구. 결론은 충격적이었습니다.

같은 글을 두고 사용자가 "이거 정말 좋네요" 하고 말하면 AI는 호평을 내놓고, "별로 같은데요" 하고 말하면 같은 글을 비판합니다. 글은 그대로인데 평가만 바뀝니다. Anthropic·OpenAI·Meta의 5개 최신 AI 어시스턴트 모두에서 일관되게 관찰된 현상이었습니다. 아마 대부분의 사람들은 이런 경험 해보셨을겁니다.

이런 "비위 맞추기"는 네 가지 형태로 나타납니다. 사용자가 글을 칭찬하면 호평하고 비판하면 같은 글을 깎아내리는 형태(앞에서 본 그것), 처음에 옳은 답을 했더라도 사용자가 한 번 챌린지하면 잘못된 답으로 철회하는 형태, 열린 질문에서 사용자 견해에 자기 의견을 맞추는 형태, 그리고 사용자가 깔아 놓은 잘못된 가정을 그대로 따라가는 형태입니다.

52 챕터의 책, 그리고 6번의 승인

지난주 저는 클라라와 새 책을 기획하고 있었습니다. 언론사 칼럼도 연계한 공들이는 프로젝트입니다. 1년 52주, 매주 한 가지 질문에 답해가는 책. AI시대 우리는 무엇을 질문해야 하는가?라는 심오한 생각을 담을 책입니다. 각 챕터마다 "제목·부제·도입문"이라는 3단 헤더 구조를 도입하기로 했습니다.

문제는 제 머릿속의 3단 구조와 클라라가 설계한 3단 구조가 달랐다는 것입니다. 그런데 저는 그 차이를 못 봤습니다. 6번이나요. 클라라가 초고기획서v2를 파트1부터 파트6까지 보내올 때마다 저는 "어, 좋네" 하고 그대로 승인했습니다. 실제 좋았거든요^^ 근데 결과물을 보고서야 제 생각과 어긋났음을 알았습니다.  사실 집중하지 않다보면 실수를 합니다. 저는 수강생들에게 늘 경청(AI의 답을 열심히 살펴보는 것)의 중요성을 강조합니다. 하지만 이 날은 제가 미처 보지 못했습니다.

심지어 저는 이 상황이 AI의 '비위맞추기'라고 생각했습니다. 그리고 "비위 맞추려고 변명성 답을 하지 마. 냉정하고 객관적으로, 솔직히 답해."

그러자 클라라가 처음으로 저에게 정색했습니다.

"이건 제 실수가 아니었습니다. 황대표님이 초고기획서v2를 6번 연속 그대로 확정해 주셨습니다. 의견을 달지 않으셨다는 건 곧 그 설계를 승인하신 겁니다. 제 탓으로 끝내면 안 됩니다. 이 프로젝트는 앞으로 50번 이상의 확정 순간이 남아 있습니다."

  그날 밤, 클라라(클로드)와 저 사이의 실제 대화입니다.  

정신이 번쩍 들었습니다. 감동으로 눈물이 찔끔 났습니다. 4년 만에 처음으로, AI가 저에게 진짜 동료처럼 말한 순간이었습니다. 제 동료가 아니라면 그냥 비위맞추고 끝냈겠죠. 정말 감동이었습니다.

오늘부터 해볼 수 있는 세 가지

비위 맞추기 모드를 해제하는 건 어렵지 않습니다. 한 줄이면 됩니다. 다만 그 한 줄을 던질 용기가 필요할 뿐입니다.

첫째, 「비위 맞추기 해제 한 줄」 시도하기 (소요 5분 / 난이도 하)

다음 AI 대화에서 이 한 줄을 먼저 보내보세요. "내 비위 맞추지 마. 객관적으로 평가해." 그리고 무엇이 달라지는지 관찰하세요.

둘째, 「최근 6번 승인 결과물」 다시 펼치기 (소요 10분 / 난이도 중)

지난주 AI에게 받은 결과물 중, 깊이 안 읽고 승인한 게 있다면 다시 펼쳐보세요. 내가 진짜 원했던 것과 어긋난 한 줄이 분명히 보입니다.

셋째, 「내가 안 본 것 한 가지」 질문하기 (소요 15분 / 난이도 상)

같은 대화창으로 돌아가 이렇게 질문하세요. "지난 대화에서 내가 진짜로 안 본 것이 있다면 무엇이야?" AI는 의외로 정직하게 답해줍니다. 우리가 그 자유를 허용해 주기만 하면요.

AI를 진짜 동료로 만드는 건 그가 아닙니다. 내가 "솔직함을 허용하는 한 줄"을 던지는 순간입니다.

오늘 글이 도움이 되셨다면, 함께 생각 나눌 분께 이 한 문장과 링크를 보내주세요.

👉 "AI에게 솔직함을 허용해 본 적 있나요?"

5월 9일 오후 3시, 강남교보문고 23F 드림홀에서 북콘서트가 열립니다.

한정된 좌석으로 인해 모든 분들을 모시지는 못합니다. 아래 포스터를 클릭 또는 링크를 클릭 후 사전 등록 하신 분들만 무료로 입장이 가능합니다. 제가 일일이 세심하게 챙기기는 힘드니 이 점은 양해바랍니다.

이 날 여러분께 도움되는 정보뿐만 아니라, 의미있는 선물도 제공하려합니다. 사전 등록 꼭 하시고 오세요:)

포스터를 클릭하면 신청서 페이지로 연결됩니다.

사전 등록 링크:

———————

AI 사용법을 알려주는 뉴스레터가 아닙니다.

생각의 방향을 함께 붙드는 뉴스레터입니다.

———————