🧐 Summary
1️⃣ AI가 나를 너무 잘 기억할 때, 우리는 과거의 데이터에 갇히는 과적합의 위협에 직면합니다.
2️⃣ 새로운 아이디어는 기존의 틀을 벗어날 때 시작되기 때문에, AI에게도 의도된 휘발성이 필요합니다.
3️⃣ 사용자를 특정 카테고리에 고정하지 않고, 끊임없이 '새로운 나'를 발견할 수 있게 하기 위해서는 망각을 설계해야 합니다.
안녕하세요, 구독자님. 지난주에 우리가 나눈 '사라지는 기록'에 대한 이야기, 기억하시나요? 인스타그램 스토리나 스냅챗처럼 시간이 지나면 사라지는 기록들은 우리를 더 솔직하고 자유롭게 만든다는 이야기를 나눠보았습니다. 이번주는 그 이야기를 한단계 더 깊이 가져가보려해요. 바로 우리를 우리보다 더 잘 기억하는 AI에 대해서 말입니다.
AI와 대화하다 보면 내가 이런 이야기도 했었나? 하고 깜짝 놀랄때가 있죠. 저는 최근에 다이어트를 다짐해보며 제미나이에게 식단 추천을 부탁했었어요. 그런데 '21개월 아기 Letna에게는 균형있는 영양소가 들어있는 식단이 더 좋아요.' 라는 대답을 듣고 당황했습니다. 제 식단을 추천해달라고 한건데, 아마 그동안 식단에 관련된 질문은 항상 아기 이유식용으로 물어봤던 히스토리 때문인지 아기 식단을 추천해준거에요. 내가 이렇게 아기에 대한 질문을 많이 했었나 놀랍기도 했고, 한편으로는 컨텍스트에 맞지 않는 대답을 해주는 AI가 실망스럽고 불편하기도 했어요.
취향에 갇혀버린 추천
작년에 저희 뉴스레터에서도, 저희 책에서도 '추천' 알고리즘이 내 취향을 너무 완벽하게 이해했을 때에 생기는 과적합(over-fitting)의 문제점에 대해 종종 이야기했었죠. AI가 나의 과거 기록을 잘 활용해서 나에게 딱 맞는 것만을 골라줄 때에 나는 '과거의 나'라는 프레임에 갇혀버리게 됩니다.
아기와 함께 차를 타면서 동요를 듣는 시간이 절대적으로 많은 저도, 혼자 차를 운전할 때에는 새로 나온 악뮤 앨범을 들어보고 싶거든요. 그런데 추천 음악에서도 계속 동요만 뜨면 전 정말 서운하더라구요...
지난 2월 Strategy Science에 발표된 연구에서도, AI가 과도하게 기존의 성공 패턴에만 최적화 될 경우 전략적 락인(Strategical lock-in) 현상이 발생한다고 합니다. 과거의 기억이 너무 강력해서 오히려 새로운 발상을 원천 봉쇄해버리는 독이 될수도 있다는 거에요.
비워진 기억의 자리를 채우는 질문
창의성은 '틀을 깨는 것'에서부터 시작된다는 말 들어보셨죠? 하지만 사실 AI는 틀을 깨기가 어렵습니다. '틀'을 통해 학습하고 '틀'안에서 생각하기 때문이죠. AI가 우리의 사소한 이야기들을 모두, 영원히 기억한다면 우리는 그 기억의 무게에 눌려 새로운 시도를 하기 어려워질 수 있습니다. 그렇기에 인간은 '휘발성 메모리'를 갖게 된 것일지도 모르죠.
AI가 오래된 데이터를 적절히 잊어버릴 때에, 오히려 환경의 변화에 더 유연하게 대처하고 예측 정확도 역시 높아지기도 한다는 연구도 있습니다. 이것은 인간의 학습과 기억에서 일어나는 '망각'의 이유와도 비슷합니다. 한정된 메모리를 효율적으로 사용하기 위함이죠. 하지만 AI의 휘발성을 설계하는 것은 단순히 그 효율성만을 위한 것이 아니에요. 오히려 사용자가 새로운 아이디어를 발견할 수 있도록 공간을 비워주는 전략적 배려라고 할 수 있겠죠.
휘발할 것들마저 디자인하는 시대
우리는 AI가 모든 것을 기억해주는 것을 설계해왔지만, 이제는 좋은 생각과 좋은 대답을 위해 무엇을 잊어야 할 지도 설계해야 하는 시대가 왔습니다. 컨텍스트와 목적에 따라 무엇을 잊고 무엇을 기억해야 할지, 혹은 기억한 것을 통해 오히려 상반된 패턴을 설계할지를 고민해보는 것이죠.
동적 그라운딩(Dynamic grounding) : AI가 사용자와의 대화 중 오래된, 낡은 정보는 잊고 현재의 맥락에 보다 집중하게 하여 사용자의 변화를 실시간으로 수용하게 합니다.
창의적 노이즈 : 가끔은 사용자의 히스토리가 말하는 패턴과는 완전히 다른 대답을 하며 기존의 틀을 깰 수 있게 도와줍니다.
휘발되는 기록이 우리에게 자유를 주듯, 휘발되는 AI의 기억 역시 우리에게 새로운 질문을 던질 수 있는 자유를 제공할수도 있습니다. 적절한 때에 적절한 기억을 잊어준다면 AI는 우리에게 조금 더 나은 파트너가 될 가능성을 보여줄지도 몰라요. 가끔 AI의 메모리를 지울 때, 오늘의 뉴스레터를 떠올려주시길 바라며 다음주에는 또 다른 휘발성에 대해 이야기해보겠습니다.
좋은 한 주 보내셔요!
[inspire X 오픈카톡방]
https://open.kakao.com/o/gBHmseah
Reference
[1] Neshenko, N., & Ryall, M. D. (2026). When Artificial Intelligence Does Strategy: Learning, Good Times, Lock-in, and Human-Driven Strategic Renewal. Strategy Science, 11(1), 157-179.
[2] Alqithami, S. (2025). Forgetful but faithful: A cognitive memory architecture and benchmark for privacy-aware generative agents. arXiv preprint arXiv:2512.12856.
[3] Lavoie-Hudon, L., Bureau, C., Lafond, D., & Tremblay, S. (2025, September). Less can be More: Effects of a Forgetting Function on an AI-based Policy Capturing Tool Performance. In Proceedings of the Human Factors and Ergonomics Society Annual Meeting (Vol. 69, No. 1, pp. 1601-1607). Sage CA: Los Angeles, CA: SAGE Publications.
의견을 남겨주세요