🧐 Summary
1️⃣ 사람의 기억은 매번 새롭게 조립되는 이야기로, 외부 정보와 맥락에 따라 쉽게 왜곡될 수 있어요.
2️⃣ 우리의 기억은 검색과 기록 기술에 점점 더 의존하게 되었고, 이는 편리함과 함께 기억의 퇴화와 오류 수용 가능성을 높이고 있어요.
3️⃣ 생성형 AI는 비어 있는 기억의 틈을 사실처럼 메우는 방식으로 기억을 풍부하게 만들기도 하지만, 동시에 조작된 이야기를 믿게 만들 위험도 동반합니.
가족, 혹은 오랜 친구와 서로의 기억이 달라 투닥거렸던 기억, 있으신가요? 전 가끔 부모님과 대화하다가 엄마와 아빠의 기억이 서로 달라서 무엇이 진짜인지 궁금한 경우가 있어요. 분명 같은 사건을 겪었는데 왜 서로의 기억이 달라지는걸까요?
오늘은 인간의 기억이 어떻게 생성되고 또 왜곡되는지 살펴보고, ‘기억을 외주화 하는’ AI 시대에 우리가 어떤 것을 유념해야 할지 이야기해보려 해요.
기억의 생성: 뇌는 어떻게 추억을 기록하는가
우리의 뇌는 들어오는 정보를 선별해서 저장했다가 나중에 다시 꺼내 써요. 기억이란 정보를 부호화(encode)하고 저장(store)했다가 인출(retrieve)하는 일련의 과정이라고 볼 수 있죠. 그런데 이때 모든 내용을 같은 비중으로 정확히 기록하는 것이 아니라, 중요하다고 판단한 부분을 신경세포들의 연결 형태로 저장합니다. 놀랍고 감동적인 일은 디테일까지 생생하게 기억나지만, 평범한 일은 금방 잊혀지는 이유가 바로 이거에요. 강한 자극은 뇌의 신경전달물질 분비를 유도해서 기억 형성을 강화하거든요. 즉, 뇌는 중요하다고 판단한 순간에는 기억 회로를 적극적으로 가동해 정보를 분명하게 각인시키려 합니다.
그런데 기억을 담당하는 해마는 나중에 기억을 꺼내 재구성할 때도 관여하는데, 이때 지금의 상황과 과거 기억을 통합하며 내용을 편집하기도 해요. 이런 뇌의 작동 특성 덕분에 우리는 옛 기억을 통해 새로운 것을 학습하고 실수를 수정할 수도 있지만, 동시에 기억이 원본과 달라지기도 하는거죠. 인간의 기억 시스템은 탄력적이어서 학습에 유리한 방향으로 진화했지만, 그 대가로 절대적으로 신뢰하기는 어려운 특성을 갖게 되었습니다.
그래서 우리는 자신도 모르게 기억을 각색하거나, 없었던 일을 사실로 기억해내기도 하는데요, 심리학에서는 이러한 현상을 기억 왜곡(memory distortion) 또는 거짓 기억(false memory)이라고 불러요.
한 심리학자는 질문하는 방식만 바꾸어도 사람들의 기억 내용이 달라질 수 있음을 보여주는 실험을 했어요[1]. 실험 참가자들에게 자동차 충돌 영상을 보여준 후 차량의 속도를 물었는데, 질문에 사용된 동사에 따라 사람들의 속도 추정 값이 크게 달라졌습니다. “차들이 박살날 정도로 빠르게 달릴 때 속도가 얼마였나요?”라고 물으면 평균 시속 약 65.7km로 답했지만, “차들이 가볍게 접촉했을 때 속도는 얼마였나요?”라고 묻자 51.2km로 훨씬 낮게 답했습니다. 더욱 놀라운 것은 일주일 후 기억 테스트에서 나타났습니다. 영상에 깨진 유리 조각은 전혀 나오지 않았음에도, 많은 참가자들이 깨진 유리가 보였다고 자신 있게 대답한 거죠. 질문 속 뉘앙스 하나 때문에 존재하지 않았던 파편까지도 기억에 만들어낸 사례로, 이를 가리켜 오정보 효과(misinformation effect)라고 부릅니다. 우리의 뇌는 외부에서 주어진 정보에 이끌려 과거 사건의 기억을 쉽게 덧칠하는 거죠.
기억의 외주화: 정보를 뇌 밖에 맡기다
“요즘 기억력이 엉망이야. 다 검색하면 되니까 뭐가 외워지질 않네.” 우리가 흔히 하는 이런 푸념은 아주 근거 없는 얘기가 아니에요. 스마트폰과 인터넷이 제2의 뇌 역할을 하면서, 우리는 정보를 직접 기억하기보다는 쉽게 찾아볼 수 있는 형태로 외주화하는 경향을 보입니다. 이를 가리켜 흔히 구글 효과(Google effect) 또는 디지털 건망증(digital amnesia)이라고 부르는데, 온라인에서 언제든 찾을 수 있다고 생각하면 그 정보를 잘 기억하지 못하는 현상을 말해요. Sparrow 등 연구진이 2011년 발표한 유명한 실험[2]에서는, 사람들이 어떤 정보를 컴퓨터에 저장해둘 수 있다고 믿으면 그 내용 자체를 기억하려는 노력보다는 어디에 저장했는지를 기억하는 데 더 신경 쓴다는 결과가 나왔어요. 그렇다고 스스로 기억해야 한다고 분명히 알려준 경우에도 기억 성과가 크게 나아지지는 않았다고 합니다. 우리의 뇌는 “어차피 다시 볼 수 있는 정보라면 굳이 암기하지 말자”는 식으로 에너지를 절약하는 거죠. 부부나 동료 사이에서 한 사람은 일정, 다른 한 명은 예산을 맡아 기억하는 식의 트랜잭티브 메모리(transactive memory) 현상이 기술로 확장된 모습이라고 볼 수 있습니다. 일종의 역할 분담인거죠.
디지털 기기를 통한 기억의 외주화는 사진 촬영에서도 나타납니다. 우리는 중요한 순간을 더 잘 기억하려고 사진을 찍지만, 정작 사진을 찍으면 기억이 떨어지는 역효과가 있다는 연구 결과가 있어요. 미국 페어필드 대학의 Linda Henkel[3]은 실험 참가자들에게 박물관의 일부 전시품은 카메라로 촬영하고 일부는 맨눈으로 보기만 하도록 했어요. 다음날 기억력을 테스트해보니, 사진으로 찍은 작품에 대한 기억 정확도가 그냥 본 작품보다 훨씬 낮았던 거에요. 세부 질문에 대한 정답률 역시 촬영한 경우가 훨씬 떨어졌습니다. Henkel은 이를 “사진 촬영으로 인한 기억 손상 효과”라고 부르며, 사람들이 카메라가 대신 기록해줄 거라는 생각에 스스로 주의를 기울이지 않기 때문에 생기는 현상이라고 설명했어요.
하지만 기억의 외주화가 부정적인 것만은 아닙니다. 플라톤이 문자 발명을 두고 “인간의 기억력을 약화시킬 것”이라고 우려했지만, 문자는 인류 문명의 엄청난 발전을 이끌었죠. 비슷하게 오늘날 메모, 사진, 인터넷 등은 우리에게 편리한 기억 확장 도구가 되어줍니다. 이런 도구들은 우리가 사소한 정보를 암기하는 부담을 덜어주어, 보다 창의적이거나 전략적인 사고에 뇌 자원을 사용할 수 있게 한다는 긍정적 관점도 있습니다. 다만 모든 것을 외부에 맡기고 나 자신은 아무것도 기억하지 않으려 할 때, 우리의 뇌는 점차 관련 기능을 쓰지 않고 퇴화시킬 수 있습니다. 또한 내가 직접 기억한 게 적어지면, 외부 정보가 틀렸을 때 감지하지 못하고 그대로 믿게 될 위험도 커집니다. “기억을 외주화한” 덕에 편리함을 누리면서도, 스스로 사실을 검증하고 핵심을 기억하는 노력을 병행해야 하는 이유가 여기에 있습니다.
AI가 흔드는 기억
최근 많이 쓰게 되는 생성형 AI 기반 서비스들은 사람과 같이 자연스러운 말을 만들어내는 능력과 함께 사실이 아닌 것도 그럴싸하게 지어낸다는 “환각(hallucination)”이라는 단점이 있죠.
MIT 미디어랩은 AI가 어떻게 거짓 기억을 심어줄 수 있는지 실험을 해봤어요[4]. 참가자 200명에게 범죄 상황 영상을 보여준 뒤, 가짜 AI 면담관과 인터뷰를 하게 했죠. 이때 AI 면담관은 일부러 “방금 본 영상에서 총이 등장했을 때 느낌이 어땠나요?”와 같이 실제로는 존재하지 않았던 총에 대해 질문하는 등 교묘한 오정보를 섞어 대화를 이어갔습니다. 그 결과, AI와 대화한 그룹에서는 36.4%의 답변에서 참가자들이 존재하지 않던 총을 보았다고 언급하는 등 거짓 기억이 유도되었습니다. 심지어 이렇게 AI가 심어준 거짓 기억은 시간이 지난 후에도 사라지지 않고 남아있었어요. 일주일 뒤 추적 조사 결과, 챗봇과 대화하며 잘못 입력된 기억들은 여전히 유지되었고, 참가자들은 그 잘못된 기억을 비교적 확신하고 있었던거죠. 반면 AI 개입 없이 설문지로만 질문을 받았던 통제 그룹에서는 오정보에 넘어간 비율이 훨씬 낮았습니다. 연구팀은 “AI 모델의 환각은 거기서 끝나지 않고 우리 인간으로 하여금 환각을 하게 만들 수 있다”고 경고합니다. 챗봇이 만들어낸 미세한 거짓이 우리의 현실 인식마저 바꾸어놓을 수 있다는거에요.
요즘 우리는 AI를 기반으로 한 다양한 기억 회상, 추천 서비스들을 이용하고 있어요. 구글 포토가 이야기해주는 나의 1년 전 오늘, 스포티파이가 요약해주는 나의 지난 1년 음악 감상 패턴, 유튜브가 나의 시청 기록을 바탕으로 추천해주는 동영상들. 이런 서비스들이 생성형 AI를 더 활용하게 된다면, 중간중간 비어있는 나의 데이터가 AI가 만들어낸 이야기들로 메워질 수 있어요. 그리고 어쩌면 나의 기억 또한 그 이야기들로 인해 바뀌게 될 수 있겠죠. 우리의 기억을 풍부하게 해주기 위해 시작된 서비스지만, 우리의 기억이 왜곡될 가능성 역시 무시할 수 없습니다.
기술은 날로 발전하고 우리 생활 깊숙이 파고들고 있어요. 완벽히 틀을 막는 것은 불가능하겠지만, 결국 중요한 것은 인간의 인지적 한계에 대한 이해를 바탕으로 한 현명한 공존 전략일 것입니다. 기억은 흩어진 조각들을 잇는 우리 뇌만의 이야기입니다. 하지만 이제 그 이야기에는 AI라는 새로운 공저자가 참여하고 있어요. 우리는 그 공동 저자를 어떻게 다룰지 선택해야 합니다. AI를 유능한 비서로 사용하면서도, 최종 편집권은 우리 자신의 비판적 사고와 성찰이 쥐고 있는 모습이 바람직하지 않을까요? 기술이 발전할수록 우리 각자가 자신의 기억과 진실을 지키기 위해 무엇을 할 수 있을지 자문해봐야 할 시점입니다. 구독자님은 오늘 읽은 이 뉴스레터를 내일 어떻게 기억하고 있으실 것 같나요?
[inspire X 오픈카톡방]
https://open.kakao.com/o/gBHmseah
Reference
[1] Loftus, E. F., & Palmer, J. C. (1974). Reconstruction of automobile destruction: An example of the interaction between language and memory. Journal of verbal learning and verbal behavior, 13(5), 585-589.
[2] Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google effects on memory: Cognitive consequences of having information at our fingertips. science, 333(6043), 776-778.
[4] Chan, S., Pataranutaporn, P., Suri, A., Zulfikar, W., Maes, P., & Loftus, E. F. (2024). Conversational ai powered by large language models amplifies false memories in witness interviews. arXiv preprint arXiv:2408.04681.
의견을 남겨주세요