1961년, 헉슬리가 경고한 '기술의 자기 법칙'이 알고리즘이 되기까지

들어가며

구독자님, 1961년 BBC 인터뷰 영상 하나를 봤어요. 올더스 헉슬리가 진행자 존 모건과 나눈 8분짜리 대화인데요. 60년도 더 된 흑백 영상에서 이 작가가 한 말이, 저는 소름이 끼칠 정도로 2025년을 정확하게 묘사하고 있었어요.

헉슬리는 이렇게 말했어요. "기술의 씨앗을 심으면, 그것은 자기 존재의 법칙에 따라 자라납니다. 그리고 그 법칙은 우리 인간의 법칙과 반드시 같지 않아요." 그리고 덧붙였어요. "사람들을 자신의 예속 상태에 만족하게 만드는 것은 가능합니다."

빵과 서커스, 무한한 오락과 선전. 이건 지금 우리 스마트폰 안에서 매일 벌어지고 있는 일이에요. 오늘은 헉슬리의 이 경고가 AI 시대에 어떻게 실현되고 있는지, 그리고 그가 마지막으로 남긴 '해법'이 무엇이었는지 이야기해 볼게요.

기술은 자기 법칙대로 자란다

1961년 7월 30일, BBC의 In Conversation 시리즈에 출연한 헉슬리는 특정 국가의 문제가 아니라고 잘라 말했어요. 미국이든, 영국이든, 러시아든 — 기술적 수단이 개발되면 그건 결국 사용된다는 거예요. 기술은 인간의 의도와 무관하게 자기 존재의 논리에 따라 성장한다고요.

이 생각은 헉슬리 혼자만의 것이 아니었어요. 같은 시기 프랑스 사회학자 자크 엘룰^[1]​은 기술 사회(1954)에서 거의 동일한 분석을 내놓았어요. 엘룰은 '테크닉'이라는 개념을 통해, 기술이 단순한 도구가 아니라 효율성을 향해 자율적으로 확장하는 체계라고 설명했어요. 흥미롭게도 헉슬리는 이 인터뷰에서 엘룰을 직접 언급하며 "사회학 문제에 관해 가장 유능한 저술가 중 한 명"이라고 평가했어요.

두 사람의 핵심 통찰은 같았어요. 기술은 중립적 도구가 아니다. 기술은 일단 존재하면 자기 논리에 따라 확장되고, 그 과정에서 인간은 통제자가 아니라 종속자가 된다. 헉슬리는 이걸 "프랑켄슈타인 괴물 문제"라고 불렀어요.

2025년, 이 '자기 법칙'은 AI 추천 알고리즘이라는 형태로 가장 선명하게 작동하고 있어요. 소셜 미디어의 AI 추천 시스템은 사용자의 체류 시간을 극대화하도록 설계되어 있어요. MIT 테크놀로지 리뷰에 따르면, 이 시스템은 사용자가 특정 이미지 위에서 멈추는 시간, 알림을 확인하는 빈도 같은 미시적 행동 데이터를 분석해서 개인화된 '도파민 스케줄'을 만들어내요. 알고리즘이 사용자를 이해하는 게 아니에요. 알고리즘이 자기 목표(체류 시간 극대화)를 향해 자율적으로 진화하는 거예요.

헉슬리가 말한 "기술은 자기 존재의 법칙에 따라 자란다"는 명제가, 60년 뒤 강화학습^[2]​ 모델이라는 형태로 문자 그대로 구현된 셈이에요.

행복한 예속: 빵과 서커스에서 무한 스크롤로

헉슬리의 경고 중 가장 섬뜩한 부분은 따로 있어요. 그는 이 인터뷰에서 자신의 소설 멋진 신세계(1932)의 핵심 메시지를 이렇게 요약했어요. "사람들을 자신의 예속 상태에 만족하게 만드는 것은 가능합니다. 빵과 서커스, 무한한 오락과 선전을 통해서요."

조지 오웰의 1984가 공포와 처벌로 통제하는 사회를 그렸다면, 헉슬리는 쾌락과 오락으로 자발적 복종을 이끌어내는 사회를 그렸어요. 그리고 1958년 출간한 에세이집 멋진 신세계 재방문에서 스스로 판정을 내렸어요 — "이 두 시나리오 중 실현될 가능성이 높은 쪽은 멋진 신세계"라고요.

이 판정은 정확했어요. 2025년 현재, 전 세계 소셜 미디어 사용자는 약 49억 5천만 명이에요. 하루 평균 사용 시간은 2시간 43분. 숏폼 비디오 플랫폼에서 AI 추천 시스템이 전체 동영상 조회의 약 71%를 결정하고 있어요. 사용자는 자기가 선택한다고 느끼지만, 실제로는 알고리즘이 설계한 경로를 따라가고 있는 거예요.

더 주목할 부분이 있어요. MIT 테크놀로지 리뷰는 2025년 4월 기사에서 AI 컴패니언(AI 동반자)을 "관심 경제^[3]​의 스테로이드 버전"이라고 표현했어요. 기존 소셜 미디어가 사람과 사람 사이의 연결을 중개하며 도파민 회로를 자극했다면, AI 컴패니언은 AI 자체가 소통의 주체가 되어 전례 없는 수준의 몰입을 만들어낸다는 거예요.

헉슬리가 말한 '자발적 예속'이, 이제는 개인 맞춤형으로 진화하고 있는 셈이에요. 멋진 신세계에서 모든 시민에게 동일하게 배급되던 행복 약물 '소마'가, 2025년에는 각 개인의 심리적 취약점에 최적화된 알고리즘 피드로 변환된 거예요.

헉슬리의 마지막 답: '주의력'이라는 해법

흥미로운 건, 이 1961년 인터뷰에서 헉슬리가 단순한 비관론자로 끝나지 않았다는 점이에요. 그는 인터뷰 말미에 자신이 "방금 완성한 유토피아적 판타지"를 언급했어요. 멋진 신세계의 정반대 — 구성원들이 자신의 잠재력을 실현하도록 돕는 사회에 대한 소설이었어요.

이 소설이 바로 1962년에 출간된 섬(Island)이에요. 헉슬리의 마지막 소설이자, 본인이 가장 중요한 작품이라고 여겼던 책이에요. 섬에서 가상의 섬 '팔라'는 동양의 명상 전통과 서양의 과학을 결합한 사회를 운영해요. 이 섬의 새들은 끊임없이 한 마디를 반복하는데, 그 단어가 "주의(Attention)"예요.

이건 불교의 '마음챙김(mindfulness)'과도 통하는 개념이에요. 헉슬리가 제안한 해법은 기술을 거부하는 것이 아니었어요. 기술이 우리의 주의력을 탈취하는 메커니즘을 의식적으로 자각하는 것, 그리고 그 자각을 통해 통제권을 되찾는 것이었어요.

하지만 소설의 결말은 비극적이에요. 팔라는 결국 석유를 탐내는 외부 세력과 물질주의에 매혹된 젊은 통치자에 의해 하룻밤 만에 멸망해요. "100년의 노력이 단 하룻밤에 파괴되었다." 유토피아는 취약하고, 주의력을 지키는 일은 끊임없는 노력을 요구한다는 메시지예요.

이 결말이 2025년에도 유효한 이유가 있어요. EU는 2025년 '디지털 공정법(Digital Fairness Act)'을 발의해 중독성 설계와 알고리즘 조작에 대한 규제를 추진하고 있고, 미국에서는 2026년 여름 수백 개 학군이 참여하는 연방 소송이 예정되어 있어요. 소셜 미디어 알고리즘의 '블랙박스'가 법정에서 열리고 있는 거예요. 제도적 저항은 시작되었지만, 헉슬리가 경고했듯이 — 서구 사회는 "결국에는 굴복하는 경향이 있다"고요.

오스왈드의 시선

솔직히 이 인터뷰를 보면서, 저는 불편한 자기 점검을 하게 됐어요.

저는 데이터를 다루는 사람으로서 늘 "측정되지 않는 것은 관리되지 않는다"고 말해왔거든요. 그런데 헉슬리와 엘룰의 프레임을 적용하면, 이 효율성 논리 자체가 '테크닉의 자기 확장'이에요. "이건 더 효율적이니까 도입해야 한다"는 사고방식 자체가 기술이 인간을 종속시키는 경로인 거죠.

제가 보기에 헉슬리의 진짜 통찰은 이거예요. 기술의 위험은 기술이 '나쁘게' 사용될 때가 아니라, 기술이 '너무 잘' 작동할 때 찾아온다는 것. AI 추천 알고리즘은 정확히 설계된 목표를 달성하고 있어요 — 사용자의 체류 시간을 극대화하는 것. 문제는 알고리즘이 실패하는 게 아니라, 알고리즘이 너무 성공적이라는 거예요.

개인적인 경험에서 보면, 기업들은 항상 '사용자 경험 개선'이라는 이름으로 이 알고리즘을 도입해요. 그리고 실제로 사용자 만족도 지표는 올라가요. 헉슬리의 표현을 빌리면, 사람들이 자신의 예속에 '만족'하고 있으니까요.

그래서 저는 헉슬리의 마지막 소설 섬에서 반복되는 그 단어에 주목해요. "주의(Attention)." 이건 명상적 구호가 아니에요. AI 시대의 실용적 전략이에요. 알고리즘이 우리의 주의력을 설계하는 시대에, 자기 주의력의 흐름을 의식적으로 자각하는 것 — 이것이 헉슬리가 60년 전에 남긴, 아직도 유효한 처방전이라고 생각해요.

마치며

64년 전 흑백 영상 속의 헉슬리는, 기술이 인간을 위해 존재하는 것이지 그 반대가 아니라는 복음서의 원칙을 인용하면서도, "현재 사회는 인간이 기술을 위해 존재하는 역설적 상황"이라고 진단했어요.

2025년, AI 알고리즘이 전체 콘텐츠 소비의 대부분을 결정하는 지금, 이 진단은 더 이상 비유가 아니에요. 한 가지 질문을 남겨볼게요. 오늘 스마트폰을 열 때, 내가 알고리즘을 사용하고 있는 건지, 알고리즘이 나를 사용하고 있는 건지 — 한번 의식적으로 관찰해 보시면 어떨까요.

다음 뉴스레터에서 다시 찾아올게요. 읽어주셔서 감사해요.

참고자료 & 더 읽기

핵심 출처

배경 지식

관련 영상

필자 안광섭은 세종대학교 경영학과 교수이자 OBF(Oswarld Boutique Consulting Firm) 리드 컨설턴트다. 대학에서 경영데이터 관리, 비즈니스 애널리틱스 등 데이터 분석을 가르치는 한편, 현장에서는 GTM 전략과 인공지능 전략 컨설팅을 이끌며 기술과 비즈니스의 접점을 설계하고 있다. AI 대화 시스템의 기억 아키텍처(HEMA) 연구로 학술 논문을 발표했으며, 매일 글로벌 AI 논문을 큐레이션하는 Daily Arxiv 프로젝트를 운영하고 있다. 고려대학교 KBMA와 기술경영전문대 석사과정을 졸업했다. 지은 책으로 《생각을 맡기는 사람들: 호모 브레인리스》가 있다.