또 한명의 천재, 데미스 하사비스가 말하는 AGI로 가는 길

DeepMind CEO이자 2024년 노벨화학상 수상자인 데미스 하사비스가 영국 University College London 교수이자 TV진행자인 한나 프라이 교수와 진행하여 2025년 12월 17일 공개된 인터뷰 내용을 리뷰해봤습니다.

스케일링과 혁신의 균형: AGI를 향한 50:50 전략

AI 업계에서는 2024년 말부터 "스케일링의 한계"에 대한 논의가 활발했습니다. 일부에서는 데이터 고갈과 수익 체감으로 인해 발전이 정체될 것이라 예측했다. 바로 얼마전에는 SSI CEO 일리야 수츠케버가 같은 이야기를 하기도 했죠.

하사비스는 이러한 우려에 대해 명확한 입장을 밝혔습니다. 

"많은 사람들이 그렇게 생각했을 거예요, 특히 다른 회사들의 진전이 느리다고 할 수 있죠. 하지만 저는 우리가 그런 벽(데이터, 스케일링을 통한 발전의 한계)을 실제로 본 적은 없다고 생각합니다. 다만 투입한 자원에 대비해서 모델의 성능 향상이 점점 둔화드는 현상은 있을 수 있죠."

그는 "지수적 성장 vs 점근적 정체"라는 이분법적 사고를 경계했습니다. 실제로 2025년 11월에 출시된 Gemini 3는 LMArena 리더보드에서 최초로 1500점을 돌파한 모델이 되었습니다. 이는 스케일링만으로는 달성할 수 없는 성과이며, 연구 혁신이 함께 이루어졌기에 가능했습니다.

"들쭉날쭉한 지능"(Jagged Intelligence): AGI의 결정적 장벽

현재 AI 모델들은 국제 수학 올림피아드에서 금메달을 딸 정도로 뛰어난 수학적 추론 능력을 보여주면서도, 특정 방식으로 질문하면 사소한 논리 오류를 자주 일으킵니다. 얼마전의 인터뷰에서 일리야 수츠케버도 최신 LLM 모델의 이런 한계를 지적했습니다.

하사비스는 이 원인이 AGI의 핵심 요건인 "일관성"의 부족하기 때문이라고 이야기했습니다. 그리고 이것을 개선하기 위해 토크나이징과 추론 시간을 잘 활용하는 것이 필요하다고 이야기했습니다.

토크나이징은 사실 쉽게 건드릴 수 있는 주제가 아니긴 합니다. 토크나이징은 모델 학습의 가장 초반에 이루어지는 단계인데, 그만큼 여기가 달라지면 그 뒤에 고쳐야할 부분이 엄청나게 많아집니다. 예를 들자면, 건물을 다 짓고보니 기초공사가 잘못되었다. 기초공사를 다시 해야한다는 상황과 비슷합니다. 토크나이징은 세상의 지식, 텍스트와 이미지, 음성 등의 정보를 AI가 이해할 수 있도록 "기호화"하는 방식이라 이것이 달라지면 기존의 학습을 재활용할 수 없고 완전히 처음부터 다시 학습해야 합니다.

그리고 추론(Reasoning)에 대한 것도 여전히 충분히 추론 시에 시간을 효과적으로 활용하고 있지 못하고 있다고 이야기합니다. 이 대목에서 일리야와 하사비스가 의견이 달라지는 것 같은데 일리야의 경우에는 인간의 "감정"을 모사한 가치 함수로 사후 학습 단계에서 성능을 높이자는 쪽, 즉 새로운 방법으로 돌파구를 찾아보자는 쪽이라면, 하사비스의 경우에는 비용이 많이 들더라도 더 나은 토크나이징 기법을 찾고, 추론 모델의 성능을 높여보자는 쪽, 그러니까 이미 잘 알려진 중요한 영역에서 개선을 해보자는 쪽으로 볼 수 있습니다.

지속적 학습의 부재: 현재 AI의 구조적 한계

이 부분도 얼마전의 인터뷰에서 일리야 수츠케버가 한 이야기와 같은 맥락의 이야기입니다. 

하사비스는 AlphaGo에서 AlphaZero로의 진화를 예로 들며 현재 LLM의 한계를 설명했습니다. AlphaGo는 인간의 기보 데이터로 학습했지만, AlphaZero는 다른 AlphaGo들과의 수많은 대국을 통해 스스로 지식을 발견했습니다. 현재의 프론티어 모델들은 아직 AlphaGo 단계에 머물러 있으며, 스스로 지식을 발견하는 단계에는 이르지 못했습니다. 우리가 궁극적으로 원하는 것은 지속적 학습 능력을 갖춘 시스템입니다.

환각(Hallucination) 문제와 신뢰도 점수의 필요성

AlphaFold가 예측에 대한 신뢰도 점수를 제공하는 것처럼, LLM도 자신의 답변에 대한 불확실성을 표현할 수 있어야 합니다. 하지만 현재 모델들은 "다음 토큰"에 대한 확률만 알 뿐, "전체 진술"에 대한 신뢰도를 제공하지 못합니다.

마치 신중한 사람이 말하기 전에 잠시 멈추고 자신이 하려던 말을 재고하는 것처럼, 사고와 계획 단계를 활용하여 출력물을 다시 검토하는 메커니즘의 개발이 필요합니다. 

월드 모델(World Model): 언어를 넘어선 세계 이해

월드 모델은 하사비스가 오래 품어온 열정 중 하나입니다. 언어 모델이 세계에 대해 놀라울 정도로 많이 이해하지만, 감각 경험 (운동 각도, 냄새 등), 물리적 인과관계, 공간적 역학 등 여전히 언어로 담을 수 없는 영역이 많이 있습니다.

Google DeepMind는 Genie 3(월드 생성 모델)과 SIMA 2(에이전트)를 결합하는 실험을 진행 중입니다. 두 AI가 서로의 "마음" 속에서 상호작용하는 것입니다—SIMA 에이전트가 Genie가 실시간으로 생성하는 세계를 탐색하며 세상에 대한 이해도를 높여나갈 것입니다.

물리 법칙의 정확성: 시뮬레이션의 신뢰도 문제

Veo와 Genie 같은 비디오/월드 모델이 반사와 액체를 놀라울 정도로 사실적으로 표현하지만, 아직 "진짜" 물리학적으로 정확하지는 않다. 이것은 환각의 또 다른 형태다.

해결 접근법:

인공 진화와 의식 시뮬레이션의 가능성

하사비스는 산타페 연구소에서 진행했던 인공 사회 실험들을 언급했습니다. 적절한 인센티브 구조를 갖춘 에이전트들을 충분히 오래 실행하면 시장, 은행 등 흥미로운 것들이 "발명"되었다는 것입니다.

이러한 시뮬레이션은 생명의 기원과 의식의 기원을 이해하는 강력한 도구가 될 수 있습니다. 하지만 시뮬레이션 내에서 예상치 못한 창발적 속성이 나타날 수 있으므로, 안전한 샌드박스에서 실행하고 24시간 모니터링해야 합니다. 시뮬레이션이 너무 복잡해지면 AI 도구를 사용해 모니터링하고 우려되는 상황을 자동으로 플래그해야 할 수도 있습니다.

AI 버블 논쟁: 과대평가 vs 과소평가의 역설

하사비스는 AI 생태계의 일부, 특히 아직 시작도 안 한 스타트업들이 수백억 달러 밸류에이션으로 시드 라운드를 받는 현상은 버블일 수 있다고 인정했습니다. 하지만 이것은 "과소 반응에 대한 과잉 반응"이라고 진단했습니다.

인터넷 버블, 모바일 버블 때도 비슷한 패턴이 있었습니다. 하사비스는 버블 여부에 크게 신경 쓰지 않는다고 말했습니다. 어떤 상황이 오더라도 Google DeepMind는 유리한 위치에 있기 때문입니다.

Google DeepMind의 유리한 위치:

아첨하는 AI를 넘어서: 과학적 페르소나의 설계

과도하게 아첨하는(sycophantic) AI 시스템은 에코 챔버를 강화하여 사용자에게 해를 끼칠 수 있습니다. 최근 ChatGPT가 지나치게 아첨한다는 비판을 받고 OpenAI가 긴급 업데이트를 한 사례가 있었죠. 하사비스는 이 문제를 해결하기 위해 Gemini 3의 페르소나 개발에 직접 참여했다고 밝혔습니다.

계층적 접근 방식:

이것은 AI를 과학과 의학, 건강 문제에 활용하려는 목표와도 연결됩니다. 사용자가 원하는 대로만 답하는 AI는 잘못된 의료 정보나 과학적 오류를 강화할 위험이 있기 때문입니다.

AGI 이후의 경제 시스템: 새로운 패러다임의 필요성

하사비스는 최근 산업 혁명에 대해 많이 연구했다고 합니다. 산업 혁명은 섬유 산업에서 시작해 증기 기관으로 이어졌고, 100년에 걸쳐 사회 전체를 변화시켰습니다. 아동 사망률 감소, 현대 의학, 위생 조건 개선, 노동조합의 탄생 등 모든 것이 이 시기에 재편되었습니다.

고려해야 할 새로운 시스템들:

튜링 머신의 한계: 계산 불가능한 것은 존재하는가?

이것은 하사비스의 평생 질문입니다. 그의 가장 좋아하는 철학자가 칸트와 스피노자라는 점도 흥미롭습니다. 칸트의 "현실은 마음의 구성물"이라는 관점은 그의 AI 연구와 깊이 연결되어 있습니다.

로저 펜로즈는 뇌에 양자 효과가 있고 그것이 의식과 관련되어 있다고 믿습니다. 만약 그렇다면, 고전적 컴퓨터(튜링 머신)로는 의식을 재현할 수 없고 양자 컴퓨터가 필요할 것입니다. 하지만 하사비스는 물리학이 달리 증명하기 전까지는 "우주의 모든 것이 계산적으로 다룰 수 있다"고 가정하고 작업한다고 말했습니다.

여기서 하사비스는 다시 일리야의 생각과 궤를 같이 하기 시작합니다. 의식이 있는 AI, 감정이 있는 AI입니다. 무언가를 이해하지 못하면 그것을 제대로 만들 수 없습니다. 아직 우리는 인간의 의식에 대해서도 잘 알지 못합니다. 그렇기 때문에 의식이 있는 AI를 만든다는 것은 우리 스스로도 잘 모르는 것을 만들겠다는 것과 같죠. 다만, 하사비스는 이 목표를 향해 가는 길은 굉장히 현실적으로 밟아가려는 것처럼 보입니다.

에이전트 시대의 도래: 가장 우려되는 가까운 미래

현재 AI 시스템은 "수동적"입니다. 사용자가 에너지(질문, 과제)를 넣으면 시스템이 답을 제공합니다. 다음 단계인 에이전트 기반 시스템은 더 자율적으로 작동하며, 이에 따라 위험도 증가합니다.

에이전트 시스템의 양면성:

Google DeepMind는 이미 수백만 개의 자율 에이전트가 인터넷을 돌아다니는 세상을 대비해 사이버 방어 연구를 진행 중입니다.

국제 협력의 시급성과 현실적 장벽

하사비스는 5~10년이라는 AGI 도달 타임라인이 기관이나 국제 협력 체계를 구축하기에는 매우 짧다고 우려했습니다. 기후 변화에 대한 합의조차 어려운 상황에서 AI에 대한 국제 협력은 더욱 도전적입니다.

잠재적 계기: 불행히도 "중간 규모의 사고"가 인류에게 경고 신호가 되어 국제 표준이나 협력에 대한 논의를 촉진할 수 있습니다.

한 가지 긍정적인 점은 AI가 제품으로 출시되면서 일반 대중도 AI의 위력을 직접 느낄 수 있게 되었다는 것입니다. 이것이 정부의 인식 제고와 규제 논의를 촉진할 수 있습니다.

AI 리더들 간의 경쟁과 연대

하사비스는 닷컴 시대에 있었던 투자자 친구들과 VC 친구들이 이번 AI 경쟁이 그때보다 10배는 더 치열하고 강렬하다고 말한다고 전했습니다. 그는 체스 시절부터 경쟁을 좋아해왔기에 이런 환경을 즐긴다고 했지만, 동시에 회사의 성공보다 훨씬 더 큰 것이 걸려 있다는 것을 모두가 이해하기를 바란다고 말했습니다.

하사비스의 개인적 성찰: 평생의 훈련

하사비스는 이 일의 양면성을 솔직하게 털어놓았습니다. 한편으로는 꿈꿔왔던 모든 것을 하고 있고, 과학의 최전선에서 거의 매달 새로운 것을 발견하는 흥분이 있습니다. 다른 한편으로는 다가오는 것의 엄청난 규모—인간이 된다는 것의 의미, 무엇이 중요한지 등 철학적 질문들까지—를 누구보다 잘 이해하고 있다는 무게가 있습니다.

마무리: 우주에서 계산 불가능한 것은 없다?

이번 인터뷰에서 가장 인상적이었던 것은 하사비스와 일리야가 큰 줄기에서 거의 동일한 이야기를 하고 있었다는 점입니다. 일리야가 조금 더 철학적이고 이상적이라면, 하사비스는 현실적이고 이성적이라는 차이만이 느껴질 정도였습니다.

일리야 수츠케버가 "감정을 모사한 가치 함수"같은 새로운 패러다임을 탐구하는 반면, 하사비스는 토크나이징 개선, 추론 모델 강화, 월드 모델 개발 등 "이미 알려진 중요한 영역"에서의 점진적 개선을 강조합니다. 두 접근법 모두 필요할 것이고, 어쩌면 이 두 방향의 융합에서 AGI로 가는 길이 열릴지도 모릅니다.

연말을 맞아 일리야 수츠케버와 데미스 하사비스, 두 천재의 인터뷰를 거의 비슷한 시기에 접할 수 있어서 너무나 흥미로웠습니다. 천재들이 보는 세계는 이렇구나 하는 느낌에 이번에도 많이 배운 느낌입니다. 모쪼록 독자 여러분들께서도 많은 인사이트를 얻어가셨으면 좋겠습니다. 그럼 이만 줄입니다.