데미스 허사비스 vs 얀 르쿤

Divided by Zero에 오신 걸 환영합니다. IT테크, 스타트업 그리고 자본시장에 대한 2차적 사고를 공유합니다.

Merry Christmas!

오늘은 크리스마스를 맞아 재밌는 AI 논쟁을 한번 다뤄보고자 합니다. 구독자 여러분들께 따뜻한 크리스마스 선물이 되길 바랍니다. 모두들 행복한 연말되세요!

이제는 우리나라에서도 어느정도 유명해진 구글 딥마인드의 대표 데미스 허사비스와 메타의 AI 수장(이었던) 얀 르쿤의 논쟁인데요.

계기는 지난 12월 15일 공개된 얀 르쿤의 발언이었습니다.

"일반 인공지능(AGI)? 그런 건 없다. 인간 지능도 특화된 것일 뿐이다. LLM만 키워서 초지능을 만든다는 건 완전한 개소리다."

사실 얀 르쿤은 계속해서 LLM의 한계에 대해 지적해오긴 했습니다만, 이 말은 현재 구글, 오픈AI, 마이크로소프트가 쏟아붓고 있는 수백조 원의 투자가 헛된 꿈일 수 있다는 도발이었습니다. 그리고 1주일 뒤에, 데미스 허사비스가 장문의 반박을 내놓았죠. 허사비스는 르쿤이 용어를 혼동하고 있다고 지적하며, AI는 인간처럼 무엇이든 배울 수 있는 존재가 될 것이라고 방어했습니다.

흔한 트위터 논쟁이라고 볼 수도 있겠지만 사실 이 논쟁은 단순한 자존심 싸움이 아닙니다. 현재의 스케일링 법칙(Scaling Law)이 유효한가에 대한 근본적인 철학적 충돌이자, 빅테크들의 주가 향방을 가를 수 있는 중대한 논쟁인 셈입니다. 과연 허사비스의 반박은 합리적일까요, 아니면 회사의 주가를 방어하기 위한 전략일까요?
(물론 당연히! 이 대가들의 지식을 검증하는건 어렵겠지만 어떤 방향인지는 체크해보자는 겁니다)

보편 지능

허사비스 반박의 핵심은 "얀 르쿤이 말하는 건 AGI(일반 지능)가 아니라 보편 지능"라는 구분 짓기였습니다. 허사비스는 보편 지능을 모든 환경에서 완벽하게 작동하는 신(God) 같은 능력으로 정의하고, "그런 건 당연히 없다. 하지만 우리가 만드는 건 인간 수준의 일반 지능"이라고 선을 그었죠.

이 구분은 학계에 존재하지 않는 허사비스만의 새로운 구분법이긴 합니다. 허사비스와 함께 딥마인드를 창업한 셰인 레그(Shane Legg)조차 2007년 논문에서 보편 지능을 일반 지능을 수학적으로 측정하기 위한 용어로 썼을 뿐, 둘을 대립되는 개념으로 보지 않았습니다. AI 커뮤니티나 교과서 어디에도 이런 이분법을 딱히 제시하지 않았습니다.

허사비스가 새로운 접근법으로 설명을 시도하려했던 이유는 뭘까요? 어떻게보면 얀 르쿤의 지적("인간도 특화된 존재다")을 피하기 위해, 르쿤의 주장을 "AGI는 전지전능해야 한다"는 주장으로 프레이밍시키려 한 겁니다. 논리적으로는 완벽한 방어지만, 학문적으로는 새롭게 정립해야하는 접근인 셈이죠.

얀 르쿤, 출처: The Information Bottleneck Youtube

사실 이 논쟁에서 가장 난해하지만 중요한 개념은 바로 공짜 점심은 없다(No Free Lunch, NFL) 정리입니다. 허사비스는 이 정리를 인용하며 "어떤 알고리즘도 모든 문제에서 완벽할 순 없다. 그러니 특화(Specialization)는 당연한 거다"라고 이야기했습니다.

NFL 정리의 핵심은 이렇습니다.

"세상의 모든 문제가 랜덤하게 발생한다고 가정할 때, 어떤 최적화 알고리즘도 무작위로 찍는 것보다 나을 게 없다." 즉, 모든 상황에서 만능인 알고리즘은 수학적으로 불가능하다는 것이죠. 허사비스는 이 정리를 방패 삼아 "인간이나 AI나 어차피 완벽할 순 없으니, 약간의 편향(Bias)을 가지는 건 AGI의 결격 사유가 아니다"라고 말하고 싶었던 겁니다.

하지만 현실은 모든 문제가 균등하게 발생하는 랜덤 세계가 아닙니다. 우리가 마주하는 문제는 물리 법칙과 인과 관계라는 강력한 패턴을 따릅니다. 따라서 현실 세계에 특화된 귀납적 편향을 가진 알고리즘은 랜덤 알고리즘보다 압도적으로 뛰어날 수 있습니다. 르쿤이 LLM을 비판하는 이유도 바로 여기에 있습니다. "텍스트 다음에 올 단어를 맞히는 것"만으로는 물리 세계의 복잡한 인과 관계를 배울 수 없다는 거죠.

허사비스는 "애초에 수학적으로 만능은 불가능"하다고 방어했지만, 르쿤은 "LLM은 현실 세계라는 시험 문제에 맞지 않는 공부법"이라고 공격하고 있는 셈입니다.

근사

허사비스의 주장에서 또 하나 핵심적인 부분은 "인간의 뇌와 파운데이션 모델은 '근사적 튜링 머신'이므로, 시간과 데이터만 충분하면 무엇이든 배울 수 있다"는 겁니다.

튜링 머신은 무한한 메모리 테이프를 가진 이론상의 컴퓨터를 말하는데요. 이론적으로 튜링 머신은 계산 가능한 모든 문제를 풀 수 있죠. 허사비스는 LLM도 (외부 메모리 등을 붙이면)튜링 머신과 같으니, 결국 인간처럼 모든 걸 할 수 있게 될 거라고 주장합니다.

하지만 여기서 근사적이라는 단어에 주목할 필요가 있습니다. 

일단 현재 시점에서 인간과 AI는 무한한 메모리가 없습니다. 르쿤이 "인간은 체스 수 읽기를 못한다"고 한 것도 바로 이 메모리의 한계 때문이죠. 

더불어 튜링 머신이 어떤 계산을 '수행'할 수 있다는 것과, 데이터만 던져주면 그 계산법을 스스로 '학습'할 수 있다는 건 전혀 다른 문제입니다. 계산 이론에 따르면, 무한한 컴퓨팅 파워가 있어도 데이터만으로는 절대 배울 수 없는 함수들이 존재한다고도 하구요.

즉, 허사비스는 "컴퓨터니까 이론상 뭐든 돌릴 수 있다"라고 말한 것이지, "현재의 AI가 스스로 그 방법을 깨우칠 수 있다"를 증명한 건 아닙니다. 능력과 학습 가능성을 섞어서 이야기한 것이죠.

두 석학의 시각차는 체스를 바라보는 관점에서 극명하게 갈립니다.

얀 르쿤의 관점에서는 "인간을 보자. 고작 체스판의 몇 수 앞도 못 내다봐서 스마트폰 체스 앱한테도 지지 않는가. 인간 지능은 메모리와 연산 속도에 제약이 있는 매우 특화된 기계일 뿐이다"고 하고 있고

허사비스의 관점에서는 "체스라는 게임을 만든 게 누구인가? 바로 인간이다. 수렵 채집하던 뇌로 체스도 만들고, 양자역학도 만들었다. 실행 속도는 느릴지 몰라도, 새로운 개념을 만들어내는 이 '일반화 능력'이야말로 AGI의 핵심이다."고 하고 있습니다.

둘 다 맞는 말입니다.

르쿤은 지능을 최적화(Optimization)의 관점에서 보고 있고, 허사비스는 적응력(Adaptability)의 관점에서 보고 있는 겁니다. 하지만 이 논쟁이 LLM의 미래를 보장해주진 않습니다. 인간이 체스를 만든 건 대단하지만, 르쿤의 주장대로 그것조차 "생존을 위해 진화한 고도화된 패턴 인식 능력"이라는 또 다른 형태의 특화(Specialization)일 수 있기 때문이죠.

AGI로 가는 길은 하나가 아닐수도

정리해보았지만 사실 이 논쟁의 승자를 가리는 건 무의미합니다. 학술적인 팩트만 놓고 보면, 새로운 접근법을 제시하고 이론적 개념을 다소 확대한 허사비스보다는 르쿤의 냉정한 지적이 더 날카로웠습니다.

하지만 우리가 주목해야 할 것은 두 석학의 교차점입니다. 르쿤은 대놓고 "LLM은 답이 아니다"라고 말했고, 사실 허사비스조차 "데이터와 메모리가 충분하다면", "근사적으로"라는 단서를 달며 현재 방식의 한계를 우회적으로 인정하게 됐습니다. 어쩌면 지금의 GPT 방식만으로는 진정한 AGI에 도달하기 어렵다는 것을 둘 다 알고 있는 겁니다.

프랑수아 숄레(François Chollet, ARC-AGI benchmark 개발) 같은 제3의 전문가들은 AGI의 도래 시점을 2038년 이후로 봅니다. 지금의 열광적인 버블과는 거리가 멀죠. 이렇게 보면 허사비스의 반박은 기술적 확신이라기보다는 "우리의 투자는 틀리지 않았다"는 것을 시장에 안심시키려는 경영자의 수사학에 가까워 보입니다.

AGI는 오겠지만, 그 길은 허사비스가 말하는 '모든 것을 배우는 기계'보다는 훨씬 더 복잡하고, 르쿤의 말처럼 '특화된 모듈들의 결합'에 가까울지도 모릅니다. 하지만 확실한 건, 이 논쟁이 치열해질수록 우리가 '지능'의 본질에 조금 더 가까이 다가가고 있다는 사실입니다.