안녕하세요, 구독자님 언타랩스입니다. VC 투자가로서 6년 그리고 앞으로 사업가로서의 인사이트를 가득 담아 이야기 풀어내 보겠습니다. 😀
이번 뉴스레터는 지난 호에 이어 실리콘밸리에서 논란이 된 전 오픈AI 연구원 레오폴드 아셴브레너의 AGI(인간과 유사한 지능과 스스로 학습할 수 있는 능력을 갖춘 인공지능) 관련 이야기를 다룹니다.
방식을 살짝 바꿔서 인터뷰 형식으로 내용을 재구성 했습니다.
🎯 TLDR;
1. 초지능의 출현 - 인공지능 연구의 자동화를 통해 인간 수준을 달성하고 몇 년 이내에, '인간보다 훨씬 더 똑똑하고, 우리가 이해할 수 없는 새롭고 창의적이며 복잡한 행동을 할 수 있는 수준의 지능'을 가진 초지능을 개발 할 수 있을 것
2. 로봇공학과 우주산업의 발전 - 초지능이 주도하는 연구 개발을 통해 과학기술이 빠르게 발전할 것
3. 군사적 국제 정세의 급변 - 초지능을 통제하는 자는 아마도 기존의 비초지능 세력으로부터 권력을 빼앗을 수 있을 만큼 강력할 것
II. AGI에서 초지능으로: 지능 폭발
From AGI to Superintelligence: the Intelligence Explosion
AI의 진보는 인간 수준에서 멈추지 않을 것입니다. 수억 개의 AGI가 AI 연구를 자동화하여 10년 분의 알고리즘 진보(5+ OOM)를 ≤1년으로 압축할 수 있습니다. 우리는 인간 수준에서 엄청나게 초인적인 AI 시스템으로 빠르게 이동할 것입니다. 초지능의 힘과 위험은 극적일 것입니다.
AI progress won’t stop at human-level. Hundreds of millions of AGIs could automate AI research, compressing a decade of algorithmic progress (5+ OOMs) into ≤1 year. We would rapidly go from human-level to vastly superhuman AI systems. The power—and the peril—of superintelligence would be dramatic.
Q. 여기서 말하는 Superintelligence 초지능이란 무엇인가요?
A. 인간보다 훨씬 더 똑똑하고, 우리가 이해할 수 없는 새롭고 창의적이며 복잡한 행동을 할 수 있는 수준의 지능을 말합니다.
Q. 어떻게 초지능의 출현을 확신하시나요?
A. 간단합니다. 인간 수준의 인공지능이 만들어지면, 그 이상은 훨씬 빠르게 이뤄질 겁니다. 왜냐하면 우리는 인공지능 연구를 자동화시킬 것이기 때문입니다.
인공지능 연구가 자동화된다면, 인공지능은 단 몇 년 만에 인간을 능가하는 초지능으로 발전할 수 있습니다. 수백만 개의 AI 시스템이 하루 종일 기계 학습 연구를 진행한다면, 알고리즘의 발전 속도는 급격히 가속화될 것입니다. 이로 인해 AI가 기존의 연구를 몇 배나 빠르게 진행할 수 있게 되죠.
Q. 하지만 AI가 모든 것을 자동화하기 어려운 분야도 있지 않나요? 예를 들어 로봇공학이나 생물학 R&D 같은 경우 말입니다.
A. 모든 것을 자동화할 필요는 없습니다. AI 연구만 하면 됩니다.
하지만 AI가 AI 연구를 자동화하려면 로봇공학이 필요하지 않습니다. 많은 것도 필요하지 않습니다. 선도적인 연구실의 AI 연구자와 엔지니어의 업무는 완전히 가상으로 수행될 수 있습니다. 그리고 AI 연구자의 업무는 큰 그림에서 보면 상당히 간단합니다. ML 문헌을 읽고 새로운 질문이나 아이디어를 생각해 내고, 그 아이디어를 테스트하기 위한 실험을 구현하고, 결과를 해석하고, 반복하면 됩니다.
Q. AI 연구의 자동화가 이루어지려면 얼마나 많은 AI 연구원이 필요할까요?
A. 우리는 자동화된 AI 연구자들의 수백만 개의 사본을 실행할 수 있게 될 것입니다. 심지어 2027년까지는 수천만 대의 GPU 함대를 예상해야 합니다. 훈련 클러스터만 해도 약 3 OOM 더 커질 것이고, 이미 1천만 개 이상의 A100과 동등한 함대를 보유하고 있습니다.
이는 AI 연구를 자동화할 수 있게 된 지 얼마 지나지 않아 1억 명의 자동화된 연구자들이 각각 100배의 인간 속도로 일할 것으로 예상됩니다. 그들은 며칠 만에 1년치의 작업을 할 수 있을 것입니다.
Q. 말처럼 쉽지 만은 않을 것 같은데요. AI 연구 자동화를 가로막는 어려움이 있다면 무엇인가요?
A. 물론, 몇 가지 도전 과제가 있습니다. 연구 컴퓨팅의 제한, 알고리즘 진보의 내재적 한계, 그리고 새로운 아이디어의 어려움 등이 대표적입니다.
그러나 자동화된 AI 연구는 인간 연구자를 능가하는 직관과 효율성을 바탕으로 이러한 병목 현상을 극복할 가능성이 높습니다. AI는 데이터 분석과 패턴 인식에서 뛰어난 성능을 발휘하여, 기존의 한계를 뛰어넘는 혁신적인 솔루션을 제공할 수 있습니다.
Q. 그럼 결국 초지능이 탄생할 것이라고 믿으시나요?
A. 가장 급진적인 시나리오대로 지능 폭발 이후 1년 이내 초지능이 발생할 수도 있습니다. 분명한 것은 우리는 초지능의 가능성에 마주해야 한다는 사실입니다. 이 10년이 끝날 무렵 우리가 갖게 될 AI 시스템은 상상할 수 없을 만큼 강력해질 것입니다. 초지능은 많은 영역에서 인간을 능가하며, 엄청난 혁신과 발전을 이끌 것입니다.
Q. 그렇다면 초지능이 등장하면 우리 사회에 어떤 영향을 미칠 것이라고 생각하시나요?
A. 초지능의 영향은 매우 광범위하고 깊을 것입니다. 양적으로는 10년 안에 수십억 개의 GPU로 구성된 문명을 운영할 수 있을 것이고, 그들은 인간보다 훨씬 더 빠르게 "생각"할 수 있을 것입니다.
그들은 모든 도메인을 빠르게 마스터하고, 수조 줄의 코드를 작성하고, 지금까지 쓰여진 모든 과학 분야의 모든 연구 논문을 읽고 새로운 논문을 작성하며, 몇 주 만에 새로운 혁신으로 수십억 년의 인간과 동등한 경험을 얻게 될 것입니다.
Q. 그렇다면 질적으로는 어떤 변화가 있을까요?
A. 질적으로도 큰 변화를 가져올 것입니다. 대규모 강화학습은 AlphaGo가 이세돌을 이긴 유명한 사례처럼 인간의 이해를 넘어서는 완전히 새롭고 창의적인 행동을 만들어낼 수 있습니다.
초지능은 인간 코드에서 너무 미묘하여 어떤 인간도 알아차리지 못할 악용을 찾아내고, 모델이 수십 년 동안 설명하려고 노력해도 어떤 인간도 이해하기 어려울 만큼 복잡한 코드를 생성할 수 있습니다. 인간이 수십 년 동안 고심할 극도로 어려운 과학 및 기술 문제가 그들에게는 너무나 당연해 보일 것입니다.
Q. 구체적으로 어떤 분야에서 폭발적인 발전이 일어날까요?
A. 대표적으로 로봇공학과 AI 주도 R&D가 있습니다.
예를 들어, 로봇공학에서는 AI가 지휘하는 로봇 무리가 다양한 작업을 수행하게 될 것입니다. 또한, 우주 산업에서는 AI가 연구와 개발을 주도하여 새로운 혁신을 가능하게 할 것입니다.
Q. 이런 발전이 세계 경제에 어떤 영향을 미칠까요?
A. 매우 가속화된 기술 발전과 모든 인간 노동의 자동화 능력이 결합되면 경제 성장은 급격히 가속화될 것입니다. 이는 연간 2%에서 2.5%로의 성장률 증가가 아니라, 산업 혁명 때의 성장 모드 변화와 유사한 근본적인 변화가 될 것입니다.
과거 수렵, 농업, 과학과 상업, 산업 시기마다 경제의 배가 시간이 점차 단축되었듯이, 초지능의 등장으로 인해 세계 경제의 배가 시간이 더욱 단축될 것입니다. 구체적으로, 초지능이 등장하면 세계 경제가 몇 년 안에 배가 될 가능성이 있습니다.
| 성장 모드 (Growth mode) | 시기 (Date began to dominate) | 세계 경제가 배가 되는 시간(Doubling time of the global economy, 년) |
|---|---|---|
| 수렵 | 기원전 2,000,000년 | 230,000 |
| 농업 | 기원전 4700년 | 860 |
| 과학과 상업 | 1730년 | 58 |
| 산업 | 1903년 | 15 |
| 초지능? | 2030년? | ??? |
Q. 너무 장미빛 미래 아닐까요?
A. 사회적 마찰로 인해 지연될 가능성도 있습니다. 예를 들어, 복잡한 규제는 변호사와 의사가 여전히 인간일 필요가 있다고 할 수 있으며, 사회가 급격한 변화에 저항하면서 빠르게 확장하는 로봇 공장의 기어에 모래를 던질 수 있습니다. 그러나 군사 생산과 같은 도메인에서 인간이 만든 장벽을 제거하면 산업 폭발이 일어날 것입니다.
Q. AI 군대요?
A. 초지능은 군사적으로 결정적이고 압도적인 이점을 제공할 수 있습니다. 초기의 인지적 초지능이라도 적군의 군사력을 비활성화할 수 있는 초인적인 해킹 계획을 통해 군사적 우위를 점할 수 있습니다. 드론 무리와 로봇 군대는 그저 시작에 불과하며, 새로운 형태의 무기, 예를 들어 새로운 대량살상무기(WMD)나 무적의 레이저 기반 미사일 방어 시스템 등이 등장할 것입니다. 이는 마치 21세기 군대가 19세기 말의 말과 총검으로 무장한 여단과 싸우는 것과 같은 차이가 있을 것입니다.
Q. 초지능이 미국 정부를 전복할 수도 있나요?
A. 초지능을 통제하는 자는 아마도 기존의 비초지능 세력으로부터 권력을 빼앗을 수 있을 만큼 강력할 것입니다. 로봇이 없어도, 소수의 초지능 집단은 방어되지 않은 군사, 선거, 방송 시스템 등을 해킹하고, 교묘하게 장군들과 유권자들을 설득하며, 국가를 경제적으로 능가하고, 새로운 합성 생물 무기를 설계한 뒤 비트코인으로 사람을 고용해 이를 합성할 수 있습니다.
Q. 이야기만 들어도 어질어질 해집니다. 초지능이 등장하면 세계는 어떻게 변할까요?
A. 초지능이 등장하면 모든 것이 매우 빠르게 진행될 것입니다. 세계는 미쳐 돌아가기 시작할 것입니다. 이 시점에서 초지능 AI 시스템이 우리의 군사와 경제를 운영하게 될 것입니다. 이런 혼란 속에서 우리는 올바른 결정을 내릴 시간이 극히 부족할 것입니다.
초지능의 가능성을 직면하는 것은 초기 핵 연쇄 반응과 원자 폭탄의 가능성을 둘러싼 논쟁을 떠올리게 합니다. 1914년 HG 웰스는 소설에서 원자폭탄을 예견했지만, 1933년 실라드는 연쇄 반응의 아이디어를 처음으로 제시했을 때 아무도 이를 믿지 않았습니다. 그러나 1938년에 핵분열이 실험적으로 발견되었을 때, 상황은 급변했습니다.
Q. 그렇다면 우리는 초지능의 가능성을 어떻게 받아들여야 할까요?
A. 우리는 다시 한번 연쇄 반응의 가능성을 직면해야 합니다. 이는 여러분에게는 투기적으로 들릴 수 있습니다. 그러나 AI 연구소의 많은 고위 과학자들은 급격한 지능 폭발이 매우 가능성이 있다고 보고 있습니다. 그들은 초지능이 현실적이라는 것을 인식하고 있습니다. 초지능은 가능합니다. 우리는 이를 진지하게 받아들이고 대비해야 합니다.
👀 언타랩스의 생각
초지능이 개발되면 인류가 멸망할 거라고요? 그런 비관론을 이야기 하고자 글을 쓴건 아닙니다.
"비관론자는 명성을 얻고, 낙관론자는 돈을 번다"는 격언처럼, 기술 발전 속에서 비즈니스와 투자 기회를 찾는 것이 훨씬 더 흥미롭지 않나요?
어떤 기술이 얼마나 빠르게 개발되고 있는지를 알아야 적절한 타이밍에 투자할 수 있고, 어떤 도전과제가 있는지를 알아야 자원이 투입될 분야도 알 수 있으니까요.
이번 글에서 얻은 인사이트는 이겁니다: 앞으로 4년, 아니면 6년 후에 초지능이 개발된다면, 로봇공학과 우주공학에서 엄청난 발전이 일어날 것입니다. 방위산업에도 대격변이 예상되고요. 정말 흥미진진하지 않나요?
다음 뉴스레터에서는 초지능 개발을 위해 우리가 넘어야 할 도전 과제들을 탐구해볼 계획입니다. 이 과정에서 미국과 중국이 집중 투자할 분야도 엿볼 수 있지 않을까요? 기대해 주세요!
그럼 다음 뉴스레터에서 뵙겠습니다. 감사합니다.
세상을 바꾸는 기술에 관심이 많은 언타랩스입니다.
인공지능 기술이 나의 일과 사회에 미칠 영향을 공부하고 이를 투자와 사업에 적용하고 싶은 분들, 댓글을 통해 이야기 나누며 같이 공부하면 좋겠습니다!
언타랩스와 함께, AI의 흥미로운 발전을 계속 따라가고 싶다면?
🚀 뉴스레터 구독
의견을 남겨주세요