[에디터노트] 우리는 지금 AI가 사람보다 똑똑해진 첫 해를 살고 있다

OpenAI의 ChatGPT가 발표(2022.11.30)된 지 1년이 지났다.

지난 1년 동안 GPT-4 모델은 얼마나 똑똑해졌을까?
앞으로 2년간 AI는 얼마나 더 똑똑해 질수 있을까?

인공지능 모델의 크기는 적용된 파라미터(변수) 갯수에 비례한다.
GPT-3 대비 GPT-4 모델 크기는 10배 이상 증가했다.
모델을 training하는 비용 역시 모델 크기에 비례해서 증가했다.

지금까지는 모델 크기를 10배 단위로 키워도 한계점이 나타나지 않고 모델 크기에 비례해서 성능이 개선되고 있다. 따라서, 인공지능 모델을 개발하는 업체들은 환호를, 나머지 업체들은 생존의 두려움을 느끼고 있다.

일각에서는 OpenAI의 다음번 모델인 GPT-5를 training 비용은 $500M 혹은 $1B 수준이 될 것이라고 얘기한다.

현업 AI 스타트업에 몸담고 있는 사람들은 앞으로 2년의 시간을 어떻게 바라보고 있을까.

1 . 달리기 속도

인공지능 모델 성능을 사람, 동물, 그리고 '사람이 만들어 낸 탈 것'의 달리기 속도와 비교해서 생각해보자.

사람보다 크기가 작은 동물들은 사람보다 달리기 속도가 느리다.
예를 들면 쥐, 닭, 오리와 같은 동물은 땅 위에서 달리기 속도가 사람보다 느리다.

'사람이 만들어 낸 탈 것'은 자전거, 말, 마차, 증기기관, 내연기관 순으로 발달해 왔다. 
처음 만들어진 증기기관은 사람이 달리는 속도보다 느렸을 것이다. 
하지만 오늘날 우리는 그 누구도 사람의 달리기 속도를 자동차와 비교하지 않는다.

자동차가 사람보다 빨리 달리는 게 당연한 것처럼, 
우리는 지금 AI가 사람보다 똑똑한 게 당연해지는 순간을 지나고 있다.

2 . 인공지능 모델크기

인공지능 모델의 파라미터 갯수를, 동물의 '대뇌피질 뉴런 갯수'에 대입해보면 흥미롭다. 
GPT-4의 성능이 사람과 유사한 수준이므로, 
GPT-4의 파라미터 수를 사람의 '대뇌피질 뉴런 갯수'라고 생각하고 역산해서 다른 동물에 대입해 보면, 기린은 GPT-3 수준의 뉴런 갯수를, 쥐는 GPT-2 수준의 뉴런 갯수를 가지고 있다.

쥐가 생각할 수 없는 것을, 기린은 생각할 수 있다.
기린이 생각할 수 없는 것을, 사람은 생각할 수 있다.
사람이 생각할 수 없는 것을, 2년 후 AI는 생각할 수 있게 될 것이다.

3 . 고수들의 대화

1997년 인터넷 시대를 목격했던, 그리고 2023년 현재 AI와 관련된 새로운 스타트업을 현업에서 운영하고 있는 창업자들의 대화를 들어보면, 인공지능 관련 시장의 생생한 현재 분위기와 다가올 5년의 그림을 엿볼 수 있다.

EP.11 AI 시대 이미 돈벌고 있는 회사 - 올거나이즈 이창수 대표 이야기 (2023.8.30)

1 . 앞으로 3년간 AI 모델크기는 지난 3년과 같은 속도로 커질 것 (노정석 대표)*1
2 . 향후 4년간 training 수요를 받쳐줄 GPU를 생산할 수 있는 회사는 NVIDIA 밖에 없을 것 (이창수 대표)*2
3 . GPT-4는 이미 왠만한 사람보다 낫다 (최승준 대표)
4 . 이 속도라면 2년 내에 singularity가 올 수도 있다 (노정석 대표 개인의견)
5 . OpenAI 및 Google 내에서는 '이미 superintelligence에 매우 가까워진 것 같은 분위기'가 감지됨 (노정석 대표)*3

*1 모델크기가 증가할 수록 선형적으로 놀라운 수준의 기술 개선을 보여주고 있기 때문
*2 따라서 향후 4년 정도는 NVIDIA 실적이 계속 좋아질 것 같다
*3 OpenAI / Google에서 최신 모델을 작업해 본 researcher들의 의견

실밸리서치클럽 - 오픈채팅

실밸리서치클럽 - 팟캐스트