인공지능

강화학습의 대가 리처드 서튼 교수가 말하는 AI와의 공존

AI로 인해 더욱 흥미롭고, 더욱 풍족하고, 더욱 다이나믹하고, 더욱 도전적인 세상이 올 것입니다.

2024.11.22 | 조회 263 |
0
|
주간 Tech Review의 프로필 이미지

주간 Tech Review

IT 업계의 정보와 인사이트를 공유하고 있습니다.

캐나다 앨버타 주립대 교수이자 앨버타 기계 지능 연구소 (AMII: Alberta Machine Intelligence Institute) 수석 과학 고문, 리처드 서튼 교수의 Upper Bound 2023 행사 키노트 연설을 리뷰해봤습니다.

리처드 서튼 (Richard Sutton):

  •  1956년생, 68세 (추정)
  • 캐나다 앨버타 대학 교수, 앨버타 기계지능 연구소(Amii)의 수석 과학 고문
  • 강화학습의 선구자: 현대 강화학습 이론의 기초를 다진 연구자
  • "Reinforcement Learning: An Introduction"이라는 강화학습의 고전적인 교과서를 저술
  • 강화학습 (Reinforcement Learning)은 구글의 알파고 및 OpenAI의 ChatGPT에 활용

AI 내러티브

  • AI를 둘러싸고 크게 두 방향의 견해가 존재, 리처드 서튼 본인은 AI의 미래에 대해 매우 긍정적이나 현 시점에서는 부정적인 견해가 지배적
  • 인간보다 더욱 지능이 높은 인공지능이 등장하면, 인공지능이 인간을 통제하거나 멸종시킬 수 있다는 두려움이 많이 퍼져있음
  • 이는 인간 역사에서 반복되어온 지배/피지배 프레임워크가 동작하기 때문임. 늘 낯선 부족과의 만남은 긍정적이지만은 않았음
  • 힘이 센 부족은 힘이 약한 부족을 굴복시켜 노예로 삼거나 학살해온 역사가 있고, 같은 역사가 인간과 인공지능 사이에서 반복되지 않을까 두려워하는 마음이 드는 건 어쩔 수 없음
  • 그래서 인공지능이 오로지 인간에게 이익이 되게금 통제할 필요성이 부각되는데, 본인은 여기에 동의하지 않음

전반적으로 저는 AI가 세상을 더 좋은 곳으로 만들어줄 것이라고 생각합니다. 더욱 흥미롭고, 더욱 풍족하고, 더욱 다이나믹하고, 좋은 측면에서 더욱 도전적인 세상이 올 것이라고 믿습니다.

앨버타 주립대 교수 리처드 서튼

컴퓨팅의 시대

  • 지난 100년간, 2년마다 컴퓨팅 능력이 2배씩 증가한다는 무어의 법칙은 너무나도 확실하게 맞아왔고, 심지어 근래에 들어서는 이 주기가 18개월 주기로 더 짧아지는 모습까지 모임
  • 물론 많은 알고리즘이 연구되고 데이터가 투입되었지만, 결국 기술의 혁신을 이끄는 건 바로 컴퓨팅 능력의 기하급수적인 증가 때문임
지난 100년간 컴퓨팅 능력의 변화
지난 100년간 컴퓨팅 능력의 변화

Tool AI와 Agent AI

  • LLM이 굉장히 주목을 받지만 그 자체는 사람이 사용하는 "도구"일 뿐
  • 물론 이 "도구"로 세상이 크게 바뀌겠지만, 사람이 사용하지 않으면 아무 일도 하지 않기 때문에 인류에 크게 위협이 되지는 않음
  • 1960년대에 ELIZA라는 챗봇이 등장한 적이 있음. 마치 인간처럼 대화하는 형태를 보고 사람들이 열광했지만, 이것은 단순한 반문하기를 사람들이 과대해석한 것임
  • 반면 Agent는 명확한 목적이 있고, 주변을 관찰하고 스스로 다음 행동을 결정하는 특징이 있음
  • 인공지능이 인류에게 위협이 된다면 Agent AI일 가능성이 높음
1960년대에 개발된 Eliza 챗봇, 지금의 ChatGPT처럼 채팅기반 인터페이스로 만들어졌다.
1960년대에 개발된 Eliza 챗봇, 지금의 ChatGPT처럼 채팅기반 인터페이스로 만들어졌다.
첨부 이미지

지능에 대한 탐구

  • 플라톤 시절부터 인류는 지능의 기원에 대해 알고 싶어했음
  • 지능을 비롯해 사람의 마음이 어떻게 동작하는지 수천년간 많은 사람들이 탐구해왔음
  • 혹자는 지능이 초신성보다 강력한 힘이라고 얘기하기도 함. 그 이유는 초신성이 10억년 후에 폭발해서 우주에 미치는 영향보다, 지능이 10억년 동안 발달해서 우주에 미치는 영향이 명백하게 더 클 것이기 때문
  • 지능은 단순히 하나의 능력이 아님. 다음에 나올 단어를 "예측"하는 능력 하나만으로 지능이라고 부르긴 어려움
  • 사람들은 유행처럼 어떤 하나의 능력이 지능이라고 정의하고, 또 시간이 지나면 새로운 유행이 오는 것이 반복되었음. 대표적인 사례가 ELIZA임.
  • 지능을 정의하고, 동작원리를 이해하는 것은 인간 역사의 오래된 미스테리이자 큰 숙제임
  • 그리고 지능을 온전히 이해하고 나서야, Agent AI가 등장할 것이기 때문에 Tool AI 단계에서 지레 겁먹을 필요는 없다고 봄
첨부 이미지

AI와의 공존

  • 인공지능은 통제해야 할 외계의 존재가 아니라 우리의 동맹이자 우리의 자손임
  • 두려움에 사로잡혀 인공지능을 통제하려 하지 말고, 오히려 차이를 인정하고 그들과 함께 일하는 것이 유익함
  • 우리가 아이들을 양육하면서 아이들에게서 새로운 관점을 배우듯이, 인공지능으로부터 근본적인 다른 것을 배울 수도 있을 것
  • 세상은 복잡한 적응 시스템이라 하나의 슈퍼 AI가 모든 사람, 모든 다른 AI보다 훨씬 더 강력해져서 모든 것을 장악할 수 없을 것
  • 우리가 사는 세상은 법과 관습을 만들어서 특정한 행동을 합리적으로 만들어내는 방식으로 작동함
  • 모든 사람이 적절하게 행동하고 다른 사람을 위해 공간을 남겨두면 서로 목표가 다른 사람들이 공존하더라도 갈등을 일으키지 않고 모두가 보상을 받음
  • 그렇기 때문에 초지능적인 이성적 Agent AI는 세상을 장악하려고 시도하기보다는 인간과 다른 AI들과 함께 일하려고 노력할 것

리뷰

이번 영상은 일전에 리뷰한 OpenAI 정형원 박사의 MIT 강연에서 정형원 박사가 언급한 것을 계기로 찾아보게 되었는데요, 역시 1세대 연구자 답게 이미 지나갔던 현상에 빗대어 지금의 AI 열풍에 대해 균형잡힌 시각을 제시해주었습니다.

요즘 각 AI 기업에서는 경쟁하듯, 1-2년 내로 AGI의 등장을 예고하고 있는데요, 이미 수십년 관련 연구를 한 서튼 교수의 입장에서는 "이 또한 지나가리라"는 말씀을 하고 계신 것으로 이해되었습니다.

첨부 이미지
첨부 이미지
첨부 이미지

물론 LLM이 매우 탁월한 능력을 가지고 있고, 또 1900년대 초반 마차에서 자동차 시대로 넘어가면서 사회가 크게 바뀌었듯이 LLM으로 인한 사회의 큰 변화가 예상되는 것에는 동의하지만, 딱 한 단어로 Over-Hyped, 즉, 지나치게 과장되었다는 의견을 주신 것이죠.

다음 토큰 예측 기법이 정말 놀라운 결과를 가져왔지만, "예측"이라는 능력 하나만으로는 인간의 지능을 모두 설명할 수 없으며, ELIZA 현상에서처럼 모델의 능력은 상당히 제한적인데, 인간이 과대 해석을 하고 있다는 이야기가 인상적이었습니다.

이런 과도한 기대는, 어느 시점에선가 과도한 실망으로 돌아올 것이고, 자칫 과도한 실망으로 AI 발전이 한동안 멈추지 않을까 하는 우려까지 언급을 해주셨는데, 과연 이게 오랜 연구자의 노파심일지, 아니면 선견지명일지 궁금해집니다.

또한, AI에 대한 과도한 경계심에 대한 이야기도 있었는데요. 현 단계인 Tool AI의 경우라면, 결국 사용자가 인간이기 때문에 아무리 잘못 사용되어도 크게 위험하지는 않을 것이라는 발언이 있었습니다. 여기에 대해서는 영상 후반부 Q&A 시간에 "그래도 잘못 사용되면 위험하지 않을까요?"라는 질문을 받기도 했었는데요.

당연히 LLM을 범죄 목적으로 사용한다면, "위험"한 사용이 될 수 있겠지만, 서튼 교수는 인류를 멸종시키는 수준의 "위험"을 이야기한 것으로 이해됩니다. 그리고 그런 수준의 AI의 등장은 아직 멀었기 때문에 걱정하지 않아도 된다는 이야기도 있었죠. 어차피 세상은 그렇게 호락호락하지 않기 때문에 AI 하나가 세상을 지배하는 그런 미래는 오지 않을 것이라는 이야기죠.

그리고 본인이 중점적으로 연구하는 강화학습에 따르면, 결국 보상에 따라 Agent의 행동이 달라질텐데, 지배해서 저항을 유발하는 것보다 협력하는 것이 더 큰 보상으로 다가올 것이기 때문에 정말 높은 수준의 Agent AI가 등장한다면, 세상을 장악하려고 시도하기보다는 인간과 다른 AI들과 함께 일하려고 노력할 것이라는 이야기가 상당히 설득력 있게 다가왔습니다.

 

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

주간 Tech Review 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글

의견을 남겨주세요

확인
의견이 있으신가요? 제일 먼저 댓글을 달아보세요 !

다른 뉴스레터

© 2025 주간 Tech Review

IT 업계의 정보와 인사이트를 공유하고 있습니다.

메일리 로고

자주 묻는 질문 서비스 소개서 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so

메일리 사업자 정보

메일리 (대표자: 이한결) | 사업자번호: 717-47-00705 | 서울 서초구 강남대로53길 8, 8층 11-7호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스