2024년 노벨 물리학상 수상자로 제프리 힌튼 토론토 대학 교수와 존 홉필드 프린스턴 대학 교수가 선정되었습니다.
노벨상 수상자 선정 위원회는 “인공 신경망으로 기계 학습을 가능하게 하는 기초적인 발견과 발명”을 한 공로가 크다고 이야기하였는데요, 그 과정이 꽤 흥미롭습니다.
먼저 홉필드 교수가 1982년 "Neural networks and physical systems with emergent collective computational abilities"라는 '켜짐' 또는 '꺼짐'이 가능한 이진 뉴런으로 구성된 인공 신경망 네트워크, 그의 이름을 딴 홉필드 네트워크를 소개하였고, 3년 후 힌튼 교수가 이 발견을 바탕으로 딥러닝 모델인 볼츠만 머신과 역전파 알고리즘을 개발했습니다.
제프리 힌튼 교수는 종종 인공지능의 대부라고도 불리우는데요, 인공 신경망과 역전파 알고리즘으로 인공지능 시대를 열어젖혔기 때문입니다. 그래서 오늘은 힌튼 교수와 함께 오늘날 인공지능을 가능하게 했던 기라성같은 업계의 1세대 연구자들을 소개해드리고자 합니다.
제프리 힌튼 (Geoffrey Hinton):
- 1947년생, 76세
- 캐나다 토론토 대학 교수
- 역전파 알고리즘 공동 발명, 현재 인공 신경망 훈련에 널리 사용됨
- 분산 표현 개념 도입으로 신경망 작동 이해에 기여
- 제한 볼츠만 머신(RBM)과 심층 신념 네트워크(DBN) 연구로 AI 커뮤니티에 큰 영향
- 딥러닝 연구 공로를 인정받아 2018년 튜링상 수상, 2024년 노벨 물리학상 수상
리처드 서튼 (Richard Sutton):
- 1956년생, 68세 (추정)
- 캐나다 앨버타 대학 교수, 앨버타 기계지능 연구소(Amii)의 수석 과학자
- 강화학습의 선구자: 현대 강화학습 이론의 기초를 다진 연구자
- "Reinforcement Learning: An Introduction"이라는 강화학습의 고전적인 교과서를 저술
- 강화학습 (Reinforcement Learning)은 구글의 알파고 및 OpenAI의 ChatGPT에 활용
얀 르쿤 (Yann LeCun):
- 1960년생, 64세
- Meta 수석 AI 과학자 및 AI 연구 개발 총괄
- 컨볼루션 신경망(CNN)의 주요 발명가 중 한 명
- LeNet-5 아키텍처 개발로 필기 인식을 위한 CNN의 가능성 입증
- 스파스 코딩 및 에너지 기반 학습 프레임워크 개발로 비지도 학습 발전에 기여
- 현재 Facebook(Meta)의 수석 AI 과학자로 AI 및 머신러닝 연구 개발 총괄
- 2018년 튜링상 수상
요슈아 벤지오 (Yoshua Bengio):
- 1964년생, 60세
- 캐나다 몬트리올 대학 교수
- 인공 신경망과 딥러닝 분야에서 선구적인 연구 수행
- '딥러닝' 저서를 Ian Goodfellow, Aaron Courville과 공동 집필
- 비지도 사전 학습, 반복 신경망, 장단기 기억(LSTM) 연구를 통해 자연어 처리 발전에 기여
- 생성적 적대 신경망(GAN) 연구를 통해 사실적 데이터 생성 기술 발전에 기여
- 2018년 튜링상 수상
앤드류 응 (Andrew Ng):
- 1976년생, 48세
- 전 스탠포드 대학 교수, 현 Coursera 창립자 겸 Amazon 이사
- 스탠포드 대학교의 자율 헬리콥터 프로젝트를 주도하여 복잡한 공중 기동을 학습할 수 있는 헬리콥터 개발
- Google Brain 설립에 기여, 대규모 머신러닝과 딥러닝 연구 수행
- Coursera와 deeplearning.ai 공동 설립, 전 세계적으로 AI 교육 보급에 기여
- 딥러닝, 강화학습, 로봇 공학 분야에서 중요한 연구 수행
리뷰
위의 다섯분의 업적을 정리해보면 이렇습니다.
먼저 제프리 힌튼 교수가 인공신경망과 역전파 알고리즘으로 "기계 학습"이라는 걸 가능하게 합니다. 기계 학습이라는 건 인공신경망에 데이터를 흘려보내면서 예측값과 결과값의 차이를 가지고 데이터가 거쳐간 각 뉴런의 가중치를 조정해나가는 과정을 말합니다.
제가 직접 설명하는 것보다 위의 영상을 보시는 게 아마 이해에 도움이 되시리라 생각하고요. 이렇게 사람이 룰을 가르쳐주지 않아도 데이터에 기반해서 패턴을 학습하고 "판단"을 내릴 수 있는 기계를 만든 것이 힌튼 교수의 업적이라고 할 수 있습니다.
그럼 이제 이런 기계를 가지고 이런 저런 실험을 하는 사람들이 나타나는 데요. 대표적인 분이 앨버타 대학의 교수이자 강화학습의 대가인 리처드 서튼 교수입니다. 이분의 연구는 지금도 많은 현업 연구자들이 많이 인용하고 있는데요. 강화학습이란 건 마치 강아지를 훈련시킬때 먹이를 가지고 하듯이 특정한 행동에 보상을 주면서 그 행동을 잘 하도록, 즉 강화해주는 방식을 말합니다.
이 강화학습을 적용한 것이 바로 그 유명한 알파고이고요, 지금의 ChatGPT와 같은 LLM 학습에도 이 강화학습이 활용됩니다. 마찬가지로 제가 직접 설명하는 것보다 아래 영상을 보시면 이해에 도움이 되실 거라고 생각합니다.
강화학습의 대가가 리처드 서튼이라면, 사물인식의 대가는 얀 르쿤입니다. 얀 르쿤은 인공신경망을 이용해 사진속 사물 또는 인물을 인식할 수 있는 CNN (Convolutional Neural Network) 기법을 창안해서 픽셀 정보에서 패턴을 학습하고 이 사물이 무엇인지 "판단"을 내리는 모델을 만들었습니다.
요슈아 벤지오 몬트리올 대학 교수는 LSTM (Long Short-Term Memory)과 GAN (Generative Adversarial Networks)을 연구한 연구자인데요, 이 방법론은 LLM이 나타나면서 대체된 기술이긴 하지만 초창기 언어생성과 이미지생성을 가능하게 해준 방법론들이었습니다.
마지막으로 앤드류 응 스탠포드 교수는 Deep Learning Specialization이라는 명강의로 유명한데요. 머신 러닝에 입문하는 사람들에게 꼭 추천되는 코스이고, 저 역시 처음에 이 강의로 공부를 시작한 바 있습니다. Coursera, Deeplearning.ai 등 교육에 힘쓰시는 분이죠.
이밖에도 이안 굿펠로우, 페이페이 리 박사님처럼 훌륭한 연구자들이 물론 많습니다. 그리고 이분들의 노력과 발견 덕분에 인공지능 업계는 엄청나게 빨리 성장했고 앞으로도 우리의 삶을 빠르게 바꿔나갈 것으로 예상됩니다.
이렇게 정리를 한번 해보고 나니 흥미로운 사실들도 몇몇 눈에 띕니다. 비슷한 시기에 활동해서 비슷한 연배일 것 같지만, 사실 제프리 힌튼 교수가 1947년생으로 아득한 선배이고, 그 다음이 1956년생(추정)인 리처드 서튼, 1960년생인 얀 르쿤, 1964년생인 요슈아 벤지오가 비슷한 연배이며 앤드류 응 교수는 1976년생으로 무척 젊은 편입니다. 그리고 다섯 분 중에서 세분이 캐나다에 계시다는 것도 흥미롭네요 (힌튼-온타리오주 토론토, 서튼-앨버타주 에드먼튼, 벤지오-퀘벡주 몬트리올).
지금 업계를 이끌어가는 것은 이분들의 제자들인데요. 이 제자들 중에서도 언젠가 다른 노벨상이 나올 수도 있지 않을까 기대해보게 됩니다.
댓글
의견을 남겨주세요