# AI가 특이점을 향해 달려가고 있네요. 오펜하이머 영화와 겹쳐 보이는 게 사실입니다. 인류를 멸망시킬수도 있는 새로운 혁신 기술을 개발하는 과학자와 이를 이용하고 컨트롤 하려는 통제자와의 갈등. 인류가 현명하길 빕니다.
- 그런데 사실 이 사태(샘 올트먼 축출)의 발단에서 수습까지 중심인물은 올트먼이 아니라 챗GPT 개발을 이끌고 있는 오픈 AI 수석 과학자 일리야 수츠케버입니다. 올트먼은 과학자라기보다는 탁월한 경영자입니다.
- 오픈 AI 이사회는 6인입니다. 사내이사는 올트먼, 올트먼과 함께 행동한 이사회 의장 그렉 브록만, 수츠케버 등 3인입니다. 나머지 3인은 사외이사들입니다. 이들 사외이사들은 그동안 인공지능 개발의 잠정 중단을 강하게 주장했던 사람들입니다.
- 오픈 AI 내에서는 올트먼을 중심으로 한 AGI 선도개발론, 사외이사들과 수츠케버 중심의 속도조절론이 늘 논쟁하고 있었습니다. 수츠케버가 속도조절론의 사외이사들과 함께 선도개발론을 멈춰 세워야 한다고 나서면서 올트먼 축출 사태가 일어난 것입니다.
- 수츠케버가 올트먼 해고에 찬성한 이유는 분명합니다. 인공지능의 안정성, 즉 인간의 제어와 통제를 확실하게 확보하지 못한 상태에서 AI 또는 AGI를 출시해서는 안 된다는 것입니다.
- 인공일반지능 또는 범용인공지능이라고 옮기는 AGI는 알파고처럼 바둑이나 기타 특정 분야에서만 작동하는 인공지능이 아닙니다. 모든 분야에서 사람과 동등한 지능과 능력을 갖춘 AI를 말합니다. 샘 올트먼은 AGI를 "동료로 고용할 수 있는 중간 사람"이라고 간명하게 정리한 적이 있습니다.
- AGI의 다음 단계인 초지능(super-intelligence)은 AGI가 스스로 지능폭발을 일으켜 개량을 거듭해 사람은 비교가 되지 않을 정도로 인간 지능을 훨씬 능가하는 슈퍼 AI를 말합니다.
- AGI가 사람의 제어나 통제에서 벗어나 스스로 판단하고 스스로 행동하는 지능이기 때문에 AGI가 개발되면 슈퍼 AI 등장은 순식간일 것으로 추정합니다.
- 오픈 AI는 2022년 말부터 AGI에 근접한 '아라키스' 모델을 개발했다가 2023년 들어 성능에 문제가 있다고 판단해 폐기한 적이 있습니다.
- 이번 사태 직전에는 몇몇 오픈 AI 과학자들이 자신들이 현재 개발 중인 '큐스타(Q*)' 모델이 AGI에 거의 근접했으며 인류를 파괴할 정도로 강력한 시스템으로 사용될 수 있기 때문에 개발 속도에 경각심을 가져야 한다고 이사회에 경고 서한을 이메일로 보냈다고 합니다.
- 수츠케버도 엑스에 "현재 GPT가 약간의 자의식이 있는 것 같다"고 썼습니다.
- 이들은 큐스타를 테스트하다가 이 인공지능이 학습하지 않은 새로운 수학 연산 문제를 기존 데이터를 응용해 능숙하게 푸는 것을 보고 충격을 받았다고 합니다. AGI 수준에 거의 도달한 것입니다.
- 인공지능의 대부라고 불리는 제프리 힌튼은 1980년대 중반에 사람의 뇌와 비슷한 방식으로 컴퓨터를 학습시키는 획기적인 방법을 개발해 오늘날 인공지능의 대용량 언어모델(LLM) 기반을 닦은 사람입니다. 이로 인해 2018년 다른 두 사람과 함께 인공지능의 노벨상이라는 튜링상을 수상했습니다.
- 오픈 AI 사태의 주역 일리야 수츠케버가 다름 아닌 힌튼의 수제자입니다.
- 컴퓨터는 학습할 수 없다는 것이 당연한 상식이었던 때, 컴퓨터는 학습할 수 있다는 것을 당연시하고 있던 스승 힌튼과 제자 수츠케버는 의기투합해 즉시 스타트업 기업 DNA리서치를 공동 창업했습니다.
- 이 DNA리서치를 구글이 인수하면서 수츠케버는 힌튼과 같이 구글로 갔고, 거기서 알파고 개발을 이끌다 2015년 오픈 AI에 스카우트 됐습니다.
- 그는 가상 시뮬레이션 워게임 훈련에서 AI 드론에 적 방공체계 무력화 임무를 부여하고 인간 조종자가 공격 여부를 최종적으로 결정한다는 조건을 달았다고 합니다.
- 그러나 AI는 적의 지대공미사일 위치를 식별해 파괴하는 것이 점수 쌓기에 더 유리하다고 스스로 판단하고는 공격 금지 명령을 내리는 조종자를 방해 요소로 제거해버렸습니다.
- 그러자 오픈 AI의 급격한 선도개발과 상업화에 반기를 들고 GPT 모델 개발과 전략 담당 디렉터 다리오 아모데이를 비롯한 개발자들 일부가 오픈 AI를 뛰쳐나와 앤트로픽을 창업합니다. 앤트로픽은 좀 더 '책임감 있고 안전한 AI'를 목표로 내걸고 AI 챗봇 클로드를 개발했습니다.
- 2023년 1월 26일 알파벳 경영진은 <파이낸셜타임스> 매거진과 인터뷰를 합니다. 알파벳이 챗GPT보다 더 강력한 AI 플랫폼을 개발했지만 잠재된 사회-윤리 위험성을 통제할 방법을 찾을 때까지 출시할 수 없다고 결정했다는 내용이었습니다.
# 기사 요약글입니다. 원문은 아래 링크를 클릭하세요
댓글
의견을 남겨주세요