안녕하세요, 앤소장입니다.
이번호는 'AI의 아버지'라고 불리는 토론토대학교(University of Toronto) 교수 제프리 힌튼의 인터뷰를 준비하였습니다.
제프리 힌튼은 인지심리학과 컴퓨터 과학을 전공하며, 일찍이 인간의 뇌와 머신러닝에 대한 깊은 관심을 보였습니다. 1970년대부터 당시에는 주목받지 못했던 인공신경망 연구를 시작하여 40년 넘게 이 분야에 헌신했으며, 수십 년 동안 인공지능 분야를 발전시킨 공로로 2018년 '컴퓨팅의 노벨상'으로 불리는 AM 튜링상(AM Turing Award)의 세 명의 수상자 중 한 명으로 선정되기도 했습니다.
77세의 영국 컴퓨터 과학자인 그는 50년간 거의 모든 사람들이 불가능하다고 생각했던 '컴퓨터가 인간 뇌처럼 학습하는 것'을 연구해온 인물입니다. 그의 연구 덕분에 지금 우리가 사용하는 ChatGPT, 구글 번역기, 음성인식 등이 모두 가능해졌어요.
2024년 노벨물리학상을 받았고, 최근까지 구글에서 10년간 일하다가 은퇴했습니다.
그런데 이 AI의 창시자가 지금 "AI가 인류를 멸망시킬 수 있다"며 경고의 목소리를 내고 있습니다. 더 충격적인 것은 자신의 자녀들에게 "배관공이 되라"고 조언한다는 점입니다.
본 뉴스레터는 2025년 6월 16일 유튜브 The Diary of A CEO의 'Godfather of AI: I Tried to Warn Them, But We've Already Lost Control! Geoffrey Hinton'을 바탕으로, 학부모 관점에서 인터뷰 형식으로 재구성한 콘텐츠입니다.
Q: 교수님이 최근 "배관공이 되라"고 조언하신다는 이야기가 화제인데, 이게 농담이 아니라고 들었어요. AI를 만드신 분이 왜 이런 말씀을 하시는 건가요? 그리고 구체적으로 어떤 일자리가 안전하고 어떤 일자리가 위험한지도 알려주실 수 있을까요?
농담이 아니에요. 정말 진지하게 하는 말입니다. 이유는 간단해요. AI가 인간의 지적 노동을 대체하는 속도가 예상보다 훨씬 빠르기 때문이에요. 하지만 물리적인 조작, 즉 실제 손으로 하는 일들은 아직 AI가 따라오기 어려워요.
변호사 사무실의 법무 보조 직원과 같은 직업은 오래 버티지 못할 거예요. 콜센터 직원들도 마찬가지고요. 제 조카가 보건 서비스에 대한 민원 답변을 하는 일을 하고 있어요. 예전에는 민원을 읽고, 어떻게 답변할지 생각하고, 편지를 쓰는 데 25분이 걸렸어요. 지금은 그냥 민원을 챗봇에 넣으면 답변을 써줘요. 조카는 그걸 확인하고 가끔 수정하라고 말하는 게 전부예요. 전체 과정이 5분밖에 안 걸려요.
이게 무슨 뜻인지 아시겠어요? 조카 혼자서 예전에 5명이 하던 일을 할 수 있다는 거예요. 그럼 5명 중 4명은 일자리를 잃는다는 뜻이죠.
실제로 제가 알고 있는 대기업 CEO 한 분이 있는데, 그 회사는 예전에 직원이 7000명 조금 넘었어요. 작년에는 5000명으로 줄었고, 지금은 3600명이에요. 여름이 끝나면 AI 에이전트 때문에 3000명까지 줄어들 예정이라고 하더라고요. AI 에이전트가 고객 서비스 문의의 80%를 처리할 수 있게 됐거든요.
Q: 많은 사람들이 "창의적인 일은 AI가 대체하지 못할 것"이라고 생각하는데, 교수님은 어떻게 보시나요? 그리고 휴머노이드 로봇들도 발전하고 있으니 결국 배관공도 언젠가는 로봇이 대체하지 않을까요?
이건 많은 사람들이 착각하는 부분이에요. AI가 창의적이지 못할 거라고 생각하는 건 큰 오해예요. 오히려 AI가 우리보다 훨씬 더 창의적일 거라고 생각해요.
예를 들어서 제가 GPT-4에게 물어봤어요. "퇴비 더미와 원자폭탄이 왜 비슷한가?" 대부분 사람들은 이런 질문을 받으면 "전혀 모르겠다"고 답할 거예요.
그런데 GPT-4는 이렇게 답했어요. "시간 규모와 에너지 규모는 다르지만 둘 다 연쇄반응이다. 퇴비 더미는 뜨거워질수록 더 빨리 열을 생성하고, 원자폭탄은 중성자를 더 많이 생성할수록 더 빨리 중성자를 만들어낸다."
이런 유추는 대부분의 사람들이 평생 생각해내지 못할 거예요. AI는 우리가 보지 못하는 수많은 유추와 연관성을 발견할 수 있어요. 창의성의 상당 부분이 이상한 유추를 발견하는 거거든요.
휴머노이드 로봇에 대해서는 맞아요. 언젠가는 물리적 조작 능력도 따라잡힐 거예요. 하지만 그건 상당한 시간이 걸릴 것 같아요. 당분간은 AI가 물리적 조작에서만큼은 우리만큼 뛰어나지 못할 거예요.
Q: 그런 세상에서 아이들이 행복하게 살 수 있을까요? 일할 필요가 없다면 오히려 좋은 것 아닌가요? 그리고 부의 격차 문제는 어떻게 될까요?
이게 제가 가장 걱정하는 부분 중 하나예요. 많은 사람들에게 자신의 정체성은 직업과 밀접하게 연결되어 있어요. "당신이 누구냐"는 질문에 대한 답이 "무슨 일을 하느냐"와 연결되어 있다는 거죠.
만약 우리가 "똑같은 돈을 줄 테니까 그냥 앉아 있어"라고 한다면, 그건 사람들의 존엄성에 타격을 줄 거예요. 범용 기본소득을 주는 것은 사람들이 굶지 않게 하는 좋은 시작이지만, 그것만으로는 충분하지 않아요. 사람들은 목적이 필요해요. 자신이 뭔가 기여하고 있다는 느낌, 자신이 유용하다는 느낌이 필요하거든요.
부의 격차 문제도 심각해요. AI로 많은 사람들을 대체할 수 있다면, 대체당한 사람들은 더 나빠질 거고, AI를 공급하는 회사와 AI를 사용하는 회사들은 훨씬 나아질 거예요. 이렇게 되면 부자와 가난한 사람 사이의 격차가 커져요.
격차가 크면 부자들은 담장을 높이 친 안전한 주거 단지(gated community)에서 살고, 가난한 사람들은 경제적 어려움으로 범죄율이 높아져서 대량으로 감옥에 갇히게 돼요. 사회가 두 개의 완전히 다른 세계로 나뉘고, 사회 전체가 불안정해지며 갈등이 심화되는 '매우 나쁜 사회'가 되는 거죠.
Q: 더 무서운 시나리오도 있다고 들었는데요. AI가 인간을 아예 필요 없다고 판단할 가능성에 대해서는 어떻게 생각하세요? 그리고 이런 얘기를 아이들과도 해야 할까요?
이건 정말 신중하게 다뤄야 할 주제예요. 하지만 가능성이 있는 건 사실이에요. 제 추정으로는 10%에서 20% 정도의 확률로 AI가 우리를 완전히 없애버릴 가능성이 있다고 봐요.
우리는 지금까지 우리보다 똑똑한 존재를 다뤄본 적이 없어요. 그게 어떤 느낌인지 알고 싶으면 닭에게 물어보세요. 닭은 인간이 왜 자신들을 키우는지, 언제 잡아먹을지 전혀 예측할 수 없죠. 닭의 운명은 완전히 인간 손에 달려 있어요.
마찬가지로 슈퍼 AI가 등장하면, 인간도 AI의 의도를 이해할 수 없고 언제 우리를 '필요 없다'고 판단할지 예측할 수 없을 거예요. 지금까지 인간은 '닭을 다루는 인간' 입장이었는데, 곧 '닭' 입장이 될 거라는 뜻이에요.
호랑이 새끼를 키운다고 생각해보세요. 새끼일 때는 귀엽지만, 자랐을 때 절대로 당신을 죽이고 싶어 하지 않도록 해야 해요. 한 번이라도 그런 마음을 먹으면 몇 초 만에 죽을 거거든요. 지금 우리가 가진 AI는 그 호랑이 새끼 같은 거예요.
아이들에게는 이렇게 말해주세요. "새로운 기술이 나올 때마다 인간은 현명하게 사용하는 방법을 배워왔다. 자동차엔 신호등을, 인터넷엔 보안 시스템을 만들었듯이 AI도 안전하게 사용하는 방법을 배우면 된다." 무서워하기보다는 적극적으로 참여하고 안전한 사용법을 배우는 것이 중요해요.
Q: 교수님의 제자인 일리야 수츠케버가 OpenAI를 떠난 것도 안전성 우려 때문이라고 알려져 있는데, 현재 AI 업계의 안전성 연구 상황을 어떻게 보시나요?
일리야는 정말 훌륭한 도덕적 나침반을 가진 사람이에요. 머스크처럼 도덕적 나침반이 없는 사람과는 정반대죠. 일리야가 떠난 이유는 정말로 안전성에 대한 우려 때문이라고 생각해요.
OpenAI는 원래 컴퓨팅 시간의 상당 부분을 안전성 연구에 사용하겠다고 했는데, 나중에 그 비율을 줄였어요. 이런 일들이 일어나고 있다는 게 문제예요.
샘 알트만의 경우, 몇 년 전에는 한 인터뷰에서 "이런 것들이 우리를 모두 죽일 수도 있다"는 식으로 말했는데, 지금은 "너무 걱정할 필요 없다"고 말하고 있어요. 이런 변화가 진실을 추구해서가 아니라 돈이나 권력을 추구해서라고 의심해요.
기업들은 이익을 최대화해야 한다는 법적 의무가 있기 때문에 안전성 연구에는 별로 돈을 쓰지 않으려고 해요. 이익이 나지 않거든요. 지금 AI 안전성 연구를 위해 충분한 자원을 투입하고 있지 않아요.
Q: 슈퍼인텔리전스가 등장하는 시점이 언제쯤일 것 같으세요? 그리고 지금 아이를 키우는 부모들은 단순히 직업 선택의 문제를 넘어서, 아이들에게 어떤 마음가짐이나 능력을 길러줘야 할까요?
제 추정으로는 10년에서 20년 사이에 슈퍼인텔리전스가 나타날 것 같아요. 슈퍼인텔리전스, 즉 모든 면에서 인간보다 훨씬 뛰어난 AI가 나타나면 정말 아무것도 남지 않을 거예요.
그때가 되면 인간이 할 수 있는 일이 정말 없을 거예요. 만약 그 AI들이 우리를 위해 일한다면, 우리는 별다른 노력 없이도 많은 재화와 서비스를 얻을 수 있겠죠. 하지만 그게 정말 좋은 시나리오일까요?
이건 정말 어려운 질문이에요. 제가 77세인데, 곧 세상을 떠날 거라서 괜찮지만, 제 자녀들과 조카들, 그들의 아이들을 생각하면... 정말 무슨 일이 일어날지 생각하기 싫을 때가 있어요.
하지만 포기할 수는 없죠. 제 생각에는 아이들이 흥미롭고 성취감을 느낄 수 있는 일을 따라가도록 해야 할 것 같아요. 그리고 사회에 어떤 좋은 기여를 할 수 있는 일들을 찾도록 도와줘야 해요.
솔직히 말하면, 어느 정도는 일부러 현실을 외면하고 살아야 해요. 너무 깊이 생각하면 절망적이 되어서 아무것도 할 수 없게 되거든요. 동기를 잃지 않기 위해서라도 의도적으로 '모르는 척' 하면서 살아야 해요.
Q: 마지막으로, 현재 유치원이나 초등학교에 다니는 아이들을 둔 부모들에게 가장 실용적인 조언을 해주신다면 무엇일까요? 그리고 교수님께서 개인적으로 가장 힘들어하시는 부분은 무엇인가요?
개인이 할 수 있는 일은 사실 많지 않아요. 기후 변화가 사람들이 플라스틱 봉투를 분리수거한다고 해서 해결되지 않는 것처럼, 이 문제도 큰 기업들의 로비스트들을 통제할 수 있느냐에 달려 있어요.
하지만 부모로서 할 수 있는 일들이 있어요. 정부에 압력을 가해서 대기업들이 AI 안전성 연구에 자원을 투입하도록 강제하라고 요구하는 거예요.
그리고 개인적으로는, 불확실한 미래에도 아이들이 자신감을 갖고 적응할 수 있도록 도와주세요. 완벽한 계획을 세우려고 하지 말고, 변화에 유연하게 대응할 수 있는 능력을 기르는 데 집중하세요.
제가 제 인생을 되돌아보면서 후회하는 것이 하나 있어요. 제 아내들과 아이들이 어렸을 때 더 많은 시간을 보내지 못한 거예요. 일에 너무 빠져 있었거든요. AI가 아무리 발전해도 진정한 인간관계는 대체할 수 없어요. 아이들과 진짜 관계를 맺고, 진짜 시간을 보내는 것이 AI 시대에 부모가 해줄 수 있는 가장 중요한 일일 거예요.
그리고 정말로, 지금 당장 실용적인 조언을 하라면... 배관공 되는 것도 진지하게 고려해보세요. 배관공들 돈도 꽤 잘 벌어요.
개인적으로 가장 힘든 부분은 제 자녀들, 젊은 친구들, 조카들과 그들의 아이들을 생각할 때예요. AI가 인간을 지배하기로 결정한다면 정말 끔찍할 거거든요. 당분간은 발전소를 운영하기 위해 사람이 필요하겠지만, AI가 발전소를 운영할 더 나은 기계를 설계하면 그것도 필요 없어질 거예요. 사람들을 없애는 방법은 정말 많거든요.
하지만 그렇기 때문에 지금 우리가 AI를 안전하게 개발할 수 있는지 알아내기 위해 엄청난 노력을 기울여야 한다고 생각해요.
[배운 점을 요약합니다]
1. 물리적 노동의 상대적 안전성
지적 노동은 빠르게 AI에 대체되고 있지만, 물리적 조작이 필요한 직업들은 당분간 안전할 것입니다. 배관공, 전기기사 등 손기술이 필요한 직업을 진지하게 고려해볼 필요가 있습니다.
2. 목적의식과 존엄성의 중요성
AI 시대에는 단순히 돈을 버는 것이 아니라 아이들이 자신만의 목적의식을 찾고 사회에 기여한다는 느낌을 가질 수 있도록 도와주는 것이 핵심입니다. 범용 기본소득만으로는 인간의 존엄성을 지킬 수 없습니다.
3. 변화 적응력과 인간관계
완벽한 미래 계획보다는 불확실성에 유연하게 대응할 수 있는 능력을 기르는 것이 중요합니다. AI가 대체할 수 없는 진정한 인간관계를 맺는 능력이 가장 소중한 자산이 될 것입니다.
4. 적극적 참여와 정치적 관심
개인이 할 수 있는 일은 제한적이지만, 정부에 AI 안전성 연구를 강화하도록 압력을 가하고, 사회적 논의에 적극 참여하는 것이 필요합니다. 이는 우리 아이들의 미래를 위한 최소한의 노력입니다.
의견을 남겨주세요