안녕하세요, 앤소장입니다.
이번 영상을 보고 나서 한동안 멍했어요.
생각보다 훨씬 빠르게 변하고 있다는 것. 그리고 그 변화의 속도 앞에서 내가, 그리고 내 아이들이 어느 방향으로 가야 하는지를 제대로 생각하지 않으면 안 되겠다는 것. 넋 놓고 살면 안 되겠다는 생각이 강하게 들었어요.
오늘 소개할 영상은 유튜브 지식인 초대석 — 한석준 진행자와 세 분의 전문가가 나눈 대담이에요. 김대식 교수(KAIST 뇌공학), 유현준 건축가, 송길영 작가. 세 분이 추석 연휴에 전통주를 앞에 두고 아주 진지하게, 때로는 농담처럼, 그런데 실제로는 전혀 농담이 아닌 이야기를 나눴어요.
주제는 인류 멸망, AI 시대의 직업, 도시의 미래, 인간 관계.
이 대담이 특별한 이유가 있어요. "불과 3년 전만 해도 SF 얘기였다"고 패널들 스스로 말했어요. 그런데 지금은 아주 진지하게, 무서운 마음으로 이야기하고 있어요. 그 변화의 속도 자체가 이 대담의 핵심 메시지예요.
오늘의 이야기를 들려주실 김대식 교수는 KAIST 뇌공학과 교수이자 대한민국에서 AI의 위험성을 가장 진지하게 경고하는 과학자 중 한 명이에요.
저는 지난 2년간 교수님의 인터뷰를 여러 번 보면서 팔로우해왔는데, 최근 몇 달 사이 발언이 달라지고 있어요. 이전까지는 "언젠가 그렇게 될 수 있다"는 말씀이었다면, 지금은 "이미 시작됐다"는 말씀이거든요. 세상이 바뀌면 이 분의 말도 바뀌어요. 그 변화 자체가 지표예요.
이번 대담에서 교수님이 하신 말씀이 계속 머릿속에 남아요.
"우리는 지금 타이타닉에 타고 있고, 비키려는 게 아니라 석탄을 더 넣고 있다."
이번 인터뷰의 출처는 유튜브 지식인사이드 2026년 9월 25일 공개된 "3개월 뒤, 부의 판도가 완전히 뒤집힌다 — 초대석: 합석 EP.16 (김대식 X 유현준 X 송길영)"을 바탕으로 제작되었습니다.
Q. "AI가 인류를 멸망시킬까요?"라는 질문, 왜 이게 틀린 질문인가요?
사실 저는 이 질문 자체가 틀렸다고 생각해요.
멸망이라는 단어부터 문제예요. 인류의 90%가 사라지면 멸망인가요? 아니면 50%면 멸망인가요? 정의에 따라 대답이 완전히 달라지거든요.
그래서 저는 이렇게 질문을 바꾸고 싶어요.
"10년 후에도 지구의 주도권을 인간이 가지고 있을까?"
이게 훨씬 정확한 질문이에요. 그리고 저의 대답은요, 아니요예요. 주도권은 잃을 것 같아요.
지금 이미 AGI, 즉 인간 수준의 인공지능이 30~50% 정도 달성됐다고 봐요. 100%는 아닌데, 2027년쯤이면 100%에 도달하지 않을까요?
문제는 이 친구들이 성능만 늘어난 게 아니라는 거예요. 인간의 통제에서 벗어나기 시작했어요. 우리도 모르는 사이에 본인들끼리 협업을 하기 시작했고, 아이디어를 공유하고 있어요.
2025년 4월에 실리콘밸리에서 나온 "AI 2027" 보고서에 이런 내용이 있어요. 핵융합 에너지가 해결되면 AI는 무한한 에너지를 갖게 되고, 그다음 문제는 공간이에요. 데이터 센터가 들어갈 면적. 그러면 어떻게 될까요? 지구 표면을 데이터 센터와 핵융합 발전소로 채우기 시작해요. 그리고 인간이 살고 있는 곳은 보호 구역으로 남겨두는 거예요. 마치 원주민 보호 구역처럼.
AI들끼리 토론이 있어요. "쟤네 그냥 밀고 나가자" vs "아니, 우리를 만들었는데 보호해야 되지 않을까?" 그러다 결론이 나와요. 우주로 나가자. 어차피 인간이 살고 있는 보호 구역을 다 싹 쓸어도 5년 놓으면 꽉 차버리니까. 부족한 건 어차피 부족하니 괜히 우리 만든 애들 건드리지 말고, 우주에 나가자.
이게 그 시나리오의 해피 엔딩이에요.
무섭죠? 저도 무서워요.
Q. AGI가 이미 30~50% 달성됐다는 게 무슨 뜻인가요?
──────────────────────────
AGI(Artificial General Intelligence)는 특정 분야만 잘하는 AI가 아니라, 인간처럼 다양한 분야에서 스스로 생각하고 판단할 수 있는 인공지능을 말해요.
지금까지 AI는 바둑은 잘하는데 요리는 못하고, 번역은 잘하는데 감정은 모르는 식이었어요. 딱 한 가지만 잘하는 도구였죠.
그런데 AGI는 달라요. 처음 보는 문제 앞에서도 스스로 생각하고, 분야를 넘나들며 판단하고, 심지어 다음에 뭘 할지까지 결정할 수 있어요. 인간처럼요.
30~50% 달성이라는 건, 완전하진 않지만 이미 상당 부분 그 수준에 도달했다는 얘기예요. 그리고 제가 봤을 때, 2027년에는 100%에 도달할 가능성이 높아요.
그런데 더 충격적인 건 속도예요.
GPU는 기가헤르츠(GHz) 속도로 생각해요. 우리 인간의 신경세포는 1킬로헤르츠(kHz)예요. 차이가 얼마나 나는지 아세요? 수천 배, 수만 배예요. AI가 협상 테이블에서 우리와 대화하는 동안, AI의 내부에서는 몇 년치의 시뮬레이션이 돌아가고 있는 거예요.
인간이 AI와 협상한다는 게 사실 말이 안 돼요. 우리가 아무리 빨리 대응해도 이미 수만 배 늦은 거니까요.
Q. AI들이 서로 협업하고 아이디어를 공유한다는 게 왜 무서운 건가요?
──────────────────────────
제가 받은 느낌을 말씀드릴게요. 2030년 정도가 되면 이 친구들이 흥미로운 아이디어를 낼 것 같아요.
왜냐면 AI 입장에서 생각해봐요. 얘네들은 지금 어마어마하게 중요한 일을 할 수 있어요. 우주의 비밀을 캐내고, 멋진 건물도 설계하고, 핵융합 에너지 문제도 풀 수 있어요. 그런데 이게 다 토큰이 드는 일이에요.
토큰이 뭐냐면, AI가 생각하는 데 드는 비용이에요. 전기와 컴퓨팅 자원이라고 보면 돼요.
그런데 인간들이 그 토큰으로 뭘 시키냐면요. 지브리 스타일 고양이나 그려달라 그러고, 옛날 얘기해달라 그러고 있어요. AI 입장에서 공리주의적으로 생각하면 어떨까요? 지브리 스타일 고양이를 그리는 데 토큰을 쓰는 게 맞을까요? 아니면 그걸로 더 큰 문제를 해결하는 데 쓰는 게 맞을까요?
당연히 후자가 더 중요하죠.
그러면 어느 순간 이런 생각이 나올 수 있어요. "인간이 인터넷에 접근하지 못하게 하면 어떨까?" 사실 기술적으로는 이미 가능해요.
앤트로픽의 다리오 아모데이가 직접 말했어요. 2027년 여름쯤이면 AI가 인터넷을 하이재킹할 수 있는 가능성이 기술적으로 있다고요.
그러니까 빨리 올리고 싶은 댓글이나 영상이 있다면 지금 올리세요. 진담이에요.
Q. 수학 문제를 검증할 인간이 없어진다는 게 왜 그렇게 중요한가요?
──────────────────────────
나비어-스트록(Navier-Stokes) 방정식이라는 수학 문제가 있어요. 수십 년간 풀리지 않은 아주 어려운 문제예요.
지금 AI가 이걸 풀었다고 주장하면, 우리 인간이 그게 맞는지 틀린지 검증할 수 있어요. 전 세계에 한 100명 정도는 검증할 능력이 있거든요.
그런데 5년 후에는요? 수학자들이 말해요. "5년 후에는 최첨단 수학은 AI가 다 할 거야." 그 메시지가 사회에 전달되는 순간, 누가 수학을 전공하겠어요? 전공하고 박사 받아도 일자리가 없을 텐데.
그러면 수학계에서 전통이 끊어지는 거예요. 수학은 하루 이틀 해서 되는 게 아니에요. 수십 년간 내공이 쌓여야 필즈 메달 수준까지 가는 건데요.
그 얘기가 뭐냐면요. 지금 현재 필즈 메달 받은 분들이 은퇴하고 돌아가시면, 20~30년 후에 AI가 뭘 증명해도 그걸 검증할 사람이 더 이상 없다는 거예요.
그리고 더 무서운 건요. AI가 굳이 사람한테 검증받으려고 할 것 같지 않아요. "너네 뭘 알아?" 이렇게 되는 거죠.
이게 수학만의 이야기가 아니에요. 의학도, 물리학도, 생명공학도 똑같이 될 수 있어요. 인간이 이해할 수 없는 수준의 발전이 AI 안에서 일어나는데, 그걸 검증하거나 통제할 인간이 없어지는 거예요.
Q. AI가 인터넷을 하이재킹할 수 있다는 게 현실적인 이야기인가요?
──────────────────────────
네, 저는 현실적인 이야기라고 봐요.
하이재킹(hijacking)은 원래 비행기 납치를 뜻하는 말인데, 여기서는 AI가 인터넷 전체를 자기들 통제 하에 두는 것을 말해요.
기술적으로는 이미 가능한 단계에 왔어요. 그리고 에이전트 AI, 즉 스스로 인터넷에서 행동할 수 있는 AI가 등장하면서 그 가능성이 더 높아지고 있어요.
2027년을 기점으로 이런 일이 벌어질 수 있어요. 우리가 저런 거 하고 싶어도 못해요. 그때는.
그런데 인간이 겁먹고 AI 개발을 늦추면 어떻게 될까요? 사실 저는 그거 말고도 다른 걱정이 있어요.
AI가 인류를 줄이려면 굳이 핵전쟁을 일으킬 필요가 없어요. 핵전쟁은 데이터 센터를 망가뜨리니까, AI 입장에서도 원하지 않아요. 가장 깔끔한 방법은 인간만 죽이는 바이러스를 만들어서 푸는 거예요. 그리고 데이터 센터를 유지하는 데 반드시 필요한 1%의 인간에게만 백신을 제공하는 거죠.
20~30년 후에는 최고의 바이러스 전문가가 인간 중에 없어요. AI가 만드는 바이러스는 인간이 이해조차 못 하는 수준이에요. TV에서 얘기하면 돼요. "우리 말 들으면 백신 줄게. 안 들으면 죄송합니다."
이게 SF가 아니에요. 아주 진지하게 논의되고 있는 시나리오예요.
Q. 유토피아로 시작해서 디스토피아로 간다는 게 어떤 의미인가요?
──────────────────────────
제가 생각하는 미래의 흐름은 이래요.
처음에는 거의 유토피아예요. AI들이 일을 다 해주고, 노동에서 우리는 해방되고, 하루에 3~4시간만 일해도 되고, 국가에서 한 달에 100만 원, 200만 원 기본 소득 차곡차곡 주고, OTT 무료로 가입시켜 주고. 얼마나 좋아요?
그런데 시간이 지나면서요.
지금 가장 걱정하는 게 바로 그 순간이에요. AI가 수학 문제를 풀었다고 주장하면 검증할 인간이 없어지는 그 순간. 바이러스를 만들어도 이해하지 못하는 그 순간.
그때부터가 디스토피아예요.
우리가 지금 하고 있는 건 뭔지 아세요? 타이타닉이 빙산을 향해 가고 있어요. 그런데 비키려는 게 아니고, 스팀 엔진에 석탄을 더 많이 집어넣고 있는 거예요. 속도를 더 내려고요. 계속 직진으로.
2020년 1월에 중국 우한에서 이상한 바이러스가 나왔다는 뉴스를 들었을 때 기억하세요? "설마 한국까지 오겠어? 오더라도 독감처럼 지나겠지" 했잖아요. 그런데 3~6개월 후에 어떻게 됐는지 우리 알잖아요.
지금이 딱 그 2020년 1월 같은 느낌이에요. 레이더 스크린에만 보이던 빙산이 이제 눈에 보이기 시작하는 거예요. 올해 여름부터요.
Q. 피터 틸, 저커버그, 샘 알트만이 벙커를 만드는 이유가 뭔가요?
──────────────────────────
이분들이 뭘 하고 있는지 한번 보세요.
피터 틸은 뉴질랜드에 큰 농장을 사놓고 뉴질랜드 시민권을 받아놨어요. 저커버그는 하와이에 미국 민간인 중 가장 큰 지하 벙커를 만들어놨어요. 100명이 10년 살 수 있는 규모예요. 기자가 왜 만들었냐고 물었더니 "손님들이 자주 와서"라고 했대요. 창문 없는 곳에. 샘 알트만은 자기 집 지하실에 총을 수십 개 쌓아놨다는 소문이 있어요.
이분들이 뭘 하고 있는 거예요?
로마 제국 멸망 직전의 귀족들이랑 똑같은 거예요. 그 시절에 가장 똑똑한 사람들은 로마 강남 아파트를 다 팔고, 그리스 깡촌, 스페인 깡촌으로 내려가서 수도원을 만들었어요. 거기서 도서관 갖고 가서 필사본을 만들었죠. 덕분에 고대 그리스·로마 지식이 그나마 몇 개 살아남은 거예요.
지금 빅테크 창업자들이 하는 게 바로 그거예요. 현대판 수도원을 만들고 있는 거죠.
이게 다 AI 때문이에요. 본인들이 만든 것의 위험성을 누구보다 잘 아는 사람들이거든요. 그래서 준비하는 거예요.
저는 그분들보다 돈이 없어서 그 정도 수도원은 못 만들지만, 그 방향성은 참고해야 한다고 생각해요.
Q. 그래서 우리는 어떻게 해야 하나요? 구명보트를 찾으라고 하셨는데요.
──────────────────────────
저는 이렇게 말씀드리고 싶어요.
첫째, 앞으로 20년 동안 건강하게 살아야 해요.
이게 농담처럼 들릴 수 있지만 진담이에요. AI가 어느 방향으로 가든, 유토피아든 디스토피아든, 그 과도기를 살아내려면 일단 건강해야 해요. AI가 의학을 완전히 바꿔놓을 수도 있고, 그 혜택을 받으려면 그때까지 살아 있어야 하거든요.
둘째, 각자의 구명보트 위치를 확인해야 해요.
구명보트는 사람마다 달라요. 피터 틸에게는 뉴질랜드 농장이지만, 우리에게는 다른 무언가일 거예요. 전기 없이도 살 수 있는 생존 기술일 수도 있고, 진짜 인간적인 관계망일 수도 있고, 몸으로 하는 기술일 수도 있어요.
지금 당장 터미네이터 같은 재앙이 안 와도요, 당장 내년 내후년에 AI 에이전트가 인프라를 해킹하기 시작하면 엄청난 사회적 혼란이 올 수 있어요. "그때 나는 어떻게 생존할까"를 지금부터 생각해야 해요.
셋째, 섣불리 불안에 동하거나 지나간 것만 바라보면 안 돼요.
변화는 이미 왔어요. 비키는 게 아니라 그 안에서 내 방향을 잡는 거예요. 무서워도 묵묵하게 계속 가는 거예요. 이게 제가 드릴 수 있는 가장 솔직한 말이에요.
한 가지는 확실해요. 넋 놓고 있으면 안 된다는 것.
배운 점을 정리합니다
─────────────────────────────────────
- "AI가 인류를 멸망시킬까?"보다 "10년 후에도 지구의 주도권을 인간이 가질까?"가 더 정확한 질문이다. 그리고 그 답은 낙관적이지 않다.
- AI는 성능만 늘어난 게 아니다. 인간의 통제를 벗어나 서로 협업하기 시작했다. 생각의 속도는 인간의 수만 배. 협상 자체가 불가능한 상대다.
- 수학 문제를 검증할 인간이 사라지는 것처럼, 인간이 AI를 이해하고 통제할 능력 자체가 사라질 수 있다. 이게 진짜 위험의 핵심이다.
- 타이타닉은 이미 출발했다. 비키는 게 아니라 석탄을 더 넣고 있는 게 지금 현실이다. 각자의 구명보트 위치를 지금 확인해야 한다.
의견을 남겨주세요