안녕하세요, 앤소장입니다.
요즘 AI 이야기가 나오면 어김없이 수학이 따라옵니다. 챗GPT가 수학 올림피아드 문제를 풀었다, AI가 수학 난제를 증명했다, 앞으로는 수학을 잘하는 사람이 AI 시대에 살아남는다. 뉴스가 쏟아지다 보니 학부모 입장에서는 또 불안해지죠. "우리 애 수학 더 시켜야 하나?"
그런데 저는 이 질문 앞에서 한 번 멈춰야 한다고 생각했어요.
한국 학생들만큼 수학 문제를 많이 푸는 아이들이 세상에 또 있을까요? 아침부터 밤까지, 유형별로, 시간 재며, 틀리면 다시 풀고. 수능 수학 준비하는 아이들을 보면 그 성실함이 정말 대단하다 싶을 때가 많습니다. 그런데 솔직히 한 번쯤 이런 생각 해보신 적 없으세요? "이렇게 풀어대는 수학이 진짜 수학 맞나?"
저도 고1, 중1 두 아이를 키우면서 그 질문 앞에 서곤 합니다. 특히 큰애가 수학 문제집을 쌓아놓고 기계처럼 풀고 있는 걸 볼 때면요. 틀리면 다시 풀고, 맞으면 다음 문제로. 그 과정에서 "왜 이런 문제가 생겼지?", "이게 실제로 어디에 쓰이는 거지?" 같은 질문은 없어요. 물어볼 시간이 없습니다. 다음 시험이 기다리고 있으니까요.
이번에 켄 오노 교수의 이야기를 접하고 나서 그 질문에 답이 생겼습니다.
켄 오노 교수는 버지니아 대학교 수학과 교수이자 미국 국가안보국(NSA) 자문위원입니다. 소수(prime number) 연구로 세계적으로 알려진 분인데요. 소수란 2, 3, 5, 7, 11처럼 1과 자기 자신으로만 나눠지는 수예요. 이 소수가 어디에 어떻게 분포하는지 알아내는 건 수학에서 수천 년 된 난제입니다. 이분이 바로 작년에 AI의 도움으로 소수를 탐지하는 새로운 공식을 발견했어요. 본인조차 "이런 패턴이 존재한다고는 상상도 못 했다"고 인정한 발견이었습니다.
그런 분이 이렇게 말합니다. AI는 이제 수학 문제를 잘 풉니다. 그런데 AI가 아직 못 하는 게 있어요. 좋은 문제를 만드는 것. 그리고 그 능력이야말로 앞으로 사람한테 가장 중요한 힘이 된다고요.
하루 종일 문제를 풀고 있는 우리 아이들이 놓치고 있는 게 정확히 그거 아닐까요? 답을 빨리 찾는 훈련은 이미 충분히 했습니다. 이제는 좋은 질문을 만드는 게 뭔지, 수학을 왜 배우는 건지, 한 번쯤 다른 눈으로 바라볼 기회가 필요합니다.
이 글은 유튜브 채널 Epoch AI에서 2025년 10월 8일에 공개된 "AI can now do math. But can it ask good questions? - Ken Ono"를 바탕으로 제작되었습니다.
Q. 교수님, AI는 지금 수학을 얼마나 잘하나요?
솔직히 저도 계속 놀라고 있습니다. 3년 전만 해도 챗GPT 같은 AI는 다섯 살짜리 아이도 맞힐 문제를 틀렸어요. 그런데 지금은 완전히 달라졌습니다.
제가 어떤 수학 분야 문제를 던져도 AI는 그게 어느 분야인지 바로 알아맞힙니다. 우리 대학 박사 과정 학생들도 "이건 어디서 찾아봐야 하지?" 싶을 문제들을 AI한테 물어보면 대답이 나와요. 인류가 수백 년 동안 쌓아온 수학 지식이 AI 손끝에 다 있는 것처럼 느껴질 정도입니다.
그렇다고 완벽한 건 아닙니다. AI가 아직 어려워하는 부분이 있어요. 바로 "번뜩이는 발상"이 필요한 순간입니다. 지금까지 알려진 것들 사이에서 아무도 생각 못 한 새로운 연결을 찾아내는 것, 그 창의적인 도약이요.
그런데 저는 여기서 한 가지 솔직한 말을 드리고 싶어요. 우리가 AI를 보고 "틀린 말을 한다"고 비웃잖아요. 근거도 없이 그럴듯한 말을 지어낸다고 해서 '환각(hallucination)'이라는 표현까지 쓰고요. 그런데 있잖아요. 우리 수학자들도 최고의 발견을 할 때 똑같은 일을 합니다. 증명도 안 된 걸 일단 믿어보고 달려드는 거예요. 그냥 우리는 들키지 않는 것뿐이에요. 나중에 맞으면 천재고, 틀리면 조용히 넘어가는 거죠.
앞으로 3년, 5년 뒤에 AI가 어디까지 갈지는 솔직히 예측하기 어렵습니다. 어떤 문제가 AI한테 어렵고 어떤 게 쉬운지, 우리가 모여서 예측해봤는데 그 예측 자체가 잘 안 맞았어요. 그만큼 빠르게 변하고 있다는 뜻이기도 하고요.
Q. 그럼 AI가 수학을 이렇게 잘하면, 수학자는 이제 필요 없는 건가요?
아니오, 절대 그렇지 않습니다. 이유는 딱 하나예요.
AI는 좋은 질문을 만들 줄 모릅니다.
챗GPT 같은 AI가 대화 끝에 "다음으로 물어볼 만한 질문들"을 추천해주잖아요. 그런 걸 말하는 게 아닙니다. 제가 말하는 "좋은 질문"은 그 질문 하나로 앞으로 수십 년간 수학의 방향 자체를 바꿔버리는 질문이에요. 아무도 그 방향을 생각하지 못했던 곳을 열어주는 질문이요.
수학자 0명에서 10명 중 이런 질문을 만들어낼 수 있는 사람은 사실 극소수입니다. 그게 가능한 사람들이 바로 수학을 앞으로 나아가게 하는 거예요. AI가 이걸 할 수 있게 되는 날이 온다면, 그건 정말 엄청난 사건이 될 겁니다. 하지만 지금은 아직 그 단계가 아니에요.
수학 연구에서 AI가 얼마나 중요해질 것 같냐고요? 0이 의미 없음, 10이 수학자 완전 대체라면 저는 7에서 8 사이라고 생각합니다. 엄청나게 중요해지는 건 맞아요. 하지만 10은 아닙니다. 좋은 질문을 던지는 사람은 여전히 필요하고, 그 자리는 사람이 채워야 하니까요.
수학자가 AI를 어떻게 활용해야 하는지 제가 좋아하는 비유가 하나 있어요. 체스나 바둑에서 AI가 기존에 없던 새로운 전략들을 발견했잖아요. 그게 수십 년 된 고수들도 몰랐던 수였어요. 수학에서도 그런 일이 벌어질 수 있습니다. AI가 인간이 미처 보지 못한 패턴을 발견하고, 수학자는 그걸 증명하고 이론으로 만드는 거예요. 그게 앞으로 우리가 함께 일하는 방식이 될 겁니다.
Q. 그 "좋은 질문"을 만드는 능력, 어떻게 키울 수 있나요?
보통 겸손함에서 나옵니다.
"내가 뭘 모르는가?" 이 질문에서 시작하는 거예요. 연구자라면 풀고 싶은데 아직 못 푸는 문제들이 있잖아요. 그 큰 문제를 향해 딱 한 걸음만 나아갈 수 있는 작은 질문이 뭘지를 계속 찾는 겁니다.
큰 문제를 한 방에 해결하는 기가 막힌 질문이 바로 나오는 경우는 사실 거의 없어요. 보통은 30개쯤 되는 중간 질문들이 20년, 30년에 걸쳐 쌓여야 합니다. 연구라는 게 그런 거예요. 어떤 질문을 해봤는데 아무것도 안 나와요. 그러면 "아, 이 방향은 아니구나"를 배운 거예요. 그것도 중요한 정보입니다. 다음에 그 방향으로 시간 낭비 안 해도 되는 거니까요.
아이한테도 그대로 통하는 이야기 아닐까요? "나 이걸 모르겠는데?" 하고 말할 수 있는 용기, 모른다는 걸 부끄러워하지 않는 태도, 그리고 큰 답이 당장 안 나와도 조금씩 나아가는 힘. AI 시대에 수학자가 살아남는 비결이 바로 이겁니다.
학생들한테 저는 항상 이렇게 말해요. 지금 당장 못 풀어도 괜찮다. 근데 "왜 이게 어렵지?", "어떻게 접근해봐야 하지?"를 생각하는 습관을 포기하지 마라. 그게 쌓이면 나중에 진짜 질문이 만들어진다고요.
Q. AI가 틀린 말을 하는 게 꼭 나쁜 걸까요?
저는 오히려 좋은 거라고 봅니다.
제가 AI가 어려운 수학 문제를 풀어가는 과정을 실제로 들여다봤어요. 처음 몇 페이지는 정말 놀랍습니다. "이걸 어떻게 알지?" 싶을 만큼 잘 풀어가다가, 실수를 하면 스스로 "아 틀렸다" 하고 돌아가서 다시 계산해요. 꼭 대학원 학생이랑 이야기하는 것 같았어요.
그런데 그러다가 갑자기 중국어 몇 줄이 나오고, 프랑스어 몇 줄이 나오고, 그 사이에 수식이 섞여 나오는 거예요. AI가 기억 속에서 비슷한 걸 마구 뒤지는 겁니다. "이거 어디서 본 것 같은데..." 하면서요.
그게 사실 우리 수학자들이 연구할 때 하는 것과 다르지 않아요. 확신도 없이 한동안 헤매다가, "혹시 이게 맞는 게 아닐까?" 하고 뭔가를 믿어보는 거잖아요. 열 번 중 아홉 번은 틀린 방향이에요. 근데 그 틀린 방향을 가봐야 "이쪽은 아니구나"를 알게 되는 거고, 그게 쌓여서 어쩌다 맞는 방향을 찾게 되는 겁니다.
그러니까 AI의 환각이 나쁜 게 아니에요. 진짜 문제는 다른 데 있어요. AI가 그 환각이 "틀렸는지 맞았는지"를 스스로 제대로 가려내지 못한다는 겁니다. 우리 수학자들은 그걸 판단하는 능력이 훈련되어 있어요. 이게 틀릴 것 같다는 감각, 이건 더 파볼 만하다는 감각이요. 그 판단력이 AI한테는 아직 부족합니다.
Q. 리만 가설, 100년 넘게 아무도 못 풀었다는데 왜 그런 건가요?
리만 가설(Riemann Hypothesis)이요. 수학에서 가장 유명한 미해결 문제 중 하나입니다. 소수가 어떤 규칙으로 배열되어 있는지와 깊이 연결된 문제인데, 증명도 반증도 아직 되지 않았어요.
저도 이 문제에 상당한 시간을 쏟아왔어요. 솔직히 내 생애에 풀렸으면 하는 바람이 있고요.
그런데 재미있는 시각이 하나 있습니다. 리만 가설을 통째로 증명하지 않아도 될 수 있다는 거예요. 생각해보세요. 리만 가설이 참이어야만 증명되는 수학 정리들이 1,000개가 넘어요. 지난 20~25년 동안 "리만 가설이 맞다면, 이것도 맞다"는 논문이 수천 편 나왔거든요. 그만큼 이 가설이 수학 전체에 걸쳐 큰 기둥 역할을 하고 있는 겁니다.
그런데 그 1,000개 중 많은 것들이 사실 리만 가설 전체가 아니라, 거기에 가까운 무언가만 있어도 증명될 수 있어요. 리만 가설을 통째로 깨뜨리는 게 아니라, "이 정도만 밝혀도 이건 해결된다"는 방식으로요.
AI가 바로 여기서 역할을 할 수 있습니다. 리만 가설 전체를 증명하는 게 아니라, 그 주변에서 패턴을 찾아내는 거예요. AI가 "여기 뭔가 있는 것 같다"고 힌트를 던져주면, 수학자가 그걸 증명하는 거죠. 그렇게 되면 리만 가설을 완전히 풀지 않아도 수십 년치 수학 결과들이 한꺼번에 정리될 수 있습니다.
제 꿈이 그겁니다. AI가 리만 가설을 증명하는 게 아니라, AI가 찾아낸 패턴 덕분에 수학자들이 그 근처까지 갈 수 있게 되는 것.
Q. 교수님이 직접 AI로 새로운 걸 발견하셨다고요?
네, 이미 일어난 일입니다.
제가 연구하는 분야가 '분할 이론(partition theory)'이라는 겁니다. 숫자를 여러 방식으로 쪼개는 연구예요. 예를 들어 숫자 4는 이렇게 나눌 수 있어요. 4 그대로, 3+1, 2+2, 2+1+1, 1+1+1+1. 다섯 가지 방식이죠. 이런 걸 연구하는 분야인데, 어느 날 컴퓨터가 이런 신호를 보내왔어요.
"이 패턴 안에서 소수를 찾아낼 수 있을 것 같습니다."
소수란 2, 3, 5, 7, 11처럼 1과 자기 자신으로만 나눠지는 수예요. 이 소수들이 어디 있는지 알아내는 건 수학에서 가장 어려운 문제 중 하나거든요. 심지어 소수인지 아닌지를 판별하는 일반적인 알고리즘조차 없다는 게 1970년대에 증명됐을 정도로요. 그런데 분할 이론에서 소수를 탐지하는 공식이 나온다는 건 누구도 예상하지 못한 방향이었어요.
몇 년 전이었으면 저도 "그런 건 불가능하다"고 했을 겁니다. 그런데 컴퓨터가 패턴이 있다고 알려줬고, 저희 팀이 그걸 실제로 수학적으로 증명해냈습니다. AI가 발견하고, 인간이 검증한 거예요.
AI가 수학자를 대체한 게 아닙니다. 수학자 혼자서는 그쪽 방향을 쳐다볼 생각조차 못 했는데, AI가 "저기 한번 가봐요"라고 먼저 손가락으로 가리켜준 거예요. 그게 좋은 파트너십이라고 생각합니다.
Q. 그럼 AI 시대에 수학은 어떻게 가르쳐야 할까요?
저는 버지니아 대학에서 STEM(과학·기술·공학·수학) 교육 자문을 맡고 있어요. 요즘 미국에서도 유치원부터 박사 과정까지 전체 수학 교육을 어떻게 바꿔야 하는지를 진지하게 논의하고 있습니다.
제가 가르치면서 항상 하는 게 있어요. 수업 중에 일부러 틀린 걸 가르치는 시간을 만드는 겁니다. 학생들한테 이렇게 말해요. "오늘 내가 말하는 것 중에 틀린 게 있을 건데, 찾아내서 고쳐봐라." 그러면 학생들이 온 신경을 곤두세우고 제 말을 듣거든요. 그냥 받아 적는 게 아니라요.
예를 들면 이런 거예요. 1 + 1/2 + 1/4 + 1/8... 이렇게 계속 더해가면 결국 2가 됩니다. 이건 증명할 수 있어요. 그런데 저는 같은 방식으로 1 + 2 + 3 + 4 + 5... 모든 양의 정수를 다 더하면 어떻게 되느냐, 하고 풀어 보이는 거예요. 어? 계산이 되네? 그런데 말도 안 되는 숫자가 나오잖아요. "왜 이건 되고 저건 안 되지?" 그 질문을 학생이 스스로 하게 만드는 겁니다.
AI 시대 교육에서 제일 중요하게 바뀌어야 하는 게 바로 이겁니다. 지금 우리가 학생들한테 시켜온 것들 중 많은 부분이 AI가 이미 다 처리해버려요. 그러면 이제는 그 과제를 왜 시켰는지를 다시 물어야 합니다. "그 능력이 아이들한테 정말 필요한 건가, 아니면 그냥 해왔으니까 시킨 건가?"
정답을 빨리 찾는 훈련보다, 왜 이 문제가 생겼는지 스스로 생각해보는 훈련. 틀렸을 때 "왜 틀렸지?"를 설명할 수 있는 능력. 이게 AI 시대에 수학 교육이 목표로 해야 할 방향입니다. 아이가 문제를 맞히는 것보다 왜 틀렸는지를 설명할 수 있는 게 더 중요한 시대가 오는 거예요.
Q. 마지막으로 AI의 미래, 낙관해도 되는 걸까요?
저는 낙관론자입니다. 근데 걱정이 없는 건 아니에요.
낙관하는 이유를 먼저 말씀드릴게요. 개인용 컴퓨터가 처음 나왔을 때, 많은 직업이 사라질 거라고 했잖아요. 근데 실제로는 어떻게 됐나요? 오히려 새로운 직업들이 훨씬 더 많이 생겼고, 생산성은 올라갔고, 사람들 삶도 나아졌어요. AI도 비슷한 흐름이 될 거라고 봅니다.
세상이 얼마나 바뀌냐고요? 0이 주머니 속 계산기, 10이 산업혁명이라면 저는 10이라고 봐요. 저는 지금 57살인데, 제 형들이 청년이었을 때는 전동 타자기가 나왔어요. 그다음엔 워드 프로세서, 제가 대학 다닐 때는 맥킨토시, 지금은 스마트폰이잖아요. 그 흐름 전체가 세상을 바꿨는데, AI는 그것보다 훨씬 더 클 겁니다.
걱정도 있어요. AI한테 같은 질문을 다섯 번 해보세요. 다섯 개의 완전히 다른 대답이 나옵니다. 예전 컴퓨터는 같은 입력에 항상 같은 출력이 나왔어요. 그런데 AI는 그렇지 않아요. 왜 그런지를 우리가 아직 모릅니다. 이유를 모른다면, 걱정하는 게 맞죠.
그래서 저는 AI를 무작정 빠르게 밀어붙이는 것도, 무조건 막는 것도 답이 아니라고 생각해요. 제대로 된 안전 장치를 만들면서 함께 나아가는 것, 그게 현실적인 방향입니다. 저도 미국 국가안보국(NSA) 자문위원을 하면서 AI가 가져올 허위 정보 문제, 기반 시설 보안 문제를 매우 진지하게 보고 있어요.
마지막으로 제가 요즘 자주 하는 생각 하나를 드리고 싶어요. 연구하면서 "아하!" 하고 깨달음이 오는 순간들이 있잖아요. 저는 그게 순수하게 저만의 번뜩임이라고 생각했는데, AI를 공부하고 나서 다시 돌아보니까 달리 보여요. 충분히 많은 정보를 쌓다가 어느 임계점에 도달하면, 뇌에서 뭔가 딱 연결되는 거예요. AI 신경망이 하는 것과 사실 같은 원리였을 수도 있겠다 싶은 거죠.
그게 처음엔 좀 당황스러웠어요. 근데 생각해보니까 오히려 위안이 됐습니다. 지금 당장 답이 안 나오더라도, 계속 배우고 있다면 연결은 쌓이고 있는 거니까요. 그 임계점을 언제든 넘을 수 있다는 거잖아요. 아이도, 어른도요.
배운 점을 요약합니다
- AI는 이제 박사 과정 학생도 헷갈릴 수학 문제를 풉니다. 그런데 AI가 아직 못 하는 게 딱 하나 있어요. 좋은 질문을 만드는 것. 수학에서 이론 전체의 방향을 바꾸는 질문, 아무도 생각 못 한 곳을 열어주는 질문이요. 하루 종일 문제를 푸는 우리 아이들이 정작 훈련받지 못하고 있는 게 바로 이겁니다.
2. 수학자들도 연구할 때 틀리고, 헤매고, 되돌아갑니다. 켄 오노 교수는 그걸 "환각"이라고 불러요. AI가 틀린 말을 늘어놓는 것도 같은 원리라고 했습니다. 열 번 중 아홉 번은 틀린 방향이지만, 그 틀린 방향을 가봐야 "이쪽은 아니구나"를 알게 됩니다. 아이가 틀렸을 때 "왜 또 틀렸어?"가 아니라, "지금 방향을 찾고 있구나"로 볼 수 있다면 어떨까요?
3. AI가 수학자를 대체한 게 아닙니다. 켄 오노 교수 팀이 AI 덕분에 소수를 탐지하는 새로운 공식을 발견했을 때, AI는 "저기 한번 가봐요"라고 방향을 가리켰고, 수학자가 그걸 증명했어요. AI가 발견하고, 인간이 검증하는 협업이었습니다. 우리 아이들이 준비해야 할 건 AI를 이기는 능력이 아니라, AI와 함께 일하는 능력입니다.
4. 좋은 질문은 겸손함에서 나옵니다. "내가 뭘 모르는가?"에서 시작하는 거예요. 모른다는 걸 부끄러워하지 않고, 거기서부터 작은 질문을 하나씩 쌓아가는 것. 오늘 아이한테 "몇 문제 풀었어?" 대신 "오늘 제일 신기했던 게 뭐야?"를 한 번 물어보세요. 그 질문 하나가 다른 길을 열어줍니다.
초록지붕 구독자 여러분께 🌿
안녕하세요, 앤소장입니다.
여러분께 직접 드리고 싶은 소식이 있어서 이렇게 글을 씁니다.
초록지붕 구독자가 500명이 되었어요.
70주, 한 주도 안 빠지고 쓸 수 있었던 건 읽어주시는 분들이 계셨기 때문입니다.
매주 제 글을 열어주시는 그 한 번의 클릭이 저한테는 "계속 써도 돼" 하는 신호였어요.
진심으로 감사합니다.
그래서 준비했습니다.
뉴스레터로만 만나던 여러분과 줌에서 얼굴 보고 이야기 나누고 싶었어요.
6월 30일 화요일 저녁, H.E.L.P AI시대 부모살롱에 구독자분들을 무료 초대합니다.
부모살롱이 뭔가요?
강의가 아닙니다. 하브루타 방식으로 질문하고, 듣고, 함께 생각하는 대화입니다.
AI시대 아이 교육, 글로 쓸 때는 혼자 고민하는 것 같지만 같은 마음인 분들이 이렇게 많잖아요.
한번 모여서 이야기해봐요.
📅 일정과 주제
6/30(화) 저녁 8시 | 줌 온라인
안드레아스 슐라이허 "AI가 답을 내줄수록, 아이 머릿속은 비어간다"
이런 분이라면 꼭 오세요
✅ AI 시대 자녀교육, 어디서부터 시작할지 막막한 분
✅ 하브루타 책 읽어봤는데 실제로 해본 적 없는 분
✅ 아이와 대화하고 싶은데 질문이 안 떠오르는 분
✅ 혼자 고민하다 지친 분
참가하신 분들은 이렇게 말씀하셨어요
"하브루타가 뭔지 이제 알겠어요. 직접 해보니 '아, 이거구나!' 싶었어요."
"내 교육 기준이 생겼어요. 이제 다른 집이 뭘 하든 흔들리지 않아요."
"오늘 배운 질문을 저녁에 아이한테 바로 써봤어요. 대화가 달라지더라고요."
❓ 혹시 궁금하실까봐
Q. 하브루타 경험이 없는데요?
A. 오히려 좋아요! 처음 하시는 분을 위한 시간입니다.
Q. 뉴스레터를 안 읽었는데요?
A. 링크 보내드려요. 5분이면 충분합니다.
Q. 카메라 켜야 하나요?
A. 네, 짝과 소그룹 대화가 핵심이라 카메라는 필수입니다.
✅ 신청 방법
아래 네이버 폼에서 신청해주세요. 선착순 마감이고, 확정되신 분께 개별 연락드리겠습니다.
500명.
숫자가 중요한 게 아니라 그 안에 여러분이 계시다는 게 중요합니다.
부모살롱에서 뵐 수 있으면 좋겠어요.
감사합니다 💚
앤소장 드림
의견을 남겨주세요