수학계에 큰 뉴스가 있었습니다. Anthropic 소속 수학자 레벤트 알포게가 "Claude와 함께 리만 가설의 증명을 발견했다고 믿는다"라고 발표한 것입니다. 그러자 몇 시간 뒤에 또 다른 발표가 나왔습니다. 스탠퍼드의 한 대학원생도 AI를 사용하지 않은 증명을 다듬는 중이었다고 주장한 것입니다. 다만 그 원고는 아직 대대적으로 고치는 중이라고 합니다. 두 주장 모두 수학계가 아직 검토하고 있으니, 결론이 났다고 보기엔 이릅니다.
리만 가설이 뭘까요? 예전에 콜라츠 추측을 소개하면서, 리만 가설은 이해하는 것부터 어렵다는 얘기를 한 적이 있습니다. 그래서 페퍼노트에서 다루기는 포기하고 있었는데요, 이렇게 빅 뉴스가 나오는데 노 젓지 않을 수 없어서 오늘 급히 다뤄보려 합니다.
소수는 2, 3, 5, 7처럼 1과 자기 자신 말고는 나누어떨어지지 않는 수입니다. 모든 자연수는 소수의 곱으로 만들 수 있어서 소수는 '수의 원자'라고 불립니다. 이 원자들은 나오는 순서가 제멋대로입니다. 다음 소수가 언제 나올지 쓸모 있게 알려 주는 공식은 아직 아무도 찾지 못했습니다.
하지만 소수의 분포를 크게 보면 아주 불규칙하기만 한 것은 아닙니다. 어떤 수 근처에서 소수를 만날 확률은 그 수의 자릿수에 반비례해 줄어듭니다. 1,000 근처에서는 대략 7개 중 1개가 소수입니다. 100만 근처에서는 14개 중 1개로 줄어듭니다. 이것을 '소수 정리'라고 하며, 1896년에 증명되었습니다. 소수가 평균적으로 얼마나 있는지는 가늠이 되는 것입니다.
리만 가설은 그다음 질문입니다. 실제 소수의 개수가 이 평균에서 얼마나 벗어날 수 있을까요? 400 근처의 수가 소수일 확률은 대략 1/6로, 주사위를 굴려 1이 나올 확률과 비슷합니다. 그런데 공정한 주사위를 6,000번 굴려도 1이 정확히 1,000번 나오지는 않습니다. 조금씩은 흔들립니다. 리만 가설은 소수의 분포가 예상되는 값에서 얼마나 흔들리는지, 소수의 주사위가 공정한지에 대한 가설입니다.
이 가설에는 오일러가 1737년 발표한 식이 중요한 역할을 합니다.

s 자리에는 수를 넣습니다. 예를 들어 2를 넣으면 왼쪽은 1 + 1/4 + 1/9 + …가 됩니다. 이 공식에서 왼쪽은 모든 자연수를 재료로 끝없이 더한 값이고, 오른쪽은 소수만 재료로 끝없이 곱한 값입니다. 모든 자연수가 소수의 곱으로 딱 한 가지 방법으로만 쪼개지기 때문에 두 값이 똑같아집니다. 그래서 왼쪽의 덧셈을 연구하면, 그 안에 숨은 소수에 대해서도 알 수 있습니다.
1859년, 리만은 9쪽짜리 논문에서 이 식을 '제타 함수'라는 이름으로 확장했습니다. 1보다 큰 수만 넣을 수 있었던 오일러의 식과 달리 제타 함수에는 1을 제외한 어떤 복소수든 넣을 수 있습니다. 제타 함수에서는 값을 0으로 만드는 점, 즉 영점의 위치가 특히 중요합니다. 제타 함수의 영점에는 -2, -4, -6 같은 뻔한 점들이 있고 1/2 + 14.13…i 같은 뻔하지 않은 점들이 있습니다.
리만은 소수의 개수를, 평균에 영점마다 하나씩 생기는 파동을 더한 식으로 나타냈습니다. 그리고 뻔하지 않은 영점이 모두 한 직선 위에 있다고 예측했습니다. 이 예측이 맞으면 소수의 개수는 평균에서 공정한 주사위가 흔들리는 만큼만 벗어납니다. 반면 영점 하나라도 직선 밖에 있으면, 소수의 개수는 공정한 주사위보다 훨씬 크게 출렁입니다.
리만은 영점이 모두 한 직선 위에 있다는 것이 "매우 그럴듯하다"고 써 놓고, 몇 번 시도하다가 증명은 접어 두었습니다. 그 뒤로 컴퓨터가 확인한 영점은 12조 개가 넘고, 모두 그 선 위에 있었습니다. 하지만 영점은 무한히 많아서 12조 개를 확인해도 '전부'를 증명한 것은 아닙니다. 그래서 리만 가설은 2000년, 상금 100만 달러가 걸린 밀레니엄 문제 7개 중 하나가 되었습니다.
수학자들은 왜 이 문제에 이렇게 매달릴까요? 리만 가설이 참이면, 소수가 평균에서 벗어나는 정도가 이론상 가장 작은 수준으로 보장됩니다. 수학자들은 오래전부터 '리만 가설이 참이라면'이라는 전제를 깔고 정리를 증명해 왔습니다. 리만 가설이 증명되면 이 조건부 정리들이 한꺼번에 진짜 정리가 됩니다. 반대로 틀린 것으로 드러나면, 한 수학자의 표현대로 소수의 세계에 '대혼란'이 생깁니다. 그렇다고 인터넷 암호들이 다 깨진다느니 하는 일상의 큰 변화나 위협이 있지는 않을 것입니다.
어제 나온 증명 중 하나라도 검토를 통과한다면, 리만이 "그럴듯하다"라고 쓴 지 167년 만입니다. 상금은 증명이 학술지에 실리고 2년 동안 검증을 버텨야 나옵니다. AI와 함께 쓴 증명과 AI 없이 쓴 증명, 이 두 증명의 운명은 어떻게 될까요?
의견을 남겨주세요
Hyungnam
AI 개요 리만 가설이 증명되면 소수 분포의 오차 범위를 훨씬 정밀하게 파악할 수 있고, 리만 가설을 전제로 세워진 수많은 수학 정리들이 한꺼번에 확정됩니다. 주요 변화와 오해는 다음과 같습니다. • 수학·정수론의 도약: 소수의 분포와 관련된 정리들이 참으로 굳어지며, 린델뢰프 가설 등 연관 명제들의 증명에 길이 열립니다. 증명 과정에서 쓰인 새로운 아이디어와 기법이 다른 난제 해결로 이어질 수도 있습니다. • 암호 체계 붕괴는 과장: 소수 분포에 대한 정밀한 정보를 얻더라도 큰 수의 소인수분해를 당장 실시간으로 풀어내는 것은 별개의 문제입니다. 현행 RSA 등 암호 체계가 리만 가설 증명만으로 곧바로 무력화된다고 보기는 어렵습니다. • 물리학·양자역학과의 연결고리: 제타 함수의 영점 분포와 양자역학의 에너지 준위·혼돈계(랜덤 행렬 이론 등) 사이의 구조적 유사성을 바탕으로, 이론물리학에서 새로운 관점과 연구 단서를 얻을 수 있습니다.
의견을 남겨주세요