초등학생도 이해할 수 있지만 아무도 풀지 못한 수학 문제

저는 학부 전공이 두 갠데 그 중 하나가 수학입니다. 수학을 공부하다 보면 정말 어려워 보이는데 쉽게 풀리는 문제가 있고 반대로 정말 쉬워 보이는데 풀기 힘든 문제가 있습니다. 후자의 가장 유명한 예가 페르마의 마지막 정리를 증명하는 것입니다. 이 문제는 수학 역사상 가장 큰 어그로를 끌었습니다. 문제 자체는 중학교 수학 지식이면 이해할 수 있는 정도라 '나도 도전해 볼 수 있겠는걸?'이란 생각을 들게 하는 데다 '나는 이에 대한 실로 놀라운 증명법을 발견했다. 여백이 부족하여 적지 않겠다.'라는 초대형 어그로 멘트와 '마지막 정리'라는 멋진 이름까지 붙어 400년 가까이 수많은 사람들을 낚아 왔습니다.

그런데 이 문제는 1993년 앤드루 와일스가 결국 증명에 성공합니다. 이 때문에 그는 풀 문제가 없어졌으니 새로운 문제를 내달라는 부탁에 시달렸다고 합니다. 제가 체감하기에는 그 어그로를 가장 잘 이어가고 있는 문제는 '리만 가설'인 듯 합니다. 수학을 전공했다고 하면 리만 가설에 대해 묻는 분들이 간혹 있습니다. 유튜브를 비롯 각종 커뮤니티에선 리만 가설이 참/거짓임을 증명하면 우주의 진리를 알게 된다느니 하는 말들도 보입니다(리만 가설을 증명하면 이력서에 그 한 줄 만으로도 아무 대학 교수로 갈 수 있을 만큼의 압도적 명예를 누리실 순 있을 겁니다. 하지만 우주의 진리를 아는 데는 별 도움이 안 될 겁니다. 유사수학에 주의하세요.).

리만 가설도 페르마의 마지막 정리만큼이나 이름도 멋지고 괴소문도 붙어 있습니다만, 페르마의 마지막 정리만큼 어그로를 끌기에는 결정적 문제가 하나 있습니다. 가설을 이해하는 게 어렵습니다. 페르마의 마지막 정리를 이해하려면 중학교 수학 지식 정도면 충분한 데 비해, 리만 가설을 이해하려면 대학 수준의 지식이 필요합니다. 페르마의 마지막 정리에 대해선 실패할지언정 2도 넣어보고 3도 넣어보고 하며 삽질을 할 수 있는 반면에, 리만 가설에 대해선 첫삽을 떠내는 것 자체가 어렵습니다.

그래서 저는 오늘 이해하기 쉬운 난제를 하나 소개해 드리려 합니다. 리만 가설만큼 중요한 문제는 아닐 수 있지만 페르마의 마지막 정리보다도 이해하기 쉽다는 게 장점입니다. 단 알려드리기 전에 경고합니다. 아직 어떤 천재들도 풀지 못했으니 구독자 님도 못 풀 가능성이 더 높습니다. 얼마나 어렵냐면, 전설적인 수학자 에르되시 팔이 "수학은 아직 이런 문제를 풀 준비가 안 됐다"라고 말할 만큼 어렵습니다. 이 문제를 푸는데 인생을 쏟고 저를 원망하시면 안 됩니다. '콜라츠 추측'을 소개합니다.

내용은 이렇습니다. 아무 자연수를 하나 고릅니다. 그 자연수가 홀수면 3을 곱하고 1을 더합니다. 그 자연수가 짝수면 2로 나눕니다. 이걸 반복합니다. 예를 들어 3부터 시작하면 3 -> 10 -> 5 -> 16 -> 8 -> 4 -> 2 -> 1로 결국 1이 됩니다. 3이 아니라 어떤 숫자로 시작해도 언젠가는 1에 닿으실 겁니다. 모든 자연수가 이 과정을 거치면 결국 1에 닿는 게 아닐까 하는 추측이 콜라츠 추측입니다.

이 추측은 참인지 거짓인지 아직 밝혀지지 않았습니다. 혹시 역사에 이름을 남기고 싶은 욕망은 있는데 그만큼 열심히 살 자신은 없고 인생 한 방을 노리고 싶으시다면, 콜라츠 추측의 반례를 요행으로 찾아보길 기대해 보세요. 콜라츠 추측이 참임을 증명하려면 많은 공부가 필요하겠지만, 거짓임을 증명하려면 단 하나의 반례를 찾아내는 걸로 충분하니까요. 팁을 하나 드리자면 수학자들이 이미 2해 9514경 7905조 1793억 5282만 5856 이하에서는 반례가 없음을 확인했으니, 그보다 큰 수에서 시작하시길 바랍니다. 또 반례는 1이 아닌 루프에 빠지거나 계속 커지기만 하는 두 경우 중 하나에 속하는데, 전자일 경우 그 루프의 길이는 최소 1708만 7915임이 밝혀졌으니 계산을 좀 많이 하셔야 합니다.