0.999... = 1인 진짜 이유

(편의를 위해 오늘 글에서 오류가 있는 부분은 기울인 글꼴로 표현하겠습니다.)

수학 관련 커뮤니티에서 쉽게 어그로를 끄는 방법이 있는데, '0.999...가 왜 1인가요'라고 질문하는 것입니다. '1보다는 조금 작은 것 아닌가요', '1에 한없이 가까워지는 상태지 1은 아니지 않나요', '1을 향해 움직이는 수인가요', '1로 치기로 하는 건가요' 같은 말을 곁들이신다면 더욱 격한 반응을 보시게 될 것입니다. 착해 보이는 수학인들이 이 작은 질문에 쉽게 성을 내는 이유는, 이 질문이 어느 수학 커뮤니티를 가도 지나치게 자주 올라오는 질문이면서 동시에 답을 줘도 질문자가 답을 받아들이지 못하는 경우가 많은 질문이기 때문입니다. 대개의 수학 커뮤니티에는 이미 이 질문에 대해선 답변이 백 개 쯤 있으니 질문하기 전에 찾아 보라는 공지가 있을 정도입니다.

'0.999... = 1'이 참이라는 사실은 이미 중학교 교육과정에서 소개됩니다. 그러나 직관적으로 와닿지 않기 때문에 어째서 그런지 설명이 필요한데, 정확한 설명은 대학교 수학 기초 과정에서나 다뤄집니다. 중학생에게 정확한 이유를 가르쳤다간 수포자 만들기 십상이기 때문입니다. 의문이 해소되지 않은 사람들이 많다 보니 수학 커뮤니티에 질문이 끊이지 않습니다.

'0.999... = 1'을 논하기 전에 먼저 '0.999...'란 표현이 의미하는 바를 명확히 해야 합니다. ‘1에 한없이 가까워지는 수’, ‘1에 가까워지는 상태’, '1로 움직이고 있는 수' 정도로 생각하는 경우가 많은데, 혼란은 거기서 시작됩니다. ‘한없이 가까워진다’, ‘가까워지는 상태’, '움직이고 있는 수' 같은 말이 무엇을 의미하는지 모호하기 때문입니다. 우리에게는 잘 정의된 표현이 필요합니다.

'0.999...'는 무한소수입니다. 수학에서 무한이라는 개념을 다룰 때에는 각별히 조심해야 합니다. 무한은 유독 헷갈리는 개념이라 살짝만 얼렁뚱땅 지나갔다가는 잘못된 답을 내놓기 쉽습니다. 역사적으로 이런저런 삽질을 한 끝에 수학자들은 이 무한소수를 '0.9, 0.99, 0.999, ...라는 수열의 극한'이라고 정의하기로 했습니다.

수를 늘어놓고 거기에 순번을 붙여 놓은 것을 수열이라 합니다. 예를 들어 '1, 2, 3, 4, ...'와 같은 것이 수열입니다. 이 수열은 n번째 항이 n인 수열이라고 정의할 수 있습니다. 우리는 '0.9, 0.99, 0.999, ...'와 같은 수열도 생각할 수 있습니다. 이 수열은 n번째 항이 1 - 1/10^n인 수열입니다.

'0.999... = 1'이 틀렸다고 오해하시는 분들은 보통 이렇게 생각합니다. '0.999...는 그러면 저 수열에 있겠네요. 그런데 1은 저 수열에 포함이 안 되지 않나요?' 잘못된 생각입니다. 0.999...도 저 수열 안에 포함되지 않습니다. 저 수열 안에 포함되는 수는 모두 0.999...9 형태로 명확하게 끝이 납니다. n번째 항은 소수점 아래로 9가 n개가 와서, 100번째 항은 소수점 아래로 9가 100개 오고, 10000번째 항은 10000개가 옵니다. 소수점 아래로 9가 무한히 오는 '무한번째 항' 같은 것은 없습니다. 무한은 자연수가 아니고 n이 될 수 없습니다.

'0.999...'라는 표현은 이 수열의 특정한 항을 의미하는 게 아니라 이 수열의 '극한'을 의미합니다. 수열이 어떤 값에 한없이 가까워질 때, 그 값을 수열의 극한이라고 말합니다. 하지만 앞서 말씀 드렸듯 '한없이 가까워질 때'라는 표현은 모호합니다. 그래서 정확히 어떤 수열의 극한이 L이라는 말은 다음과 같이 정의됩니다.

예를 들어 ε을 0.00001로 잡았을 때 이 수열에서 0.99999 뒤로 오는 모든 항은 L(=1)과 ε 안쪽으로 차이납니다. 오기를 부려 ε을 0.0000000000000001로 잡더라도 이 수열에서 0.9999999999999999 뒤로 오는 모든 항은 L(=1)과 ε 안쪽으로 차이가 납니다. 어떤 ε을 잡더라도 항상 '이 녀석 뒤에 오는 모든 항은 L(=1)과 ε 안쪽으로 차이가 난다'라고 확인할 수 있습니다.

정리하자면 이렇습니다. 0.999...가 뭔지 정의부터 분명히 내려야 합니다. 수학자들은 그것을 어떤 수열의 극한으로 정의했습니다. 그리고 그 수열의 극한을 구하면 값은 1이 나옵니다. 정확히 1입니다. 1보다 살짝 작지도, 1에 가까워지는 것도 아니고 정확히 1입니다.

그렇다면 '내가 그 정의에 동의하지 않으면 어떻게 되는 건가? 0.999... < 1이라고 정의하면 안 되나?'라고 생각하실 수 있습니다. 수학의 세계는 자유롭기 때문에 그렇게 새롭게 정의해 보시는 것 자체는 괜찮습니다. 하지만 그렇게 정의할 경우 결국 어딘가에서 모순이 발생하고 맙니다. 여러 수학자들이 이미 이런저런 정의와 그에 따라 생기는 모순으로 고생을 해보았고, 그 고생 끝에야 지금과 같은 형태의 정의를 만들어낼 수 있었습니다.

오늘 글에서 다룬 내용을 보다 깊이 이해하고 싶다는 욕심이 생기셨다면 ‘해석학’이라는 분야를 소개해 드립니다. 다만 혼자 취미로 공부하기엔 벅찬 분야이기 때문에 '엡실론-델타 논법'이라는 부분만 공부해 보시길 권합니다. 워낙 좋은 세상이라 인터넷에서 무료 자료도 쉽게 구하실 수 있습니다. 초등학교에서는 작은 수에서 큰 수를 뺄 수 없다고 가르치다가 중학교에 가면 ‘짜잔 사실은 할 수 있지롱’이라고 진실을 알려주는 것처럼, 고등학교 때 어설프게 배우고 넘어간 극한 개념의 진실을 찾아 보실 수 있습니다.