특이한 수학 문제
두 수의 최대공약수가 1인 경우, 예컨대 2와 3, 10과 17, 30과 49와 같은 쌍을 서로소라고 합니다.
그럼 임의로 고른 두 자연수가 서로소인 확률은 몇일까~~~~요?
그 확률은…

이라고 한다…! (약 61%)
아니 어째서 파이가 나와?!
엄밀한 증명은 까다로우니 조금 쉬운 설명을 들어보겠습니다.
어떤 수가 2로 나뉠 확률은 얼마일까요?
자연수 중 절반은 짝수니까 ½이라고 봐도 무방하겠죠? 두 수가 둘 다 2로 나뉠 확률은 ½ x ½ = ¼가 되겠습니다.
그렇다면 둘 다 짝수가 아닐 확률, 이른바 둘 다 홀수거나, 둘 중 하나만 짝수인 확률은 1 - ¼ = ¾가 되겠쥬?
둘 다 짝수가 아니다 라는 뜻은 둘의 최대공약수가 2로 나뉘지 않는다는 뜻과 같습니다.
자 그렇다면 어떤 수가 3으로 나뉠 확률은 몇일까요?
자연수 중 ⅓이 3의 배수니까, 확률은 ⅓이라고 봐도 무방하겠죠? 둘 다 3으로 나뉠 확률은 ⅓ x ⅓ = 1/9가 됩니다.
둘 다 3의 배수가 아닐 확률은 1 - 1/9 = 8/9가 됩니다.
역시 둘 다 3의 배수가 아니다 라는 뜻은 둘의 최대공약수가 3으로 나뉘지 않는다는 뜻과 같습니다.
즉, p가 소수라 할 때, 두 자연수의 최대공약수가 p로 나뉘어지지 않을 확률은 1-1/p^2가 됩니다.
이 모든 확률들을 곱해주면, 두 자연수의 최대 공약수가 2로도, 3으로도, 5로도, … 모든 소수로도 나뉘어지지 않는다는 뜻이 됩니다.
그 어떤 소수로도 나뉘어지지 않는 자연수란? 바로 1이지요. 즉 서로소가 됩니다. 다시말해… 두 수가 서로소일 확률은

이 됩니다. 그런데 여기서 리만 가설을 좋아하시는 분이라면… 얼레 나 이 식 어디서 봤는데?! 라는 생각이 들 겁니다. 왜냐하면…

이기 때문이죠.
그런데 왼쪽에 있는 수식은 제타 함수에 2를 대입한 값인데 그 값은 오일러가 증명해냈죠. (바젤 문제라고 알려져 있습니다.)

우리가 구하려고 하는 값은 이 값의 역수입니다. 그러므로 답은 6/π^2.
사족)
사실 이 문제와 증명이 수학적으로 엄밀하지 않은 이유는
‘1부터 무한까지 임의의 자연수를 고른다'라는 개념이 잘 정의되어 있지 않기 때문입니다.
그래서 수학적으로 잘 정의된 버전의 문제는 다음과 같습니다.
1에서 N까지 수 중 두 수를 고른다. 이 두 수가 서로소일 확률을 P(N)이라고 하자. N이 무한으로 발산하면 P(N)은 몇으로 수렴하는가?
그리고, 증명도 이에 맞춰서 합니다. (그래서 증명도 실제로는 조금 더 까다롭습니다.)
하지만 그 엄밀한 증명의 핵심 아이디어도 ζ(2)의 값을 이용하는 것이라서, 여전히 값은 6/π^2가 나옵니다.