수학과가 들려주는 수학이야기: 초월수란 무엇일까?

보통 중학생때 수의 체계에 대해서 배우지? 1, 2, 3, 4 는 자연수, 여기에 0, -1, -2, -3, ...을 같이 묶어서 정수.

분수로 표현할 수 있는 수 유리수, 그렇지 않은 수는 무리수, 그리고 이 모두를 묶어서 실수라 부른다고 배웠어.

또 고등학교에 들어가면 허수의 존재를 알게 되고, 실수와 허수를 다 합쳐 복소수라고 부른다고 배우게 돼.

그런데 이 복소수를 실/허수가 아니라 다른 방식으로 나누는 방법이 있어 초월수와 대수적 수라는 분류로 말이지.

먼저 대수적 수(algebraic number)에 대해 설명해볼게. 만약 어떤 수가 '계수와 상수가 모두 정수인 어떤 방정식의 해'의 꼴이라면, 이를 대수적 수라고 불러.

계수와 상수가 모두 정수인 방정식을 여기서는 편의상 정수방정식이라고 부를게. (실제로 정수 방정식이라는 용어가 있는 건 아니야.) 먼저 정수방정식의 예를 살펴볼까.

는 정수방정식이야. x^2의 계수는 1, x의 계수는 2, 상수는 1 해서 모두 정수이기 때문이지.

반면, 은 정수방정식이 아니야. 왜냐하면 x^4의 계수가 π여서 정수가 아니거든.

어떤 수가 '대수적 수'라면, 그 수는 어떤 정수방정식의 해라는 뜻이야.

먼저 쉬운 예제부터 보자. 모든 '정수'는 대수적 수일까? 정답은 그렇다야.

예컨대 n이라는 정수가 있다면, 이는 이라는 방정식의 해야. 그리고 이 방정식은 정수방정식이니까, n은 대수적 수가 되는 것이지.

그렇다면 유리수, 곧 분수는 어떨까? p/q라는 유리수가 있다고 해보자. (여기서 p와 q는 정수)

이 유리수는 이라는 방정식의 해야. 그리고 q와 p는 정수니까, 이 방정식은 정수방정식이지. 즉 모든 유리수도 마찬가지로 대수적 수야.

그렇다면 무리수는 대수적 수일까? 여기서부터 굉장히 어려워져. 정답은 '항상 그렇진 않다'야.

예컨대 무리수의 대표적인 예로 √2를 꼽지? 근데 이녀석은 이라는 정수방정식의 해야. 곧 대수적 수지.

하지만 π는 대수적 수가 아니야. 그리고 이처럼 대수적이지 않은 수를 초월수(transcendental number)라고 부르지.

π가 초월수라는 걸 증명하는건 사실 정말 어려운 일이야. 어떤 정수방정식을 가져와도 π는 해가 될 수 없음을 보여야 하니까. 그래서 여기선 증명을 스킵하도록 할게.

또 다른 예로는 자연상수 e가 있어. 마찬가지로 증명하기란 굉장히 어렵지. 일반적으로 어떤 수가 초월수라는 사실은 증명하기 정말 어려워. 그래서 아직 수학자들도 무엇이 초월수인지 아닌지 모르는게 많아.

초월수는 마치 블랙홀처럼, 그 존재가 예측된 뒤에 발견됐어. 초월수라는 개념은 18세기에 오일러가 처음으로 제시했어. 하지만 그런 수가 존재하는지 아닌지는 평생 알지 못했지.

이후 람베르트가 1768년에 e와 파이가 초월수이지 않을까? 라고 추측했지만 증명에는 실패했어.

19세기에 들어서야 리우빌이라는 수학자가 처음으로 초월수의 존재를 입증해냈어. 그의 1844년 논문에는 '초월수의 존재'를 증명했고, 무려 7년이 지나 1851년에 초월수의 예를 처음으로 발견했어.

그가 발견한 수를 리우빌 수라고 부르는데 적어보자면…

소수점 아래로 1, 2, 3, 6, 24, 120,... 이렇게 n!꼴의 자리수에만 1이고 나머지가 0으로 이루어진 수야.

우리에게 친숙한 e가 초월수라고 증명된 건 1873년에 들어서였고, 더욱 익숙한 π가 초월수임이 증명된 건 그보다 9년 뒤에 일이지.

재미있는 사실은 초월수라는 게 워낙 찾기 어려워서 정말 ‘적을 것’ 같지만, 실제로는 엄청나게 많아. 대수적 수와 초월수 중 무엇이 많을까 비교하면, ‘쨉도 안되는 수준’으로 후자가 훨씬 많아. (애초에 둘 다 무한집합이라서 둘의 크기를 비교하기 위해서는 좀 엄밀한 정의와 개념들이 필요해. 그건 생략하고 넘어갈게.)

 초월수는 단순히 ‘무한히 많은' 정도가 아니야. 수직선, 아니 모든 복소수 중에 ‘아무런 수’나 뽑았을 때 그것이 초월수일 확률이 100%일 정도로 말이지.

하지만 그럼에도 여전히 수학자들이 초월수에 대해 알고 있는 바는 정말 새발의 피만큼이나 적어.

초월수에 관한 이론, 즉 초월적 정수론(transcendental number theory)은 이름이 제시하다시피 정수론의 일부이긴 한데 내가 공부하는 타원곡선과는 연구 대상도, 방법도 너무 달라서 사실 나도 많이 알지는 못해.

마치 물리학이라는 거대한 우산 아래 입자라는 미시세계부터 거대한 우주세계를 연구하듯 정수론도 정말 다양한 대상을 다양한 방법으로 연구하는 넓은 분야야. 

아무튼 이번에는 초월수라는 개념에 대해 소개해보고 싶어서 글을 적어봤어. 초월수 정수론의 초월적인 행보, 많이 사랑해주길 바래.