제타함수 짤 파헤쳐보기

궤령부는 물론 종종 과학/수학 관련 글에 자주 올라오는 이 짤!

바로 수학계의 150년 떡밥이자 정수론의 난제 ‘리만 가설’에 관한 짤인데, 과연 그 답은 무엇일까? 오늘 한번 속 시원하게 소개해드립니다.

(들어가기에 앞서, 필자는 정수론 분야에 박사과정 6년차이지만, 주 전문 연구분야는 리만 가설은 아니라는 점을 알려드립니다. 사실 제타 함수를 연구하고 싶었으나, 2년차에 타원곡선으로 급선회했어용.)

먼저 리만 가설은 무엇이냐, 제타 함수라는 아주 특수한 함수의 근을 찾는 문제입니다.

함수라 하면 예컨대 요런 놈입니다. x에 어떤 값을 넣느냐에 따라 f(x)라는 값이 결정되지요.

이 f(x)의 값이 특별히 0이 되는 순간, 대입했던 x를 근이라고 부릅니다. 위 경우에서는 x = 2 와 x = -2가 근이 되겠군요.

제타 함수라는 특별한 함수는 다음과 같이 정의합니다.

이 공식을 편의상 ‘1번 공식’ 이라고 하겠습니다.

제타 함수는 리만 선생님의 관례에 따라 변수를 x대신 s로 쓰는 것이 국룰입니다. 어쨌든 이 함수가 0이 되는 값을 찾는 것이 리만 가설인데…

사실 짤에 나온 문제는 아주 결정적인 오류가 있습니다. ‘복소수 전체 집합에서 정의된 함수…’ 라는 표현인데, 먼저 제타 함수는 복소수 전체에서 정의되어있지 않습니다. s = 1에서 정의할 수 없거든요. (마치 1/(x-1)에 x=1을 넣으면 안되는 것을 상상하시면 됩니다.)

또한 제타 함수가 1번 공식과 같이 정의되는 구간은 복소수 전체가 아닙니다. 제타 함수를 1번 공식처럼 정의한 구간은 s의 실수부가 1보다 큰 경우에서만 입니다. 다시 말해 ‘전체’에서 저렇게 정의된 것이 아니라 ‘특정 구역’에서 저렇게 정의된 셈입니다. 특정 구역에서 1번 공식과 같이 정의한 것을 ‘해석적 연속(analytic continuation)’이라는 테크닉으로 확장시킨 것, 이것이 제타 함수의 올바른 정의입니다.

즉, 문제를 올바르게 표현한다면 다음과 같습니다.

s의 실수부가 1보다 클 때, ‘1번 공식’과 같이 정의된 함수를 가정하자. 

이 함수의 정의역을 s = 1을 제외한 모든 복소수 집합으로 해석적 확장을 거친 것을 제타 함수라 정의한다.

그렇다면 s의 실수부가 1보다 작은 경우는 어떻게 정의하냐? 이 구간은 크게 두 구간으로 볼 수 있습니다. 실수부가 0과 1 사이인 경우와 실수부가 0보다 작은 경우.

먼저 s의 실수부가 0과 1 사이인 경우, 다음과 같이 정의합니다.

그리고 s의 실수부가 1보다 작은 경우는 다음의 관계식을 이용해 정의합니다.

이렇게 ‘복잡하게' 정의한 이유는, 이 함수의 해석성이라는 성질을 유지하기 위해서입니다. 해석성은 아주 거칠게 요약하자면 ‘무한번 미분이 가능한 성질’을 말합니다.

원래 함수는 s의 실수부가 1인 공간에서만 정의되었고, 이 공간에서는 얼마든지 미분이 가능(해석성)했습니다. 이 ‘해석성’을 유지한 채 함수의 정의역을 확장하는 테크닉을 해석적 연속 혹은 해석적 확장이라고 합니다. 1번 공식으로 정의한 것에 해석적 확장을 거쳐 ’1을 제외한 모든 복소수에서 정의한' 함수가 제타함수이며, 그 형태는 위의 두 공식입니다.

문제에 오류는 지적하는 것은 이만하고, 이제 각 보기를 파헤쳐볼까요?

먼저 보기 ㄱ, 1번 공식의 꼴은 소수에 관련한 무한곱의 꼴의 형태로 표현할 수 있다인데, 이 역시 ‘s의 실수부가 1보다 큰 경우’에서만 성립합니다. 이 소수의 무한곱 꼴은 1번 공식에 나온 무한합 꼴로부터 유도한 것이기 때문에 제타 함수가 그렇게 정의된 구역에서만 성립합니다. 

즉, ‘엄밀하게’ 본다면 거짓입니다. (단, s의 실수부는 1보다 크다 와 같은 문구를 넣었으면 참.)

보기 ㄴ, ζ(½ + bi) = 0 을 만족하는 실수 b는 무한히 많다. 이는 의심할 여지 없는 참입니다. 1914년 영국의 수학자 고드프리 하디가 증명했습니다. 딱히 이름이 붙여진 것은 아니지만 ‘하디의 정리’ 혹은 ‘하디의 임계선 정리’ 혹은 ‘임계선 상의 제타 함수의 근의 무한성에 관한 하디의 정리’라고 하면 이해합니다.

마지막으로 보기 ㄷ는 리만 가설입니다. (b ≠ 0)이라는 조건이 중요합니다. b가 0이 되어버리면, 즉 s가 실수가 되는 것을 허락한다면 이 보기는 거짓이 됩니다. 왜냐하면 제타 함수에 s = -2, -4, -6, -8, … 등 음의 짝수를 대입하면 0이 되기 때문입니다. (물론 이 값들은 실수부가 1보다 크지 않으므로 1번 공식을 사용할 수 없습니다.)

이 음의 짝수들은 3번째 공식 그림에서 자연스럽게 유도되는데, 너무 ‘자명한’ 근이기 때문에 ‘자명근’이라고 부릅니다. 반면 리만 가설은 제타 함수의 모든 ‘자명하지 않은 근’ 이른바 ‘비자명근’의 실수부는 ½인가?에 관한 문제입니다. 즉 3번 보기는 리만 가설이며 그 참/거짓 여부를 아직 모른다고 할 수 있습니다.

저라면 이 문제의 답을 2번으로 꼽겠습니다. ㄱ은 분명히 거짓이고, ㄴ은 분명히 참인데, 정답 중에 ㄴ,ㄷ은 없으므로 ㄴ인 2번을 골라야겠군요. 출제자는 아무래도 리만 가설이 거짓이라고 생각하는가 보군요. 이런 불경한!