리만가설이 풀렸다는데 정말일까?!

한국에선 크게 이슈가 안 됐지만, 작년 11월 중국과 미국에선 장이탕이라는 수학자가 리만 가설을 풀었다는 소문이 조금 돌았어. (사실 나도 모르고 있다가 최근 수학동아에서 소식을 접했지.) 하지만 결국 잘못된 소문이었던 것으로 판명이 났어. 

벌써 2개월이나지나서  떡밥이 식긴했지만, 그래도 이렇게 정수론 이야기가 세간에 돌면 정수론민수로서 참을 수 없지. 어떻게 된 이야기인지 한번 소개해볼까 해.

1. 장이탕, 그는 누구인가?

중국계 미국인 수학자 장이탕(张益唐). 성이 장씨고, 미국 시민이라 이탕 장(Yitang Zhang)으로 더 자주 불린다.

장이탕은 중국계 미국인 수학자로, '나이를 먹고 나서 유명해진' 특이한 수학자야.

보통 유명한 수학자라 하면…
초중고 조기졸업 -> 세계 수학 올림피아드 입상 -> 미국 명문대 학/석/박 조기 졸업 -> 30대에 정교수 → 개쩌는 업적들을 세우다가 필즈상

이라는 테크트리를 자주 타지. (대표적으로 테렌스 타오, 페터 숄츠가 있다.) 

하지만 장이탕은 ‘꼭 젊은 천재만이 위대한 업적을 세우는 것은 아니다’라는 것을 몸소 보여준 케이스야. 왜냐하면 그는 60세가 되어서야 유명해진 늦깎이 수학자였거든.

장이탕은 수학자로서는 불운한 커리어를 보내왔어.

어렸을 적엔 문화대혁명으로 시골에 보내져. 10년간 노역을 하면서 어린 시절을 보내느라 제대로 된 교육도 받지 못했지. 23살이 되어서야 겨우 대학에 가서 30이 되어서야 석사를 마쳤다고 해. 다행히도 그의 석사 교수는 그를 좋게 봐줘서 좋은 추천서를 써줬고 퍼듀 대학에서 박사를 시작할 수 있었어. 6년동안 공부해서 박사를 마쳤지만, 지도교수와 불화가 있어서 추천서 하나 못받고, 직장도 못구했다고 해. 약 10년 정도를 레스토랑 알바, 숙박업소 알바를 전전하다가 44세의 늦은 나이에 겨우 대학 강사로 일했지.

그러다가 58세의 나이에 논문 하나를 냈는데, 그게 전세계 수학계를 뒤집어놓은 논문이었어. 그 논문 한편으로 세계적인 수학자가 되고, 캘리포니아 대학교 산타바바라 캠퍼스의 정교수직을 맡게 되었지. 수학계의 신데렐라라고 해야할까.

장이탕이 완전 수학계를 뒤집어 놓으셨다!

2. 장이탕이 풀었다는 문제는 뭘까?

장이탕은 '쌍둥이 소수 추측'이라는 문제에 획기적인 진척을 가져온 인물이야.

소수 알지? 1과 자기 자신으로밖에 나뉘어지지 않는 수. 몇 개만 읊어보면…

2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, ...

수학계의 영원한 떡밥이자, 정수론의 성배와도 같은 소수! 물론 수학자들이 지난 수천년에 걸쳐 소수에 대해 많은 사실들을 밝혀왔지만, 여전히 소수에 대해 모르는 것들도 많지.

쌍둥이 소수 추측은 가장 오랫동안 안 풀린 소수 난제 중 하나야. 쌍둥이 소수란 차이가 2가 나는 소수 쌍을 말하는데, 예컨대  3과 5, 5와 7, 11과 13, 17과 19, 29와 31 등이 있지.

소수가 무한히 많다는 사실은 이미 2000년도 전에 밝혀진 사실이야. 유클리드의 책에도 나와있으니까. 하지만 쌍둥이 소수가 무한히 많은가에 대한 질문은 여전히 미스테리로 남아있었어. 그러다 장이탕이 굉장히 획기적인 방법을 떠올렸어. 바로 쌍둥이 소수가 무한히 많은가에서 '무한'에 주목한 게 아니라 '쌍둥이'에 주목한 거지.

소수의 리스트를 다시 보자.

2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, ...

여기서 인접한 숫자들의 차이로 새로운 수열을 만들어보자.

첫번째 항은 3-2해서 1이야.
두번째 항은 5-3해서 2고
세번째 항은 7-5해서 2야.
네번째 항은 11-7이니까 4겠지. 이런 식으로 수열을 만들면...

1, 2, 2, 4, 2, 4, 2, 4, 6, 2, 6, 4, 2, 4, 6, ...

보다시피 처음의 1을 제외하고 모두 짝수야. 당연한 것이, 2보다 큰 모든 소수는 홀수기 때문이야. 홀수와 홀수의 차이는 짝수니까.

이 수열에서 2가 무한히 많이 나온다면 쌍둥이 소수는 무한히 많은 것이 돼. 반대로 2가 어느 순간에 더 이상 나오지 않는다면 쌍둥이 소수는 무한하지 않다는 뜻이지.

장이탕은 이 수열에서 '2가 무한히 나올까?' 라는 질문 대신 '몇 이하의 수라면 무한히 많이 나올까?'라는 질문에 주목했어.

앞의 수열을 다시 가져와보면...
1, 2, 2, 4, 2, 4, 2, 4, 6, 2, 6, 4, 2, 4, 6, …

이 수열을 여기까지만 보면 2는 6번 나와.

만약 2가 아니라 '4 이하의 수'라고 하면 몇 번이 될까? 직접 세어보니 12번이 나왔어. 

이건 2가 나온 빈도수인 6보다 큰 숫자야. 당연하지, 2 역시 4 이하의 수니까.
숫자를 더 키워볼까? ‘6 이하의 수’는 몇번 나올까? 이 수열의 모든 수가 6 이하니까 15번 나왔네.

이처럼 N이하의 수라는 조건을 달면, N이 커질 때마다 그 빈도는 점차 늘어나. 장이탕의 아이디어가 바로 이것이었지.

'N이 충분히 크면 'N이하의 수'가 나오는 빈도도 무한이 되는 순간이 있지 않을까?'

장이탕은 혼자 열심히 연구해서 N이 7x10^7 즉 7천만이면 된다는 사실을 밝혀냈어.

소수의 차이로 이루어진 수열은, 7천만 이하의 항이 무한히 많다. 다시 말해, 차이가 7천만 이하의 소수쌍은 무한히 많다.

어쩌라고, 그래서 쌍둥이 소수가 무한히 많냐고?

아마 일반인이라면 ‘아니 쌍둥이 소수가 무한히 많냐는 걸 풀랬는데, 왜 전혀 다른 걸 풀고 있어? 차이가 7천만 이하인 소수쌍이 무한하든 말든 알게 뭐야?’ 라고 말할 수 있는 결과지만… 수학계는 깜짝 뒤집혔지. 왜냐하면

1. 이러한 접근방식은 완전히 새로운 것이다.
2. 혼자서 일궈낸 결과다보니 개선될 여지가 매우 크다.
3. 이 7천만을 2까지 줄이면 쌍둥이 소수 추측을 증명하는 것이 된다. 즉 얼마까지 줄일 수 있냐가 관건이다. 

그래서 정말 전세계 정수론학자들이 너도 나도 모여 장이탕의 논문을 읽고 아이디어를 착안해서 후속 연구를 진행했지. 그들은 경쟁보다 협력을 선택했어. 엄청나게 많은 수학자들이 전례없는 대규모 공동 연구를 진행해서 결국 이 7천만을 246까지 줄이는데 성공했어. 그리고 이 위대한 업적을 가명으로 출간했지. 모두의 공로이자, 동시에 그 누구의 공로도 아닌 것처럼. 

이 드라마틱한 서사의 중심에 있던 장이탕은 일약 슈퍼스타가 되었고 말야.

3. 리만가설은 무엇인가?

장이탕이 리만가설을 풀었다는 소문이 돌자 사람들은 설마 하면서도 한편으론 ‘장이탕이라면...’하는 기대를 품었던 것 같아.

사실 리만 가설 해결했다는 떡밥은 자주 돌았거든? 2019년에 타계하셨던 수학계의 거장 마이클 아티야 경도 돌아가시기 직전에 리만 가설을 풀었다고 주장하셨던 사건이 있었지. 결국은 완전 아닌 걸로 밝혀졌지만. 그 때도 '아티야 경이라면' 하는 기대감에 정말 많은 수학자들이 그 세미나에 온라인으로 참석했던 일이 있었지.

그렇다면 수학계의 영원한 떡밥과도 같은 리만 가설은 무엇일까?

'리만 제타 함수의 비자명근의 실수부는 항상 1/2이다.'라는 것이 리만 가설이야.

일단 리만 제타 함수는 아래 처럼 정의된 함수야.

예를 들어 ζ(2)는...

이 함수는 s > 1일때만 정의되어 있어. 왜냐하면 ζ(1)은 1 + 1/2 + 1/3 + 1/4 +... 인데 이는 무한으로 발산하거든.

s가 작아지면 ζ(s)의 값은 점점 커져. 그래서 s = 1은 물론 s < 1에서도 정의가 되어있지 않았지.

하지만 수학자들은 '해석적 연속'이라는 재미있는 기법을 만들어.

‘일부에서만 정의된’ 기존의 함수를 '모든 지점이 미분이 가능하도록'이라는 조건을 붙여서 ‘전체에서 정의될 수 있도록 확장하는' 기법이야.

비유를 들어 설명하자면… 침착맨이 매일 오후 12시에서 6시까지만 방송한다고 해보자.

방송을 오랫동안 봐온 침청자라면 방송을 토대로 침착맨의 성격과 행동 패턴을 유추할 수 있을거야.

늦게 방송을 킨걸 보니 어제 늦게 잤군. 물을 많이 마시는거 보니 아침을 짜게 먹었나 등
그러면 침착맨이 방송하지 않을 때 어떻게 행동하는지도 추론할 수 있는 원리야.

함수도 일부에서만 정의되었지만, 다른 영역도 유추해서 그 정의를 확장시키는 것이지. 이걸 해석적 연속이라 불러. (대학원 복소해석 과정에서 다뤄.)

원래 제타 함수는 1보다 큰 실수에서만 정의되었지만, 리만은 이 해석적 연속이라는 기법을 만들어내서 1을 제외한 모든 복소수로 제타 함수의 정의를 확장시켰어. 그래서 리만의 업적을 기억하고자, 제타 함수를 리만 제타 함수라고 부르는 것이 관례가 되었지.

리만은 이 함수가 0이 되는 지점들을 몇 개 발견해. 바로 음의 짝수들, s = -2, -4, -6, ... 들이지. 이 값들이 너무 당연해서, 리만은 이를 '자명근'이라고 불렀어.

너무 자명해서 자명종인줄 (자명한 해 혹은 자명해라고도 한다.)

리만은 제타 함수를 세 구역으로 나눴어. 아래 그림을 보면 왼쪽(파란 격자 영역), 가운데(노란 영역), 오른쪽(빨간 격자 영역)으로 볼 수 있어.

사진출처: 3B1B. 복소수로 이루어진 평면, 이른바 복소평면이다.

리만은 오른쪽 영역(빨간 영역)에서는 제타 함수가 0이 될 수 없다는 사실과, 왼쪽 영역(파란 영역)에서 제타 함수가 0인 곳이 모든 음의 짝수들인 걸 알았지. 그러다 문득 이런 궁금증이 생긴거야.

이 함수... 침대에선.. 아니 가운데 영역에선 어떨까?

여기서 리만은 굉장히 대담한 질문을 던져. 가운데 영역(노란 영역)에서 0이 되는 지점들을 비자명근이라고 하자. 이 비자명근은 노란 영역 정중앙에 일렬로 늘어서 있지 않을까? 그게 바로 리만 가설이야.

4. 장이탕은 리만 가설을 해결했나?

아쉽게도 장이탕이 해결한 문제는 리만 가설과는 연관이 있지만 다른 문제야. 그가 해결했던 건 란다우-지겔 영점 문제(Landau-Siegel zero problem)라는, 리만 가설만큼 유명하진 않지만, 정수론계에선 꽤 중요한 떡밥이야. 사실 정확히는 란다우-지겔 영점 문제보다 '조금 더 쉬운' (조금 더 조건을 쉽게 완화한) 문제를 풀었어. 뭐 그것도 엄청나게 의미가 있는 결과지만.

란다우-지겔 영점 문제는 설명을 넘길게. (설명하려면 궤령부에 매일 대수적수론+해석적수론 강의 한편씩 올려도 1달은 걸릴 거 같음.) 하지만 이 문제는 리만 가설과 관련이 있는데...

란다우-지겔 영점 문제가 '거짓'이라면 리만 가설도 '거짓'이야. 즉 일렬상에 위치하지 않은 영점이 존재한다는 뜻이야.

하지만 반대로 리만 가설이 '참'이면 란다우-지겔 영점 문제 역시 '참'이지. (이러한 명제관계를 대우라고 부른다.)

물론 란다우-지겔 영점 문제가 '참'이더라도 리만 가설이 여전히 '거짓'일 순 있어. 장이탕의 결과를 간략하게 요약하면 '란다우-지겔 영점 문제'는 참일 것으로 보인다. 조건을 약간만 완화한 경우 참임을 보였기 때문이다… 정도로 요약할 수 있어. 하지만 말했다시피 이것만 갖고는 리만 가설이 참인지 거짓인지는 알 수 없지.

보아하니 작년 10월에 중국에서 '장이탕이 리만가설을 풀었을지도 모른다'라는 뉴스가 올랐대. 그러다가 11월에 장이탕의 논문이 공개되었고, 1주일 뒤 네이처가 '장이탕이 란다우-지겔 문제를 해결했다!'라고 오보를 냈지. 아무래도 란다우-지겔 문제와 리만 가설이 연관이 있다보니까, '장이탕이 리만 가설을 풀었다!'라는 식의 찌라시가 돌게 된 것 같아.

결국에는 해프닝처럼 끝났지만, 그래도 장이탕의 ‘약한 란다우-지겔 영점 문제 해결’은 정수론 학계에서는 중요한 업적이야. 아쉽게도 나는 그 쪽 분야(해석적 수론)는 내 전공이 아니라서, 그냥 멀리서 응원하며 지켜보는 입장이지만. 아무쪼록 더 많은 사람들이 수학에 대해 관심을 가져주길 바라는 마음에 긴 글을 써봤어. 정수론은 물론 수학에 대한 질문이 있다면 언제든 환영이야!