정수론민수가 들려주는 정수론 이야기 - 그래서 정수론이 뭔데?

1. 수학에도 분야가 있어?

과학은 크게 네 분야로 나뉘어져 있다고 하잖아. 물리학, 화학, 생물학, 지구과학. 마찬가지로 수학도 그 안에 엄청나게 많은 과들로 나뉘어져 있어.

그렇다면 수학은 어떻게 나뉘어질까? 워낙에 역사가 긴 학문이고, 지금은 엄청나게 많은 협업관계로 끊임없이 새로운 분야들이 많이 나오고 있긴 하지만, 순수수학의 전통의 강호 넷을 꼽아볼게.

대수학(Algebra): 드래곤볼의 사이어인같은 분야임. 원래는 미지수 x를 찾는 놀이같은 질문에서 시작했지만, 지금은 엄청난 수련을 거듭해 구조, 형태, 체계같이 거창한 것들을 연구하는 학문이 됨. 쌈박질만 앞두면 몸이 근질근질한 사이어인처럼, 새로운 연구거리가 나오면 대수학이 가장 먼저 나서서 '대수학화'함. 

해석학(Analysis): 원피스의 해적들같은 분야임. 함수와 연속성이라는 개념을 주로 연구함. 마치 원피스에 별별 이상한 능력자들이 있는 것처럼, 수학에서 가장 기상천외한 예제들은 거진 해석학이 만들어 냄.

정수론: 배트맨의 조커같은 분야임. 다른건 다 관심없고 배트맨 하나만 관심있는 조커처럼, 수, 특히나 정수와 유리수에만 집중하는 분야임. 정수와 유리수에 대한 새로운 사실을 캐내기 위해서라면 다른 분야와 협력하는 것도 마다치 않아함.

기하학: 냉장고를 부탁해의 전무님같은 분야임. 그 시작은 수천년전 넓이를 재고, 각을 구하는 단순한 분야였지만, 지난 200여년간 해석학, 대수학, 정수론의 기술을 야금야금 흡수해가며, 오늘날 수학계의 최대 인싸로 성장해버림.

그 외에도 수학의 다양한 분야들을 알아보고 싶다면 아래 지도를 참고해봐. (솔직히 많이 생략되서 아쉽지만, 그나마 그림중에선 이게 자세하게 써놨더라구!)

수학의 지도. 왼쪽은 이론수학, 오른쪽은 응용수학. 물론 생략된 분야도 많다!

2. 정수론은 어떤걸 공부해?

정수론은 워낙에 역사가 유구한 학문이다보니, 딱 한 마디로 정의하기 참 어려워. 대신 정수론이 관심있는 질문들을 적어보면 정수론에 대한 감이 조금 더 잡히기 쉬울거야. 몇 개만 살펴볼까?

I. (완전수 무한성 문제/홀수 완전수 문제; 미해결) 6의 약수는 1, 2, 3, 6이 있어. 이 중 6을 제외한 1, 2, 3을 더하면 다시 6이 돼. 이런 수를 완전수라고 부르지. 또 다른 예로는 28이 있어. 28을 제외한 약수 1, 2, 4, 7, 14를 더하면 다시 28이거든. 이런 완전수는 무한히 많을까? 지금까지 발견한 완전수는 모두 짝수인데, 과연 홀수인 완전수도 존재할까?

II. (소수정리; 해결) 1과 자기 자신으로밖에 나뉘어지지 않는 수를 소수라고 하지? 그런 소수가 무한히 많다는 사실은 이미 알려져 있지. 그렇다면 N보다 작은 소수의 개수는 약 몇 개일까?

III. (골드바흐의 추측; 미해결) 4는 2+2, 6은 3+3, 8은 3+5, 10은 5+5, 12는 5+7, ... 이처럼 4이상의 모든 짝수는 두 소수의 합으로 쓰여질 수 있는 것 같아. 과연 항상 그럴까? 모든 2보다 큰 짝수는 2개의 소수의 합으로 쓰여질 수 있을가?

IV. (쌍둥이소수 문제; 미해결)  p가 소수이면서 동시에 p+2도 소수일 때, p와 p+2를 쌍둥이 소수라고 해. 3과 5, 5와 7, 11과 13, 이런 애들이 쌍둥이 소수지. 쌍둥이 소수는 얼마나 많을까?

V. (피타고라스 세 쌍 문제; 해결) 피타고라스의 정리 알지? 직각삼각형의 밑변을 a, 높이를 b, 빗변을 c라 두면 a^2+b^2=c^2을 만족한다는 정리지. 그렇다면 a, b, c가 모두 자연수인 해는 얼마나 많을까?

VI. (페르마의 마지막 정리; 해결) n이 3 이상인 자연수일 때 x^n + y^n = z^n을 만족하는 0이 아닌 정수 x, y, z는 존재할까?

여기까지 보니 어때? 대충 정수론이 어떤 분야인지 감이 잡히지? 정수 그 본연의 특성이나, 아니면 방정식을 만족하는 정수인 해가 얼마나 많이 있는지 등이 정수론 학자들의 최대 연구 관심이야.

재미있는 건 다른 분야들과 달리 초등학생도 이해할 수 있을정도로 쉽지만 해결되지 않은 난제들이 굉장히 많은 분야기도 해.

3. 작성자는 뭘 연구해?

나는 정수론 중에서도 타원곡선이라는 분야를 연구해. 더 얘기를 진행하기에 앞서 짚고 넘어가자면…

“타원곡선은 타원도 아니고 곡선도 아니야. - 정수론민수(31세, 대학원생)”

이쯤에서 돌아보는 볼테르 선생님의 명언

타원 곡선은 흔히 y^2 = x^3+Ax+B 꼴의 방정식을 말해. 이게 어쩌다가 타원곡선이라는 이름까지 오게 되었는지는 좀 역사가 긴데 그건 생략하고... 

이 방정식을 보면 어떤 생각이 들어?

왜 y에 제곱을 취하는건데~ - 잠실거주 김모씨

왜 x에 세제곱을 취하는 거냐는~~ - 잠실프린스 철모씨

수학자들은 훨씬 더 복잡한 걸 연구하는 줄 알았잖슴~~~ - 잠실영주 차돌씨

그 이유를 쉽게 설명해보자면, 정수론은 방정식의 유리수해를 찾는 걸 주 목적으로 삼는데…
 

1, 2차면 너무 쉬운 거시다?
근데 또 4차 이상이면 너무 어렵단 거시다?!
그러니까 최대 차수를 3으로 제한하는 거시다?!?!

농담처럼 말했지만 사실이야. 최대차수가 1, 2인 방정식은 이미 수학자들이 완전히 이해했지만, 최대 차수가 4이상인 방정식의 유리수해 찾는 건 정말 정말 정말 미친듯이 어려워. 그나마 3차가 현재 우리가 할 수 있는 최선이지.

일반적으로 타원곡선을 좌표계에 그리면 이런 형태를 띄어.

“아니, 아무리 봐도 곡선이 맞는데 왜 곡선이 아니라고 해? 일부러 드립치려고 곡선 아니라고 한거지?” 

맞아, 타원곡선의 모든 실수해를 평면에 그리면 곡선이 돼. 하지만, 오늘날 수학자들은 실수를 넘어 복소수라는 것도 알고 있지! 그래서 실수해가 아니라 모든 복소수해까지 모아서 그리면 타원 곡선은 다음과 같은 모양을 띄어… 잔짜잔…!!

놀랍게도 타원곡선의 해는 도넛과 같은 구조를 갖게 돼. 위상수학자들이 특히나 환장(?)하는 형태인데, 이걸 수학에서는 토러스(Torus)라고 부르지. 어쨌든 타원곡선의 모든 해를 모아보면 곡선이 아니라 곡면이 돼. 그리고 보다시피 타원형도 아니지. 그래서 타원도 아니고 곡선도 아니다라고 했던거야.

타원곡선은 또 재미있는 성질이 있어. 그건 바로 소수와 짝을 지어 그 궁합을 알아볼 수 있다는 거야. (그러니 나를 수학의 중매쟁이라고 불러주시겠어용?) 나는 타원곡선 E와 소수 p가 좋은 궁합인지 나쁜 궁합인지를 연구하고 있어. 어떤 타원곡선이 좋은 궁합인 소수가 많을까? 그 어떤 소수와도 궁합이 안 좋은 타원곡선도 존재할까? 이런게 내 관심분야지.

궤령부에는 수학 전공생들도 몇몇 있으니까, 전공생들 수준에 맞게 설명을 해보자면...

유리수체 Q에서 정의된 타원곡선 E의 conductor를 N이라 할 때, p가 N을 나누지 않는 소수라면, E의 minimal model을 mod p로 환원할 수 있어. 이렇게 얻은 식은 유한체 F_p에서 정의된 타원곡선 E_p가 돼. 일부 타원곡선들이 만족하는 성질 X를 가정할 때, E_p가 X를 만족할 확률은 얼마일까? 그게 내 주 연구 분야야.

어쨌든, 이렇게 타원곡선은 놀랍게도 소수라는 녀석들과 의외의 긴말한 관계가 있어. 사실 타원곡선이 정수론의 분야로 자리매김하게 된 것도 소수와의 연관성 때문이지! 그리고 내 주 활동은 소수와 짝을 지어주면서, 그 궁합을 계산하는 거야.

4. 그래서 타원곡선을 어따쓰는데?

정수론은 사실 순전히 수학적인 궁금함에서 기반한 학문이야. 그래서 오랜 시간동안 수학자들조차도 정수론이 인간에게 아무런 도움도 주지 못할거라고 믿어왔지. 정수론의 레전드 가우스도 수학은 과학의 여왕이고, 정수론은 수학의 여왕이라고 했거든. 심지어 20세기 정수론의 대가 중 한명인 고드프리 하디(무한대를 본 남자의 영국인 수학자)는 자신이 세상에 아무런 도움도 주지 못했고, 해악도 끼치지 않았다는 사실을 자랑스러워 했어.

하지만 오늘날 정수론이 암호체계를 만드는데 엄청나게 유용하다는 사실이 밝혀지며, 암호학의 필수 코스까지 올라왔어.

특히나 타원곡선을 기반으로 한 암호체계를 ECC라 하는데, ECC는 요즘 널리 쓰이는 RSA 암호체계를 능가하는 차세대 암호체계로 주목받고 있지. (RSA 또한 소수의 성질을 이용한 정수론 기반의 암호체계긴 하지만.)

고작 키 256비트의 ECC가 무려 키 3072의 비트의 RSA와 보안 능력이 같다!?

우리의 사이버 보안을 담당해줄 타원곡선에게 우리 모두 이렇게 말해주는건 어떨까?

타원곡선아~ 나의 개인 정보를 지켜줘서 고맙다~!
 

(나한텐 고마워하지 말고. 난 타원곡선의 응용에 대해선 하나도 모르거든.)