수학 박사가 답한다, 수학에 대한 오해들

오늘 침투부에 정승제 선생님께서 나오셨습니다~!! 

정승제 생선님의 명 수학강의 덕분에, 침하하에도 수학에 대한 글들이 엄청 올라오더군요.

매일 침하하에 ‘수학’ 키워드 글들을 찾아 읽는 수학빌런(?)으로서 너무나 기쁜 하루였습니다 흐흐흐.

물 들어오니 노 젓는다고, 마침 침투부 시청자들 사이에서 수학에 대한 관심이 높아진 막간을 이용해 수학에 대한 세간의 오해를 바로잡아보고자 합니다.

(수학자가 답한다! 라고 하기엔 교수직 계약이 8월부터라, 아직은 수학 박사라고 하겠습니다 흐흐흐)

어디까지나 아래의 문답들은 제 경험에 기반한 의견이니, ‘모든 수학자들이 다 이렇게 생각하더라’ 하고 오해하진 말아주십숑!

수학에는 더 이상 해결할 것이 없다?

No입니다. 다른 질문은 모르겠지만, 이 질문만큼은 모든 수학계를 대변해 답할 수 있습니다. 결코 수학은 결코 완성된 학문이 아닙니다. (우리 수학 절대 월클 아닙니다!)

수학은 1개의 질문을 해결하는 과정에서 10개의 새로운 질문을 맞딱뜨리는 학문입니다. 그러니 끝이라는 것이 있을 수가 없지요.

비유하자면, 수학이란 분야는 무한히 넓은 휴지 한 가운데에 잉크를 계속해서 떨어뜨리는 것과 같습니다. 새하얀 휴지는 인간의 무지를, 잉크 방울은 지성들의 노력을, 그리고 잉크가 묻은 부분은 인류의 지식을 의미합니다.

잉크를 부으면 부을수록, 그 영역은 더욱 더 넓어집니다. 즉 우리가 아는 것들이 많아지지요. 하지만 그만큼 영역의 경계도 넓어집니다. 이 앎과 모름의 교전지역에서 얼마든지 새로운 질문들이 떠오를 수 있지요.

저도 논문을 두어편 썼지만, ‘와 나 이제 완전히 알았어’ 라고 자신있게 논문을 매듭지은 적이 없었습니다. 오히려 논문을 통해 하나의 의문을 해결하면서, 새로운 의문이 여러개 쌓였지요.

수학은 항상 해결할 것이 남아있는 분야이기에, 수학자들은 할 일이 항상 넘쳐난답니다.

수학자가 되기 위해서는 계산을 빨리 그리고 잘 해야 한다?

학창시절 수학을 잘 한다고 하면, 문제를 슥 훑어보고, 복잡한 계산을 암산으로 한 뒤, 정답을 뱉는 모습을 상상합니다.

물론 계산이 빨라서 나쁠 것은 없지요. 하지만 수학자가 되기 위한 제 1 소양은 아닙니다.

애초에 중고등 수학은 수학자를 양성하기 위해 설계된 과정이 아니죠. 오히려, 여러 이과 분야에서 사용되는 추론 능력을 키워내는 것을 목표로 합니다.

그래서 ‘난 고등학교 때 수학 잘했어. 그러니 수학과에 갈테야’ 했다가 진또배기 수학을 맛보고 좌절하신 분들이 참 많죠. (예컨대 우리 엄마)

수학과에 필요한 자질과 수능 수학이 검증하는 자질은 많이 다릅니다. 복잡하고 추상적인 사고를 할 수 있는가? 하나의 문제에 대해 깊게 고민할 수 있는가? 나의 생각을 논리에 맞게 배열할 수 있는가? 그것을 적확하게 활자화할 수 있는가? 등이 오히려 수학과가 요구하는 자질입니다.

예컨대 이런 문제를 본다고 하면, 수학과는 아마 이렇게 생각하지 않을까 싶어요.

해당 조건을 만족하는 함수는 존재하는가? 존재한다면 그것은 유일하게 존재하는가? 이 조건은 무엇과 동치이기에 해당 삼차함수를 정의하는데 필요한 3개의 숫자 (2개의 계수 + 1개의 상수)를 유일하게 결정하는가? 이 이상 차수의 함수에서도 이와 같은 성질은 존재하는가?

이런 질문을 떠올리는 시점부터 이 문제를 제시간 안에 풀기 글렀죠. (어쩐지 수학자들은 죄다 N 같더라니!)

그러니 오랫동안 고민하는 습관 때문에 오히려 계산이 느린 친구들. 기죽지 마세요. 어쩌면 당신이야말로 수학자에 가장 적합한 인재일지도 모릅니다.

수학은 하나의 분야다?

결코 아닙니다. 수학은 정말 다양한 분야들의 집합체입니다. 수백년의 역사를 가진 과학도 물, 화, 생, 지 등 분야가 얼마나 많은데, 수천년의 역사를 가진 수학은 어떨까요. 

수학 학술 단체인 Mathematical Reviews는 수학의 분야들을 색인화하는 작업을 했는데요, 가장 최근 버전인 2020년 버전을 보여드리겠습니다.

위 사진은 가장 거대 분류 표기고, 각 번호를 클릭하면 소분류, 소분류 안에서도 또 세부 분류가 있지요. 그래서 각 분야별로 수백개가 넘는 세부 분야가 있습니다.

예컨대 제가 지금 다른 두명의 친구들과 진행하는 공동 연구의 분류 표기는 11G05, 11F80이 됩니다. 

대분류인 11은 정수론을 일컫고요. 소분류 11F는 비연속적 군 및 보형형식, 11G는 산술적 대수기하 및 디오판투스 기하학을 말합니다. 세부분류인 11F80는 갈루아 표현론을, 11G05는 대역체 타원곡선을 뜻하죠.

이렇듯 수학에 워낙에 분야가 많다보니, ‘나는 수학을 잘해’ 라는 말은 마치 ‘나는 올림픽을 잘해’하는 말처럼 들립니다 흐흐흐.

수학은 과학이다?

아닙니다. 수학과 과학은 분명히 비슷한 점들이 많지만 한 쪽이 다른 한 쪽에 편입되기엔 둘 사이의 차이점이 너무나 극명합니다.

예전에 궤도님께서도 언급하셨듯 과학의 가장 중요한 성질은 실험 및 검증 가능성, 그리고 반박 가능성입니다. 이상적인 상태라면 누가 실험을 하든 같은 결과가 나와야 한다는 점. 그리고 그 실험을 통해 얻은 설명은 ‘원리적으로’ 반박이 가능해야 합니다.

반면 수학의 여러 현상들은 실험 및 검증의 영역이 아닐 뿐더러, 올바른 증명을 통해 얻어낸 결과는 ‘원리적으로’ 반박이 불가능해야 합니다. 참이라고 증명된 명제는 거짓이라고 재차 증명될 수는 없어요. ‘참이면서 거짓’인 명제가 생겨나는 즉시 수학은 완전히 비상사태에 빠지게 됩니다.

또한 과학의 관심 대상이 삼라만상 모든 물질을 품고 있는 자연이라면, 수학은 그 대상이 사뭇 다릅니다. 눈에 보이지도 않고, 만져질 수도 없고, 실험되어질 수도 없는 것들, 숫자, 함수, 그래프, 관계성, 구조체 등 막연한 것들이지요. 다만 노벨상 수상자인 위그너도 언급했듯, 그 자연세계를 이해하는데 수학이 너무나도 유용하고 필수적이라는 점은 참 놀라운 우연이지요.

요약하자면, 과학과 수학은 닮은 점이 많다. 가족정도는 되는 것 같다. 근데 쌍둥이는 아니다 정도가 될 것 같습니다.

수학은 발견이다? 아니면 발명이다?

굉장히 많은 사람들이 사랑해주시는 떡밥이죠. 이 질문에 대해 답하기 전에 먼저 과학의 경우를 살펴봅시다.

갈릴레이는 망원경을 발명했습니다. 밤하늘에 떠 있는 것을 더 잘 보기 위해서라는 필요에 따라서 말이죠. 망원경을 이용해 목성의 위성을 발견했고 우주의 중심이 지구가 아니라는 사실을 밝혀냈습니다. 망원경도, 위성도 과학의 영역입니다. 과학은 필요에 따른 발명과, 그 발명을 통해 얻는 발견이 있지요.

그렇다면 수학은 어떨까요?

루트라는 개념이 발명되었습니다. 특정한 계산을 하는데 필요하기 때문이지요. 그리고 루트를 통해 √2가 발견되었고, 이 수는 두 수의 비율로 표현할 수 없다, 즉 무리수라는 사실을 밝혀냈습니다. 루트도, 무리수도 수학의 영역입니다. 수학은 필요에 따른 발명과, 그 발명을 통해 얻는 발견이 있습니다.

그러니 수학은 발명이네, 발견이네 하나로 단정지을 수 없습니다. 수학은 둘의 적절한 조화지요.

컴퓨터는 수학자를 대신할 수 있다?

가능해 보이긴 합니다. (실제로 요즘 수학 학회에서 자주 언급되는 뜨거운 감자입니다.) 절대로 불가능할 것만 같던 직관의 영역을 인공지능이 잘 해내는 것을 보면, ‘컴퓨터는 수학을 증명을 절대로 못 해’라고 단언하긴 어려울 것 같습니다.

저는 먼 미래의 수학은 컴퓨터와 사람의 협업으로 발전하지 않을까 싶네요. 사람이 어떤 특이한 수학적 현상을 발견하면, 인공지능에게 더 많은 데이터 탐구와 증명을 요청할테고, 그 인공지능의 증명을 검증하며, 그 방법론을 이용해 새로운 현상을 발견할 것 같아요. 예전에 학회에서 들은 어느 발표자의 선언이 아직도 기억에 남네요.

“수학자는 컴퓨터를 든 철학자가 될 것이다.”

수학은 아름답다?

수학을 공부하다보면 간혹 감탄이 나오는 결과 혹은 증명이 있습니다. 하지만 대부분의 경우 수학은 굉장히 복잡하고, 지저분하고, 난해합니다. 

수학의 미학은 주관적인 영역이긴 합니다. 학자 저마다 생각하는 수학의 아름다움은 다 다르겠지요. 저는 무언가가 아주 깔끔하게 증명되고 간략하게 요약할 때 아름답다고 느낍니다. 반면 그렇지 못한 것은 아름답지 못하다는 느낌이에요. 물론 아름다운 수학이 더 좋고, 아름답지 못한 것이 나쁘다는 의미는 아닙니다.

예컨대 오일러의 항등식을 보면, 그 명료함에, 그 절묘함에 감탄이 나오지요.

하지만 꼭 그렇지 않은 수학도 많습니다. 

예컨대 증명이 수천, 수만장이 되는 정리라거나 (유한단순군 분류), 당최 왜인지 모르겠는 특이한 현상이라거나 (4차원 다양체 분류), 방법이 없어서 어쩔 수 없이 컴퓨터에게 맡겼다거나 (4색정리, 약한 골드바흐 추측) 등을 보면 아름답게 느껴지는 것 같진 않습니다. 수학 자체의 아름다움보단, 그것을 증명하기 위한 수학자들의 처절한 집념과 끈기가 더욱 아름답고 경이롭게 다가옵니다.

수학이 아름답다는 말에 대해서는 동의하는 수학자들도, 동의하지 않은 수학자들도 있을 것 같네요. 저의 입장은 이렇게 요약할 수 있을 것 같네요.

“수학이 아름답다고? 그건 네가 아름다운 애들만 봐서 그래. 수학이 얼마나 지저분해질 수 있는데.”