100년의 난제, 카케야 추측: 정말로 해결된 것일까?

최근 수학계에 흥미로운 소식이 전해졌다. 뉴욕 대학교 쿠란트 수학 연구소의 홍 왕(Hong Wang) 부교수와 브리티시 컬럼비아 대학교의 조슈아 잘(Joshua Zahl) 부교수가 3차원 카케야 추측을 해결했다는 논문을 arXiv(수학자들이 공유하는 무료 논문저장소)에 게재한 것이다. 약 100년간 해결되지 않았던 기하학 난제를 해결했다는 주장은 많은 수학자들의 이목을 끌었다.

논문은 지난달에 arXiv에 올라온 상태이므로 동료평가와 엄밀한 검증에는 시간이 필요하다. 이 증명에 오류의 여부는 아직은 알 수 없다. 다만 수학자들은 보통 난제에 대한 증명을 발표할 때 심사숙고한 후 확신이 있을 때만 공개하는 경향이 있기에, 제법 가능성이 있다는 기대를 모으고 있다. 만약 이 증명이 인정받는다면, 1991년생의 젊은 여성 수학자 홍 왕은 내년 필즈상의 유력한 후보로 부상할 것이다.

카케야 추측이 해결되었을지도 모른다는 소식은 유튜브 및 매거진으로 빠르게 퍼져갔다. 한국 동아사이언스도 해당 소식을 기사로 다뤘다. 다만 해당 기사에는 오류가 많아 아쉬움이 들었다. 이 글에서는 카케야 추측에 대한 올바른 설명과, 기사의 모순점을 지적하고자 한다.

사실 기자를 무작정 탓할 수만 없는 것이 ‘카케야’와 관련된 문제가 총 3개가 있다. 모두 같은 '의문'에서 비롯되었지만, 각 질문이 묻는 바는 명확히 다르다. 먼저 카케야 추측을 이해하기 위해 필요한 선행지식들을 톺아보자. 폭이 0이고 길이가 1인 '바늘'을 상상해보자. 이 바늘을 180도 회전시키기 위해서는 얼마만한 공간이 필요할까? 가장 먼저 떠올릴 수 있는 것은 지름이 1인 원에 넣는 것이다. 바늘의 중심과 원의 중심이 일치하면, 바늘은 원하는 방향 어디로든 향하게 돌릴 수 있다. 마치 나침반처럼 말이다. 하지만 이것이 '최적'의 조건일까? 원보다 더 작은 도형은 없는 것일까?

이 지점에서 다음의 질문들을 소개한다.

1. 평면상의 바늘을 연속적으로 180도 돌리기 위해 필요한 최소한 공간의 넓이는 몇인가?
2. 평면상의 바늘이 모든 방향으로 향하게 하기 위해 필요한 최소한의 공간의 넓이는 몇인가?
3. 이러한 공간들의 하우스도르프 차원과 민코프스키 차원은 몇인가?

먼저 살펴볼 점은 1번 질문의 조건이 2번 질문의 조건보다 더욱 강하다는 점이다. 바늘을 180도 돌리는 과정에서 바늘은 모든 방향을 향한다. 하지만 바늘이 모든 방향을 향한다고, 한 방향에서 다른 방향으로 돌릴 수 있는 것은 아니다. 예컨대 가시가 빽빽한 성게 모양을 떠올려보자. 바늘은 다양한 방향을 향하도록 위치할 수 있다. 하지만 그것이 한 방향에서 다른 방향으로 바늘을 회전시킬 수 있는 것은 아니다.

이 점을 염두한 채 기사의 다음 문장을 보자.

카케야가 문제를 제기한지 2년 뒤인 1919년 러시아-영국 수학자 아브람 베지코비치는 바늘을 한 바퀴 돌릴 때 바늘이 지나는 최소 면적값이 0이라는 것을 증명했다.

올바른 발음이 베시코비치(Besicovitch)라는 것은 차치하더라도, 베시코비치가 해결한 것은 2번 문제, 즉 '바늘이 모든 방향을 향하는데 필요한 최소면적' 문제다. (기자는 1번 문제와 2번 문제를 계속해서 혼동한다.) 수학자들은 그의 업적을 기리기 위해, 이러한 공간을 '베시코비치 집합(Besicovitch set)'이라고 부른다. 1번 문제가 제시하는 조건의 공간을 '카케야 집합(Kakeya set)'이라고 부른다.

면적이 아주 작은 베시코비치 집합과 카케야 집합을 만들기 위해선 삼각형, 원과 같은 일반적인 도형을 사용하지 않는다. 대신 프랙탈 구조를 사용해야 한다. (흔히들 프랙탈을 '자기유사적 구조'라 하지만 꼭 그런 것만은 아니다. 일반적으로 프랙탈은 그 일부를 얼마든 확대해도 매끄럽지 않고 뾰족뾰족한 형태를 갖고 있는 구조를 말한다.) 프랙탈은 일반적으로 '넓이'나 '부피'를 가늠하기 어렵다. 대신 수학자들은 '측도'라는 개념을 사용한다. 다만 측도에 대해서까지 설명하려면 배보다 배꼽이 더 크게 되는 것이니, 편의상 이 글에서도 '면적'과 '부피' 등 직관적인 언어로 대체하도록 하겠다.

다음은 또 다른 기사의 오류이다.

문제에서 바늘은 무한히 가늘고 가정하고 있기 때문에 가늘게 만들어 모든 방향을 가리키며 돌리더라도 바늘이 지나는 면적값은 0이라는 의미다.

틀렸다. 1번 질문과 2번 질문을 혼동하였기 때문에 이 또한 틀린 문장이 되었다. 1919년 베시코비치는 '바늘이 모든 방향을 향하기 위해 필요한 최소한의 공간' 즉 가장 작은 베시코비치 집합의 넓이가 0임을 보였다. 반면 1번 문제는 그보다 훨씬 뒤인 1971년, 커닝햄(F. Cunningham)에 의해 증명되었다. 커닝햄은 'ε가 어떤 양수든, ε보다 작은 면적값을 가진 카케야 집합은 존재한다'는 사실을 증명했다. 하지만 주의해야 할 점은 이 말이 '면적값이 0인 카케야 집합이 존재한다'는 뜻이 아니라는 것이다. 수학자 테렌스 타오는 이 오해를 풀고자, 자신의 블로그에 '카케야 집합의 면적이 0일 수는 없다'는 사실을 간단하게 증명해냈다.

즉 지금까지의 논의를 요약하면 다음과 같다.   

1. 모든 방향을 향하도록 바늘을 놓을 수 있는 공간을 베시코비치 집합이라고 한다.
2. 모든 방향을 향하도록 바늘을 회전시킬 수 있는 공간을 카케야 집합이라고 한다.
3. 카케야 집합은 베시코비치 집합보다 조건이 까다롭다. (모든 카케야 집합은 베시코비치 집합이지만, 모든 베시코비치 집합이 카케야 집합인 것은 아니다.)
4. 면적이 0인 베시코비치 집합은 존재한다.
5. 면적이 0인 카케야 집합은 존재하지 않는다. 각각의 카케야 집합의 면적은 0보다 크다.
6. 다만, 어떤 양수 ε를 가정하든, 그보다 작은 면적을 갖는 카케야 집합을 만들어낼 수 있다.

카케야 집합도 베시코비치 집합도 모두 프랙탈 구조로 이루어져있다. 그리고 프랙탈 구조로 이루어진 공간들은 일반적으로 ‘정수’ 차원값을 갖지 않는다. 1.5나 3.03과 같은 소수점 차원값을 갖는다. 이러한 차원값을 구하는 방법으로 민코프스키 차원(Minkowski dimension)과 하우스도르프 차원(Hausdorff dimension)이 있다. 아주 거칠게 요약하자면, 민코프스키 차원값은 해당 공간의 차원을 ‘수치적’으로 구하는 것이고, 하우스도르프 차원값은 ‘이론적’으로 구하는 것이다.

0.01이든 1이든 36.5이든, 0보다 큰 유한한 면적을 갖는 공간을 가정해보자. 이러한 공간의 민코프스키 차원과 하우스도르프 차원은 2이다. 하지만 면적이 0인 공간의 민코프스키 차원과 하우스도르프 차원은 2보다 작거나 같다. 직관적인 이해를 위해 다음의 예제를 보자.

정사각형의 부피는 몇일까? 정사각형의 부피는 0이다. 정사각형은 높이가 없으므로. 

선분의 넓이와 부피는 몇일까? 선분의 넓이와 부피는 0이다. 선분은 두께도 높이도 없으므로.

정사각형은 2차원 대상이고 부피는 3차원 측도다. 2차원의 대상을 3차원의 측도로 재면 0이 나온다. 마찬가지로 선분은 1차원 대상이고 이를 넓이라는 2차원의 측도로 재면  0이 나온다. 이를 기반으로 우리는 다음의 '직관'을 쌓을 수 있다.

N이 M보다 작은 수라고 하자. N차원의 대상을 M차원의 측도로 재면 그 값은 0이다.

앞서 베시코비치 집합의 넓이는 0이라는 사실을 보았다. 베시코비치 집합을 2차원 측도인 넓이로 재니 그 값이 0이란 뜻이다. 이는 베시코비치 집합의 민코프스키 차원과하우스도르프 차원은 최대 2여야 한다는 뜻이다. 그런데 여기서 문제가 발생한다. 바로 베시코비치 집합이 프랙탈 구조라는 점이다. 언급했듯 프랙탈 구조의 하우스도르프 및 베시코비치 차원값은 1, 2, 3과 같은 정수일 필요가 없다. 1.5일 수도 있고, 1.9일 수도 있고, 1.999일 수도 있다.

반면 카케야 집합의 경우는 다르다. 그 면적값이 얼마든지 작게 카케야 집합을 설계할 수는 있지만, 각  카케야 집합의 면적은 0보다 커야햔다. 면적이 0보다 큰 유한한 값을 가지므로, 카케야 집합의 민코프스키 차원과 하우스도르프 차원은 2여야 한다. 하지만 기사에선 이렇게 소개한다.

이후 수학자들은 바늘이 모든 방향을 가리키지만 바늘이 지나는 면적값이 0인 바늘의 집합을 '카케야 세트'라고 이름 붙이고 카케야 세트는 바늘이 움직이는 차원이 1차원, 2차원, 3차원처럼 정수로 딱 떨어지는 차원에서만 존재한다고 추측했다. 이것이 바로 카케야 추측이다.

일단 기사에서 '집합'이라는 말을 쓰다가 갑자기 세트라는 말을 쓰는 것은 차치하고 보더라도, 카케야 집합의 면적이 0이 아니란 점에서 카케야 집합의 차원에 대한 논의는 필요 없다. 카케야가 제안한 추측은 카케야 집합의 차원이 아니다. 베시코비치 집합의 차원이다.

지금껏 독자들의 편의와 이해를 돕기 위해 2차원 평면에서 논의를 진행했다. 요약하자면 다음과 같다. 

평면상의 바늘이 모든 방향을 향하게 만들려면 최소 어느 정도 면적의 공간이 필요할까? 

면적이 0인 공간으로도 충분하다! 이러한 공간을 2차원 베시코비치 집합이라 부른다. 

2차원 카케야 추측
2차원 베시코비치 집합의 민코프스키 차원과 하우스도르프 차원은 몇인가?

2차원 카케야 추측은 1971년에 증명되었다. 증명에 따르면 베시코비치 공간의 민코프스키 차원과 하우스도르프 차원은 둘 다 2이다. 이 문제를 더 높은 차원으로 확장시킬 수 있다. 

3차원 카케야 추측
 공간상의 바늘이 모든 방향을 향하게 만드는 부피가 0인 공간을 3차원 베시코비치 집합이라 부르자. 이 공간의 민코프스키 차원과 하우스도르프 차원은 몇인가?

왕 홍과 조슈아 잘은 그 값이 3이라 말한다.

참고자료:

동아사이언스 기사 30대 中 여성 수학자, '필즈상 수상감' 난제 해결

H. Wang and J. Zahl, "Volume estimates for unions of convex sets, and the Kakeya set conjecture in three dimensions," Preprint, arxiv: 2502.17655

A. S. Besicovitch "On Kakeya's problem and a similar one," Math. Z. 27 (1928), no. 1, 312-320

J. Fox "Besicovitch sets, Kakeya sets, and their properties," The University of Chicago Mathematics REU 2021

T. Tao “A remark on the Kakeya needle problem.”