서  울  대  사  람  들

명징한 논리로 진리를 추구하는 학문, 수학

수학을 좋아한다는 사실을 처음 깨달은 건 초등학교 3학년 때였다. 참고서를 사면 함께 끼워주던 두꺼운 퍼즐 책을 여름방학 내내 끙끙거리며 풀었다. 중학교 2학년쯤에는 삼각형과 원을 배우며 수학에 다시 빠져들었다. 도형이 너무 재미있어 수업 중에 십여 페이지를 혼자 앞서서 공부하기도 했다. 하지만 막상 진학은 수학과가 아닌 전자공학과로 했다. 포항공대 전자공학과를 다니던 중, 다시 고민이 시작되었다. 수학의 아름다움에 계속 매료되었기 때문이다.
“공부하다 보면 불분명한 이론이 많아요. 그런데 수학은 달랐어요. 누구나 이해하도록 아주 명쾌해야 하고, 완벽해야 하죠.
군더더기 없는 깔끔한 진리 추구에 많이 끌렸던 것 같아요.”
그는 코로나19 팬데믹이 한창이던 2021년 조화해석학의 핵심 난제로 남아 있던 ‘공간 곡선에 대한 극대함수의 유계’를 규명하며 수학사에 의미 있는 이정표를 세웠다. 조화해석학은 복잡한 함수를 사인(sin)·코사인(cosine)과 같은 기본 파동들로 쪼개서 이해하는 수학의 한 분야다.
“1970년대 이후 곡면과 곡선으로 정의되는 극대함수가 무한대로 발산하지 않고 어떤 값 사이의 유계*를 가진다는 것을 증명하는 연구가 활발했죠. 평면 곡선에서 극대함수 유계는 1986년, 수학계의 노벨상으로 불리는 필즈상 수상자 장 부르갱(Jean Bourgain)이 증명했지만 3차원 이상의 공간에서 정의되는 공간 곡선에서 극대함수 유계는 해결되지 않은 채 남아 있었죠. 저와 논문의 공저자는 해답을 찾고자 했습니다.”
그가 논문에서 증명한 것은 ‘3차원에서 휘어짐과 비틀림이 모두 0이 아닌 곡선에 대한 극대함수가 어떤 르베그 공간**에서 유계일 필요충분조건은 그 르베그 공간의 적분 지수가 3보다 크다’라는 공간곡선 극대 정리다. 연구는 독창성과 중요성을 인정받아 수학 분야의 최고 권위 학술지 중 하나인 『인벤시오네 마테마티케(Inventiones Mathematicae)』에 논문이 게재되었다.

• * 유계(有界): 집합이나 함수의 값이 유한한 범위 내에 존재하는 성질
• ** 르베그 공간: 적분 가능한 거듭제곱 차수에 따라 정의된 함수 공간

길의 끝까지 가본 자에게만 새로운 길이 열린다

이 교수는 수학적 난제를 풀기 위해 시행착오를 거듭했던 과정을 어릴 적 외갓집으로 가던 길에 비유했다.
“엄마 손을 잡고 지루한 산길을 한참 걷다 보면 지친 마음에 ‘이 길이 맞나?’ 싶은 순간이 옵니다. 하지만 산모퉁이를 돌아섰을 때 바로 다른 길이 열렸습니다.”
이상혁 교수는 2006년에 아벨상을 받은 스웨덴 수학자 칼레슨의 사례를 들었다.
“칼레슨은 ‘어떤 함수가 주어졌을 때, 푸리에 시리즈에서 각 점에 수렴하는가’라는 문제를 다뤘어요. 사실 콜모고로프라는 천재 수학자가 17살에 이미 특정 함수들에 대해서는 수렴하지 않는다는 것을 보여준 적이 있었죠. 그래서 대부분의 수학자는 ‘아, 이건 안 되는 문제구나’ 하고 믿고 있었습니다.” 칼레슨 역시 처음에는 기존 학계의 통념에 따라 수렴 불가능을 증명하려 했다. 10여 년 동안 밀고 나가다가 중간에 포기하고, 다시 붙잡았다가 또 놓기를 반복했다. 그러다 문득 ‘이거, 될지도 모르겠다’라는 생각이 들었다. 그는 방향을 바꾸고 2~3년 만에 해법을 찾아냈다. 정반대의 방향으로 답을 얻은 것이다.

풍산마당의 곡면 아래를 걷는 이상혁 교수.
그가 증명한 ‘공간곡선에 대한 극대함수의 유계’는 곡선과 곡면, 반복과 비대칭의 구조를 지닌 풍산마당의 모습처럼 복잡성, 3차원 곡선, 불규칙 함수라는 말로 요약할 수 있다.

수학 공식 하나만 보고도
‘아! 이것 너무 멋지다!’ 하는 감탄이
나온다면 좋겠어요.
문제 자체에 열정이 없으면
중요한 문제는 해답이 나오지 않아요.

투철한 문제의식, 예술가적 열정으로 세상과 만나기를

“학생들에게 늘 새로운 수학을 만들어 내는 사람이 되라고 강조해요. 새로운 것을 창조하려면 동기부여가 굉장히 중요하죠. 그런 맥락에서 수학과 예술은 비슷한 측면이 많아요.” 수학은 난제에 도전하고 있다고 해서 당장 명예와 부가 생기지 않고 답도 즉각 나오지 않는다. 문제를 대하는 열정이 있어야 한다.
“한 가지 가능성이 완전히 소진될 때까지 가야 해요. 이거 조금, 저거 조금 하다 보면 아무것도 해결이 안 돼요. 결국 시간만 낭비하고 그 어떤 문제에도 기여하지 못하거든요. 전환은 길의 끝에 다다랐을 때 비로소 오는 겁니다.”