design house

얼마 전 수학자 마이클 아티야Michael Atiyah 박사의 강연이 큰 화제가 되었다. 그가 수학의 가장 유명한 난제 중 하나인 ‘리만 가설(Riemann Hypothesis)’을 증명했다고 발표했기 때문이다. 매년 열리는 하이델베르크 석학 포럼은 젊은 학자들에게 수학과 계산 과학을 연구하는 최고 석학들의 이야기를 듣고 대화를 나눌 기회를 제공하는 목적의 행사로, 최근 학문 동향에 대한 개괄적 내용이나 거시 관점을 제시하는 강의가 대부분이다. 그런데 올해 행사 첫날 첫 번째 강의를 맡은 아티야 박사가 이례적으로 리만 가설의 증명을 설명하겠다고 선언한 것이다. 

마이클 아티야 박사는 20세기 가장 위대한 수학자 중 한 명이다. 1966년에 젊은 수학자에게 주는 최고의 영예인 필즈상을 수상했고, 왕립과학회 회장을 역임했다. 기하, 위상, 해석, 물리 등 다방면에 걸친 깊은 연구로 세계 수학과 수리 물리의 판도를 크게 바꾸어놓은 업적 덕에 2004년에는 수학의 노벨상으로 불리는 ‘아벨상’을 수상했다. 수학자로서 이룰 수 있는 모든 영예를 획득한 수학계 최고 원로가 리만 가설을 증명했다는 선언이 큰 뉴스가 된 것은 당연한 일이다. 그러나 아티야 박사를 잘 아는 동료 수학자들은 이 소식을 들은 순간 무척 낙담했다. 지난 몇 년 동안 그가 중요한 난제를 해결했다는 주장을 여러 번 했지만 매번 실망했기때문이다. 아티야 박사는 89세로, 그의 연구 경력 절정기는 약 30년 전에 끝났다는 평판이 보편적이다. 최근의 활동을 일종의 ‘노망’이나 ‘수학적 치매’로 간주하는 사람도 많다. 그의 이야기에 지나친 거부반응을 보이는 동료 수학자들의 반응을 보며 ‘이웃을 정신병원에 가둠으로써 자신의 온전함을 증명하고자’ 하는 인간상을 예리하게 관찰한 대문호 도스토옙스키의 씁쓸한 표정이 떠오르기도 한다. 

2016년 2월에 나는 아티야 박사의 초대로 에든버러 대학에서 강연을 했다. 방문의 주된 이유는 그가 정수론과 물리학 사이의 관계를 나와 함께 논하고 싶어 했기 때문이다. 세상에 대한 방대하면서도 구체적인 지식을 지닌 아티야 박사는 어느 누구와도 저녁을 먹으면서 끝없이 재미있는 대화를 나눌 수 있는 인물이다. 독특한 견해와 재치가 넘쳐나고, 그 말솜씨는 가히 신화적이며 삶에 대한 열정이 말 한마디마다 충만해서 듣는 이를 몇 시간 동안이라도 현혹하는 재주가 탁월하다. 

하지만 그를 만난 첫날에는 정신 집중에 상당히 어려움을 겪는다는 느낌이 들었다. 이야기가 자주 끊겼고 최근 일도 기억이 안 난다는 불평이 잦았다. 그러나 다음 날 자택을 방문해서 네 시간에 걸친 긴 이야기를 나눈 후 그가 염두에 둔 수학과 물리학의 큰 그림을 어느 정도 파악할 수 있었다. 그는 수학과 물리학의 핵심 구조가 모두 연결돼 있어서 그 원천은 하나라는 비전을 지니고 있었다. 수많은 아이디어가 머릿속에서 소용돌이치며 엉켰다 풀어졌다 하기도 하고, 때로는 이루 말할 수 없을 만큼 아름다운 조화를 이루는 형상이 억제되지 않아서 밤에 잠을 못 자는 일이 허다하다고 말했다. 그러나 무언가 황당한 느낌을 주는 어수선한 착안을 듣기 싫어하는 동료 수학자나 물리학자들이 아티야 박사의 말을 무시하는 경향이 점점 심해져 상당한 소외감을 느끼는 듯했다. 신비론은 전 우주를 통일된 주체로 보려 하지만 과학은 현실을 잘게 분석한다. 영국의 철학자 버트런드 러셀은 에세이 <신비주의와 논리>에서 다음과 같이 주장했다. 

“형이상학, 즉 세상을 사고만으로 파악하고자 하는 시도는 두가지 서로 다른 인간 본능의 결합으로 이루어졌다. 그중 하나는 신비주의이고, 또 하나는 과학적 탐구다. (중략) 가장 뛰어난 철학자들은 항상 과학과 신비를 둘 다 필요로 해왔다. 끝없이 고된 불확실성 속에서도 둘 사이의 조화를 이루고자 하는 노력이 바로 그들의 인생과 철학을 과학과 신비주의 그 어느쪽보다도 더 위대하게 만들어주었다.” 마이클 아티야 박사의 남다른 비전이 일반적인 과학의 시각으로는 망상일지언정, 인생의 말년에 그를 숭고한 철학의 길로 인도하고 있는 듯하다. 

문화 비평가 에드워드 사이드는 유작 <말년의 양식에 관하여>에서 조화로운 성숙함 대신 비타협, 난국, 풀리지 않는 모순을 드러내는 위대한 예술가들의 말년 작품을 탁월하게 읽어냅니다. 세계적 수학자 김민형 교수가 이 글에서 이야기하는 석학 마이클 아티야 박사의 경우도 그와 유사합니다. 존경받는 원로로서 평안한 노후를 보내는 대신, 89세의 그는 동료 수학자들에게 ‘망상’이라 배척받는 시각을 수용하고 난제에 계속 도전하지요. 그런 아티야 박사의 모습에서 김민형 교수는 ‘숭고’를 발견합니다. 수학자 김민형은 영국 옥스퍼드 대학교 머턴 칼리지 교수이자 서울고등과학원 석학교수입니다. 낭만주의 영시를 외우고, 쇼팽의 악보에서 수학적 아름다움을 말하는 그는 <수학이 필요한 순간> <수학의 수학> <소수 공상> 등의 책으로 수학 대중화에 앞장서고 있습니다.

글 김민형 | 담당 정규영 기자