▼리만 가설 소수의 목록을 아무리 살펴봐도 다음 소수가 언제 나타날지 예측하기는 불가능하다. 소수의 출현은 혼란스럽고 임의적이며, 다음 소수를 어찌 찾을 것인지에 대해 어떠한 실마리도 주지 않는다. 전 막스 플랑크 수학연구소장 돈 자이에의 표현을 빌리자면 소수는 “수학자들이 연구하는 것 중에서 가장 제멋대로이고 성질 고약한 대상으로, 자연수 사이에서 마치 잡초처럼 자라고 우연의 법칙 외에는 다른 어떠한 법칙도 따르지 않는 것처럼 보인다”. 소수의 목록은 수학의 심장 박동이지만, 독한 카페인에 취한 듯 마냥 불규칙적이다. 그러나 소수의 세계가 무질서의 지배를 받지 않을 것이라는 믿음이 오늘날 수학계를 지배하고 있다. 이 믿음에 결정적 근거를 제공한 이는 괴팅겐의 수학자 베른하르트 리만이다. 1859년 리만은 오일러의 아이디어(제타함수)를 극적으로 새로운 방식으로 발전시켜 소위 리만 제타함수라는 것을 정의했다. 이 제타함수가 내놓는 여러 결과 중 하나는 어떤 범위 X까지의 소수의 개수를 구하는 “정확한 공식”이었다. ▼리만 가설의 중요성 리만 가설로 불리는 이 추측은 그것을 참이라고 가정하며 시작하는 500개 이상의 또 다른 결론들을 낳았으며 오늘날 수학의 가장 어렵고 가장 중요한 미해결 문제로 널리 인식되고 있다. 리만 가설은 증명이 어렵기도 하지만 증명으로 인한 파급효과 역시 엄청날 것으로 예상된다. 그 증명은 정수론을 비롯해서 응용 수학 분야에 일대 혁명을 불러 올 것으로 보인다. 소수로부터 탄생한 현대식 컴퓨터 암호체계와 신용카드도 리만 가설에 그 뿌리를 두고 있다. 160년의 세월 동안 수많은 수학자들을 좌절로 이끌며 해결 가능성에 근본적인 의문마저 제기되었던 리만 가설 연구는, 20세기 후반 들어 휴 몽고메리와 프리먼 다이슨에 의해 양자 물리학의 핵심 분야들과 연관이 있다는 충격적인 사실이 드러나며 이제 물리학자들마저 이 분야에 끌어들이기 시작했다. 리만 가설의 증명은 계산수학의 발달과 수학-물리학의 학제적 연구로 새로운 활력을 얻고 있으며, 당대 최고의 수학자 중 한 명인 알랭 콘은 비가환기하학을 이용한 새로운 해법을 제시하며 리만 가설에 뛰어들었다. 많은 수학자들이 리만 가설이 옳다는 데 판돈을 걸어둔 상태이다. 소수가 정말로 리만이 예측한 대로 행동하리라는 가정 하에 수많은 또 다른 결론이 등장했다. 이처럼 수많은 결론들의 운명이 리만 가설의 정복에 달려 있기에 수학자들은 이것을 추측(conjecture)이 아니라 가설(hypothesis)이라고 부른다. ‘가설’은 수학자들이 어떤 이론을 세우는 데 필수적인 가정이란 점을 강하게 함축하는 용어이다. 이 가설이 참임을 증명한다면 정처 없이 떠돌던 500개가 넘는 논문들 역시 자동으로 증명되어 정리가 된다. ▼배리 메이저와 윌리엄 스타인의 『소수와 리만 가설』 리만 가설을 다룬 대중서를 찾아보기가 어렵던 시기, 승산은 이 주제를 다룬 훌륭한 두 책인 존 더비셔의 『리만 가설』(승산, 2006, 7쇄)과 마커스 드 사토이의 『소수의 음악』(승산, 2007, 4쇄)을 번역 출간하였다. 그리고 10년의 세월이 지나 다시 몇 권의 책이 등장했다. 이 가운데 가장 주목할 만한 책은 2015년 출간된 배리 메이저와 윌리엄 스타인의 『소수와 리만 가설(Prime Numbers and the Riemann Hypothesis)』이다. 1부에는 수학식이 거의 없다. 수학적 개념에 관심이나 호기심은 있지만, 심화된 주제에 대해서는 공부해 본 적이 없는 독자들을 위해 썼다. 1부에서는 전체적으로 리만 가설의 핵심을 전달하고, 왜 리만 가설이 그렇게 열정적으로 연구되었는지를 중점으로 설명한다. 미적분학은 사용하지 않았다. 최대한 쉽게 설명해야 한다는 한계가 있었지만, 1부는 시작, 중간, 끝을 가진다는 의미에서 그 자체로 완결성이 있다. 오직 1부만 읽는 독자라도 수학의 중요한 주제인 리만 가설의 매력을 느끼고 즐길 수 있을 것이다. 2부는 배운 지 오래 되었다 하더라도 미적분학 수업을 한 번 정도는 들었던 독자들을 위한 부분이다. 이 부분은 뒤에 등장할 푸리에 해석 유형을 이해하기 위한 대략적인 준비 과정으로, 핵심은 스펙트럼(spectrum)이라는 개념이다. 3부는 소수들의 위치와 리만 스펙트럼(이라 거기서 부를 것) 사이의 연관성을 좀 더 생생하게 보고 싶어 하는 독자들을 위한 부분이다. 4부는 복소 해석 함수를 어느 정도 알아야 이해할 수 있는 부분으로, 이 책의 최종 주제인 리만의 관점을 다룬다. 이 관점은 3부에서 논의되는 리만 스펙트럼을 리만 제타함수(Riemann zeta function)의 자명하지 않은 영점들(nontrivial zeroes)과 연관 짓는다. 또한 기존 출판물에서 리만 가설을 설명하던 좀 더 표준적인 진행 방식에 대한 대략적인 개요를 덧붙였다. 미주에서는 본문 내용과 참고 문헌들의 연계성을 보여 주고자 했다. 게다가 뒤로 갈수록 수학적 배경 지식이 더 많이 필요한데, 미주에서 그에 대한 더 많은 기술적 설명을 제공한다. 두 저자 메이저와 스타인은 리만 가설의 해석적, 기하학적, 정수론적 측면들 간의 상호 작용을 연구하는 선도적인 전문가다. 스타인은 Sage 수학 소프트웨어 프로젝트의 설립자이기도 하다. 의기투합한 두 사람이 이 참신한 책을 완성하는 데는 10년의 세월이 걸렸지만, 이 책은 짧고 간결하다. 매 해 집필 기간의 마지막 날에 원고(실수를 포함해서 전부)를 인터넷상에 올리고 독자들의 응답을 받았다. 그러므로 독자들로부터 받은 수많은 피드백, 수정, 요구들이 이 책에 모두 축적되어 있다. 저자와 편집자는 이렇게 선별된 리만 가설의 정수를 각 아이디어별로 정리하여 여러 개의 짤막한 장으로 구분해 두었다. 독자는 한 장씩 꼼꼼히 읽어 나갈 수도 있고 지루한 단계를 건너 뛰어 곧장 핵심으로 들어갈 수도 있다. 이러한 구성은 언제 어디서나 원하는 부분을 펼쳐 반복해서 읽기에도 좋다. 이 책이 독자의 곁에서 끊임없이 수학적 영감을 불러일으키기를 희망한다. -추천사 윌 허스트(Will Hearst, 허스트사): 비범하며 다시없을 훌륭한 책이다. 메이저와 스타인은 이 분야 최고의 전문가이지만, 대학생이나 호기심 많은 아마추어도 읽을 만한 책을 만들기 위해, 수학 기호는 가능하면 줄이고 우아하고 시사적인 그림을 최대한 많이 사용하여 강렬한 아이디어들을 알기 쉽게 설명했다. 두 사람은 이 책을 통해 이 전설적인 문제가 왜 그토록 아름다운지, 왜 어려운지, 그리고 왜 당신이 관심을 가져야 하는지 이야기한다. 데이비드 멈포드(David Mumford, 브라운 대학교): 이 책은 비행의 경험을 선사한다. 가장 단순한 아이디어에서 시작해서 가장 심오한 미해결 문제 중 하나를 음미하며 끝맺는다. 수학사의 흥미로운 일화로 부풀린 많은 수학 대중서와 달리, 두 저자는 이 책의 독자들을 소수에 더 진지한 관심을 가진 사람으로 대한다. 네 단계에 걸쳐 수학의 깊이를 더해가는 과정에서는, 독자의 이해를 돕기 위해 눈을 뗄 수 없을 정도로 매력적이고 심오한 방식으로 숨어 있는 소수의 음악을 담은 그림들을 활용한다. 당신이 한번이라도 왜 그렇게 많은 수학자들이 소수에 빠져드는지 궁금한 적이 있었다면, 여기 그 진짜 이야기가 있다.

머리말 1부 리만 가설 1. 고대, 중세, 현대의 수에 관한 생각들 2. 소수란 무엇인가? 3. “이름이 붙은” 소수 4. 체(sieves) 5. 누구라도 물을 수 있는 소수에 관한 질문들 6. 소수에 관한 더 많은 질문들 7. 얼마나 많은 소수가 존재하는가? 8. 멀리서 바라본 소수들 9. 순수 수학과 응용 수학 10. 최초의 확률적 추측 11. “좋은 근사”란 무엇인가? 12. 제곱근 오차와 임의보행(random walk) 13. 리만 가설이란 무엇인가? (첫 번째 공식화) 14. 미스터리는 오차항으로 옮겨간다 15. 세자로 스무딩(Cesaro Smoothing) 16. lLi(X)-파이(X)l 보기 17. 소수 정리 18. 소수의 계단에 담긴 정보 19. 소수의 계단 손보기 20. 도대체 컴퓨터 음악 파일과 데이터 압축, 소수가 서로 무슨 상관이 있을까? 21. “스펙트럼(Spectrum)”이라는 단어 22. 스펙트럼과 삼각함수들의 합 23. 스펙트럼과 소수의 계단 24. 1부의 독자들에게 2부 초함수(Distribution) 25. 미적분학은 기울기가 없는 그래프의 기울기를 어떻게 구할 수 있을까? 26. 초함수: 무한대로 보내더라도 근사함수 뾰족하게 만들기 27. 푸리에 변환: 두 번째 방문 28. 델타 함수의 푸리에 변환은 무엇인가? 29. 삼각급수 30. 3부에 대한 간단한 개요 3부 소수의 리만 스펙트럼 31. 정보를 잃지 않고서 32. 소수에서부터 리만 스펙트럼으로 가는 길 33. 얼마나 많은 세타_i들이 존재할까? 34. 리만 스펙트럼에 대한 추가 질문들 35. 리만 스펙트럼에서부터 소수로 가기 4부 리만으로 돌아가다 36. 스펙트럼으로부터 어떻게 파이(X)를 만들까? (리만의 방법) 37. 리만의 예견대로 제타 함수가 소수의 계단을 리만 스펙트럼과 연결하다 38. 제타 함수의 동반자들 미주 그림 출처 찾아보기

P.62: 우리의 견해로는, 우리 앞에 놓인 이 특별한 문제(리만 가설)는 응용수학이면서 순수수학이라는 양면을 모두 가지고 있다. “소수의 계단”에 잘 들어 맞으면서도 간단한 해석적 공식으로 주어지는, 매끈한 근사 곡선을 만들 수 있을까? 그 이면에 있는 이야기는 엄청난 응용력을 지닌, 정말 경이로운 것이다. P.109: 기이하게도 리만 가설은 이와 같은 질문(소수의 계단이 가지는 스펙트럼과 그 계산에 대한)들로 우리를 이끈다. 우리는 소수에 대한 질문, 즉 ‘어떻게 소수의 개수를 셀 것인가?’라는 질문으로 시작했지만, 이 질문은 그 구조가 감추고 있는 심오한 규칙성을 찾도록 우리를 이끈다. P.198: 리만 제타 함수는 소수의 위치와 그것의 스펙트럼에 대한 정보를 너무나 우아하게 딱 맞추는 죔쇠(clamp) 역할을 하고 있는 것이다!