근대 수학사를 바꾼 위대한 발견들, 역설이 만든 경이로운 사유들

수학자들은 자연을 수학화하려는 야심가들이었다. 근대 과학의 아버지라 불리는 갈릴레오는 물체의 자유낙하를 수학 공식으로 바꾸었고, 케플러도 태양계 행성의 운동 법칙을 눈이 멀도록 계산했다. 라이프니츠와 뉴턴은 지구상의 모든 운동을 미적분 공식으로 간단히 계산하려고 했다. 미적분의 발견은 자연을 계산가능성의 세계로 포섭하려는 보편수학의 가능성을 열어젖혔다. 하지만 0은 아니지만 0에 가까운 무한소의 역설이 수학자들을 끊임없이 괴롭혔다. 풀리지 않은 역설은 수학의 지반을 아슬아슬하게 흔들었다. 불완전한 무한소 개념 위에서 정립된 해석학, 2천 년간 불변의 진리로 여겨졌던 평행선 공리를 뒤엎은 비유클리드기하학, 모든 집합들의 집합은 존재하지 않는다는 칸토어의 역설 등 모순과 역설 앞에서 수학은 기초가 취약한 지식 체계임이 드러났다.

그럼에도 안정적이고 불변적인 수학의 기초를 확립하려는 수학자들의 고투는 계속되었다. 기하학은 불변성을 확보하고자 노력했고, 칸토어는 수의 기초를 확고히 하고자 집합의 개념을 창안했지만 역설에 부딪혀 좌절하고 만다. 역설은 논리학과 수학 전반의 문제였다. 힐베르트는 수학의 형식 체계를 구축하기 위해 공리계의 모든 명제가 증명 가능하고(완전성), 서로 모순된 결과를 끌어내지 않는다는 것(무모순성)을 증명하려는 야심한 기획을 내놓지만, 어떤 공리계도 자신의 완전성과 무모순성을 증명할 수 없다는 것을 증명한 괴델의 정리로 수학자들의 진리 게임은 무산된다. 괴델의 불완전성의 정리는 수학자들이 좋아하는 진리란 수학에는 존재하지 않는다는 일종의 선언이었다. 이 책은 17세기부터 19세기에 이르기까지 근대 과학혁명의 기초를 세운 수학자들의 위대한 발견과 도전을 다룬다. 운동에서 법칙을 발견하고 수학의 계산가능성을 확장한 미적분으로부터 수학의 개념을 파생ㆍ변환하면서 확립된 해석학, 기하학, 집합론에 이르기까지 수학사를 바꾼 발견들이 파노라마처럼 펼쳐진다. 수학자들의 극한의 상상력이 어디까지 나아가는지도 볼 수 있다.