수학자와 과일장사

김명환 (서울대학교 수리과학부 교수)

1998년 미시간대 수학과의 헤일즈(Hales)교수는 □3차원 공 쌓기 문제□를 해결하였다고 발표하였다. □3차원 공 쌓기 문제□는 □케플러의 예상□으로 더 잘 알려진 문제로서 1609년 케플러는 증명 없이 다음과 같은 예상을 하였다: □3차원 공간에 똑같은 공을 빈틈이 가장 작도록 쌓는 방법은 그림처럼 쌓는 것이다.□

어쩌면 당연한 이 예상을 수학적으로 완벽하게 증명하는데 거의 400년이나 걸리다니... 동서고금의 모든 과일장사들이 사과를 쌓을 때 늘 쓰는 방법이 아닌가? 뉴욕타임즈가 헤일즈의 결과를 전하면서 붙인 기사 제목도 □과일장사들이 이미 알고 있던 것을 수학이 증명하다□였다. □과일장사들은 이미 오래 전부터 가장 많은 사과를 가장 안정적으로 쌓을 수 있는 이 방법을 알고 있었는데 수학자들은 이제서야 이 사실을 인정하다니... 수학자들이란 쓸 데 없는데 시간과 정력을 낭비한다니까□ - 이런 비난이 있을 법도 하다. 그러나 사과를 쌓는 방법은 무한히 많고, 그 무한히 많은 방법을 다 알지도 못하는데, 사과가 잘 무너져 내리지 않도록 쌓는데 더 관심이 많았을 과일장사들이 찾아낸 이 방법이 가장 빈틈이 작도록 많이 쌓는 방법이라는 주장은 사실 아무런 논리적 근거 없는 믿음이었을 뿐이다.

수학에서는 참인 것이 증명된 명제를 정리라고 한다. 진리에 99% 진리라는 것이 없듯이 정리도99% 정리라는 것은 없다. 수학은 정확해야 하는 학문이다. 따라서 수학자들은 100% 완벽한 정리를 추구한다. 수학자이자 물리학자였던 천재과학자 갈릴레오는 일찍이 □자연은 수학으로 기술되어 있다□고 갈파했다. 이는 □자연은 정확하게 기술되어 있다□라는 뜻으로 받아들여도 좋을 것이다. □자연을 알기 위해서는 수학을 알아야 한다□는 뜻으로도 들린다.

수학에는 오래된 미해결문제들이 많다. 이러한 미해결문제에의 도전을 통해 수학자들은 수학을, 그리고 과학을 풍요롭게 해왔다. 케플러의 예상의 연구도 코딩이론, 격자이론, 정보이론 등의 발전에 지대한 역할을 하였다. 그러나 그런 것들은 수학자에게 그리 중요하지 않다. 중요한 것은 오래된 미해결문제는 수학자를 흥분시킨다는 것이다. 수십, 수백, 수천 년 전에 살았던 천재들이 후대 인류의 지적 능력에 던지는 도전장이 아닌가!

최근 미국에서는 □2000년 세계 수학의 해□를 기념하여 중요한 미해결문제 7개를 선정, 각 100만불씩 총 700만불의 상금을 내걸었다. 그 문제들 중 일부를 우리 나라의 수학자가 해결해 주기를 기대해 본다.