[수학] 358년 만에 풀린 난제 : 페르마의 마지막 정리

수학의 역사에는 수많은 난제가 존재하지만, '페르마의 마지막 정리(Fermat's Last Theorem)'만큼 드라마틱한 서사를 가진 문제는 없습니다. 단 한 줄의 장난스러운 메모에서 시작되어, 인류 최고의 천재들을 358년 동안이나 절망에 빠뜨렸던 이 기묘한 여정을 되짚어 봅니다.

1. 여백이 좁아 적지 못한 '경이로운 증명'

1637년경, 프랑스의 법관이자 아마추어 수학자였던 피에르 드 페르마는 디오판토스의 저서 《산학》의 여백에 다음과 같은 낙서를 남깁니다.

"n이 3 이상의 정수일 때,
xⁿ + yⁿ = zⁿ을 만족하는 양의 정수 x, y, z는 존재하지 않는다."

"나는 경이로운 증명 방법을 발견했으나, 이 책의 여백이 너무 좁아 여기에 적지는 않겠다."

이 단순해 보이는 공식은 피타고라스의 정리(n=2)에서 지수만 살짝 바꾼 형태였지만, 그 결과는 완전히 달랐습니다. 페르마 사후 이 메모가 공개되자 전 세계 수학자들은 이 '경이로운 증명'을 찾기 위해 사투를 시작했습니다.

2. 350년의 고독한 사투와 절망

수학의 거인 오일러는 n=3인 경우를 증명했고, 가우스와 디리클레 등 당대 최고의 지성들이 n=5, n=7인 경우를 하나씩 정복해 나갔습니다. 하지만 '모든 n'에 대한 일반적인 증명은 요원했습니다.

19세기 쿠머의 '이상수' 이론부터 20세기 컴퓨터를 이용한 계산까지 동원되었으나, 무한한 숫자의 세계에서 이 정리가 항상 참임을 밝혀내는 것은 불가능해 보였습니다. 이 문제는 수학자들에게 '무덤'이자 동시에 '에베레스트'와 같은 존재가 되었습니다.

3. 현대 수학의 결정체: 타원 곡선과 모듈러

해결의 실마리는 전혀 예상치 못한 곳에서 나타났습니다. 1950년대 일본의 수학자 다니야마 유타카와 시무라 고로가 제기한 '다니야마-시무라 추론'이 그 열쇠였습니다.

• 타원 곡선(Elliptic Curves): y² = x³ + ax + b 형태의 기하학적 대상
• 모듈러 형식(Modular Forms): 고도의 대칭성을 가진 복소함수

전혀 다른 두 분야가 "모든 타원 곡선은 모듈러 형식이다"라는 명제로 연결되었고, 만약 페르마의 정리에 반례가 존재한다면 그 반례로 만든 타원 곡선은 모듈러 형식이 될 수 없다는 사실(리벳의 정리)이 밝혀졌습니다. 즉, 다니야마-시무라 추론을 증명하는 것이 곧 페르마의 정리를 증명하는 것이 되었습니다.

4. 앤드루 와일즈, 다락방에서의 승리

1986년, 이 소식을 들은 영국의 수학자 앤드루 와일즈는 은둔을 선택합니다. 그는 7년 동안 자신의 다락방에서 오직 이 한 문제에만 매달렸습니다. 현대 수학의 모든 기법을 총동원한 끝에, 1993년 드디어 증명을 발표합니다.

중간에 발견된 논리적 결함을 극복하기 위해 1년의 시간을 더 보낸 그는, 1994년 최종적으로 358년 된 난제에 마침표를 찍었습니다. 그의 증명은 단순한 계산이 아니라, 서로 독립적이었던 수학의 여러 분야를 하나로 통합하는 거대한 지적 금자탑이었습니다.

에필로그: 여백이 남긴 유산

오늘날 학계는 페르마가 실제로 증명에 성공했을 가능성을 낮게 봅니다. 그가 발견했다고 믿었던 방식은 아마도 논리적 오류를 포함하고 있었을 것입니다. 하지만 그의 오만한 낙서 한 줄은 350년 동안 수학의 영토를 비약적으로 넓히는 기폭제가 되었습니다.

"중요한 것은 정답이 아니라, 그 답을 찾아가는 과정에서 우리가 무엇을 깨달았는가이다." 페르마의 마지막 정리가 우리에게 남긴 진정한 교훈일지도 모릅니다.

 

무한한 시간을 가진 원숭이가 셰익스피어를 쓸 확률 vs 인류가 탄생할 확률

무한한 시간을 가진 원숭이가 셰익스피어를 쓸 확률 vs 인류가 탄생할 확률