튜링과 와일즈 — 계산 가능성과 페르마 최후 정리

「구체적인 문제를 푸는」 천재들

이전 글 [뇌터 · 제르맹] 까지의 수학자는, 새로운 이론이나 구조를 발명 하는 것으로 수학사에 이름을 남겼다. 20 세기 후반에는, 다른 계보의 천재가 나타난다 — 구체적인, 100 년 이상 미해결의 문제를, 혼자서 푼 수학자들:

• 앨런 튜링 (1912-1954) — 「계산이란 무엇인가」 를 기계적으로 정의, 컴퓨터 과학을 창시, 에니그마 암호를 해독
• 앤드루 와일즈 (1953-) — 358 년 미해결이었던 페르마 최후 정리를 1994 년에 증명

두 사람 모두, 고독한 일 로 시대를 바꾸는 결과 를 냈다. 한 사람의 머릿속에서 몇 년간 숙성된 사고가, 세계를 바꾸었다.

앨런 튜링 — 41 년의 비극

앨런 매티슨 튜링 (Alan Mathison Turing, 1912-1954) 은 영국의 수학자 · 논리학자 · 컴퓨터 과학자. 컴퓨터 과학의 창시자 이며, 인공 지능의 개념적 기반 을 다졌다. 제 2 차 세계 대전 중에는 블레츨리 파크 에서 에니그마 암호 해독 에 종사하여, 연합국의 승리에 결정적으로 공헌 한 것으로 여겨진다.

그러나 전후, 동성애 행위를 이유로 유죄 가 되어, 화학적 거세를 강요당했다. 1954 년 6 월 7 일, 청산가리로 독을 넣은 사과를 물고 있는 상태로 사망 (검시는 자살로 판단). 2013 년에 영국 왕실에서 은사 를 받고, 2017 년에는 「앨런 튜링 법」 이 성립했다.

튜링의 주요 업적

업적	해	내용
튜링 기계	1936	계산 가능성의 수학적 정의, 정지 문제의 결정 불능성
만능 튜링 기계	1936	프로그램 내장 방식의 개념적 원류
에니그마 해독	1939-1945	블레츨리 파크, Bombe 장치
ACE 설계	1945	영국 초기 컴퓨터의 설계
튜링 테스트	1950	인공 지능의 판정 기준
형태 형성 (패턴 형성)	1952	화학 반응 확산 방정식, 생물학에의 응용

24 세에 계산 과학, 38 세에 AI, 40 세에 수리 생물학 — 하나의 분야를 만들고는 다음으로 나아가는 천재의 전형.

튜링 기계 (1936) — 컴퓨터 과학의 탄생

1936 년의 논문 [계산 가능수에 대하여, 결정 문제에의 응용과 함께] 에서, 「기계적으로 계산 가능한 함수」 를 튜링 기계로서 정의 했다.

구성 요소는:

• 무한의 테이프
• 1 개의 헤드 (테이프를 읽고 쓴다)
• 유한의 상태
• 유한의 규칙표

이것만으로, 모든 「알고리즘적으로 실행 가능한 계산」 을 표현할 수 있다. 더욱이 「만능 튜링 기계」 를 구성하고, 이것이 다른 튜링 기계의 프로그램을 기술로서 테이프에 주면, 그 동작을 완전히 시뮬레이트할 수 있다 는 것을 보였다.

이는 폰 노이만형 컴퓨터 (프로그램 내장 방식) 의 개념적 조상. 「1936 년의 하나의 논문이, 현대의 모든 컴퓨터를 예고했다」 — 수학사에서의 최대의 예고편.

정지 문제의 결정 불능성

같은 논문에서 「정지 문제」 — 임의의 프로그램이 주어졌을 때, 그것이 유한 스텝으로 정지하는지 아닌지 판정하는 알고리즘은 존재하는가? — 를 생각하고, 대각선 논법을 이용해, 그것이 존재하지 않는 것을 증명 했다.

힐베르트의 결정 문제 (Entscheidungsproblem) 에의 부정적 회답. 이전 글 [힐베르트 · 푸앵카레 · 괴델] 의 괴델의 불완전성 정리와 같은 방향 의 결과 — 「수학에는 원리적으로 할 수 없는 것이 있다」.

「기계에는 원리적으로 할 수 없는 것 (정지 판정) 이 있다」 — 현대의 계산 복잡성 이론 의 출발점.

처치-튜링의 테제

튜링 기계는 처치의 람다 계산 과 동등한 표현력을 갖는다. 양자를 합쳐 「처치-튜링의 테제」 라고 불린다:

「기계적으로 계산 가능한 함수는 튜링 기계 (= 람다 계산 = 귀납적 함수) 로 계산 가능한 함수와 동일하다」

현대의 「계산 가능성」 의 정의. 「알고리즘」 이라는 직관적 개념에, 수학적인 정의를 주었다. 현대의 프로그래밍 언어도, 모두 튜링 기계와 등가인 계산 능력 을 갖는다.

에니그마 해독 — 전쟁을 2-4 년 단축

제 2 차 세계 대전 중, 독일군은 「에니그마」 라 불리는 암호기를 사용해 통신을 비닉하고 있었다. 로터 3-4 장의 조합으로 방대한 암호 키 공간 을 만들고, 당시는 「절대로 해독 불가능」 이라 믿어지고 있었다.

튜링은 블레츨리 파크 의 연구 팀을 이끌고, 폴란드의 레예프스키 등의 선행 연구 를 발전시켜 「Bombe」 라 불리는 전기 기계 장치를 설계 했다. 이는 가능한 키 설정을 고속으로 탐색 하여, 에니그마로 암호화된 통신을 해독하는 것을 가능 하게 했다.

「Ultra」 — 30 년간의 기밀

연합국측은 에니그마 해독의 사실을 엄중히 계속 비닉 (이 정보는 「Ultra」 라 불렸다) 하여, 전쟁을 2-4 년 단축시키고, 수백만 명의 목숨을 구했다 고 추정된다.

튜링의 전시 공헌은, 전후 30 년 이상 기밀 취급 되어, 그가 죽은 후에 겨우 밝혀졌다. 「역사를 바꾸는 공헌을 했는데, 생전에는 세계에 알려지지 않았다」 — 비극적인 이중 비닉.

튜링 테스트 (1950)

1950 년의 논문 [계산 기계와 지성] 에서, 「기계는 사고할 수 있는가?」 라는 질문에 대해, 관찰 가능한 행동의 테스트 를 제안했다:

「인간의 심판이, 텍스트 단말을 통해 상대 (인간 or 기계) 와 대화하고, 기계인지 인간인지 판별할 수 없다면, 그 기계는 『지능을 갖는다』 고 봐야 한다」

AI 연구의 철학적 출발점. ChatGPT/Claude 등의 LLM 이 보급된 현대에도 자주 언급된다. 튜링 자신은 「2000 년까지 30% 의 심판은 5 분 이내에 판별을 잘못하게 될 것이다」 라고 예측했다.

현대의 LLM 은, 텍스트 대화에서 인간과 구별이 안 되는 영역에 도달하고 있다. 튜링의 예측은, 20 년 늦게 실현되었다.

형태 형성 — 수리 생물학의 선구

만년, 튜링은 「반응 확산 방정식」 에 의해, 생물의 체표의 패턴 (동물의 무늬, 잎차례, 조개의 줄무늬) 이, 화학 반응과 확산의 상호 작용으로부터 자발적으로 발생한다 는 것을 논한 논문 [형태 형성의 화학적 기초] (1952) 를 발표. 수리 생물학의 선구적 업적.

현대의 발생 생물학 · 패턴 형성 이론 에서, 튜링의 아이디어는 실험적으로도 검증 되어, 얼룩말 물고기의 줄무늬 등에서 「튜링 패턴」의 존재 가 확인되고 있다.

「계산 → AI → 생물」 로 분야를 옮겨 다닌 40 세의 수학자의, 마지막 독창.

화학적 거세와 죽음

1952 년, 당시의 영국법 (1885 년 노동자 수정법 제 11 조) 에서 동성애 행위는 범죄 였다. 튜링은 강도 사건의 수사 과정에서 동성의 파트너와의 관계를 솔직히 말해버려, 유죄가 된다. 투옥이나 화학적 거세의 선택을 강요당해, 연구를 계속하기 위해 후자를 선택했다.

에스트로겐 주사 에 의해 유방이 발달 하고, 정신적으로도 깊은 손상을 받았다. 1954 년 6 월 7 일, 청산가리로 독을 넣은 사과를 물고 있는 상태로 발견 되었다. 검시는 자살로 판정. 동기에 대해서는 논의가 있지만, 화학적 거세의 굴욕과, 박탈되어 가고 있던 연구 기회, 기밀 유지 의무의 압박 이 배경.

Apple 의 로고 (물어뜯긴 사과) 는 튜링에의 오마주 라는 도시 전설이 있지만, Apple 은 부정 하고 있다.

「전쟁을 구하고, 컴퓨터를 발명한 천재가, 41 세에 독 사과를 물고 죽었다」 — 20 세기 최대의 수학적 비극 중 하나.

사후의 은사와 현창

• 2009 년 — 브라운 총리가 튜링에의 사과 성명 을 발표
• 2013 년 — 엘리자베스 2 세 여왕이 은사 (Royal Pardon) 를 수여
• 2017 년 — 같은 죄로 처벌된 약 49,000 명의 남성을 은사하는 「앨런 튜링 법」 성립
• 2021 년 — 50 파운드 지폐에 튜링이 채용

반세기 이상 지나서 제도가 사과한다 — LGBT 인권 운동의 상징적 존재.

앤드루 와일즈 — 358 년의 숙제를 풀다

앤드루 존 와일즈 (Andrew John Wiles, 1953-) 는 영국의 수학자. 1994 년, 페르마 최후 정리를 증명 했다 — 358 년간 미해결 이었던 수학사 최대의 숙제를, 혼자서 풀었다.

이전 글 [데카르트 · 페르마] 에서 본, 1637 년경 페르마가 [산술] 의 여백에 써서 남긴 낙서:

「n 이 2 보다 클 때, n 제곱수를 두 개의 n 제곱수의 합으로 나누는 것은 불가능하다. 나는 이 명제의 진정으로 놀라운 증명을 발견했지만, 이 여백은 너무 좁아서 그것을 다 쓸 수 없다」

이를 358 년 후에 와일즈가 완전히 증명했다.

와일즈의 생애

• 1953 년 4 월 11 일 — 케임브리지에서 탄생. 아버지는 신학자
• 10 세 — 지역의 도서관에서 페르마 최후 정리를 안다. 「이것이 나의 인생의 목표다」 라고 결심
• 1974 — 옥스퍼드 대학 졸업
• 1980 — 케임브리지 대학에서 박사호 (타원 곡선)
• 1982 — 프린스턴 대학 교수
• 1986 — 다니야마 · 시무라 예상과 페르마 최후 정리의 연결을 안다
• 1986-1993 — 7 년간, 다락방에서 비밀리에 연구
• 1993 년 6 월 23 일 — 케임브리지에서 증명을 발표
• 1993 년 12 월 — 중대한 갭이 발각
• 1994 년 9 월 — 제자 테일러와 공동으로 갭을 수복
• 1995 년 — [Annals of Mathematics] 에 최종 증명을 발표
• 1998 — 필즈상 대상 연령 (40 세) 을 넘어서 있었기 때문에 특별 기념순
• 2016 — 아벨상 수상

10 세의 결심

와일즈는 10 세일 때, 지역 도서관에서 에릭 템플 벨 [마지막 문제] 를 읽고, 페르마 최후 정리를 안다.

「이는 10 세의 소년이라도 문제문을 이해할 수 있다. 그러나 수백 년이나 풀리지 않았다. 이것이 나의 인생의 목표다」

라고 결심했다. 수학자 지망의 기점 이, 10 세의 한 권의 책 이었다. 수학사에서의 가장 긴 「일관된 목표」 의 하나.

다락방의 7 년

1986 년, 프라이 · 리벳 이 「페르마 최후 정리는 다니야마 · 시무라 예상 에서 도출된다」 는 것을 보였다 (이전 글 [데카르트 · 페르마] 참조). 와일즈는 10 세의 꿈을 재점화 시켜, 반안정 타원 곡선에 대해 다니야마 · 시무라 예상을 증명 하는 것을 목표로 했다.

비밀의 7 년간

와일즈는 프린스턴의 자택의 다락방 에 틀어박혀, 1986 년부터 1993 년까지 7 년간, 가족과 한 명의 동료 이외에는 일체 비밀 로 페르마 최후 정리에 임했다.

• 대학에서의 통상 업무 (강의 · 논문) 를 하면서
• 다락방에서 집중적으로 연구
• 완전한 고독 속에서 거대한 이론 체계를 조립
• 아내 나다에게는 「중요한 문제에 임하고 있다」 고만 알렸다

「7 년간, 혼자서 수학의 최대의 숙제에 임한다」 — 20 세기 후반의 수학사에서의 가장 긴 고독한 작업.

1993 년 6 월 — 증명의 발표

1993 년 6 월 23 일, 케임브리지의 아이작 뉴턴 연구소 에서 열린 3 일 연속의 강의 시리즈의 최종일. 와일즈는 칠판에 페르마 최후 정리를 쓰고,

「이 식에는 자연수 해가 없다. 이는 …」

라고 말하고, 짧은 사이를 두고:

「증명은 이걸로 끝이라고 생각합니다」

라고 맺었다. 만장의 박수. 세계의 수학자가 전화 · 팩스로 정보를 공유. [뉴욕 타임스] 의 1 면을 장식하는 대뉴스가 되었다.

1993 년 12 월 — 갭의 발각

그러나, 1993 년 12 월, 사독 과정에서 닉 카츠가 증명에 중대한 갭을 발견. 와일즈는 일약 수학계의 히어로에서, 「풀 수 없었을지도 모른다」 는 곤경에 서게 된다.

• 몇 개월간, 혼자서 수복을 시도 하지만 잘되지 않고
• 정신적인 한계 에 도달, 와일즈는 포기하려고 한다
• 1994 년 8 월, 제자 리처드 테일러와 공동으로 재도전

1994 년 9 월 — 갭의 수복

1994 년 9 월 19 일, 와일즈는 기적적인 통찰 을 얻는다. 이전의 증명에서 쓸 수 없었던 이와사와 이론 과 오일러 계 를 조합함으로써, 갭을 훌륭하게 수복 할 수 있는 것을 발견:

「이는 수학 속에서 가장 아름다운 순간이었다」

라고 와일즈는 후에 말하고 있다.

1995 년, [Annals of Mathematics] 에 최종 증명을 발표. 논문은 130 페이지, 현대 정수론의 가장 고도의 도구 (타원 곡선 · 모듈러 형식 · 갈루아 표현) 를 모두 쓴다. 페르마가 알 수 있었을 리 없는 현대적 수법.

필즈상과 특별 기념순

필즈상은 40 세 이하 의 수학자에게 수여된다. 와일즈는 1995 년 발표 시에 41 세 로, 대상 외. 1998 년, 국제 수학자 회의는 특별 기념순 (special tribute) 을 수여했다. 「필즈상 대상 연령을 넘어서 있어도, 수학사에 남는 업적을 인정한다」 는 전례 없는 예외.

2016 년, 아벨상 수상. 이전 글 [코시 · 아벨 · 야코비] 의 아벨의 이름을 붙인 상 으로, 수학계 최고봉의 하나.

사이먼 싱의 [페르마의 최후 정리]

와일즈의 증명은, 사이먼 싱 [페르마의 최후 정리] (1997, 한국어역 2000) 에 의해 일반 독자에게도 퍼졌다. 수학사에서의 가장 많이 읽힌 논픽션 작품 중 하나.

BBC 다큐멘터리 [Fermat’s Last Theorem] (1996) 에서는, 와일즈가 수복의 순간을 이야기할 때 눈물을 흘리는 장면이 유명. 「수학자가 감정을 드러낸다」 는 희유한 영상 기록.

현대로의 영향

튜링 → 현대

• 컴퓨터 과학 — 모든 프로그래밍 언어의 이론적 기초
• AI — 튜링 테스트, 기계 학습의 철학적 기반
• 암호 — 공개 키 암호, 양자 암호에의 개념적 원류
• 생물학 — 패턴 형성, 발생 생물학
• LGBT 인권 운동 — 튜링 법, 추도와 복권

와일즈 → 현대

• 정수론 — 다니야마 · 시무라 예상의 완전 증명 (2001, Breuil-Conrad-Diamond-Taylor)
• 랭글랜즈 프로그램 — 와일즈의 수법이 중심적 도구
• 암호 — 타원 곡선 암호 (ECC) 의 이론적 기초
• 수학 대중화 — 페르마 최후 정리는 일반인에게 가장 알려진 수학의 문제

「고독한 작업」 의 20 세기

튜링과 와일즈에 공통되는 것은 「고독한 작업」 :

• 튜링 — 블레츨리 파크의 비밀 임무, 전후의 비밀 유지 의무, 화학적 거세 후의 고독
• 와일즈 — 7 년간의 다락방, 가족과 한 명의 동료 이외에는 비밀

「한 사람의 머릿속에서 몇 년간 숙성된 사고가, 세계를 바꾼다」 — 이 20 세기 후반의 패턴은, 21 세기의 페렐만 (다음 글) 에게도 계승된다.

이 글에서 다음 글로

튜링과 와일즈의 20 세기 후반을 따라갔다. 수학의 계보 시리즈 최종 글 에서는, 21 세기의 현대 수학 — 페렐만 (1966-) 의 푸앵카레 추측 증명과 필즈상 사퇴, 모치즈키 신이치 (1969-) 의 IUT 이론과 ABC 예상, 테렌스 타오 (1975-) 의 만능 수학자로서의 활약, 그리고 밀레니엄 문제 의 현재까지, 21 세기의 수학의 프론티어 를 따라간다. 2500 년의 계보의 최종 고찰로.