“수학적 사고로 문제를 해결하는 책을 쓰실 수 있습니까?”
이런 질문을 예전부터 받아왔지만 나는 그다지 내키지 않았다. 그 이유는 ‘수학적 사고로 문제를 해결한다’는 발상에 위화감을 느꼈기 때문이다.
수학은 문제를 풀기 위한 도구가 아니다. 반대로 ‘문제를 찾기 위한 것’이다. 적어도 내가 배운 수학은 그랬다. 스스로 문제를 찾고 한순간에 풀어낸다. 풀이 방법과 풀이의 증명은 나중 이야기이고, 솔직하게 말하자면 다른 사람이 해낸다 해도 상관없다.
〈페르마의 마지막 정리〉가 바로 이런 예이다. 수학의 미해결 문제로 가장 유명했던 이 정리는 페르마가 어떤 책의 페이지 구석에 ‘내가 놀랄 만한 증명을 발견했지만, 그것을 쓰기에는 여백이 너무 부족하다’라는 말을 남긴 것으로 시작되었다. 결국 이것을 증명해낸 사람은 360년 후의 수학자였다. 하지만 풀어낸 수학자의 이름을 알고 있는 사람은 과연 몇이나 될까? 참고로 이 사람의 이름은 앤드루 와일스였지만 결국 우리의 기억에 남아 있는 사람은 페르마이다.
이렇게 한순간에 찾아낸 풀이를 수학의 세계에서는 ‘우아한 증명’이라고 말한다. 수학에서 우아함은 ‘가장 심플한 것’을 의미한다. 현재 〈피타고라스 정리〉의 증명은 500개 정도 존재하지만 그중에서 가장 간결한 것이 우아한 증명이라는 말이다.
--- p.12-13 | 서장 지금까지 우리가 수학을 못했던 이유
수학이 서툰 사람들은 수식을 이해하지 못해서 수학에서 멀어져간다. 수식 따위는 그저 도구이며 언어일 뿐인데, 이것을 몰라서 수학에서 멀어져간다는 것은 너무나도 안타깝다. 우주의 이치란 무엇일까? 우리는 무엇을 위해 태어나고, 무엇을 위해 살아갈까? 더욱 좋은 삶을 위해서는 어떻게 하면 될까? 수학은 여기에 구체적으로 답하고 있다. 중요한 것은 표현 방법이 아니라 표현된 내용이다.
Δl×Δυ〉h. 이것은 〈불확정성 원리〉를 나타내는 어려운 수식이 아니라, ‘이 세상에 확정적인 것은 아무것도 없다’는 의미를 표현하고 있는 언어이다. 이에 대해 아인슈타인은 “그렇지 않다. 인간이 아직 진리에 도달하지 못한 것뿐이다”라고 반론했다. 이때 그는 ‘신은 주사위놀이를 하지 않는다’라는 유명한 명언을 남겼다. 천재 물리학자가 신이라는 언어까지 꺼내가며 이것을 부정하려고 한 것이다.
괴델의 〈불완전성 원리〉도 그렇다. 이것은 ‘완전한 것은 없음’을 나타내는 언어이다. 완전한 것은 없다는 말은 ‘신도 존재하지 않는다’는 뜻이다. 수학자가 말하는 내용이 이런 것이다. 사실 〈불완전성 원리〉를 발표한 뒤 괴델은 반대로 〈신의 존재 증명(Godel’s ontological proof)〉에 몰두하게 되었고, 결국 정신적으로 문제가 생겼다. 정말 불행한 일이다. 이렇게 아플 정도로 온 힘을 다해 몰두하게 하는 마성의 매력으로 가득 찬 것, 이것이 바로 수학이다.
--- p.47-48 | 제1장 수학적 사고란 무엇인가
수학은 ‘수학 우주’가 있다는 것을 전제로 하는 학문이다. 특별히 ‘우주’라고 표현한 이유는 넓이를 의식해주기를 바라기 때문이다. 수학 우주란 물리 우주 이외의 수식으로 표현되는 세계이다.
‘물리 이외의 우주가 세상에 존재할까?’라고 생각하는 사람도 있을 것 같은데, 예를 들면 ‘3-4=-1’은 수식으로 표현이 가능하지만 ‘공이 3개 들어 있는 주머니에서 4개의 공을 꺼내는 것’은 불가능한 일이다. 고작 뺄셈만으로도 우리는 간단하게 물리 공간에서 떨어져 나와 상상의 세계인 정보 공간에 들어갈 수 있다. ‘물리 공간에서 떨어져 정보 공간을 자유롭게 구축하는 것’, 바로 이 부분이 수학적 사고에서 가장 중요한 부분이다.
--- p.52 | 제2장 수학이란 무엇인가
행동경제학은 ‘인간은 논리적으로 살지 않는다. 하지만 그것이 꼭 틀렸다고는 할 수 없다’고 말하고 있다. 그러면서 왜 인간은 논리적 사고를 추구하는 것일까? 그 이유는 아마 ‘모순이 싫어서’일 것이다. 인간의 성질이 이익보다 손실에 민감한 것과 마찬가지로, 인간은 합리적인 것을 좋아하는 것이 아니라 모순을 두려워한다. 여러분도 그런 경험이 있을 것이다. 우리가 두려워하는 것은 ‘조금 전에 한 말과 지금 한 말이 모순되는’ 상황이다.
‘내기에서는 졌지만, 자산으로 따지면 졌다고 할 수 없지’ 혹은 ‘기대치를 계산하면 이건 도박이 아니라 확실한 투자이기 때문에 잃는다 해도 어쩔 수가 없어’와 같이, 자신이나 타인을 납득시키기 위한 이유를 만들기 위해서 논리가 필요하다. 알기 쉽게 설명하자면 ‘변명’이 필요한 것이다.
이것은 일상생활에서도 마찬가지다. 내 행동이나 언동에 대해서 누구에게도 손가락질 받고 싶지 않다. 다른 사람에게 발목 잡히지 않고, 약한 모습을 보여주지도 않으면서 살고 싶다. 회의에서 논리 정연하게 상사를 설득하고, 프레젠테이션에서는 설득력 있는 언어를 사용해서 클라이언트에게 칭찬받고 일을 따내고 싶다. 인간관계에서도 상대를 화나게 하지 않고, 나도 화내지 않으면서 스마트하게 살고 싶다. 이런 것을 전제로 삼기 때문에 논리적 모순을 싫어하게 된다.
하지만 이것은 논리의 본질을 잘 모르고 있는 것이다. 논리란 논리 모순이 발생해도 전혀 상관이 없는 것이다
--- p.104-105 | 제3장 행복을 측정하는 경제학과 수학의 방법
앞으로 인간의 능력을 뛰어넘는 컴퓨터는 분명히 나올 것이다. 하지만 원래 컴퓨터는 이를 위해 만들어진 물건이다. 인간보다도 압도적인 속도로 계산하기 위해 계산기가 탄생했다. 연산이 빠르니 당연하다. 연산 처리의 고속화가 진행되면 컴퓨터는 체스나 바둑, 장기와 같이 룰이 정해진 게임에서 인간을 이길 수밖에 없고 실제로 이겼다.
그렇다고 충격을 받을 필요는 없다. 계산기가 할 수 있는 것은 계산기에게 시키면 된다. 논리적 사고는 계산기가 하면 된다. 우리가 해야만 하는 것은 ‘생각’이다. 이 책에서 말하는 수학적 사고야말로 인간이 해야 하는 것이다
--- p.125-126 | 제4장 인공지능과 수학적 사고
중요한 것은 지식의 카오스이다. 카오스는 카오스인 채로 두는 것이지 정리하는 것이 아니다. 새로운 것은 혼돈에서 생겨난다. 왜냐하면 정리에는 반드시 과거 시점을 대입하게 되어 있기 때문이다. 과거의 법칙, 과거의 결과에 의해 판단하기 때문에 정리가 가능한 것이다.
하지만 새로운 것을 하려고 하는데 과거의 결과와 판단이 무슨 도움이 되겠는가. 새로운 것은 과거의 잣대로 잴 수 없기에 새로운 것이다. 이것을 억지로 기존의 스케일에 밀어 넣으려 한다면 새로운 것은 절대 생겨나지 않는다.
새로운 것이란 무엇일까? 그것은 항상 떠오르는 이미지가 우선이고, 그 이미지를 현실화시키면 물리 공간의 제약을 받는 것이 된다. 라이터를 발명한 사람은 라이터라는 조형물을 만들려고 한 것이 아니라, 간단하게 불을 붙일 수 있는 물건을 만들려고 한 것이다. 이를 위해서 이것저것 시행착오를 거치며 현재의 형태가 되었다. 물리적인 제약 속에서 자연스럽게 이런 형태로 정착한 것이다.
자유로운 발상이 먼저이고, 제약은 나중이다. 번뜩임은 혼돈 속에서만 생겨나는 것이다. 물론 더욱 잘 번뜩이기 위해서 방법을 알아둘 필요는 있다. 그것은 이미지를 종횡으로 확장하는 능력이고, 혼돈을 혼돈으로 받아들이는 능력이기도 하다. 부조리나 불합리도 당연한 것으로 받아들이면서 공리에는 따르는 자제심도 필요하다. 무엇보다 창조를 위해서는 프린서플, 원리원칙을 스스로 마음 깊이 이해해야 한다.
--- p.166-167 | 제5장 원리원칙과 우아한 증명