한국 수학은 중국 수학의 전통 속에 파묻혀 있어 표면적으로는 중국 수학의 복사판이나 축소판으로만 인식하기 쉽다. 이 점에 대해서는 한국의 수학책을 조사하고 연구한 일본의 수학자들도 동일한 생각을 가졌다. 그들은 한국이 일본의 식민지였기 때문에 식민 지배를 위한 식민사관을 가지고 한국 문화를 바라봤고, 식민사관의 편견 때문에 한국 수학의 독자적인 전통에 대해서는 거들떠보지도 않았다. 그러나 이런 사실에 대해 우리가 불만을 늘어놓고만 있을 수는 없다. 왜냐하면 한국 수학사가 존재하지 않는 것은 우리 한국인이 책임져야 할 문제이기 때문이다. 어쨌든 한국 수학은 스스로의 전통을 정립하기에 충분한 다음과 같은 특징이 있다.
첫째, 한국이 중국 수학의 전통을 따르고 있었던 것은 사실이지만, 그렇다고 해서 중국 수학사의 흐름에 맞추어 그때마다 중국 수학을 유행처럼 받아들이고 추종한 것은 결코 아니었다. 예를 들어 조선 세종 대에는 동양의 전통적인 사상을 바탕으로 해서 수학을 비롯한 과학이 급성장한 시기로 알려져 있는데 사실 당시 중국은 오히려 수학의 쇠퇴기에 해당하는 시기였다. 이러한 사실에 비추어 볼 때 우리가 흔히 말하는 ‘사대 사상(事大思想)’이라는 것은 중화 세력의 압력에 의해 강요된 숭배가 아니라 상고시대의 이상 세계에 관한 정통을 계승하려는 조선의 질서 관념이었다고 해석할 수 있다.
둘째, 한국 수학은 크게 나누어 사대부의 교양 수학과 관료 조직에서 요구된 실용 수학의 이원적 구조를 이루고 있었으며, 전자의 형이상학적인 기본 관념과 후자의 실용 ? 실천적인 기능 사이에는 조선 말기까지 뛰어넘을 수 없는 간격이 있었다.
셋째, 중국이나 일본 수학사에서 말하는 민간 수학 또는 민간 수학자는 한국의 전통 사회에는 존재하지 않았다. 한국의 수학자는 어떤 의미로는 거의 예외 없이 관학자(官學者)였다.
넷째, 관영 과학(官營科學)의 하나인 산학을 담당하는 하급 기능직 관리 사이애서 일종의 길드 조직이 생겨났다. 그리하여 산사제도(算士制度)가 전 기간에 걸쳐 꾸준히 지속되었던 조선시대에는 세습적인 중인 산학자들 사이에 견고하고 튼튼한 공동체가 형성되었다.
다섯째, 조선 사대부 수학과 중인 수학은 서로 병행하고 공존하는 위치에서 시작되었다. 그렇지만 조선 말기에는 두 가지가 합쳐지면서 수학 자체의 내부에도 변화가 생겼다.
--- 본문 '제1장 동양 수학의 전통과 한국 수학의 특징' 중에서
산학은 비상시국이나 정국의 혼란에서 오는 행정 기능의 마비로 인해 일시적으로 위축되는 일이 있었지만, 그 실학적 성격 때문에 국정이 안정되면 바로 관리 조직으로 다시 들어오는 경향을 내내 보였다. 일본의 조선 침략으로 인해 부득이 끊긴 산학의 취재는 전란의 소강 상태와 함께 바로 부활하였는데, 이는 그 사실을 뒷받침하는 한 예이다. 제2차 침략(정유재란)을 전후한 5년간의 공백은 아마 그 이전의 타격이 겹쳤기 때문이었다고 생각한다.
산학, 즉 관수용 수학이 당대의 수학 전부를 의미하지는 않는다. 오히려 수학사 입장에서는 관료 체제 밖에서의 수학 연구 활동과 저술 내용 등에 더 주목하는 것이 상식이다. 그러나 중인 산학자 사회가 극히 폐쇄적이었다는 점, 수학은 극히 한정된 범위 내에서만 통용되는 특수한 지식이었다는 점, 중인이라는 신분상의 이유 때문에 외부에 공표할 저술을 스스로 삼갔다는 점, 그나마 쓴 수학책을 잃어버리고 말았다는 점 등의 이유 때문에 수학 공동체(중인 산학자 집단) 내부의 연구 활동이나 개인의 연구 성과에 대해서 구체적으로 알려진 것은 전혀 없다. 다만 앞의 표에서 알수 있듯이 중국에서는 이미 명나라 때 자취를 감춘 산학제도가 이 땅에서는 꾸준하게 이어져 왔다는 점에서 한국 전통 수학의 특징을 찾아볼 수 있다. 즉, 한국 수학에는 끝까지 관학적인 성격이 있었던 것이다.
--- 본문 '제7장 조선 중기의 수학과 천문학' 중에서
16세기 후반에 싹이 터 약 300년 동안 계속된 실학파 계몽 운동의 특징은 그들이 과학 기술에 대한 관심이 많다는 사실이다. 특히 조선시대 문화의 중흥기라고 하는 18세기의 영조1725~1776), 정조(1776~1800)의 문운융성(文運隆盛)의 치세 동안에는 적극적으로 과학 기술 정책을 장려하여 역학 ? 산학 ? 의학 기술 관료를 대폭 증원하는 형태로 나타났다.
이러한 시대 환경 속에서 긍지와 의욕을 갖게 된 중인 산학자들은 실무에 관한 기술 지식 이상의 수학 일반에 관한 연구에 몰두하는 새로운 역사적 전환기를 맞이하게 되었다. 그리고 실학기의 수학은 종래에는 없었던 대단히 중요한 변혁을 몇 겹으로 거치면서 급속도로 성장하였다. 그중에서도 중요한 단계를 다음과 같이 나누어 볼 수 있다.
(1) 중인 산학자들의 의욕적인 수학 연구의 붐 및 저술 활동
예 : 홍정하의 『구일집』
(2) 실학자들의 수학 관련 저술 활동
예 : 홍대용의 『주해수용』
(3) 사대부 수학과 중인 수학의 합류
예 : 남병길과 이상혁의 공동 연구 및 저술 활동
(4) 유럽 수학에 접근한 한국 수학의 독자적 발전 계기
예 : 이상혁의 『산술관견』
위의 (3)에서 ‘합류’라는 표현을 사용한 것은 흔히 말하는 ‘융합’의 의미가 아니라, 이원적 경향을 서로가 그대로 간직한 채 이루어진 ‘제휴’였다고 해야 옳다. 수학에 대한 순수한 지식욕에서 출발하야 수학상의 문제에만 관심을 집중한 중인 수학이 유럽식 대수방정식이나 기하학까지 수용하였던 것은 당연하다고 할 수 있다. 다른 한편 양반 빛 사대부층의 수학은 오히려 동양의 고전적 전통 속으로 복귀하려는 현상을 보인다. 이러한 시대착오는 부분적으로는 이미 옹종(雍宗) 대(1723~1735)에 시작한 ‘산경십서’의 발굴, 건륭 ? 가경 시대(1736~1820)에 누렸던 고전 연구의 전성기를 거쳐 나사림이 조선판 『산학계몽』을 발간한 1839년 이후까지도 이어진 중국의 고전 수학 부응 붐과 관련된, 일종의 연쇄 현상이었다. 유럽 근대의 과학 발전관의 입장에서는 도저히 납득이 가지 않는 이 역행은 다른 곳, 보다 근원적인 곳에서 그 이유를 찾아야 한다. 즉 양반 지식층의 사고 방식은 유학 이데올로기라는 기본적인 환경에서 다져진 것으로, 본질적으로 고전의 세계에 근거한다. 이 점은 과학 탐구에서도 예외일 수 없다. 역설적인 표현으로 들릴 수 있지만, 우리나라 전통사회의 지식인들은 진지하게 시대와 마주하려 하면 할수록 어쩔 수 없이 고전의 세계로 되돌아가게 되어 있다. 진취적이어야 할 실학 계몽학자의 경우도 여기에서는 예외일 수 없었다.
그렇다면 이러한 이질성이 전통적 이데올로기와 중인 산학자 사이에 가로놓여 있었음에도 불구하고, 일부러 ‘합류’했다고 하는 이유는 무엇일까. 그것은 다음과 같은 공통적인 특징이 더욱 뚜렷하게 드러나기 때문이다.
첫째, 수학책을 경전처럼 보는 태도는 이미 보이지 않는다. 사대부 수학에 나타난 고전화 경향은, 그냥 옛 수학책이 다시 등장한 것이 아니라, 그것을 소재로 하여 새로운 방법을 제시하는 형태로 나타난다.
둘째, 백과전서적인 교양의 일부로서가 아니라 전문적이고 독립적인 과학으로서 수학이 차츰 정립되기 시작하였다. 수학책의 저술이 현저하게 많아졌다는 사실만으로도 이 경향을 충분히 뒷받침할 수 있다.
실학 말기에 가까워질수록 수학책은 더욱 많이 간행되었는데, 이는 외세에 대항하기 위한 부국강병책의 하나로 유럽의 과학 기술을 수용하겠다는 시대 풍조에 영향을 받았기 때문이다. 그리고 여러 과학 중에서도 특히 수학에만 관심이 집중된 것은 동양의 전통 중 근대적인 의미의 과학에 해당하는 것이 수학뿐이었기 때문이다. 어쨌든 역사상 처음 맞이한 ‘수학 시대’가 출현한 것은 독자적인 한국 수학의 형성을 위한 정지 작업의 구실을 한 셈이다. 비상을 위한 시간이 주어졌더라면 하는 가정 아래에서의 이야기이긴 하지만 말이다.
--- 본문 '제9장 조선 후기의 수학과 천문학' 중에서