<김용수의 생활 속의 수학 이야기>
중·고등학교에 입학해 수학 교과서를 받으면 맨 처음 나오는 단원의 내용은 집합이었다. 유한, 무한을 접하고 골치를 아파했던 기억은 누구나 경험했을 것이다. 중학교 1학년 학생이 배우기엔 조금 부담이 되어 수학에 흥미를 잃은 사람들도 있었을 것이다. 중학교 새 교과과정에서는 집합 단원이 빠지고 고등학교 과정에서도 1학년 2학기 함수단원 부분 앞으로 옮겨진 것은 개인적으로 잘된 것이라 생각한다.
무한의 개념은 역사적으로 여러 분야에서 다양한 형태로 나타났다. 오늘날 우주에 존재하는 원자의 총수는 9의 81제곱보다는 작은 것으로 알려져 있고, 고대의 아르키메데스는 “우주를 모래알로 채웠을 때 모래알의 개수는 적당한 가정 하에서 10의 63제곱보다 작다“라고 했다. 이 수들도 생각하고 계산하기 불가능한 매우 큰 수인데 무한까지 생각하니 아찔하지 않을 수가 없다. 따라서 갈릴레이는 “무한에 대해서는 많다든가 적다든가, 같은 수만큼 있다든가 하는 말을 해서는 안 된다”라고 선언하고 무한의 문제에서 깨끗이 손을 떼었다.
그런데 칸토어는 무한의 문제를 끝까지 연구했다. 1872년 ‘집합이란 확정되어 있고 또 서로 명확히 구별되는 것들의 모임’이고 ‘두 집합 사이에 1대 1의 대응관계가 성립할 때 두 집합의 농도(원소의 개수)는 같다’고 정의했다. 즉, 칸토어는 집합의 원소의 개수가 같다는 것을 각각의 원소를 하나씩 짝지을 수 있다는 것으로 해석했던 것이다. 그는 이 개념을 이용해 무한집합 사이의 대응관계를 조사했는데 첫째, 자연수 전체와 유리수 전체는 1대 1로 빠짐없이 대응시킬 수 있다. 둘째, 자연수 전체와 실수 전체를 1대 1로 빠짐없이 대응시킬 수는 없다는 것을 증명했다.
즉, “자연수는 유리수의 한 부분인데도 그 개수가 같으므로 전체와 부분이 같고, 자연수와 실수의 개수는 무한개지만 실수 쪽의 개수가 많다”라고 주장했다. 이것은 ‘전체는 부분보다 크다’, ‘무한은 모두 같은 것으로 간주한다’라는 상식을 깬 대사건이었다. 무한의 성질을 이해하고 셈하기 위해서 창시한 집합론은 현재는 모든 수학의 기초가 됐지만 당시에는 매우 혁신적이고 놀라운 것이라 수학자들조차 제대로 받아들이지 못하고 논란의 대상이 됐다. 말년에는 수학사에 큰 업적을 인정받지만 칸토어를 정신적으로 힘들게 해 결국 정신병원에 여러 번 입원하고 생을 마감한다.
일대 일 대응이라는 단순한 셈법을 통해 탄생한 집합에 확률론이 도입돼 퍼지집합이 탄생한다. 이 퍼지집합은 나중에 혼돈 속에 규칙이 존재한다는 카오스 이론과 자기 닮은 도형인 프랙털로 연결돼 21세기를 주도하는 과학의 중심이론이 됐다. 기존의 수학적인 모델링을 사용한 컴퓨터의 한계를 극복하고 인간과 같이 인지하며 생각하고 행동하는 컴퓨터를 구현하려는 노력에서 시작된 퍼지논리와 카오스 이론은 자연과학, 사회과학, 예술, 및 산업 전반에 사용될 수 있는 컴퓨터의 출현을 가능하게 했는데 그 기본배경이 바로 집합이었다.
무한의 개념은 역사적으로 여러 분야에서 다양한 형태로 나타났다. 오늘날 우주에 존재하는 원자의 총수는 9의 81제곱보다는 작은 것으로 알려져 있고, 고대의 아르키메데스는 “우주를 모래알로 채웠을 때 모래알의 개수는 적당한 가정 하에서 10의 63제곱보다 작다“라고 했다. 이 수들도 생각하고 계산하기 불가능한 매우 큰 수인데 무한까지 생각하니 아찔하지 않을 수가 없다. 따라서 갈릴레이는 “무한에 대해서는 많다든가 적다든가, 같은 수만큼 있다든가 하는 말을 해서는 안 된다”라고 선언하고 무한의 문제에서 깨끗이 손을 떼었다.
그런데 칸토어는 무한의 문제를 끝까지 연구했다. 1872년 ‘집합이란 확정되어 있고 또 서로 명확히 구별되는 것들의 모임’이고 ‘두 집합 사이에 1대 1의 대응관계가 성립할 때 두 집합의 농도(원소의 개수)는 같다’고 정의했다. 즉, 칸토어는 집합의 원소의 개수가 같다는 것을 각각의 원소를 하나씩 짝지을 수 있다는 것으로 해석했던 것이다. 그는 이 개념을 이용해 무한집합 사이의 대응관계를 조사했는데 첫째, 자연수 전체와 유리수 전체는 1대 1로 빠짐없이 대응시킬 수 있다. 둘째, 자연수 전체와 실수 전체를 1대 1로 빠짐없이 대응시킬 수는 없다는 것을 증명했다.
즉, “자연수는 유리수의 한 부분인데도 그 개수가 같으므로 전체와 부분이 같고, 자연수와 실수의 개수는 무한개지만 실수 쪽의 개수가 많다”라고 주장했다. 이것은 ‘전체는 부분보다 크다’, ‘무한은 모두 같은 것으로 간주한다’라는 상식을 깬 대사건이었다. 무한의 성질을 이해하고 셈하기 위해서 창시한 집합론은 현재는 모든 수학의 기초가 됐지만 당시에는 매우 혁신적이고 놀라운 것이라 수학자들조차 제대로 받아들이지 못하고 논란의 대상이 됐다. 말년에는 수학사에 큰 업적을 인정받지만 칸토어를 정신적으로 힘들게 해 결국 정신병원에 여러 번 입원하고 생을 마감한다.
일대 일 대응이라는 단순한 셈법을 통해 탄생한 집합에 확률론이 도입돼 퍼지집합이 탄생한다. 이 퍼지집합은 나중에 혼돈 속에 규칙이 존재한다는 카오스 이론과 자기 닮은 도형인 프랙털로 연결돼 21세기를 주도하는 과학의 중심이론이 됐다. 기존의 수학적인 모델링을 사용한 컴퓨터의 한계를 극복하고 인간과 같이 인지하며 생각하고 행동하는 컴퓨터를 구현하려는 노력에서 시작된 퍼지논리와 카오스 이론은 자연과학, 사회과학, 예술, 및 산업 전반에 사용될 수 있는 컴퓨터의 출현을 가능하게 했는데 그 기본배경이 바로 집합이었다.
김용수 (김용수 수학학원장)
저작권자 © 경남일보 - 우리나라 최초의 지역신문 무단전재 및 재배포 금지
