자료실

[과학 시대의 신앙] 말 글 수학

미사 때 우리 아이들이 가톨릭 성가를 보며 킥킥거리고 웃어 댔다.

“하느님과 게임을 하재요.”

정말 가사 가운데 “우-리-게-임-하-소-서”라는 구절이 있었다.

말과 글이 온전히 전할 수 있을까

우리는 성경과 교회의 가르침을 통하여 하느님에 대해 배우지만, 말과 글은 완벽하지 않고 모호해서 자칫 오해할 수 있다. 말은 공기의 진동인 소리로 전달된다. 아주 먼 옛날엔 요즘처럼 녹음할 수 없어서 그 소리는 곧바로 사라졌다. 그래서 내용을 머릿속에 잘 기억해 두었다가 다른 이에게 전달하는 수밖에 없었다. 그러다가 인류는 기원전 삼천년 무렵부터 말을 글로 남길 수 있게 되었다. 메소포타미아 지역을 비롯하여 이집트와 중국 등 여러 곳에서 문자를 사용하여 기록하기 시작했다.

본격적으로 글을 남기기 시작하던 그 당시에 ‘과연 글이 말을 대신할 수 있을까?’ 하는 고민이 있었던 모양이다. 소크라테스는 글로 남긴 것이 하나도 없지만, 그의 제자 플라톤이 남긴 여러 글로 우리는 그의 철학과 사상에 대해 알 수 있다. 하지만 정작 플라톤도 ‘글로 기록을 남기는 것으로 말미암아 인간의 기억력이 퇴보할 것’이라고 걱정했다.

선불교는 ‘불립 문자’(不立文字)라고 하여 불도의 깨달음은 마음에서 전하는 것이므로 오롯이 말이나 글에 담을 수 없다고 하였다. 노자가 남긴 도덕경의 첫 구절인 ‘도가도비상도’(道可道非常道)도 마찬가지다. ‘도’를 이러저러한 것이라고 말할 수 있으면, 그렇게 설명한 ‘도’는 본디 뜻하려던 ‘도’가 이미 아니하게 되니, 말이나 글로 ‘도’를 나타낼 수 없다는 의미이다. 곧 늘 고정되어 변하지 않는 ‘도’가 있다고 한다면 그것은 ‘참된 도’가 아니게 됨을 말한다.

탈출기 3장을 보면 하느님께서는 모세에게 당신을 “나는 있는 나다.” 하고 말씀하셨다. 이를 뜻하는 히브리어 ‘YHWH’는 네 개의 자음 사이에 어떤 모음을 넣어 읽느냐에 따라 ‘여호와’로도 읽히나, ‘야훼’로 읽는 것이 정설이다. 그 의미에 대해서도 여러 설이 있지만, 대체로 ‘존재하심’을 의미한다고 본다. 정녕 하느님은 말이나 글로는 표현할 수 없는 ‘존재’ 그 자체이신 분이시다.

과학을 연구하려는 언어, 수학

이처럼 인간의 언어를 초월하시는 하느님을 성경에 오롯이 담았다고 볼 수 있을까? 현세를 사는 우리는 주님을 온전히 아는 것이 아니라 부분적으로만 알 수 있을 뿐이다(1코린 13,12 참조). 우리의 생각이나 경험도 불완전하고 이를 표현할 말과 글도 불완전할 뿐만 아니라 언어는 끊임없이 변하므로 그 본디 의미를 찾기도 쉽지 않다.

일상에서 쓰는 ‘인공어’와 이와 대치되는 ‘자연어’ 사이의 모호하고 불완전한 것을 극복하려고 수학이 발전되었다. 플라톤이 열었던 철학 학원 ‘아카데메이아’ 입구에는 다음과 같이 씌어 있었다고 한다. “기하학을 모르는 자는 이 문으로 들어오지 마라!’ 이는 엄밀한 사고를 위한 훈련에 수학과 논리학이 필수적이었기 때문이다.

민수기에는 구약의 여러 규정과 관련한 숫자가 나오고, 요한 복음에는 부활하신 예수님께서 말씀하신 대로 베드로가 그물을 던지자 그가 잡은 물고기 수로 ‘153’이라는 숫자가 나오는데(21,11 참조), 이는 모두 자연수의 표현이다.

그리스 수학자 피타고라스는 우주가 자연수의 조화로운 ‘비율’(ratio)로 만들어졌다고 생각했다. 영단어 ‘rational’은 ‘합리적’이라는 뜻도 있지만, 자연수의 비율로 나타낼 수 있는 ‘유리수’라는 뜻도 가지고 있다. 그 뒤 ‘수’는 ‘무리수’를 포함하여 ‘실수’로 확장되었고, ‘허수’를 포함한 ‘복소수’가 도입되어 다양한 물리 현상을 나타낼 수 있게 되었다.

프랑스 수학자 데카르트는 기하학적인 점의 위치를 숫자로 나타내는 ‘카티전’(cartesian)좌표를 만들어 ‘기하학’을 ‘대수학’적인 방법으로 나타낼 수 있게 하였다. 뉴턴은 운동 법칙과 중력 법칙(만유인력의 법칙)을 전개하려고 ‘미분’과 ‘적분’을 발명했고, 독일 물리학자 하이젠베르크는 양자 물리학을 연구하려고 ‘행렬’을 도입하였다.

또한 핵물리학 이론에 대한 공로로 노벨 물리학상을 받은 미국의 이론 물리학자 유진 위그너는 자연 과학을 연구하며 수학이 ‘이해할 수 없을 정도로 효율적’이라고 말했다.

이처럼 수학은 과학을 연구하려는 언어로 발전되었다.

진리가 참인지를 증명하려 하다

그럼 수학이라는 언어는 일상어와 달리 완전한가?

미국의 프린스턴 고등연구소에서 아인슈타인과 함께 연구한 수학자 괴델은, 1930년대에 ‘불완전성의 정리’를 증명하여 전 세계 수학자와 과학자, 철학자들을 놀라게 하였다.

20세기 초까지 힐베르트를 포함한 수학자들은, ‘자명한 진리로 인정된 공리 체계 내에서 모든 명제는 증명이 가능할 것’이라는 ‘완전성’을 추구하고 있었다. 그런데 괴델은 그 자명한 진리를 여지없이 박살 냈다. 모순이 없는 공리체계에는 증명할 수 없는 ‘참명제’가 반드시 있으며, ‘그 자체에 모순이 없다.’는 것 또한 증명할 수 없다는 것이다.

고대 그리스 수학자 유클리드가 정립한 ‘유클리드 기하학’은 다섯 개의 공리를 기초로 수많은 정리를 증명할 수 있다. 그 가운데 다섯 번째인 ‘평행선 공리’의 내용은 이렇다. ‘두 직선이 한 직선과 만날 때, 같은 쪽에 있는 내각의 합이 두 직각(180°)보다 작으면, 이 두 직선을 연장할 때 두 각보다 작은 내각을 이루는 쪽에서 반드시 만난다.’ 공리치고는 그 내용이 상당히 길어 보인다.

수많은 수학자가 다른 네 개의 공리로 이 평행선 명제를 증명하려고 시도했으나 실패하였다. 오히려 평행선 공리를 부정하는 ‘비유클리드 기하학’이 탄생하게 되었다. 평행선 공리나 다른 대체 공리는 앞선 네 개의 공리로 증명할 수 없는 ‘참명제’인 셈이다. 비유클리드 기하학은 아인슈타인의 ‘일반 상대성 이론’의 전개에 큰 도움이 되었다.

독일 수학자 칸토어는 “자연수의 개수도 무한대이고 실수의 개수도 무한대이지만, ‘실수의 개수인 무한대(알레프-1)’가 ‘자연수의 개수인 무한대(알레프-0)’보다 크다.”는 것을 증명하였다. 칸토어는 ‘알레프-0’과 ‘알레프-1’ 사이에 또 다른 무한대가 있는지에 대한 증명은 할 수 없었지만, “두 무한대는 연속적이어서 둘 사이에는 다른 무한대가 없다.”는 ‘연속체 가설’을 남겼다.

괴델과 미국 수학자 폴 코언은 ‘연속체 가설이 참인지 거짓인지를 증명하는 것은 불가능하다.’고 밝혔다. 다시 말해 ‘알레프-0’과 ‘알레프-1’ 사이에 또 다른 무한대가 있다는 공리를 도입한 수학 체계도 만들 수 있고, 없다는 공리를 도입한 수학 체계도 만들 수 있다는 말이다.

수학은 물리학을 비롯하여 현대 과학을 기술하고 전개하는 데에 탁월해 보인다. 앞으로도 과학 기술의 발전은 수학이라는 언어에 더욱더 의존할 것이다. 그럼에도 수학은 불완전하다. 인간의 논리를 초월하는 참된 사실은 반드시 있으며, 신의 존재 여부 또한 수학으로 증명할 수 있는 명제가 아니다. 놀라운 사실은 괴델은 ‘인격신’이 있다고 믿었다. 그는 주일 아침마다 성경을 읽으며 신앙생활을 이어갔다고 한다.

“우리가 지금은 거울에 비친 모습처럼 어렴풋이 보지만 그때에는 얼굴과 얼굴을 마주 볼 것입니다. 내가 지금은 부분적으로 알지만 그때에는 하느님께서 나를 온전히 아시듯 나도 온전히 알게 될 것입니다”(1코린 13,12).

* 김재완 요한 세례자 - 고등과학원(KIAS)계산과학부 교수로 양자 컴퓨터, 양자 암호, 양자 텔레포테이션 등을 연구하고 있다.

[경향잡지, 2019년 3월호, 김재완 요한 세례자]