[과학 시대의 신앙] 카오스

창세기는 이렇게 시작한다.

“한 처음에 하느님께서 하늘과 땅을 창조하셨다. 땅은 아직 꼴을 갖추지 못하고 비어 있었는데, …”(1,1-2).

인도 · 유럽 조어에서 파생된 ‘하품하며 입을 쩍 벌리고 있는’ 상태, 곧 창세기에서 ‘꼴을 갖추지 못하고 비어 있는’ 상태를 표현한 말이 ‘카오스’(chaos)이다. 이 카오스에 하느님께서는 질서를 부여하셨는데, 이를 ‘코스모스’(cosmos)라고 한다. 곧 코스모스는 질서 정연한 우주이고, 카오스는 질서와 반대가 되는 혼돈을 뜻한다. 이 카오스와 코스모스가 대비를 이루며 창세기가 시작된다.

새로이 의미를 추가해 가는 카오스

20세기 후반에 이르러 카오스는 새로이 물리학적인 의미를 추가하게 되었다. 영국 케임브리지대학교에는 ‘루카시안 석좌 교수’(Lucasian Chair of Mathematics)라는 명예직이 있다. 제2대였던 뉴턴은 1669년부터 33년간 석좌 교수를 지냈다.

제16대 석좌 교수를 지낸 제임스 라이트힐 경은 뉴턴의 ‘자연 철학의 수학적 원리’(이른바 프린키피아) 발간 300주년을 기념한 강연에서 과학자들이 집단으로 사과해야 한다고 말했다. 뉴턴 운동 법칙의 결정론적인 면을 잘못 확대해석하여 움직이는 물체는 모두 ‘예측 가능’한 것처럼 일반인들이 믿게끔 오도되었다는 것이다.

뉴턴의 운동 법칙에 따르면 모든 움직임은 완전히 예측 가능한 것처럼 여겨져 왔지만, 1960년대 이후 어떤 경우에는 예측할 수 없는 ‘카오스’적인 움직임을 보이기도 한다는 것이 알려졌다.

프린키피아의 주요 내용은 ‘만유인력의 법칙’과 ‘운동의 법칙’이다. 만유인력의 법칙은 두 천체가 서로를 당기는 힘, 곧 중력에 관한 것이다. 중력의 방향은 서로를 향하고 중력의 크기는 두 천체의 질량의 곱에 비례하며, 두 천체 사이 거리의 제곱에 반비례한다.

운동의 법칙에서는 힘이 어떤 물체에 작용하면, 힘의 방향으로 물체의 속도가 증가한다. 이때 힘(F)의 크기는 물체의 질량(m)과 가속도(a, 속도가 증가하는 정도)이고, 이를 표현한 수식이 바로 그 유명한 ‘에프는 엠에이’(F=ma)이다.

과학자들도 밝히지 못한 움직임

그리스 철학자 아리스토텔레스는 “움직이는 모든 것은 무엇인가에 의해서 움직여지고 있다.”고 했지만, 뉴턴은 운동 법칙에서 “일정한 속도로 움직이는 것, 곧 움직임에 변화가 없는 것에는 아무런 힘도 작용하지 않는다.”고 했다.

토마스 아퀴나스 성인이 「신학대전」에서 신의 존재를 증명하는 그 첫 번째도 운동에 관한 것이었다. 움직이는 것은 다른 무엇인가에 의해 움직여지고, 그것 또한 다른 무엇인가에 의해 움직여지니, 움직임을 일으키는 근원에는 스스로 움직이는 무엇인가가 있어야 하는데, 그 무엇이 바로 신이라는 것이다.

토마스 아퀴나스 성인의 논리에 크게 문제될 만한 것은 없지만, 단순히 ‘움직임을 일으키는 근원’이 아니라, ‘움직임에 변화를 일으키는 근원’이라고 해야 더 타당한 설명이 되겠다.

힘을 알고, 그 힘이 물체를 어떻게 움직여 나갈지를 계산하는 연구 분야를 ‘동역학’이라고 한다. 뉴턴 이후의 천체 물리학자들은 하늘에서 움직이는 천체들의 운동을 설명할 수 있게 되었다. 한편 프랑스 천문학자 라플라스처럼 극단적인 결정론자도 등장하였다.

프랑스 황제 나폴레옹이 라플라스에게 물었다. “그대가 쓴 천체 물리학책에는 왜 신이 등장하지 않는가?” 라플라스가 대답하였다. “저는 그런 가설이 필요 없습니다.” 그가 이신론자, 또는 무신론자임이 엿보인다.

유신론자가 창조는 물론 그 이후의 역사에 개입하는 인격신을 믿는 데에 반하여, 이신론자는 신이 있다 하더라도 인류의 역사에 개입하지 않는, 인격적 주재자로서의 신을 부정하며, 무신론자는 아예 신이 없다고 생각한다. 아인슈타인을 비롯한 상당수 현대 과학자가 라플라스처럼 이신론자 내지는 무신론자의 범주에 속하는 듯하다.

뉴턴 이후 물리학자들은 천체의 움직임을 예측할 수 있다고 자신만만했다. 하지만 셋 또는 그 이상의 천체가 중력으로 서로 당기는 경우만 해도 그 움직임을 제대로 계산하지 못하였다. 이 ‘삼체문제’는 1887년 스웨덴 국왕 오스카르 2세의 환갑을 기념하여 현상금을 내건 문제로 나왔는데, 프랑스 물리학자 앙리 푸앵카레가 상금을 받긴 하였으나, 그 또한 완벽한 답을 내놓지 못했다.

카오스와 나비 효과

1940년대 이후 디지털 컴퓨터가 복잡한 과학 문제 해결에 동원되기 시작했다. 1960년대는 컴퓨터로 날씨까지 예측할 수 있다고 기대하던 시기였다.

미국 기상학자였던 에드워드 로렌츠는 1961년 기온과 기압, 풍속 이 세 가지 기상 변수가 어떻게 변화하는지 수식을 만들어 계산해 보려고 했다. 하루는 얼마 전에 했던 계산을 다시 확인하면서, 처음부터 하지 않고 중간 부분부터 다시 계산해 보았다. 계산 시간을 아끼려 했던 것이다. 그 당시 컴퓨터는 유효 숫자를 여섯 자리까지 썼지만, 인쇄되어 나온 숫자는 반올림하여 세 자리만 나왔다. 하지만 이 숫자를 쓰더라도 오차가 0.1%밖에 되지 않으므로 괜찮으리라고 생각하였다.

그런데 한 시간쯤 뒤에 돌아와 보니, 그전에 했던 계산과는 완전히 다른 결과가 나오고 있었다. 처음에는 컴퓨터가 고장이 난 줄 알았지만, 사실은 0.1%도 되지 않는 아주 작은 오차가 엄청나게 다른 결과를 가져왔음을 깨닫게 되었다. 그렇게 하여 ‘나비 효과’라는 말이 나왔다. 아마존강 유역 나비 한 마리의 날갯짓이 여섯 달 뒤 텍사스에 폭풍을 일으킬 수도 있다는 것이다.

카오스에 대해 흔히 알려진 대로 어떤 결과를 바꾸려고 초기 조건을 살짝 바꾸면 된다고 생각하는 것은 큰 오산이다. 초기 조건의 조그만 차이가 나중에 ‘예측할 수 없는’ 큰 차이를 만든다. ‘초기 조건에 대한 민감한 의존성’이 바로 ‘결정론적인 카오스’의 특징이다.

‘카오스를 어떻게 통제할 것인가?’ 하는 연구도 활발한데, 이는 첨단 기계 또는 전자 장비가 오작동하는 것을 막는 데에 필요하다. 간단한 방법은 작동 중간중간에 현 상태를 측정하여 원하는 범위에 들어가도록 바로잡는 것이다.

카오스적인 삶을 피하려면

인간의 삶은 카오스처럼 매우 복잡하여 예측할 수 없다. 나날이 자신의 상태를 되돌아보고 바로잡아야 한다. 공자가 하루 세 번 자신을 돌아보았다는 일일삼성오신(一日三省吾身)이나, 천주교의 아침, 저녁 기도와 하루 세 번 삼종 기도를 드리며 하느님을 만나는 것도 카오스적인 삶을 피하게 해 준다.

모든 피조물의 미래는 결정되어 있지만(결정론), 하느님 말고는 아무도 알 수 없다(예측 불가능)는 예정론은 결정되었지만 예측은 불가능하다는 카오스 이론과 무척 닮았다.

필자는 고등학생 때 칼뱅의 예정론을 듣고 크게 반발했다. 그래서 이를 부정하는 양자 물리학의 불확정성과 양자 카오스 연구에 흥미를 느끼게 되었다.

양자 물리학은 보통 원자 또는 그보다 작은 미시 세계를 지배하고, 그보다 큰 거시 세계는 결정론의 뉴턴 물리학이 지배한다고 하지만, 거시 세계도 미시 세계의 토대 위에 서 있기 때문에 결정론에서 벗어난다고 할 수 있다.

미래는 정해져 있지 않고, 정해진 것도 예측은 불가능하다. 끊임없이 현재를 살펴보며 미래를 만들어 가자.

* 김재완 요한 세례자 – 고등과학원(KIAS) 계산과학부 교수로 양자 컴퓨터, 양자 암호, 양자 텔레포테이션 등을 연구하고 있다.

[경향잡지, 2019년 2월호, 김재완 요한 세례자]