지난 주 9월 14일 수요일 새벽, 실시간 검색 순위에 부산대학교 '김상욱 교수'가 2위에 올랐다. 추석 연휴의 첫 날이라 '고속도로 교통 상황'이 검색어 1위인 것은 당연했다. 하지만 물리학자가 검색어 순위에 오르다니!

어찌된 일일까? 요즘 김상욱 교수의 활동이 왕성하여 다양한 경로로 그를 마주한 애독자와 애청자들의 검색이 있었겠지만, 그 시각은 마침 EBS 특별 기획 <통찰>(월, 화 밤 12시 10분) 제46회 '자연의 예측 가능성, 양자 역학' 편이 끝난 시각이었다. 그 전날의 제45회 '자연의 예측 가능성, 고전 역학' 편의 성균관대학교 김범준 교수와 함께 짧은 강연과 대담 형식으로 두 번의 강의가 진행되었다.

방송에서는 물리학에서 말하는 자연 현상의 '예측 가능하다'의 의미와 고전 역학, 양자 역학에서 바라보는 예측의 한계와 그 이유가 논의되었다. 두 강연자의 매끄러운 강연뿐 아니라 그 뒤에 이어지는 수준 높은 대담이 더욱 흥미로운 방송이었다. 제약된 방송 시간 때문에 두 강연자가 미처 다 말하지 못한 이야기가 지금부터 말하려는 책, 제임스 글릭의 <카오스>에 담겨있다.

1987년에 '나비 효과'라는 말을 세상에 알리며 첫 선을 뵌 <카오스>(박래선 옮김, 김상욱 감수, 동아시아 펴냄)는 6년이 지나 1993년에야 우리말로 번역되었다. 첫 출간으로부터 20년이 지난 2008년, 미국에서만 100만 부 이상 팔려 과학책으론 전설적인 베스트셀러가 된 이 책의 '20주년 기념판'이 나왔다. 이를 2013년 동아시아 출판사에서 새롭게 번역하여 출판하였다. 검붉은 표지 뒤 사진 속에 있던 33세의 혈기 왕성한 청년이 이제 54세의 원숙한 노인으로 돌아왔다. 이번에 번역되어 출판된 책도 이전보다 잘 다듬어진 모습이다.

첫 출판으로부터 근 30년이 지난 이 책이 빠르게 변하고 새롭게 쓰여 고전을 논하기 어렵다는 과학 분야의 '과학 고전'으로 카오스 이론을 소개하기에 적당할까?

이에 대한 나의 답은 "여전히 좋다"이다.

그 이유로 세 가지를 들 수 있다. 첫째, 본래 이 책이 카오스 이론 자체보다도 카오스 이론이 물리학의 변방에서 정식으로 과학으로 인정받기까지의 과정과 연구자의 이야기가 중심으로 쓰였다. 둘째, 책에서 소개한 이론이 아직도 유효하며 활발히 연구되고 있다. 연구의 범위와 깊이가 더해졌지, 패러다임의 변화가 있지 않았다. 셋째, 아직도 많은 사람들이 모른다.

세 번째 이유에 대해서 조금 더 이야기 해보자. 로렌츠의 날씨 모델과 나비 효과에서 시작하는 <카오스>의 순서와 달리, EBS 방송 <통찰>에서와 같이 물리학에서 말하는 '예측 가능성'의 의미에 대해서 먼저 생각해 보는 것이 편리하겠다. (제45회 방송의 김범준 교수 강의를 먼저 들었다면 더욱 좋다.)

'물리학'에서 궁금해 하는 것은 무언가의 '시간에 따른 변화'라 할 수 있다. 물리학이 발전해 왔던 역사적으로도 그렇고, 물리학을 가르치기 위한 교육 과정상으로도 그렇다. 우리는 중학교와 고등학교 과정을 통해서 열심히 위치와 속도, 가속도의 개념을 배운다. 뉴턴의 운동 법칙을 배우고, 다양한 종류의 힘들에 대해서 배운다.

물체에 작용하는 힘을 알면, '가속도는 힘에 비례하고, 질량에 반비례한다'는 뉴턴의 운동 법칙으로 가속도를 구할 수 있다. 가속도는 속도의 시간에 따른 변화(미분)이므로, 가속도를 시간에 대하여 '적분'하면 속도를 알 수 있다. 같은 원리로 속도는 시간에 따른 물체의 위치 변화(미분)이므로, 속도를 시간에 대하여 적분하면 시간에 대한 물체의 위치를 알 수 있는 것이다. 그래서 처음, 즉 시간이 0인, 위치와 속도(초기조건)를 알고 힘을 알면, 앞으로 시간이 흐른 뒤 물체의 위치를 알 수 있다.

이를 조금 더 수학적으로 표현하면 다음과 같다. 속도는 위치의 '한 번' 시간 미분이다. 그리고 가속도는 속도의 '한 번' 시간 미분이다. 이를 결합하면, 가속도는 위치의 '두 번' 시간 미분이 된다. 힘은 보통 물체의 위치와 속도, 시간에 따라 변한다. 그래서 뉴턴의 운동 방정식을 써 놓고 보면, 위치를 '한 번', '두 번' 미분한 값들로 써진 시간에 대한 (2차) '미분 방정식'이 된다. 초기 조건에 대해 '미분 방정식을 푸는 것'이 시간에 따른 위치를 구하는 과정이다.

피에르 시몽 라플라스가 말한 바와 같이, 우주의 모든 원자의 정확한 위치와 운동량을 알고 있는 존재가 있다면, 뉴턴의 운동 법칙으로부터 과거, 현재의 모든 현상을 설명하고, 미래까지 예측할 수 있게 된다. 이 세계의 정보를 모두 모아 다 쓸 수 만 있다면, 모든 원자에 대한 미분 방정식을 쓰고 그 '초기 조건'에 대해 풀면 된다. 이것이 바로 고전 역학에서 말하는 '예측 가능한 결정론적 세계'이다.

그럼, 정말 정보만 '충분'하다면 미래를 예측할 수 있을까? 이에 대해 현명한 답을 주는 것이 바로 이번 EBS <통찰>에서 말하고자 하는 카오스 이론의 '초기 조건 민감성'과 양자 역학에서의 '불확정성 원리'이다.

'어떤' 미분 방정식은 '초기 조건'에 아주 작은 변화를 주면 이전의 결과와 전혀 다른 결과를 보여준다. 무한히 정확한 초기 조건을 입력할 수 없는 한 엉뚱한 답을 얻을 뿐이다. 이런 '초기 조건 민감성'을 비유적으로 "북경(베이징)에서 나비 한 마리가 날갯짓을 하면, 다음 달 뉴욕에서 폭풍이 일어날 수도 있다"하여 '나비 효과'라 한다. 보통 이런 미분 방정식은 속도, 위치와 같은 변수가 따로 떨어져 더해진 '선형' 미분 방정식이 아니고, 두 개 이상의 변수가 곱하거나 함수 형태인 '비선형' 미분 방정식이 된다.

사실 자연의 대부분은 비선형 미분 방정식으로 쓰인다. 대부분 해석적으로 풀 수 없는 경우가 많아 이해하기가 어렵다. 그래서 많은 경우 (교육적으로도) 해석적 풀이가 가능한 선형 미분 방정식으로 근사하여 풀어 이해를 한 뒤, 비선형 항을 약간 추가하여 이해해 보려는 식이다. 자연의 많은 부분을 그대로 이해해 보지 못한 채 말이다.

<카오스>의 9장에서 도인 파머의 인터뷰 내용에도 이런 현실을 애석해 하는 부분이 나온다.

"6~7년간 정규 물리학 교육을 받지 않은 사람이라면 (카오스 이론의) 이런 현상이 얼마나 놀라운 것인지 이해할 수 없을 것입니다. 사람들은 모든 것이 초기 조건에 의해 결정되는 고전적 모델이 있다고 배웠지요. (…) '비선형'이라는 말은 책의 맨 뒤에서나 볼 수 있습니다. 물리학과 학생이 배우는 수학 교과서에는 맨 마지막 장에 비선형 방정식이 나옵니다. 때문에 학생들은 대개 이를 배우지 않고 학기를 끝내거나, 배운다 하더라도 고작해야 비선형 방정식을 선형 방정식으로 바꿔 근사적 해답을 얻는 것을 배울 뿐입니다. 그저 좌절을 훈련하는 것일 따름이죠."

아무도 이 책의 인용으로 삼지 않을 부분에 내가 공명한 것은 30년이 지난 지금도 대학의 물리학과 정규 교육에서 비선형 동역학과 카오스 이론을 배울 가능성은 거의 없기 때문이다. 복잡계와 비선형 동역학을 연구하는 입장에서 대학에서 고전 역학과 수리 물리학을 가르치다 안타까운 적이 여러 번 있다.

'자연을 더욱 풍부하게 이해할 수 있는 것이 여기 있는데, 시간이 조금만 더 있다면…' 하고 생각한 적이 여러 번이다. 어떤 학기는 슬쩍 다른 내용을 빼고 비선형 동역학을 조금 가르쳐 보기도 한다. 기실 대부분의 학생들이 물리학과의 살인적인 정규 교과 과정만을 소화하기도 버겁다. (대부분 대학의 물리학과 전공 필수 이수 학점은 다른 학과보다 많다.) 그런 의미에서 제임스 글릭의 <카오스>는 전공자이든 아니든 복잡계 과학에 숨겨진 세계를 엿보기에 더없이 좋은 책이다.

다만, 이 책은 '전설적인 베스트셀러'이며 여러 대학의 필독서로 지정되었음에도 솔직히 어렵다. <카오스>는 처음 읽으면 로렌츠, 스메일, 요크, 메이, 망델브로, 스위니, 뤼엘, 에농, 파이겐바움, 리브샤베르, 반슬리, 후버만과 동역학계 모임의 '카오스 일당' 등의 복잡계 연구자들의 '무용담'으로 이해될 것이다.

나비 효과와 프랙탈 정도의 개념만 연결되고 다른 모든 용어, 심지어 가장 중요한 용어 중에 하나인 '이상한 끌개'마저 외계어로 들릴 것이다. 정상이다. 나도 그랬다. 그럼에도, 중간에 삽입된 컬러 그림과 중간 중간 내용과 그다지 연결되지 않는 삽화들, 그리고 다양한 분야에서의 예, 특히 생체 리듬과 심장 박동 등에 흥분된다면 당신은 복잡계에 관심이 있는 것이다. <동시성의 과학 싱크>, <자연은 어떻게 움직이는가?>, <최무영 교수의 물리학 강의> 등 복잡계 과학 도서들을 읽고 다시 읽어 보길 바란다.

좀 더 흥미를 느껴 진지한 교과서적 지식을 얻고 싶다면 <동시성의 과학 싱크>를 지은 스티븐 스트로가츠(Steven Strogatz)의 [Nonlinear Dynamics and Chaos]를 추천한다. 그 뒤 <카오스>를 다시 읽으면 모든 인물과 개념들이 하나의 이야기로 펼쳐짐을 느낄 것이다. 참고문헌 부분까지 읽으면 책의 용어와 설명의 엄밀함에 이 책을 지은 제임스 글릭이 카오스 전공자가 아니라는 사실에 다시 한 번 놀랄 것이다.

다음 주 9월 19일과 20일 밤 12시에는 다시 김상욱 교수와 김범준 교수의 <통찰> 강연이 이어진다. "인간의 예측 가능성"을 주제로 '자유 의지'와 '사회의 통계적인 예측'을 이야기한다. 복잡계 연구에 관심이 많은 독자들에게 흥미로운 강의가 될 것으로 기대된다. 다시 물리학자가 검색어 순위에 오르는 새벽을 기대해 본다.