<프레시안>이 아시아태평양이론물리센터(APCTP), 사이언스북스와 함께 특별한 연중 기획을 시작합니다. 매주 월요일 아침 한 권의 '과학' 고전을 뽑아서 여러분께 소개합니다.

서평 대상으로 선정된 고전 50권은 "우리에게 맞춤한 우리 시대"의 과학 고전을 과학자, 과학 담당 기자, 과학 저술가, 도서평론가 등 여럿이 머리를 맞대고 2015년에 새롭게 선정한 것입니다.

오후 6시 36분, 지하철 5호선 천호역 왕십리 방향. 열차는 이미 승강장에 들어와 속도를 줄이고 있었다. 승강장의 노란선 밖에서 안전하게 기다리던 남성의 몸이 갑자기 균형을 잃고 앞으로 숙여진다. 남성은 다시 균형을 잡으려 한 발 앞으로 내딛으며 몸을 돌렸지만, 그의 몸은 순식간에 승강장과 열차 사이의 공간으로 떨어져 끼이고 만다.

바로 뒤에서 현장을 목격한 시민이 망설임 없이 그 남성을 꺼내려 달려든다. 다행히 열차는 멈추었으나 남성의 끼인 몸이 빠져나오질 못한다. 이때 누가 시키기라도 한 듯 열차를 기다리던 사람들이 열차의 벽에 기대어 열차를 밀어 올린다. 열차에 타고 있던 승객들도 모두 나와 돕는다. 이때 33톤의 객차가 들어 올리고 비로소 남성을 구할 수 있었다. (<한국의 지하철 영웅들>이라는 영상의 한 장면이다.)

이러한 이타적인 행동은 비단 인간만의 습성은 아니다. 감전된 동료를 구하기 위해 위험을 감수하고 달려든 원숭이에게서도, 벌집을 지키려 목숨을 걸고 장수말벌을 에워싼 꿀벌들에게서도 나타난다. 이러한 이타성은 어디에서 오는 걸까? 최정규 경북대학교 교수의 저서 <이타적 인간의 출현>(뿌리와이파리 펴냄, 2004년)에서는 게임 이론으로 이기적인 생존의 경쟁에서 협력의 관계가 어떻게 살아남아 우리에게 전해졌는가를 이야기한다.

게임 이론은 사람들(보통 행위자 혹은 참가자라 한다) 사이의 상호 의존적인 의사 결정 과정을 설명한다. 게임 이론의 모든 참가자는 합리적인 결정을 하고, 남들도 합리적인 결정을 할 것을 안다고 가정한다. 또 남들도 모든 참가자가 합리적인 결정을 할 것을 안다는 것을 안다. 마치 거울 속의 거울 속의 거울 속의 나를 보는 듯이 무한히 확장되는 논리 속에서, 의사 결정의 결과로 돌아오는 손익을 따져 보상(보통 보수라 한다)을 높이는 전략을 분석하는 것이다.

게임 이론의 출발점으로 유명한 '죄수의 딜레마'는 이렇다.

한 사건의 범인으로 의심되는 두 사람을 기소하기 위해서는 이들의 자백이 필요한 상황이다. 이를 위해 경찰은 다음과 같이 교묘한 방법을 계획한다. 서로 입을 맞추지 못 하도록 두 사람을 각자 다른 장소로 데리고 가 다음과 같은 제안을 하는 거다. 만일 두 사람 모두 자백을 하면, 각각 5년형이 선고될 것이다.

반면 모두 끝까지 범죄 사실을 부인한다면, 예전의 사소한 범죄 사실만으로 1년형이 선고될 것이다. 하지만, 한 사람이 자백을 하고 다른 사람은 끝까지 부인하는 경우, 자백한 사람에게는 반성문만 쓰도록 하겠지만, 끝까지 부인한 사람에게는 위증 혐의까지 더해 7년형이 선고되도록 할 것이다. 이 경우 두 용의자는 어떻게 행동하게 될까?

게임 이론의 참가자는 어떤 상황에서든 자신에게 유리한 선택을 한다. 상대가 자백을 하는 경우를 먼저 생각해 보면, 나도 자백을 하면 5년형을 받고, 입을 다물면 7년형을 받는다. '자백이 유리하다.' 이번에는 상대가 범죄 사실을 부인해 준다면, 나는 자백을 하여 반성문만 쓰던가, 함께 무죄를 주장하며 1년형을 받을 수 있다. '이번에도 자백이 유리하다.' 상대의 어떠한 선택에도 자백이 유리하다.

이렇듯 상대방을 '배신'하고 자백을 하는 것이 항상 유리한 전략이 된다. 하지만, 상대방도 이와 같은 생각을 한다는데 함정이 있다. 모든 참가자가 '협조'를 하게 되면 각각 1년형만을 살게 되어 전체적(사회적)으로 최적이다. 하지만, 역설적이게도 서로 '배신'을 선택하여 각각 5년형을 살게 된다. 배신하는 것이 합리적이고 경제적인 것인데, 결과는 서로 씁쓸하다.

여러 참가자들이 함께 하는 문제에서도 이러한 상황은 나타난다. 바로, '공유지의 비극' 문제이다.

목축업이 발달한 어느 마을에 누구나 맘껏 소를 풀 뜯게 할 수 있는 공유지가 있다. 모든 농부가 무제한으로 공유지에 소들을 방목하면, 풀이 자라는 속도보다 더 빨리 소비되어 공유지는 점점 황폐해지고 결국 풀이 모두 없어질 것이다. 농부 개개인의 입장에서는 소가 풀을 많이 뜯도록 하는 것이 이익이겠지만, 공유지를 잘 유지하여 계속 이용하려면 서로 방목을 절제해야 한다. 이를 위해서 이틀에 한 번만 공유지를 이용하기로 하는 자율적인 약속이 있다고 할 때, 과연 농부들은 어떻게 할까?

이때에도 '나 하나쯤이야'라고 생각하고 약속을 지키지 않는 쪽이 '경제적'이다. 역설적이게도 그러다 보면 공유지가 곧 황무지가 되어 오래 사용하지 못하게 되겠지만 말이다. 이런 문제는 공해상에서 조업하는 각국의 선박들 사이에도 있고, 잘 관리되지 않는 공동 휴게실 환경 문제에도 있다. 함께 사는 룸메이트와 청소를 두고 다투는 일이 빈번하지 않은가! 공유지의 비극 문제를 바로 두 명이 참가하는 문제로 줄이면 죄수의 딜레마 문제가 된다. 이렇듯 '배신'이 유리한 것이고, 항상 무임승차하는 사람은 있고, 공공재를 위한 시장은 실패할 수밖에 없을까?

죄수의 딜레마에 따르면, 모두가 협조하여 사회적으로 최적의 상태를 만들 수 있음에도 불구하고, 이기심으로 서로가 자신에게만 유리한 전략을 선택하게 되면 모두에게 최악의 상황에 도달하게 된다. 개인의 이익 추구를 강조하다 보면 도덕이 얼마나 취약한지, 우리가 흔히 볼 수 있는 이타적인 행동과 협력이 왜 이해하기 어려운 일인지 알 수 있다. 그럼에도, 개미와 꿀벌같이 협력하는 사회적인 동물이 있고, 우리 인간도 이타적인 행동을 한다. 이 암울한 이론 속 이기심의 고리를 끊고, 따뜻한 현실로 나올 수 있는 원리는 무엇일까?

책의 7장에서부터는 협력의 수수깨끼를 하나씩 풀어나가기 위한 일곱 개의 열쇠를 제시한다. 바로 1) 혈연 선택 가설, 2) 반복-호혜성 가설, 3) 유유상종 가설, 4) 값비싼 신호 보내기 가설, 5) 의사소통 가설, 6) 집단 선택 가설, 7) 공간 구조 효과가 그것이다.

윌리엄 해밀턴은 1963년 '이타적 행위의 진화'에서 이렇게 말한다.

"적자생존이라는 원칙에도 불구하고 이타적 유전자가 번성할 수 있는가는 이타적 행동이 이타적 행위자에게 이득을 주는가의 여부가 아니라 이타적 유전자에게 이득을 주는가의 여부로 판별되어야 한다."

유전자의 시각에서 보자면 리처드 도킨스의 <이기적 유전자>(을유문화사 펴냄)에서 주장하는 바와 같이, 행위자는 유전자를 보유하고 그 명령에 따르는 유전자의 그릇에 불과해진다. 예로 들고 있는 꿀벌의 경우, 꿀벌의 수벌은 배수(2n)가 아닌 단수염색체(n)만을 갖는다. 배수인 모든 수정란은 여왕벌이나 일벌이 되는데, 이로 인해서 여왕벌과 일벌들 사이에는 유전적 근친도가 0.5가 아닌 0.75로 높아진다. 따라서 일벌들은 직접 번식을 하지 않아도 여왕벌을 통해서 상당한 유전자를 퍼뜨릴 수 있다. 여왕벌과 벌집을 지키려는 외견상 이타적으로 보이는 행동은 유전자들의 이기적인 동기에서 비롯된 결과일 수 있다. 해밀턴은 이를 간단히 다음과 같이 표현한다.

"한 사람을 살리려고 자기의 목숨을 희생할 용의가 있는 사람을 찾기란 쉽지 않지만, 두 명의 형제를 구하기 위해 자기 자신을 희생하거나 여덟 명의 사촌을 구하기 위해 자기 자신을 희생할 용의가 있는 사람은 많이 발견할 수 있다."

하지만, 이렇듯 혈연 관계에서만 이타적 행동이 관찰되는 것은 아니다.

게임의 반복성과 이에 따른 보복으로 협력의 원리를 설명하는 것이 반복-호혜성 가설이다. 함무라비 법전에 쓰여 있는 "눈에는 눈, 이에는 이"의 원리는 반복되는 게임에서 좋은 전략으로 작동한다. 1984년 로버트 액설로드의 실험에서 협조로 게임을 시작하여, 상대방의 이전 전략을 그대로 따라하는 호혜성의 전략이 좋은 성적을 거두었다. 이러한 호혜적 행동은 식량을 공유하는 흡혈박쥐나 서로 털 다듬어주는 침팬지의 관계에서 자주 관찰되고, 식량을 공유하는 수렵 채취 부족에게서도 이러한 '조건부 협력'이 보고되었다.

그렇다고 우리가 직접적인 호혜성을 염두에 두고 조건부 협력만을 하는가? 그렇지는 않을 것이다.

공공재 게임과 최후통첩 게임을 통해서 살펴본 경제학과 사회 심리학의 실험들은 반복적이지 않은 게임에서도 참가자들의 이타적 협력을 보고한다. 오히려 좀 더 적극적으로 배신을 하는 참가자에게는 자기에게 손해가 되더라도 비용을 들여 이를 응징하는 '이타적 보복'의 성향을 보인다. 이를 반복-호혜성 가설과 구분하여 저자는 강한 호혜성을 갖는 '호혜적 인간(Homo Reciprocan)'이라고 표현한다. 경제학에서 흔히 가정하는 이기적이며 합리성에 기초한 경제적 인간(Homo Economicus)에 대비되는 표현이다.

'경제 이론이 인간을 얼마나 설명해 주는가?' 외견상으로는 이타적으로 보이나 이해타산의 기초가 깔려있는 혈연 선택과 반복-호혜성 가설은 가장 많이 받아들여지는 주요한 두 이론이지만, 직접 우리 사회에 적용하는 것은 무리가 있다. 유유상종, 집단 선택, 그리고 국지적 공간구조 효과 등은 그 대안으로 진정한 이타적인 행위 속성이 어떻게 유지되고 진화적으로 유리한 사회적 환경이 될 수 있는지를 설명할 수 있다.

"이러한 과정을 통해서 인류는 친족의 범위를 넘어서서, 그리고 게임이 반복되지 않는 경우에도 다른 사람들을 돕고자 하는 행위적 특성을 발전시켜왔다. 그리고 이러한 행위적 특성은 이타적 협조 행위뿐 아니라 사회 규범으로부터 이탈하는 사람들에게 징계나 보복을 하는 행위적 특성까지 포함하여 진화해왔을 것으로 예측된다."

바로 이타적 인간 'Homo Reciprocan'의 출현이다.

경제학자이자 사회학자인 최정규 교수는 어떠한 이론적 사실보다 다음을 강조하고 싶지 않았을까 한다.

"때로 사람들은 물질적, 금전적 유인에 의해 이기적으로 행동한다. 하지만 사람들은 완전히 이타적으로 행동하기도 하고, 또 어떤 경우에는 공평성 내지는 형평성을 중요한 행동과 가치판단의 기준으로 삼음으로써 강한 호혜성에 따라 행동하기도 한다. 이 경우 물질적, 금전적 유인보다도 규범, 관습, 제도가 사람들의 행위를 인도하는 나침반이 된다."

다시 처음의 "지하철 영웅들"로 돌아가 보자. 그 사고는 사실 10년도 전인 2005년 10월 17일의 이야기이다. 지금은 혼잡한 거의 대부분의 승강장에 스크린도어가 설치되어 이런 사고가 줄었다. 스크린 도어는 고맙게도 안전하게 승객들을 보호해 주지만, '물질과 금전적' 유인을 추구하는 기업은 '규범과 제도'를 무시하고 스크린 도어 수리 작업을 하도록 직원을 열악한 환경에 내몰았다. 얼마 전 사고는 분명 일어나지 않을 수 있었던 안타까운 사고이다.

현재의 우리는 경제적 논리에만 사로 잡혀 강한 호혜성 발현이라는 수만 년 인류 진화 역사의 반대 방향으로 가며, 결국 이타성마저 잃고 진화적으로 취약한 종으로 전락하고 있는 것은 아닐까?