David P.Barash. 2003. The Survival Game: How game theory explains the biology of cooperation and competition. Henry Holt & Co. 277 pages.

저자는 워싱턴 주립대 심리학과의 진화 생물학자로, 게임 이론을 설명하면서 인간을 포함한 생물계에서 협력과 경쟁이 전개되는 원리를 이론적으로 및 다양한 사례를 들어 설명한다. 인간을 포함한 생물체의 삶은 게임의 연속이다. 제한된 자원을 획득하기 위한 경쟁, 배우자를 구하는 경쟁이 대표적이다. 2 x 2 매트릭스를 사용하면 개임에 참여한 참가자 개개인의 선택지의 조합에 따라 각각의 참가자에게 이익과 손실이 어떻게 분배되는지 한눈에 파악할 수있다.

첫번째 게임은 '죄수의 딜레마'(prisoner's dilemma)로 게임 이론에서 가장 바탕이 된다. 이 게임에 참여한 죄수 각자의 입장에서 볼 때 둘다 죄를 부정하는 방향으로 협력(cooperate)하는 것보다 상대를 밀고하는 배반(defect) 할 때 각자에게 돌아가는 이익이 더 크다. 이 게임에서 개인 각자에게 가장 합리적인 선택은 상대를 배반하는 것이다. 문제는 둘다 개인의 입장에서 가장 합리적으로 선택할 때 두 사람 모두 최악의 보상을 받게 된다는 점이다. 그럼에도 상대에게 호구(sucker)가 되지 않기 위해 사람들은 대체로 상대를 배반하는 선택을 한다. 상대의 배반을 의심하기 때문에, 협력의 이점에도 불구하고 협력을 선택하지 못한다. 독일과 연합국 간에 일차대전이 일어나게 된 상황이 이에 해당한다. 상대에게 나에 대한 신뢰를 심어주거나, 혹은 상대와 앞으로도 게임을 계속해야 하는 상황에서만 사람들은 협력을 선택한다.

정치학자 악셀로드는 상대가 도발하지 않는 한 항시 협력하면서 '이에는 이로 눈에는 눈으로' (tit-for-tat) 상대의 배반에 배반으로 맞받아치는 전략이 가장 손해를 적게 보는 전략이라는 것을 입증했다. 상대의 배반에 협력으로 대응하거나 혹은 상대의 협력에 배반으로 대응하는 것은 이보다 열등한 전략이다. 상대의 배반을 응징하지 않으면 상대가 계속 도발을 감행하게 부축이며, 상대의 협력에 배반으로 대응하면 일시적으로는 나에게 이익이나 그 관계가 지속되지 않으므로 결국 손해이다.

두번째의 게임은 '사회적 딜레마'(social dilemmas)로, 죄수의 딜레마 게임에서 나의 상대가 집단인 경우이다. 경제학에서 공유지의 비극(tragedy of commons)이라고 불리는 것이다. 참여자 개개인에게는 이익이나 집단 전체로는 손해인 경우로, 공공재가 대표적 사례이다. 자신은 기여하지 않고 이익만 챙기려 하는 행위(free riding)를 어떻게 제한하는가가 문제의 핵심이다. 이 문제는 정부와 같은 권력이 참여자의 이기적 행위를 규제하고, 집단의 규범과 가치를 참여자에게 사회화를 시킴으로서 부분적으로 해결된다.  

세번째 게임은 '치킨 게임'(game of chicken)으로, 게임 참여자 모두 배반하면 파멸로 귀결되는 게임이다. 죄수의 딜레마에서는 한쪽만 배반할 경우의 벌칙(sucker)이 둘다 배반할 경우의 벌칙보다 큰 반면, 치킨 게임에서는 둘 다 배반할 경우의 벌칙이 한쪽만 배반할 경우의 벌칙보다 크다. 일반적으로 끝까지 버티거나 혹은, 상대에게 내가 끝까지 버틸거라는 믿음을 주면 승리를 잡을 수있다.  1960년대에 미국과 소련이 대치했던 쿠바사태가 그에 해당한다.

인간의 세계보다 동물의 세계에서 게임 이론이 더 정확히 작동한다. 게임 이론으로 계산된 이익을 보는 쪽은 진화의 과정에서 더 많이 번식하기 때문이다. 인간은 게임 이론에서 계산된 이익을 보는 방향으로 반드시 행동하지는 않는다. 한편 동물은 반드시 한 방향으로 선택하기보다는, 조건에 따라 자신에게 유리한 방향으로 선택을 바꾸어 하는 전략을 구사한다. 어떤 때 어떤 선택을 하는가는 게임이론이 설명할 수 있다. 예컨대 숫컷이 한 배우자에게 충실하냐 혹은 바람둥이 성향을 보이느냐 여부, 상대에게 공격적일지 혹은 유순하게 물러설지 여부는, 상대가 주어진 상황에서 어떤 성향이냐에 따라 선택적으로 결정된다. 게임 참가자에게 생존의 이익을 가장 많이 가져다 주는 행위 조합을 선택하는데, 게임 이론은 이 조합을 정확히 계산해 낼 수 있다.

인간은 게임이론이 예측하는 대로 이익을 최대화하는 행위를 선택하지 않을 때가 많다. 이는 합리적으로 이익을 계산해내는 것이 매우 복잡하여 어느 정도의 이익에서 만족하기 때문이거나, 혹은 합리적인 이익 이외에 감정적인 동기가 인간을 움직이기 때문이다.  냉혹하게 이익을 철저히 추구하는 합리성은 개인에게는 득이될지 모르나, 집단 전체에게는 득이 되지 않을 수있다. 인간은 정말 자신에게 중요한 사안에 관해서는 합리적으로 이익을 따져 결정하기보다, 직관과 감정이 명령하는 바를 따른다. 인간의 두뇌는 극단적 합리성을 추구하도록 진화된 것이 아니라, 생존에 도움이 되는 정도로만 합리성을 발휘하도록 진화해 왔다. 저자는 인간이 어느 정도 비합리적으로 행동하는 것이 오히려 다행이라고 본다. 어느 정도의 합리성과 어느 정도의 비합리성이 조합된 것이 인간이고, 이것이 동물과 인간의 다른 점이다. 동물은 자신의 선택의 합리성을 의식하지 않지만, 결과적으로 매우 합리적으로 선택하는 존재이다.

이 책은 게임 이론과 진화 생물학의 전문 지식에 저자의 박학다식한 지식이 결합된 교양서이다. 저자는 문학, 철학, 정치, 역사에 이르는 다양한 사례를 동원하여 게임 이론을 설명한다. 물론 저자의 주영역인 동물의 행태에 관한 사례를 가장 많이 제시한다. 게임이론과 진화론을 적용하여 인간의 본성과 사회의 작동 원리를 설명하려고 하는 흥미로운 책이다.

그러나 동물의 세계에서는 게임 이론이 정확히 적용되나 인간의 세계에서는 그렇지 않다는 저자의 주장에 의심이 간다. 개별 인간의 선택을 보면 게임 이론이 정확히 적용되지 않을지 모르나, 결과로 놓고 보면 인간의 세계도 결국 게임 이론의 합리적 선택과 진화에 따라 전개된 결과가 현재 우리의 삶이 아닐까? 인간의 감정이란 합리적 선택이 고도로 축약된 장치라는 사실이 밝혀졌다. 그렇다면 인간이 때로는 합리적 계산 대신 감정적으로 행동하는 것이 궁극적으로 가장 합리적인, 즉 피해를 최소화하는 대신 생존 가능성을 최대화(minimax)하는 행위일 수 있다. 인간의 사례에 게임이론을 적용할 때, 개별 행위자의 단기적 이익의 계산을 넘어서서 좀더 넒은 시간 단위와 넒은 범위에서 손익을 계산하는 것이 필요하다. 인간은 진화의 결과 자의식과 감정을 가진 복잡한 존재로 발전했기 때문이다. 그럼에도 생물계에 보편적으로 작동하는 게임 이론과 진화의 원리에서 벗어날 수는 없다. 이것을 위반하려 한 존재는 현재 지구상에 살아 돌아다니지 못할 것이기 때문이다.

Len Fisher. 2008. Rock, Paper, Scissors: Game theory in everyday life. Basic Books. 199 pages.

저자는 대중 과학 저술가로 게임이론을 통해서 사람들이 모여 사는 사회의 근본적 딜레마를 설명하고 해결 방법을 모색한다. 내가 선한 행위를 한다고 하여 상대도 반드시 선한 행위로 대응하는 것은 아니다. 그렇다고 모두 개인의 이익을 우선시하여 악한 행위를 한다면 사회의 질서는 무너질 것이다. 구성원들이 서로 협동하는 집단이 그렇지 않은 집단보다 생존 가능성이 높지만, 집단 내에서 다른 사람들은 협동을 할 때 내가 이기적으로 행동하면 나에게는 남보다 이익이 더 많이 돌아간다. 이러한 딜레마를 어떻게 해결할 것인가.

게임 이론에 따르면 사람들이 모인 사회에는 일곱 가지의 딜레마가 존재한다. 첫째는 죄수의 딜레마(prisoner's dilemma). 둘 다 죄를 고백하지 않고 버티면 둘 다 이익을 보지만, 어느 한쪽은 버티고 다른 한 쪽은 고백을 하면 고백을 한쪽은 이익을 보지만 버틴쪽은 손해를 보는 상황. 둘째는 공유지의 비극(the tragedy of commons). 공동소유하는 것에서 각자가 개인의 이익을 극대화하려 하면 공유지는 망하게 됨. 셋째는 무임승차자(free rider). 나는 기여하지 않고 다른 사람들이 노력한 댓가를 향유함. 넷째는 치킨(chicken). 둘다 양보하지 않고 버티면 모두 망하지만 어느 누구도 먼저 양보하려 하지 않음. 다섯째는 자원자의 딜레마(volunteer's dilemma). 누군가 희생하면 전체가 이익을 보지만 아무도 스스로 희생하려 하지 않음. 여섯째는 양성의 갈등(the battle of the sexes). 각자가 선호가 다른 데 어느 한쪽도 자신의 선호를 상대를 위해 포기하려 하지 않음. 일곱째는 사슴사냥(stag hunt). 공동으로 사슴을 샤냥하는 데 어느 한 사람이라도 자기 앞에 지나가는 토끼를 잡는데 눈이 팔리면 자신은 이익을 보지만 다른 모두는 사슴 사냥에 실패하는 상황. 

이 모든 딜레마는 개인의 이익과 공동체의 이익을 어떻게 조정할 것인가하는 문제를 낳는다. 단 한번으로 끝나는 관계라면 일탈자를 막는 효과적인 방법은 없다. 남보다 먼저 일탈하는 사람이 이익을 보고 끝나기 때문이다. 그러나 사회관계는 한번으로 끝나는 관계가 아니며 다양한 통제 장치를 마련하고 있다. 질서를 따르도록 하는 사회적 압력이 일탈을 막는 장치이다. 집단에서 규범을 어기는 사람은 왕따를 당하거나, 평판을 잃거나, 벌을 받는다. 사람들은 어릴 때 사회화 과정을 통해 규범을 지키도록 내면화된다. 규범을 어기면 외부로부터의 제제 이전에, 스스로 마음이 불편해진다.

인간은 공정성(fairness)을 지키려는 강한 욕구를 가지고 태어났다. 자신에게 손해가 된다고 해도 공정한 관계를 선호하며, 불공정하게 이익을 보는 사람을 처벌하는 데에서 쾌감을 느낀다. 공정성을 추구하는 욕구는 동물 세계에서 보편적으로 관찰된다. 이러한 욕구는 공정성을 유지하는 집단이 그렇지 못한 집단보다 생존의 가능성이 더 높기때문에 선택된 진화의 산물이다. 그러나 진화는 개인 단위로 이루어지기 때문에 전반적으로 볼 때 공정성을 유지하는 집단 속에서도 항시 개인의 이익을 우선시하는 일탈자가 생기게 마련이다.

두 사람사이에 가장 공정한 분배 방식은, 한 사람이 나누고 다른 사람이 선택하도록 하는 것이다(I cut and You choose). 여러 사람이라면 나눈 사람이 가장 나중에 선택하도록 하는 것이다. 혹은 각자 자신은 선호하지만 다른 사람은 선호하지 않는 것을 먼저 챙기도록 한 다음, 공동으로 선호하는 것을 번갈아가며 선택하도록 하는 것이다.

관계가 한번으로 끝나는 것이 아니라 반복될 때, 협동을 만들어내는 가장 효과적인 방법은 눈에는 '눈으로 이에는 이로'(tit for tat), 즉 상대가 나에게 대하는 대로 상대에게 값는 방식이다. 이 방식을 긍정적 보상이나 부정적 처벌 모두에 적용한다. 이는 동서양을 막론하고 과거 철학자와 현자들이 모두 권한 방식이다. 이 방식이 모두에게 가장 큰 이익을 가져다 준다. 그러나 이 방식의 문제는 만일 실수나 우연한 상황때문에 한쪽이 이탈을 했을 때 그 이후 보복이 계속이어지며 악순환에서 벗어나는 방법이 제시되어 있지 않다는 점이다. 이러한 문제를 개선하기 위해, 이익을 볼 때는 현재의 행위를 지속하지만 손해를 보면 지금까지와 반대로 행위하는 것이다(stay if you win, shift if you lose). 이러면 만일 상대가 이탈했을 때 나도 이탈하여 상대에게 손해를 끼치지만 상대가 만일 또 이탈한다면 내가 협조를 하는 선순환을 시작할 수 있다.  

저자는 게임이론을 주변의 예를 통해 상식적으로 설명하려고 노력한다.  일상에서 마주치는 게임이론이라는 부제에 맞게 저자가 드는 예가 대체로 저자의 개인 일상에서 마주치는 사소한 것들이다. 그것도 나름 가치는 있지만 설득력이 크지 못하다. 사회에서 발생하는 보다 다양한 예들을 게임이론을 이용해 설명한다면 사회를 이해하는데 보다 풍부한 통찰력을 주었을텐데 아쉽다.