사람들은 어떤 때 협동하는가?

Len Fisher. 2008. Rock, Paper, Scissors: Game theory in everyday life. Basic Books. 199 pages.

저자는 대중 과학 저술가로 게임이론을 통해서 사람들이 모여 사는 사회의 근본적 딜레마를 설명하고 해결 방법을 모색한다. 내가 선한 행위를 한다고 하여 상대도 반드시 선한 행위로 대응하는 것은 아니다. 그렇다고 모두 개인의 이익을 우선시하여 악한 행위를 한다면 사회의 질서는 무너질 것이다. 구성원들이 서로 협동하는 집단이 그렇지 않은 집단보다 생존 가능성이 높지만, 집단 내에서 다른 사람들은 협동을 할 때 내가 이기적으로 행동하면 나에게는 남보다 이익이 더 많이 돌아간다. 이러한 딜레마를 어떻게 해결할 것인가.

게임 이론에 따르면 사람들이 모인 사회에는 일곱 가지의 딜레마가 존재한다. 첫째는 죄수의 딜레마(prisoner's dilemma). 둘 다 죄를 고백하지 않고 버티면 둘 다 이익을 보지만, 어느 한쪽은 버티고 다른 한 쪽은 고백을 하면 고백을 한쪽은 이익을 보지만 버틴쪽은 손해를 보는 상황. 둘째는 공유지의 비극(the tragedy of commons). 공동소유하는 것에서 각자가 개인의 이익을 극대화하려 하면 공유지는 망하게 됨. 셋째는 무임승차자(free rider). 나는 기여하지 않고 다른 사람들이 노력한 댓가를 향유함. 넷째는 치킨(chicken). 둘다 양보하지 않고 버티면 모두 망하지만 어느 누구도 먼저 양보하려 하지 않음. 다섯째는 자원자의 딜레마(volunteer's dilemma). 누군가 희생하면 전체가 이익을 보지만 아무도 스스로 희생하려 하지 않음. 여섯째는 양성의 갈등(the battle of the sexes). 각자가 선호가 다른 데 어느 한쪽도 자신의 선호를 상대를 위해 포기하려 하지 않음. 일곱째는 사슴사냥(stag hunt). 공동으로 사슴을 샤냥하는 데 어느 한 사람이라도 자기 앞에 지나가는 토끼를 잡는데 눈이 팔리면 자신은 이익을 보지만 다른 모두는 사슴 사냥에 실패하는 상황. 

이 모든 딜레마는 개인의 이익과 공동체의 이익을 어떻게 조정할 것인가하는 문제를 낳는다. 단 한번으로 끝나는 관계라면 일탈자를 막는 효과적인 방법은 없다. 남보다 먼저 일탈하는 사람이 이익을 보고 끝나기 때문이다. 그러나 사회관계는 한번으로 끝나는 관계가 아니며 다양한 통제 장치를 마련하고 있다. 질서를 따르도록 하는 사회적 압력이 일탈을 막는 장치이다. 집단에서 규범을 어기는 사람은 왕따를 당하거나, 평판을 잃거나, 벌을 받는다. 사람들은 어릴 때 사회화 과정을 통해 규범을 지키도록 내면화된다. 규범을 어기면 외부로부터의 제제 이전에, 스스로 마음이 불편해진다.

인간은 공정성(fairness)을 지키려는 강한 욕구를 가지고 태어났다. 자신에게 손해가 된다고 해도 공정한 관계를 선호하며, 불공정하게 이익을 보는 사람을 처벌하는 데에서 쾌감을 느낀다. 공정성을 추구하는 욕구는 동물 세계에서 보편적으로 관찰된다. 이러한 욕구는 공정성을 유지하는 집단이 그렇지 못한 집단보다 생존의 가능성이 더 높기때문에 선택된 진화의 산물이다. 그러나 진화는 개인 단위로 이루어지기 때문에 전반적으로 볼 때 공정성을 유지하는 집단 속에서도 항시 개인의 이익을 우선시하는 일탈자가 생기게 마련이다.

두 사람사이에 가장 공정한 분배 방식은, 한 사람이 나누고 다른 사람이 선택하도록 하는 것이다(I cut and You choose). 여러 사람이라면 나눈 사람이 가장 나중에 선택하도록 하는 것이다. 혹은 각자 자신은 선호하지만 다른 사람은 선호하지 않는 것을 먼저 챙기도록 한 다음, 공동으로 선호하는 것을 번갈아가며 선택하도록 하는 것이다.

관계가 한번으로 끝나는 것이 아니라 반복될 때, 협동을 만들어내는 가장 효과적인 방법은 눈에는 '눈으로 이에는 이로'(tit for tat), 즉 상대가 나에게 대하는 대로 상대에게 값는 방식이다. 이 방식을 긍정적 보상이나 부정적 처벌 모두에 적용한다. 이는 동서양을 막론하고 과거 철학자와 현자들이 모두 권한 방식이다. 이 방식이 모두에게 가장 큰 이익을 가져다 준다. 그러나 이 방식의 문제는 만일 실수나 우연한 상황때문에 한쪽이 이탈을 했을 때 그 이후 보복이 계속이어지며 악순환에서 벗어나는 방법이 제시되어 있지 않다는 점이다. 이러한 문제를 개선하기 위해, 이익을 볼 때는 현재의 행위를 지속하지만 손해를 보면 지금까지와 반대로 행위하는 것이다(stay if you win, shift if you lose). 이러면 만일 상대가 이탈했을 때 나도 이탈하여 상대에게 손해를 끼치지만 상대가 만일 또 이탈한다면 내가 협조를 하는 선순환을 시작할 수 있다.  

저자는 게임이론을 주변의 예를 통해 상식적으로 설명하려고 노력한다.  일상에서 마주치는 게임이론이라는 부제에 맞게 저자가 드는 예가 대체로 저자의 개인 일상에서 마주치는 사소한 것들이다. 그것도 나름 가치는 있지만 설득력이 크지 못하다. 사회에서 발생하는 보다 다양한 예들을 게임이론을 이용해 설명한다면 사회를 이해하는데 보다 풍부한 통찰력을 주었을텐데 아쉽다.