수학적 사고의 힘

Jordan Ellenberg. 2014. How not to be wrong: the power of mathmatical thinking. Penguin books. 437 pages.

저자는 수학자이며, 이 책은 세상사를 이해하는 데 수학적 사고가 도움이 된다는 것을 다양한 예를 통해 입증한다.

사람들은 세상을 선형적인 관계로 인식하는 데 익숙하다. 즉  가 증가 혹은 감소하면 B가 비례적으로 증가 혹은 감소한다는 식으로 이해한다. 그러나 세상에는 선형적이지 않은 관계가 적지 않다. 예컨대 세율과 세수의 관계는 곡선의 관계이다. 국지적으로 보면 선형관계이지만, 전체적으로 보면 곡선의 관계인 경우도 있다.  집합적으로는 선형관계이지만, 그 집합의 부분 범주에 한정하면, 선형관계가 아닌 경우도 있다. 상관도는 선형 관계를 전제로 한다. 그러나 여러 변수들 간의 관계가 복잡할 경우, A와 B가 선형 관계이고, B와 C가 선형관계이나, A와 C가 관계가 없는 경우도 발생한다. 이는 우리의 상식에 맞지 않지만, 의학 분야에서는 자주 발생한다.

매우 드물게 일어나는 확률의 사건이라도, 언젠가 어디에서 누구에겐가는 일어날 수 있다. 따라서 매우 드물게 일어난 사건으로부터 그러한 사건이 일어날 확률이 높다고 추론하는 것은 오류이다. 통계 추정(inference)의 원리는 다음과 같다. 일어날 것 같지 않은 사건을 귀무가설(null hypothesis)로 설정하고, 현실에서 그 귀무가설과 반대되는 사건, 즉 대립 가설(alternative hypothesis)을 접하게 될 때, 그 귀무가설을 기각하고 대립 가설을 채택한다. 이때 이러한 판단이 오류일 가능성을 유의도(p-value)라 하는데, 유의도를 낮게 잡으면 잡을수록, 다시말하면 귀무가설이 옮음에도 이것을 기각하고 대립 가설을 채택할 가능성은 줄어든다. 문제는 매우 드물게 일어나는 확률의 사건이라도 일어날 가능성이 있기 때문에, 아무리 유의도를 낮게 잡더라도, 오류를 범할 가능성을 0으로 만들 수는 없다. 따라서 일어날 가능성이 매우 작은 사건(예컨대 테러리스트)를 찾아내기 위해, 샘플 표집을 통해 통계적 추정을 하는 것은 효과적이지 않다.  

확율적인 사건에 대해 기대값을 계산하여 판단하는 것은 효과적이다. 문제는, 이론적 확율에 근사한 값을 얻으려면 많은 수의 사례가 필요하다는 점이다. 예컨대 주사위를 던지면, 연달아 6이 여러번 나오는 경우가 있다. 이전 시도에서 6이 여러번 나왔다고 하여, 그 다음 시도에서 6이외 다른 숫자가 나올 확율이 높아지는 것은 아니다. 대수의 법칙(law of large number)에 따라, 시도를 많이 할 수록 이전에 한쪽으로 쏠렸던 결과가 점차 희석되어(diluted) 이론적 확률에 근접한다. 복권은 가격 대비 기대값이 적다. 그런데 미국에서는 복권의 설계를 잘 못하여 6년 동안이나 기대값이 복권 가격보다 높은 상황이 지속되었다. MIT 학생들은 이러한 상황을 파악하고 복권을 대량 매집하여 큰 돈을 벌었다.

평균에 회귀하는 (regression to the mean) 현상은 종종 나타난다. 예컨대 부모가 우수해도 그 자식들이 우수하지 않은 경우이다. 이는 사건이 발생하는 근본적 원인에 우연적 요인이 추가될 때 나타난다. 지적인 능력을 결정하는 유전자와 환경적 요인이 결합하여 지적인 능력을 만들어 내는데, 환경적인 요인에는 우연적 요소가 포함되어 있으므로, 세대가 지날수록 부모 세대의 예외적 특성은 점차 희석되어 전체의 평균으로 회귀한다. 같은 논리로, 예외적으로 우수한 기업도 시간이 지나면 평균적인 기업으로 변화한다. 사업의 성과는 우수한 기술이나 기업가 정신이라는 본원적인 요인과 운이 함께 하여 만들어지는 것이기 때문이다. 예외적으로 우수한 실적의 펀드 역시 시간이 지나면 시장 평균 성적에 근접한다. 예외적인 실적을 기록한 다음 해에는 예외적이 아닌 실적을 기록할 가능성이 크다.

이 책에는 수학을 활용한 많은 사례들이 등장한다. 일부는 이해할 수 있었지만, 수치를 이용한 설명이 복잡하여 이해하지 못한 부분도 많았다. 수학적 논리를 설명하는 서술을 따라가는 것이 쉽지는 않았다.