Gerd Gigerenzer. 2022. How to stay smart in a smart world: Why human intelligence still beats algorithms. Pneguin Books. 247 pages.

저자는 심리학에 배경을 둔 의사결정과 리스크 관리를 연구하는 학자이며, 이 책은 인터넷과 AI의 영향이 높아지고 있는 상황이 가져온 문제점과 이에 대한 대응책을 제시한다.

인공지능 AI의 응용 범위가 높아지고 있는데, 인공지능은 인간의 지능과는 다르게 작동하며, 강점과 약점에서 근본적으로 차이가 있다. 인공지능은 불확실성이 없고 고정된 규칙이 적용되는 안정된 환경에서 놀랄만큼 높은 성과를 낸다. 체스 게임이나 동일한 업무를 반복하는 데서 인공지능은 인간을 이겼다. 반면 인간의 지능은 불확실하고 변화하는 상황에 적응하기 위하여 진화한 산물이다. 인간이 활동하는 사회와 미래는 불확실성이 높으므로 인공지능이 잘 대응하기 어렵다. 주가와 금융위기를 예측하거나, 인간 행동을 미리 예측하거나, 질병의 발생과 전개 양상을 예측하는 등에서 인공지능은 인간보다 낫지 않다. AI 의 능력에 대한 많은 논의는, AI를 개발하는 사람과 회사의 상업적인 동기 때문에 실제보다 과장되어 있다.

인공지능은 사람들의 행동과 가치관을 인공지능에 맞추어 바꾸는 방식으로 인간의 삶에 영향을 미칠 것이다. 예컨대, 근래에 자율주행차에 대한 관심이 높은데, 현재 그대로의 교통 환경에서 완전한 자율주행차는 가능하지 않다. 대신, 인간이 인공지능 환경에 맞추어 적응하는 (adapt to AI) 방식으로 변화할 것이다. 예컨대 자율주행차 전용 도로가 생기고, 그러한 도로에서는 인간의 주행이 금지되고, 모든 불확실한 변수가 제거된 교통환경이 그것이다. 이는 과거 자동차가 처음 소개되었을 때, 자동차 도로에 인간이 들어가서는 안되고 마차가 다니지 못하게 했던 것과 같은 맥락이다.

AI와 빅데이터 분석은 기본적으로 변수들 사이에 통계적인 상관관계를 통해 세상을 파악하는데, 이는 한계가 있다. 반면 인간은 이론적인 인과 관계를 통해 세상을 파악한다. 인과적으로 왜 그러한 일이 일어났는지 알지 못한다면, 아무리 그러한 사건과 통계적으로 연관된 변수를 많이 알고 있다고 해도, 피상적이며 과거에 이미 발생한 상황에 이해가 국한된다. 과거에 발생하지 않은 방식으로 사건이 전개된다면, 과거의 사건에 바탕을 둔 상관관계 지식은 별반 도움이 되지 않는다. 과거에 일어난 사건의 변이를 잘 설명하는 모델을 만들었다고 해도, 이 모델이 앞으로 일어날 사건의 변이를 잘 설명하지 못하는 경우가 많다. 모델을 만드는 데 사용되지 않은 사례에 대해 이 모델이 얼마나 잘 맞는지 검증해야 한다. 많은 사회과학 연구에서 제시하는 회귀분석 모델의 설명력은, 해당 연구에 사용되지 않은 다른 사례나 미래의 사건에 대해서는 설명력이 약할 수밖에 없다. 왜냐하면 인간 세상은 불확실성이 높기 때문이다.

인터넷과 인공지능은 감시사회를 향해 나아가고 있다. 사람들은 인터넷과 인공지능 서비스를 공짜로 이용하는 대신 자신의 사생활 정보를 몽땅 이러한 서비스를 제공하는 회사에게 내어준다. 이 회사들은 사용자의 개인정보를 광고주에게 팔아 큰 이익을 얻는다. 사람들은 자신의 사생활이 타인에게 털리는 것을 염려하면서, 사생활을 털어가는 서비스 회사에게 사용료를 지불하는 대신 자신의 사생활 정보를 제공하지 않는 선택을 원치 않는다 (privacy paradox). 인터넷과 인공지능 회사는 사용자들이 더 오래 더 많이 이용하도록 하기 위해 연구에 연구를 거듭하여 여러가지 장치를 개발하였다. 그 결과 사람들은 이러한 서비스에 중독되어 사용을 스스로 조절할 수 없는 단계에 이르렀다. 유튜브와 인스타그램의 알고리즘이 제시하는 계속된 비디오 공급에서 눈을 거두지 못하는 것, 자신의 페이스북을 수시로 열어보아야 하는 것, '좋아요'에 집착하여 무수히 자신의 영상을 올리고, 항시 이를 의식하면서 행동하는 것, 등등. 이러한 소비자의 행동은 고도의 심리적 조작의 결과이다. 사람들은 자극적 뉴스와 영상에 관심이 더욱 쏠리기 때문에, 유튜브의 알고리즘은 이런 쪽의 콘텐츠를 더 많이 제시하고, 이를 통해 사람들의 견해는 더욱 극단적인 방향으로 흐르게 된다. 

중국에서는 인터넷과 인공지능을 이용하여 각 개인에 대해 사회 신용지수 social credit 를 산출하여 일상 전반에 활용하는 시범사업을 여러 도시에서 시행하고 있다. 이는 사람들의 금융 신용지수를 산출하여 금융 활동에 활용하는 것과 유사하다.  사람들이 하는 모든 행동은 사회 신용지수의 산출을 위해 점수로 입력된다. 사회 신용지수는 사람들이 사회 규범을 잘 지키도록 유도하는 순기능과 함께, 체제에 비판적인 의견과 행동을 억압하는 결과를 낳는다. 한편, 서구 사회는 중국과 달리 정부가 아닌 인터넷 기업들이 개인 정보를 샅샅이 수집하며, 이를 광고주에게 판매함은 물론, 정부의 정보기관에게 제공하여 사회에 위험한 인물을 감시하고 색출하도록 한다. 

인터넷과 인공지능이 가져온 인터넷 서비스 중독과 감시 사회에서 벗어나는 길은 있다. 현재처럼 서비스를 공짜로 이용하는 대신 자신의 사생활 정보를 내주는 방식이 아니라, 서비스를 이용하는 대신 요금을 지불하는 구독 방식으로 전환하면 문제가 해결된다. 그런데 현재는 사람들이 서비스 요금을 지불하기를 거부하기 때문에, 문제의 심각성을 인식하도록 하고, 요금을 징수하는 방식으로 전환하도록 강제해야 한다. 물론 이러한 정책에 대해 거대 인터넷 기업들은 적극 반대하겠지만, 정부가 주도하여 사회적 합의를 이끌고 정책을 추진해야 한다.

저자는 자신이 제안하는 서비스 요금 유료화를 강제하는 정책이 실현되리라고 확신하는 것 같지 않다. 저자의 서술을 따라가다보면, 인공지능이 가져오는 미래가 반드시 사람들을 더 행복하거나 편안하게 만들 것 같지 않다. 사람들은 인공지능이 잘 할 수 있도록 인간의 행동과 사회 환경을 바꾸어 가리라는 예감이 든다. 중국의 사회 신용지수의 예에서 보듯, 사회질서와 통제에 대한 가치관도 바뀔 것 같다. 개인의 자유를 핵심 가치로 두는 사회에서, 사람들 사이에 조화와 질서를 우선시하는 사회로. 싱가포르식 사회 모델이다.  통찰력을 주는 책이다.