Gerd Gigerenzer. 2022. How to stay smart in a smart world: Why human intelligence still beats algorithms. Pneguin Books. 247 pages.

저자는 심리학에 배경을 둔 의사결정과 리스크 관리를 연구하는 학자이며, 이 책은 인터넷과 AI의 영향이 높아지고 있는 상황이 가져온 문제점과 이에 대한 대응책을 제시한다.

인공지능 AI의 응용 범위가 높아지고 있는데, 인공지능은 인간의 지능과는 다르게 작동하며, 강점과 약점에서 근본적으로 차이가 있다. 인공지능은 불확실성이 없고 고정된 규칙이 적용되는 안정된 환경에서 놀랄만큼 높은 성과를 낸다. 체스 게임이나 동일한 업무를 반복하는 데서 인공지능은 인간을 이겼다. 반면 인간의 지능은 불확실하고 변화하는 상황에 적응하기 위하여 진화한 산물이다. 인간이 활동하는 사회와 미래는 불확실성이 높으므로 인공지능이 잘 대응하기 어렵다. 주가와 금융위기를 예측하거나, 인간 행동을 미리 예측하거나, 질병의 발생과 전개 양상을 예측하는 등에서 인공지능은 인간보다 낫지 않다. AI 의 능력에 대한 많은 논의는, AI를 개발하는 사람과 회사의 상업적인 동기 때문에 실제보다 과장되어 있다.

인공지능은 사람들의 행동과 가치관을 인공지능에 맞추어 바꾸는 방식으로 인간의 삶에 영향을 미칠 것이다. 예컨대, 근래에 자율주행차에 대한 관심이 높은데, 현재 그대로의 교통 환경에서 완전한 자율주행차는 가능하지 않다. 대신, 인간이 인공지능 환경에 맞추어 적응하는 (adapt to AI) 방식으로 변화할 것이다. 예컨대 자율주행차 전용 도로가 생기고, 그러한 도로에서는 인간의 주행이 금지되고, 모든 불확실한 변수가 제거된 교통환경이 그것이다. 이는 과거 자동차가 처음 소개되었을 때, 자동차 도로에 인간이 들어가서는 안되고 마차가 다니지 못하게 했던 것과 같은 맥락이다.

AI와 빅데이터 분석은 기본적으로 변수들 사이에 통계적인 상관관계를 통해 세상을 파악하는데, 이는 한계가 있다. 반면 인간은 이론적인 인과 관계를 통해 세상을 파악한다. 인과적으로 왜 그러한 일이 일어났는지 알지 못한다면, 아무리 그러한 사건과 통계적으로 연관된 변수를 많이 알고 있다고 해도, 피상적이며 과거에 이미 발생한 상황에 이해가 국한된다. 과거에 발생하지 않은 방식으로 사건이 전개된다면, 과거의 사건에 바탕을 둔 상관관계 지식은 별반 도움이 되지 않는다. 과거에 일어난 사건의 변이를 잘 설명하는 모델을 만들었다고 해도, 이 모델이 앞으로 일어날 사건의 변이를 잘 설명하지 못하는 경우가 많다. 모델을 만드는 데 사용되지 않은 사례에 대해 이 모델이 얼마나 잘 맞는지 검증해야 한다. 많은 사회과학 연구에서 제시하는 회귀분석 모델의 설명력은, 해당 연구에 사용되지 않은 다른 사례나 미래의 사건에 대해서는 설명력이 약할 수밖에 없다. 왜냐하면 인간 세상은 불확실성이 높기 때문이다.

인터넷과 인공지능은 감시사회를 향해 나아가고 있다. 사람들은 인터넷과 인공지능 서비스를 공짜로 이용하는 대신 자신의 사생활 정보를 몽땅 이러한 서비스를 제공하는 회사에게 내어준다. 이 회사들은 사용자의 개인정보를 광고주에게 팔아 큰 이익을 얻는다. 사람들은 자신의 사생활이 타인에게 털리는 것을 염려하면서, 사생활을 털어가는 서비스 회사에게 사용료를 지불하는 대신 자신의 사생활 정보를 제공하지 않는 선택을 원치 않는다 (privacy paradox). 인터넷과 인공지능 회사는 사용자들이 더 오래 더 많이 이용하도록 하기 위해 연구에 연구를 거듭하여 여러가지 장치를 개발하였다. 그 결과 사람들은 이러한 서비스에 중독되어 사용을 스스로 조절할 수 없는 단계에 이르렀다. 유튜브와 인스타그램의 알고리즘이 제시하는 계속된 비디오 공급에서 눈을 거두지 못하는 것, 자신의 페이스북을 수시로 열어보아야 하는 것, '좋아요'에 집착하여 무수히 자신의 영상을 올리고, 항시 이를 의식하면서 행동하는 것, 등등. 이러한 소비자의 행동은 고도의 심리적 조작의 결과이다. 사람들은 자극적 뉴스와 영상에 관심이 더욱 쏠리기 때문에, 유튜브의 알고리즘은 이런 쪽의 콘텐츠를 더 많이 제시하고, 이를 통해 사람들의 견해는 더욱 극단적인 방향으로 흐르게 된다. 

중국에서는 인터넷과 인공지능을 이용하여 각 개인에 대해 사회 신용지수 social credit 를 산출하여 일상 전반에 활용하는 시범사업을 여러 도시에서 시행하고 있다. 이는 사람들의 금융 신용지수를 산출하여 금융 활동에 활용하는 것과 유사하다.  사람들이 하는 모든 행동은 사회 신용지수의 산출을 위해 점수로 입력된다. 사회 신용지수는 사람들이 사회 규범을 잘 지키도록 유도하는 순기능과 함께, 체제에 비판적인 의견과 행동을 억압하는 결과를 낳는다. 한편, 서구 사회는 중국과 달리 정부가 아닌 인터넷 기업들이 개인 정보를 샅샅이 수집하며, 이를 광고주에게 판매함은 물론, 정부의 정보기관에게 제공하여 사회에 위험한 인물을 감시하고 색출하도록 한다. 

인터넷과 인공지능이 가져온 인터넷 서비스 중독과 감시 사회에서 벗어나는 길은 있다. 현재처럼 서비스를 공짜로 이용하는 대신 자신의 사생활 정보를 내주는 방식이 아니라, 서비스를 이용하는 대신 요금을 지불하는 구독 방식으로 전환하면 문제가 해결된다. 그런데 현재는 사람들이 서비스 요금을 지불하기를 거부하기 때문에, 문제의 심각성을 인식하도록 하고, 요금을 징수하는 방식으로 전환하도록 강제해야 한다. 물론 이러한 정책에 대해 거대 인터넷 기업들은 적극 반대하겠지만, 정부가 주도하여 사회적 합의를 이끌고 정책을 추진해야 한다.

저자는 자신이 제안하는 서비스 요금 유료화를 강제하는 정책이 실현되리라고 확신하는 것 같지 않다. 저자의 서술을 따라가다보면, 인공지능이 가져오는 미래가 반드시 사람들을 더 행복하거나 편안하게 만들 것 같지 않다. 사람들은 인공지능이 잘 할 수 있도록 인간의 행동과 사회 환경을 바꾸어 가리라는 예감이 든다. 중국의 사회 신용지수의 예에서 보듯, 사회질서와 통제에 대한 가치관도 바뀔 것 같다. 개인의 자유를 핵심 가치로 두는 사회에서, 사람들 사이에 조화와 질서를 우선시하는 사회로. 싱가포르식 사회 모델이다.  통찰력을 주는 책이다.

Yuval Noah Harari. 2017. Homo Deus: A Brief History of Tomorrow. Harper. 402 pages.

저자는 역사학자이자 사회철학자이며, 이 책은 인류의 과거 역사와 현재의 기술을 바탕으로 하여 인류의 장기적 미래 모습을 예측한다.

인간은 과학기술 덕분에 기아, 질병, 전쟁을 이제 거의 정복하였다. 인간의 다음 도전은 죽지 않고 오래도록 살고, 더 높은 행복을 누리며, 세상에 대한 통제력이 높아져 신의 경지에 도달하는 것이다.  인간은 유전자를 조금씩 조금씩 변형하여 더 오래살고, 더 똑똑하고, 감정을 더 잘 통제하는 존재를 만들어 낼 것이다. 그러한 미래에, 현재의 인간은 마치 현재 동물이 그러한 것 처럼, 미래의 인간에 의해 도태되거나, 아니면 그들에게 길들여져 착취당하는 처지에 놓일 것이다.  모든 사람들이 함께 초인류로 바뀌는 것이 아니라, 능력이 있는 사람들부터 바뀌게 될 것이다. 문제는, 생물학적 능력의 격차가 사람들사이에 벌어지면, 이는 지금까지 사회경제적 격차와는 비교할  수 없을 정도로, 격차를 좁히는 것이 어려워질 것이다.  마치 과거에 일반인과 노예의 격차와 같은 사회가 출현할 수 있다.

인류는 과거 신 중심의 세계관에서 인간중심의 세계관으로 이전했다. 이제 인간의 경험, 인간의 행복이 모든 결정에 궁극적인 기준이 되었다. 인간중심주의 Humanism 는, 인간의 입장에서 볼 때 긍정적인 것이다. 그러나 인간은 단일한 어떤 것이 아니라 여러 경험의 복합체인데, 이 복합체는 합리적이며 일관된 특성의 것이 아니어서, '너 자신을 알라'라고 말할 때의 '자아'를 가지고 있지 않다. 인간을 중심으로 하는 세계관은 핵심이 되는 자아를 전제로 하지만, 문제는, 이러한 자아는 허구라는 사실이다.

생물학에 따르면 인간은 근본적으로 유전자, 즉 고도의 데이터 처리 장치이다. 진화론에 따르면 생물체는 유전자가 핵심이며, 생명활동이란 유전자를 다음 세대로 확산하려 노력하는 것이다. 인간이 다른 동물과 다른 점은, 인간의 데이터 처리 능력이 다른 동물의 데이터 처리능력보다 더 높다는 사실이다. 인간은 동물보다 데이터 처리 능력이 더 높기에 생존 경쟁에서 승리하여 그들을 지배하고 멸종시켰다. 인간의 감정이란 인간의 지적 능력과 마찬가지로 진화의 과정을 통해 발달한 고도의 데이터 처리 장치에 다름이 아니다. 인간의 지적 능력이나 감정이 모두 데이터 처리장치라면, 데이터 처리 능력이 고도화되면 될수록 더 좋다 라는 논리적 추론으로 귀결된다.

컴퓨터가 발전하여 이제 컴퓨터의 데이터 처리 능력이 인간의 수준을 능가하게 되었다. 지적 문제를 푸는 분야에서 인간은 조만간 컴퓨터를 당해낼 수 없다. 인공지능은 인간이 이해할 수 없는 정도로 많고 복잡한 데이터 처리를 하게 되었다. 조만간 인간은 인공지능에게 자신의 결정을 맡길 것이다. 왜냐하면 인공지능이 특정 개인에 대한 정보를 더 정확히 분석하여 그를 더 잘 알고 그의 사정에 더 적절한 선택을 할 것이기 때문이다.

인공지능이 인간보다 데이터를 더 잘 처리하고 문제를 풀어낸다면, 많은 사람들은 쓸모가 없어질 것이다. 소수의 고급 데이터 처리능력을 갖추고, 인공지능을 디자인하는 고도로 복잡한 일에 종사하는 사람을 제외한다면, 그러한 능력을 갖지 못한 대부분은 경제에 도움이 되지 않는다. 보통사람들의 지적 능력에 기반한 자유로운 선택이라는 민주주의 또한 부적절해 질 것이다. 인공지능이 상황을 더 잘 판단할 수 있다면, 일반 사람이 투표하여 선거로 결정짓는 방식은 비효율적이기 때문이다. 그렇게 된다면 국가는 일반인의 의견을 존중하지 않을 것이다. 인공지능이 더 잘 전쟁을 치룰 수 있게 된다면, 전쟁에 일반인은 쓸모가 없기 때문에 국가가 일반인을 존중하지 않을 것이다. 즉 대다수의 일반인은 경제적, 정치적, 군사적으로 쓸모가 없어지기 때문에 국가가 그들의 복리를 살펴야 할 필요성도 없어질 것이다. 저자는 이러한 세상을 데이터가 지배하는 세상 Dataism이라고 명명한다.

이미 인공 지능은 여러 분야에서 인간과의 경쟁에서 우월한 능력을 보여주었다. 반면 인간은 인공지능이 어떻게 데이터를 처리하여 이러한 능력을 발휘했는지 이해할 수 없는 단계에 도달했다. 인공지능이 인간의 판단을 대치하는 분야는 빠르게 확대될 것이다. 많은 분야에서 인공지능이 인간보다 더 신뢰되는 사회가 도래할 것은 확실하다. 자본주의의 시장기구보다, 민주주의의 선거보다 인공지능의 데이터 분석 결과에 기반한 결정이 더 효율적인 사회는 현재의 사회와는 많이 다를 것이다. 문제는 무엇을 위한 효율인가 라는 점이다.

더 많은 사람에게 더 높은 물질적 풍요를 가져다 주는 것, 즉 제레미 벤담의 최대의 행복이 지금까지 효율성을 판단하는 기준이었다. 인간은 물질적인 만족만으로는 살 수 없다. 결정의 주체가 되고 사회에 기여하는 존재라는 느낌, 즉 보람, 의미를 찾는 존재이다. 인공지능이 모든 결정을 대리하는 사회에서 사는 사람은 삶의 의미를 느끼면서 살지 못할 것이다. 자신의 데이터 처리능력이 사회에 쓸모가 없다면, 그러한 사회에서 살아야 할 필요를 느끼지 못할 것이기 때문이다. 살아야 할 의미나 필요를 느끼지 못하는 삶은, 현재 동물 농장에서 하루하루 생존을 영위하는 닭이나 돼지의 삶과 다름이 없다.

사실 현재 우리의 삶도 삶의 의미를 크게 느끼면서 사는 것은 아니다. 그러나 '혹시나' 하는 마음으로 그럭저럭 살아가는 것이 현대인의 삶인데, 삶의 결정이 모두 인공지능에 의해 뺏기게 된다면, 그런 '혹시나' 하는 자기기만적인 감정 조차도 좀처럼 일어나기 어려울 것이다. 정말 암울한 삶이다. 인간의 삶이 알고보면 동물 농장에 닭이나 돼지와 다름이 없다고 지적한다면.   유발 하라리는 대단한 통찰력을 지닌 사람으로 보인다. 그의 식견에 감탄하며 읽었다.

Walter Isaacson. 2014. The Innovators: how a group of hackers, geniuses, and geeks created the digital revolution. Simon & Schuster. 488 pages.

저자는 과거에 시사주간지 타임즈의 편집장을 지내고 전기작가로 몇권의 베스트 셀러를 냈다. 이 책은 컴퓨터와 연관된 처음부터 최근까지의 역사를 사람 중심으로 풀어쓴 글이다. 이야기는 19세기 중반 바이런 시인의 딸인 아다 러브레이스로 부터 시작한다. 그녀는 시적인 감성과 과학에 대한 열정이 결합된 여성으로, 그당시 화제를 모았던 찰스 베비지의 계산기에 관심을 가졌다. 이후 19세기 말에 자카드기 방적기에서 아이디어를 딴 펀치카드 시스템을 적용한 계산기가 인구센서스를 집계하였다.

컴퓨터의 발명은 2차세계대전의 소산이다. 전쟁중에 적군의 암호를 풀 목적으로 미국과 영국은 독자적으로 컴퓨터를 발명했다. 필요와 능력과 자원이라는 삼요소가 결합되었을 때 발명이 이루어진다. 관련 아이디어가 이미 돌아다니고 있을 때, 발명가는 이를 구체화시킨다. 어떤 발명에나 공을 이룬 인물은 있지만, 대부분의 발명은 집단적 노력의 소산이다. 특히 두 사람이 결합하여 효율적인 팀을 만들었을 때 좋은 발명품이 나온다. 반도체, 집적회로, 소프트 웨어, 퍼스널 컴퓨터가 그러한 두명의 뛰어난 팀들의 소산이다.

1940년대에 컴퓨터가 발명되었으며, 1950년대에 반도체가 발명되고, 1960년대에 집적회로가 발명되고, 1970년대에 퍼스널 컴퓨터가 발명되고, 1980년대에 일상 업무에 컴퓨터가 널리 활용되기 시작했으며, 1990년대에 웹과 검색엔진이 발명되었으며, 21세기에 들어 인공지능이 본격적으로 추진되고 있다. 이러한 일련의 디지털 혁명의 공통점은 엔지니어가 변화를 주도했다는 사실이다. 세일즈맨이나 금융맨이 주도했다면 이러한 비약적인 발명은 가능하지 않았다. 상상력이 풍부한 엔지니어가 미래를 예상하고 열정적으로 만들어냈다. 정부의 지원, 시장의 이윤 동기, 자원봉사자의 헌신이라는 세가지의 상이한 방식이 모두 적용되면서 발명을 이끌어 냈다. 어느 한 방식만 지배했다면 이러한 변화는 어려웠을 것이다.

이 책은 컴퓨터와 관련하여 처음부터 끝까지 모든 것을 커버하려고 하였기 때문에 서술이 산만하고 지루했다. 무척 많은 사람들이 등장하였으며, 등장인물의 성격과 에피소드 중심으로 서술한 점에서 전기 작가의 한계를 벗어나지 못한다. 디지털 혁명 자체에 촛점을 맞추었으면 더 좋은 책이 되었을 것이다. 물론 매우 다른 책이 되었겠지만.

Yuval Noah Harari. 2017. Homo Deus: a brief history of tomorrow. HarperCollins. 402 pages.

인간은 진화의 과정을 통해 지구상에서 가장 지능이 높은 동물의 위치에 올라섰다. 인간은 개체로 보면 어느 동물보다  뛰어난 존재가 아니지만, 협동과 조직을 통해 집단으로서 개체의 능력을 뛰어 넘는 문명을 이룩하였으며, 생물계를 지배하고 급기에 자연에까지 영향을 미치는 존재가 되었다.

인간은 자연 그대로의 세계에서 사는 것이 아니라 의미를 부여한 세계에서 살아간다. 인간이 만들어낸 종교는 바로 세계에 의미를 부여한다. 사실의 세계는 인간이 왜 그리해야 하는가 하는 질문에 답을 하지 않는다. 반면 종교는 무엇이 옳은 것이고 무엇이 나쁜 것인지, 왜 해야 하는지, 혹은 하지 말아야 하는지, 무엇을 목표로 살아야 하는지에 대한 답을 제공한다.  

자연에 대한 인간의 능력이 확장되면서 신의 존재는 과거와 같은 중요성을 갖지 못하게 되었다. 과학 기술 문명이 발전하고 인간의 권능이 높아지면서 신에 의지할 필요가 없어진 것이다. 대신 인간 자신을 모든 가치의 중심으로 놓는 인본주의 Humanism 가 지배하게 되었다. 인본주의는 모든 옳고 그름, 좋고 나쁨, 해야하고 하지 말아야 하는 판단의 중심에 인간의 생존과 감정과 체험과 행복을 두는 세계관이다.

인간의 능력이 점점 더 발전하면서 영생과 행복과 자연과 세계에 대해 더 큰 영향력 혹은 권력을 추구한다. 저자는 유전자 조작 기술이 발전하고 기계적 능력과 생물학적 기능을 결합하는 기술이 발전하면, 결국 인간의 능력이 업그레이드된 초능력 인간이 나타날 것이라고 예측한다. 더 에너지 넘치고, 더 건강하고, 더 오래살고, 더 지능이 높고, 더 집중을 잘하고, 환경으로부터 새로운 종류의 더 많은 정보를 수집하고, 더 많은 복잡한 정보를 신속히 처리하고, 더 추상화된 생각을 할 수있는 사람이 나타나는 것이다.

유기체란 진화의 과정을 통해 점차 고도화된 알고리즘의 덩어리이며, 삶이란 정보처리 과정이다. 우리의 삶이란 정보를 처리하고 판단하는 과정이다. 더 많은 정보를 더 효율적으로 처리할수록 고등동물이 되는 것이고, 인간의 두뇌는 생물계에서 정보처리를 가장 잘 하는, 다른 말로 하면 지능이 높은 존재이다. 생물체의 감정이란 것은 매우 효율적인 알고리즘이다. 예컨대 두려움을 느낀다는 것은 생존에 가장 효율적인 방식으로 반응하도록 정보를 처리하는 방식이다.

컴퓨터와 인공지능이 발달하면서 정보처리에서 컴퓨터가 인간을 능가하는 분야가 확대되고 있다. 컴퓨터가 더 많은 정보를 더 정확히 처리하게 된다면 인간은 자신의 의사결정을 컴퓨터에게 점점 더 맡기게 될 것이다. 인간의 정보처리 능력에는 한계가 있고, 인간은 모순된 욕구와 그릇된 판단을 하는 경우가 많으므로 컴퓨터로 구축된 정보처리 시스템이 더 정확히 나에 대해 알고 나의 복리를 위해 판단을 하는 경향이 높아질 것이다.

엄청난 양과 복잡한 정보를 처리하는 컴퓨더 시스템이 인간의 삶을 지배하게 되면 인본주의는 붕괴하게 된다. 그 시스템이 여전히 인간의 복리를 위해 일한다는 점에서 인본주의 이념에 따르는 것일 수도 있다. 그러나 인간은 모순된 존재이므로 컴퓨터의 판단이 인간의 어떤 부분에 봉사하는가가 불분명할 것이고, 시스템의 판단과 결정과 실행이 개별 인간의 복리에 반하는 것이 될 수도 있다.

컴퓨터에 기반한 정보처리 시스템은 알고리즘이라는 점에서  유기체보다 한단계 앞서 나간 존재로 등극할 수있다. 인간을 포함한 생물체는 결국 알고리즘에 불과하기 때문이다.  생물체가 가진 의식(consciousness)은 없지만 지능(intelligence)은 있는 무생물체의 알고리즘이 생물체의 알고리즘을 능가하는 세상이 올 수있다.

인간 사이에서 초능력을 가진 인간과 그렇지 못한 보통 인간으로 구분된 위계가 형성된다면, 보통 인간은 가치를 잃게 될 것이다. 왜냐하면 정보처리 시스템이 과거에 보통 인간이 하던 일을 모두 맡아서 처리할 것이고, 소수의 초능력 인간들만이 시스템에 의해 대체 되지 않는 존재가 될 것이기 때문이다. 산업사회에서는 생산과 전쟁에 보통 사람들의 기여가 중요하였기에 보통사람의 가치를 존중하는 민주주의나 인간중심의 자유주의 이념이 자리잡았다. 그런데 생산과 전쟁를 정보처리 시스템이 관장하게 되고 보통사람들은 쓸모없는 존재가 된다면 이들을 존중하는 자유주의 이념은 더이상 정당성을 확보할 수없다. 생산에는 기여하지 않고 단순히 소비만 하는 존재라면 그들이 있어야 할 이유를 설득하기는 어려울 것이다. 인권, 자유라는 개념이 내동댕이 쳐질 것이다. 초능력을 가진 인간은 보통 인간을 자신과 같은 존재로 취급하지 않을 것이다.

이 책의 저자는 젊은 나이임에도 놀라운 통찰력을 보여준다. 그의 이름을 세상에 알린 책, Sapiens 를 읽고 감탄했던 만큼 이 책이 놀라운 책은 아닌 것 같다. 그러나 마음껏 상상력을 동원하여 생각의 끝까지 가보고, 이를 용감하게 쓸 수있다는 것 자체가 놀랍다. 내용만이 아니라 문체 또한 부드럽게 그러나 논리적으로 명징하게 전개하는 솜씨가 돋보이는 책이다.