인공지능이 지배하는 세상

Yuval Noah Harari. 2017. Homo Deus: A Brief History of Tomorrow. Harper. 402 pages.

저자는 역사학자이자 사회철학자이며, 이 책은 인류의 과거 역사와 현재의 기술을 바탕으로 하여 인류의 장기적 미래 모습을 예측한다.

인간은 과학기술 덕분에 기아, 질병, 전쟁을 이제 거의 정복하였다. 인간의 다음 도전은 죽지 않고 오래도록 살고, 더 높은 행복을 누리며, 세상에 대한 통제력이 높아져 신의 경지에 도달하는 것이다.  인간은 유전자를 조금씩 조금씩 변형하여 더 오래살고, 더 똑똑하고, 감정을 더 잘 통제하는 존재를 만들어 낼 것이다. 그러한 미래에, 현재의 인간은 마치 현재 동물이 그러한 것 처럼, 미래의 인간에 의해 도태되거나, 아니면 그들에게 길들여져 착취당하는 처지에 놓일 것이다.  모든 사람들이 함께 초인류로 바뀌는 것이 아니라, 능력이 있는 사람들부터 바뀌게 될 것이다. 문제는, 생물학적 능력의 격차가 사람들사이에 벌어지면, 이는 지금까지 사회경제적 격차와는 비교할  수 없을 정도로, 격차를 좁히는 것이 어려워질 것이다.  마치 과거에 일반인과 노예의 격차와 같은 사회가 출현할 수 있다.

인류는 과거 신 중심의 세계관에서 인간중심의 세계관으로 이전했다. 이제 인간의 경험, 인간의 행복이 모든 결정에 궁극적인 기준이 되었다. 인간중심주의 Humanism 는, 인간의 입장에서 볼 때 긍정적인 것이다. 그러나 인간은 단일한 어떤 것이 아니라 여러 경험의 복합체인데, 이 복합체는 합리적이며 일관된 특성의 것이 아니어서, '너 자신을 알라'라고 말할 때의 '자아'를 가지고 있지 않다. 인간을 중심으로 하는 세계관은 핵심이 되는 자아를 전제로 하지만, 문제는, 이러한 자아는 허구라는 사실이다.

생물학에 따르면 인간은 근본적으로 유전자, 즉 고도의 데이터 처리 장치이다. 진화론에 따르면 생물체는 유전자가 핵심이며, 생명활동이란 유전자를 다음 세대로 확산하려 노력하는 것이다. 인간이 다른 동물과 다른 점은, 인간의 데이터 처리 능력이 다른 동물의 데이터 처리능력보다 더 높다는 사실이다. 인간은 동물보다 데이터 처리 능력이 더 높기에 생존 경쟁에서 승리하여 그들을 지배하고 멸종시켰다. 인간의 감정이란 인간의 지적 능력과 마찬가지로 진화의 과정을 통해 발달한 고도의 데이터 처리 장치에 다름이 아니다. 인간의 지적 능력이나 감정이 모두 데이터 처리장치라면, 데이터 처리 능력이 고도화되면 될수록 더 좋다 라는 논리적 추론으로 귀결된다.

컴퓨터가 발전하여 이제 컴퓨터의 데이터 처리 능력이 인간의 수준을 능가하게 되었다. 지적 문제를 푸는 분야에서 인간은 조만간 컴퓨터를 당해낼 수 없다. 인공지능은 인간이 이해할 수 없는 정도로 많고 복잡한 데이터 처리를 하게 되었다. 조만간 인간은 인공지능에게 자신의 결정을 맡길 것이다. 왜냐하면 인공지능이 특정 개인에 대한 정보를 더 정확히 분석하여 그를 더 잘 알고 그의 사정에 더 적절한 선택을 할 것이기 때문이다.

인공지능이 인간보다 데이터를 더 잘 처리하고 문제를 풀어낸다면, 많은 사람들은 쓸모가 없어질 것이다. 소수의 고급 데이터 처리능력을 갖추고, 인공지능을 디자인하는 고도로 복잡한 일에 종사하는 사람을 제외한다면, 그러한 능력을 갖지 못한 대부분은 경제에 도움이 되지 않는다. 보통사람들의 지적 능력에 기반한 자유로운 선택이라는 민주주의 또한 부적절해 질 것이다. 인공지능이 상황을 더 잘 판단할 수 있다면, 일반 사람이 투표하여 선거로 결정짓는 방식은 비효율적이기 때문이다. 그렇게 된다면 국가는 일반인의 의견을 존중하지 않을 것이다. 인공지능이 더 잘 전쟁을 치룰 수 있게 된다면, 전쟁에 일반인은 쓸모가 없기 때문에 국가가 일반인을 존중하지 않을 것이다. 즉 대다수의 일반인은 경제적, 정치적, 군사적으로 쓸모가 없어지기 때문에 국가가 그들의 복리를 살펴야 할 필요성도 없어질 것이다. 저자는 이러한 세상을 데이터가 지배하는 세상 Dataism이라고 명명한다.

이미 인공 지능은 여러 분야에서 인간과의 경쟁에서 우월한 능력을 보여주었다. 반면 인간은 인공지능이 어떻게 데이터를 처리하여 이러한 능력을 발휘했는지 이해할 수 없는 단계에 도달했다. 인공지능이 인간의 판단을 대치하는 분야는 빠르게 확대될 것이다. 많은 분야에서 인공지능이 인간보다 더 신뢰되는 사회가 도래할 것은 확실하다. 자본주의의 시장기구보다, 민주주의의 선거보다 인공지능의 데이터 분석 결과에 기반한 결정이 더 효율적인 사회는 현재의 사회와는 많이 다를 것이다. 문제는 무엇을 위한 효율인가 라는 점이다.

더 많은 사람에게 더 높은 물질적 풍요를 가져다 주는 것, 즉 제레미 벤담의 최대의 행복이 지금까지 효율성을 판단하는 기준이었다. 인간은 물질적인 만족만으로는 살 수 없다. 결정의 주체가 되고 사회에 기여하는 존재라는 느낌, 즉 보람, 의미를 찾는 존재이다. 인공지능이 모든 결정을 대리하는 사회에서 사는 사람은 삶의 의미를 느끼면서 살지 못할 것이다. 자신의 데이터 처리능력이 사회에 쓸모가 없다면, 그러한 사회에서 살아야 할 필요를 느끼지 못할 것이기 때문이다. 살아야 할 의미나 필요를 느끼지 못하는 삶은, 현재 동물 농장에서 하루하루 생존을 영위하는 닭이나 돼지의 삶과 다름이 없다.

사실 현재 우리의 삶도 삶의 의미를 크게 느끼면서 사는 것은 아니다. 그러나 '혹시나' 하는 마음으로 그럭저럭 살아가는 것이 현대인의 삶인데, 삶의 결정이 모두 인공지능에 의해 뺏기게 된다면, 그런 '혹시나' 하는 자기기만적인 감정 조차도 좀처럼 일어나기 어려울 것이다. 정말 암울한 삶이다. 인간의 삶이 알고보면 동물 농장에 닭이나 돼지와 다름이 없다고 지적한다면.   유발 하라리는 대단한 통찰력을 지닌 사람으로 보인다. 그의 식견에 감탄하며 읽었다.