유발 하라리의 책은 한번은 읽어봐야겠다고 생각했는데, '사피엔스'는 엄두가 나지않았던 와중에 새로 출간된 넥서스를 보게 되었다.
'넥서스'에 대해서 한 줄 요약을 하자면, "인간의 집단은 정보 네트워크로 해석 될 수 있고, 정보를 전달하는 매개체가 점토판 이후로 계속 발전해와 이제는 AI가 되었는데, AI는 이전의 매체들과는 달리 편집자의 역할마저 한다." 정도가 될 것 같다.
선사시대의 인간 네트워크의 정보 매개체는 이야기였다. 객관적 사실의 단순 나열은 기억을 하기 어렵지만, 우리의 뇌는 서사적인 이야기는 아주 잘 기억한다. 따라서 신화와 설화들이 많이 생겨났다. 문자가 생긴 고대시대에 조차, 신화적 기술이 역사 서술에 많이 사용되었던 것은, 선사시대부터 이어져온 이러한 전달 방식이 남아서일 것이다.
이후에 문자가 생겼고 문자를 이용하여 점토판에 사실들을 기록하기 시작했다. 기술의 발전으로 점토판은 손으로 기록한 문서로, 금속활자로 찍은 문서로, 신문으로, 매스미디어로 발전했지만 본질은 정보를 전달하는 매개체라는 사실이었다.
이러한 정보의 매개체를 바탕으로 인간사회는 정교해졌고, 그 자체가 정보의 흐름을 만들어 내는 하나의 네트워크였다.
이 책에서 저자는 그 정보 네트워크 자체의 매커니즘에 집중을 하였다.
흥미로웠던 것은 정보 네트워크의 유일한 목표는 진실의 전달이 아니라는 점이다. 질서의 유지 또한 그것의 목표이고 따라서 서로 상충되는 이 두 목표를 모두 만족시키는 방향으로 정보 네트워크는 발전해왔다고 한다.
정보 네트워크 내부에 존재하는 자정장치의 중요성에 대해서 상당히 긴 분량이 할애되어 있다.
자정장치는 진실을 퍼뜨리는 관점에서는 긍정적 역할을 하지만 네트워크의 결속을 강화하는 데에는 마이너스 요소이다.
역사상 존재했던 대부분의 네트워크는 자정장치가 존재하지 않았는데 그 극단적 사례로 소련과 나치독일의 독재권력의 일화가 많이 등장하는데, 오류를 스스로 수정하는 장치가 마련되지 않은 그들의 통치 체제에서 어떤 비효율적이고 상식 밖의 일이 일어났는지 많이 소개되어 있다.
반면, 과학 연구 네트워크는 상호비판을 전제하여 발전해왔고, 피어리뷰라는 자정 장치가 마련되어 있는데 이를 통해 눈부신 발전을 해왔다.
민주주의 네트워크 또한 자정장치가 마련돼있다. 삼권분립이 그러하고 선거제도를 통한 권력자의 주기적 교체가 또한 그러하다. 그런데 저자는 AI의 등장이 민주주의의 위협이 될 수 있음을 경고한다. 그 이유는, AI는 점토판의 연장선에 있는 수동적인 정보의 전달 매체를 넘어서서, 능동적으로 편집자의 역할과 책임자의 역할까지 할 수 있기 때문이다. 그리고 다시 전체주의 네트워크에 대한 이야기가 등장한다. 전체주의 네트워크가 지속가능하지 않았던 이유는, 네트워크를 움직이고 있는 소수의 노드가 가진 가진 연산능력에 비해서 그 네트워크를 유지하는데 필요한 계산량이 훨씬 많이 필요함에 있었다. 그런데 AI는 이 불일치를 해결하고 오히려 그걸 넘어서서 인간이 해석하기 어려운 난해하지만 기발한 수를 내기도 한다.
실제로 중국이 이 방향으로 가고 있는 것 같다. 물론 정말 중요한 최종적 의사결정은 공산당이 하겠지만, 점점 더 많은 작은 의사결정들이 AI에게 맡겨질 것이고, 효율적으로 돌아가고 있는 거대한 의사결정의 집합체를 아무리 권력자라고 해도 섣불리 수정하기는 어려울 것이다. 결국 독재국가에서는 전쟁선포나 개헌과 같이 대단히 정치적인 큰 액션들을 제외하고, 민원해결, 예산 집행같은 것은 AI가 스스로 할 수 있는 세계가 될 수도 있다고 본다.
정보 매체의 발달이 더 진실된 네트워크를 만드는 것은 아닌 것처럼, AI라는 능동적 에이전트가 결합된 인간 네트워크는 인간을 더 행복하게 하는 네트워크는 아닐 수 있을 것이다. 하지만 우리는 호랑이의 등에 타있다. 어차피 방향성이 정해져 온 세계가 이 방향(AI의 발전과 적극적 이용)으로 달려가고 있다. 이 행렬에서 벗어난 집단은 도태될 것이기 때문이다. 그리고 물불 안가리는 중국과 러시아라는 경쟁자에 뒤지지 않기 위해 자유세계도 결국 사회신용평가나 국민들의 데이터 수집과 같은 중앙집권적 AI적용을 하게 될 것이라고 본다.
민주주의의 핵심 가치를 수호하고 개인의 자유를 보장하기위해 AI 기술을 인류 공동체의 번영에 어떻게 적용할지 고민해야하는 시점이다. 이 책은 단순히 기술을 말하는 책이 아니다.
조금 어려웠지만, 신화, 정치, 경제까지 아우르는 하나의 종합 인문서였다.