다가오는 물결, 제4의 물결, 물결은 늘 전대미문
미국의 문명평론가 앨빈 토플러는 <제3의 물결>에서 농경 기술발견의 ‘제1의 물결’을 지나, 산업혁명 기간을 ‘제2의 물결’로, 정보 통신 기술 기반의 정보화 사회를 ‘제3의 물결’이라 했다. 이제 인공지능과 합성생물학을 핵심기술로 인간 사회에 밀어닥친 ‘제4의 물결’,
이 책에서는 ‘다가오는 물결’(더 커밍웨이브)은 인류에게 어떤 영향을 미칠지, 우려가 앞선다고 말한다. 과유불급, 적정선을 유지하는 게 인류공영에 이바지할 것이라고 내다본다. 토플러는 제3의 물결 시대도래로 가치관의 붕괴와 가족관계 혼란, 고독한 군중, 파편화된 개인 등의 사회문제를 초래했지만, 정신만 차리면 미래는 충분히 적응할 수 있다는 낙관론을 폈다. 하지만 지은이들은 지금 급속하게 발전해 가는 두 개의 핵심 기술의 일으키는 제4의 물결의 미래는 인류에게 힘을 실어주는 동시에 전례 없는 위험을 초래하여 재앙, 디스토피아가 될지, 장밋빛 미래가 될지 모른다고 했다.
이들이 염려하는 수준은 어느 정도일까? 현재의 급속한 기술발전이 독보적인 파괴력을 발휘할 것이며, 인공지능 등 혁명적인 도전이 가져올 수 있는 치명적인 결과를 어떻게 억제, 회피할 것인가 지금 당장 정부가 해야 할 조치는 무엇인가를 찾아야 한다고 말한다. 물결들은 늘 전대미문이었다. 그래서 새로운 “물결”이라 부르는 것이다. 모르기에 두렵기도 하고 신비하기도 하다.
인공지능과 합성생물학, 두 개의 핵심 기술이 세상을 좌지우지한다고?
다가오는 물결은 인공지능(AI)과 합성생물학(synthetic bio)이 두 가지 핵심기술로 정의된다. 인류에게 새로운 미래를 열어주고 부와 여유를 가져다주는 한편 이런 기술의 확산은 다양한 방식의 악의적인 행위를 저지르는 사람들에게 상상을 뛰어넘는 규모의 혼란과 불안전, 재앙까지도 일으킬 힘을 줄 수 있는 양면성이 존재하는 딜레마다.
AI는 수많은 실직자를 만들어 낼 수도, 새로운 무기가 되면 네트워크 세계는 혼란에 휘말릴 수 있다는 말이다. 또 맞춤형 DNA 가닥까지 만들어 낼 수 있는 합성생물학의 미래는 감히 상상할 수도 없다. 사람들은 이런 변화에 어떻게 반응할까, 지은이들은 비관주의 회피함정에 빠질 것이라고 한다. 즉, 잠재적 위협이나 부정적인 현실에서 벗어나고 싶어 보고 싶은 것만 보고 이 두 가지 핵심기술로 만들어질 긍정적인 측면만을 강조하여 장밋빛 미래만을 남겨두고 나머지를 지워버리려 할 것이라는 말이다. 인간의 심리적 특성이 그러하니 당연한 염려다.
이 책은 4부 14장에 체제로 구성됐다. 1부에서는 기술변화 물결의 역사를, 2부에서는 다가올 물결에 대해 살펴본다. 인공지능과 합성생물학을 둘러싼 세계적인 경쟁과 인센티브 그리고 마주하는 딜레마를, 3부에서는 억제되지 않은 기술의 물결이 가져올 거대한 권력 재분배의 정치적 함의를, 국민국가의 체계는 흔들리기 시작했으며 새로운 형태의 폭력, 잘못된 정보의 홍수, 사라져 가는 일자리, 치명적인 사고 등 새로운 물결로 증폭된 충격으로 더 악화할 것이라는 전망을 적고 있다. 4부에서는 우리가 할 수 있는 일은 무엇인가, 기술을 억제하고 딜레마에서 벗어날 수 있는 길은 방법은 무엇일까?
억제와 억제 문제, 대합의 요구
억제는 기술을 감시, 축소, 통제, 잠재적으로 중단시킬 수 있는 능력이며, 기술이 물결을 일으켜 광범위하게 확산하면서 예상치 못한 결과, 예측과 통제 불능의 돌발적인 영향을 미치는 경향의 문제(억제 문제)가 발생하면 인류사회는 딜레마에 빠지게 되고, 억제 곤란 상황(더 심화할 수 있는 고유한 특징-비대칭성, 초진화성, 만능성, 자율성-으로 마치 영화 “터미네이터” 시리즈 같은 디스토피아 상황이 연출될 수 있다)에 더해 국가는 위기에 봉착하게 되며 이의 해소방안으로 사회적 합의(대합의,GRAND BARGAIN) 시민들은 국가가 무력 사용권을 독점하는 대신 새로운 기술을 활용, 질서를 유지하고 공공서비스를 제공하는 동시에 해로운 부작용을 최소화할 것을 기대하는)을 하게 될 것이다.
억제를 위한 10가지 단계
동심원을 그리듯 외연을 확장해나가는 것인데, 첫째로 ‘기술 안전’이다. 챗GPT를 호평하면 호들갑을 떠는 행위 뒤에 감춰진 양면성, “가짜 뉴스”를 진짜처럼 만들어내는 부작용에 대한 통제, 기술이 진전된다고 기술적인 수정만으로 인공지능이 일으키는 사회적 윤리적 문제를 다 해결하지 못한다. 이른바 ‘비관주의적 회피함정’에 빠지게 될 테니까, 지은이는 기술 안전을 위한 아폴로계획(인류의 달탐사계획처럼)을 세우자고 제안한다. 둘째로 감사, 늘 감시해야 한다. 지식은 힘이고 힘은 통제이듯이, 기술의 투명성과 책임성을 보장하는 수단이다.
셋째, 초크 포인트다. 소수의 선진국이나 기업만이 가진 핵심기술, 소재, 부품의 확산을 늦추자는 것이다. 개발 속도를 늦추고 규제 기관과 방어기술에 필요한 시간을 확보하는 수단, 제작자, 비평가 참여해야 한다. 즉, 책임감 있는 개발자가 처음부터 적절한 통제 장치를 기술에 통합하도록 보장한다. 다섯째, 기업의 이익과 목적, 기술 배후에 있는 조직의 인센티브를 기술 억제에 맞춰 조정한다. 여섯째 정부, 정부가 기술을 구축, 규제, 완화 조치를 시행할 수 있도록 지원한다. 일곱째, 조약, 동맹의 시대, 국제조약을 맺어서 협력시스템을 만들기, 여덟째, 문화, 학습과 실패를 공유하는 문화 조성을 통해 신속한 해결 방법을 전파한다. 아홉째, 운동, 민중의 힘은 각 구성요소에 압력을 행사하고 책임을 묻는 등 모든 수준에서 대중의 의견이 필요하다, 열째 좁은 길, 앞으로 나가는 유일한 길로 인류가 재앙적 또는 디스토피아적인 결과를 피하고자 다가오는 기술의 물결을 억제하는 과정에서 개방성과 폐쇄성 사이의 균형을 유지할 수 있는 잠재력을 길러야 한다.
챗GPT가 열어줄 미래, 학술논문 작성 챗GPT 활용법을 광고마저 등장했다. 아예 논문작성을 맡기기도 한단다. 인공지능과 인간의 뇌는 다르다. 창의성이란 본질에서 접근방법이 전혀 다른데, 비관적인 회피함정에 빠진 것인지, 기술의 물결, “계륵”인가, “뜨거운 감자”인가, 제3의 물결을 맞이하는 시대에 전하는 토플러의 말처럼 정신체계를 재구축, 이른바 정신 차리자, 장밋빛 환상 뒤에 감춰진 디스토피아를 상상하면서 조심스레, 넘침도 부족함도 없는 상태가 이상적이지 않을까 생각한다.
