정보는 현실을 반영하는가
아침에 눈을 뜨자마자 스마트워치로 날씨 앱을 켭니다. 맑을지, 비가 올지, 최고 기온은 몇 도일지 확인하고 그날 입을 옷을 고르죠. 출근길에는 유튜브로 세상 돌아가는 소식을 파악합니다. 이뿐인가요. 친구들이 쉴 새 없이 SNS로 퍼 나르는 각종 뉴스들, 어떠한 질문에도 ‘딸깍’ 한 번에 AI가 주르륵 쏟아내는 대답들. 일어나서 잠들기 전까지 우리는 정보를 마치 공기처럼 호흡하며 살고 있습니다.
정보가 정말 현실을 온전히 반영할까요? 작가 유발 하라리는 그렇지 않다고 말합니다. 현실의 재현에는 언제나 누락이나 왜곡이 따르기 때문이죠. 정보는 그저 서로 다른 지점들을 연결(넥서스, Nexus)하는 역할을 할 뿐입니다. 우리는 순진하게도 정보가 진실을 드러내기를 바라고 또 그럴 것이라 믿어 의심치 않지만, 정보는 대개 질서를 유지하는 쪽으로 기능합니다. DNA가 수십 조 개의 세포를 하나의 유기체로서 움직이게 하고, 종교가 수십억 명의 삶의 태도를 동기화하듯 말이죠.
무오류성의 환상
인간은 자신들의 실수를 찾아 바로잡는 일을 믿고 맡길 수 있는, 오류로부터 완전히 자유로운 초인적인 장치를 꿈꾸었다. (p. 126)
초인적인 장치는 인류사에 신화, 종교, 사상의 모습들로 차례차례 등장했습니다. 현실은 복잡합니다. 그리고 인간은 현실을 모조리, 오류 없이 이해하고 싶어 하죠. 작가는 신화, 종교, 사상이 인간의 이러한 욕구가 만들어낸 환상에 불과하며, 그의 대표작 《사피엔스》에서부터 ‘상호주관적 현실’이라는 이름으로 불러왔습니다.
상호주관적 현실은 그 이름에서도 엿볼 수 있듯 현실을 객관적으로 해석하지 못합니다. 따라서 이러한 한계를 만회하고자 수많은 주석을 낳고, 그 주석들에 또 다른 주석들이 생겨납니다. 주석을 해설하는 사람들이 그 시대의 권력자로 떠오릅니다. 바로 사제, 법관, 행정가들입니다. 무오류의 진실을 추구했으나 오류투성이일 수밖에 없는 사람을 신뢰해야 하는 상황으로 귀결한 것이죠.
그렇다면 우리 시대의 새로운 초인적인 장치는 무엇일까요? 바로 AI입니다.
AI와 전체주의
AI가 전체주의를 낳을 가능성을 배제할 수 없습니다. 위에서 이야기했듯, 초인적 장치는 새로운 권력자를 탄생시킵니다. 저는 구글, 오픈AI와 같은 빅테크big tech 기업들, 더 정확히는 소수의 AI 엔지니어들이 새로운 시대의 권력자로 부상할 것이라 예상합니다. 더 나아가 그들은 수십억 명의 사용자로부터 얻어낸 엄청난 양의 정보를 바탕으로 세상을 통제하고자 하는 유혹에 직면할 것입니다.
전체주의는 정보가 한 점을 향해 일방향으로 흐른다는 특징이 있습니다. 그 한 점은 독재자 혹은 소수의 권력자를 말하죠. 이는 곧 치명적인 오류가 있을 때 자정 기능이 작동하기 어렵다는 것을 의미하고, 역사적으로 전체주의 정권은 인류사에 깊은 상처를 남기고는 모두 무너졌습니다. 그런데 AI를 통한 정보 흐름의 양태가 바로 전체주의와 닮았다는 것이 문제입니다.
2026년 현재 인공지능은 이미 사람들이 세상을 이해하고 살아가는 방식에 큰 영향을 미치고 있습니다. 무오류성의 환상에 사로잡힌 사람들은 ‘딸깍’ 한 번에 주르륵 쏟아지는 ‘진실’을 신뢰하지 않을 수 없습니다. AI가 뱉어내는 정보들이 세상을 어떤 질서로 재편할지, 그 질서 안에서의 삶은 어떤 모습일지 우리는 알지 못합니다. 그저 소수의 AI 엔지니어들이 인류를 위한 선의로 가득한 사람들이길 바랄 수밖에요.
해법은?
유발 하라리는 해법으로 우선 민주주의를 제시합니다. 민주주의는 전체주의와 달리 뛰어난 자정 기능을 내재하고 있기 때문입니다. 민주주의는 권력을 분산함으로써, 각각의 주체가 서로의 오류를 감시하고 바로잡을 수 있게 합니다. 또한 개개인이 권력을 갖고 있는 만큼, AI가 수집한 정보를 나를 조종하기 위해서가 아니라 나를 돕기 위해 사용할 수 있도록 의도할 수 있습니다.
다음으로 규제 기관과 예술가가 필요하다고 말합니다. 규제 기관이 AI 알고리즘과 소수의 권력자를 견제할 수 있어야 하며, 이 알고리즘과 새로운 시대의 권력 구조를 대중들이 이해하기 쉬운 방식으로 설명하는 예술가의 역할이 중요하다는 것입니다.
또 AI 봇(Bot)을 금지할 것을 주장합니다. 한 분석에 따르면, 2016년 미국 선거운동 기간에 생성된 트윗 중 20%가 봇에 의해 생성된 것으로 추정된다고 합니다.(p. 480) 이는 민주주의에 분명한 위협이죠. 역시 AI 봇 또한 규제 기관의 심사를 거쳐야합니다.
마치며
AI의 폭발적인 발전을 목도하며 기대와 두려움을 함께 느낍니다. 능력의 한계 탓에 현실화하지 못했던 일들을 AI와 함께라면 나도 해낼 수 있겠다는 기대와, 과연 미래에 인간에게 설 자리가 남아 있을까 하는 두려움 말이죠. 다양한 AI 서비스들의 업데이트 소식이 연일 쏟아집니다. 그 양과 속도를 도저히 따라갈 수가 없을 지경입니다. 하지만 잠시 멈춰 호흡을 가다듬고 우리 모두가 현 상황을 점검해야 할 때입니다.
역사는 결정되어 있지 않고, 적어도 몇 년 동안은 우리 사피엔스에게 아직 미래의 모습을 결정할 힘이 있다. (p. 32)
이는 책임도 대체로 우리에게 있다는 뜻이다. (p. 328)
작가는 AI에게 고통을 느낄 수 있는 모든 존재에 신경을 쓰도록 만드는 것이 가장 확실한 방법이라고 제시합니다. 이는 생명이야말로 우리가 지켜야 하는 최우선 가치라는 생각을 전제로 합니다.
물론 사람마다 가치관은 다를 수 있습니다. 다만 우리가 무엇을 지향하며 살아야 할지, 삶의 목적은 무엇인지 충분히 고민해야 합니다. 그 답에 따라 AI라는 도구의 쓰임새도, 그에 따른 우리 미래의 모습도 결정될 테니까요.
《넥서스》는 AI 시대를 향해 쏘아 올린 유발 하라리의 버저 비터 같은 책입니다. 공이 골대를 향해 날아갑니다. 가만히 앉아 기도만 하고 있을 것이 아니라, 이 책을 통해 적극적으로 우리 모두가 올바른 AI 시대를 예비할 수 있기를 희망합니다.