베스트셀러 <넥서스 - 유발 하라리> 서평, 독후감, 리뷰
'힘은 항상 많은 사람들이 협력할 때 나온다'라는 말로 이 책은 시작됩니다.
신체적 능력이 그렇게 뛰어나지 않은 호모 사피엔스가 지구의 지배종이 될 수 있었던 이유는 '협력'에 있습니다. 호모 사피엔스는 어떻게 협력을 할 수 있었을까요? 유발 하라리는 '허구적 이야기' 때문이라고 주장합니다. 이는 저자의 세계적 베스트셀러인 <<사피엔스>>에서도 다뤘던 내용인데요. 저자는 우리는 이야기로 연결되어 있다고 말하죠.
▤ 목차
정보 네트워크 : 인류 사회를 작동시키는 근원
이를테면 부족 정신, 신, 종교, 법, 국가, 유한회사, 화폐 등과 같은 수많은 사람들의 마음의 연결로 '만들어진 질서'가 우리를 협력하게 만들었습니다. 저자는 이를 '상호주관적 현실'이라고 정의했는데요. 이렇게 서로 다른 지점들을 네트워크로 연결하는 무언가를 하라리는 '정보'라고 했습니다. 즉, 우리는 '정보'를 통해 사회적 연결 고리를 만들었고, 그것으로 점점 더 많은 개인을 연결하는 탁월한 기능을 발휘함으로써 사피엔스가 지구의 종복자로 성공할 수 있었던 것이죠.
정리해 보자면, 인류는 '허구적 이야기'를 만드는 재능이 있었고, 그것으로 형성된 '정보 네트워크'가 우리는 '협력'하게 만들었습니다. '협력'은 곧 '힘'으로 그 '힘'을 바탕으로 사피엔스는 지구를 정복하고, 문명사회를 이룩했는데요. 결국 '정보 네트워크'가 근현대사회를 만들어낸 근원이라고 말할 수 있죠.
우리는 정보 네트워크(허구적 이야기, 상호주관적 현실, 때로는 진실로 연결된)로 연결된다.
진실과 질서의 줄타기 : 정보는 진실을 반영한다는 착각 (순진한 정보관)
여기까지도 흥미로운 관점이지만 하라리는 더 날카로운 '정보'를 제공합니다. 인간의 정보 네트워크는 '진실'을 발견하는 것이 목표가 아니라는 점인데요. 일반적인 통념과는 괴리가 있는 주장이죠. 때로는 허위로 정보가 생산되지만 더 많은 정보가 수집되고, 네트워크의 규모가 커질수록 정보는 '진실'에 가까워진다고 생각하는 게 일반적입니다. 하지만 하라리는 이를 '순진한 정보관'이라고 말하는데요. 우리의 일반적인 믿음과는 달리 더 많은 정보의 수집과 네트워크의 확장이 있더라도 정보가 진실에 가까워지지 않는다고 설명하죠.
그 이유는 '인간 정보 네트워크 역사는 '진실'과 '질서' 사이에서 균형을 맞추는 아슬아슬한 줄타기'였기 때문입니다. 정보는 언제나 관료에 의해 통제되어 왔고, 진실을 반영하기보다는 질서를 유지하기 위해 조작되었다고 하는데요. 물론 반대로 진실을 위해 질서가 희생되는 경우도 있었죠. 하지만 대부분의 경우에는 질서를 위해 진실이 희생되었습니다. 다시 말해, 인간 정보 네트워크는 '진실'을 반영하기 위해 작동하는 것이 아니라 때로는 '질서'를 위해 '진실'이 희생되기도 하며, 반대로 '진실'을 위해 '질서'가 무너지기도 한다는 의미이죠.
여기까지가 인류가 20세기까지 구축해 온 정보 네트워크의 개괄적 역사입니다. 정리해 보자면 호모 사피엔스는 허구적 이야기를 만들어내는 재능을 통해 거대 정보 네트워크를 구축했고, 이는 협력이라는 힘을 만들어 냈는데요. 이를 통해 지구 역사상 유례없는 지배종으로 거듭났으며 문명사회를 이룩했죠. 정보 네트워크 없이는 현생 인류도 문명사회도 존재할 수 없었다는 의미입니다. 정보 네트워크가 인류, 문명, 사회, 문화, 기술 발전 등의 근간인데요. 하지만 정보 네트워크는 항상 진실만을 반영하는 것은 아니죠. 질서와 아슬아슬한 줄타기를 통해 적절한 균형을 유지해 왔습니다.
21세기 정보 네트워크의 발전 : 혁명인가, 재앙인가?
정보 네트워크가 인류사의 근간이라는 점에서 우리에게 너무나도 중요합니다. 인류는 정보 네트워크를 통해 과학, 기술 혁명을 이뤄왔는데요. 이는 인쇄술, 전화, 텔레비전, 라디오, 비행기, 인터넷 등의 혁신을 통해 정보 네트워크 규모를 더 크고 효율적으로 진화시켰죠. 하라리는 기술의 발전이 대규모 민주주의도 가능하게 만들었다고 했습니다. 새로운 통신 운송 기술이 발전하기 이전에는 대중 매체도 없었고, 교육도 부족했으며, 정보가 흐를 수 없었기 때문에 대규모 민주주의는 불가능했는데요. 새로운 기술은 이러한 구조적, 기술적 문제를 해결해 대규모 민주주의를 가능하게 만들었죠.
이렇듯 새로운 기술은 정보 네트워크와 우리 삶에 큰 변화를 가져다줍니다. 하지만 그 변화가 늘 긍정적으로 작용하는 것은 아닌데요. 대표적으로 산업혁명은 대량 생산과 생활 수준 향상 등의 이점을 제공했지만 제국의 확장, 세계대전, 대량 학살 등의 재앙을 초래하기도 했죠. 산업혁명처럼 새로운 기술은 종종 재앙으로 이어지기도 합니다. 21세기에 산업혁명에 버금가는 대단한 파급력을 지닌 새로운 기술이 등장했는데요. 컴퓨터는 계속 발전했고 알고리즘, AI, 머신러닝과 같은 새로운 기술을 선보였죠. 하라리는 산업혁명이 그랬던 것처럼 21세기의 새로운 기술도 많은 이점을 제공하겠지만 다른 측면에서는 재앙을 초래할 수도 있다고 주장합니다. 많은 사람들이 컴퓨터, AI, 알고리즘 등의 혁신을 통한 자동화 기술을 낙관적으로만 생각하는 경우가 많은데요. 하지만 그 생각과는 달리 전통적인 정보 네트워크 시스템을 붕괴시키고 있죠.
컴퓨터가 등장하기 이전에는 '정보 네트워크를 이루는 사슬에 인간은 없어서는 안 되는 고리'였습니다. 한 문서가 다른 문서와 연결되기 위해서는 인간의 뇌를 거쳐야 했는데요. 그 판도를 바꾸는 '새로운 유형의 구성원'이 등장했죠. 컴퓨터는 점점 '능동적인 행위자'로 변해가고 있습니다. 이제는 컴퓨터가 스스로 정보를 만들고, 알고리즘이 어떤 정보를 전파할지 결정하는데요. 우리는 그 정보를 수동적으로 취하는 단계에 이르렀죠. 즉, 컴퓨터가 만든 정보를 컴퓨터가 선별적으로 퍼뜨리는 새로운 정보 네트워크가 구축되고 있습니다. 정보 네트워크의 큰 전환점이 도래한 것인데요. 전통적인 정보 네트워크의 핵심이었던 인간은 점점 가장자리로 밀려나고 있는 상황이죠.
새로운 정보 네트워크의 출현 : AI가 통제하는 현실, 정치, 사회, 문화
더 큰 문제는 우리가 AI를 만들었지만 AI가 점점 우리가 이해하지 못하는 방향으로 진화하고 있다는 점입니다. AI는 이제 스스로 학습, 추론하여 능동적으로 행동하는 단계에 접어들었는데요. 아이에게 걷는 법을 가르치고 글을 가르치고 제도권 교육으로 학습하는 방법을 가르치면 그 이후 스스로 부딪치며 새로운 것을 배우고 세상을 이해해 나가는 것처럼 AI도 이제 스스로 상장하는 단계까지 발전했죠. 그래서 AI가 도출한 결과에 대해 인간은 그 이유와 과정을 이해하지 못합니다.
점점 인간의 통제권을 벗어나고 있는 것처럼 보이는데요. 더 심각한 점은 인간에게 정보 네트워크는 근간이라는 점이죠. 우리는 정보 네트워크에 의해 연결되며 그것을 바탕으로 문화, 사회, 종교, 법, 국가, 유한회사, 화폐 등의 질서를 유지, 보완하고 있습니다. AI 도래 이전까지는 인간이 만든 정보를 바탕으로 모든 상호주관적 현실이 만들어졌는데요. 우리가 직접 만들었고, 그것을 수정할 자정 장치도 있었기 때문에 언제든지 오류, 허구, 누락을 바로 잡을 수 있었죠.
하지만 이제는 AI가 만든 정보를 바탕으로 우리는 연결되고 있습니다. 즉, AI가 만든 질서를 따르기 시작한 시점인데요. 하라리는 '컴퓨터 기반의 새로운 정보 네트워크가 새로운 현실, 정치, 사회, 문화를 재설계하고 있다'라고 지적했죠. 그리고 그것이 어떻게 만들어졌는지도 더 이상 이해하지 못합니다. 이해하지 못하면 잘못을 바로잡을 수도 없다는 의미인데요. 즉, 이대로 넋 놓고 있다가는 AI가 이끄는 세상에 살게 되는 것이죠.
컴퓨터에 의해 진실과 질서가 통제되는 세상.
오류 가능성 : 네트워크는 자주 틀린다
혹자는 인간이 탐욕, 이기심, 분노, 공포와 같은 본능적 욕망과 감정에 쉽게 이끌리는 감정적인 동물인 데다 인지능력에도 한계가 있기 때문에 '이성적인 AI가 진실을 바로 잡고 더 안정적으로 질서를 유지할 수 있지 않을까'라고 의문을 품을 수도 있습니다. 이러한 의문과 달리 컴퓨터 네트워크의 오류 가능성도 상당히 높은데요. 우선 알고리즘의 문제부터 살펴보죠. 하라리는 알고리즘이 인간의 다면적 감정인 증오, 애정, 분노, 기쁨, 혼란 등을 단 하나의 포괄적 범주인 '참여도'로 환원한다고 지적했습니다. 여러 감정 중에서도 분노가 가장 높은 참여도를 나타낸다고 하는데요. 그래서 알고리즘은 우리를 더 오래 붙잡아 두기 위해 분노를 조장하는 콘텐츠를 더 많이 공유하도록 진화했죠. 그로 인해 많은 사람들이 현대 사회 갈등이 격화되는 원인이 알고리즘에 있다고 지목하기도 합니다. 단순히 참여도를 높이겠다는 목적으로 컴퓨터 네트워크가 사회 '질서'를 분열로 내몰고 있는 것인데요. 문제는 이뿐만이 아니죠.
인공지능은 머신러닝 기술을 기반으로 스스로 학습합니다. 문제는 학습하는 데이터에 있는데요. 인류가 정보 네트워크 규모를 키우며 쌓아온 데이터들이죠. 여기서 정보 네트워크의 진실을 한번 더 되짚어 볼 수밖에 없습니다. 앞서 정보는 항상 진실을 반영하는 것이 아니라 진실과 질서의 줄타기라고 설명했는데요. 질서를 위해 진실이 희생되기도 하며, 진실을 위해 질서가 희생되기도 하죠. 이러한 정보 네트워크의 작동 원리로 인해 정보에는 오류, 허구, 누락 등이 있을 수 있습니다. 이러한 데이터로 AI가 학습한다는 게 맹점인데요. 오류가 포함되어 있는 데이트로 학습한 인공지능은 오류나 편향성을 가질 수밖에 없죠.
대표적인 사례로 아마존이 입사 지원서 면접 대상자 선별 알고리즘을 만들었는데, 여성 혐오적 편향을 내면화하는 문제가 발생해 결국 프로젝트를 폐기했습니다. 인간이 제공한 데이터에 여성 혐오적 편향이 포함되어 있었기 때문인데요. 이 사례에서 개인적으로 흥미로웠던 점은 프로젝트를 '폐기' 했다는 점입니다. 알고리즘이 편향성 있는 데이터를 도출한 과정이나 원인을 찾아낼 수 없었고, 수정도 할 수 없었기 때문이라고 합리적인 의심을 해볼 수 있는데요. 이 대목에서 인공지능이 인간의 통제를 벗어났다는 진실을 발견할 수 있죠. 그 외에도 실제 데이터로 학습한 알고리즘이 인종 차별, 성차별, 소득 차별 그리고 정치적 편향 등의 오류를 포함한 사례들이 있습니다.
마무리 : 새로운 정보 네트워크에 대처하는 자세
정보 네트워크는 협력의 근간이자 힘의 원천으로 잘 관리되어야 합니다. 이전까지는 정보 네트워크의 중심에 인간이 었었는데요. 인간도 오류, 허구, 누락을 범해 왔지만 그것을 바로 잡을 자정 장치가 있었죠. 학술 기관, 언론, 사법부, 기업, 관료 등은 진실과 질서의 적절한 균형을 유지하는 장치가 되어 주었습니다. 물론, 관료제의 정보 무기화로 진실이 희생되고 일부 권력층에 힘을 부여하는 경우도 있었는데요. 그러나 정보 네트워크는 진실과 질서 사이의 균형을 잘 맞춰왔죠.
그런데 컴퓨터 기반의 새로운 정보 네트워크는 자정 기능을 상실하는 방향으로 흘러가고 있습니다. 인간을 거치지 않고 정보를 만들어 내고, 그 정보도 스스로 선별해서 공유하고 있으며, 오류를 바로잡을 장치도 없는 상황인데요. AI로 정보 네트워크의 주체가 넘어가고 있는 상황이죠. 하라리는 아직까지는 컴퓨터로 주도권이 넘어가고 있는 현 상황을 통제할 수 있다고 했습니다. 통제권이 완전히 넘어간 것은 아니기 때문인데요. 지금이라도 브레이크를 밟으면 대형사고를 피할 수 있다는 의미이죠.
하라리는 우리가 핵무기나 생물학무기 같은 위험한 기술을 규제한 경험이 있기 때문에 AI도 규제할 수 있을 것이라고 했습니다. 그리고 인간은 진실에 관심이 있기에 바로잡을 기회가 있다고 했죠. 그러기 위해서는 다시 '협력'이 필요합니다. 인간 중심 정보 네트워크를 바탕으로 한 협력이 필요하죠.
이 책은 정보 네트워크가 인류 협력의 근원임을 밝히며, AI 기술 혁신으로 완전히 새로운 정보 네트워크가 구축되고 있음을 보여줍니다. 이 기술이 인류에게 주는 이점도 있지만 엄청난 위험성도 내포하고 있다는 날카로운 시각을 제시하는데요. AI는 더 이상 특정 소수를 위한 기술이 아닙니다. 이미 현대인들의 삶에 깊이 뿌리내린 기술로써 모두가 관심 가져야 할 사안이죠. 개인적으로도 AI가 인류의 삶에 다양한 이점을 안겨다 주겠지만 통제 가능한 범위 내에서 안전히 발전되길 바라는 마음입니다.
새로운 혁신의 잠재성과 위험성을 동시에 알아볼 수 있는 유용한 책.
'서평' 카테고리의 다른 글
| [책 리뷰] 가난한 찰리의 연감 : 삶과 투자를 관통하는 철학서 (ft.워런 버핏) (1) | 2025.03.01 |
|---|---|
| [책 리뷰] 거의 모든 것의 역사 : 과학을 통한 인문학 탐구 (0) | 2025.02.17 |
| [책 리뷰] 프로젝트 헤일메리 : SF소설, 외계인, 성간 항해, 지구가 식어간다 (0) | 2025.01.19 |
| [책 리뷰] 이토록 멋진 휴식 : 휴식은 생산적이다, 휴일 잘 쉬는 법, 휴식 시간, 취미 활동 (1) | 2025.01.04 |
| [책 리뷰] 뉴 맵 : 에너지, 기후, 지정학, 전기차, 대체 에너지로 보는 21세기 패권 전쟁 (3) | 2024.12.22 |
