[독서] 21세기를 위한 21가지 제언

평점 : ★★★★

• 아마도 21세기 포퓰리즘 반란은 사람들을 착취하는 경제 엘리트가 아니라 더 이상 사람을 필요로 하지 않는 경제 엘리트에 맞서는 구도로 전개될 것이다. 이는 지는 싸움이 될 가능성이 높다. 착취에 반대하는 것보다 사회와 무관해지는 것에 맞서 투쟁하기가 훨씬 힘들기 때문이다.
  
  
• 1990년대 초까지 사상가들과 정치인들은 하나같이 ‘역사의 종언’을 반겼다. 확신에 찬 목소리로, 과거의 정치적, 경제적 문제는 다 해결됐으며, 민주주의와 인권, 자유 시장과 정부의 복지 서비스로 재단장한 자유주의 패키지야말로 여전히 유일한 해법이라고 주장했다. (중략) 트럼프와 브렉시트에 찬성표를 던진 사람들 대부분은 자유주의 패키지를 전면 거부한 게 아니다. 주로 세계화에 대한 믿음을 잃었을 뿐이다. 그들은 여전히 민주주의와 자유 시장, 인권, 사회적 책임을 믿는다. 하지만 이런 좋은 생각들도 국경에서는 제한될 수 있다고 생각한다.
  
  
• 인간만의 인지적 기술이란 학습과 분석, 의사소통, 무엇보다 인간 감정을 이해하는 능력을 말한다. 그렇지만 AI는 이제 이런 기술에서도 점점 인간을 추월하고 있다.
  
  
• 음식부터 배우자에 이르기까지 모든 것에 대한 우리의 선택이 어떤 신비로운 자유 의지가 아니라 아주 짧은 순간에 확률을 계산하는 수십억 개의 뉴런에서 비롯하는 것임을 알게 됐다. ‘인간의 직관’이라고 과시해온 것들이 사실은 ‘패턴 인식’으로 드러난 것이다.
  
  
• 불과 지난 수 세기 동안 권위의 원천은 천상의 신에게서 피와 살을 가진 인간으로 이동했다. 조만간 권위는 다시 이동할지 모른다. 이번에는 인간에게서 알고리즘으로 말이다. 
  
  

• 감정은 모든 포유류와 조류가 생존과 재생산의 확률을 재빨리 계산하기 위해 사용하는 생화학적 기제라고 말한다. 감정은 직관이나 영감, 자유가 아니라 계산에 기반을 둔 것이다.
  ▶ 이런 논리라면, 머리 회전이 빠른 사람이 감정도 더 빨리 처리한다는 뜻이 되려나?

  
  

• 돌이켜 보면 인류 역사상 법 집행의 한계야말로 입법자들의 편견과 실수와 남용에 대한 그나마 다행스러운 견제장치였다.
  ▶ 그러나 앞으로 AI 시대가 오면, 모든 상황에 짤없이 적용되는 법집행이 가능해질 수 있다. 우리는 혹은 우리가 선정한 입법자들은 완벽한 법을 만들 수 있을까? 아니, 애초에 모든 상황에 완벽하게 대응가능한 완벽한 법이라는 게 있을까?
  
  
• 20세기 후반 민주주의가 독재를 능가했던 것은 데이터 처리에서 우월했기 때문이다. 민주주의는 정보를 처리하고 결정하는 권한을 사람과 기관에 분산하는 반면 독재는 한곳에 집중한다. 20세기 기술로 보면 너무 많은 정보와 힘을 한곳에 모으는 방식이 비효율적이다. (중략) 하지만 AI가 등장하면서 조만간 시계추는 반대 방향으로 움직일 수 있다. (중략) 20세기 권위주의 정권의 주요 장애 – 모든 정보를 한곳에 집중하려는 시도- 가 21세기에는 결정적인 이점이 될 수 있다.
  ▶ 이런 의미에서 인공지능 시대에서 다른 어떤 나라보다 중국의 발전을 조심스럽게 예상해 본다. 앞으로 인공지능이 산업에 미칠 영향을 생각 해 보면, 중국의 세계 최강국설이 허언이 아닐 수 있다. 
  
  
• 이런 차별이 여성이나 흑인 같은 특정 집단 전체를 겨냥했을 때 해당 집단은 조직화해서 집단적 차별에 항의할 수 있다. 하지만 이제 알고리즘은 당신을 개인적으로 차별할 수 있을 것이고, 당신은 왜 차별을 받는지 이유조차 알 수 없다. (중략) 21세기에는 집단적인 차별을 넘어 개인 차별의 문제가 점점 더 심각해질 수 있다.
  
  
• 우리가 구글에 “안녕 구글, 네가 차에 대해 아는 모든 것과 나에 대해 아는 모든 것(나의 욕구와 습관, 기후 변화를 보는 관점, 중동 정치에 대한 나의 견해까지 포함)을 감안했을 때, 내게 가장 좋은 차는 뭐라고 생각하니? 라는 질문까지 할 수 있게 되면 어떤 일이 일어날까? 만약 구글이 그 질문에 좋은 답을 제시할 수 있다면, 그리고 우리가 경험을 통해 쉽게 조종당하는 감정보다 구글의 지혜를 더 신뢰하게 된다면 차량 광고가 무슨 소용이 있을까?
  ▶ 데이터가 축적되면서 인간의 권위가 알고리즘으로 옮겨가는 경우, 광고 산업 전체가 희생자가 될 수 있다는 의견. 물론 이건 전통적인 광고를 뜻하는 부분이며, 오히려 “구글”에 돈을 내는 새로운 형태의 AI 광고는 더욱 발전할 거라고 본다. 권위 혹은 믿음을 깎아 먹지 않는 선에서 (예를 들어 10순위를 1순위로 올리지는 못하지만, 2~3순위를 1순위로 바꾸는 것 정도는 적용해도 알고리즘의 권위에 큰 영향은 없으리라..) 더 많은 돈을 벌 수 있게 되지 않을까.
  
  
• 인류는 양대 진영으로 나뉠 가능성이 높다. 즉, AI에 중요한 권위를 부여하는데 찬성하는 쪽과 반대하는 쪽이다.
  
  
• 국가는 정치 폭력이 사라진 거대한 공간을 만들었는데, 이제 그것은 공명판이 되어 아무리 작은 무장 공격의 충격도 거대한 소리로 증폭시킨다. 어느 한 국가 내의 정치 폭력이 적을수록 테러 활동이 주는 공적 충격은 더 커진다. 벨기에에서 몇 명을 살해하는 것은 나이지리아나 이라크에서 수백 명을 살해하는 것보다 훨씬 더 큰 주목을 받는다. 역설적이게도 근대 국가는 정치 폭력을 막는데 성공한 결과 스스로 테러에는 더 취약해지고 말았다.
  ▶ 따지고 보면 테러는 항상 발생하는데 왜 유독 선진국에서 테러가 발생하고 훨씬 더 적은 사람의 희생되어도 더 뉴스 거리가 될까? 평소 궁금해 하던 사항에 대한 힌트를 얻을 수 있었다.
  
  
• 우리가 아는 최선의 과학 지식에 따르면, 이 모든 성스러운 텍스트들은 상상력이 뛰어난 호모사피엔스가 쓴 것이다. 그것들은 우리의 선조가 사회 규범과 정치 구조를 정당화하려고 발명한 이야기일 뿐이다.
  
  
• 우리는 우리가 꽤 많이 안다고 생각한다. 사실 개인적으로는 아는 게 미미한데도 다른 사람의 머릿속에 든 지식을 마치 자신의 것이라고 여기기 때문이다. 이런 집단사고에 의존한 덕분에 우리는 세계의 주인이 될 수 있었고, 지식의 착각 덕분에 스스로 모든 것을 이해하려는 불가능한 노력에 사로잡히지 않은 채 삶을 헤쳐 나갈 수 있었다. 진화의 관점에서 보면, 남들의 지식을 신뢰한 것이야말로 호모 사피엔스에게 대단히 유리하게 작용했던 것이다.
  ▶ 우리나라에만 이런 현상이 있는 게 아닐까 싶었는데, 호모 사피엔스의 특성이라고 하니 좀 신기했다. 
  
  
• 어떤 주제를 깊이 파고들고 싶다면 그만큼 많은 시간을 들여야 한다. 특히 시간을 낭비할 수 있는 특권이 필요하다. 비생산적인 경로도 실험해보고, 막다른 길도 탐색해보고, 의심과 심심풀이의 여지도 둬야 하고, 작은 통찰의 씨앗이 서서히 자라서 꽃을 피우게도 할 수 있어야 한다. 시간을 낭비할 수 없다면 결코 진실도 찾을 수 없다.
  ▶ 개인이 발전하기 위해서는, 앙여력이 충만해야 하고, 잉여 시간을 많이 확보해야 한다고 막연히 생각하고 있었는데, 틀린 생각이 아니었다.
  
  
• 지금 세계에서 불의의 대부분은 개인의 선입견보다는 대규모의 구조적 편향에서 나온다. 하지만 우리 수렵-채집인의 뇌는 그런 구조적 편향을 감지하도록 진화하지는 않았다. 그런 편향의 적어도 일부에는 우리 모두가 함께 연루돼 있다. 하지만 우리는 그것을 발견할 시간과 에너지가 없다.
  
  
• 1,000명의 사람이 어떤 조작된 이야기를 한 달 동안 믿으면 그것은 가짜 뉴스다. 반면에 10억명의 사람이 1,000년 동안 믿으면 그것은 종교다. (중략) 성경은 상당 부분이 허구일지 몰라도 여전히 수십억 신도에게 기쁨을 줄 수 있고, 사람들에게 연민과 용기와 창의력을 불어넣을 수 있다. <돈키호테>와 <전쟁과 평화> <해리포터> 같은 다른 위대한 소설 작품들처럼 말이다.
  
  
• 축구는 개인의 정체성을 형성하는 데 도움을 줄 수도 있고, 대규모 공동체를 결속시킬 수도 있을 뿐 아니라, 심지어 폭력 사태의 원인을 제공할 수도 있다. 그런 점에서 민족과 종교는 한층 강화된 축구 클럽이나 다름없다.
  
  
• 그런 세계에서도 살아남고 번성하기 위해서는 강한 정신적 탄력성과 풍부한 감정적 균형감이 필요할 것이다. 반복해서 지금 자신이 가장 잘 아는 것 중에서도 어떤 것은 버리고, 그전에는 자신이 몰랐던 것도 편안히 받아들일 수 있어야 한다. 
   
• 우리 인간이 세계를 정복한 것은 허구적 이야기를 만들고 믿는 능력 덕분이었다. 그래서 특히 우리는 허구와 실체의 차이를 아는 데 서툴다. 차이를 무시하는 것은 우리에게 생존이 걸린 문제였다. 만약 그럼에도 차이를 알고 싶어 한다면 시작점은 고통이다. 세상에서 가장 현실적인 것은 고통이다.
  
  
• 만약 어떤 이야기를 들었을 때, 이야기의 주인공이 실체인지 허구에 불과한지 알고 싶다면 “그것은 고통을 느낄 수 있는가?”라고 물어야 합니다. 민족, 국가, 기업, 돈 같은 것에 관해 우리가 하는 이야기들은 모두 허구입니다.

#1. 종교를 믿는 사람은 마음의 준비를 하고 읽도록 하자. 특정 종교를 가리지 않고, 논리적으로 탄탄하게 깐다. 

#2. 세계사 공부를 했다면 좋지 않았을까? 책에서 나오는 다양한 역사의 에피소드들의 흐름과 백그라운드를 알고 있었다면, 조금 더 저자가 말하고자 하는 내용을 잘 이해하고 책을 좀 더 재미있게 읽을 수 있지 않았을까 싶다. 

#3. 대신 이과와 컴퓨터공학과를 전공한 덕분에 인공지능에 대한 이야기는 좀 더 직관적으로 이해할 수 있었다. 현재의 인공지능(이라고 쓰고 딥러닝이라고 하자)이 잘 활용되는 분야는 digital 로 feature를 추출할 수 있고, 패턴을 잘 찾을 수 있는 영역이다. 이렇게 얘기하면 굉장히 제한적일 것 같지만, 요즘 대부분의 데이터(음성, 사진, 동영상, 위치 정보..)들이 디지털로 대규모로 저장이 되고 있고, 단순히 글자를 인식하는 패턴을 너머 다차원의 레이어가 서로 연결되어 이게 패턴인가? 싶은 것도 찾아내는 판이니 그 활용성은 매우 크다고 할 수 있겠다. 요즘은 1차적으로 이런 디지털 데이터를 많이 수집할 수 있고, 수익과 연결될 수 있는 분야로 인공지능이 발달하고 있다고 생각되는데, 대표적인 분야가 바로 의료 분야와 자율 주행 분야이다. 저자는 기술이 더 발달함에 따라 인공지능이 단순히 이런 분야에 머무르지 않고, 생명공학 기술의 발전과 더불어 인간 자체를 해킹할 수 있는 시대가 오게 될 것이고 주장한다.

#4. 내가 10대 일 때, 나에 관한 정보가 디지털로 저장되던 수준과 20년이 지난 지금 저장되는 수준(나의 위치, 몸무게, 하루에 걷는 양, 수면 시간, 나의 사고를 드러내는 글들, 내가 찍은 사진들, 내가 즐기는 게임들, 기사들, 내가 책에서 좋아했던 문구들, 좋아하는 예능, 좋아하는 영화들 등등..)을 비교 해 보면, 그리 머지않은 미래에 빅데이터와 기계학습 기술을 확보한 회사들이 수익 부분(어떻게 돈을 벌 것인가?)만 해결이 된다면, 인공지능이 인간을 해킹하게 될 것이라는 저자의 주장이 충분히 설득력 있게 들린다.

#5. 여기서 한 발 더 나아가서, 우리가 인간 자체, 인간의 인지 과정에 대해 더 잘 알게 된다면, 반대로 일부 사람들에게 그 능력을 더 올려줄 수도 있게 되고, 이렇게 되면 새로운 계급 사회가 출현할 수도 있음을 경고한다. 예전의 지배계층은 실제로 “능력”이 뛰어난 사람이 아닐 가능성이 컸는데, 미래에 기술의 발전으로 진짜 “능력”이 뛰어난 인간이 나타난다면, 어떤 문제들이 발생할까? 아니, 이렇게 업그레이드된 인간들이 다른 인간들을 리드하는 게 인류 전체로 보면 오히려 맞는 선택이 아닐까? 

#6. 그 외에도 저자는 이렇게 다가올 미래를 준비하기 위해, 사회, 종교, 교육, 과학 등 다양한 분야에서 어떤 논의를 해야 하는지 정말 해박한 지식을 바탕으로 많은 이야기들을 쏟아낸다. 개인적으로는 평소 사회 현상에 대해 궁금한 부분에 대해 그럴듯한 설명과 논리들을 많이 볼 수 있어서 좋았다.