2007년 여름과 가을에 정부가 소셜미디어 웹사이트에 대한 접속을 차단하고 있다는 이야기들이 무수히 떠돌았다. 튀니지, 쿠웨이트, 터키가 처음 차단하기 시작했고, 바레인, 아랍에미리트가 그 뒤를 따랐으며, 그해 겨울에는 이란이 합류했다. 중국은 아예 처음부터 접속을 금지했다. 무사한 플랫폼은 없었다. 유튜브, 플리커Flickr, 페이스북, 트위터 모두가 차단 대상이었다.
2009년 말, 여러 국가가 온갖 소셜네트워크를 차단했다 풀었다를 반복하는 통에 어떤 국가가 어떤 소셜미디어를 차단하는지 일일이 추적하기조차 힘들어졌다. 하지만 우리도 노력은 했다. 국가가 표현의 자유의 적이라는 사실은 명백했고, 플랫폼이 정의의 편이라는 것도 명백했다…. 적어도 당시에는 그렇게 보였다.
---「들어가는 글」중에서
역사를 돌아보면 다양한 기관들이 일반 시민이 무엇을 보고 말할 수 있는지에 관한 법을 만들고 강제했다. 전통적으로 그것은 교회나 군주의 영역이었지만, 1648년 베스트팔렌조약Peace of Westphalia 이후 민족국가의 주권이 사회의 기본적인 질서 원칙으로 급부상했고, 그 결과 민족국가와 그에 속한 하위 행정 구조가 사람들이 무엇을 하고 말할 수 있는지와 어떤 정보를 접할 수 있는지를 결정하는 최고 심판자가 되었다.
---「1장 새로운 문지기들」중에서
아랍 지역의 반정부 시위에서 소셜미디어가 담당한 역할에 관해 여러 글을 다각도로 자세하게 쓴 카이로 아메리칸대학교의 교수인 라샤 압둘라는 실용주의적인 관점을 취한다. 영상 통화에서 그녀는 내게 이렇게 말했다. “소셜미디어는 훌륭한 가속페달이자 훌륭한 조력자, 훌륭한 기획자였습니다. 소셜미디어가 없었어도 이집트에서 혁명이 일어났을까? 아마도요. 그러나 소셜미디어가 없었다면 그 시기가 20년 정도 뒤로 밀렸겠죠.” 그녀는 이어서 말했다. “소셜미디어는 사람들에게 그들이 목소리를 낼 수 있고, 그 목소리가 의미가 있다는 느낌을 줬어요. 이집트에서 젊은이들이 최초로 진짜 목소리를 낼 수 있는 공간이었습니다.”
---「3장 소셜미디어 혁명가들」중에서
한때는 선善의 편이 되어줄 거라고 믿었던 힘이었건만 이들 기업은 그들의 본래 사명에서 너무 멀리 벗어나버렸다. 저커버그 등의 무리가 전 세계 시민을 목표물로 정한 광고주를 수입원으로 삼는 사업모델을 채택함으로써 그들은 점점 더 권력의 비위를 맞추게 되었고, 그 권력의 뿌리에 대해서는 거의 신경 쓰지 않는 듯하다. 기업의 지도자들은 한때는 자신의 플랫폼이 지닌 힘이 시민들이 정부를 전복할 수 있게 돕는다고 말했지만, 오늘날 그들이 독재자와 비밀 면담 자리에서 하는 뒷문거래로 인해 시민들의 표현이 고사枯死하고 있다.
---「4장 사람보다 수익이 먼저」중에서
수드라의 제안은 ‘유해성’에 관한 정의가 얼마나 주관적인 것인지를 보여준다. 그리고 실리콘밸리 플랫폼들이 실제 시행하는 정책에 비추어 보면 그들이 말하는 ‘유해성’이라는 관념이 역사적으로 미국인이 정의한 관념과 거의 정확하게 일치한다는 사실이 점점 더 확실해지고 있다. 그래서 페이스북은 자사 플랫폼에서 총기 광고를 게시하는 것은 허용하면서도 ‘질’에 관한 책 광고를 게시하는 것은 금지한다. 그래서 도널드 트럼프는 트위터에서 다른 국가를 무력 침공하자고 트윗해도 아무런 제재를 당하지 않지만, 여성의 유방은 틈새 사이에 꼭꼭 감춰진다.
---「7장 성과의 전쟁」중에서
우리는 트위터 타임라인, 페이스북 피드, 유튜브 목록이 우리가 스스로 제공한 데이터를 토대로 우리가 좋아할 것이라고 알고리즘이 판단한 콘텐츠로 채워진다는 것을 안다. 그러나 우리가 잘 모르는 사실은 화면 뒤에서 AI가 플랫폼의 규정을 어떤 식으로 강제하며, 인간 콘텐츠 감독관을 어떻게 보조하고 대체하는가이다.
---「8장 인간에서 기계로」중에서
우리 사회에 스며들고 퍼지고 있는 혐오 표현에 대처하는 것은 매우 절박한 문제다. 그것을 단순히 소셜미디어의 폐해 중 하나로 치부해서는 안 된다. 플랫폼 기업들은 그런 혐오 표현의 확산을 허용했고 증폭했다. 우리는 플랫폼의 역할에 대해서도 고민해야 하지만 이 문제의 근원도 파악해야 한다. 가정에서, 학교에서, 권력 집단이 모인 회의실에서. 검열로 최악의 범죄와 재난이 발생하는 것을 어느 정도까지는 막을 수 있을지도 모른다. 그러나 그것만으로는 문제의 뿌리를 뽑을 수 없다.
---「9장 혐오의 전염성」중에서
더 나은 미래를 빚으려면 우리는 과거에서 배워야만 한다. 미래가 아직 쓰이지 않았다는 것, 이것이 우리의 미래여야 할 필요는 없다는 것을 깨달아야 한다. 당시에는 사소한 결정이나 발견처럼 보였지만 실제로는 우리를 새롭고 다른 방향으로 이끈 순간들, 그리고 정반대로 재난에 직면했을 때 행동에 나서지 않았기 때문에 결국 더 큰 고통을 당해야만 했던 순간들이 역사에는 무수히 많다. 우리의 실수를 연구하고, 탐구하고, 탐색하고자 하는 의지와 능력, 그리고 대안 미래를 상상하는 우리의 의지와 능력을 발휘해야 할 때가 왔다. 민주주의, 표현의 자유, 인권의 지속적인 침식은 불가피한 것이 아니다. 다만 우리가 즉시 행동에 나서야만 그것을 멈출 수 있다. 미래는 우리가 써 내려가는 것이다.
---「10장 미래는 우리가 써 내려가는 것」중에서