나는 고발한다. 코로나19로 전방위적인 디지털 감시가 정당화됨에 따라 새로운 형태의 전체주의가 부상하고 있음을. 우리가 진정으로 경계해야 할 것은 바이러스가 아니라 인간의 어리석음이다. 코로나19는 언젠가 종식될 것이다. 그러나 포스트 코로나 시대는 결코 이전과 같지 않을 것이다. 다가올 초감시사회에 우리들의 몸과 마음은 모두 데이터로 환원되어 감시당할 확률이 높다. 데이터를 수집하고 활용할 권한을 가진 디지털 빅브라더들이 우리의 생각을 통제하고, 특정한 행동을 유도하고, 더 나아가 우리의 마음을 들여다보고 해킹하는 일은 더 이상 공상과학영화만의 이야기가 아니다. 디지털 빅브라더는 포스트 코로나 시대의 초감시사회를 지배하는 ‘친절한 독재자’로 군림할 것이다.
---「나는 고발한다」중에서
사이버 유토피아의 가능성을 보여준 인터넷도 감시의 역사가 증명하는 법칙, ‘모든 기술은 권력자가 지배하는 감시체계 발전에 활용된다’에서 결코 예외가 될 수 없음이 증명됐다. 한때 자유와 평등의 가치를 신봉하던 인터넷기업들은 우리의 일거수일투족을 감시하며 데이터를 게걸스럽게 먹어치우는 ‘디지털 빅브라더’로 변질됐다. 한때 후드티를 입고 차고에서 밤새 코딩을 하던 청년들은 시간이 흘러 이제 제국의 근엄한 권력자들이 되었다. 이토록 소수에게 이토록 다수를 감시할 수 있는 권한이 부여된 것은 감시의 역사상 전례 없는 일이다.
---「닷컴버블이 남긴 위대한 유산」중에서
미국 정보기관 NSA의 전 요원 에드워드 스노든의 폭로로 세계는 혼란에 휩싸였다. 우리가 매일 사용하는 주머니 속 스마트폰이 알고 보니 정보기관의 감시장치였다는 사실에 사람들은 경악했다. 그러나 이에 반감을 가진 것도 잠시, 사람들은 금세 편리한 스마트폰에 다시금 길들여졌고 개인정보가 노출되고 제3자에게 감시당하는 것을 대수롭지 않게 여겼다. 인터넷기업들은 단 1분이라도 더 사용자를 붙잡아 두기 위해 갖가지 중독적인 장치(뇌의 도파민을 자극하는 빨간색 알림, 추천 콘텐츠, 팝업 정보 등등)를 고안해 냈고 우리는 스마트폰에 점점 종속되었다.
---「디지털 냉전의 서막」중에서
필터 버블에 갇힌 것은 정보의 바다에 위치한 작은 무인도에 고립된 것과 같다. 그것도 망원경이 없는 채로 말이다. 무인도에 고립된 사람은 이곳이 세계의 전부라고 착각한다. 가보지 않은 미지의 영역이 지도에 ‘아직 모름’으로 표시되는 것과 ‘존재하지 않음’으로 표시되는 것은 완전히 다른 이야기이다. 필터 버블은 사용자에게 익숙하지 않은 정보를 차단함으로써 미지의 영역을 지도에서 깔끔하게 제거해 버린다. 맞춤형 서비스를 이용하는 인터넷 사용자들은 ‘필터 버블 너머의 세계’를 상상하고 탐험할 기회를 박탈당한다. 상상의 거세는 곧 창의성 저하로 이어지고 몰개성과 획일화를 낳는다.
---「필터 버블, 맞춤형 서비스의 함정」중에서
기술은 중립적이지만 이를 활용하는 사람은 그렇지 않다. 다이너마이트를 건축에 사용하는 이도, 전쟁에서 사용하는 이도 모두 사람이다. 마찬가지로 인터넷을 어떻게 활용할지를 결정짓는 주체도 사람이다. 모든 사람에게 선의를 기대하기는 어렵다. 누군가는 분명 자신의 이익을 위해 딥 페이크, 필터 버블, 타깃 광고와 같은 기법을 활용해 민주주의에 흠집을 내려 할 것이다. 그 결과, 우리는 선거 조작, 대량학살과 같은 부조리한 일이 다시금 발생하는 것을 목도해야 할 수도 있다. 이러한 위험에 대해 디지털 빅브라더가 무책임하게 방관하는 한, 앞으로 민주주의는 반복적으로 훼손될 위기에 처할 가능성이 높다.
---「어떻게 인터넷은 민주주의를 위협하는가」중에서
블록체인에 대한 큰 오해 중 하나는 블록체인이 디지털 빅브라더를 와해할 기술이라는 기대이다. 탈중앙화를 지향하는 블록체인 기술로 디지털 빅브라더의 기득권을 깨고 사이버 유토피아를 구축할 수 있다는 것이 이상주의자들의 생각이다. 그러나 이는 순진한 생각이다. 블록체인은 돈의 흐름을 감시하고 통제할 권력이다. 모두가 들여다볼 수 있는 분산 장부에 거래 내역을 기록한다는 것은 그만큼 감시체계가 고도화될 수 있다는 뜻이다. 블록체인은 디지털 빅브라더들의 권력을 해체하는 것이 아니라 오히려 그들에게 더욱 큰 권한을 부여할 것이다.
---「블록체인과 현금 없는 사회」중에서
스마트스피커는 디지털 빅브라더의 감시를 질적으로 개선하는 데 혁혁한 공을 세우고 있다. 디지털 빅브라더가 기존에 데이터를 수집하는 경로는 인터넷뿐이었고 감시 범위 또한 사용자의 다양한 온라인 활동에 국한됐었다. 그러나 이제 디지털 빅브라더는 스마트스피커를 통해 음성 데이터를 상시적으로 추출해 내고, 사용자의 오프라인 일상을 감시하는 것이 가능해졌다. 『1984』 속 텔레스크린처럼 말이다. 스마트스피커는 인터넷과 스마트폰을 사용하지 않을 때에도 당신을 감시하고 있다. 당신이 집에서 밥을 먹거나, 소파에서 텔레비전을 보거나 심지어 침실에서 자는 순간까지도 말이다.
---「스마트스피커가 당신의 일상을 염탐한다」중에서
중국 정부는 시민들로부터 수집한 얼굴 데이터를 기반으로 안면 인식 알고리즘을 고도화한다. 또한 CCTV뿐 아니라 여타의 안면 인식 기기를 아파트, 학교, 공중화장실, 쇼핑몰, 호텔, 대중교통 출입구, 은행, 관공서 등에 설치해 시민들을 감시한다. (…) 중국의 안면 인식 확산 기세가 무서운 것은, 이 기술이 초감시사회에 악용될 소지가 다분하기 때문이다. 중국 정부가 안면 인식 기술을 시민의 편의성 증진과 범죄자 색출의 목적으로만 사용할 것이라고 믿는 것은 순진한 발상이다. 얼굴 데이터 등록이 의무화됨에 따라 중국 정부는 체제에 불만을 품은 세력, 소수민족, 홍콩 민주화운동 지지자들을 실시간으로 감시하고 통제하는 것이 손쉬워졌다.
---「마음을 읽는 안면 인식 기술」중에서
가장 완벽한 지배는 피지배자가 자유의지를 잃지 않았다고 착각한 상태에서 실현된다. 이런 측면에서 미루어 봤을 때 알고리즘의 지배는 무척 정교하다. 마음을 해킹당한 사람들은 자신이 알고리즘의 노예라는 사실을 전혀 깨닫지 못할 테니 말이다. ‘나는 누구인가?’라는 오래된 철학적 질문은 미래에는 구식 취급을 받을지도 모른다. 21세기에 보다 걸맞은 철학적 질문은 바로 ‘알고리즘은 내가 무엇이 되기를 원하는가?’이다.
---「마음을 해킹당한 알고리즘의 노예들」중에서