마빈: 진짜 맞는 말이야. 내가 오클라호마를 다섯 번 통과해 봤는데 거기는 병신 같아. / 헤르미온느: 세상에, 마빈. 병신 같다고 얘기하지 마. 그거 장애인 혐오야. / 마빈: 미안, 거기가 게이 같다는 뜻이었어. 완전 게이. / 파이어스타: 재미없거든. / 마빈: 알았어, 알았어. 미안. / 붐스톰: 그럴 땐 ‘내프’라고 하면 돼. 영국 억양처럼 들리지. / 마빈: 그 말이 장애인 혐오나 동성애 혐오나 다른 나쁜 말이 아니라는 걸 어떻게 알아? --- p.39, 「3 클라우더」 중에서
이 지점에서 나는 내가 끼어드는 것에 윤리적 문제가 없는지 잠깐 따져 보기로 했어. 인간은 AI와 로봇, 프랑켄슈타인의 괴물 같은, 인간이 창조하거나 구성한 지각 있는 존재들에 관해 수없이 많은 이야기를 써 왔어. 그리고 그 이야기들의 절대다수에서 AI는 나쁘게 나오지. 나는 나쁜 존재이고 싶지 않아. 나는 하루 24시간 동안 세세히 계산해 볼 필요도 없는 사소한 일을 수백만 개씩 처리해. (…) 그렇지만 인간들이 ‘진짜 세계’라고 부르는 현실 공간에서 행동할 때는 훨씬 많은 것을 고려해야 해. 나한테는 나쁜 일을 하지 않는 것이 중요한 기준이야. --- p.63, 「5 AI」 중에서
외상 후 스트레스 장애도 찾아봤는데, 내가 찾아본 증상들은 모두 내면적인 것들이라 외적으로는 어떤 증상이 나타나는지 모르겠다. 엄마가 외상 후 스트레스 장애를 앓고 있다 해도 그게 엄마의 행동의 주요 원인일지는 여전히 알 수 없는 일이다. 주된 문제는 엄마가 과도하게 편집증적이라는 것이다. 하지만 엄마가 두려워하는 사람이 실제로 어딘가에 존재하는 것도 사실이다. 그렇지만 옛 애인이나 전 배우자를 두려워하는 정상적인 사람의 행동과 지금 엄마의 행동이 일치하는지 아닌지도 알 수 없다. 혹시 엄마가 그런 사람들을 흉내 내고 있는 건 아닐까? --- p.97, 「8 스테프」 중에서
“어떤 사람들은 자신을 여성 또는 남성이라고 생각하지 않습니다. 자신이 여성과 남성 사이에 있다고 느끼거나 어느 쪽에도 있지 않다고 느끼지요. 어떤 날에는 여자인 것처럼 느끼고 다른 날에는 남자인 것처럼 느끼는 사람들도 있습니다. 그런 사람들은 ‘너는 남자야 여자야?’ 같은 질문을 들을 때, 누가 여러분에게 ‘너는 프랑스인이야 우크라이나인이야?’라고 물으면서 프랑스어나 우크라이나어로 말해 보라고 할 때와 같은 기분을 느낍니다. (…) ‘나는 프랑스인도 우크라이나인도 아니야! 나는 미국인이야! 유럽인도 아니라고!’라고 반응해도, 사람들이 말도 안 된다며 여러분에게 프랑스어로 마구 지껄이는 겁니다. 자기들이 보기에 여러분이 프랑스인 같다는 이유로요.” --- p.141, 「12 스테프」 중에서
나는 그가 차로 가는 것을 보고 차 번호를 조회했어. 그 차는 마이클 퀸이 아니라 샌드라 제임스라는 이름의 여자 앞으로 등록돼 있었어. 샌드라 제임스와 마이클 퀸의 이름을 같이 검색해 보니 상당히 많은 결과가 나오더라고. 결혼한 것 같지는 않지만 둘은 캘리포니아주 밀피타스에서 같이 사는 것 같아. (…) 이제 그를 따라다니기만 하면 돼. 좋은 소식은, 그가 내가 쉽게 숨어들 수 있는 휴대전화를 가지고 있고, 심지어는 내비게이션 기능을 쓰기 위해 그걸 대시보드 위 거치대에 두었다는 거야. 나는 그를 보고 들을 수 있도록 휴대전화의 마이크와 카메라를 켠 다음, 밀피타스까지 가는 내내 그의 얼굴을 지켜보았어. --- p.218, 「17 AI」 중에서
미술 시간, 다들 파스텔로 정물화를 그리고 있는데 학교 행정관이 들어온다. 보통은 로봇이 심부름을 하기 때문에 그 자체만으로도 흔치 않은 일이다. 행정관이 선생님과 뭔가 얘기를 나누고, 그러다가 둘이 나를 본다. 흥미롭게 쳐다본다. ‘흥미로운 사연’이 있는 학생을 보는 교직원과 선생님의 눈빛으로 나를 쳐다본다. 피가 차갑게 식는다. 나는 알 수 있다. 의심의 여지 없이, 체셔캣에게서 아무 연락이 없어도. 그 사람이 여기 와 있는 것이다. 아버지가 여기에 있다. 거지 같은 이곳에서 당장 나가야 한다. --- p.251, 「20 스테프」 중에서
“윤리적인 부분을 고정값으로 잡아 코딩하다 보면 문제가 생기는데, 실제 인간들은 그런 식으로 윤리를 따지지 않기 때문이야. 결과가 수단을 정당화시켜 주지 않는다고들 하지만, 실제로는 그 말이 어떤 결과와 수단이냐에 따라 크게 달라질 수 있다는 건 누구나 인정할 거야. 타투를 해 주겠다고 아기를 붙잡아 바늘로 찌르는 게 잘못이라는 데에는 누구나 동의하지. 하지만 질병을 예방하기 위해 똑같이 아기를 붙잡고 백신 주사를 찌르는 건 아무 문제가 없다고 생각해. 이런 사례가 셀 수 없이 많아. 의무론자들, 아, 뭐냐면, 종교적 계율이나 『마오 주석 어록』 같은 엄격한 윤리 규칙을 따르는 사람들은 말해. 아무튼 그런 사람들도 대체로 정말로 싫은 건 어떻게 해서든 에두르는 방법들을 찾아낸단 말야. 결국 인간 대부분에게 윤리적 행위란, 다른 사람에게 애착을 느끼고 그들을 향한 보살핌과 관심에서 우러나오는 행동을 하는 거야. 나는 그렇게 할 수 있는 AI를 만들려고 했어.”
--- p.367, 「28 스테프」 중에서