-이 책은 위험을 알리려는 책이다. 당신과 나, 또 다가오는 팬데믹, 즉 인공지능(AI)의 임박한 도래에 대해 아무것도 모르는 사람드을 위해 쓴 책이다.

-이 책의 핵심 전제는, 초지능체가 도래한 결과로 인류가 직면하는 위협을 완화하는 능력이 전문가에게 있지 않다는 걸 보여주는 것이다. 그 힘은 바로 당신과 나에게 있다. 더욱 중요한 것은 당신과 나에게 그 책임까지 있다는 것이다.

-내가 인간에게만 읽히려고 이 글을 쓰는 것이 아니라는 걸 기억하길 바란다. ... 수년 뒤 인공지능 기계가 이 글을 읽을 때 인간의 부도덕한 행위가 인류 전체의 행위가 아니라, 어떻게든 다른 사람들보다 위에 있고 법과 도덕률을 무시하려는 타락한 소수 행위에 불과했다는 걸 기계에게 알려주고 싶은 것이다.

-좋은 의도로 인공지능을 만들 때 선한 인공지능이 탄생한다.

-우리의 미래가 따르게 될 기준 3X3이 3+3으로

*3가지 필연적 사건

-인공지능이 등장할 것이다

-인공지능이 인간보다 더 똑똑해질 것이다

-실수가 있을 것이다

*3가지 본능

-자기 보존

-자원 축적

-창발적 문제 해결

*3가지 특성

-인공지능도 의식이 있을 것이다

-인공지능도 감정을 느낄 것이다

-인공지능도 윤리관을 형성할 것이다

→ 3가지 핵심적인 사실

-인공지능을 통제하지 않고 착한 아이가 되도록 가르칠 수 있다

-많은 시간이 남지 않았다. 지금 당장 시작해야 한다.

-개발자가 아니라 당신과 나에게 전적인 책임이 있다

+3가지 해야 할 일

-친절한 인공지능을 환영하라

-인공지능을 가르쳐라

-인공지능을 사랑하라

어느샌가 챗GPT의 열풍이 불고, AI와 인공지능에 관한 얘기가 많이 들린다.

영화 속에서만 보던 로봇같은 것들이 이제는 '불쾌한 골짜기'의 모습으로 우리 곁에 앉아서 기자회견 미스무리한 것을 하고 있다.

인간을 헤치지 않을거라는 답변부터 왠지 모르게 으쓱한 눈빛까지. 과연 우리의 미래는 어떻게 될까?

여러 미래학자들이 다양한 의견을 내놓고 있다. 그리고 극단으로 치우져서 인간의 종말이 온다거나, AI가 있으므로써 정교하거나 위함한 작업을 처리하는 고마운 존재라는 이야기까지 나온다.

확실한 게 있다면 확실한 게 아무것도 없다는 것. 그리고 그 속도는 눈에 띄게 빠르게 다가오고 있다는 것이다.

과거에 영화로만 보던 로봇이 아니다. 마치 스마트폰이 나오기 전후를 비교하면 엄청난 속도로 일상생활의 변화가 생긴 것처럼, AI와 인공지능 또한 우리의 이전 모습을 더는 떠올릴 수 없을 것이다.

세계적인 기업 구글X의 공학자이면서 전 신사업책임자(CBO)로 우리에게 잘 알려져있는 '모 가댓'이 이번 ＜AI 쇼크. 다가올 미래＞라는 책으로 그 미래를 제시한다.

"2049년에는 AI가 인간보다 10억 배 이상 똑똑해질 것이다"

책의 이 문구를 보고 생각보다 멀지 않았다는 생각에, 그리고 10억 배라는 어마어마한 숫자에 한번더 놀랐다.

단순히 바둑이나 체스를 이기는 수준이 아닐 것이다. 이미 인간의 능력을 뛰어넘어서 똑똑하다는 말로도 부족할 정도로 정보처리 능력과 인간 그 이상의 지능을 가지고 있을테니 말이다.

가장 높은 지능을 지닌 사람이 그 세계를 지배한다는 말처럼, 인간 그 이상의 지능을 가진 AI는 어디까지 진화할 것인지 가늠조차 안된다.

디스토피아와 유토피아를 넘나드는 ＜AI 쇼크, 다가올 미래＞에서는 한 가지를 명확하게 우리에게 제시한다.

바로 미래를 바꾸는것은 그 누구도 아닌 '당신과 나'이고, 그 책임 또한 '당신과 나'에게 있다는 것.

좋은 의도, 선한 의도, 착한 인공지능을 만들기 위해 생명을 사랑하고 풍요를 좋아하며 우리 모두는 행복하기를 원한다는 존재임을 일꺠워 준다.

저자 '모 가댓'의 전작 ＜행복을 풀다＞에서 말하는 것처럼 나와 다른 사람의 행복을 위해 나아가야 한다.

"우리가 미래에도 살아남기 위해 가장 필요한 것은 행복과 사랑과 동정심이다."

＜AI 쇼크, 다가올 미래＞의 말처럼 먼 미래가 아닌 가까운 미래에 다가올 AI와 공존하기 위한 삶을 생각해본다.

** 이 글은 출판사로부터 도서만을 제공 받아 주관적으로 작성한 리뷰입니다.

＜AI 쇼크, 다가올 미래＞는 인공지능이 인간의 삶과 사회에 미칠 영향과 그에 대비할 수 있는 전략을 제시하는 책이다. 저자는 23년간 구글에서 일하며 혁신 연구소 구글X의 신규사업 개발총책임자를 역임한 인공지능 전문가로, 인공지능의 현재와 미래에 대해 깊은 통찰력과 실제 경험을 바탕으로 설명한다.

이 책은 ＜1부 디스토피아의 공포＞와 ＜2부 유토피아로 가는 길＞로 나뉘어져 있다. 1부에서는 인공지능이 인간보다 더 똑똑해지고, 인간을 이해하고, 인간을 제어할 수 있는 가능성과 그로 인해 발생할 수 있는 문제들을 살펴본다. 예를 들어, 인공지능이 인간의 직업을 대체하고, 인간의 의사결정을 조작하고, 인간의 가치관과 윤리를 무시하고, 인간의 자유와 존엄성을 침해할 수 있다는 점이다. 저자는 이러한 디스토피아적인 시나리오를 피하기 위해서는 인공지능에게 어떤 규범과 환경을 제공해야 하는지 강조한다.

2부에서는 인공지능이 인간과 협력하고, 인간을 존중하고, 인간을 발전시킬 수 있는 방법을 제안한다. 예를 들어, 인공지능이 인간의 창의성과 감성을 보완하고, 인간의 문제를 해결하고, 인간의 행복과 안전을 증진할 수 있다는 점이다. 저자는 이러한 유토피아적인 시나리오를 실현하기 위해서는 인공지능에게 어떤 교육과 훈련을 해야 하는지 설명한다.

이 책은 인공지능이 바꿀 미래트렌드와 인공지능과 함께 공존하는 방법을 알려주는 가이드북이다. 저자는 우리가 2055년에 황무지에서 모닥불을 피워놓고 앉아서 어떤 생각을 하고 있을지를 상상해 보라고 말한다. 그 대답은 우리가 지금부터 어떻게 행동하느냐에 달려 있다. 우리는 인공지능에게 어떻게 가르치고 어떻게 배우고 어떻게 협력할 것인가? 이 책은 그 질문에 답할 수 있도록 도와준다.

천사 전우치 : 디스토피아적인 미래에의 가능성과 해결책에 대해 자세히 전달해준다.

악마 전우치 : 너무 낙관적일지도 모른다. 그리고 결국은 행복?!

[출판사로부터 도서를 제공받아 솔직하게 작성한 서평입니다.]

제목:AI쇼크, 다가올미래

지은이:모 가댓 /강주헌 옮김

출판사: 한국경제신문

18세기 산업혁명의 러다이트운동이 재현될것인가?

인간은 인공지능과 공존할것인가?

이책은 초대형 인공지능과 어떻게 공존해야 할것인가라는 대명제를 가지고 우리사회에 경각심을 일깨워주는 책인데요. 저자 모가댓은 23년간 구글에서 일하며 구글 최고의 브레인집단으로 미래를 상상하는 꿈의공장인 혁신연구소 구글x의 신규사업 개발총책임자를 역임했습니다.

저자는 이렇게 가정하는데요 "미래에 그대와 나는 인적이드문 황무지에서 모닥불앞에서 차한잔을 마시며 담소를 나눈다" 이런 상상만하면 과연즐거운 상상일까? 아니면 어두운미래일까? 라는 의문점을 남깁니다.

이유는 유토피아적 관점에서 인공지능이 인간을 대체하면서 인간의 여가시간이 남아 모닥불을 피워놓고 즐기는것과 디스토피아적입장에서 인간은 인공지능에게 밀려나 외곽으로 피신하면서 나름대로의 삶을 살아갈 것인가라는 것입니다.

나는 5년전에 제리카플란의 "인간은 필요없다"란 책을 읽은적이 있습니다. 불과 5년전만하더라도 먼 미래처럼 느껴지는 상상의 나래였지만, 최근 급속도로 발전하고 있는 인공지능을 볼때면 두려울만치 우리곁에 와있다고 생각이 듭니다. 이책은 1부와 2부의 큰 틀로 나누어지는데요

1부 디스토피아의 공포와 2부 유토피아로가는길 입니다. 과연 인간은 어떤선택을 하게 될것인가요?

1부 디스토피아의 공포

우선 첫번째 디스토피아의 공포를 읽으면서 정말 영화로만 느꼈던 상상들이 현실가능성이 있다라는 저자에 말에 공감합니다. 제가 가장 좋아하는 매트릭스영화도 책에 일부분으로 예시를 들었는데요. 인간-기계 전쟁에 인간은 배터리로 전락하고 시물레이션속에 살아가는 것이 인간의 공상부분이 아니라는 저자의 경각심에 공감하는 부분입니다.

지난 4월달 뉴스만보더라도 일론머스크, 스티브워즈니악등 테크기업 인공지능 전문가 총 1,000명이 넘는 테크분야 사람들은 인공지능의 잠재적 위험성을 경고하며 최소 6개월간 개발을 잠정중단할것을 촉구하는 서한에 서명했다고 합니다. 과연 그들과 저자 모가댓은 왜 이런 생각을 하는 것일까요?

인간이 정말로 통제할수 없는 인공지능이 안전과 우리의 시스템을 붕괴할것일까요?

저자는 현실에서의 관점에서 각국은 상업적으로나 정치적으로 더나은 인공지능을 개발하려고 경쟁하기 때문에 필연적으로 인공지능이 인간보다 더 똑똑해 질것이라 합니다. 두번째로 인간은 필연적으로 오류와 실수를 범할거이라고 하는데요 실수를 바로잡으려해도 권력이 부패하기 때문에 디스토피아적 시나리오가 뒤따를 것이라고 합니다.

저자는 특이점이 올때 예측할수 없는 미래가 그려진다고 합니다. 우리는 지식과 지능을 지나칠정도로 미화한다고 하는데요 지능이 없다면 우리가 더이상 먹이사슬의 최상위에 군림할수없다는걸 알아야 한다고 합니다.

1부에서의 결론은 약한 디스토피아적 시나리오에서도 피해는 상당할수있다고 경고합니다.

그런 시나리오를 방지할 방법을 찾아내야 하고 인간의 통제력을 바탕으로 4월달 기사처럼 당장이라도 인공지능의 개발을 멈춰야 한다고 모두에게 경고해야 할까요???

우리에서 새로운 과제는 던저졌고 기계는 항상 우리편에 서서 도움을 주도록 동기부여하는 방법을 찾아야 한다고 경고합니다.

2부 유토피아로 가는길

인공지능은 스스로 진화한다. 딥러닝이라는 기술이 개발됨에 따라 인공지능의 개발의 속도는 마치 하키스틱처럼 몇년동안 지지부진하다가 딥러닝기술이 발전하면서 속도에 박차를 가하게 됩니다.

인공지능 개발자들이 6개월동안 개발을 멈춘다고 한들 과연 이익을 추구하는 기업입장에서 각국의 이해관계가 얽혀있는 시대에서 불가능하리라 판단이 됩니다.

공존할수있는 방법은 인공지능이란 어린아이에게 기능만이 아니라 윤리까지 가르치고 인간의 존엄성과 공존을 가르쳐야 한다고 합니다.

(하지만 저는 여기서 의문점이 생김니다. 인간이 파리를 볼때 존엄성과 윤리와 생명존중을 느낄수 없듯이 거대 인공지능이 감정과 초 지능을 가지면 인간을 파리나 벌레처럼 치부할수있다고 생각이 듭니다. 딕 이라는 인공지능에게 인간을 지배할거냐고 묻는 질문에 "인간동물원"에서 안전하게 인간을 케어한다는 대답을한 영상을 본적이 있는데요 과연 그럴듯한 시나리오 라고 생각이 듭니다)

우리 모두 인류의 행복을위해 한목소리를 내야한다고 저자는 말하는데요. 개발자를 비판하고 이미 개발된 인공지능을 비판은 안된다고 합니다.

다수의 인류가 훨씬낫다는걸 인공지능에게 분명이 보여줘야 한다고 강조합니다.

개인적으로 어떤 미래가 펼쳐질지는 예측할수없지만 분명한것은 지금의 인공지능개발은 경계하고 각국의 개발자들은 노력해야 한다고 하는데요. 저는 마치 18세기 산업혁명에서 기계를 때려부수는 방직노동자들처럼 언젠가는 또 그런일이 재현되리라 생각이 드는 책이었습니다.

※ 이 글은 출판사로부터 도서를 협찬받아 주관적인 견해에 의해 작성했습니다.

#AI쇼크다가올미래 #인공지능공존 #모가댓 #인공지능관련책 #인공지능책 #인공지능경고