[인터뷰] 유발 하라리 "AI는 주체적 행위자, 인류가 위협받고 있다"

6년만에 신작 '넥서스' 출간…"코딩보다 인간의 마음" 강조

현재 인류는 인공지능(AI)의 부상으로 위협받고 있다. 현재 AI를 통제하는 일부 회사와 국가 등 소수 집단이 엄청난 부와 권력을 쌓고 있다면, 나중에는 AI를 통제했던 집단들조차 그것을 마음대로 하지 못하는 시대가 올 수도 있다.

▲유발 하라리 (김영사)

'사피엔스', '호모 데우스' 등의 책을 통해 뛰어난 통찰과 혜안을 보여준 사상가 유발 하라리는 6년 만에 내놓은 신작 '넥서스' 출간 기자간담회에서 "AI는 주체적 행위자다. 스스로 변화하고, 새로운 것을 만들고, 결정 내릴 수 있는 능력을 갖추고 있다"라며 이같이 말했다.

15일 화상을 통해 한국 언론들과 만난 유발 하라리는 “AI는 우리 종의 역사뿐만 아니라 모든 생명체의 진화 경로를 바꿀지도 모른다”라며 “수많은 새로운 주체들이 세상에 등장해 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질”이라고 밝혔다.

이어 "AI가 두려운 이유는 우리가 이것을 제어할 수 없기 때문"이라며 "그런 점에서 AI는 인간이 발명한 기술 중 그 어떤 것과도 다르다. AI는 독립적 행위자이자 주체자"라고 덧붙였다.

그는 "AI의 위협에 취약한 건 민주국가보다는 독재국가다. 가령 남한의 대통령이 어떤 이유로 AI의 통제에 놓여도 나라 전체가 흔들리진 않는다. 대통령을 견제하는 민주적 견제 장치들이 있기 때문이다. 만약 AI가 북한의 김정은을 통제한다면 그날로 그냥 끝일 것"이라고 설명했다.

현재 예루살렘 히브리 대학교 역사학과 교수로 재직 중인 유발 하라리는 '사피엔스', '호모 데우스', '21세기를 위한 21가지 제언' 등의 책을 통해 우리 시대의 위대한 사상가로 떠올랐다. 그의 책들은 전 세계 65여 개국에서 출간됐고 4500만 부 판매라는 기록적인 호응을 얻고 있다.

유발 하라리는 이번 책을 통해 AI 혁명의 의미와 본질을 이야기한다. 그는 'AI는 이전의 정보 기술과 무엇이 다르고, 왜 위험한가?' 등의 질문을 독자들에게 던지며 석기시대부터 AI가 등장한 지금까지의 인류 역사를 '정보 네트워크'라는 키워드로 조망한다.

책의 제목이기도 한 넥서스(nexus)는 사전적으로 '결합'과 '연결'을 뜻한다. 유발 하라리에 따르면, 이는 정보의 기능이자 본질이다. 수많은 국가와 사람을 연결해 창조성과 생산성을 일으키는 정보 기술의 첨병이 바로 AI다.

▲유발 하라리 책 '넥서스' 표지 (김영사)

유발 하라리는 "AI와 같은 비인간 지능은 곧 인류를 위협하는 존재로 부상할 수 있다. 이 같은 위험을 예방하기 위해서는 강력한 자정 장치를 개발하고 유지해야 한다"라고 경고한다.

유발 하라리는 AI에 대한 기술 규제를 하기 전에 자정 장치의 일환으로 '국제기구 설립'을 주장했다. 그는 "AI를 관찰하고 이해하며 각국의 정부에 이 같은 정보를 제대로 제공할 수 있는 AI 전문 기관을 만들어야 한다"라고 전했다.

그는 "모든 정보가 여과 없이 흐르도록 내버려 두면 진실이 지는 경향이 있다. 저울을 진실 쪽으로 기울이려면 정보 네트워크가 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다"라며 "이런 자정 장치는 비용이 많이 들지만, 진실을 얻고 싶다면 반드시 그것에 투자해야 한다"고 제언했다.

역사학자로서 그는 AI 혁명에 대한 보다 정확한 역사적 관점을 제공하는 것이 이 책의 목표라고 했다. 역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이라는 그의 평소 생각이 반영된 결과물이다.

유발 하라리가 밝힌 AI 혁명의 본질을 하나의 키워드로 정리하면 '주체성'이다. 이전의 정보 기술들은 수동적인 입장에서 인간의 업무를 도와주는 도구에 불과했다. 가령 인쇄술은 책을 찍는 기계였지, 어떤 책을 찍어낼지 고민하지 않았다. 하지만 AI는 인간의 질문에 따라 스스로 창조하는 힘을 지녔다.

그는 "(인간과 마찬가지로) AI 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다"라고 지적했다.

유발 하라리의 말처럼 우리 자신보다 인공지능이 우리를 더 잘 이해하는 날이 올지도 모른다. 이에 대해 그는 "인공지능의 시대에 우리가 알아야 할 것은 코딩보다 인간의 마음"이라고 조언한다.