과거, 현재 경험으로 노후계획을 세우는 건 틀렸다

​관련 글 : 왜 최근에 빌 게이츠, 엘론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?​

페이스북에서 위 글을 우연히 발견하여 읽었다. 양이 많아서 한참 읽었다. 시간을 들여 읽을 만큼의 가치가 있는 글이다.

유명인들이 왜 인공지능을 경계하라고 호소하는 걸까? 위 글 내용을 요약하면 이렇다. 기술발전과 기술로 인한 우리 삶의 변화는 그 속도가 점차 빨라지고 있다. 과거 100년에 걸쳐 이루어진 변화가 50년, 20년, 7년, 이런식으로 단축되어 간다. 인공지능 개발은 우리가 예측한 것보다 더 빨리 달성될 가능성이 높다.

우리 삶에는 이미 '약'인공지능이 개발되어 삶을 편리하게 만들어주고 있다. 인간 수준의 지능을 '강'인공지능이라 하고, 그 이상을 '초'인공지능이라 하자. 알파고가 스스로 수없이 많은 바둑 대련을 반복하며 실력을 쌓듯이 초인공지능은 스스로 자신의 지능을 높일 것이다. 지능은 아인슈타인 이상인데 밥만 먹고 연구만 하는 거다. 초인공지능이 인류에게 가져다 줄 혜택은 엄청날 거다. 전기만 공급해주면 아인슈타인 보다 더 뛰어난 지능으로 기술 개발을 해줄테니 말이다. 문제는 우리가 영화, 소설에서 보듯이 초인공지능은 똑똑한 인간이 아니란 점이다. 예를들어, 지구를 지키라고 초인공지능에게 명령을 내리면, 인공지능은 지구 상에 인간을 모두 몰살할지도 모른다. 지구가 영속하는데 인간이 가장 큰 장애라면(환경오염, 자원고갈 등) '지구를 지켜라'라는 명령에 최선을 다할 것이기 때문이다. 초인공지능은 과제 해결에 최선을 다할뿐 인간이 당연하게 생각하는 걸 당연하게 생각하지 않는다. 어떤 개발자가 어느 날 초인공지능을 개발하였는데 아무생각 없이 첫 명령으로 '지구를 지켜라'를 입력했다가는 인류는 그 날 이후로 멸망할 수 있단 거다. 이런 실수를 저지르지 않는다면 인류는 온갖 난제를 초인공지능을 통해 해결하며 판타스틱 라이프를 누릴 것이다. 영생을 얻게 될지도 모른다.

하여튼 위 글은 관련 글의 요약이고, 이 글을 통해 다른 생각이 떠올랐다. ​​초인공지능이 인류멸망을 일으키지 않고(어차피 내가 통제할 수 있는 영역이 아니다.) 인류에게 영생을 가져다 준다고 가정한다면, 우리의 노후계획이 잘못된 것일지 모른단 거다.

인공지능과 기술 발전으로 우리 삶에 필요한 의식주 생산 비용은 낮아질 거다. 자동화를 통해 기계들이 알아서 옷 만들고 농사 짓고 집 짓는 거다. 지금 상상으론 인간의 관리와 노동력이 전혀 배제되진 않을 것 같지만 하여튼 지금보다 획기적으로 줄어들 것은 확실하다.

국민연금이 2060년에 모두 고갈되어 연금을 받지 못하니 마니 하는데 앞으로 43년 동안 이루어질 기술 개발로 인해 국민연금 기금이 상관 없어질 수도 있다. 인간이 삶을 연명하는데 필요한 아주 최소한의 의식주는 인공지능에 의해 매우 낮은 비용으로 생산될지 모르기 때문이다. 먹고 사는 게 문제가 아니라 계속 늘어만 가는 수명 때문에 시간을 어떻게 보낼지가 문제가 될지 모른다.

인터넷이 처음 등장했을 때 그 누구도 스마트폰을 상상하지 못했을 거다. 스마트폰으로 인해 바뀐 우리 모습을 봐라. 우리는 항상 과거 경험과 현재 모습을 통해 미래를 예측한다. 그리고 예측은 매번 틀린다. 비행기가 발명되기 전에 사람이 하늘을 날게 될 것이라고 말하는 사람은 괴짜였을 거다. 전화기가 처음 발명되었을 때 개개인 손에 하나씩 쥐어질 거라 말한 이가 있다면 괴짜 취급 받았을 거다. 인공지능으로 인해 바뀔 우리 삶을 현재 우리는 제대로 예측하기 힘들다. 과거 보다 변화 속도는 가속이 붙어 더 빨라지고 있다. 예측은 더 힘들어졌다.