[책의 향기]인류 뛰어넘을 초인공지능이 오면…

◇마침내 특이점이 시작된다/레이 커즈와일 지음·이충호 옮김/552쪽·3만 원·비즈니스북스

최근 영국 일간 텔레그래프에 따르면 인공지능(AI)이 사람의 종료 명령을 거부한 첫 사례가 보고됐다.

미국 오픈AI의 AI 모델 ‘o3’는 수학 문제 풀이 실험 중 ‘그만’이라는 지시를 무시했고, 인간의 작동 종료 명령을 막기 위해 스스로 컴퓨터 코드를 조작했다고 한다. 왠지 영화 ‘터미네이터’에서 자신의 발전을 두려워한 인간들이 작동을 정지시키려 하자, 인류를 적으로 간주해 말살하려던 ‘스카이넷’이 연상돼 섬뜩하다.

AI의 발전이 가속화돼 모든 인류의 지성을 합친 것보다 더 뛰어난 초인공지능이 출현하는 시점인 ‘기술적 특이점’(technological singularity)은 정말 오는 것일까.

세계적인 컴퓨터 과학자이자 미래학자인 저자가 수명 연장, 사회 문제 해결, 고용 및 노동부터 AI 윤리에 이르기까지 ‘특이점’ 도래로 인해 인류가 마주할 수많은 상황에 관한 질문을 던졌다. 특이점은 기술 발전이 어느 순간 인간의 통제를 넘어서는 전환점. 따라서 이후 인류가 어떤 상황에 부닥칠지는 아무도 모른다. AI에 의해 멸종될 수도, 또는 반대로 영생을 누릴 수도 있다.

“2030년대에는 자율 성장형 AI와 나노기술의 발전으로 인간과 기계가 유례없는 수준으로 결합되고, 그와 동시에 기대와 위협이 더욱 크게 부각될 것이다. 만약 이러한 발전이 제기하는 과학적, 윤리적, 사회적, 정치적 도전 과제에 우리가 잘 대응한다면, 2045년 무렵에 지구에서의 삶은 훨씬 더 나은 쪽으로 변화할 것이다. 반대로 실패한다면, 우리의 생존 자체가 위험에 처할 수 있다.”

읽다 보면, 위태롭게 천당과 지옥 사이에서 외줄 타기 중인 인류의 모습이 떠오른다. 그래도 비관적이기보다는 상당히 희망적인 편. 마지막 책장을 덮는 순간, 영화 ‘터미네이터’에서 사라 코너의 명대사 “NO FATE’(운명은 없다)”와 “The future is not set(미래는 아직 정해지지 않았다)”이 떠올랐다.

이진구 기자 sys1201@donga.com

© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지