영생 연구·화성 정복 작전…과학의 탈을 쓴 권력전쟁

인공일반지능(AGI)은 과연 인류를 구원할 수 있을까. 오히려 절멸의 씨앗이 되지는 않을까. 적어도 AGI가 인류의 결정적 분기점이 되리라는 데는 많은 이가 의심의 여지를 두지 않는다. 천체물리학자이자 과학 저널리스트인 애덤 베커는 잠시 마음을 가라앉히고 그들이 내건 미래의 이면을 보자고 권한다. AGI를 둘러싼 기대와 공포를 부추기며 이득을 보는 이들은 없는가. 그들의 종교적 확신이 도리어 그들에게 과도한 권력을 몰아주고 있지는 않은가.

베커가 가장 먼저 소개하는 인물은 인공지능(AI) 정렬 문제로 잘 알려진 엘리에저 유드코스키다. AI 정렬이란 인공지능이 인간의 의도와 가치에 어긋나지 않게 행동하도록 맞추는 과제다. 유드코스키는 AGI의 등장이 시간문제이며, 그 순간 인류가 절멸할 가능성이 높다고 본다. 그래서 거대 AI 개발을 전 세계가 멈춰야 하고, 이를 어기는 데이터센터는 공습으로 파괴해야 한다고 주장한다.

저명한 AI 전문가의 다급한 경고에 절로 고개가 끄덕여질 법하다. 그런데 그는 저자와 마주한 인터뷰에서 영생과 우주 정복 또한 마땅히 일어날 미래로, 그것도 비슷한 무게로 이야기한다. 이 같은 내용을 접하는 순간, 유드코스키의 AGI에 대한 경고 또한 다소 허황된 소리로 여기게 된다.

베커는 효율적 이타주의와 장기론, 특이점, 기술 가속주의로 뻗어나간 사조들이 '기술을 통한 구원'이라는 하나의 세계관을 이루는 과정을 추적한다. 그는 이 시대 가장 영향력 있는 빅테크 거물들을 직접 만나 이야기를 나누며 그들 주장의 약점을 파고든다.

저자의 비판은 세 갈래다. 그들이 그리는 미래상의 과학적 근거가 허술하고, 실현된다 해도 결말은 축복과 거리가 멀며, 실현 여부와 무관하게 종교 지도자가 천국과 지옥을 앞세워 권력을 쥐듯 그들은 이 서사로 지금의 영향력을 챙긴다는 것이다. 가령 화성 이주는 강한 방사선과 약한 중력, 독성 토양 탓에 사실상 불가능에 가깝고, 우주로 뻗어나간들 그 끝은 자연을 해체해 기계로 채운 인간다움 없는 세계라는 게 그의 진단이다.

단적인 사례가 효율적 이타주의의 변질이다. 본래 가장 효율적으로 더 많은 생명을 돕자는 운동이었지만, 앞으로 태어날 수조 명의 미래 인류가 지금의 80억명보다 중요하다 여기는 입장으로 흘러갔다. 먼 미래를 위해 많이 벌어 기부하는 것이 곧 선이라는 논리다. 기술 억만장자들이 부와 영향력 확장을 인류를 위한 사명으로 정당화하는 바탕에 이 사고가 깔려 있다. 그 논리를 극단으로까지 민 인물이 가상화폐 거물 샘 뱅크먼프리드다. 그는 고객 예치금 수십억 달러를 빼돌린 사실이 드러나 가상화폐 거래소 FTX와 함께 무너졌고, 사기 혐의로 징역 25년을 선고받았다.

베커는 낙관과 비관의 대립은 허울에 불과하다고 본다. AGI가 임박했고 기술 진보는 거스를 수 없다는 전제를 종말론자와 가속주의자가 똑같이 깔고 있다. 그들은 하나같이 자신들이 미래를 주도해야 한다고 주장한다. 이런 종말 서사가 퍼뜨리는 공포가 오히려 AI의 편향과 과도한 시민 감시, 일자리 잠식 등 당장 시급한 문제를 뒷전으로 밀어낸다는 게 그의 진단이다. 지구 온난화와 불평등, 핵전쟁의 위험을 풀겠다며 기술에만 매달리는 것은 외려 현실을 외면하는 일이다. 기술이 세상을 대신 고쳐주지 않으니, 정치를 통해 그 문제들과 다시 마주하자고 베커는 권한다.

[구정근 기자]

이 기사가 마음에 들었다면, 좋아요를 눌러주세요.