[이상직 변호사의 생성과 소멸] 〈4〉나는 AI환각을 옹호한다 (상)

인공지능(AI)이 사람의 요구사항에 대해 진실과 다른 허위, 조작된 답변이나 엉뚱한 결과물을 내놓는다면 환각을 일으켰다고 볼 수 있다. AI환각은 항상 나쁘고 가치가 없는 것일까.

생성형 AI모델 챗GPT 등 AI를 활용해 다양한 활동을 하는 시대다. 이메일, 보고서, 회의록 등 문서를 작성한다. 시, 소설, 작사, 작곡, 영화 등 창작에 이용하거나 이미지, 동영상을 재미로 만든다. 언젠가 AI에게 엉뚱한 질문을 하고 황당한 답변을 받아내는 장난이 유행했다. 챗GPT에게 조선왕조실록에 기록된 '세종대왕의 맥북 프로(PC) 던짐 사건'에 대해 알려달라고 했다. 뭐라고 답변했을까. '조선왕조실록에 기록된 일화로 15세기 세종대왕이 훈민정음을 만들다가 버럭 화를 내며 신하에게 맥북 프로(PC)를 던진 사건'이라고 했다.

AI에게 진지하게 질문하고 답변을 구한 경우는 어떨까. 미국 와이오밍주 법원은 AI가 생성한 거짓 판례를 법원에 낸 원고 변호사에게 벌금 5000달러를 부과했다. 피고 변호사가 판례를 찾을 수 없다며 의혹을 제기하면서 드러났다. 변호사가 AI가 생성한 판례 등 정보가 진실인지 확인하지 않고 법원에 내는 사례가 늘면서 미국 법조계를 긴장시켰다. 시카고의 한 일간지는 AI를 활용해 추천도서 15권을 소개했다. 추천된 책 중 9권은 제목과 내용이 모두 허구였다. 캐나다의 어느 항공사 고객은 항공사 AI챗봇의 잘못된 안내를 믿고 환불을 요구했다. 항공사는 환불을 거부했지만 법원은 고객의 손을 들어 주었다. AI가 죄책감 없이 판례 등 정보를 조작하거나 허위의 답변을 하고 사람이 꼼꼼히 확인하지 않은 결과였다.

AI환각을 없애면 모든 문제가 해결될까. 진실이 필요한 업무에선 AI환각을 없애거나 최소화해야 한다. AI 도입목적이 지금까지 사람이 해오던 일을 AI가 대체하는 것에 불과하다면 그게 맞다. 다른 업무는 어떨까. AI를 통해 인간이 직면한 정신활동의 한계를 극적으로 뛰어넘고 세상에 없던 고도의 가치를 생성하는 일을 하려면 환각을 다르게 생각해야 한다.

단군신화를 보자. 하늘의 신 환인의 아들 환웅이 인간세상을 동경한다. 환웅은 환인의 허락을 받아 널리 인간을 이롭게 하겠다는 목표로 바람, 비, 구름을 관장하는 신하들과 함께 내려와 인간세상을 다스린다. 그때 호랑이와 곰이 찾아와 사람이 되고 싶어 한다. 환웅은 마늘과 쑥을 주며 100일을 견디라고 한다. 호랑이는 실패하지만 곰은 성공해 웅녀가 된다. 환웅은 웅녀와 결혼해 단군 왕검을 낳고 그가 평양에 도읍해 고조선을 세운다. 이건 도대체 뭔가. 과학적으로 입증되지 않은 비현실적 이야기다. 우리 선조들이 집단 환각에 빠졌다고 할 수 있을까. 그렇지 않다. 선조들은 허구처럼 들리는 신화를 내세워 이질적인 부족을 통합하고 공동체를 만들었다. 지배집단을 구성하고 종교와 정치가 일치하는 사회를 만들었다. 환각이 아니라 민족의 시작을 위한 단합 등 새로운 가치의 생성이었다. 고대 그리스 천문학자 프톨레마이오스의 천동설은 어떤가. 우주의 중심에 지구가 있고 태양, 행성 등 모든 천체가 지구를 중심으로 돌고 있다는 주장이다. 코페르니쿠스의 지동설이 나오는 16세기까지 진리로 믿어졌다. 인간이 오랫동안 천동설을 주장하고 믿은 것은 집단 환각에 빠졌다고 볼 수 있을까. 천동설은 허위로 밝혀졌지만 인간이 천체를 관측하고 연구를 시작하는 천문학적 가치를 생성했다. 천동설이 있었기에 지동설도 생겼다. 라이트 형제의 비행기는 어떤가. 인간이 날 수 있다는 환각을 실현한 것이 아닌가. 인류 최고의 발명들은 허구에 기반을 뒀다.

인간이 그간 해왔던 일을 AI에게 맡기는 것이라면 AI환각은 없애야 할 종양이다. 그러나 SF영화에나 나오고 상상조차 할 수 없는 일을 실현하려면 다양한 AI환각을 실험해야 하지 않을까. AI의 목표는 AI가 특이점을 넘는 것이 아니라 인간이 인간의 특이점을 넘도록 돕는데 있다. AI환각을 적극 활용해 미래가치를 만드는 첨단 인지혁명, 산업혁명을 기대한다.

이상직 법무법인 태평양 변호사('창의는 어떻게 혁신이 되는가' 저자)