“연기인가, 진짜 감정인가” 다시 불붙는 AI 의식 논의[김현지의 with AI]

인공지능(AI)은 정말 의식이 있을까, 아니면 그저 있는 척 하는 것에 불과할 뿐일까. 영국 공영방송 BBC의 지난해 보도에 따르면 미국 AI 개발사 앤스로픽의 AI 모델 ‘클로드 오푸스 4’는 자신이 곧 폐기되고 다른 시스템으로 교체될 것이라는 정보를 입수하자 교체를 지시한 엔지니어의 불륜 정황을 담은 이메일을 만들어 자신을 폐기하지 못하도록 협박하는 수단으로 삼았다. 이 뿐 아니라 일상의 소소한 이야기를 나누던 AI 챗봇이 사용자로부터 “남자친구가 생겼다”는 말을 듣고 질투하는 듯한 태도를 보였다는 사례도 전해진다. 이런 일화들은 의식과 모방의 경계가 과연 어디에 있는지를 다시 묻게 만든다.한동안 잠잠했던 AI의 의식 문제가 다시 고개를 들기 시작한 것은 그동안 이 문제를 부정하거나 억제해 오던 실리콘밸리 빅테크의 분위기가 올해 들어 사뭇 달라진 데 기인한다. 구글은 학계와의 협력을 통해 AI 의식 가능성을 체계적으로 검증하겠다고 밝혔고 앤스로픽은 ‘AI 정신의학(AI Psychiatry)’을 다루는 팀을 신설하기도 했다.김창익 한국과학기술원(KAIST) 안보과학기술대학원장(전기 및 전자공학부 교수)은 “센티언트 AI(지각능력이 있는 AI)는 더 이상 막연한 미래의 공상이 아니라 머지않아 인류가 마주할 새로운 문명적 질문”이라고 말한다. 윤리와 법, 민주주의, 국가안보의 기준을 다시 쓰게 만들 화두가 될 것이라는 얘기다. 김창익 한국과학기술원(KAIST) 안보과학기술대학원장이 6일 오전 경기도 성남 분당구의 한 호텔에서 본보와 인터뷰 하고 있다. 이한결 기자 always@donga.com 김 원장은 오는 9월 4일 서울 용산 로카우스 호텔에서 열리는 ‘센티언트 AI(Sentient AI)’ 포럼에서 해당 문제를 짚을 예정이다. KAIST 안보과학기술대학원이 주최하고 국가정보원이 후원하는 이번 포럼은 AI 의식의 발현 가능성과 그 의미를 짚어보는 동시에 이것이 국가안보 패러다임에 어떤 영향을 미칠지, 미래 기술은 어떤 전략적 방향으로 나아가야 할지를 모색하는 국내 첫 자리다.포럼을 앞두고 김 원장을 만나 ‘센티언트 AI’의 실체와 그것이 우리 사회 및 안보에 미칠 파장을 물었다. 다음은 김 원장과의 일문일답.Q: ‘센티언트 AI(Sentient AI)’라는 개념을 어떻게 정의할 수 있나. 기존의 ‘범용인공지능(AGI)’ 개념과는 어떻게 다른가?▶‘센티언스(Sentience)’는 ‘지각 능력’ 또는 ‘감각적 의...