[광화문에서/임우선]당신의 목소리를 훔친 AI

임우선 산업2부 차장 지난달 미국의 한 호텔에서 겪은 일이다. 잠을 자다가 호텔 방 전화기가 울리는 소리에 깼다. 수화기를 드니 프런트 데스크 총괄 매니저라며 “당신의 신용카드 번호에 오류가 있다. 카드 번호를 다시 달라”고 했다. 얼떨결에 알겠다고 하고 시계를 보니 새벽 2시 35분이었다. 어떤 호텔 직원이 이 시간에 이런 전화를 걸겠나. 그럼에도 혼란스러웠던 건 전화기 너머 목소리가 100% 호텔 매니저가 확실했기 때문이다. 해당 호텔에 투숙한 일주일 동안 매니저와 매일 아침 호텔 셔틀을 같이 탄 덕분에 그의 허스키한 목소리와 리드미컬한 억양을 정확히 기억하고 있던 터였다. 머뭇거리는 동안 압박이 시작됐다. “지금 바로 답을 안 하면 호텔 투숙이 취소된다”는 것이었다. 카드를 가지고 1층으로 내려가겠다고 하자 “당장 답해야 무료 투숙 혜택이 있다”고 했다. 수 분의 실랑이 끝에 상관없다, 내려간다고 하자 전화가 뚝 끊겼다. 프런트 데스크에 다시 전화를 걸어 총괄 매니저를 찾자 당직 직원 왈 “카드 요구 전화를 받았냐. 신경 쓰지 마라. 심지어 나도 받았다”고 했다. 아침에 매니저를 만나 간밤에 당신의 목소리로 전화가 걸려 왔다고 하자 미칠 노릇이라며 “미국 전역의 호텔에서 이런 일이 벌어지고 있다”고 전했다. 보이스피싱 일당들이 호텔로 전화를 걸어 직원들의 음성을 녹취한 뒤, 이를 인공지능(AI) 기술로 재생성해 호텔 직원의 목소리로 범행을 저지르고 있다는 것이었다. 그는 “내 목소리이기에 나중에 내게 문제가 돌아올까 더 무섭다”고 말했다. 전화가 걸려 온 시간대를 볼 때 국제적 범죄일 수 있다는 생각이 들었다. AI로 사람들의 목소리와 얼굴을 훔쳐 저지르는 범죄는 날이 갈수록 기상천외하고 심각한 양상으로 진화하고 있다. 평범한 개인들의 피해도 문제지만 이른바 기업의 ‘돈줄’을 쥐고 있는 재무 담당자들이 걸려들 경우 천문학적 피해로 이어지기도 한다. 한 글로벌 엔지니어링 회사의 재무 담당 직원은 평소처럼 사내 직원들과 화상회의를 갖고 최고재무책임자(CFO)의 요청대로 2000만 달러 넘는 돈을 송금했지만 알고 보니 화면 속 동료들의 얼굴과 목소리는 모두 AI로 조작된 것이었다. 분명 본사 임원 목소리인 전화를 받고 송금했다가 거액의 돈을 날린 해외 지사도 있다. 요즘은 발신자 번호 표시 조작까지 가능하기에 벌어진 일이다. 기술업계에 따르면 최근 AI 음성 복제 기술은 불과 수십 초 분량의 음성만으로도 자유롭...