서울시의회 정례회의에서 오세훈 서울시장의 얼굴을 합성한 딥페이크(인공지능 기반 이미지 합성) 영상이 등장해 주목받았다. 딥페이크 범죄의 심각성을 알리기 위해서였다.
19일 서울시의회 제327회 정례회의 시정질의자로 나선 윤영희 서울시의원은 오세훈 시장의 얼굴을 넣어 만든 딥페이크 영상을 공개했다.
최근 지방의원들을 대상으로 한 딥페이크 범죄를 막을 방안을 고민해 달라는 요청을 하는 과정에서 딥페이크 기술의 파급력을 쉽게 설명하기 위해 윤 의원이 직접 영상을 만든 것이다.
윤 의원은 휴대폰 애플리케이션(앱)을 이용해 한 외국배우의 영상에 오 시장의 얼굴을 합성해 넣었다. 영상이 재생되자 시의회 현장에서는 웃음이 터져 나왔다는 전언이다.
질의에 답하기 위해 단상에 오른 오 시장도 피식 웃으면서 “묘하게 닮았다”고 말했다.
윤 의원은 “제가 이 영상을 1분도 안 돼서 이 영상을 만들었다”며 “심지어 무료였고 너무 쉽고 빨랐다”며 심각성을 강조했다.
이에 대해 오 시장은 “서울시는 디지털성범죄센터에서 최초로 인공지능(AI) 프로그램을 도입했는데 기대 이상”이라며 “과거 같으면 사람이 일일이 수작업해야 하기 때문에 지워 놓으면 바퀴벌레처럼 튀어나오는, 이런 상황이 끊임없이 발생했는데 지금은 AI가 대량으로 해주고 있다. 앞으로도 인격권이 철저히 보호받을 수 있게 하겠다”고 말했다.