6·3 대선 ‘딥페이크와의 전쟁’ 비상…벌써 가짜 영상 속출

6·3 대선을 앞두고 유력 대선주자 캠프들이 ‘딥페이크’ 비상이 걸렸다. 딥페이크는 인공지능(AI) 기술로 이미지를 합성해 실제처럼 보이도록 조작한 허위 사진 및 영상을 말한다. 최근 ‘챗GPT’ 열풍과 함께 딥페이크 영상 제작·배포가 온라인상에서 하나의 밈처럼 퍼지면서 ‘수영복을 입은 윤석열 전 대통령 부부’, ‘부인에게 욕하는 더불어민주당 이재명 대선 예비후보’ 등 가짜 영상들도 속출하고 있는 것. 중앙선거관리위원회와 경찰도 특별팀을 꾸리고 딥페이크 관련 선거법 위반 단속에 나섰다.

이 예비후보 측은 최근 이 예비후보가 부인인 김혜경 여사에게 욕하는 동영상이라는 내용의 딥페이크 영상으로 곤혹을 치렀다. 과거 공개됐던 다른 영상 속 이 예비후보의 음성을 다른 영상과 딥페이크로 합성한 방식으로, 이 예비후보가 수사기관 조사를 받고 귀가한 김 여사에게 욕설을 하는 것처럼 조작된 영상이었다. 이 예비후보 캠프는 “즉시 유포중지 가처분 및 고발 등 모든 수단을 동원해 법적 책임을 묻겠다”라고 경고했다. 지난달엔 이 예비후보가 수의(죄수복)를 입고 구치소에 앉아 있는 합성물이 발견됐다는 신고가 들어와 경찰이 유포자 추적에 나서기도 했다. 이 예비후보 측 관계자는 13일 “딥페이크 기술은 너무 사실적이다 보니 많은 사람이 진짜라고 믿기 쉽다”며 “집중 모니터링 및 제보 접수를 통해 최대한 허위 영상이 널리 퍼지기 전 차단할 것”이라고 말했다.

올해 2월엔 윤 전 대통령 부부가 속옷과 수영복 차림으로 거리를 활보하는 허위 영상이 광주에서 열린 ‘윤석열 탄핵 촉구 집회’에서 배포됐다. 노르웨이에 체류 중인 것으로 알려진 영상 제작자는 경찰 소환에 응하지 않고 있다. 국민의힘 한동훈 대선 예비후보가 출마 선언을 한 10일엔 한 예비후보를 타깃으로 한 딥페이크 영상이 돌았다.

선관위는 최근 선거 특별대응팀 내 ‘허위사실비방 딥페이크 검토자문단’을 꾸리고 AI 기술을 활용한 허위 콘텐츠 단속에 나섰다. 선관위는 네이버, 구글 등과 핫라인을 구축해 가짜 영상 배포 여부를 신속하게 파악하고 삭제 요청을 한다는 방침이다. 앞서 국회는 2023년 선거일 90일 전부터 선거운동을 위한 딥페이크 영상의 제작 및 유포 등을 금지하도록 공직선거법을 개정한 바 있다. 선관위 관계자는 “지난 총선 후 1년 사이 챗GPT 열풍이 불면서 AI 기술이 많이 대중화된 만큼 이번 대선 땐 관련 문제가 훨씬 심각할 수 있다고 보고 있다”고 했다.

경찰도 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속한다는 방침이다.

안규영 기자 kyu0@donga.com