지방선거 흔드는 딥페이크…2년 전 총선보다 25배 늘었다

인공지능(AI) 기술 확산으로 딥페이크 사진과 영상이 선거판을 흔드는 변수로 떠오르고 있다. 전문 기술 없이도 실제처럼 보이는 지지 인파를 만들어내거나 유명 정치인의 모습을 담은 가짜 이미지를 쉽게 제작할 수 있게 되면서 허위 정보 확산이 빨라져서다. 딥페이크 콘텐츠가 선거 공정성을 훼손할 수 있다는 우려에 관계당국은 대응 수위를 높이고 있다.

26일 중앙선거관리위원회에 따르면 전날 기준 6·3 지방선거와 관련해 선관위가 플랫폼사업자에 딥페이크 게시물 삭제를 요청한 것은 9956건으로 집계됐다. 이는 2024년 제22대 국회의원 총선거 당시 388건과 비교해 25배 넘게 불어난 수치다.

선거철 AI 합성물 확산에 대응하기 위한 법적 규제는 강화됐다. 2023년 12월 신설된 공직선거법 제82조의 8은 선거일 전 90일부터 선거운동을 목적으로 실제와 구분하기 어려운 AI 기반 음향·이미지·영상 등을 제작·편집·유포하는 행위를 금지하고 있다.

선거 현장에서는 AI를 활용해 지지세를 과장하려는 시도가 잇따르고 있다. 경북 청도군수 선거에서는 박권현 무소속 후보 주변에 대규모 지지자가 몰린 것처럼 보이는 AI 이미지가 청도군민들이 참여한 단체 대화방을 통해 퍼졌다. 캠프 측은 자신들이 배포한 것이 아니라며 선관위에 자진 신고했다. 지난 2월에는 박성진 울산 남구청장 더불어민주당 예비후보가 자신이 시사주간지 타임에 실렸다는 내용의 딥페이크 영상을 SNS에 올렸다가 선관위로부터 허위사실 유포 혐의로 고발당했다. 이후 박씨는 후보에서 사퇴했다.

유명 정치인을 연상시키는 사진과 현수막 이미지가 AI로 쉽게 합성돼 퍼지면서 선거 국면 혼란은 더 커지고 있다. 지난 13일에는 조국혁신당 점퍼를 입고 짐을 든 키 큰 남성이 전통시장을 걸어가는 뒷모습 사진이 SNS에 올라와 논란이 일었다. 경기 평택 국회의원 재선거에 출마한 조국 후보를 연상시키는 이미지였지만 실제 촬영 사진이 아니라 AI 합성물로 확인됐다.

현수막 문구를 AI로 합성해 이른바 ‘맞불 현수막’을 제작하는 사례도 이어지고 있다. “이재명 대통령도 감옥 가자”라는 문구가 적힌 현수막 사진 아래에 “국민이 청와대에 오래오래 가두겠다”는 문구를 덧씌운 합성 게시물이 SNS에서 확산된 것이 대표적이다.

선관위는 AI를 활용한 가짜뉴스와의 전쟁을 선포했다. 선관위는 지난해 12월부터 440여 명 규모 허위사실공표·비방 특별대응팀을 가동하고, 국립과학수사연구원과 한국전자기술연구원이 공동 개발한 딥페이크 식별 프로그램 아이기스까지 도입해 집중 모니터링에 나섰다.

선거 관련 딥페이크를 제작·유포한 이들을 강력히 처벌할 필요가 있다는 지적이 나온다. 일반인은 조작 여부를 가리기 힘들고, 사실로 받아들이는 경우가 많기 때문이다. 신율 명지대 정치외교학과 교수는 “후보자가 악의로 딥페이크 게시물을 배포했다면 피선거권을 영구 박탈하는 등 처벌을 강화해야 한다”고 말했다.

진영기/류병화 기자