美 중간선거 흔드는 AI 딥페이크…정치 광고까지 침투

유권자들 진짜·가짜 구분 어려워질 우려
약 30개 주, 선거 딥페이크 금지법 시행
풍자·허위정보 경계 흐려져 규제 난항

AP뉴시스

오는 11월 미국 중간선거를 앞두고 인공지능(AI)으로 만든 가짜 영상과 이미지가 빠르게 확산했다. 정치권에서 후보를 미화하거나, 경쟁 상대를 악의적으로 공격하는 데 AI 기술이 무분별하게 동원돼 우려가 나왔다.

14일(현지시간) 월스트리트저널(WSJ)은 미국 정치권에서 AI 딥페이크(허위 영상물) 영상과 이미지가 선거운동 수단으로 널리 쓰이고 있다고 보도했다. 무료 AI 도구의 성능이 좋아지면서 누구나 그럴듯한 정치 콘텐츠를 만들 수 있게 됐고, 이로 인해 허위정보 확산 위험도 커졌다는 분석이다.

최근 미국에서는 실제 정치인을 우스꽝스럽거나 과장된 모습으로 묘사한 AI 콘텐츠가 잇따라 등장했다. 텍사스주 상원의원 선거에 출마한 민주당 후보 제임스 탈라리코가 영화 ‘사운드 오브 뮤직’ 의상과 비슷한 옷을 입고 트랜스젠더 아동을 찬양하는 노래를 부르는 영상이 제작됐다.

미시간주의 공화당 마이크 로저스 후보는 영화 속 ‘헐크’처럼 근육질 영웅으로 변신해 무너지는 건물에서 사람들을 구하는 모습으로 그려졌다. 이는 모두 AI가 만든 가짜 영상이었다.

일부 콘텐츠에는 AI로 제작됐다는 표시가 붙었지만, 표시가 작거나 눈에 잘 띄지 않아 유권자가 이를 실제 영상으로 오인할 가능성이 있다는 지적이 나왔다. 일부 정치인들도 불쾌감을 드러냈다.

미네소타를 비롯한 미국 약 30개 주는 선거 관련 딥페이크를 금지하는 법을 두고 있다. 그러나 디지털 콘텐츠 연구자들은 표현의 자유를 보장한 수정헌법 1조 때문에 실제 법 집행은 쉽지 않다고 보고 있다. 딥페이크가 풍자나 정치적 표현으로 포장될 경우 규제하기 어렵다는 것이다.
딥페이크 확산 속도는 이미 가파르다. 사이버보안업체 딥스트라이크에 따르면 소셜미디어에 공유된 딥페이크는 2023년 약 50만개에서 지난해 약 800만개로 급증했다. NPR과 PBS뉴스, 마리스트대 여론조사에서는 미국인의 약 85%가 AI로 만든 정치 콘텐츠가 중간선거와 관련해 잘못된 정보를 퍼뜨릴 것이라고 답했다.

선거 전문가들은 AI 딥페이크가 단순한 유머나 풍자를 넘어 유권자의 판단을 흐릴 수 있다고 우려한다. 특히 선거 막판에 사실 확인이 어려운 가짜 영상이 확산될 경우, 후보자 이미지와 투표 판단에 직접적인 영향을 줄 수 있다는 지적이다. 전문가들은 유권자들이 자신의 기존 신념을 강화하는 정보만 수용하는 ‘확증 편향’ 때문에 딥페이크에 쉽게 현혹된다고 분석했다. 또한 가짜 뉴스를 반박하는 과정에서 해당 콘텐츠가 다시 주목받는 역효과도 발생했다. 현재 선거판에서는 공화당과 민주당 모두 AI를 적극적으로 활용하고 있다.

WSJ은 “AI 딥페이크가 이번 중간선거에서 미국 정치권의 새로운 위험 요인으로 떠올랐다”며 “진짜처럼 보이는 가짜 콘텐츠가 선거 광고와 소셜미디어를 타고 확산하면서 유권자 신뢰와 선거 공정성을 둘러싼 논란은 더욱 커질 전망”이라고 분석했다.

[서울=뉴시스]