"이건 딥페이크"…檢, 증거물 위변조 직접 가린다

딥페이크 기술이 고도화할수록 디지털 증거의 진위를 가리는 일 자체가 재판의 핵심 쟁점으로 떠올랐다. 이에 검찰이 인공지능(AI) 위조 탐지 시스템 개발에 직접 나섰다.

7일 법조계에 따르면 대검찰청은 올해 가짜 영상의 위변조 여부를 신속 정확하게 판별하는 ‘딥페이크 영상 탐지 프로그램’을 개발할 계획이다. 2024년 5월부터 대검 과학수사부 법과학분석과가 주도해온 프로젝트로, 웹 크롤링으로 수집한 1만 장 이상의 이미지를 학습시킨 자체 AI 모델을 구축했다.

앞서 ‘합성 음성 탐지 기술’을 자체 개발하고 특허까지 출원한 데 이은 후속 조치다.

검찰이 자체 검증 역량 확보에 속도를 내는 배경에는 법정 현실이 있다. 장혜영 대검찰청 과학수사부장(사법연수원 34기)은 “법정에서 피고인들이 경찰의 증거나 국립과학수사연구원의 감정 결과를 믿지 못하겠다며 증거능력을 다투는 경우가 있다”며 “AI로 조작된 영상과 음성을 정밀 분석해 기소 단계부터 증거능력을 엄격히 통제할 것”이라고 강조했다. 향후 공소청이 출범하더라도 독자적인 증거 검증 시스템은 반드시 유지하겠다는 입장이다.

법정에선 ‘AI가 조작한 증거’라는 주장이 잦아지고 있다. 지난달 15일 이상민 전 행정안전부 장관 내란 혐의 항소심에서 변호인 측이 AI로 보정한 CCTV 영상을 제출하자 검찰은 “공인된 감정 절차를 거치지 않았고 감정 주체와 분석 방법이 명확하게 특정되지 않았다는 점에서 신뢰하기 어렵다”고 반박했다.

지난해 서울북부지법에서는 존재하지 않는 대법원 사건번호가 기재된 서면이 제출돼 원고가 패소했다. AI가 꾸며낸 가짜 판례를 그대로 법원에 낸 것이다.

대법원 법원행정처는 소송 서류에 AI 사용 여부를 명시하고 정확성 검증 책임을 제출 당사자에게 지우는 방향으로 소송규칙 개정을 추진 중이다. 허위 인용 확인 시 과태료를 부과하는 등 제재 방안도 검토하고 있다.

정희원/김유진 기자 tophee@hankyung.com