딥페이크 범죄, AI로 잡는다…경찰, 7개월간 419명 검거

사회 > 법원·검찰 딥페이크 범죄, AI로 잡는다…경찰, 7개월간 419명 검거 인공지능 수사 기법 고도화탐지·분석·포렌식 ‘3중 대응’디지털성범죄물 끝까지 추적선거범죄 등에도 확대 적용 경찰청 국가수사본부. [매경DB] 올해 들어 딥페이크(허위영상물) 범죄로 경찰에 붙잡힌 피의자가 400명을 넘어섰다. 경찰은 영상의 합성 여부뿐 아니라 제작에 쓰인 인공지능(AI) 프로그램과 조작 흔적까지 분석해 범행 전 과정을 추적하고 있다.경찰청 국가수사본부는 올해 1~7월 딥페이크 범죄 피의자 419명을 검거하고 이 가운데 17명을 구속했다고 13일 밝혔다. 경찰은 현재 △딥페이크 탐지 소프트웨어를 이용한 1차 판별 △과학수사 영상분석관의 정밀 판독 △AI 범행도구를 분석하는 디지털포렌식 등 3단계 방식으로 관련 사건을 수사하고 있다.지난 3월 경찰에는 해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 올라왔다는 피해 신고가 잇따라 접수됐다. 사건은 시·도경찰청 4곳에 각각 접수됐지만, 경찰이 딥페이크 탐지 소프트웨어로 영상들을 분석한 결과 동일한 특징이 확인됐다. 경찰은 한 사람이 여러 피해자의 허위영상을 만들어 유포했을 가능성이 있다고 보고 사건을 집중 수사해 20대 남성을 검거한 후 구속 송치했다.또 다른 사건에서 경찰은 사회관계망서비스(SNS)를 통해 성착취 허위영상물을 제작·판매한 20대 남성을 검거한 뒤, 영상을 주문한 의뢰자들로 수사를 확대했다. 이 과정에서 경찰은 검거된 남성이 제작한 영상물과는 다른 패턴의 허위영상물을 발견했다. 경찰은 탐지 소프트웨어로 1차 판별 후 AI 디지털포렌식 기법을 적용해 영상 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진까지 찾아냈다. 이를 토대로 경찰은 해당 의뢰자가 허위영상 제작에 관여한 혐의까지 수사하고 있다.경찰이 사용하는 딥페이크 탐지 소프트웨어는 얼굴의 생성·교체 여부와 눈 깜빡임·혈류 변화 등 생물학적 특징, 파일의 메타데이터 구조를 종합해 영상의 합성 여부를 판별한다. 개발 이후 현재까지 1636건의 수사에 활용됐다. 올해에는 딥페이크 성범죄뿐 아니라 선거범죄 등 다른 분야에서도 72건 사용됐다. 소프트웨어만으로 조작 여부를 가리기 어려운 경우에는 과학수사 영상분석관이 별도 프로그램을 이용해 위·변조 여부를 다시 검증한다.디지털포렌식 단계에서는 피의자가 어떤 AI 프로그램으로 영상을 만들었는지, 영상의 어느 부분을 바꿨는지 등을 분석해 제작...