“무심코 챗GPT에 내 사진 올렸다간 디지털성범죄에 활용?”…‘천조국’ 미국에 대부분 서버 두고 유통

디지털 성범죄 피해자를 지원하는 중앙디지털성범죄피해자지원센터에서 지난해 피해영상물 삭제 지원 건수가 역대 최대인 30만건을 넘어선 것으로 나타났다. 최근에는 오픈AI의 챗GPT를 활용한 사례도 발생하고 있는 것으로 드러나 각별한 주의가 요구되고 있다.

10일 여성가족부와 한국여성인권진흥원이 공개한 ‘2024 디지털성범죄 피해자 지원 보고서’에 따르면, 지난해 피해영상물 삭제 지원 건수가 30만237건으로 집계됐다. 전년(24만5416건)보다 22.3% 가량 늘어난 수치다.

이 가운데 7만7652건은 피해자의 성명, 연령 등 개인정보가 동반 유출된 사례로, 전년(5만7082건) 대비 36.0% 증가했다.

플랫폼별 삭제 지원 건수는 성인사이트가 12만9268건(43.0%)으로 가장 많았고, 검색엔진 11만7029건, 사회관계망 서비스(소셜 미디어) 3만2168건, 클라우드 9824건 순으로 나타났다. 불법촬영물 삭제지원 과정에서 수집한 사이트 2만6318개 중 해외에 서버를 둔 사이트는 2만5095개였으며, 그 중 미국이 70.4%로 압도적으로 높은 비율을 차지했다. 중앙디지털성범죄피해자지원센터는 해외에 서버를 둔 사이트에 대한 대응을 강화하기 위해 미국 실종학대아동방지센터(NCMEC)와 지난해 7월 업무협약을 체결했으며 작년에만 6702건을 삭제 지원했다.

조용수 여가부 권익증진국장은 “중앙 디성센터와 수사기관 간 연계 창구를 개설해 적극 협력하고 수사기관으로부터 연계된 불법촬영물 등에 대한 긴급 삭제 지원을 강화하면서 삭제지원 건수가 크게 늘었다”고 설명했다.

지원 피해자수도 1만305명으로 전년(8983명)보다 14.7% 증가했다. 여성은 7428명(72.1%), 남성은 2877명(27.9%)이었다. 연령대별로는 10대(2863명)와 20대(5242명)가 전체 피해자의 78.7%를 차지했다. 여가부는 사회관계망 서비스와 메신저, 익명기반 플랫폼 등을 활발히 이용하는 연령대에서 피해가 집중적으로 발생하고 있는 것으로 분석됐다.

최근에는 오픈AI의 챗GPT를 활용한 디지털범죄도 늘어나고 있는 것으로 파악됐다. 다수의 사용자가 올린 사진 또는 영상을 학습한 챗GPT가 특정 신체를 강조하거나 노출을 원하는 일부 사용자의 주문에 합성된 사진을 생산해 내는 식이다.

박성혜 여가부 삭제지원팀장은 “오픈AI 안에서 본인이 만들고 싶은 이미지를 주문해 넣으면 거기서 나오는 이미지 가지고 놀이처럼 제작하는 경향이 보인다”며 “이후 사례가 쌓이면 유형분석이 가능할 것으로 보인다”고 밝혔다.

피해 유형별 현황을 살펴보면 중앙 디성센터에 접수된 1만6833건 중 유포불안이 4358건(25.9%)으로 가장 높은 비중을 차지했다. 유포불안은 자의 또는 타의로 촬영한 사진, 동영상 등이 온라인에 불법 유통되고 있는지를 확인받고 싶어하는 경우이다.

조 국장은 “디지털성범죄는 물리적 성폭력과 달리 피해 발생 이전에도 심각한 심리적 불안을 초래하는 특징이 있으며, 특히 불법촬영, 딥페이크 등은 피해자가 즉시 인지하기 어려운 특성이 있어 유포불안을 심화시키는 요인으로 작용한 것으로 분석된다”고 밝혔다.

또 불법촬영 4182건(24.9%), 유포 2890건(17.2%), 유포협박 2244건(13.3%) 순으로 나타났다.

특히 디지털 기술을 활용한 합성․편집 피해 건수는 1384건으로 전년(423건) 대비 227.2% 증가하며 가장 두드러진 증가세를 보였다. 합성·편집 피해는 여성이 피해자의 대부분(96.6%)으로, 주로 여성의 얼굴과 신체이미지가 딥페이크 성범죄에 악용되고 있기 때문인 것으로 분석됐다.

피해자와 가해자의 관계를 살펴보면, 채팅상대, 일회성 만남 등 일시적 관계가 28.9%으로 가장 높았으며, 다음으로 모르는 사람(26.5%), 관계 미상(24.7%), 사회적 관계(10.0%), 친밀한 관계(9.7%), 가족관계(0.2%) 순이었다.

여성가족부는 딥페이크 성범죄 확산에 대응하기 위해 지난해 11월 관계부처 합동으로 ‘딥페이크 성범죄 대응 강화 방안’을 발표하였으며, 후속 조치를 추진 중이다.

지원 기관마다 달랐던 디지털성범죄 피해 상담 접수 전화를 1366으로 일원화해 접근성을 높였으며 삭제 지원 대상을 불법촬영물 등에서 피해자 신상정보까지 확대한 개정법에 따라 삭제 지원을 강화하고 있다.

신영숙 여성가족부 차관은 “앞으로도 디지털성범죄 피해를 선제적으로 지원할 수 있도록 대응 방안을 끊임없이 강구하여 피해자 보호․지원에 주도적인 역할을 해나가겠다”라고 밝혔다.

이 기사가 마음에 들었다면, 좋아요를 눌러주세요.

좋아요 0