"영락없는 자녀 목소린데"…AI 보이스피싱, AI로 방지

1 week ago 4

"엄마, 나…친구 보증을 섰는데…친구가 연락이 안 된대서…내가 잡혀 왔어."

60대 A씨는 딸 번호로 온 전화를 받고 깜짝 놀랐다. 휴대폰으로 들려오는 목소리, 말투 모두 영락없는 딸이었다. A씨는 집 근처 은행으로 가사 2000만원을 인출했다. 자초지종을 들은 창구 직원은 보이스피싱을 의심했고 112에 신고했다.

경찰 확인 결과 이는 보이스피싱으로 밝혀졌다. 보이스피싱범들이 딸의 목소리를 인공지능(AI)으로 흉내를 내 피해자를 속인 것. 지난해 5월 부산에서 실제 있었던 일이다.

보이스피싱, 평균 피해액 4100만원 2.5배 ↑

AI로 목소리를 흉내 내는 '딥 보이스'를 활용하는 등 보이스피싱 범죄가 고도화되고 있다. 이동통신3사(SK텔레콤·KT·LG유플러스)가 보이스피싱 탐지에 힘을 쓰는 이유다. AI로 보이스피싱 통화를 감지해 이용자에게 피해 가능성을 알리거나 차단한다.

8일 정보통신기술(ICT)업계에 따르면 금융감독원에 구제를 신청한 보이스피싱 피해액은 지난해 9월 249억원에서 같은 해 12월 610억원으로 늘었다. 3개월 만에 약 2.5배 증가한 것이다. 1인당 보이스피싱 평균 피해금액은 4100만원에 달했다.

피해금액뿐 아니라 보이스피싱 건수도 1년 사이 약 4.4배 증가했다. 한국인터넷진흥원(KISA) 자료를 보면 국내에서 집계된 스미싱 탐지 건수는 2023년 50만3300건에서 지난해 219만6469건으로 늘었다.

이통3사는 보이스피싱 범죄를 막기 위해 AI 탐지 시스템을 도입했다. 업계에선 문자메시지, 통화 등 이통3사 주력 서비스로 보이스피싱이 이뤄지는 만큼 소비자 신뢰를 위해서라도 보이스피싱 예방에 집중해야 하는 시기로 보고 있다.

SK텔레콤, 연간 2000억원 피해액 방지

SK텔레콤은 AI 사이버보안 기술 '스캠뱅가드'를 활용해 AI 기반 이상탐지 통합서비스를 개발했다. 해당 기술은 AI가 대화나 문자 문맥을 파악해 미끼 문자와 의심번호를 찾아내는 기술이다.

AI가 잠재적 피해자로 위장해 피싱범을 속이며 대화하는 거대언어모델(LLM) 기반 언더커버봇을 활용해 여러 플랫폼에서 이뤄지는 금융 사기를 발굴하고 피싱 수법 데이터를 수집하기도 한다. 아울러 통화한 사람의 그간 수행 이력을 분석해 사기범이 타인 명의로 인증을 시도한 흔적이 있는지 확인하는 기술도 있다.

SK텔레콤은 AI 이상탐지 솔루션을 IBK기업은행 보이스피싱 모니터링 시스템에도 적용해 적극 예방에 나설 계획이다. 서비스 정식 출시 전부터 2주간 총 26건의 보이스피싱 피해를 예방해 약 5억9000만원의 금전적 손실을 막았다.

올해엔 사용자 단말기에 소형언어모델(SLM)과 음성·텍스트변환(STT) 기술을 적용한 온디바이스 기반 AI 보이스피싱 탐지 시스템을 선보일 예정이다. SK텔레콤은 스캠뱅가드 기술 외에도 2022년부터 실시한 AI 기반 스팸·스미싱 필터링 시스템으로 연간 2000억원 이상의 피해 금액을 방지했다고 전했다.

KT, 2달 만에 160억원 피해 예방

KT는 지난 1월 22일부터 AI 기반 보이스피싱 탐지서비스를 상용화했다. 통화 음성을 문자로 변환해 최초 150음절 만에 피싱 여부를 가려내는 기술이다. 보이스피싱 시나리오 2만개를 학습한 AI가 문맥을 파악해 피싱을 감지한다.

KT는 보이스피싱 10건 중 9건꼴로 탐지했다. 서비스 개시 이후 주의, 위험 등급으로 탐지된 보이스피싱 통화 중 확인 가능한 1528건을 분석한 결과 탐지 정확도가 90%에 가까웠다. 이 중 392건은 경찰청의 보이스피싱 블랙리스트도 검찰·경찰 사칭 사례로 확인됐다.

KT는 지난해 보이스피싱 건당 평균 피해액 4100만원이었던 점을 고려해 단순 계산으로 약 160억원의 피해예방 효과를 거뒀다고 설명했다. 아직 요금 청구나 수납 관련 정상 통화에서 오탐 사례가 일부 발생했지만 AI 엔진 고도화와 화이트리스트 업데이트를 통해 올 상반기 안으로 탐지 정확도를 더욱 높일 계획이다.

KT도 케이뱅크와 협력해 AI 기반 보이스피싱 실시간 탐지 기술을 적용한다. 출금 정지 등 직접적인 금융 사기 대응이 가능해지는 것이다. 고객이 보이스피싱이 의심되는 전화를 받을 경우 실시간 탐지 정보를 케이뱅크에 제공한다.