[정유신의 핀테크스토리]AI FDS, 미래 금융 보안의 핵심 인프라로 부상

7 hours ago 1

금융 시스템의 디지털·AI 전환이 가속화됨에 따라 보안 위협 역시 지능화되고 있다. 창이 날카로워지면 방패도 강해져야 하는 법. 이에 따라 사기 탐지 시스템도 이제 인공지능 탑재 시스템(AI FDS)으로 빠르게 재편되는 양상이다.

AI FDS란 뭔가. 한마디로 정형화된 사기 탐지 방식에서 벗어나, AI 알고리즘이 방대한 금융 거래 데이터를 실시간 학습, 이상 징후를 포착·차단하는 차세대 보안 체계다. 최근엔 사용자의 습관과 계좌 간의 관계까지 분석해서 소위 외부 침입자인 변종 사기도 찾아내는 '지능형 면역 체계'로 진화하고 있다고 한다. 거래가 체결되는 수 밀리초(ms) 이내에 사기 여부를 판별해서 선제 대응을 가능케 한단 점에서 금융 보안의 패러다임을 방어에서 예측으로 바꾸고 있단 평가다.

시장 규모는 2025년 글로벌 기준 약 450억달러(약 60조7000억원)다. 아직 대규모는 아니지만, 지난 3년간의 연간 성장률은 24~25%로 빠른 속도다. 특히 거래 간의 복잡한 연결 고리를 분석하는 그래프 신경망(GNN)과 개인정보 유출 없이 사기 패턴을 공동 학습하는 연합 학습 기술이 가능해지면서 금융권의 도입도 빨라지고 있다. 예컨대 미국의 마스터카드는 'Decision Intelligence'란 시스템을 통해 연 1250억건 이상의 거래를 실시간으로 분석, 정상 거래를 사기로 잘못 판단하는 오탐률을 20% 이상 낮췄다. 또 영국의 인터넷 뱅크인 레볼루트는 머신러닝 모델을 활용해서 고객의 스마트폰 GPS 위치와 현재 카드 결제 위치의 거리 차를 파악, 사기 거래를 0.1초 내로 차단한다고 한다.

AI 활용이 본격화되는 이유를 몇 가지 살펴보자. 첫째, 금융 거래의 비대면 가속화와 데이터 폭증이다. 2026년 현재 전 세계 금융 거래의 90% 이상은 모바일과 웹 거래. 초당 수만 건의 트래픽 속에서 룰 베이스 방식으로 사기 패턴을 잡아내는 것은 사실상 불가능해졌기 때문이다. 따라서 찰나의 순간에 발생하는 사기를 실시간 탐지·처리하기 위해 스스로 학습·추론·판단하는 AI의 전면적 도입이 불가피해졌단 얘기다.

둘째, 사기 수법의 지능화다. 예컨대 2024년 홍콩의 다국적 기업에서 발생한 딥페이크 사기 사건이 대표적이다. 범죄 조직이 생성형 AI를 활용해 핵심 간부들의 얼굴과 목소리를 합성한 뒤 화상 회의를 주도, 이에 속은 직원이 약 340억원을 송금한 사례다. 이는 기존 보안 상식을 뒤흔든 사례로 'AI 창'을 쓰는 사기에는 보다 정밀한 'AI 방패'가 필수적이라는 인식 전환의 계기가 됐다. 셋째는 기술적 환경의 성숙과 규제 강화다. 클라우드 컴퓨팅이 비약적으로 발전해서 고성능 AI 모델의 금융 시스템 장착이 가능해진 데다, 주요국 금융 당국이 실시간 사고 방지를 의무화하는 강력한 규제를 도입했기 때문이다. 예컨대 유럽연합(EU)의 지급 결제 지침인 PSD3(2023년 6월)와 미국 백악관의 AI 국가 안보 행정명령(2023년 10월)이 대표적이다.

어떤 효과가 기대되나. 우선 AI FDS를 활용하는 금융회사에 대한 신뢰도 제고다. 이전 금융 보안이 '소 잃고 외양간 고치기' 식이라면, AI FDS는 사고 자체를 원천 봉쇄하는 실시간 대응 체계기 때문이다. 물론 아직 AI 보안은 '보이지 않는 방패' 수준이지만, 레볼루트 사례와 같이 부정 거래 차단 경험이 축적되면, 금융회사에 대한 소비자들의 신뢰 곡선은 급상승할 거라고 한다.

민간 보안 산업의 활성화도 빼놓을 수 없는 효과다. 과거 보안은 예방적·공공적 성격이 강해 산업화에 한계가 있었다. 하지만, 금융 거래의 디지털 및 AI 가속화가 보안을 고부가가치 산업으로 바꿔놓고 있다. 그래프 신경망(GNN) 같은 최첨단 알고리즘 기술력을 갖추면서, 더 이상 금융·IT의 부속품이 아닌 금융 비즈니스의 성패를 좌우하는 핵심 산업으로 급부상하고 있기 때문이다. 이외에 AI FDS는 소비자의 결제 위치, 스마트폰 사용 습관 등도 분석하기 때문에, 사기 방지뿐 아니라 맞춤형 상품을 추천할 수 있다든지, 신용도가 낮지만 사기 경험이 없는 학생·주부 등을 선별할 수 있는 만큼, 포용금융 확대에도 기여할 수 있다.

물론 과제와 문제점도 있다. AI의 블랙박스 문제가 대표적이다. 특정 거래가 왜 사기로 판명되었는지 금융 당국이나 고객에게 논리적으로 설명하지 못하면, 법적 분쟁이나 규제 준수 측면에서 취약점이 될 수 있기 때문이다. 또 알고리즘의 편향성 또는 오인 가능성, 정교한 탐지를 위해선 소비자의 민감한 행동 데이터도 수집해야 하는데, 그 과정에서 개인 정보 보호와의 충돌 가능성도 있다.

아무튼 미래의 금융 보안은 AI FDS에 의한 '자율 보안' 시대로 가고 있다는 게 전문가들 의견이다. 우리나라도 디지털·AI 전환이 갈수록 빨라지고 있고, 최근 들어 통신사와 쿠팡 등 보안 사고도 증가하고 있다. 관련 업계와 정책당국의 보다 높은 관심과 협력을 기대해본다.