[기획]촘촘한 데이터 학습·보수적인 태도, '금융 AI 에이전트' 신뢰도 높여

인공지능(AI) 에이전트에 구체적인 데이터를 학습시키고 답변에 관한 명확한 근거를 제시하도록 설계해야 실제 현장에서 믿을 수 있는 '금융 AI 에이전트'로서 역할을 수행할 수 있다는 목소리가 나왔다.

금융 AI 에이전트의 자격 요건으로는 △숫자를 틀리지 않는 '정확성' △애매하면 답하지 않는 '보수성' △조건이 부족하면 되묻는 '명확성' △모든 판단 근거를 제시하는 '통제성'을 제시했다.

강방울 웹케시 AI 개발부 부장은 23일 서울 여의도 인근에서 열린 '금융 AI 에이전트 콘퍼런스 2026' 세션 '데이터 중심에 들어가며 겪은 시행착오와 에이전트 구축 여정' 발표에서 이같이 밝혔다. 자연어로 질문하면, 실시간으로 답변하는 에이전트를 설계하는 과정에서 겪은 애로사항과 해법을 설명했다.

강 부장은 “AI 에이전트가 결과를 실행하기에 앞서 사용자의 질문을 이해하지 못하는 문제가 나타났다”며 “AI가 은행 언어, 날짜, 시간, 맥락을 알지 못하면서도 틀린 답을 자신 있게 답하는 문제를 발견했다”고 말했다.

이어 “대량 데이터의 경우 처리하는데 시간이 오래 걸리거나, 위험한 쿼리인지 모른 채 실행하고 에이전트가 내놓은 데이터를 사용자가 믿기 어려운 상황이 발생했다”고 밝혔다.

은행 언어를 올바르게 학습하는 것이 첫 과제로 꼽혔다. 웹케시는 각종 전문용어들과 모델을 AI가 확실하게 인식할 수 있도록 설계했다. 대규모언어모델(LLM)이 은행의 언어를 완벽하게 이해하기 위해 △어떤 부서에서 어떤 용어로 물어봐도 동일한 표준 컬럼에 매핑하는 '동의어 정규화' △수천 개의 암호 같은 약어 컬럼을 비즈니스 의미로 자동 변환하는 '스키마 매핑' △지표별 계산 로직을 중앙 정의, 여러 지표를 하나로 묶는 등 '비즈니스 지표 정의'를 도입했다.

강 부장은 “날짜 해석 엔진, 계산을 정확하게 하는 프로세스를 도입해 날짜 인식과 숫자 계산 능력을 높였다”며 “사용자가 맥락 없이 질문해 모호한 질문에 대해서는 추측하지 않고, 반드시 재질의 후 답하도록 설정했다”고 말했다.

또, “힌트를 자동 삽입해 AI 답변 시간을 단축하고 실행 전에 위험한 쿼리를 예측해 운영 DB 장애를 사전 차단했다”며 “SQL을 몰라도 검증 가능한 근거를 제시해 사용자가 결과를 신뢰할 수 있는 환경을 구축했다”고 밝혔다.

김신영 기자 spicyzero@etnews.com