비씨카드, 금융 특화 AI 검색 모델 공개

비씨카드는 금융 특화 생성형 AI 서비스의 검색 정확도를 높이는 자체 개발 임베딩 모델을 공개했다고 2일 밝혔다.

임베딩 모델은 질문과 문서의 의미를 AI가 이해할 수 있는 좌표값으로 변환한다. 의미가 비슷한 정보는 가까이 배치해 가장 관련성이 높은 정보를 찾아 사용자에게 제공한다.

예를 들어 “해외결제 수수료가 얼마인가요?”라는 질문을 생성할 경우 AI는 관련 약관과 문서를 찾은 후 답변을 생성한다. 이때 '해외 결제 수수료'라는 단어가 없으면 검색이 실패하지만 임베딩 모델은 '해외 이용 수수료', '국제 브랜드 수수료'처럼 표현은 다르지만 의미가 같은 문서를 찾아 AI에게 전달해준다.

반면 기존 임베딩 모델은 가맹점, 카드 결제 등 국내 금융 분야의 전문 용어와 문맥을 충분히 이해하지 못한다는 한계가 있었다. 비씨카드는 이러한 문제 해결을 위해 오픈소스 플랫폼에 공개했던 182만건 규모 데이터셋을 활용해 금융 특화 임베딩 모델을 개발했다.

비씨카드는 서비스 목적에 맞춰 경량형, 고품질형 2가지 라인업으로 구성했다.

경량형 모델은 약 6억(0.6B)개의 피라미터 규모로 일반 CPU로 이용 가능하다. 이 모델은 공개 직후 글로벌 벤치마크 SOTA 평가 항목에서 타 모델 대비 최대 15%까지 향상된 성능을 보이며 전세계 1위를 기록했다.

고품질형 모델은 약 40억(4.0B)개의 파라미터로 GPU환경에서만 활용할 수 있다. 경량형 모델 대비 약 10% 가량 성능이 뛰어나며, 정밀한 검색이 필요한 업무에 적합하다.

두 모델은 각각 속도와 정밀도를 강점으로 한다. 빠른 응답이 필요한 서비스에는 경량형 모델을, 높은 검색 정확도가 필요할 때는 고품질형 모델을 선택적으로 적용할 수 있다.

비씨카드는 개발 과정에서 단순히 모델 규모를 키우는 것보다 고품질 금융 데이터 학습이 검색 성능 향상에 더 중요한 요소라는 점도 확인했다. 이를 통해 금융 AI 서비스의 핵심 검색 기술을 자체 확보했다.

해당 모델은 글로벌 오픈소스 플랫폼인 허깅페이스를 통해서도 공개할 예정이다. 비씨카드는 향후 KT 그룹사 AI 서비스 적용을 시작으로 정부와 금융기관 등을 대상으로 금융 AI 검색 플랫폼 사업도 확대해 나갈 계획이다.

오성수 비씨카드 상무는 “금융 특화 AI 서비스의 핵심 기술을 자체 확보, 운영할 수 있는 기술 기반을 마련했다”며 “자체 개발한 금융 특화 모델과 데이터셋을 개방하고 공유해 금융권 전반의 AX 저변을 확대할 것”이라고 말했다.

김신영 기자 spicyzero@etnews.com