[서울=뉴스핌] 박가연 기자 = BC카드는 금융 특화 생성형 AI 서비스의 검색 정확도를 높이기 위해 자체 개발한 임베딩(Embedding) 모델을 공개했다고 2일 밝혔다.

생성형 AI는 상담 서비스와 업무 지원, 문서 검색 등 금융권 활용이 확대되고 있다. 생성형 AI는 필요한 정보를 검색해 답변을 생성하는 방식인 만큼, 관련 문서를 얼마나 정확하게 찾아내는지가 서비스 품질을 좌우한다.

임베딩 모델은 질문과 문서의 의미를 AI가 이해할 수 있는 좌표값으로 변환해 의미가 유사한 정보를 연결하는 기술이다. 예를 들어 '해외결제 수수료'와 '해외 이용 수수료', '국제 브랜드 수수료'처럼 표현은 다르지만 의미가 같은 문서를 찾아 답변 정확도를 높일 수 있다.

BC카드는 기존 범용 임베딩 모델이 가맹점과 카드결제 등 국내 금융 분야의 전문 용어와 문맥을 충분히 반영하지 못하는 한계를 고려해, 앞서 공개한 182만건 규모의 금융 데이터셋을 활용해 금융 특화 임베딩 모델을 개발했다고 설명했다.

이번 모델은 서비스 목적에 따라 경량형과 고품질형 두 가지로 구성됐다. 일반 CPU로 구동 가능한 경량형(파라미터 6억 개)은 글로벌 벤치마크(SOTA) 평가에서 기존 모델 대비 성능이 최대 15% 향상되며 세계 1위를 기록했다. GPU 환경에서 작동하는 고품질형(파라미터 40억 개)은 경량형보다 성능이 10%가량 우수해 정밀한 검색 업무에 적합하다

또 이번 개발을 통해 모델 규모보다 고품질 금융 데이터 학습이 검색 성능 향상에 더 중요한 요소라는 점을 확인했다고 밝혔다. 아울러 금융 데이터를 외부 AI 서비스에 제공하지 않고 자체 AI 서비스를 운영할 수 있는 기반도 마련했다고 덧붙였다.

해당 모델은 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해 공개될 예정이다. BC카드는 KT그룹 AI 서비스에 우선 적용한 뒤 정부와 금융기관 등을 대상으로 금융 AI 검색 플랫폼 사업을 확대할 계획이다.

오성수 BC카드 AI데이터본부장(상무)은 "금융 특화 AI 서비스의 핵심 검색 기술을 자체 확보했다"며 "금융권 AI 활용 기반 확대와 국내 금융 AI 생태계 조성에 기여하겠다"고 말했다.

eoyn2@newspim.com