[서울=뉴스핌] 송주원 기자 = 카카오뱅크(대표이사 윤호영, Daniel)가 인공지능(AI) 기술의 책임 있는 활용과 윤리적 운영을 위해 AI 윤리 활동을 전방위로 강화하고 있다.

30일 카카오뱅크에 따르면 카카오뱅크는 지난해 성공적으로 안착한 'AI 거버넌스' 체계를 고도화하기 위해 올해부터 'AI 거버넌스 2.0' 프로젝트를 추진 중이다.

카카오뱅크(대표이사 윤호영, Daniel)가 인공지능(AI) 기술의 책임 있는 활용과 윤리적 운영을 위해 AI 윤리 활동을 전방위로 강화하고 있다. [사진=카카오뱅크]

'AI 거버넌스 2.0'은 금융권에서 AI 거버넌스를 선도해온 카카오뱅크의 경험을 바탕으로, 체계를 더욱 정교화하고 확장해 나가기 위한 전략적 과제다.

이 일환으로 카카오뱅크는 ▲컴플라이언스(금융분야 AI 가이드라인 개정 및 AI 기본법 시행 대응) ▲정책(AI 거버넌스 대상 범위 확대 추진) ▲조직(AI 윤리 관련 조직 추가 신설 검토) ▲프로세스(AI 생애주기 준수절차 개선) 등 핵심 영역별 실행 과제를 도출해 선제적으로 이행하고 있다.

기술 측면에서는 AI의 투명성과 신뢰성 강화를 위해, 연구와 실무 적용에 적극 나서고 있다.

카카오뱅크는 '설명가능 인공지능'(eXplainable AI, XAI) 기술을 이상거래탐지(FDS) 등 내부 분석 시스템에 적용하고 있다. XAI는 AI가 도출한 특정 결과의 작동 원리와 판단 근거를 사용자에게 명확히 제시하는 기술로, 결과에 대한 책임성과 해석 가능성을 높이는 데 기여한다. 이를 통해 AI 기반 업무의 정확도를 제고하고, 서비스 전반의 신뢰도를 강화하고 있다.

KAIST '설명가능 인공지능센터'(XAIC)와 산학협력을 맺고 XAI 알고리즘을 상호 발전시켜 나가며 다양한 금융 분야에서의 기술 적용 가능성을 확장하고 있다.

아울러 카카오뱅크는 대규모언어모델(LLM) 성능 평가 체계 'DUO'를 자체 구축해 운영하고 있다. 'DUO'를 활용하면 다양한 LLM 가운데 금융 대화 역량, 계산 능력 등 카카오뱅크의 요구에 부합하는 모델을 신속하고 정확하게 평가할 수 있다. 윤리·안전성(Safety), 진실성(Truthfulness) 기준에 따라 편향성과 환각(Hallucination) 가능성 등의 점검도 가능하다.

카카오뱅크는 향후에도 제도적 기반과 기술적 실행력을 지속적으로 강화해 금융 소비자가 안심하고 AI 기반 서비스를 이용할 수 있는 환경을 조성해 나갈 방침이다.

카카오뱅크는 "AI 윤리는 기술 발전과 함께 반드시 동반돼야 하는 필수 요소이며, 이를 제도와 기술로 실천하는 것이 중요하다"며 "카카오뱅크는 금융 영역에 특화한 AI 전 생애주기 관리와 책임 있는 운영으로 고객 신뢰를 지켜 나가겠다"고 말했다.

jane94@newspim.com