[서울= 뉴스핌] 정승원 기자= 카카오가 스마트폰 등 기기에서 구동 가능한 경량 언어모델(SLM) 4종을 28일 오픈소스로 공개했다.

공개된 모델은 '카나나-2' 시리즈로 1.3B 기본형·명령형, 3B 기본형·명령형 등이다. 모두 허깅페이스를 통해 상업적 활용까지 허용하는 '카나나 오픈 라이센스'로 배포된다.

카카오는 자체 개발한 한국어 특화 토크나이저를 적용했다. 토크나이저는 인공지능(AI) 모델이 텍스트를 처리할 때 문장을 나누는 단위를 결정하는 기술로 한국어에 최적화할수록 같은 문장을 더 적은 단위로 처리해 연산 속도가 빨라지고 비용이 줄어든다. 이를 통해 한국어 처리 효율을 기존 대비 30% 이상 개선했다.

공개 모델들은 유사 크기의 최신 오픈소스 모델 대비 한국어와 영어 모두에서 우수한 성능을 기록했다. 특히 1.3B 명령형과 0.9B 명령형 모델은 대화, 지식, 코드, 수학 등 실제 서비스 활용 역량에서 글로벌 경쟁 모델인 Qwen, Gemma 등과 비교 가능한 수준이다.

메모리가 제한적인 온디바이스 환경에 최적화된 점도 특징이다. '슬라이딩 윈도우 어텐션' 구조를 도입해 최대 3만2000 토큰(약 2만4000단어) 길이의 대화에서도 메모리 사용량을 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "카카오는 두 영역에서 기술 경쟁력을 높여가고 있으며 이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.

카카오는 현재 '카나나 인 카카오톡', '카카오톡 대화요약 및 통화요약', 'AI 국민비서' 등 다양한 서비스에 경량 모델을 활용 중이다. 개발자, 스타트업, 연구기관 등 누구나 별도 제약 없이 기술을 활용할 수 있도록 공개했다.

origin@newspim.com