[서울=뉴스핌] 정승원 기자 = LG유플러스가 인공지능(AI) 서비스 운영 과정에서 축적한 토큰 최적화 기술 역량을 바탕으로 내년 B2B(기업간거래) AI 시장에 본격 진출한다.

기업의 AI 활용 비용이 빠르게 증가하고 있는 가운데 AI로 고객이 원하는 업무를 수행하면서도 토큰 사용량과 운영비를 낮추는 사업 모델을 선보이겠다는 구상이다.

LG유플러스는 지난 12일 AI 토큰 최적화 스터디를 개최하고 실제 서비스 운영 과정에서 확보한 비용 절감 기술과 연구 성과, 향후 사업 추진 방향을 공개했다.

LG 유플러스의 통화 에이전트 익시오와 기업용 AI 상담센터(AICC), 사내 업무 혁신(AX) 등에 적용해 온 최적화 노하우를 기업 고객 대상으로 확대하는 전략이다.

LG유플러스는 내년부터 협력사와 함께 토큰 최적화 사업을 추진한다. 단순히 토큰당 가격을 낮추는 데 그치지 않고 기업이 AI를 활용해 특정 업무를 완수하는 데 필요한 전체 비용을 줄이는 데 초점을 맞췄다.

AI 모델 선택부터 서비스 운영까지 고객의 업무 특성에 맞춰 최적화해 기업의 AI 도입 부담을 낮추겠다는 전략이다.

토큰 효율화의 배경에는 AI 에이전트 확산에 따른 비용 증가가 있다. 기존에는 이용자가 AI에 질문하고 답변을 받는 방식이 중심이었다면 에이전트는 목표한 업무를 수행하기 위해 여러 차례 AI 모델을 호출하고 정보를 탐색, 검증한다. 이 과정에서 토큰 사용량이 늘어나면서 기업이 부담해야 하는 AI 운영비도 커질 수 있다.

LG유플러스는 AI 서비스의 경쟁력이 모델 성능뿐만 아니라 같은 업무를 얼마나 적은 비용으로 처리할 수 있는지에 달려 있다고 보고 있다. 고성능 모델을 모든 작업에 일률적으로 사용하는 대신 질문과 업무의 난이도에 따라 적합한 모델을 선택하고 불필요한 작업을 줄여 전체 비용을 낮추는 방식이다.

이상엽 LG유플러스 최고기술책임자(CTO)는 "AI 시대의 경쟁력은 같은 일을 얼마나 적은 토큰으로 해내느냐에 달려 있다"며 "LG유플러스는 전화 AI와 사내 AX 과정에서 완성한 최적화 기술력을 갖췄다"고 강조했다.

실제로 LG유플러스의 AI 통화 에이전트 익시오는 초기 단말기 내에서 작업을 수행하는 온디바이스 AI 모델과 구글의 제미나이 등 외부 모델을 함께 활용했지만 현재는 자체 모델과 외부 모델의 활용 비중을 조정해 왔다. 일상적인 대화와 고난도 추론이 필요한 작업을 구분해 적합한 모델을 적용하는 방식이다.

LG유플러스는 카카오와 협력하는 '모두의 AI'에서도 모델 운영을 담당한다. 서비스 운영 과정에서 축적되는 데이터와 노하우를 토큰 최적화 역량으로 연결한다는 계획이다. 사내 AX에도 관련 기술을 적용하고 있다.

LG유플러스는 자체 기술 검증 결과 토큰 소모가 가장 심한 코딩 영역에서 통상적으로 쓰는 모델 대비 자체 AI 모델의 운영 비용을 약 90% 절감한 사례를 확인했다. 모델 라우팅을 적용한 내부 테스트에서는 일반적인 질문 처리 비용에서는 25% 이상, 코딩 에이전트 비용을 30% 이상 줄이는 효과도 확인했다.

이 CTO는 "LG유플러스의 토큰 최적화는 이론적 효율화를 넘어 이미 수많은 실전 서비스에서 검증을 끝낸 즉시 전력감 기술"이라며 "글로벌 수준의 모델 경량화·추론 기술과 AI 업무 수행 궤적을 반영한 운영 레시피를 결합해 내년부터 기업 고객들이 가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다"고 전했다. 

origin@newspim.com