다음은 인공지능(AI) 번역을 통해 생산한 콘텐츠로, 원문은 12월23일자 블룸버그 보도입니다.
[서울=뉴스핌] 황숙혜 기자 = 일본의 라쿠텐 그룹(4755)은 구글 출신 베테랑의 지휘 아래 AI 팀을 확장하고 있으며, 비용 효율성에 초점을 맞춘 모델을 구축하고 있다.
3년 전 라쿠텐의 인공지능 팀 수장을 맡은 팅 차이(Ting Cai)는, 그룹의 다양한 사업을 보강하고 상거래 트랜잭션을 최소 비용으로 처리할 수 있는 AI 시스템을 만드는 임무를 맡고 있다.
그는 올해 1,000명 규모로 성장한 팀을 이끌고 있으며, 작업에 활용할 수 있는 수천 개의 엔비디아(Nvidia) 칩을 보유하고 있다.
도쿄에 본사를 둔 라쿠텐은 부진한 모바일 사업과 경쟁이 치열한 온라인 쇼핑 부문이라는 과제에 직면해 있으며, 새로운 AI 도구를 효과적으로 도입하면 두 사업 모두에 상당한 도움이 될 수 있다. 다만 초기부터 수익성을 중시하는 접근은 다른 대형 테크 기업들과 차별화되는 지점이다.
차이는 인터뷰에서 "라쿠텐은 매우 비즈니스 지향적인 회사로, 최신 기술을 고객 문제를 해결하는 데 적용하고 있다"며 "이를 대규모로 수행하기 위해서는 마진을 최대화해야 하고, 그래서 생성형 AI를 도입하는 데 있어 비용을 줄이는 것이 우리에게는 매우 중요하다"고 말했다.
차이의 팀은 지난주 자사 대형 언어 모델(LLM) 버전 3을 공개했는데, 라쿠텐에 따르면 이는 기존의 유사한 LLM들보다 실행 비용이 90% 저렴하다.
회사는 작업을 더 단순한 태스크들로 세분화하고, 각 서비스가 필요로 하는 특정 요구를 해결하기 위해 더 작은 모델들을 개발하는 전략을 취하고 있다.
버전 3는 총 7000억 개의 파라미터 가운데, 토큰 하나를 처리할 때마다 약 400억 개의 파라미터만 활성화하고 나머지는 비활성 상태로 두어 효율성을 높인다.
AI 기능은 2024년에 105억 엔(6,700만 달러)의 영업이익을 창출했으며, 회사는 올해 이 수치를 두 배로 늘리는 것을 목표로 하고 있다.
지능형 광고 타기팅과 게재 최적화는 라쿠텐 온라인 스토어프런트를 사용하는 판매자들의 광고 투자수익률(ROI)을 끌어올렸고, AI 기반 의미 검색(semantic search)과 개인화 추천 기능은 사용자 참여도와 클릭률을 개선했다.
shhwang@newspim.com
