전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 중기·벤처

속보

더보기

한국 생성형 AI '코난 LLM', 美 리포트에 기재

기사입력 : 2024년07월31일 09:35

최종수정 : 2024년07월31일 09:35

[서울=뉴스핌] 송은정 기자 =코난테크놀로지가 자체 개발한 대형언어모델 '코난 LLM'이 美 스탠퍼드대 '에코시스템 그래프'에 이름을 올리고 비즈니스 라인업도 새롭게 재정비했다.

美 스탠퍼드대 에코시스템 그래프에 기재된 코난테크놀로지 '코난 LLM' 설명 [사진=스탠퍼드대 에코시스템 그래프]

에코시스템 그래프는 스탠퍼드대 기초모델연구센터(CRFM)가 세계 AI 모델, 데이터 셋, 응용프로그램의 사회적 영향력을 분석하는 프로젝트다. 28일 코난 LLM이 에코시스템 그래프에 추가됐다. 등록된 정보에 따르면 '코난 LLM은 코난테크놀로지에서 자체 개발한 대규모 언어 모델입니다. 초대형 AI 학습에 최적화된 이 모델은 고품질의 대규모 데이터와 자연어 처리 분야에서 20년 이상 쌓아온 전문성을 활용합니다'라고 소개됐다.

코난테크놀로지는 자체 데이터와 컴퓨팅 인프라를 기반으로 지난해 8월 코난LLM 파운데이션 모델을 출시했다. 한국의 토종 생성형 AI다. 통상 AI 모델은 한국에서 생산된 데이터를 얼마나 갖고 학습했는지에 따라 한국어 성능이 결정된다.

코난 LLM의 전체 학습 토큰 수는 47B 모델 기준 1조5111억개(15111억), 한국어 토큰수는 5111억개에 달한다. 2007년부터 시작한 온라인 미디어 심화 분석 펄스케이(pulseK)를 통해 확보한 데이터가 현재 250억 건 규모다. 한국어 토큰의 규모 뿐만 아니라 한국의 문화, 정서, 라이프스타일 등이 담긴 데이터로 학습한 만큼 한국어 답변 품질도 뛰어나다.

지난 6월에는 사실상 국내 첫 대형언어모델의 공공 현장 도입 사례로 꼽히는 한국남부발전의 사내 생성형AI 구축사업도 착수했다. 생성형 AI 실증을 위해 치뤄진 기술평가에서 코난LLM은 보고서 생성부터 번역, 요약, 자료분석, 코딩까지 뛰어난 문서 생산성을 입증 받았다. 또한 생성형 AI 파운데이션 모델을 사내 구축 함으로써 정보 유출 및 보안 우려를 원천 차단한다는 점에서 기업 니즈에 부합했다.

한편, 코난테크놀로지는 최근 STT, TTS, LLM 기능을 갤럭시 S24에 동시 탑재해 실시간 외국어 대화를 구현했다. 퀄컴의 스냅드래곤 등 저전력의 AI칩에서 작동된 만큼 △스마트폰 △카메라 △센서 △드론 △웨어러블 등 여러 디바이스에도 적용이 가능하다.

온디바이스 AI를 선보이며 기업용 코난 LLM 모델 라인업도 재정비했다. 기존의 파라미터 기준 분류에서 ▲OND(On-Device) ▲PRO(Professional, 단위업무 규모용) ▲ENT(Enterprise, 전사업무 규모용)로 구분했다. 생성형 AI 도입을 고민하는 기업에게 원하는 업무의 규모나 용도 및 예산에 맞춰 선택 폭을 넓히겠단 방침이다. 현재 코난 LLM은 14B와 47B 그리고 온디바이스용 4B와 7B 모델이 개발돼 있다.

김영섬 코난테크놀로지 대표이사는 "현지 데이터와 컴퓨팅 인프라, 자체 엔진이 가진 특성을 승부처로 삼아 기업의 인공지능 비즈니스를 돕고 매출 확대에도 속도를 내겠다"고 전했다. 코난테크놀로지는 1999년 설립 이후 자체개발 AI 원천 기술을 기반으로 텍스트, 음성, 비디오 분야에서 2500여 고객사와 3000여 건의 프로젝트를 수행하고 있다. SK텔레콤의 K-AI 얼라이언스이기도 하다.

yuniya@newspim.com

[뉴스핌 베스트 기사]

사진
SKT '유심 교체' 북새통...내 차례 올까 [인천=뉴스핌] 김학선 기자 = 가입자 유심(USIM) 정보를 해킹 당한 SK텔레콤이 유심 무료교체 서비스를 시작한 28일 인천의 한 대리점에서 고객들이 유심 교체를 위해 줄을 서 차례를 기다리고 있다. SKT는 사이버침해 피해를 막기 위해 이날 오전 10시부터 전국 2600여곳의 T월드 매장에서 희망 고객 대상 유심 무료교체 서비스를 진행한다. 2025.04.28 yooksa@newspim.com   2025-04-28 12:12
사진
"화웨이, 엔비디아 H100 능가 칩 개발" [서울=뉴스핌]박공식 기자 = 중국 화웨이가 미국이 수출 금지한 엔비디아 칩을 대체할 최신 인공지능(AI) 칩을 개발해 제품 시험을 앞두고 있다고 월스트리트저널(WSJ)이 현지 시간 27일 보도했다. 신문은 화웨이가 일부 중국 기술기업에 새로 개발한 '어센드(Ascend) 910D'의 시험을 의뢰했다고 전했다. 어센드 910D는 엔비디아의 H100보다 성능이 더 우수한 것으로 평가되고 있으며 이르면 5월 말 시제품이 나올 것으로 예상된다. 앞서 로이터통신은 21일 화웨이가 자체 개발한 AI칩 910C를 내달 초 중국 기업에 대량 출하할 계획이라고 보도한 바 있다. 화웨이를 비롯한 중국 기업들은 데이터를 알고리즘에 제공해 더 정확한 결정을 내리게 하는 훈련 모델용으로 엔비디아 칩에 필적하는 첨단 칩을 개발하는 데 주력해왔다. 미국은 중국의 기술 개발을 억제하기 위해 B200 등 최첨단 엔베디아 칩의 중국 수출을 금지하고 있다. H100의 경우 2022년 제품 출하 전에 중국 수출을 금지했다.  중국 베이징에 있는 화웨이 매장 [서울=뉴스핌]박공식 기자 = 2025.04.28 kongsikpark@newspim.com kongsikpark@newspim.com 2025-04-28 12:26
안다쇼핑
Top으로 이동