전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 ICT

속보

더보기

AI 전환 속도내는 SKT, 통신 영역 특화된 '텔코 LLM' 6월 출시

기사입력 : 2024년04월30일 10:09

최종수정 : 2024년04월30일 10:09

A.X·GPT·클로드 등 각종 범용모델 기반 튜닝
통신업 특화 LLM 개발 중...AI 고객센터·유통망 등에 활용

[서울=뉴스핌] 정승원 기자 = 통신 서비스에 최적화된 거대언어모델(LLM) '텔코LLM'이 이르면 오는 6월 선보인다.

SK텔레콤은 5G 요금제, T멤버십, 공시지원금 등 국내 통신 전문 용어와 인공지능(AI) 윤리가치와 같은 통신사의 내부 지침을 학습한 '텔코LLM'을 개발하고 있다고 30일 밝혔다. 텔코 LLM은 오는 6월 중 개발을 완료할 예정이다.

에릭 데이비스 SKT AI Tech Collaboration담당이 30일 SKT의 텔코 LLM에 대해 설명하고 있다. [사진= 정승원 기자]

'텔코LLM'은 GPT, 클로드와 같은 범용 LLM이 아니라 통신업에 특화된 LLM을 뜻한다.

SKT는 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집해 정형·비정형 데이터를 선별해 이를 에이닷엑스, 'GPT', '클로드'에 학습시켜 통신에 특화된 LLM을 만들고 있다.

텔코LLM은 SKT의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델을 기반으로 튜닝했다. 이는 SKT의 멀티 LLM 전략의 일환이다.

에릭 데이비스 SKT AI Tech Collaboration담당은 "1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것"이라며 "통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티LLM 전략"이라고 설명했다.

'멀티(다중) LLM' 전략은 통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 전략이다.

SKT는 협력을 통해 자사의 LLM인 에이닷엑스(A.X)와 오픈AI의 GPT-4, 앤트로픽의 클로드에 한국어로 된 통신 관련 데이터를 학습시켜 다양한 텔코LLM을 개발 중이다.

[사진= SK텔레콤]

다양한 통신 특화 LLM 라인업을 갖추고 성능과 비용 절감 면에서 다변화를 꾀했다.

실제 오픈 AI는 지난 5일 공식 블로그를 통해 기업의 특정 도메인에 맞게 AI 모델을 학습시키고 최적화할 수 있도록 지원하는 커스텀 모델을 공개하며 "SKT와 협력을 통해 GPT-4를 미세 조정하고 한국어로 된 통신 관련 대화 성능을 향상시켰다"고 밝힌 바 있다.

SKT는 범용LLM 대비 텔코LLM이 통신 영역에서 높은 수준의 생성형 AI작업을 수행할 수 있어 활용성이 높다고 설명했다.

SKT는 텔코LLM을 구축하기 위해 텔코 데이터를 수집하고 비정형·정형 데이터를 선별해 정제하는 작업을 거쳤다.

이를 기반으로 범용 LLM을 통신사 전용으로 파인튜닝(미세조정)하는 과정을 거치고, 휴먼 피드백 기반의 강화 학습(RLHF)을 한 후 최종 벤치마킹(모델 평가)을 하는 사이클을 거친다.

범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다.

통신 관련 데이터를 추가로 학습해 이 문제를 해결하는 과정이 텔코LLM의 파인튜닝이다.

파인튜닝이 된 텔코LLM은 휴먼 피드백 기반의 강화학습(RLHF·Reinforcement Learning from Human Feedback) 과정을 거친다.

텔코LLM이 답변한 내용에 대해 상담사들이 품질, 만족도 등을 평가하는 과정을 거친다. 고객의 문의에 대해 유용한 답변을 했는지, 문맥을 제대로 이해했는지 등에 대해 채점하는 사람의 평가를 통한 강화학습이다.

마지막으로 텔코LLM의 언어 능력, 추론 능력, 통신 특화과제 수행 능력 등에 대해 모델평가(벤치마킹)를 한다.

고객이 요금제를 문의하거나 부가서비스 변경을 요청하는 식의 상담 유형을 선택하는 영역에서 낮은 점수를 받으면 관련 데이터를 더 구축하는 방식으로 학습하는 식의 파인튜닝 과정을 통해 계속 고도화 하는 방식이다. 이 모든 과정은 계속 주기적으로 반복하여 텔코LLM을 더 똑똑하게 만든다.

현재 고객센터에서 상담 전화 한 건을 처리하는데 고객 상담에 약 3분, 상담 후 업무 처리하는데 30초 이상이 소요된다.

텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축시켜 줄 수 있을 것으로 예상된다.

텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있고 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있는 장점이 있다.

통신사의 네트워크 인프라 운용에도 텔코LLM이 유용하다.

인프라 운용자가 네트워크 모니터링 중 문제가 발생하면 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있다.

텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공하기 때문에 사람이 직접 정보를 찾는 것보다 대응 시간을 단축시킬 수 있다는 설명이다.

SKT는 향후 인프라 운용 중에 발생되는 데이터 분석과 축적된 데이터 기반의 정보 조회 등에도 텔코LLM을 확대 적용할 계획이다.

정민영 SKT AI플랫폼 담당은 "고객센터, 인프라 뿐만 아니라 마케팅·유통망 등 고객 접점이나 법무, HR와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라며 "지속적으로 텔코LLM을 활용한 유즈케이스를 늘려갈 계획"이라고 설명했다.

SKT는 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축하고 개발할 수 있는 '인텔리전스 플랫폼'도 공개했다.

멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG·Retrieval Augmented Generation) 등까지 아우르는 일종의 '기업용 AI 개발·운용 패키지'다.

SKT의 인텔리전스 플랫폼은 단일 LLM에 의존하지 않는다. 범용 LLM은 성능에 비례해 추론 비용이 높고 특정 영역에 대한 이해도는 낮을 수 있다.

이를 통신사의 서비스에 적용하면 비효율적인 만큼 상대적으로 통신업에 특화된 멀티 LLM을 이용해야 한다.

SKT 는 멀티LLM을 쉽고 효율적으로 사용할 수 있는 인텔리전스 플랫폼을 에이닷 등의 서비스 등에 적용 중이며 적용 사례를 지속 확대할 예정이다.

[사진= SK텔레콤]

 

origin@newspim.com

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
尹지지율 2%p↓, 26.9%…"김 여사 논란 등 영향" [서울=뉴스핌] 박성준 기자 = 윤석열 대통령의 지지율이 소폭 하락해 20%대 중후반을 기록했다는 여론조사 결과가 31일 발표됐다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문업체 미디어리서치가 지난 28일~29일 이틀간 전국 만 18세 이상 남녀 1001명에게 물은 결과 윤 대통령의 국정운영에 대한 긍정평가는 26.9%로 집계됐다. 부정평가는 71.9%로 나타났다. '잘 모름'에 답한 비율은 1.2%다. 지난 조사 대비 긍정평가는 2.0%포인트(p) 하락했고 부정평가는 3.5%p 상승했다. 긍정평가와 부정평가 간 격차는 45.0%p다. 연령별로 보면 40대에서 긍·부정 평가 격차가 극명하게 드러났다. 만 18세~29세에서 '잘함'은 19.9% '잘 못함' 80.1%였고, 30대에서는 '잘함' 29.6% '잘 못함' 68.3%였다. 40대는 '잘함' 16.1% '잘 못함' 82.9%, 50대는 '잘함' 25.7% '잘 못함' 74.3%로 집계됐다. 60대는 '잘함' 32.2% '잘 못함' 67.3%였고, 70대 이상에서는 '잘함' 40.5% '잘 못함' 54.9%로 집계됐다. 지역별로는 서울 '잘함' 25.1%, '잘 못함'은 74.0%로 집계됐다. 경기·인천 '잘함' 27.8% '잘 못함' 70.8%, 대전·충청·세종 '잘함' 21.3% '잘 못함' 77.9%, 강원·제주 '잘함' 32.7% '잘 못함' 64.9%로 조사됐다. 부산·울산·경남 '잘함' 32.1% '잘 못함' 67.1%, 대구·경북은 '잘함' 36.8% '잘 못함' 62.1%로 집계됐다. 전남·광주·전북은 '잘함' 13.2% '잘 못함' 85.0%로 나타났다. 성별로도 남녀 모두 부정평가가 우세했다. 남성은 '잘함' 26.3% '잘 못함' 72.1%, 여성은 '잘함' 27.5% '잘 못함' 71.6%였다. 김대은 미디어리서치 대표는 여론조사 결과에 대해 "도이치모터스·명품백 논란, 선거 관련 의혹 등 김건희 여사 리스크가 증폭됐고, 한동훈 국민의힘 대표와 '빈손 회동'이후 당정 갈등 심화로 전통적인 핵심 지지층인 70대 이상과 영남권에서도 지지율이 하락했다"고 분석했다. 신율 명지대 정치외교학과 교수는 "(윤 대통령 지지율 하락의) 근본적인 원인은 불통 이미지 때문"이라며 "불통이라는 것은 여론에 대한 반응성이 떨어진다는 이야기다. 김건희 여사와 관련한 논란이 대표적인 사례"라고 평가했다. 그는 "김 여사 관련한 사과를 하는 것도 이미 늦었다"며 "윤 대통령은 법조인 출신이라 법적으로 문제가 없으면 괜찮다고 생각하는 것 같은데 국민 인식은 그렇지 않다"고 설명했다. 그러면서 "김 여사 문제에 대해 제대로 된 해결책을 제시하면 지지율이 오를 수 있지만 그렇게 하지 않으면 지지율 반등은 힘들어 보인다"고 덧붙였다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.3%, 표본오차는 95% 신뢰수준에 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별 연령별 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. parksj@newspim.com 2024-10-31 06:00
사진
국민 3명 중 2명 "김건희 여사 특검 실시해야" [서울=뉴스핌] 지혜진 기자 = 국민 3명 중 2명은 윤석열 대통령 부인 김건희 여사의 각종 의혹에 대해 특별검사법 실시의 필요성을 인식한다는 여론조사 결과가 31일 발표됐다. 여론조사 전문기관 미디어리서치가 종합뉴스통신사 뉴스핌의 의뢰로 지난 28~29일 이틀간 전국 만 18세 이상 남녀 1001명을 대상으로 ARS(자동응답시스템) 조사 결과 '더불어민주당에서 김건희 여사의 도이치모터스 주가조작, 공천 개입 등이 포함된 총 14가지 의혹들에 대해 특검법을 재발의했다. 김 여사 특검 실시에 대해 어떻게 생각하느냐'는 질문에 '실시해야 한다' 66.2%, '실시해서는 안 된다' 26.0%, '잘 모름'은 7.9%로 응답했다. 연령별로는 40대, 만18세~29세, 50대 순으로 실시해야 한다는 의견이 높았다. 70대 이상을 제외하고는 실시해야 한다는 의견이 과반을 차지했다. 40대는 '실시해야 한다'고 응답한 비율이 81.2%에 달했다. 반면 '실시해서는 안 된다'는 12.7%에 그쳤다. 만18세~29세는 '실시해야 한다' 76.5%, '실시해서는 안 된다' 19.0%, '잘 모름'은 4.5%로, 50대는 '실시해야 한다' 69.9%, '실시해서는 안 된다' 25.0%, '잘 모름'은 5.1%로 나타났다. 30대는 '실시해야 한다' 62.0%, '실시해서는 안 된다' 34.3%, '잘 모름'은 3.7%로, 60대는 '실시해야 한다' 57.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 8.8%로 응답했다. 70대는 '실시해야 한다' 45.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 20.8%였다. 지역별로는 광주·전남·전북, 대전·충청·세종, 서울, 경기·인천, 부산·울산·경남, 강원·제주, 대구·경북 순으로 실시해야 한다는 여론이 우세했다. 대구·경북을 제외한 모든 지역에서 김 여사 특검법에 찬성하는 의견이 절반 이상으로 집계됐다. 광주·전남·전북은 '실시해야 한다' 78.4%, '실시해서는 안 된다' 15.4%, '잘 모름'은 6.2%, 대전·충청·세종은 '실시해야 한다' 72.9%, '실시해서는 안 된다' 24.6%, '잘 모름'은 2.5%로 나타났다. 서울은 '실시해야 한다' 68.7%, '실시해서는 안 된다' 24.8%, '잘 모름'은 6.5%, 경기·인천은 '실시해야 한다' 67.4%, '실시해서는 안 된다' 25.6%, '잘 모름'은 7.0%였다. 부산·울산·경남은 '실시해야 한다' 62.5%, '실시해서는 안 된다' 27.5%, '잘 모름'은 10.1%로, 강원·제주는 '실시해야 한다' 59.3%, '실시해서는 안 된다' 21.2%, '잘 모름'은 19.5%로 응답했다. 대구·경북은 '실시해야 한다' 46.3%, '실시해서는 안 된다' 41.1%, '잘 모름'은 12.6%였다. 지지 정당별로는 국민의힘을 제외한 모든 정당에서 실시해야 한다는 의견이 압도적이었다. 더불어민주당 지지층은 '실시해야 한다' 95.5%, '실시해서는 안 된다' 2.7%, '잘 모름'은 1.8%, 조국혁신당 지지층은 '실시해야 한다' 90.8%, '실시해서는 안 된다' 5.8%, '잘 모름'은 3.3%로 나타났다. 진보당 지지자들은 '실시해야 한다' 77.0%, '실시해서는 안 된다' 23.0%, '잘 모름'은 0%였다. 보수 성향의 개혁신당 지지층은 '실시해야 한다' 87.6%, '실시해서는 안 된다' 6.4%, '잘 모름'은 6.0%였다. 지지정당이 없다고 응답한 층도 '실시해야 한다' 79.1%, '실시해서는 안 된다' 15.0%, '잘 모름'은 5.9%로 특검에 찬성하는 여론이 더 컸다. 국정 지지별로는 응답층의 의견이 극명하게 엇갈렸다. 윤석열 정부가 잘 못하고 있다고 답한 이들은 김건희 특검법에 대해 '실시해야 한다'고 응답한 이들이 88.8%에 달한 반면, 정부가 잘하고 있다고 평가한 응답층은 '실시해서는 안 된다'가 78.6%로 나타났다. 한편, 성별로는 차이가 두드러지지 않았다. 남녀 각각 '실시해야 한다'고 응답한 이들이 67.4%, 64.9%로 나타났다. 김대은 미디어리서치 대표는 "전통적인 보수 지지층인 60~70대 이상과 영남권에서 조차 김 여사 특검을 실시해야 한다는 응답이 높게 나오면서 특검이 대세로 굳어지고 있다"며 "최근 한동훈 국민의힘 대표가 특별감찰관 추천을 대안으로 제시했지만 특감은 한계가 있는 등 국민 다수가 원하는 건 '특감'이 아니라 '특검'이라는 결과"라고 분석했다. 이번 조사는 무선 RDD 활용, ARS를 통해 진행됐다. 신뢰 수준은 95%, 표본 오차는 ±3.1%p, 응답률은 3.3%다. 자세한 조사 개요 및 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. heyjin@newspim.com 2024-10-31 06:00
안다쇼핑
Top으로 이동