전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

AI 전환 속도내는 SKT, 통신 영역 특화된 '텔코 LLM' 6월 출시

기사입력 : 2024년04월30일 10:09

최종수정 : 2024년04월30일 10:09

A.X·GPT·클로드 등 각종 범용모델 기반 튜닝
통신업 특화 LLM 개발 중...AI 고객센터·유통망 등에 활용

[서울=뉴스핌] 정승원 기자 = 통신 서비스에 최적화된 거대언어모델(LLM) '텔코LLM'이 이르면 오는 6월 선보인다.

SK텔레콤은 5G 요금제, T멤버십, 공시지원금 등 국내 통신 전문 용어와 인공지능(AI) 윤리가치와 같은 통신사의 내부 지침을 학습한 '텔코LLM'을 개발하고 있다고 30일 밝혔다. 텔코 LLM은 오는 6월 중 개발을 완료할 예정이다.

에릭 데이비스 SKT AI Tech Collaboration담당이 30일 SKT의 텔코 LLM에 대해 설명하고 있다. [사진= 정승원 기자]

'텔코LLM'은 GPT, 클로드와 같은 범용 LLM이 아니라 통신업에 특화된 LLM을 뜻한다.

SKT는 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집해 정형·비정형 데이터를 선별해 이를 에이닷엑스, 'GPT', '클로드'에 학습시켜 통신에 특화된 LLM을 만들고 있다.

텔코LLM은 SKT의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델을 기반으로 튜닝했다. 이는 SKT의 멀티 LLM 전략의 일환이다.

에릭 데이비스 SKT AI Tech Collaboration담당은 "1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것"이라며 "통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티LLM 전략"이라고 설명했다.

'멀티(다중) LLM' 전략은 통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 전략이다.

SKT는 협력을 통해 자사의 LLM인 에이닷엑스(A.X)와 오픈AI의 GPT-4, 앤트로픽의 클로드에 한국어로 된 통신 관련 데이터를 학습시켜 다양한 텔코LLM을 개발 중이다.

[사진= SK텔레콤]

다양한 통신 특화 LLM 라인업을 갖추고 성능과 비용 절감 면에서 다변화를 꾀했다.

실제 오픈 AI는 지난 5일 공식 블로그를 통해 기업의 특정 도메인에 맞게 AI 모델을 학습시키고 최적화할 수 있도록 지원하는 커스텀 모델을 공개하며 "SKT와 협력을 통해 GPT-4를 미세 조정하고 한국어로 된 통신 관련 대화 성능을 향상시켰다"고 밝힌 바 있다.

SKT는 범용LLM 대비 텔코LLM이 통신 영역에서 높은 수준의 생성형 AI작업을 수행할 수 있어 활용성이 높다고 설명했다.

SKT는 텔코LLM을 구축하기 위해 텔코 데이터를 수집하고 비정형·정형 데이터를 선별해 정제하는 작업을 거쳤다.

이를 기반으로 범용 LLM을 통신사 전용으로 파인튜닝(미세조정)하는 과정을 거치고, 휴먼 피드백 기반의 강화 학습(RLHF)을 한 후 최종 벤치마킹(모델 평가)을 하는 사이클을 거친다.

범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다.

통신 관련 데이터를 추가로 학습해 이 문제를 해결하는 과정이 텔코LLM의 파인튜닝이다.

파인튜닝이 된 텔코LLM은 휴먼 피드백 기반의 강화학습(RLHF·Reinforcement Learning from Human Feedback) 과정을 거친다.

텔코LLM이 답변한 내용에 대해 상담사들이 품질, 만족도 등을 평가하는 과정을 거친다. 고객의 문의에 대해 유용한 답변을 했는지, 문맥을 제대로 이해했는지 등에 대해 채점하는 사람의 평가를 통한 강화학습이다.

마지막으로 텔코LLM의 언어 능력, 추론 능력, 통신 특화과제 수행 능력 등에 대해 모델평가(벤치마킹)를 한다.

고객이 요금제를 문의하거나 부가서비스 변경을 요청하는 식의 상담 유형을 선택하는 영역에서 낮은 점수를 받으면 관련 데이터를 더 구축하는 방식으로 학습하는 식의 파인튜닝 과정을 통해 계속 고도화 하는 방식이다. 이 모든 과정은 계속 주기적으로 반복하여 텔코LLM을 더 똑똑하게 만든다.

현재 고객센터에서 상담 전화 한 건을 처리하는데 고객 상담에 약 3분, 상담 후 업무 처리하는데 30초 이상이 소요된다.

텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축시켜 줄 수 있을 것으로 예상된다.

텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있고 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있는 장점이 있다.

통신사의 네트워크 인프라 운용에도 텔코LLM이 유용하다.

인프라 운용자가 네트워크 모니터링 중 문제가 발생하면 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있다.

텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공하기 때문에 사람이 직접 정보를 찾는 것보다 대응 시간을 단축시킬 수 있다는 설명이다.

SKT는 향후 인프라 운용 중에 발생되는 데이터 분석과 축적된 데이터 기반의 정보 조회 등에도 텔코LLM을 확대 적용할 계획이다.

정민영 SKT AI플랫폼 담당은 "고객센터, 인프라 뿐만 아니라 마케팅·유통망 등 고객 접점이나 법무, HR와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라며 "지속적으로 텔코LLM을 활용한 유즈케이스를 늘려갈 계획"이라고 설명했다.

SKT는 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축하고 개발할 수 있는 '인텔리전스 플랫폼'도 공개했다.

멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG·Retrieval Augmented Generation) 등까지 아우르는 일종의 '기업용 AI 개발·운용 패키지'다.

SKT의 인텔리전스 플랫폼은 단일 LLM에 의존하지 않는다. 범용 LLM은 성능에 비례해 추론 비용이 높고 특정 영역에 대한 이해도는 낮을 수 있다.

이를 통신사의 서비스에 적용하면 비효율적인 만큼 상대적으로 통신업에 특화된 멀티 LLM을 이용해야 한다.

SKT 는 멀티LLM을 쉽고 효율적으로 사용할 수 있는 인텔리전스 플랫폼을 에이닷 등의 서비스 등에 적용 중이며 적용 사례를 지속 확대할 예정이다.

[사진= SK텔레콤]

 

origin@newspim.com

[뉴스핌 베스트 기사]

사진
"7월 1일 출석하라" 재통보 [서울=뉴스핌] 홍석희 기자 = 내란 특별검사팀이 윤석열 전 대통령에게 오는 7월 1일 오전 9시에 2차 대면조사를 위해 출석해 달라고 통보했다. 박지영 내란 특검보는 29일 저녁 서울고검 청사에서 브리핑을 열고 "소환 일정과 관련해 윤 전 대통령 측 의견을 접수했고 제반 사정을 고려해 7월 1일 오전 9시에 출석하라고 통지했다"고 밝혔다. [서울=뉴스핌] 이형석 기자 = 윤석열 전 대통령이 29일 새벽 서울 서초구 서울고검 청사에 마련된 내란특검에서 피의자 신분으로 조사를 마친 뒤 귀가하고 있다. 2025.06.29 leehs@newspim.com 박 특검보는 "(소환 일정) 협의는 합의가 아니"라며 "결정은 수사 주체가 하는 것이고 윤 전 대통령 측 의견을 접수한 뒤 특검의 수사 일정이나 여러 필요성 등을 고려해 출석 일자를 정해서 통지한 것"이라고 설명했다. 다만 "변호인단 측의 반응은 아직 없다"고 덧붙였다. 앞서 특검팀은 윤 전 대통령 측에 오는 30일 출석하라고 통보했으나, 윤 전 대통령 측은 방어권 보장 등을 이유로 오는 7월 3일 이후로 조사 일정을 잡아 달라고 요청했다. 이에 특검팀이 당초 날짜보다 하루 늦은 7월 1일 조사를 진행하겠다고 재통보한 것이다. 특검팀은 경찰청에 수사방해 사건 전담 경찰관 파견을 요청했다고도 밝혔다. 윤 전 대통령 측이 지난 28일 첫 대면조사에서 박창환 경찰청 중대범죄수사과장(총경) 교체를 요구하며 조사를 거부한 행위가 특검법상 수사방해 행위에 해당한다고 특검팀은 판단하고 있다.  박 특검보는 "(윤 전 대통령 측 변호인이) 변론의 영역을 넘어선 사실과 다른 주장을 하고 있다. 이는 특검법에서 정한 수사방해 행위로 평가될 수 있다"며 "더 이상 좌시하지 않겠다. 특검은 수사방해 사건을 전담할 경찰관 3명을 경찰청에 파견 요청했다"고 말했다. 이어 "특검법 수사 대상에 보면 일련의 수사 방해나 재판 방해도 수사의 대상이 돼 있다"며 7월 1일 2차 대면조사에서도 박 총경이 계속 조사할 것이라고 부연했다. hong90@newspim.com 2025-06-29 22:14
사진
"주담대 6억 이상은 안됩니다" [서울=뉴스핌] 전미옥 기자 = 이재명 정부가 출범 약 한 달 만에 초고강도 부동산 대출 규제 정책을 내놓은 가운데 수도권 집값 상승세에 제동이 걸릴지 주목된다. 가계 대출 총량을 절반으로 확 조이고 수도권 주택담보대출(주담대) 한도를 6억원으로 일괄 제한하는 방향이다. 금융위원회가 지난 27일 관계기관 합동 '긴급 가계부채 점검회의'를 열고 대출 규제를 골자로 한 수도권 중심의 가계부채 관리 강화 방안에 따르면 지난 28일부터 총액 한도가 없는 주담대를 수도권과 규제지역(서울 강남·서초·송파·용산구)에 한해 최대 6억원으로 제한된다. 고가 주택 구입에 대출을 활용하는 것을 막기 위한 조치다. 서울 시내 한 시중은행 창구 모습. [사진= 뉴스핌DB] 다주택자에 대한 신규 주담대는 주택담보대출비율(LTV) 0%를 적용해 전면 금지하며 1주택자 갈아타기 주담대 규제도 강화된다. 기존에는 보유 주택을 2년 이내 처분하기로 약정하면 주담대를 받을 수 있었지만 앞으로는 6개월로 처분 기간이 줄었다. 위반 시에는 대출금 즉시 회수되고 향후 3년간 주택 관련 대출이 제한된다. 생애 최초 주택구입 목적의 LTV도 기존 80%에서 70%로 줄어든다. LTV는 자산 담보가치에 대한 대출 비율을 뜻한다. 7월부터는 금융권 자체 대출과 정책대출의 총량 목표를 당초 계획 대비 50% 수준으로 감축하며 정책 대출은 연간 공급 계획 대비 25% 줄인다. 은행의 대출 가능 총량이 줄어드는 것이다. 당초 7월 시행 예정이었던 스트레스 DSR(총부채상환비율) 3단계 조치에 이어 이번 초강도 대출규제가 중첩되면서 주택 구매를 위한 대출문턱은 더 높아지게 된다. 예컨대 스트레스 DSR 3단계만 적용 시 연봉 1억원 직장인이 만기 30년, 원리금균등상환, 대출금리 4%의 조건으로 수도권 지역에서 생애 최초 주택구입 목적의 변동 주택대출을 받을 때 대출한도는 5억8700만원으로 기존 2단계 대비 2000만원가량 줄어든다. 또 수도권 가산금리 1.5%P가 더해져 금리는 5.5%가 적용된다. 여기에 7월부터 시행하는 정부의 고강도 대출 정책인 '가계대출 관리 강화 방안'이 더해지면서 대출한도는 이보다 더 줄어들 전망이다. 하반기 가계대출 총량 목표가 기존 대비 50%가량 줄면 은행들은 대출한도를 추가로 10~30% 감액할 것으로 예상된다. LTV도 기존 80%에서 70%로 줄기 때문에 집값에 따른 대출금도 축소된다. 또 총량 소진 시 대출 자체가 거절될 수 있다. 연봉 1억원 이상 고소득자들의 주택구매도 어려워진다. 수도권 주담대 대출의 최대한도가 6억원으로 일괄 제한되기 때문이다. 더욱이 실제 대출금액은 6억원 한도 내에서 LTV(담보인정비율), DTI(총부채상환비율), DSR(총부채원리금상환비율) 비율 등에 따라 조정된다. 이번 규제는 토요일인 지난 28일부터 시행이 본격화됐다. 발표 당일인 27일까지 금융회사가 전산상 등록을 통해 대출 신청접수를 완료하거나 주택 매매계약을 체결, 계약금을 이미 납부한 경우 종전규정이 적용된다. 정부가 초고강도 규제에 나선 이유는 과열된 부동산 열풍 및 가계대출 때문이다. 5대 시중은행(KB국민·신한·하나·우리·NH농협은행)의 이달 들어 지난 19일까지 가계대출 잔액은 전월 말 대비 4조 원 늘어난 752조 749억원을 기록했다. 영업일당 3328억 원이 늘어난 것으로 지난해 8월 영업일당 평균 4584억원이 늘어난 이후로 가장 큰 폭의 증가세다.  정부는 이번 규제로 올해 하반기 10조원, 연간으로는 20조원 가량의 가계대출이 줄어들 것으로 내다봤다. 최근 과열된 부동산 열기를 잠재울 수 있을지 주목된다. 일각에선 강도 높은 대출 규제로 인해 청년들의 주택 구매 여력을 제한하는 것 아니냐는 우려도 나온다. 2030세대 무주택자의 '주거 사다리'가 흔들릴 수 있다는 지적이다. romeok@newspim.com 2025-06-29 08:00
안다쇼핑
Top으로 이동