전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

SKT 에이닷도 골머리…AI가 학습한 개인정보 어떻게 관리될까

기사입력 : 2023년11월01일 15:55

최종수정 : 2023년11월01일 16:40

SKT "통화요약 불법 아냐" VS 개보위 "검토해보겠다"
"AI 학습 사각지대에 개인정보 유출 위험 있어"

[서울=뉴스핌] 조수빈 기자 = SK텔레콤, KT에 이어 LG유플러스까지 인공지능(AI) 시장에 뛰어들면서 통신사 삼파전이 AI로 번지고 있다. 이 가운데 SK텔레콤의 통화요약 기능처럼 고객 데이터를 학습하는 AI에 대한 우려가 커지면서 AI 프라이버시 확보에 정부도 가세했다.

SK텔레콤은 인공지능(AI) 개인비서 서비스 에이닷의 아이폰 앱에서 'A. 전화'를 통해 통화녹음, 통화요약 등 새로운 기능을 제공한다. [사진=SK텔레콤]

AI 학습에 가장 문제가 되는 것은 개인정보다. AI는 학습을 위해 방대한 데이터를 수집한다. 그 안에는 개인정보나 민감한 기업정보도 포함되기에 AI가 학습하는 데이터에 대한 관리도 까다로운 과제로 남는다.

이통3사는 공통적으로 현행 법에서 지정하고 있는 비식별데이터만 모은다고 밝혔다. 2020년 정부의 데이터3법 시행 이후 데이터 활용을 위한 가명정보 개념이 도입됐다. 기업 입장에서는 가명처리 된 데이터를 활용할 수 있는 법적 근거가 마련된 셈이다. 통신업계 관계자는 "이름, 나이 등 특정할 수 있는 데이터를 비식별화해서 사용한다"며 "비식별정보로도 충분히 AI 학습이 가능하다"고 설명했다.

SK텔레콤이 출시한 AI 개인비서 서비스 에이닷이 구설수에 오른 것도 개인정보 때문이다. 에이닷이 지난 10월 출시한 AI 전화 서비스는 아이폰에서도 통화녹음, 통화요약 기능을 지원한다. 아이폰이 정책상 금지한 통화녹음을 자사 기술력으로 우회해 구현한 서비스다.

SK텔레콤은 이용약관에 통화 녹음 파일과 통화 내용 속 전화번호, 일정, 계좌번호 등 정보는 1년 동안 이용자 단말기에 보관된다고 밝혔다. 통화요약을 위해서는 통화 내용이 SK텔레콤의 서버로 전송되는데 텍스트로 변환되는 즉시 자동 파기된다.

논란이 된 것은 주소, 일정 등과 개인을 특정할 수 있는 통화내용이 제3자인 SK텔레콤의 서버에 잠깐이라도 머문다는 사실이다. 현재 통화녹음 동의를 얻은 것은 SK텔레콤 이용자이며 상대방이 SK텔레콤 가입자가 아니고 에이닷 사용자가 아닐 경우 동의없이 통화 내 개인정보가 학습된다는 것이 개인정보 침해의 소지가 있다는 지적이다.

개인정보보호위원회 관계자는 "아직까지 조사에 착수한 단계는 아니며 제기된 문제에 대해 검토하는 단계"라며 "에이닷의 통화요약처럼 SK텔레콤 서버에 정보가 올라갈 경우 개인정보보호법상 개인정보 처리에 해당하기 때문에 문제가 불거진 것"이라고 부연했다.

SK텔레콤은 통화내용이 텍스트로 전환되는 즉시 서버에서 삭제된다고 반박했고 개보위 측은 이 내용이 실효성 있는 주장인지 면밀히 살피겠단 입장이다. 개보위에 따르면 통화녹음과 관련된 유사한 사례로 개인정보보호법 위반이 된 사례는 아직 없다.

지난 30일 서울 대한상공회의소에서 열린 AI 프라이버시 민·관 정책협의회 출범식에 고학수 개인정보보호위원회 위원장(왼쪽)이 위촉장을 전달하고 있다. [사진=조수빈 기자]

◆AI 학습 과정은 아직 '사각지대'…보안에 힘주는 기업들

전문가들은 아직까진 AI의 학습 알고리즘을 운영자도 정확히 파악하기 힘들다는 것이 한계점이라고 지적한다. 블랙박스는 인공지능에선 원하는대로 결과값을 도출할 순 있지만 무엇을 어떻게 학습해서 나온 결과인지 알 수 없는 상황을 일컫는다. 개발단계에서 발생하는 일종의 사각지대다.

김명주 서울여대 정보보호학과 교수는 "한 회사가 보유한 같은 서버 내에서 학습된 데이터는 사용자나 관리자가 모르는 사이 AI가 사전에 학습한 내용을 다른 서비스에 사용할 가능성도 있다"며 "학습 시킨 내부 영역들이 어떻게 다른 서비스와 융합이 되는지는 현 기술로는 파악하기 힘들다. 그렇기에 개인정보 관리에 대한 사각지대가 존재하는 것"이라고 설명했다.

이에 프라이빗 대규모언어모델(LLM), 온프레미스 등 별도의 서버를 구축하는 형식이 각광받고 있다. 김 교수는 "내부 데이터만 활용하기 때문에 검증 데이터만 활용해 할루시네이션(환각 현상)도 적다"며 "다만 비용과 인력이 많이 드는 것이 문제"라고 설명했다. LG유플러스와 KT 등 기업 간 거래(B2B) 시장을 겨냥한 기업들이 서버를 직접 구축해주는 온프레미스, 프라이빗 서버 방식을 채택하며 비용 절감을 강조하는 것도 시장의 니즈에 맞춘 것이다.

기업 역시 AI 학습이 갖고 있는 사각지대에 대해 인지하고 있다. 최준기 KT AI·빅데이터 본부장은 지난 10월 31일 열린 초거대 AI 믿음 공개 기자간담회에서 AI 학습의 편향성을 극복하기 위한 노력에 대해 "이것(LLM)이 블랙박스인 게 맞고, 99.9% 노력을 했지만 마지막 0.1%에서 저희가 생각지도 못한 이탈을 할 수가 있다"며 "대화에 있어서 사회적으로 용납이 가능한 AI를 위해 노력 중"이라고 강조했다.

정부에서도 개인정보 유출 차단 등 신뢰 가능한 AI 개발에 힘을 주고 있다. 30일 개인정보보호위원회는 고학수 개보위 위원장, 배경훈 LG AI연구원장을 공동의장으로 하는 AI 프라이버시 민·관 정책협의회 출범식을 개최했다. 해당 협의회에는 SK텔레콤, KT, LG 등 이통사도 포함돼 있다. 기업이 AI 사업을 전개하기 이전 법 위반 여부를 우려하는 경우 개보위가 사전 협의에 참여하는 사전적정성 검토제가 언급되기도 했다.

이날 고 위원장은 "데이터 처리의 회색지대(Gray Area)를 악용하거나 프라이버시를 도외시하는 AI 서비스가 국민 권익을 침해하는 일이 발생하면 해당 기업은 물론 국가 전체의 AI 혁신 동력을 해칠 수 있다"며 "AI 모델을 개발하거나 서비스 기획 단계부터 기업이 스스로 개인정보 침해 위험성을 관리하는 문화가 정착될 수 있도록 정부와 기업이 함께 노력해 나가야 한다"고 강조했다.

한편 이통3사는 하반기에 자사의 특성을 살린 생성형 AI를 공개하면서 생성형 AI 시장 진입에 대한 의지를 보였다. SK텔레콤이 가장 먼저 지난 9월 한국어 LLM 서비스인 에이닷(A.)을 정식 출시했다. 에이닷은 SK텔레콤의 AI 컴퍼니 전환의 핵심 서비스로 출시 이후 한 달만에 '아이폰 통화녹음' 기능을 공개하며 많은 관심을 받았다.

이어 지난달 29일 LG유플러스가 자사가 보유한 통신, 플랫폼 데이터와 AI 기술 역량을 통합한 통신 전용 생성형 AI '익시젠'을 개발한다고 밝혔다. 그룹사인 LG가 이미 초거대 범용 AI인 '엑사원'을 보유하고 있어 별도로 AI 개발을 고려하지 않는다는 입장을 유지하던 LG유플러스가 '통신 맞춤형'으로 전략을 달리하는 모습이다. 마지막으로 KT도 31일 초거대 AI 믿음을 출시하며 B2B 시장 개척을 위한 초거대 AI 개발에 이어 B2C 영역 진출까지 역량을 강화하겠다고 밝혔다. 

beans@newspim.com

[뉴스핌 베스트 기사]

사진
오광수 낙마로 본 정권 인사 수난사 [서울=뉴스핌] 이재창 정치전문기자 = 인사는 만사다. 인사를 잘하면 지지율 상승과 함께 국정 동력을 확보할 수 있다. 반대로 인사가 망사가 되면 지지율이 떨어져 국정 운영에 어려움을 겪을 수 있다. 역대 대통령은 조각에서 난맥상을 보이며 후보자들의 잇따른 낙마로 애를 먹었다. 거의 예외가 없었다. 매 정권마다 초기 인사에 대한 비판적인 조어가 등장했다. 이명박 정부의 고소영(고려대·소망교회·영남), 문재인 정부의 캠코더(캠프·코드·더불어민주당), 윤석열 정부의 서오남(서울대·50대·남성)이 대표적이다. 국민에게 감동을 주는 인사와는 거리가 멀었다. 국민의 싸늘한 시선에 직면했다.  [서울=뉴스핌] 이재명 대통령이 12일 서울 서초구 한강홍수통제소에서 열린 수해 대비 현장 점검 회의에서 발언하고 있다. [사진=대통령실] 2025.06.13 photo@newspim.com 이재명 정권도 예외는 아니다. 이재명 대통령의 인사에서 첫 낙마자가 나왔다. 이 대통령은 지난 13일 오광수 대통령실 민정수석비서관의 사의를 수용했다. 지난 8일 임명된 지 닷새 만이다. 공직기강 확립과 인사 검증을 담당하는 민정수석이 낙마한 게 더 아플 수밖에 없다. 인사 검증 작업에 차질이 생길 경우 인선이 늦어질 수 있다. 박근혜 정부는 조각에 52일 걸렸고, 문재인 정부는 195일 만에 조각을 완성했다. 윤석열 정부는 조각에 181일이 소요됐다. 강유정 대통령실 대변인은 이날 오전 브리핑을 통해 "오 수석이 어젯밤 이 대통령에게 사의를 표명했다"며 "이 대통령은 공직기강 확립과 인사 검증을 담당하는 민정수석의 중요성을 감안해 오 수석의 사의를 받아들였다"고 했다. 오 전 수석은 검찰 '특수통' 출신으로 이 대통령의 사법연수원 18기 동기다. '검찰 개혁'의 특명을 부여받았으나 대출 및 부동산 차명 관리 의혹이 잇따라 제기돼 결국 낙마했다. 이 대통령은 사법 개혁 의지와 국정 철학을 이해하는 인사로 조속한 시일 내에 차기 민정수석을 임명할 예정이지만 인사에 신중을 기할 수밖에 없게 됐다. 자연스레 인사 검증 기준이 높아질 가능성이 높다. 그렇지 않아도 제안을 받는 인사 열에 일곱 정도는 스스로 "검증 통과를 자신할 수 없다"며 손사래를 치는 것으로 전해졌다. 인사가 더 어려워질 수 있다. 오 전 수석에 이어 추가 낙마자가 나오면 치명타가 될 수 있다. 자칫 임기 초반 인사로 어려움을 겪었던 전 정권의 전철을 밟을 수도 있다. 여당 내에서 자성의 목소리가 나온 이유다. 김용민 민주당 원내정책수석부대표는 이날 KBS 라디오에서 "여당 의원의 일원으로서 집권 초기에 이런 문제가 불거진 것에 대해 국민의 눈높이에 맞지 못한 부분이 있었다면 사죄드린다"고 말했다. 인사 수난사는 역대 정권에서 되풀이됐다. 이명박 정부는 2008년 2월 발표한 1차 조각에서 남주홍 통일부 장관 후보자, 박은경 환경부 후보자, 이춘호 여성부 장관 후보자가 인사청문회 과정에서 부동산 투기와 위장 전입 의혹에 휘말려 낙마했다. 박근혜 정부의 초대 내각 인사도 이명박 정부의 닮은꼴이었다. 김용준 국무총리 지명자는 부동산 투기와 아들 병역 면제 의혹이 불거져 지명 5일 만에 자진 사퇴했다. 김종훈 미래창조과학부 장관 후보자와 김병관 국방부 장관 후보자, 황철주 중소기업청장 내정자도 스스로 물러났다. 2014년 6월에는 사의를 밝힌 정홍원 총리 후임으로 지명한 안대희(고액 수임 전관예우 논란), 문창극(역사관 논란) 후보자가 잇따라 낙마했다. 문재인 정부 조각 과정도 순탄치 않았다. 안경환 법무부 장관 후보자는 불법 혼인신고 사건 등으로 사퇴했다. 조대엽 고용노동부 장관 후보자, 이유정 헌법재판소 재판관 후보자, 박성진 중소벤처기업부 장관 후보자도 인사청문회 과정에서 각종 논란이 불거지면서 낙마했다. 윤석열 정부도 다르지 않았다. 김인철 사회부총리 겸 교육부 장관 후보자를 비롯해 정호영·김승희 보건복지부 장관 후보자, 송옥렬 공정거래위원장 후보자가 낙마했고, 박순애 사회부총리 겸 교육부 장관은 35일 만에 학제 개편 논란 등으로 사퇴했다. 역대 정부에서 낙마자가 속출한 것은 인사 검증 시스템이 부실한 것이 원인이지만 대통령의 오기 인사도 한몫했다. 대통령이 특정 인사를 고집하면 주변에서 누구도 강하게 반기를 들기 어렵다. 결국 주요 보직에 임명되거나 지명된 뒤 논란이 불거져 낙마하는 악순환이 되풀이됐다. leejc@newspim.com 2025-06-14 06:00
사진
李대통령, 대북 전단 처벌대책 지시 [세종 = 뉴스핌] 김범주 기자 = 이재명 대통령이 14일 대북 전단 살포와 관련해 예방과 사후 처벌에 대한 대책을 관련 부처에 지시했다. 대통령실 강유정 대변인은 서면 브리핑을 통해 이 대통령이 이같이 지시했다고 밝혔다. 지난 13일 이재명 대통령이 경기도 연천군 육군 25사단 비룡전망대를 방문해 장병들을 격려하고 있다/사진=이재명 대통령 인스타그램 이날 새벽 강화도에서 민간 단체가 북한 지역으로 전단을 살포한 것이 확인되면서 내린 지시로 파악됐다. 강 대변인은 "이재명 정부는 접경지역 주민의 일상과 안전을 위협하고 한반도의 군사적 긴장을 고조시킬 수 있는 불법적인 대북 전단 살포는 중단돼야 한다는 입장을 밝혔다"며 "정부가 입장을 밝혔음에도 이를 위반한 데 대한 상황을 엄중히 인식하고 있다"고 밝혔다. 이 대통령의 지시로 오는 16일 통일부 주관으로 유관 부처 회의를 열어 대북 전단과 관련한 종합 대책을 논의할 예정이다. 한편 대북 전단을 살포한 민간 단체와 개인에 대해서는 법 위반 여부를 따져 조치하겠다는 방침도 밝혔다. 이 대통령은 전날 접경지역 주민 간담회에서 통일부의 대북 전단 불법 살포 자제 요청에 '이를 어기고 대북 전단 살포 행위를 할 경우 처벌하겠다'는 취지의 입장을 밝힌 바 있다. wideopen@newspim.com 2025-06-14 19:50
안다쇼핑
Top으로 이동