전체기사 최신뉴스 GAM 라씨로
KYD 디데이

[단독] K-POP 아이돌 나체 전환 딥페이크 영상 무차별 유포…AI로 조작

기사입력 : 2024년06월20일 10:36

최종수정 : 2024년06월20일 14:58

중국어로 된 텔레그램 채팅방에서 영상 나돌아
AI 딥페이크 기술 탑재된 프로그램 구매 유도
정부, 국제사회 대응 나서고 있지만 대책 없어

[세종= 뉴스핌] 이경태 기자= #춤을 추고 있는 K-POP 아이돌 여성그룹의 무대영상 가운데 리더 1명을 나체로 전환시킨 콘텐츠가 최근 소셜네트워크서비스(SNS)를 통해 불특정 다수에게 유포되고 있다. 기존에는 나체 영상에 연예인의 얼굴을 합성한 방식이었지만, 이번에는 실제 영상을 나체 영상으로 전환시키는 딥페이크 기술이 적용되어 충격을 주고 있다(아래 사진 참고).

이같은 방식의 인공지능(AI) 콘텐츠 전환 기술이 확대될 경우, 자칫 K-콘텐츠 시장 전체가 뿌리째 흔들릴 수 있을 것이라는 우려의 목소리도 나오고 있다. 

20일 <뉴스핌>의 취재 결과, 유명 SNS 채팅 서비스인 텔레그램의 한 채팅방에서 다수의 나체 전환 영상이 공유됐다. 이 영상이 공유된 채팅방의 제목은 중국어로 'AI 누드 춤 맞춤 제작'에 관한 내용이다.

이 텔레그램방에서는 수십개의 영상이 일방적으로 공개됐다. A 아이돌 그룹 4~5명이 군무를 하는 상황에서 특정 아이돌 멤버만 나체로 전환한 영상이 공유되는가 하면, 일반 공연에서의 직캠 영상도 그대로 나체 영상으로 전환됐다.

텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포되어 논란이 되고 있다. [사진=텔레그램 채팅방 캡쳐] 2024.06.20 biggerthanseoul@newspim.com

최근 음원 순위 상위권을 지키고 있는 여자 아이돌 그룹의 대다수 공연 영상이 나체로 전환됐다. 해당 채팅방의 운영자는 기존에 공유된 나체 영상에 대해 본인이 맞춤 제작한 영상이라는 점을 강조했고, 실제 판매되는 프로그램을 소개하기까지 했다.

며칠 동안 영상이 게재된 해당 채팅방은 최근 게시물을 올리지 못하게 차단된 상태다. 다만 여전히 채팅방 입장은 가능하다. 현재 1만7000명에 가까운 이용자들이 채팅방 멤버로 표시되고 있다. 문제는 기존의 딥페이크 기술이 상당 수준으로 진화됐다는 데 있다.

한 AI업계 관계자는 "기존에는 딥페이크를 활용해 누드 영상에 나오는 배우의 얼굴을 유명인의 얼굴로 바꾸는 방식이었는데, 이번에는 기존 영상에서 유명인의 몸을 나체로 전환하기 때문에 콘텐츠 시장에 미치는 영향이 상당할 것"이라고 우려했다.

그는 "그동안 할리우드 유명인에 대한 딥페이크가 문제였다면, K-POP 아이돌의 인기가 상승하면서 이들이 나오는 대부분의 영상이 나체로 전환되기 때문에 아이돌의 이미지에도 상당한 타격을 입힐 수 있을 것"이라고 덧붙였다.

일각에서는 인기를 얻고 있는 K-드라마, 영화 등 모든 분야에서 특정 인물만 나체로 전환하기 때문에 K-콘텐츠 산업을 뒤흔들 수 있는 파장이 있을 것으로 내다보기도 한다.

더구나 일반인의 피해도 예고되는 상황이다. 최근 숏폼 형태로 유명한 춤을 추고 SNS에 게재하는 일명 '커버댄스' 콘텐츠가 인기지만 이같은 영상도 나체 전환 기술의 먹잇감이 될 것으로 보인다. 

유튜버 A씨는 "사실상 콘텐츠를 올리는 것 자체가 불안한 상황"이라며 "누군가 내 영상을 나체 영상으로 전환해서 나를 협박한다면 속수무책으로 피해를 입을 수밖에 없을 것 같다"고 전했다.

K-POP 아이돌 그룹의 나체 전환 영상이 유포된 텔레그램 채팅방 [자료=텔레그램 캡쳐] 2024.06.20 biggerthanseoul@newspim.com

이런 상황에서 정부나 수사기관의 대응방안은 여의치 않다. 

과학기술정보통신부는 올해 AI기본법을 마련했으나 21대 국회에서 끝내 통과되지 않았고, 다시 의원 발의 등을 거쳐 국회에서 논의가 돼야 하지만 우선순위에서 밀린 상태다.

방송통신위원회 역시 18~20일 미국 샌프란시스코에서 경제협력개발기구(OECD)와 정보 무결성에 관한 논의를 진행했지만 국제사회가 공동 대응하기까지는 더딜 수 밖에 없다는 목소리도 들린다.

지난달 열린 AI 서울 정상회의에서도 이같은 허위조작정보 등에 대응하기 위한 국가간 상호 협력이 강조됐으나 강제력 없는 구호에 그쳤다는 지적만 나왔다.

한 연예기획사 관계자는 "최근 기존 영상에서 옷을 없애고 나체로 전환한 영상을 확인했는데, 대응방안이 당장은 없다"며 "이런 상황까지 AI 기술이 접목될 것이라는 데 예상은 했지만 너무나 빨리 다가온 것 같아서 앞으로가 걱정"이라고 전했다.

biggerthanseoul@newspim.com

[뉴스핌 베스트 기사]

사진
SKT '유심 교체' 북새통...내 차례 올까 [인천=뉴스핌] 김학선 기자 = 가입자 유심(USIM) 정보를 해킹 당한 SK텔레콤이 유심 무료교체 서비스를 시작한 28일 인천의 한 대리점에서 고객들이 유심 교체를 위해 줄을 서 차례를 기다리고 있다. SKT는 사이버침해 피해를 막기 위해 이날 오전 10시부터 전국 2600여곳의 T월드 매장에서 희망 고객 대상 유심 무료교체 서비스를 진행한다. 2025.04.28 yooksa@newspim.com   2025-04-28 12:12
사진
"화웨이, 엔비디아 H100 능가 칩 개발" [서울=뉴스핌]박공식 기자 = 중국 화웨이가 미국이 수출 금지한 엔비디아 칩을 대체할 최신 인공지능(AI) 칩을 개발해 제품 시험을 앞두고 있다고 월스트리트저널(WSJ)이 현지 시간 27일 보도했다. 신문은 화웨이가 일부 중국 기술기업에 새로 개발한 '어센드(Ascend) 910D'의 시험을 의뢰했다고 전했다. 어센드 910D는 엔비디아의 H100보다 성능이 더 우수한 것으로 평가되고 있으며 이르면 5월 말 시제품이 나올 것으로 예상된다. 앞서 로이터통신은 21일 화웨이가 자체 개발한 AI칩 910C를 내달 초 중국 기업에 대량 출하할 계획이라고 보도한 바 있다. 화웨이를 비롯한 중국 기업들은 데이터를 알고리즘에 제공해 더 정확한 결정을 내리게 하는 훈련 모델용으로 엔비디아 칩에 필적하는 첨단 칩을 개발하는 데 주력해왔다. 미국은 중국의 기술 개발을 억제하기 위해 B200 등 최첨단 엔베디아 칩의 중국 수출을 금지하고 있다. H100의 경우 2022년 제품 출하 전에 중국 수출을 금지했다.  중국 베이징에 있는 화웨이 매장 [서울=뉴스핌]박공식 기자 = 2025.04.28 kongsikpark@newspim.com kongsikpark@newspim.com 2025-04-28 12:26
안다쇼핑
Top으로 이동