전체기사 최신뉴스 GAM 라씨로
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 딥페이크 범죄를 막는 근본 대책

기사입력 : 2024년09월02일 08:31

최종수정 : 2024년09월02일 08:31

하민회 (이미지21대표, 미래기술문화연구원장)

딥페이크(Deepfake) 진앙이 한국이라고?

미국 보안업체 시큐리티 히어로가 공개한 '2023 딥페이크 현황' 보고서애 따르면 지난해 9만건이 넘는 딥페이크 영상 중 53% 이상의 피해자가 한국인이다. 이를 두고 외신들은 한국은 딥페이크에 취약한 국가, 심지어 범죄의 진앙으로 볼 수 있다고 보도했다. (딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, AI 기반의 인간 이미지 합성 기술을 뜻한다.)

실지로 한국은 디지털 성범죄 비상사태에 직면했다.

2013년부터 2018년 사이 국내에선 3만건 이상의 불법 촬영 신고(몰카)가 경찰에 접수됐다. 대부분 공중 화장실과 탈의실, 숙박업소, 등의 불법 촬영이었다. 2019년에는 텔레그램 성착취 방(N번방) 사건이, 올해엔 서울대·인하대에서 여성 동문들의 딥페이크 합성물을 제작·유포한 디지털 성범죄 사건이 터졌다. 최근엔 교사, 지인, 동료, 학생들을 대상으로 하는 딥페이크 음란물 사건이 전국적으로 발생하고 있다.

하민회 이미지21 대표.

전문가들은 디지털 성범죄가 반복되는 가장 큰 이유로 '느슨한 처벌'을 꼽는다.

현행법상 2019년 딥페이크 성범죄를 처벌할 수 있는 조항은 '성폭력 범죄 처벌에 관한 특례법'에 허위 영상물 등의 반포(14조의 2)뿐이다. 이 조항은 2019년 'N번방' 사건 이후 만들어졌다.

나날이 지능화되는 딥페이크 범죄를 막기엔 당연히 역부족이다. 불법 촬영물과 다르게 불법 합성물은 단순 시청·제작·소지하는 행위에 대해선 처벌하지 못한다. 딥페이크 성착취물을 재미로 제작하고 유포하지 않고 그냥 가지고 있었을 뿐이라고 우기면 처벌받지 않는다는 말이다.

해외에선 제작만으로도 처벌이 가능하도록 엄격해지는 추세다. 최근 영국 법무부는 공유·유포 여부와 상관없이 딥페이크로 음란물을 만들기만 해도 처벌할 계획이라고 밝혔다. 미국 상원 의회에선 지난달 딥페이크 성착취물 피해자들의 피해를 보상하는 법안이 통과되기도 했다.

딥페이크 범죄의 심각성은 "만들기는 쉽지만 없애기는 정말 어렵다'는 것에 있다.

[사진=게티이미지뱅크]

AI에 사진만 넣으면 몇 분 만에 만들어진 성착취물이 텔레그램 등을 통해 빠른 속도로 다수에게 퍼진다. 합성 대상의 인스타그램 등 SNS 링크만 입력해도 성착취물을 만들어내는 웹사이트부터 템플릿을 골라 사진 1장만 넣으면 30초만에 합성물이 완성되는 중국 앱도 있다. 심지어 실시간 딥페이크 영상제작도 가능하다. 과거 딥페이크 영상은 표정이나 동작이 부자연스러운 부분이 많았다면 최근에는 전문가도 자세히 봐야만 구분이 될 만큼 정교해지는 추세다.

더 큰 문제는 AI 기술이 텍스트, 영상·음성 데이터까지 함께 처리하는 멀티모달 방식으로 진화하면서 과거 합성의 수준에서 이제는 특정 시나리오에 기반한 딥페이크 영상 창작이 가능 해졌다는 점이다. 이는 음란물 유포를 넘어 피싱이나 협박 등 범죄의 고도화를 부른다.

딥페이크 성착취물의 유통 수단인 텔레그램도 해결되어야 할 과제다. 암호화된 비밀채팅 기능으로 강력한 보안성을 갖춘 텔레그램은 각종 디지털범죄의 온상이다. 제작한 딥페이크 음란물을 '봇(Bot)'을 통해 배포하는 텔레그램은 최근 딥페이크 합성물을 제작을 수익화 하는 구조를 만들기도 했다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄 대응 긴급 대학생 기자회견을 하며 피켓을 들고 있다. 2024.08.29 yooksa@newspim.com

프랑스 정부는 8월 28일 입국하는 텔레그램의 최고경영자(CEO) 파벨 두로프를 '범죄 방조'로 체포했다. 전 세계 9억 명의 사용자를 보유한 텔레그램은 마약 밀매, 조직범죄, 테러 조장, 사이버 폭력 등 각종 범죄 도구로 활용되고 있음에도 두로프는 프라이버시 보호를 이유로 수사당국에 협조를 하거나 적절한 조치를 취하는 것을 거부해왔다. 이번 프랑스 정부의 조치는 향후 SNS플랫폼에서 벌어지는 범죄행위에 대해 CEO가 형사적 책임을 요구받을 수 있음을 시사한다.

딥페이크 성착취물의 완전한 삭제는 여전히 어렵다. 24시간 365일 딥페이크 성착취물을 찾아내 삭제하는 AI엔진이 개발되어 국내에서도 활용 중이지만 복사본이 있는 한 특정 시간 경과 후 언제 고 다시 업로드 될 수 가능성이 있기 때문이다. 결국 어떻게 든 '딥페이크 성착취물이 만들어지지 않도록'하는 것이 최선인 셈이다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄대응 긴급 대학생 기자회견을 하며 퍼포먼스를 하고 있다. 2024.08.29 yooksa@newspim.com

사실 딥페이크 범죄는 한국만의 문제는 아니다. 그렇지만 피해자와 가해자 다수가 10대라는 점은 자못 심각하다. 경찰청 통계에 의하면 지난 3년 동안 딥페이크 범죄 가해자 중 70% 정도가 미성년자이고 피해자 역시 60% 이상이 미성년자이다.

우리나라는 프랑스나 미국의 일부 주처럼 특정 연령까지 SNS 계정을 만들지 못한다거나 학교에서 스마트폰 사용을 금지하는 법령이 없는 탓에 일찍부터 SNS 환경에 쉽게 노출되는 데다 새로운 기술에도 매우 친화적인 편이다. 친구나 가까운 지인 등을 AI로 놀려먹자는 단순한 의도를 가진 미성년자가 가해자일 경우 피해자 역시 미성년자가 많을 수 밖에 없다.

딥페이크 범죄의 피해자와 가해자 다수가 미성년자라는 사실은 우리사회에 꼭 필요한 디지털 시민 교육과 미디어 리터러시 교육이 제대로 이뤄지지 않고 있음을 단적으로 보여준다.

'기술을 다룰 줄 하는 능력' 보다는 '기술로 무엇을 하고 하지 말아야 하는가' 에 대한 올바른 인식을 갖추는 일이 훨씬 중요시되어야 한다.

우선 디지털 범죄가 얼마나 심각한 중범죄인지 교육해야 한다. 디지털 범죄는 남의 인권과 인격을 침해하는 것이고 법에 저촉된다는 사실을 청소년기부터 자주 많이 알려줘야 한다. 현실 범죄와 디지털 범죄의 경중이 다르지 않는다는 점도 강조할 필요가 있다. 미성년자는 장난삼아 했던 행동의 중대성을 잘 모를 수 있다. 예컨대 학교 폭력의 연장선상으로 온라인에서 따돌림 하고 이상한 사진에다 얼굴 갖다 붙이면서 놀리는 '능욕문화' 같은 것이다. '능욕'이 AI를 만나 딥페이크가 되면 피해자에게 치명적인 해를 입힐 뿐 아니라 가해자도 성범죄자가 된다는 사실을 명확히 인지시켜야 한다.

텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포돼 논란이 되고 있다. 현재 국내에 해당 기술이 일부 판매된 것으로 알려지고 있다. [사진=뉴스핌DB]

온라인에서의 다양한 비윤리적인 행위들을 가볍게 여기지 않는 '미디어 리터러시' 교육도 필요하다. 편향으로 인한 갈등과 미움이 온라인에서의 기본값이 아니라는 점을 인식시키고 비난을 놀이처럼 여기지 않아야 건전한 문화가 형성된다. 현실의 반이 온라인인 세상에서 미디어 리터러시 교육은 필수과목이 되어야 한다.

미국 대학에서는 신입생에게 '미디어 리터러시' 교육을 듣게 하는 곳이 늘고 있다. 우리나라에서는 특별히 배우지 않는 미디어를 현명하게 소비하는 방법, 적절한 댓글을 쓰는 법, 기분 나쁘지 않게 비판하는 법 등 현실적인 내용을 다룬다.

결국 딥페이크 범죄를 막는 근본적인 대책은 '가해자가 되지 않는' 교육 아닐까?

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
유심보호 서비스, 어떻게 가입하나 [서울=뉴스핌] 정승원 기자 = SK텔레콤이 해킹 피해 발생 시 100% 피해 보상을 약속한 유심보호서비스에 대한 소비자들의 관심이 높아지고 있다. SK텔레콤은 27일 '대고객 발표문'을 통해 "언제 어디서나 간편하게 가입할 수 있는 유심보호서비스에 가입해 달라"며 "이 서비스로 해킹 피해를 막을 수 있으니 믿고 가입해 달라. 피해가 발생하면 SKT가 100% 책임지겠다"고 밝혔다. [서울=뉴스핌] 이길동 기자 = 27 일 서울시내 SK텔레콤 대리점을 찾은 고객들이 유심 카드를 교체 예약을 위해 대기하고 있다.SK텔레콤은 오는 28일 오전 10시부터 가입자들에게 유심(eSIM 포함) 무료 교체서비스를 제공할 예정이다.2025.04.27 gdlee@newspim.com SK텔레콤에 따르면 유심보호서비스는 유심교체와 동일한 피해예방 효과를 가지고 있다. SKT가 안전성을 보장하는 서비스로 이날 오후 6시 현재까지 총 554만명의 고객이 가입했다. 유심보호서비스는 지난 2023년 불법 유심복제로 인한 피해를 차단하기 위해 서울경찰청 사이버수사대와 협력과정에서 개발됐다. 고객의 유심 정보를 탈취, 복제하더라도 타 기기에서 고객 명의로 통신서비스에 접속하는 것을 차단한다. 유심보호서비스는 3가지 방법으로 가입할 수 있다. 첫 번째는 SK텔레콤의 홈페이지 티월드를 통한 가입이다. 웹과 모바일웹을 통해 부가서비스, 안심/보험, 유심보호 서비스의 순서대로 클릭하면 된다. 네이버나 구글에서 '티월드 유심보호서비스'를 검색해도 바로 들어갈 수 있는 페이지가 나온다. 27일 오후 한 때 대기시간이 발생하기도 했지만 오후 8시 50분 현재 대기 없이 이용할 수 있다.  두 번째 방법은 고객센터를 통한 방법이다. SK텔레콤 이용자가 휴대전화로 지역번호 없이 114를 누르면 고객센터로 연결돼 가입할 수 있다. 마지막 방법은 지점과 대리점을 통한 가입이다. SK텔레콤 지점이나 대리점을 방문하면 유심보호서비스에 가입할 수 있다. SK텔레콤은 가입자 전원을 대상으로 유심보호서비스 가입을 권장하는 문자 메시지를 순차 발송할 계획이다. SK텔레콤은 오는 28일부터 시작되는 유심카드 무료교체를 위해 유심카드 100만개를 준비했다. SK텔레콤은 현장에 고객들이 몰릴 것을 대비해 예약 서비스를 이용해줄 것과 함께 대리점과 지점 직원들에게 고객에 유심보호서비스 가입을 권할 것을 권장하고 있다. 유심보호서비스가 유심카드 교체에 준하는 서비스인 만큼 적극적인 가입 권장을 한다는 계획이다. SK텔레콤 관계자는 "유심카드 물량을 최대한 확보하고자 하며 그럼에도 사람이 몰리는 경우에는 상황에 따라 재고가 부족할 수 있다"며 "재고가 부족할 경우에는 예약을 해 재방문할 수 있도록 권고하고 있다"고 설명했다. 이 관계자는 "이미 시행 중인 유심보호서비스에 가입한다면 강회된 비정상인증시도 차단(FDS: Fraud Detection System) 조치와 함께 유심카드 보호에 준하는 보안조치를 받을 수 있다"며 "유심카드 교체를 하지 못하더라도 유심보호서비스 가입하고 추후 안내를 통해 유심교체를 받으시길 바란다"고 전했다.  origin@newspim.com 2025-04-27 21:07
사진
트럼프 주니어 재계 누구 만나나 [서울=뉴스핌] 정탁윤 기자 = 한국과 미국간 상호관세 협상이 진행중인 가운데, 트럼프 미국 대통령의 장남인 트럼프 주니어가 다음 주 방한해 삼성과 현대차 등 주요 그룹 회장들과 만날 예정이다. 트럼프 주니어는 정용진 신세계 회장의 초청으로 방한하는 것으로 전해졌다. 25일 재계에 따르면 트럼프 주니어는 오는 30일 1박 2일 일정으로 한국을 방문, 정용진 회장을 비롯 재계 주요 총수들과 면담을 진행할 것으로 알려졌다. 정 회장은 트럼프 정부와의 소통을 위한 가교 역할을 해달라는 재계의 요청에 따라 평소 교분이 두터운 트럼프 주니어를 초청했다고 한다. 도널드 트럼프 대통령 취임식 참석을 위해 지난 1월 18일(현지시간) 워싱턴을 찾은 신세계그룹 정용진 회장(가운데)이 트럼프 주니어(왼쪽)와 만나 부인 한지희씨(오른쪽)를 소개 후 반갑게 사진을 찍었다. [사진=신세계그룹] 앞서 정용진 회장은 지난해 12월 당시 트럼프 대통령 당선인과 회동한데 이어 1월 트럼프 대통령 취임식에도 참석했다. 트럼프 주니어와는 지난 2015년 국내 한 언론의 행사장에서 처음 만난 것으로 전해졌다. 재계에선 삼성과 SK, 현대차, LG 등 4대그룹은 물론 한화와 GS, HD현대중공업 등 10대그룹 주요 총수들이 트럼프 주니어와의 면담에 나설 것으로 보고 있다. 특히 미국 사업 비중이 큰 자동차와 반도체, 철강, 에너지, 조선, 방산 관련 기업들의 총수가 움직일 것으로 보인다. 이재용 삼성전자 회장과 최태원 SK그룹 회장, 정의선 현대차그룹 회장, 구광모 LG그룹 회장 등이 우선 일정을 조율중인 것으로 전해졌다. 또 김동관 한화그룹 부회장, 신동빈 롯데그룹 회장, 허태수 GS그룹 회장, 장인화 포스코그룹 회장 등도 면담을 추진할 것으로 예상된다. tack@newspim.com 2025-04-25 15:07
안다쇼핑
Top으로 이동