전체기사 최신뉴스 GAM 라씨로
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 딥페이크 범죄를 막는 근본 대책

기사입력 : 2024년09월02일 08:31

최종수정 : 2024년09월02일 08:31

하민회 (이미지21대표, 미래기술문화연구원장)

딥페이크(Deepfake) 진앙이 한국이라고?

미국 보안업체 시큐리티 히어로가 공개한 '2023 딥페이크 현황' 보고서애 따르면 지난해 9만건이 넘는 딥페이크 영상 중 53% 이상의 피해자가 한국인이다. 이를 두고 외신들은 한국은 딥페이크에 취약한 국가, 심지어 범죄의 진앙으로 볼 수 있다고 보도했다. (딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, AI 기반의 인간 이미지 합성 기술을 뜻한다.)

실지로 한국은 디지털 성범죄 비상사태에 직면했다.

2013년부터 2018년 사이 국내에선 3만건 이상의 불법 촬영 신고(몰카)가 경찰에 접수됐다. 대부분 공중 화장실과 탈의실, 숙박업소, 등의 불법 촬영이었다. 2019년에는 텔레그램 성착취 방(N번방) 사건이, 올해엔 서울대·인하대에서 여성 동문들의 딥페이크 합성물을 제작·유포한 디지털 성범죄 사건이 터졌다. 최근엔 교사, 지인, 동료, 학생들을 대상으로 하는 딥페이크 음란물 사건이 전국적으로 발생하고 있다.

하민회 이미지21 대표.

전문가들은 디지털 성범죄가 반복되는 가장 큰 이유로 '느슨한 처벌'을 꼽는다.

현행법상 2019년 딥페이크 성범죄를 처벌할 수 있는 조항은 '성폭력 범죄 처벌에 관한 특례법'에 허위 영상물 등의 반포(14조의 2)뿐이다. 이 조항은 2019년 'N번방' 사건 이후 만들어졌다.

나날이 지능화되는 딥페이크 범죄를 막기엔 당연히 역부족이다. 불법 촬영물과 다르게 불법 합성물은 단순 시청·제작·소지하는 행위에 대해선 처벌하지 못한다. 딥페이크 성착취물을 재미로 제작하고 유포하지 않고 그냥 가지고 있었을 뿐이라고 우기면 처벌받지 않는다는 말이다.

해외에선 제작만으로도 처벌이 가능하도록 엄격해지는 추세다. 최근 영국 법무부는 공유·유포 여부와 상관없이 딥페이크로 음란물을 만들기만 해도 처벌할 계획이라고 밝혔다. 미국 상원 의회에선 지난달 딥페이크 성착취물 피해자들의 피해를 보상하는 법안이 통과되기도 했다.

딥페이크 범죄의 심각성은 "만들기는 쉽지만 없애기는 정말 어렵다'는 것에 있다.

[사진=게티이미지뱅크]

AI에 사진만 넣으면 몇 분 만에 만들어진 성착취물이 텔레그램 등을 통해 빠른 속도로 다수에게 퍼진다. 합성 대상의 인스타그램 등 SNS 링크만 입력해도 성착취물을 만들어내는 웹사이트부터 템플릿을 골라 사진 1장만 넣으면 30초만에 합성물이 완성되는 중국 앱도 있다. 심지어 실시간 딥페이크 영상제작도 가능하다. 과거 딥페이크 영상은 표정이나 동작이 부자연스러운 부분이 많았다면 최근에는 전문가도 자세히 봐야만 구분이 될 만큼 정교해지는 추세다.

더 큰 문제는 AI 기술이 텍스트, 영상·음성 데이터까지 함께 처리하는 멀티모달 방식으로 진화하면서 과거 합성의 수준에서 이제는 특정 시나리오에 기반한 딥페이크 영상 창작이 가능 해졌다는 점이다. 이는 음란물 유포를 넘어 피싱이나 협박 등 범죄의 고도화를 부른다.

딥페이크 성착취물의 유통 수단인 텔레그램도 해결되어야 할 과제다. 암호화된 비밀채팅 기능으로 강력한 보안성을 갖춘 텔레그램은 각종 디지털범죄의 온상이다. 제작한 딥페이크 음란물을 '봇(Bot)'을 통해 배포하는 텔레그램은 최근 딥페이크 합성물을 제작을 수익화 하는 구조를 만들기도 했다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄 대응 긴급 대학생 기자회견을 하며 피켓을 들고 있다. 2024.08.29 yooksa@newspim.com

프랑스 정부는 8월 28일 입국하는 텔레그램의 최고경영자(CEO) 파벨 두로프를 '범죄 방조'로 체포했다. 전 세계 9억 명의 사용자를 보유한 텔레그램은 마약 밀매, 조직범죄, 테러 조장, 사이버 폭력 등 각종 범죄 도구로 활용되고 있음에도 두로프는 프라이버시 보호를 이유로 수사당국에 협조를 하거나 적절한 조치를 취하는 것을 거부해왔다. 이번 프랑스 정부의 조치는 향후 SNS플랫폼에서 벌어지는 범죄행위에 대해 CEO가 형사적 책임을 요구받을 수 있음을 시사한다.

딥페이크 성착취물의 완전한 삭제는 여전히 어렵다. 24시간 365일 딥페이크 성착취물을 찾아내 삭제하는 AI엔진이 개발되어 국내에서도 활용 중이지만 복사본이 있는 한 특정 시간 경과 후 언제 고 다시 업로드 될 수 가능성이 있기 때문이다. 결국 어떻게 든 '딥페이크 성착취물이 만들어지지 않도록'하는 것이 최선인 셈이다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄대응 긴급 대학생 기자회견을 하며 퍼포먼스를 하고 있다. 2024.08.29 yooksa@newspim.com

사실 딥페이크 범죄는 한국만의 문제는 아니다. 그렇지만 피해자와 가해자 다수가 10대라는 점은 자못 심각하다. 경찰청 통계에 의하면 지난 3년 동안 딥페이크 범죄 가해자 중 70% 정도가 미성년자이고 피해자 역시 60% 이상이 미성년자이다.

우리나라는 프랑스나 미국의 일부 주처럼 특정 연령까지 SNS 계정을 만들지 못한다거나 학교에서 스마트폰 사용을 금지하는 법령이 없는 탓에 일찍부터 SNS 환경에 쉽게 노출되는 데다 새로운 기술에도 매우 친화적인 편이다. 친구나 가까운 지인 등을 AI로 놀려먹자는 단순한 의도를 가진 미성년자가 가해자일 경우 피해자 역시 미성년자가 많을 수 밖에 없다.

딥페이크 범죄의 피해자와 가해자 다수가 미성년자라는 사실은 우리사회에 꼭 필요한 디지털 시민 교육과 미디어 리터러시 교육이 제대로 이뤄지지 않고 있음을 단적으로 보여준다.

'기술을 다룰 줄 하는 능력' 보다는 '기술로 무엇을 하고 하지 말아야 하는가' 에 대한 올바른 인식을 갖추는 일이 훨씬 중요시되어야 한다.

우선 디지털 범죄가 얼마나 심각한 중범죄인지 교육해야 한다. 디지털 범죄는 남의 인권과 인격을 침해하는 것이고 법에 저촉된다는 사실을 청소년기부터 자주 많이 알려줘야 한다. 현실 범죄와 디지털 범죄의 경중이 다르지 않는다는 점도 강조할 필요가 있다. 미성년자는 장난삼아 했던 행동의 중대성을 잘 모를 수 있다. 예컨대 학교 폭력의 연장선상으로 온라인에서 따돌림 하고 이상한 사진에다 얼굴 갖다 붙이면서 놀리는 '능욕문화' 같은 것이다. '능욕'이 AI를 만나 딥페이크가 되면 피해자에게 치명적인 해를 입힐 뿐 아니라 가해자도 성범죄자가 된다는 사실을 명확히 인지시켜야 한다.

텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포돼 논란이 되고 있다. 현재 국내에 해당 기술이 일부 판매된 것으로 알려지고 있다. [사진=뉴스핌DB]

온라인에서의 다양한 비윤리적인 행위들을 가볍게 여기지 않는 '미디어 리터러시' 교육도 필요하다. 편향으로 인한 갈등과 미움이 온라인에서의 기본값이 아니라는 점을 인식시키고 비난을 놀이처럼 여기지 않아야 건전한 문화가 형성된다. 현실의 반이 온라인인 세상에서 미디어 리터러시 교육은 필수과목이 되어야 한다.

미국 대학에서는 신입생에게 '미디어 리터러시' 교육을 듣게 하는 곳이 늘고 있다. 우리나라에서는 특별히 배우지 않는 미디어를 현명하게 소비하는 방법, 적절한 댓글을 쓰는 법, 기분 나쁘지 않게 비판하는 법 등 현실적인 내용을 다룬다.

결국 딥페이크 범죄를 막는 근본적인 대책은 '가해자가 되지 않는' 교육 아닐까?

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
강릉 옥계항 코카인 추정 마약 대량 적발 [세종=뉴스핌] 백승은 기자 = 관세청과 해양경찰청이 강릉 옥계항에 입항하는 외국 무역선 선박을 수색애 코카인으로 의심되는 마약을 대량 적발해 조사 중이라고 2일 밝혔다. 전날 두 기관은 미국 연방수사국(FBI)과 국토안보수사국(HSI)으로부터 A선밖에 마약이 숨겨져 있다는 정보를 입수했다. A 선박은 벌크선으로 3만2000톤이며, 승선원 외국인은 20명이다. 관세청과 해양경찰청이 강릉 옥계항에 입항하는 외국 무역선 선박을 수색해 코카인으로 의심되는 마약을 대량 적발했다. [사진=관세청] 2025.04.02 100wins@newspim.com 두 기관은 합동 검색작전을 수립하고, 선박의 규모가 길이 185미터(m)인 점과 검색 범위 등을 고려해 서울세관·동해해경청 마약 수사요원 90명 및 세관 마약탐지견 2팀 등 합동 검색팀을 구성했다. 검색팀은 2일 오전 6시 30분 옥계항에 긴급 출동해 A 선박이 입항한 직후 선박에 올라타 집중 수색을 실시했다. 수색 중 검색팀은 선박 기관실 뒤편에서 밀실을 발견했고, 집중 수색 결과 개당 약 20킬로그램(kg) 전후 마약으로 의심되는 물질이 담긴 박스 수십 개를 발견했다. 검색팀이 간이시약으로 검사한 결과 코카인 의심 물질로 확인됐다. 정확한 중량은 하선 이후 정밀 계측기를 통해 측정하고 마약 종류는 국가과학수사연구원에 의뢰해 확인할 예정이다. 앞으로 관세청과 해경청은 합동수사팀을 운영해 해당 선박의 선장 및 선원 등 20여명을 대상으로 밀수 공모 여부와 적발된 마약의 출처 등을 수사할 계획이다. 국제 마약 밀매 조직과의 연관성도 고려해 미국 FBI와 HSI 등 관계 기관과의 공조를 통해 수사를 확대할 방침이다. 100wins@newspim.com 2025-04-02 17:57
사진
재주는 트럼프가, 돈은 브라질이 [서울=뉴스핌] 최원진 기자= 도널드 트럼프 미국 행정부의 관세 공세로 글로벌 무역전쟁이 격화하는 가운데, 브라질이 주요 승자로 부상하고 있다고 월스트리트저널(WSJ)이 1일(현지시간) 보도했다. 보도에 따르면, 중국은 트럼프 대통령이 부과한 대중(對中) 관세에 맞서 미국산 농산물에 보복 관세를 매기며 대체 수입처로 브라질을 주목하고 있다. 수출입 컨테이너 [사진=블룸버그] 중국 가공업체들은 트럼프 대통령이 지난 1월 취임하기 전부터 브라질산 대두를 비축하기 시작했고, 올해 1분기 필요한 물량의 거의 전량을 브라질에서 조달했다. 이는 지난해 같은 기간 54% 수준이었던 브라질산 비중과 비교하면 큰 폭의 증가다. 가격도 상승세다. 상파울루대학 산하 연구기관 세페아(CEPEA)에 따르면, 브라질 항구에서 선적되는 대두의 프리미엄은 중국이 미국산 대두에 10% 관세를 발표한 직후 일주일 동안 약 70% 급등했다. 3월 선적 기준으로는 부셸당 85센트를 기록해 3년 만에 최고치를 찍었다. 닭고기와 달걀 수출도 두 자릿수 증가율을 보인다. 브라질의 가금류·돼지고기·달걀 수출업체를 대표하는 브라질동물단백질협회(ABPA)의 히카르두 산틴 협회장은 올해 들어 브라질의 닭고기 수출은 지난해 같은 기간보다 9%, 달걀 수출은 20% 증가했다고 밝혔다. 브라질은 미국과 달리 조류 인플루엔자를 겪고 있지 않아, 안정적인 공급처로 주목받고 있다. 여기에 중국이 미국산 닭고기에 15%의 보복관세를 부과하면서 브라질산이 대안으로 떠오르고 있다는 설명이다. 사실 브라질과 중국의 교역 관계는 최근 수년 빠르게 확대됐다. 중국은 2009년에 미국을 제치고 브라질의 최대 무역 파트너로 부상했다. 쇠고기, 철광석, 석유 등 자원이 풍부한 브라질은 중국의 막대한 수요에 맞춰 수출을 확대해 왔고, 중국은 브라질의 인프라 건설에 대규모 자본을 투입하고 있다. 현재 중국은 브라질 전체 전력 공급의 약 10%를 차지하고 있으며, 항만과 도로, 철도 등 주요 기반 시설 건설에도 깊숙이 관여하고 있다. 브라질은 미국 시장에서도 수출 확대 가능성을 보고 있다. 중국은 미국의 주요 신발 수출국인데, 미국이 중국산 제품에 고율 관세를 부과할 경우 아시아를 제외하고 최대 신발 생산국인 브라질이 그 자리를 일부 대체할 수 있다는 전망이 나온다다. 하롤두 페헤이라 브라질 신발산업협회(Abicalçados) 회장은 "브라질산 제품에 별다른 관세가 없다면, 미국 수출 확대의 기회가 될 수 있다"라고 밝혔다. 글로벌 무역전쟁 국면에서 오히려 특수를 누릴 것이라는 기대는 브라질 증시에도 훈풍으로 작용했다. 올 들어 브라질 증시는 9% 넘게 오르며 뉴욕 증시를 아웃퍼폼하고 있다. 올 들어 브라질 증시는 9% 넘게 상승, 연중 5% 가까이 하락한 뉴욕증시의 S&P500 지수와 대조를 이룬다 [사진=koyfin] wonjc6@newspim.com   2025-04-02 15:30
안다쇼핑
Top으로 이동