전체기사 최신뉴스 GAM
KYD 디데이
산업 중기·벤처

속보

더보기

[기자수첩] 커지는 딥페이크 범죄, 법 제도 보완과 함께 처벌 강화해야

기사입력 : 2024년09월13일 09:49

최종수정 : 2024년09월14일 17:52

[서울=뉴스핌] 송은정 기자 ='딥페이크(Deep Fake)'가 개인의 일상을 위협하고 있다. 

송은정 중기벤처부 기자

인공지능(AI)의 발달이 범죄에까지 활용되고 있는 가운데 최근 가장 문제로 떠오른 게 딥페이크 성범죄다. 얼굴 사진만으로도 딥페이크 기술을 활용해 영상물을 만들 수 있는 만큼 누구나 피해자가 될 수 있다는 점에서 심각성을 더하고 있다. 

딥페이크란 심층학습을 의미하는 딥러닝(Deep-learning)과 가짜라는 뜻을 가진 페이크(Fake)의 합성어다. 딥페이크는 주로 AI를 활용한 미디어 합성 기술로 활용되고 있다. 특정 인물의 얼굴을 다른 인물의 사진, 영상, 음성과 합성하는 식이다.

딥페이크 영상은 디지털 성범죄뿐만 아니라, 초상권, 인격권 침해, 개인의 사생활 침해와 명예훼손 문제로도 이어질 수 있는 심각한 사회 문제다. 실제로 딥페이크 허위 영상물 피해 사례는 나이, 직업, 성별 등을 가리지 않았고, 광범위하게 확산되고 있다. 합성 기술을 바탕으로 한 딥페이크 범죄는 사칭 문제로 번질 수 있다. 특히 파급력이 큰 동영상 매체를 이용한다는 점에서 피해가 가중될 수 있다.  

최근 AI의 진입 문턱이 낮아짐에 따라 딥페이크를 이용한 금융 사기 범죄 형태 또한 진화하고 있다. 범죄자들은 챗GPT 등 생성형 AI를 활용해 피해자의 취약점에 맞춰 보이스피싱 시나리오를 작성해 범죄에 활용하고 있다. 사용자의 문장 스타일을 모방하고 생성형 AI의 자체 학습 과정에서 취득한 피해자의 개인 정보까지 탈취한다. 딥페이크 영상을 제작해 투자 사기에 활용하는 범죄 사례도 꾸준히 증가하고 있다. 기술의 발전 속도가 빠른 만큼, 범죄의 방법도 점점 더 정교해지고 있는 셈이다.

그러나 이와 관련해 처벌은 미미하다. 방송통신심의위원회에 적발된 딥페이크 기술을 악용한 '성적 허위영상물'이 올해 상반기에만 6000여건으로, 지난해 전체의 84%에 이르렀다. 반면, 2020~2023년 딥페이크 범죄 관련 1·2심 판결 71건 중 실형을 선고받은 경우는 4건에 불과하다. 딥페이크 합성물 제작·유포 등 혐의로 재판에 넘겨진 이들에게 재판부는 피고인의 연령, 초범 여부, 반성 여부 등 양형 참작 사유를 거론하며 대체로 집행유예를 선고하고 있다. 솜방망이 판결이 법 조항이나 양형 기준이 현실을 제대로 반영하지 못하고 있어 법적 제재의 의미를 무색하게 하고 있다.

우리나라는 현재 AI 생성물에 가상 정보 표시를 의무화하는 법안을 비롯해 딥페이크 방지를 위한 제도 보완이 시급한 상황이다. 앞서 정부 주도로 21대 국회에서 'AI 기본법'이 발의됐지만 여·야 정쟁에 발이 묶여 제대로 된 논의도 없이 폐기됐다.

이미 세계 주요국에서는 AI 규제에 초점을 둔 법제를 내놓고 있다. 유럽연합(EU)은 AI 위험 수준에 따른 차등 규제를 담은 'AI 법'을 세계 최초로 통과시켰다. 미국 캘리포니아주는 AI로 인해 피해가 발생할 경우 개발사에 책임을 지우는 규제 법안을 추진하고 있다. 일본은 지난 5월 AI 규제 방침 등을 밝혔다. 중국 역시 생성형 AI 서비스에 관한 법률을 제정하고 있다.

AI 기술의 발전과 함께 역기능이 심화되고 있는 만큼 AI의 부작용을 막기 위한 제도, 정책이 신속하게 보완돼야 한다. AI 규제의 부재는 범죄의 도구로 악용될 수 있다는 점을 잊지 말아야 한다. 기술이 빠르게 발전하는 만큼 불러오는 부작용을 가볍게 넘기지 말아야 한다. 경각심을 갖고 피해의 심각성을 고려해 관련 범죄에 대한 처벌 강화가 필요하다.

yuniya@newspim.com

[뉴스핌 베스트 기사]

사진
뉴스핌 K컬처 플랫폼 'K·SPOT' 론칭 [서울=뉴스핌] 양진영 기자 = 종합뉴스통신사 뉴스핌이 K컬처 전문 글로벌 플랫폼 'K·SPOT' 유튜브 채널(https://www.youtube.com/@K%C2%B7SPOT_newspim)을 17일 공식 론칭했다. 'K·SPOT(@K·SPOT_newspim)'은 한국의 생생한 K컬처 현장을 전 세계에 전하는 K컬처 글로벌 플랫폼으로 영어·중국어·일본어 등 다국어 자막 서비스를 통해 글로벌 소통력을 강화한 것이 특징이다. 'This is K·SPOT – where K-culture comes alive.'라는 슬로건 아래, KPOP, K드라마, K라이프 등 한국 대중문화(K컬처) 전반을 조명한다. 특히, 전 세계의 언어 장벽을 허무는 다국어 자막 시스템을 기반으로 글로벌 팬층과의 연결을 강화했으며, 영어, 중국어, 일본어 지원과 함께 추후 스페인어, 힌디어 등 주요 언어로 확장할 예정이다. 채널명 'K·SPOT'은 한국(K) 문화의 중심 '스팟'을 의미하며, K컬처가 살아 숨 쉬는 현장에 스포트라이트를 비춘다는 의미를 담았다. K-컬처를 실시간으로 소비하는 글로벌 팬들과 그 현장을 연결하는 플랫폼으로 콘텐츠 소비의 지리적·언어적 경계를 허물며, KPOP 쇼케이스, 드라마 제작발표회 등 전 세계 팬들이 궁금해하는 바로 그 현장을 경험할 수 있는 디지털 K컬처 허브를 지향한다.  K·SPOT에서는 K라이징스타 힛지스를 시작으로 대중문화, 예술 분야 예비 스타들을 전 세계에 소개하며 다양한 K컬처 콘텐츠들도 두루 만나볼 수 있다.  ◆생생한 K-컬처 현장을 전달하는 글로벌 플랫폼 K·SPOT은 단순한 영상 채널을 넘어, 전 세계 어디서든 K컬처를 실시간으로 즐길 수 있도록 설계된 글로벌 플랫폼이다. 영어, 중국어, 일본어 등 다국어 자막 서비스를 제공해 언어 장벽을 낮추고, 다양한 문화권의 팬들이 동시 접속해 K-컬처를 함께 알아볼 수 있다. 'K·SPOT(@K·SPOT_newspim)' 채널 로고. 검색 뿐만 아니라 , 무음 시청·청각 장애인 접근성 향상 등도 도모할 예정이다.  뉴스핌은 K·SPOT은 단순한 K컬처 소개 채널에 머물지 않고, 다양한 언어와 콘텐츠 포맷을 아우르는 글로벌 문화 플랫폼으로 키울 예정이다. K컬처 심장부를 세계와 연결하며 글로벌 콘텐츠 생태계의 중심으로 도약한다는 계획이다. K·SPOT에서는 K컬처 모든 현장을 생생하게 포착하고, 전 세계 팬들과 소통하며, 디지털과 현실을 연결하는 진정한 K-컬처 허브로 자리매김할 계획이다. jyyang@newspim.com 2025-07-17 01:00
사진
충남 서산 시간당 114㎜ 폭우 [세종 = 뉴스핌] 김범주 기자 = 충청권과 중부지방을 중심으로 시간당 최대 100㎜가 넘는 강한비가 내리면서 주민 1070명이 대피하는 등의 피해를 입었다. 31개 항로에서 39척의 여객선이 운행을 멈췄고, 서울 등 90구역 하천변이 통제됐다. 중앙재난안전대책본부(중대본)는 17일 오전 10시 기준으로 이 같은 피해가 발생했다고 밝혔다. 호우경보는 세종, 충북, 충남, 경남에, 호우주의보는 서울, 대전, 광주, 경기, 강원, 전북, 전남 등에 각각 발효됐다. 전날 자정부터 이날 오전 10시까지 총 누적 강수량은 충남 서산이 가장 많은 419.5㎜로 집계됐다. 이어 홍성 411.4㎜, 당진 376.5㎜ 아산 349.5㎜, 태안 348.5㎜, 세종 324.5㎜, 충북 청주 276㎜, 경기 평택 262㎜ 등 이었다. 60분 기준 일최대 강수량은 서산 114.9㎜, 홍성 96.2㎜, 서천 98㎜, 경남 함안 70㎜ 등이었다. [서울=뉴스핌] 김학선 기자 = 서울에 폭우가 내리고 있는 17일 오전 서울 서초구 서울고검에서 청사 관계자들이 우비를 입고 이동하고 있다. 2025.07.17 yooksa@newspim.com 해당 지역을 중심으로 산사태 예보 발령도 발효됐다. ▲세종 ▲경기(평택, 안성) ▲충북(진천) ▲충남(천안, 공주, 보령, 아산, 서산, 논산, 당진, 부여, 청양, 홍성, 예산, 태안) 등 16개 지역에 경보가 내려졌다. 인명피해는 경기 1명, 충남 1명으로 집계됐다. 옹벽붕괴 1건, 도로 토사유실 2건 등으로 공공시설의 피해도 있었다. 이번 집중호우로 3개 시·도, 5개 시·군에서 313세대 1070명이 일시적으로 대피하는 피해도 발생했다. 아직 287세대 1041명이 귀가하지 못하는 것으로 집계됐다. 집중호우 지역 중심으로 통제도 있었다. 목포와 홍도, 격포와 위도, 군산과 어청도를 잇는 여객선이 통제됐다. 북한산 97개, 지리산 39개, 속리산 24개, 월악산 24개 등 총 15개 국립공원 374개 구간에서 시설 통제도 있었다. 지하차도는 충북 5개, 충남 5개, 경기 2개 등에, 도로는 인천 1개, 세종 1개, 경기 3개, 충북 1개, 충남 2개 등에 각각 통제가 이뤄졌다. [서울=뉴스핌] 류기찬 인턴기자 = 서울에 강한 비가 내리고 있는 17일 오전 서울 종로구 광화문광장 일대에서 시민들이 이동하고 있다. 2025.07.17 ryuchan0925@newspim.com 한편 중대본은 이날 오전 4시부로 중대본 1단계에서 2단계로 격상하고, 기상 상황을 실시간으로 모니터링 중이다. 또 환경부, 산림청과 같은 관계 부처와 협업을 강화해 비상근무 체제를 유지하기로 했다. 특히 서산, 당진, 태안 등 강수가 집중되고 있는 지역에는 재난문자 등을 통해 새벽시간 외출 자제, 위험지역 접근금지 등과 같은 국민행동요령을 집중적으로 홍보할 것을 당부했다. 지역재난안전대책본부에는 총 1만5708명이 비상근무 중이며 재난문자는 123건, 자동음성통보는 138회 등이 발송됐다. 이날 김민재 중앙재난안전대책본부 본부장(행안부 장관 직무대행)은 '집중호우 대처상황 긴급 점검회의'를 주재하고 "정부는 인명 피해를 최소화하기 위해 상황 대응에 만전을 기할 것"이라고 말했다. 특보 및 강수량 분포도/제공=행정안전부 wideopen@newspim.com 2025-07-17 13:39
안다쇼핑
Top으로 이동