전체기사 최신뉴스 GAM
KYD 디데이
사회 서울시

속보

더보기

서울시 "AI로 6분 내 불법 영상물 찾아내 삭제·신고 처리"

기사입력 : 2025년05월21일 11:15

최종수정 : 2025년05월21일 11:15

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

AI 기술로 검출 속도 97.5% 단축, 정확도 200% 향상
피해자 지원 6만건 돌파, 아동·청소년 피해 대응 강화

[서울=뉴스핌] 이경화 기자 = 서울시는 검출된 불법 영상을 AI(인공지능)가 자동으로 삭제 신고까지 지원하는 'AI 자동 삭제신고 시스템'을 개발·실행에 들어간다고 21일 밝혔다. 

서울시는 디지털 성범죄 예방을 위해 2023년 3월 서울연구원과 협력해 '디지털 성범죄 AI 삭제지원 기술'을 개발했으며, 서울 디지털성범죄 안심지원센터에서 24시간 불법 영상물 감시를 실시하고 있다.

AI 자동 삭제신고 시스템은 필요한 영상을 6분 내에 삭제 신고할 수 있게 하며, AI가 영상 검출부터 삭제 요청 이메일까지 자동으로 생성한다. 이번 시스템은 멀티모달 대형언어모델과 웹 자동화 도구를 결합해 디지털 성범죄물의 탐지부터 채증, 문서화, 이메일 생성에 이르는 전 과정을 자동화했다. 

[인포그래픽=서울시]

서울 디지털성범죄 안심지원센터는 '전기통신사업법'의 신고 기관으로 지정 고시돼, 불법촬영물 삭제 요청이 있을 경우 법적 절차에 따라 해당 사이트의 삭제 조치를 취해야 한다.

기술 도입 이전에는 수작업으로 채증·보고서 작성을 진행했으나, 이제는 AI를 통해 처리 속도가 30배 개선될 것으로 기대된다. 자동으로 생성되는 보고서는 필요한 법적 증거자료로 즉시 사용될 수 있다.

최근에는 피해 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라, 시는 AI가 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성하도록 해 국가 기반을 넓혀 검색 영역을 확장했다.

시는 2023년 AI 삭제지원 기술을 도입하면서 디지털 성범죄 예방과 피해자 지원에 있어 패러다임의 전환을 이뤄냈다는 평가를 받고 있다. 

이 기술이 도입되면서 비디오, 오디오, 텍스트 3종 종합분석을 통해 키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 삭제지원관이 평균 2시간이 소요됐던 것에 비해 검출 속도가 97.5%가 단축되고, 정확도도 200% 이상 향상됐다. 

안심지원센터 운영실적 [자료=서울시]

센터는 2022년 3월부터 2025년 3월까지 3년간 3650명의 피해자를 지원했고, 지원 건수는 총 6만4677건에 이른다. 특히 아동·청소년 피해자는 증가 추세를 보이고 있다. 센터의 상담·지원 시스템은 익명성을 보장한다.

도움이 필요한 디지털 성범죄 피해자 누구나 센터 상담전용 직통번호 815-0382(영상빨리)나 누리집(www.8150382.or.kr)으로 문의하면 된다.

김선순 여성가족실장은 "서울시는 전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어, 이제 AI가 자동으로 삭제 신고까지 하는 기술을 도입함으로써 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축시킬 것으로 기대하고 있다"며 "앞으로도 디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다"고 말했다. 

kh99@newspim.com

[뉴스핌 베스트 기사]

사진
김주애, 아빠 따라 첫 외교무대 데뷔 [서울=뉴스핌] 이영종 통일전문기자 = 김정은 북한 국무위원장의 딸 주애(12)가 중국 방문길에 동행한 것으로 확인됐다. 북한 관영 조선중앙통신은 2일 밤 김정은의 베이징역 도착 소식을 전하면서 3장의 사진을 공개했다. [서울=뉴스핌] 이영종 통일전문기자 = 김정은 북한 국무위원장이 2일 오후 전용열차 편으로 베이징역에 도착해 중국 측 인사들의 환영을 받고 있다. 김정은 뒤편으로 딸 주애(붉은 원)와 최선희 외무상이 보인다. 김주애가 해외 방문에 나선 건 이번이 처음이다. [사진=조선중앙통신] 2025.09.02 yjlee@newspim.com 여기에는 환영나온 왕이 외교부장 등 중국 측 인사와 만나는 김정은 바로 뒤에 서있는 딸 주애가 드러난다. 김주애가 해외 방문에 나선 건 지난 2022년 11월 공개석상에 등장한 이후 처음이다. 김주애는 검은색 바지 정장 차림으로 김정은을 따라 전용열차에서 내렸고, 그 뒤는 최선희 외무상이 따랐다. 그러나 붉은 카페트를 걸어가는 의전행사에는 빠져 공식 수행원에 명단을 올리지는 않을 것으로 보인다. 김주애가 중국 전승절(3일) 행사참석을 위해 방중한 김정을을 수행함으로써 그의 후계자 지명 관측에는 더 힘이 실릴 것으로 보인다.  또 시진핑 국가주석 등 중국 지도부와 김정은이 만나는 자리에 주애가 동행할 가능성이 높다는 점에서 '알현 행사' 성격을 띠게 될 것이란 관측도 나온다. yjlee@newspim.com 2025-09-02 22:00
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동