[서울=뉴스핌] 황혜영 기자 = "사람이 24시간 지킬 수 없었던 온라인 공간을 이제는 시스템이 쉬지 않고 지키고 있습니다."

중앙디지털성범죄피해자지원센터 인공지능(AI) 기반 아동·청소년 온라인 성착취 탐지·신고 시스템 시연을 맡은 관계자는 10일 이같이 말했다. 시스템은 밤낮없이 게시물을 수집하고 AI는 텍스트와 이미지를 분석해 성착취물일 가능성과 판단 근거를 제시한다. 다만 실제 신고 여부를 결정하고 삭제 결과를 최종 확인하는 일은 여전히 사람의 몫이었다.

한국여성인권진흥원 중앙디지털성범죄피해자지원센터(디성센터)는 이날 프레스투어에서 AI 시스템을 본격 가동한 뒤 6개월간 아동·청소년 성착취물 9만6000여건에 대해 선제적 삭제 지원을 했다고 밝혔다. 지난해 연간 실적의 두 배를 넘었지만 삭제 요청에 응하지 않는 해외 사이트와 늘어난 탐지 물량을 검토할 전문인력 확보는 과제로 남았다.

디성센터에 따르면 올해 4월부터 9월까지 AI 시스템을 활용한 아동·청소년 성착취물 선제적 삭제 지원 처리 건수는 9만 6210건이다. 지난해 연간 처리 건수인 4만 5438건의 두 배를 넘었다. 아동·청소년 성착취물은 관련 법률에 따라 피해자의 요청이 없어도 선제적으로 찾아 삭제를 지원할 수 있다.

◆24시간 탐지에 삭제 요청 자동화…피해 지원 속도 높여

지난해 구축해 올해 4월 본격 가동한 AI 시스템은 구글과 엑스(X), 블루스카이, 텔레그램, 채팅 앱 등 총 14개 플랫폼을 대상으로 운영된다. 실무자들이 축적한 220여개 키워드를 바탕으로 게시물을 수집하고 텍스트와 이미지를 함께 분석해 아동·청소년 성착취물일 가능성과 판단 근거를 제시한다. 하루 평균 약 5000건의 게시물이 분석 과정을 거친다.

AI 시스템 도입 전에는 실무자가 SNS에서 키워드로 검색한 게시물을 일일이 육안으로 확인하고 플랫폼에 삭제를 요청했다. 이 같은 수작업 방식으로는 게시물의 확산 속도를 따라잡기 어려웠고 업무시간 외에 유포되는 게시물을 탐지하는 데도 한계가 있었다.

AI가 의심 게시물을 찾아내더라도 신고 여부는 사람이 최종 결정한다. 실무자가 AI 분석 결과를 검토해 삭제 요청 버튼을 누르면 플랫폼별 신고 양식에 맞춰 요청이 자동 발송된다. 이후 시스템이 조치 여부를 확인하고 담당자가 삭제 여부를 재점검한다.

박성혜 삭제기술팀장은 "삭제 요청이 가능한 성착취물인지를 사람이 확인한 뒤 요청하면 플랫폼으로 자동 발송된다"며 "기술에도 오류가 있을 수 있어 마지막으로 조치가 됐는지 담당관이 한 번 더 확인한다"고 말했다.

피해자가 직접 삭제 지원을 요청한 촬영물에는 별도의 삭제 지원 시스템이 활용된다. 영상 고유의 특징점을 추출해 비교하는 'DNA 검색' 기술로 흑백 전환이나 화면 반전, 자막 삽입, 배속 등으로 변형된 영상도 찾아낸다는 게 센터의 설명이다. 접수된 피해 촬영물은 자동 수집한 성인 사이트 310곳의 영상·사진과 24시간 대조된다.

삭제 요청과 이력관리에도 자동화 기술을 도입했다. 약 2만개 사이트에 대한 삭제 요청과 처리 이력을 자동 관리한다. 지난 6개월간 URL 5만 8309건의 삭제 요청과 삭제 여부 확인을 자동으로 진행했다. 자동화 이후 건당 삭제 요청 처리 시간은 1분 이내로 집계됐다.

기술 고도화에도 피해물의 재유포와 삭제 불응은 이어지고 있다. 지난해 센터가 지원한 피해자는 1만 637명으로 이 가운데 이전부터 지원받아 온 지속 지원 피해자의 비중은 45.1%였다. 전년 36.9%보다 8.2%포인트 높아졌다. 전체 지원 피해자의 77.6%인 8258명은 10대와 20대였다.

디성센터는 삭제 이후에도 최소 3년간 재유포 여부를 모니터링하고 필요하면 지원 기간을 연장한다. 김미순 디성센터장은 "비동의 피해 촬영물이 한 번 유포되면 삭제 이후에도 다시 복제되고 재유포될 수 있다"며 "삭제는 끝이 아니라 장기적이고 지속적인 지원이 필요하다는 신호"라고 말했다.

해외 서버를 이용하는 불법 사이트에 대한 대응도 난제다. 지난해 센터의 삭제 요청에 불응한 약 9만건 가운데 85.1%는 불법·유해 사이트에서 발생했다.

김 센터장은 "삭제 지원 과정에서 서버 위치를 확인할 수 있었던 사이트들을 국가별로 집계한 결과 최소 95.5%의 불법·유해 사이트가 해외 서버에 호스팅돼 있다"며 "불법 사이트 대부분이 해외에 있고 그중 4곳 중 한 곳 이상은 삭제 요청 자체에 응하지 않는다는 것이 지금 마주한 현실"이라고 설명했다.

정부는 지난 5월 출범한 디지털 성범죄 피해 통합지원단을 중심으로 사이트 운영 기반과 광고 수익 구조까지 차단하는 방안을 추진하고 있다.

지난 9월 발표한 '불법사이트 통합 대응방안' 추진실적에 따르면 분석 대상 중 접속 가능한 불법 사이트는 6683개에서 4736개로 약 29% 줄었다. 콘텐츠전송네트워크(CDN) 사업자와 협력해 380개 사이트에 대한 접근 제한 조치도 이뤄졌다.

◆"처음과 끝은 사람"…AI가 찾은 피해물, 최종 판단은 전문가 몫

AI 도입으로 처리 역량은 커졌지만 늘어난 탐지 물량을 최종 검토할 인력 확보는 여전히 과제다. 디성센터에 따르면 종사자 1인당 하루 평균 삭제 요청 처리 건수는 지난해 20.8건에서 올해 202.1건으로 약 9.7배로 늘었다.

그러나 AI가 수집·분류한 게시물의 신고 여부는 담당자가 판단해야 하는 만큼 처리량 증가가 곧바로 인력 수요 감소를 뜻하지는 않는다. 박 팀장은 "미분류 건이 있는데 물량이 굉장히 많다"며 "AI 시스템이 분류해서 가져오면 사람이 한 번씩 확인해야 한다"고 말했다.

김 센터장도 "처음과 끝은 사람이 확인할 수밖에 없는 구조"라며 "사람의 숫자는 더 늘어날 수밖에 없고 늘어나야 하는 시스템"이라고 말했다.

디성센터는 종사자의 유해 촬영물 반복 노출을 줄이기 위해 이미지를 가려두고 필요할 때만 원본을 확인할 수 있도록 시스템을 설계했다. 박광수 한국여성인권진흥원장은 "현재 진흥원에 있는 인력은 고도로 전문화된 헌신적인 인력들"이라며 "종사자들을 위한 소진 방지 프로그램이 반드시 필요하고 더 많이 필요하다"고 강조했다.

디성센터는 내년까지 탐지 대상을 139개 플랫폼으로 확대하고 개별 키워드뿐 아니라 대화의 맥락과 흐름을 분석해 온라인 그루밍 정황을 찾는 기능을 도입할 계획이다. 위기 청소년에게 지원기관 정보를 안내하는 AI 챗봇과 전국 17개 지역센터를 위한 삭제 지원 소프트웨어 보급도 추진한다.

hyeng0@newspim.com