전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

"'n번방' 성착취물 유포, AI로 거를 수 있지만 법적 문제가"

기사입력 : 2020년04월01일 07:16

최종수정 : 2020년04월01일 13:58

카카오·라인 "메신저 텍스트·이미지·영상 모두 대화로 '간주'...검열 불가"
IT 업계 "시스템으로 서버 검열가능하면 성착취물 등 음란물 차단 가능"

[서울=뉴스핌] 김지완 기자 = # "매달 프로노 사이트 방문하는 사람 숫자는 넷플릭스·아마존·트위터 방문자를 합친 것보다 많다. 그들은 점점 돈을 받은 아마추어들이 출연하는 '프로-암' 포르노를 많이 보는 추세다. 과거 포르노 배우가 옆집 여자, 동생들을 연기했다면, 진짜에 의해 대체되고 있다."

넷플릭스 다큐멘터리 '핫 걸 원티드(Hot Girl Wanted)' 도입부 멘트다. 이 다큐는 아마추어 포르노 업계에서 착쥐당하는 여성을 조명해 2015년 선댄스 영화제에서 호평 받았다. 불행히도 n번방, 박사방 참여자들은 '성착취물 제작자-유료회원-성착취물 피해 여성'으로 정확하게 나뉘며, '핫 걸 원티드'를 대한민국에서 그대로 재현했다. 

이 비극은 '메신저'라는 사적 대화통로를 통해 별다른 제재없이 수십만명에게 전파되면서 시작됐다. 비단 텔레그램만의 문제가 아니다. 카카오톡이나 라인 등 메신저가 성착취물 유포의 주요 통로로 자리잡았기 때문이다.

[서울=뉴스핌] 김창엽 인턴기자 = 2020.03.24 artistyeop@newspim.com

◆ 카카오·라인 "성착취물 서버에 올라와도 들여다 볼 권한 없어"

문제는 제2의 n번방, 박사방이 계속 나올 수 있다. 메신저가 음란물 유통 무풍지대로 손색없기 때문이다. 카카오, 라인 서버에 성착취물 영상이 올라와도, 이를 들여다 볼 권한이 없다. 

카카오톡 관계자는 "대화방 내용은 무엇이든 저희가 관여할 수 없다"면서 "모두 불법감청"이라고 목소리를 높였다. 그는 "오픈채팅도 대화방 내용을 들여다보지는 않는다"며 "채팅방 이름. 닉네임, 링크 접근 사이트 출처 펄터링이 할 수 있는 것의 전부다. 대화내용을 들여다보면 불법으로 저희가 오히려 처벌받는다"고 설명했다. 

라인 관계자 역시 "타임라인, 오픈챗 등 공개된 대화 공간에 업로드되는 콘텐츠에 대해 필터링 기술을 적용하고 있다"면서도 "개인정보 보호 원칙에 따라 1대1 채팅 메시지 모니터링 및 필터링 적용은 불가능하다"고 밝혔다.

카카오·라인은 메신저에서 오가는 텍스트·이미지·영상은 모두 대화로 간주돼, 개인정보보호법에 의해 검열 자체가 불가능하다는 입장을 냈다. 개인정보보호법은 개인 정보를 보호하여 개인의 권익 보호를 강화하고자 개인 정보 처리에 관하여 필요한 사항을 정한 법으로 지난 1995년 제정됐다. 

◆ AI·빅데이터 기술 이용하면 영상 중 음란물 선별 가능

하지만 IT업계에선 인공지능(AI), 빅데이터 등을 이용한 4차산업 기술을 이용하면 n번방, 박사방의 사태 재발을 막을 수 있다고 주장했다.

김서연 삼성SDS 수석보는 "빅데이터 기술이 발달함으로써 방대한 영상 데이터까지 분석할 수 있는 기술을 보유하고 있다"고 설명했다.

자크 아이스톡(Jarque Istock) 피보탈(Pivotal) 데이터 부문장은 "텍스트, 자연어, 이미지, 영상, 그래프, 물론 공간(지리)정보, 정량·비정량데이터, 구조화·반구조화 등 데이터 구조와 상관없이 모두 분석하고자 하는 모든 데이터를 분석할 수 있다"고 강조했다.

[서울=뉴스핌] 이형석 기자 = 메신저 텔레그램에서 이른바 'n번방'을 운영하며 미성년자 성 착취 동영상을 제작·유포한 핵심 운영자 조주빈 씨가 25일 오전 서울 종로경찰서에서 서울중앙지검으로 송치되고 있다. 이날 모습을 드러낸 조 씨는 "멈출 수 없었던 악마의 삶을 멈추어 주셔서 감사하다"고 말한 뒤 경찰차량으로 향했다. 경찰은 지난 24일 서울지방경찰청에서 신상공개위원회를 열고 조 씨의 신상을 공개하기로 결정한 바 있다. 2020.03.25 leehs@newspim.com

국계 빅데이터 전문기업의 한 임원은 "동영상도 기계적으로 바꿔놓으면 결국 숫자"라면서 "음란물의 특정 패턴을 찾아서 모형화 시키면 음란물 필터링 소프트웨어를 만들 수 있다"고 말했다.

그는 이어 "최근 AI, 빅데이터 기술을 이용하면 이전보다 정확도를 높여 완벽에 가깝게 차단할 수 있다"며 "법적으로 메신저 서버내 동영상 검열만 가능하다면 제2의 'n번방' 사태를 막을 수 있다"고 목소리를 높였다. 

◆ 포털 등 검열 가능한 곳에선 이미 AI·빅데이터 기술로 음란물 가려내

메신저와 달리 검열이 가능한 웹공간에선 이 기술이 폭넓게 적용되고 있다.

한국전자통신연구원(ETRI)는 수년전 피부색, 인체의 형태, 동작의 특성, 신음소리 등 콘텐츠 내용 자체를 분석해 일반 동영상과 음란물을 구분하는 소프트웨어를 개발해 상용화했다. 피부색의 비율을 따지는 방식에서 음란 행위시 반복되는 동작 유형에 신음소리 정보 등을 통해 정확도를 높인 것이 특징이다. 

네이버는 지난 2017년부터 음란물 필터링 인공지능(AI) 기술 '네이버 엑스아이(X-eye)'를 동영상에 적용중이다. 네이버 엑스아이는 영상 일정 구간마다 프레임을 추출해 음란물지수가 특정 수준 이상은 '임시 재생 중지' 상태로 만든다. 이후 10분 이내 검수자 검토를 거쳐 정상 영상은 복구하고 음란 영상은 삭제 조치를 하고 있다. 네이버 내부 실험 결과 음란물 검출 적중률이 98%에 달하는 것으로 알려졌다.

카카오도 '딥러닝 기반 '성인물 추천시스템'을 개발하고, 지속적으로 고도화하고 있다. 카카오 관계자는 "동영상의 경우 변형이 적고, 비슷한 시기에 인기 있는 동영상이 몰려 업로드 되는 경우가 많다"면서 "기존 검수한 동영상과 중복을 찾아 자동으로 검수하는 작업이 가능하다"고 설명했다.

그는 "중복을 검출하기 위해 영상을 이루는 프레임에서 특징(feature)를 뽑고 양자화(quantization)시켜서 특정 길이의 숫자로 된 이미지DNA를 만들면 결국 영상은 숫자열의 집합이 된다"면서 "이 숫자들을 비교하면 동영상끼리 중복인지 아닌지 판단이 가능하다"고 부연했다.

swiss2pac@newspim.com

[뉴스핌 베스트 기사]

사진
日 태평양 연안에 쓰나미 경보·대피령 [서울=뉴스핌] 오영상 기자 = 일본이 러시아 캄차카 반도에서 발생한 지진으로 인해 태평양 연안 지역에 발령했던 쓰나미 주의보를 '쓰나미 경보'로 상향 조정했다. 주의보가 경보로 상향 조정됨에 따라 일본 정부는 태평양 연안 쓰나미 경보 지역에 대피령을 내렸다. 일본 기상청은 홋카이도에서 와카야마현에 걸친 태평양 연안 지역에 쓰나미 경보를 발령했다. 그 외 지역은 주의보가 내려진 상태다. 예상되는 쓰나미 높이는 최대 3미터이다. 지역은 홋카이도 태평양 연안(북부 제외), 아오모리현 태평양 연안, 이와테현, 미야기현, 후쿠시마현, 이바라키현, 지바현 구주쿠리·외해안, 지바현 내만 등이다. 쓰나미의 가장 빠른 도달 예상 시각은 홋카이도 태평양 연안으로, 오전 10시경으로 예상된다. 30일 오전 8시 25분쯤 러시아 캄차카 반도 근해에서 규모 8.7의 지진이 발생했다. 이 지진으로 홋카이도 구시로시 등에서도 진도 2의 흔들림이 관측됐다. 기상청은 경보나 주의보가 해제될 때까지 바다에 들어가거나 해안가에 접근하지 말 것을 당부하고 있다. 일본 태평양 연안부의 쓰나미 경보 지역(빨간색 부분). 노란색은 주의보 [출처=웨더뉴스] goldendog@newspim.com 2025-07-30 10:15
사진
[단독] 내달 12일 정부조직개편안 발표 [서울=뉴스핌] 채송무 기자 = 국정기획위원회의 정부조직개편안 발표가 오는 8월 12일 이뤄질 전망이다. 해체가 유력해보였던 금융위원회는 존치 가능성이 높아졌다.  당초 금융위원회의 금융정책 기능을 기획재정부로 이관하고, 남은 기능은 금융감독원과 통합해 금융감독위원회를 신설하는 안이 거의 확실시됐다. 이재명 대통령도 대선 전 금융위의 정책과 감독기능을 분리할 뜻을 밝혔고, 이재명 정부의 인수위원회 격인 국정기획위도 이 같은 안을 확정해 대통령실에 보고했다. [서울=뉴스핌] 이재명 대통령이 29일 서울 용산 대통령실에서 열린 제33회 국무회의를 주재하고 있다. [사진=대통령실] 2025.07.29 photo@newspim.com 30일 뉴스핌의 취재를 종합하면 최근 국정기획위의 분위기는 다소 바뀌고 있다. 이재명 대통령이 금융위의 부동산 대출 규제와 중대재해 예방 제안에 대해 연이어 긍정 평가를 내놓은 것이 변화의 배경으로 작용하고 있다. 국정기획위도 정부조직개편안에 대한 재논의를 결정하고 다양한 의견을 수렴하고 있다.  금융위 해체 분위기 변화의 이유는 전문성과 업무 능력 때문이다. 이재명 정부가 출범한 지 두달이 되어가는 상황에서 금융위원회의 정책에 대한 대통령의 평가가 높아졌다. 이 대통령은 지난 15일 국무회의에서 "적절한 대출 규제로 부동산 안정 효과를 보고 있는 것 같다"고 금융위원장을 칭찬한 것에 이어, 지난 29일 국무회의에서는 김병환 금융위원장이 제안한 중대재해 예방 방안에 대해 "기준을 만들어서 대출과 투자에 불이익이 주는 것은 상장회사에 상당한 타격이 돼 효과가 있을 것 같다"고 말했다. 금융 관련 전문성과 현안 대응력, 정책의 일관성을 위해 금융위를 존치시켜야 한다는 목소리가 힘을 얻고 있으며, 현재 국정기획위가 채택한 금융정책과 감독의 완전 분리가 중복 규제, 책임 회피 가능성이 있다는 지적도 나온다. 여당 내에서는 금융위가 오히려 기획재정부가 맡고 있는 국제금융 기능까지 관할하는 법안까지 발의됐다. 윤준병 의원은 지난 7월 17일 발의한 정부조직개편안에는 이 같은 내용을 포함했다. 윤 의원은 "기획재정부는 거대 공룡과 같은 조직이니 분리하는 것이 효율적이지만 금융 부문은 국제금융과 국내금융을 하나로 묶어서 한 기관이 전문성을 갖고 하는 것이 의미가 있겠다고 판단했다"고 말했다. 물론 윤 의원이 경제와 금융정책을 담당하는 국회 기획재정위나 정무위원회 소속이 아닌 국회 농림해양수산식품위원회 소속인데다 국정기획위 내에서도 금융 파트를 담당하는 경제 1분과 위원이 아니라는 점에서 발의된 정부조직개편안의 영향력은 크지 않다는 분석도 있다. 금융정책을 담당하는 국회 정무위원회 의원들은 대부분 금융위의 분리안에 대한 입장을 유지하고 있다. 그러나 정부와 여당에서는 키를 대통령실이 쥐고 있다는 평가가 많다. 대통령실에 의해 정부조직안이 만들어지면 여당에서 이를 비토할 가능성은 거의 없다는 것이다. 한 금융위원회 관계자는 최근 정부조직개편안 추이에 대해서는 입장을 밝히지 않았지만, "금융위원회는 그동안 계엄이나 탄핵 상황에서도 부지런히 일해왔다. 최근에는 이 같은 노력들을 조금씩 인정받는 느낌도 든다"고 말했다. 국정기획위원회가 8월 14일 임기를 마치는 가운데, 임기 종료일 직전인 12일 경에 정부조직개편안을 발표할 것이라는 이야기가 여당에서 나온다. 금융정책을 담당하는 금융위원회가 존치될지, 아니면 기획재정부와 금융감독원으로 나눠질지 금융가의 관심이 집중되고 있다.   dedanhi@newspim.com 2025-07-30 14:46
안다쇼핑
Top으로 이동