전체기사 최신뉴스 GAM
KYD 디데이
산업

속보

더보기

네이버, '음란물 이미지' 인공지능으로 걸러낸다

기사입력 : 2017년07월31일 15:58

최종수정 : 2017년07월31일 16:56

8월 중 동영상에도 AI 피터링 기술 적용

[뉴스핌=심지혜 기자] 네이버가 인공지능(AI) 기술을 통해 음란물 이미지를 실시간으로 걸러낸다.

네이버는 자체 개발한 음란물 필터링 AI기술 '네이버 엑스아이(X-eye)'를 이미지 검색 결과에 적용한다고 31일 밝혔다.

네이버 X-eye는 부적절한 내용을 담은 이미지(음란물)가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아준다. 검색 기준은 방송통신위원회의 세이프넷(Safe Net) 등급에 의거 성기, 음모, 항문 노출 및 성행위나 어린이·유아를 성적 유희의 대상으로 묘사하는 경우 등에 해당된다.

네이버는 음란물 이미지 등록을 실시간으로 막는 AI 기술을 적용했다. <사진=네이버>

적용에 앞서 네이버는 축적된 방대한 이미지를 형태별로 분류해 10개월동안 AI를 학습시켰다. 네이버 X-eye는 최근 버전에서 400만장의 이미지(정상+음란물) 필터링을 내부 실험한 결과 98.1%의 높은 적중률을 나타냈다.

학습은 네이버 X-eye는 먼저 네모난 돋보기로 그림을 보듯 이미지의 각 부분을 순차적으로 훑어 특징을 추출하는 과정으로 이뤄진다. 이는 이미지 조각으로부터 특징을 추출하는 ‘컨볼루션(convolution)’ 작업으로 네이버는 이를 수 차례에 걸쳐 반복한다. 작업이 반복될 수록 AI는 더 많은 학습을 하게 되고 최종 결과는 더욱 완벽해 진다.

이번 적용으로 연중 24시간 성인 이미지 실시간 감지 시스템이 가동되며, 감지하지 못한 이미지는 계속된 학습으로 극복한다는 계획이다.

무엇보다 이미지 검색 결과 최종 노출 전, 사람이 직접 음란물 이미지 검수 과정이 AI 기술을 통해 수월해 졌다.

네이버는 다음달 중 동영상에도 네이버 X-eye를 적용할 예정이다.

오경수 네이버 UGC운영정책 리더는 "이번 출시로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다”며 “향후 동영상 필터링에도 확대 적용할 방침"이라며 "건전한 인터넷 이용환경 조성을 위해 외부에도 손쉽게 사용할 수 있는 AI 필터링 프로그램 제공을 검토하고 있다”고 말했다.

[뉴스핌 Newspim] 심지혜 기자 (sjh@newspim.com)

[뉴스핌 베스트 기사]

사진
오늘 낮 최고기온 33도 무더위 [서울=뉴스핌] 최수아 인턴기자 = 월요일인 9일은 낮 기온이 최고 33도까지 오르는 무더운 날이 되겠다. 전국이 대체로 흐리다가 오후부터 맑아지겠다.  기상청에 따르면 이날 아침 최저기온은 18~21도, 낮 최고기온은 25~33도가 되겠다. 일부 경기내륙과 충청권내륙, 경상권내륙을 중심으로 최고 체감온도가 31도 이상으로 올라 덥겠다.  [서울=뉴스핌] 윤창빈 기자 = 무더운 날씨를 보인 6일 오후 서울 중구 청계천에서 시민들이 양산을 쓰고 이동하고 있다. 2025.06.08 pangbin@newspim.com 이날 오전까지 경기북서내륙과 서해안, 남해안을 중심으로 짙은 안개가 끼는 곳이 있겠다. 해안에 위치한 교량과 강이나 호수, 골짜기에 인접한 도로에는 안개가 더욱 짙게 끼겠으니 유의해야 한다.  주요 지역별 아침 최저기온은 ▲서울 20도 ▲인천 19도 ▲수원 19도 ▲춘천 18도 ▲강릉 20도 ▲청주 21도 ▲대전 20도 ▲전주 21도 ▲광주 20도 ▲대구 20도 ▲부산 20도 ▲울산 18도 ▲제주 19도다. 낮 최고기온은 ▲서울 30도 ▲인천 26도 ▲수원 29도 ▲춘천 30도 ▲강릉 28도 ▲청주 31도 ▲대전 31도 ▲전주 31도 ▲광주 31도 ▲대구 31도 ▲부산 25도 ▲울산 27도 ▲제주 25도이다. 미세먼지는 전 권역이 '좋음'∼'보통'으로 예상된다. 바다의 물결은 동해와 남해 앞바다에서 0.5~1.0m, 서해 앞바다에서 0.5m로 일겠다.  geulmal@newspim.com 2025-06-09 06:30
사진
민정수석에 검찰 출신 오광수 변호사 [서울=뉴스핌] 유신모 외교전문기자 = 이재명 대통령은 8일 검찰개혁 과제를 수행할 민정수석으로 검찰 특수부 출신의 오광수 법무법인 대륙아주 대표변호사(사법연수원 18기)를 임명했다. 오 수석은 제28회 사법고시에 합격해 사법연수원 18기를 수료했다. 이 대통령, 더불어민주당 정성호 의원 등과 동기다. 26년 동안 검찰에 재직한 특수통으로 꼽힌다. 오광수 대통령실 민정수석비서관 [사진=대통령실] 오 수석은 부산지검에서 첫 근무를 시작해 대전·서울·수원지검을 거쳐 1999년 대검 검찰연구관을 역임했다. 2001년 부부장검사로 승진해 제19대 광주지검 해남지청장을 지냈으며 서울지검 부부장검사, 인천지검 특수부 부장검사, 대검찰청 중수2과장, 서울중앙지검 특수2부 부장검사 등 요직을 두루 거쳤다. 2012년부터는 대구·청주에서 검사장을 지낸 뒤 2015년 법무부 범죄예방정책국장 근무를 끝으로 26년 간의 검찰공무원 생활을 마무리했다. 2020년부터는 법무법인 대륙아주의 대표 변호사로 활동해왔다. 검찰 재직 시 김우중 대우그룹 회장 분식회계 사건, 한보그룹 분식회계 사건, 김영삼 전 대통령의 차남 김현철 씨 비리사건, 마우나 리조트 붕괴사건 등 굵직한 사건을 수사했다. 여권 일각에서 당초 오 수석이 검찰 개혁을 추진할 적임자인지 의문이라는 우려가 제기되기도 했다. 윤석열 전 대통령과 같은 특수부 검사출신인데다 2013년 박성재 전 법무부 장관이 대구고검장으로 재직할 당시 대구지검장을 지낸 이력 때문이었다. 강훈식 대통령실 비서실장은 이 같은 우려에 대해 "이 대통령은 정치 검찰의 가장 큰 피해자"라며 "오 수석의 사법 개혁 의지도 확인했다. 일부 우려하신 분들 걱정 없도록 하겠다"고 밝혔다. ▲1960년 전북 남원 ▲전주고 ▲성균관대 법학 학사 ▲성균관대 대학원 공법 박사 ▲사시 28회 ▲사법연수원 18기 ▲광주지검 해남지청장 ▲인천지검 특수부 부장검사 ▲대검 중수2과 과장 ▲서울중앙지검 특수2부 부장검사 ▲대전지검 서산지청장 ▲수원지검 안산지청장 ▲청주지검장 ▲대구지검장 ▲법무부 범죄예방정책국장 ▲법무법인 대륙아주 대표변호사 ▲성균관대 법학전문대학원 객원교수 opento@newspim.com 2025-06-08 11:15
안다쇼핑
Top으로 이동