전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

네이버, 실시간 음란이미지 필터링 시스템 도입...정확도 '99.5%'

기사입력 : 2021년06월29일 14:16

최종수정 : 2021년06월29일 14:17

2017년 선보인 24시간 실시간 음란물 필터링 기술 '엑스아이'
선행 이미지인식 기술 연구결과 접목해 속도, 정확도 모두 높여

[서울=뉴스핌] 구윤모 기자 = 네이버는 연중 24시간 음란 이미지가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아주는 '엑스아이(X-eye) 2.0'을 내달부터 적용한다고 29일 밝혔다.

지난 2017년 처음 선보인 '엑스아이'는 네이버에 축적된 방대한 400여만 장의 이미지를 형태별로 분류해 AI 학습을 거쳐 탄생했다. 기존에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출된다는 단점이 있었지만, 음란물 필터링 AI 시스템 '엑스아이' 도입 이후 98.1%의 높은 적중률로 유해한 사진, 동영상을 실시간으로 걸러냈다.

[서울=뉴스핌] 구윤모 기자 = 엑스아이 2.0 [사진=네이버] 2021.06.29 iamkym@newspim.com

새롭게 선보이는 '엑스아이 2.0'은 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구결과들이 활용돼 더욱 고도화됐다. ▲속도, 정확도가 더욱 높아진 고성능 이미지인식 모델 '렉스넷(ReXNet)' ▲AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 '컷믹스(CutMix)' ▲더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 'AdamP' 등 다양한 AI 기술들이 적용됐다.

이를 통해 기존 정상/음란으로만 구분하던 '엑스아이 1.0'에서 정상/음란/성인/선정 4가지 등급으로 커버리지를 확대하면서도 더욱 높은 판단 정확도인 99.5%를 자랑한다. 기존 음란/성인성 이미지뿐 아니라 선정적 표현에 대한 판단 정확도가 뛰어나 다양한 서비스에서 활용이 가능하다.

아울러 문제되는 부분이 지나치게 작게 나오거나 희미한 경우 등 잘못 탐지할 가능성이 높은 사례를 보완했다. 극히 일부의 놓친 이미지에 대해서도 보다 고도화된 AI 모델이 빠르게 자동학습이 가능하도록 설계했다. 이를 통해 최신 데이터를 지속적으로 반영할 수 있어 탐지 정확도는 더욱 높아질 것으로 기대된다.

유봉석 네이버 서비스운영총괄은 "건전한 인터넷 이용 환경 조성을 위해 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다"며 "추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정"이라고 말했다.

정석근 네이버 클로바 CIC 대표는 "네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회 문제 해결에 성공적으로 기여한 중요한 사례"라며 "앞으로도 자체 개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다"고 말했다.

한편 네이버는 작년 발생한 N번방 사건 등 아동·청소년 관련 성범죄, 성착취물 관련 성적 표현에 대한 관리를 강화하기 위해 지난 1월 29일 업그레이드된 'AI클린봇 2.5'를 적용한 바 있다.

 

iamkym@newspim.com

[뉴스핌 베스트 기사]

사진
김영훈 고용부 장관 후보자는 누구? [세종=뉴스핌] 양가희 기자 = 이재명 대통령이 김영훈 전 민주노총 위원장을 고용노동부 장관 후보자로 임명했다. 강훈식 대통령실 비서실장은 23일 11개 부처 장관 후보자를 발표했다. 김 후보자는 1968년 부산에서 태어나 마산중앙고, 동아대를 졸업해 성공회대 NGO대학원에서 정치정책학(정치학) 석사 학위를 받았다. 김영훈 고용노동부 장관 후보자 [사진=대통령실] 2025.06.23 sheep@newspim.com 김 후보자는 2010년부터 2012년까지 민주노총 위원장으로 활동하다가 2017년 정의당에 입당, 제19대 대통령 선거에서 노동본부장을 맡았다. 2021년에는 더불어민주당 대선 후보 이재명 대통령의 노동부문 지지단체 '공정사회 구현을 위한 노동광장'에 공동대표로 참여한 바 있다. 지난 총선에서는 더불어민주연합에서 비례대표 20번을 받았다. 현재 한국철도공사 기관사이자 부산지방노동위원회 공익위원으로 활동하고 있다. 강 비서실장은 "민주노총 위원장을 역임하며 노동의 목소리를 대변해 온 인물"이라며 "산업재해 축소, 노란봉투법 개정, 주4.5일제 등 일하는 사람들의 권리를 강화하는 역할을 해줄 것으로 기대한다"고 밝혔다. 한 정부 관계자는 김 후보자에 대해 "합리적이다"라며 "민주노총이 그간 (사회적 대화 등) 제도권 밖에 있었다. 이를 계기로 제도권으로 들어오길 희망한다"고 말했다. ◇ 김영훈 고용노동부 장관 후보자 프로필 ▲1968년 부산 출생 ▲마산중앙고, 동아대, 성공회대 NGO대학원 정치정책학 석사 ▲정의당 노동본부장 ▲민주노총 위원장 ▲철도노조 위원장 ▲철도공사 기관사 ▲부산지방노동위원회 공익위원 sheep@newspim.com 2025-06-23 14:57
사진
안규백 64년 만에 문민 국방 후보자 [서울=뉴스핌] 김종원 국방안보전문기자 = 국군 최고통수권자인 이재명 대통령은 23일 초대 국방부 장관에 민간인 출신인 안규백(64) 더불어민주당 5선 중진 의원을 인선했다. 강훈식 대통령실 비서실장은 이날 "안 후보자가 국회 국방위원회 간사와 위원장 등 5선 국회의원 이력의 대부분을 국회 국방위에서 활동했다"면서 "군에 대한 이해도가 풍부하고 64년 만에 문민 국방장관으로서 계엄에 동원된 군의 변화를 책임지고 이끌어 나갈 것"이라고 인선 배경을 설명했다.  안규백 국방부 장관 후보자. [사진=대통령실] 안 후보자는 집권 여당인 민주당에서 국방위원장을 비롯해 국방위원으로서 15년 간 의정활동을 했다. 그 누구보다 군과 국방안보를 잘 아는 인물로 그동안 역대 정부에서도 꾸준히 민간인 출신 국방장관으로 유력하게 거명됐었다. 특히 안 후보자는 국회 12·3 비상계엄 사태에 대한 진상규명 국정조사 특위위원장 중책까지 맡았다. 여야 의원들을 아우르며 적지 않은 성과를 냈다는 평가다. 이번 대선에서도 민주당 중앙선대위 총괄특보단장 핵심 보직을 맡았다. 계엄 사태 주역인 군의 정치적 중립성을 확립하면서 어수선한 군을 안정적으로 이끌면서 군 전반을 개혁할 최적임자로 꼽힌다. 합리적인 성품에 남의 말을 귀담아듣는 전형적인 외유내강형 인물이다. 다만 상식과 원칙을 중시하며 불법적이고 정의롭지 않은 일에는 불같이 화를 내는 성격이다. 아들 둘 모두 육군과 해병대에서 현역으로 군 복무를 했다.  안 후보자가 국회 인사청문회를 통과해 이재명정부의 초대 국방장관으로 취임하면 1961년 현석호 장관 이후 64년 만에 군인이 아닌 민간인 출신 국방장관이 된다.  한국 정치사의 격동기를 거쳐 군사독재정권 시절에 장군 출신들이 독식했던 국방장관을 정치 안정기에 들어 사실상 민간인 출신의 진정한 '문민 국방장관'이 나올 수 있을지 초미 관심사다. ▲전북 고창(64) ▲광주 서석고 ▲성균관대 철학과 학사·무역대학원 무역학 석사 수료 ▲18·19·20·21·22대 국회의원 ▲국회 국방위원회 위원장·간사 ▲국회 '내란 진상규명 국정조사 특별위원회' 위원장 ▲더불어민주당 사무총장 kjw8619@newspim.com 2025-06-23 14:13
안다쇼핑
Top으로 이동