전체기사 최신뉴스 GAM
KYD 디데이

넥슨·구글 클라우드, AI 기반 유해 이미지 탐지 시스템 고도화

기사입력 : 2023년10월26일 14:57

최종수정 : 2023년10월26일 14:57

[서울=뉴스핌] 양태훈 기자 = 넥슨이 26일, 구글 클라우드와의 협업을 통해 유해 이미지 탐지 AI 모델의 성능을 고도화했다고 밝혔다.

넥슨은 전 세계 19억 이용자들에게 최적화된 게임 플레이 환경을 제공하기 위해 AI 기술을 적극적으로 활용하고 있다. 이 중 유해 이미지 탐지 시스템은 이용자들에게 공유되는 콘텐츠에 외설, 혐오, 폭력, 차별 등의 부적절한 요소가 있는지를 자체 개발한 AI 모델을 사용해 탐지하는 기술로, 게임 분야에 특화된 성능을 자랑한다.

넥슨의 유해 이미지 탐지 시스템은 게임마다 다른 선별 기준과 캐릭터 디자인 등의 게임 특수성에 맞게 자체적으로 AI 모델을 개발하여 적용 중으로, 빠르게 발전하는 AI 기술에 맞춰 탐지 모델의 성능을 개선하고 고도화하기 위해 구글의 엔지니어들과 협업했다. 이번 넥슨과 구글 클라우드의 협업은 국내 게임사 중 글로벌 AI 기업과 협력하여 유해 이미지 탐지에 선도적으로 AI 기술을 도입한 최초 사례다.

넥슨 로고. [사진=넥슨]

학습과 파라미터 최적화를 쉽게 할 수 있는 다양한 AI 모델을 리서치하고 테스트한 결과 넥슨이 결정한 모델은 클립(CLIP)이다. 클립은 OpenAI에서 개발한 모델이지만, 버텍스 AI(Vertex AI)의 모델 가든을 통해서 원클릭으로 편리하게 사용할 수 있다. 이러한 버텍스 AI를 통해 게임 분야의 특수성을 고려한 최적의 데이터셋과 AI 모델 튜닝 선택이 가능했고, 클립(CLIP) 모델은 이미지와 텍스트를 함께 해석하여 맥락을 이해함으로써 탐지의 품질을 더욱 높일 수 있었다. 더불어 유해 이미지 탐지 모델 운영은 데이터 학습과 실험에 있어 필요한 내용을 빠르게 확인해 반영하고 각 게임에 쉽게 적용할 수 있는 텐서플로(TensorFlow) 환경에서 진행한다.

넥슨은 자체적으로 수집한 이미지뿐만 아니라 애니메이션과 게임에 특화되어 있는 최적의 데이터셋을 구성하여 AI를 학습시켰다. 이 과정에서 구글 클라우드와의 협업을 통해 수십 테라바이트에 달하는 대규모 데이터 학습을 빠르고 효과적으로 진행하였고, 결과적으로 AI 모델의 성능을 큰 폭으로 높여 탐지 정확도를 향상시킬 수 있었다.

넥슨은 앞으로도 AI 기술력을 발전시키기 위해 꾸준히 정진함과 동시에 유해 이미지 탐지 시스템이 범용성과 적합성, 그리고 정확도까지 모두 충족할 수 있도록 구글과의 협업을 공고히 할 계획이다.

장창완 넥슨 인텔리전스랩스 선행개발실장은 "구글 클라우드와 협업 프로젝트를 진행하며 전체적인 AI 관련 선행 기술의 노하우와 자신감을 갖게 되었고, 더 많은 영역에서 AI 기술을 적극적으로 활용할 수 있다는 가능성을 확인했다"며, "앞으로도 다양한 AI 모델을 활용해 더 나은 게임 경험을 제공할 수 있는 환경을 만들어가도록 최선을 다하겠다"고 전했다.

한편, 넥슨 인텔리전스랩스는 20년 이상 축적된 게임 운영 경험을 기반으로 유저들이 더 재미있게 게임을 즐길 수 있는 환경을 조성하고자 노력하고 있다. 게임 전반을 아우르는 방대한 데이터를 바탕으로 각종 AI 기술을 활용한 넥슨의 다양한 기술과 노하우는 GameScale에서 확인할 수 있다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
'남편 명의 대리투표' 영장 청구 [세종=뉴스핌] 이정아 기자 = 21대 대통령선거 사전투표 첫날 배우자 명의로 대리투표를 한 선거사무원에 대해 경찰이 구속영장을 청구했다. 31일 서울 수서경찰서는 대선 투표사무원 A씨에 대해 전날 공직선거법상 대리투표 혐의로 구속영장을 청구했다고 밝혔다. [서울=뉴스핌] 류기찬 인턴기자 = 제21대 대선 사전투표 첫째날인 29일 오전 서울 마포구 용강동주민센터에서 유권자들이 투표를 위해 줄을 서고 있다. ryuchan0925@newspim.com A씨는 지난 29일 정오 무렵 강남구 대치2동 사전투표소에서 남편의 신분증으로 투표용지를 발급받아 대리투표를 완료한 뒤 약 5시간 후 자신의 신분증으로도 투표한 혐의를 받고 있다. 경찰은 같은 날 오후 5시 11분께 "투표를 두 차례 한 유권자가 있다"는 무소속 황교안 대선후보 측 참관인의 신고를 접수하고 출동해 A씨를 긴급 체포했다. 강남구 보건소 소속 계약직 공무원인 A씨는 대선 투표사무원으로 임명돼 유권자들에게 투표용지를 발급하는 업무를 담당한 것으로 조사됐다. plum@newspim.com 2025-05-31 13:52
사진
극우단체 댓글 여론 조작 의혹 [서울·청주=뉴스핌] 한태희 지혜진 기자 = 극우 단체가 댓글 조작팀을 만들어 여론을 조작했다는 의혹이 불거지자 이재명 더불어민주당 대통령 후보는 "반란 행위"라고 규정하며 국민의힘과의 연관성도 거론했다. 국민의힘은 댓글 조작팀은 김문수 대통령 후보뿐 아니라 당과 관련이 없다고 부인했다. [평택=뉴스핌] 김학선 기자 = 이재명 더불어민주당 대선 후보가 31일 경기도 평택시 배다리 생태공원 앞에서 선거 유세를 하고 있다. 2025.05.31 yooksa@newspim.com 이재명 후보는 31일 경기 평택 배다리 생태공원에서 선거 유세에서 "국민 여론을 조작하려는 것은 사실상 반란행위"라고 강하게 비판했다. 이재명 후보는 이어 "댓글을 조작하고 가짜뉴스를 쓰는 행위를 용서할 수 있나"라며 "마지막 잔뿌리까지 다 찾아내 엄중히 책임을 물어야 한다"고 강조했다. 이재명 후보는 댓글 조작팀이 국민의힘과 연관돼 있을 수 있다는 의혹을 제기했다. 이재명 후보는 "더 심각한 것은 국민의힘 관련성이 높다는 것으로 국회의원이 그 단체를 오갔다는 말도 있고 가짜 기자회견을 함께 했다는 이야기도 있다"며 "나라 뒤집어질 중범죄 행위가 나올 것 같다"고 말했다. 민주당도 거들었다. 조승래 민주당 수석대변인은 이날 충북 청주 오창프라자 앞 광장에서 긴급 브리핑을 통해 "김문수 후보와 국민의힘은 저열한 여론조작에 어디까지 가담했는지 실토하라"고 말했다. 조승래 수석대변인은 "12·3 쿠데타의 실패에도 또다시 대한민국을 집어삼키려는 극우 내란 카르텔의 여론조작을 규탄한다"면서 "김 후보와 국민의힘은 여론 조작 공작에 어디까지 가담했는지 밝혀야 하며 보도에 거명된 권성동 원내대표, 김상훈 정책위의장, 조정훈 의원은 직접 해명해야 할 것"이라고 덧붙였다. [강릉=뉴스핌] 최지환 기자 = 김문수 국민의힘 대선후보가 31일 오후 강원 강릉시 중앙시장 앞에서 열린 집중유세 현장에서 이재명 후보와 부인 김혜경 여사의 법인카드 유용 의혹을 비판하는 퍼포먼스를 하고 있다. 2025.05.31 choipix16@newspim.com 국민의힘은 반박문을 내고 일방적인 주장이라고 맞섰다. 국민의힘 중앙선대 미디어법률단은 "국민의힘과 김문수 후보는 '리박스쿨'이나 '자손군'과 아무런 관련이 없다"며 "민주당이 드루킹 댓글조작단을 운영했던 경험을 바탕으로 허위 사실로 해당 단체들과 국민의힘을 억지로 연관시키고 있는데 무리한 시도"라고 비판했다. 이어 미디어법률단은 "뉴스타파와 민주당 주장을 일방적으로 받아쓴 보도가 쏟아지고 있다"며 "유권자 민심을 왜곡할 수 있는 불공정 보도, 허위보도에 대해서는 엄중하게 법적 조치를 취하겠다"고 강조했다. 한편 온라인매체 뉴스타파는 전날 '리박스쿨'이라는 보수단체가 '댓글로 나라를 구하는 자유손가락 군대(자손군)'를 만들어 이재명·이준석 후보를 비방하고 김문수 후보를 추켜세우는 댓글을 올리고 댓글을 올린 사람에게 초등학교 늘봄학교 강사 자격증을 발급하는 여론 조작에 나섰다고 보도했다.  ace@newspim.com 2025-05-31 17:07
안다쇼핑
Top으로 이동