전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

악성 댓글 '절반 이상' 감소...카카오, '세이프봇' 적용 성과 공개

기사입력 : 2022년12월14일 09:14

최종수정 : 2022년12월14일 09:22

[서울=뉴스핌] 양태훈 기자 = 카카오는 인공지능(AI) 기반 댓글 필터링 기능인 '세이프봇'의 도입 이후 욕설이나 비속어가 포함된 댓글과 이용자의 신고한 욕설 댓글 비중 등이 절반 이상 감소했다고 14일 밝혔다.

세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다. 이는 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.

카카오가 세이프봇 적용 전인 2020년 하반기와 적용 이후인 2021년, 2022년 월평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 줄어든 것으로 나타났다. 욕설이 포함되어 음표로 자동 치환된 댓글 수는 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소했다.

[사진=카카오]

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 또한 이용자의 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7% 감소하며, 12분의 1 수준으로 줄어들었다.

카카오는 기술을 통해 사회 문제를 해결하겠다는 목표 하에, AI를 활용한 건강한 댓글 생태계 조성에 힘써왔다. 그 일환으로 2017년 7월 업계 최초로 '욕설 음표 치환 기능'을 적용했다. 2020년 12월에는 해당 기능을 더욱 고도화한 세이프봇을 시범 적용하고, 2021년 12월 본격 도입했다. 현재 포털 다음과 카카오톡 뷰 탭 뉴스 댓글 서비스에 적용 중이다.

카카오는 AI 기술을 고도화해 세이프봇의 성능을 더욱 강화하겠다는 방침이다. 지난 8월 증오발언 대응을 위한 '코딩북(Coding Book)' 제작에 나선 가운데, 증오발언을 판별하는 학습 데이터를 구축하고 내년 상반기에 이를 세이프봇에 적용한다.

김종한 카카오 다음사업개발실장은 "카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다"며 "앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술의 고도화에 노력할 것"이라고 전했다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
오늘 낮 최고기온 33도 무더위 [서울=뉴스핌] 최수아 인턴기자 = 월요일인 9일은 낮 기온이 최고 33도까지 오르는 무더운 날이 되겠다. 전국이 대체로 흐리다가 오후부터 맑아지겠다.  기상청에 따르면 이날 아침 최저기온은 18~21도, 낮 최고기온은 25~33도가 되겠다. 일부 경기내륙과 충청권내륙, 경상권내륙을 중심으로 최고 체감온도가 31도 이상으로 올라 덥겠다.  [서울=뉴스핌] 윤창빈 기자 = 무더운 날씨를 보인 6일 오후 서울 중구 청계천에서 시민들이 양산을 쓰고 이동하고 있다. 2025.06.08 pangbin@newspim.com 이날 오전까지 경기북서내륙과 서해안, 남해안을 중심으로 짙은 안개가 끼는 곳이 있겠다. 해안에 위치한 교량과 강이나 호수, 골짜기에 인접한 도로에는 안개가 더욱 짙게 끼겠으니 유의해야 한다.  주요 지역별 아침 최저기온은 ▲서울 20도 ▲인천 19도 ▲수원 19도 ▲춘천 18도 ▲강릉 20도 ▲청주 21도 ▲대전 20도 ▲전주 21도 ▲광주 20도 ▲대구 20도 ▲부산 20도 ▲울산 18도 ▲제주 19도다. 낮 최고기온은 ▲서울 30도 ▲인천 26도 ▲수원 29도 ▲춘천 30도 ▲강릉 28도 ▲청주 31도 ▲대전 31도 ▲전주 31도 ▲광주 31도 ▲대구 31도 ▲부산 25도 ▲울산 27도 ▲제주 25도이다. 미세먼지는 전 권역이 '좋음'∼'보통'으로 예상된다. 바다의 물결은 동해와 남해 앞바다에서 0.5~1.0m, 서해 앞바다에서 0.5m로 일겠다.  geulmal@newspim.com 2025-06-09 06:30
사진
민정수석에 검찰 출신 오광수 변호사 [서울=뉴스핌] 유신모 외교전문기자 = 이재명 대통령은 8일 검찰개혁 과제를 수행할 민정수석으로 검찰 특수부 출신의 오광수 법무법인 대륙아주 대표변호사(사법연수원 18기)를 임명했다. 오 수석은 제28회 사법고시에 합격해 사법연수원 18기를 수료했다. 이 대통령, 더불어민주당 정성호 의원 등과 동기다. 26년 동안 검찰에 재직한 특수통으로 꼽힌다. 오광수 대통령실 민정수석비서관 [사진=대통령실] 오 수석은 부산지검에서 첫 근무를 시작해 대전·서울·수원지검을 거쳐 1999년 대검 검찰연구관을 역임했다. 2001년 부부장검사로 승진해 제19대 광주지검 해남지청장을 지냈으며 서울지검 부부장검사, 인천지검 특수부 부장검사, 대검찰청 중수2과장, 서울중앙지검 특수2부 부장검사 등 요직을 두루 거쳤다. 2012년부터는 대구·청주에서 검사장을 지낸 뒤 2015년 법무부 범죄예방정책국장 근무를 끝으로 26년 간의 검찰공무원 생활을 마무리했다. 2020년부터는 법무법인 대륙아주의 대표 변호사로 활동해왔다. 검찰 재직 시 김우중 대우그룹 회장 분식회계 사건, 한보그룹 분식회계 사건, 김영삼 전 대통령의 차남 김현철 씨 비리사건, 마우나 리조트 붕괴사건 등 굵직한 사건을 수사했다. 여권 일각에서 당초 오 수석이 검찰 개혁을 추진할 적임자인지 의문이라는 우려가 제기되기도 했다. 윤석열 전 대통령과 같은 특수부 검사출신인데다 2013년 박성재 전 법무부 장관이 대구고검장으로 재직할 당시 대구지검장을 지낸 이력 때문이었다. 강훈식 대통령실 비서실장은 이 같은 우려에 대해 "이 대통령은 정치 검찰의 가장 큰 피해자"라며 "오 수석의 사법 개혁 의지도 확인했다. 일부 우려하신 분들 걱정 없도록 하겠다"고 밝혔다. ▲1960년 전북 남원 ▲전주고 ▲성균관대 법학 학사 ▲성균관대 대학원 공법 박사 ▲사시 28회 ▲사법연수원 18기 ▲광주지검 해남지청장 ▲인천지검 특수부 부장검사 ▲대검 중수2과 과장 ▲서울중앙지검 특수2부 부장검사 ▲대전지검 서산지청장 ▲수원지검 안산지청장 ▲청주지검장 ▲대구지검장 ▲법무부 범죄예방정책국장 ▲법무법인 대륙아주 대표변호사 ▲성균관대 법학전문대학원 객원교수 opento@newspim.com 2025-06-08 11:15
안다쇼핑
Top으로 이동