전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

구글 "규정 위반 영상, '머신러닝' 활용해 90% 이상 감지"

기사입력 : 2023년04월27일 13:57

최종수정 : 2023년04월27일 14:48

콘텐츠 관리 인력 2만 명 이상 투입
생성형 AI 관련 콘텐츠 관리에도 적극 대응 중

[서울=뉴스핌] 양태훈 기자 = "구글에서는 2만 명이 넘는 인력이 모든 플랫폼에 걸쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있다. 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있으며,유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되고 있다."

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 서울 강남구 역삼동 구글코리아 사무실에서 열린 '구글 디코드 세션'에서 자사 콘텐츠 정책의 활동을 이 같이 소개했다.

장 자크 사헬 총괄은 "구글의 목표는 전 세계 정보를 체계화해 어디에서나 접근 가능하고 유용하게 만드는 것"이라며 "(이에 구글은) 유저와 사회에 끼쳐질 수 있는 유해함을 방지하고 낮은 품질의 정보의 전달을 제한하고자 노력해 왔으며, 각각의 제품과 서비스에 어떤 콘텐츠가 가용하게 제공돼야 하는지에 대해서도 세심하게 살펴 맞춰 나가는 작업을 진행하고 있다"고 강조했다.

장 자크 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄. [사진=구글코리아]

또 "(콘텐츠 정책의) 핵심적인 원칙은 첫 번째 법을 근간으로 해서 불법이거나 위법인 상황들을 찾아내는 것이고, 두 번째는 (내부적인) 회사의 정책"이라며 "구글은 자사 제품과 서비스가 운영되는 나라의 법을 기반으로 해서 이를 위반하는 콘텐츠가 나타나면 그것을 제한하는 형태로서 활동을 하고 있고, 동시에 운영 원칙을 개발·유지하면서 각각의 제품과 서비스 안에서 허용되는 그리고 허용할 수 없는 콘텐츠와 행위들을 명시해 나가고 있다"고 설명했다.

구체적으로 구글은 ▲ G메일이나 챗과 같은 메시징 제품 ▲ 구글 드라이브나 포토와 같은 콘텐츠 저장 제품 ▲ 유튜브와 같은 동영상 공유 서비스 ▲ 광고 수익화 제품인 애드 등 각종 제품과 서비스에 따라 다른 기준을 세워 콘텐츠를 관리하고 있다.

장 자크 사헬 총괄은 "각각의 구글 서비스들에 대해 제약의 정도는 낮은 수준에서부터 높은 수준에 이르기까지 다르게 적용이 되고 있는데, 구글 검색 같은 경우는 개방형 오픈 웹상의 모든 페이지들에 대한 일종의 목록 역할을 하는 만큼 제약의 정도가 좀 낮은 사례라고 볼 수 있다"며 "반면, 애드 제품들 같은 경우는 제약성이 높은 영역이라고도 볼 수 있다. 유해한 콘텐츠나 경험을 제공하는 사람들로부터 회사가 광고 수익을 얻고 싶지 않기 때문"이라고 전했다.

구글 로고. [사진=로이터 뉴스핌]

이어 "각각의 플랫폼 유형에 적합한 규정이라든지 가이드라인들이 구축되어 있고, 보편적인 유해성의 경우 모든 제품과 서비스에 거쳐 전면적으로 금지될 수 있지만, 유해성을 평가해 봤을 때 그 정도가 제품과 서비스에 다른 모습으로 발현될 수 있다"며 "예를 들어 일반적으로 나체라든지 노골적인 성적 행위에 대한 구술 또는 시각적인 표현이나 묘사는 당연히 금지가 되지만, 예외적으로 교육적인 측면에서 활용된다든지 기록적 그리고 과학적 용도로 표현이 되는 이런 나체나 성적 행위에 대한 내용들은 예외가 될 수 있다"고 덧붙였다.

더불어 "구글은 새로 발현되는 유해 행위를 파악하고 구글의 기존 정책에 존재해야 하는 격차가 있다는 경우들에 대응하기 위해 전문가들의 인풋, 유저 피드백 그리고 신뢰 기반의 신고자들의 의견, 규제 당국의 가이던스 등 여러 도움들을 받아서 부족한 부분들을 파악해 나가고 있다"며 "현재 구글에서는 2만 명이 넘는 인력이 회사의 모든 플랫폼에 거쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있으며, 한국어를 포함해서 다양한 언어를 구사하는 리뷰어들이 있는데, 법적 삭제 요청과 표시되어 있는 플래그들을 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있다"고 강조했다.

나아가 "(구글은) 머신러닝을 도입, 콘텐츠 관리 검토 관련돼 있는 수많은 작업들을 진행해 나가면서 회사가 파악하는 디텍션 레이트를 높였고, 유저들의 보호 조치도 강화시켜 나갈 수 있었다"며 "머신러닝은 분류하는 클래스들을 개발해 유튜브 정책에 위반되는 동영상들을 파악하는 그런 작업을 진행해 나가고 있고, 이런 작업들은 구글은 2017년부터 진행해 왔는데 2022년 4분기에 삭제된 유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되었고, 이 중 71% 이상이 삭제되기 전 조회수 10회 이하를 기록했다"고 전했다.

오픈AI와 챗GPT 로고 [사진=뉴스핌DB]

한편, 구글은 최근 생성형 AI를 활용한 콘텐츠가 증가하는 것과 대해 유해 콘텐츠를 관리하기 위한 프로세스 마련에 전념하겠다는 의지를 내비쳤다.

장 자크 사헬 총괄은 "먼저 생성형 AI 관련 콘텐츠에 대한 우려 부분에 대해서 언급하기에 앞서 기술 발전 측면에서 따져봤을 때 회사가 매우 기대가 되는 시기에 활동하고 있지 않는가라고 생각이 된다"며 "새로운 기술 발전을 위한 긍정적 측면들도 분명히 있다는 것을 저희가 먼저 이해를 하고 설명해야 할 것 같은데, 그럼에도 불구하고 회사가 아직도 이 기술 발전의 초기 단계에 있다보니까 이런 문제점들이 나타나는 것 같다"고 말했다.

이어 "구글에서는 이 콘텐츠 관련돼서 굉장히 큰 책임감을 느끼고 관련되어 있는 작업들을 책임감 있게 진행해 나가 왔다. 관련돼 있는 정책도 설립하고 그 정책들을 집행해 나가는 것도 진행, 꾸준히 이행해 왔고 머신러닝 기술들을 활용하는 것뿐만 아니라 시스템 구축하고 프로세스를 구축하고 또 관련돼 있는 인력들을 트레이닝 시켜서 유해 콘텐츠에 대응하기 위한 많은 노력들을 전개하고 있다"며 "새로운 기술을 기반으로 한 신규 제품들이 나옴에 따라서 저희는 또 동일한 원칙을 그대로 적용할 것"이라고 강조했다.

또한 "AI 기반의 테크놀로지들이 발전한다 할지라도 과거에 했었던 것처럼 꾸준히 열심히 콘텐츠 관련돼서는 노력을 하게 될 것이고 콘텐츠 관리와 주제에 대해서 저희가 많은 노력을 그대로 경주해 나갈 것"이라며 "유해한 부분들은 끊임없이 과거에 했었던 것처럼 엄격하고 또 열심히 다루어 나가도록 하겠지만 또한 동시에 이 신기술이 제공하는 기회들은 또 적극적으로 활용할 수 있게끔 도전 과제와 기회 양쪽을 다 잘 활용해 나가도록 노력할 것"이라고 덧붙였다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
日 태평양 연안에 쓰나미 경보·대피령 [서울=뉴스핌] 오영상 기자 = 일본이 러시아 캄차카 반도에서 발생한 지진으로 인해 태평양 연안 지역에 발령했던 쓰나미 주의보를 '쓰나미 경보'로 상향 조정했다. 주의보가 경보로 상향 조정됨에 따라 일본 정부는 태평양 연안 쓰나미 경보 지역에 대피령을 내렸다. 일본 기상청은 홋카이도에서 와카야마현에 걸친 태평양 연안 지역에 쓰나미 경보를 발령했다. 그 외 지역은 주의보가 내려진 상태다. 예상되는 쓰나미 높이는 최대 3미터이다. 지역은 홋카이도 태평양 연안(북부 제외), 아오모리현 태평양 연안, 이와테현, 미야기현, 후쿠시마현, 이바라키현, 지바현 구주쿠리·외해안, 지바현 내만 등이다. 쓰나미의 가장 빠른 도달 예상 시각은 홋카이도 태평양 연안으로, 오전 10시경으로 예상된다. 30일 오전 8시 25분쯤 러시아 캄차카 반도 근해에서 규모 8.7의 지진이 발생했다. 이 지진으로 홋카이도 구시로시 등에서도 진도 2의 흔들림이 관측됐다. 기상청은 경보나 주의보가 해제될 때까지 바다에 들어가거나 해안가에 접근하지 말 것을 당부하고 있다. 일본 태평양 연안부의 쓰나미 경보 지역(빨간색 부분). 노란색은 주의보 [출처=웨더뉴스] goldendog@newspim.com 2025-07-30 10:15
사진
[단독] 내달 12일 정부조직개편안 발표 [서울=뉴스핌] 채송무 기자 = 국정기획위원회의 정부조직개편안 발표가 오는 8월 12일 이뤄질 전망이다. 해체가 유력해보였던 금융위원회는 존치 가능성이 높아졌다.  당초 금융위원회의 금융정책 기능을 기획재정부로 이관하고, 남은 기능은 금융감독원과 통합해 금융감독위원회를 신설하는 안이 거의 확실시됐다. 이재명 대통령도 대선 전 금융위의 정책과 감독기능을 분리할 뜻을 밝혔고, 이재명 정부의 인수위원회 격인 국정기획위도 이 같은 안을 확정해 대통령실에 보고했다. [서울=뉴스핌] 이재명 대통령이 29일 서울 용산 대통령실에서 열린 제33회 국무회의를 주재하고 있다. [사진=대통령실] 2025.07.29 photo@newspim.com 30일 뉴스핌의 취재를 종합하면 최근 국정기획위의 분위기는 다소 바뀌고 있다. 이재명 대통령이 금융위의 부동산 대출 규제와 중대재해 예방 제안에 대해 연이어 긍정 평가를 내놓은 것이 변화의 배경으로 작용하고 있다. 국정기획위도 정부조직개편안에 대한 재논의를 결정하고 다양한 의견을 수렴하고 있다.  금융위 해체 분위기 변화의 이유는 전문성과 업무 능력 때문이다. 이재명 정부가 출범한 지 두달이 되어가는 상황에서 금융위원회의 정책에 대한 대통령의 평가가 높아졌다. 이 대통령은 지난 15일 국무회의에서 "적절한 대출 규제로 부동산 안정 효과를 보고 있는 것 같다"고 금융위원장을 칭찬한 것에 이어, 지난 29일 국무회의에서는 김병환 금융위원장이 제안한 중대재해 예방 방안에 대해 "기준을 만들어서 대출과 투자에 불이익이 주는 것은 상장회사에 상당한 타격이 돼 효과가 있을 것 같다"고 말했다. 금융 관련 전문성과 현안 대응력, 정책의 일관성을 위해 금융위를 존치시켜야 한다는 목소리가 힘을 얻고 있으며, 현재 국정기획위가 채택한 금융정책과 감독의 완전 분리가 중복 규제, 책임 회피 가능성이 있다는 지적도 나온다. 여당 내에서는 금융위가 오히려 기획재정부가 맡고 있는 국제금융 기능까지 관할하는 법안까지 발의됐다. 윤준병 의원은 지난 7월 17일 발의한 정부조직개편안에는 이 같은 내용을 포함했다. 윤 의원은 "기획재정부는 거대 공룡과 같은 조직이니 분리하는 것이 효율적이지만 금융 부문은 국제금융과 국내금융을 하나로 묶어서 한 기관이 전문성을 갖고 하는 것이 의미가 있겠다고 판단했다"고 말했다. 물론 윤 의원이 경제와 금융정책을 담당하는 국회 기획재정위나 정무위원회 소속이 아닌 국회 농림해양수산식품위원회 소속인데다 국정기획위 내에서도 금융 파트를 담당하는 경제 1분과 위원이 아니라는 점에서 발의된 정부조직개편안의 영향력은 크지 않다는 분석도 있다. 금융정책을 담당하는 국회 정무위원회 의원들은 대부분 금융위의 분리안에 대한 입장을 유지하고 있다. 그러나 정부와 여당에서는 키를 대통령실이 쥐고 있다는 평가가 많다. 대통령실에 의해 정부조직안이 만들어지면 여당에서 이를 비토할 가능성은 거의 없다는 것이다. 한 금융위원회 관계자는 최근 정부조직개편안 추이에 대해서는 입장을 밝히지 않았지만, "금융위원회는 그동안 계엄이나 탄핵 상황에서도 부지런히 일해왔다. 최근에는 이 같은 노력들을 조금씩 인정받는 느낌도 든다"고 말했다. 국정기획위원회가 8월 14일 임기를 마치는 가운데, 임기 종료일 직전인 12일 경에 정부조직개편안을 발표할 것이라는 이야기가 여당에서 나온다. 금융정책을 담당하는 금융위원회가 존치될지, 아니면 기획재정부와 금융감독원으로 나눠질지 금융가의 관심이 집중되고 있다.   dedanhi@newspim.com 2025-07-30 14:46
안다쇼핑
Top으로 이동