[세종 = 뉴스핌] 김범주 기자 = 사회관계망서비스(SNS) 이용자의 사진을 합성해서 만든 '딥페이크(Deepfake)'로 피해를 본 학생·교원 관련 사례가 196건에 달하는 것으로 확인됐다.

또 딥페이크 피해에 대한 우려가 커지는 만큼 '상황총괄팀'을 꾸려 학교 상황을 관리하고, 교육부 차관을 단장으로 한 가칭 '학교 딥페이크 대응 긴급' 테스크포스(TF)도 운영하기로 했다.

교육부는 긴급 전담조직 운영 방안 등 메신저를 이용한 딥페이크 피해 방지 대책을 마련했다고 28일 밝혔다.

[서울=뉴스핌] 윤석열 대통령이 27일 서울 영등포구 페어몬트 앰배서더 서울에서 열린 2024 국제 사이버범죄대응 심포지엄 개회식에 참석한 뒤 딥페이크 탐지 소프트웨어 시연을 보고 있다. [사진=대통령실]2024.08.27 photo@newspim.com

전날 기준으로 전국 17개 시도교육청으로부터 확인한 학생, 교원 피해는 총 196건이었다. 학생이 186건, 교원이 10건으로 집계됐으며, 이 중 179건은 수사당국에 수사를 의뢰했다.

딥페이크는 기존 사진영상을 다른 사진영상에 겹쳐서 만들어 내는 인공지능(AI) 기반 이미지합성기술을 말한다. 딥러닝과 가짜를 의미하는 페이크의 합성어다.

딥페이크를 활용한 성범죄물이 SNS를 통해 중고교생을 비롯해 초등학생으로까지 확산 조짐을 보이고 있어 심각성이 크다는 지적이다. 사이버 공간의 단체 대화방에서 공유되는 사례도 확인됐다.

이에 교육부는 학교 현장에 허위합성물의 편집‧합성‧가공 행위는 법적 처벌의 대상이 된다는 점과 함께 피해자 대처요령 등을 담은 안내문을 전달하기도 했다.

또 시도교육청에 딥페이크 피해 현황 파악 자료 제출 요청, 학교 딥페이크 현황 및 대응 등 시·도교육청 실무자 회의를 개최했다.

정부 차원에서는 전담 조직을 구성해 대응하기로 방침을 정했다. 교육부 차관을 단장으로 한 가칭 '학교 딥페이크 대응 긴급 전담조직(TF)'을 구성하고, 분야별 6개 팀의 상황반을 운영할 계획이다.

해당 조직은 학교 딥페이크 관련 사안을 매주 1회 조사, 학생‧교원 피해 사안처리, 학생‧교원 심리지원, 학교 예방교육‧인식개선, 디지털 윤리 및 책임성 강화 등 분야별로 대응할 예정이다.

우선 7명으로 구성된 상황총괄팀에서는 경찰청‧여가부‧방통위 등 관계부처 공조‧협력체계를 구축하는 역할을 맡는다. 디지털윤리대응팀에서는 디지털 시민교육을 강화할 계획이다.

교육분야 성희롱‧성폭력 신고센터 및 신고 전화번호를 학교 현장에 지속적으로 알려 피해자가 신고할 수 있도록 할 계획이다.

교육부가 운영하는 교육분야 성희롱‧성폭력 신고센터는 딥페이크 등 신종 학교폭력 유형에 적극 대응할 수 있도록 개편할 예정이다.

오석환 교육부 차관은 "사실로 확정된 사건에 대해서는 엄중하고 단호하게 대처하고, 직접 피해자뿐만 아니라 간접 피해자의 치유와 회복도 함께 도울 것"이라고 말했다.

wideopen@newspim.com