AI 핵심 요약
beta- 한국여성정책연구원이 16일 AI 시대 디지털 젠더폭력 대응 정책을 사후 조치에서 사전 예방으로 전환하는 세미나를 개최했다.
- AI 개발 단계에서 성평등 관점을 반영한 안전 설계 의무화와 플랫폼 책임 기준 마련이 필요하다고 강조했다.
- 딥페이크 등 AI 성범죄에 대한 별도 규정 마련과 법적 공백 해소를 위한 새로운 규율 원칙 정립이 요구된다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
성인지적 설계·플랫폼 책임·법 공백 보완 논의
아동·청소년 성착취물·딥페이크 규율 원칙 진단
[서울=뉴스핌] 황혜영 기자 = 인공지능(AI) 확산으로 디지털 젠더폭력 양상이 고도화되는 가운데 한국여성정책연구원이 '사후 조치' 중심 대응에서 '사전 예방'으로의 전환을 모색하는 세미나를 연다.
한국여성정책연구원은 개원 43주년을 맞아 오는 16일 오후 서울 연구원 국제회의장에서 'AI 시대 디지털 젠더폭력 대응 정책의 전환 모색: 사후 조치에서 사전 예방으로'를 주제로 기념 세미나를 개최한다고 15일 밝혔다.
이번 세미나는 AI 기술 발전에 따라 딥페이크 등 신종 디지털 성범죄가 증가하는 현실을 짚고 기술 설계 단계부터 성평등 관점을 반영하는 선제적 대응 체계를 논의하기 위해 마련됐다.
김종숙 한국여성정책연구원장은 "인공지능 기술 확산 과정에서 디지털 성범죄의 양상 또한 고도화·다변화되고 있다"며 "개별 사건의 사후 대응을 넘어 기술 설계, 플랫폼 운영, 법·제도 전반을 아우르는 근본적 대응 체계로의 전환이 필요하다"고 강조했다.
한국여성정책연구원은 생성형 AI를 활용한 성범죄·혐오 콘텐츠 대량 유포, 통제 기술을 이용한 실시간 감시·스토킹, 알고리즘 편향에 따른 특정 성별 구조적 배제 등을 AI 시대 디지털 젠더폭력의 주요 쟁점으로 제시했다.
1부에서 김애라 한국여성정책연구원 연구위원은 '디지털 젠더폭력 예방을 위한 성인지적 AI 설계 원칙 및 정책과제'를 발표하며 AI 개발 단계에서 젠더폭력·차별·편향을 사전에 고려하는 설계 원칙과 안전 설계 의무 도입, 젠더폭력 방지 평가 기준·한국어 기반 데이터셋 구축, 성별 대상화·모욕 콘텐츠에 대한 플랫폼 책임 기준 마련 등을 제안한다.
김 연구위원은 "AI를 통해 성범죄 및 혐오 콘텐츠가 대량 생성·유포되며 기계적으로 확산되고 있으나, 기술 매개 젠더폭력 대응은 여전히 삭제·차단 중심의 사후 대응 구조에 머물러 있으며 플랫폼 자율규제의 실효성에도 한계가 있다"며 "AI 개발 단계에서의 AI 안전 설계 의무 적용, 젠더폭력 방지 평가 기준과 벤치마크 데이터셋 구축, 비인간 대상을 이용한 성별 대상화, 모욕 콘텐츠 생성, 유통에 대한 플랫폼 책임 기준 마련이 필요하다"고 강조했다.
2부에서 정연주 한국여성정책연구원 부연구위원은 '아동·청소년성착취물 유포 방지를 위한 플랫폼의 책임성 강화 방안'을 통해 디지털 환경에서 아동·청소년이 성착취물 복제·재유포 구조 속에 상시 위험에 놓여 있다고 설명한다.
온라인에서 낯선 사람과 대화한 미성년자 설문조사 결과 성적 대화 경험이 26.7%, 사진·동영상 교환·화상통화 제의 경험이 36.6%로 나타났고 10~29세 응답자 22.6%가 플랫폼으로부터 성적 요구 등 위험성과 법적 제재에 대한 경고·알림을 받은 경험이 있다고 답했다.
정 부연구위원은 "삭제 및 차단 중심의 사후 대응은 피해 예방에는 한계가 있기 때문에 사전 예방 중심 대응과 플랫폼 책임성 강화, 민·관 협력 기반 정책 설계가 필요하다"고 설명했다.
3부에서 한민경 경찰대학 행정학과·치안대학원 범죄학과 교수는 'AI 기반 성범죄의 법적 공백 진단과 새로운 규율 원칙의 탐색'을 발표한다.
한 교수는 생성형 AI 발전으로 허위 영상물 편집·반포가 용이해졌지만 현행 법제가 공직선거법상 딥페이크 규정과 달리 편집·합성·가공·복제 과정에서 AI 활용 여부를 명시적으로 다루지 않아 AI 성범죄 특성을 충분히 반영하지 못한다고 지적한다.
한 교수는 판례에서 허위 영상물이 실제와 구분하기 어려울 정도로 정교하지 않으면 양형에서 감경 요소로 참작하고 '성적 욕망 또는 수치심 유발'과 '의사에 반하여' 요건 해석 차이, 피해자에게 직접 전송한 행위에 대한 무죄 선고 등 법적 공백도 드러난다고 설명했다.
한 교수는 딥페이크 관련 별도 규정을 마련하고 성적 인격권 중심 규율, 전송 행위 포함 등 새로운 법적 원칙을 정립하는 것이 필요하다"고 주장했다.
주제 발표 후에는 김동식 한국여성정책연구원 젠더폭력연구본부장을 좌장으로 김가로 성평등가족부 안전인권정책관, 김미순 한국여성인권진흥원 중앙디지털성범죄피해자지원센터장, 김지선 한국형사·법무정책연구원 선임연구위원, 박상민 한국여성정책연구원 부연구위원, 조지연 인공지능안전연구소 선임연구원이 참여해 AI 설계 단계 안전 의무화, 플랫폼 책임 기준 구체화, 딥페이크·AI 성범죄 관련 법·제도 정비, 민·관·국제 공조 강화 방안 등을 논의할 예정이다.
한편 한국여성정책연구원은 1983년 개원한 이래 지속가능 사회를 선도하는 양성평등・가족정책 싱크탱크로서 우리사회 성평등 실현에 중추적인 역할을 담당해 왔다.
hyeng0@newspim.com
