[서울=뉴스핌] 송주원 기자 = 인공지능(AI)과 숏폼 플랫폼이 청소년의 일상에 깊숙이 들어오면서 디지털 안전 정책을 접속 차단 중심에서 플랫폼 설계 책임과 청소년 역량 강화 중심으로 바꿔야 한다는 전문가들의 지적이 나왔다.

성평등가족부와 한국청소년정책연구원은 20일 대한상공회의소에서 '청소년과 정책이 만나다, 청소년 디지털 안전'을 주제로 2026년 제4차 청소년정책포럼을 열고 AI 시대 청소년 보호 체계의 한계와 대응 방안을 논의했다.

◆ "청소년에게 AI 판별 책임 지워선 안돼"…플랫폼 설계 책임 부상

이날 포럼에서는 청소년 디지털 안전 정책이 기존의 유해 콘텐츠 차단만으로는 더 이상 작동하기 어렵다는 의견이 중론으로 떠올랐다. 청소년이 스스로 유해 콘텐츠를 찾아보는 방식이 아니라 알고리즘 추천과 무한 스크롤, 맞춤형 광고, AI 생성 콘텐츠 등을 통해 위험이 반복 노출되는 구조로 바뀌었다는 진단에서다.

천혜선 디지털산업정책연구원 연구위원은 "현행 청소년 보호 제도는 유해매체를 정의하고 차단하는 접근에 머물러 있으나 디지털 서비스의 기술적 진화는 이미 여러 위험이 한 번에 결합되는 방식으로 전개되고 있다"며 "위험을 없애는 것이 아니라 위험의 설계 단계부터 책임을 묻는 방식으로 전환해야 한다. 배제가 아닌 참여, 차단이 아닌 설계 책임이 필요하다"고 강조했다.

청소년 당사자들의 위기감은 더 컸다. 송민지 양(근명고)은 "놀이터에서 초등학생 또래 아이들이 '네 엄마 죽여버린다', '장애인이냐'와 같은 말을 아무렇지 않게 내뱉는 모습을 봤다"며 "온라인의 폭력성과 혐오는 여과 없이 오프라인 놀이터로 전이되고 있다"고 전했다.

민지 양은 "수백, 수천 개의 숏폼 영상을 보며 일일이 '이게 AI일까, 진짜일까'를 판단하는 것은 절대 불가능하다"며 "개인의 업로드에도 AI 표시를 의무화하고 플랫폼 자체에 AI 콘텐츠 탐지 및 강제 라벨링 책임을 물어야 한다"고 봤다.

한서준 군(오성고)은 "디지털은 술이 아니라 인프라로, 우리가 숨을 쉬듯 전기가 흐르고 있듯이 디지털은 이미 사고를 가능하게 하는 기반"이라며 "필요한 것은 디지털로부터의 격리가 아니라 인지적 주권을 기르는 환경이다. 알고리즘이 나를 끌고 가는 것이 아니라 사용자가 알고리즘을 끌 수 있어야 한다"고 짚었다.

◆ "차단만으론 한계…기본권·교육·아동권리 함께 봐야"

서준 군의 의견과 같이 규제 강화가 청소년의 권리 침해로 이어져서는 안 된다는 지적도 나왔다. 김일우 가톨릭대 인문사회연구소 연구교수는 "청소년이 관심을 가지지 않더라도 SNS의 자동추천시스템을 통해 각종 유해 콘텐츠에 반복적으로 노출된다"며 "기존의 전통적 규제 방식으로는 효과적인 대응이 어려울 수 있다"고 설명했다. 그러면서도 "청소년 역시 헌법상 기본권의 주체로 온라인 활동을 전면적으로 제한할 경우 표현의 자유, 학문의 자유, 직업의 자유 침해에 유의해야 한다"고 했다.

김희진 변호사 역시 "어떤 기술이나 디지털 환경이 아동·청소년에게 어떤 긍정적·부정적 영향을 미치는지 사전에 살펴야 하며 위험의 정의는 아동·청소년의 참여에 기반해야 한다"며 "아동·청소년은 보호받을 권리의 주체로서 자신의 권리 실현에 부합하는 안전한 환경과 권리 구제책을 제공받아야 한다"고 역설했다.

AI와 플랫폼이 청소년의 학습, 관계, 표현, 진로까지 바꾸는 현실에서 정책은 청소년을 배제하는 규제가 아니라 플랫폼 책임부터 청소년 참여, 권리 기반 보호, 역량 중심 교육을 함께 설계하는 방향으로 이동해야 한다는 것이 전문가들이 제시한 해버비다.

김진희 한국교육개발원 선임연구위원은 "과거의 청소년 보호 체계가 유해 콘텐츠를 식별하고 삭제·차단하는 방식에 초점을 맞췄다면 오늘날의 위험은 콘텐츠 자체보다 플랫폼 구조와 관계 형성 방식, 이용자의 심리적 취약성과 결합해 발생한다"며 "보호와 권리라는 이분법을 넘어 역량 기반의 디지털 교육을 중심축으로 삼아야 한다. 자기조절능력과 비판적 사고력, 문제해결력을 갖춘 시민으로 성장하도록 돕는 교육적 접근이 병행돼야 한다"고 제언했다.

jane94@newspim.com