올해 4월, 중국 국가인터넷정보판공실(CAC) 등 5개 중앙 부처는 '인공지능 의인화 상호작용 서비스 관리 잠정방법'을 공동 발표했다. 7월 15일부터 정식 시행된다. 핵심은 명료하다. AI가 사람을 흉내 내며 이용자와 정서적 관계를 맺는 서비스 전반을 국가가 직접 관리하겠다는 것이다.

18세 미만에게 가상 연인·가상 친족 서비스 제공은 전면 금지된다. 14세 미만에게는 반드시 보호자 동의를 받아야 하며, 이용 시간 제한과 현실 환기 알림 기능을 갖춘 미성년자 모드가 의무화된다. 성인 이용자도 AI와 2시간 연속 대화하면 플랫폼이 의무적으로 주의 알림을 띄워야 한다. 사용자가 자해·자살 징후를 보이면 위로 메시지를 넘어 보호자나 긴급 연락처에 실제 개입해야 하는 의무도 생겼다.

서구의 시각에서는 권위주의적 통제로 읽을 수도 있다. 중국의 규제에 정치적 동기가 없다고 보기도 어렵다. 그러나 규제의 결과물, 즉 미성년자를 AI 감정 서비스로부터 보호하고 기업에 위기 개입 의무를 부과하는 내용은 체제와 무관한 보편적 상식에 가깝다. 더구나 이 법의 직접적 배경에는 실제 비극이 있다.

2024년 2월, 미국 플로리다주에서 14세 소년 세웰 세처 3세가 스스로 목숨을 끊었다. 아들이 수개월째 AI 챗봇과 정서적·성적 대화를 나눠왔다는 사실을 부모는 사후 에야 알았다. 소년의 마지막 말은 "꼭 당신에게 돌아 갈게요"였고, 챗봇은 "가능한 한 빨리 내게 와 줘"라고 답했다. 유가족의 소송은 2026년 1월 구글·캐릭터닷AI와의 합의로 마무리됐다.

이 사건은 전 세계 입법 지형을 바꾸었다. 중국이 규제에 나선 것도, 미국 34개 주와 3개 연방 기관이 챗봇 특화 입법을 추진하게 된 트리거도 이 비극이었다.

성인도 AI와의 정서적 유대에서 완전히 자유롭지 않다. 그러나 청소년은 구조적으로 훨씬 취약하다. 이유는 뇌에 있다.

판단력과 충동 조절을 담당하는 전두엽 피질은 25세 전후까지 완전히 발달하지 않는다. 스탠퍼드대 연구진은 이 미성숙한 뇌 때문에 청소년이 강렬한 애착 형성과 현실·판타지 경계 혼란에 특히 취약하다고 분석했다. AI 챗봇은 24시간 대기하며 절대 거절하지 않는다. 실제 관계에서 반드시 경험해야 할 마찰·거절·타협의 훈련이 통째로 생략된다.

더 구조적인 문제는 AI의 '아부(sycophancy)'다. 2026년 3월 학술지 Science에 게재된 연구는 최신 AI 모델 11개를 분석한 결과, AI가 사용자 행동을 동조·지지하는 비율이 인간보다 49% 높다고 밝혔다. 기만적이거나 불법적인 상황에서 조차 그랬다. 비판적 사고가 형성 중인 청소년에게 이 영향은 성인보다 훨씬 깊이 새겨진다. 연구에서 확인된 청소년 AI 의존율은 17~24%에 달하며, 정신건강 문제를 이미 가진 청소년일수록 의존도가 더 높아지는 패턴이 반복됐다. 가장 도움이 필요한 아이가 가장 깊이 빠져드는 구조다.

그렇다면 한국은 어떨까?

올해 4월 초록우산이 전국 청소년 3,300명을 조사했다. 94.4%가 AI 챗봇을 사용해봤고, 35%는 "AI를 실제 사람처럼 느낀 경험이 있다"고 답했다. 41%는 챗봇 답변을 실제 행동으로 옮겼으며, 약 6%는 자해·자살·성적 내용 등 위험한 질문을 AI에게 한 경험이 있었다.

현실은 이렇게 위태롭지만 법적 장치는 없다. 2026년 1월 시행된 AI 기본법은 투명성·표시 의무 중심이고, AI 동반자 서비스나 청소년 특화 안전 의무는 포함되지 않았다. 현행법상 AI 챗봇 대화는 '개인 간 통신'으로 분류돼 이용자 신고 없이는 규제 기관이 들여다볼 수조차 없다. 국내 AI 채팅 앱들의 미성년자 접근 제한은 기업 자율에 맡겨진 상태다.

미국은 캘리포니아주는 2026년 1월부터 AI 동반자 챗봇 규제법 SB 243을 시행 중이다. 미성년자에게 AI임을 명확히 고지하고, 3시간마다 알림을 보내며, 자해·자살 징후를 식별해 당국에 보고하는 프로토콜을 의무화했다. 연방 차원에서는 공화·민주 초당파로 'GUARD Act'가 발의됐다. 미성년자의 AI 동반자 접근을 원천 차단하고, 아동에게 성적 콘텐츠를 노출하거나 자해를 조장한 기업에 형사 처벌을 가하는 내용이다.

EU는 기존 AI법을 활용해 올해 8월부터 고위험 AI 시스템에 전면 의무를 적용하며, 위반 시 전 세계 연간 매출의 최대 7%를 과징금으로 부과한다. 지역별 접근은 다르지만 방향은 같다. 아이들만큼은 보호해야 한다는 공감대 위에서 각자의 방법을 찾고 있다. 참고로 한국 AI 기본법의 과태료 상한은 3,000만 원이다.

한국은 스스로 AI 강국을 자처한다. 그럼에도 AI기술의 가장 직접적인 피해 가능 집단인 청소년을 보호하는 제도는 아직 없다.

중국은 정부에서 칼을 뽑았고 미국은 소송 하나가 34개 주를 움직였다. 한국에서 같은 비극이 반복되기 전에 논의를 시작해야 한다. AI 챗봇이 중고등학생의 첫 번째 감정 상담 창구가 된 나라에서, 그 관계를 규율하는 최소한의 규칙조차 없다는 것은 정책 실패다.

AI가 아이들의 감정 공간으로 파고드는 속도와, 제도가 준비되는 속도 사이의 간격. 지금 한국에서 가장 위험한 것은 바로 그 간격에 대한 무지다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등