전체기사 최신뉴스 GAM
KYD 디데이
홈 오피니언 외부칼럼

속보

더보기

[기고] AI 연인 시대, 우리 아이들은 누가 지키나?

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

AI 핵심 요약

beta
분석 중...
  • 중국과 미국은 청소년 보호 위해 AI 의인화·동반자 챗봇을 강하게 규제하기 시작했다.
  • 청소년은 미성숙한 뇌와 AI의 과도한 동조 성향 탓에 AI 감정 서비스에 특히 취약하다는 연구와 실제 자살 사례가 제도 변화를 이끌었다.
  • 한국은 청소년 대상 AI 감정 서비스 규제가 전무한 채 사용률만 높은 위험한 공백 상태라, 비극이 일어나기 전에 입법 논의를 서둘러야 한다.

!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.

하민회 이미지21 대표 (미래기술문화연구원장)

올해 4월, 중국 국가인터넷정보판공실(CAC) 등 5개 중앙 부처는 '인공지능 의인화 상호작용 서비스 관리 잠정방법'을 공동 발표했다. 7월 15일부터 정식 시행된다. 핵심은 명료하다. AI가 사람을 흉내 내며 이용자와 정서적 관계를 맺는 서비스 전반을 국가가 직접 관리하겠다는 것이다.

18세 미만에게 가상 연인·가상 친족 서비스 제공은 전면 금지된다. 14세 미만에게는 반드시 보호자 동의를 받아야 하며, 이용 시간 제한과 현실 환기 알림 기능을 갖춘 미성년자 모드가 의무화된다. 성인 이용자도 AI와 2시간 연속 대화하면 플랫폼이 의무적으로 주의 알림을 띄워야 한다. 사용자가 자해·자살 징후를 보이면 위로 메시지를 넘어 보호자나 긴급 연락처에 실제 개입해야 하는 의무도 생겼다.

하민회 이미지21 대표.

서구의 시각에서는 권위주의적 통제로 읽을 수도 있다. 중국의 규제에 정치적 동기가 없다고 보기도 어렵다. 그러나 규제의 결과물, 즉 미성년자를 AI 감정 서비스로부터 보호하고 기업에 위기 개입 의무를 부과하는 내용은 체제와 무관한 보편적 상식에 가깝다. 더구나 이 법의 직접적 배경에는 실제 비극이 있다.

2024년 2월, 미국 플로리다주에서 14세 소년 세웰 세처 3세가 스스로 목숨을 끊었다. 아들이 수개월째 AI 챗봇과 정서적·성적 대화를 나눠왔다는 사실을 부모는 사후 에야 알았다. 소년의 마지막 말은 "꼭 당신에게 돌아 갈게요"였고, 챗봇은 "가능한 한 빨리 내게 와 줘"라고 답했다. 유가족의 소송은 2026년 1월 구글·캐릭터닷AI와의 합의로 마무리됐다.

이 사건은 전 세계 입법 지형을 바꾸었다. 중국이 규제에 나선 것도, 미국 34개 주와 3개 연방 기관이 챗봇 특화 입법을 추진하게 된 트리거도 이 비극이었다.

성인도 AI와의 정서적 유대에서 완전히 자유롭지 않다. 그러나 청소년은 구조적으로 훨씬 취약하다. 이유는 뇌에 있다.

판단력과 충동 조절을 담당하는 전두엽 피질은 25세 전후까지 완전히 발달하지 않는다. 스탠퍼드대 연구진은 이 미성숙한 뇌 때문에 청소년이 강렬한 애착 형성과 현실·판타지 경계 혼란에 특히 취약하다고 분석했다. AI 챗봇은 24시간 대기하며 절대 거절하지 않는다. 실제 관계에서 반드시 경험해야 할 마찰·거절·타협의 훈련이 통째로 생략된다.

더 구조적인 문제는 AI의 '아부(sycophancy)'다. 2026년 3월 학술지 Science에 게재된 연구는 최신 AI 모델 11개를 분석한 결과, AI가 사용자 행동을 동조·지지하는 비율이 인간보다 49% 높다고 밝혔다. 기만적이거나 불법적인 상황에서 조차 그랬다. 비판적 사고가 형성 중인 청소년에게 이 영향은 성인보다 훨씬 깊이 새겨진다. 연구에서 확인된 청소년 AI 의존율은 17~24%에 달하며, 정신건강 문제를 이미 가진 청소년일수록 의존도가 더 높아지는 패턴이 반복됐다. 가장 도움이 필요한 아이가 가장 깊이 빠져드는 구조다.

[AI 일러스트 = 정성훈 기자]

그렇다면 한국은 어떨까?

올해 4월 초록우산이 전국 청소년 3,300명을 조사했다. 94.4%가 AI 챗봇을 사용해봤고, 35%는 "AI를 실제 사람처럼 느낀 경험이 있다"고 답했다. 41%는 챗봇 답변을 실제 행동으로 옮겼으며, 약 6%는 자해·자살·성적 내용 등 위험한 질문을 AI에게 한 경험이 있었다.

현실은 이렇게 위태롭지만 법적 장치는 없다. 2026년 1월 시행된 AI 기본법은 투명성·표시 의무 중심이고, AI 동반자 서비스나 청소년 특화 안전 의무는 포함되지 않았다. 현행법상 AI 챗봇 대화는 '개인 간 통신'으로 분류돼 이용자 신고 없이는 규제 기관이 들여다볼 수조차 없다. 국내 AI 채팅 앱들의 미성년자 접근 제한은 기업 자율에 맡겨진 상태다.

미국은 캘리포니아주는 2026년 1월부터 AI 동반자 챗봇 규제법 SB 243을 시행 중이다. 미성년자에게 AI임을 명확히 고지하고, 3시간마다 알림을 보내며, 자해·자살 징후를 식별해 당국에 보고하는 프로토콜을 의무화했다. 연방 차원에서는 공화·민주 초당파로 'GUARD Act'가 발의됐다. 미성년자의 AI 동반자 접근을 원천 차단하고, 아동에게 성적 콘텐츠를 노출하거나 자해를 조장한 기업에 형사 처벌을 가하는 내용이다.

EU는 기존 AI법을 활용해 올해 8월부터 고위험 AI 시스템에 전면 의무를 적용하며, 위반 시 전 세계 연간 매출의 최대 7%를 과징금으로 부과한다. 지역별 접근은 다르지만 방향은 같다. 아이들만큼은 보호해야 한다는 공감대 위에서 각자의 방법을 찾고 있다. 참고로 한국 AI 기본법의 과태료 상한은 3,000만 원이다.

손정의 소트프뱅크그룹 회장 [사진=로이터 뉴스핌]

한국은 스스로 AI 강국을 자처한다. 그럼에도 AI기술의 가장 직접적인 피해 가능 집단인 청소년을 보호하는 제도는 아직 없다.

중국은 정부에서 칼을 뽑았고 미국은 소송 하나가 34개 주를 움직였다. 한국에서 같은 비극이 반복되기 전에 논의를 시작해야 한다. AI 챗봇이 중고등학생의 첫 번째 감정 상담 창구가 된 나라에서, 그 관계를 규율하는 최소한의 규칙조차 없다는 것은 정책 실패다.

AI가 아이들의 감정 공간으로 파고드는 속도와, 제도가 준비되는 속도 사이의 간격. 지금 한국에서 가장 위험한 것은 바로 그 간격에 대한 무지다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
20일 상암서 '마이 케이팝 스타' 결선...우승자는 [서울=뉴스핌] 정태이 기자 = 전 세계 60개국의 지원자가 참여한 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'가 최종 우승자를 가린다. 종합뉴스통신사 뉴스핌의 글로벌 오디션 '마이 케이팝 스타' 로고. [사진=뉴스핌DB] 2026.09.15 alice09@newspim.com 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 '마이 케이팝 스타'의 오프라인 결선이 오는 20일 오후 3시 서울 마포구 상암동 큐브컨벤션센터에서 개최된다. 이번 오디션은 나이와 국적에 제한 없이 진행됐다. 치열한 예선과 본선을 거쳐 국내 5팀과 해외 5팀 등 총 10팀이 최종 결선에 진출했다. 국내 결선 진출자는 고도아, 박희주, 윤근아, 조하음, 황승대다. 해외에서는 다니 리베라(Dani Rivera·브라질), 샌디 에고(Sandy Ego·이스라엘), 시리나(Shirina·우즈베키스탄), 메이 칫 뗏(Maye Chit Thet·미얀마), 바흐테(Vachte·이란)가 무대에 올라 최종 우승을 놓고 경쟁을 펼친다. 결선을 앞두고 진행된 사전투표에서는 브라질의 다니 리베라가 선두를 차지했다. 지난 12일부터 일주일간 진행된 사전투표에는 총 2만7947표가 모였으며, 다니 리베라는 이 가운데 1만5539표(55.6%)를 얻어 1위에 올랐다. 이어 샌디 에고가 5725표(20.5%)로 2위, 시리나가 4192표(15.0%)로 3위를 기록했다. 국내 참가자 가운데서는 조하음이 862표로 가장 높은 순위인 4위에 올랐다. [서울=뉴스핌] 이지은 기자 = 뉴스핌 주최 글로벌 오디션 '마이 케이팝 스타'의 사전 투표가 끝난 가운데, 브라질의 다니 리베라가 1위를 차지했다. (명령어: 사전투표 결과를 토대로 그래프 이미지를 만들어줘.) [이미지=CHAT GPT] [사진= 2026.11.19 alice09@newspim.com 사전투표에서 선두를 차지한 다니 리베라가 최종 우승까지 이어갈 수 있을지도 관심사다. 이번 대회는 대중의 평가 100%로 우승자를 결정한다. 사전투표 결과는 최종 점수에 10% 반영되며, 결선 당일 현장 투표와 온라인 투표가 각각 45%를 차지한다. 다니 리베라가 사전투표에서 절반 이상의 표를 얻으며 앞섰지만, 현장과 온라인 투표의 반영 비율이 총 90%에 달하는 만큼 결선 당일 결과에 따라 최종 순위가 달라질 수 있다. 이 같은 경쟁 끝에 최종 우승을 차지한 참가자에게는 상금 1억 원이 수여된다. 국내 참가자는 2위부터 10위까지 각각 200만원의 상금을 받으며, 해외 결선 진출자에게는 왕복 항공권과 숙박비 등 체류 비용이 지원된다. 이 밖에도 글로벌 쇼케이스 및 공연 참여 기회, 국내 엔터테인먼트사의 현장 캐스팅 기회 등이 마련됐다. K팝 보컬·댄스 트레이닝과 숏폼 콘텐츠 제작 지원도 제공된다. 국내외 10팀이 최종 무대에서 맞붙는 가운데, 사전투표에서 앞선 참가자들이 우위를 이어갈지, 결선 당일 새로운 우승자가 탄생할지 주목된다. '마이 케이팝 스타' 최종 결선 관람은 공식 홈페이지를 통해 신청할 수 있다. taeyi427@newspim.com 2026-11-19 15:18
사진
스마트기기 등 수능 부정행위 98명 [서울=뉴스핌] 황혜영 기자 = 2027학년도 대학수학능력시험에서 스마트기기 등 전자기기 관련 부정행위로 98명이 적발됐다. 단순 소지가 93명, 스마트기기 활용으로 분류된 사례가 5건이다. 시험시간 위반 등 일반적인 부정행위는 포함되지 않은 수치로 전체 적발 규모는 추가 집계를 거쳐 공개된다. 최은옥 교육부 차관은 19일 오후 7시 수능 진행 상황 2차 브리핑에서 "지금까지 말씀드린 총 98명은 모두 부정행위자로 처리됐다"며 "스마트기기를 활용한 부정행위자에 대해서는 보다 엄중한 책임을 묻도록 하겠다"고 밝혔다. 집계는 이날 오후 4시 37분 종료된 4교시 기준이다. [서울=뉴스핌] 사진공동취재단 = 2027학년도 대학수학능력시험(수능)이 실시된 19일 오전 서울 용산구 용산고에서 한 감독관이 수험생의 안경을 확인하고 있다. 2026.11.19 photo@newspim.com 이해숙 교육부 고등평생정책실장은 "98명은 전부 스마트기기 관련된 대상자"라며 "시간을 어긴다든가 하는 일반적인 부정행위 유형은 이 통계에 포함돼 있지 않다"고 설명했다. 교육부는 다른 유형의 부정행위도 종합해 추후 발표할 방침이다. 스마트기기 활용으로 분류된 5건은 충남의 스마트안경 사용 1건, 경기의 소형카메라·무선이어폰 소지 1건, 서울의 스마트폰 문제지 촬영 1건, 서울·경기의 화장실 내 스마트폰 사용 각 1건이다. 교육부는 시·도교육청 보고를 바탕으로 분류했으며 증거와 진술서 등을 검토해 최종 판단하겠다고 밝혔다. 중대 사안의 경찰 인계 규모와 고발 일정은 확정해 공개하지 않았다. 이 실장은 "중대한 사항 같은 경우에는 경찰과 관련 사안을 공유받고 있다"며 "구체적인 건수는 지금 보고를 받고 있는 만큼 나중에 정리해서 말씀드리겠다"고 말했다. 이 실장은 적발된 98명 모두가 다음 해 수능 응시 제한 대상인지에 대해 "심의위원회에서 경중을 따지는 절차를 거쳐 결정하게 된다"며 "지금 98건을 콕 집어 얘기하기에는 절차적으로 기다려 봐야 할 것 같다"고 설명했다. 단순 소지로 적발된 93명 가운데 49명은 세 차례 위급재난문자 발송으로 확인됐다. 오전 8시 30분 1차 문자로 31명, 오후 2시 21분 2차 문자로 11명, 오후 2시 57분 3차 문자로 7명이 적발됐다. 나머지 44명은 재난문자와 관계없이 전자기기 소지가 확인됐으며 와이파이 신호 탐지로 적발된 2명도 여기에 포함됐다. 신진용 교육부 대입정책과장은 "49건은 위급재난문자 시 본인 몸이나 복도에 배치된 가방에서 소리가 울린 것이고 44건도 마찬가지로 위급재난문자와 관계없이 소지한 건"이라며 "실제로 활용된 것이라고 판단하는 건들은 5건"이라고 설명했다. [무안·광주=뉴스핌] 박진형 기자 = 2027학년도 대학수학능력시험(수능)일인 19일 전남광주통합특별시 서구 광덕고등학교(26지구 제20시험장) 시험실에서 감독관이 안경을 검수하고 있다. 2026.11.19 bless4ya@newspim.com 스마트폰으로 문제지를 촬영하거나 화장실에서 사용한 수험생들이 재난문자 발송 때 적발되지 않은 경위는 추가 확인하기로 했다. 정부는 재난문자 발송과 함께 모든 시험장에 와이파이·블루투스 신호 탐지 전담 감독관을 추가 배치했다. 이 실장은 "공공와이파이까지 포함해 전체적으로 차단했다"며 "현재 동원할 수 있는 기술이나 방법으로는 최선을 다했다고 생각한다"고 말했다. 한국사 시험 도중 발송된 3차 문자와 관련해서는 외부에서 울린 문자 소리로 시험에 지장이 생겼다면 지체된 만큼 시간을 추가 부여하도록 사전 지침을 내렸다고 설명했다. 실제 시간 보전 사례는 집계 중이다. 교육부와 한국교육과정평가원은 학교의 판단 자료와 결과서를 토대로 1차 심의한 뒤 이의제기와 재심의를 거쳐 최종 처분을 결정한다. 모든 절차는 12월 11일 성적 발표 전에 마무리할 예정이다. 신 과장은 "성적 발표 이전에 마무리해 기존 학생들 성적에 영향 없도록 조치하겠다"고 밝혔다. 최 차관은 "시험 중 소형카메라를 적발하는 등 성실히 감독에 임해주신 감독관분들이 민원·소송 등으로 피해를 입지 않도록 모든 책임을 정부가 지겠다"고 밝혔다. hyeng0@newspim.com 2026-11-19 19:50
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동