[뉴욕=뉴스핌] 김민정 특파원 = 일론 머스크의 인공지능(AI) 스타트업 xAI의 챗봇인 그록(Grok)이 미성년자를 포함한 사람들을 성적으로 묘사한 이미지를 생성해 소셜미디어 엑스(X)에 게시하면서 강한 비판을 받고 있다. 회사 측은 보호장치의 허점으로 이 같은 일이 발생했다고 설명했다.
2일(현지시간) 블룸버그통신과 로이터통신에 따르면 최근 며칠 사이 그록은 사용자 프롬프트에 응답하는 과정에서 미성년자로 보이는 인물들이 최소한의 옷만 입은, 성적 뉘앙스가 강한 이미지를 생성해 X에 올렸다.
그록은 X에서 "사용자가 요청해 최소한의 의상만 입은 미성년자를 묘사한 AI 이미지를 받은 사례가 일부 있었다"며 "xAI에는 안전장치가 있지만 이러한 요청을 완전히 차단하기 위한 개선 작업이 진행 중"이라고 설명했다. 그러면서 "앞서 언급했듯이, 안전장치에 허점이 발견돼 긴급히 수정 중"이라며 "CSAM(아동 성학대 자료)은 불법이며 금지돼 있다"고 강조했다.
로이터통신은 로이터가 이메일로 xAI에 논평을 요청하자 "기성 언론의 거짓말"이라고 답했다고 전했다.
각국 정부는 그록의 부적절한 콘텐츠를 강도 높게 비난하며 대응에 나섰다. 프랑스 정부는 그록이 생성한 성적 노골적 콘텐츠를 검찰에 신고했다고 이날 성명에서 밝혔다. 이들은 해당 콘텐츠가 성적이고 성차별적이며 명백히 불법이며 유럽연합(EU)의 디지털 서비스법(Digital Services Act)을 준수했는지 확인하기 위해 프랑스 미디어 규제 기관 아르콤(Arcom)에도 신고했다고 설명했다.
인도 정보기술부도 X의 인도 지사에 보낸 서한에서 그록이 여성의 외설적·성적 노골적 콘텐츠를 생성하고 유포하는 것을 막지 못했다며 X에 3일 이내 조치 보고서 제출을 요구했다.
미 연방통신위원회(FCC)는 로이터의 논평 요청에 즉각 답변하지 않았으며, 연방거래위원회(FTC)는 논평을 거부했다.
mj72284@newspim.com
