[서울=뉴스핌] 송은정 기자 ='딥페이크(Deep Fake)'가 개인의 일상을 위협하고 있다.
인공지능(AI)의 발달이 범죄에까지 활용되고 있는 가운데 최근 가장 문제로 떠오른 게 딥페이크 성범죄다. 얼굴 사진만으로도 딥페이크 기술을 활용해 영상물을 만들 수 있는 만큼 누구나 피해자가 될 수 있다는 점에서 심각성을 더하고 있다.
딥페이크란 심층학습을 의미하는 딥러닝(Deep-learning)과 가짜라는 뜻을 가진 페이크(Fake)의 합성어다. 딥페이크는 주로 AI를 활용한 미디어 합성 기술로 활용되고 있다. 특정 인물의 얼굴을 다른 인물의 사진, 영상, 음성과 합성하는 식이다.
딥페이크 영상은 디지털 성범죄뿐만 아니라, 초상권, 인격권 침해, 개인의 사생활 침해와 명예훼손 문제로도 이어질 수 있는 심각한 사회 문제다. 실제로 딥페이크 허위 영상물 피해 사례는 나이, 직업, 성별 등을 가리지 않았고, 광범위하게 확산되고 있다. 합성 기술을 바탕으로 한 딥페이크 범죄는 사칭 문제로 번질 수 있다. 특히 파급력이 큰 동영상 매체를 이용한다는 점에서 피해가 가중될 수 있다.
최근 AI의 진입 문턱이 낮아짐에 따라 딥페이크를 이용한 금융 사기 범죄 형태 또한 진화하고 있다. 범죄자들은 챗GPT 등 생성형 AI를 활용해 피해자의 취약점에 맞춰 보이스피싱 시나리오를 작성해 범죄에 활용하고 있다. 사용자의 문장 스타일을 모방하고 생성형 AI의 자체 학습 과정에서 취득한 피해자의 개인 정보까지 탈취한다. 딥페이크 영상을 제작해 투자 사기에 활용하는 범죄 사례도 꾸준히 증가하고 있다. 기술의 발전 속도가 빠른 만큼, 범죄의 방법도 점점 더 정교해지고 있는 셈이다.
그러나 이와 관련해 처벌은 미미하다. 방송통신심의위원회에 적발된 딥페이크 기술을 악용한 '성적 허위영상물'이 올해 상반기에만 6000여건으로, 지난해 전체의 84%에 이르렀다. 반면, 2020~2023년 딥페이크 범죄 관련 1·2심 판결 71건 중 실형을 선고받은 경우는 4건에 불과하다. 딥페이크 합성물 제작·유포 등 혐의로 재판에 넘겨진 이들에게 재판부는 피고인의 연령, 초범 여부, 반성 여부 등 양형 참작 사유를 거론하며 대체로 집행유예를 선고하고 있다. 솜방망이 판결이 법 조항이나 양형 기준이 현실을 제대로 반영하지 못하고 있어 법적 제재의 의미를 무색하게 하고 있다.
우리나라는 현재 AI 생성물에 가상 정보 표시를 의무화하는 법안을 비롯해 딥페이크 방지를 위한 제도 보완이 시급한 상황이다. 앞서 정부 주도로 21대 국회에서 'AI 기본법'이 발의됐지만 여·야 정쟁에 발이 묶여 제대로 된 논의도 없이 폐기됐다.
이미 세계 주요국에서는 AI 규제에 초점을 둔 법제를 내놓고 있다. 유럽연합(EU)은 AI 위험 수준에 따른 차등 규제를 담은 'AI 법'을 세계 최초로 통과시켰다. 미국 캘리포니아주는 AI로 인해 피해가 발생할 경우 개발사에 책임을 지우는 규제 법안을 추진하고 있다. 일본은 지난 5월 AI 규제 방침 등을 밝혔다. 중국 역시 생성형 AI 서비스에 관한 법률을 제정하고 있다.
AI 기술의 발전과 함께 역기능이 심화되고 있는 만큼 AI의 부작용을 막기 위한 제도, 정책이 신속하게 보완돼야 한다. AI 규제의 부재는 범죄의 도구로 악용될 수 있다는 점을 잊지 말아야 한다. 기술이 빠르게 발전하는 만큼 불러오는 부작용을 가볍게 넘기지 말아야 한다. 경각심을 갖고 피해의 심각성을 고려해 관련 범죄에 대한 처벌 강화가 필요하다.
yuniya@newspim.com
