"어디서 본 듯한데, 누구 시죠?" 메이크업부터 헤어스타일까지 한참 공들인 스튜디오 사진이구나 싶은데 뭔가 좀 이상하다. 또렷한 윤곽, 훨씬 어려 보이기도 하고 포즈나 시선도 수준급이다. 요즘 SNS에 유행하는 AI 프로필이다. 

사용법도 어렵지 않다. 평소 찍어 두었던 셀카 10~20장을 앱에 업로드하고 커피 두 잔 값 정도만 지불하면 1시간 내에 스튜디오급 사진을 받아볼 수 있다. 작심하고 날 잡아 차려 입고 임하는 스튜디오 촬영 비용이 30~40만원 정도임을 감안하면 시간, 비용 절감은 물론 심리적 부담도 거의 없으니 AI프로필은 만족도가 높을 수밖에 없다.

인스타그램 에서 #ai프로필 해시태그는 2만 8천개를 넘었다. 대표 앱으로 꼽히는 스노우는 두 달 만에 150억 가까운 매출을 올렸다. 한국에서 뿐 아니라 일본, 미국, 태국 등에서도 인기를 끄는 걸 보니 사람 마음 다 비슷한 모양이다. '어쨌든 가장 멋지고 보기 좋은 나를 사진으로 남기고 싶다.' - 비록 내 것인 듯 내 것 아닌 내 사진이라도 말이다.

하민회 이미지21 대표.

하지만 AI 프로필은 엄밀히 프로필 사진이라 보기는 어렵다. 단순 사진 보정과 편집을 넘어 AI가 만들어낸 가상인물이기 때문이다. 우선 사용자의 셀카사진을 데이터로 변환해 측정한다. 이때 인물의 특징을 읽어내고 부수적인 복잡도는 줄인다. 그리고 비슷한 특징을 가진 사람들의 데이터와 묶은 후 기존에 확보된 '멋진' 사진에 사용자 데이터를 입히는 형태다. 최대한 자연스럽고 조화로운 대입이 관건인 일종의 딥 페이크(Deepfake)다.

아무리 마음에 들어도 AI 프로필을 입사지원서 사진으로 제출하거나 주민등록증, 운전면허증, 여권 등의 신분증에 사용해서는 안 된다. 행정안전부 지침에 의하면 신분증 사진은 '6개월 이내 모자 등을 쓰지 않은 상반신 사진'으로 지나친 보정이나 변형으로 인해 당사자 확인이 어려우면 사용이 불가하다. 자신의 것이긴 해도 온전히 자기 사진이 아닌 AI 프로필은 신분증 사진으로 자격에 못 미친다.

AI 프로필이 염려스러운 점은 또 있다. 최근 SNS에서는 AI 프로필을 정체성으로 삼아 보여주는 것이 놀이문화로 자리 잡았다. 불특정 다수에 쉽게 노출되는 만큼 디지털 범죄에 취약할 수밖에 없다. 실제 사진은 아니지만 정체성에 관련되는 만큼 얼굴이나 신체를 성적인 목적 또는 수치심을 유발하는 형태로 편집해 엉뚱한 용도에 활용하거나 교묘하게 합성한 딥 페이크 2차 제작물로 악용될 위험도 있다. 아무 생각없이 올린 내 AI 프로필이 사기계정의 프로필로 버젓이 쓰이고 있다면 얼마나 억울하겠는가?

[사진=카카오브레인]

딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크(Deepfake)는 사람들의 얼굴, 목소리, 동작 등을 합성하여 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 AI 기술이다. 영화를 비롯한 엔터테인먼트 산업은 물론 교육과 광고, 의료 분야까지 쓸모가 다양하지만 안타깝게도 정치, 사회, 경제 등 다양한 분야에서 사회적 혼란을 가져오고 실제 피해자를 만드는 등 악용의 잠재력 또한 커서 경계해야 할 기술로 꼽힌다.

지난 해 SNS에 게시되어 사람들을 당황시켰던 젤렌스키 우크라이나 대통령이 러시아에 항복을 발표하는 영상, 바이든 미국대통령이 성 소수자를 향해 막말하는 영상, 세계적인 영화배우 엠마 왓슨, 스칼렛 요한슨 등이 출연한 음란 광고 등은 모두 딥 페이크였다.

'저 사람이 대체 왜 저런 말을 하고 저런 행동을 할까?' SNS에 맥락에 맞지 않는 뜬금없는 영상이 돈다면 십중팔구 딥 페이크 영상이다. 세계경제포럼 2021년 보고서에 의하면 딥 페이크 동영상 수는 매년 약 900%씩 증가했다.

딥 페이크가 반드시 부정적 기능만 있는 것은 아니다. 8·15 광복절 기념식에 안중근 의사, 유관순 열사가 생생한 목소리로 나라에 대해 당부하거나 젊은 나이에 세상을 떠난 마이클 잭슨이나 김광석을 영상으로 부활시킨 공연은 팬들에게 큰 선물이 되기도 한다.

아일랜드 코크대 연구진에 의하면 딥 페이크를 이용해 실제 있었던 사건에 가짜 정보를 더하면 사람들은 이를 실제 사건으로 기억하는 경향이 나타난다. 딥 페이크 영상이 사람들의 기억보다 더 쉽게 받아들여지며 영상에 노출된 사람들의 기억에도 영향을 미치기 때문이다.

글로벌 보안 업체 아크로니스는 챗GPT를 비롯해 생성형 AI 기술이 사이버 공격과 악성 콘텐츠를 생성하는 데 사용되는 현상은 'AI가 사기꾼의 능력을 가속화' 하는 것과 같다며 초기부터 전 사회적으로 주의를 기울여야 한다고 경고했다.

AI 프로필로 돌아가 보자. 누군가 나의 AI 프로필을 이용해 딥 페이크 영상을 만들고 음란물 광고에 썼다면 그는 어떤 처벌을 받을까? 결론부터 말하자면 그는 아무런 처벌을 받지 않는다. 현행법상 근거가 없기 때문이다. AI로 만든 산출물은 가상의 인물에 해당되므로 실제 인물을 피해자로 특정하지는 못한다.

훅 들어온 AI 시대, 기술의 발전 속도에 비해 우리의 대비는 여전히 미약하다. 법적 기준과 규제가 준비될 때까지 자기 초상권 보호에 보다 예민해질 필요가 있다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등