전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 중기·벤처

속보

더보기

[기고] 딥페이크와의 전쟁

기사입력 : 2024년01월29일 08:50

최종수정 : 2024년01월29일 08:51

하민회 이미지21대표(코가로보틱스 마케팅자문)

어느 날 내 얼굴이 합성된 사진이 SNS에 돌고 있다면? 생각만해도 끔찍한 이 일이 월드스타 테일러 스위프트에게 일어났다. 테일러 스위프트는 투어를 다니는 도시마다 수만의 팬들이 유입, 일대 상권이 특수를 맞는다고 하여 '테일러노믹스(Taylornomics)'라는 신조어를 탄생시키고 지난 해에는 타임(Time)의 '올해의 인물'로 선정될 만큼 막강한 영향력을 가진 최고의 스타로 꼽힌다.

현재, 유포했던 SNS 계정들은 정지되고 이미지는 삭제됐지만 딥페이크(Deepfake)로 만들어진 스위프트의 외설적인 이미지는 4700만회 넘게 조회됐다고 알려졌다.

딥페이크는 '딥러닝(deep learning)'과 '가짜(fake)'의 합성어로 AI에 특정 이미지, 오디오, 비디오를 학습시켜 만든 가짜를 의미한다. 딥페이크의 위험성은 가짜 정보를 마치 진짜 정보인 것처럼 표현할 수 있다는 점에 있다. 얼굴을 바꾸거나 딥보이스로 목소리를 똑같이 재연하면 마치 실제 인물이 말하고 움직인 것처럼 착각할 수 있어 진실과 상관없이 부정확한 정보를 전파하거나 명예 훼손, 프라이버시 침해 등의 피해가 생길 수 있다. 최근에는 사기나 보이스 피싱에도 자주 등장한다.

하민회 이미지21 대표.

워싱턴포스트는 스위프트의 딥페이크 이미지를 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 여론이 일고 있다고 전했다. 현재 미국에서는 9개 주에서 당사자의 동의 없이 AI 딥페이크 사진을 만들거나 공유하는 것을 금지하고 있지만 연방 정부 차원의 규제는 없는 상태다.

정치권도 딥페이크에 골머리를 앓고 있다. 올해는 전 세계 약 70개국에서 선거를 치르는 '슈퍼 선거의 해'이다. 그간 AI 기술이 민주주의를 위협할 것이라는 우려가 종종 들려왔지만 생성형AI가 대중화되면서 우려는 현실이 되고 있다.

얼마 전 미국에서는 조 바이든 대통령의 '가짜 목소리' 가 유권자들을 혼란에 빠뜨렸다. 민주당 대선후보를 뽑는 프라이머리(예비경선)를 하루 앞두고 대통령으로부터 '투표 거부' 독려 전화가 걸려온 것이다. 결국 누군가 조작한 음성 딥페이크로 밝혀졌지만 사법당국은 조작자와 유포 진원지를 찾는데 어려움을 겪고 있다. 전화로 전달되는 오디오파일은 디지털 흔적을 남기지 않기 때문이다. 블룸버그는 '가짜 전화'에 직접 영향을 받는 건 수백, 수천 표 정도밖에 안 되겠지만 이로 인해 생겨나는 결과와 사회적 파장은 무시할 수 없을 것이라 평했다.

실제로 지난해 튀르키에와 슬로바키아에서는 AI 콘텐츠가 선거에 큰 영향을 미쳤다. 튀르키에 대선에서는 테러단체 인사가 여당 후보를 지지하는 딥페이크 영상이 퍼졌고 슬로바키아에서는 야당 후보가 선거 조작을 논의하는 딥보이스 가짜대화 영상이 유포되어 집권당의 승리에 결정적인 영향을 미쳤다. 결국 사실처럼 보이는 가짜가 사실을 이긴 셈이다.

이흥규 KAIST 전산학부 교수 연구팀이 개발한 '카이캐치(KaiCatch)' 기술로 딥페이크를 탐지하는 모습. [자료=한국과학기술원] 2021.03.30 biggerthanseoul@newspim.com

이제 선거에 있어 딥페이크는 최대 위협 요소가 되었다. 편집이 쉬운데다 생산비용도 저렴하다. 게다가 SNS에는 AI에게 학습시킬 정치인의 데이터가 넘쳐나지 않는가? 누구든 그럴듯한 메시지와 유권자 데이터베이스만 있으면 언제든 딥페이크로 선거판을 흔들 수 있게 되었다.

그래서인지 딥페이크를 가려내는 기술에 관한 국제사회의 관심이 뜨겁다. 네이처는 2024년 혁신이 기대되는 흥미로운 기술로 가장 먼저 AI 딥페이크 판별기술을 꼽았다. 한마디로 AI로 AI를 잡는, 고양이와 쥐 게임의 시작이다.

인텔이 개발한 '페이크캐처(FakeCatcher)'는 딥페이크 영상이나 사진에 나타난 오류를 탐지한다. 영상을 밀리초(ms, 1000분의 1초)로 쪼개 어색한 점을 찾아낸다. 살아있는 사람의 영상은 얼굴에 미세한 혈류의 변화가 나타나는 반면 딥페이크로 조작된 영상은 뭔가 어색하다. 페이크캐처는 육안으로 식별되지 않는 혈류의 차이를 발견하는 기술로 약 96%의 판별 정확도를 보인다.

딥페이크 탐지 모델인 센티널(Sentinel)은 AI 알고리즘이 원본 동영상에 나온 인물을 학습해, 조작된 동영상에서 어떻게 달라졌는지 찾아내어 딥페이크 영상 여부를 판별한다.

우리나라 기업인 딥브레인AI는 음성의 주파수와 시간, 가상 얼굴 생성 기능 등을 통해 목소리와 영상의 진위 여부를 판단한다.

[서울=뉴스핌] 정윤영 기자 = 지난해 5월 삼성전자와 러시아 인공지능연구소가 사진 이미지 한장을 이용해 자연스러운 딥페이크 영상을 만들어냈다. [제공=삼성전자] 2020.04.01 yoonge93@newspim.com

빅테크인 구글, 마이크로소프트, 메타, 아마존 등은 자발적으로 생성 AI 콘텐츠에 워터마크를 표기하기로 했다. AI가 생성한 콘텐츠를 식별할 수 있도록 만들어 악용될 가능성을 사전에 차단하자는 의도다.

딥페이크 기술 자체를 막자는 의견도 있다. 하지만 모든 기술이 그렇듯 딥페이크도 양면성을 갖는다. 게임, 엔터테인먼트, 교육 산업분야에선 다양한 용도로 효율적으로 사용될 수 있고 AR(증강현실), VR(가상현실) 등과 결합하면 기대 이상의 결과를 얻을 수 있다. 딥페이크는 쉽게 포기할 수 있는 기술이 아니다.

결론은 부작용을 막고 적재적소에만 효과적으로 활용할 수 있도록 법적 규제와 제도를 더욱 꼼꼼히 정비해야 한다는 것이다.

우리나라는 총선을 앞두고 '딥페이크 선거운동 금지법'이 국회를 통과했다. 선거일 90일 전부터 딥페이크를 활용한 선거운동을 할 수 없으며 이를 위반하면 7년 이하의 징역 또는 1000만 원 이상 5000만 원 이하 벌금에 처한다.

미국 하원은 '딥페이크 책임성법'을 발의했다. 고도화된 딥페이크 기술로부터 피해를 예방하고 사회 질서를 지키는 내용으로 구체적으로 온라인에 올라간 모든 딥페이크 콘텐츠에 라벨을 부착해야 하며 딥페이크 동영상으로 허위 사칭한 것에 대해 처벌할 수 있고 피해자는 소송을 통해 보상을 받을 수 있다.

미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 'AI는 어떻게 민주주의를 위협하는가'라는 논문에서 "객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회의 기반인 신뢰가 무너질 수 있다"고 주장했다.

AI 기술로 진실의 개념 자체가 불안정해지고 있는 이 시대, 기어를 중립에 두고 모든 것을 확인하고 검증해보는 비판적인 시각이 무엇보다 중요해지고 있다. 지나친 자기확신에 의존하기 보다 매사 신중하게 접근하는 겸손한 사고를 훈련하는 것이 필요하다.

[사진=게티이미지]

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
尹지지율 2%p↓, 26.9%…"김 여사 논란 등 영향" [서울=뉴스핌] 박성준 기자 = 윤석열 대통령의 지지율이 소폭 하락해 20%대 중후반을 기록했다는 여론조사 결과가 31일 발표됐다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문업체 미디어리서치가 지난 28일~29일 이틀간 전국 만 18세 이상 남녀 1001명에게 물은 결과 윤 대통령의 국정운영에 대한 긍정평가는 26.9%로 집계됐다. 부정평가는 71.9%로 나타났다. '잘 모름'에 답한 비율은 1.2%다. 지난 조사 대비 긍정평가는 2.0%포인트(p) 하락했고 부정평가는 3.5%p 상승했다. 긍정평가와 부정평가 간 격차는 45.0%p다. 연령별로 보면 40대에서 긍·부정 평가 격차가 극명하게 드러났다. 만 18세~29세에서 '잘함'은 19.9% '잘 못함' 80.1%였고, 30대에서는 '잘함' 29.6% '잘 못함' 68.3%였다. 40대는 '잘함' 16.1% '잘 못함' 82.9%, 50대는 '잘함' 25.7% '잘 못함' 74.3%로 집계됐다. 60대는 '잘함' 32.2% '잘 못함' 67.3%였고, 70대 이상에서는 '잘함' 40.5% '잘 못함' 54.9%로 집계됐다. 지역별로는 서울 '잘함' 25.1%, '잘 못함'은 74.0%로 집계됐다. 경기·인천 '잘함' 27.8% '잘 못함' 70.8%, 대전·충청·세종 '잘함' 21.3% '잘 못함' 77.9%, 강원·제주 '잘함' 32.7% '잘 못함' 64.9%로 조사됐다. 부산·울산·경남 '잘함' 32.1% '잘 못함' 67.1%, 대구·경북은 '잘함' 36.8% '잘 못함' 62.1%로 집계됐다. 전남·광주·전북은 '잘함' 13.2% '잘 못함' 85.0%로 나타났다. 성별로도 남녀 모두 부정평가가 우세했다. 남성은 '잘함' 26.3% '잘 못함' 72.1%, 여성은 '잘함' 27.5% '잘 못함' 71.6%였다. 김대은 미디어리서치 대표는 여론조사 결과에 대해 "도이치모터스·명품백 논란, 선거 관련 의혹 등 김건희 여사 리스크가 증폭됐고, 한동훈 국민의힘 대표와 '빈손 회동'이후 당정 갈등 심화로 전통적인 핵심 지지층인 70대 이상과 영남권에서도 지지율이 하락했다"고 분석했다. 신율 명지대 정치외교학과 교수는 "(윤 대통령 지지율 하락의) 근본적인 원인은 불통 이미지 때문"이라며 "불통이라는 것은 여론에 대한 반응성이 떨어진다는 이야기다. 김건희 여사와 관련한 논란이 대표적인 사례"라고 평가했다. 그는 "김 여사 관련한 사과를 하는 것도 이미 늦었다"며 "윤 대통령은 법조인 출신이라 법적으로 문제가 없으면 괜찮다고 생각하는 것 같은데 국민 인식은 그렇지 않다"고 설명했다. 그러면서 "김 여사 문제에 대해 제대로 된 해결책을 제시하면 지지율이 오를 수 있지만 그렇게 하지 않으면 지지율 반등은 힘들어 보인다"고 덧붙였다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.3%, 표본오차는 95% 신뢰수준에 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별 연령별 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. parksj@newspim.com 2024-10-31 06:00
사진
국민 3명 중 2명 "김건희 여사 특검 실시해야" [서울=뉴스핌] 지혜진 기자 = 국민 3명 중 2명은 윤석열 대통령 부인 김건희 여사의 각종 의혹에 대해 특별검사법 실시의 필요성을 인식한다는 여론조사 결과가 31일 발표됐다. 여론조사 전문기관 미디어리서치가 종합뉴스통신사 뉴스핌의 의뢰로 지난 28~29일 이틀간 전국 만 18세 이상 남녀 1001명을 대상으로 ARS(자동응답시스템) 조사 결과 '더불어민주당에서 김건희 여사의 도이치모터스 주가조작, 공천 개입 등이 포함된 총 14가지 의혹들에 대해 특검법을 재발의했다. 김 여사 특검 실시에 대해 어떻게 생각하느냐'는 질문에 '실시해야 한다' 66.2%, '실시해서는 안 된다' 26.0%, '잘 모름'은 7.9%로 응답했다. 연령별로는 40대, 만18세~29세, 50대 순으로 실시해야 한다는 의견이 높았다. 70대 이상을 제외하고는 실시해야 한다는 의견이 과반을 차지했다. 40대는 '실시해야 한다'고 응답한 비율이 81.2%에 달했다. 반면 '실시해서는 안 된다'는 12.7%에 그쳤다. 만18세~29세는 '실시해야 한다' 76.5%, '실시해서는 안 된다' 19.0%, '잘 모름'은 4.5%로, 50대는 '실시해야 한다' 69.9%, '실시해서는 안 된다' 25.0%, '잘 모름'은 5.1%로 나타났다. 30대는 '실시해야 한다' 62.0%, '실시해서는 안 된다' 34.3%, '잘 모름'은 3.7%로, 60대는 '실시해야 한다' 57.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 8.8%로 응답했다. 70대는 '실시해야 한다' 45.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 20.8%였다. 지역별로는 광주·전남·전북, 대전·충청·세종, 서울, 경기·인천, 부산·울산·경남, 강원·제주, 대구·경북 순으로 실시해야 한다는 여론이 우세했다. 대구·경북을 제외한 모든 지역에서 김 여사 특검법에 찬성하는 의견이 절반 이상으로 집계됐다. 광주·전남·전북은 '실시해야 한다' 78.4%, '실시해서는 안 된다' 15.4%, '잘 모름'은 6.2%, 대전·충청·세종은 '실시해야 한다' 72.9%, '실시해서는 안 된다' 24.6%, '잘 모름'은 2.5%로 나타났다. 서울은 '실시해야 한다' 68.7%, '실시해서는 안 된다' 24.8%, '잘 모름'은 6.5%, 경기·인천은 '실시해야 한다' 67.4%, '실시해서는 안 된다' 25.6%, '잘 모름'은 7.0%였다. 부산·울산·경남은 '실시해야 한다' 62.5%, '실시해서는 안 된다' 27.5%, '잘 모름'은 10.1%로, 강원·제주는 '실시해야 한다' 59.3%, '실시해서는 안 된다' 21.2%, '잘 모름'은 19.5%로 응답했다. 대구·경북은 '실시해야 한다' 46.3%, '실시해서는 안 된다' 41.1%, '잘 모름'은 12.6%였다. 지지 정당별로는 국민의힘을 제외한 모든 정당에서 실시해야 한다는 의견이 압도적이었다. 더불어민주당 지지층은 '실시해야 한다' 95.5%, '실시해서는 안 된다' 2.7%, '잘 모름'은 1.8%, 조국혁신당 지지층은 '실시해야 한다' 90.8%, '실시해서는 안 된다' 5.8%, '잘 모름'은 3.3%로 나타났다. 진보당 지지자들은 '실시해야 한다' 77.0%, '실시해서는 안 된다' 23.0%, '잘 모름'은 0%였다. 보수 성향의 개혁신당 지지층은 '실시해야 한다' 87.6%, '실시해서는 안 된다' 6.4%, '잘 모름'은 6.0%였다. 지지정당이 없다고 응답한 층도 '실시해야 한다' 79.1%, '실시해서는 안 된다' 15.0%, '잘 모름'은 5.9%로 특검에 찬성하는 여론이 더 컸다. 국정 지지별로는 응답층의 의견이 극명하게 엇갈렸다. 윤석열 정부가 잘 못하고 있다고 답한 이들은 김건희 특검법에 대해 '실시해야 한다'고 응답한 이들이 88.8%에 달한 반면, 정부가 잘하고 있다고 평가한 응답층은 '실시해서는 안 된다'가 78.6%로 나타났다. 한편, 성별로는 차이가 두드러지지 않았다. 남녀 각각 '실시해야 한다'고 응답한 이들이 67.4%, 64.9%로 나타났다. 김대은 미디어리서치 대표는 "전통적인 보수 지지층인 60~70대 이상과 영남권에서 조차 김 여사 특검을 실시해야 한다는 응답이 높게 나오면서 특검이 대세로 굳어지고 있다"며 "최근 한동훈 국민의힘 대표가 특별감찰관 추천을 대안으로 제시했지만 특감은 한계가 있는 등 국민 다수가 원하는 건 '특감'이 아니라 '특검'이라는 결과"라고 분석했다. 이번 조사는 무선 RDD 활용, ARS를 통해 진행됐다. 신뢰 수준은 95%, 표본 오차는 ±3.1%p, 응답률은 3.3%다. 자세한 조사 개요 및 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. heyjin@newspim.com 2024-10-31 06:00
안다쇼핑
Top으로 이동