[기고] 생성형AI시대 가짜뉴스 대응법

기사입력 : 2023년05월30일 08:37

최종수정 : 2023년05월30일 08:54

하민회 이미지21대표(코가로보틱스 마케팅자문)

펜타곤이 폭발했다고? 생성형 AI가 만든 가짜사진 한 장에 미국 증시가 출렁였다. 지난 주 미국 워싱턴DC 국방부 청사 근처건물이 폭발로 인한 검은 화염에 싸인 사진이 SNS를 타고 확산되면서 한때 주가가 급락하고 금값이 상승하는 해프닝이 벌어졌다.

미 국방부가 펜타곤과 백악관 인근에서의 폭발이나 화재는 없었다고 공식 확인하면서 사태는 진정됐지만 AI가 만든 이미지 한 장이 얼마나 빠르게 세상을 혼란에 빠뜨릴 수 있는지 극명하게 보여 준 사례였다. 이쯤되면 트럼프 전 대통령이 경찰에 체포되는 사진이나 패셔블한 백색 패딩을 입은 교황의 사진은 귀여운 수준이다.

챗GPT와 같은 생성형AI는 보이는 대로 믿지 말아야 하는 시대를 열었다.

AI가 만든 사진은 때로 사람이 찍은 사진보다 훨씬 드라마틱하다. 2023 소니 월드 포토그래피 어워드(SWPA)의 크리에이티브 부문 1위에 선정된 '전기공'은 생성형AI가 만든 사진이었다. 물론 사진가가 AI사진에 대해 공론화시킬 의도였다며 수상을 거부했지만 심사위원 뿐 아니라 일반인의 눈으로도 흠 잡을데 없는 사진이었다.

영상도 마찬가지다. 조 바이든 미 대통령의 우크라이나를 돕기 위해 탱크를 지원하자는 내용의 영상은 특정집단이 트랜스젠더에 대한 공격을 담은 발언으로 변형해 인터넷에 유포했다. 이 영상 조작에 쓰인 AI기술은 딥보이스(Deep Voice).

실제 사람의 음성을 학습시켜 만들어낸 가짜 목소리인 딥보이스는 미묘한 톤, 특유의 발음, 억양까지 똑같이 구현한다. 실제 목소리와 구분이 거의 불가능한 탓에 영상통화나 보이스피싱 등의 범죄에 쓰이고 있어 벌써부터 폐해가 심각하다.

일반인도 클릭 몇 번만으로 타인의 얼굴부터 목소리까지 손쉽게 복제하고 편집할 수 있게 된 시대. 현실과 가상의 경계가 빠른 속도로 허물어지고 있다.

더 큰 문제는 AI가 만드는 허위정보가 증가하고 있다는 사실이다. 가짜뉴스 감시그룹인 뉴스가드에 의하면 챗GPT와 같은 생성형 AI로 가짜 뉴스를 양산하는 '콘텐츠 팜'은 49개나 된다.

선정적인 기사로 클릭을 유도해 광고를 따내는 데 목적을 두고 있는 콘텐츠 팜은 전 세계에 퍼져 영어뿐 아니라 중국어, 포르투갈어, 태국어 등 다국어로 운영 중이다. 국가수반의 사망, 우크라이나전 사상자수 부풀리기, 대형사고 등 허위사실이 주를 이룬다.

오픈AI의 CEO 샘 알트만은 최근 미국 상원 청문회에서는 "점점 더 강력해지는 AI가 민주주의에 위협이 될 수 있다"고 우려하며 AI 모델의 위험을 완화하는데 정부 개입의 중요성을 피력했다.

"대규모 언어모델을 기반으로 한 생성 AI가 정보를 조작하고 가짜뉴스를 퍼뜨릴 수 있는데 내년 대선을 앞두고 이 모델은 점차 진화할 가능성이 있다"고 지적했다.

하지만 AI규제가 쉽지만은 않아 보인다. 본질적으로 AI기술은 선한 목적에서 출발했기 때문에 AI 이용 자체를 막거나 발전 속도를 의도적으로 늦추는 것은 현실적으로 어렵다.

하민회 이미지21 대표.

처벌 강화 같은 사후 대책을 마련하는 방향으로 갈 가능성이 크다. 더구나 가짜뉴스에 대한 정의는 여전히 모호하다. 언론학자들은 이익을 목적으로 거짓의 사실을 진실처럼 언론보도 형식으로 만든 정보를 대체로 가짜뉴스라고 정의한다.

하지만 언론보도의 형식이 다양화하고 있다는 점, 무조건적인 진실 강요가 헌법적 가치인 표현의 자유를 위축시킬 수도 있다는 점 등 논란의 여지가 있다.

뉴스에 대한 심리적 편견도 존재한다. 미국 보스턴대 연구진은 사실과 왜곡된 기사에 언론사 출처를 임의로 달아 동시에 제시하고 피험자들이 어떻게 판단하는지 조사했다.

사람들은 동일한 뉴스를 두고도 본인과 정치적 관점이 다른 매체라고 표기했을 때 거짓으로 판단할 가능성이 더 큰 것으로 나타났다. 진짜 가짜 판단 자체에 개인의 편견이나 정치적 성향이 개입한다는 의미다.

현실과 가상, 과학적 사실과 왜곡된 사실이 공존하는 생성형AI 시대에 우리는 어떤 기준으로 뉴스를 판단해야 할까? 그저 보이는 대로 믿지 않는, 의심 가득한 시선을 유지하는 것만이 능사일까?

전문가들은 생성형AI로 만든 사진이나 영상, 뉴스는 매우 정교하고 사실적이지만 의도가 담긴 만큼 톺아보면 보이는 몇 가지 특징이 있다고 말한다.

▲ 지나치게 드라마틱한 뉴스 사진 혹은 영상 - 생성형AI가 만든 사진은 일반적인 보도 사진보다 훨씬 드라마틱하거나 자극적이다. 영화의 한 장면이나 영화 포스터처럼 강한 인상을 남기는 사진과 영상은 먼저 진위여부를 확인하는 것이 좋다. 현실에서 트럼프 대통령이 경찰에 연행되면서 몸싸움을 한다거나 또 이런 모습이 사진으로 보도 될 확률은 거의 없다.

▲ 소셜미디어를 통해 순식간에 확산되는 뉴스도 의심스럽다. AI가 만든 대개의 가짜뉴스는 트위터 등의 소셜미디어 뉴스피드를 통해 시작해서 확산된다. 소셜미디어 게시물 출처의 공신력을 확인하고 레거시 미디어에서도 동시에 다루고 있는지 확인하는 것이 바람직하다.

▲ AI가 만든 사진이나 영상은 아직은 어딘가 어색함이 느껴진다. 맥락없은 장면이라거나 시선이나 입의 움직임이 부자연스러울수 있다. 손가락이나 손목 등이 뭉개져 잘 연결되지 않거나 간혹 손가락이 5개인 경우도 있다. 인물의 안경테가 일부 지워져있기도 하고 건물의 창틀이나 펜스 등 선이 이어지는 부분이 겹쳐져있거나 어긋나있기도 하다. 펜타곤 사진의 경우에도 건물의 창틀과 펜스가 선명하지 않고 다른 부분에 비해 유독 흐릿하다.

AI 전문가들에 의하면 2026년이면 온라인 콘텐츠의 90% 이상이 AI가 생성한 정보가 될 것이라 한다. 혹자는 AI가 생성한 뉴스를 찾아내는 또 다른 AI가 필요하다는 주장을 한다.

하지만 정작 진실을 위기로 내모는 건 생성형AI가 아니라 사실보다 재미를 선호하고 좋은 뉴스보다는 나쁜 뉴스에 민감하게 작용하는 인간의 심리 아닐까?

어쩌면 생성형AI시대 가짜뉴스에 대응하는 최선은 보고 싶은 대로 보고 믿고 싶은 것만 믿지 않는,한 걸음 떨어져 맥락을 보고 객관적인 이해관계를 읽어내는 이성적인 관점을 키우는 일일지 모르겠다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

광복군, 일본군 무장해제 "항복사실 모르느냐? 변상문의 '화랑담배'는 6·25전쟁 이야기이다. 6·25전쟁 때 희생된 모든 분에게 감사드리고, 그 위대한 희생을 기리기 위해 제목을 '화랑담배'로 정했다. 우리는 그들에게 전의(戰意)가 없는 것을 보이기 위해 기관단총을 모두 어깨에 걸쳤다. 그러고도 만일을 위해서 각각 산개하면서 뛰어내리기 시작했다. 드디어 내 차례가 왔다. 몸을 날렸다. 아. 그때 그 바람 냄새, 그 공기의 열기, 아른대는 포플러의 아지랑이, 그리고는 아무것도 순간적이었지만 보이지 아니했다. 그러나 어쩐 일인가? 우리 주변엔 돌격 태세에 착검한 일본군이 포위하고 있었다. 워커 구두 밑의 여의도 모래가 발을 구르게 했다. 코끼리 콧대 같은 고무관을 제독총에 연결한 험상궂은 방독면을 뒤집어쓴 일본군이 차차 비행기를 중심으로 원거리 포위망을 좁혀오고 있었다. 너무나도 위험한 상황이었다. 이것이 그리던 조국 땅을 밟고 처음 맞은 분위기였다. 동지들은 눈빛을 무섭게 빛내면서 사주경계를 했다. 그러나 아직 기관단총을 거머쥐지는 아니했다. 여의도의 공기가 움직이지 않는 고체처럼 조여들어 왔다. 뿐만 아니었다. 타고 온 C46형 수송기로부터 한 50여m 떨어진 곳의 격납고 앞에는 실히 1개 중대나 되는 군인들이 일본도를 뽑아 든 한 장교에게 인솔되어 정렬해 있었다. 그 앞에는 고급장교인 듯한 자들이 한 줄 또 섰고, 장군 몇 명도 있는 듯했다. 그러나 무엇보다도 8월 18일 한낮의 그 뜨거운 여의도 열기가 우리를 더욱 긴장시켰다. 격납고 뒤에까지 무장한 군인이 대기하고 있었다. 중형전차의 기관포도 이쪽을 향하고 있었다. 환호하는 광복군. [사진= 국사편찬위원회] 비행장 아스팔트 위엔 한여름의 복사열이 그 위기의 긴장처럼 이글대고 있었다. 어느새 우리는 땀에 젖어 있었다. 기막힌 침묵이 십여 분이나 지났다. 그러나 그들은 어떤 행동도 취해 오지 않았다. 마침내 우리가 발걸음을 옮겼다. 우리는 일본군 고급 장교들이 늘어선 쪽으로 한걸음 씩 움직였다. 각자 산개, 조심하라! 누군가가 이렇게 나직하게 말했다. 서해 연안으로 비행기가 고도를 낮출 때 누군가가 유서를 쓰던 일이 이 순간 내 머릿속에서 상기되었다. 일본군 병사들은 우리가 다가서자 의외로 포위망을 풀 듯이 비켜섰다. 우리는 아직 기관단총을 어깨에 멘 그대로였다. 일본군이 길을 열어주자, 그들도 일본군 육군 중장을 선두로 한 장교단이 우리 쪽으로 오기 시작했다. 그가 바로 조선주차군사령관 죠오쯔끼(上月良夫)였다. 쬬오쯔기는 그의 참모장 이하라 소장과 나남 사단장과 참모들을 뒤로 거느렸다. 우리도 좌우로 벌려 섰다. 쬬오쯔기가 「나니시니 이라시따노?(무슨 일로 왔소?)」말문을 열었다. 퍽 야무지게 보였다. 우리는 말 대신 영등포 상공에서 뿌리다 남긴 선전 전단을 내밀어 주었다. 우리의 임무가 일본어와 우리말로 적힌 전단이었다. 거긴 또 우리가 이렇게 들어오게 된 사연도 적혀있었다. 우리는 한 장씩 그 전단을 다른 일본군 장교들에게 나누어 주었다. 쬬오쯔끼는 이를 받아 읽고, "일본은 정전만 한 상태이니 일단 돌아갔다가 휴전 조약이 체결된 다음에 재입국하라"라고 말했다. 그러면서 은근히 위협했다. 자기네 병사들이 꽤 흥분되어 있으니, 만약 돌아가지 않으면 그 신변 보호에 안전책임을 지기가 어렵다는 분위기라고 했다. 이에 이범석 장군이 "네 놈들의 천황이 이미 연합국에 무조건 항복한 사실을 모르느냐? 이제부터는 동경의 지시가 필요 없다는 것을 알아야 한다"라고 맞섰다. 그러나 쉽사리 양보하지 않았다. 옥신각신 말이 몇 번 건너 왔다 갔다. 갑자기 쬬오쯔끼는 한 일본군 대령에게 일을 처리하라고 지시했다. 그러면서 그는 동경서 손님이 오기로 되어 있어 마중을 나와 있던 참이란 말을 하고는 물러가 버렸다" 이범석 장군은 일본군 측에 "조선 총독을 만나 담판 짓겠다'라고 요구했으나 거절당했다. 일본군 무장해제 임무를 띠고 국내로 들어 온 '광복군 국내정진군'은 아무런 소득도 올리지 못한 채 다음 날 8월 19일 14:30분 여의도 기지를 이륙하여 중국으로 돌아갔다. 광복군은 미군정이 시작되고 나서 한참이나 지난 다음에 개인 자격으로 귀국할 수밖에 없었다. 조짐이 좋지 않았다. / 변상문 국방국악문화진흥회 이사장 2025-09-29 08:00

사진

손흥민 7·8호-부앙가 23호...환상 '흥부 듀오' [서울=뉴스핌] 박상욱 기자 = 손흥민이 시즌 7·8호골을 연달아 터뜨리며 4경기 연속골을 기록했다. 드니 부앙가도 시즌 23호골을 넣어 '흥부 듀오'는 3골을 합작하며 팀 승리에 결정적인 역할을 했다. LAFC 손흥민은 28일(한국시간) 미국 미주리주 세인트루이스의 에너자이저 파크에서 열린 2025 MLS 정규리그 서부 콘퍼런스 세인트루이스 시티SC와의 원정 경기에서 3-4-3 포메이션의 원톱 스트라이커로 선발 출전했다. LAFC는 '흥부 듀오'의 활약을 앞세워 3-0으로 완승을 거뒀다. LAFC는 승점 53을 기록하며 서부 콘퍼런스 4위 자리를 유지했다. [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스 시티 SC와의 원정 경기에서 자신의 첫 번째 골을 넣고 '찰칵 세리머니'를 하고 있다. 2025.9.28 psoq1337@newspim.com [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스와의 원정 경기에서 자신의 첫 번째 골을 넣고 골 셀레브레이션을 하고 있다. 2025.9.28 psoq1337@newspim.com 손흥민은 1-0으로 앞선 전반 추가시간 시즌 7호골을 뽑아냈다. 그는 중원에서 단독 드리블로 페널티박스 왼쪽까지 돌파한 뒤 오른발 슈팅으로 골망을 흔들며 선제골을 기록했다. 후반 15분에는 페널티박스 정면에서 수비수를 앞에 두고 오른발 슈팅으로 시즌 8호골을 추가, 이날 멀티골을 완성했다. 손흥민은 이번 시즌 MLS에서 8경기 만에 8골 3도움을 기록하며, 출전 경기마다 존재감을 과시하고 있다. MLS 기록 기준으로 이번 4경기 연속골은 지난 2021년 12월 토트넘 소속으로 EPL 14라운드부터 4경기 연속골을 기록한 이후 약 3년 9개월 만이다. 경기를 중계하던 현지 해설진은 "손흥민과 부앙가는 피할 수 없다(inevitable)"며 두 선수의 뜨거운 활약을 추켜세웠다. [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스와의 원정 경기에서 자신의 두 번째 골을 넣고 골 셀레브레이션을 하고 있다. 2025.9.28 psoq1337@newspim.com [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스 시티 SC와의 원정 경기에서 골을 넣고 부앙가과 손을 마주치고 있다. 2025.9.28 psoq1337@newspim.com 손흥민과 함께 공격을 이끄는 드니 부앙가(31)도 전반 15분 선제골을 터뜨리며 5경기 연속골로 시즌 23골을 기록, 리오넬 메시에 이어 득점 랭킹 2위에 올랏다. 두 선수는 최근 LAFC가 터트린 15골 중 절반 이상을 책임지고 있다. 경기 도중 손흥민과 부앙가는 높이 뛰어올라 하이파이브를 주고받는 세리머니를 펼치며 팀 분위기를 끌어올렸다. 세인트루이스에서는 정상빈이 왼쪽 날개 공격수로 선발 출전하며 '코리안 더비'가 성사됐다. 정상빈은 전반 2분 수비 뒷공간으로 빠르게 침투하다 LAFC 골키퍼와 충돌하며 경고를 받았지만 경기 내내 활발한 움직임을 보였다. 그는 후반 20분 공격포인트 없이 교체돼 벤치로 돌아갔다. 이날 승리로 LAFC의 스티브 체룬돌로 감독은 2022년 1월 지휘봉을 잡고 나서 통산 100승(36무 9패)째를 달성하는 기쁨을 맛봤다. psoq1337@newspim.com 2025-09-28 11:52