AI 핵심 요약
beta- 프랑스, 2024년 12월 AI 이미지 표시 법안 제출했다
- 실제 오인 큰 합성사진에 선별적 표시를 제안했다
- 한국은 기존 AI법 점검해 고위험 이미지 규율해야 했다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
사진 한 장은 긴 설명보다 빠르게 사람을 설득한다. 재난 현장처럼 보이는 이미지, 실제 인물의 발언을 암시하는 합성 사진, 존재하지 않는 상품을 착용한 모델의 모습은 보는 사람이 출처를 확인하기 전에 이미 인상을 남긴다. 생성형 인공지능으로 이미지를 만드는 일이 쉬워진 지금, "이 장면이 실제로 촬영되었는가"라는 질문은 소비자와 시민의 판단에 중요한 정보가 되었다.
프랑스는 「공중보건법」 제L.2133-2조, 즉 「신체 외형이 수정된 모델의 상업용 사진에 관한 2017년 5월 4일 제2017-738호 시행령에서 연장선상으로 상업용 모델 사진에서 몸매를 더 마르거나 뚱뚱하게 보이도록 수정했다면 '보정된 사진'임을 표시하도록 해 왔던 규정이 있었다.
이후 프랑스 하원에는 2024년 12월, 소셜네트워크에 게시되는 AI 생성·수정 이미지를 식별하도록 하는 법안 제675호가 제출되었는데, 이 법안은 게시자에게 AI 사용 사실을 명확하고 눈에 띄게 알리도록 하고, 플랫폼에는 탐지·표시 확인 수단과 신고 기능을 마련하도록 제안한다. 위반 시 게시자에게 3,750유로, 플랫폼에 5만 유로의 벌금을 부과하는 내용도 담겼다. 이는 제출된 법안의 내용이지, 현재 시행 중인 프랑스의 일반적 이미지 표시 의무는 아니다.
프랑스는 EU 인공지능법 집행국가가 아니냐는 질문이 있을 수 있다. 제50조의 AI 생성 콘텐츠의 기계 판독 가능한 식별과 딥페이크 등의 공개 의무를 규정하지만, 모든 이용자가 올리는 모든 AI 이미지에 일률적으로 같은 문구를 붙이라는 규정은 아니다.
콘텐츠의 성격과 의무를 지는 주체에 따라 적용 방식이 달라진다. 프랑스 법안의 의의는 바로 그 틈, 즉 일반 이용자의 소셜미디어 게시와 플랫폼의 역할을 더 구체적으로 규율하려 했다는 데 있다. 그렇다면 우리도 프랑스 법안과 같은 법이 필요한가. 표시 원칙은 필요하지만, 법안을 그대로 옮겨오는 방식은 적절하지 않다.
우리나라에는 이미 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조의 투명성 의무가 시행되고 있다. 먼저 이 조항과 시행령이 AI 사업자에게 요구하는 고지·표시의 범위를 확인하고, 실제 유통 단계에서 이용자가 알아야 할 정보가 빠지는지 살펴야 한다.
새로운 법은 그 공백이 확인되는 곳에 맞추어 설계하는 편이 합리적이다. 'AI로 수정한 이미지'라는 말의 범위는 사진의 밝기를 자동 조절하거나 배경의 작은 흠을 지운 경우까지 모두 같은 경고문을 붙이게 하면 표시는 넘쳐나고 정작 중요한 경고의 효과는 약해진다.
반면 존재하지 않는 사건을 실제 보도사진처럼 제시하거나, 실존 인물이 하지 않은 행동을 한 것처럼 꾸민 이미지에는 분명한 표시가 필요하다. 기준은 AI 사용 여부 하나가 아니라 현실에 대한 오인을 일으킬 가능성과 그로 인한 피해가 되어야 한다.
이를 위해 입법 대상을 단계적으로 정할 수 있다. 선거·재난·범죄·보건처럼 공적 판단에 영향을 주는 사실적 합성 이미지에는 눈에 띄는 표시를 요구한다.
실존 인물의 얼굴이나 신체를 합성한 이미지에는 초상과 인격 보호를 함께 고려한다. 광고와 상품 소개에는 소비자의 구매 판단을 왜곡하는지를 살핀다. 소설 삽화나 명백한 판타지 그림처럼 허구임이 분명한 표현에는 동일한 수준의 의무를 부과할 이유가 약하다.
예술·풍자·창작 활동의 자유를 지키면서도, 실제 기록처럼 받아들여질 위험이 큰 이미지에 규제의 힘을 집중해야 한다.
플랫폼의 책임도 '모든 AI 이미지를 완벽하게 탐지하라'는 명령으로 정해서는 실효성이 떨어진다. 이미지가 압축되거나 다시 촬영·편집되면 기술적 식별 정보가 사라질 수 있고, 자동 판별에는 오류가 따른다.
플랫폼에는 게시자가 표시를 쉽게 할 수 있는 입력 기능, 이용자가 표시 내용을 확인할 수 있는 화면, 의심 콘텐츠의 신고·정정 절차를 우선 요구하는 것이 타당하다. 탐지 도구는 이를 보조할 수 있지만, 탐지 결과만으로 게시자의 위반을 확정해서는 안 된다.
출판물에 대해서는 한 가지를 더 구별해야 한다. 프랑스 국립도서관의 법정 납본은 출판물을 수집·보존하는 제도다. 책이 AI를 이용해 제작되었다는 이유만으로 납본 대상에서 빠지는 것은 아니지만, 납본 의무 자체가 일반적인 'AI 제작 도서 신고 의무'를 뜻하지는 않는다.
독자에게 AI 활용 사실을 알릴 필요가 있다면 책의 표지, 판권면, 상품 정보 등 독자가 책을 선택하고 읽는 자리에서 표시 방식을 논의해야 한다. 납본 제도를 독자 고지 제도와 혼동해서는 안 된다.
우리에게 필요한 것은 이미지마다 'AI'라는 딱지를 붙이는 법이 아니다. 사람이 무엇을 실제 장면으로 믿고 판단할 가능성이 있는지 살펴, 그 판단에 필요한 정보를 제때 제공하는 법이다. 그러므로 프랑스의 '보정 사진 규제와 소셜미디어 법안'은 그 출발점을 보여준다.
우리나라는 기존 인공지능법의 이행 상황을 점검하면서 고위험의 사실적 합성 이미지, 광고, 출판물의 독자 고지를 각각의 맥락에 맞게 설계해야 한다. 표시의 목적은 창작을 의심하게 만드는 데 있지 않다. 보는 사람이 이미지의 제작 경위를 알고 스스로 판단할 수 있게 하는 데 있다는 것을 잊어서는 안될 것이다.
*박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 공공기관 대상 법령입안강의를 하며, 대학에서 특허법, 저작권법, 산업보안법, 과학기술법, 정보보안법, 디지털증거법, ICT트러스트공학, 일반 산업안전, 중대재해법 등을 강의한다. 한국인터넷진흥원, 한국콘텐츠진흥원, 인텔리콘 메타연구소, 해인예술법연구소, 숙명여대 초빙교수, 단국대 연구교수 등을 역임했다.
