최근 앤트로픽 최고경영자 다리오 아모데이는 AI 모델의 역량 발전 속도를 늦출 필요가 있다고 주장했다. AI가 차세대 AI를 개발하는 재귀적 자기개선이 적절히 통제되지 않으면 인간의 이해와 통제 능력을 넘어설 수 있다는 우려에서다. 이 경고는 미래의 초지능에만 해당하지 않는다. 지금 사용하는 AI가 어떤 자료에 접근하고 누구에게 무엇을 보여 주는지부터 살펴야 한다.

검색증강생성, 즉 RAG는 외부 자료를 검색하여 답변 생성에 활용한다. 출판사의 도서나 연구기관의 논문·보고서를 연결하면 축적된 지식을 효율적으로 이용하고 답변의 정확성과 최신성을 높일 수 있다. 그러나 검색할 수 있다는 사실과 그 자료를 이용할 권한이 있다는 사실은 다르다.

RAG의 가장 중대한 법적 위험은 자료의 접근권한이 복제·가공·외부 제공의 권한으로 확대되는 과정에서 권리의 경계가 사라질 수 있다는 점이다. 공개된 저작물에서는 무단 이용이, 내부 문서에서는 개인정보와 비밀의 유출이 문제된다. 모두 "읽을 수 있으니 AI가 활용해도 된다"는 잘못된 전제에서 출발한다.

인터넷에서 누구나 읽을 수 있는 글이라도 대량으로 수집·저장하고 검색용 데이터베이스로 가공하며 답변에서 원문을 제공하는 행위까지 자유롭게 허용되는 것은 아니다. 접근, 복제·저장, 외부 AI 전송, 답변 제공의 각 단계에서 적법성을 검토해야 한다. 모델을 추가 학습시키지 않았더라도 자료의 복제와 제공에 관한 문제는 남는다.

물론 모든 RAG 이용이 저작권 침해라는 뜻은 아니다. 보호되는 표현의 이용 여부, 계약상 허락, 인용·공정이용의 성립 가능성에 따라 판단은 달라진다. 다만 "검색 서비스일 뿐"이라는 설명만으로 이러한 검토를 생략할 수는 없다.

출판 현장에서는 보유한 파일과 행사할 수 있는 권리는 구별되어야 한다. 종이책 출판이나 전자책 전송을 허락받았다고 해서 저작물 전체를 AI 기업의 검색·답변 서비스에 제공할 권한까지 자동으로 생기지 않는다. 저자와의 계약을 확인하고 필요한 경우 RAG 이용의 목적, 대상 자료, 제공기업, 기간과 보상조건을 별도로 합의해야 한다. 번역문·삽화·사진 등의 권리도 함께 확인해야 한다.

출처 표시 역시 이용허락을 대신하지 못한다. 저자명과 링크를 붙였더라도 책의 상당 부분을 보여 주거나 반복적인 질문으로 원문을 복원할 수 있다면 문제가 될 수 있다. 답변 서비스가 원문 구매·구독을 대체하는 정도도 중요한 판단요소다. 시장 대체만으로 침해가 확정되지는 않지만, 콘텐츠 생산자의 권리와 보상을 논의할 때 간과할 수 없다.

개인정보와 비밀정보에서는 피해가 더욱 직접적이다. 사내 AI가 일반 직원의 질문에 인사평가, 저자 계약금, 미공개 원고를 보여 주는 경우를 생각해 보자. 회사가 적법하게 보유한 자료라도 모든 직원이 열람할 수 있는 것은 아니다. 여러 문서의 일부를 조합한 답변이라는 이유로 접근제한이 사라져서도 안 된다.

따라서 이용자의 권한은 검색 단계부터 반영되어야 한다. 제한된 자료를 먼저 읽게 한 뒤 "비밀을 답하지 말라"고 지시하는 것만으로는 부족하다. 원문 삭제나 권한 변경이 검색용 복제본에도 반영되어야 하며, 외부 AI 서비스로 자료를 보낼 때에는 전송의 적법성과 보관·재사용 조건을 확인해야 한다.

이것이 AI 통제가능성의 구체적인 내용이다. 모델의 내부 계산을 완전히 이해하기 어렵더라도 어떤 자료를 연결할지, 누구에게 접근을 허용할지, 어느 범위까지 답변하게 할지, 위반 시 어떻게 중단·삭제할지는 설계할 수 있다. 기술의 불투명성이 필요한 통제조치를 소홀히 한 책임까지 없애지는 않는다.

근거가 붙은 답변의 오류도 관리해야 한다. RAG는 폐지된 법령을 검색하거나 정확한 자료의 취지를 잘못 해석할 수 있다. 출처의 존재가 답변의 정확성을 보증하지는 않는다. 오히려 이용자의 신뢰를 높이는 만큼 자료 갱신, 인용 검증과 오류 정정 절차가 중요하다.

책임은 각 주체의 권한과 역할에 맞추어 살펴야 한다. 자료 제공자는 제공권한을 확인하고, 운영자는 접근통제와 출력범위를 설계하며, 도입기관은 검수절차를 마련해야 한다. 구체적인 책임은 법률과 계약, 고의·과실 및 인과관계에 따라 판단하되, 실제로 위험을 예방하고 중단할 수 있었던 주체를 확인해야 한다.

AI를 정면으로 응시한다는 것은 그 가능성과 함께 권리의 이동 과정을 살피는 일이다. 검색할 수 있다고 이용할 권리가 생기지 않고, 출처를 표시했다고 허락이 대체되지 않으며, 자료를 보유한다고 누구에게나 공개할 수 있는 것도 아니다. 신뢰할 수 있는 AI는 답변의 근거뿐 아니라 그 근거를 이용하고 제공할 권한까지 설명할 수 있어야 한다.

*박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 공공기관 대상 법령입안강의를 하며, 대학에서 특허법, 저작권법, 산업보안법, 과학기술법, 정보보안법, 디지털증거법, ICT트러스트공학, 일반 산업안전, 중대재해법 등을 강의한다. 한국인터넷진흥원, 한국콘텐츠진흥원, 인텔리콘 메타연구소, 해인예술법연구소, 숙명여대 초빙교수, 단국대 연구교수 등을 역임했다.