정부와 공공기관에도 인공지능 도입이 빠르게 확대되고 있다. 최근 들어 각종 공공기관에서 7월 22일 인공지능기본법 시행령이 전면 시행되면서 민원 상담, 복지 대상자 발굴, 부정수급 탐지, 범죄예측, 의료·교육 지원, 문서 작성과 정책 분석과 관련하여 인공지능을 도입한 분야마다 "교수님 저희 인공지능은 고영향 인공지능인가요"라고 묻는다. 최근에는 여러 시스템을 스스로 호출하고 업무를 수행하는 에이전틱 AI까지 공공영역에 진입하면서 인간의 사정을 고려하지 않는 전반적인 행위가 인권과 관련이 있는지까지 토론이 이어지고 있다.

그러나 공공기관이 AI를 조달하면서 정작 그 AI가 어떤 데이터로 만들어졌는지, 어떤 기반모델과 소프트웨어가 사용되었는지, 언제 어떤 방식으로 변경되었는지 충분히 확인하지 못하는 경우가 적지 않다. AI 서비스의 가격과 기능은 심사하면서도 AI를 구성하는 데이터·모델·라이브러리·외부 도구·가중치 계보와 보안조치에 대해서는 공급자의 설명에 의존하는 것이다.자동차를 구매하면서 제조번호와 부품 정보를 확인하고, 식품을 구매하면서 원재료와 알레르기 성분을 확인하는 것과 비교하면 이례적이다. 특히 국민의 권리와 안전에 영향을 미치는 공공 AI라면 "무엇으로 만들어졌는지"를 확인할 수 있어야 한다.

이 문제를 해결하기 위해 공공 AI 조달에 '인공지능 구성요소 명세서', 즉 AI-BOM(Artificial Intelligence Bill of Materials) 제출을 단계적으로 의무화할 필요가 있다. AI-BOM은 AI 시스템을 구성하는 데이터셋, 모델, 소프트웨어, 학습환경, 외부 서비스와 변경이력을 구조화된 형식으로 기록한 문서 또는 기계판독형 파일이다. AI-BOM은 단순한 모델 설명서나 제품소개서와 다르다. 모델카드가 특정 모델의 목적, 성능, 한계와 평가 결과를 설명하는 문서라면, AI-BOM은 AI 시스템의 공급망과 계보를 추적하기 위한 구조화된 명세다. 데이터카드, 모델카드, 시스템카드, 보안성적서와 평가보고서를 연결하는 '상위 인덱스'라고 볼 수 있다.

이 때 고영향에 해당하는 '모델 가중치 이력 공개'는 가중치 파일 자체를 일반에 공개하라는 의미가 아니다. 영업비밀과 보안 위험을 고려해 모델의 버전, 계보, 해시값, 변경 시점과 변경 승인기록을 검증 가능하게 보관하자는 것이다. 국가기관이나 전문 평가기관이 필요한 경우 제한된 환경에서 확인할 수 있도록 하면 된다. 또한 AI 조달에 있어 학습데이터도 원문 전체를 공개하도록 해서는 안 된다.

데이터셋의 명칭, 출처 범주, 권리 또는 이용근거, 수집 기간, 개인정보 포함 여부, 정제 과정 등을 단계별로 제출하고, 고위험 시스템에 대해서만 감독기관이 상세자료를 비공개로 확인하는 방식이 적절하다. 따라서 AI-BOM에는 공공데이터 개방정책에 있어 공개등급도 필요한데 제1등급은 국민에게 공개하는 기본정보, 제2등급은 조달기관과 수요기관에 제출하는 계약·운영정보, 제3등급은 감독기관과 평가기관만 열람하는 제한정보, 제4등급은 영업비밀·국가안보 등을 이유로 암호화해 보관하는 증빙자료가 되어야 한다.

핵심은 모든 정보를 무조건 공개하는 것이 아니라, 필요한 기관이 필요한 범위에서 검증할 수 있도록 만드는 것이다. 미국 CISA는 2026년 5월 「Software Bill of Materials for AI—Minimum Elements」를 공개했다. 이는 기존 SBOM을 AI 시스템에 적용할 때 필요한 최소 요소를 구체화하려는 움직임이다. 이제 "AI에도 BOM이 필요한가"를 논의할 단계가 아니라, "어떤 요소를 어떤 형식과 수준으로 제출하게 할 것인가"를 결정해야 할 시점이 된 것이다.

모든 AI에 같은 수준의 AI-BOM과 심사를 요구하면 행정부담이 지나치게 커지고, 중소기업의 공공시장 진입을 막을 수 있다. 따라서 AI가 미치는 영향과 자율성에 따라 제출항목과 검증수준을 차등화해야 한다. 특히 에이전틱 AI는 단순히 답변을 생성하는 AI와 위험구조가 다르다. 외부 데이터베이스를 검색하고, 이메일이나 공문을 전송하며, 다른 프로그램을 실행하고, 경우에 따라 결제·계약·계정변경까지 수행할 수 있다. 잘못된 답변을 내놓는 데 그치지 않고 실제 행정행위에 가까운 결과를 발생시킬 수 있다는 뜻이다.

그러므로 AI-BOM 제도를 여러 기관이 각각 추진하면 기업은 유사한 자료를 반복 제출하고, 기관마다 다른 양식으로 심사받게 된다. 그렇다고 모든 업무를 한 기관에 집중시키는 것도 현실적이지 않다. 필요한 것은 '단일 컨트롤타워와 기능별 분업'이다. 이에 국가인공지능위원회 또는 국무조정실이 범정부 정책을 조정하고, 과학기술정보통신부가 AI-BOM 제도의 주무부처를 맡는 방식을 제안한다.

다만 실제 조달, 표준화, 보안검증과 운영관리는 각 전문기관이 담당해야 한다. 즉, 조달청이 문을 지키고, 과기정통부가 기준을 만들며, KISA(한국인터넷진흥원)이 보안을 검증해야 한다. AI-BOM의 목적은 AI 기업에 새로운 서류를 하나 더 요구하는 것이 아니다. 공공기관이 자신이 구매하고 운영하는 AI의 구성과 위험을 이해하도록 만드는 데 있다.

동시에 책임 있는 데이터 관리와 모델 개발에 투자한 기업이 공공시장에서 정당하게 평가받도록 하는 산업정책이기도 하다. 지금까지 공공 AI 조달은 기능, 가격, 실적 중심으로 이루어졌다. 앞으로는 출처와 계보, 안전성과 변경관리 능력까지 제품의 품질로 평가해야 한다. 데이터의 적법성을 확인하고, 모델 변경이력을 관리하며, 사고 발생 시 원인을 추적할 수 있는 기업이 더 높은 평가를 받는 시장을 만들어야 한다.

*박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 공공기관 대상 법령입안강의를 하며, 대학에서 특허법, 저작권법, 산업보안법, 과학기술법, 정보보안법, 디지털증거법, ICT트러스트공학, 일반 산업안전, 중대재해법 등을 강의한다. 한국인터넷진흥원, 한국콘텐츠진흥원, 인텔리콘 메타연구소, 해인예술법연구소, 숙명여대 초빙교수, 단국대 연구교수 등을 역임했다.