[서울=뉴스핌] 오영상 기자 = 일본 정부가 인공지능(AI) 시대의 새로운 안보 위협에 대응하기 위해 AI 정책의 대대적인 손질에 나섰다. 특히 AI를 활용한 사이버 공격 가능성이 현실화되고 있다는 판단 아래 정부 차원의 성능 검증 체계를 구축하고 국제 공조를 강화하는 방안을 핵심 과제로 제시했다.

19일 요미우리신문 등에 따르면 일본 정부는 최근 AI 정책의 최상위 지침인 'AI 기본계획' 개정안을 마련하고 7월 각의(국무회의) 의결을 추진하고 있다. 지난해 12월 기본계획을 처음 수립한 이후 불과 반 년 만의 개정이다.

AI 기술 발전 속도가 정부의 정책 수립 주기를 앞지르고 있다는 위기 의식이 반영된 결과로 풀이된다.

이번 개정안의 가장 큰 특징은 AI를 활용한 사이버 공격 위험을 국가 차원의 안보 문제로 규정했다는 점이다.

생성형 AI가 단순한 정보 생성 단계를 넘어 컴퓨터 시스템의 취약점을 스스로 분석하고 공격 경로를 탐색하는 수준으로 발전하면서 기존 보안 체계만으로는 대응이 어렵다는 판단이 깔려 있다.

일본 정부가 경계심을 높인 배경에는 최근 공개된 차세대 AI 모델들의 능력 향상이 있다. 특히 일부 최신 모델들은 소프트웨어의 보안 취약점을 찾아내거나 복잡한 시스템 구조를 분석하는 능력에서 인간 전문가에 근접하거나 일부 영역에서는 이를 뛰어넘는 성과를 보이고 있다.

AI가 보안 전문가를 돕는 도구가 될 수도 있지만, 반대로 악의적인 공격자의 손에 들어갈 경우 대규모 사이버 공격을 가속화할 수 있다는 우려도 커지고 있다.

이에 따라 일본 정부는 2024년 설립한 AI 안전성 평가 기관인 'AI 세이프티 인스티튜트'를 중심으로 국내외 최신 AI 모델의 보안 성능을 검증하는 체계를 구축할 방침이다. 주요 AI 개발 기업은 물론 해외 정부 기관과의 협력도 확대해 최신 모델에 대한 접근성을 확보하고 위험성을 사전에 분석하겠다는 구상이다.

이는 AI 규제와 육성 사이에서 균형점을 찾으려는 일본의 전략과도 맞닿아 있다. 미국과 중국이 AI 패권 경쟁을 벌이는 가운데 일본은 국제 규범 형성과 안전성 검증 분야에서 주도권을 확보하려 하고 있다.

AI 기술 자체의 경쟁력에서는 뒤처질 수 있지만, 안전성과 신뢰성 확보 분야에서는 영향력을 확대할 수 있다는 계산이다.

개정안은 동시에 AI 활용 확대의 필요성도 강조했다. 인간의 세부 지시 없이 목표를 설정하고 과업을 수행하는 '자율행동형 AI(에이전트 AI)'가 세계적으로 빠르게 확산되고 있으며, 이를 얼마나 빨리 산업 현장에 적용하느냐가 국가 경쟁력을 좌우할 것이라고 평가했다.

AI를 단순한 생산성 향상 도구가 아니라 경제 성장과 산업 경쟁력의 핵심 인프라로 인식하고 있는 것이다.

다만 일본 정부는 AI 의존이 초래할 수 있는 부작용에도 주목했다. 개정안에는 처음으로 'AI 의존으로 인해 인간의 사고력과 판단력이 퇴화하지 않도록 하는 교육 환경 정비'가 포함됐다. AI 활용 능력을 높이는 동시에 비판적 사고와 문제 해결 능력을 유지하는 교육이 필요하다는 의미다.

결국 일본 정부가 이번 개정안을 통해 보여준 메시지는 명확하다. AI를 국가 경쟁력의 핵심 동력으로 육성하되, 동시에 AI가 초래할 수 있는 안보 위협과 사회적 부작용에 대한 방어 체계도 함께 구축하겠다는 것이다.

AI가 산업 정책의 영역을 넘어 국가 안보와 교육 정책까지 뒤흔드는 시대가 본격적으로 시작되고 있음을 보여주는 대목이다.

goldendog@newspim.com