[서울=뉴스핌] 오상용 기자 = 미국 정부가 새로 출시되는 첨단 인공지능(AI) 모델에 적용할 표준안 마련에 박차를 가하고 있다고 1일(현지시간) 영국 파이낸셜타임스(FT)가 보도했다. 해당 표준안은 이르면 다음주 발표될 예정이다.

신문에 따르면 최근 오픈AI와 앤스로픽 등 AI모델 개발사들과 미국 정부 관리들은 고도화된 AI모델 출시와 관련한 표준안 마련을 위해 협의를 진행했다. 여기에는 첨단 사이버 공격 역량을 보유한 모델에 대한 기준과 향후 출시 일정을 간소화하기 위한 모델 검증 및 공개 프로세스 표준화 등의 내용이 담길 것으로 알려졌다.

AI 모델 개발사들 사이에 경쟁이 심화하고 국가안보와 사이버 보안에 위협이 될 능력을 갖춘 AI모델들이 등장하면서 안전성 검증과 평가를 위한 표준안 마련의 필요성은 커지고 있다.

정부와 업계의 최근 논의도 그 일환인데, 이는 지난달 도널드 트럼프 대통령이 서명한 AI 행정명령의 후속 조치이기도 하다. 지난 6월 2일 트럼프 대통령은 행정명령에서 "인공지능 모델의 첨단 사이버 (해킹 및 공격) 능력을 검증하고 평가하기 위한 프로세스(classified benchmarking process: 기밀 벤치마킹 프로세스)를 수립하고 유지할 것"이라고 밝혔다.

시장의 관점에서는 오픈AI와 앤스로픽의 증시 상장(IPO)을 앞두고 당국 규제 방향에 대한 투자자들의 불확실성을 줄이려는 의도도 반영됐다. 트럼프 행정부는 앤스로픽의 최신 모델인 미토스와 페이블의 사이버 공격 능력을 우려해 지난 6월 접근권을 제한하는 수출통제 조치를 취했다가, 7월초 이를 해제했다. 그 과정에서 AI업계 내부의 혼란과 반발도 컸다.

다음주 공개될 표준안에서 어떤 AI 모델이 '프런티어(frontier)'로 분류될지도 관심사다. 이는 최고 수준의 성능을 의미하는 동시에, 사이버 공격 악용 가능성 등 가장 큰 위험을 내포한 모델을 지칭한다. 정부와 기업은 현재 모델 검증 기간, 위험 평가 기준, 출시 승인 절차 등을 놓고 세부 조율을 진행 중이다.

한편 국가안보국(NSA)과 AI 표준·혁신 센터가 기준 설정 및 감독에서 주요 역할을 맡을 것으로 알려지면서, AI 정책이 기술 규제를 넘어 안보 프레임으로 확장되고 있다는 평가도 나온다. 미국 정부는 향후 첨단 AI 모델 접근 권한에 대한 통제 기준도 마련할 계획인데, 이는 동맹국을 포함한 글로벌 규범으로 이어질 수 있다.

다만 업계 일각에서는 이러한 정부 개입이 미국의 혁신 속도를 저해할 수 있다는 우려도 나온다. 어떤 형태로든 통제장치가 가동되면 중국과의 기술 경쟁에서 밀릴 수 있어서다. 

때문에 오픈AI의 샘 올트먼 대표(CEO)는 최근 "AI 역량과 위험을 객관적으로 평가할 글로벌 프레임워크가 필요하다"며 국제 공조의 필요성을 강조했다. 그는 명확한 기준이 마련돼야만 AI 기술의 혜택이 전 세계적으로 확산될 수 있다고 밝혔다.

osy75@newspim.com