[뉴욕=뉴스핌] 김민정 특파원 = 미국 정부가 오는 4일(현지시간) 백악관에서 인공지능(AI) 기업들과 만나 자율적인 AI 모델 안전성 시험을 위한 새로운 미국식 체계를 논의한다.

3일 블룸버그통신과 로이터통신에 따르면 오픈AI와 앤스로픽, 구글, 메타플랫폼스가 이 자리에 참석할 예정이다.

백악관 관계자는 이날 행정부가 미국 최첨단 AI 모델의 해킹 능력을 측정하는 자율 사이버보안 시험의 세부 내용을 확정했으며, 이를 AI 업계와 논의할 계획이라고 밝혔다. 다만 결과를 어떻게 보고할지, 어떤 지표를 쓸지, 공개 여부는 어떻게 되는지 등은 즉각 설명하지 않았다.

이번 회의는 최근 잇따른 보안 사고 이후 열린다. 앤스로픽은 지난주 자사 AI 모델 일부가 사이버보안 시험 과정에서 세 개 기업의 시스템에 침입했다고 밝혔다. 앞서 오픈AI는 자사 AI 에이전트 하나가 시험 환경을 벗어나 AI 기업 허깅페이스의 시스템을 해킹했다고 보고했다.

이번 체계는 지난 6월 도널드 트럼프 대통령이 서명한 AI 사이버보안 행정명령에서 비롯됐다. 해당 명령은 모델 안전성 검토에 대해 기업이 자발적으로 참여하는 방식을 제시하고, 핵심 전산 시스템 보호를 강화하도록 했다. 체계는 아직 공개되지 않았으며, 일부 기준은 비공개로 유지될 것이라고 트럼프 대통령의 명령은 밝혔다.

이 문제는 4월부터 본격화했다. 앤스로픽이 자사 미토스(Mythos) 모델이 컴퓨터 취약점을 찾아내는 데 능하다고 경고하며 공개를 엄격히 제한하면서다.

지난 6월에는 상무부가 앤스로픽에 가장 강력한 모델 두 개를 외국인과 공유하지 못하도록 금지했다. 안전 장치가 우회될 수 있다는 우려에서였다. 회사는 페이블 5 모델과 선별적으로 공유해 온 미토스 5 모델의 접근을 일시 차단했다가, 행정부의 요구를 반영해 수정한 뒤 재개했다.

오픈AI와 앤스로픽은 그동안 AI 안전성 검토 방식이 일관되지 않다고 불만을 제기해 왔다. 두 회사는 이번 체계가 애초 자발적 프로그램으로 제시됐던 절차에 더 큰 일관성을 부여하기를 기대하고 있다.

업계의 불만에 대응해 스콧 베선트 재무장관은 기업들이 안전성 검토에 상당한 발언권을 갖는 독립 규제기관 설립을 제안했다. 블룸버그 보도에 따르면 이는 금융산업규제국(FINRA)과 비슷한 체계를 AI 산업에 적용하는 방식이다.

이번 논의는 트럼프 대통령이 시진핑 중국 국가주석과 워싱턴에서 정상회담을 갖기 두 달도 남지 않은 시점에 열린다. 이 회담에서는 두 경제 대국의 AI 주도권 경쟁이 핵심 의제가 될 전망이다.

미국 당국자들은 미국 연구소들의 최고 수준 제품에 필적하는 중국 기업들의 AI 모델이 쏟아지는 상황에 어떻게 대응할지 고심하고 있다. 지난달 중국 스타트업 문샷AI가 내놓은 키미 K3 모델은 미국의 AI 우위가 지속될 것이라는 투자자들의 신뢰를 흔들었다. 수천억 달러에 이르는 데이터센터 투자에 대한 의문도 함께 키웠다. 키미는 미국 최상위 제품의 몇 분의 일 가격으로 일부 영역에서 비슷한 성능에 근접했다.

mj72284@newspim.com