[베이징=뉴스핌] 최헌규 베이징 특파원= 미중 인공지능(AI) 기술 패권 경쟁이 계속되는 가운데 양국이 경쟁 자체를 해소하기에 앞서 AI가 초래할 수 있는 위험을 함께 관리하기 위한 '공통 언어'를 먼저 만들자고 중국측이 제안했다.

30일 SCMP에 따르면 중국 국가안전부와 연계된 중국현대국제관계연구원(CICIR)은 미·중이 AI 위험에 대한 공동 인식을 구축하고, 기술 경쟁이 심화하더라도 유지될 수 있는 최소한의 위험관리 체계를 마련해야 한다고 제언했다.

이번 제안은 시진핑 중국 국가주석과 도널드 트럼프 미국 대통령이 최근 정상회담에서 AI의 위험과 혜택에 대해 의견을 교환하고, AI 관련 사고에 대응하기 위한 양국 간 소통 채널을 구축하기로 합의한 직후 나왔다. 양국의 차기 AI 대화는 11월 열릴 예정이다.

CICIR 과학기술·전략연구센터의 류충 주임은 AI 대화의 출발점으로 새로운 AI 위험에 대한 양국의 공통된 이해를 구축하고, 이를 토대로 신뢰를 점진적으로 쌓아야 한다고 주장했다.

그는 AI 기술의 급속한 발전으로 안전과 위험을 가르는 명확한 '한계선'을 설정하기 어렵다며 추상적인 '레드라인'을 정하기보다는 위험의 변화에 따라 대응 수준을 조정하는 동적 시스템을 구축해야 한다고 제안했다. 특히 이른바 '초지능' 위험이 빠르게 변화하는 만큼 포괄적인 규칙을 한꺼번에 마련하기보다 상호 이해를 높이는 것이 국제 AI 거버넌스의 우선 과제가 돼야 한다고 강조했다.

양국이 같은 AI 산업정책을 채택하거나 핵심 기술과 모델 파라미터를 공유할 필요는 없다는 점도 분명히 했다. 대신 정부와 기업, 연구자들이 함께 이해할 수 있는 공통된 위험 용어와 기준을 마련해야 한다는 것이다.

예를 들어 AI의 자율적 행동 가운데 어느 수준부터 위험한 자율성으로 볼 것인지, 어떤 모델의 행동을 보안사고로 규정할 것인지, 위험이 커질 경우 AI 학습을 늦추거나 중단해야 하는 시점은 언제인지 등에 대한 공통된 판단 기준이 필요하다고 제안했다.

이는 미국이 중국의 첨단 반도체와 AI 기술 접근을 제한하는 등 기술 경쟁을 강화하는 상황에서 나온 제안이다. CICIR은 동시에 최첨단 AI 기업에 대한 감독도 강화해야 한다고 주장했다. 소수의 선도 기업이 AI 거버넌스의 방향을 사실상 결정해서는 안 된다는 취지다.

류 주임은 특히 미국의 최첨단 AI 모델 상당수가 폐쇄형으로 운영되고 있어 외부의 우려가 커지고 있다며 미국 기업들이 AI 위험 관련 정보 공개를 주도해야 한다고 주장했다. 최근 미국에서는 중국과의 기술 격차를 유지하고 첨단 AI 반도체 및 장비에 대한 대중국 수출 규제를 계속해야 한다는 주장도 제기되고 있다.

중국 측이 제시한 구상의 핵심은 기술 경쟁과 AI 위험관리를 분리하는 것이다. 양국의 기술 경쟁이 계속되거나 오히려 격화되더라도 AI 위험을 관리하기 위한 최소한의 협력 틀은 유지해야 한다는 주장이다. 류 주임은 이를 위해 양국이 협력할 수 있는 '신뢰의 공간'을 확보하는 것이 핵심이라고 강조했다.

아울러 AI 안전 기술과 역량을 국제사회가 폭넓게 활용할 수 있도록 하는 글로벌 차원의 AI 거버넌스도 필요하다고 제안했다. 성숙하고 범용성이 높은 AI 안전 역량은 공공재로 전환해 방어적 안전장치 확산에 활용해야 한다는 것이다.

 [베이징=뉴스핌] 최헌규 베이징 특파원 chk@newspim.com