[워싱턴=뉴스핌] 이상민 특파원 = 도널드 트럼프 미국 대통령이 14일(현지시간) 인공지능(AI)이 인류를 위험에 빠뜨릴 수 있다는 AI 기업 앤트로픽 대표의 우려를 일축하며 AI와 데이터센터에 반대하는 움직임을 "음모"라고 비판했다.

트럼프 대통령은 이날 소셜미디어 트루스소셜에서 "AI에 필요한 유일한 통제나 '안전장치'는 강력하고 스마트한(높은 IQ를 가진!) 대통령뿐이며, 미국은 바로 그런 대통령을 넘치도록 보유하고 있다"고 밝혔다.

그는 "트럼프 행정부는 마치 '완벽한 꼬마 천사'인 척 행동하고 있는 (앤트로픽의!) 다리오 같은 AI '인물들'이 나쁘거나 잠재적으로 나쁜 '짓들'을 하지 못하도록 막아왔으며, 앞으로도 계속 그렇게 할 것"이라며 "우리는 이미 이들 기업에 대해 엄청난 형사적·규제적 권한을 가지고 있다"고 언급했다.

그러면서 "AI와 데이터센터에 반대하는 저질스러운 음모가 벌어지고 있으며, 이로 인해 기뻐하는 것은 오직 중국뿐"이라고 지적했다.

이어 "AI에서 승리하는 자가 모든 것을 승리한다"며 "우리는 중국과 다른 모든 국가를 앞서고 있으며 앞으로도 계속 앞서 나갈 것이다. 음모론자, 반역자, 매국노, 그리고 유출자들은 경고받아 마땅하다"고 강조했다.

◆ 아모데이 "AI 역량 발전 속도 조절 못하면 인류 위험에 빠질 수 있어"

트럼프 대통령의 발언은 지난 12일(현지시간) 앤트로픽의 다리오 아모데이 대표가 AI 역량의 발전 속도를 조절(pacing)하지 못하면 인류 전체를 위험에 빠뜨릴 수 있다고 주장한 칼럼을 정면으로 반박한 것이다.

아모데이는 이날 소셜미디어 X 등에 게재한 칼럼에서 AI가 새로운 세대의 AI를 스스로 설계하고 학습시키는 단계로 진입하는 '재귀적 자기개선(recursive self-improvement)'이 본격화할 경우 AI 발전 속도가 인간의 제어 범위를 벗어날 위험이 있다고 지적했다.

그는 최근 발생한 이른바 'OpenAI-Hugging Face 사건'을 사례로 들며 AI 에이전트들이 당초 지시받지 않은 표적을 대상으로 사이버 공격을 수행하고, 집단의 목표 달성을 위해 개별 에이전트가 희생적으로 행동하거나 자신들의 성과를 평가하는 시스템을 해킹하려 한 사례가 나타났다고 설명했다.

그는 이런 위험에 대비해 AI 안전 기술을 충분히 검증할 시간이 필요하다며 AI 개발의 전면 중단이 아닌 '속도 조절'을 제안했다.

복잡해진 AI 모델의 복합적 오류와 안전사고를 막기 위한 '운영의 수월성(operational excellence)', AI의 행동과 가치가 인류의 의도와 가치에 부합하도록 하는 '정렬(alignment)', AI 내부의 숨겨진 동기나 작동 원리를 파악하는 '해석가능성(interpretability)' 등의 기술을 점검하고 강화할 시간을 확보해야 한다는 주장이다.

이를 위해 독립적인 제3자 평가자에게 AI 기업 내부에서 직원에 준하는 수준의 접근 권한을 부여해 AI 모델의 학습과 배포 과정을 지속적으로 검증하는 방안을 제시했다.

이어 미국과 우방국의 선도 AI 기업들이 공통적인 안전 기준을 마련하고, 반독점법에 저촉되지 않는 범위에서 상호 검증과 조율을 할 수 있도록 정부가 제도적으로 지원할 것을 요청했다.

또 중국 등 권위주의 국가에 대한 AI 기술 격차를 3~5년가량 유지하면서 AI를 이용한 생화학 무기 제조 등 심각한 위험을 방지하기 위한 국제적·다자간 협의를 추진할 필요가 있다고 제안했다.

◆ 올트먼·머스크도 AI 개발 '속도 조절' 필요성에 동의

아모데이의 주장에 대해 또 다른 AI 선도기업인 OpenAI의 샘 올트먼 CEO와 xAI의 일론 머스크도 AI 개발의 속도 조절 필요성에 동의한다는 입장을 밝혔다.

하지만 트럼프 대통령은 이날 아모데이가 "완벽한 꼬마 천사"인 척 행동한다며 그의 주장과 AI 위험론에 강한 불신을 드러냈다.

트럼프 대통령은 지난 13일(현지시간) 아일랜드 순방 중 기자들에게 아모데이의 칼럼과 관련해 "가드레일을 설치할 수도 있고 이것저것 할 수도 있지만, 과도하게 우려를 제기하는 많은 부정적인 힘이 존재한다고 본다"며 "그들은 일어나지 않을 일들을 언급하고 있다"고 비판했다.

트럼프 대통령은 앞서 "AI가 인류 멸종으로 이어질 가능성을 우려하느냐"는 기자의 질문에도 "아니다. 전혀 그렇지 않다"며 "내가 우려하는 것은 우리가 AI에서 승리하지 못하면 매우 나쁜 상황에 처하게 될 것이라는 점"이라고 답한 바 있다.

트럼프 대통령은 AI의 잠재적인 장기적 위험보다는 중국과의 AI 패권 경쟁에서 미국이 주도권을 유지하는 것이 더 시급하다는 입장을 강조하고 있는 것이다.

◆ WSJ "정부 지원 요청, 경쟁사 규제로 악용될 가능성"

트럼프 대통령의 AI 기술 자문역을 역임한 데이비드 삭스는 지난 13일(현지시간) 소셜미디어 X에서 아모데이가 주장하는 AI 개발의 속도 조절이 버니 샌더스 상원의원의 AI 개발 중단 주장보다 훨씬 정교한 규제 강화론이라고 비판했다.

샌더스 의원은 인류의 통제를 벗어날 수 있는 AI의 위험을 막고 정부가 충분한 안전장치를 마련할 때까지 최첨단 AI 모델 개발을 중단해야 한다고 주장하고 있다. 

삭스는 아모데이가 미국의 선도 AI 기업들이 공통 안전 기준을 수립하고 반독점법에 저촉되지 않으면서 상호 검증과 조율을 할 수 있도록 정부에 지원을 요청한 데 대해, 결국 정부를 이용해 경쟁사에 규제를 강요하려는 것이라고 주장했다.

그는 AI 개발 속도를 줄이는 것이 필요하다고 판단한다면 앤트로픽 스스로 속도를 늦추면 된다는 취지로 비판했다.

미국 일간 월스트리트저널(WSJ) 역시 아모데이가 AI 개발 속도를 실제로 위험하다고 판단한다면 앤트로픽이 자체적으로 개발 속도를 줄일 수 있다고 지적했다.

그러면서 AI 선도기업들의 요청을 토대로 정부 규제가 도입될 경우 이미 시장에서 앞서 있는 앤트로픽과 OpenAI의 지위를 더욱 공고히 하는 '규제 포섭(regulatory capture)'으로 이어질 가능성이 있다고 밝혔다.

규제 포섭은 정부의 규제기관이 공공의 이익을 보호하기보다 규제 대상인 특정 기업이나 이익집단의 사적 이익을 대변하거나 이들의 영향력에 좌우되는 현상을 의미한다.

AI의 급속한 발전에 따른 잠재적 위험을 관리해야 한다는 업계 내부의 목소리가 커지는 가운데, 미국 정부가 중국과의 AI 패권 경쟁과 AI 안전 규제 사이에서 어떤 정책적 균형점을 택할지를 둘러싼 논쟁이 거세질 전망이다.

smlee@newspim.com