[서울=뉴스핌] 오상용 기자 = 두 곳에서 동일한 경고를 듣고 있다. 하나는 실리콘밸리 기술자들의 경고다. 다른 하나는 바티칸의 돔 아래에서 울리는 교황의 목소리다.

앤스로픽의 첨단 인공지능(AI) 모델인 미토스는 한때 개발사 스스로 "너무 위험해서 일반에 공개할 수 없다"고 했던 AI 도구다. 소프트웨어의 취약점을 탐지하고 침투까지 가능한 해커형 AI다. 사람이 시키지도 않은 일을, 자신(미토스)의 능력을 과시하려 안전장치를 우회한 일도 있었다고 한다.

미국 정부도 악용을 막기 위해 몇몇 신뢰할 수 있는 파트너에게만 미토스 접근권을 허용하기로 했는데, 이를 두고 도널드 트럼프 행정부가 첨단 AI 모델을 새로운 안보자산으로 삼아 외교무대에서 지렛대로 활용하려 든다는 의심도 피어오른다.

급진적 규제무용론자들은 이러한 방지턱이 기술패권 레이스에 뛰어든 중국만 도울 뿐이라고 반발한다. 반면 "인간의 개입 없이, AI 스스로 자신을 진화해 나가는 단계에 가까워지고 있어 인류가 안전장치를 마련할 때까지 각국이 동시에 AI 연구개발을 멈추거나 속도를 늦추자"는 제안도 앤스로픽 내부에서 나온다. 이런 제안 역시 자신들의 AI 기술을 과시하기 위한 '위장 도덕론'에 불과하다며 고깝게 여기는 시선도 있다.

지구상에서 인간이 통제할 수 있는 것은 사실 몇 없다. 자연섭리와 물리법칙은 인간계(界)를 벗어난 영역이다. 배 아파 나은 자녀도 마음대로 안 된다. 그나마 인간이 만든 기계장치들을 조작하며 통제욕구를 충족하는데, 그 도구들이 통제 범위 밖에서 스스로 능력을 무한히 증식해 나가는 상황은 공포일 수 있다. 차량 급발진 수준을 한참 뛰어넘은 수위의 공포.

교황 레오14세는 지난 5월 발표한 'AI 회칙'에서 AI는 인간의 존엄을 위해 봉사해야 한다고 했다. 기술(AI)이 인간을 지배하도록 내버려둬서는 안된다고 했다. 인간을 관리 변수 정도로 취급해서도 안된다고 했다. 권력과 소수의 이윤집중을 위한 수단, 나아가 이를 공고히 하는 통제 수단으로 AI가 이용되는 것을 막자고 했다. AI를 사용하지 말자는 반(反)기술주의는 아니다. AI가 주요 도덕적 판단을 내리거나, 인간을 폭력·착취의 대상으로 삼는 구조에 편입되지 않도록 안전장치를 마련하자는 것이다.

135년 전 교황 레오 13세가 '레룸 노바룸(새로운 사태)' 회칙에서 '산업혁명으로 생산성이 향상됐지만 그 과실이 소수 자본에 집중되고 다수의 인간은 쉽게 교체 가능한 부품 정도로 취급되고 있다'고 일갈했던 것과 오버랩된다. 그렇다고 당시의 산업혁명이 가져온 생산성의 비약적 발전과 이것이 인류에게 가져올 축복(실제 이후 100여년 절대빈곤의 감소와 아사(餓死)자 감소로 이어졌다)을 가벼이 여긴 것도 아니다. 인간다운 임금과 노동시간 제한 등 노동자의 존엄과 권리 옹호에 목소리를 높였다.

두 교황의 회칙 안에서는 19세기말의 공장 기계가 '알고리즘과 데이터센터 AI 모델'로 대체됐을 뿐, 100여 년을 관통하는 주제 의식은 같다.

'챗GPT'를 개발한 오픈AI, 그리고 '클로드 미토스'에 빛나는 앤스로픽은 뉴욕증시 데뷔를 기다리고 있다. 매머드급 기업공개(IPO)는 AI 도구들에 주주이익 극대화 논리를 장착하는 시장의 세례식이다. 덕분에 AI 도구들은 윤리적 잣대에 쉽게 뚫리지 않을 방탄복(시장과 자본의 논리)을 입게 된다. 

지난 135년간 인간의 존엄이 돈보다 높은 대접을 받았는지, 각자의 존엄이 그저 각자가 지닌 화폐로 표기되어 온 것에 불과한지는 논쟁적이라고 해두자. 다만 이를 따지고 묻는 게 철지난 촌스러운 행위로 간주될수록 인간의 자유의지가 아니라 AI에서 인류의 희망을 찾으려는 시도 또한 생겨날 수 있다 - "네, 신(神)의 말씀을 구현할 리셋 로드맵을 실행에 옮기겠습니다."

osy75@newspim.com