[기고] 경이롭고 안전한 미래를 위한 준비

기사입력 : 2024년03월18일 08:28

최종수정 : 2024년03월18일 10:10

하민회 이미지21대표(코가로보틱스 마케팅자문)

미래 예측이 점점 어려워지고 있다. 거대언어모델(LLM) 챗GPT가 나왔을 때만 해도 지시어(프롬프트) 몇 줄로 그림까지 그려 주리라 기대하지 못했다. 채 1년 반이 되기 전에 몇 마디 말이면 영상이 뚝딱 만들어지는 AI모델 '소라'가 등장했다.

어제는 '먹을 것'을 달라는 말에 사과를 건내 주고 쓰레기를 주워담으며 "테이블에서 먹을 수 있는 게 사과 밖에 없었다"며 자기 행동을 설명하는 피규어 AI(Figure AI)의 휴머노이드 로봇 영상이 공개됐다. 압권은 할 일을 다 해치운 로봇의 자화자찬. "나 꽤 잘한 것 같은데. 사과는 새 주인을 찾았고 쓰레기를 치웠고, 식기는 원래 있어야 할 곳으로 갔잖아."

기특하면서도 사람 당황하게 만드는 이 로봇은 피규어 AI의 신속하고 섬세한 로봇 기술에 오픈AI의 시각적 추론과 언어 이해 기술이 결합된 시제품이다. 피규어 AI는 로봇이 언어적 이해를 통해 스스로 모든 행동을 했다는 점을 강조했다. 아직은 시제품이지만 보고 듣고 말하고 힘까지 갖춘 휴머노이드의 등장이라니. 미래가 다가오는 속도가 두려울 뿐이다.

하민회 이미지21 대표.

AI의 대부로 불리는 제프리 힌튼 토론토대학 교수는 최근 니혼게이자이 신문과의 인터뷰에서 "앞으로 10년 안에 자율적으로 인간을 죽이는 로봇 무기가 등장할 수 있다"는 섬뜩한 경고를 했다. 힌튼 교수는 AI기술을 핵전쟁에 비유하며 "아무도 AI가 지배하는 미래를 원하지 않는다"며 서둘러 국제적인 AI 규제 합의가 이루어져야 한다고 강조했다.

AI가 인간을 위협할 존재가 될 가능성도 거론했다. AI에게 목표를 주면 인간에게는 나쁜 해결책을 찾아낼 수 있다는 것인데 예컨대 AI에게 기후 변화를 막으라고 지시하면 AI가 목적달성을 위해 인간을 배제(제거)하는 것이 필요하다고 판단할 수 있으며 이를 실행하려는 위험성이 생긴다는 말이다.

힌튼 교수는 향후 서로 다른 AI가 경쟁하는 과정에서 데이터센터 등 자원 쟁탈전이 벌어질 수 있고 이는 생물계와 마찬가지로 진화 촉진의 과정으로 작용할 수 있다며 경쟁을 거쳐 훨씬 똑똑해진 AI에게 인류가 뒤쳐질 것을 우려했다.

AI의 진화속도가 빨라지면서 경고의 목소리도 커지는 추세다. 최근 미 국무부로부터 의뢰를 받아 연구를 수행한 '글래드스톤 AI'는 "최악의 경우, 최첨단 AI시스템이 인류를 멸종시킬 수준의 위협이 될 수 있다"는 보고서를 제출했다.

[라스베이거스 로이터=뉴스핌] 최원진 기자= 영국의 로봇 개발사 '엔지니어드 아츠'(Engineered Arts)의 휴머노이드 로봇 '아메카'(Ameca)가 미국 네바다주 라스베이거스에서 열린 세계 최대 IT·가전박람회 'CES 2022'에서 방문객들과 대화를 나누고 있다. 2022.01.06 wonjc6@newspim.com

보고서는 AI의 핵심 위험을 2가지로 정리했다. AI가 무기화되어 잠재적으로 돌이킬 수 없는 피해를 입히는 경우 그리고 통제력을 상실하는 상황이다. 기업들이 안전과 보안을 뒤로하고 AI 개발의 가속화에만 힘을 쏟으면 자칫 가장 앞선 미국 AI시스템이 '도난' 당하거나 '무기화'될 수 있다는 점도 지적했다. 최근 우크라이나전에 동원되고 있는 AI드론 등의 무기만 봐도 이 같은 경고가 단순한 기우는 아닌 듯 보인다.

국가차원의 규제도 본격화되기 시작했다. 유럽연합(EU)이 세계 첫 인공지능(AI) 기술규제 법안인 'AI법(AI Act)'을 통과시켰다. 골자는 AI를 활용하는 과정에서 발생할 수 있는 위험을 범주화해 엄격하게 관리하겠다는 것. 허용할 수 없는 위험, 고위험, 저위험, 최소한의 위험 등 4단계로 구분했다.

허용할 수 없는 위험에는 사람의 의사결정 능력을 손상시키거나 취약성을 활용하는 AI 기술부터 특정인 혹은 단체에 불공정한 처우, 개인의 사회적 신용 점수를 매기는 소셜 스코어링, 학교나 직장에서 사람들의 감정을 해석하기 위한 AI기술 등이 해당되며 전면 금지된다. 또 특정 범죄를 수사하는 등의 용도가 아니면 실시간 원격 생체정보를 탐지하는 등의 기술도 허용되지 않는다.

고위험 AI의 범주에는 사람의 건강과 안전, 기본권을 해칠 중대한 위험(Significant Risk)을 초래하는 기술이 해당된다. 고위험 AI를 개발하는 기업은 시장 출시 전 반드시 적합성 평가 절차를 거치도록 했으며 이미 평가를 받았더라도 시스템이 실질적으로 수정될 경우엔 새롭게 적합성 평가를 받도록 함으로써 속도 전 양상을 보이는 AI 서비스 개발과 출시에 일종의 제동 역할을 할 것으로 보인다.

[사진 = 유비텍 공식 홈페이지] 유비텍의 대표적인 휴머노이드 로봇 모델인 '워커(Walker)'

이상의 법 위반시 기업은 전 세계 매출의 7%에 해당하는 무거운 과징금을 물게 된다. EU의 AI법은 27개 회원국의 서명을 거쳐 오는 6월 EU 관보에 게재된 뒤 내년 초 발효되고 단계적으로 도입돼 2026년 이후에 전면 시행된다. 국제 AI규제법의 주요 이정표가 될 전망이다.

한참 발전 중인 AI 기술인데 벌써부터 발목을 잡는 게 옳은 지 궁금해하는 이들이 있다.

모든 혁신은 예측하기 어렵고 동시에 과소평가하기 쉽다. 기술의 탄생에서 대중화까지 이르는 길은 대단히 복잡하고 수많은 변수와 다양한 상황이 영향을 미치기도 한다. 때로 전혀 예상치 못한 지점에 도착하기도 하고 예측하지 못한 쓰임으로 보편화되기도 한다.

1900년대 초 비행기가 막 실용화되었을 때 사람들은 이 새로운 발명품이 우편물 수송과 비행기 레이싱에 쓰일 것이라 예측했다. 여객기라는 개념은 상상 밖에 있었다. 대학생들이 프로필과 사진을 공유하는 용도로 시작된 페이스북은 10년만에 정치적으로 가장 영향력 있는 수단이 되었다.

[사진=인튜이티브 서지컬 홈페이지]

AI도 마찬가지다. 우리의 예측대로 고분고분 진화할 것으로 기대하는 건 어리석고 위험하다. AI가 전 분야에 영향을 미치며 기하급수적인 성장을 보일 땐 더 그렇다. 잠재력이 큰 기술일수록 위험성도 크기 마련이다.

경이로우면서 안전한 미래를 원한다면 최소한 AI에게 올바른 방향 정도는 제시해야 하며 그것이 곧 규제다.

"우리는 자신이 모르는 무언가가 자신이 믿는 모든 것을 무효화할 수도 있다는 생각을 아예 하지 못한다." 지금은 심리학자 다니엘 카너만의 말을 새겨들어야 할 때다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

감사원장 후보자에 김호철 변호사 지명 [서울=뉴스핌] 박성준 기자 = 이재명 대통령이 7일 감사원장 후보자로 김호철 변호사를 지명했다. 이규연 대통령실 홍보소통수석은 이날 용산 대통령실에서 브리핑을 열고 "이 대통령이 오늘 감사원장 후보로 김호철 변호사를 지명했다"고 밝혔다. 김호철 감사원장 후보자. [사진=대통령실] 김 후보자는 국가경찰위원회 위원장과 환경운동연합 공동대표, 민주사회를 위한 변호사 모임 회장 등을 역임한 인물로, 공공성과 사회적 가치 수호에 앞장서 온 대표적인 인권 변호사로 평가받고 있다고 이 수석은 설명했다. 이 수석은 "김 후보자가 경찰국 신설과 군 의문사 진상 규명 등 사회적 파장이 컸던 사안에서 공공성과 법적 원칙을 견지해 왔다"고 했다. 이 수석은 "김 후보자는 감사 운영의 정상화를 통해 감사원의 정치적 중립과 독립성, 그리고 국민 신뢰라는 헌법적 가치를 확고하게 복원할 적임자이자 전문가로 기대된다"고 말했다. parksj@newspim.com 2025-12-07 13:37

사진

내란 특검, 추경호·황교안 불구속 기소 [서울=뉴스핌] 김현구 기자 = 12·3 비상계엄 관련 내란·외환 의혹을 수사 중인 내란 특검팀(조은석 특별검사)이 7일 국민의힘 원내대표를 지낸 추경호 의원과 황교안 전 국무총리를 불구속 상태로 재판에 넘겼다. 추경호 국민의힘 의원. [사진=뉴스핌DB] 박지영 특검보는 추 의원에 대해 "피고인은 여당 원내대표로서 윤석열 전 대통령의 비상계엄 유지 의사를 조기에 꺾게 만들 수 있었던 유일한 사람이었음에도, 비상계엄 유지를 위한 협조 요청을 받고 국민의 기본권이 침해되고 무장한 군인에 의해 국회가 짓밟히는 상황 목도하고도 아무런 조치 취하지 않았다"고 지적했다. 이어 "국회의원 권한이자 의무인 표결권 행사에 참여하지 않았고, 본회의 개의를 알고도 의원총회 개최 의사도 없이 의총 소집 장소를 당사로 변경해 국회 진입 의사를 가진 국회의원의 발길을 돌리게 했다"고 덧붙였다. 그러면서 "또 본회의장에 있던 국회의원에게는 밖으로 나오라는 메시지 전달했는데, 이는 윤 전 대통령이 군인과 경찰을 동원해 국회를 봉쇄하고 본회의장에 들어가 있던 국회의원을 끌어내려 하려는 행위와 같이 평가된다"고 부연했다. 박 특검보는 "국회의원이 국회에 들어가지 못하는 것은 헌정 질서가 파괴되는 상황"이라며 "본인이 원내대표실에 있으면서 이런 파괴된 현장을 목도했기 때문에 그 부분에 대한 인식이 없었다 볼 수 없다"고 강조했다. 또 그는 "윤 전 대통령은 지난 한덕수 전 국무총리 재판에 나와서 '추 의원에게 어떤 이야기를 했는가'라는 재판장 질문에 '걱정하지 말라. 길게 가지 않고 빨리 해결될 것'이란 취지로 말했다. 이 말은 너희들이 국회 의결 해제하지 않고도 내가 끝낼 것이란 말"이라고 말했다. 이어 "추 의원은 충분히 본인의 역할을 지시받았고 이와 관련해 어떤 말도 하지 않았다고 한다"며 "추 의원은 '대통령님 이것은 말이 되지 않는다. 빨리 해제해달라'는 말을 한 번도 한 적 없다. 본인도 인정한다"고 덧붙였다. 아울러 박 특검보는 "비상계엄이 선포될 즈음 당대표는 체포 대상이 될 정도로 사실상 의사 소통 창구가 전혀 아니었고, 여당과의 의사 소통 통로이자 서로 논의할 수 있던 사람은 추 의원이 유일했다"며 "(추 의원은) 반대하는 의사를 표시하거나 이래선 안 된다는 의사표시는 하나도 없이 본인이 알고 있던 모든 것을 여당 의원에게 고지하지 않았다"고 비판했다. 끝으로 그는 "사실상 계엄이 국회의결로 해제되는 것은 아니다. 여당 원내대표마저 협조하지 않고 반기를 들었다면 계엄 해제가 빨라졌을 것"이라며 "계엄에 대한 문제 해결 방식이나 회복 시간 등이 상상 이상으로 빨라졌을 것이고, 국론 분열이나 사회적 혼란도 훨씬 더 줄어들었을 것"이라고 말했다. 추 의원은 지난해 12월 3일 윤 전 대통령이 비상계엄을 선포했을 당시 국민의힘 원내대표로서 의총 장소를 세 차례 변경하는 방법으로 자당 소속 의원들의 표결 참여를 방해한 혐의를 받는다. 이로 인해 당시 국민의힘 의원 108명 중 단 18명만이 계엄 해제 표결에 참여할 수 있었고, 국회 해제 요구 결의안은 결국 재석 190명 중 찬성 190명으로 통과됐다. 특검은 당시 추 의원이 국회 이동 과정에서 윤 전 대통령, 그의 측근들과 통화한 사실을 바탕으로 그가 의도적으로 표결을 방해했다고 판단했다. 앞서 특검은 추 의원에 대한 구속영장을 청구했으나 법원은 지난 3일 "혐의 및 법리에 대해 다툼의 여지가 있다"며 이를 기각했다. 황교안 전 국무총리. [사진=뉴스핌DB] 한편 특검은 이날 황교안 전 국무총리도 불구속 기소했다. 황 전 총리는 비상계엄 당시 "나라를 망가뜨린 종북주사파 세력과 부정선거 세력을 이번에 척결해야 한다", "우원식 국회의장을 체포하라. 대통령 조치를 정면으로 방해하는 한동훈 국민의힘 대표도 체포하라" 등의 게시물을 올려 내란을 선동한 혐의 등을 받는다. hyun9@newspim.com 2025-12-07 17:26