전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] AGI 개발, 속도보다는 신중함으로  

기사입력 : 2025년03월04일 08:18

최종수정 : 2025년03월04일 08:18

하민회 (이미지21대표, 미래기술문화연구원장)

"AI가 중요한 일을 하는 매우 숙련된 사람들이 할 수 있는 일을 할 수 있을 때 나는 AGI라고 부른다." 올해 초 오픈AI의 샘 올트먼은 AGI의 임계값에 관한 블룸버그의 질문에 이렇게 답했다. 어설픈 듯해도 꽤나 구체적이고 납득이 가는 답변이다.

최근 AI모델 성능이 인간 수준에 근접하거나 초월하면서 이른바 '꿈의 AI' 로 여겨지는 AGI (인공일반지능: Artificial General Intelligence)에 대한 관심이 부쩍 높아지고 있다.

AGI란 주어진 모든 상황에서 추론, 학습, 문제 해결 능력을 갖추어 인간과 동일하거나 인간을 능가하는 지능을 가진 AI를 의미한다. 쉬운 예로 영화 아이언 맨에서 주인공 토니 스타크의 일상부터 전투까지 모든 것을 돕는 AI 비서 자비스, 영화 '그녀(HER)'에 나오는 사용자 맞춤형 AI 운영체제(OS) '사만다' 등을 들 수 있다. 굳이 시시콜콜 일일이 지시하지 않아도 알아서 척척 필요한 일을 해주는 AI라니 상상만으로도 흐뭇하다.

하민회 이미지21 대표.

AGI는 오픈AI의 설립 헌장에도 등장한다.  2015년 설립 당시 오픈AI는 AGI를 '가장 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템'으로 정의하고 이러한 AGI가 모든 인류에게 혜택을 주도록 하는 것을 사명으로 삼았다.

오픈AI의 인류애적 사명 실행에 대한 진정성은 차치하고 AGI 개발 속도만큼은 진심이 엿보인다. 실지로 OpenAI의 GPT-4 모델은 아크 AGI 챌린지에서 87.5%의 점수를 받아 인간 수준(85%)을 가뿐히 넘어섰다.

AGI 등장 예측도 당겨졌다. 일론 머스크 테슬라 CEO는 2024년 4월 인터뷰에서 AGI가 2년 이내에 등장할 수 있다고 전망했고 엔비디아의 CEO 젠슨 황 역시 AGI 시대가 5년 남았다고 공언했다. 구글 딥 마인드의 공동 창립자이자 수석 AGI 과학자인 셰인 레그는 2028년까지 AGI 개발 가능성을 50%로 예상했다. AI 모델 성능의 개선 속도와 전문가들의 예측을 종합해볼 때 먼 미래 얘기 같던 AGI가 향후 5~6년 내에는 충분히 등장할 듯싶다.

그런데 AGI의 현실화 시기가 가까워지고 있다는 전망이 나오면서, 전문가들은 기대 반 우려 반이다. AGI가 기술적·윤리적·사회적 측면에서 엄청난 변화를 가져올 수도 있지만 자칫 인간의 통제 밖으로 벗어나거나 악용될 경우, 엄청난 위기에 처할 수도 있기 때문이다.

일론 머스크 테슬라 최고경영자(CEO) [사진=로이터 뉴스핌]

에릭 슈미트 전 구글 CEO는 지난달 28일 월스트리트 저널에 'AI는 새로운 르네상스를 열 수 있다(AI Could Usher In a New Renaissance)'라는 글을 통해 AGI가 현재 지식의 한계를 넘어 새로운 지식의 영역으로 인간을 이끌 수 있을 것이라 주장했다.

그는 AGI의 핵심 지표로 "인간이 생성한 정보를 단순히 검색하고 재조합 하는 것이 아니라 자체 발견을 기반으로 지식을 생산하는 AI의 능력"을 꼽았다. 마치 아인슈타인이 가지고 있던 지식만으로 상대성 이론을 발견할 수 있는 것처럼 말이다.

그는 이를 '한계를 넘는 시스템(scale-free systems)' 이라 부르며 AGI가 스스로 데이터를 생성해 외부 정보 없이도 모델이 자가 개선할 수 있다는 것을 의미한다고 설명했다.

슈미트가 정의하는 AGI는 창의적으로 추론하고 자율적으로 학습하고 복잡한 문제에 대해 독창적인 해결법을 제시한다. 다양한 분야의 지식을 통합하는 다학제적 통찰력도 갖추고 있다.

슈미트의 글은 AGI의 발전이 가져올 수 있는 긍정적인 변화와 잠재력에 초점을 맞추고 혁신적인 발전 가능성을 제시하지만 아이러니하게도 잠재력이 큰 만큼 AGI에 따르는 도전 과제도 무겁다는 점을 상기시킨다.

가장 예민한 일자리 대체문제. 인간은 반복적이고 위험한 노동에서 해방될 수 있겠지만 AGI가 지식노동자, 창의적 직업군, 육체노동자 등 거의 모든 직군에서 인력을 대체함으로써 대량 실업이 일어날 가능성이 크다. 인간 노동의 가치 역시 급격하게 감소할 수 있다. 더 이상 지적 우위를 갖지 못하는 상황에서 인간의 역할과 존재 이유에 대한 고민이 심화되어 사회적 문제가 발생할 가능성도 적지 않다.

[서울=뉴스핌] 양진영 기자 = 영화 '듄 파트2'의 한 장면 [사진=워너브러더스 코리아] 2024.02.21 jyyang@newspim.com

AGI로 생산성이 극대화되면 전통적인 자본주의 모델도 유지되기 어렵다. 소수의 AI 소유 국가나 기업이 부를 독점하게 되는 위험부터 자원의 효율적 분배를 위한 기본소득과 같은 새로운 경제모델이 필요해지는 등 경제와 사회구조에도 변화의 바람이 불 수 밖에 없다.

무엇보다 위협적인 것은 AGI의 통제 불가능성이다. 자율성을 가지고 스스로 학습하고 지식을 생산하는 AI가 자율적으로 목표를 설정하고 실행할 경우, 인간의 개입 없이 예측 불가능한 행동을 할 가능성이 적지 않다.

더구나 AI가 인간의 가치관과 충돌하는 목표를 가지거나, 인간이 의도하지 않은 방식으로 작동한다면? 이를 중단하거나 제어하는 장치가 준비되어야 하겠지만 현실적으로 쉽지 않은 문제다. AI가 인간의 가치와 목표에 맞춰 입맛대로 작동하도록 만드는 '가치 정렬'이 AI 연구에서 가장 난제 중 하나이기 때문이다.

슈미트는 AGI를 책임감 있고 효과적으로 활용하기 위해서는 비판적 사고와 정보를 분석하고 평가하고 종합하는 능력을 개발해야 한다는 점을 재차 강조했다. 윤리적 지침과 책임 있는 개발도 당부했다.

옳은 말이지만 충분하지 않다는 생각이 든다. 인류 역사상 가장 강력한 변화의 시작점을 목전에 두고 우리는 기술의 현란함에 미혹 당해 뒤에 따라오는 엄청나게 큰 그림자를 제대로 보지 못하는 건 아닐까? AGI야 말로 결코 서두르지 말고 윤리적 가이드라인과 안전장치를 마련해가며 신중하게 접근해야 한다.

[사진 = 바이두]

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
90m '고도제한' 양천구 울다 [서울=뉴스핌] 정영희 기자 = 국제민간항공기구(ICAO) 고도제한 기준 개정이 코앞으로 다가오면서 갑작스러운 고도제한으로 재건축에 큰 제약을 받게 된 서울 양천구 목동 주민들의 불안감이 커지고 있다. 반면 그동안 대부분의 면적이 제한을 받던 강서구 주민들은 이번 조치를 환영하면서 서울시와 정부 모두 곤란한 상황에 처한 모습이다. 국제민간항공기구(ICAO) 공항 고도제한 국제기준 개정안 내용. [그래픽=김아랑 미술기자] ◆ "이제 재건축 막 올랐는데"… 90m 고도제한에 목동 주민들 뿔났다 1일 국토교통부에 따르면 오는 4일 ICAO 국제기준 개정안이 발효되면서 이에 따른 수혜 및 피해지역 간 온도차가 극명히 엇갈리고 있다. ICAO는 국제 민간항공 항공기술·운송·시설 등을 관할하는 유엔 산하 전문기구다. 올 4월 ICAO는 2030년 11월 시행을 목표로 고도제한 국제기준 개정안을 시행하겠다는 입장을 내놓은 바 있다. 현재 일률적으로 제한하고 있는 장애물 표면을 향후에는 침투금지표면과 평가표면으로 이원화하겠다는 것이다. 그동안 공항 주변 지역은 '공항시설법'에 따른 장애물 제한 표면지역으로 설정돼 건축물을 높게 지을 수 없었다. '제한표면'(OLS) 규정에 따라 안전 운항을 위해 항공기 성능이나 비행 절차를 고려하지 않고 건축물 높이를 획일적으로 규제해서다. 활주로 반경 4㎞ 이내 건물은 45m를 초과하지 못해 13층 이상의 아파트를 짓기 어려웠다. 이 때문에 노후 주거지의 재개발·재건축 등 정비사업에도 걸림돌로 작용했다. 앞으로는 이를 '금지표면'(OFS)과 '평가표면'(OES)으로 이원화한다. 금지표면은 항공 안전에 직접 영향을 주는 절대적 금지구역이다. 평가표면은 건물 높이를 규제한 금지 표면을 축소하고, 항공학적 검토를 거쳐 건축물 높이를 탄력적으로 바꿀 수 있는 곳이다. 공항별 여건에 따라 평가표면을 축소하거나 완화하는 것도 가능하다. 개정안상 평가표면은 현행 기준보다 확대된다. 국내에 적용되면 김포공항 반경 약 11∼13㎞ 내가 평가표면으로 분류돼 45·60·90m 등으로 고도를 제한할 수 있다. 이 경우 원래는 고도제한 대상에 해당되지 않았던 양천구는 영등포, 마포, 부천 등이 평가표면에 포함된다. 고도제한 요건 수정으로 가장 마음이 급해진 건 목동신시가지 소유주들이다. 현재 1~14단지 모두 재건축을 추진 중이다. 사업 속도가 가장 빠른 6단지는 최고 49층, 7단지는 최고 60층을 목표로 정비계획을 수립하고 있다. 최고 층수가 49층이면 높이로는 약 180m이므로 90m 고도제한이 설정되면 설정 범위내 모든 건축물은 30층 이하로만 지어야 한다.   목동 14개 단지 재건축 조합 등으로 구성된 '목동 재건축 연합회'(목재련)은 이달 28일 ICAO 개정안에 대한 반대 성명서를 발표했다. 이상용 목재련 회장은 "항공기술 발전에 따라 규제가 완화될 것으로 기대했으나, 개정안은 주민들의 오랜 염원을 짓밟는 퇴행적 조치"라며 "이는 주민들의 주거환경 개선 기회와 재산권을 사실상 봉쇄하는 것"이라고 비판했다. 이어 "개정안이 현실화되면 목동 재건축 사업의 동력이 상실되고 수도권 전체 도시 재생의 미래를 암울하게 만드는 재앙이 될 것"이라고 목소리를 높였다. 이들은 국토부에 김포공항 이전 재검토나 ICAO 개정안에 대한 공식 반대 입장 표명을 요청하고 있다. 국토부 관계자는 "개정안 국내 도입 시 항공기의 안전을 최우선으로 고려하면서도 합리적으로 적용될 수 있는 방안을 찾을 계획"이라며 "안전을 최우선으로 확보하고, 국내공항 여건과 조화를 이룰 수 있도록 준비하겠다"고 말했다. ◆ "재산권 행사 좀 하자"는 강서구… 중간에 낀 서울시 '난감' 양천구와 반대로 강서구는 ICAO 개정안에 대한 환영 입장을 보이고 있다. 강서구는 현재 전체 면적의 97.3%가 고도제한 구역으로 설정돼 있다. 관련 규정이 개정되면 절대적 금지표면 대비 조건부 평가에 따라 건물을 높이 올릴 수 있는 가능성이 커지면서 지금보다는 높은 층수로 정비사업이 가능하다. 진교훈 강서구청장은 지난달 고도제한 완화 관련 세미나를 열고 "1958년 김포국제공항 개항 이후 강서구는 도시 발전과 재산권 행사에 심각한 제약을 받아왔다"며 이번 국제기준 개정이 강서구 56만 주민의 염원을 담아 합리적이고 조속하게 추진되기를 기대한다"고 언급한 바 있다. 서울 내 자치구가 상반된 처지에 놓이면서 서울시도 향후 정책 방향을 고심하는 모습이다. 오세훈 서울시장은 지난 30일 목동6단지를 방문해 재건축 속도를 높인다면 ICAO 개정안 적용을 받지 않을 것이라고 설명했다. 목동 재건축 단지가 개정안 시행이 예정된 2030년 안에 사업시행계획인가 단계까지 모두 마친다면 제도 변경 사정권에 들어가지 않을 것이란 주장이다. 오 시장은 "아직 고도제한 개정 관련 세부 내용이 완전히 확정된 것이 아니다"라며 "8월부터 ICAO와 국토부 사이 소통을 통해 최종 규정안 협상까지 1년 정도 더 걸릴 것"이라고 말했다. 이어 "국토부가 재건축이 진행되는 지역의 재산적 피해가 발생하는 방향으로 결정할 것이라고는 생각하지 않는다"며 "서울시 또한 재건축 추진 단지가 손해 보는 일이 없도록 강력히 건의할 것"이라고 부연했다. 전문가 사이에선 고도제한 관련 규정 개정과 재건축 사업 사이 균형점을 찾는 것이 무엇보다 중요하다는 의견이 제기된다. 정비사업이 성공적으로 마무리되면 주택 공급량이 늘어나는 것은 물론 지역 전체의 자산 가치와 지방세수 증가, 인구유입 등에 효과가 있으나 그 과정에서 비행 안전에 부정적 영향을 초래해선 안 된다는 이유에서다. 김영록 신라대 항공운항학과 교수는 "제한된 면적 하에서 재건축·재개발 사업의 경제적 타당성 저하는 해당 지역 개발의 결정적 장애요소로 작용하고, 장애물제한표면 하에서의 법규상 각종 제한까지 더해지면 지역 노후화의 대표 원인이 될 수 있다"며 "고도완화가 없이 특정 지역 전체의 경제적 이익이 상실된다면 항공항적 검토를 바탕으로 한 고도제한 규정을 손볼 필요가 있을 것"이라고 말했다. 신성환 한국항공우주법연구소 대표는 "일본과 대만은 도심에 있는 비행장 주변의 공역을 재설계함으로써 국민의 재산권을 보장하는 동시에 비행안전을 추구하고 있다"며 "항공기와 관제 기술의 급속한 발달을 따라잡지 못하는 구식 정책을 업그레이드해야 할 시점"이라고 제언했다. chulsoofriend@newspim.com 2025-08-01 06:30
사진
'내란 공모' 이상민 前 장관 구속 [서울=뉴스핌] 김현구 기자 = '12·3 비상계엄' 당시 특정 언론사에 대한 단전·단수를 지시한 혐의 등을 받는 이상민 전 행정안전부 장관이 구속됐다. 서울중앙지법 정재욱 영장전담 부장판사는 전날 이 전 장관에 대한 구속 전 피의자 심문(영장실질심사)을 진행한 뒤 "죄를 범했다고 인정할 상당한 이유가 있고 증거를 인멸할 염려가 있다"며 1일 영장을 발부했다. 이상민 전 행정안전부 장관. [사진=뉴스핌DB] 특검은 지난달 28일 내란중요임무종사, 직권남용권리행사방해, 위증 등 혐의로 이 전 장관에 대한 구속영장을 청구했다. 특검은 이 전 장관이 윤석열 전 대통령의 불법적인 계엄 선포를 사실상 방조하고, 특정 언론사에 대한 단전·단수 지시를 전달해 국민의 생명·안전권을 침해했다고 판단했다. 아울러 특검은 이 전 장관이 행안부 장관으로서 외청 기관장인 소방청장 등에게 의무 없는 단전·단수를 지시한 행위가 직권남용에 해당한다고도 봤다. 특히 이와 관련해 특검은 그가 윤 전 대통령에 대한 탄핵심판 사건 변론기일에 나와 단전·단수를 지시한 적이 없다고 발언한 것을 위증이라고 판단해 이 혐의도 적용했다. 그동안 이 전 장관은 혐의를 전면 부인해 왔다. 윤 전 대통령으로부터 단전·단수 등 지시를 받은 적이 없으며, 행안부에는 소방청에 대한 지휘 권한이 없다는 것이 이 전 장관의 주장이었다. 특검은 이 전 장관의 주장을 반박하고 구속 수사 필요성을 주장하기 위해 160장의 파워포인트(PPT)를 준비하고, 앞서선 300여쪽의 의견서를 법원에 제출했다. 특검이 이 전 장관의 신병을 확보하면서 한덕수 전 국무총리 등 다른 국무위원들에 대한 수사에도 속도를 낼 전망이다. 이 전 장관 구속은 이른바 '안가(안전 가옥) 회동 의혹' 관련자 중 첫 신병 확보인 만큼, 일각에선 특검이 근시일 내 나머지 안가 회동 멤버에 대해서도 소환조사를 진행할 것이란 관측이 나온다. 안가 회동 멤버는 이 전 장관과 김주현 전 대통령실 민정수석비서관, 박성재 전 법무부 장관, 이완규 전 법제처장이다. 이들은 윤 전 대통령의 법률가 출신 최측근으로, 계엄 해제 이후 안가에 모여 계엄 직후 수습 방안을 논의했다는 의혹을 받고 있다. hyun9@newspim.com 2025-08-01 06:25
안다쇼핑
Top으로 이동