전체기사 최신뉴스 GAM
KYD 라이브
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] AGI 개발, 속도보다는 신중함으로  

기사입력 : 2025년03월04일 08:18

최종수정 : 2025년03월04일 08:18

하민회 (이미지21대표, 미래기술문화연구원장)

"AI가 중요한 일을 하는 매우 숙련된 사람들이 할 수 있는 일을 할 수 있을 때 나는 AGI라고 부른다." 올해 초 오픈AI의 샘 올트먼은 AGI의 임계값에 관한 블룸버그의 질문에 이렇게 답했다. 어설픈 듯해도 꽤나 구체적이고 납득이 가는 답변이다.

최근 AI모델 성능이 인간 수준에 근접하거나 초월하면서 이른바 '꿈의 AI' 로 여겨지는 AGI (인공일반지능: Artificial General Intelligence)에 대한 관심이 부쩍 높아지고 있다.

AGI란 주어진 모든 상황에서 추론, 학습, 문제 해결 능력을 갖추어 인간과 동일하거나 인간을 능가하는 지능을 가진 AI를 의미한다. 쉬운 예로 영화 아이언 맨에서 주인공 토니 스타크의 일상부터 전투까지 모든 것을 돕는 AI 비서 자비스, 영화 '그녀(HER)'에 나오는 사용자 맞춤형 AI 운영체제(OS) '사만다' 등을 들 수 있다. 굳이 시시콜콜 일일이 지시하지 않아도 알아서 척척 필요한 일을 해주는 AI라니 상상만으로도 흐뭇하다.

하민회 이미지21 대표.

AGI는 오픈AI의 설립 헌장에도 등장한다.  2015년 설립 당시 오픈AI는 AGI를 '가장 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템'으로 정의하고 이러한 AGI가 모든 인류에게 혜택을 주도록 하는 것을 사명으로 삼았다.

오픈AI의 인류애적 사명 실행에 대한 진정성은 차치하고 AGI 개발 속도만큼은 진심이 엿보인다. 실지로 OpenAI의 GPT-4 모델은 아크 AGI 챌린지에서 87.5%의 점수를 받아 인간 수준(85%)을 가뿐히 넘어섰다.

AGI 등장 예측도 당겨졌다. 일론 머스크 테슬라 CEO는 2024년 4월 인터뷰에서 AGI가 2년 이내에 등장할 수 있다고 전망했고 엔비디아의 CEO 젠슨 황 역시 AGI 시대가 5년 남았다고 공언했다. 구글 딥 마인드의 공동 창립자이자 수석 AGI 과학자인 셰인 레그는 2028년까지 AGI 개발 가능성을 50%로 예상했다. AI 모델 성능의 개선 속도와 전문가들의 예측을 종합해볼 때 먼 미래 얘기 같던 AGI가 향후 5~6년 내에는 충분히 등장할 듯싶다.

그런데 AGI의 현실화 시기가 가까워지고 있다는 전망이 나오면서, 전문가들은 기대 반 우려 반이다. AGI가 기술적·윤리적·사회적 측면에서 엄청난 변화를 가져올 수도 있지만 자칫 인간의 통제 밖으로 벗어나거나 악용될 경우, 엄청난 위기에 처할 수도 있기 때문이다.

일론 머스크 테슬라 최고경영자(CEO) [사진=로이터 뉴스핌]

에릭 슈미트 전 구글 CEO는 지난달 28일 월스트리트 저널에 'AI는 새로운 르네상스를 열 수 있다(AI Could Usher In a New Renaissance)'라는 글을 통해 AGI가 현재 지식의 한계를 넘어 새로운 지식의 영역으로 인간을 이끌 수 있을 것이라 주장했다.

그는 AGI의 핵심 지표로 "인간이 생성한 정보를 단순히 검색하고 재조합 하는 것이 아니라 자체 발견을 기반으로 지식을 생산하는 AI의 능력"을 꼽았다. 마치 아인슈타인이 가지고 있던 지식만으로 상대성 이론을 발견할 수 있는 것처럼 말이다.

그는 이를 '한계를 넘는 시스템(scale-free systems)' 이라 부르며 AGI가 스스로 데이터를 생성해 외부 정보 없이도 모델이 자가 개선할 수 있다는 것을 의미한다고 설명했다.

슈미트가 정의하는 AGI는 창의적으로 추론하고 자율적으로 학습하고 복잡한 문제에 대해 독창적인 해결법을 제시한다. 다양한 분야의 지식을 통합하는 다학제적 통찰력도 갖추고 있다.

슈미트의 글은 AGI의 발전이 가져올 수 있는 긍정적인 변화와 잠재력에 초점을 맞추고 혁신적인 발전 가능성을 제시하지만 아이러니하게도 잠재력이 큰 만큼 AGI에 따르는 도전 과제도 무겁다는 점을 상기시킨다.

가장 예민한 일자리 대체문제. 인간은 반복적이고 위험한 노동에서 해방될 수 있겠지만 AGI가 지식노동자, 창의적 직업군, 육체노동자 등 거의 모든 직군에서 인력을 대체함으로써 대량 실업이 일어날 가능성이 크다. 인간 노동의 가치 역시 급격하게 감소할 수 있다. 더 이상 지적 우위를 갖지 못하는 상황에서 인간의 역할과 존재 이유에 대한 고민이 심화되어 사회적 문제가 발생할 가능성도 적지 않다.

[서울=뉴스핌] 양진영 기자 = 영화 '듄 파트2'의 한 장면 [사진=워너브러더스 코리아] 2024.02.21 jyyang@newspim.com

AGI로 생산성이 극대화되면 전통적인 자본주의 모델도 유지되기 어렵다. 소수의 AI 소유 국가나 기업이 부를 독점하게 되는 위험부터 자원의 효율적 분배를 위한 기본소득과 같은 새로운 경제모델이 필요해지는 등 경제와 사회구조에도 변화의 바람이 불 수 밖에 없다.

무엇보다 위협적인 것은 AGI의 통제 불가능성이다. 자율성을 가지고 스스로 학습하고 지식을 생산하는 AI가 자율적으로 목표를 설정하고 실행할 경우, 인간의 개입 없이 예측 불가능한 행동을 할 가능성이 적지 않다.

더구나 AI가 인간의 가치관과 충돌하는 목표를 가지거나, 인간이 의도하지 않은 방식으로 작동한다면? 이를 중단하거나 제어하는 장치가 준비되어야 하겠지만 현실적으로 쉽지 않은 문제다. AI가 인간의 가치와 목표에 맞춰 입맛대로 작동하도록 만드는 '가치 정렬'이 AI 연구에서 가장 난제 중 하나이기 때문이다.

슈미트는 AGI를 책임감 있고 효과적으로 활용하기 위해서는 비판적 사고와 정보를 분석하고 평가하고 종합하는 능력을 개발해야 한다는 점을 재차 강조했다. 윤리적 지침과 책임 있는 개발도 당부했다.

옳은 말이지만 충분하지 않다는 생각이 든다. 인류 역사상 가장 강력한 변화의 시작점을 목전에 두고 우리는 기술의 현란함에 미혹 당해 뒤에 따라오는 엄청나게 큰 그림자를 제대로 보지 못하는 건 아닐까? AGI야 말로 결코 서두르지 말고 윤리적 가이드라인과 안전장치를 마련해가며 신중하게 접근해야 한다.

[사진 = 바이두]

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
[단독] 李정부 국정 5개년 책자 나왔다 [서울=뉴스핌] 윤채영 지혜진 기자 = 이재명 정부의 국정운영 5개년 계획이 담긴 책자가 발간된 것으로 20일 확인됐다. 이날 뉴스핌이 확보한 '이재명 정부 국정운영 5개년 계획(안)' 책자에는 123대 국정과제에 대한 주요 내용과 구체적인 입법 방향 등이 담겼다. [서울=뉴스핌] 이재명 대통령이 13일 서울 종로구 청와대 영빈관에서 열린 국정기획위원회 국민보고대회에서 발언하고 있다. [사진=대통령실] 2025.08.13 photo@newspim.com 국정기획위원회가 지난 13일 1호 과제로 발표한 개헌에는 대통령 권력 구조 개편도 포함됐다. ▲4년 연임제 및 결선투표제 도입 ▲감사원 국회소속 이관 ▲대통령 거부권 제한 ▲비상명령 및 계엄 선포 시 국회 통제권 강화 ▲국무총리 국회 추천제 도입 ▲중립성 요구 기관장 임명 시 국회 동의 의무화를 추진하겠다고 명시했다. 또 5·18 광주 민주화운동 정신 등 헌법 전문 수록과 검찰 영장 청구권 독점 폐지, 안전권 등 기본권 강화 및 확대, 지방자치와 균형발전을 위한 논의기구 신설, 행정수도 명문화 등이 개헌 과제로 포함됐다. 개헌을 위한 국민투표법 개정도 추진된다. 헌법불합치 결정을 받은 재외국민 투표 관련 규정을 개정해 국민투표법 위헌을 해소하겠다는 계획이다. 개헌 찬반 투표는 2026년 지방선거나 2028년 국회의원 선거 때 실시하겠다고 명시했다. [서울=뉴스핌] 뉴스핌이 확보한 이재명 정부 국정운영 5개년 계획(안) 책자. 2025.8.20 ycy1486@newspim.com 이번 책자에는 국정기획위가 지난 13일 대국민보고대회에서 공개한 123대 국정과제보다 훨씬 세부적인 내용이 담겼다. 당초 국정위는 이날 국정운영 5개년 계획도 공개하려 했다가, 돌연 비공개 결정을 내렸다. 비공개 결정에는 이재명 대통령의 의중이 강하게 작용한 것으로 알려졌다. 국정위 소속으로 활동했던 한 위원은 뉴스핌과 통화에서 "갑자기 보안을 강조하면서 내부 자료는 절대 공개하지 말라고 했다"며 "이유는 모른다"고 전했다.  ycy1486@newspim.com 2025-08-20 15:55
사진
美, 인텔 이어 삼성도 지분 내놔라? [서울=뉴스핌] 최원진 기자= 도널드 트럼프 미국 행정부가 반도체법(CHIPS Act)상 보조금을 활용해 인텔 지분 확보를 추진 중인 가운데, 삼성전자와 대만 TSMC 등 다른 반도체 기업에도 같은 방식을 적용하는 방안을 검토 중이라고 로이터 통신이 두 명의 소식통을 인용해 19일(현지시간) 보도했다. 보도에 따르면 하워드 러트닉 상무부 장관은 삼성전자, 마이크론, TSMC 등 미국 내 공장 건설과 투자를 진행 중인 반도체 기업들을 상대로, 조 바이든 전임 행정부 시절 약속된 정부 보조금 제공과 맞바꿔 지분을 확보하는 방안을 모색하고 있다. 현실화하면 글로벌 반도체 업계에 파장이 불가피하다. 미국 정부에 지분을 넘기고 싶지 않다면 보조금을 포기해야 할 수 있는데 이 경우 기업들의 순익 전망과 투자 계획도 차질을 빚을 수 있다. 미국의 산업정책이 정권에 따라 오락가락한다는 업계의 불만과 비난 또한 커질 수 있지만 트럼프 행정부의 성격상 귀담아 들을 가능성은 높지 않다. 러트닉 장관은 CNBC 인터뷰에서 "트럼프 대통령은 미국이 거래에서 실질적 이익을 얻어야 한다고 본다"며 "왜 1천억 달러 규모의 기업에 돈을 줘야 하는가. 우리는 약속한 보조금을 지급하되, 그 대가로 지분을 받아 미국 납세자들에게 혜택을 돌릴 것"이라고 말했다. 트럼프 행정부가 인텔 지분 10%를 확보할 경우 최대 주주가 될 수 있지만, 러트닉 장관은 "경영권에 개입하지는 않을 것"이라고 선을 그었다. 그럼에도 불구하고 이러한 조치는 전례가 없는 것이며, "이는 대기업에 대한 미국의 영향력 확대라는 새로운 시대를 열게 될 것"이란 진단이다.  로이터는 "마이크론은 인텔에 이어 반도체법 보조금을 가장 많이 받는 미국 기업이며, 삼성전자와 TSMC 역시 주요 수혜 대상"이라며 "이번 검토는 미국 정부가 반도체 산업에 대한 직접적 영향력을 확대하려는 움직임"이라고 분석했다. 올해 6월에도 비슷한 조치가 있었는데, 트럼프 정부는 일본제철의 U.S.스틸 인수 승인 조건으로 '황금주(golden share)'를 확보해 주요 경영 결정에 거부권을 행사할 수 있게 됐다. 삼성전자 미국 텍사스주 테일러 공장 건설 현장. [사진=삼성전자] wonjc6@newspim.com   2025-08-20 08:31
안다쇼핑
Top으로 이동