전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 짚고 또 짚어야 할 AI 안전성

기사입력 : 2024년06월24일 08:33

최종수정 : 2024년06월25일 07:09

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

하민회 이미지21대표(코가로보틱스 마케팅자문)

AI, 과연 안전할까?

오픈AI가 'GPT-4o'를 공개하는 날 '오픈 AI의 영혼'이 회사를 떠났다. 오픈 AI의 공동창업자이자 수석과학자 그리고 5일 천하로 끝난 '올트만 축출 사태'의 주역이었던 일리아 수츠케버다.

챗GPT 개발에 핵심적인 역할을 한 일리아 수츠케버는 샘 올트만과 일론 머스크로부터 '오픈 AI의 영혼'으로 불렸다. 그러나 기술 신중론자인 수츠케버는 AI 개발 속도와 안전성 문제를 두고 올트만CEO와 이견을 보였고, 지난해 11월 올트만 해임에 앞장섰다가 이사회에서 물러났다. 수츠케버가 이끌었던 오픈AI의 안전 윤리담당부서 '수퍼얼라인먼트(Super Alignment)'팀은 'GPT-4o' 출시 전에 해체됐다. 

수츠케버는 최근 "안전한 초지능 구축"을 목적으로 하는 AI 스타트업 SSI(Safe Superintelligence)를 설립했다. 그는 "기본적으로 인류에게 대규모 피해를 주지 않는 안전한 초지능(SSI) 구축이야 말로 우리 시대의 가장 중요한 기술적 문제"임을 강조했다.

하민회 이미지21 대표.

AI기술의 안전성을 우려하는 업계 전문가와 석학들이 늘고 있다.

AI 안전성은 AI 시스템이 예측 가능한 방식으로 작동하고, 인간에게 해가 되지 않는 것을 의미한다. AI가 잘못된 결정을 내리거나 의도하지 않은 결과를 초래하지 않아야 한다.

최근 들어 이렇게 AI 안전성이 강조되는 건 크게 두 가지 이유 때문이다. AI 기술 발전 속도가 예상 범주를 넘어설 만큼 빨라지고 의료, 자율자동차, 금융 등 확산분야가 늘고 있다는 점 그리고 텍스트·이미지·오디오·비디오 등 다양한 형태의 데이터 정보를 동시에 이해해 사용자의 감정, 행동의 맥락, 주변 환경 등에 정확하게 반응하는 '멀티모달(Multi-modal)'기술이 일반화되면서 사용자와 AI의 상호작용의 접점이 현저하게 늘어났기 때문이다.

멀티모달의 안전성은 단순히 '세종대왕 맥북 사건'이나 '1일 1돌 섭취' 같은 엉뚱한 대답으로 웃어넘길 수 있는 차원의 문제가 아니다. 의료 분야의 AI가 잘못된 데이터를 학습하거나 알고리즘 오류로 잘못된 진단을 내릴 경우 환자의 생명이 위태로워질 수 있고 자율주행차가 교통 환경을 잘못 인식하거나 예기치 못한 상황에서 부적절하게 반응하면 치명적인 사고를 유발할 수도 있다. 그 만큼 정확성과 신뢰도가 확보되어야 부작용 없이 사용할 수 있다.

멀티모달 AI가 적용된 '스마트렌즈' 서비스. [자료=네이버]

AI 기술의 위험성을 경고하는 AI두머(doomer)의 대표주자인 'AI의 대부' 제프리 힌튼 교수는 최근 BBC와의 인터뷰를 통해 "AI의 안전에 대한 충분한 고려가 이뤄지지 않고 있다"고 지적했고 <사피엔스>의 저자 유발 하라리, 노벨경제학상 수상자 대니얼 카너먼 교수 등 세계적인 석학 25명도 최근 사이언스에 '급격한 진보 속 AI의 극단적 위험 관리'라는 글을 공동으로 기고해 AI 안전성에 대한 우려를 전했다.

오픈AI와 구글 전·현직 직원 13명이 '최첨단 AI에 대한 경고 권리'라는 성명을 통해 "AI가 인류에 전례 없는 혜택을 제공할 수 있는 잠재력을 갖고 있지만, 동시에 AI 기술로 야기되는 심각한 위험을 우리는 알고 있다"며, "이런 위험은 사회 불평등 심화부터 조작·가짜뉴스 등을 통환 사회 전복, 나아가 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실로 까지 이어질 것"이라고 지적했다. 또 "AI 글로벌 빅테크들이 AI의 위험성을 인지하고 있음에도 불구하고 이윤 추구 목표 때문에 적절한 조치나 제대로 된 감독을 하지 않고, 그 위험성을 원활하게 공유하지도 않는다"고 주장했다.

빅테크의 안전 불감증은 심각한 상태다. '안전'보다 '성능'에 초점을 맞추고 '시장 선점'에 매진한다. '선점' 한 자가 '독식'하는 AI 기술 속성 탓 이다.

오픈AI의 폭주가 대표적이다. 멀티모달 GPT-4o 출시 일정을 맞추기 위해 안전 윤리담당팀을 해체한 오픈AI는 GPT-4o 공개 직후 '스칼렛 요한슨 목소리 도용' 논란에 휩싸였다. 데이터 관리에 문제가 있음을 보여주는 사례였다.

오픈AI와 챗GPT 로고 [사진=뉴스핌DB]

해커가 GPT-4o를 탈옥시켜 끔찍한 답을 얻어내는 일도 발생했다. 탈옥(Jail breaking)은 정보기술(IT) 업계에서 AI 모델의 제한된 기능을 우회하여 AI가 본래 금지된 작업을 수행하게 만드는 행위로 주로 AI 시스템이 제공하지 않도록 설정된 정보나 서비스를 접근하거나, 비윤리적이고 위험한 행동을 하도록 유도하는 것을 의미한다. AI 모델의 윤리적 안전장치를 깨뜨리는 행위인 셈이다.

최근 해커 플리니 프롬프터(Pliny the Prompter)는 GPT-4o 모델을 탈옥시켜, 폭탄 제조 방법과 메스암페타민(필로폰) 제조 방법을 단계적으로 설명하게 하고, 자동차 탈취 방법, 욕설 등을 생성해 충격을 안겼다. GPT-4o가 안전장치가 취약한 상태로 세상에 나왔음을 보였기 때문이다.

AI 안전성을 높이려면 AI기업들의 진지하고 성실한 노력이 필요하다. 안전 윤리기준을 확립하고 몇 가지 사항에 대해선 지속적으로 업데이트 해 나가야 한다.

▲무엇보다 데이터 관리가 잘 되어야 한다. 편향되거나 잘못된 정보가 포함되지 않은, 다양하면서도 신뢰할 수 있는 데이터를 합법적으로 확보하고 사용해야 한다. ▲ AI 가 어떻게 결정을 내리는지 설명할 수 있는 알고리즘의 투명성도 확보되어야 한다. ▲ AI 시스템 도입 전 다양한 상황에서 테스트하고 검증함으로써 예기치 않은 오류나 위험을 최소화하는 노력도 기울어야 한다.

▲ 회사의 역량 중 많은 부분을 보안, 모니터링, 안전 등에 집중해야 한다. ▲ 아울러 AI 기업 직원들이 목소리를 낼 수 있도록 내부고발자에 대한 보호 조치가 마련돼야 한다. AI의 위험과 관련된 비판을 막는 계약 금지, 회사와 관계없는 독립 기관에 AI의 위험 관련 우려사항을 제기할 수 있는 익명 절차 마련, 내부고발자에 대한 보복 금지 등이 해당된다.

21일(현지시간) 마이크로소프트(MS) 연례 개발자 회의 '빌드'(Build)에서 연설하는 사티아 나델라 MS CEO. [사진=로이터 뉴스핌]

AI 안전성 확보는 마치 위험 물질을 다루듯 조심스럽고 신중하게 재차 확인하며 개발해가는 '정성과품이 드는 과정'이다.

이제 AI는 주어진 명령을 수행하는 데 그치지 않고 중간에 필요한 업무를 스스로 찾아내 결과물을 도출하는 'AI에이전트'로 진화하고 있다. 업계에선 AI의 여기서 한 단계 더 발전한 것을 '인공일반지능(AGI)'으로 보고 있다. AGI는 주어진 모든 상황에서 인간처럼 추론, 학습하고 문제를 해결하는 능력을 갖춘 AI로 굳이 인간의 명령이나 지시가 없이도 스스로 판단하고 일할 수 있다.

인구감소와 고령화로 인해 필연적으로 다가오는 축소사회는 어차피 AI와 로봇과 더불어 살아가게 될 것이다. 빅테크에게만 AI 안전성을 강제하긴 무리가 따른다. 국가적 규제가 시급하다. 여전히 안개속에 있는 'AI기본법' 제정부터 속도를 내야 한다.

인간보다 똑똑한 지적 존재를 만드는 일은 분명 위험한 일이다. 미래로 가는 AI라는 돌다리가 안전한지 백번 두드려 확인해도 모자람이 없지 않을까?

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
"'각설이 타령'은 광복군의 희로애락" [서울=뉴스핌] 이지은 기자 = 신개념 국악 방송 '최한이·변상문의 작금작금' 제4편이 26일 종합뉴스통신사 뉴스핌 유튜브 채널 '뉴스핌TV'와 'K스팟(K·SPOT)'을 통해 공개됐다. '최한이·변상문의 작금작금'은 국악이라는 전통 예술 분야에 새로운 활력을 불어넣고, 대중에게 더욱 가깝게 다가가려는 시도이다. 젊은 국악인들의 시선으로 전통음악을 재해석하고 현대사회 속 국악의 의미를 재조명하며, 소리꾼 최한이와 변상문 국방국악문화진흥회 이사장, 팝페라 가수 오윤석과 소리꾼 박나현, 김보성, 가야금 병창 박혜정 등이 출연한다. '최한이·변상문의 작금작금'의 제목 속 '작금(昨今)'은 역사적 사건과 역사적 인물 이야기를 국악으로 풀어 간다는 의미를 담고 있다. 또한 '작금(作金)'은 '금을 캐 부자가 된다'는 뜻도 포함돼 있다. [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 맨 왼쪽부터 최한이, 김보성, 변상문. 2025.09.25 alice09@newspim.com 이날 제4편 '광복군'에서는 가야금 병창 박나현과 경기소리꾼 김보성이 함께했다. 4편 '광복군'에서는 의병들에 대한 이야기로 시작했다. 변 이사장은 "의병은 1907년 8월 대한제국 군대가 해산된 후, 1919년 9월 상해 임시정부가 세워질 때까지 개인 신분으로 일제와 싸운 분들"이라고 설명했다. 이어 "이 광복군은 1948년 8월 15일 대한민국 정부수립과 함꼐 국군이 됐다"고 부연했다. 당시 독립군이자 광복군 출신으로 초대 국방부 장관을 맡은 사람은 이범석이며, 초대 국방부 차관은 최용덕이 맡았다. 제4편 '광복군'의 시대적 배경은 1944년 겨울이다. 변 이사장은 "평안도 출신 김준엽을 비롯한 1500여 명의 청춘은 평양에 주둔하고 있던 일본군 제20사단에서 4주간 훈련을 받고, 당시 중국군과 전쟁 중인 일본군에 배치됐다. 그런데 이들 중 40여 명이 일본군영을 탈영하게 된다. 대표적 인물이 전 고려대 총장 김준엽, 창작과 비평 출판사를 운영했던 장준하, 임시정부 초대 군무총장 노백린 장군의 아들 노능서"라고 말했다. 최한이 소리꾼은 장준하의 '돌베개' 책 부분을 읽으며 "흥이 오르자 안익태 씨가 작곡한 애국가를 불랐다. 회식을 주관한 김주임은 사발가를 불렀다"고 말했다. 이어 "여기서 나오는 '사발가'는 1900년대 초부터 1910년 한일병탄 무렵까지 우리 민족의 울분을 노래한 곡"이라고 소개했고, 김보성 소리꾼은 가창을 시작했다. [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 사진은 김보성 소리꾼. 2025.09.25 alice09@newspim.com [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 사진은 박나현 가야금 병창. 2025.09.25 alice09@newspim.com 탈영한 이들은 중국 국민당 정부 중앙육군군관학교를 마치고 중경에 있는 임시정부를 찾아갔다. 그리고 그곳에서 김구 선생을 만나게 된다. 해당 자리에서 김성근이라는 청년은 '각설이 타령'을 부르게 된다. 박나현 소리꾼은 '품바'라는 가사가 들어간 '광복군 환영가'를 가창했다. 최한이 소리꾼은 이를 들은 후 "지금으로 말하면 타령은 강한 수능금지송이 됐을 것 같다"고 말했다. 이후 변상문 이사장과 최한이는 오늘의 '금맥'으로 "각설이 타령은 광복군의 희로애락 그 자체였고, 국악은 곧 군악이었다"고 정의를 내렸다. 올해 8월 15일 광복 80주년을 맞아 선보이는 특집 프로그램인 '최한이·변상문의 작금작금' 제1화 '광복'은 총 4개로 나뉘어 방송됐다. 제1편은 '작금', 2편 '김구, 판소리 배우다', 3편 '이승만과 아리랑', 4편 '광복군'이다. [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 맨 왼쪽부터 최한이, 김보성, 변상문. 2025.09.25 alice09@newspim.com 앞서 제1편 '작금'에서는 성악가 오윤석이 참석해 한국 가곡 '선구자'를 가창했다. 변사로 나선 변상문 이사장은 '가곡'에 대해 "표준국어대사전에서 '가곡'을 우리나라 전통 성악곡의 하나로, 피리나 거문고, 해금 따위의 관현악 반주에 맞춰 부르는 노래라고 정의하고 있다"고 설명하면서 "광복 80주년을 맞이해 뒤죽박죽 돼 있고 뒤섞인 개념을 정리해보고자 한다"고 밝혔다. 그러면서 "가곡은 국악"이라는 답을 힘주어 말했다. 이어 제2편 '김구, 판소리 배우다'에서는 김구 선생이 왜인을 살해한 후 옥중 생활을 하며 만난 조덕근으로부터 시조와 여창 가곡, 남창 가곡, '경기 12잡가', '선유가', 판소리 '적벽가'와 '춘향가'를 배운 내용이 담겼다. 변상문 이사장은 "백범 김구는 판소리 '춘향가'를 배웠고, 판소리 '농부가'와 '갈까부다'를 즐겨 불렀다"고 말했다. 이에 최한이 소리꾼은 "판소리는 원조 K팝"이라고 정의했다. '이승만과 아리랑'이라는 제목의 제3편에서는 이승만 전 대통령이 1993년 2월 24일 스위스 제네바에서 국제연맹 본회의에 참석한 후 식사 자리에서 초대 대통령의 영부인인 프란체스카 여사를 만난 내용이 담겼다. 이 전 대통령은 프란체스카 여사에게 힘들고 외로울 때마다 '아리랑'을 불러줬다. 이에 최한이 소리꾼은 "아리랑은 2012년 유네스코 세계유산에 등재된 우리의 소리이다. '아리랑'은 한민족 DNA이다. 슬플 때는 발라드로, 기쁠 때는 찬가로, 힘들 때는 떼창으로, 인생사 희로애락의 뮤지컬로 시류를 편승하는 살아있는 맥"이라고 강조했다.   alice09@newspim.com 2025-09-26 16:05
사진
두나무·네이버 '슈퍼 플랫폼' 시동 [서울=뉴스핌] 전미옥 기자 = 두나무와 네이버가 가상자산 '슈퍼플랫폼' 탄생을 예고했다. 네이버페이에서 스테이블코인으로 상품을 결제하고 예치금은 업비트 계좌와 연동해 이자이익을 꾀하는 등 원화 스테이블코인 확장 가능성을 제시, 시장을 선점하겠다는 구상이다.  26일 업계에 따르면 네이버파이낸셜과 두나무가 추진하는 포괄적 주식교환 거래 체결 시 양사는 원화 스테이블 코인의 발행과 유통, 활용을 잇는 삼각편대를 단숨에 완성할 수 있다. 네이버페이가 발행한 원화 스테이블코인을 두나무의 가상자산거래소 업비트에 유통하고 해당 코인을 네이버페이가 보유한 막대한 온·오프라인 결제처에서 지불 수단으로 활용하는 방향이다. 달러 스테이블코인 대비 원화스테이블 코인의 활용 가능성에 대한 의구심이 지속되고 있는 가운데 네이버페이와 두나무가 원화 스테이블코인의 구체적인 활용처와 확장 가능성을 제시, 시장을 선점할 수 있는 점도 기회요인이다. 오동환 삼성증권 연구원은 "두나무의 블록체인 플랫폼 '기와체인'으로 스테이블 코인을 발행하고, 이를 네이버페이의 결제처에서 결제 수단으로 활용이 가능하다"라며 "또 업비트에서 거래하며 탈중앙화 금융의 기초 자산으로 활용할 수도 있다"고 내다봤다. 네이버와 두나무의 업비트 로고.[사진=각 사] 특히 네이버페이는 최근 결제 뿐 아니라 대출, 보험 증권, 자산관리 등을 연계해 종합금융서비스로 도약을 꾀하고 있다. 두나무를 품게 되면 가상자산으로 사업영역을 넓힐 수 있는 셈이다. 구체적으로 네이버페이, 업비트 고객들은 원화 스테이블코인 또는 가상자산으로 네이버페이에서 물건을 구매·결제할 수 있고 네이버페이와 업비트 계좌가 상호 연동되면 기존 네이버페이 예치금을 업비트 계좌에 보관, 고객들이 이자수익을 꾀할 수도 있다. 이같은 가상자산 활용이 보편화되면 자연히 네이버-업비트 생태계에 고객을 묶는 '록인' 효과가 극대화된다. 이효진 메리츠증권 연구원은 "네이버의 두나무 연결 편입은 단순 가상자산 거래대금에 대한 수익이 인식되는 것이 아닌 실물자산토큰(RWA), 스테이블 코인 등 디지털 자산 사업의 확대로 활용될 수 있음에 주목해야 한다"고 짚었다.  전문가들은 이번 네이버와 두나무의 합병 신호를 시장에 일종의 '선전포고'로 관측했다. 스테이블코인을 비롯한 가상자산 시장을 선점하겠다는 의지라는 것이다. 김형중 한국핀테크학회 회장은(고려대 교수)는 "네이버와 두나무가 힘을 합치면 스테이블코인의 쓸모를 만들어낼 수 있고 여러 가능성을 기반으로 주도권을 쥐겠다는 강력한 의지를 시장과 정부에 표현한 것"라며 "시그널을 던졌으니 시장 반응을 보고 세부사안을 정립해나갈 것으로 보인다"고 말했다. [사진=게티이미지] 임병화 성균관대 경영학과 교수는 "원화 스테이블코인 법제화가 빠르게 추진되고 있는 만큼 카카오, 토스를 비롯해 은행 등 관련 기업들도 분명 컨소시엄 등 다양한 물밑 논의를 진행하고 있을 것"이라고 짚었다. 그러면서 "미국, 유럽, 일본 등 해외에 비해 한국은 많이 뒤처져있기 때문에 당장의 규제보다는 산업육성이 우선되는 것이 바람직하다"고 피력했다. 다만 제도적 걸림돌도 적지 않다. 더불어민주당 안도걸 의원이 대표 발의한 스테이블코인 관련 법안에서 이용자 보호를 위해 발행과 유통이 분리돼야 한다는 점을 명시했기 때문이다. 이때 발행, 유통의 의미가 구체적으로 규정된 것은 아니지만 단순 해석하면 네이버에서 만든 원화 스테이블코인을 손자회사인 업비트에 상장, 거래로 이뤄지기는 쉽지만은 않을 전망이다.  금융당국이 네이버와 두나무의 결합을 어떻게 평가할지도 변수로 꼽힌다. 가상자산 분야에서 금융당국은 소비자 보호와 산업혁신의 균형을 중시하며, 투자자 보호 중심의 규율체계 마련 등에 나서고 있다. 심원태 금융위원회 가상자산과 사무관은 최근 가상자산 관련 세미나에서 "국제금융안정위원회(FSB) 등은 미국의 가상자산거래소 FTX의 파산 사례를 들며 이해상충 방지, 경업 제한 등 대응방안 마련을 강조한 바 있다"며 "국내 가상자산 시장은 개인만 참여한다는 특수성이 있어 이용자 보호 측면을 보다 중요하게 다루고 있다"고 했다.  한편 전날 네이버와 두나무는 양사 간 포괄적 주식교환을 논의하고 있다고 밝혔다. 네이버 계열사 네이버파이낸셜에 두나무가 편입되는 방안 등을 놓고 검토에 들어간 것이다. 포괄적 주식교환은 한 회사가 다른 회사의 주식 전부를 취득해 100% 지분을 확보하는 절차다. 구체적으로 두나무 주주들이 보유한 두나무 주식 전부를 네이버파이낸셜에 넘기고, 네이버파이낸셜은 신주를 발행해 두나무 주주들에게 제공한다.  네이버는 "두나무와 스테이블 코인, 비상장주식 거래 외 주식 교환을 포함한 다양한 협력을 논의하고 있다"고 밝혔다. 두나무 측도 "네이버페이와 스테이블 코인, 비상장주식 거래 외에도 다양한 협력을 논의하고 있다"고 했다. 양사는 조만간 각각 이사회에서 주식 교환 안건을 의결할 것으로 알려진다. romeok@newspim.com 2025-09-26 17:18
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동