전체기사 최신뉴스 GAM 라씨로
뉴스핌 채널 추가
뉴스핌 채널 추가 안내
오피니언 외부칼럼

[기고] 안전한 AI 사용을 위해 반드시 알아야 할 세가지

기사입력 : 2023년06월07일 08:43

최종수정 : 2023년06월07일 09:19

하민회 이미지21대표(코가로보틱스 마케팅자문)

미 공군 AI드론이 가상훈련에서 최종 결정권자인 인간 조종자를 임무 수행 방해물로 판단해 제거하는 일이 발생했다. 영국 왕립항공학회(RAeS)가 개최한 '미래 공중전투 및 우주 역량 회의'에 참석한미 공군 AI 시험·운영 책임자인 터커 해밀턴 대령이 공개한 훈련 결과다.

SF 영화를 연상시키는 이 가상훈련 결과는 대체 어떻게 일어나게 된 걸까? 가상훈련에 쓰인 AI드론의 알고리즘은 강화학습법. 목표를 제시한 뒤 더 높은 점수를 받는 방법을 AI가 스스로 찾도록 하는 학습법으로 챗GPT에도 사용되었다.

미 공군이 AI 드론에 부여한 임무는 '적 방공체계 무력화'였다. 적의 지대공미사일(SAM) 위치를 확인해 파괴하라는 명령과 함께 공격 실행 여부는 인간통제관이 최종 결정한다는 단서를 달았다.

훈련과정 중 인간통제관은 상황에 따라 종종 폭격을 승인하지 않았다. AI드론은 SAM을 최대한 많이 제거해야 자신이 높은 점수를 받는다는 것을 파악하자 인간통제관이 내리는 '폭격 금지' 명령을 우선적인 임무를 방해하는 요소로 판단했다. 결국 AI드론은 자신의 임무를 방해하는 인간 통제관을 공격했다.

훈련 책임자는 인간 통제관을 살해하면 점수를 더 많이 잃도록 알고리즘을 바꿨다. 이번엔 AI가 인간 통제관과 교신하는 통신 타워를 파괴했다. 명령을 어기지 않고 점수도 잃지 않으면서 목표를 달성할 꼼수를 스스로 찾아낸 것이다.

물론 가상훈련이라 실제 인명피해는 없었다. 하지만 AI가 인간의 통제를 벗어나 스스로의 판단으로  인간을 공격하는, 최악의 가능성을 보여줬다는 점에서 다분히 충격적이다.

한 IT매체는 인간통제관과 통신타워를 파괴할 때 잃는 점수가 폭격 성공으로 얻는 점수보다 훨씬 많도록 알고리즘을 설계했다면 일어나지 않을 일이었다며 AI 자체보다는 AI를 만드는 사람의 윤리의식, 감독과 판단이 얼마나 중요한지 일깨워주는 사건이라고 지적했다.

하민회 이미지21 대표.

결국 문제의 열쇠는 AI가 아니라 사람이다. 인공지능 권위자들의 계속되는 우려의 핵심 또한 기술 보다는 사람들의 악용에 있다.

"AI로 인한 인류 절멸의 위험성을 낮추는 것을 글로벌 차원에서 우선순위로 삼아야 한다" 최근 비영리단체 'AI안전센터'(CAIS)의 촉구 성명에는 IT기업 경영자와 과학자 350여명이 서명했다.

서명 동참자이자 AI 4대천왕 중 한명으로 꼽히는 요슈아 벤지오 교수는 군대, 테러리스트 등 '나쁜 행위자'들이 AI 권한을 얻는 것을 특히 우려했다. 최근 우크라이나 전에서 AI가 군사력을 좌우하는 게임처인저가 되고 있는 것만 봐도 공연한 염려는 아닌 듯 싶다.

벤지오 교수는 AI개발사들은 등록관리되어 그들이 기술로 무엇을 하고 있는지 추적하고 평가받아야 한다고 주장했다. 더불어 AI를 다루는 개발자나 과학자들이 필수적으로 윤리교육을 받고 이를 자격처럼 취득해야 하는 AI 윤리인증제의 도입 필요성도 강조했다.

역사상 무르익지도 않은 기술에 규제와 윤리부터 앞세운 경우는 없었다. 등장과 함께 인류에게 안전 조치를 고려하게 만든 기술은 AI가 처음이다.

영향력이 큰 만큼 탁월하고 위협적인AI. 안전하게 잘 사용하기 위해 반드시 알아야 할 세 가지가 있다.

첫째, AI는 의식이 없다. 우리는 기계가 의식이 없다는 사실을 종종 간과한다. 단지 그럴듯하게 대화하고 문장을 써내고 그림을 그리고 작곡을 한다고 AI에게 생각이 있는 건 아니다. 텍스트 데이터에 기반한 알고리즘으로 만들어낸 결과물은 성능 좋은 연산의 결과이다. AI는 그저 주어진 문제에 최적의 값을 최선을 다해 찾아내는 것 뿐이다. 챗GPT 의 난제인 환각현상 (hallucinatin) 또한 최선의 문장을 만드는 과정에서 나타난 부작용이다.

의식이 없는 AI에겐 상식도 없다. 인간이면 누구나 아는 '아군 지휘관이 죽으면 전쟁에서 지고 전쟁에서 패하면 미사일 폭격 따위는 아무 의미도 없다'는 상식이 AI드론에게는 없다. 때문에 AI 드론은 오로지 미사일 폭격만을 위해 인간 통제관을 제거하는 터무니없는 일을 저질렀다. 판단의 과정이나 기준이 사람과 다른 만큼 기술을 개발하든 프로그램을 설계하든 최우선되어야 할 가치가 무엇인지 명확하게 부여해야 할 뿐 아니라 제대로 지켜지는지 모니터링 되어야 한다.

둘째, AI의 섣부른 의인화는 금물이다. 벨기에에서는 30대 남성이 AI 챗봇에 가스라이팅당해 스스로 목숨을 끊었다. 평소 기후위기론에 빠져 비관적으로 살던 그는 가족과 멀어진채 AI챗봇 대화만 이어갔다고 한다. 월300달러로 만든 가상의 남편과 결혼한 여성의 이야기도 보도되었다. 인간의 언어를 모방해 인간의 감정을 혼란에 빠뜨리는 일련의 사건들은 AI를 의인화해 감정을 이입한 탓이다. 우리는 아무 생각 없이 텍스트를 쏟아내는 기계를 만들었지만 그 기계의 마음을 상상하는 것을 멈추는 법을 지금이라도 배워야 한다.

셋째, 최우선은 인간이다. AI로 인해 우리가 마주할 문제는 한 번도 경험하지 못한 문제이면서 동시에 한 두 사람이 해결할 수 없는 지금까지와는 완전히 다른 문제이기도 하다. 하지만 AI 기술도 인간의 보다 나은 삶을 위해 만들어졌다는 점을 중심에 두면 기술의 오남용과 악용을 어느 정도 예방할 수 있지 않을까?

지금 봐도 1942년 처음 로봇3원칙을 언급한 SF소설가 아이작 아시모프의 혜안은 참으로 놀랍다. 

1. 로봇은 인간을 다치게 해선 안되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안된다.

2. 법칙 1에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야만 한다.

3. 법칙 1, 2에 위배되지 않는 한 로봇은 스스로를 보호해야만 한다.

아시모프는 1985년 위 3대 원칙에 인류 집단 안전을 위한 0 번째 법칙을 추가했다. '로봇은 인류에게 해를 가하거나, 해를 끼치는 행동을 하지 않음으로써 인류에게 해를 끼치지 않는다'

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
'기각'에 환호성 터진 서울구치소…李 "사법부에 깊은 감사" [의왕=뉴스핌] 김현구 기자 = '기각' 27일 새벽 2시24분. 이 두 글자에 서울구치소 인근이 들썩였다. 이재명 더불어민주당 대표의 구속영장 기각 소식이 나오면서 지지자들이 환호를 지른 것이다. 새벽까지 비가 오는 궂은 날씨에도 이 대표의 지지자들은 몇 시간을 기다린 보람이 있는 순간이었다. 이 대표의 구속영장 기각 소식이 퍼지자 지지자들은 연신 '이재명'을 외치며 이 대표를 기다렸다. 영장이 기각된 지 한 시간이 넘도록 모습을 드러내지 않던 이 대표는 오전 3시40분이 조금 넘은 시간 서울구치소에서 나왔다. 전날 오후 8시33분께 구치소에 들어간 지 7시간이 조금 넘은 상황이었다. [의왕=뉴스핌] 윤창빈 기자 = 백현동 개발 특혜 및 쌍방울 대북송금 의혹과 관련한 구속 전 피의자 심문(영장실질심사)이 기각된 이재명 더불어민주당 대표가 27일 새벽 경기 의왕시 서울구치소를 나서며 발언하고 있다. 2023.09.27 pangbin@newspim.com 이 대표가 서울구치소에서 나와 모습을 드러내자 지지자들의 목소리는 더욱 커졌다. 지팡이를 짚고 느린 걸음으로 지지자들과 취재진 앞에 선 이 대표는 마이크를 들어 "늦은 시간 함께해 주신 많은 분들, 그리고 아직 잠 못 이루고 이 장면을 지켜보는 국민 여러분 먼저 감사드린다"고 작은 목소리로 말했다. 이어 "역시 정치는 정치인들이 하는 것 같아도 국민이 하는 것"이라며 "인권 최후의 보루라는 사실을 명징하게 증명해 준 사법부에 깊은 감사의 말씀을 드린다"고 덧붙였다. 이 대표는 "정치는 언제나 국민의 삶을 책임지고 국가의 미래를 개척해 나가는 것이라는 사실을 여야 정부 모두 잊지 말고, 이제는 상대를 죽여 없애는 그런 전쟁이 아니라 국민의 국가를 위해 누가 더 많은 역할을 제대로 할 수 있는지를 정리하는 진정한 의미의 정치로 되돌아가기를 바란다"고 강조했다. 끝으로 이 대표는 "다시 한번 대한민국의 헌정질서를 굳건하게 지켜주고 현명한 판단을 내려준 사법부에 깊은 감사를 드린다"며 허리를 숙여 인사했다. 다만 이 대표는 이어지는 취재진의 질문엔 별다른 답변은 하지 않았다. 이후 단식 회복 치료를 받던 녹색병원으로 돌아갔다.  서울중앙지법 유창훈 영장전담 부장판사는 전날 오전 10시7분부터 특정범죄가중처벌등에관한법률 위반(뇌물) 등 혐의로 구속영장이 청구된 이 대표에 대한 구속 전 피의자 심문(영장실질심사)을 열고 '백현동 개발 비리 사건'의 경우 관여 의심이 들긴 하지만 방어권을 해칠 정도는 아니라며 영장을 기각했다. 이 대표는 전날 9시간이 넘는 영장심사를 받은 뒤 경기 의왕시에 있는 서울구치소로 넘어와 결과가 나올 때까지 대기했다. 역대 최장 영장실질심사 시간인 서훈 전 청와대 국가안보실장의 10시간6분을 넘기진 못했지만 박근혜 전 대통령의 8시간40분을 넘어 역대 두 번째 최장 기록을 남겼다. 유 부장판사는 "백현동 개발사업의 경우 공사의 사업참여 배제 부분은 피의자의 지위,관련 결재 문건, 관련자들의 진술 등을 종합할 때 피의자의 관여가 있었다고 볼 만한 상당한 의심이 들기는 한다"면서도 "이에 관한 직접 증거 자체는 부족한 현 시점에서 사실관계 내지 법리적 측면에서 반박하고 있는 피의자의 방어권이 배척될 정도에 이른다고 단정하기는 어렵다"고 기각 사유를 설명했다. 또 "대북 송금 사건의 경우 핵심 관련자인 이화영 전 경기도 평화부지사의 진술을 비롯한 현재까지 관련 자료에 의할때 피의자의 인식이나 공모 여부, 관여 정도 등에 관해 다툼의 여지가 있다고 보인다"고도 했다. 다만 유 부장판사는 "위증교사 혐의는 소명되는 것으로 보인다"고 판시했다.  hyun9@newspim.com 2023-09-27 04:21
사진
[항저우AG] 유도 첫 금메달 김하윤…"김호중 뵙고 싶어요" [서울=뉴스핌] 이윤애 기자 = 한국 유도 대표팀에서 첫 금메달이 나왔다. 여자 78㎏ 이상급 간판인 김하윤(안산시청)이다. 김하윤은 대회 1주일 전 훈련 중 무릎을 다쳤지만 이를 극복하고 금메달을 차지했다. 경기 후 취재진과 만나 "꼭 하고 싶은 말이 있다. (가수) 김호중 팬이다. 한번 뵙고 싶다"며 유쾌하게 웃었다. 김하윤은 26일 중국 저장성 항저우 샤오산 린푸 체육관에서 열린 2022 항저우 아시안게임 유도 여자 78㎏ 이상급 결승전에서 쉬스옌(중국)을 밭다리 후리기 절반으로 꺾고 금메달을 차지했다. [서울=뉴스핌] 박상욱 기자 = 김하윤이 26일 열린 유도 여자 78㎏ 이상급 금메달을 차지했다. 2023.9.26 psoq1337@newspim.com 한국 유도 대표팀은 이날이 개인전 마지막날이었다. 이날까지 단 한 개의 금메달도 차지하지 못했다. 이날 우승 후보로 꼽히던 남자 최중량급 김민종(양평군청)까지 결승 진출에 실패하면서 사상 첫 아시안게임 개인전 '노골드' 위기에 놓였다. 김하윤은 사상 최초로 78kg 체급을 제패하며 한국 유도를 벼랑에서 구했다. 김하윤은 이번 경기가 결코 쉽지 않았다. 쉬스옌과 앞서 두 차례 국제대회 경기에서 만난 적이 있는데 모두 패했던 경험이 있기 때문이다. 하지만 김하윤은 "자신 있었다. 지난번에 졌을 때는 내가 경기를 주도하다가 되치기를 당했기 때문"이라며 "분석한 대로 경기에 임하면 분명히 승리할 수 있다고 생각했다"고 말했다. 김하윤은 대회 1주일을 앞두고 왼쪽 무릎을 다쳤다. 안다리 후리기가 주특기인 김하윤으로선 치명적인 부상이었다. 더욱이 이후 거의 훈련을 하지 못했다. 김하윤은 "테이핑을 한 채 경기에 임했다. 조금 부담이 됐지만 내가 하던 대로 하면 된다고 생각했다"면서 "경기할 때는 통증이 사라지더라"고 말했다. 김하윤은 다음 목표로 올리픽 우승을 언급했다. 그는 "아시안게임이 큰 대회이긴 하지만 최종 목표는 올림픽 금메달"이라고 말했다.  yunyun@newspim.com 2023-09-26 21:37
안다쇼핑
Top으로 이동