전체기사 최신뉴스 GAM 라씨로
KYD 디데이
전국 대전·세종·충남

속보

더보기

만능이라더니 헛소리하는 챗GPT?...AI 신뢰성 잡으면 전세계 잡는다

기사입력 : 2023년03월04일 19:16

최종수정 : 2023년03월06일 15:46

쓰레기 정보까지 학습하는 챗GPT, 신뢰성 우려
"데이터 편향 측정·데이터 표준화 선도 적기"

[서울·대전=뉴스핌] 김수진 기자 = # 대전의 한 소재 관련 연구소에서 근무하는 A연구원은 재미삼아 대화형 인공지능(AI) 챗GPT로 연구보고서를 작성했다가 깜짝 놀랐다. 챗GPT가 보고서에서 인용했다는 논문은 실제로는 존재하지 않는 '거짓' 출처였기 때문이다. A연구원은 "그럴 듯한 내용으로 보고서를 만들어냈지만 자세히 살펴보면 내용의 오류가 상당했고 심지어 잘못된 참고 논문을 알려주거나 아예 거짓 출처를 제시하기도 했다"며 "한마디로 챗GPT가 거짓말로 소설을 쓴 것으로, 신뢰성 측면에서 상당히 우려된다"고 말했다.

산업계부터 의료, 교육, 정치, 문화·예술 모든 분야에서 챗GPT(chat GPT) 열기가 뜨겁다. 일론 머스크가 작정하고 차린 스타트업 '오픈AI'가 지난해 11월 말 '챗GPT'를 선보이며 전 세계를 뒤집어놓고 있다. 챗GPT은 그간 AI와는 전혀 다른 수준의 결과물을 만들어내며 공개 5일만에 이용자 100만명을 돌파하고 지난달에는 1억명 이상이 이용하고 있다. 오픈AI는 이달 중으로 이용자 2억명을 거뜬히 넘길 것으로 보고 있다. 챗GPT를 놓고 '아이폰 이후 최대 혁신' '모든 분야의 게임체인저' 등의 극찬이 연일 쏟아지고 있다.

오픈AI와 챗GPT 로고 [사진=로이터 뉴스핌]

챗GPT는 대규모 언어모델(LLM)을 기반한 AI시스템에 많은 정보를 투입해 인간의 언어·문법 등을 이해시키는 학습과정을 거친다. 여기에 투입되는 정보는 인류가 그간 쌓아온 지식 자산을 기반으로 한다. 상황을 전체적으로 이해하고 대응하는 '인공일반지능(AGI)'에 가깝다. 심지어 출시 시점부터 이미 학습시스템을 완료한 모델로 곧바로 비즈니스 모델화가 가능하다는 장점도 갖췄다. 분야·기능별 AI모델을 새롭게 만들어야 하는 기존 모델과는 다르다. 국내 한 교육 플랫폼 대표는 "챗GPT가 시장에서 각광받는 이유도 즉각 활용할 수 있는 완성형 AI모델이기 때문"이라고 평가하며 "우리도 제품에 챗GPT를 도입을 위한 준비 중"이라고 밝혔다.

실제로 이미 국내에서도 챗GPT를 도입한 기업들이 적지 않다. 의학·건강부터 교육, 업무용 툴, 여행플래너 등 다양한 분야에서 해당 AI를 활용하고 있다.

일론 머스크 테슬라 CEO.[사진=로이터 뉴스핌]

◇ 거짓말하는 챗GPT?..."TTA 데이터 편향기준 적극 활용해야"

그런데 출시 불과 3달만에 챗GPT를 어디까지 믿을 수 있느냐는 우려가 나오고 있다. 챗GPT가 신뢰성이 떨어지는 결과물을 내놓기 시작했기 때문이다.

실제 국내 한 언론사에서 챗GPT의 성능을 확인하기 위해 '현재 대한민국 대통령이 누구냐'고 묻자 문재인 전 대통령이라는 오답을 냈다. 또 미국 의사시험과 로스쿨 시험을 통과한 챗GPT가 정작 한국 대학수학능력시험 수리영역에서는 두 자리수 곱셈도 틀리는 등 연산능력에 한계를 보였다. 스스로 만들어낸 근거없는 출처를 바탕으로 한 논문을 작성하기도 했다. 이러한 상황에 더해 심지어 일부 커뮤니티에서는 잘못된 결과물을 내놓게 하기 위해 일부러 챗GPT에게 '가스라이팅'하는 놀이문화까지 번지고 있는 상황이다.

미국 워싱턴주 리치먼드의 마이크로소프트(MS) 본사에서 인공지능(AI) 챗봇이 탑재된 검색엔진 빙(Bing)을 체험해보는 시민. 2023.02.07 [사진=블룸버그]

전문가들은 챗GPT가 학습한 데이터에는 팩트에 기반한 좋은 정보뿐만 아니라 인터넷에 돌아다니는 쓰레기 정보까지 모두 흡수하기 때문이라고 본다. AI가 데이터 오류까지 모조리 학습하다보니 틀린 답변을 내놓는 것. 이 때문에 출처 없이 '속이는 행위'가 빈번히 일어나고 사실과 거짓을 혼용한 결과물이 나온다. 챗GPT의 이러한 시스템을 악용할 수도 있다고 전문가들은 지적한다. 이해주 국가ESG연구원 공동대표는 한 언론을 통해 "여론조작에 이용되도록 유혹적 댓글을 수만개씩 양산할 수 있다"고 경고하기도 했다.

이처럼 AI 산업에서 정확성과 신뢰성이 화두로 떠오르면서 산업계·정부 모두 대책 마련에 나서고 있다. 시장 블루오션인 '신뢰성'을 확보하면 전세계 AI 시장을 선점할 수 있을 것으로 본 것이다.

실제로 한국은 전세계 최초로 '인공지능법'을 발의한 상태다. 국회 정필모(더불어민주당, 비례)의원은 '인공지능산업 육성 및 신뢰기반 조성 등에 관한 법률안'을 지난해 7월 발의, 현재 해당 법은 국회 과학기술정보방송통신위원회 정보통신방송 법안심사소위원회를 통과한 상태다.

특히 법안에는 '신뢰성 전문위원회'를 민간전문가로 구성해 AI 신뢰기반조성을 위한 의견 수렴 및 논의·연구를 진행하는 내용이 담겨 눈길을 끈다. 정 의원은 "국내 AI 기술 발전 기반과 국가역량 집중 투자 등을 위한 제도 마련을 위해 세계 최초 관련 법 제정이 시급하다"고 강조했다.

네이버는 챗GPT와 차별성을 두기 위해 AI윤리를 앞세우고 있다. 지난 2021년 2월 서울대와 협업해 AI윤리준칙을 발표, 자체 서비스에 적용하며 신뢰성 확보에 신경쓰고 있다. 네이버 측은 "AI의 편향성을 없애고 사용자 신뢰를 확보할 수 있는 AI를 연구개발하고 있다"며 "사회적 편향을 완화하는데 중점을 두고 있다"고 설명했다.

[사진=셔터스톡]

일각에서는 신뢰성 확보를 위해 지금이야말로 정부 차원에서의 'AI 데이터 검증 표준화' 선도가 시급하다는 목소리가 커지고 있다.

소프트웨어 공학 전문기업 씽크포비엘 박지환 대표는 "학습데이터를 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 무탈히 인격자로 자라나길 기대하는 것과 같다"고 꼬집었다.

이어 박 대표는 한국정보통신기술협회(TTA)가 이미 마련하고 있는 데이터 편향 측정 기준을 정부 차원에서 적극 활용해야 한다고 덧붙였다.

박지환 대표는 "AI허브에 민간기업을 위해 만들어 놓은 막대한 양의 공공데이터가 있는데 어떠한 가치가 있는지, 보완할 점을 무엇인지를 평가할 것을 제안한다"며 "AI 데이터 표준화를 대한민국이 선도한다면 우리 기준으로 세계 AI를 검증·평가하는 날이 올 것"이라고 말했다.

nn0416@newspim.com

[뉴스핌 베스트 기사]

사진
尹부부 공천개입 수사 급물살 타나 [서울=뉴스핌] 박서영 기자 = 윤석열 전 대통령이 탄핵심판 선고에서 헌법재판관 전원일치 의견으로 파면된 가운데 이른바 '명태균 의혹' 사건에 대한 검찰 수사가 윤 전 대통령 부부에 속도를 낼지 이목이 집중된다. 5일 법조계에 따르면 헌법재판소는 4일 오전 11시 윤 전 대통령 탄핵심판 선고기일을 열어 윤 전 대통령의 파면을 결정했다. 박근혜 전 대통령에 이은 헌정 사상 두 번째 파면이다. 사진은 윤석열 전 대통령. [사진=뉴스핌 DB] 검찰은 지난 2월 17일 윤 전 대통령 부부 공천개입 의혹, 여론조사 조작 의혹, 여론조사 비용 대납 의혹 등 명씨 관련 사건을 창원지검에서 중앙지검으로 이송했다. 이후 검찰은 해당 사건과 관련한 연이은 소환조사 및 강제수사 등에 착수하면서 잔여 수사에 속도를 내 왔다. 검찰은 명씨가 실질적으로 운영한 여론조사업체 미래한국연구소가 당시 대선 후보였던 윤 전 대통령을 돕고자 총 81차례에 걸쳐 불법 여론조사를 해 주고, 그 대가로 김영선 전 국민의힘 의원이 2022년 6·1 보궐선거에서 경남 창원 의창 선거구 공천을 받았다는 의혹을 받았다고 보고 있다. 윤 전 대통령의 부인 김건희 여사는 이와 관련, 보궐선거와 지난해 4월 22대 총선 당시 국민의힘 공천 과정에 개입한 의혹을 받는다. 이날 헌재의 결정으로 윤 전 대통령은 현직 대통령으로서 가졌던 '불소추특권'을 잃게 됐다. 기존 수사 대상이던 내란 혐의뿐 아니라 공천 개입 의혹 수사도 피할 수 없게 된다는 의미다. 법조계 안팎은 조기 대선을 앞두고 윤 전 대통령 부부를 향한 공천 개입 의혹 사건 수사가 급물살을 탈 것이라고 내다봤다. 정계 출신 법조인은 "박 전 대통령도 파면된 다음에 소환조사가 바로 이뤄졌다"며 "곧바로는 아니겠지만 민주당 측에서 신속한 수사를 압박할 텐데 검찰도 조만간 협의를 해 윤 전 대통령 부부의 소환 일정 등을 잡으려 할 것"이라고 전망했다. 실제 2016∼2017년 박근혜 정부의 국정농단 사건 때, 박 전 대통령의 탄핵안이 국회에서 가결되고 3개월 만에 헌법재판소가 파면 결정을 내렸다. 당시 검찰과 박영수 특별검사팀의 수사는 박 전 대통령이 자연인 신분이 된 이후 급물살을 탔다. 박 전 대통령은 파면 11일 만에 검찰에 소환됐고, 이후 열흘 만에 구속됐다. 양홍석 변호사(법무법인 이공)는 "윤 전 대통령이 파면됐으니 명태균 수사의 경우 검찰이 좀 더 가열차게 할 것 같고, 공직선거법 위반 사건도 있는데 이 또한 바로 착수해야 하지 않을까 싶다"며 "다만 전직 대통령이기 때문에 신병 문제는 바로 결정하기는 쉽지 않을 수 있다"고 예상했다. 검찰의 신속한 수사는 진행되겠지만, 윤 전 대통령의 소환조사 등은 조기 대선이 끝난 후 이뤄질 것이란 분석도 있었다. 부장검사 출신 변호사는 "대통령이 파면됐으니 적극적으로 윤 전 대통령 부부를 조사하려고 들긴 하겠지만 소환조사의 경우 조기 대선 이후가 될 것 같다"며 "정치적 파장이 큰 사안이라 검찰이 속도를 내서 수사 한다 해도 대선 정국에서 전 대통령 부부를 직격하기는 어렵다"고 했다. 윤석열 전 대통령이 4일 탄핵심판 선고에서 헌법재판관 전원일치 의견으로 파면된 가운데 이른바 '명태균 의혹' 사건에 대한 검찰 수사가 윤 전 대통령 부부를 향할지 이목이 집중된다. 사진은 명태균 씨가 지난해 11월 8일 오전 경남 창원시 창원지방검찰청에 정치자금법 위반 혐의 피의자 신분으로 출석하고 있는 모습. [사진=뉴스핌 DB] seo00@newspim.com 2025-04-05 07:00
사진
[尹 파면] 조기 대선 막 올랐다 [서울=뉴스핌] 한태희 기자 = 헌법재판소가 윤석열 대통령 파면을 선고하며 조기 대선 막이 올랐다. 현재 조기 대선 레이스에서 이재명 더불어민주당(민주당) 대표가 독주하는 구도다. 여·야 잠룡들은 권력 구조를 개편하는 개헌론으로 차별화에 나서는 등 대권을 향한 행보를 시작했다. [서울=뉴스핌] 한태희 기자 = 2025.04.03 ace@newspim.com 6일 정치권에 따르면 조기 대선은 오는 5월 말에서 6월 초에 치러질 가능성이 높다. 헌법 제68조 2항에 따라 파면 등으로 대통령 궐위 시 60일 이내 선거를 치러야 해서다. 한덕수 대통령 권한대행은 공직선거법 제35조 1항에 따라 늦어도 오는 14일까지 조기 대선일을 공고해야 한다. 조기 대선 레이스에 들어가며 대권을 노리는 후보자 발걸음도 분주해졌다. 선두 주자는 이재명 대표다. 이 대표는 차기 대권 유력 후보자를 묻는 각종 여론조사에서 압도적인 1위를 달리고 있다. 이 대표는 최근 공직선거법 위반 사건 2심에서 무죄를 받으며 사법 리스크 부담도 덜었다. 야권에서는 김경수 전 경남지사, 김동연 경기지사, 김두관 전 국회의원, 김부겸 전 국무총리, 김영록 전남지사, 이광재 전 강원지사, 전재수 의원 등이 당내 경선에 참여할 가능성이 있다. 이들은 '1강'인 이 대표와 비교해 열세다. 야권 잠룡들은 차기 대통령 임기 단축 등 개헌론을 부각하고 있다. 이준석 개혁신당 국회의원도 차기 대권을 넘보고 있다. 이준석 의원은 '40대 기수론' 등 정치권 세대 교체론을 앞세우고 있다. 여권에서는 김문수 고용노동부 장관, 안철수 국회의원, 오세훈 서울시장, 원희룡 전 국토교통부 장관, 유승민 전 국회의원, 한동훈 전 국민의힘 대표, 홍준표 대구시장 등이 조기 대선에 참전할 가능성이 있다. 여권 후보자들은 당내 경선에서 정통 지지자인 보수 표심을 먼저 얻어야 한다. 동시에 본선에서 중도층 표까지 끌어올 수 있는 경쟁력도 보여줘야 한다. 여권 후보자들은 '12·3 비상계엄 사태'를 촉발한 제왕적 대통령제 한계 극복 방안으로 대통령 권한을 분산하는 개헌론을 제시하고 있다. 각 당은 곧 당내 경선을 시작해 본선에 올릴 후보자 선정에 들어간다. 공직선거법 제49조에 따라 조기 대선 24일 전부터 이틀 동안 대통령 후보 등록을 끝내야 하기 때문이다. 조기 대선이 오는 6월 3일 치러지면 각 당은 오는 5월 11일까지 중앙선거관리위원회에 대통령 후보를 등록해야 한다. 여야는 약 8년 전 제19대 대통령 선거 당시 박근혜 대통령 파면이 결정된 후 1개월 안에 대통령 후보 선출을 마무리했다. 범야권이 대통령 단일 후보로 본선에 들어갈지도 주목된다. 당 내 간판 주자가 없는 조국혁신당은 '야권 통합 완전국민경선(오픈프라이머리)'을 제안했다. 이 대표가 있는 민주당이 이에 응할지에 정치권 이목이 쏠리고 있다. ace@newspim.com 2025-04-06 07:00
안다쇼핑
Top으로 이동