전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 ICT

속보

더보기

네이버, 국내 최초 AI 안전성 실천 체계 'ASF' 공개

기사입력 : 2024년06월17일 09:41

최종수정 : 2024년06월17일 09:41

'AI 위험 평가 스케일'로 통제력 상실 방지
'AI 위험 평가 매트릭스'로 악용 가능성도 차단
문화적 다양성 반영한 소버린 AI로 안전성 체계 고도화

[서울=뉴스핌] 양태훈 기자 = 네이버가 17일 인공지능(AI) 시스템의 잠재적 위험을 인식하고 관리하기 위한 자체 대응 체계인 '네이버 ASF(AI Safety Framework)'를 공개했다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에서 처음 시도하는 사례다.

네이버는 지난 2021년과 2022년 'AI 윤리 준칙'과 'AI 윤리 자문 프로세스'를 내놓은 바 있다. 이번에 선보인 '네이버 ASF'는 AI 시스템을 개발하고 배포하는 모든 단계의 잠재적 위험성을 관리하는 대응 체계로 AI가 초래할 수 있는 위험을 '통제력 상실'과 '악용'으로 정의하고, 각각의 위험에 맞춰 평가와 관리 방법을 설계한 것이 특징이다.

먼저, 인간이 AI에 미치는 영향력이 약화되는 '통제력 상실' 위험을 완화하기 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 또, 최고 성능의 AI를 '프런티어 AI'로 규정하고 3개월마다 위험도를 점검하며, 성능이 6배 이상 급증하면 추가 평가도 실시한다.

최수연 네이버 대표이사. [사진=네이버]

AI 시스템의 잠재적 위험이라 할 수 있는 '악용' 위험에는 'AI 위험 평가 매트릭스'를 적용해 대응한다. 이는 AI의 용도와 안전 조치 필요 정도에 따라 차등 관리하는 방식으로, 예컨대 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI는 자격을 갖춘 사용자에게만 제공하고, 안전성이 필수적인 AI는 위험이 해소될 때까지 서비스를 보류한다.

네이버는 ASF를 바탕으로 문화적 다양성을 반영한 글로벌 AI 안전성 체계를 만들어갈 방침이다. 해외에서 소버린 AI를 개발하며 각 지역 문화권의 특성을 고려한 AI 위험 평가 기준을 세울 계획이다. 이미 네이버는 지난해 세계 최고 권위의 자연어처리 학회 중 하나인 'ACL 2023'에서 한국어 기반의 AI 안전성 강화 학습 데이터셋을 다국어로 확장하는 연구를 발표해 주목받은 바 있다.

아울러 네이버는 국내외 유수 연구기관 및 기업들과 적극적으로 협력하며 AI 신뢰성, 안전성 관련 선행 기술 연구를 수행하고 있다. 대표적으로 지난 2021년 설립한 서울대·네이버 초대규모 AI 연구센터(SNU-NAVER Hyperscale AI Center)에서는 '신뢰성 있는 초거대 AI'를 핵심적인 연구 주제로 설정하고 협력 연구를 진행 중이다. 이 외에도 카이스트, 독일 튀빙겐대학교, 캐나다 토론토대학교와도 공동 연구센터를 통해 AI 안전성 기술을 연구하고 있다.

AI 안전성 기술 연구에 대한 네이버의 적극적인 투자는 학술적 성과로도 이어지고 있다. 지난 2022년 컴퓨터공학 공정성 분야 최고 권위 학회 중 하나인 ACM FAccT(ACM Conference on Fairness, Accountability, and Transparency)에서 초거대 AI 윤리를 주제로 워크숍을 개최해 오픈AI, 딥마인드, 구글 등 글로벌 테크 기업을 포함한 전 세계 AI 윤리 관련 연구자 100여 명과 교류했으며, 지난해에는 인간·컴퓨터 상호작용 분야 세계 최고 권위 학회(CHI 2023)에서 AI 안부전화 서비스 '클로바 케어콜' 관련 연구로 '베스트 페이퍼(Best Paper)'에 선정되기도 했다.

올해 들어서는 기존의 언어모델 편향성 측정 벤치마크(Bias Benchmark for Question Answering, BBQ)가 문화적 맥락의 차이 때문에 미국 외의 사회를 기준으로 정확한 평가가 이뤄지기 어렵다는 한계에 착안해 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안해 글로벌 자연어처리 학회 TACL 2024에 채택됐다. 이 외에도 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 및 AI가 생성하는 콘텐츠가 한국 사회의 보편적 인식과 얼마나 부합하는지를 측정하는 평가 지표를 제안한 연구 등이 최고 권위 AI 학회에 채택되는 등 우수한 연구 성과를 거두고 있다.

최수연 네이버 대표이사는 "네이버는 한국에서 하이퍼클로바X라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며, "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 강조했다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
화성 리튬전지공장 화재 사망 22명·8명 부상...연락두절 1명 수색 중 [화성=뉴스핌] 박승봉 기자 = 24일 경기 화성시 서신면의 일차전지 제조 공장 화재로 22명이 숨졌고 8명이 부상을 당했다. 하지만 아직 1명이 연락되지 않아 수색작업을 진행하고 있다. 24일 오전 10시 31분경 경기 화성시 서신면에 있는 일차전지 제조 공장에서 화재가 발생했다. [사진=경기도소방재난본부] 소방당국 등은 이날 오후 6시24분 현장 브리핑을 통해 현재 사망자 22명, 중상자 2명, 경상자 6명 등 총 30명의 인명피해가 발생했다고 밝혔다. 또 회사 관계자가 1명이 연락되지 않아 내부 수색 작업을 하고 있다.  사망자 22명 중 한국인이 2명, 외국인 근로자가 20명으로 파악됐다.  소방당국은 유해화학물질(리튬) 취급 공장에서 화재가 났다는 신고를 접수하고 다수의 인명피해와 연소 확대를 우려해 이날 오전 10시 51분 선제적으로 대응 2단계를 발령했다. 진화작업에는 인력 201명과 지휘차 등 장비 71대를 투입했다. 화재가 발생한 해당 공장은 3층짜리 철근콘크리트 구조물 11개 동이 있으며, 연면적은 5530㎡이다. 김진영 화성소방서 재난예방과장은 이날 브리핑에서 "최초 사망자 1명을 포함해 21명의 시신을 수습해 총 22명의 사망자가 발생했다"며 "대부분의 시신은 아리셀 작업동인 3동 2층에서 대부분 발견됐으며, 회사 관계자가 1명이 연락되지 않는다고 말해 건물 내부에 대한 수색작업을 진행할 예정"이라고 밝혔다.  화재발생 소식을 접한 후 즉각 현장으로 출발한 김동연 경기도지사는 이날 낮 12시 35분경 화재 현장에 도착해 진압 상황을 살폈다. 김 지사는 "가용자원을 총동원해 조속하게 화재를 진압하고 유해가스 발생을 최소화해 달라"면서 "인명구조에 최선을 다하는 것은 물론 현장에서 활동 중인 소방대원들의 안전에도 만전을 기해달라"고 강조했다. 김 지사는 이날 경기도에도 사고 수습과 사후 관리를 위한 준비를 지시했다. 1141world@newspim.com 2024-06-24 18:53
사진
의협, '무기한 전면 휴진' 에둘러 철회 [서울=뉴스핌] 노연경 조준경 기자 = 대한의사협회(의협)가 오는 27일 진행 가능성을 예고한 의료계 무기한 전면 휴진을 사실상 철회했다. 의협은 24일 보도자료를 통해 "27일부터 연세대학교 의료원 소속 교수님들의 휴진이 시작된다. 결정을 지지하고, 존중한다"면서, "모든 직역의 의사들이 각자의 준비를 마치는 대로 휴진 투쟁에 동참해나갈 것이다. 이후의 투쟁은 29일 올특위 2차 회의의 결정대로 진행할 것"이라고 안내했다. [서울=뉴스핌] 정일구 기자 = 대한의사협회가 집단휴진에 돌입한 18일 오후 서울 영등포구 여의대로에서 열린 의료농단 저지 전국 의사 총궐기대회에서 임현택 의협 회장이 대회사를 하고 있다. 2024.06.18 mironj19@newspim.com 사실상 27일 의료계 전면 무기한 휴진을 에둘러서 철회시킨 것으로 풀이된다. 임현택 의협회장이 지난 18일 진행한 의료계 총궐기대회 폐회사에서 무기한 휴진을 처음 언급했다. 임 회장은 당시 "의사들의 정당한 요구를 정부가 받아들이지 않을 경우 27일부터 무기한 휴진에 들어갈 것"이라고 말했다. 이에 앞서 다른 의료계 주요 인사들도 전체 무기한 전면 휴진에 대해 회의적인 반응을 내비쳤다. 24일 뉴스핌이 시도의사회를 통해 확인한 결과 주요 시도의사회 회장들은 의협의 무기한 휴진에 동참하지 않는 것으로 가닥을 잡았다. 임 회장의 무기한 휴진 언급 직후부터 의료계 내부에선 항의 목소리가 나왔다. 협의되지 않은 내용을 임 회장이 공개적으로 말했다는 이유에서다. 특히 각 지역 개원가를 대표하는 시도의회장들이 "전혀 합의되지 않은 내용"이라며 "개원의의 무기한 휴진은 불가능하다"고 선을 그었다. 이동욱 경기도의사회장은 임 회장 발언 다음날인 19일 입장문을 통해 "저를 포함한 16개 광역시도 회장들도 임현택 의협회장이 여의도 집회에서 무기한 휴진을 발표할 때 처음 들었다"며 "회원들이 황당해하고 우려하는 건 임 회장의 회무에서 의사 결정의 민주적 정당성과 절차적 적절성이 전혀 지켜지지 않는다는 것"이라고 공개 비판하기도 했다. 이날까지도 각 시도의사회장들의 절차를 따르지 않은 무기한 휴진 반대 입장에는 변화가 없다. 황규석 서울시의사회장은 "무기한 휴진은 못하는 게 기정사실"이라며 "만약 사전에 협의가 됐다면 따랐겠지만, 아직까지도 협의된 내용이 없다"고 강조했다. 이어 전국시도의사회장단협의회 차원에서도 무기한 휴진 진행 관련 우려를 전달했다며 "(우려를 전달한 이후) 추가 논의된 게 없으니 진행해선 안 된다. 진행해도 따르지 않을 것"이라고 내다봤다. 이와 관련해 김택우 전국광역시도의사회장협의회 회장은 지난 21일 임 회장을 만나 16개 시도의사회 회장들의 우려를 전달했다고 밝히며 "무기한 휴진은 철회가 될 것으로 보고 있다"고 말했다. 김 회장은 의료계 내부의 임 회장 비판에 대해 "민주주의 사회에서 개인 의견을 표출할 수 있듯이 각 시도의사회장들이 자기 의견을 얼마든지 말할 수 있는 것"이라며 "협회장의 독단 행보에 대한 불만 의견이 나온 것으로 본다"고 설명했다. 임 회장이 주도한 첫 파업도 이전에 의협이 주도한 휴진보다 저조한 참여율을 보였다. 18일 당일 병원 문을 닫은 개원의는 14.9%에 그쳤다. 이는 2020년 집단 휴진 첫날 휴진율(32.6%) 절반에도 미치지 못하는 수치다. 김 회장은 "아마 의협 집행부에서 오늘 내일 중으로 27일 전면 무기한 휴진을 에둘러서 철회하는 성명이 나올 것으로 보인다"고 전망하기도 했다.   [서울=뉴스핌] 최지환 기자 = 서울대학교병원이 지난 17일부터 돌입했던 무기한 휴진을 중단한 24일 오전 서울 종로구 서울대학교병원에서 의료진이 이동하고 있다. 2024.06.24 choipix16@newspim.com 한편 당초 지난 17일부터 무기한 휴진을 개시했던 서울대학교 병원은 이날부로 다시 정상 진료를 시작했다. 서울의대·서울대학교병원 교수협의회 비상대책위원회(서울의대 비대위)는 지난 21일 교수진 투표를 거쳐 '지속 가능한 방식의 저항'으로 전환해야 한다며 이 같은 결정을 내렸다. 전체 투표 응답자 948명 중 698명(73.6%)이 휴진 중단을 선택했고, 휴진을 지속해야 한다는 강경 의견은 20.3%(192명)에 불과해 대학병원 봉직의들도 의료계 무기한 휴진에 대해서는 회의적인 여론이 다수이다. 의협은 지속적으로 정부를 향해 ▲의대정원 증원안 재논의 ▲필수의료 정책패키지의 쟁점 사안을 수정·보완 ▲전공의, 의대생 관련 모든 행정명령 및 처분을 즉각 소급 취소하고 사법처리 위협 중단 3대 요구안을 대화 조건으로 제시 중이다. 그러나 지난 22일 첫 회의를 개최한 '올바른 의료를 위한 특별위원회(올특위)'는 보도자료를 통해 "형식, 의제에 구애 없이 대화가 가능하다는 20일 정부 입장을 환영하며, 2025년 정원을 포함한 의정협의에 참여할 의사가 있다"며 "다음주(26일)로 예정된 국회 청문회 등 논의과정과 정부의 태도변화를 지켜보겠다"고 다소 전향적인 자세를 내보였다. calebcao@newspim.com 2024-06-24 15:32
안다쇼핑
Top으로 이동