전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 ICT

속보

더보기

네이버, 국내 최초 AI 안전성 실천 체계 'ASF' 공개

기사입력 : 2024년06월17일 09:41

최종수정 : 2024년06월17일 09:41

'AI 위험 평가 스케일'로 통제력 상실 방지
'AI 위험 평가 매트릭스'로 악용 가능성도 차단
문화적 다양성 반영한 소버린 AI로 안전성 체계 고도화

[서울=뉴스핌] 양태훈 기자 = 네이버가 17일 인공지능(AI) 시스템의 잠재적 위험을 인식하고 관리하기 위한 자체 대응 체계인 '네이버 ASF(AI Safety Framework)'를 공개했다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에서 처음 시도하는 사례다.

네이버는 지난 2021년과 2022년 'AI 윤리 준칙'과 'AI 윤리 자문 프로세스'를 내놓은 바 있다. 이번에 선보인 '네이버 ASF'는 AI 시스템을 개발하고 배포하는 모든 단계의 잠재적 위험성을 관리하는 대응 체계로 AI가 초래할 수 있는 위험을 '통제력 상실'과 '악용'으로 정의하고, 각각의 위험에 맞춰 평가와 관리 방법을 설계한 것이 특징이다.

먼저, 인간이 AI에 미치는 영향력이 약화되는 '통제력 상실' 위험을 완화하기 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 또, 최고 성능의 AI를 '프런티어 AI'로 규정하고 3개월마다 위험도를 점검하며, 성능이 6배 이상 급증하면 추가 평가도 실시한다.

최수연 네이버 대표이사. [사진=네이버]

AI 시스템의 잠재적 위험이라 할 수 있는 '악용' 위험에는 'AI 위험 평가 매트릭스'를 적용해 대응한다. 이는 AI의 용도와 안전 조치 필요 정도에 따라 차등 관리하는 방식으로, 예컨대 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI는 자격을 갖춘 사용자에게만 제공하고, 안전성이 필수적인 AI는 위험이 해소될 때까지 서비스를 보류한다.

네이버는 ASF를 바탕으로 문화적 다양성을 반영한 글로벌 AI 안전성 체계를 만들어갈 방침이다. 해외에서 소버린 AI를 개발하며 각 지역 문화권의 특성을 고려한 AI 위험 평가 기준을 세울 계획이다. 이미 네이버는 지난해 세계 최고 권위의 자연어처리 학회 중 하나인 'ACL 2023'에서 한국어 기반의 AI 안전성 강화 학습 데이터셋을 다국어로 확장하는 연구를 발표해 주목받은 바 있다.

아울러 네이버는 국내외 유수 연구기관 및 기업들과 적극적으로 협력하며 AI 신뢰성, 안전성 관련 선행 기술 연구를 수행하고 있다. 대표적으로 지난 2021년 설립한 서울대·네이버 초대규모 AI 연구센터(SNU-NAVER Hyperscale AI Center)에서는 '신뢰성 있는 초거대 AI'를 핵심적인 연구 주제로 설정하고 협력 연구를 진행 중이다. 이 외에도 카이스트, 독일 튀빙겐대학교, 캐나다 토론토대학교와도 공동 연구센터를 통해 AI 안전성 기술을 연구하고 있다.

AI 안전성 기술 연구에 대한 네이버의 적극적인 투자는 학술적 성과로도 이어지고 있다. 지난 2022년 컴퓨터공학 공정성 분야 최고 권위 학회 중 하나인 ACM FAccT(ACM Conference on Fairness, Accountability, and Transparency)에서 초거대 AI 윤리를 주제로 워크숍을 개최해 오픈AI, 딥마인드, 구글 등 글로벌 테크 기업을 포함한 전 세계 AI 윤리 관련 연구자 100여 명과 교류했으며, 지난해에는 인간·컴퓨터 상호작용 분야 세계 최고 권위 학회(CHI 2023)에서 AI 안부전화 서비스 '클로바 케어콜' 관련 연구로 '베스트 페이퍼(Best Paper)'에 선정되기도 했다.

올해 들어서는 기존의 언어모델 편향성 측정 벤치마크(Bias Benchmark for Question Answering, BBQ)가 문화적 맥락의 차이 때문에 미국 외의 사회를 기준으로 정확한 평가가 이뤄지기 어렵다는 한계에 착안해 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안해 글로벌 자연어처리 학회 TACL 2024에 채택됐다. 이 외에도 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 및 AI가 생성하는 콘텐츠가 한국 사회의 보편적 인식과 얼마나 부합하는지를 측정하는 평가 지표를 제안한 연구 등이 최고 권위 AI 학회에 채택되는 등 우수한 연구 성과를 거두고 있다.

최수연 네이버 대표이사는 "네이버는 한국에서 하이퍼클로바X라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며, "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 강조했다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
[서울이코노믹포럼]김현철"신남방정책 재건" [서울=뉴스핌] 배정원 기자 최수아 인턴기자 = 김현철 서울대학교 국제대학원 교수가 윤석열 정부 출범 이후 잘못된 경제 정책으로 초래된 대한민국 경제 위기를 극복하기 위해 글로벌 경제 전략을 재수립해야 한다고 주장했다. 김 교수는 8일 서울 여의도 페어몬트호텔 그랜드볼룸에서 열린 제13회 서울이코노믹포럼에서 '대한민국 글로벌 경제 전략'을 주제로 발표했다. 김 교수는 윤석열 정부 출범 이후 계속된 경제 추락을 회복하기 위해서는 경제 전략적 안정성과 우월성 관점에서 글로벌 경제 전략을 다시 설정해야 한다고 지적했다. [서울=뉴스핌] 윤창빈 기자 = 김현철 서울대 국제대학원 교수가 8일 오전 서울 여의도 페어몬트호텔 그랜드볼룸에서 종합뉴스통신사 뉴스핌 주최로 열린 제13회 서울이코노믹포럼에서 '대한민국 글로벌 경제 전략'을 주제로 발표하고 있다. 'Make Korea Rising Again : 다시 뛰자! 대한민국'이라는 주제로 열린 이번 포럼은 보수와 진보로 나뉘어 극심한 분열 양상을 보이고 있는 우리 사회의 '통합'을 모색하기 위해 마련됐다. 2025.04.08 pangbin@newspim.com 그는 현재 대한민국의 가장 큰 경제 위기는 트럼프발 관세 전쟁이라고 진단했다. 김 교수는 "관세를 낮추는 자유무역협정(FTA)과 같은 기존의 통상 정책으로 극복할 수 없다"며 관세 협상뿐만 아니라 방위비, 조선업, 에너지 등을 총체적으로 트럼프 정부와 협상하는 신통상 정책을 제안했다. 대중국 전략도 바꿔야 한다고 주장했다. 김 교수는 "윤석열 정부가 출범하며 '탈중국'을 선언했다. 당시 경제계와 학계는 경악하며 '탈중국은 절대 안 된다'고 경고했지만 사회는 침묵했고 결국 2023년 경제성장률 1.4%라는 수치를 기록하며 대한민국 경제를 무너뜨렸다"고 지적했다. 신남방 정책 재건의 필요성도 강조했다. 김 교수는 "윤석열 정부는 자주적 신남방 정책을 버리고 한국판 인태전략이라는 종속 정책을 채택했다"며 "이제는 공급망 발상이 아니라 판매망 발상으로 바꾸는 새로운 신남방 정책을 만들어야 한다"고 설명했다. 글로벌 경제 영토도 확장해야 한다고 지적했다. 김 교수는 신남방을 중심으로 아프리카와 중남미 지역을 포함해 유럽, 호주, 캐나다, 일본 등을 대한민국의 경제 파트너로 끌어들이는 'A+1,1,1'이라는 새로운 경제 전략이 필요하다고 강조했다. 글로벌 정책 외에도 대한민국 지역 전략을 새롭게 설정해야 한다고 제언했다. 구체적으로 ▲제조업 재활성화 ▲AI를 중심으로 한 신산업 전략 설정 ▲신기술 전략 설정 및 육성 등이 필요하다고 했다. 김 교수는 기존의 수출 중심 경제 모델도 바꿔야 한다고 주장했다. 그는 "물론 수출은 대한민국 경쟁력의 원천이긴 하지만 그것만으로는 부족한 시대가 됐다"며 "새로운 글로벌 경제 전략을 수립하고 내수 경제도 활성화시키면서 대한민국을 다시 한번 글로벌 허브로 만들어야 한다"고 제언했다. [서울=뉴스핌] 윤창빈 기자 = 김현철 서울대 국제대학원 교수가 8일 오전 서울 여의도 페어몬트호텔 그랜드볼룸에서 종합뉴스통신사 뉴스핌 주최로 열린 제13회 서울이코노믹포럼에서 '대한민국 글로벌 경제 전략'을 주제로 발표하고 있다. 'Make Korea Rising Again : 다시 뛰자! 대한민국'이라는 주제로 열린 이번 포럼은 보수와 진보로 나뉘어 극심한 분열 양상을 보이고 있는 우리 사회의 '통합'을 모색하기 위해 마련됐다. 2025.04.08 pangbin@newspim.com jeongwon1026@newspim.com 2025-04-08 12:47
사진
이완규 법제처장, 내란방조 피의자 신분 [서울=뉴스핌] 배정원 기자 = 헌법재판관 후보자로 지명된 이완규 법제처장이 12·3 비상계엄 관련 내란방조 혐의로 수사대상에 올라있는 것으로 나타났다. 8일 경찰에 따르면 경찰 비상계엄 특별수사단은 지난해 12월 이 처장을 피의자 신분으로 한 차례 불러 조사했다. 이 처장은 12·3 비상계엄 선포 다음 날인 지난해 12월 4일 서울 종로구 삼청동의 대통령 안가(안전가옥)에서 김주현 대통령실 민정수석비서관과 박성재 법무부 장관, 이상민 당시 행정안전부 장관과 회동을 가졌다. 이후 휴대전화까지 교체한 사실이 알려지면서 시민단체는 이 처장을 내란방조 등 혐의로 경찰에 고발했다. [서울=뉴스핌] 윤창빈 기자 = 헌법재판관 후보자로 지명된 이완규 법제처장이 12·3 비상계엄 관련 내란방조 혐의로 수사대상에 올라있는 것으로 나타났다. 사진은 이완규 법제처장이 20일 오전 서울 여의도 국회 법제사법위원회에서 열린 서울서부지방법원 소요사태 관련 긴급현안질의에서 의원 질문에 답변하고 있는 모습. 2025.01.20 pangbin@newspim.com 고위공직자범죄수사처(공수처)도 이 처장에 대한 내란방조·증거인멸 혐의 고발장을 접수하고 피의자로 입건해 조사하고 있다. 지난해 12월 11일 국회 법제사법위원회 전체회의에 출석한 이 처장은 당시 안가 회동에 대해 "저녁을 먹는 자리였다"며 "어쨌든 그 자리에 간 게 잘못이다. 죄송하다"고 밝힌 바 있다. 이런 가운데 한덕수 대통령 권한대행이 이날 이 처장과 함상훈 서울고등법원 부장판사를 헌법재판관 후보자로 지명하면서 논란이 일고 있다. 우원식 국회의장은 "헌법재판관 지명을 통한 헌법기관 구성권은 대통령 고유권한으로 대통령 궐위 상태라는 특수한 상황에서 권한대행이 국민이 직접 선출한 대통령에게 부여된 고유 권한을 행사하려고 드는 것은 용납할 수 없다"며 지명 철회를 촉구했다. jeongwon1026@newspim.com 2025-04-08 20:26
안다쇼핑
Top으로 이동