[서울=뉴스핌] 김정인 기자 = LG 인공지능(AI)연구원이 지난 20일(현지시간) 인도 뉴델리 바라트 만다팜에서 열린 '인도 AI 정상회의'에 참가해 책임 있는 AI 생태계 구축을 위한 글로벌 협력 방안과 실행 성과를 공유했다고 22일 밝혔다.
LG AI연구원은 서울과 파리에 이어 올해 인도까지 3차례 연속 'AI 정상회의'에 초청받아 국내 AI 업계의 목소리를 전달하며, 글로벌 AI 거버넌스 논의를 주도하는 대표 기업으로서 입지를 공고히 했다.
이번 정상회의에서 김유철 LG AI연구원 전략부문장은 유네스코(UNESCO)와 유엔 인권최고대표사무소(OHCHR)가 공동 주관하는 행사에서 구글(Google), 마이크로소프트(Microsoft), 인도 소프트웨어산업협회(NASSCOM), 월드 벤치마킹 얼라이언스(World Benchmarking Alliance) 등 국제기구, 학계, 산업계 주요 인사들과 기업의 책임 있는 AI(Responsible AI) 정책 내재화 및 글로벌 표준의 역할을 주제로 심도 있는 논의를 진행했다.
특히, 김유철 전략부문장은 이날 LG AI연구원이 개발한 범용 AI 위험분류체계 한국판(K-AUT, Korea-Augmented Universal Taxonomy)을 공개했다.
김 부문장은 "LG가 개발한 AI 위험분류체계는 유엔 세계인권선언 등 인류 보편적 가치를 기본 토대로 설계하면서도 보편적 원칙만으로는 포착하기 어려운 위험에 대응하기 위해 한국 사회의 법적, 사회적, 문화적 특수성과 멀티 AI 에이전트의 담합, AI 안전장치 우회 등 미래에 발생할 수 있는 위험 요소까지 포괄할 수 있도록 개발했다"고 설명했다.
범용 AI 위험분류체계 한국판은 잠재적 위험을 ▲인류 보편적 가치 ▲사회 안전 ▲한국적 특수성 ▲미래 위험 등 4개 핵심 영역, 226개 세부 위험 항목으로 구성되어 있으며, 항목별 5가지 구체적 판별 기준이 있어 하나의 위반 사항만 발생해도 AI가 부적절한 응답을 했다고 분류한다.
LG AI연구원은 새로운 위험분류체계를 단순한 가이드라인이 아닌 AI 모델과 AI 서비스의 안전성을 검증하고 강화하는 도구로 개발해 실제 LG의 AI 파운데이션 모델인 엑사원(EXAONE)의 안전성 검증에 활용했고, 그 결과를 투명하게 공개하고 있다.
또 한국적 특수성 부분은 각 국가 및 지역의 고유한 특수성을 반영하는 위험 항목으로 대체할 수 있도록 설계해 향후 다른 국가와 지역으로 확장 적용할 수 있도록 했다.
현장에 참석한 페기 힉스(Peggy Hicks) 유엔 인권최고대표사무소 국장은 "LG가 보편적 인권 가치를 토대로 하면서도 특정 사회와 문화의 맥락을 반영할 수 있는 접근 방식을 선보인 것은 우리가 바라는 방향과 정확히 맞닿아 있다"면서, "원칙을 실제 현장에 적용할 수 있는 실용적 도구로 만들고, 그 경험을 다른 국가와 지역이 활용할 수 있도록 공유하는 것이야말로 지금, 이 시점에 반드시 필요한 일"이라고 강조했다.
LG AI연구원은 오는 5월 글로벌 공개를 앞둔 'AI 윤리 MOOC(Massive Open Online Course) 프로젝트'도 소개했다.
이 프로그램은 LG AI연구원과 유네스코가 추진 중인 글로벌 프로젝트로 전 세계 AI 전문가와 연구자, 정책 입안자를 대상으로 AI 기술을 올바르게 개발하고 활용하는 모범 사례를 발굴하고 교육 프로그램을 개발해 제공함으로써 공공 및 민간 분야의 AI 윤리 역량을 강화하기 위한 프로젝트다.
특히 이번 프로젝트는 추상적인 담론에 머물렀던 AI 윤리 원칙을 실제 현장에서 즉시 적용하고 실행할 수 있는 지식으로 전환했다는 점에서 의미가 있다.
이를 위해 LG AI연구원은 독자적으로 개발한 윤리영향평가와 데이터 컴플라이언스 AI 에이전트 등 실전 운영 노하우와 AI 기술들을 투명하게 공개했다.
또 전 세계 39개국 450여 명의 지원자 중 10명의 글로벌 전문가를 선발해 AI 윤리의 기초부터 안전성, 공정성, 지속가능성, 거버넌스 등 글로벌 핵심 의제를 다루는 10개 모듈로 강의를 구성했으며, 미국 하버드대학교(Harvard University), 뉴욕대학교(New York University), 노트르담대학교(University of Notre Dame), 유엔대학교(UN University), 모질라 재단(Mozilla Foundation), 세계과학기술윤리위원회(COMEST, World Commission on the Ethics of Scientific Knowledge and Technology) 등 세계적 AI 연구 기관의 15명의 석학으로 구성된 국제자문위원회도 운영하고 있다.
LG AI연구원은 지난해 '글로벌 AI 윤리 우수 사례 공모전'을 개최했으며, 37개국의 정부, 기업, 시민사회 등이 공모한 120건 이상의 AI 윤리 실천 모범 사례를 교육 과정에 접목해 전 세계의 개발자와 정책 입안자들이 각자의 상황에 맞춰 모범 사례를 벤치마킹할 수 있도록 했다.
김명신 LG AI연구원 정책수석은 "이번 프로젝트는 AI 윤리의 글로벌 표준의 원칙을 현장의 언어로 번역하는 가교로서, AI 윤리 실천 영역에서 막막함을 느끼는 전 세계 전문가들에게 실질적인 이정표가 될 것으로 기대한다"고 말했다.
LG AI연구원과 유네스코는 오는 5월 서울에서 'AI 윤리 MOOC' 론칭 행사를 진행할 예정이다.
'AI 윤리 MOOC'는 글로벌 온라인 교육 플랫폼인 코세라(Coursera)를 통해 누구나 별도 비용 없이 수강할 수 있다.
한편, LG AI연구원은 2023년부터 AI 윤리 책무성 보고서를 발간하며 전 세계 기업 중 유일하게 유네스코 AI 윤리 권고 이행 현황을 공개하고 있다.
kji01@newspim.com
