[서울=뉴스핌] 오영상 전문기자 = 일본 정부가 AI(인공지능)의 이용과 활용을 위한 10대 원칙을 마련하고 이를 국제 규정으로 제정하기 위해 G20 등 국제회의에서 제안할 방침이라고 13일 니혼게이자이신문이 보도했다.

일본의 산업계와 학계의 전문가들로 구성된 ‘AI 네트워크사회 추진회의’는 전 세계적으로 AI 보급이 확산되는 가운데 AI의 장점은 극대화하고, 단점은 최소화할 수 있도록 미리 리스크를 분석했다. 자율주행, 의료, 금융 등 분야별로 AI의 이용 사례를 들고 어느 분야라도 유의해야 할 10개의 공통 원칙을 마련했다.

10대 원칙은 ▲적정 이용 ▲적정 학습 ▲연계 ▲안전 ▲보안 ▲프라이버시 ▲존중·자율 ▲공평성 ▲투명성 ▲설명책임 등이다.

'2018 국제인공지능대전'에 출품된 대화형 로봇. [사진=뉴스핌]

가령 ‘연계’ 원칙에서는 복수의 AI를 상호 접속하면 편익이 커질 뿐만 아니라 리스크도 증폭될 우려가 있다고 지적했다. 하나의 AI의 결함이 네트워크 전체에 미칠 사태 등을 염두에 두고, 이러한 리스크를 정확하게 인식해 두는 것이 본격적인 보급의 토대가 될 것이라고 강조했다.

‘적정 학습’에서는 AI의 학습에 사용되는 데이터의 정확성 등에 유의해야 한다고 지적했다. 부적절한 데이터를 학습하게 되면 보안이 취약해 질 우려도 있다. ‘공평성’에서는 AI를 통해 부당한 차별이 발생하지 않도록 배려할 것을 요구했다. 마이크로소프트의 대화형 AI가 차별적인 발언을 반복하게 됐다는 사례를 들며, 악질적인 데이터가 심어지지 않도록 막는 것도 과제라고 지적했다.

‘투명성’은 자율주행 등을 구체적인 이용 사례로 들었다. 데이터의 입출력을 기록하고 보존함으로써 사고가 발생했을 때 이에 대한 경위를 검증하거나 사고의 책임 소재를 명확히 할 수 있도록 했다.

열거한 원칙을 배려해야 할 ‘이용자’의 범위나 분류도 정리했다. 자율주행의 경우 AI 시스템을 사용하는 택시 사업자와 승객이 이용자가 된다. 의료용 AI라면 의사와 환자, AI에 의한 대출심사인 경우 금융기관과 대출신청자가 각각의 입장에서 이용자가 된다.

일본 총무성은 이번에 마련된 10대 원칙을 토대로 국제적인 규정 제정에 나설 방침이다. 8월 말 아르헨티나에서 열리는 G20 디지털경제장관회의와 11월 중순 프랑스에서 열리는 경제협력개발기구(OECD) 디지털경제정책위원회 등에서 논의를 진행한 뒤, 내년 일본에서 열리는 G20 회의에서 최종 결정한다는 계획이다.

goldendog@newspim.com