과기부, 인공지능 인증제 도입하고 개발 가이드북 보급한다

기사입력 : 2021년05월13일 15:30

최종수정 : 2021년05월13일 15:30

2025년 책임있는 AI 활용 세계 5위 목표
윤리·신뢰성 높여 AI 산업 활성화 기대

[세종=뉴스핌] 이경태 기자 = 인공지능(AI) 제품 등에 대한 민간 인증제가 도입된다. 학습용 데이터의 신뢰성을 높이기 위한 표준 기준도 제시된다.

과학기술정보통신부는 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 이같은 내용이 포함된 '사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현전략'을 발표했다.

큰 틀에서 정부는 오는 2025년까지 책임있는 인공지능 활용 부문에서 세계 5위, 신뢰있는 사회 세계 10위, 안전한 사이버국가 세계 3위 수준을 목표로 두고 있다.

조경식 과학기술정보통신부 제2차관 [사진=과학기술정보통신부] 2021.05.06 photo@newspim.com

◆ 신뢰 가능한 인공지능을 구현할 수 있는 환경 조성

민간에서 인공지능 제품･서비스를 구현하는 단계(개발→ 검증→ 인증)에 따라 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

개발단계에서는 국내･외 신뢰성 관련 법･제도･윤리･기술적 요구사항을 한 번에 확인할 수 있는 '개발 가이드북'을 제작･보급한다. 검증단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 있는 검증절차･항목･방법 등의 검증체계를 마련한다. 인증단계에서는 기술·윤리적 요구사항을 충족해 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진한다.

기술･재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 '데이터 확보→ 알고리즘 학습→ 검증'을 통합 지원하는 플랫폼을 운영한다. 학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실(實)환경 테스트 등의 기능을 추가 개발·연계해 일괄적으로 지원한다.

이미 구현된 시스템에 인공지능이 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, 인공지능이 스스로 법･제도･윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 인공지능의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발도 추진한다.

◆ 안전한 인공지능 활용을 위한 기반 마련

민･관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련, 통일성 있게 구축 될 수 있도록 확산한다. 디지털 뉴딜로 추진되는 데이터 댐 사업에서는 구축 전 과정에서 저작권, 개인정보보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용해 품질을 향상시킨다.

국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 예정이다. 고지 이후, 해당 인공지능 기반 서비스에 대한 이용 거부, 인공지능의 판단 근거에 대한 결과 설명 및 이에 대한 이의제기 등의 제도화와 관련해 글로벌 입법･제도화 동향, 산업적 파급력, 사회적 합의･수용성, 기술적 실현 가능성 등을 고려해 종합적으로 검토할 계획이다.

과학기술정보통신부는 12일 '인공지능 학습용 데이터 사업'의 2차 공모를 시작했다. [자료=게티이미지뱅크] 2021.05.11 biggerthanseoul@newspim.com

인공지능이 국민생활 전반에 미치는 영향을 종합･체계적으로 분석하고 대응하기 위해 지능정보화기본법에 규정된 사회적 영향평가도 도입한다. 신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석해 향후 인공지능 관련 정책이나 기술･관리적 조치방안 수립 시 활용할 예정이다.

인공지능에 대한 신뢰 확보와 이용자의 생명·신체보호와 관련된 과제에 대해 ▲업계 자율적 알고리즘 관리･감독환경 조성 ▲플랫폼 알고리즘 공정성･투명성 확보 ▲영업비밀 보장을 위한 알고리즘 공개기준 마련 ▲고위험 기술기준 마련 등 제도를 개선한다.

◆ 사회 전반의 건전한 인공지능 의식 확산

인공지능이 사회에 미치는 영향, 인간-인공지능 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 인공지능 윤리교육 총론을 마련한다. 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다.

인공지능 윤리기준에 대한 구체적인 행위지침으로, 연구･개발자, 이용자 등이 업무, 일상생활 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트도 개발해 보급한다. 인공지능 윤리기준을 기본원칙으로 해 타 분야의 자율점검표와도 체계성과 정합성을 유지해 현장의 실천 가능성을 높인다.

학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여해 인공지능 윤리에 대해 깊이 있게 토의하고 의견 수렴 및 발전방향을 논의하는 공론의 장도 마련해 운영한다.

조경식 과기부 2차관은 "챗봇 이루다 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는 지 많은 숙제를 안기는 계기가 됐다"며 "정부는 AI 서비스 개발 과정에서 혼란을 겪거나 국민이 피해보지 않도록 AI의 신뢰 확보 기준을 명확히 할 뿐더러 기술적·재정적으로 여력이 부족한 중소기업이 신뢰성 기준을 준수할 수 있도록 지원할 것"이라고 강조했다.

biggerthanseoul@newspim.com

사진

[이재명의 사람들] '집사' 김남준 [서울=뉴스핌] 지혜진 기자 = 김남준 대통령 제1부속실장은 '진심으로 이재명을 위하는 사람'으로 꼽힌다. 지난해 총선 이후 이재명 대통령이 당대표로서 확고한 리더십을 확립하면서 '이제는 민주당 의원 170여명 모두가 친명(친이재명)'이라는 말이 나올 때도 김 실장은 이 대통령의 안위와 향후 행보를 진심으로 걱정하는 '진짜 이재명의 사람'으로 평가받았다. 그렇기에 김 실장은 이 대통령의 선택에 매번 신중하고 우려스러운 시각을 나타냈었다. 일례로 김 실장은 이 대통령의 당대표 연임을 반대했다. 지난해 6월쯤 당내 기류는 '리더십이 공고한 이 대통령이 한번 더 당대표를 해야 한다'는 입장이 지배적이었다. 그러나 참모인 김 실장은 "당을 위해선 연임을 하는 게 맞겠으나 본인(이재명)의 대권을 위해선 안하는 게 맞다"는 입장이었다. 조기대선을 예상할 수 없던 그 시점에는 연임하는 당대표가 2026년 지방선거 공천까지 책임질 각오를 해야 했다. 이미 총선을 압승으로 이끈 '성공한 당대표'였던 이 대통령이 굳이 연임해서 지방선거라는 변수를 책임질 필요가 없다는 게 김 실장의 시각이었다. 김남준 제1부속실장. [사진=김남준 SNS] 2022년 대선에서 패배한 이 대통령이 인천 계양을 보궐선거에 참전하는 것도 반대했다. 대신 원외에서 당대표에 도전하라고 조언했다. 이 대통령이 너무 일찍 국회에 입성하면 이미지나 에너지 소모가 너무 클 수 있다는 우려 탓이다. 오로지 '대통령 이재명'이 되는 데 유리한 선택이 무엇인지 고민한 것이다. 이번 대선을 앞두고는 이 대통령의 'PI'(President Identity)를 고민하면서 온화하고 무게감 있는 이미지를 부각하려고 애썼다. 성남시장이나 경기도지사 때 이 대통령의 강한 이미지가 두드러진 만큼 대통령으로서는 신중함을 강조하려고 뒷받침했다. 그러한 노력 중 하나가 이 대통령이 자신의 페이스북에 글을 못남기도록 비밀번호를 바꾼 일이다. SNS(소셜네트워크서비스) 소통에 능한 이 대통령이 밤 늦은 시각에 '날 것 그대로'의 발언을 올릴까 우려해서다. 현안에 대해 깊이 있는 토론이 가능한 이 대통령의 장점을 살리기 위해 짧은 공중파 방송 인터뷰보다 1시간 이상 길게 이야기할 수 있는 유튜브 방송에 이 대통령이 출연하도록 조언하기도 했다. 김 실장은 성남 지역 케이블방송 기자 출신으로 이 대통령과 함께 일한 지는 10여년 정도 됐다. 2014년 재선 성남시장이던 이 대통령은 김 실장에게 성남시 대변인 자리를 제안했다. 이 대통령이 경기도지사에 당선됐을 때는 경기도청 언론비서관으로 일했다. 이후 국회에 입성해서도 김 실장은 의원실 보좌관, 정무조정부실장 등을 역임하며 이 대통령의 최측근에서 보좌했다. 이번 대선 선거대책위원회에선 후보 일정팀 선임팀장을 맡았다. 언론인 출신인 만큼 언론 소통을 총괄해왔다. 국회 기자들뿐만 아니라 이 대통령의 수사와 재판을 취재하는 법조 기자들도 김 실장이 직접 소통한 것으로 알려졌다. '체력 좋은' 이 대통령의 일정을 보좌하느라 계엄 직후인 올해 초에는 한동안 벌겋게 충혈된 눈으로 업무를 보기도 했다. 김 실장이 담당할 제1부속실은 대통령의 일정, 수행, 현안보고 등 대통령을 최지근거리에서 보좌하는 곳이다. 매 정권마다 대통령의 복심이 제1부속실장 자리를 맡아왔다. '문고리' 혹은 '문지기' 권력으로도 불린다. heyjin@newspim.com 2025-06-13 14:08

사진

李대통령, 오광수 민정수석 사의 수용 [서울=뉴스핌] 이영태 선임기자 = 이재명 대통령은 13일 전날 밤 사의를 표명한 오광수 대통령실 민정수석비서관의 사의를 수용했다. 강유정 대통령실 대변인은 이날 오전 브리핑에서 "오광수 민정수석이 어젯밤 이재명 대통령께 사의를 표했다"며 이같이 말했다. 오광수 대통령실 민정수석비서관 [사진=대통령실] 강 대변인은 "이 대통령은 공직기강 확립과 인사 검증을 담당하는 민정수석의 중요성을 두루 감안해 오 수석의 사의를 받아들였다"고 전했다. 이어 "대통령실은 이재명 대통령의 사법개혁 의지와 국정 철학을 깊이 이해하고 이에 발맞춰 가는 인사로 조속한 시일 내에 차기 민정수석을 임명할 예정"이라고 부연했다. 대통령실 관계자는 차명 부동산과 차명 계좌 의혹으로 오 수석이 물러난 만큼 차기 민정수석 검증 기준에 청렴함 등이 포함될 것이야는 질문에 "일단 저희가 가지고 있는 국정철학을 가장 잘 이해하고 이를 시행할 수 있는 분이 가장 우선적인 이재명 정부의 인사검증 원칙이라고 할 수 있겠다"며 "새 정부에 대한 국민들의 기대감이 워낙 크기 때문에 그 기대에 부응하는 게 첫 번째 사명"이라고 답했다. 이 관계자는 오 수석 건을 계기로 인사 검증 기준이라 원칙이 마련될 수 있느냐는 질의에는 "이 대통령이 여러 번 표방했던 것처럼 우리 정부에 대한 기대감, 그리고 실용적이면서 능력 위주의 인사가 첫 번째 가장 먼저 포방될 원칙"이라며 "그리고 여러 가지 우리 국민들이 요청하고 있는 바에 대한 다방면적인 검토는 있을 예정"이라고 언급했다. medialyt@newspim.com 2025-06-13 09:43