[세종=뉴스핌] 백승은 기자 = 정부가 내년 1월 시행을 앞둔 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)에 대한 세부 사항 정비에 나선다. 특히 '고영향 AI' 기준 정비에 이목이 집중된다.

23일 과학기술정보통신부에 따르면 AI기본법은 이달 중 공포를 앞두고 있다.

과기정통부는 하위법령 정비단을 출범해 시행 전 시행령 초안 마련에 나섰다. 오는 6월 중 초안을 완성하고 하반기 시행령을 공포할 계획이다.

하위법령 정비단은 과기정통부가 총괄하고, 국가AI위원회와 산업계 및 학계 전문가 등으로 구성된다. 총 3개 분과로 나눠 가이드라인 태스크포스(TF)를 이끌 계획이다. 가이드라인 TF는 총 5개로 각 10여명 내로 운영되며, ▲안전성 확보 의무 가이드라인 ▲AI 투명성 확보 의무 ▲AI영향평가 ▲고영향 AI 기준과 예시 ▲고영향 사업자 책무로 나뉜다.

이중 고영향AI 기준과 예시 관련 가이드라인은 분야별 전문성이 중요하다는 점을 고려해 국가AI위원회를 중심으로 관계부처와 산학연 전문가가 참여한다.

유럽연합(EU)의 AI법에는 AI의 종류를 ▲허용불가위험 ▲고위험 ▲제한된 위험 ▲저위험 4개로 분류해 규제하는 반면 한국의 AI 기본법은 고영향 AI와 생성형 AI에 대해서만 별도로 정의해 규제한다.

법에 따르면 고영향 AI의 정의는 '사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템'이다. 국가기관 등은 고영향 AI를 이용한 제품이나 서비스를 제공할 때 영향평가를 거친 제품·서비스를 우선 고려해야 한다.

고영향 AI의 예시로는 'AI면접관'과 같이 채용이나 대출 심사 등 개인의 권리나 의무에 중대한 영향을 미치는 판단·평가가 있다. 에너지 공급이나 먹는 물 생산 공정, 핵물질이나 원자력 시설 관리 등에 활용되는 기술 등도 대상이다. 교통안전법상 교통수단, 교육기본법상 학생 평가 등도 포함된다.

국내외 사업자가 고영향 AI를 활용할 경우 사용 여부를 사전 고지해야 하며 워터마크로 표시해야 한다. 위반 시 3000만원 이하의 과태료가 부과된다.

이때 고영향 AI의 기준을 지나치게 넓게 설정할 경우 관련 제품과 서비스를 공급하는 기업의 사업 확장 등에 상당한 규제를 받게 된다. 향후 연구개발(R&D) 방향이나 전개 중인 사업까지도 영향을 받을 수 있다. 반대로 너무 좁게 설정하면 소비자에게 위험이 전가될 가능성이 존재한다.

고영향 AI에 인간과 비슷하거나 초인간적 지능을 가진 '범용인공지능(AGI)'이 포함될지 여부도 주목된다. 아마존과 마이크로소프트, 메타 등 글로벌 빅테크는 AGI 구현을 위해 막대한 투자를 진행 중이다.

익명을 요구한 AI 업계 관계자는 "업계에서는 AI기본법은 EU의 AI법과 미국의 AI 관련 행정명령 사이에 적절한 수준이라고 평가하고 있다"며 "시행령도 현재와 비슷한 수준을 유지해야 할 것"이라고 봤다.

그러면서 "앞으로 다양한 분야를 세분화해야 할 것인데, 고영향 AI 정의 중 '사람에게 중대한 영향'에서 중대한 부분이 어느 정도 수준인지 등을 명확히 해야 할 것"이라며 "다만 사전 단계에서 지나친 구체화는 어려울 것이고, (고영향 AI에 대한) 자가진단 체크리스트를 규정해 이를 바탕으로 기업이 서비스를 개발할 수 있도록 활용돼야 할 것"이라고 말했다.

100wins@newspim.com