[세종=뉴스핌] 이경태 기자 = "인공지능(AI)의 폭주를 막아야 합니다."

AI의 편익을 기대할 수 있는 반면 위험성에 대한 국제사회의 경고도 만만치 않다. 우리나라 역시 이같은 규제 움직임에 동참한다. 아직 AI 규제가 확산되지 않은 상황에서 우리나라는 기술 개발에만 승부를 걸었던 데서 이제는 글로벌 규제 행렬의 선도국가로 올라서겠다는 데 목표를 잡은 상태다.

지난해 5월 30일(현지시간) 미국 AI 안전센터는 22개 단어로 된 한 줄짜리 성명을 통해 전세계에 AI의 위험성을 알렸다.

성명에는 "AI로 인한 인류의 멸망 위험을 완화하는 것은 감염병 팬데믹·핵전쟁 등 사회적인 위험을 제거하는 것과 마찬가지로  우선 순위가 돼야만 한다"고 강조했다.

당시 AI 분야 경영자, 연구원, 개발자 등 350명 이상의 AI 분야 종사자가 서명했다. 샘 올트먼 오픈AI 대표(CEO), 케빈 스콧 마이크로소프트(MS) 최고기술책임자(CTO), 일라 이브라힘 구글 AI 임원, 안젤라 케인 전 유엔 군축 고위대표 등의 인물이 서명에 이름을 올렸다. 

유럽연합(EU) 깃발 [사진=로이터 뉴스핌]

이와 관련 글로벌 논의가 이어지면서 유럽연합(EU) 회원국들은 21일(현지시각) 세계 최초로 인공지능(AI) 규제법을 승인했다. 단계적으로 시행돼 2026년부터 전면 허용된다. 

이 법은 지난 3월 유럽의회에서 승인된 이후 이날 장관급 회의를 통해 최종적으로 승인됐다. 이를 통해 AI를 위험도에 따라 차등 규제할 예정이다.

여기에 영국도 AI 규제에 박차를 가하고 있다. 

지난해 11월 1~2일 영국은 '인공지능 안전 서밋(AI Safety Summit)을 세계 최초로 열었다. 영국이 주도해 제2차 세계대전 당시 영국군 암호해독의 근거지였던 블레츨리 파크에서 열린 서밋은 안전한 AI 사용을 목표로 AI의 위험성을 전세계에 알리기 위해 마련됐다.

EU와 세계 최초로 AI 규제법을 알리고 영국은 세계 최초로 AI의 위험성에 대비한 국제 논의의 장을 연 셈이다. 우리나라도 규제 행렬에 동참하고 있다. 정부는 지난 21일 서울에서 영국 정부와 함께 'AI 서울정상회의'를 공동 개최했다.

이를 통해 대규모 허위 정보를 유포하거나 사기에 악용될 AI 서비스 배포를 전면 중단할 예정이다. 인종, 성별, 문화, 나이 등을 활용한 편향된 결정을 내리는 AI 서비스도 금지된다. 이른바 '안전하고 혁신적이며 포용적인 AI를 위한 서울 선언'을 채택한 것이다.

미국, 일본, 독일, 프랑스 등 주요 7개국(G7), 싱가포르와 유럽연합(EU), 국제연합(UN), 경제협력개발기구(OECD) 등의 주요 정상급 인사들이 동참했다.

[서울=뉴스핌] 정일구 기자 = 이종호 과학기술정보통신부 장관이 22일 오전 서울 성북구 한국과학기술연구원에서 열린 AI 글로벌 포럼 개회식에서 '서울 AI 기업 서약' 발표를 하고 있다. 2024.05.22 mironj19@newspim.com

이종호 과학기술정보통신부 장관도 22일 AI 서울 정상회의 부속행사로 열린 'AI 글로벌 포럼'에서 안전한 AI 개발을 위한 기업들의 자발적 노력을 당부하는 '서울 AI 비즈니스 서약'을 발표했다.

이 장관은 "AI의 책임 있는 개발 및 사용을 위해 'AI 안전 연구소'와 협력을 강화하고 워터마킹과 같은 AI 생성 콘텐츠 식별 조치를 취해 국제 표준 개발을 위한 협력을 증진할 것"이라며 "사회적 취약계층을 위한 AI 서비스를 출시하고 글로벌 과제를 해결하기 위한 AI 솔루션을 개발하는 등 다양성과 포용성을 증진할 것"이라고 전했다.

biggerthanseoul@newspim.com