[전문] 尹, AI 서울정상회의 개최...안전·혁신·포용 'AI 서울선언' 발표

기사입력 : 2024년05월21일 22:42

최종수정 : 2024년05월21일 23:59

21~22일 정상·장관세션 진행...AI 글로벌 포럼도 열려
AI 안전 과학 국제 협력 위한 서울 의향서도 발표

[서울=뉴스핌] 김승현 기자 = 윤석열 대통령은 21일 수낙 영국 총리와 공동으로 'AI 서울 정상회의'를 주재했다.

윤 대통령은 이날 청와대 영빈관에서 개최한 정상세션 개회사에서 "대한민국은 국제사회의 책임 있는 일원으로서 AI 안전, 혁신, 포용을 조화롭게 추진해 나가겠다"고 말했다.

특히 "AI의 영향력이 커지는 만큼 딥페이크를 통한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려도 커지고 있다"며 "디지털은 국경을 넘어 초연결성을 지닌 만큼 글로벌 차원의 디지털 규범이 만들어져야 한다"고 강조했다.

AI 서울 정상회의는 작년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의의 후속 회의다. 지난해 참석 국가와 국제기구는 한국, G7(미국, 영국, 프랑스, 일본, 독일, 이탈리아, 캐나다), 호주, 싱가폴, EU, UN이다.

이번 정상회의에는 AI 안전성 정상회의와 동일하게 G7 정상들과 싱가포르, 호주 정상이 초청됐다. 그 외에 UN, EU, OECD 등 국제기구 수장과 AI 산업을 이끌어가고 있는 핵심 글로벌 기업인 삼성, 네이버, 구글, 아마존, 메타, MS, 오픈 AI 등도 초청됐다.

첫날인 이날 저녁에는 정상세션이 화상으로 개최됐다. 둘째 날인 오는 22일에는 장관급 회의가 개최된다. 참석 장관들은 전일 정상회의 논의 내용에 기초해 각국의 AI 안전 역량 강화 방안, 지속 가능한 AI 발전 방안 등 보다 구체적인 협력 방안을 협의할 예정이다.

또한 오는 22일에는 각국 고위급 인사, 주요 업계 및 학계 인사들이 참석하는 'AI 글로벌 포럼'도 열린다. 이는 윤 대통령이 작년 9월 UN 총회 기조연설에서 개최를 제안한 데 따른 포럼이다.

[서울=뉴스핌] 윤석열 대통령이 21일 청와대 영빈관에서 화상으로 참석한 'AI 서울 정상회의'에서 개회사를 하고 있다[사진=대통령실]2024.05.21 photo@newspim.com

다음은 AI 서울정상회의 정상세션 참여자들의 서울선언 전문이다.

1. 2024년 5월 21일 AI 서울 정상회의에 모인 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미합중국을 대표하는 세계 지도자들은 AI의 전례없는 발전과 우리 경제·사회에 미치는 영향을 마주하여 AI 분야에서 국제 협력 및 대화를 촉진하고자 하는 공동의 헌신을 확인한다.

2. 2023년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의에서 제시한 노력을 바탕으로 우리는 AI의 안전·혁신·포용성이 상호 연계된 목표로서, AI 설계·개발·배치·사용이 제기하고 있거나 제기할 수 있는 광범위한 기회와 도전에 대응하기 위해 AI 거버넌스에 대한 국제 논의에 이 우선순위들을 포함하는 것이 중요하다는 점을 인식한다.

3. 우리는 안전하고 보안성과 신뢰성을 갖춘 AI 설계·개발·배치·사용을 보장하기 위해, AI로부터의 혜택을 극대화하고 야기되는 폭넓은 위험들에 대응하기 위한 위험 기반 접근법과 일치하는 AI 거버넌스 체계들 간의 상호운용성의 중요성을 인식한다. 우리는 첨단 AI 시스템을 개발하는 단체들에 대한 히로시마 프로세스 국제 행동강령의 운용을 지지하는데 지속 집중한다. 우리는 프론티어 AI를 개발하고 배치하는 단체들의 특별한 책임을 인식하며, 이러한 측면에서 「프론티어 AI 안전 서약」을 환영한다.

4. 우리는 이 선언 참여국들이 AI 안전연구소, 연구 프로그램 그리고/또는 감독 기관들을 포함한 기타 유관 기관들을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지하고, 이러한 단체들간의 네트워크를 육성함으로써 안전 연구에 관한 협력을 증진하고 모범 관행을 공유하기 위한 협력을 증진하기 위해 노력한다. 이러한 측면에서 우리는 이 선언의 부속서인 「AI 안전 과학에 대한 국제 협력을 위한 서울 의향서」를 환영한다.

5. 우리는 인간 중심적인 AI를 활용하여 국제 난제를 해결하고, 민주주의적 가치·법치주의 및 인권·기본적 자유와 프라이버시를 보호 및 증진하고, 국가 간의 그리고 국내적인 AI 및 디지털 격차를 해소함으로써, 인간의 복지를 향상하고, 유엔 지속가능발전목표 진전을 포함하여 AI를 실용적으로 활용하도록 지원하기 위해, AI 안전·혁신·포용성을 향상시키는 국제 협력 강화를 촉구한다.

6. 우리는 안전하고, 혁신적이고 포용적인 AI 생태계들을 육성하는 위험 기반 접근법들을 포함한 정책·거버넌스 체계들을 지지한다. 이 체계들은 인간의 창의력과 AI의 개발·사용간의 선순환을 촉진하고, 사회·문화적, 언어적 그리고 성별 다양성을 증진하며, 상업적·공개적으로 사용 가능한 AI 시스템들의 전주기에 걸쳐 환경적으로 지속가능한 기술 및 인프라의 개발 및 사용을 증진해야 한다.

7. 우리는 안전하고, 혁신적이고, 포용적인 AI 생태계 육성을 위해 정부·민간·학계·시민사회를 포함하는 다중이해관계자간 적극적 협력 및 초국경적·학제간 협력의 중요성을 강조한다. AI의 혜택과 위험에 모든 국가들이 영향을 받는다는 점을 인식하면서, 우리는 AI 거버넌스 관련 대화에 폭넓은 국제 이해관계자들을 적극적으로 포함시킬 것이다.

8. 우리는 유엔 및 산하기구, G7, G20, OECD, 유럽평의회 및 GPAI 등 여타 국제 이니셔티브들에의 관여를 통해 AI 거버넌스에 관한 국제 협력을 강화하기로 한다. 이러한 측면에서 우리는 히로시마 AI프로세스 프렌즈 그룹을 평가하고, 최근 OECD AI 원칙의 갱신 및 UN 총회에서 최근 컨센서스로 채택되어 AI 시스템들에 대한 안전장치의 필요성과 선의를 위한 AI 개발, 배치, 사용의 중요성에 관한 글로벌 이해를 공고히한 "지속가능발전을 위한 안전하고 보안성 있고 신뢰성 있는 AI 시스템의 기회의 활용" 제하 결의를 환영하며, 2024년 9월 미래정상회의에 앞서 글로벌디지털컴팩트에 관한 논의를 환영하며, 유엔사무총장 직속 AI 고위급 자문기구의 최종 보고서를 기대한다.

9. AI 안전, 혁신, 포용성을 촉진하는 AI 거버넌스 논의를 진전시키 위한 고위급 포럼으로서의 AI 정상회의 가치를 평가하며, 우리의 세 번째 모임으로서 프랑스가 개최하는 AI 행동 정상회의를 기대한다.

[서울=뉴스핌]윤석열 대통령이 21일 청와대 영빈관에서 화상으로 'AI 서울 정상회의'에 참석하고 있다.[사진=대통령실]2024.05.21 photo@newspim.com

다음은 AI 안전 과학에 대한 국제 협력을 위한 서울 의향서 전문이다.

1. 2024.5.21. AI 서울 정상회의에 모인 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미국을 대표하는 세계 지도자들은 2023.11.2. 블레츨리 파크에서 개최된 AI 안전성 정상회의에 이어, 블레츨리 정상세션의 결과물로 도출된 안전 평가 의장 성명을 평가하면서, 개방성, 투명성, 상호주의를 기반으로 AI 안전 과학을 증진시키기 위한 국제 공조와 협력의 중요성을 확인한다. 우리는 안전이 책임있는 AI 혁신을 진전시키는데 핵심 요소임을 확인한다.

2. 우리는 AI 안전 연구, 평가 그리고/또는 상업적·공개적으로 사용 가능한 AI 시스템들에 대한 AI 안전을 증진하기 위한 개발 지침을 촉진하는 AI 안전연구소를 포함하는 공공 그리고/또는 정부 지원 기관을 설립하거나 확장하기 위한 공동의 노력을 격려한다.

2.1 우리는 AI 안전 관련 정책적 노력에 정보를 제공하기 위해 학제간의, 그리고 재현 가능한 증거 군집의 필요성을 인식한다. 우리는 궁극적으로 AI 개발 및 사용의 혜택이 전지구에 걸쳐 공평하게 공유되기 위해 과학적 조사의 역할과 그러한 조사의 진전을 위한 국제적 공조의 혜택을 인정한다.

2.2 우리는 국제 AI 과학 보고서 등의 평가를 통해 공동의 과학적 이해들을 활용하고 증진하고자 하며, 적절한 경우에 각자의 정책을 견인하고 일치시키며, 우리 거버넌스 체계와 부합하는 안전하고 보안성 있고 신뢰할 수 있는 AI 혁신이 가능하도록 하고자 하는 우리의 의지를 확인한다.

2.3 우리는 우리의 기술적 방법론과 전반적 접근법에 있어서 상호보완성 및 상호운용성을 증진하기 위한 노력을 포함하여, AI 안전 측면에서 공동의 국제 과학적 이해를 촉진하기 위한 조치를 취하고자 하는 의지를 공유함을 표명한다.

2.4 이러한 조치들에는 기존 이니셔티브의 활용, 연구·평가·지침 역량 상호 강화, 적절한 경우 모델의 기능·한계·위험을 포함하는 모델들에 관한 정보 공유, AI 위해 및 안전 사고 모니터링, 적절한 분야에서 평가와 데이터세트 및 관련 기준의 교환 또는 공동 작성, AI 안전 과학 진전을 목적으로 하는 기술적 공유 자원 구축 및 이 분야에서의 적절한 연구 보안 관행 촉진을 포함할 수 있다.

2.5 우리는 효율성 극대화, 우선순위 정의, 경과 과정 보고, 결과물의 과학적 엄격성 및 견고성 향상, 국제 표준 개발 및 채택 촉진 그리고 AI 안전에 대한 증거 기반 접근법 진전 가속화를 위한 우리의 노력을 조율하고자 한다.

3. 우리는 AI 안전 과학의 진전을 가속화하기 위해 핵심 파트너들간에 국제 네트워크를 발전시킨다는 우리의 공유된 야심을 명시한다. 우리는 이러한 그리고 이와 관련된 노력에 있어서 향후 긴밀한 협력, 대화 및 파트너십을 기대한다.

kimsh@newspim.com

사진

위고비 부작용 논란…"단순 살 빼는 주사 아냐" [세종=뉴스핌] 신도경 기자 = 덴마크 제약사 노보노디스크의 '위고비' '삭센다' 등 비만치료제가 품절 대란과 함께 부작용 논란도 지속돼 주의가 요구된다. 4일 식품의약품안전처에 따르면 비만치료제 등에 대해 보고된 이상 사례는 0건으로 집계됐다. 식약처는 보고된 이상 사례가 없어 특정한 규제 등이 아직 필요하지 않다고 밝혔다. 다만 주사형 비만치료제의 경우 허가된 대상자만 처방받아야 한다고 강조했다. ◆ 주사형 비만치료제 처방 급증…해외서 부작용 발생 이어져 최근 주사형 비만치료제 처방이 급증하고 있다. 전진숙 더불어민주당 의원실에 따르면 의약품 안전사용서비스(DUR) 점검 건 중 비대면 진료로 삭센다를 처방한 건수는 작년 12월 183건에서 지난달 3347건으로 18.3배 증가했다. 글루카곤 유사 펩타이드(GLP-1) 성분 비만치료제 위고비는 식약처 허가에 따라 지난 달부터 국내에 출시됐다. 이후 2주동안 품절 대란이 일어날만큼 처방이 끊이지 않고 있다. [자료=식품의약품안전처] 2024.11.04 sdk1991@newspim.com 문제는 주사형 비 만치료에 처방 오남용이 발생하고 있다는 것이다. 비만치료제 주사제는 초기 체질량지수(BMI) 30kg/m2 이상인 성인 비만 환자 또는 BMI가 27kg/m2 이상 30kg/m2 미만이면서 고혈압 등 1개 이상의 체중 관련 동반 질환이 있는 성인 비만 환자에게 처방되는 전문의약품이다. 그런데 정상 체중군이 다이어트를 위해 처방받는 사례가 다수 발생하고 있다. 미국 등 한국보다 앞서 위고비를 허가한 해외에서 부작용에 따른 사망 사례 등이 발생하면서 부작용 논란도 계속되고 있다. 국제학술지 '큐리어스(Cureus)'에 따르면 미국의 70대 남성은 세마글루타이드 용량을 늘렸다가 급성 췌장염으로 입원한 뒤 결국 사망했다. GLP-1 계열의 약물인 세마글루타이드를 1년 6개월간 투여하던 일본 여성의 경우 복통을 일으켜 소장을 절제한 사례도 보고됐다. 이외 복통 호소, 구토 증상을 호소한 사례가 일어났다. 대한당뇨병학회는 "단순 체중 감량을 위한 정상체중군의 무분별한 약물 사용은 개인의 건강을 해칠 뿐만 아니라 비만 치료가 꼭 필요한 환자들에게 약물의 접근성을 저해할 수 있다"며 "비만과 대사질환이 없는 상황에서 쉽게 살을 뺄 수 있는 비법처럼 약물치료가 인식되고 있는 것은 매우 심각한 상황"이라고 경고했다. ◆ 식약처, 이상사례 보고 0건…"단순 살 빼는 주사 아냐" 정부는 국내에 보고된 이상 사례는 없다고 밝혔다. 다만 단순한 살빼는 주사가 아니기 때문에 치료 대상만 받아야 하고 의사 처방에 의해 사용해야 한다고 강조했다. 식약처는 비만치료제 허가 이유에 대해 "모든 약이 부작용이 있는데 상외할만큼 효과가 있기 때문에 허가했다"며 "고도비만 환자들의 경우 부작용에도 불구하고 치료 효과가 있다"고 설명했다. [자료=식품의약품안전처] 2024.11.04 sdk1991@newspim.com 반면 미국에서 발생한 췌장암 사망 사건의 관해 식약처 관계자는 "급성 췌장염은 예상되는 이상 사례"라며 "임상 시험을 했고 허가 범위 내 환자들이 사용해도 두통, 고통, 설사 등이 나타날 수 있다"고 설명했다. 그는 "국내와 해외 부작용 사례는 다를 수 있다"고 덧붙였다. 식약처는 국내·외 사례를 지속적으로 검토하겠다고 밝혔다. 국민들한테 알려야 할 필요가 있다고 생각되면 조치하겠다고도 설명했다. 그러면서 비만치료제는 단순 살 빼는 주사가 아니라며 허가된 대상자만 사용해야 한다고 강조했다. 다만 식약처 관계자는 "이상 사례가 나타났다고 바로 조치할 수 없다"며 "인과관계가 증명되면 그것에 따른 적합한 조치를 할 예정"이라고 설명했다. sdk1991@newspim.com 2024-11-04 15:30