[서울=뉴스핌] 양태훈 기자 = "안전하고 신뢰할 수 있는 인공지능(AI) 구축을 위해서는 기업과 국가를 넘어선 글로벌 연대와 협력이 필요하다."

김경훈 카카오 AI Safety 리더(이사)는 12일 서울 코엑스에서 열린 '생성형 AI 레드팀 챌린지' 행사에서 이 같이 강조했다.

김 리더는 이날 'AI Safety for Everyone'을 주제로 한 강연을 통해 카카오의 AI 안전 확보 노력을 소개하고, AI 안전을 위한 다양한 이해관계자의 협력을 제안했다.

12일 서울 코엑스에서 열린 '생성형 AI 레드팀 챌린지' 행사. 김경훈 카카오 AI Safety 리더(이사)가 발표하고 있다. [사진=과학기술정보통신부 공식 유튜브]

그는 "AI 기술이 급격히 발전하면서 AI 안전에 대한 우려도 커지고 있다"며 "AI 오용에 따른 사회적 피해, 오염된 학습 데이터로 인한 편견 문제 등을 해결하기 위해서는 기술적 노력뿐 아니라 정책적, 윤리적 준비가 필요하다"고 강조했다.

또 '이를 위해 기업 차원에서 AI 서비스 개발 전주기에 걸쳐 정책 검토와 리스크 평가가 이뤄져야 한다"며, "카카오는 2018년부터 자체 알고리즘 윤리헌장을 수립해 차별 금지, 프라이버시 보호 등의 원칙을 세우고, AI 서비스 검토 프로세스를 통해 서비스 출시 전 단계별로 리스크 평가와 완화 조치를 진행하고 있다"고 덧붙였다.

실제로 유럽연합은 AI 제품과 서비스에 대한 규제 법안을 마련 중이며, 미국 바이든 행정부도 AI 개발 가이드라인을 내놓은 바 있다. 카카오 역시 지난 4일, 국내 최초로 글로벌 AI 개방형 혁신 단체 'AI 얼라이언스'에 가입하는 등 AI 안전성 확보를 위해 노력하고 있다. AI 얼라이언스는 글로벌 IT 기업들과 학계, 오픈소스 커뮤니티 등 100여 개 기관이 참여하는 연합체로, AI 교육과 정책, 기술 연구 등 6개 분야에서 협력하고 있다.

12일 서울 코엑스에서 열린 '생성형 AI 레드팀 챌린지' 행사. [사진=과학기술정보통신부 공식 유튜브]

김 리더는 "AI 얼라이언스 가입을 통해 AI의 투명성과 신뢰성, 안전성 확보를 위한 글로벌 표준 수립에 적극 참여할 것"이라며, "특히 AI 안전성 평가를 위한 벤치마크 데이터셋 구축 등 오픈소스 커뮤니티에 기여하고자 한다"고 전했다.

나아가 "AI는 특정 집단이 아닌 사회 전반에 영향을 미치기에 학계와 산업계, 시민사회 등 다양한 이해관계자가 힘을 모아야 한다. 각국 정부와 국제기구 차원의 협력도 필요하다"며, "AI로 인한 디지털 격차 해소와 AI 안전 표준 정립을 위한 글로벌 공조가 시급하다. 안전한 AI 활용을 위한 이용자 교육과 문해력 제고에도 힘써야 한다"고 제언했다.

dconnect@newspim.com