[세종 = 뉴스핌] 김범주 기자 = 숭실대학교는 본교 인공지능(AI) 안전성 연구센터가 엔키화이트햇과 연구협력(MOU)을 체결했다고 13일 밝혔다. 이와함께 온라인과 오프라인으로 동시에 AI 안전성 연구센터 세미나도 열었다.

세미나에서 한국인공지능 법학회 최경진 회장과 숭실대 최대선 센터장의 발표가 있었다. 최 회장은 주제 발표에서 AI 규제 입법을 위해서는 국내 AI 기술 경쟁력 확보와 AI 리더 그룹과의 협업, 국제 거버넌스 참여의 필요성을 강조했다

최 회장은 "신뢰할 수 있는 AI 프레임워크 개발과 면밀한 글로벌 동향 분석이 중요하다"고 말했다.

최 센터장은 AI 안전성 문제를 AI에 대한 적대적 공격, AI 악용, 통제력 상실, 국가 안보 위협(CIB) 등으로 분류했다. 아울러 이를 최소화할 수 있게 AI 사용 제약, 통제 가능한 설계 원칙 적용, 지속적인 모니터링 및 업데이트 등을 제안했다.

최 센터장은 "AI 위협에 대한 기술적 대응은 결국 '창과 방패의 대결'과 같다"며 "공격을 완전히 차단하는 것은 불가능하지만 최소화하는 것이 목표"라고 강조했다.

한편 숭실대 AI 안전성 연구센터는 엔키화이트햇와의 MOU를 통해 AI 안전성 점검을 위한 레드팀 연구 분야에서의 협력을 약속하며, 공동 연구를 이어갈 예정이다.

wideopen@newspim.com