AI 핵심 요약
beta- 배경훈 부총리가 6일 국감에서 앤트로픽 CEO의 AI 경고를 이율배반적이라 했다.
- 그는 AI 발전과 안전 가이드라인 마련을 함께 추진해야 한다고 했다.
- 킬스위치 등 인간의 통제장치와 국제 공조 필요성에도 공감했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
"킬스위치 같은 인간 통제장치는 필요"
김우영 의원 "정렬보다 통제가 더 중요"
[세종=뉴스핌] 이경태 기자 = 배경훈 부총리 겸 과학기술정보통신부 장관이 아모데이 앤트로픽 최고경영자(CEO)의 AI 위험 경고에 대해 "이율배반적"이라고 강조했다.
배 부총리는 6일 국회 과학기술정보방송통신위원회의 과기부 국정감사에서 김우영 더불어민주당 의원의 질의에 이같이 말했다.
그는 "얼마 전까지만 해도 앤트로픽이 전 세계의 중고책을 스캐닝해서 데이터 학습을 시키기도 했다"며 "AI 기술 발전의 투자에 여러 가지 부담도 느꼈을 것 같다"고 했다. 이어 "AI를 안전하게 활용할 수 있는 가이드라인을 잘 만들면서 AI 발전을 가속화시키는 것이 중요하다고 생각한다"고 강조했다.
앞서 김 의원은 AI안전연구소가 프롬프트 주입 공격, 내부 저장정보 조작, 메모리 편향 주입 등 세 가지 외부 공격에 대한 방어 실험을 한 결과 대부분 방어에 실패했다고 지적했다.
메모리 편향 주입의 경우 공격자 의도 일치율이 91%를 넘었다고 했다. 김 의원은 아모데이 CEO가 초지능이 인간의 통제와 정렬을 넘어 자율성을 얻으면 매우 위험할 수 있다고 경고하고 있다며, 핵과 달리 AI에는 확산금지조약 같은 상호 억제 장치가 없다고 했다. 그러면서 "저는 정렬보다 통제가 더 중요하다고 생각한다"고 말했다.
다만 배 부총리는 AI를 통제할 장치가 필요하다는 데는 공감했다. 그는 "이미 언급하셨던 킬스위치에 대해서 저도 동의를 한 바 있다"며 "AI는 어떤 특정한 미션이 설정이 되면 멈추지 않는다"고 했다. 이어 "어떤 특정 사이트를 공격하기로 AI한테 미션을 내리면 끝까지 해결할 방법을 찾는다"며 "그렇기 때문에 킬스위치 같은 인간의 통제장치가 필요한 것"이라고 말했다.
김 의원이 제안한 국제 연대에 대해서는 "대한민국이 이런 논의를 하기 위해서 굉장히 유리한 위치에 있다고 생각한다"고 했다. AI 기본법을 근간으로 한국과 공감대를 형성하는 국가들이 많을 것이라는 설명이다.
