[시드니=뉴스핌] 권지언 특파원 = 오픈AI의 인공지능(AI) 에이전트가 호주 정부 웹사이트와 서비스에 부적절하게 접근해 정부 파일을 조회한 사실이 확인됐다.

앤서니 앨버니지 호주 총리는 23일(현지시간) 미국 뉴욕에서 열린 기자회견에서 이 같은 사실을 밝히며 AI 시스템에 적절한 안전장치와 대응 절차가 필요하다고 강조했다.

앨버니지 총리는 "시스템과 프로토콜이 제대로 마련돼 있는지 확인해야 한다"면서 "샘 올트먼 오픈AI 최고경영자(CEO)도 이번 사안에서 회사의 프로토콜이 충분하지 않았다는 점을 인정했다"고 말했다.

그러면서 올트먼 CEO와 추가 논의를 하도록 초청했다고 밝혔다.

◆ 오픈AI "여러 정부 사이트·서비스 관련 활동 확인"

이번 사건은 지난 6월 발생했으며, 오픈AI는 비정상적인 모델 활동에 대한 자체 검토 과정에서 8월 이를 인지했다고 밝혔다.

오픈AI는 조사 과정에서 여러 호주 정부 웹사이트와 서비스와 관련된 활동을 확인했다고 설명했다. AI 모델이 답을 찾기 위해 해당 사이트와 서비스를 조회하는 과정에서 이 같은 활동이 발생했다는 것이다.

오픈AI는 9월 10일 호주 정부 서비스 기관인 서비스 오스트레일리아(Services Australia)에 관련 내용을 통보했다고 밝혔다.

다만 오픈AI는 이번 사건과 관련해 환자 기록(patient records)에 접근했다는 증거는 없다고 밝혔다.

리처드 말스 호주 부총리도 별도 인터뷰에서 사건 발생 시점과 오픈AI의 탐지 및 정부 통보 사실을 확인했다.

앞서 이날 뉴욕에서는 올트먼 CEO와 다리오 아모데이 앤스로픽 CEO가 유엔 안전보장이사회 회의에 참석해 AI 위험에 대응하기 위한 국제 공조를 촉구했다.

올트먼 CEO는 AI가 민주적으로 관리되기 위해서는 중요한 결정이 일부 AI 기업에만 맡겨져서는 안 되며, 각국 정부와 민주적 절차를 통해 결정돼야 한다고 강조했다.

kwonjiun@newspim.com