[서울=뉴스핌] 최원진 기자= 인공지능(AI) 선도 기업 오픈AI가 경쟁사인 앤스로픽의 AI 에이전트 클로드를 활용한 독립 보안 연구진에 의해 내부 시스템을 해킹당한 사실이 뒤늦게 밝혀졌다. 자율적으로 탐색 및 코드 실행이 가능한 AI 에이전트 기술의 급성장이 기업 보안 생태계에 심각한 위협이 될 수 있음이 다시 한 번 입증됐다.

17일(현지시간) 월스트리트저널(WSJ)에 따르면 사이버 보안업체 '핵트론(Hacktron) AI'의 독립 보안 연구진은 앤스로픽의 최신 AI 모델인 '클로드 오퍼스 5' 등을 활용해 오픈AI 직원의 계정 인증 토큰을 취득하고, 오픈AI의 핵심 소스코드 저장소인 '모노레포(Monorepo)'에 접근하는 데 성공했다.

연구진은 오픈AI의 커뮤니티 토론 포럼 프로그램인 '디스코스(Discourse)' 내 이미지 파일 처리 취약점을 찾아낸 뒤, 클로드 오퍼스 4.8 버전으로 공격을 시도하다 실패하자 새로 출시된 '오퍼스 5'를 활용해 공격용 코드를 작성해 침투에 성공했다. 연구진은 취득한 토큰을 통해 오픈AI 직원의 챗GPT 계정과 깃허브 소프트웨어 저장소에 접근했으며, 침투 증거로 모노레포 내 문서 파일에 수정을 요청하는 '풀 리퀘스트(pull request)'까지 전송했다. 다행히 모델의 핵심 알고리즘 수치인 가중치는 유출되지 않은 것으로 확인됐다.

오픈AI는 취약점 발견 시 포상금을 지급하는 버그 바운티(Bug Bounty) 프로그램의 일환으로 이번 연구진에게 6천500달러(약 900만 원)의 포상금을 지급하고 관련 조치를 완료했다. 이번 주 그레그 브록만 오픈AI 공동창업자 겸 사장은 "전체 프로덕션 엔지니어의 25%를 투입해 대대적인 보안 감사를 실시하고 심각한 문제들을 해결했다"고 전했다.

이번 사건은 고도화된 AI 도구가 악용될 경우 적은 인원과 비용으로도 대형 기술 기업의 국가급 AI 기밀을 탈취할 수 있음을 보여준다. 모한 페다파티 핵트론 AI 최고기술책임자(CTO)는 "우리는 그저 클로드와 코덱스를 구독한 3명의 연구원일 뿐"이라며 "국가 단위 지원을 받는 전문 해커 조직에 비하면 우리의 역량은 훨씬 미미함에도 시스템이 뚫렸다"고 지적했다.

AI 보안업체 어번던트 시큐리티(Abundant Security)의 조슈아 삭스 CTO는 "과거에는 몇 천 명의 전문가만 가능했던 버그 탐지 및 해킹 작업을 이제 AI 에이전트가 대신해 주고 있다"며 기술 발전이 사이버 범죄의 진입장벽을 급격히 낮추고 있다고 경고했다.

wonjc6@newspim.com