[서울=뉴스핌] 양태훈 기자 = 인공지능(AI) 보안·인증 플랫폼 기업 라온시큐어가 AI 보안 솔루션 '원쉴드(OneShield)'로 '인공지능 제품·서비스 확인서'를 획득했다고 14일 밝혔다.

'인공지능 제품·서비스 확인제도'는 한국인공지능·소프트웨어산업협회(KOSA)가 인공지능기본법에 따라 제품이나 서비스에 AI 기술이 실제 적용됐는지를 확인하는 제도다. 제품에 적용된 AI의 학습·추론 특성과 기능 기여도 등을 기술적으로 심사해 확인서를 발급한다.

원쉴드는 생성형 AI와 AI 에이전트 사용 과정에서 발생할 수 있는 보안 위협을 탐지하고 차단하는 AI 세이프 가드레일 솔루션이다. 사용자와 생성형 AI·AI 에이전트 사이에서 오가는 입·출력 데이터를 실시간으로 분석하고 사전에 설정된 보안 정책에 따라 허용하거나 차단한다.

주요 기능은 ▲프롬프트 인젝션·탈옥(Jailbreak) 등 악성 프롬프트 공격 탐지 및 차단 ▲AI에 입력되는 개인정보 자동 식별·익명화·마스킹 ▲한국어 특화 모델 기반 유해 콘텐츠 차단 ▲기업·기관별 보안 정책에 따른 민감정보 입력 및 부적절한 AI 사용 통제 등이다.

라온시큐어는 기업의 생성형 AI 도입이 늘면서 기존 보안 체계로 대응하기 어려운 위협이 발생하고 있다고 설명했다. 임직원이 업무 과정에서 중요 정보나 개인정보를 생성형 AI에 입력하거나 공격자가 악성 프롬프트로 AI의 보안 정책을 우회하는 사례 등이 대표적이다.

회사는 이번 확인서 획득을 계기로 공공·금융 시장에서 원쉴드 사업을 확대할 계획이다. 공공·금융기관이 AI 보안 솔루션을 도입할 때 원쉴드의 AI 기술 적용 여부를 판단하는 근거로 이번 확인서가 활용될 수 있을 것으로 기대하고 있다.

AI 에이전트가 실제 업무를 수행하는 환경이 확대되면서 AI의 입·출력 데이터뿐 아니라 접근 권한과 행동까지 통제하는 보안 기술의 필요성도 커질 것으로 보고 있다.

라온시큐어는 AI 에이전트의 신원·권한 관리부터 행동 통제, 위협 탐지·대응까지 포괄하는 5대 에이전틱 AI 보안 솔루션을 중심으로 관련 보안 체계를 구축하고 있다.

이정아 라온시큐어 대표는 "생성형 AI 활용을 넘어 AI 에이전트가 실제 업무를 수행하는 단계로 전환되면서 민감정보 유출, 악성 프롬프트, 정책 우회 등 새로운 보안 위협도 함께 커지고 있다"며 "원쉴드는 이러한 위협을 통제해 기업과 기관이 AI를 보다 안전하게 활용할 수 있도록 하는 솔루션으로, 이번 확인서 획득을 계기로 공공·금융을 중심으로 사업 기회를 확대해 나가겠다"고 말했다.

dconnect@newspim.com