[서울=뉴스핌] 양태훈 기자 = SK쉴더스가 8일 AI 애플리케이션 보안 위협에 선제 대응하기 위해 '거대언어모델(LLM) 애플리케이션 취약점 진단 가이드'를 발간했다고 밝혔다. 이번 가이드는 급증하는 AI 기반 해킹 위협에 대한 체계적인 대응 방안을 담고 있다.

LLM 애플리케이션은 자연어 처리와 생성 기능을 활용해 금융, 제조, 헬스케어 등 다양한 산업에 활용되고 있다. 오픈AI의 '챗GPT'와 구글의 '제미나이' 등이 대표적이다. 하지만 이 애플리케이션들은 데이터와 사용자 입력을 처리하는 독특한 방식으로 인해 기존 IT 시스템과는 다른 보안 위협에 취약하다.

SK쉴더스는 올해 주요 보안 위협으로 AI 기반 해킹의 증가를 지목했다. 특히 소형 언어 모델(sLLM)을 겨냥한 공격과 데이터 조작, 유출을 목표로 한 구조적 취약점 악용 사례가 늘어날 것으로 전망했다. 이에 따라 발간된 이번 가이드는 'OWASP Top 10 for LLM Applications 2025'를 기반으로, LLM 통합, 에이전트, 모델 등 세 가지 주요 보안 영역을 다루고 있다.

[사진=SK쉴더스]

보고서에 따르면 대표적인 보안 위협으로는 '프롬프트 인젝션', 'API 매개변수 변조', '검색증강생성(RAG) 데이터 오염' 등이 있다. 프롬프트 인젝션은 악의적인 사용자 입력으로 시스템이 의도하지 않은 응답을 출력하게 만드는 공격이다. 이는 민감한 정보 유출과 악성 응답 생성으로 이어질 수 있다.

API 매개변수 변조는 시스템 간 통신 요청값을 변경해 권한을 초과한 동작을 유발하는 위협이다. 이를 통해 데이터 유출, 악성 이메일 전송 등 심각한 문제가 발생할 가능성이 있다. RAG 데이터 오염은 외부 데이터를 조작해 신뢰도를 떨어뜨리는 방식으로 보안 문제를 일으킨다.

SK쉴더스는 이러한 위협에 대응하기 위해 사용자 입력과 시스템 명령어를 분리하고, 데이터 흐름 점검 및 검증 절차를 강화해야 한다고 제안했다. 또한 코드 실행 여부에 따라 샌드박스를 활용해 악성코드 실행을 방지하고, 그룹별 권한 관리 체계를 구축해 데이터 접근을 통제해야 한다고 강조했다.

SK쉴더스는 이번 가이드 발간을 계기로 AI 특화 모의 해킹, 소프트웨어 명세서(SBOM) 관리, DevSecOps 구축 컨설팅 등 종합적인 보안 솔루션을 제공하며 AI 애플리케이션의 잠재적 취약점을 사전에 파악하고 안전한 운영 환경을 지원할 계획이다.

김병무 SK쉴더스 사이버보안부문장은 "AI 기술의 편리함은 크지만 보안 취약점 악용 시 심각한 피해가 발생할 수 있다"며 "이번 가이드는 기업과 기관이 AI 보안 문제를 사전에 예방하고 신뢰할 수 있는 AI 시스템을 구축하는 데 실질적인 도움을 줄 것"이라고 말했다.

'LLM 애플리케이션 취약점 진단 가이드'는 SK쉴더스 공식 웹사이트의 정보 보안 라이브러리 메뉴에서 무료로 다운로드할 수 있다.

dconnect@newspim.com