전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

"AI도 해킹된다"… SK쉴더스, LLM 보안 가이드 발간

기사입력 : 2025년01월08일 09:27

최종수정 : 2025년01월08일 09:27

AI 기반 애플리케이션 보안 위협 증가, 대비책 시급
SK쉴더스, 주요 취약점 진단과 대응 방안 제시

[서울=뉴스핌] 양태훈 기자 = SK쉴더스가 8일 AI 애플리케이션 보안 위협에 선제 대응하기 위해 '거대언어모델(LLM) 애플리케이션 취약점 진단 가이드'를 발간했다고 밝혔다. 이번 가이드는 급증하는 AI 기반 해킹 위협에 대한 체계적인 대응 방안을 담고 있다.

LLM 애플리케이션은 자연어 처리와 생성 기능을 활용해 금융, 제조, 헬스케어 등 다양한 산업에 활용되고 있다. 오픈AI의 '챗GPT'와 구글의 '제미나이' 등이 대표적이다. 하지만 이 애플리케이션들은 데이터와 사용자 입력을 처리하는 독특한 방식으로 인해 기존 IT 시스템과는 다른 보안 위협에 취약하다.

SK쉴더스는 올해 주요 보안 위협으로 AI 기반 해킹의 증가를 지목했다. 특히 소형 언어 모델(sLLM)을 겨냥한 공격과 데이터 조작, 유출을 목표로 한 구조적 취약점 악용 사례가 늘어날 것으로 전망했다. 이에 따라 발간된 이번 가이드는 'OWASP Top 10 for LLM Applications 2025'를 기반으로, LLM 통합, 에이전트, 모델 등 세 가지 주요 보안 영역을 다루고 있다.

[사진=SK쉴더스]

보고서에 따르면 대표적인 보안 위협으로는 '프롬프트 인젝션', 'API 매개변수 변조', '검색증강생성(RAG) 데이터 오염' 등이 있다. 프롬프트 인젝션은 악의적인 사용자 입력으로 시스템이 의도하지 않은 응답을 출력하게 만드는 공격이다. 이는 민감한 정보 유출과 악성 응답 생성으로 이어질 수 있다.

API 매개변수 변조는 시스템 간 통신 요청값을 변경해 권한을 초과한 동작을 유발하는 위협이다. 이를 통해 데이터 유출, 악성 이메일 전송 등 심각한 문제가 발생할 가능성이 있다. RAG 데이터 오염은 외부 데이터를 조작해 신뢰도를 떨어뜨리는 방식으로 보안 문제를 일으킨다.

SK쉴더스는 이러한 위협에 대응하기 위해 사용자 입력과 시스템 명령어를 분리하고, 데이터 흐름 점검 및 검증 절차를 강화해야 한다고 제안했다. 또한 코드 실행 여부에 따라 샌드박스를 활용해 악성코드 실행을 방지하고, 그룹별 권한 관리 체계를 구축해 데이터 접근을 통제해야 한다고 강조했다.

SK쉴더스는 이번 가이드 발간을 계기로 AI 특화 모의 해킹, 소프트웨어 명세서(SBOM) 관리, DevSecOps 구축 컨설팅 등 종합적인 보안 솔루션을 제공하며 AI 애플리케이션의 잠재적 취약점을 사전에 파악하고 안전한 운영 환경을 지원할 계획이다.

김병무 SK쉴더스 사이버보안부문장은 "AI 기술의 편리함은 크지만 보안 취약점 악용 시 심각한 피해가 발생할 수 있다"며 "이번 가이드는 기업과 기관이 AI 보안 문제를 사전에 예방하고 신뢰할 수 있는 AI 시스템을 구축하는 데 실질적인 도움을 줄 것"이라고 말했다.

'LLM 애플리케이션 취약점 진단 가이드'는 SK쉴더스 공식 웹사이트의 정보 보안 라이브러리 메뉴에서 무료로 다운로드할 수 있다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
트럼프 "머스크 추방도 검토" [서울=뉴스핌] 고인원 기자= 도널드 트럼프 미국 대통령이 기자들에게 "(일론) 머스크의 추방 문제도 고민해보겠다"고 발언하며, 두 사람 간 갈등이 또 한 번 수위를 높였다. 일론 머스크 테슬라 최고경영자(CEO)가 트럼프의 감세·재정 법안을 비판한 데 이어, 트럼프는 머스크의 정부 보조금과 계약에 대한 전수조사와 함께 추방 가능성까지 언급해 정치적·법적 논란이 확산되고 있다. 트럼프는 1일(현지시간) 백악관 앞에서 기자들과 만난 자리에서 "머스크를 추방할 수 있느냐"는 질문에 "모르겠다. 한번 살펴보겠다(I don't know, we'll have to take a look)"고 답했다. 그는 이어 "머스크는 많은 보조금을 받았으며, 전기촤 의무화 폐지에 매우 화가난 듯 하다"고 덧붙였다. 도널드 트럼프 미국 대통령과 일론 머스크 테슬라 최고경영자(CEO).[사진=로이터 뉴스핌] 2025.06.21 mj72284@newspim.com 트럼프는 전기차 강제 규정을 "바이든 시대의 유산"으로 규정하고 폐지를 추진 중이다. 그는 "나는 전기차를 원하지 않는다. 휘발유도, 하이브리드도, 언젠가는 수소차도 원할 수 있다"며 "다만 수소차는 터지면 5블록 떨어진 데서 시신을 찾는다"고 비꼬기도 했다. 트럼프의 '추방' 발언이 담긴 클립이 퍼지자, 머스크는 X(옛 트위터)에 "이걸 더 키우고 싶어 죽겠지만, 지금은 참겠다"고 의미심장한 글을 올렸다. 이 논란은 머스크가 트럼프의 '크고 아름다운 하나의 법안 법(OBBBA)'을 "완전히 미치고 파괴적 법안"이라며 비판한 데서 촉발됐다. 트럼프는 이에 대해 "머스크는 역사상 가장 많은 보조금을 받은 사람"이라며, 정부효율성부(DOGE)가 머스크의 보조금 수혜 내역을 조사할 필요가 있다고 응수했다. 이어 트럼프는 "보조금이 없으면 로켓 발사도, 전기차 생산도 못할 것"이라고 몰아세웠다. 전문가들은 연방정부의 보조금·계약 중단이나 규제 강화 가능성을 주목하고 있으며, 이는 테슬라와 스페이스X의 사업에 실질적인 타격으로 이어질 여지가 있다고 지적한다. 머스크는 세금안 반대뿐 아니라 "새로운 정당(America Party)을 만들겠다"고 맞불을 놓으며 대선 기간부터 이어온 트럼프와 머스크 간 '브로맨스'가 균열 조짐을 보이고 있다. koinwon@newspim.com 2025-07-01 22:23
사진
기재부, 나라장터에 NXC 지분 매각 공고 [세종 = 뉴스핌] 김범주 기자 =국내 게임 1위 업체 '넥슨'의 정부 지분에 대한 공개입찰 절차가 진행 중인 것으로 확인됐다. 기획재정부는 지난달 30일 나라장터 등에 넥슨 지주사 엔엑스씨(NXC)의 지분 매각 공고를 냈다고 2일 밝혔다. NXC는 비상장기업이다. 고 김정주 넥슨 회장 사망으로 유가족들이 상속세 4조7000억원을 NXC주식(29.29%)으로 물납했다. 넥슨 로고. [사진=넥슨] 그동안 기재부는 다양한 방식으로 NXC 지분 매각을 추진해 왔지만 결과적으로 무산됐다. 지난해 말에는 매각 주관사를 선정하는 방식으로 NXC 지분 처분을 추진하기도 했다. NXC 지분 매각에 따른 세외 수입은 3조7000억원이다. 올해도 NXC 지분 매각이 성사되지 않을 경우 해당 금액만큼 이른바 '펑크'가 발생하는 셈이다. 한편 최근 게임업계에서는 중국 IT기업 텐센트가 넥슨 지분 인수를 타진 중인 것으로 알려졌다. 기재부 관계자는 "매각 절차를 게시했지만, 구체적인 매각대상자 등은 결정된 바 없다"고 말했다. wideopen@newspim.com 2025-07-02 15:10
안다쇼핑
Top으로 이동