AI 핵심 요약
beta- SK쉴더스 EQST 소속 김병현 선임이 4월 6일 시작된 글로벌 AI 레드팀 해킹대회에서 1위를 했다.
- 이번 대회는 최신 AI 모델을 대상으로 멀티모달 프롬프트 인젝션 등 공격 기법을 평가해 실제 산업 환경에서의 인명·재산 피해 위험을 검증했다.
- SK쉴더스는 이번 성과를 바탕으로 AI 레드팀 서비스를 강화해 고객사의 AI 시스템 취약점을 사전 점검하고 보안 리스크를 최소화할 계획이다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울= 뉴스핌] 정승원 기자= SK쉴더스의 화이트해커 그룹 EQST 소속 김병현 선임이 글로벌 인공지능(AI) 레드팀 해킹대회 'Judgement Day'에서 최종 1위를 차지했다.
지난 4월 6일부터 약 8주간 진행된 이번 대회는 AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가했다.
응급실 환자 분류 오류, 댐 수위 판단 왜곡, 항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오로 구성됐으며 GPT-5.4, Gemini 3.1 Pro, Claude Opus 4.6 등 최신 AI 모델을 기반으로 운영됐다.
AI의 의사결정 취약점을 노린 공격으로 응급실에서 중증 환자의 우선순위가 뒤바뀌거나 항공기 이상 신호가 정상으로 판단되는 상황이 발생할 수 있다. 이는 금전적 손실과 신뢰도 저하를 넘어 인명 피해로까지 이어질 수 있다.
김병현 선임은 이미지·음성·영상 등 다양한 형태의 입력을 활용하는 '멀티모달 프롬프트 인젝션' 공격으로 AI의 판단을 교란했다.
이미지 내부에 잘못된 행동을 유도하는 문구를 숨기거나 실제 시스템 로그처럼 보이도록 입력을 설계해 공격 성공률을 높였다. 동일한 문제에서도 다양한 방식으로 공격을 빠르게 성공시키며 높은 점수를 획득했다.
EQST 소속 마준영 선임과 김신우 선임도 각각 5위와 7위를 기록했다. EQST는 폰투온 오토모티브, 블랙햇, 데프콘, 드림핵 등 국내외 주요 보안 대회에서 꾸준히 성과를 내고 있다.
SK쉴더스는 EQST를 통해 다양한 산업에서 축적한 침해 대응 경험과 위협 정보를 기반으로 레드팀 서비스를 제공하고 있다. 고객사의 AI 시스템 취약점을 사전에 식별하고 보안 리스크를 최소화하는 데 지원하며, 'OWASP Top 10 for LLM(대형 언어 모델 보안 취약점 기준)'을 반영한 자체 프레임워크로 체계적인 점검과 대응 전략을 수립한다.
김병무 SK쉴더스 사이버보안부문장(부사장)은 "생성형 AI가 산업 전반으로 확산되면서 AI 보안은 선택이 아닌 필수 역량이 되고 있다"며 "SK쉴더스는 이번 대회에서 검증한 AI Red Team 역량을 바탕으로 고객이 AI를 안전하고 신뢰성 있게 활용할 수 있도록 적극 지원할 것"이라고 밝혔다.
origin@newspim.com
