AI 핵심 요약
beta- 삼성전자는 12일 AI 에이전트의 신원·권한·행동을 감시하는 특허를 공개했다
- 보안 AI가 개인정보 무단 접근·전송과 부정 결제 등을 감지해 차단하는 기술이다
- 해당 기술은 스마트폰을 넘어 자동차·공장 등 다중 AI 환경으로 확대될 전망이다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
사진 무단 전송·비정상 자동결제 등 이상행동 차단
AI 문제풀이 제한 한계…정보 접근 통제도 주목
스마트폰 넘어 자동차·공장까지 보안기술 적용 구상
[서울=뉴스핌] 서영욱 기자 = 인공지능(AI)이 사용자의 지시를 넘어 정보 검색과 결제, 개인정보 전송 등 실제 업무까지 수행하는 'AI 에이전트' 시대를 맞아 삼성전자가 AI의 행동을 다른 AI가 감시하고 통제하는 보안 기술을 특허로 공개했다.
AI가 사용자의 허락을 받았더라도 업무 수행 과정에서 불필요한 개인정보에 접근하거나 외부로 정보를 전송할 경우 이를 차단하는 기술이다. 여러 AI 에이전트의 상위에 별도 보안 AI를 배치해 신원과 작업 목적, 접근 권한을 검증하는 구조다. 특히 AI를 활용한 부정 시험 등에서도 활용될 수 있다.
기존 스마트폰 보안이 앱 단위의 접근 권한 관리에 집중했다면, 삼성전자는 AI가 실제로 수행하는 개별 행동까지 검증하는 방식으로 보안 범위를 넓히려는 것으로 풀이된다. AI의 자율적 업무 수행이 확대되면서 사용자 정보 보호와 AI 통제 기술이 새로운 경쟁력으로 떠오르고 있다.
18일 미국 특허공개 자료에 따르면 삼성전자는 지난 12일 'AI 에이전트 감시·통제' 관련 특허출원(US 2026/0359474 A1)을 공개했다. 여러 AI 에이전트의 상위에 별도 '프라이버시·보안 에이전트'를 배치해 각각의 신원과 작업 목적, 정보 접근 권한 등을 검증하는 기술이다. 사용자의 지시를 수행하는 과정에서 허가받지 않은 정보에 접근하거나 외부로 전송하는 행위를 감지하고 차단하는 구조다.

◆AI 신원부터 행동까지…보안 AI가 실시간 감시
삼성전자가 제시한 기술의 핵심은 여러 AI를 감독하는 별도의 보안 AI를 두는 것이다. 스마트폰에서 정보 검색과 일정 관리, 결제 등을 수행하는 AI의 상위에 보안 AI를 배치해 각각의 행동을 감시한다. 외부 개발사가 만든 AI도 감시 대상에 포함된다.
보안 AI는 다른 AI가 작업을 시작하기 전에 신원과 접근 권한을 확인한다. 이후 실제 작업이 사용자의 지시에 맞게 이뤄지는지 살펴보고 개인정보를 무단으로 수집하거나 외부로 전송하려 하면 차단한다. 이 과정에서 AI 추론 기술과 과거 보안 위협 정보를 활용해 행동의 위험성도 판단한다.
특허에는 구체적인 사례도 담겼다. 사용자가 AI에 사진 편집을 요청했는데 외부 앱의 AI가 갤러리 사진을 무단으로 가져가 외부 서버에 전송하려 하면 보안 AI가 이를 차단한다. 문제가 된 AI는 차단 목록에 등록해 추가 접근도 제한한다. AI가 의도하지 않은 광고를 클릭하거나 자동결제를 시도할 때도 정상적인 작업인지 검증하고 문제가 발견되면 중단한다.
기존 보안 기술이 앱에 부여된 접근 권한을 관리하는 데 초점을 맞췄다면 이번 기술은 AI가 실제로 어떤 행동을 하는지까지 점검하는 것이 특징이다. 사용자가 AI에 특정 작업을 허용했다고 해서 그 과정에서 발생하는 모든 행동까지 허용하는 것은 아니라는 취지다.
◆AI 커닝 차단 한계…'문제풀이 제한' 대신 '행동 통제' 주목
최근 AI를 이용한 시험 부정행위 논란은 이 같은 기술에 대한 관심을 키우고 있다. 스마트 안경과 초소형 카메라로 시험문제를 촬영한 뒤 생성형 AI를 이용해 답을 구하는 방식이 알려지면서 정부도 대응책 마련에 나섰다.
정부는 지난 16일 관계부처 회의를 열고 대학수학능력시험을 비롯한 국가시험에서 스마트기기 반납을 강화하고 시험장 공공 와이파이를 차단하는 방안 등을 논의했다. AI 서비스의 문제풀이 기능을 시험 시간대에 제한하는 방안도 중장기 검토 대상에 올랐다.
다만 AI 기업이 시험문제와 일반 학습용 질문을 구분하기는 쉽지 않다. 같은 수학 문제라도 시험장에서 답을 구하면 부정행위에 해당하지만 시험장 밖에서는 정상적인 학습 활동이 될 수 있기 때문이다. 모든 이용자의 질문 의도를 확인하거나 특정 시간에 문제풀이 기능을 일률적으로 제한하는 방식에도 기술적·제도적 한계가 따른다.
삼성전자의 특허는 AI의 문제풀이 기능 자체를 제한하는 대신 특정 기기에서 AI가 수행하는 행동과 정보 접근을 통제하는 접근이라는 점에서 차이가 있다. 시험용으로 관리되는 기기에 유사한 보안 체계를 적용한다면 문제 촬영이나 외부 전송을 제한하는 데 활용할 가능성이 있다.

◆스마트폰 넘어 자동차·공장까지 확대 가능
삼성전자는 이번 특허 기술의 적용 대상으로 스마트폰과 태블릿, 스마트워치, TV 등을 제시했다. PC와 자동차, 공장 등 여러 AI가 독립적으로 작동하는 환경으로 활용 범위를 확대하는 방안도 포함했다. 특정 기기에 한정하지 않고 다수의 AI가 협력하는 시스템 전반에 보안 기능을 적용하려는 구상이다.
삼성전자는 앞서 갤럭시 AI의 개인정보를 앱별로 분리해 보호하는 '킵(KEEP)' 보안체계를 도입했다. 지난 9월에는 AI 에이전트가 작업 수행에 필요한 권한만 부여받고 사용이 끝나면 이를 회수하는 자체 통제체계 'AAA(Account for AI Agent)'를 공개하기도 했다. 이번 특허 역시 AI의 자율적인 업무 수행이 확대되는 환경에서 보안과 통제 기술을 강화하려는 움직임으로 풀이된다.
보안업계에서는 AI가 단순한 정보 검색을 넘어 결제와 개인정보 전송 등 실제 업무까지 수행하면서 AI의 행동을 실시간으로 감시하고 통제하는 기술의 중요성이 더욱 커질 것으로 보고 있다. 다만 이러한 기술이 상용화되기 위해서는 위험한 행동을 정확하게 탐지하면서도 정상적인 작업까지 차단하는 오류를 최소화하는 것이 관건이라는 분석이다.
syu@newspim.com












