전체기사 최신뉴스 GAM
KYD 디데이
홈 산업 전기·전자

속보

더보기

"AI가 AI를 감시한다"…삼성전자, 무단 행동 차단하는 보안 특허 공개

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

AI 핵심 요약

beta
분석 중...
  • 삼성전자는 12일 AI 에이전트의 신원·권한·행동을 감시하는 특허를 공개했다
  • 보안 AI가 개인정보 무단 접근·전송과 부정 결제 등을 감지해 차단하는 기술이다
  • 해당 기술은 스마트폰을 넘어 자동차·공장 등 다중 AI 환경으로 확대될 전망이다

!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.

美 특허 공개…보안 AI가 다른 AI 행동 감시
사진 무단 전송·비정상 자동결제 등 이상행동 차단
AI 문제풀이 제한 한계…정보 접근 통제도 주목
스마트폰 넘어 자동차·공장까지 보안기술 적용 구상

[서울=뉴스핌] 서영욱 기자 = 인공지능(AI)이 사용자의 지시를 넘어 정보 검색과 결제, 개인정보 전송 등 실제 업무까지 수행하는 'AI 에이전트' 시대를 맞아 삼성전자가 AI의 행동을 다른 AI가 감시하고 통제하는 보안 기술을 특허로 공개했다. 

AI가 사용자의 허락을 받았더라도 업무 수행 과정에서 불필요한 개인정보에 접근하거나 외부로 정보를 전송할 경우 이를 차단하는 기술이다. 여러 AI 에이전트의 상위에 별도 보안 AI를 배치해 신원과 작업 목적, 접근 권한을 검증하는 구조다. 특히 AI를 활용한 부정 시험 등에서도 활용될 수 있다. 

기존 스마트폰 보안이 앱 단위의 접근 권한 관리에 집중했다면, 삼성전자는 AI가 실제로 수행하는 개별 행동까지 검증하는 방식으로 보안 범위를 넓히려는 것으로 풀이된다. AI의 자율적 업무 수행이 확대되면서 사용자 정보 보호와 AI 통제 기술이 새로운 경쟁력으로 떠오르고 있다.

18일 미국 특허공개 자료에 따르면 삼성전자는 지난 12일 'AI 에이전트 감시·통제' 관련 특허출원(US 2026/0359474 A1)을 공개했다. 여러 AI 에이전트의 상위에 별도 '프라이버시·보안 에이전트'를 배치해 각각의 신원과 작업 목적, 정보 접근 권한 등을 검증하는 기술이다. 사용자의 지시를 수행하는 과정에서 허가받지 않은 정보에 접근하거나 외부로 전송하는 행위를 감지하고 차단하는 구조다.

[AI 인포그래픽=서영욱 기자]

◆AI 신원부터 행동까지…보안 AI가 실시간 감시
삼성전자가 제시한 기술의 핵심은 여러 AI를 감독하는 별도의 보안 AI를 두는 것이다. 스마트폰에서 정보 검색과 일정 관리, 결제 등을 수행하는 AI의 상위에 보안 AI를 배치해 각각의 행동을 감시한다. 외부 개발사가 만든 AI도 감시 대상에 포함된다.

보안 AI는 다른 AI가 작업을 시작하기 전에 신원과 접근 권한을 확인한다. 이후 실제 작업이 사용자의 지시에 맞게 이뤄지는지 살펴보고 개인정보를 무단으로 수집하거나 외부로 전송하려 하면 차단한다. 이 과정에서 AI 추론 기술과 과거 보안 위협 정보를 활용해 행동의 위험성도 판단한다.

특허에는 구체적인 사례도 담겼다. 사용자가 AI에 사진 편집을 요청했는데 외부 앱의 AI가 갤러리 사진을 무단으로 가져가 외부 서버에 전송하려 하면 보안 AI가 이를 차단한다. 문제가 된 AI는 차단 목록에 등록해 추가 접근도 제한한다. AI가 의도하지 않은 광고를 클릭하거나 자동결제를 시도할 때도 정상적인 작업인지 검증하고 문제가 발견되면 중단한다.

기존 보안 기술이 앱에 부여된 접근 권한을 관리하는 데 초점을 맞췄다면 이번 기술은 AI가 실제로 어떤 행동을 하는지까지 점검하는 것이 특징이다. 사용자가 AI에 특정 작업을 허용했다고 해서 그 과정에서 발생하는 모든 행동까지 허용하는 것은 아니라는 취지다.

◆AI 커닝 차단 한계…'문제풀이 제한' 대신 '행동 통제' 주목
최근 AI를 이용한 시험 부정행위 논란은 이 같은 기술에 대한 관심을 키우고 있다. 스마트 안경과 초소형 카메라로 시험문제를 촬영한 뒤 생성형 AI를 이용해 답을 구하는 방식이 알려지면서 정부도 대응책 마련에 나섰다.

정부는 지난 16일 관계부처 회의를 열고 대학수학능력시험을 비롯한 국가시험에서 스마트기기 반납을 강화하고 시험장 공공 와이파이를 차단하는 방안 등을 논의했다. AI 서비스의 문제풀이 기능을 시험 시간대에 제한하는 방안도 중장기 검토 대상에 올랐다.

다만 AI 기업이 시험문제와 일반 학습용 질문을 구분하기는 쉽지 않다. 같은 수학 문제라도 시험장에서 답을 구하면 부정행위에 해당하지만 시험장 밖에서는 정상적인 학습 활동이 될 수 있기 때문이다. 모든 이용자의 질문 의도를 확인하거나 특정 시간에 문제풀이 기능을 일률적으로 제한하는 방식에도 기술적·제도적 한계가 따른다.

삼성전자의 특허는 AI의 문제풀이 기능 자체를 제한하는 대신 특정 기기에서 AI가 수행하는 행동과 정보 접근을 통제하는 접근이라는 점에서 차이가 있다. 시험용으로 관리되는 기기에 유사한 보안 체계를 적용한다면 문제 촬영이나 외부 전송을 제한하는 데 활용할 가능성이 있다.

삼성 갤럭시의 보안기능 사용 이미지 [사진=삼성전자]

◆스마트폰 넘어 자동차·공장까지 확대 가능
삼성전자는 이번 특허 기술의 적용 대상으로 스마트폰과 태블릿, 스마트워치, TV 등을 제시했다. PC와 자동차, 공장 등 여러 AI가 독립적으로 작동하는 환경으로 활용 범위를 확대하는 방안도 포함했다. 특정 기기에 한정하지 않고 다수의 AI가 협력하는 시스템 전반에 보안 기능을 적용하려는 구상이다.

삼성전자는 앞서 갤럭시 AI의 개인정보를 앱별로 분리해 보호하는 '킵(KEEP)' 보안체계를 도입했다. 지난 9월에는 AI 에이전트가 작업 수행에 필요한 권한만 부여받고 사용이 끝나면 이를 회수하는 자체 통제체계 'AAA(Account for AI Agent)'를 공개하기도 했다. 이번 특허 역시 AI의 자율적인 업무 수행이 확대되는 환경에서 보안과 통제 기술을 강화하려는 움직임으로 풀이된다.

보안업계에서는 AI가 단순한 정보 검색을 넘어 결제와 개인정보 전송 등 실제 업무까지 수행하면서 AI의 행동을 실시간으로 감시하고 통제하는 기술의 중요성이 더욱 커질 것으로 보고 있다. 다만 이러한 기술이 상용화되기 위해서는 위험한 행동을 정확하게 탐지하면서도 정상적인 작업까지 차단하는 오류를 최소화하는 것이 관건이라는 분석이다.

syu@newspim.com

[뉴스핌 베스트 기사]

사진
수능장에 '흑색 연필'만 허용된다고? [서울=뉴스핌] 송주원 기자 = 2027학년도 대학수학능력시험(수능)을 하루 앞두고 시험장에 개인적으로 가져갈 수 있는 필기구가 흑색 연필로 제한된다는 긴급 지침이 일선 학교에 전달됐다. 이는 인공지능(AI) 등을 활용한 첨단 부정행위를 예방하기 위한 조치로 풀이되지만, 시험 직전 반입 기준이 바뀌면서 현장 혼란이 우려된다. 18일 교육계에 따르면 교육부는 전국 시도교육청을 거쳐 각급 학교에 '시험장 휴대 가능 물품 변경'이라는 제목의 안내문을 긴급 배포했다. 한성숙 국무총리가 17일 오후 서울 종로구 정부서울청사 합동브리핑실에서 수능 부정행위 대응 관련 대국민 담화를 하고 있다. [사진 = 뉴스핌DB] 당초 수험생은 흑색 연필을 비롯해 컴퓨터용 사인펜과 수정테이프, 지우개, 샤프심 등을 시험장에 가져갈 수 있었다. 그러나 새롭게 전달된 안내문에는 개인이 휴대할 수 있는 필기구로 흑색 연필만 기재됐다. 반입 대상에서 제외된 수정테이프와 지우개, 샤프심 등은 각 교육청이 일괄 구매해 시험장에 지급할 방침이다. 수험생이 개인적으로 준비하는 대신 시험장에서 제공하는 물품을 사용하도록 한 것이다. 이번 지침 변경은 지우개나 수정테이프 등 일상적인 필기구에 초소형 카메라를 은닉해 시험 문제를 외부로 유출하는 등 신종 부정행위가 발생할 가능성을 사전에 차단하려는 취지로 풀이된다. 다만 수능 시행을 불과 하루 앞둔 시점에 반입 가능 물품이 대폭 축소되면서 수험생들의 혼란이 불가피할 전망이다. 시험장 학교에서도 변경된 기준을 안내하고 필요한 물품을 확보·배부하는 등 추가적인 준비 부담이 발생할 것으로 보인다.  jane94@newspim.com 2026-11-18 10:38
사진
육사, 서울 태릉 떠나 충청권으로 이전 [서울=뉴스핌] 오동룡 군사방산전문기자 = 국방부가 육·해·공군 사관학교를 하나로 묶는 '국군사관학교'의 통합본교와 대학원을 대전 자운대에 두고, 서울 태릉의 육군사관학교는 충청권으로 옮기는 방안을 검토하기로 했다. 해군사관학교(진해)와 공군사관학교(청주)는 지금 자리에 남는다. 새 교육체계는 2029학년도 신입생부터 적용한다. 국방부는 18일 오전 강신철 국방부 장관, 권칠승 더불어민주당 정책위의장, 진성준 국회 국방위원장이 함께 주재한 당정협의에서 이런 내용의 '국군사관학교 창설 기본계획 수정안'을 논의했다고 밝혔다. [서울=뉴스핌] 조승진 기자 = 더불어민주당과 정부가 18일 오전 서울 여의도 국회 의원회관에서 '미래 정예장교 양성, 국군사관학교 창설방안 당정협의'를 열고 있다. 이날 협의는 강신철 국방부 장관과 권칠승 더불어민주당 정책위의장, 진성준 국회 국방위원장이 함께 주재했다. 2026.11.18 gomsi@newspim.com 수정안은 지난 7월 당정협의에서 발표한 기본계획을 바탕으로 국회, 군 지휘부, 각 군 사관학교 관계자, 사관생도, 예비역, 민간 전문가 의견을 모아 손질한 것이다. 강 장관은 이 자리에서 "국군사관학교 창설은 대한민국 국방교육의 새로운 미래를 여는 중요한 사안"이라며 "방향은 명확하고 과감하게, 추진 과정은 면밀하고 신중하게 검토해야 한다"고 말했다. 국군사관학교의 목표로는 "헌법과 국민에 충성하고, 첨단과학기술과 인간에 대한 깊은 이해를 바탕으로 미래전의 승리를 주도할 정예장교 양성"을 제시했다. ◆ 1·4학년은 통합교육, 2·3학년은 각 군이 맡는다 수정안에 따르면 국군사관학교 아래에 통합교육을 맡는 통합본교와 대학원을 두고, 각 군 교육은 지역 캠퍼스가 맡는 '네트워크형' 구조로 짠다. 입학 직후인 1학년과 졸업 직전인 4학년은 육·해·공군 생도가 함께 교육받는다. 2·3학년 교육과 하계 군사훈련은 지금처럼 각 군이 주도한다. 합동성을 키우면서도 각 군의 고유한 특성은 살리겠다는 취지다. 미래전에 대비한 과학기술·전략 분야 석·박사 대학원도 새로 만든다. 교수진의 교육·연구 역량을 높이고, 학군·학사·육군3사관학교 등 다른 출신 장교에게도 심화교육 기회를 주기 위해 수용 인원을 단계적으로 늘린다는 계획이다. ◆ 국방부 직할로 전환하고 총장 임기는 최대 4년 국군사관학교는 각 군 소속이 아닌 국방부 직할기관으로 설치된다. 예산과 제도는 국방부가 책임지고, 교육부 등 관계 부처와 협의해 각 군 사이에 균형 잡힌 교육 여건을 갖춘다는 것이다. 총장에는 최고의 교육 전문가를 앉히고, 임기는 2년을 기본으로 하되 한 차례 연임을 허용해 최대 4년까지 맡을 수 있게 한다. 중장기 교육 비전을 흔들림 없이 추진하려는 장치다. 군무원 신분인 민간인 교수는 특정직 공무원으로 바꾸고 신규 교수도 뽑는다. 현역 교수는 연구 여건과 처우를 개선한다. 통합본교와 대학원 입지로 대전 자운대를 고른 데 대해 국방부는 "우수한 대학과 연구기관이 밀집해 교육과 연구의 시너지를 높일 수 있다"고 설명했다. 육군 지역 캠퍼스는 통합본교, 공군 캠퍼스(청주)와의 교육적 연계와 행정기관 이전 등을 고려해 충청권 이전을 검토한다. 모든 캠퍼스의 교육시설은 단계적으로 투자를 늘려 '스마트 캠퍼스'로 바꾼다. ◆ 2029학년도 신입생부터 적용, 해병대 생도는 따로 뽑는다 국방부는 수험생과 학부모의 혼란을 막기 위해 생도 선발은 지금처럼 각 군이 하도록 했다. 해병대 생도는 별도로 선발하고, 해병대 군사교육체계를 따로 만드는 방안도 검토한다. 해병대를 육·해·공군과 나란히 두는 '4군 체제' 전환을 뒷받침하기 위한 조치다. 강신철 장관은 "기존 교육의 틀을 넘어 스스로 미래의 안보 질문을 던지는 창의적 인재를 키워내겠다"며 "육·해·공군 생도들이 함께 땀 흘리며 하나의 전사공동체로 뭉쳐 어떤 전장에서도 승리하는 국군의 주역이 되도록 하겠다"고 했다. 국방부는 앞으로도 각계 의견을 더 들어 최종안을 확정할 방침이다. gomsi@newspim.com 2026-11-18 10:32
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동