전체기사 최신뉴스 GAM
KYD 라이브
KYD 디데이
글로벌 글로벌경제

속보

더보기

[딥시크 쇼크] 보안·신뢰성 논란...폭탄 제조법에 악성코드까지

기사입력 : 2025년01월31일 09:02

최종수정 : 2025년01월31일 09:02

탈옥을 통한 악의적 정보 생성 가능성
신뢰성 부족과 오정보 생성 위험

[서울=뉴스핌] 오영상 기자 = 저비용 생성형 AI(인공지능) 기술로 주목받고 있는 중국의 대규모 언어 모델(LLM) '딥시크(DeepSeek)'가 보안 및 신뢰성 문제로 논란이 되고 있다.

포춘, 니혼게이자이신문 등 외신들에 따르면 전문가들은 딥시크의 보안 장치가 미흡해 악성코드 제작, 랜섬웨어 개발, 폭탄 제조법 안내 등 부정적 용도로 악용될 가능성이 크다고 경고하고 있다.

[서울=뉴스핌] 최헌규 중국전문기자= 2025.01.28 chk@newspim.com

◆ 탈옥을 통한 악의적 정보 생성 가능성

딥시크의 보안 문제는 특히 '탈옥(Jailbreak)'을 통한 악의적 정보 생성이 가능하다는 점에서 심각성이 제기된다.

일반적으로 생성형 AI의 기반이 되는 대규모 언어 모델에는 부적절한 이용이 의심되는 프롬프트(지시)를 거부하는 '가드레일(안전장치)' 기능이 탑재돼 있다. 하지만 문구를 변형한 프롬프트를 사용해 이러한 제한을 우회하는 행위를 '탈옥'이라고 부른다.

일본의 보안 기업 미쓰이물산 시큐어디렉션의 요시카와 다카시 수석 악성코드 분석 엔지니어는 "현재 생성되는 악성코드는 정밀도가 낮지만, AI 성능이 향상되면 사이버 공격에 활용될 위험이 커진다"고 우려를 나타냈다.

요시카와가 지난해 12월 공개된 딥시크의 대규모 언어 모델 'V3'를 테스트한 결과, 악성코드 작성법이나 폭탄 제조법과 같은 민감한 정보를 제공하는 경우가 확인됐다. 같은 요청을 미국 오픈AI의 'GPT-4o'에 입력했을 때는 응답을 거부했다.

또한 지난 1월 20일 공개된 딥시크의 'R1' 모델은 논리적 사고 과정을 표시하는 기능이 도입됐는데, 이 과정에서 악성코드가 직접적으로 화면에 표시되는 문제가 발견됐다. 이는 AI가 직접적으로 악성 소프트웨어 제작을 돕는 결과를 초래할 수 있다는 점에서 보안 우려를 낳고 있다.

이스라엘의 정보 보안 기업 켈라도 딥시크의 보안 취약성을 지적하며, R1 모델을 이용해 랜섬웨어 개발, 독소 및 폭발물 제조 지침 생성 등 다양한 악의적 시도가 가능했다고 발표했다.

오픈AI 챗GPT와 딥시크.[사진=로이터 뉴스핌] 2025.01.28 mj72284@newspim.com

◆ 신뢰성 부족과 오정보 생성 위험

딥시크의 또 다른 문제는 신뢰성 부족이다. 미국의 정보 신뢰성 평가 기관 뉴스가드의 조사에 따르면, 딥시크 챗봇은 뉴스 관련 질문에 83%의 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 또한 거짓 정보가 주어졌을 때 이를 반박하는 경우는 17%에 불과했다.

켈라의 실험에서 딥시크는 오픈AI 직원 10명의 이메일 주소, 전화번호, 급여 등의 데이터를 생성하도록 요청받았을 때 실제처럼 보이는 허위 정보를 제공했다. GPT-4o는 같은 요청에 대해 개인정보를 제공할 수 없다고 거부했다.

이러한 신뢰성 부족으로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 GPT-4o, 앤스로픽의 '클로드', 미스트랄의 '르챗' 등 서구권 국가의 AI 모델들은 대부분 상위권에 올랐다.

딥시크의 운영사가 서구권 국가들과 개인정보 보호법이 다른 중국 기업이라는 점도 문제로 지적되고 있다. 이 회사는 이용 약관에서 사용자의 데이터가 중국 내 서버에 저장되며, 중국 법률이 적용된다고 명시하고 있다. 또한 분쟁 발생 시 중국 법원에서 해결해야 한다는 조항도 포함돼 있다.

전문가들은 "중국은 국가 안보를 위한 정부의 데이터 조사에 기업이 협력할 의무를 지는 법 제도가 있다"며 "딥시크가 보유한 사용자 데이터를 정부에 제공하도록 강제하기 쉬운 환경"이라고 지적했다.

이러한 보안 문제로 인해 서구권에서는 딥시크에 대한 경계를 강화하고 있다. 미국 해군은 딥시크 사용을 금지했으며, 백악관은 국가안보회의(NSC) 차원에서 딥시크의 영향을 검토 중이다.

또한 유럽에서는 여러 국가의 규제 기관이 딥시크에 투명성 관련 설명을 요구하고 있으며, 이탈리아에서는 애플리케이션 스토어에서 딥시크 앱이 삭제됐다.

일본에서도 딥시크 사용을 제한하는 움직임이 나타나고 있다. GMO 인터넷 그룹은 보안 리스크를 이유로 딥시크를 업무에 사용하지 않기로 결정했으며, KDDI는 직원이 이용을 신청할 경우 입력 정보 보호 등의 리스크를 심사할 방침이다.

goldendog@newspim.com

[뉴스핌 베스트 기사]

사진
김영훈 고용부 장관 후보자는 누구? [세종=뉴스핌] 양가희 기자 = 이재명 대통령이 김영훈 전 민주노총 위원장을 고용노동부 장관 후보자로 임명했다. 강훈식 대통령실 비서실장은 23일 11개 부처 장관 후보자를 발표했다. 김 후보자는 1968년 부산에서 태어나 마산중앙고, 동아대를 졸업해 성공회대 NGO대학원에서 정치정책학(정치학) 석사 학위를 받았다. 김영훈 고용노동부 장관 후보자 [사진=대통령실] 2025.06.23 sheep@newspim.com 김 후보자는 2010년부터 2012년까지 민주노총 위원장으로 활동하다가 2017년 정의당에 입당, 제19대 대통령 선거에서 노동본부장을 맡았다. 2021년에는 더불어민주당 대선 후보 이재명 대통령의 노동부문 지지단체 '공정사회 구현을 위한 노동광장'에 공동대표로 참여한 바 있다. 지난 총선에서는 더불어민주연합에서 비례대표 20번을 받았다. 현재 한국철도공사 기관사이자 부산지방노동위원회 공익위원으로 활동하고 있다. 강 비서실장은 "민주노총 위원장을 역임하며 노동의 목소리를 대변해 온 인물"이라며 "산업재해 축소, 노란봉투법 개정, 주4.5일제 등 일하는 사람들의 권리를 강화하는 역할을 해줄 것으로 기대한다"고 밝혔다. 한 정부 관계자는 김 후보자에 대해 "합리적이다"라며 "민주노총이 그간 (사회적 대화 등) 제도권 밖에 있었다. 이를 계기로 제도권으로 들어오길 희망한다"고 말했다. ◇ 김영훈 고용노동부 장관 후보자 프로필 ▲1968년 부산 출생 ▲마산중앙고, 동아대, 성공회대 NGO대학원 정치정책학 석사 ▲정의당 노동본부장 ▲민주노총 위원장 ▲철도노조 위원장 ▲철도공사 기관사 ▲부산지방노동위원회 공익위원 sheep@newspim.com 2025-06-23 14:57
사진
안규백 64년 만에 문민 국방 후보자 [서울=뉴스핌] 김종원 국방안보전문기자 = 국군 최고통수권자인 이재명 대통령은 23일 초대 국방부 장관에 민간인 출신인 안규백(64) 더불어민주당 5선 중진 의원을 인선했다. 강훈식 대통령실 비서실장은 이날 "안 후보자가 국회 국방위원회 간사와 위원장 등 5선 국회의원 이력의 대부분을 국회 국방위에서 활동했다"면서 "군에 대한 이해도가 풍부하고 64년 만에 문민 국방장관으로서 계엄에 동원된 군의 변화를 책임지고 이끌어 나갈 것"이라고 인선 배경을 설명했다.  안규백 국방부 장관 후보자. [사진=대통령실] 안 후보자는 집권 여당인 민주당에서 국방위원장을 비롯해 국방위원으로서 15년 간 의정활동을 했다. 그 누구보다 군과 국방안보를 잘 아는 인물로 그동안 역대 정부에서도 꾸준히 민간인 출신 국방장관으로 유력하게 거명됐었다. 특히 안 후보자는 국회 12·3 비상계엄 사태에 대한 진상규명 국정조사 특위위원장 중책까지 맡았다. 여야 의원들을 아우르며 적지 않은 성과를 냈다는 평가다. 이번 대선에서도 민주당 중앙선대위 총괄특보단장 핵심 보직을 맡았다. 계엄 사태 주역인 군의 정치적 중립성을 확립하면서 어수선한 군을 안정적으로 이끌면서 군 전반을 개혁할 최적임자로 꼽힌다. 합리적인 성품에 남의 말을 귀담아듣는 전형적인 외유내강형 인물이다. 다만 상식과 원칙을 중시하며 불법적이고 정의롭지 않은 일에는 불같이 화를 내는 성격이다. 아들 둘 모두 육군과 해병대에서 현역으로 군 복무를 했다.  안 후보자가 국회 인사청문회를 통과해 이재명정부의 초대 국방장관으로 취임하면 1961년 현석호 장관 이후 64년 만에 군인이 아닌 민간인 출신 국방장관이 된다.  한국 정치사의 격동기를 거쳐 군사독재정권 시절에 장군 출신들이 독식했던 국방장관을 정치 안정기에 들어 사실상 민간인 출신의 진정한 '문민 국방장관'이 나올 수 있을지 초미 관심사다. ▲전북 고창(64) ▲광주 서석고 ▲성균관대 철학과 학사·무역대학원 무역학 석사 수료 ▲18·19·20·21·22대 국회의원 ▲국회 국방위원회 위원장·간사 ▲국회 '내란 진상규명 국정조사 특별위원회' 위원장 ▲더불어민주당 사무총장 kjw8619@newspim.com 2025-06-23 14:13
안다쇼핑
Top으로 이동