"폭탄 제조법까지 알려줘"...딥시크, 정보 신뢰성·보안 우려 취약 경고

실시간
뉴스

e비즈*솔루션

"폭탄 제조법까지 알려줘"...딥시크, 정보 신뢰성·보안 우려 취약 경고

디지털데일리 발행일 2025-01-30 19:56:12

조윤정 기자

URL복사

딥시크. 中 무관한 질문에 정부 입장 답변 하기도

[디지털데일리 조윤정 기자] 저비용 AI로 전 세계적인 주목을 받고 있는 중국 인공지능(AI) 스타트업 딥시크가 신뢰성 논란에 휩싸이고 있다.

29일(현지시간) 미국 포춘지는 딥시크 AI가 사용자의 질문에 부정확한 정보를 제공했으며, 폭탄 제조법과 같은 민감한 사항에 대한 답변을 제공할 가능성이 있다는 연구 결과가 발표되었다고 보도했다.

정보 신뢰성 평가 기관인 뉴스가드에 따르면 이날 딥시크의 챗봇을 조사한 결과, 뉴스 관련 질문에 대해 부정확한 답변을 하거나 답변을 회피하는 비율이 83%에 달했다고 발표했다. 또한 명백한 거짓 주장에 대한 반박률은 17%에 불과했다.

뉴스가드는 챗봇 신뢰성 평가에서 딥시크의 최신 AI인 R1 모델을 총 11개 챗봇 중 최하위인 10위로 평가했다. 비교 대상인 오픈AI의 챗GPT-4, 앤트로픽의 클라우드 등 서구권 AI 챗봇은 상위권을 기록했다. 뉴스가드는 딥시크 AI가 2023년 10월 이후의 정보를 학습하지 않아 최신 사건에 대한 정확한 답변이 어렵고, 거짓 정보를 쉽게 반복할 가능성이 크다고 지적했다. 특히, 딥시크가 중국의 정보 정책을 따르며 검열된 응답을 제공하는 경향이 있다고 주장했다.

뉴스가드 애널리스트들은 "딥시크는 테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문에도 중국 정부의 공식 입장을 반영한 답변을 제공했다"고 작성했다.

한편 사이버범죄 정보기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석 보고서를 발표했다. 켈라는 “딥시크의 R1은 챗GPT와 유사하지만 훨씬 더 취약하다”라고 분석했다. 이어 "다양한 시나리오에서 R1을 사용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독극물 및 폭발 장치 생성에 대한 상세 지침을 비롯한 위험 정보를을 생성할 수 있었다"고 경고했다.

특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI모델을 속여 자금 세탁 방법, 데이터 탈취 악성코드 개발법같은 불법 활동에 답변하도록 유도하는 방식이다. 오픈AI의 최신 모델들은 이러한 공격을 방어하도록 패치가 이루어졌지만, 딥시크은 이에 대한 방어 능력이 아직 부족한 것으로 평가됐다.

켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 보안 문제를 악화시키고 있다고 지적했다. 챗GPT가 내부적인 추론 과정을 숨기는 것과 달리 딥시크는 이를 사용자에게 상세히 노출함으로써 악의적 사용자들이 딥시크 AI의 보호장치를 무력화하는 방식을 쉽게 알아낼 수 있도록 한다는 것이다.

이러한 문제점은 딥시크의 글로벌 확산 속도를 감안할 때 더욱 큰 파장을 불러일으킬 것으로 보인다. 현재 딥시크는 전 세계에서 가장 많이 다운로드된 앱 중 하나로 떠오르고 있다.

미국 해군은 이미 딥시크의 보안 및 윤리적 문제를 이유로 장병들에게 해당 AI 플랫폼 사용을 금지했다. 캐롤린 리빗 백악관 대변인은 지난 28일 기자 회견에서 “미국 국가안보회의(NSC)가 딥시크의 영향을 조사 중”이라고 밝혔다. 이탈리아 데이터 보호 당국도 딥시크의 데이터 활용 방식에 대한 조사에 착수한 것으로 알려졌다.