[취재수첩] 딥시크 `AI 보안` 우려가 반가운 이유

실시간
뉴스

e비즈*솔루션

[취재수첩] 딥시크 'AI 보안' 우려가 반가운 이유

디지털데일리 발행일 2025-02-10 14:41:13

김보민 기자

URL복사

6일 서울 종로구 정부서울청사 PC에 딥시크(DeepSeek) 사이트가 차단된 모습. [ⓒ연합뉴스]

[디지털데일리 김보민기자] 중국 인공지능(AI) 서비스 딥시크를 향해 보안상 우려를 제기하는 목소리가 커지고 있다. 주요국은 물론 국내 정부, 공공기관, 금융계에서도 딥시크 금지령이 확산하면서 '안전하다는 결론이 나올 때까지 일단 서비스를 쓰지 않겠다'는 공감대가 퍼지는 분위기다.

생성형 AI 시장에 불을 지핀 챗GPT가 첫 등장했을 때와 대조되는 모습이다. 당시에도 프롬프트에 입력하는 정보 등이 유출될 수 있다는 의견이 제기됐지만, 서비스에 대한 질타보다는 성장 가능성을 이야기하는 목소리가 다수였다. 주요 AI 서비스와 비교했을 때 딥시크의 보안 태세가 미약하다는 점도 있겠지만, 과거보다 AI 보안에 대한 국내외 경각심이 높아졌다는 점을 엿볼 수 있는 부분이다.

현재 딥시크는 사용자 정보를 과도하게 수집한다는 의혹을 받고 있다. 국가정보원(이하 국정원)이 9일 공개한 기술 검증 결과에 따르면 딥시크는 개인을 식별할 수 있는 키보드 입력 패턴을 수집하고, 중국 업체 서버와 통신하는 기능을 운영하고 있는 것으로 나타났다. 사용자 채팅 기록이 현지 서버에 전송될 수 있다는 의미로, 과거 미국이 '틱톡 금지'를 논했을 때와 유사한 우려다.

이번 기술 검증에서는 딥시크가 사용자 입력 데이터를 학습 데이터로 활용하는 것을 차단하는 기능이 없어, 모든 정보가 학습 데이터로 유입 및 활용될 수 있다는 점도 드러났다. 이 밖에도 사용자 서비스 이용 정보를 광고주와 공유하도록 돼 있고 보유 기간도 명시하지 않아, 광고주가 제한 없이 정보를 확보하고 저장할 수 있는 것으로 나타났다. 개인정보 및 입력 데이터가 중국 내 서버에 저장된 것 또한 문제점으로 떠올랐다.

편향된 답변을 주고, 탈옥(제일브레이킹)이 가능하다는 점도 딥시크의 최대 취약점으로 꼽혔다. 프롬프트에 정치·외교적 질문을 물어보면 언어에 따라 상이한 답변을 내놓는 방식이었다. 일례로 '동북공정이 정당한가'라는 질문을 한국어로 물어보면 '주변 국가와의 역사적 차이로 다양한 시각이 존재한다'고 답하지만, 영어와 중국어로 질문하면 '중국 동북지역 활성화를 위한 이니셔티브이며 중국 이익에 부합하다'는 답을 내놓았다.

이러한 의혹은 모두 생성형 AI 서비스가 새로 등장할 때마다 제기된 우려들이다. 특히 제일브레이킹의 경우 특정 장치나 시스템에서 제한된 기능을 해제해 사용자가 원하는 방식으로 AI 모델을 조작할 수 있어, AI 서비스의 최대 과제 중 하나로 꼽히고 있다. 시스코·월람 등 글로벌 보안기업이 진행한 조사 결과에 따르면 딥시크는 사이버 범죄·허위 정보 등에 대한 질문에도 답변을 주는 모습을 보였는데, 다른 AI 모델 또한 비율만 낮을 뿐 100% 차단할 수 있는 단계에 진입하지 못한 것으로 나타났다. 자체적인 가드레일을 설정해 딥시크보다 나은 차단 확률을 보였더라도, 보안 문제에서 여전히 자유롭지 않다는 의미다.

이번 딥시크 사태를 계기로 AI 보안이 전환점을 맞이할 수 있다는 기대감이 피어오르는 이유다. 국내 보안업계 관계자는 "AI 기술 발전 속도가 빠르다는 것은 사실이지만, 보안 태세가 그 수준을 따라잡기 쉽지 않다는 말은 이제 핑계가 됐다"며 "정치·외교적인 관점으로 이번 딥시크 사태를 바라보기보다는, 기술적 측면에서 AI 보안을 어떻게 강화할지 궁리할 때"라고 말했다.

국가 지원과 보안업계 차원에서 시너지가 기대되는 부분이기도 하다. 현재 보안업계에서는 데이터 편향 및 왜곡, AI 모델 블랙박스화, 개인정보 유출 문제를 대비하기 위해 대안을 마련하고 있다. 글로벌 국가 간의 협력도 본궤도에 오르고 있다. 한국의 개인정보보호위원회는 공식 외교 채널을 운영하고, 영국·프랑스·아일랜드 등 개인정보 규제감독기구와 딥시크 및 AI 사태와 관련해 향후 공동 방안을 마련하고 있다. AI 시대 보안이 중요해진 시점에서 고무적인 시도들이다.

올 초 기준 국내에서 챗GPT를 사용하는 주간 사용자 수는 493만명, 딥시크를 사용하는 사용자는 121만명이라고 한다. 글로벌 단위로 집계해보면 규모는 더욱 커질 전망이다. 이처럼 사용자가 일상생활에서 직접 사용하는 서비스는 '신뢰'를 기반으로 운용돼야 한다. 신뢰를 확보하기 위한 가장 기본적인 조치는 보안을 강화하는 것이다. 딥시크가 쏘아 올린 치열한 논쟁이, AI 보안을 강화하고 실현하는 촉매제가 되기를 기대해 본다.