[디지털데일리 김보민기자] "과거에는 인공지능(AI)이 보조를 하고, 인간이 운영을 하는 경우가 많았죠. 그러나 판도(패러다임)가 뒤집히고 있습니다. 우리는 이제 AI가 운영까지 하는 새로운 보안 환경으로 접어들 것입니다."

팀 셔먼(Tim Sherman) 시스코 부사장 겸 보안 솔루션 엔지니어링 최고기술책임자(CTO)는 <디지털데일리>를 만나 AI의 미래에 대해 이렇게 밝혔다. 사이버 위협을 막아낼 새 보안 전략이 절실해진 지금, AI가 동반자로 더욱 존재감을 드러낼 것이라는 전망이다.

셔먼 부사장은 기업이 AI 기술을 본격 활용하기 전, 위협을 사전에 예방하고 공격을 모니터링할 수 있는 기본 조치를 뒷받침해야 한다고 강조했다. 섣부른 AI 도입이 오히려 해커에게 좋은 먹잇감을 던져줄 수 있다는 취지다. 다만 각 조직에 맞는 보안 전략을 갖추는 것은 말처럼 쉬운 일이 아니다. 글로벌 정보기술(IT) 기업 시스코가 올해 AI 보안에 사활을 건 이유다.

◆ "패칭할 시간조차 없다" AI로 빨라진 제로데이 시계

셔먼 부사장은 AI 기술이 고도화되면서 보안 시장에 변화가 빨라지고 있다고 진단했다. 그는 "AI 시대가 도래하면서 보안 환경이 바뀌고 있다"며 "전통적인 레거시 공격과 다른 새로운 형태의 공격이 나타나고 있고, 공격자 또한 AI 기술로 실수를 교정할 수 있게 돼 지능형 위협들이 등장하기 시작했다"고 말했다.

'눈에는 눈, 이에는 이'라는 말처럼, 'AI 공격에 AI 대응'이 필요해졌다는 점도 강조했다. 셔먼 부사장은 "이러한 지능형 공격을 막아내기 위해, AI를 활용해 내부 대응을 강화할 필요가 커진 시점"이라고 평가했다.

한국뿐만 아니라 글로벌 시장에서 활약하고 있는 주요 기업들 또한 AI 보안에 골머리를 앓고 있는 상황이다. 셔먼 부사장은 "AI를 활용해 수월하게 공격을 수행하는 경우가 늘면서, 기업들 또한 힘들어하고 있다"며 "제로데이 공격 성공률 또한 증가하고 있다"고 설명했다.

제로데이 공격은 소프트웨어(SW)에서 알려지지 않은 취약점을 악용해, 시스템 및 네트워크에 접근하는 공격을 뜻한다. 개발자와 보안 담당자가 해당 취약점을 인지하고 패치를 제공하기 전에 발생하기 때문에, 대비가 어렵다는 특징이 있다. 셔먼 부사장은 "(조사에 따르면) 공격자가 제로데이 취약점 크랙을 시도했을 때, 약 80%가 침해됐다는 결과가 나왔다"며 "AI에게 물어보면 바로 (취약점에 대한) 답이 나오기 때문에, 그야말로 AI를 통해 공격이 성공된 것"이라고 부연했다.

AI 기술을 악용한 즉각 공격이 가능해진 만큼, 위협 양상이 예측 불가능해졌다는 의미다. 셔먼 부사장은 "과거 AI 기술이 없던 시기에는 침해와 익스플로이트(exploit)가 이뤄지는 시점은 며칠, 혹은 몇 주 후였다"며 "그 시간에 회사가 패칭부터 보완 컨트롤까지 다양한 대비 작업을 취할 수 있었는데, 이제는 속도감 있는 대응이 필요해졌다"고 말했다.

기업 내부에서 AI를 활용할 때 생기는 위협도 늘고 있다. 보안성이 보장된 AI 기술 및 서비스를 도입하는 것이 관건인데, 시장에서 인기를 끌고 있는 AI 모델의 경우 오픈소스 형태로 제공이 되거나 기업 내부 정보를 유출할 가능성을 배제할 수 없다.

셔먼 부사장은 최근 저비용·고효율이라는 특징으로 AI 업계를 달궜던 딥시크(DeepSeek) 사례도 같은 선상에서 바라봐야 한다고 강조했다. 그는 "딥시크는 출시 직후 자원과 프로세싱 파워가 많이 필요하지 않다는 이유로 주목을 받았지만, 이럴 경우 기본적인 보안 공격에 대한 취약성이 높아진다"며 "조직의 입장에서 모델을 학습시키고, 다음에 보안성을 확보하기 위해 이전보다 더 많은 비용과 자원을 들여야 하는 상황을 마주할 수 있다"고 말했다.

◆ '단일 엔드투엔드 보안 플랫폼' 자신감, 경쟁사 차별점은?

그렇다면 기업들이 AI 시대에 주목해야 할 보안 전략은 무엇일까. 셔먼 부사장은 "시스코는 사용자 접근(유저 액세스) 영역에서 민감 정보 유출을 어떻게 방지할지, 그리고 AI 모델을 기반으로 구축한 애플리케이션을 어떻게 보호할지에 집중해왔다"며 "네트워크를 활용해 실시간 위협 탐지와 대응 또한 가능하도록 돕고 있다"고 밝혔다.

그 일환으로 시스코는 지난 2024년 바쁜 한 해를 보냈다. 데이터센터 및 클라우드 보호 기술 '시스코 하이퍼쉴드(Cisco Hypershield)'를 공개한 데 이어, 기업의 AI 전환을 지원하는 보안 솔루션 'AI 디펜스(AI Defense)'를 공개했다.

시스코 하이퍼쉴드는 퍼블릭 및 프라이빗 데이터센터, 클라우드 등 고객 환경에서 애플리케이션, 기기, 데이터를 보호하는 데 특화돼 있다. 설계 단계부터 AI 기술을 고려하기 때문에, 보안 시스템을 고도화하는 데 용이하다는 특징이 있다. 보안 패브릭 성격을 띠기 때문에 데이터센터 내 애플리케이션 서비스, 퍼블릭 클라우드 내 쿠버네티스 클러스터, 가상머신(VM) 및 컨테이너 등 보안을 강화할 수 있다. 네트워크 포트를 고성능 보안 적용 지점으로 변환해 클라우드, 데이터센터, 공장, 병원, 영상실 등 공간에 새 보안 기능을 적용할 수도 있다.

AI 디펜스는 기업이 AI 기술을 도입할 때 위협 요인을 파악할 수 있도록 돕는 데 특화된 솔루션이다. 공공 및 프라이빗 클라우드에서 승인, 인지, 감독 없이 사용되는 AI 애플리케이션을 탐지하고 프롬프트 인젝션, 서비스 거부, 민감 데이터 유출 등 잠재 위협을 검증할 수 있다. 아울러 모델 튜닝으로 인해 발생할 수 있는 보안 문제를 점검해, AI 기반 알고리즘 레드팀이 취약점을 식별해 가드레일을 추천해 줄 수도 있다.

셔먼 부사장은 특히 AI 디펜스가 공개 이후 많은 기업의 관심을 받고 있다고 자신했다. 그는 "발표 이후 고객·파트너사 임원들과 이야기하다 보면, AI 모델 검증에 좋은 반응을 보이고 있다"며 "오늘날 기업들이 자체 AI 애플리케이션을 구축하고 있고, 여기에 사용되는 다양한 내외부 모델 검증이 필수가 됐다는 의미"라고 말했다.

AI 규제(컴플라이언스) 준수 여부를 강화할 수 있다는 부분에서도 관심이 크다고 덧붙였다. 셔먼 부사장은 "조직 환경에 있는 AI를 모두 파악하기 때문에, 액세스 단에서 컴플라이언스를 지킬 수 있게 된다"며 "감사를 받는다고 하더라도 AI 로그를 바로 제출할 수 있고, 조직 내에서 누가 언제 어떤 AI 기능을 어떻게 사용했는지 또한 파일로 제출할 수 있다"고 설명했다.

시스코 하이퍼쉴드와 AI 디펜스는 시스코의 토탈 보안 플랫폼 '시스코 시큐리티 클라우드'에 탑재된다. 다만 통합 보안 플랫폼에 AI 솔루션 및 기능을 추가하는 것은 낯선 전략이 아니다. 글로벌 주요 보안 기업들 또한 분산 운영하던 솔루션을 하나의 플랫폼에 결집해, 기업이 보안 전략을 구현할 때 높은 가시성을 확보하도록 돕고 있다.

시스코는 '우리는 다르다'고 자신한다. 셔먼 부사장은 "단일 엔드투엔드(End-to-End) 보안 플랫폼을 갖고 있는 곳은 시스코가 유일"이라며 "다른 벤더들의 경우 네트워크, 클라우드, 보안운영관제 등 영역 별로 별도 보안 플랫폼이 있고 별도 AI 어시스턴트를 제공하지만 시스코는 다음 단계에 있다"고 강조했다. 이어 "시스코는 단일 AI 어시스턴트를 통해 모든 것을 한꺼번에 통합 관리하기 때문에, 조직 내 모든 제품에 대해 엔드투엔드 단일 인터페이스로 조회 가능하다"고 부연했다.

◆ '자율' 향한 AI 질주…"철저한 보안 없이는 위험"

일각에서는 AI가 '자율성'을 갖추는 시대가 올 것이라는 관측도 나온다. 이와 관련해 셔먼 부사장은 "(AI 자율성의) 주도권은 인간에게 있어야 한다고 생각한다"며 "정말 어떤 액션을 취할지 말지 버튼을 누르는 행위는 인간이 해야 한다고 본다"고 밝혔다.

기술적 측면에서 봤을 때, 주요 산업군에서 자율성을 갖춘 AI가 활약하는 것이 먼 미래가 아니라는 진단도 나온다. 시스코도 박차를 가하고 있다. 셔먼 부사장은 "기술적으로 어디까지 가능하냐고 묻는다면 레벨 10 중에서 4~5 수준까지 올라왔다고 본다"며 "사용자가 적응하는 시간이 필요한 만큼, 관련 솔루션 및 제품을 순차적으로 준비해 선보일 것"이라고 말했다.

자율주행 자동차가 완성되기까지 레벨1부터 단계를 거치듯, AI 보안 또한 신뢰할 수 있는 수준에 도달하기까지 순차적인 발전이 필요하다는 취지다. 셔먼 부사장은 "모두가 최고 시속을 갖춘 자동차를 만들고 싶어 하지만, 무조건 빠른 엔진을 탑재한다고 완성되는 것이 아닌 것처럼 AI도 마찬가지"라며 "핸들은 물론, 브레이크와 타이어 등 다른 장치들도 모두 좋아야 한다"고 비유했다. 이어 "모든 조직이 AI를 사용해 100% 이상 성과와 생산성을 내기를 바라고 있지만, 그러기 위해서는 보안이 필수"라며 "보안이라는 브레이크 없이는 해킹과 같은 공격의 표적이 될 수밖에 없다"고 꼬집었다.

한편 셔먼 부사장은 한국 기업이 AI 활용에 대한 관심이 높은 만큼, 철저한 보안 대책을 우선 마련해야 한다고 조언했다. 그는 "데이터 보호에 우선순위를 설정하는 것이 중요하다"며 "데이터 민감도에 따라 적절하게 암호화를 하는 조치가 필요하다"고 말했다. 그러면서 "보안을 위한 모범 관행을 수립하고, 애플리케이션 취약성에 대한 철저한 테스트가 있어야 한다"며 "강력한 위협 인텔리전스를 구축하거나 전문성을 갖춘 벤더와 협력하는 것도 방법"이라고 제언했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지