[NSIS 2025] “AI 위협은 AI로”…아이티센피엔에스가 제안하는 새 보안자산은

실시간
뉴스

서비스

[NSIS 2025] “AI 위협은 AI로”…아이티센피엔에스가 제안하는 새 보안자산은

디지털데일리 발행일 2025-05-21 05:18:46

유채리 기자

URL복사

신대균 아이티센피엔에스 이사가 20일 서울 중구 롯데호텔에서 <디지털데일리>가 개최한 ‘NSIS 2025’ 콘퍼런스에서 발표하고 있다. [ⓒ디지털데일리]

[디지털데일리 유채리 기자] 인공지능(AI)은 기회다. AI 기반 비디오 이미지를 생성하거나 코딩도 도와준다. 업무 자동화를 넘어 일하는 방식을 근본적으로 바꾸고 있다. 2030년까지 이런 생성형 AI가 1만2000개 정도가 사용되리란 전망도 나온다.

문제는 AI가 위기이기도 하다는 점이다. AI를 이용한 사이버 공격 속도와 규모도 가속화되고 있다. 신대균 아이티센피엔에스 이사<사진>는 20일 서울 중구 롯데호텔에서 <디지털데일리>가 개최한 ‘NSIS 2025’ 콘퍼런스에서 “기업이 소유한 자산을 보호하는 데 통상적으로 4~7일 정도 걸린다고 보고 있다. 반면 악성 인자로 인한 데이터 유출은 1시간이 채 걸리지 않는다”고 설명했다. 이어 그는 “이 격차를 메워야 하는데, AI 위협은 AI로 대응할 때만 가능하다”라고 강조했다.

AI 위협 대응은 크게 두 가지 차원으로 나눠 볼 수 있다. 먼저 사용자다. 사용자 차원의 AI 위협 대응은 새로운 접근법이 필요하다. ▲AI를 사용하는 모든 사용자를 추적하고 모니터링 ▲AI 앱 개발 라이프사이클 및 공급망의 모든 단계 보호 ▲무단 접근 및 정보유출로부터 AI 데이터 보호 등이다.

이를 위해 해결이 필요한 숙제도 있다. 신 이사는 “안전하지 않은 앱의 확산 속도가 빠르다”라며 “가장 먼저 필요한 건 생성형 AI 앱에 대한 목록화가 필요하다”라고 설명했다. 이어 그는 “이후 심층적인 분석과 앱에 입력되는 비정형 데이터에 대한 면밀한 모니터링이 뒤따라야 한다. 민감한 비정형 데이터가 입력될 수 있고 이 때문에 확인되지 않은 데이터 유출이나 컴플라이언스 미준수가 초래될 수도 있어서다”라고 이야기했다.

신 이사는 “데이터에 대한 지속적인 탐지나 감시·감지·감독은 안전하고 규정을 준수하는 생성형 AI 생태계를 이루기 위한 새로운 요소로 자리 잡을 것”이라고 덧붙였다.

AI 앱 자체에 대한 감시·감지·감독도 중요하다. 위협에 대한 대응책 마련도 중요하지만, 위험이 발생하지 않도록 예방하는 것 역시 중요하기 때문이다. 신 이사는 “엔터프라이즈 앱의 모델이 무수히 많고, AI 환경에서 사용하는 데이터도 다양하다. 앱을 효율적으로 작동하기 위한 수많은 플러그인과 에이전트들도 있다”고 지적했다.

이로 인해 새로운 위협도 생겨나고 있다. 신 이사는 크게 세 가지를 꼽았다. 애플리케이션이 악성 URL을 반환해 감염을 유발하는 등 안전하지 않은 출력, 가드레일을 무시하는 프롬프트에 취약한 애플리케이션 등으로 기존에 없는 프롬프트 주입, 개인·기밀 정보를 공개하는 민감 데이터 유출 등이다.

신 이사는 “방어벽 형태의 AI 런타임, AI 생태계 전반을 보호하기 위한 AI-SPM(Secure Posturet Management)이 대표적인 보호 방안”이라고 설명했다. 이어 그는 “AI 생태계에는 무수한 AI 파이프라인이 있어 어떤 데이터가 어디에, 어떻게 저장되고 유출되는지 파악하기가 어렵다. 지속적인 관제가 중요한 이유”라고 이야기했다.

아이티센피엔에스는 새로운 위협에 대응하기 위해 기존 보안 운영(SOC)을 개선한 Cortex XSIAM을 개발해 운영하고 있다. Cortex XSIAM는 실시간 공격을 막지 못하는 기존 보안 자산 보안정보·이벤트관리(SIEM)의 한계를 보완한 AI 기반 보안 운영 플랫폼이다. 신 이사는 “기존 보안 자산으로는 새로운 위협에 대응할 수 없다. 데이터 AI 자동화 핵심 원칙을 기반으로 처음부터 설계할 필요가 있었다”라고 했다.

이어 그는 “단순 데이터 알림 경고나 로그 데이터 뿐만 아니라 실제 로우 데이터, 오리지널 클라우드 데이터 등도 수집해야 한다. 보다 중요한 건 모든 데이터가 어떻게 연관돼 있는지 알아야 한다는 점”이라며 “그 데이터를 AI 기반, 행동 기반 규칙으로 전환하는 것도 중요하다. 특히 자동화는 프로세스의 마지막이 아니라 자동화된 SOC 모든 단계에서 이뤄질 수 있도록 구축해야 한다”고 강조했다.