[디지털데일리 이상일기자] 오픈AI의 생성형 인공지능(AI) ‘챗GPT’가 전 세계적인 열풍을 일으키고 있는 가운데 IT업계의 움직임도 활발하다. 특히 보안업계에서도 챗GPT로 촉발된 AI에 대한 관심이 시장에 줄 영향에 주목하고 있다.
보안업체 이글루코퍼레이션 역시 정상적인 AI 서비스를 악용한 우회 공격 및 적대적 공격 등에 대한 방어 방법 등을 지속 연구 중에 있다는 설명이다.
마이크로소프트가 오픈AI에 대한 투자에 이어 자사 검색엔진 ‘빙(BING)’에 ‘챗GPT’를 접목한다고 밝혔으며 구글이 대화형 인공지능(AI) 서비스 ‘바드(Bard)’ 테스트에 나섰다. 이처럼 글로벌 IT기업들이 발빠르게 AI 기술을 대고객 서비스에 접목하고 나선 상황이다.
이들이 생성형 AI에 발 빠르게 대응하고 있는 까닭은 오픈AI의 ‘챗GPT’의 파급력이 만만치 않기 때문이다. 챗GPT는 출시 2개월 만에 전 세계 월간 활성 사용자 수(MAU) 1억을 달성했다. 논문 작성 및 검증, 프로그램 코딩 등 이미 챗GPT를 활용한 다양한 시도도 이뤄지고 있다.
일반 대중들조차 AI가 할 수 있는 일에 대해 체감하고 있는 상황이다. 실제 AI는 기술발전과 더불어 그 쓰임새도 다양해지고 있다. 업계에선 챗GPT로 촉발된 AI에 대한 접근 편의성과 성능에 대한 기대감이 산업의 구조도 변화시킬 것으로 보고 있다.
챗GPT에 대해 정보보안업계에서는 사이버 보안 기술에 대한 격차를 줄일 수 있는 수단으로 자리할 수 있을 것으로 전망하고 있다.
실제 챗GPT는 보안 탐지 생산성 향상에 기여할 것으로 전망된다. 보안 전문가들은 오랜 시간 문자열 패턴이나 시그니처, 침해 지표와 위협 인텔리전스를 통해 이를 식별하고 분석해왔다.
하지만 AI를 통해 한 명의 분석가가 여러 사람의 작업을 수행할 수 있도록 하는 보조재 역할을 할 것이란 설명이다. 또 시간이 소요되는 악성 코드로 의심되는 사안에 대해 일일이 점검하는 단계(분류작업)를 지나 빠르게 판단할 수 있는 단초도 제공할 수 있다는 기대도 나온다.
보안사고 발생 후 원인을 찾는데 많은 시간이 소요됐는데 챗GPT를 통해 단축시킬 수 있을 것이란 관측도 나온다. 기존 데이터와 자연어 처리를 이용해 사고에 대한 이론을 만들고 검증할 수 있다는 지적이다.
다만 공격자 입장에서 챗GPT를 악용해 새로운 사이버 보안 위협에 활용할 수 있다는 점은 문제다.
뉴욕대 브랜든 돌란 개빗(Brendan Dolan-Gavitt) 교수는 챗GPT가 버퍼 오버플로 취약점(buffer overflow vulnerability)을 포함한 코드를 정확하게 식별했을 뿐만 아니라 버퍼 오버플로 결함을 포함한 코드 작성과 빠른 속도로 멀웨어를 작성하고 설득력 있고 문법적으로 올바른 피싱 이메일을 만들 수 있다고 밝혔다.
실제로 해커 등 공격자가 챗GPT를 사용하면 일일이 코딩하지 않고도 수백만개의 멜웨어를 자동으로 생성하는 것도 가능할 것으로 보인다.
사이버 공격자들 역시 AI를 토대로 더욱 고도화된 여러 형태의 공격을 감행하고 있다. 예를 들면, AI를 활용해 자신의 악성코드를 제작하거나 변형시키는 등 악성코드를 신속하고 다양하게 제작하여 방어를 어렵게 만드는 시도가 지속적으로 발생할 수 있다.
이와 같이 AI를 활용하는 공격자에게 앞서기 위해서는 AI 기반의 공격 탐지 기술은 물론, AI를 악용한 보안 위협을 탐지할 수 있는 능동적인 방어 체계 구축이 필요하다. 이글루코퍼레이션 역시 정상적인 AI 서비스를 악용한 우회 공격 및 적대적 공격 등에 대한 방어 방법 등을 지속 연구 중에 있다는 설명이다.
결국 공격자가 AI를 기반으로 지능형, 대량의 공격 체계를 갖추는 것이 가능해진 상황이다. 때문에 보안기업들 역시 AI를 통한 지능형 관제와 자동화 기술을 보다 고도화하는데 초점을 맞추고 있다.
이글루에 따르면 실제 해킹그룹의 조직화·체계화·분업화 현상이 두드러짐에 따라 사이버 위협에 대응하기 위해 AI, 머신러닝 등 차세대 기술을 접목한 실시간 탐지·대응이 고도화되고 있다.
AI기술의 보편화에 따라 공격자들의 인공지능 활용 사례가 속속 보고되고 있다. 조지 메이든 대학 션 팔카(Sean Palka) 교수인에 따르면 메일 보안 시스템 SEG를 기계학습을 통해 우회 패턴을 생성하거나, 공격 대상의 선호도를 조사하는 과정에 인공지능을 활용해 사회공학기법의 성공률을 높이는데 활용하기도 한다는 설명이다. 인공지능 기반의 악성코드 딥로커(DeepLocker) 역시 인공지능을 통해 공격 조건이 발현될 때 랜섬웨어 공격을 감행한다.
한편 이글루는 고객의 AI 보안 니즈가 본격적으로 발생하기 시작한 2016년부터 사업 준비에 돌입했고, 2018년 1월 AI 보안관제 시스템이라 할 수 있는 ‘대구 AI 기반 지능형 보안관제 체계(D-Security)’ 구축을 완료하며 AI 보안의 효율성을 증명했다. 2019년 초 AI 보안관제 솔루션인 SPiDER TM AI Edition을 출시하고 국내 주요 공공기관과 기업에 공급했다.
이글루 관계자는 “보안관제는 AI 기술 적용을 통해 효율성을 비약적으로 높일 수 있는 분야다. 위협이 아니지만 위협이라고 탐지하는 오탐의 증가는 고위험군 이벤트 대응을 지연시키고 보안관제 업무의 피로감을 야기하는 문제가 될 수 있다”며 “보안 담당자들은 AI 보안관제 솔루션 활용을 통해 업무의 효율성과 정확성을 높일 수 있다. 우선 대응해야 할 고위험군 이벤트를 정확히 선별하고 기존 보안 장비로는 탐지하기 어려운 신·변종 위협도 탐지해 보안 공백을 최소화할 수 있다. AI는 보안 담당자들의 역량을 상향시키는 조력자라고 할 수 있다”고 강조했다.
현재 이글루코퍼레이션은 이러한 데이터를 기반으로 기존 보안 장비의 한계성을 뛰어넘을 수 있는 AI 기반의 탐지 모델을 만들고 있다. 보안관제, 침해사고, 머신러닝 등 각 분야 전문가들 간의 긴밀한 협업을 통해, 보안 환경에서 실질적인 효과를 창출할 수 있는 AI 모델 구현에 집중하고 있다.
2024-11-22 10:26:11
2024-11-22 15:06:18
