[디지털데일리 이상일기자] 오픈AI의 ‘챗GPT’가 IT시장에 강력한 영향력을 미치고 있는 가운데 보안업계에서도 인공지능(AI)를 활용한 서비스 개발에 총력을 기울이고 있다.
AI는 보안 시장에 양날의 칼로 작용할 것으로 전망되고 있다. 챗GPT를 활용해 보안 시스템을 무력화할 수 있는 취약점을 찾아내고 이를 공격할 수 있는 코드 작성까지 가능한 것으로 전해지면서 보안업계는 AI 기반의 새로운 위협에 직면해 있기도 하다.
실제 이글루코퍼레이션에 따르면 챗GPT의 특정 이메일이나 텍스트를 찾아달라는 등의 ‘콘텐츠 관련 요청’에 정확하고 빠르게 응답하는 성능으로 인해 사이버 위협이 더욱 고도화될 가능성도 존재한다.
챗GPT의 우수한 기능은 일반 업무에 도움이 되지만, 반대로 기업 이메일 침해 공격(Business Email Compromise, 이하 BEC)을 감행하는 사이버 공격자들에게 큰 도움이 될 수 있다는 것이다.
반면 AI의 신뢰성 확보를 담보로 보다 지능화되고 능동적인 보안 전략 수립도 가능할 것으로 전망된다. 이런 상황에서 이글루코퍼레이션이 20여건의 특허 등 검증된 AI 기술력에 기반해 보안 담당자 누구나 손쉽게 활용할 수 있는 온라인 AI 탐지모델 서비스를 선보여 주목된다.
이글루코퍼레이션은 챗GPT 모델에서 더 나아가 복수의 생성형 AI 모델 연계를 통해 고객의 선택 폭을 넓히고, 중장기적인 관점에서 보안에 최적화된 생성형 AI 모델도 적용한다는 계획이다. 더불어, 정상적인 AI 서비스를 악용한 우회 및 적대적 공격에 맞서, 현재 진행 중인 AI 방어 기술 및 방법론 연구에 속도를 낼 계획이다.
이번에 선보인 이글루코퍼레이션의 ‘이글루XAI(IGLOOXAI)’(가칭) 서비스는 AI가 판단한 공격 결과에 대한 신뢰성과 이해도를 높이는 서비스로 AI 모델 확대 적용 및 개선 과정을 거쳐, 4월 초 시범 서비스를 오픈할 예정이다.
‘이글루XAI’는 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려주는 온라인 서비스다.
XAI는 설명 가능한 AI라는 의미로 AI가 결과를 도출하기까지의 과정을 분석해 결과가 법규와 규제 안에서 이뤄졌는지, 그리고 일반적인 윤리의식을 가지고 결과를 냈는 지 등을 점검하는 기술과 도구를 지한다. 일반적인 AI를 구현하는 것 보다 원인과 결과를 보여주는 XAI 구현 기술 난이도는 더 높은 것으로 알려져 있다.
이글루시큐리티는 ▲AI가 어떤 기준에 따라 특정 행위를 이상·정상으로 탐지했는지를 알려주는 ‘설명 가능한 AI(XAI, eXplainable AI)’ 기술과 ▲기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어내는 ‘생성형 AI(Generative AI)’ 기술을 적용했다. 사용자들은 AI 모델이 특정한 예측을 내린 기준 확인을 통해 AI 답변의 신뢰도를 평가하고, 자연어 형태의 설명을 토대로 AI 답변에 대한 이해도를 높일 수 있다.
보안 담당자들은 ‘이글루XAI’ 활용을 통해 AI 탐지 모델의 판단 근거와 빅데이터 분석 결과, 자연어 형태의 답변을 비교 확인함으로써, 보안 조직의 분석 역량을 상향평준화할 수 있게 된다.
예를 들어 사용자가 공격 유무를 판단하고자 하는 페이로드(payload)를 입력하면, ▲AI 탐지 모델이 예측한 결과와 이 예측에 영향을 미친 공격 특징(feature)의 중요도, ▲빅데이터 기반 분석 결과가 제공된다. 챗GPT(ChatGPT)를 통한 대화형 분석 옵션도 선택가능하다.
이글루코퍼레이션은 더 많은 보안 조직이 이글루XAI를 활용할 수 있도록, 서비스 모델을 다양화할 계획이라는 설명이다. 설치 및 개발 부담이 없는 온라인 웹페이지·응용프로그램인터페이스(API) 형태로 서비스를 제공하고, 현재 적용된 보안 이벤트 분류 모델에 이어 엔드포인트 및 행위 기반 모델을 추가할 예정이다.
챗GPT가 공개를 통해 파급력으 확산한 것 처럼 기업을 대상으로 한 AI 보안 확산에 기여할 수 있을 것으로 기대된다.
한편 이글루코퍼레이션은 2015년경부터 AI 기술 확보에 힘을 실어왔다는 설명이다. 2019년 국내 최초의 AI 보안관제 솔루션을 출시하고 주요 기관과 기업에 공급하며, AI 시스템 개발 및 구축 역량을 축적했다.
이글루코퍼레이션은 이번 서비스 출시를 계기로 기존 확보한 AI 기반 탐지 기술 및 XAI 기술에 생성형 AI 기능을 접목하며, AI 사업 포트폴리오를 확대할 계획이다.
이글루코퍼레이션 관계자는 "챗GPT와 같은 AI 알고리즘 기술은 완벽하다고 볼 수 없지만 사이버 공격자들이 챗GPT와 같은 신기술을 활용하는 것을 포기할 리가 없다. 이를 방지하기 위해서는 다크웹에서 현재 공유되고 있는 챗GPT의 교란 방법 등을 보안 업계에서 학습해, 각종 AI 알고리즘이 사이버 공격자들의 악의적 명령을 판단해 거부할 수 있도록 훈련이 진행되어야 할 것"이라고 밝혔다.
2024-11-22 10:26:11
2024-11-22 15:06:18
