[창간기획⑩] 공격·방어에 활용되는 AI, 차세대 보안 관심 급부상

실시간
뉴스

보안

[창간기획⑩] 공격·방어에 활용되는 AI, 차세대 보안 관심 급부상

디지털데일리 발행일 2023-05-19 09:22:01

이종현 기자

URL복사

[디지털데일리 이종현기자] 인공지능(AI)은 사이버공격과 방어, 양쪽 모두에게 기회로 작용하고 있다. 해커조직은 AI를 통해 공격을 자동화함으로써 위협 활동을 고도화하고 있다. 이에 대응하는 사이버보안 기업들도 자사 솔루션에 AI를 도입함으로써 대항하는 중이다. 창과 방패의 싸움에서 ‘누가 더 AI를 잘 활용하느냐’에 따라 승패가 좌우될 것으로 보인다.

사이버공격 및 방어에 AI가 쓰인 것은 어제오늘의 일이 아니다. 업계에서는 한참 전부터 AI를 활용 중이다. 공격 측에서는 AI를 통해 보다 광범위한 분야에 공격을 수행 중이다. 그리고 수비 측은 AI로 각종 위협을 분석하는 성능을 고도화하고, 사람의 손을 거치지 않아도 위협에 대응하는 자동화를 이루는 등의 방법이 일반적이다. 전통적인 백신 프로그램이나 방화벽 등에도 모두 AI가 접목되고 있다.

그러나 오픈AI의 ‘챗GPT’가 등장한 이후 상황이 바뀌었다. 엔터프라이즈 영역에서도 사용할 수 있는 수준의 생성형 AI가 등장함에 따라 적극적으로 이를 이용코자 하는 움직임이 한창이다.

상황은 낙관적이지도, 비관적이지도 않은 그 중간 어딘가에 놓여 있는 모양새다. 당초 해커조직의 생성형 AI 활용이 심각한 위협으로 대두될 것이라는 우려가 제기됐지만 대규모언어모델(LLM)을 제공하는 마이크로소프트(MS), 구글 등이 적극적으로 ‘책임 있는 AI’를 강조하고 나서며 상당 부분 해소됐다.

사이버보안 솔루션에 생성형 AI가 접목되는 실제 사례도 등장하는 중이다. 대표적인 영역이 사이버위협 인텔리전스(CTI), 통합보안관리(SIEM) 등이다. 각종 위협 정보를 총망라하는 CTI에 생성형 AI가 도입됨에 따라 우선순위에서 밀렸던 정보들에 대한 포괄적인 통찰이 가능해졌다. 그리고 이는 사이버위협 전문가들이 보다 중요도 높은 위협에 시간을 쏟을 수 있도록 하는 효과도 있다.

생성형 AI를 이용한 대표적인 사이버보안 솔루션은 MS가 지난 3월 선보인 ‘시큐리티 코파일럿’이다. 시큐리티 코파일럿은 MS의 보안 특화 데이터와 오픈AI의 GPT-4를 결합한 서비스로, 명령어(프롬프트)를 입력하면 일련의 답을 내놓는다.

가령 명령어에 “우리 회사의 모든 인시던트(Incident)에 대해 알려줘”와 같은 문장을 입력하면 여기에 대한 답을 준다. 취약점을 요약시키거나 다른 보안 도구에서 발생한 인시던트 및 경보 정보 요청도 가능하다. 파일이나 인터넷주소(URL)를 첨부해 분석할 수도 있다.

MS는 시큐리티 코파일럿을 공개하며 “초당 1287건의 패스워드 공격이 발생하는 세상에서 단편적인 도구와 인프라로는 공격자를 막기 충분하지 않다. 지난 5년간 공격은 67% 늘었지만 보안업계는 이에 대응할 수 있는 사이버 위험 전문가를 충분히 고용하지 못했다”며 “시큐리티 코파일럿은 보안의 복잡성을 줄이고 각종 위협에 대처하는 데 도움을 준다”고 말했다.

구글클라우드도 지난 16일 보안에 특화된 LLM ‘Sec-PaLM’을 기반으로 하는 ‘시큐리티 AI 워크벤치’를 발표했다. 데이터 격리, 보호, 주권 및 규제준수 등 엔터프라이즈 기능을 통해 데이터를 제어할 수 있도록 돕는다. 바이러스토탈, 맨디언트 등 구글의 사이버보안 계열사 전반에 녹아들 것으로 전망된다.

MS와 구글과 같은 빅테크 기업이 시장을 선도하는 가운데 각 사이버보안 기업들은 애플리케이선 프로그래밍 인터페이스(API)를 통해 생성형 AI를 자사 솔루션과 결합하는 중이다. 사이버보안 기업들이 가진 보안에 특화된 데이터와 빅테크 기업의 생성형 AI 기술이 더해지면서 시너지가 기대된다.

국내 사이버보안 기업 중에서는 이글루코퍼레이션이 생성형 AI를 전향적으로 도입하고 나섰다. 오는 7월 선보일 ‘이글루XAI’는 위협정보에 대해 AI 모델이 판단한 근거를 알려주는 기능을 갖췄다. 보안 담당자들은 ‘이글루XAI’ 활용을 통해 AI 탐지 모델의 판단 근거와 빅데이터 분석 결과, 자연어 형태의 답변을 비교 확인함으로써, 보안 조직의 분석 역량을 상향평준화할 것으로 기대된다.

한편 사이버안보를 주요 국정과제로 내세운 정부도 전폭적인 지원에 나선다. 과학기술정보통신부는 향후 5년간 3917억원 규모의 보안 대응 기술 연구개발(R&D) 사업을 추진한다. ▲공격 억제 ▲선제 면역 ▲회복 탄력 ▲기반 조성 등 4개 분야를 중심으로 한다. 내달 예비타당성조사 대상 공모를 시행할 예정이다.