[NES2023] 불안전하고 악용 가능성 높은 챗GPT··· 그럼에도 기업들은 ‘러브콜’

실시간
뉴스

보안

[NES2023] 불안전하고 악용 가능성 높은 챗GPT··· 그럼에도 기업들은 ‘러브콜’

디지털데일리 발행일 2023-04-11 09:04:30

이종현

URL복사

기업의 새로운 보안 위협이자 대응 수단으로 인공지능(AI)이 대두되고 있다. AI 기술이 부각되면서 보안 패러다임의 변화도 요구되고 있다. 여기에 ‘그 무엇도 믿지 말라’는 제로 트러스트(Zero Trust) 보안 방법론이 사이버보안의 기본지침이 됐다. <디지털데일리>가 4월19일 개최하는 차세대 기업보안 세미나 [NES 2023]에 앞서 업계 트렌드와 동향, 기업들의 전략에 대해 살펴본다. <편집자 주>

[디지털데일리 이종현기자] 오픈AI의 인공지능(AI) 서비스 ‘챗GPT’가 정보기술(IT) 업계의 판도를 바꿨다. 메타버스, 대체불가능한 토큰(NFT) 등 기존 산업계의 핵심 화두들이었던 키워드를 모두 집어삼키고 오로지 AI에 집중토록 만들었다.

다만 일각에서는 챗GPT가 지나치게 고평가됐다는 목소리도 나오는 중이다. 기존의 서비스와 비교했을 때 놀라운 수준의 정확도를 보이긴 하나 여전히 해결해야 할 것들이 적지 않은, 한창 발전 중인 기술인데 너무 일찍 샴페인을 터뜨렸다는 내용이다.

실제로 오픈AI의 최고경영자(CEO)인 샘 알트만(Sam Altman)은 “AI는 때때로 매우 어리석은 실수를 한다. 중요한 일을 챗GPT에게 의존하는 것은 실수다. 아직 안정성·정확성과 관련해 할 일이 많이 남았다”고 말했다. 자사의 기술을 뽐내야 하는 CEO가 되려 견제하는 상황이다.

챗GPT의 악용 가능성도 문제다. 사이버보안 업계는 ‘챗GPT가 악용될 경우’를 두려워하는 중이다. 현재 오픈AI는 챗GPT에 부적절한 질문을 할 경우 답변을 피하도록 하는 등의 대책을 적용 중이지만 전문가들은 “얼마든지 회피할 수 있다. 악용을 원천 차단하는 것은 불가능하다”고 말한다.

실제로 글로벌 보안기업들의 연구조사에 따르면 사이버범죄자들은 챗GPT을 범죄에 악용하기 위한 시도를 진행 중이다. 보다 설득력 있는 피싱 이메일을 생성하도록 하거나, 특정 프로그래밍 언어 기반의 정보를 훔치는 기본적인 악성코드를 생성토록 했다는 등의 내용이다.

그럼에도 사이버보안업계가 챗GPT와 같은 대규모언어모델(LLM)이나 여느 AI 기술에 관심을 내비치는 이유는 AI로 인한 공격은 AI로 대응할 수밖에 없다는 인식 탓이다.

클라우드의 대두 이후 사이버범죄 시장은 급속도로 커지는 중이다. 과거에는 해킹 기술을 가진 전문가들이 직접 공격을 수행했다면, 오늘날에는 전문가들이 개발한 범죄 프로그램을 전문 지식이 없는 이들이 사서 공격하는 중이다. 이런 와중에 디지털 계정, 웹사이트, 서비스 등 보호해야 할 대상은 셀 수 없을 만큼 늘어나고 있다. 방어자 입장에서 AI의 도입이 선택이 아닌 필수인 이유다.

또 활용 방법에 따라 완벽하지 않은 정확도도 챗GPT를 사용하는 데 심각한 걸림돌이 되지는 않을 것이라는 해석도 나온다. 챗GPT를 어디까지나 핵심 서비스를 보조하는 부가적인 기능 또는 옵션으로 제공하고, 중요도가 높은 역할은 사람에게 맡기는 등의 방식이다.

국내 사이버보안 기업 이글루코퍼레이션이 제시한 사용법이 대표적인 예다. 이글루코퍼레이션은 통합보안관제(SIEM), 보안 오케스트레이션 자동화 및 대응(SOAR) 등 자사 솔루션에 AI 기술을 덧입히기 위해 수년간 노력해왔다. 그리고 여기에 더해 챗GPT를 이용한 온라인 AI 탐지모델 서비스 ‘이글루XAI(가칭)’을 곧 시범 오픈할 예정이다. 지나치게 챗GPT에 의존하지 않으면서도 서비스를 이용하는 방법을 채택했다.

이와 같은 서비스는 노코드/로우코드(No Code/Low Code)가 제공하는 것과 같은 이점을 가져다 준다. 소수의 전문 역량을 가진 인력에 과의존하는 것을 완화함으로써 대부분의 기업들이 겪고 있는 보안 전문가 부족 현상을 해소할 수도 있다.

이처럼 챗GPT가 사이버보안업계에도 적잖은 영향을 미치고 있는 가운데 <디지털데일리>는 4월19일 ‘사라진 경계, ‘한국형 제로 트러스트’ 중심의 보안 혁신전략’을 주제로 차세대 기업보안 세미나 [NES 2023]를 개최한다. 마이크로소프트(MS), IBM, 아크로니스, OSC코리아, 센스톤, 포티넷, LG CNS, 에이블스토어, 안랩, 이글루코퍼레이션, 시큐센, 엑스퍼넷, 네이버 등 기업이 참여한다. 한국인터넷진흥원(KISA)과 금융보안원 관계자도 최신 위협 동향과 대응법을 공유할 예정이다.