[인터뷰] 김진휘 네이버클라우드 보안 전략 총괄 전무, 성낙호 하이퍼스케일 AI 총괄 전무

9월10일 네이버 1784 사옥에서 진행된 보안 특화 AI 사업 미디어 인터뷰에서 김진휘 네이버클라우드 보안 전략 총괄 전무(왼쪽)와 성낙호 하이퍼스케일 AI 총괄 전무가 질문에 답하고 있다.[사진=네이버클라우드]

[디지털데일리 박재현기자] 네이버클라우드 컨소시엄이 과학기술정보통신부(이하 과기정통부)가 추진하는 사이버보안 특화 인공지능(AI) 파운데이션 모델(이하 보안 특화 AI) 개발 사업을 수주해 본격 수행에 들어간다. 성공적인 수행을 위해 네이버클라우드는 단일 클러스터로 묶인 GPU 4000장과 830테라바이트(TB) 규모의 데이터를 투입해 700B급 방어 모델을 만드는 것이 목표다.

이 사이버보안 특화 모델 개발 사업은 악성코드 분석, 취약점 탐지, 위협정보 분석 등 공격·방어 업무에 활용할 수 있는 AI 모델을 개발하는 국책 사업이다. 사업 기간은 10개월로, 네이버클라우드 컨소시엄에는 LG CNS를 비롯해 S2W, 이스트시큐리티, 스패로우 등 보안기업과 학계까지 총 33곳이 참여한다.

투입되는 GPU는 정부 지원분과 컨소시엄 자체 물량으로 나뉜다. 정부는 B200 256장을 지원하며, 이 중 128장은 엑사원 학습에, 나머지 128장은 학습 데이터를 가공하는 참여 보안기업에 배분된다. 여기에 네이버클라우드가 자체 4000장 클러스터를, LG가 H200 256장을 별도로 투입한다. 정부 지원분은 착수 5개월 뒤 중간평가 결과에 따라 잔여 지원 여부가 결정된다.

10일 네이버 1784에서 열린 네이버클라우드 보안 특화 AI 사업 미디어 인터뷰에서 김진휘 네이버클라우드 전무와 성낙호 전무는 이같은 내용의 사업 추진 계획을 밝혔다.

◆ "멀티 모델이 아니라 하네스가 갈랐다"

사이버보안 특화 AI 파운데이션 모델 개발 사업은 네이버클라우드 컨소시엄과 SK텔레콤 컨소시엄의 2파전이었다. 두 컨소시엄 모두 복수 모델 개발을 제안했다. SK텔레콤은 자체 모델과 업스테이지 모델을, 네이버클라우드는 하이퍼클로바X와 LG 엑사원을 내세웠다.

모델 구성이 같았던 만큼 승부는 다른 데서 갈렸다. 김진휘 네이버클라우드 전무는 두 모델을 어떻게 엮느냐가 차이를 만들었다고 봤다.

그는 "SK 모델과 업스테이지 모델로 두 개가 나온 것으로 안다"며 "다만 우리는 두 모델을 따로 가져가는 게 아니라 하나의 하네스로 엮어 공격과 방어 성능을 함께 끌어올리겠다는 점을 강조했다"고 말했다. 과기정통부 발표평가에서 '복수 에이전트와 하네스 구성'이 높은 평가를 받은 배경이다.

하네스 설계에는 실전 공격 역량이 필요하다. 국내 공격 분야에서 상용 솔루션까지 보유한 티오리가 설계에 참여하고 있다. 강화학습 시드 연구를 축적한 카이스트·포스텍 연구진도 합류했다. 주관기관이 혼자 짜는 구조가 아니다.

인프라도 뒷받침이 됐다. 네이버클라우드는 GPU 4000장을 하나로 묶은 단일 클러스터를 보유한 국내 유일 기업이다. 모델 개발에 필요한 것은 결국 GPU와 데이터인데, 국내 최대 클러스터를 가진 점이 모델 역량에서 차별성으로 작용했다는 설명이다.

◆ 830TB 데이터, 전처리가 승부처

학습 데이터는 컨소시엄과 기관으로부터 총 830TB를 확보했다. 한전KDN, 금융보안원 등 국가 기반시설 관련 기관과 참여 보안기업이 보유한 실데이터다. 이 중 700TB 이상은 이미 구조화가 끝나 학습에 큰 문제가 없는 상태다.

9월 10일 네이버 1784에서 열린 인터뷰 자리에서 김진휘 네이버클라우드 보안 전략 총괄 전무가 질문에 답하고 있다.[사진=네이버클라우드]

김진휘 전무는 데이터가 더 늘어날 가능성이 높다고 말했다. 그는 "이번 사업 공고가 7월 말에 나고 한 달 만에 사업에 들어가는 형태여서 데이터 확보는 끝난 상황이 아니다"라며 "일부 기관은 페타바이트(PB)급 데이터도 있다고 한다"고 말했다.

네이버클라우드는 성능을 좌우할 핵심 요인으로 데이터 전처리를 꼽았다. 원천 데이터를 정제·필터링·라벨링·구조화·토큰화하는 과정을 거쳐야 학습에 쓸 수 있다. 원본 상태에서 시작하면 4~5%만 남아도 많이 남는 수준으로 평가된다. 어느 품질의 데이터를 어떤 형태로 변환하느냐가 보안 특화 모델의 성패를 가른다는 것이다. 전처리에는 네이버클라우드와 LG AI연구원 외에 파운데이션 모델 개발 경험이 있는 비보안 기업들도 투입된다.

이 정도 규모의 데이터를 학습 데이터셋으로 바꾸는 파이프라인을 구성하는 것은 국내 첫 사례다. 네이버클라우드는 일반 데이터와 보안 데이터를 어떤 비율로 섞었을 때 성능이 잘 나오는지에 대한 레시피를 이 사업의 가장 큰 결과물로 보고 있다.

기반시설 데이터 반출은 별도 절차를 밟고 있다. 공공기관 데이터를 학습에 쓰려면 반출 관련 보안 규제를 통과해야 한다. 네이버클라우드는 국정원, 금융위, 금감원, 과기정통부 등과 협의하며 보안성 검토 절차를 진행 중이다.

◆ 두 모델 투 트랙…"단일 모델로는 안 된다"

모델은 하이퍼클로바X와 LG 엑사원 두 가지를 활용해 개발한다. 두 모델을 워크플로우 기반 하네스로 엮어 한쪽은 방어, 한쪽은 공격에 특화시키는 구조다.

김 전무는 "단일 모델로는 10개월 안에 목표에 도달하기 어렵다고 봤다"며 "여러 모델이 여러 에이전트로 협업할 때 취약점을 더 잘 찾는다는 건 벤치마크와 실증으로 확인된 사항"이라고 설명했다.

네이버클라우드는 방어 모델을 개발하기 위해 프롬스크래치 방식으로 처음부터 학습한다는 계획이다. 기존 모델을 이어받지 않고 사전학습 단계부터 새로 진행하는 방식이라 연산량이 크게 늘어난다. GPU 4000장이 필요한 이유도 여기에서 나온다. 10개월이라는 짧은 기간 안에 700B급 모델을 완성하려면 대규모 자원을 한꺼번에 투입하는 수밖에 없다는 판단이다.

성낙호 전무는 "700B급 모델을 10개월 안에 만들려면 GPU 4000장과 같은 대규모 인프라가 들어가야 한다"며 "사전학습과 미드트레이닝을 길게 가져가면 확보한 데이터를 충분히 학습할 여건이 되고, 방어 능력이 더 강하게 발현될 것으로 본다"고 설명했다.

엑사원은 독자 파운데이션 3차 모델을 베이스로 지속 사전학습부터 시작해 포스트트레이닝 기간이 길다. 샌드박스 등 가상환경에서 공격 능력을 키우기에 유리한 구간이다.

두 모델을 굳이 나누는 이유에 대해 성낙호 전무는 이미지 생성 분야의 GAN(생성적 적대 신경망) 구조를 예로 들었다. 그는 "그림을 그리는 모델과 평가하는 모델을 서로 속이게 셋업했더니 이미지가 잘 만들어졌다"며 "한쪽이 공격하면 한쪽이 막는 방식으로 가다 보면 두 모델이 결국 같이 좋아진다"고 설명했다. 따라잡아야 할 목표 수준이 높은 만큼 초기에는 역할을 나누는 편이 유리하다는 것이다.

다만 확정은 아니다. 김 전무는 "가보지 않은 길이라 하이퍼클로바X에서 공격 능력이 더 발현될 수도 있다"며 "궁극적으로는 두 모델이 골고루 잘하는 방향으로 갈 것"이라고 말했다. 원천 데이터와 강화학습 환경은 두 모델이 공유한다.

네이버클라우드가 목표로 하는 결과물은 AI 보안 취약점 진단 시스템과 사이버 공격 대응 시스템 등이다. 기존 LLM 기반 보안 시스템이 공격 상황을 묻고 답하는 챗봇 수준이었다면, 이번에는 목표를 세우고 플랜을 짠 뒤 어떤 툴을 호출할지 결정하고 실행 결과까지 검증하는 루프가 도는 구조를 지향한다.

9월 10일 네이버 1784에서 열린 인터뷰 자리에서 성낙호 네이버클라우드 하이퍼스케일 AI 총괄 전무가 발언하고 있다.[사진=네이버클라우드]

◆ 중소 보안기업이 쓰는 모델로…생태계 확산 겨냥

네이버클라우드는 이번 사이버보안 특화 파운데이션 모델 개발 사업의 성과를 국내 보안 산업 전반으로 확산시킨다는 구상이다. 컨소시엄에는 대기업이 거의 없다. 엔드포인트부터 네트워크단, 애플리케이션단까지 전 영역에 포진한 기술력 있는 중소 보안기업들이 주축이다.

10개월 사업 기간 동안 이들 기업에는 API와 SDK, 보안 에이전트가 제공된다. 참여 기업이 자사 데이터를 학습에 내놓은 만큼 외산 모델이나 범용 오픈소스보다 궁합이 맞는 모델을 쓸 수 있다는 계산이다. 각사가 개발 중인 AI 보안 솔루션에 이 모델을 결합하면 오케스트레이션 측면에서 이점이 있다는 설명이다.

판로 지원도 병행한다. 국내 보안기업 대부분이 인력과 영업 여력이 부족한 만큼, 클라우드 마켓플레이스 입점 등을 통해 세일즈 문턱을 낮추는 유통 구조를 검토하고 있다. 국내 보안 산업이 성장해야 국산 AI 모델 활용도 늘고 사이버 안보 주권 문제도 풀린다는 판단이다. 엔비디아와 협업하는 AI 팩토리에 국내 보안 솔루션을 묶어 수출하는 방안도 함께 보고 있다.

컨소시엄 확대는 사업 구조상 어렵다. 다만 업무협약이나 협력의향서 형태로 외부 보안기업과 협력하는 통로는 열어두겠다는 입장이다.

◆ 아파치 2.0 기반 오픈소스 공개…"쓸 만하다"는 평가가 목표

완성된 모델 2종은 내년 7월 아파치 2.0 라이선스 기반 오픈소스로 공개된다. 다운로드해 상업적으로 쓸 수 있는 형태다. 안보와 직결된 모델을 오픈소스로 푸는 것에 대한 우려에 대해 김진휘 전무는 수주 전 단계부터 고민했던 지점이라고 인정했다.

보안에 대한 우려는 있었지만 네이버클라우드가 내린 결론은 현장 활용을 앞세우는 쪽이었다. 목표 성능 수준 자체가 이미 오픈소스로 공개돼 있어, 비공개로 묶는 실익이 크지 않다고 본 것이다.

안전장치는 별도로 뒀다. 모델팀 내 세이프티 조직이 설계 단계부터 참여하고, 컨소시엄에도 세이프티 AI를 연구하는 산업계와 학계가 포함돼 있다. 사업 종료 후 성능이 해외 프론티어 모델급에 근접하는 고도화 단계에 접어들면 악용 통제 수위를 다시 검토한다는 방침이다.

성과 검증은 정량과 정성 두 가지로 한다. 정량 지표는 벤치마크 점수로, 공격 역량은 사이버짐(CyberGym), 방어 역량은 엑사이틴 벤치(ExCyTIn-Bench)로 측정한다. 자체 산출이 아니라 인증기관을 통해 재현 가능성을 검증받을 예정이다.

정성적 기준은 현장 피드백이다. 김진휘 전무는 "제로데이까지는 아니더라도 오탐 없이 취약점이 나오고, 할루시네이션 없이 위협 탐지와 사고 대응을 보조할 수 있다면 가능성은 검증한 것"이라고 말했다.

모델 크기도 척도로 본다. 성낙호 전무는 "같은 능력인데 모델 사이즈가 작아졌다는 결과가 나오길 바란다"며 "그렇게 되면 시장에서 비용이 내려가게 된다. 중국이 20분의 1 수준 비용으로 동등한 성능을 구현해 시장을 주도하는 흐름을 국내에서도 만들어내는 것이 목표다"라고 강조했다.

실증은 내년 6월 모델이 나온 뒤 시작된다. 주도권은 실증 기관에 있다. 각 기관이 자사 시스템에 필요한 요구사항을 제시하면 이에 맞춰 하네스나 API 형태로 제공하는 구조다. 현장 배포 과정에서 보안 가이드라인과 충돌하지 않도록 관계기관과 협의도 병행한다. 한국사이버안보학회와 맺은 업무협약을 통해 N2SF, CSAP 등 인증·규제와 부딪히는 지점은 정책으로 환류시킬 계획이다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지