실시간
뉴스

법제도/정책

[K-보안 주권⑪完] "소버린 AI, 모델 넘어 공급망 주권으로 확장해야"

디지털데일리 발행일 2026-07-04 06:00:00
김보민 기자

[인터뷰] 최윤성 고려대·경기대 겸임교수

디지털데일리는 [K-보안 주권] 기획 시리즈를 통해 한국이 서 있는 보안 현주소와 향후 나아갈 방향을 짚어본다. 대한민국이 'AI 3대 강국'을 넘어 사이버 방위의 핵심 축인 '보안 주권(소버린 시큐리티)'을 확보하기 위해 필요한 과제와 방향성을 살펴보고 국내 보안 기업과 관계자, 전문가들이 현장에서 말하는 한국의 경쟁력과 미래 전략을 알아본다. <편집자>

최윤성 고려대·경기대 겸임교수 (국가인공지능전략위원회 위원 / 美 오픈소스보안재단 앰버서더)

[디지털데일리 김보민기자] "국산 인공지능(AI) 모델을 사용한다 하더라도 그 안엔 오픈소스 패키지, 외부 데이터셋, 서드파티 도구가 복잡하게 얽혀 있다. 진짜 주권은 어떤 모델이든 공급망을 검증할 수 있는 능력에 있다."

최윤성 고려대·경기대 겸임교수는 한국의 보안 주권 확보 방안을 묻는 <디지털데일리> 질문에 이같이 답했다. 정부 주도로 독자파운데이션모델(독파모) 개발이 본격화된 가운데, AI 생애주기를 확인할 공급망 검증 체계가 필수적이라는 설명이다.

최 교수는 국내 기업 프론티어 대형언어모델(LLM) 엔터프라이즈 도입을 긍정적으로 평가하면서도, AI 도입이 생산성 향상과 종속성 폭발을 동시에 유발한다고 지적했다. 프론티어 모델은 특정 시점에 이용 가능한 최첨단 AI 모델로 고도 추론이나 에이전트 워크플로우를 구현하는 데 활용된다.

문제는 모델 성능이 고도화될수록 내부 구조가 복잡해져 외부 자원 의존도가 극대화된다는 점이다. 오픈AI, 구글, 앤스로픽이 결성한 '프론티어 모델 포럼(Frontier Model Forum)'에 따르면 최신 AI 모델은 구조가 복잡해 보안 취약점 발생 시 파급력이 막대하다.

특히 개발자가 AI 추천 패키지를 무비판적으로 설치하는 관행은 보이지 않는 종속성을 키운다. 명령어 한 줄로 수백 개 전이적 의존성이 유입되기도 한다. 최 교수는 "실증 사례가 라이트LLM(LiteLLM) 공격"이라며 "월 9700만 다운로드를 기록한 AI API 라이브러리가 침해됐을 때, 이를 의존성으로 끌어오던 패키지만 1705개였다"고 설명했다.

LiteLLM은 다양한 LLM API를 연결하는 공통 라이브러리다. 최근 이 라이브러리 저장소에 악성코드가 주입되는 침해 사고가 발생해 수많은 AI 애플리케이션이 위협에 노출됐다. 공격자는 개별 기업을 직접 해킹하는 대신 생태계 전반에서 공통으로 가져다 쓰는 핵심 부품을 노렸다.

그 결과 개발자가 직접 LiteLLM을 다운로드하지 않고 다른 안전한 패키지를 설치했더라도, 해당 라이브러리를 연쇄 호출하는 전이적 의존성 구조 탓에 감염이 확산했다. 최 교수는 이를 두고 "안전한 패키지를 설치해도 깊은 종속성 트리를 타고 악성코드가 유입되는 '눈덩이 효과'가 정량적으로 증명된 것"이라고 강조했다.

종속성 위험을 보여주는 또 다른 사례는 '트리비(Trivy)'다. 트리비는 컨테이너 이미지나 클라우드 환경에서 보안 취약점을 찾아내는 대표적인 오픈소스 스캐너다. 수많은 기업이 시스템을 보호하려고 파이프라인에 연동하는 필수 방어 도구지만, 오히려 이 점이 표적이 됐다.

최 교수는 "전 세계가 쓰는 컨테이너 보안 스캐너의 깃허브 저장소 태그 76개가 태그 포이즈닝 공격으로 하룻밤 사이 악성 커밋으로 교체됐다"며 "워크플로우 파일을 바꾸지 않아도 모든 다운스트림 CI/CD가 자동 감염된 것"이라고 설명했다. 이어 "핵심은 방어 도구 자체가 무기가 됐다는 점"이라며 "프롬프트 가드레일 같은 응용 계층 방어로는 막을 수 없고, 빌드 단계에서 출처와 무결성을 검증하는 체계가 있어야 공격을 원천 차단할 수 있다"고 강조했다.

대안으로는 인공지능자재명세서(AIBOM)를 제시했다. AIBOM은 소프트웨어 부품 목록인 SBOM을 AI 모델에 맞게 확장한 명세서다. 최 교수는 "기존 SBOM이나 SCA 도구는 모델 가중치 같은 비코드 자산을 읽지 못하는 가시성 공백이 있다"며 "AIBOM은 모델 가중치, 학습 데이터셋, 하이퍼파라미터, 에이전트 도구 명세까지 포함한 확장 명세서"라고 소개했다.

그러면서 기업 실천 과제로 AI SW 인벤토리(AIBOM) 생성 및 CI/CD 파이프라인 검증 게이트 연동, 외부 패키지·모델 출처 및 무결성 해시 등록, 에이전트 권한 최소화 등을 제시했다.

한편 AI 기술이 안보와 직결되는 전략 자산으로 부상하면서, 기술 통제권이 무기화되는 지정학적 위험도 커졌다. 미국 상무부의 대중국 AI 칩 및 모델 수출 통제 조치나 주요 기술 기업 API 서비스 차단 사례처럼 특정 모델 접근권이 국가 안보 논리에 따라 제한되는 현상이 대표적이다.

올해에는 앤트로픽의 차세대 AI 모델 '미토스'를 두고 소버린 AI와 보안에 대한 관심이 커졌다. 최 교수는 "미토스 사례에서 보았듯 AI가 전략 자산이 되는 순간, 모델 접근권은 동맹국이라도 언제든 끊길 수 있다"며 "우리가 통제할 수 있는 건 남의 모델이 아니라, 어떤 모델을 쓰든 공급망을 검증하고 차단할 수 있는 인프라"라고 말했다.

정부가 추진하는 자체 모델 개발 정책 방향성에 대해서도 제언했다. 소버린 AI는 국가나 기업이 자체 데이터와 인프라를 기반으로 독립적인 AI 역량을 구축하는 생존 전략이다. 현재 세계 각국은 글로벌 빅테크 기술 종속에서 벗어나기 위해 독자 모델 확보에 주력하고 있다. 하지만 모델 자체를 국산화하더라도 이를 구동하는 기반 요소와 파이프라인이 외부 생태계에 편중되어 있다면 기술 독립을 이룰 수 없다. 이에 최 교수는 "소버린 AI를 모델 주권을 넘어 공급망 주권으로 확장할 때"라고 촉구했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지

이 기사와 관련된 기사

디지털데일리 네이버 메인추가

당신이 좋아할 만한 뉴스

DD 마이크로 사이트

오피니언