실시간
뉴스

보안

비전문가도 해킹하는 시대…"통제 잃은 AI? 안전벨트 채우자"

디지털데일리 발행일 2026-07-08 17:05:05
김보민 기자

윤두식 이로운앤컴퍼니 대표가 7월8일 서울 중구 신라호텔에서 열린 '제15회 정보보호의날 기념식'에서 기조연설을 하고 있다. [사진=김보민 기자]

[디지털데일리 김보민기자] 인공지능(AI) 도입이 빨라지면서 이를 통제할 안전장치를 마련하는 것이 국가 최대 과제로 떠올랐다. 해킹을 자동화하고 자율 에이전트를 악용할 가능성까지 점쳐지면서 '보안이 곧 국가안보'라는 인식이 자리잡기 시작했다.

8일 서울 중구 신라호텔에서 열린 '제15회 정보보호의날 기념식'에 참석한 보안 전문가들은 AI 위협 속 독자 방어 역량을 확보하는 것이 중요해졌다고 진단했다. 위협 발전 속도에 맞춰 통제 장치를 마련해야 글로벌 주도권을 확보할 수 있다는 분석이다.

윤두식 이로운앤컴퍼니 대표는 이날 기조연설을 통해 AI 통제 장치를 자동차 안전벨트에 비유해 설명했다. 1959년 볼보가 발명한 안전벨트가 자동차 발전 속도를 높인 것처럼 AI 역시 안전을 담보해야 한다는 것이다. 윤 대표는 "초기에는 불편하다는 반응이 있었지만 안전벨트가 오히려 자동차를 훨씬 빠르고 안전하게 만들어준 것과 같다"고 밝혔다.

최근 바이브 코딩으로 비전문가도 쉽게 AI를 다루게 되면서 프롬프트 인젝션과 자율 에이전트 오동작 등 취약점이 속출하고 있다. 코파일럿 시스템에 해커가 악성 링크를 보내면, 직원이 클릭만 해도 자율 에이전트가 내부 중요 정보를 외부로 빼돌릴 수 있다.

윤 대표는 "전문 해커가 아니더라도 일반인이 오픈소스 해킹 툴을 다운로드 받아 특정 기업을 공격하도록 지시할 수 있는 환경"이라며 임원 화상 미팅을 위조한 딥페이크 사기나 대규모 개인정보 유출이 발생하고 있다고 진단했다. 대응 방안으로는 시스템 가시성 확보, 입출력 통제, 이상 출력 검증, 에이전트 행위 통제, 안전한 데이터 격리, 신원 검증, 안전 기록 유지 등을 제시했다.

이어 기조연설 무대에 오른 이상근 고려대 교수는 방어자에게 불리해진 비대칭 상황을 지적했다. 과거 인간이 주도하던 정찰, 무기 제작, 측면 이동, 정보 탈취 등 사이버 킬체인 전 과정이 프론티어 AI 기반으로 자동화하는 추세다. 이 교수는 취약점 발견 후 실제 해킹까지 걸리는 시간이 최근 마이너스 2시간으로 진입한 현상을 짚었다. 이 교수는 "취약점 발견 공개 시점 이전에 이미 공격이 일어나는 상황"이라며 "사이버 방어 역량은 이제 비대칭 전략 문제이며 가진 자가 규칙을 정하고 없는 자는 종속될 수밖에 없다"고 경고했다.

업계에 따르면 미국과 중국 간 AI 패권 경쟁 속에서 방어 인력 과부하가 심화하고 있다. AI 자체가 새로운 공격 표면으로 전락해 학습 데이터를 오염시키는 수법도 등장하고 있다.

이 교수는 분 단위 해킹 일상화는 빅테크 기업과 일반 기업 간 양분화를 초래할 수 있다고 전망했다. 이를 극복하기 위해 최고인공지능보안책임자(CAISO) 직책 신설, 민관 협력 컨트롤타워 구축, 파이브 아이즈 등 우방국 연대 강화, 사고 발생 이전 체계 점검 법률 인프라 정비, 프로세스 혁신을 제안했다. 이 교수는 "단말기 위협 탐지 대응 시스템 등 독자 AI 방어 기술 연구개발과 핵심 보안 인재 양성에 집중해야 디지털 주권을 확보할 수 있다"고 강조했다.

닉 앤더슨 미국 CISA 청장 대행이 7월8일 서울 중구 신라호텔에서 열린 '제15회 정보보호의날 기념식'에서 영상으로 기조연설을 하고 있다. [사진=김보민 기자]

한편 이날 행사에는 미국과 한국 간 연대를 강조하는 목소리도 제기됐다.

닉 앤더슨 미국 사이버보안인프라보안청(CISA) 청장 대행은 영상 기조연설을 통해 한미 양국 협력 강화를 최우선 과제로 꼽았다. AI가 의료 시스템 개선이나 소기업 역량 강화 등 사회 전반에 혜택을 주지만, 적대 세력에게 강력 무기를 제공할 수 있다는 취지였다. 전 세계 핵심 인프라를 겨냥한 표적 공격이 증가하는 상황에서 글로벌 공조가 필수적이라고도 강조했다.

앤더슨 대행은 "사이버 위협이 국경을 넘나들며 어떤 국가도 홀로 맞설 수 없다는 사실을 우리는 명심해야 한다"며 "동맹국 간 협력을 통해 안전한 혁신을 가속화하고, 모범 사례를 공유하며 새롭게 떠오르는 위협에 일관적이고 집단적인 접근 방식을 구축할 수 있다"고 강조했다.

최근 미국 연방정부가 서명한 '첨단 AI 혁신·보안 행정명령'은 AI 기능이 보안과 회복탄력성을 높이고 혁신을 지원하는 방향으로 개발되도록 규정한다. CISA 역시 해당 정책 기조에 맞춰 AI가 적대 세력 무기로 전락하지 않고 방어 역량을 높일 수 있도록 연방 기관, 산업계, 국제 사회 파트너와 공조하고 있다.

앤더슨 대행은 과학기술정보통신부, 국가정보원 등 국가 기관과 실질 협력을 심화할 기회를 모색하겠다고 밝혔다. 앤더슨 대행은 "신흥 기술이 오용되지 않고 사람들을 역량화하고 보호하는 데 사용되도록 솔루션 투자와 통찰력 교환을 지속하자"며 공조를 약속했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지

이 기사와 관련된 기사

디지털데일리 네이버 메인추가

당신이 좋아할 만한 뉴스

DD 마이크로 사이트

오피니언