실시간
뉴스

보안

"해킹 성공해도 돈 못 번다면?"…미토스 쇼크에 해답 내놓은 암호학자

디지털데일리 발행일 2026-05-12 11:00:00
김보민 기자

[인터뷰] '암호학 대가' 천정희 서울대 교수, 동형암호 전략 제시

천정희 서울대 수리과학부 교수가 5월8일 취재진을 만나 동형암호 전략을 이야기하고 있다. [사진=김보민 기자]

[디지털데일리 김보민기자] 앤트로픽이 발표한 인공지능(AI) 모델 미토스를 둘러싼 우려가 이어지고 있다. '앤트로픽의 마케팅 전략에 전 세계가 속았다'는 회의적인 시각도 있지만, '미토스 사태에 대응할 만한 전담 보안 팀이 필요하다'는 우려 섞인 목소리도 커지기 시작했다. 미토스 공포가 국내외 AI와 보안 시장을 발칵 뒤집은 것이다.

'암호학 대가'로 불리는 천정희 서울대 수리과학부 교수는 지난 8일 취재진을 만나 미토스 사태가 남긴 시사점이 분명하다고 밝혔다. 천 교수는 "미토스는 취약점을 발견하는 즉시 공격에 악용될 수 있다"며 "증명되지 않은 (보안) 도구는 결국 깨질 것"이라고 전망했다.

그간 미국을 비롯한 주요국은 제로트러스트 방법론을 중심으로 보안 위협에 대응해야 한다고 이야기해왔다. 제로트러스트는 '누구도 믿지 말고 지속 검증하라'는 의미를 내포한 접근법으로 인증과 초세분화(마이크로세그멘테이션) 등 기본적인 보안 조치를 할 것을 권고한다. 한국 또한 두 차례 가이드라인을 발간하며 흐름에 올라탔다.

천 교수는 미토스 사태로 보안에 대한 시각이 달라졌다고 밝혔다. 그는 "제로트러스트는 여러 도구를 활용해 보안 기술을 구현하자고 말한다면, (이번 미토스 사태는) 검증된 도구만 믿어야 된다는 시사점을 남긴다"고 말했다. 믿을 만한 보안 도구와 접근법이 필요해졌다는 취지다.

천 교수는 암호에 대한 중요성이 커졌다고 평가했다. 암호는 허가된 사람만 데이터를 읽도록 하고, 전송 과정에서 데이터가 변조되지 않았는지 확인하는 핵심 도구로 여겨지고 있다. 로그인, 디지털 서명, 서버 인증서뿐만 아니라 금융 거래, 계약 시스템 등 일상 모든 영역에 암호가 핵심 재료로 사용되는 이유다.

그러나 국내에서는 일부 대기업을 제외하고는 암호 전문가를 확보했거나 보안 체계를 수립하는 곳은 많지 않다. 천 교수는 "상용(커머셜) 분야에서 암호화를 전문으로 하는 사람이 없다"며 "암호는 안전하게 쓰지 않아도 문제가 없으니 전공자를 두지 않는 경우가 대다수"라고 전했다. 그러면서 "암호학자는 무엇이 위험한지 아는 센스를 갖춘 사람"며 "가상의 공격이라도 위협이 있으면 깨질 수 있다는 것을 아는 이가 암호학자"라고 표현했다.

천 교수는 특히 '동형암호'를 주목했다. 동형암호는 암호화된 상태에서 복호화 없이 연산을 수행하는 기술이다. 보통은 데이터를 암호화하면 내용을 볼 수 없기 때문에 반드시 복호화 과정을 거쳐야 하는데, 동형암호는 이러한 무방비 상태를 최소화하는 데 특화돼 있다. 1978년 개념이 등장한 이후 암호학의 성배(Holy Grail)라 불리는 암호 기술로 인정 받았고, 미래 양자컴퓨터에도 안전한 기술로 거론되고 있다.

천 교수는 동형암호가 곧 해커가 누릴 혜택(인센티브)을 제거할 도구라고 평했다. 그는 "해킹에 성공했더라도 데이터가 암호화돼 볼 수가 없다면 해커는 돈을 벌 수 없다"며 "단순히 뚫리느냐 막느냐의 문제가 아닌, 경제적인 관점에서 해커가 얻을 인센티브를 제거하는 것이 핵심"이라고 설명했다.

공격과 수비전에서 방어자가 불리한 위치에 있다고도 말했다. 천 교수는 공격을 막는 방어자와, 공격을 하는 해커 간 '연 수입'을 비교해 보면 간단하다고 평했다. 해커는 공격 성공률에 따라 최대 조 단위로 수익을 낸다고 전해진다. 천 교수는 "기본적으로 경제 논리로 봤을 때, 수입이 10배 이상 차이 난다면 화이트해커로 공격을 막을 수 없다"고 부연했다.

현재 차세대 보안으로 꼽히는 요소 중 하나는 양자내성암호(PQC)다. 이와 관련해 천 교수는 "PQC는 통신, 동형암호는 메모리를 보호한다는 점을 고려했을 때 보호구간이 다르다"며 "이제는 AI 에이전트가 해킹 도구로 바뀌는 상황이라 암호화를 하지 않은 곳에 피해가 발생할 것"이라고 예측했다.

미토스와 같은 위협에도 동형암호가 방패 역할을 할 수 있다고 자신했다. 천 교수는 "키를 하드웨어 보안(시큐리티) 모듈에 보관하고 나머지를 암호화해 놓으면 해커가 가져갈 수 있는 건 '제로(0)'"라며 "암호화된 데이터가 미국에 있든 북한에 있든 상관이 없어지고 미토스 시대가 도래해도 걱정할 게 없다는 의미"라고 말했다.

천정희 서울대 수리과학부 교수 [사진=김보민 기자]

그간 동형암호는 연산 속도가 느리다는 비판을 받아왔다. 2009년 1세대 젠트리(Gentry)를 시작으로 2011년 2세대 BGV·BFV로 첫 응용 사례가 나왔고, 2016년 소규모 데이터에 적합한 3세대 CGGI가 출현했다.

이후 2017년 4세대 CKKS와 2024년 4.5세대 CKKS+ 등장으로 대규모 데이터에 적합한 완전동형암호(FHE)가 구현되며 상황이 뒤집혔다. 이 기간 실시간 연산 역량은 10억배 규모로 가속화됐다. 천 교수는 4세대에 이어 4.5세대를 개발한 연구소를 이끈 인물이기도 하다.

이제 남은 과제는 상용화다. 천 교수는 동형암호 기술 기업 '크립토랩'을 이끌며 해답을 찾고 있다. 검색증강생성(RAG), 에이전트 메모리, 모델 암호화를 기반으로 AI 생태계 전반을 보호하는 것이 시작이다. 천 교수는 "암호화된 상태에서 RAG를 보호한다면 해커의 어려움을 수백배 가중시킬 것"이라고 강조했다.

천 교수는 해커가 미토스뿐만 아니라 다양한 AI 기술로 공격을 고도화하고 있는 만큼 전방위적 대응이 필요하다고 끝맺었다. 그는 "AI로 해킹이 산업화되고 있는 지금, 흐름 자체를 무력화할 방법이 필요하다"고 당부했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지

디지털데일리 네이버 메인추가

당신이 좋아할 만한 뉴스

DD 마이크로 사이트

오피니언