실시간
뉴스

AI

AI속도조절 실체는 ‘규범경쟁’…“韓 안전평가 체계 없으면, 규제 종속 우려”

디지털데일리 발행일 2026-10-01 16:10:08
오병훈 기자

“해외 기준 좇으면 규제 종속”…개발 속도·위험 판단 역량 함께 키워야

김동환 포티투마루 대표(왼쪽부터), 김명주 인공지능안전연구소장, 최대선 숭실대학교AI안전성연구센터장, 이원태 한국인공지능전략위 보안특별위원장, 김성훈 업스테이지 대표, 이한울 에임인텔리전스 부사장이 10월1일 국가인공지능전략위원회가 개최한 ‘AI 개발 속도조절론 관련 세미나’에서 토론을 하고 있다.[사진=디지털데일리 오병훈기자]

[디지털데일리 오병훈기자] “해외에서 개발 중단·재개 조건을 걸 때 우리만의 평가 기준을 가지고 말할 수 있는 근거를 만들어야 합니다.”

이한울 에임인텔리전스 부사장은 1일 국가인공지능전략위원회가 개최한 ‘AI 개발 속도조절론 관련 세미나’에서 인공지능(AI) 안전 논의에 대응하기 위해 한국도 독자적인 모델 평가·검증 역량을 확보해야 한다며 이같이 강조했다.

글로벌 AI 개발 속도조절론이 단순히 ‘개발을 늦출 것이냐’를 넘어 각국이 AI 위험 수준과 개발 중단 기준을 어떻게 정할지를 둘러싼 ‘규범 경쟁’으로 확장되고 있다는 분석이다.

미국·중국 등 주요국과 글로벌 빅테크가 각자의 안전 기준과 통제 체계를 구축하는 가운데 한국 역시 다른 국가가 만든 기준을 받아들이는 데 그치지 않고 자체적인 안전성 평가 기준을 마련해야 한다는 지적이다.

특히 프론티어 AI 개발 경쟁에서 뒤처지지 않으면서도 모델의 위험성을 스스로 측정할 역량을 함께 갖춰야 향후 국제 AI 안전 규범을 만드는 과정에서 한국의 산업·안보 환경을 반영할 수 있다는 설명이다.

◆AI 안전성 판단 근거가 없다…韓 독자 평가 역량 필요

이한울 에임인텔리전스 부사장은 속도조절론 논의에서 중요한 것은 해외의 개발 중단 기준을 그대로 받아들이는 것이 아니라 한국이 스스로 위험 수준을 판단할 수 있는 역량을 갖추는 것이라고 강조했다.

이 부사장은 “개발을 왜 늦춰야 되는지 국제 논의에 참여하기 위해서는 내부적으로 판단할 근거를 가지고 있어야 한다”며 “모델을 개발하는 역량도 당연히 가져야 하지만 그 성능과 위험을 스스로 평가할 능력도 가지고 있어야 한다”고 말했다.

AI 안전 논의가 본격화될수록 ‘어느 수준부터 위험한 AI인가’ ‘언제 개발이나 배포를 중단해야 하는가’ 등을 둘러싼 기준 자체가 산업 경쟁력과 직결될 수 있다는 의미다.

결국 속도조절론에 대응하기 위해 필요한 것은 ‘찬성 또는 반대’라는 입장보다 평가 주권에 가깝다는 설명이다. 한국이 자체 성능·안전 평가 체계를 갖춰야 글로벌 기업이 내놓는 평가 결과를 검증할 수 있고 국제적인 AI 안전 기준을 만드는 과정에서도 한국의 산업·안보 환경을 반영할 수 있기 때문이다.

AI 통제 개념도 보다 세분화할 필요가 있다고 봤다. 이 부사장은 AI 통제를 크게 ▲인간의 지시·가치와 모델 행동을 맞추는 ‘정렬’ ▲허용된 시스템과 범위 안에서만 작동하도록 만드는 ‘격리’ ▲격리를 벗어났을 때 이를 발견하고 중단시키는 ‘감시’로 구분했다.

패널 토론자로 행사에 참석한 김동환 포티투마루 대표도 속도조절론 양상을 규범경쟁 심화 현상으로 해석했다.

김 대표는 “빅테크가 안전장치 측면에서도 평가 권위를 선점하려는 부분이 분명히 있을 것”이라며 “특정 국가 기업 주도로 안전평가를 하고 그 방식이 글로벌 기준으로 자리 잡으면 일종의 ‘규제 패권주의’로 갈 수 있다”고 말했다.

이어 “우리나라도 국가 차원의 안전 시스템에 대한 프레임워크나 평가 지표가 없다 보니 해외에서 활용하고 있는 기준을 그대로 가져와 도입하는 경우가 많다”며 “이런 흐름이 강하게 진행되면 결국 특정 기업이나 국가의 이익을 대변하는 규제로 갈 수 있는 만큼 국제적인 다자 협력 체계를 구축하는 것이 중요하다”고 강조했다.

◆“남들이 SI 갈 때 멈추면 종속”…韓스타트업 시간은 많지 않다

업계 관계자로 참석한 김성훈 업스테이지 대표는 안전 논의가 국내 AI 개발 자체를 늦추는 방향으로 흐르는 데 강한 경계감을 나타냈다.

미국과 중국이 ‘슈퍼지능(Super Intelligence·SI)’ 패권 경쟁을 벌이는 상황에서 한국이 먼저 속도를 늦출 경우 기술 격차를 되돌리기 어려워질 수 있다는 주장이다.

김 대표는 SI에서 한 단계 더 나아간 개념으로 ‘SI²(Self-Improving Super Intelligence)’를 제시했다. 인간이 직접 개선 과정을 주도하지 않아도 AI가 스스로 구조를 설계하고 학습해 성능을 높이는 단계다.

김 대표는 “속도도 중요하지만 속도와 책임을 연결하는 것이 중요하다”며 “가중치를 우리가 관리하고 국내에서 모델을 운영하면서 ‘자기개선 루프’에 안전장치를 넣고 안전 평가도 같이 해야 한다”고 말했다.

이 부사장도 산업계가 속도조절론을 단순한 ‘개발 중단’으로 받아들여서는 안 된다고 봤다. 프론티어 모델 개발 경쟁을 이어가되 그 모델의 성능과 위험 수준을 스스로 판단할 수 있는 역량을 동시에 확보해야 한다는 것이다.

그는 “세상의 모델은 만들어야 한다”면서도 “그것들이 최상위인지 알 수 있는 평가와 실제로 안전한지 평가할 수 있는 기준이 있어야 한다”고 말했다. 이어 “AI를 개발하고 위험을 판단할 자체 역량, 개발 역량과 위험 판단 역량을 둘 다 길러야 한다”고 강조했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지

이 기사와 관련된 기사

디지털데일리 네이버 메인추가

당신이 좋아할 만한 뉴스

DD 마이크로 사이트

오피니언