[AI기본법上] ‘고영향AI’란 무엇?..이해민 의원 “위험성만 부각? 능사 아냐”

실시간
뉴스

정책

[AI기본법上] ‘고영향AI’란 무엇?..이해민 의원 “위험성만 부각? 능사 아냐”

디지털데일리 발행일 2024-11-25 10:04:20

오병훈 기자

URL복사

지난 9월24일 개최된 AI기본법 공청회에서 이해민 의원(조국혁신당 )이 발표자들과 질의응답을 주고받고 있다.

[디지털데일리 오병훈기자] 인공지능(AI) 산업 진흥 및 규제를 위한 AI 기본법이 입법 첫 관문을 통과하게 되면서 국내 AI 업계가 입법 방향에 촉각을 기울이고 있다. AI 제도 밑바탕을 칠하는 첫 제정법인 만큼, 업계에서는 각종 규제 사항 등에 대한 관심이 각별하다.

업계가 규제 쟁점으로 가장 예의주시하고 있던 ‘고위험AI’는 ‘고영향AI’로 대체될 예정이다. 법률 상 정의에 ‘위험’이라는 부정적인 의미를 담기보다는 산업 중요성을 부각하는 단어를 채택하자는 이해민 의원(조국혁신당) 제안이 받아들여졌기 때문이다.

25일 국회에 따르면, 최근 과학기술정보방송통신위원회(이하 과방위)는 정보통신방송법안심사소위원회(이하 법안소위)를 열고 여야 19명 의원들이 대표 발의한 AI 관련 기본법을 병합심사하고 통과시켰다.

“위험성만 부각했다간 위축만 초래…영향받는자 도입 필요”

AI기본법은 ‘소방기본법’과 같이 법률 대상 전반을 아우르는 정의와 범위를 특정하는 밑바탕 법으로서 의미가 있다. 이 때문에 이번 기본법 제정 논의 과정에서도 고위험AI나 고영향AI와 같은 용어 정의가 핵심 쟁점으로 떠올랐다.

국민의힘 의원들이 발의한 법안은 물론, 더불어민주당이 당론으로 채택한 AI 기본법에서도 모두 고위험AI를 명시했다. 고위험AI는 신체·생명 및 재산 등에 영향을 줄 수 있는 AI로, 국가 등이 나서서 특별 관리 및 규제해야 되는 대상으로 지목되는 AI를 의미한다.

이해민 의원이 이에 제동을 걸고 나섰다. ‘위험’이라는 부정적인 단어는 지나친 규제 및 발전위축을 부르는 불씨가 될 수 있다는 우려에서다.

이 의원은 법안소위 논의 당시 “지금 만들고 있는 법안은 단순한 기술의 진흥과 규제가 아닌, AI 시대를 맞이하는 우리 사회의 기본 철학을 담는 작업”이라며 “‘위험’이라는 단어는 기본적으로 부정적이고 회피해야 할 대상을 전제한다. 그러나 AI시스템들은 대부분 우리 사회에 긍정적 변화를 가져올 수 있는 잠재력을 가진 기술”이라고 설명했다.

이어 “AI를 ‘고위험’으로 규정하면, 위험성만 부각해 필요 이상 규제나 개발 위축을 초래할 수 있지만, ‘고영향’이라는 표현 도입은 사회적 중요성을 인정하면서, 그에 걸맞은 책임과 관리 체계를 구축하자는 의미를 담게 된다”고 덧붙였다.

고영향AI·고위험AI 모두 지시하는 대상은 대동소이하다. 모두 국민 생명이나 안전 등 기본권에 영향을 주는 AI를 대상으로 한다. 다만, 이번 입법안이 향후 AI 관련법 추가적인 입법 과정에도 영향을 줄 수 있는 ‘기본법’인 만큼, 인식적 측면에서 부정적인 부분을 덜어내고 가겠다는 입장이다.

‘영향받는 자’도 정의로 명시…업계 “애매하고 지나치게 포괄적”

AI 기본법에는 ‘영향받는 자’ 정의도 추가된다. AI 생태계에는 개발자(기업)와 이용자(소비자) 외에도 본인 모르게 AI에 영향을 받는 ‘영향받는 자’도 존재하기 때문이라는 것이다.

예컨대 자율주행 자동차에 탑재된 AI모델은 직접 이용자 뿐 아니라 도로 위에 걸어다니는 행인이나 다른 차량 등에도 영향을 주게 된다. AI 기술력이 주는 다층적이고 복합적인 영향을 고려해 이에 영향받는 이들도 함께 보호될 수 있도록 관련 정의를 도입하자는 것이 핵심이다.

이 의원은 법안소위에서 “유럽연합(EU)과 미국 AI 규제 논의에서도 점차 하이리스크(High-risk)보다는 임팩트(Impact)나 이펙트(Effect)를 중시하는 방향으로 논의가 발전하고 있다”며 “직접적인 AI 이용자를 넘어 사회 전반에 광범위한 영향을 미친다는 현실을 반영한 것”이라고 언급했다.

다만, 업계 일부에서는 이를 두고 애매하고 지나치게 포괄적이라는 의견을 보이기도 했다. 고위험이라는 부정적인 인식은 덜어낼 수 있게 됐다는 것은 긍정적으로 보면서도, ‘영향받는 자’와 같은 정의가 명시되는 것은 결과적으로 광범위한 규제 불씨를 심는 것 아니냐는 우려다.

한 AI 기업 관계자는 “‘영향받는 자’와 같은 용어는 애매하고 정확하지가 않은 단어로, 규모가 있는 AI 개발 기업은 물론, 이제 막 성장하기 시작한 스타트업에서는 불확실성이 커지는 분위기”라며 “향후 구체적인 법안 윤곽이 잡히는 것을 예의주시하고 있다”고 말했다.

한편, 법안소위를 통과한 AI 기본법은 과방위원장과 전문위원의 조문 정리 작업을 거쳐 확정 지은 뒤 상임위 전체회의를 거쳐 법제사법위원회, 본회의에 차례로 상정될 예정이다. 이후 본회의 의결과정을 거치면 최종적으로 입법 작업이 마무리될 예정이다.