`AI기본법` 진흥만이 능사? "시민사회 샌드박스로 보완해야"

실시간
뉴스

일반

'AI기본법' 진흥만이 능사? "시민사회 샌드박스로 보완해야"

디지털데일리 발행일 2024-09-13 08:22:46

이건한 기자

URL복사

[디지털데일리 이건한 기자] 국내 AI 기본법의 제정 방향이 산업 진흥을 우선하는 분위기로 흘러가고 있는 가운데, 일각에선 시민사회를 통해 AI로 발생 가능한 모든 문제에 즉각 대응 가능한 '시민사회 샌드박스' 도입이 중요하다는 공감대가 형성됐다.

12일 '시민참여 AI 기본법 추진을 위한 쟁점 토론회’가 개최된 국회의원회관 제1소회의실. 발제자 및 토론자, 참석의원들이 자리에 앉아 단체 사진을 찍고 있다.

국회 과학기술방송통신위원회(과방위) 위원장인 더불어민주당 최민희 의원은 12일 국회에서 시민기술네트워크와 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'를 공동개최했다. 과방위가 최근 AI 기본법 제정 준비에 힘을 싣기 시작하고, 오는 24일 첫 공청회도 앞둔 가운데 과방위원장이 직접 주최한 이번 토론회는 그간 여타 AI 기본법 행사에서 잘 다뤄지지 않던 시민사회의 입장이 다양하게 전해지며 차별화된 메시지를 남겼다.

AI 기본법은 제21대 국회에서도 활발한 논의가 이뤄졌으나 결국 폐기된 바 있다. 이날 첫 발제를 맡은 박지환 법무법인 혁신 변호사는 주된 이유로 국가인권위원회의 반대를 꼽았다. 당시 인권위는 국회가 여야 합치로 만든 AI 기본법안에 대해 AI 개발 및 서비스 중 발생 가능한 인권 침해, 정보주체 권리 침해 등에 대한 대응 조항이 충분하지 않다고 판단했기 때문이다.

이와 같이 AI에 '우선허용, 사후규제'를 채택하는 형태의 AI 기본법은 21대에 이어 22대 국회에 이르러서도 AI 진흥 중심의 정부, 산업계가 AI로 초래될 위험을 우려하는 시민사회와 여전히 갈등을 빚는 대목이다.

두 번째 발제를 맡은 영국 사회혁신연구소 '스프레드 아이'의 김정원 대표도 EU(유럽연합)이 앞서 발효한 AI법을 연구한 결과를 발표하며 "EU AI법은 6년여에 걸쳐 수많은 고민과 토론을 거쳐 만들어진 결과물"이라고 말했다. 또한 EU AI법에 성능 규제와 위험성 검증 등 다양한 제약이 상세하게 걸린 점에 대해서는 "그들조차 AI에 어떤 위험과 영향이 따를지 자신하지 못해, 위험 요소가 발견되면 빠르게 피드백할 수 있도록 만든 것"이라고 강조했다.

즉, 국내 AI 개발사들도 AI 안전성을 100% 테스트하기 어렵다고만 할 것이 아니라, 이해 당사자인 AI 사용자들(시민)들로부터 피해가 신고되면, 즉각 개선될 수 있도록 개발사와 시민사회가 손잡는 시스템이 만들어져야 한다는 주장이다.

(왼쪽부터) 홍지연 한국교원대학교 컴퓨터교육학과 겸임교수, 오병일 진보네트워크센터 대표, 홍윤의 사단법인 무의 이사장.

이어진 패널토론에서도 시민사회 측의 다양한 입장이 개진되었다.

오병일 진보네트워크센터 대표는 "이미 공기업 등에서 적용 중인 AI 기반 채용 시스템만 하더라도 편향성이 담기지 않았단 사실을 입증할 방법이 없다고 한다. 그런 AI의 위험성을 검증할 수 없는 상태에서 계속 도입하는 것이 괜찮냐는 질문이 필요하다"며 "AI 산업 육성에 방점을 찍은 과학기술정보통신부는 진흥을 명분으로 감독이 약화될 위험이 있는 만큼, 개인정보보호위원회에서 AI 감독에 포커싱을 맞춘 기구의 도입을 제언한다"고 말했다. 또한 "처벌조항 없는 AI 기본법은 결국 실효성이 없는 자율규제에 의존하게 되는 것"이라고 비판했다.

홍윤의 사단법인 무의 이사장은 AI의 본고장인 미국도 최근 AI 진흥에서 감독과 규제 측면의 강력한 조항들이 생겨나고 있는 시점이라고 지적했다. 특히 "AI 안전성 평가 의무, 콘텐츠 인증 표준 수립, 개인정보보호 강화 등 강력한 규제 조항이 담긴 바이든 미국 대통령의 행정명령을 함께 만든 인물이 현재 미국 대선주자인 카멀라 해리스 부통령"이라며 "그도 AI 청사진을 만들 때 연방 차원에서 인권단체들과 주도적인 소통을 통해 청사진을 만든 점을 눈여겨보라"고 말했다.

실제로 미국은 AI 규제가 느슨하고 진흥 중심의 국가로 알려져 있지만, 실리콘밸리의 본고장인 캘리포니아주만 해도 최근 주 차원에서 마련한 강력한 규제법이자 AI 안전법(SB1047)이 주지사의 승인만 기다리고 있는 상황이다.

홍지연 한국교원대학교 컴퓨터교육학과 겸임교수는 '청소년의 AI 주권'을 강조했다. 그는 "AI 기본법에 교육과 관련된 단어 하나에도 영향을 받는 건 청소년들"이라며 "교육 현장의 특수성을 감안하면 국가AI위원회 구성에도 교육, 학교 전문가가 반드시 포함되어야 한다"고 말했다. 이어 "최근 딥페이크 이슈에서도 드러났지만, AI를 비롯한 최신 기술의 가장 많은 영향을 받는 청소년들은 단순 보호받는 존재가 아니"라며 "그들이 스스로를 지킬 수 있도록 입법 과정에 참여시키는 것도 필요할 것"이라고 덧붙였다.

이밖에 관과 기업측 토론자들도 이에 일부 호응하는 의견을 내놨다.

하정우 네이버 퓨처AI센터장은 "AI 기본법은 성장과 혁신 가운데 그 누구도 AI가 가져다줄 '기회'에서 소외받지 않도록 해야 한다"며 "시민사회 샌드박스(Sandbox)가 중요한 이유"라고 말했다. 샌드박스는 보안 프로그램의 일종으로, 제한된 샌드박스 영역 내에서는 악성코드 공격이 발생해도 샌드박스 외부로는 영향을 미치지 않도록 차단된 환경을 말한다.

한마디로 시민사회 샌드박스란 시민이 AI 위험성을 선제적으로 찾아내고 기업, 정부와 발생 가능한 문제에 즉각 대응이 가능한 시스템을 만들어 AI의 악영향이 사회에 퍼지지 않도록 최소화하는 시스템을 의미한다.

남철기 과학기술정보통신부 인공지능정책과장은 "AI 기본법은 진흥와 인권, 주권이 서로 구별되거나 대립하는 개념이 아니다. 안전과 신뢰가 함께 지켜질 때 AI 혁신도 일어날 수 있는 것"이라며 "AI 위험에 대해서는 연내에 AI 안전연구소가 만들어진다. 여기서 AI의 위험성을 정의하고 어떻게 개발 및 정의할지에 대한 안전 프레임워크를 만들어 지원할 계획"이라고 설명했다.