AI기본법 시행되면 필수?…2032년 5조원 시장 기대되는 이 산업

실시간
뉴스

AI기본법 시행되면 필수?…2032년 5조원 시장 기대되는 이 산업

디지털데일리 발행일 2025-05-05 07:00:00

이나연 기자

URL복사

'AI 안전성 검증' 솔루션 산업 주목…셀렉트스타 등 국내 스타트업도 도전장

[디지털데일리 이나연기자] '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'이 내년 1월부터 시행되는 가운데, AI의 안전성에 대한 사회적 요구가 커지고 있다. 공공과 민간 모두 AI 도입에 속도를 내면서 기술 신뢰성을 검증하려는 수요도 빠르게 증가할 것으로 보인다.

5일 정보기술(IT)업계에 따르면 과학기술정보통신부가 운영하는 'AI 안전성 확보 의무 가이드라인 테스크포스(TF)는 이르면 다음달 말 AI기본법 제32조(AI 안정성 확보 의무) 가이드라인을 공개한다.

TF는 간사기관인 한국전자통신연구원(ETRI) 산하 AI안전연구소와 함께 과기정통부, 산학연 전문가, 유관기관 등 20여명이 참여하고 있다. 업계에서는 SK텔레콤, LG AI 연구원, 네이버, 셀렉트스타, 카카오가 속해 있다. 직접 회의에 참석하는 위원 중 기업 대표는 김세엽 셀렉트스타 대표가 유일하다.

AI 평가 솔루션 기업인 셀렉트스타는 지난 2월 생성형 AI 신뢰성 검증 자동화 솔루션을 국내 최초로 출시했다. '다투모 이밸(DATUMO Eval)'은 신뢰성 검증 프로세스를 자동화해 AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전에 식별하고 대응할 수 있도록 지원하는 솔루션이다.

주요 기능은 ▲기업의 AI 서비스 유형과 사용 목적에 따른 평가 기준 설정 ▲도메인 및 서비스에 부합한 맞춤형 평가용 질문 자동 생성 ▲AI 서비스의 답변 자동 평가 및 결과 분석 ▲AI 서비스의 취약점을 끌어내는 레드티밍 등이 있다.

다투모 이밸은 출시와 동시에 금융권을 포함한 여러 기업에 도입을 확정한 바 있다. 이러한 사업 경험을 바탕으로 셀렉트스타는 국내외 AI 신뢰성 검증 시장에서 영향력을 확대 중이다. 작년 4월 한국에서 처음 진행한 '생성형 AI 레드팀 챌린지'에서 대표 파트너사를 맡았다.

황민영 셀렉트스타 부대표가 지난 3월 5일 스페인 바르셀로나에서 열린 'MWC25'에서 '글로벌 AI 레드팀 챌린지'를 진행하고 있는 모습 [ⓒ 셀렉트스타]

지난 3월에는 스페인 바르셀로나에서 열린 세계 최대 이동통신 전시회 'MWC25'에서 글로벌이동통신협회(GSMA)와 '글로벌 AI 레드팀 챌린지'를 공동 개최했다. 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 국적 100여명이 참가한 이 대회는 전 세계 참가자를 대상으로 한 최초의 글로벌 레드팀 챌린지라는 점에서 주목받았다.

시장조사업체 포춘 비즈니스 인사이트는 AI 신뢰성 평가 솔루션 시장의 글로벌 성장률이 2024년 약 8억6700만달러(1조2,200억원)에서 2032년 38억2400만달러(5조3600억원)규모로 성장할 것으로 내다본다. 이 기간 연평균 성장률은 약 20.9%에 달한다.

AI 신뢰성 검증 기술은 서비스 개발 과정에서 필수적이지만 국내외 시장에서 독보적인 점유율을 확보한 제품은 아직 없는 상황이다. 해외에서는 랭체인, 어라이즈AI, 스케일AI와 같은 기업이 관련 솔루션을 선보이고 있으며 한국은 셀렉트스타와 크라우드웍스 등이 대표적인 업체로 꼽힌다.

한편 AI 산업 진흥과 규제 조항을 담은 AI기본법은 지난해 12월 국회 본회의를 통과해 내년 1월22일부터 본격 발효된다. 한국은 유럽연합 'AI법(AI Act)'에 비해 제정은 늦었지만 규제를 포함한 전면 도입으로는 세계 최초 AI 법률 시행 국가가 된다.

과기정통부는 다음달부터 AI기본법 입법예고 등 행정입법 절차에 착수하고 하반기 세부 규정을 담은 시행령을 공포할 계획이다.

이를 위해 'AI기본법 하위법령 정비단'과 주요 가이드라인·고시를 담당하는 '가이드라인 TF'를 병행하고 있다. TF는 AI 안정성 확보 의무를 비롯해 AI투명성 확보 의무, AI영향평가, 고영향AI 기준과 예시, 고영향AI 사업자 책무 총 5개 부문으로 구성됐다.