AI안전연구소 초대소장에 김명주 서울여대 정보보호학부 교수 임명

실시간
뉴스

e비즈*솔루션

AI안전연구소 초대소장에 김명주 서울여대 정보보호학부 교수 임명

디지털데일리 발행일 2024-11-12 09:44:43

오병훈 기자

URL복사

[디지털데일리 오병훈기자] 정부 주도 하에 인공지능(AI) 안전 연구를 이끌 ‘AI안전연구소’가 초대 소장을 선임하는 등 출범 준비를 마쳤다.

12일 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 AI안전연구소 초대소장에 김명주 서울여자대학교 정보보호학부 교수를 이날부로 임명한다고 밝혔다. 임기는 3년이다.

김명주 초대소장은 컴퓨터공학을 전공한 AI윤리‧신뢰성 전문가로, 바른AI연구센터장, 국제AI윤리협회장, AI윤리정책포럼 위원장 등을 맡으며 안전하고 책임있는 AI개발·활용 확산을 위해 노력했다.

아울러, OECD GPAI(Global Partnership on AI) 전문가 멤버로 활동하며, 지속가능한 AI발전을 위한 국제사회 논의에도 참여하고 있다. 그간 AI윤리‧안전분야에서 축적한 전문성과 경험, 리더십을 바탕으로 새로 출범할 AI안전연구소를 글로벌 AI안전연구를 선도하는 기관으로 발전시키고, 국내 AI분야 산‧학‧연과 세계 각국의 AI안전연구소와 긴밀히 소통‧협력해 나갈 계획이다.

한편, 정부에서는 AI 통제 및 안전에 초점을 맞춘 AI 안전연구소를 이달 중 출범하기로 했다. AI안전연구소는 미국과 일본, 영국 등 주요 국가 내 설립된 AI안전연구소와 공조를 통해 국제적인 AI 안전 연구 중심기관으로 역할을 수행할 예정이다.

구체적으로는 3대 핵심 과제 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업 안전 확보 지원을 추진한다. 이를 완수하기 위해 AI안전연구소는 ▲AI위험 정의 ▲AI안전 평가 ▲국가차원 관리 주요 AI위험 정의하고 ▲AI안전 평가방법론 개발 및 완화방안 마련 등 4개 핵심 기능을 수행한다.