콕스웨이브 `AI 안전·정렬 전문가` 이기민 카이스트 교수 영입

실시간
뉴스

일반

콕스웨이브 'AI 안전·정렬 전문가' 이기민 카이스트 교수 영입

디지털데일리 발행일 2024-09-10 12:54:55

이건한 기자

URL복사

[디지털데일리 이건한 기자] AI 제품 분석 플랫폼 '얼라인 AI' 운영사인 콕스웨이브가 카이스트 이기민 교수를 어드바이저로 영입했다고 10일 밝혔다. 이 교수는 최근 AI 산업의 화두인 AI 안전성(Safety), AI 정렬(Alignment) 분야의 주목받는 신진 학자로 꼽힌다.

이기민 어드바이저는 국제머신러닝학회(ICML)와 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR) 등 글로벌 AI 학회에 논문을 다수 게재하고 워크숍을 주최한 이력이 있다. 카이스트 신진우 석좌교수의 지도 아래 박사 학위 취득 후, AI 강화학습 분야의 권위자인 UC 버클리의 피터 아빌(Pieter Abbeel) 교수 연구실에서 박사후 과정을 수료했다. 이후 구글 리서치 소속 리서치 사이언티스트를 거쳐 현재 카이스트 김재철 AI 대학원에서 부교수로 재직 중이다.

콕스웨이브는 이 교수의 어드바이저 선임으로 '얼라인 AI'의 안전성을 강화하고 나아가 안전한 AI 생태계 조성에 앞장선다는 계획이다. 이 교수는 안전한 AI 개발을 위한 연구를 중점으로 AI 모델이 잘못된 결과물을 냈을 때 인간이 피드백을 주며 강화 학습을 시키는 RLHF(Reinforcement learning from human feedback)를 지속 연구해왔다. 이 같은 연구 방식을 얼라인 AI에 적용하여 AI 시스템이 겪을 수 있는 주요 위험 및 악용 사례를 식별하고, AI 모델의 취약점을 보완해 잠재 위협 예방을 강화할 예정이다.

이기민 어드바이저는 "AI 안전성에 대한 논의가 활발해지는 가운데 연구 및 논의에 그치지 않고 이를 적용하여 더 나은 제품을 제공하고자 하는 콕스웨이브의 사업 방향성과 가치관에 공감해 합류를 결정했다"며 "모든 기업과 소비자가 안심하고 AI 제품을 이용할 수 있도록 연구 및 제품 개발에 기여하겠다"고 말했다.

김기정 콕스웨이브 대표는 "이번 이기민 교수의 영입으로 기업 고객들이 더 안전한 AI 서비스를 제공할 수 있도록 얼라인 AI의 분석 및 평가 기술을 고도화할 계획"이라고 전했다.