[빌드2023] `편견없고 신뢰할 만한 AI, MS는 어떻게 구축하고 있을까?

실시간
뉴스

솔루션

[빌드2023] '편견없고 신뢰할 만한 AI, MS는 어떻게 구축하고 있을까?

디지털데일리 발행일 2023-05-24 09:31:12

박세아 기자

URL복사

[디지털데일리 박세아 기자] 오픈AI의 챗GPT에 마이크로소프트(이하 MS) 검색엔진 '빙'이 탑재됐다. MS의 생성형AI 시장 선도 원동력에 동종 업계 관심이 쏟아지고 있는 상황에서 MS가 '공정하고 신뢰할 만한 인공지능(이하 AI) 시스템 구축' 원칙을 강조하고 나서 주목된다. 이 가운데 MS는 경쟁관계에 있는 오픈AI와 윤리 원칙을 세우기 위한 협력 행보도 지속해서 이어나갈 것으로 보인다.

24일 MS는 미국 시애틀에서 개최되고 있는 연례 개발자 컨퍼런스 '마이크로소프트 빌드 2023'에서 AI 책임자 사라 버드는 주류가 되고 있는 대규모 언어 모델(LLM)의 안전한 사용법에 대해 공유했다.

그는 "회사 목표는 AI 시스템이 공정하고 포괄적이며 신뢰할 수 있는지 확인하는 것"이라며 "달성하려는 것이 무엇인지 먼저 이해하는 것이 MS가 AI원칙을 세우는 기본단계"라고 말했다.

그에 따르면 MS는 AI시스템을 구축할 때, 다양한 그룹 사람들에게 똑같이 보장되고, 지원이나 기회를 공정하게 할당되는 것을 동시에 고려한다. 이와 함께 고정관념을 탈피할 수 있도록 접근기준을 세운다.

사라 버드는 "이와 같은 AI시스템 구축은 응용 프로그램과 도메인 종류, 특정 기술에 따라 달라질 것"이라며 "마이크로소프트는 자사 도구와 그동안 경험으로 원칙을 적용하고 있다"라고 설명했다.

MS는 이러한 움직임은 통합된 팀 단위에서 최첨단 접근 방식을 사용함으로써 구체화된다고 전했다.

제너레이티브AI(생성형AI)의 경우에도 위험 식별, 정상적인 프로그래밍 밖에서의 작동, 측정, 확인 및 모니터링(관찰) 등 4단계를 거치며 작동한다. 생성형AI는 AI 기술의 한 분야로, 텍스트, 이미지, 동영상 등과 같은 콘텐츠를 생성하는 데 중점을 둔 AI 모델이다.

MS는 '인간 피드백을 통한 강화 학습'이라는 접근 방식을 기반으로 오픈AI와 적극적으로 협력해 민감하거나 유해한 정보를 살피고, 대응할 수 있도록 모델을 지속해서 훈련시키고 있다.

앞서 MS는 2019년 오픈AI에 1차 투자에 이어 2020년 독점 라이선스를 체결했다. 이어 지난해 애저 오픈AI를 발표한 바 있다. 오픈AI 지분 절반을 가진 MS지만, 시장에서 때로는 경쟁상태에 놓이는 오픈AI와 AI시장의 건전한 발전을 위해 협력하는 부분이 큰 것이다.

그는 "MS 전문가는 콘텐츠 심각도를 구분하고, 사용자에게 적합한 방식으로 애플리케이션을 구성할 수 있도록 한다"라며 "새롭게 출시될 AI를 적용한 오디오와 비디오도 이와 같은 AI활용 방식이 적용될 것"이라고 언급했다.

한편 마이크로소프트는 윈도11에 생성형AI기능을 적용했다. 윈도 코파일럿이라는 기능을 통해 새로운 PC 플랫폼으로 진화를 알렸다. 윈도 코파일럿은 오픈AI GPT-4 모델을 활용한 대화형 AI 인터페이스다. 윈도11 작업표시줄 중앙에 위치한다. 윈도 코파일럿은 복사 및 붙여넣기, 스냅 지원, 캡처도구, 개인설정 등 모든 윈도 기능을 사용할 수 있다. 콘텐츠 재작성이나 요약, 설명 등도 요청할 수 있다.