[데뷰2023] 네이버x삼성전자, AI반도체 솔루션 개발…10분의1 가벼움

실시간
뉴스

반도체

[데뷰2023] 네이버x삼성전자, AI반도체 솔루션 개발…10분의1 가벼움

디지털데일리 발행일 2023-02-27 16:22:59

최민지

URL복사

[디지털데일리 최민지 기자] 네이버와 삼성전자가 챗GPT로 촉발된 인공지능(AI) 시장을 선도하기 위해 손을 잡았다.

네이버클라우드 곽용재 최고기술책임자(CTO)는 27일 서울 코엑스에서 열린 네이버 개발자 컨퍼런스 ‘데뷰2023’을 통해 삼성전자와 협업해 AI 반도체 솔루션을 개발하고 있다고 밝혔다.

AI는 더 많은 데이터를 대규모 데이터 자원과 모델에 학습시킬수록 강력해진다. 하지만, 더 많은 데이터와 수퍼컴퓨팅 인프라를 갖추려면, 막대한 비용이 필요하다. 이에 네이버는 비효율을 극복하기 위한 연구개발을 진행했고, 작은 모델에서도 높은 성능을 내는 효율적 AI를 만드는 데 주력하고 있다.

곽용재 CTO는 “AI서비스를 더 많은 사람들에게 효율적으로 제공해야 한다. 이에 클라우드라는 입지를 이용해 소프트웨어, 하드웨어, 운영환겨을 묶어 효과를 극대화하는 통합적 접근을 해 왔다”며 “하이퍼스케일AI 서비스에 특화된 고속의 반도체 솔루션을 개발하고, AI 서비스를 안정적으로 동작시킬 수 있는 클라우드 데이터센터를 구축하려고 한다”고 말했다.

초대규모AI 핵심은 트랜스포머 모델이다. 입력 데이터 병력 처리가 가능해 초대규모 데이터를 빠르게 학습할 수 있고, 성능이 좋은 만큼 더 많은 메모리가 필요하다. 여기에 상용되는 연산 대부분은 행렬 곱셈이다. 행렬 곱셈 연산량이 많을수록 데이터 이동횟수가 늘어나 에너지를 많이 쓰게 된다. 모델 크기도 줄여야 한다. 경량화를 실현하려면, AI에 최적화된 최신 메모리 반도체 기술이 필연적이다. 삼성전자와 네이버가 AI에 최적화된 반도체 솔루션을 개발하게 된 배경이다.

양사가 개발 중인 AI 반도체 솔루션은 낮은 에너지로 높은 성능을 구현한다. 모델 사이즈는 10분의 1로 가벼워지면서, 4배 이상 전력 효율을 낼 수 있다는 설명이다.

곽 CTO는 “네이버는 AI 서비스를 움직이는 동작 원리에 대한 워크로드와 최신 모델링 기술을 확보하고 있고, 삼성은 글로벌 톱(TOP) 수준 반도체 기업으로 하드웨어 인프라 경험과 최신 메모리 기술을 갖추고 있다”며 “개발 중인 AI 반도체 솔루션에는 네이버가 자체 개발한 고유의 핵심 기술이 적용돼 있다”고 설명했다.

이와 함께 네이버클라우드는 AI 서버 플랫폼 요구사항을 충족할 수 있는 데이터센터 ‘각세종’을 연내 완공할 예정이다. AI 서비스는 중앙처리장치(CPU)보다 많은 전력을 소비하는 고성능 컴퓨팅으로, 전력을 많이 소비할수록 같은 공간에 수용 가능한 서버 수가 줄어든다. 높은 발열로 인해 서버 수명도 짧아진다. 이에 데이터센터는 충분한 전력 공급량과 서브 냉각 기술을 갖춰야 한다.

축구장 41개를 합한 대지규모를 자랑하는 각세종 경우, 수용가능한 서버 규모는 약 60만유닛으로, 각춘천보다 6배 많다. 수전용량은 각춘천보다 7배 많은 270mw이며, 직접 외기 냉방시스템과 함께 간접 외기 냉방시스템을 추가 도입해 글로벌 수준 에너지효율을 달성할 것으로 예상된다. 이머진 쿨링 기술도 연구 중이다. 기름성 액체에 서버를 투입시켜 열을 식히는 방식으로, 미세먼지와 습도 등 외부 상황에 유연하게 대응 가능하다. 국내 처음으로 실제 서비스 환경에서 테스트 중이다. 네트워크 대역폭도 각춘천보다 10배 많은 400G에 달한다.

곽 CTO는 “각세종 데이터센터는 충분한 전력량을 바탕으로 효율 높은 냉각 환경에서 보다 많은 서버를 운영할 수 있게 되면서, 자체 개발 AI 반도체 솔루션을 현 그래픽처리장치(GPU) 대비 4배 규모로 운영할 수 있을 것으로 예상한다”며 “이를 통해 네이버클라우드는 하이퍼스케일AI를 가장 효율적으로 제공할 수 있는 통합환경을 갖추게 된다”고 전했다.