젠슨 황 엔비디아 “모든 것의 가속화”…속도 100배 늘어도 ‘전력 3배·비용 절반’ [컴퓨텍스 2024]

실시간
뉴스

PC/프린팅/디바이스

젠슨 황 엔비디아 “모든 것의 가속화”…속도 100배 늘어도 ‘전력 3배·비용 절반’ [컴퓨텍스 2024]

디지털데일리 발행일 2024-06-02 22:39:46

타이베이(대만)=김문기 기자

URL복사

젠슨 황 엔비디아 창립자 겸 CEO가 2일(현지시간) 대만 타이베이에 위치한 국립 타이베이 대학교 스포츠센터에서 엔비디아 컴퓨텍스 2024 기조연설을 하는 모습

[디지털데일리 김문기 기자] “속도가 100배나 향상됐지만 전력은 3배 가량만 증가했다. 그리고 비용은 약 50%만 증가한다. 10억달러 규모 데이터센터에 GPU 5억달러를 추가하면 갑자기 AI 공장이 된다. 우리는 PC 업계에서 항상 이런 일을 한다.”

젠슨 황 엔비디아 창립자 겸 CEO는 2일(현지시간) 대만 타이베이에 위치한 국립 타이베이 대학교 스포츠센터에서 엔비디아 컴퓨텍스 2024 기조연설을 갖고, 모든 것들은 가속화가 필요하며, 엔비디아가 이를 가장 합리적이고 효율적으로 지원할 수 있다고 강조했다.

젠슨 황 CEO는 “오늘날 이런 일들은 전세계에서 일어나고 있으며 그 절약 효과는 아주 대단하다. 1달러당 60배의 성능과 100배의 속도 향상을 얻을 수도 있다”라며, “많은 기업이 클라우드에서 데이터를 처리하는데 수억 달러를 소비하고 있다는 점은 매우 분명한데, 만약 가속화된다면 절약할 수 있는 수준이 더 커진다는 의미다”라고 밝혔다.

그가 이같은 지점을 재차 강조한 데는 가속 컴퓨팅과 인공지능(AI)이라는 컴퓨팅의 두 가지 근본적인 힘이 컴퓨터 산업을 재편할 것이라 확신한 것부터 시작한다.

젠슨 황 CEO는 “컴퓨터 산업은 1964년 IBM의 발명을 시작으로 약 60년 동안 주요 기술 변화와 컴퓨팅 구조 변화를 봤다”라며, “PC 혁명을 컴퓨팅을 민주화해 모든 사람들이 쓸 수 있게 확장됐으며, 2007년 애플 아이폰이 모바일 컴퓨팅을 도입해 컴퓨터를 우리 주머니에 넣을 수 있게 했다”고 운을 땠다.

그 과정에서 두 가지 근본적 변화가 일어나고 있다는 게 젠슨 황 CEO의 설명이다. 그는 “컴퓨터 산업이 중앙처리장치에서 실행되는 엔진인 프로세서의 성능 확장이 엄청나게 느려졌으나 우리가 해야 할 계산량은 여전히 매우 빠르고 기하급수적으로 증가하고 있다”라며, “데이터가 확장되는데 비해 성능이 따르지 못한다면 투자해야 할 비용 인플레이션을 겪을 수밖에 없고 그게 현실이다. 전세계적으로 사용되는 데이터 센터의 전력량은 상당히 증가하고 있고, 컴퓨팅 비용도 계속해서 오르고 있다”고 말했다.

이어, “데이터가 기하급수적으로 계속 증가하는데 비해 CPU 성능 확장은 어렵겠지만, 우리는 가속 컴퓨팅에 대해 연구해왔으며 쿠다(CUDA)는 작업을 가속화할 수 있도록 훨씬 더 나은 작업률을 보여줄 수 있게 됐다”라며, “우리는 모든 것을 가속화해야 한다. 집약적으로 처리되는 모든 애플이케이션이 가속화될 것이며, 가까운 미래에 확실히 모든 데이터센터가 가속화 될 것이라 예측한다”고 덧붙였다.

모든 것을 가속화해야 한다는 젠슨 황 CEO의 지적은 비용 절감으로 귀결된다. 속도가 100배 향상되면서도 비용은 50%만 증가하고 전력량은 3배 가량만 상승한다는 것은 말 그대로 ‘가속화’됐기 때문이다. 가속화야말로 저축이고, 제축은 곧 비용 절감과 에너지 효율성 증대라는 결과를 가져온다.

실제 데이터 사이언티스트가 활용하는 엑셀 프로그램의 처리 속도를 비교한 영상을 선보였다. 가속화를 통해 빠르게 데이터가 처리되는 모습을 엿볼 수 있다.

젠슨 황 CEO는 “가속화 측면에서 더 많이 구매할수록 더 많이 절약할 수 있다”라며, “그렇게 많은 비용을 절약할 수 있는데 왜 사람들은 그렇게 하지 않았을까? 그 이유는 엄청나게 힘들기 때문이다”라며, “C 컴파일러로 전환했는데 갑자기 해당 애플리케이션이 100배 더 빠르게 실행되는 그런 소프트웨어는 없을뿐만 아니라 심지어 논리적이지도 않다. 그렇게 하려면 CPU만 바꿨을 것이다. 소프트웨어를 완전하게 다시 작성해야 CPU에 작성된 알고리즘을 활용해 재설계할 수 있다. 컴퓨터 과학 연습은 그만큼 어렵다”고 설명했다.

이어, "개발자는 대규모 설치 기반을 위한 소프트웨어를 작성하고 싶어한다. 하지만 대규모 설치 기반에는 사용자가 해당 설치 기반을 만들 수 있도록 많은 응용 프로그램이 필요하다. 닭이냐 달걀이냐의 문제는 거의 해결되지 않는다”고 덧붙였다.

하지만 “도메인 라이브러리 하나하나, 가속 라이브러리 하나하나를 하나씩 만드는 데 20년이 걸렸지만, 이제 전 세계적으로 500만 명의 개발자가 있다”라며, “우리는 의료, 금융 서비스는 물론 컴퓨터, 자동차 등 세계의 거의 모든 주요 산업, 거의 모든 과학 분야에 서비스를 제공하고 있다”고 말했다.

또한 그는 “우리 아키텍처 고객은 너무 많기에 OEM과 클라우드 서비스 제공업체가 우리 시스템 구축에 관심을 갖고 있다”라며, 대만에 있는 시스템 제조업체 역시 관심이 많으며, 이를 통해 더 많은 시스템을 시장에 출시하고 제공하고 있으며, 이는 물론 우리에게 더 큰 기회를 제공하고 R&D 규모를 늘릴 수 있다. 속도가 높아질 수록 컴퓨팅 비용은 절감된다”고 언급했다.

아울러, “개발자들이 컴퓨팅 비용을 줄임으로써 점점 더 많은 컴퓨팅을 소비하는 새로운 알고리즘을 계속해서 발견할 것이라 믿는다. 그래서 어느날 컴퓨팅의 한계 비용이 너무 낮아 컴퓨터를 사용하는 새로운 방식이 등장하는 위상 변화가 발생할 것이라 생각한다”라고 말했다.

특히, 젠슨 황 CEO는 “사실 지금 우리가 보고 있다. 우리는 특정 알고리즘에서 지난 10년 동안 컴퓨팅의 한계 비용을 백만 배나 줄였다”라며, “결과적으로 이제 인터넷의 모든 데이터를 사용하여 대규모 언어 모델을 훈련하는 것은 매우 논리적이고 상식적이며, 누구도 두번 생각하지 않는다”고 강조했다.