냉각도 전력도 ‘하이퍼스케일’…AI 시대 맞춤 데이터센터 어디?

실시간
뉴스

e비즈*솔루션

냉각도 전력도 ‘하이퍼스케일’…AI 시대 맞춤 데이터센터 어디?

디지털데일리 발행일 2024-11-14 07:00:00

권하영 기자

URL복사

[스마트엔터프라이즈 2024] 엠피리온디지털 홍지원 상무

홍지원 엠피리온디지털 상무는 13일 서울 강남구 포스코타워 역삼 이벤트홀에서 열린 디지털데일리 주관 스마트 엔터프라이즈 2024에서 ‘“AI 시대를 위한 혁신 인프라 구축” 엠피리온 디지털이 제시하는 AI 데이터센터’를 주제로 발표에 나섰다.

[디지털데일리 권하영기자] 최근 인공지능(AI) 열풍과 함께 핵심 인프라로서 데이터센터가 많은 주목을 받고 있다. 특히 AI 개발에 필요한 고성능 연산과 대량 데이터 처리 작업은 점점 더 많은 열과 전력을 소모하고 있기 때문에, 데이터센터 역시 이전보다 훨씬 고도화된 냉각기술과 전력효율이 중요해지는 시점이다.

홍지원 엠피리온 상무는 13일 서울 역삼동 포스코타워에서 <디지털데일리>가 개최한 ‘스마트 엔터프라이즈 2024’ 컨퍼런스 발표에서 AI 시대 데이터센터에 반드시 필요한 요소 중 하나로 ‘고급 냉각 및 전력 관리’를 꼽았다.

냉각기술은 공기를 이용한 공랭(Air-Cooling) 방식과 물을 이용한 수랭(Liquid-Cooling) 방식으로 구분되는데, 최근엔 공랭식보다 열 관리 효율이 좋은 수랭식이 각광받는 추세다. 수랭식은 서버를 특수용액에 담가 열을 흡수하는 ‘액침냉각(Emulsion Liquid Cooling)’과 서버에 설치한 튜브에 냉각수를 흘려보내 열을 식히는 ‘직접수랭(Direct Chip Liquid Cooling)‘ 방식으로 다시 나뉘는데, 국내에선 무게하중과 안정성 등 측면에서 시기상조인 액침냉각에 비해 직접수랭 방식에 더 주목한다.

홍 상무는 “액침냉각이 앞으로 가야 할 기술은 맞지만 무게나 관리 문제로 한국에선 시기상조인 데 반해 직접수랭은 앞으로 5년, 10년은 주목해야 할 기술”이라며 “이러한 냉각기술들은 각 전력 요구사항에 따라 최적의 교집합 형태로 배열되기 때문에 전력밀도에 맞는 냉각 방식을 제공하는 데이터센터를 선택해야 한다”고 말했다.

최근 AI 기술이 고도화되며 소모되는 전력량은 기하급수적으로 늘고 있는 실정이다. 현재 AI 반도체 시장을 선도하는 엔비디아의 최신 칩 H100의 경우 GPU 8장이 꽂힌 서버랙 1대의 전력소비량이 40킬로와트(kW) 수준인데, H100보다 약 25배 성능을 발휘한다는 엔비디아 차세대 칩 블랙웰 기반 신형 장비 GB200 NVL72는 랙당 120kW 이상 전력을 소비하는 것으로 알려졌다.

문제는 이러한 고도화된 냉각 기술과 엄청난 전력소비를 감당할 데이터센터가 국내에 많지 않다는 점이다. 홍 상무는 “한국의 대부분 데이터센터 설계 내하중이 1㎡당 1500kg 수준인데, 엔비디아의 해당 장비 하나가 1300kg인데다 수랭식 전용이라 일반적인 수준의 데이터센터라면 수용 자체가 불가능하다”며 “또한 120kW 수준 전력을 요구하는데 기존 220V 단상 3선식의 전력으로는 제공할 수도 없다”고 설명했다.

특히 전력에 있어서는 에너지효율도 매우 중요한데, 홍 상무에 따르면 낮을수록 좋은 PUE(전력사용효율) 지수가 한국 상용 데이터센터들의 경우 표준 1.8에 이르러 대체로 1.5 이하인 글로벌 데이터센터 수준보다 높은 편인 점도 한계로 지목된다.

홍 상무는 “전력효율이 비단 전기 사용료의 문제뿐만 아니라 최근 ESG(환경·사회·지배구조) 경영이 모든 기업들의 화두라는 점을 감안하면, 어떤 데이터센터를 선택할지 고민할 때 PUE 항목도 반드시 고민해야 한다”고 지적했다.

이런 가운데 홍 상무는 엠피리온디지털이 내년 상반기 개소 목표로 서울 강남 양재동에 건설 중인 첫 국내 데이터센터 ‘KR1’이 이같은 니즈를 충족할 수 있음을 강조했다.

2021년 설립된 싱가포르계 데이터센터 개발기업인 엠피리온디지털은 지난해 6월 KR1 착공에 돌입하며 국내 데이터센터 시장 공략을 가시화하고 있다.

강남과 판교 접근에 가까운 전략적 위치로서 양재동에 들어설 KR1은 각층 4.1메가와트(mW) 이상 IT 용량으로 전체 약 12만대 이상 서버 운용이 가능한 하이퍼스케일급 데이터센터다. 랙당 10kW~40kW 이상 고밀도 랙 지원이 가능할 뿐만 아니라, 특히 7~8층은 ‘AI Ready DC’로 직접수랭 및 130kW 랙 지원을 할 예정이다.

또한 KR1을 비롯해 엠피리온디지털의 모든 데이터센터는 PUE 지수 1.3 이하로 설계돼 에너지효율 측면에서도 부담을 덜고 있다는 설명이다.

홍 상무는 “KR1은 AI에 준비된 데이터센터라고 감히 말할 수 있다”며 “엠피리온은 이 외에도 서울 외곽 데이터센터 추가 건립을 검토하고 있으며, 부산 데이터센터 사업도 계속 찾고 있다”고 밝혔다.