각각 워크로드에 맞는 분산된 가속기…제온 내재화 통합

[디지털데일리 김문기 기자] “프로세서 내부 아키텍처 진화와 성능 향상은 계속해서 이뤄지고 있으나, 증가하는 속도 대비 커진 수요와의 간극은 어떻게 할지가 난제였다. 이 숙제를 해결한 것이 4세대 제온으로, 기존 그 이상의 개선된 혜택을 줄 수 있는 시장 내 게임체인저가 될 것이다.”

나승주 인텔 한국 데이터센터 영업총괄 상무는 지난 22일 서울 삼성동 글래스타워에서 <디지털데일리>와 만나 4세대 인텔 제온 스케일러블 프로세서와 관련해 이같은 장점을 십분 강조했다.

◆기술과 현실의 간극…가속기로 속도 맞추기

4세대 인텔 제온 스케일러블 프로세서는 전 세대 대비 한층 더 성능을 끌어 올렸다. 마이크로 아키텍처의 변화를 통해 코어 자체의 성능도 증가했지만 코어수 역시 최대 60개로 늘어났다. 전반적으로 캐시나 디코드, 포트, 실행유닛부터 벡터까지 모든 부분이 한층 더 업그레이드됐다. 이에 따라 전 세대 대비 CPU 측면에서 약 15%의 성능 향상을 가져왔다.

나 상무는 “코어 자체에 대한 개선도 있었지만 명령어를 가져와서 해석하는 부분이나 실행하는 부분들에 대한 업그레이드가 이뤄졌으며 디코드만 할 수 있는 엔진도 4개에서 6개로 들어나면서 50% 성능향상을 이뤘고, 포트도 과거 10개에서 12개로 증가, 논리연산 부분인 ALU도 4개에서 5개로 증가하는 등 더 많은 역할을 수행할 수 있는 체력을 갖췄다”라며, “특히, 백터 측면에서 어드밴스드 매트릭스 익스텐션(AMX)이 신규 추가되면서 CPU가 AI 처리에 있어서도 놀랄만한 성능을 낼 수 있게 됐다”고 자신했다.

이 중 AMX는 국내서도 꽤 많은 관심을 받고 있는 것으로 설명된다.

그는 “AMX는 한국에서도 가장 많이 관심을 받고 있는 부분으로, 가령 챗GPT가 GPU를 쓴다고 해서 그런 환경만 있는 것은 아니다”라며, “데이터 처리나 추론, 서버의 데이터베이스를 돌리는 등의 한 서버에서 여러가지 작업을 수행해야 하는데 이 때는 CPU가 제격이다”라고 설명했다. 또한 추론 작업 수행의 경우 GPU가 아니라 80% 이상이 제온 프로세서(CPU)를 통해 동작한다고 덧붙였다.

프로세서 측면에서의 기술발전은 당연하다. 다만, 계속해서 진화되는 기술 수준이 현재를 살아가는 환경과 정확하게 일치하기란 어렵다. 관련 시장 역시도 나름의 발전 속도가 있기 때문에 어느 때는 더 빠르거나 때로는 더 느릴 수 있다. 즉, 현재 상황은 프로세서가 추구하는 워크로드 성능과 실제 고객이 상용화한 워크로드가 얼마나 잘 부합하는지가 관건인 셈이다.

인텔은 이에 따른 해답을 찾았다. 내외부로 산재해 있던 주요 기능들을 4세대 인텔 제온 스케일러블 프로세서에 내장했다. 이러한 12개의 가속기는 CPU가 더 수월하게 작업할 수 있도록 각 워크로드에 맞는 맞춤형 전문인력이라고 표현할 수 있다. 마치 기업이 모든 것을 처리하기보다는 전문기업에 외주를 주고 그에 따른 성과를 효율적으로 가져오는 것과 같다.

나 상무는 “수많은 단순하지만 전문적인 처리가 요구되는 작업들의 경우에는 CPU를 대신해 각 해당 가속기가 이를 처리하는 방식으로, CPU는 여유 자원을 통해 더 많은 일을 처리할 수 있는 구조를 만들어 낸 것”이라며, “CPU 자원이 남는다는 의미는 그 여유분으로 다른 작업을 수행할 수 있다는 것이며, 이는 비용적 측면에서도 해당 파트너가 더 많은 기회를 갖게 된다는 것을 말한다”고 강조했다.

인텔이 고안한 가속기는 실제 AI, 데이터 분석, 네트워킹, 보안, 스토리지 및 HPC 전반에서 다양한 조합으로 워크로드 효율성을 극대화시킨다. 대표적으로 앞서 거론한 ▲2D 타일 연산으로 AI 추론과 학습을 강화하는 ‘인텔 어드밴스드 매트릭스 익스텐션(AMX)’뿐만 아니라 ▲빠른 암호화 및 대량 데이터 압축 ‘인텔 퀵어시스트 기술(QAT) ▲대기열 스케쥴링 및 패킷 처리 최적화 ‘인텔 다이내믹 로드 밸런서(DLB) ▲작은 메모리 대역폭으로 데이터베이스 성능 향상 ‘인텔 인-메모리 분석 가속기(IAA)’ ▲데이터 이동속도 향상 ‘인텔 데이터 스트리밍 가속기(DSA)’를 꼽을 수 있다.

◆인텔 SGX 통한 보안 강화…개인정보보호 ‘일조'

전세계적으로 개인정보보호에 대한 움직임이 가속화되고 있다. 유럽 GDPR, 미국 HIPAA, 중국 PIPL 등과 같이 엄격한 개인정보보호 규정을 따른다. 가트너에 따르면 기존 전세계 인구의 10% 수준이 개인정보보호 규정에 따라 보호받고 있으나 올해는 65%가 규정에 따른 보호를 받게 될 전망이다.

때문에 기업에서 민감한 데이터를 활용하는데 리스크가 크다. 벌금이나 처벌이 언제든지 부과될 수 있다. 데이터를 익명으로 처리하는 등 개인 식별이 가능한 정보를 사용하기 위해서는 다른 방법을 찾아야 하지만 적용도 어렵고 분석 처리 속도나 정확도가 떨어질 수 있다.

인텔은 4세대 제온에 소프트웨어 가드 익스텐션(SGX)을 추가했다. 데이터가 활용되는 동안 데이터를 보호하도록 하는 기술이다. 분석 또는 AI 모델에서 민감한 데이터를 제외하는 대신 인텔 제온 스케일러블 프로세서를 이용하는 비즈니스는 인텔 SGX를 활용해 보호된 데이터 엔클레이브를 생성할 수 있다. 분리된 환경을 비즈니스가 가장 민감한 데이터를 기밀로 유지하면서 해당 데이터에서 가치를 추출할 수 있게 해준다.

데이터 보호가 약해지는 지점은 데이터가 프로세서와 메모리에서 활발하게 사용 중일 때다. 이 때 개인식별정보, 의료기록, 금융거래 등 민감한 데이터가 악용, 우발적 노출, 규정 위반에 취약해진다.

인텔 SGX는 CPU 및 메모리 내 암호화된 엔클레이브를 생성해 인증되고 검증된 애플리케이션 코드 이외에 다른 방법으로는 데이터에 접근하지 못하도록 보호해준다. 하이퍼바이저, OS, 루트 액세스 권한이 있는 관리자라고 하더라도 인텔 SGX 엔클레이브 내부 데이터를 볼 수 없다.

이같은 데이터 보호는 반대로 너무 민감하거나 규제돼 분석과 기타 용도로 사용할 수 없었던 데이터까지도 사용 가능하게 해준다. 비즈니스 가용 범위가 더 넓어지는 셈이다.

듀얼 소켓 인텔 제온 스케일러블 프로세서 기반의 서버를 사용하면 인텔 SGX 엔클레이브에서 최대 1TB의 데이터를 처리할 수 있다. 학습이나 처리가 완료되면 모든 개인 정보는 엔클레이브에서 떠나기전에 삭제돼 다시 암호화될 수 있다.

나 상무는 “애플리케이션 관점에서 나만 접근할 수 있는 금고를 만들자는 생각으로 접근했다”라며, “우연치 않게 금고가 있는 방까지 침투해갔다고 하더라도 궁극적으로 금고 열쇠가 없기 때문에 유출 환경을 최대한 억제한 셈이다”라고 설명했다.

한편, 4세대 인텔 제온 스케일러블 프로세서는 DDR5 메모리 지원과 CXL 1.1 규격 지원을 통해 컴퓨팅의 새로운 장을 열어줄 것으로 기대된다.

나 상무는 “4세대 제온부터는 외부 디바이스가 데이터센터(서버) CPU 옆에 붙어 있는 메모리에 접근할 수도 있고, 또는 외부 연결된 PC의 메모리 자원을 중앙으로 가져와 쓸 수도 있는 CXL을 지원하는 첫 사례”라며, “DDR5와 함께 CXL 역시 메모리 시장의 게임체인저 역할을 해줄 것”이라고 설명했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지