[지디넷코리아]엔비디아가 인공지능(AI) 데이터센터 전력 효율을 높여 동일한 전력으로 더 많은 그래픽처리장치(GPU)를 운영하고 AI 연산 처리량을 확대하는 전략을 제시했다. 서버와 네트워크뿐 아니라 데이터센터 건물 전체를 단일 컴퓨터로 관리하는 기술을 앞세워 AI 인프라 운영 효율을 극대화한다는 목표다.정구형 엔비디아 코리아 솔루션 아키텍트 팀장은 9일 서울 코엑스에서 열린 'AI 데이 서울 2026'에서 "우리는 데이터센터 건물과 부지 전체를 하나의 컴퓨터로 바라보고 있다"며 "이를 통해 데이터센터 에너지 사용을 최적화하는 기술을 제공할 것"이라고 밝혔다.그는 AI 모델 규모가 커지고 하나의 애플리케이션에서 여러 모델을 동시에 사용하는 사례가 늘면서 데이터센터 인프라 설계 방식도 달라져야 한다고 강조했다. 특히 에이전틱 AI 확산으로 GPU뿐 아니라 중앙처리장치(CPU), 네트워크, 스토리지까지 통합 관리할 필요성이 커지고 있다고 짚었다.이에 엔비디아는 AI 데이터센터 설계와 운영을 지원하는 'DSX' 플랫폼을 제공 중이다. DSX는 GPU 클러스터 구축에 필요한 랙과 네트워크 구성부터 냉각 설비, 건물 하중, 전력 관리까지 아우르는 참조 설계와 오픈소스 소프트웨어로 구성된다. 기업과 클라우드 사업자가 전력 예산에 맞춰 AI 인프라를 구축하도록 지원하는 구조다.핵심 기술은 데이터센터 전력을 실시간으로 관리하는 '맥스 LPS'다. 기존에는 각 서버 랙에 고정된 전력 한도를 적용했지만 맥스 LPS는 랙별 사용량과 건물 온도, 작업 부하를 분석해 전력 배분을 조정한다. 이를 통해 사용하지 않는 전력 용량을 줄이고 같은 전력으로 더 많은 GPU를 운영할 수 있도록 지원한다.정 팀장은 "기존 전력 관리 방식은 운영 중 전력 한도가 바뀌지 않는 고정 설정이었다"며 "맥스 LPS는 건물 관리 시스템과 연동해 각 랙의 전력 사용량과 온도를 지속적으로 확인하고 전력을 실시간으로 배분할 수 있다"고 설명했다.실제 적용 사례도 소개했다. 엔비디아에 따르면 한 엔비디아 클라우드 파트너(NCP)는 맥스 LPS를 적용해 동일한 전력 예산에서 GPU 구축량을 약 37% 늘렸다. 이에 맞춰 해당 인프라에서 생성할 수 있는 AI 토큰량도 50% 증가한 것으로 나타났다.전력 운영 방식에 따른 차이도 제시했다. 엔비디아는 1기가와트(GW) 전력 예산을 가정했을 때 최대 전력 기준인 '맥스 P' 방식으로는 4000개 랙을 운영할 수 있지만 전력 상한을 낮춘 '맥스 Q' 방식에서는 4800개 랙을 수용할 수 있다고 설명했다. 맥스 LPS는 여기서 한 단계 더 나아가 전력 배분을 실시간으로 조정하는 기술이다.엔비디아는 맞춤형 AI 반도체를 기존 인프라와 결합하는 'NV링크 퓨전' 전략도 공개했다. 이 기술은 기업이 자체 개발한 AI 가속기인 XPU를 엔비디아 고속 연결 기술과 랙 아키텍처에 통합하도록 지원한다. 맞춤형 반도체 개발 기업이 기존 엔비디아 공급망과 데이터센터 인프라를 활용할 수 있도록 한다는 구상이다.제시 클레이튼 엔비디아 AI 인프라 수석 제품 마케팅 매니저는 "맞춤형 반도체를 개발하는 일은 시작에 불과하다"며 "시스템 통합과 네트워크 구축, 공급망 확보 과정에서 10억 달러 이상 비용과 1년 이상 시간이 추가될 수 있다"고 짚었다. 이어 "NV링크 퓨전은 맞춤형 반도체 혁신과 엔비디아의 검증된 AI 인프라 플랫폼을 결합해 설계를 단순화하고 시장 출시 시간을 단축한다"고 덧붙였다.AI 팩토리 장기 운영 전략도 강조했다. 엔비디아는 2020년 출시한 A100 GPU가 일부 클라우드 사업자와 2029년까지 계약돼 있다는 사례를 소개하며 GPU 수명과 다양한 작업을 처리할 수 있는 범용성이 중요하다고 설명했다. 차세대 베라 루빈 플랫폼에서도 피지컬 AI와 에이전틱 AI, 과학·반도체 설계 시뮬레이션 등 여러 작업을 지원한다는 방침이다.정 팀장은 "우리는 AI 애플리케이션과 모델뿐 아니라 컴퓨팅, 네트워크, 스토리지, 데이터센터 시설까지 모든 영역에서 최적화를 추진하고 있다"며 "앞으로도 블랙웰과 루빈을 비롯한 차세대 플랫폼 전반에서 기술 혁신을 이어가고 고객·파트너와 협력하겠다"고 밝혔다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page