엔비디아는 SC 24 슈퍼컴퓨팅 컨퍼런스에서 데이터 센터 제품 라인을 확장하며, GB 200 NVL 4 및 H 200 NVL PCIe GPU를 발표했습니다.

GB 200 NVL 4는 Blackwell 아키텍처 제품군을 발전시키는 단일 서버 솔루션으로, 4개의 Blackwell GPU와 2개의 Grace CPU를 하나의 마더보드에 매끄럽게 통합해 NVLink 기술을 통한 효율적인 통신을 제공합니다. 768GB의 HBM 3E 및 960GB의 LPDDR 5X 메모리가 32TB/s의 결합된 메모리 대역폭을 구현하여 까다로운 AI 워크로드를 효율적으로 처리할 수 있는 강력한 시스템을 형성합니다.

엔비디아에 따르면 GB 200 NVL 4는 GH 200 NVL 4 대비 시뮬레이션 성능 2.2배, AI 교육 성능 1.8배, AI 추론 성능 1.8배 향상을 이뤘습니다. 이 시스템은 5,400W의 전력을 소비하며, 첨단 액체 냉각 시스템을 통합해 최적의 성능을 유지하며, 대규모 컴퓨팅 환경의 서버 랙에 최적화되어 배치될 예정입니다.

H 200 NVL PCIe GPU는 Hopper 제품군의 최신 모델로, 데이터센터 운영 기업을 위한 저전력 공기 냉각 랙 설계에 적합하게 설계되었습니다. 다양한 AI 및 HPC 애플리케이션의 효율적인 가속화를 보장하며, 최근 조사에 따르면 약 70%의 엔터프라이즈 랙이 20kW 이하에서 작동하고 공기 냉각을 사용하고 있는 상황에서 PCIe GPU의 중요성이 증가하고 있습니다.

H 200 NVL PCIe GPU는 2개 슬롯을 차지하고 있으며 600W의 TDP를 가집니다. 이는 H 200 SXM의 700W보다 낮은 수치로, INT 8 텐서 코어 작업이 15.6% 감소하지만, GPU는 이중 또는 쿼드 구성에서 900GB/s의 NVLink 상호 연결을 지원합니다. H 100 NVL와 비교했을 때, 새로운 모델은 1.5배의 메모리, 1.2배의 대역폭, 1.7배의 AI 추론 성능을 제공하며, HPC 애플리케이션의 효율성이 30% 향상되었습니다.