Una estrecha colaboración permitirá a los servidores de Hewlett Packard Enterprise, HPE, ofrecer su primer sistema NVIDIA Grace Blackwell.
Esta alianza permitirá escalar la distribución del GB200 NVL72, con refrigeración líquida para servidores.
Más allá de los conocidos retos de implementación y cambios culturales para la adopción, la llamada era de la Inteligencia Artificial (IA) tiene francos desafíos de equipamiento e infraestructura.
No solo requiere de dispositivos que tengan la capacidad de procesamiento y conectividad para acceder a las aplicaciones que están ejecutando la tecnología.
También necesita que las empresas puedan escalar su actual infraestructura y mejorar su demanda energética, requiriendo menos y/o mejor sistemas de enfriamiento.
Esto ha forzado a los fabricantes de hardware a acelerar sus procesos de instalacion y concertar alianzas que acorten los tiempos de creación de productos que resuelvan estos problemas.
En este marco, HPE anunció sus colaboración con NVIDIA, la cual le permite ahora ofrecer al mercado su primera solución basada en la familia NVIDIA Blackwell: el NVIDIA GB200 NVL72.
“La primera entrega de HPE del NVIDIA GB200 NVL72 ayudará a los proveedores de servicios y las empresas grandes a desarrollar, implementar y escalar clústeres de IA de gran tamaño”, explicó el vicepresidente de Plataformas Empresariales en NVIDIA, Bob Pette.
Escalar a la velocidad de la de la IA
El NVIDIA GB200 NVL72 incorpora una arquitectura de memoria compartida y baja latencia con la tecnología de GPU más reciente. Además, está diseñada para los modelos de IA extremadamente grandes, con más de un billón de parámetros en un solo espacio de memoria.
Por ello, este sistema a escala de rack de HPE está diseñado para ayudar a los proveedores de servicios y las empresas grandes a implementar, rápidamente, clústeres de IA muy grandes y complejos.
También le permitirá a este sector contar con soluciones avanzadas de refrigeración líquida directa, las cuales optimizan la eficiencia y el rendimiento de todo el sistema.
“Como desarrollador de los tres sistemas con refrigeración líquida directa más rápidos del mundo, HPE ofrece a los clientes un menor costo por entrenamiento de tokens”, resaltó la VP sénior de Soluciones de Infraestructura de IA y HPC en HPE, Trish Damkroger.
Igualmente, la ejecutiva hizo notar que la solución que HPE y NVIDIA están presentando al mercado tiene el mejor rendimiento en su clase. Esto acompañado con la mayor experiencia en servicios de la industria.
Para ella, entre las características claves de diseño de la solución NVIDIA GB200 NVL72 de HPE resaltan:
- 72 GPU NVIDIA Blackwell y 36 CPU NVIDIA Grace interconectadas a través de NVIDIA NVLink de alta velocidad
- Hasta 13.5 TB de memoria HBM3e con un ancho de banda de 576 TB/s
- Tecnología de refrigeración líquida directa de HPE