Servidor Supermicro SYS-821GE-TNHR 8 GPU NVIDIA H100 con refrigeración por aire para IA

Descripción del servidor Supermicro de 8 GPU H100:

El Supermicro SYS-821GE-TNHR es un servidor avanzado de IA con refrigeración por aire diseñado para ofrecer un rendimiento excepcional en cargas de trabajo exigentes, especialmente en el ámbito de las aplicaciones de IA y aprendizaje automático.

Combina potentes capacidades de procesamiento con opciones de almacenamiento escalables, lo que permite una integración perfecta en las infraestructuras de TI existentes. El SYS-821GE-TNHR también cuenta con sistemas de gestión térmica mejorados que garantizan un funcionamiento fiable incluso bajo cargas computacionales intensas. Las características clave incluyen soporte multi-GPU, amplias configuraciones de memoria y ranuras de expansión flexibles, todo ello destinado a optimizar la eficiencia del centro de datos.

Las características críticas del Supermicro SYS-821GE-TNHR incluyen su arquitectura escalable, que permite la integración flexible de GPUs o opciones de almacenamiento adicionales. El servidor también ofrece una capacidad de memoria mejorada y soporte para múltiples ranuras de expansión PCIe, lo que permite actualizaciones sin problemas a lo largo del tiempo. Además, su robusto sistema de suministro de energía garantiza un funcionamiento ininterrumpido incluso bajo cargas pesadas.

Servidor Supermicro de 8 GPU H100 Especificación:

Detalles del servidor Supermicro de 8 GPU H100:

La primera gran característica de este servidor es que es una plataforma de 8U. Vemos muchos sistemas de 6U y algunos de 7U en la industria, pero la plataforma de 8U es en realidad por una buena razón. Con un chasis más alto, Supermicro puede usar ventiladores grandes y distribuir la E/S en un factor de forma más grande.

Supermicro construyó esta plataforma de 8U porque es lo suficientemente densa para la mayoría de los racks que entregan menos de 60 kW de potencia, incluso con la altura adicional. Al aumentar el tamaño, obtuvo una facilidad de servicio líder en su clase junto con un consumo de energía ligeramente menor en comparación con un chasis de 6U más corto.

Tenemos alrededor de 4.22 Tbps de ancho de banda de red saliendo de este servidor, o más de lo que puede manejar un switch de 100 GbE de 32 puertos. Esa es una de las fuerzas impulsoras detrás de la demanda de red en este momento en la industria.

Las CPUs de este sistema son Intel Xeon, específicamente CPUs Intel Xeon escalables de 4ª y 5ª generación. Para nombres en clave, si desea buscar en los archivos de STH, estos son Sapphire Rapids y Emerald Rapids. Si bien la plataforma DGX de referencia de NVIDIA utiliza CPUs Intel Xeon, algunas personas prefieren AMD EPYC, y Supermicro tiene este mismo servidor en EPYC también.
Las CPUs son un poco diferentes aquí ya que tienen disipadores de calor con ventilador. Aún recibirán flujo de aire si el ventilador activo falla, pero estos módulos de ventilador son bastante fáciles de reemplazar ya que se sujetan con un solo tornillo.
Una razón por la que, incluso con CPUs de 12 canales en el mercado de AMD e Intel, a la gente le gustan las CPUs de memoria de 8 canales es que con los zócalos de menor ancho se pueden obtener 2 DIMMs por canal. Eso significa 16 DIMMs por CPU o 32 DIMMs en total.