Este es el 2U 4

Jan 17, 2024

En Computex 2023, vimos un servidor NVIDIA Grace Superchip de 2U y 4 nodos de ASUS. Apodado ASUS RS720QN-E11-RS24U, combina el chasis 2U de 2,5″ de 24 bahías que hemos visto en varias reseñas de ASUS con cuatro nodos NVIDIA Grace Superchip.

Algo que fue interesante es que el módulo NVIDIA Grace Superchip se ve impresionante, pero no es lo que estamos viendo implementado en muchos servidores. Aún así, aquí está el módulo en su piel de belleza.

Como repaso rápido, una CPU NVIDIA Grace es un diseño Arm Neoverse V2 de 72 núcleos. NVIDIA dice que dos de estas CPU de 72 núcleos en la configuración llamada "Grace Superchip" deberían obtener un SPECint_rate_2017 de alrededor de 740. Ese es un número estimado, ya que no son resultados presentados oficialmente. Algunas publicaciones han dicho que esta solución de chip dual con 144 núcleos es la CPU (o configuración de CPU dual) más rápida que existe. ASUS con un solo AMD EPYC 9654 está en 898 aquí como ejemplo. Dados los números estimados de NVIDIA, la solución dual Grace debería ser competitiva con AMD EPYC "Genoa" de un solo socket de 84-96 núcleos en el lado entero.

Lo que sí tiene esta solución es una interconexión de chip a chip de alta velocidad, así como memoria LPDDR5X con ECC integrado.

A 500 W, con la memoria incluida en esa cifra, es bastante eficiente en el consumo de energía. Ese AMD EPYC 9654 tiene un TDP de 360W pero también tiene 12 canales de memoria que pueden usar otros 60W+. Sin embargo, lo que NVIDIA obtiene con esto es 960 GB de memoria ECC con alrededor de 1 TB/s de ancho de banda de memoria. Por lo tanto, NVIDIA Grace Superchip está realmente diseñado para un alto ancho de banda de memoria sin usar memoria HBM como la CPU Intel Xeon MAX.

Dado que esta es nuestra primera pieza en un sistema con NVIDIA Grace Superchip, queríamos aclarar un poco acerca de los chips, ya que NVIDIA se ha vuelto popular y los sitios de consumo dicen que este es el chip más rápido sin explicar cómo es el más rápido.

Aquí están las especificaciones rápidas del ASUS RS720QN-E11-RS24U. Algo interesante es que ASUS dice LPDDR5 a 512G/ 256G. Los módulos están programados para venir con LPDDR5X en configuraciones de 240 GB, 480 GB y 960 GB (con ECC).

El sistema se parece a la mayoría de los nodos ASUS, con administración y E/S traseras. Una gran diferencia es que aquí no obtenemos el LED del código POST.

Dentro del sistema, tenemos dos ranuras PCIe Gen5, así como una ranura OCP NIC 3.0. También podemos ver el ASPEED BMC a bordo.

NVIDIA Grace Superchip tiene un enorme disipador de calor que está personalizado para el chasis y se ejecuta en todo el ancho del nodo. Ese es en realidad un gran diferenciador con respecto a los servidores x86 actuales, donde los disipadores de calor están limitados al área alrededor del zócalo de las ranuras DIMM. Desde una perspectiva refrescante, Grace tiene mucho sentido.

Otra característica interesante es que, además de las seis bahías frontales de 2,5″ por nodo, hay un módulo dual M.2 para unidades de arranque.

El nodo se conecta al chasis a través de conectores de alta densidad.

No nos vamos a centrar demasiado en el chasis ya que es algo que hemos visto antes.

En general, fue genial poder ver el sistema NVIDIA Grace Superchip en persona. La memoria LPDDR5X integrada le da a esta solución una gran cantidad de ancho de banda de memoria junto con los 144 núcleos Arm Neoverse V2. Lo que probablemente subestimamos antes de ver los sistemas es cuánto cambia la memoria integrada en la forma en que se pueden construir soluciones de refrigeración para estos servidores, ya que no tienen que tener en cuenta la altura de las ranuras DIMM.

Con suerte, pronto podremos ver más de estos sistemas en el laboratorio de STH.