ztevenreal
- AWS construyó el refrigeración NVIDIA personalizado luego de repeler las soluciones líquidas existentes para la escalera
- IRHX se ajusta a los bastidores de AWS sin cambios en la infraestructura existente
- Amazon podría extender este enfoque de refrigeración a los chips de gravitón en el futuro
Amazon Web Services (AWS) ha introducido un sistema de refrigeración patentado creado para manejar las demandas de las GPU más nuevas de Nvidia.
El intercambiador de calor en la fila, o IRHX, se desarrolló en respuesta a los crecientes requisitos de potencia y calor del hardware como el NVIDIA GB200 NVL72.
AWS evaluó las soluciones existentes de refrigeración de líquidos, pero descubrió que no satisfacían las deposición de la compañía.
AWS Graviton Venidero?
“Tomarían demasiado espacio en el centro de datos, aún requerirían modificaciones importantes para los centros de datos, o aumentarían sustancialmente el uso de agua”, dijo Dave Brown, vicepresidente de enumeración y ML en AWS, en una presentación publicada en YouTube, que puede ver a continuación.
“Y aunque algunas de estas soluciones podrían funcionar para volúmenes más bajos en otros proveedores, simplemente no serían suficiente capacidad de refrigeración saldo para apoyar nuestra escalera”.
El sistema IRHX consiste en una pelotón de bombeo, un aposento de distribución de agua y bobinas de ventilador.
El saldo enfría las chips a través de una placa fría conjuntamente diseñada por AWS y Nvidia, luego vuelve a recorrer el IRHX, donde se enfría y se libera.
“Con el IRHX no necesitamos diseñar el centro de datos cerca de del estante”, dijo Brown.
El sistema admite la instancia de EC2 más potente de AWS, el P6E Ultraserver, que incluye el GB200 NVL72. Esta configuración a escalera de chasis permite que 72 GPU de Blackwell funcionen juntas como una sola pelotón.
Brown dijo que el GB200 NVL72 “permite que 72 GPU NVIDIA Blackwell actúen como una sola GPU masiva”.
Amazon ha construido previamente hardware personalizado, incluidos chips y sistemas de redes. El IRHX extiende esa logística al refrigeración, lo que permite a AWS implementar nuevos bastidores de GPU sin rediseñar sus instalaciones.
La compañía dijo que el sistema se ajusta a las dimensiones e infraestructura del chasis existente, lo que lo hace escalable en los centros de datos globales.
Si admisiblemente IRHX se combina actualmente con los sistemas con sede en Blackwell de NVIDIA, es probable que se use con los propios chips de Graviton de Amazon si sus deposición de refrigeración aumentan.
Por ahora, el sistema está alimentando cargas de trabajo de IA que exigen tanto la escalera como la velocidad.
