Nvidia vara la supercomputadora de IA Orilla Rubin NVL72 en CES: promete un rendimiento de inferencia hasta 5 veces anciano y un costo por token 10 veces beocio que Blackwell, arreglado en el segundo semestre de 2026

La IA está en todas partes en CES 2026 y las GPU de Nvidia están en el centro del universo de la IA en expansión. Hoy, durante su discurso de transigencia en CES, el CEO Jensen Huang compartió sus planes sobre cómo la compañía permanecerá a la vanguardia de la revolución de la IA a medida que la tecnología vaya mucho más allá de los chatbots en dirección a la robótica, los vehículos autónomos y el mundo físico en normal.

En primer lado, Huang lanzó oficialmente Orilla Rubin, la construcción a escalera de chasis del centro de datos de IA de próxima coexistentes de Nvidia. Rubin es el resultado de lo que la compañía ardor “codiseño extremo” en seis tipos de chips: la CPU Orilla, la GPU Rubin, el conmutador NVLink 6, el ConnectX-9 SuperNIC, la dispositivo de procesamiento de datos BlueField-4 y el conmutador Ethernet Spectrum-6. Todos esos componentes básicos se unen para crear el chasis Orilla Rubin NVL72.

La demanda de computación de IA es insaciable, y cada GPU Rubin promete mucho más para esta coexistentes: 50 PFLOPS de rendimiento de inferencia con el tipo de datos NVFP4, 5 veces el de Blackwell GB200, y 35 PFLOPS de rendimiento de entrenamiento NVFP4, 3,5 veces el de Blackwell. Para proveer esos medios informáticos, cada paquete de GPU Rubin tiene ocho pilas de memoria HBM4 que ofrecen 288 GB de capacidad y 22 TB/s de encantado de lado.

La computación por GPU es solo un componente central del centro de datos de IA. A medida que los principales modelos de lenguajes grandes han pasado de arquitecturas densas que activan cada parámetro para producir un token de salida determinado a arquitecturas de combinación de expertos (MoE) que solo activan una parte de los parámetros disponibles por token, se ha vuelto posible ampliar esos modelos de guisa relativamente capaz. Sin secuestro, la comunicación entre los expertos en el interior de los modelos requiere grandes cantidades de encantado de lado entre nodos.

La CPU Nvidia Orilla implementa 88 núcleos Olympus Arm personalizados con lo que Nvidia ardor “multiproceso espacial”, para hasta 176 subprocesos en planeo. La interconexión NVLink C2C utilizada para conectar coherentemente la CPU Orilla a las GPU Rubin ha duplicado su encantado de lado, a 1,8 TB/s. Cada CPU Orilla puede direccionar hasta 1,5 TB de memoria SOCAMM LPDDR5X con hasta 1,2 TB/s de encantado de lado de memoria.

El SN688 cuenta con 409,6 Tb/s de encantado de lado para 512 puertos de Ethernet de 800G o 2048 puertos de 200G. El SN6810 ofrece 102,4 Tb/s de encantado de lado que se puede canalizar a 128 puertos de 800G o 512 puertos de 200G Ethernet. Los dos conmutadores están refrigerados por claro y Nvidia afirma que son más eficientes energéticamente, más confiables y ofrecen un mejor tiempo de actividad, presumiblemente frente al hardware que carece de fotónica de silicio.

A medida que las ventanas de contexto crecen hasta alcanzar millones de tokens, Nvidia afirma que las operaciones en la gusto de valores-clave que contiene el historial de interacciones con un maniquí de IA se convierten en el cuello de botella para el rendimiento de la inferencia. Para aventajar ese cuello de botella, Nvidia está utilizando sus DPU BlueField 4 de próxima coexistentes para crear lo que ardor un nuevo nivel de memoria: la plataforma de almacenamiento de memoria contextual de inferencia.

Para ayudar productivos esos racks, Nvidia destacó varias mejoras de confiabilidad, disponibilidad y capacidad de servicio (RAS) a nivel de rack, como un diseño de bandeja modular sin cables que permite un intercambio de componentes mucho más rápido en comparación con los racks NVL72 anteriores, una resiliencia mejorada de NVLink que permite un mantenimiento sin tiempo de inactividad y un motor RAS de segunda coexistentes que permite verificaciones de estado sin tiempo de inactividad.

Toda esta computación y encantado de lado en bruto es impresionante a primera paisaje, pero el panorama del costo total de propiedad es probablemente lo más importante para los socios de Nvidia mientras consideran inversiones masivas en capacidad futura. Con Orilla Rubin, Nvidia dice que solo se necesita 1/4 de la cantidad de GPU para entrenar modelos MoE en comparación con Blackwell, y que Rubin puede disminuir el costo por token para la inferencia MoE hasta 10 veces en una amplia serie de modelos. Si invertimos esas cifras, sugiere que Rubin asimismo puede aumentar el rendimiento del entrenamiento y entregar muchos más tokens en el mismo espacio de rack.

Nvidia dice que ha obtenido los seis chips que necesita para construir los sistemas Orilla Rubin NVL72 de las fábricas y que está satisfecho con el rendimiento de las cargas de trabajo que ejecuta en ellos. La compañía calma comenzar la producción en pandeo de los sistemas Orilla Rubin NVL72 en la segunda fracción de 2026, lo que sigue siendo consistente con sus proyecciones anteriores con respecto a la disponibilidad de Rubin.