NVIDIA enseña Eos: la fábrica IA con 4.608 GPUs H100

NVIDIA es titánica con su Eos, un supercomputadora capaz de prácticamente todo, y, probablemente, el más potente en inteligencia artificial.

La finalidad de esta monstruosidad es «enfrentar los desafíos de miles de desarrolladores internos de NVIDIA que realizan investigaciones de IA». Vamos, que Eos viene a ser un saco de boxeo con el que probar y probar hasta la saciedad. Es una nueva supercomputadora en el que NVIDIA nos ha dado muchos destalles interesantes.

NVIDIA Eos, la diosa de la IA con 4608 GPUs H100

Es la 9º supercomputadora más potente del mundo en FP64, pero en IA… puede ser la máquina más rápida de la historia. Equipado con 576 sistemas DGX H100, cada uno viene con 8 H100, y 1152 procesadores Intel Xeon Platinum 8480C. En cifras, consigue un rendimiento de 12.4 FP64 PetaFLOPS y 12.4 FP8 ExaFLOPS para IA.

Asimismo, utiliza Mellanox Quantum-2 InfiniBand, fruto de una adquisición de NVIDIA sobre Mellanox, que se dedicaba a la computación en red. Pues bien, esta maravilla ofrece hasta 400 Gb/s, que para inteligencia artificial y modelos Deep Learning es clave.

En el área de software encontramos una implementación IA y desarrollo exclusivo para ello, pudiendo ejecutar aplicaciones con una IA generativa como ChatGPT. Ellos mismos hablan de una «fábrica IA«, pero realmente no han dicho nada específico sobre qué es lo que usan; la plataforma CUDA seguro.

Estamos hablando de una supercomputadora que vale millones de dólares porque una sola H100 puede costar unos 40.000 dólares; y, respecto a los Intel Xeon Platinum 8480C, seguramente valgan miles de euros. Es un poderío bestial en computación que les puede servir para investigar a un nivel excelso, y lo cierto es que puede valer su peso en oro.

Lamentablemente, AMD seguirá a la cola en este campo que cada vez es más presente, y menos futuro. Solo espero que las RTX 5000 no barran a las RX 7000 como ha ocurrido esta generación.

Fuente: Tom’s hardware y profesionalreview.com