Генеральный директор Microsoft Сатья Наделла (Satya Nadella) в своём блоге в социальной сети Х опубликовал ряд фотографий, демонстрирующих процесс доставки и распаковки высокопроизводительных систем NVIDIA Vera Rubin NVL72. Эта стоечная ИИ-платформа стала преемником решения GB200 NVL72. Стойка целиком весит около 1,8 т, при этом она достаточно хрупкая и поэтому требует особых условий транспортировки и установки в ЦОД, который тоже должен быть подготовлен к таким нагрузкам. А масса будущих стоек AMD Helios AI формата OCP ORW будет приближаться к 5 т.

VR200 NVL72 объединяет 72 ускорителя Rubin и 36 процессоров Vera, каждый из которых содержит 88 вычислительных Arm-ядер Olympus (в сумме 3168 ядер). Объём памяти HBM4 достигает 20,7 Тбайт, её совокупная пропускная способность — 1580 Тбайт/с. Кроме того, используются 54 Тбайт памяти LPDDR5X.

Стойка использует прямое жидкостное охлаждение, тогда как внутри самих лотков нет ни вентиляторов, ни шлангов. Примененные конструктивные решения существенно повышают скорость монтажа. При этом каждая стойка рассматривается как единая вычислительная единица. Заявленная производительность достигает 288 Пфлопс на операциях FP16/BF16 и 3,6 Эфлопс при инференсе в режиме NVFP4.

Нужно отметить, что развёртывание ИИ-систем на базе Vera Rubin NVL72 ведут и многие другие операторы ЦОД и неооблаков. В их число входят Nebius, CoreWeave, Google и пр.

Источник:

• microsoft.com