Компания Liqid объявила о стратегическом сотрудничестве с AMD, направленном на создание решений следующего поколения для ИИ-инфраструктур. В рамках партнёрства представлена аппаратная платформа Liqid UltraStack 30, оптимизированная для задач инференса.

В состав системы входят сервер с двумя процессорами AMD EPYC 9005 Turin и коммутатор Liqid PCIe Fabric Switch. Ключевыми компонентами являются три GPU-блока, каждый из которых содержит десять ускорителей AMD Instinct MI350P (144 Гбайт памяти HBM3E с 4096-бит шиной). Таким образом, в общей сложности задействованы 30 названных карт и 4,3 Тбайт памяти HBM3E.

Заявленная производительность достигает 69 Пфлопс в режиме FP8. Говорится о возможности работы с общими пулами памяти по высокоскоростному стандарту CXL. Суммарное энергопотребление платформы находится на уровне 22 кВт. По заявлениям Liqid, система обеспечивает 3,7-кратный прирост показателя токенов в секунду по сравнению с традиционными решениями. Количество токенов в пересчете на $1 увеличивается в 2,1 раза, а токенов на 1 Вт затрачиваемой энергии — в 1,8 раза. Затраты на развёртывание могут быть уменьшены на 65 %.

Источник изображения: Liqid

Программное обеспечение Liqid Matrix объединяет GPU-ускорители и в реальном времени распределяет их ресурсы между рабочими нагрузками через высокоскоростную PCIe-шину. При этом все карты остаются в пределах одного узла. В целом, платформа Liqid UltraStack 30, как утверждается, устраняет накладные расходы, связанные с использованием нескольких узлов, обеспечивает предсказуемое линейное масштабирование и доводит загрузку GPU почти до 100 %. Упомянута поддержка Kubernetes для работы с несколькими моделями.

Компания Gigabyte анонсировала сервер XLS4-SX2-LAS1, использующий аппаратную платформу Intel Xeon Granite Rapids вкупе с GPU-ускорителями NVIDIA. Новинка, выполненная в форм-факторе 6U, рассчитана на работу с ИИ-приложениями (включая обучение моделей и инференс) и другими ресурсоёмкими нагрузками, такими как обработка видео.

Устройство допускает установку двух процессоров Intel Xeon 6700P/6500P. Реализована 8-канальная подсистема оперативной памяти с 32 слотами для модулей DDR5 RDIMM/MRDIMM. Во фронтальной части расположены восемь отсеков для NVMe-накопителей E1.S с интерфейсом PCIe 5.0; допускается горячая замена. Кроме того, доступны два внутренних коннектора для SSD формата M.2 с интерфейсом PCIe 5.0 x4.

Сервер несёт на борту восемь ускорителей NVIDIA RTX Pro 6000 Blackwell Server Edition с 96 Гбайт GDDR7. За отвод тепла от них отвечает жидкостная система, которая также охватывает другие ключевые компоненты, в том числе ОЗУ. В оснащение входит DPU NVIDIA BlueField-3. Реализованы порты OSFP InfiniBand на базе ConnectX-8 SuperNIC. Опционально может быть добавлен модуль TPM 2.0 для обеспечения безопасности.

Источник изображения: Gigabyte

Новинка получила шесть блоков питания мощностью 3200 Вт с сертификатом 80 PLUS Titanium и резервированием. Реализована технология Smart Ride Through (SmaRT) для защиты от потери данных при отключении питания. При возникновении сбоя встроенные в блок питания конденсаторы обеспечивают работу сервера в течение 10–20 мс — обычно этого достаточно, чтобы переключиться на резервный источник и продолжить работу без остановки.

ASUS обновила свою линейку односокетных AMD-серверов, представив серии RS501A-E12 и RS521A-E12 с поддержкой процессоров EPYC поколения Turin. Впрочем, EPYC Genoa они тоже поддерживают, тогда как серверы предыдущего поколения — RS500A-E12 и RS520A-E12 — ориентированы только на Genoa. Кроме того, был установлен новый модуль питания, именно благодаря которому и появилась поддержка Turin. Поэтому название поколения платформы в ASUS решили оставить прежним — E12, лишь добавив в название серии идентификатор, указывающий на то, что это модифицированная платформа (цифра 1).

Все слоты и разъёмы в новых платформах полностью совпадают с тем, что имелись в предыдущих версиях. Это касается, в частности, и PCIe-интерфейсов, которых у EPYC вполне достаточно, чтобы даже в односокетном исполнении успешно конкурировать по их числу с двухсокетными платформами Intel. У одного EPYC есть 128 линий, у одного Xeon — только 80 (у 4-го и 5-го поколений) или 88 (у 6-го поколения). И именно из-за нехватки у Intel линий PCIe в сегменте универсальных серверов среднего уровня ASUS представляет только однопроцессорную платформу AMD.

Источник изображений: ASUS

Серверы серии RS501A-E12 выпускаются в 1U-шасси, а серии RS521A-E12 — в 2U. Но системная плата у них одна и та же — ASUS K14PA-U24-T. У неё есть три слота GENZPCIE для установки райзер-карт или подключения кабелей, соединяющих их с бэкплейном: два слота GENZPCIE x16 с поддержкой PCIe 5.0 x16 и один слот GENZPCIE x8 с PCIe 5.0 x8. Также есть слот OCP 3.0 для установки NIC/DPU (PCI 5.0 x16), восемь разъёмов MCIO (PCIe 5.0 x8) и два M.2-разъёма с интерфейсом PCIe 5.0 x4.

ASUS RS501A-E12-RS12U

Таким образом, платформе вполне хватает 128 линий PCIe 5.0, доступных в Turin и Genoa. Кроме того, ASUS добавила на системную плату интегрированный двухпортовый гигабитный сетевой контроллер Intel i350 и SATA-контроллер ASM1061, но им требуется для работы всего лишь пять линий PCIe 2.0.

ASUS RS501A-E12-RS12U

В одноюнитовой серии RS501A-E12 представлены модели с бэкплейном и корзиной на 4 и 12 — RS501A-E12-RS4U и RS501A-E12-RS12U соответственно. Причём все слоты корзины поддерживают NVMe SSD с x4-подключением — бэкплейну отведено шесть разъёмов MCIO (PCIe 5.0 x8).

ASUS RS501A-E12-RS12U

Есть также вариант RS501A-E12-RS12U с дополнительной внутренней корзиной на четыре NVMe-накопителя (естественно, уже без «горячей» замены), обеспечивая поддержку суммарно 16 NVMe SSD. Для подключения корзины используется ещё два разъёма MCIO, так что в итоге задействованы все имеющиеся на плате восемь разъёмов MCIO.

ASUS RS501A-E12-RS12U

В одноюнитовой модели в первый слот GENZPCIE x16 на системной плате устанавливается райзер-карта со слотом PCIe 5.0 x16. Во второй и третий слоты (GENZPCIE x16 и GENZPCIE x8) устанавливается карта Butterfly Raiser Card со слотами PCIe 5.0 x16 и PCIe 5.0 x8. Платформа RS501A-E12 поддерживает установку до двух однослотовых видеокарт. Как сообщается, среди новых моделей серверных платформ RS501A-E12 — единственная 1U-платформа с возможностью установки GPU.

ASUS RS521A-E12-RS12U

RS521A-E12 в 2U-шаси включает модели с бэкплейном на 12 и 24 NVMe-накопителя. Для бэкплейна на 12 NVMe SSD достаточно шесть из восьми имеющихся разъёмов MCIO. А вот бэкплейн на 24 NVMe-накопителя забирает недостающие линии у первого и третьего слотов GENZPCIE x16, что ограничивает установку карт расширения x16.

ASUS RS521A-E12-RS12U

Хотя в серии RS521A-E12 используется так же плата, что в RS501A-E12, применяемые райзеры отличаются, давая больше гибкости в выборе карт расширения. Во второй и третий слоты (GENZPCIE x8 и GENZPCIE x16) устанавливается райзер-карта Butterfly с поддержкой трёх слотов PCIe 5.0: одного слота PCIe 5.0 x8 и двух PCIe 5.0 x16. В этом случае либо все три слота работают в режиме x8, либо доступны только два слота в режиме x8 и x16. В первый же слот GENZPCIE x16 устанавливается райзер на два слота PCIe 5.0 x16, которые опять-таки либо оба работают в режиме x8, либо один слот не используется, а другой работает в режиме x16.

ASUS RS521A-E12-RS12U

Следует отметить, что платформа RS521A-E12 поддерживает установку четырёх однослотовых видеокарт или двух двухслотовых видеокарт. Во втором случае исключается установка бэкплейна на 24 NVMe-накопителя. Если не жертвовать слотами PCIe для карт расширения, то максимально можно подключить только 16 NVMe.

YADRO выпустила сервер H225 G4 — свою первую систему, которая может оснащаться двумя процессорами AMD EPYC 9005 Turin или EPYC 9004 Genoa. Новинка включена в Единый реестр российской радиоэлектронной продукции Минпромторга, что позволяет использовать её в проектах субъектов КИИ, государственных заказчиков и организаций регулируемых отраслей.

Устройство, выполненное в форм-факторе 2U, предназначено для горизонтально масштабируемых приложений. Могут устанавливаться процессоры с TDP до 500 Вт. Доступны 24 слота для модулей оперативной памяти DDR5-6400 RDIMM/3DS-RDIMM суммарным объёмом до 6 Тбайт.

Подсистема хранения данных в зависимости от конфигурации включает 12 накопителей LFF SAS/SATA/NVMe или 8/16/24 устройства SFF SAS/SATA/NVMe во фронтальной части и до четырёх устройств SFF SAS/SATA/NVMe сзади. Возможно формирование массивов RAID 0/1/5/6/10/50/60. Опционально предлагается суперконденсатор для защиты содержимого кеш-памяти при отключении питания. Для загрузки ОС служат два системных SSD формата M.2 (NVMe).

Источник изображения: YADRO

Спереди расположены по одному порту USB 3.0 Type-A и D-Sub, сзади — два разъёма USB 3.0 Type-A, интерфейс D-Sub, последовательный порт (RS-232) и выделенный сетевой порт управления 1GbE RJ45. Сервер позволяет задействовать от 4 до 11 слотов PCIe 5.0 (с учетом отсека OCP 3.0 SFF). Питание обеспечивают два блока мощностью 2700 Вт с сертификатом 80 PLUS Platinum. Габариты составляют 780 × 447 × 87,5 мм. Диапазон рабочих температур — от +10 до +35 °C. Применено воздушно охлаждение. Заявлена совместимость с Astra Linux, RedOS, Alt Linux, VMware ESXi, Windows Server, RHEL и SLES.

IBM анонсировала компактный сервер Power S1112, ориентированный на периферийные развёртывания и локальное использование на площадках небольших заказчиков. Устройство будет предлагаться в двух вариантах исполнения — стоечном форм-факторе 2U и башенном.

Новинка имеет односокетную конфигурацию на базе POWER11. Стоечный вариант может оснащаться процессором, насчитывающим до десяти ядер (3,05–4,0 ГГц), тогда как башенная модификация довольствуется четырёъядерным чипом (3,6–4,0 ГГц). Доступны четыре слота для модулей оперативной памяти DDR5-4800 суммарным объёмом до 512 Гбайт.

Сервер получил по два слота PCIe 4.0 x16 и PCIe 4.0 x8 для карт расширения HHHL. Имеются четыре посадочных места для NVMe-накопителей стандарта U.2. Реализованы сетевой порт 1GbE RJ45, разъём USB 3.0 на передней панели и внутренний порт USB 3.0. Питание обеспечивают два блока мощностью 800 Вт с резервированием и сертификатом 80 PLUS Titanium. Допустимый диапазон рабочих температур — от +5 до +40 °C, рекомендованный — от +18 до +27 °C. Габариты стоечной версии составляют 223,5 × 660,4 × 88,9 мм, масса — 20,4 кг. Башенный вариант имеет размеры 210,8 × 784,8 × 411,5 мм и весит 24,5 кг.

Источник изображения: poweribmi.fr

На сервере могут использоваться ОС IBM i, AIX и Linux, в том числе с применением виртуализации IBM PowerVM. Упомянуто квантово-безопасное шифрование, обеспечивающее целостность системы и безопасность критически важных функций. Комплекс средств Power RAS (Reliability, Availability, and Serviceability) помогает минимизировать простои, повысить доступность и удобство обслуживания оборудования.

Компания MSI анонсировала сервер G4201-HE на аппаратной платформе Intel, подходящий для решения таких задач, как тонкая настройка больших языковых моделей (LLM), ИИ-инференс и пр. Устройство подходит для использования в инфраструктурах облачных провайдеров и в составе CDN-платформ.

Новинка выполнена в форм-факторе 4U. Возможна установка двух процессоров Xeon Emerald Rapids (LGA 4677) с показателем TDP до 350 Вт. Доступны 32 слота для модулей оперативной памяти DDR5-5600 RDIMM/3DS суммарным объёмом до 8 Тбайт. Применено воздушное охлаждение.

Сервер может нести на борту до восьми GPU-ускорителей в виде карт расширения FHFL с интерфейсом PCIe 5.0 x16 и максимальным энергопотреблением 600 Вт. Есть также дополнительные слоты PCIe 5.0 x16 и PCIe 4.0 x16 для карт стандарта FHFL. В оснащение входят контроллер ASPEED AST2600 и сетевой адаптер 1GbE (Intel I210AT). Во фронтальной части расположены 12 отсеков для LFF/SFF накопителей в конфигурации 2 × U.2 PCIe 4.0 (NVMe) и 10 × SATA-3. Допускается формирование массивов RAID 0/1/5/10. Кроме того, предусмотрены два внутренних коннектора для SSD M.2 2280/22110 (PCIe 3.0 x2). Опционально может быть добавлен модуль TPM 2.0 для обеспечения безопасности.

Источник изображения: MSI

На лицевую панель выведены по одному порту USB 3.0 Type-A и USB 2.0. Сзади находятся два разъёма USB 3.0 Type-A, коннектор D-Sub, последовательный порт (разъём RJ45), сетевой порт 1GbE RJ45 и выделенный сетевой порт управления. Установлены четыре блока питания мощностью 2700 Вт с резервированием и сертификатом 80 PLUS Titanium. Диапазон рабочих температур простирается от +10 до +35 °C.

Компания Gigabyte анонсировала сервер G4L4-SD3-LAX7, построенный на аппаратной платформе NVIDIA HGX B300. Устройство, рассчитанное на ресурсоёмкие нагрузки ИИ, оборудовано системой прямого жидкостного охлаждения (DLC) с функцией обнаружения протечек.

Машина выполнена в форм-факторе 4U: допускается установка двух процессоров Intel Xeon 6700P/6500P (Granite Rapids) с показателем TDP до 350 Вт. Предусмотрены 32 слота для модулей оперативной памяти DDR5 RDIMM-6400 или MRDIMM-8000. Во фронтальной части расположены восемь отсеков для SFF-накопителей с интерфейсом PCIe 5.0 (NVMe). Кроме того, есть два внутренних коннектора для SSD типоразмера M.2 2280/22110 с интерфейсом PCIe 5.0 x4 и PCIe 5.0 x2.

Система оснащена восемью SXM-ускорителями Blackwell Ultra. Доступны четыре слота для карт PCIe 5.0 x16 стандарта FHHL. Реализованы восемь портов 800 Гбит/с OSFP XDR InfiniBand на базе NVIDIA ConnectX-8 SuperNIC. Говорится о совместимости с DPU NVIDIA BlueField-3. Питание обеспечивают десять блоков мощностью 3000 Вт с резервированием и сертификатом 80 PLUS Titanium.

Источник изображения: Gigabyte

На фронтальную панель выведены два сетевых порта 10GbE на основе Intel X710-AT2, а также выделенный сетевой порт управления 1GbE. Сзади находится дополнительный порт управления 1GbE. Упомянуты контроллер ASPEED AST2600 с разъёмом D-Sub и два порта USB 3.0 Type-A. Диапазон рабочих температур простирается от +10 до +35 °C. Габариты составляют 447 × 175,5 × 901 мм.

Компания MSI расширила ассортимент серверов, анонсировав модель CX171-S3066 на аппаратной платформе Intel. Новинка предназначена для применения в таких областях, как облачные сервисы, CDN-платформы и виртуализация сетевых функций.

Устройство выполнено в форм-факторе 1U на модульной архитектуре DC-MHS, разработанной в рамках проекта OCP. Возможна установка одного процессора Intel Xeon 6700P/6500P (Granite Rapids) или 6700E (Sierra Forest) в исполнении LGA 4710 (Socket E2) с показателем TDP до 350 Вт. Поддерживается оперативная память DDR5 RDIMM-6400 и MRDIMM-8000 суммарным объёмом до 4 Тбайт (16 модулей на 256 Гбайт).

Во фронтальной части расположены 12 отсеков для SFF-накопителей U.2 с интерфейсом PCIe 5.0 x4 (NVMe); допускается горячая замена. Возможно формирование массивов RAID 0/1/5/10. Дополнительно могут быть установлены два SSD стандарта М.2 2280/22110 с интерфейсом PCIe 5.0 x2 (NVMe). Реализованы один слот PCIe 5.0 x16 для карт формата FHHL, два разъёма PCIe 5.0 x16 для карт HHHL и два слота PCIe 5.0 x16 OCP 3.0. Сервер несёт на борту контроллер ASPEED AST2600.

Источник изображения: MSI

Во фронтальной части расположены порты USB 3.0 Type-A и USB 2.0 Type-A, в тыльной — USB 2.0 Type-A, Mini DisplayPort, последовательный порт (USB Type-A) и сетевой порт управления RJ45. Питание обеспечивают два блока мощностью 1500 Вт с резервированием и сертификатом 80 PLUS Titanium. Применено воздушное охлаждение; диапазон рабочих температур — от 0 до +35 °C. Габариты сервера составляют 438,5 × 43 × 770 мм. Опционально может быть добавлен модуль TPM 2.0 для обеспечения безопасности. Заявлена совместимость с Windows 2025, Ubuntu 24.04, Redhat 9.0, Rocky 8.10/9.7/10.1.

Компания ASRock Rack анонсировала высокопроизводительный сервер 2U16X-GNR2/DLC Rubin, предназначенный для ресурсоёмких нагрузок ИИ. Устройство выполнено в форм-факторе 2U на аппаратной платформе NVIDIA HGX Rubin NVL8.

Новинка получила двухсокетную конфигурацию. Допускается установка двух процессоров Intel Xeon 6700P, 6500P (Granite Rapids) или 6700E (Sierra Forest) в исполнении LGA 4710. Задействованы восемь ИИ-ускорителей NVIDIA Rubin, связанных через интерконнект NVLink.

Предусмотрены 32 слота для модулей оперативной памяти DDR5 RDIMM-6400 или DDR5 MRDIMM-8000 суммарным объёмом до 4 Тбайт. Во фронтальной части расположены восемь отсеков для NVMe-накопителей E1.S (PCIe 6.0 x4). Кроме того, есть два внутренних коннектора для SSD типоразмера M.2 2280 с интерфейсом PCIe 5.0 x4. В оснащение входят BMC-контроллер ASPEED AST2600, сетевой адаптер Intel I210 1GbE с портом RJ45 и выделенный сетевой порт управления на базе Realtek RTL8211F. Реализованы восемь портов OSFP 800 Гбит/с через NVIDIA ConnectX-9 SuperNIC. Плюс к этому доступен слот FHHL PCIe 6.0 x16 для DPU NVIDIA BlueField-4.

Источник изображения: ASRock Rack

Сервер оборудован полностью жидкостной системой охлаждения, которая охватывает в том числе накопители E1.S и DPU. Габариты составляют 800 × 448 × 87 мм. Имеются порты USB 3.0 Type-A, Micro-USB и Mini-DisplayPort. Диапазон рабочих температур простирается от +10 до +35 °C. Упомянут аппаратный криптографический модуль TPM 2.0, расположенный на отдельной стандартизированной плате управления сервером DC-SCM.

Компания Cerebras Systems объявила о расширении сотрудничества с Flex в рамках производства в США своих мощных систем CS-3 для ресурсоёмких ИИ-задач. Ожидается, что объём выпуска оборудования в течение нынешнего года будет увеличен примерно в семь раз. Ранее AMD и Flex договорились о расширении выпуска в США серверов с ускорителями Instinct.

В основу стоек Cerebras CS-3 положены фирменные ускорители WSE-3. Эти изделия содержат 4 трлн транзисторов, 900 тыс. ядер и 44 Гбайт памяти SRAM. Суммарная пропускная способность встроенной памяти достигает 21 Пбайт/с, внутреннего интерконнекта — 214 Пбит/с. Быстродействие составляет до 125 Пфлопс (в разреженных FP16-вычислениях).

Отмечается, что спрос на ИИ-оборудование стремительно растёт. На этом фоне Cerebras договорилась об увеличении объёмов выпуска CS-3 на мощностях Flex в Милпитасе (Калифорния, США). На этом объекте будут развёрнуты новые производственные линии и сформирована передовая испытательная инфраструктура. Кроме того, потребуется расширение штата специалистов.

Источник изображения: Cerebras

Подчёркивается, что производство CS-3 сопряжено с трудностями, которые редко встречаются при изготовлении традиционных серверов. Каждая система требует специализированных процессов обработки, особой оснастки, точной калибровки и обширной проверки на системном уровне. Эти задачи усложняются тем, что в состав CS-3 входят компоненты жидкостного охлаждения и высокопроизводительная подсистема питания.

Инженеры Flex тесно сотрудничали со специалистами Cerebras для внедрения инновационных методов сборки, а также автоматизированных тестовых станций, специально адаптированных под особенности WSE-3. Каждый этап производственного процесса — от механической интеграции до окончательной квалификации системы — требовал взаимодействия между инженерными группами двух компаний.