Облачная платформа AWS объявила о доступности специализированного сервера Snowblade, разработанного для проекта Joint Warfighting Cloud Capability (JWCC) Министерства обороны США (DoD). Система обладает повышенной надёжностью и может эксплуатироваться в экстремальных условиях. Характеристики сервера не раскрываются. Но сообщается, что он позволяет использовать до 208 vCPU.

Устройство выполнено в форм-факторе 5U с шириной в половину стандартной стойки. Новинка соответствует стандарту MIL-STD-810H, что означает устойчивость к перепадам температур, вибрации, ударам, а также воздействию влаги и пыли. Утверждается, что Snowblade имеет самую высокую плотность компоновки среди всех систем AWS Snow. Решение рассчитано на выполнение ресурсоёмких задач в условиях ограниченного пространства.

Источник изображения: AWS

Сервер Snowblade может использоваться на периферии. Он позволяет работать с рядом облачных сервисов AWS, включая Amazon EC2, AWS IAM, AWS CloudTrail, AWS IoT Greengrass, AWS Deep Learning AMIs, Amazon Sagemaker Neo и AWS DataSync. Отмечается, что система доступна только в регионе AWS GovCloud (US-West), а заказать новинку можно исключительно в рамках программы JWCC.

Компания ASUS анонсировала на выставке Computex 2023 сервер ESC N8-E11 в форм-факторе 7U, предназначенный для работы с генеративным ИИ и большими языковыми моделями. Новинка построена на аппаратной платформе Intel Xeon Sapphire Rapids с возможностью установки двух процессоров с показателем TDP до 350 Вт.

Система располагает 32 слотами для модулей оперативной памяти DDR5-4800/4400 суммарным объёмом до 8 Тбайт. В общей сложности доступны 10 посадочных мест для SFF-накопителей: спереди находятся восемь отсеков для устройств NVMe, сзади — два слота для изделий NVMe/SATA/SAS.

Сервер способен нести на борту до восьми ускорителей NVIDIA HGX H100. В оснащение входят двухпортовый сетевой контроллер 10GbE (Intel X710-AT2) и выделенный сетевой порт управления. Опционально может быть добавлена карта Broadcom MegaRAID 9560-16i или Broadcom MegaRAID 9540-8i. Доступны по два коннектора для твердотельных модулей M.2 PCIe 5.0 x4 и M.2 PCIe 3.0 x2. Во фронтальной части расположены четыре порта USB 3.2 Gen1, гнёзда RJ-45 для сетевых кабелей, интерфейс D-Sub.

Система ESC N8-E11 имеет габариты 885 × 447 × 306,65 мм и весит 99 кг. Питание может быть организовано по схеме 4 + 2 или 3 + 3 с блоками мощностью 3000 Вт, имеющими сертификат 80 PLUS Titanium. Сервер может использоваться в температурном диапазоне от +10 до +35 °C.

Компания ASUS привезла на выставку Computex 2023 сервер ESC8000A-E12P в форм-факторе 4U. Эта GPU-платформа рассчитана на решение задач в области ИИ и HPC: возможна установка восьми полноразмерных двухслотовых ускорителей с интерфейсом PCIe 5.0 x16.

Сервер рассчитан на два процессора AMD EPYC 9004 (Genoa) с показателем TDP до 400 Вт. Доступны 24 слота для модулей оперативной памяти DDR5-4800/4400 суммарным объёмом до 6 Тбайт. Возможны два варианта исполнения сервера: с четырьмя тыльными слотами PCIe 5.0 x16 или с тремя слотами PCIe 5.0 x16 и разъёмом OCP3.0 NIC. Во фронтальной части в обоих случаях находится один слот PCIe 5.0 x16.

Во фронтальной части находятся восемь отсеков для LFF-накопителей с возможностью горячей замены. Кроме того, может быть установлен SSD формата M.2 22110 с интерфейсом PCIe 3.0 x4. В зависимости от модификации присутствуют два порта 10GbE или 1GbE, а также выделенный сетевой порт управления. В числе опций — контроллер Broadcom MegaRAID 9560-16i, Broadcom MegaRAID 9540-8i, ASUS PIKE II 3008 8-port HBA и ASUS PIKE II 3108 8-port HW RAID.

Есть два порта USB 3.2 Gen1, последовательный порт и коннектор D-Sub. Допускается развёртывание системы воздушного и жидкостного охлаждения. Габариты составляют 800 × 440 × 174,5 мм. Устанавливаются три или четыре блока питания мощностью до 3000 Вт с сертификатом 80 PLUS Titanium. Сервер может использоваться в температурном диапазоне от +10 до +35 °C.

Корпорация Intel и компания Supermicro показала на выставке Computex 2023 ускорители Ponte Vecchio для HPC-систем и комплексов ИИ. Речь идёт об изделиях Data Center GPU Max 1550 в формате OAM-модулей, которые были продемонстрированы в составе сервера Supermicro X13 8U.

Ускоритель насчитывает более 100 млрд транзисторов (без учёта памяти). Кристалл имеет общую площадь 2330 мм². В конструктивном плане Ponte Vecchio получил сложную чиплетную компоновку, включающую 47 «плиток». Компоненты соединены между собой с помощью Embedded Multi-Die Interconnect Bridge (EMIB) и Foveros. При этом чиплеты разного типа изготавливаются с применением разных технологических норм, после чего собираются воедино.

Что касается сервера Supermicro X13 8U, то он оборудован восемью ускорителями Data Center GPU Max 1550. Возможна установка двух процессоров Intel Xeon Sapphire Rapids с показателем TDP до 350 Вт. Доступны 32 слота для модулей оперативной памяти DDR5. Во фронтальной части находятся 20 отсеков для SFF-накопителей в конфигурации 12 × NVMe и 8 × SATA; допускается горячая замена.

Отмечается, что TDP Ponte Vecchio достигает 600 Вт. Это требует наличия сложного модуля регулирования напряжения, который включает в себя два высокопроизводительных преобразователя. Между тем разъём OAM может обеспечивать до 700 Вт, поэтому изделия Intel, скорее всего, были разработаны с учётом запаса мощности. Для их охлаждения применяются крупногабаритные радиаторы и вентиляторы с высоким показателем статического давления. Эти радиаторы имеют по семь медных тепловых трубок и массив алюминиевых рёбер.

Компания ASUS в ходе выставки Computex 2023 представила сервер RS500A-E12-RS12U, предназначенный для поддержания повседневных бизнес-нагрузок. Устройство, выполненное в форм-факторе 1U, использует аппаратную платформу AMD с возможностью установки одного процессора EPYC 9004 (Genoa).

Поддерживается работа с чипами в исполнении Socket SP5 (LGA 6096) с показателем TDP до 400 Вт. Доступны 24 слота для модулей памяти DDR5-4800/4400/4000/3600 суммарным объёмом до 6 Тбайт. Предусмотрены три слота PCIe 5.0 x16 и разъём OCP 3.0.

Во фронтальной части расположены 12 отсеков для SFF-накопителей SATA/SAS/NVMe. Опционально могут быть добавлены четыре внутренних устройства SFF SATA/NVMe. Кроме того, есть два коннектора для твердотельных модулей M.2. Сервер располагает двухпортовым сетевым контроллером 1GbE на базе Intel I350-AM2 и выделенным сетевым портом управления. Сзади расположены два разъёма USB 3.2 Gen1, интерфейс D-Sub и гнёзда RJ-45 для сетевых кабелей.

Габариты составляют 842,5 × 449 × 43,85 мм. Задействованы два блока питания мощностью 1600 Вт с сертификатом 80 PLUS Titanium или 80 PLUS Platinum. Система может эксплуатироваться при температурах от +10 до +35 °C.

Компания ASUS на выставке Computex 2023 анонсировала сервер ESC8000-E11P в форм-факторе 4U, построенный на платформе Intel Xeon Sapphire Rapids. Допускается установка двух процессоров с показателем TDP до 350 Вт и 32 модулей оперативной памяти DDR5-4800.

Устройство имеет габариты 800 × 440 × 174,5 мм. Предусмотрена возможность использования восьми полноразмерных ускорителей (FHFL) с интерфейсом PCIe 5.0 x16. Во фронтальной части расположены восемь отсеков для LFF-накопителей с поддержкой NVMe/SATA/SAS (в зависимости от выбранного контроллера). Есть коннектор для SSD формата M.2 22110 с интерфейсом PCIe 3.0 x4.

В зависимости от модификации сервер комплектуется картой Broadcom MegaRAID 9560-16i, Broadcom MegaRAID 9540-8i, ASUS PIKE II 3008 HBA или ASUS PIKE II 3108 HW RAID. Заказчики смогут выбирать между версиями с двумя портами 10GbE (RJ45, X710-AT2) или 1GbE (RJ45, I350-AM2). Кроме того, предусмотрен выделенный сетевой порт управления. На фронтальную панель выведены два разъёма USB 3.2 Gen1. Сзади находятся гнёзда RJ45 для сетевых кабелей, последовательный порт и интерфейс D-Sub.

Сервер комплектуется тремя или четырьмя блоками питания мощностью до 3000 Вт сертификатом 80 PLUS Titanium. Спереди находится слот PCIe 5.0 x16 (LPHL), сзади — четыре слота PCIe 5.0 x16 или три слота PCIe 5.0 x16 и разъём OCP3.0 NIC. Диапазон рабочих температур — от +10 до +35 °C.

Компания ASUS в рамках выставки Computex 2023 анонсировала сервер RS720QN-E11-RS24U типоразмера 2U с высокой плотностью компоновки элементов. Новинка использует передовую модульную архитектуру NVIDIA MGX, которая позволяет комбинировать CPU, GPU и DPU в нужном сочетании для решения определённых задач в области ИИ и НРС.

Сервер несёт на борту процессор NVIDIA Grace CPU Superchip, насчитывающий 144 ядра Arm. Чип функционирует в тандеме с оперативной памятью LPDDR5 объёмом 256/512 Гбайт. Во фронтальной части расположены 24 отсека для SFF-накопителей NVMe. Кроме того, возможна установка SSD-модулей М.2 22110 с интерфейсом PCIe 5.0 х4.

Модель RS720QN-E11-RS24U располагает двумя сетевыми портами 1GbE (контроллер Intel I350) и выделенным сетевым портом управления. Питание обеспечивают блоки мощностью 3600 Вт с сертификатом 80 PLUS Titanium. Сервер имеет габариты 800 × 444 × 88,15 мм. В системе охлаждения задействованы вентиляторы с возможностью горячей замены.

Компания TrendForce опубликовала прогноз по глобальному рынку серверов для решения ИИ-задач на ближайшие годы. Аналитики полагают, что спрос на такие системы будет стремительно расти, что объясняется развитием больших языковых моделей (LLM), внедрением передовых сервисов генеративного ИИ и решением других ресурсоёмких задач с применением нейросетей.

Статистика TrendForce учитывает отгрузки ИИ-серверов, оборудованных GPU, FPGA или ASIC. По оценкам, в 2022 году суммарный объём поставок таких машин составил приблизительно 855 тыс. штук, поднявшись в годовом исчислении на 8,5 %. В 2023-м, как ожидается, продажи достигнут примерно 1,2 млн единиц. Если этот прогноз оправдается, рост по отношению к прошлому году составит 38,4%.

В 2024 году, считают эксперты TrendForce, отрасль покажет прибавку на уровне 27,1 % — до 1,5 млн штук. В 2025 и 2026 годах прогнозируется увеличение продаж на 26,0 % и 25,0 % соответственно — до 1,9 млн и 2,4 млн единиц. Таким образом, в период с 2022-го по 2026 год величина CAGR (среднегодовой темп роста в сложных процентах) ожидается на уровне 22,0 %.

Источник изображения: pixabay.com

Исследование TrendForce показывает, что ускорители разработки NVIDIA в настоящее время доминируют на рынке ИИ-серверов с долей около 60–70%. Далее идут специализированные чипы ASIC, на которые приходится более 20 %. Успех NVIDIA, по мнению аналитиков, объясняется несколькими факторами. В частности, такие изделия как A100 и A800 пользуются высоким спросом и у американских, и у китайских провайдеров. В дальнейшем ожидается рост востребованности более новых ускорителей H100 и H800.

Кроме того, NVIDIA реализует гибкую ценовую политику, предлагая значительные скидки крупным заказчикам. В то же время наблюдается заметный рост спроса на облачные серверы ИИ, оснащённые 4–8 GPU, и периферийные ИИ-системы с 2–4 GPU. На этом фоне TrendForce прогнозирует, что ежегодный рост поставок ИИ-серверов на базе A100 и H100 составит около 50 %.

Компания Supermicro официально анонсировала сервер ARS-221GL-NR, построенный на новейшей модульной архитектуре NVIDIA MGX. Решение ориентировано на корпоративных заказчиков, реализующих проекты в области НРС, ИИ, метавселенных и пр.

Сервер выполнен в форм-факторе 2U с габаритами 438,4 × 900 × 88 мм. Применена материнская плата Super G1SMH для процессоров NVIDIA Grace CPU Superchip, насчитывающих 144 ядра Arm. Возможна установка до четырёх ускорителей NVIDIA H100.

Источник изображения: Supermicro

Система несёт на борту до 480 Гбайт памяти LPDDR5X-4800. В комплектацию может быть включён адаптер 10GbE NVIDIA ConnectX-7 или Bluefield-3 DPU. Предусмотрены 16 отсеков для накопителей E1.S NVMe с возможностью горячей замены.

В общей сложности есть семь слотов расширения PCIe 5.0 x16 FHFL. Упомянут аналоговый интерфейс D-Sub. Питание обеспечивают блоки мощностью 3000 Вт с сертификатом 80 PLUS Titanium. Диапазон рабочих температур — от +10 до +35 °C. Сервер оборудован системой воздушного охлаждения с шестью вентиляторами, рассчитанными на продолжительную работу под высокими нагрузками.

Компания Supermicro также сообщила о намерении применять в своих продуктах Ethernet-платформу NVIDIA Spectrum-X. Она обеспечивает возможность обслуживания до 256 портов 200GbE (или 64 × 800GbE, или 128 × 400GbE) одним коммутатором.

Компания Gigabyte и её подразделение Giga Computing в ходе выставки Computex 2023 анонсировали сервер G593-SD0, оптимизированный для машинного обучения и задач генеративного ИИ. Новинка, выполненная в форм-факторе 5U, ориентирована на крупные дата-центры.

В сервере применена материнская плата на наборе логики Intel C741. Допускается установка двух процессоров Intel Xeon Sapphire Rapids с показателем TDP до 350 Вт. Есть 32 слота для модулей оперативной памяти DDR5-4800 суммарным объёмом до 8 Тбайт. В максимальной конфигурации могут быть задействованы восемь ускорителей NVIDIA HGX H100 (SXM5).

Во фронтальной части расположены восемь отсеков для SFF-накопителей NVMe/SATA/SAS; поддерживаются массивы RAID 0/1/10/5. В общей сложности доступны 12 слотов PCIe 5.0 x16 и один слот PCIe 4.0 x16 для низкопрофильных карт расширения. В оснащение входят контроллер Aspeed AST2600, двухпортовый сетевой адаптер 10GbE (Intel X710-AT2), выделенный сетевой порт управления (спереди и сзади), два разъёма USB 3.2 Gen1 и интерфейс D-Sub.

Источник изображения: Gigabyte Technology

Габариты сервера составляют 447 × 222,25 × 945 мм. Применены система воздушного охлаждения и шесть блоков питания мощностью 3000 Вт с сертификатом 80 PLUS Titanium. Диапазон рабочих температур — от +10 до +35 °C.