Предоставляющая клиентам ИИ-инфраструктуру компания CoreWeave купила тысячи серверов Dell PowerEdge XE9680 для своих облачных сервисов. Как сообщает Datacenter Dynamics, некоторые из систем получат ускорители NVIDIA H100 для выполнения ИИ-задач и предоставления клиентам доступа к решениям генеративного ИИ.

Серверы также будут выполнять задачи, связанные с машинным обучением, рендерингом визуальных эффектов и крупномасштабными симуляциями. В CoreWeave заявляют, что именно ИИ стал драйвером спроса на облачные HPC-решения. В компании уверены, что кастомная современная инфраструктура компании обеспечивает наилучшую производительность, а взаимодействие с Dell позволит эффективнее выполнять задачи.

Вышеназванные серверы имеют два процессора Intel Xeon Sapphire Rapids. Они могут оснащаться платами NVIDIA HGX с восемью ускорителями A100 или H100 и восемью NVMe SSD общей ёмкостью до 122,88 Тбайт. Любопытно, что для CoreWeave, похоже, сделано исключение, поскольку обычным заказчикам серверы Dell с ускорителями NVIDIA приходится ждать долгие месяцы.

Источник изображения: Dell

2023 год выдался довольно хлопотным для CoreWeave. Поскольку компания одной из первых получила доступ к передовым ускорителям NVIDIA H100, она потратила немало времени на привлечение средств для их покупки и внедрения. Кроме того, она сотрудничала с Vast Data и DDN над созданием систем хранения данных, а в июне подписала многомиллиардное соглашение с Microsoft.

В декабре компания привлекла $642 млн, продав миноритарный пакет своих акций, а в августе, например, и вовсе дошло до весьма комичной ситуации, когда компания получила более $2 млрд в долг под залог ускорителей NVIDIA для покупки новых ускорителей NVIDIA — всё для удовлетворения растущего спроса на облачные ИИ-услуги.

Компания MSI анонсировала свои первые продукты, поддерживающие процессоры Intel Xeon E-2400. Дебютировали материнская плата D1500, а также серверы S1103 и E2103, предназначенные для сферы малого и среднего бизнеса, периферийных вычислений и пр. Новинки относятся к начальному уровню.

Источник изображений: MSI

Плата D1500 выполнена в форм-факторе micro-ATX. Поддерживается установка чипа в исполнении LGA 1700: напомним, изделия Xeon E-2400 содержат до восьми ядер Raptor Cove, имеют два канала памяти DDR5 и позволяют использовать до 16 линий PCIe 5.0. Величина TDP не превышает 95 Вт.

Материнская плата наделена четырьмя слотами для ОЗУ-модулей DDR5-4800 UDIMM и двумя разъёмами PCIe. Поддерживаются до восьми портов SATA-3; кроме того, можно установить два SSD формата М.2 2280/22110 (NVMe). В оснащение также включён двухпортовый сетевой контроллер 10GbE.

Источник изображений: MSI

Модель D1500 является основой стоечных серверов S1103 и E2103 типоразмера 1U и 2U соответственно. Первый из них допускает установку четырёх LFF-накопителей и двух внутренних SFF-устройств (все с интерфейсом SATA-3). Этот экономичный сервер хорошо подходит для таких задач, как веб-хостинг, периферийные вычисления, облачные приложения, хранение данных и пр.

В свою очередь, E2103 представляет собой edge-сервер стандарта 2U, оборудованный одним слотом PCIe 5.0 и двумя коннекторами M.2 NVMe. Во фронтальной части располагаются шесть отсеков для SFF-накопителей SATA. В качестве опции предлагается возможность установки четырёх устройств U.2 NVMe.

Компания Lenovo анонсировала серверы на новейших процессорах Intel Xeon Emerald Rapids и Xeon E-2400, рассчитанные на решение различных задач, таких как ресурсоёмкие нагрузки ИИ, виртуализация, бизнес-приложения, периферийные вычисления и пр.

В число новинок вошла многоузловая модель ThinkSystem SD650-N V3 с технологией прямого водяного охлаждения (DWC) Neptune 5-го поколения. В конструкции используются медные и паяные соединения, гарантирующие отсутствие утечек при экстремальных нагрузках даже при высоком давлении. Водяной контур обеспечивает температуру на входе до +45 °C, что помогает поднять эффективность повторного использования энергии.

Источник изображений: Lenovo

Каждый узел ThinkSystem SD650-N V3 может нести на борту два чипа Xeon Emerald Rapids и 16 модулей DDR5-5600 суммарным объёмом до 2 Тбайт. Поддерживаются ускорители NVIDIA HGX H100 (SXM5). Могут быть задействованы до четырёх накопителей E3.S или SFF (PCIe 5.0 NVMe или SATA). Применён сетевой адаптер NVIDIA ConnectX-7. В шасси ThinkSystem DW612S стандарта 6U могут быть установлены до 12 узлов ThinkSystem SD650-N V3.

Кроме того, дебютировали многоузловые серверы ThinkSystem SD530 V3 и ThinkSystem SD550 V3 высокой плотности в форматах соответственно 1U и 2U половинной ширины. Каждый узел может быть укомплектован двумя процессорами Xeon Emerald Rapids и 16 модулями DDR5-5600 (до 2 Тбайт в сумме). Первая из этих моделей может нести на борту по два накопителя E3.S EDSFF и M.2; есть по одному разъёму OCP 3.0 (PCIe 5.0) и PCIe 5.0 x16 (HHHL). Второе решение поддерживает шесть SFF-накопителей SAS/SATA/NVMe и два модуля М.2; доступно по одному слоту OCP 3.0, PCIe 5.0 x16 и PCIe 4.0 x16.

В число новинок вошли серверы ThinkSystem SR630 V3 и ThinkSystem SR650 V3 типоразмера 1U и 2U соответственно. Они могут нести на борту два чипа Xeon Emerald Rapids и до 32 модулей TruDDR5 3DS/RDIMM. Поддерживается 12 разъёмов PCIe 4.0/5.0. Есть слот OCP 3.0 и внутренний адаптер HBA/RAID, не занимающий стандартный слот PCIe. У первого из этих серверов конфигурация подсистемы хранения данных может включать до четырёх накопителей LFF или до 12 устройств SFF или до 16 накопителей EDSFF E1.S, у второго — до 20 дисков LFF или до 40 накопителей SFF.

Представлены и серверы ThinkSystem SR250 V3 и ThinkSystem ST250 V3 на основе одного процессора Xeon E-2400. Первый имеет типоразмер 1U, а второй — башенную конструкцию. Доступны четыре слота для модулей памяти DDR5-4400 суммарным объёмом до 128 Гбайт. Поддерживаются различные комбинации накопителей SATA и SAS.

Компания ASRock Rack представила серверы 1U4LW-C262/2L2T и 1U4LW-C262/2L2T RPSU, выполненные в форм-факторе 1U. Устройства рассчитаны на установку одного процессора Intel Xeon E-2400 или Pentium Gold G7400/G7400T в исполнении LGA 1700 с показателем TDP до 95 Вт.

В новинках применена материнская плата на наборе логики Intel C262. Доступны четыре слота для модулей оперативной памяти DDR5-4400 ECC UDIMM суммарной вместимостью до 128 Гбайт. Имеется один разъём PCIe 5.0 x16 для ускорителя формата FHHL.

Во фронтальной части находятся четыре отсека для LFF-накопителей SATA-3 с возможностью горячей замены. Кроме того, можно установить два внутренних накопителя SFF NVMe (PCIe 4.0 x4) и SSD формата М.2 2280/2260/2242/2230 с интерфейсом PCIe 4.0 x4. В оснащение входят контроллер Aspeed AST2600, выделенный сетевой порт управления 1GbE (Realtek RTL8211F), по два порта 1GbE (Intel i210) и 10GbE (Intel X710), два порта USB 3.2 Gen1 Type-A, последовательный порт и интерфейс D-Sub.

Источник изображения: ASRock Rack

Модель 1U4LW-C262/2L2T наделена одним блоком питания мощностью 400 Вт с сертификатом 80 Plus Gold, тогда как модификация 1U4LW-C262/2L2T RPSU получила два блока на 450 Вт с сертификатом 80 Plus Platinum. Используется воздушное охлаждение; диапазон рабочих температур — от +10 до +35 °C. Габариты серверов составляют 533,4 × 482,6 × 44,4 мм.

Кроме того, компания ASRock Rack анонсировала ряд материнских плат под процессоры Xeon E-2400. Это изделия EC266D2I, EC266D2I-2T/AQC, EC266D4U2-2L2Q/E810, EC266D4U-2L2T, EC2660D4-4L и EC266D4ID-2T/X550. Все они построены на чипсете Intel C266. В зависимости от версии использован форм-фактор mini-ITX, Micro-ATX, АТХ или Deep mini-ITX. Поддерживается работа с памятью DDR5-4400 и картами PCIe 5.0 x16.

Компания Giga Computing (Gigabyte) анонсировала новые серверы типоразмера 1U, предназначенные для периферийных вычислений, веб-хостинга и бизнес-приложений. В основу новинок положены процессоры Intel Xeon E-2400, насчитывающие до восьми вычислительных ядер (показатель TDP — до 95 Вт).

В частности, дебютировала модель E133-X10 уменьшенной глубины. Это решение ориентировано на edge-задачи. Устройство может применяться в помещениях с ограниченным пространством. Сервер допускает установку двух карт FHFL PCIe 5.0 x16/8 и одной карты FHHL PCIe 4.0 x4, двух накопителей SFF с интерфейсом SATA-3 и SSD формата M.2 с интерфейсом PCIe 4.0 x4.

Кроме того, анонсированы серверы R133-X10, R133-X11 и R133-X13. Они различаются организацией подсистемы хранения данных на основе накопителей SFF, LFF и М.2, а также возможностями в плане установки карт расширения (см. таблицу с характеристиками ниже). Все перечисленные устройства комплектуются двумя блоками питания мощностью 550 Вт с сертификатом 80 Plus Platinum или 800 Вт с сертификатом 80 Plus Platinum/Titanium.

Источник изображений: Gigabyte

Представлены также серверы R123-X00 и R113-X30 с возможностью установки одной карты FHHL PCIe 5.0 x16 и SSD формата M.2 с интерфейсом PCIe 4.0 x4. Первая из этих моделей поддерживает четыре накопителя SFF/LFF с интерфейсом SATA-3, вторая — два. Кроме того, R123-X00 может нести на борту две LP-карты PCIe 4.0 x4. Установлен блок питания на 400 Вт с сертификатом 80 Plus Gold.

Все новинки оснащены контроллером ASPEED AST2600, двумя сетевыми портами 1GbE (версия R133-X11 имеет дополнительно два порта 10GbE), четырьмя слотами для модулей оперативной памяти DDR5-4400 ECC / non-ECC UDIMM, портами USB 3.2 Gen1 и Mini-DP. Применено воздушное охлаждение.

Компания MSI анонсировала серверы S1205 и S2205, предназначенные для выполнения ресурсоёмких задач, в том числе связанных с приложениями ИИ, базами данных и НРС. В основу устройств легла новейшая аппаратная платформа Intel с процессорами Xeon Emerald Rapids.

Модель S1205 выполнена в форм-факторе 1U. Возможная установка двух чипов Xeon Emerald Rapids, насчитывающих до 32 ядер (TDP — до 205 Вт). Во фронтальной части расположены 12 отсеков для SFF-накопителей (NVMe) с возможностью горячей замены. Предусмотрены два слота PCIe 4.0 x16 и один слот PCIe 3.0 x16 для низкопрофильных карт расширения. Задействованы два блока питания мощностью 1300 Вт.

Источник изображений: MSI

Серверы S2205 типоразмера 2U могут нести на борту два процессора с 60 ядрами и величиной TDP до 350 Вт. Реализованы различные варианты организации подсистемы хранения, включая 24 фронтальных отсека для SFF-накопителей U.2 NVMe или 12 отсеков для устройств LFF/SFF NVMe/SATA. Имеются три разъёма PCIe 4.0 x16 и четыре разъёма PCIe 4.0 x8 для карт полной высоты. За питание отвечают два блока мощностью 2000 Вт.

Все серверы располагают 32 слотами для модулей DDR5-5600 RDIMM/3DS, сетевым портом управления 1GbE RJ-45 (Realtek RTL8211FD-CG PHY), двумя опциональными портами 1GbE RJ-45 (Intel i350AM2), контроллером Aspeed AST2600, двумя коннекторами M.2 22110/2280 (PCIe 3.0 x2), двумя портами USB 2.0 и интерфейсом D-Sub. Применена система воздушного охлаждения. Габариты младшей версии составляют 438 × 43,2 × 770 мм, старшей — 438 × 87 × 770 мм.

Компания Omdia подвела итоги исследования мирового рынка серверов в III квартале 2023 года: продажи сократились и в денежном, и в штучном выражении. Аналитики связывают отрицательную динамику с макроэкономическими препятствиями, изменением инвестиционных приоритетов и трансформацией отрасли дата-центров на фоне стремительного развития ИИ.

По оценкам, с июля по сентябрь включительно выручка от поставок серверов составила $25,5 млрд. Это на 7 % меньше по сравнению с результатом за III четверть прошлого года. В штучном выражении продажи рухнули на 26 %.

Источник изображения: Google

Аналитики указывают на резкое снижение спроса на серверы общего назначения — прежде всего в корпоративном сегменте и среди поставщиков услуг связи. Срок полезного использования серверов находится на рекордно высоком уровне: компании продолжают эксплуатировать серверы 7-летней давности и откладывают обновление парка оборудования.

Вместе с тем среди операторов облачных платформ и ЦОД растёт потребность в дорогостоящих серверах для задач ИИ: это, в частности, системы, оборудованные ускорителями NVIDIA. По данным OEM-производителей, время выполнения заказов на серверы, оснащённые решениями NVIDIA H100, растягивается на 36–52 недели. NVIDIA поставила почти 500 тыс. ускорителей H100 и A100 в III квартале 2023 года, а в IV квартале эта цифра, как считает Omdia, преодолеет отметку в полмиллиона.

По итогам III четверти 2023-го крупнейшими поставщиками серверов в денежном выражении стали Dell Technologies (14 %), Inspur (12 %), НРЕ (9 %), Supermicro (7 %) и Huawei (6 %). Согласно предварительным оценкам, поставки серверов за 2023 год в целом составят 11,4 млн единиц, что будет соответствовать падению на 19 % по сравнению с 2022-м. В 2027-м, как прогнозируется, объём рынка достигнет $195,6 млрд.

Компания «Аквариус», российский производитель оборудования корпоративного класса, анонсировала серверы семейства Aquarius T50 AC, которые, по словам создателей, подойдут корпоративным заказчикам, провайдерам услуг и HPC-площадкам. В основу устройств легли процессоры Intel Xeon Ice Lake-SP.

Дебютировали модели Aquarius T50 D110AC, Aquarius T50 D120AC, Aquarius T50 D212AC и Aquarius T50 D224AC. Они предназначены для решения широкого круга задач, таких как виртуализация, построение гиперконвергентных и облачных сред, развёртывание СУБД, а также сервисов хранения и обработки информации.

Пока полностью раскрываются характеристики флагмана серии — сервера Aquarius Т50 D110AC. Эта модель в форм-факторе 1U использует материнскую плату на чипсете C621 с возможностью установки двух процессоров Xeon Ice Lake-SP с показателем TDP до 270 Вт. Доступны 32 слота для модулей DDR4-3200 RDIMM (до 8 Тбайт). Во фронтальной части расположены 10 отсеков для SFF-накопителей SAS/SATA/NVMe с горячей заменой. Кроме того, есть два коннектора для SSD формата M.2 2280/22110 с интерфейсом SATA или PCIe 3.0 x2. Поддерживаются массивы SATA RAID 0, 1, 5, 10. Возможно использование двух GPU-ускорителей.

Источник изображений: «Аквариус»

Два слота OCP 3.0 позволяют устанавливать дополнительные сетевые адаптеры. В оснащение входит контроллер Aspeed AST 2500. Предусмотрены по два порта USB 2.0 Type-C и USB 3.0 Type A, последовательный порт и интерфейс D-Sub. Применено воздушное охлаждение с восемью двухроторными вентиляторами с ШИМ-управлением. Питание обеспечивают два блока мощностью 1600 или 2000 Вт. Габариты составляют 44 × 483 × 774 мм, вес — около 30 кг.

Все новинки получили систему удалённого управления и мониторинга «Командир», разработанную инженерами «Аквариуса». Она позволяет осуществлять интеграцию с системами централизованного мониторинга и управления посредством Redfish, SNMPv3 и IPMI 2.0. Сервер Aquarius Т50 D110AC внесён в Единый реестр российской радиоэлектронной продукции Минпромторга России с присвоенным номером 4746\2\2023. На все продукты предоставляется базовая трёхлетняя гарантия.

Компания Supermicro анонсировала серверы AS-8125GS-TNMR2, AS-4145GH-TNMR и AS-2145GH-TNMR, предназначенные для задач НРС и ИИ, в том числе для обучения больших языковых моделей (LLM). Новинки выполнены на аппаратной платформе AMD и оборудованы ускорителями серии Instinct MI300.

Модель AS-8125GS-TNMR2 соответствует типоразмеру 8U. Она оснащена двумя процессорами AMD EPYC Genoa с показателем TDP до 400 Вт и восемью ускорителями Instinct MI300X со 192 Гбайт памяти HBM3. Объём оперативной памяти DDR5-4800 RDIMM/LRDIMM может достигать 6 Тбайт (24 слота). Доступны 18 отсеков для SFF-накопителей NVMe/SATA и коннектор M.2 NVMe. Предусмотрены восемь слотов для карт PCIe 5.0 x16 LP и два слота для карт PCIe 5.0 x16 FHFL. Задействована система воздушного охлаждения. Питание обеспечивают шесть или восемь блоков мощностью 3000 Вт с сертификатом 80 Plus Titanium.

Источник изображений: Supermicro

Серверы AS-4145GH-TNMR и AS-2145GH-TNMR выполнены в форм-факторе 4U и 2U соответственно. Первый наделён системой воздушного охлаждения, второй — жидкостного. При этом оба получили четыре чипа Instinct MI300A (24 ядра EPYC Genoa, ускоритель CDNA 3 и 128 Гбайт памяти HBM3).

Устройство AS-4145GH-TNMR располагает 24 отсеками для накопителей SFF NVMe/SAS/SATA с возможностью горячей замены и двумя разъёмами для модулей M.2 NVMe или SATA. Есть шесть слотов PCIe 5.0 x16 FHHL и два разъёма PCIe 5.0 x16 AIOM. Задействованы четыре блока питания на 1600 Вт с сертификатом 80 Plus Titanium.

Сервер AS-2145GH-TNMR получил восемь посадочных мест для накопителей SFF NVMe/SAS/SATA и два разъёма для SSD M.2 NVMe или SATA. Доступны четыре слота PCIe 5.0 x16 FHHL и два слота PCIe 5.0 x16 AIOM. За питание отвечают четыре блока на 1600 Вт с сертификатом 80 Plus Titanium.

Компания Giga Computing (Gigabyte) анонсировала серверы G383-R80, G593-ZX1 и G593-ZX2 на аппаратной платформе AMD, предназначенные для решения ресурсоёмких задач: это могут быть приложения ИИ и HPC. Все новинки оборудованы ускорителями серии Instinct MI300.

Модель G383-R80, выполненная в формате 3U, несёт на борту четыре чипа Instinct MI300A (24 ядра EPYC Genoa, ускоритель CDNA 3 и 128 Гбайт памяти HBM3). Во фронтальной части расположены 8 отсеков для SFF-накопителей NVMe SSD.

Источник изображений: Gigabyte

Могут быть задействованы до 12 слотов расширения для карт FHFL с интерфейсом PCIe 5.0. Есть слот для SSD стандарта М.2 2280/22110 с интерфейсом PCIe 5.0 x4, два сетевых порта 10GbE (Broadcom BCM57416), выделенный порт управления 1GbE, контроллер Aspeed AST2600, два порта USB 3.2 Gen1 и разъём D-Sub. Питание обеспечивают четыре блока мощностью 2200 Вт каждый с сертификатом 80 Plus Titanium.

Серверы G593-ZX1 и G593-ZX2, в свою очередь, имеют типоразмер 5U. Они комплектуются двумя процессорами AMD EPYC Genoa с показателем TDP до 300 Вт и восемью ускорителями Instinct MI300X OAM со 192 Гбайт памяти HBM3. Для модулей ОЗУ стандарта DDR5-4800 доступны 24 разъёма. Спереди находятся восемь отсеков для SFF-накопителей NVMe SSD.

Эти серверы оборудованы двумя слотами для SSD формата М.2 2280/22110 с интерфейсом PCIe 3.0 (по одному х1 и х4), двумя портами 10GbE (Intel X710-AT2), выделенным сетевым портом управления 1GbE, контроллером Aspeed AST2600, двумя портами USB 3.2 Gen1 и разъёмом D-Sub. Предусмотрены четыре слота PCIe 5.0 x16 для карт FHHL и восемь слотов PCIe 5.0 x16 для LP-карт. Версия G593-ZX1 получила восемь root-портов, модель G593-ZX2 — четыре. Установлены шесть блоков питания на 3000 Вт с сертификатом 80 Plus Titanium.