Компании ZutaCore, Hon Hai Technology Group (Foxconn) и SoftBank объявили о внедрении двухфазной технологии прямого жидкостного охлаждения (DLC) в ИИ-сервер с ускорителями NVIDIA H200. Утверждается, что это первая подобная реализация на рынке.

Двухфазная DLC-система ZutaCore служит для отвода тепла от CPU, GPU, микросхем памяти и других критичных компонентов в серверах. Данное решение по сравнению с традиционными средствами охлаждения позволяет снизить энергопотребление дата-центра и повысить общую эффективность. В результате сокращаются выбросы вредных газов в атмосферу.

Система ZutaCore использует специальную охлаждающую пластину, которая находится в контакте с CPU, GPU и другими элементами сервера с большим тепловыделением. Применяется диэлектрическая жидкость с низкой температурой кипения: при нагреве происходит фазовый переход из жидкого в газообразное состояние. Эффективное охлаждение достигается благодаря многократному испарению и конденсации.

Источник изображений: ZutaCore

При этом температура жидкости может поддерживаться на более высоком уровне, чем в обычных системах с водяным охлаждением, что повышает эффективность отвода тепла, говорится в пресс-релизе. Кроме того, снижается нагрузка на насос, что способствует сокращению энергопотребления. Использование диэлектрического состава предотвращает серьезные повреждения сервера в случае протечки.

В рамках партнёрства Foxconn разработала ИИ-сервер на базе NVIDIA H200 с двухфазной DLC-системой ZutaCore. В свою очередь, SoftBank создала серверную стойку, предназначенную для максимально эффективного охлаждения оборудования посредством двухфазной DLC-технологии. Эта ORv3-стойка совместима с 21″ и 19″ серверами. Источники питания и основная проводка сосредоточены в задней части для обеспечения безопасности эксплуатации и повышения удобства обслуживания.

Компания MikroTik анонсировала необычную стоечную систему RDS2216, которая фактически объединяет несколько устройств в корпусе формата 1U. Новинка может выполнять функции сервера с архитектурой Arm, сетевого хранилища данных (NAS) и коммутатора.

В основу решения положен процессор Annapurna Labs AL73400 (AWS Graviton). Чип объединяет 16 Armv8-ядер Cortex-A72 с частотой до 2 ГГц. В оснащение входят 32 Гбайт оперативной памяти DDR4 и 128 Мбайт флеш-памяти NAND. Задействован коммутационный чип Marvell Prestera 98DX4310 с частичной L3-разгрузкой.

Источник изображений: MikroTik

Система располагает двумя портами 10GbE с разъёмами RJ45, четырьмя портами SFP28 25GbE, двумя портами QSFP28 100GbE, а также четырьмя 10GbE-портами SFP+. Плюс к этому предусмотрены разъём 1GbE и консольный порт (RJ45). Имеются два порта USB 3.0 Type-A, а также пара SFF-8644. Сервер может нести на борту до 20 накопителей U.2 NVMe толщиной 7 мм (PCIe 3.0 x2) и поддержкой TCG OPAL. Кроме того, могут быть установлены два внутренних модуля М.2 с интерфейсом SATA.

Питание обеспечивают два блока с возможностью горячей замены, а за охлаждение отвечают десять вентиляторов. Диапазон рабочих температур простирается от -20 до +50 °C. В качестве программной платформы применяется RouterOS v7 (Special ROSE Edition). Эта система поддерживает такие функции, как шифрование данных, моментальные снимки, сжатие и совместное использование хранилища по протоколам NFS, iSCSI, SMB, NVMe/TCP. Устройство выполнено в оригинальном оливковом цвете. В продажу MikroTik RDS2216 поступит по ориентировочной цене $1950 без установленных накопителей.

Компания Cisco анонсировала сервер UCS C845A M8 для рабочих нагрузок ИИ, построенный на модульной архитектуре NVIDIA MGX. Устройство поддерживает установку от двух до восьми ускорителей NVIDIA H200 NVL, H100 NVL и L40S), а также адаптеров NVIDIA BlueField-3 SuperNIC и ConnectX-7.

Новинка выполнена в форм-факторе 4U с применением аппаратной платформы AMD EPYC 9005 Turin: максимальная конфигурация включает два 96-ядерных процессора EPYC 9655. Доступны 32 слота для модулей DDR5-4400/5200. Система может нести на борту два загрузочных SSD формата M.2 с интерфейсом SATA вместимостью 960 Гбайт каждый, а также до 20 накопителей E1.S NVMe.

Предусмотрены пять слотов PCIe 5.0 x16 для сетевых 400G-адаптеров типоразмера FHHL: один для внешней сети, четыре для внутренней сети кластера. Задействовано воздушное охлаждение. За питание отвечают четыре блока мощностью 3200 Вт с возможностью горячей замены. Имеется слот OCP 3.0 под сетевую карту Intel X710-DA2 с двумя портами 10GbE для управления.

По заявлениям Cisco, при разработке модели UCS C845A M8 особое внимание было уделено конструкции системы: говорится об улучшенной прокладке кабелей для оптимального воздушного потока и упрощении обслуживания, включая замену компонентов.

Источник изображения: Cisco

В зависимости от количества установленных GPU и объема памяти сервер подходит для решения таких задач, как обучение и тонкая настройка ИИ-моделей, аналитика и визуализация данных, приложения НРС, проектирование и моделирование, обработка естественного языка, разговорный ИИ, рендеринг, облачные приложения и пр. В качестве потенциальных покупателей названы крупные предприятия, научно-исследовательские институты, государственные учреждения и облачные провайдеры.

Компания Eviden, входящая в Atos Group, анонсировала серверы семейства Bullsequana SH, построенные на процессорах Intel Xeon 6 семейства Granite Rapids-SP. По заявлениям разработчика, новые машины по сравнению с системами предыдущего поколения обеспечивают рост производительности в 1,5 раза и увеличение пропускной способности памяти в 1,7 раза.

В серию вошли модели BullSequana SH21, SH41, SH81 и SH161 в форм-факторе 2U, 4U, 8U и 19U соответственно. Основой служат двухсокетные 2U-узлы, количество которых составляет один, два, четыре и восемь. Таким образом, общее число процессоров Xeon 6 в составе систем варьируется от 2 до 16. Поддерживаются чипы Xeon 6500P и 6700P, насчитывающие до 86 вычислительных ядер. Таким образом, количество ядер в одной системе может достигать 1376, а потоков — 2752.

Узлы SH21, SH41 и SH81 напрямую объединяются между собой посредством Intel UPI 2.0 (24 ГТ/с), а вот для SH161 уже используется UPI-коммутатор UBox на базе ASIC, который позволяет объединить 16 сокетов в кеш-когерентную SMP-систему (CC-NUMA). Также есть 38U-модель BullSequana SH321 с 16 узлами и двумя коммутаторами UBox, но топология объединения узлов для неё не уточняется.

Источник изображения: Eviden

Каждый из 2U-узлов в составе новых серверов имеет 32 слота для модулей оперативной памяти DDR5 RDIMM или DDR5 RDIMM-3DS. Максимально поддерживаемый объём ОЗУ варьируется от 8 до 64 Тбайт. В расчёте на узел доступны до шести слотов PCIe 5.0 x8 и два разъёма PCIe 5.0 x16 или до пяти слотов PCIe 5.0 x16. Поддерживаются адаптеры 1/10/25/100/200/400GbE и FC32/64. На каждый узел доступны два коннектора M.2 для NVMe SSD с опциональным RAID 0/1. Опциональный модуль SSD Box допускает подключение от восьми до 64 NVMe-накопителей E1.S с возможностью горячей замены. Кроме того, может быть добавлен адаптер для формирования массивов RAID 0/1/5/6/00/10/50/60.

Источник изображения: Eviden

Серверы комплектуются блоками питания с сертификатом 80 PLUS Titanium мощностью 2200 или 3000 Вт. Каждый узел оснащается 12 вентиляторами охлаждения. Присутствуют контроллер Aspeed AST2600, сетевой порт управления 1GbE, два порта USB 3.1, последовательный порт и интерфейс D-Sub. Диапазон рабочих температур — от +10 до +35 °C. Заявлена совместимость с платформами SuSE Linux Enterprise Server, Red Hat Enterprise Linux, VMware vSphere (ESXiTM), Windows Server и Oracle Linux.

Серверы Bullsequana SH ориентированы на корпоративных заказчиков, поставщиков облачных услуг и гиперскейлеров. Благодаря модульной конструкции обеспечивается гибкость масштабирования при решении задач НРС и ИИ. В качестве опции доступна технология прямого жидкостного охлаждения Eviden DLC: она, как утверждается, обеспечивает как минимум 10-% снижение потребления энергии по сравнению с воздушным охлаждением, а температуры воды на входе может достигать +40 °C. Устройства производятся на заводе Eviden в Анже (Франция) и обеспечиваются трёхлетней гарантией.

AMD ведёт переговоры о продаже производственных мощностей поставщика оборудования для гиперскейлеров ZT Systems, приобретённого за $4,9 млрд в августе прошлого года. Об этом сообщило агентство Bloomberg, по данным источников которого заинтересованность к покупке активов проявили тайваньские компании Compal, Inventec, Pegatron и Wistron. Стоимость сделки с учётом долга может составить $3–$4 млрд.

По словам источников, о сделке могут объявить во II квартале. AMD изначально планировала продать производственные объекты ZT Systems, расположенные в Нью-Джерси и Техасе, поскольку не собирается создавать конкуренцию в этом бизнесе своим клиентам, таким как Dell и HPE. На продажу этих активов AMD отвела 12–18 месяцев после закрытия сделки по покупке ZT Systems.

Аналитики Bloomberg Intelligence ранее подсчитали, что производственное подразделение AMD может уйти за $1,5–$3 млрд. Но стоимость сделки может быть выше, чем предполагалось ранее. Взвинчиванию цены способствует высокий спрос на ИИ-серверы, а также неопределённость с пошлинами, которые могут быть установлены новой администрацией США на импорт оборудования из Азии. Чтобы избежать пошлин и ограничений на импорт, а также других мер Белого дома, направленных на возвращение технологического производства в США, потенциальные покупатели могут согласиться на более высокую цену за активы, расположенные в стране.

Источник изображения: ZT Systems

Тайваньские производители уже увеличили свое присутствие в Северной Америке, особенно в Мексике, где Foxconn, например, занимается сборкой серверов ИИ, а также строит крупнейший в мире завод по упаковке суперчипов NVIDIA GB200. Однако после победы Трампа на президентских выборах компании изменили стратегию. Foxconn приобрела в ноябре землю в США под новое производство, а совет директоров ее тайваньского конкурента Quanta Computer одобрил увеличение уставного капитала своего американского подразделения на $230 млн.

Ряд тайваньских производителей электроники, в том числе серверов, по информации Reuters, намерены увеличить инвестиции в развитие своих объектов на территории американского штата Техас. Предполагается, что о соответствующих инициативах будет объявлено в мае, что совпадет с первыми 100 днями пребывания президента США Дональда Трампа (Donald Trump) у власти.

Трамп раскритиковал Тайвань за перетягивание бизнеса по производству полупроводниковых чипов у США. Американский президент пригрозил пошлинами для торговых партнёров, что может нанести удар по Тайваню. На этом фоне президент Тайваня Лай Циндэ (Lai Ching-te) пообещал нарастить капиталовложения в проекты в США.

В свою очередь, Ричард Ли (Richard Lee), председатель Ассоциации производителей электротехники и электроники Тайваня (TEEMA), сообщил, что власти Техаса проявляют активность в привлечении инвестиций от тайваньских компаний. По его словам, сразу несколько тайваньских поставщиков ИИ-серверов намерены расширить производственные мощности в Техасе.

Источник изображения: unsplash.com / Tyler

В частности, Foxconn, крупнейший в мире контрактный производитель электроники и основной поставщик Apple и NVIDIA, заявил, что одна из его дочерних компаний потратила $33 млн на приобретение земли и промышленных зданий в округе Харрис (Harris) в Техасе. Тайваньские Compal и Inventec, которые также производят ИИ-серверы, планируют расширить присутствие в США, и Техас рассматривается в качестве одного из наиболее предпочтительных вариантов для развёртывания производства.

Inventec принадлежала доля в ZT Systems, американском разработчике и производителе серверов для гиперскейлеров. AMD купила ZT Systems в прошлом году, намереваясь со временем продать производственное направление купленной компании, чтобы не конкурировать с собственными клиентами. Одна из новых производственных площадок ZT Systems как раз находится в Техасе.

Недавние достижения в сфере ИИ обострили конкуренцию между ключевыми мировыми игроками, особенно после премьеры модели Grok 3, представленной xAI Илона Маска (Илон Маск) и претендующей на роль самой производительной в мире на сегодняшний день. Эксперты предполагают, что её запуск станет катализатором для роста продаж ИИ-серверов, сообщает DigiTimes.

Команда разработчиков xAI подчеркнула, что передовые ИИ-модели для эффективного инференса требуют не менее производительных ускорителей, чем для обучения. Работа новых ИИ-моделей предусмотрена на платформах NVIDIA GB200 и GB300, которые будут играть решающую роль в изменении «ландшафта» современного искусственного интеллекта. Вариант GB300 должны представить в конце 2025 года.

По мнению представителей Foxconn, успех DeepSeek сделал процесс обучения моделей более демократичным. Это означает не только то, что обучение ИИ будет требовать меньше ресурсов и, следовательно, серверов, но и то, что спрос должен вырасти. Теперь серверы будут востребованы не только у классических облачных провайдеров и операторов HPC-систем, но и у компаний среднего размера — благодаря этому востребованность оборудования только вырастет.

Источник изображения: Mariia Shalabaieva/unsplash.com

Уже сообщалось об ограниченных поставках GB200 в IV квартале 2024 года, но полномасштабное производство должно начаться только к концу I квартала 2025 года. В Quanta ожидают «трёхзначного» роста продаж ИИ-серверов в процентном отношении в 2025 году. Wistron тоже прогнозирует, что продажи ИИ-серверов сохранят в 2025 году «трёхзначный» рост, как и ожидалось ранее. Компания поставляет серверные стойки Dell и материнские платы Supermicro, обе продают серверы xAI.

Источники в индустрии рассказывают о сохранении устойчивого спроса на ИИ-платформы, включая GB200. Также отмечаются активные поставки ускорителей H100. Как скажется выход на рынок GB300 в конце 2025 года, пока неизвестно. Хотя серверы на базе ASIC-ускорителей привлекли внимание после премьеры Deep Seek, эксперты уточняют, что они скорее дополняют, а не заменяют серверы с классическими ускорителями. ASIC предлагают больше возможностей кастомизации, что позволяет им справляться с некоторыми пользовательскими задачами более эффективно.

Так или иначе, есть и другие мнения относительно будущего рынка ИИ-серверов. Буквально на днях появилась информация о том, что эксперты прогнозируют охлаждение соответствующего рынка в 2025 году.

Компания Lenovo, по сообщению ресурса ServeTheHome, готовит обновлённые серверы семейства ThinkSystem, в основу которых лягут процессоры семейства Intel Xeon E-6300, ещё не представленные официально. В частности, такими чипами будут комплектоваться модели ThinkSystem ST250 V3, ThinkSystem ST50 V3 и ThinkSystem SR250 V3.

ThinkSystem ST250 V3 — сервер башенного типа, поддерживающий установку одного процессора. Доступны различные варианты организации подсистемы хранения данных на основе накопителей LFF и SFF с интерфейсом SATA/SAS. Присутствуют слоты PCIe 5.0 x16, PCIe 4.0 x8 и PCIe 4.0 x4. Может использоваться ускоритель NVIDIA Quadro T1000 или Quadro T400. Поддерживается до 128 Гбайт памяти TruDDR5-4400 в четырёх слотах. Предусмотрены два сетевых порта 1GbE, а также выделенный порт управления 1GbE. Устройство ориентировано прежде всего на небольшие компании и филиалы организаций. Допускается монтаж в стойку в горизонтальной ориентации.

Источник изображений: Lenovo

Однопроцессорный сервер ThinkSystem ST50 V3 также имеет башенное исполнение. Эта компактная модель начального уровня предназначена для работы с бизнес-приложениями. Утверждается, что устройство хорошо подходит для установки за пределами традиционных дата-центров. Характеристики включают поддержку до 128 Гбайт памяти TruDDR5-4400, один слот PCIe 5.0 x16, два слота PCIe 4.0 x4, два коннектора M.2, три отсека для накопителей LFF и один отсек для накопителя SFF, два порта 1GbE и порт управления 1GbE.

Наконец, однопроцессорный сервер ThinkSystem SR250 V3 типоразмера 1U предлагает оптимальное соотношение цены и производительности для небольших компаний, говорит Lenovo. Устройство может нести на борту максимум 128 Гбайт памяти TruDDR5-4800. Доступны различные конфигурации с накопителями LFF/SFF с интерфейсом SAS/SATA.

Стартап xAI, курируемый Илоном Маском (Elon Musk), по сообщению ресурса The Information, рассматривает возможность строительства второго крупного дата-центра для ИИ-нагрузок. Вместе с тем в распоряжении Bloomberg оказались сведения о том, что xAI может закупить ИИ-серверы у Dell на сумму в $5 млрд.

Первым ЦОД компании xAI стала площадка в Мемфисе (Теннесси, США), где располагается ИИ-суперкомпьютер Colossus, запущенный в сентябре прошлого года. Первая очередь системы получила 100 тыс. ускорителей NVIDIA H100, а в дальнейшем количество карт NVIDIA планировалось увеличить вдвое. Позднее xAI получила $6 млрд инвестиций: деньги компания намерена направить на то, чтобы довести число ускорителей в составе Colossus до 1 млн штук.

Где именно может расположиться второй дата-центр xAI, не уточняется. Известно, что для финансирования своих масштабных проектов xAI ведёт переговоры о привлечении $10 млрд: в ходе этого раунда стартап может получить оценку на уровне $75 млрд. Средства могут поступить в том числе от существующих инвесторов — Sequoia Capital, Andreessen Horowitz и Valor Equity Partners.

Источник изображения: Майкл Делл

Что касается сделки с Dell, то переговоры якобы находятся на «продвинутой стадии», но окончательное решение пока не принято. Речь идёт о закупке машин на базе NVIDIA GB200. В декабре 2024-го сообщалось, что xAI начала монтаж суперускорителей GB200 NVL72 для ИИ-кластера Colossus: предположительно, поставщиком систем является именно Dell. Кроме того, ранее стало известно, что Dell перехватила у Supermicro крупный заказ на ИИ-серверы для xAI. Таким образом, вероятность заключения контракта на $5 млрд между xAI и Dell весьма высока. Предполагается, что Dell сможет поставить серверы в рамках этого соглашения до конца текущего года.

Технологические санкции США и подготовка цепочки поставок к поступлению на рынок новейшего оборудования NVIDIA, вероятно, приведут к снижению объёмов продаж ИИ-серверов в 2025 году, сообщает The Register со ссылкой на мнение независимых экспертов. Так, TrendForce сообщает, что поставки ИИ-серверов в прошлом году выросли на 46 %, преимущественно благодаря заказам провайдеров облачных сервисов (CSP). В частности, производитель серверов Foxconn объяснил недавний рекордный рост выручки именно продажами ИИ-серверов.

При этом в TrendForce рассматривают несколько вариантов развития событий на рынке серверов в 2025 году из-за неопределённости, царящей в нише ИИ-решений. Наиболее вероятным считается дальнейшее расширение рынка, но с более низким годовым приростом. Впрочем, даже в таких условиях он может превысить 30 % — Microsoft, Meta✴, Amazon и Google намерены увеличить капитальные затраты на ИИ-инфраструктуру. Как ожидается, это будет способствовать поддержке спроса на ИИ-серверы.

Наихудшим сценарием, по оценке TrendForce, причём следующим по вероятности, является рост поставок ИИ-серверов до «всего» 20–25 %. Этот прогноз учитывает ужесточение США экспорта ИИ-чипов в Китай, что создаёт большую неопределённость на рынке. Кроме того, не исключены задержки поставок стоечных решений NVIDIA на основе суперчипов Grace Blackwell — их структура довольно сложна, поэтому масштабное развёртывание откладывается на II половину года.

Источник изображения: Foxconn

Более оптимистичный сценарий предполагает, что масштабные проекты в Китае и США (например, Stargate) помогут ускоренному развёртыванию ИИ-серверов. Кроме того, хотя триумф DeepSeek может негативно повлиять на необходимость внедрения большого количества ИИ-ускорителей, он же способен расширить применение искусственного интеллекта, стимулируя рост ИИ на периферии. При удачном стечении обстоятельств поставки ИИ-серверов вырастут в 2025 году почти на 35 %.

Недавно глава IBM Арвинд Кришна (Arvind Krishna) уже предсказал, что использование аналогичных решениям DeepSeek экономичных и эффективных технологий не только не приведёт к падению рынка, но, наоборот, значительно увеличит использование оборудования после снижения «порога входа» для применения ИИ-моделей. Схожей позиции придерживаются инвесторы в ИИ-инфраструктуру вроде Blackstone и Brookfield, ожидающие, что спрос на ЦОД и оборудование не уменьшится.

В TrendForce ожидают, что влияние DeepSeek будет способствовать переходу облачных операторов на недорогие чипы собственной разработки, поскольку акцент в последнее время смещается с обучения ИИ на инференс. В результате серверы, оптимизированные для запуска моделей, займут большую часть рынка. Вероятно, рынок серверов станет более сегментированным, поскольку крупные облачные игроки продолжат инвестиции в высокопроизводительные решения, а корпоративные заказчики будут отдавать предпочтение более экономичным альтернативам.