Как правило, флагманские GPU-серверы сегодня используют модули ускорителей, выполненные либо в форм-факторе SXM (NVIDIA), либо OAM (все остальные). Такая компоновка помогает бороться с огромным тепловыделением, но в силу конструкции самих модулей не обеспечивает максимальной вычислительной плотности, поэтому каждый такой сервер вмещает не более восьми ускорителей. Компания Supermicro выбрала другой путь и анонсировала 3U-платформу SYS-322GB-NR, способную вместить до 18 ускорителей.

Источник изображений: Supermicro

Разработчикам SYS-322GB-NR удалось довести количество полноразмерных двухслотовых ускорителей в одном шасси до 10, а при использовании плат одинарной толщины — до 18. Этого достаточно для обработки серьёзных LLM-нагрузок, систем визуализации, VDI-платформ и т.д.

Компания не говорит о том, какие именно ускорители поддерживаются новинкой, упоминая только имена NVIDIA и AMD. В случае с NVIDIA, вероятно, речь идёт о картах L4, которые являются универсальными ускорителями с неплохой производительностью — 242 Тфлопс в формате FP16, 485 Топс в режиме INT8. Таким образом, 18 ускорителей способны в пределе обеспечить 4,35 Пфлопс или свыше 8,7 Петаопс. Помимо этого, L4 может обрабатывать 130 видеопотоков в формате AV1 с разрешением 720p30 и имеет 24 Гбайт видеопамяти с пропускной способностью 300 Гбайт/с.

Не вполне ясно, как в новинке организована коммутация PCI Express. Несмотря на использование двух процессоров Intel Xeon Granite Rapids (6900), их совокупные 192 линии PCIe 5.0 явно недостаточны для организации 20 слотов x16, а ведь ещё и накопители надо подключить. Возможно, система переводит слоты в режим x8, но, скорее всего, используются современные чипы-коммутаторы PCIe 5.0, например, XConn Apollo.

Система поддерживает установку до 6 Тбайт RAM, в том числе модулей MRDIMM DDR5-8800. Дисковая подсистема может вмещать 14 NVMe-накопителей в формате E1.S или шесть U.2 SSD. С учётом энергопотребления современных двухслотовых GPU, система питания должна способна обеспечивать мощность в районе 5,5 КВт.

Компании Fujitsu и Supermicro объявили о стратегическом сотрудничестве, направленном на разработку серверов следующего поколения для широкого спектра рабочих нагрузок — от ИИ и НРС до облачных и периферийных задач. Кроме того, партнёры займутся разработкой СЖО для дата-центров. Речь, в частности, идёт о создании серверов на Arm-процессорах Fujitsu MONAKA.

MONAKA будут изготавливаться по 2-нм технологии TSMC. Они получат до 144 ядер, а также 12 каналов оперативной памяти DDR5, интерфейсы PCIe 6.0 с CXL 3.0. Говорится об использовании архитектуры Armv9-A с поддержкой векторных расширений SVE2. Изделия проектируются с прицелом на двухсокетные системы. Упомянуты возможность применения воздушного охлаждения и высокая энергетическая эффективность.

Выпуск чипов запланирован на 2027 год. На тот момент, как утверждает Fujitsu, эти решения будут демонстрировать двукратное превосходство по показателю производительности на Ватт над конкурирующими серверными процессорами. Разработка MONAKA является частью проекта, курируемого Японской Организацией по развитию новых энергетических и промышленных технологий (NEDO).

Источник изображений: Fujitsu

В рамках партнёрства Fujitsu и Supermicro объединят свои технические возможности и опыт для создания серверов, оптимизированных для различных нагрузок. Отмечается, в частности, что подход Supermicro Building Block к проектированию платформ позволяет быстро создавать и сертифицировать широкий спектр систем для ИИ, HPC и вычислений общего назначения в облачных средах и на периферии. Клиенты смогут выбирать системные компоненты, оптимизированные для их рабочих нагрузок и приложений. Помимо этого, компании сосредоточатся на экологически чистых IT-решениях в области СЖО стоечного масштаба.

Сотрудничество также распространится на Fsas Technologies — дочернюю структуру Fujitsu. Эта компания будет поставлять в глобальном масштабе решения для генеративного ИИ на базе платформы, объединяющей серверы Supermicro с GPU-ускорителями и услуги развёртывания для операторов ЦОД и предприятий.

Компания Delta Computers, российский производитель IT-оборудования и поставщик ПО, анонсировала отечественный коммуникационный сервер для сетевых приложений Delta Octopus. На базе новинки, в частности, могут реализовываться межсетевые экраны нового поколения (NGFW), балансировщики сетевой нагрузки (Load Balancer), VPN-концентраторы, шлюзы BNG (Broadband Network Gateway), системы BRAS (Broadband Remote Access Server) и пр.

Сервер допускает установку процессоров Intel Xeon Emerald Rapids или Sapphire Rapids (до 64 ядер) с показателем TDP до 350 Вт. Поддерживается до 4 Тбайт оперативной памяти DDR5-5600 (16 слотов). Возможно использование до пяти сетевых адаптеров OCP 3.0 (PCIe 5.0), обеспечивающих пропускную способность до 400 Гбит/с. Количество линий на разъём не уточняется, у процессоров же есть 80 линий PCIe 5.0

Delta Octopus располагает модулем доверенной загрузки. Есть коннекторы для двух SSD формата M.2 (NVMe), интерфейсы 1GbE (RJ-45) и USB 3.0, а также консольный порт. Габариты составляют 630 × 439 × 43 мм, вес — 14 кг. Доступны модификации с возможностью подключения к шине питания напряжением 48 В телеком-стандарта (Telco Rack).

Источник изображений: Delta Computers

Система Delta Octopus может быть использована не только в серверных стойках стандартной монтажной ширины 19″, но и в 21″ OCP-шасси (со специальным переходником). Мониторинг и управление осуществляются с помощью собственного софта Delta BMC, а Delta BIOS отвечает за начальную инициализацию оборудования и загрузку ОС.

«Как и другие решения Delta Computers, платформа Delta Octopus появилась в ответ на существующую потребность рынка и, в частности, разработчиков ПО, являющихся нашими технологическими партнёрами. Delta Octopus представляет собой высокопроизводительную и современную технологическую платформу для использования современного сетевого программного обеспечения», — говорится в пресс-релизе.

За девять месяцев 2024 года в госсекторе России вдвое вырос год к году спрос на ИИ-серверы с ускорителями, затраты на закупки которых в ходе 30 тендеров составили 1,7 млрд руб., пишет «Коммерсантъ» со ссылкой на производителя вычислительной техники «Гравитон» (входит в структуру 3Logic Group). Для сравнения, за девять месяцев 2023 года, по данным «Гравитона», было проведено 16 таких тендеров по госзакупкам (по 223-ФЗ и 44-ФЗ) на сумму 930 млн руб.

По словам директора департамента серверных и сетевых систем «Гравитона» Александра Фильченкова, в госсекторе ИИ-технологии используются в первую очередь для интеллектуального анализа данных и в системах принятия решений. «Почти треть российских компаний заявили о планах внедрения ИИ в течение трёх лет, поэтому стоит ожидать дальнейшего роста спроса на это оборудование», — сообщил он.

Источник изображения: Fynephoqus / Unsplash

В апреле «Ведомости» отметили возросший спрос на аренду серверов для обучения моделей ИИ. По оценкам iKS-Consulting, выручка дата-центров от аренды ИИ-серверов в 2023 году составила 6,6 млрд руб., основными игроками были Cloud.ru, «Яндекс», «Крок», «МегaФон» и другие.

В числе сдерживающих факторов удовлетворения спроса отечественных компаний в «Гравитоне» назвали то, что серверы для работы с ИИ в основном основаны на ускорителях NVIDIA, ограничившей из-за санкций США доступ к своим технологиям. В связи с этим российские организации начали рассматривать сотрудничество с китайскими и отечественными разработчиками решений того же типа.

Тайваньская компания MiTAC Computing Technology, дочерняя структура MiTAC Holdings, объявила об интеграции серверного бренда TYAN с брендом MiTAC. С 1 октября 2024 года вся продукция будет выпускаться исключительно под маркой MiTAC. Кроме того, появятся новый логотип и обновленный официальный веб-сайт.

MiTAC вышла на рынок ODM-серверов в 1999 году. В 2007-м она расширила бизнес путём приобретения фирмы TYAN Computer: начался выпуск высокопроизводительных материнских плат и barebone-систем. После выделения подразделения облачных вычислений MiTAC в отдельный бизнес в 2014 году была сформирована компания MiTAC Computing Technology — в качестве дочерней структуры Mitac Holdings в составе группы MiTAC-Synnex Group.

Источник изображения: MiTAC

Президент MiTAC Computing Technology Рик Хван (Rick Hwang) отмечает, что хотя MiTAC и TYAN обслуживают разные сегменты рынка, их интеграция под одним брендом позволит оптимизировать стратегии дистрибуции и поможет укрепить рыночные позиции. В 2023 году MiTAC приобрела бизнес по производству серверов Intel, что, как отмечается, ещё больше усилит положение тайваньской компании в соответствующем сегменте.

Процесс консолидации брендов MiTAC и TYAN уже завершён. В обозримом будущем компания намерена развивать семейство серверов, ориентированных на ИИ-нагрузки, в том числе на генеративные. Путём унификации бренда MiTAC стремится улучшить обслуживание клиентов в различных отраслях.

«Сбер» назван владельцем самого большого парка вычислительных мощностей в России, сообщает портал «1 Прайм» со ссылкой на главу «Сбера» Германа Грефа, выступавшего на форуме «Микроэлектроника-2024». По словам последнего, бизнес компании стал главным потребителем микроэлектроники в России.

Как заявил Греф, в четырёх ЦОД размещено более 63 тыс. серверов различного назначения. Глава бизнес-структуры отметил, что «Сбер» стал и крупнейшим «потребителем» специалистов, связанных с микроэлектроникой.

По словам бизнесмена, консалтинговые компании прогнозируют дефицит специалистов в сфере микроэлектроники, который продлится до 2030 года, нехватка составит приблизительно миллион человек. По расчётам «Сбера», в России речь идёт о дефиците 50 тыс. человек, даже если плановый рост учтут при подготовке специалистов в вузах. Греф отметил, что сегодня управляемая им организация уже сотрудничает с кафедрами российских вузов, отбирая и помогая готовить талантливых специалистов, в том числе на практике.

Источник изображения: Сбер

Стоит отметить, что «Сбер» стал не только потребителем микроэлектроники, но и активно развивает собственное производство, а также занимается ключевым ПО. Например, только по последним данным компания организовала производство собственных серверов, намерена создать собственную ERP-систему как альтернативу SAP, а до конца года намерена полностью отказаться от иностранных СУБД на объектах критической инфраструктуры.

Американская компания Cloudflare, предоставляющая в числе прочего услуги CDN, анонсировала серверы 12-го поколения для своей инфраструктуры. В основу 2U-узлов легла аппаратная платформа AMD EPYC Genoa-X. По словам компании, новая платформа на 145 % производительнее и при этом на 63 % энергоэффективнее систем 11-го поколения.

Серверы имеют односокетное исполнение. Применён процессор EPYC 9684X с 96 ядрами (192 потока инструкций), работающий на базовой частоте 2,55 ГГц с возможностью повышения до 3,42 ГГц для всех ядер. Объём L3-кеша составляет 1152 Мбайт, а объём оперативной памяти DDR5-4800 в 12-канальной конфигурации составляет 384 Гбайт.

В оснащения входят два накопителя формата EDSFF E1.S (15 мм) с интерфейсом PCIe 4.0 х4 вместимостью 7,68 Тбайт каждый (Samsung PM9A3 и Micron 7450 Pro). Заявленная скорость последовательного чтения информации достигает 6700 Мбайт/с, скорость последовательной записи — 4000 Мбайт/с. Показатель IOPS (операций ввода/вывода в секунду) при произвольном чтении — до 1,0 млн, при произвольной записи — до 200 тыс. Изделия рассчитаны на одну полную перезапись в сутки (DWPD).

Источник изображений: Cloudflare

Серверы оснащены двумя 25GbE-адаптерами OCP 3.0 — Intel Ethernet Network Adapter E810-XXVDA2 и NVIDIA Mellanox ConnectX-6 Lx. Присутствуют контроллеры ASPEED AST2600 (BMC), AST1060 (HRoT), а также TPM-модуль. Примечательно, что все они, а также сдвоенные чипы памяти BMC и BIOS/UEFI, находятся на внешней карте стандарта OCP DC-SCM 2.0. Их разработкой в рамках Project Argus компания занималась совместно с Lenovo.

За питание отвечают два блока мощностью 800 Вт с сертификатом 80 Plus Titanium. Допускается установка одной карты расширения FHFL двойной ширины или двух карт FHFL одинарной ширины. В частности, могут быть добавлены ускорители на базе GPU с показателем TDP до 400 Вт. Во фронтальной части корпуса располагаются вентиляторы охлаждения.

Компания Lenovo объявила о намерении выпускать ИИ-серверы на заводе в Пондичерри (Индия). Как сообщает The Register, дополнительно она уже основала новую лабораторию в Бангалоре, которая займётся инфраструктурными разработками и исследованиями.

Завод в Пондичерри потенциально может выпускать 50 тыс. единиц вычислительной техники, называемых Lenovo «корпоративными стоечными ИИ-серверами», а также 2,4 тыс. «модулей на основе GPU класса High-End». Китайский IT-гигант не поделился спецификациями стоечных серверов, но сообщил, что «машины High-End класса» получат по 8 ускорителей.

60 % серверов предназначены для поставки в страны Азиатско-Тихоокеанского региона. По данным компании, Lenovo модернизирует цепочку поставок не только для удовлетворения внутреннего, «домашнего» спроса, но и для экспансии на зарубежные рынки.

Источник изображения: ha11ok/pixabay.com

Научно-исследовательский центр в Бангалоре — одна из четырёх площадок для разработок. Остальные расположены в Пекине, Тайбэе и Моррисвилле (Северная Каролина). В Lenovo считают, что он будет ключевым для системного проектирования, разработки и тестирования следующего поколения серверных платформ — оборудования, прошивок, а также для разработки программного обеспечения для них.

В компании прогнозируют, что все будущие разработки серверов мейнстрим-сегмента, а также новые технические инициативы будут опробованы здесь. В Lenovo уверены, что два новых объекта в Индии содействуют дальнейшему укреплению присутствия в стране, создавая тысячи экономических возможностей в высокотехнологичном секторе.

При этом компания действует на индийском рынке уже довольно давно. Она открыла завод в Пондичерри в 2005 году и, как заявляется, выпустила в стране более 7 млн устройств за финансовый год, закончившийся 31 марта. Также в Индии около 10 лет действует завод Motorola Mobility, который компания приобрела у Google в 2014 году.

Индия стремится нарастить производство в стране высокотехнологичных продуктов в рамках инициативы Make in India, запущенной в 2014 году. Последняя предусматривает реформы в политическом секторе, налоговые льготы, субсидии и упрощение процедуры инвестиций.

Похоже, план работает, поскольку Foxconn, HP, Cisco, Acer, Asus и Dell в последние пару лет перенесли некоторые производственные процессы именно в Индию. Компании ориентируются на рост внутреннего рынка самой страны, а также пытаются диверсифицировать операции, учтя опыт перебоев в цепочках поставок в период пандемии COVID-19. Немалую роль играют и геополитические мотивы — США в последние годы не приветствуют ведение дел с Китаем и, тем более, инвестиции в Поднебесную, из-за чего зависимость от китайского бизнеса становится всё более рискованной и некоторые компании переносят оттуда производство, в том числе серверов.

Мировые продажи серверов должны вырасти до 12 млн в текущем году, поэтому 52,4 тыс. машин, которые Lenovo соберёт в Индии, станут лишь малым вкладом в рынок серверного оборудования.

Тем не менее, ИИ-серверы пользуются сегодня таким высоким спросом, что последние инициативы компании будут безусловно приветствоваться в Индии, даже если уровень производства в стране пока невелик. С учётом того, что Lenovo тесно связана с наследием IBM, опыт производства за пределами Китая у компании весьма большой.

Ещё в декабре прошлого года сообщалось, что Индия готовится построить собственную ИИ-инфраструктуру. Позже в том же месяце появилась информация о развёртывании мощностей на 80 Эфлопс. Например, сообщалось о намерении страны скупить ускорители NVIDIA, не доставшиеся Китаю из-за санкций, а в марте 2024 года появилась новость о готовности потратить $1,2 млрд на ИИ-суперкомпьютер и собственные LLM.

HPE представила компактный однопроцессорный 2U-сервер ProLiant DL145 Gen11 на базе AMD EPYC 8004 Siena, предназначенный для перифийных вычислений, для которых характерен дефицит энергии, пространства или возможностей охлаждения. Сервер способен функционировать при температурах от -5 °C до +55 °C, имеет защиту от пыли и устойчив к вибрациям.

Источник изображений: HPE

Возможна установка 64-ядерного CPU с TDP до 200 Вт. Есть шесть слотов (1DPC) для модулей памяти DDR5-4800 ECC суммарной ёмкостью до 768 Гбайт. Дисковая корзина поддерживает установку двух SATA SFF или шести NVMe E3.S-накопителей. Опционально можно установить проприетарный модуль с двумя 480-Гбайт M.2 NVMe SSD, собранных в RAID1, для ОС. Для карт расширения доступно три слота PCIe 5.0 x16: два FHFL и один FHHL. Также есть слот OCP 3.0, тоже PCIe 5.0 x16.

Сервер оснащён системой удалённого управления iLO 6 с выделенным 1GbE-портом. Также на заднюю панель выведены четыре порта USB 3.0 Type-A и разъём DisplayPort. Опционально доступен последовательный порт с разъёмом RJ45. Для питания используются один или два (1+1) БП с сертификацией Platinum/Titanium мощностью 700 или 1000 Вт. Доступен и 700-Вт блок питания 48 В DC. Система вентиляции включает четыре вентилятора с резервированием N+1.

БП, все порты и слоты для удобства выведены на переднюю панель сервера. Фронтальная крышка может быть оснащена воздушным фильтром для защиты от пыли. Есть датчик вскрытия корпуса, блокировка передней панели и гнездо замка Kensington. Устройство имеет габариты 875 × 359 × 406 мм и весит до 15,6 кг. Возможно размещение как на столе/стене, так и в телекоммуникационной стойке. Новинка будет доступна в рамках HPE GreenLake.

Компания Giga Computing, подразделение Gigabyte, анонсировала серверы G593-ZD1-LAX3 и G593-SD1-LAX3, предназначенные для ресурсоёмких нагрузок, связанных с ИИ. Устройства, оснащённые системой прямого жидкостного охлаждения (DLC) от CoolIT, могут нести на борту до восьми ускорителей NVIDIA HGX H200.

Источник изображений: Gigabyte

Модель G593-ZD1-LAX3 выполнена в форм-факторе 5U. Допускается установка двух процессоров AMD EPYC 9004 поколения Genoa с показателем TDP до 400 Вт. Предусмотрены 24 слота для модулей оперативной памяти DDR5-4800. Во фронтальной части расположены отсеки для восьми SFF-накопителей (NVMe/SATA/SAS-4). Есть два коннектора М.2 для SSD типоразмера 2280/22110 с интерфейсом PCIe 3.0 x4 и PCIe 3.0 x1.

Доступны восемь слотов PCIe 5.0 x16 для низкопрофильных карт расширения и четыре разъёма PCIe 5.0 x16 для карт FHHL. В оснащение входят два порта 10GbE (Intel X710-AT2), два выделенных сетевых порта управления 1GbE, два разъёма USB 3.2 Gen1.

В свою очередь, сервер G593-SD1-LAX3 рассчитан на два процессора Intel Xeon Emerald Rapids или Sapphire Rapids, величина TDP которых может достигать 350 Вт. Для модулей ОЗУ DDR5-4800/5600 предусмотрены 32 слота. Прочие характеристики (за исключением разъёмов М.2) аналогичны модели на платформе AMD.

Новые серверы укомплектованы шестью блоками питания мощностью 3000 Вт с сертификатом 80 PLUS Titanium. Присутствует контроллер Aspeed AST2600. Диапазон рабочих температур — от 10 до +35 °C. Система DLC предназначена для отвода тепла от ускорителей NVIDIA HGX H200. При этом в области материнской платы и слотов PCIe установлены вентиляторы охлаждения.