За девять месяцев 2024 года в госсекторе России вдвое вырос год к году спрос на ИИ-серверы с ускорителями, затраты на закупки которых в ходе 30 тендеров составили 1,7 млрд руб., пишет «Коммерсантъ» со ссылкой на производителя вычислительной техники «Гравитон» (входит в структуру 3Logic Group). Для сравнения, за девять месяцев 2023 года, по данным «Гравитона», было проведено 16 таких тендеров по госзакупкам (по 223-ФЗ и 44-ФЗ) на сумму 930 млн руб.

По словам директора департамента серверных и сетевых систем «Гравитона» Александра Фильченкова, в госсекторе ИИ-технологии используются в первую очередь для интеллектуального анализа данных и в системах принятия решений. «Почти треть российских компаний заявили о планах внедрения ИИ в течение трёх лет, поэтому стоит ожидать дальнейшего роста спроса на это оборудование», — сообщил он.

Источник изображения: Fynephoqus / Unsplash

В апреле «Ведомости» отметили возросший спрос на аренду серверов для обучения моделей ИИ. По оценкам iKS-Consulting, выручка дата-центров от аренды ИИ-серверов в 2023 году составила 6,6 млрд руб., основными игроками были Cloud.ru, «Яндекс», «Крок», «МегaФон» и другие.

В числе сдерживающих факторов удовлетворения спроса отечественных компаний в «Гравитоне» назвали то, что серверы для работы с ИИ в основном основаны на ускорителях NVIDIA, ограничившей из-за санкций США доступ к своим технологиям. В связи с этим российские организации начали рассматривать сотрудничество с китайскими и отечественными разработчиками решений того же типа.

Сервер Молл, один из крупнейших поставщиков серверного оборудования в России, модернизировал ИТ-инфраструктуру Физико-технического института им. А.Ф. Иоффе. Благодаря восстановленным серверным решениям институт сократил расходы на ИТ и ускорил важные научные исследования.

Проблемы с ИТ-бюджетами в 2024 году

Цены на серверное оборудование растут из-за санкций, проблем с логистикой и колебаний курса валют, а потребности в вычислительной мощности увеличиваются. Организациям приходится искать способы поддержания эффективности, несмотря на ограниченные бюджеты. Новые серверы часто недоступны по цене, а деградация ИТ-инфраструктуры замедляет процессы и снижает её надёжность.

Восстановленное серверное оборудование предлагает отличную альтернативу: оно обеспечивает доступ к технологиям ведущих вендоров, таких как Dell, HPE и Lenovo, но стоит примерно вдвое дешевле новых систем.

Модернизация ФТИ им. А.Ф. Иоффе

ФТИ им. А.Ф. Иоффе — ведущий научный центр России, исследующий астрофизику, физику плазмы, твёрдые тела и другие передовые направления. Институту требовались мощные системы для параллельных вычислений. Поскольку новое оборудование оказалось слишком дорогим, Сервер Молл предложил альтернативу — восстановленные блейд-серверы Dell M630 и шасси Dell PowerEdge M1000e. Это решение позволило институту провести модернизацию и получить доступ к технологиям мирового уровня, сохраняя бюджет.

Источник изображения: DSmirnov90 / Wikipedia

Результаты модернизации для ФТИ им. А.Ф. Иоффе

После внедрения восстановленных серверов институт смог ускорить вычисления и в 2,5 раза увеличить число сотрудников, занимающихся ресурсоёмкими численными моделированиями. Общая скорость расчётов выросла в несколько раз, что позволило быстрее публиковать научные работы и представлять результаты исследований в международных журналах.

Источник: Сервер Молл

Почему институт выбрал восстановленное оборудование?

Институт сэкономил почти 54 % бюджета, при этом получив требуемую производительность. Сервер Молл предложил выездную гарантию 5 лет на все серверы и шасси от Dell, тогда как новое оборудование от поставщиков имеет гарантию не более 1–3 лет. При этом выбор блейд-серверов, а не классических решений, уменьшил эксплуатационные расходы и время простоя. Реф-оборудование позволило институту оставаться на передовой научных достижений.

Заключение

Сервер Молл помог ФТИ им. А.Ф. Иоффе решить проблему модернизации ИТ-инфраструктуры в условиях ограниченного бюджета. Восстановленное серверное оборудование доказало свою эффективность и надёжность по доступной цене, став выгодной альтернативой новым серверам, особенно при финансовых ограничениях.

Тайваньская компания MiTAC Computing Technology, дочерняя структура MiTAC Holdings, объявила об интеграции серверного бренда TYAN с брендом MiTAC. С 1 октября 2024 года вся продукция будет выпускаться исключительно под маркой MiTAC. Кроме того, появятся новый логотип и обновленный официальный веб-сайт.

MiTAC вышла на рынок ODM-серверов в 1999 году. В 2007-м она расширила бизнес путём приобретения фирмы TYAN Computer: начался выпуск высокопроизводительных материнских плат и barebone-систем. После выделения подразделения облачных вычислений MiTAC в отдельный бизнес в 2014 году была сформирована компания MiTAC Computing Technology — в качестве дочерней структуры Mitac Holdings в составе группы MiTAC-Synnex Group.

Источник изображения: MiTAC

Президент MiTAC Computing Technology Рик Хван (Rick Hwang) отмечает, что хотя MiTAC и TYAN обслуживают разные сегменты рынка, их интеграция под одним брендом позволит оптимизировать стратегии дистрибуции и поможет укрепить рыночные позиции. В 2023 году MiTAC приобрела бизнес по производству серверов Intel, что, как отмечается, ещё больше усилит положение тайваньской компании в соответствующем сегменте.

Процесс консолидации брендов MiTAC и TYAN уже завершён. В обозримом будущем компания намерена развивать семейство серверов, ориентированных на ИИ-нагрузки, в том числе на генеративные. Путём унификации бренда MiTAC стремится улучшить обслуживание клиентов в различных отраслях.

«Сбер» назван владельцем самого большого парка вычислительных мощностей в России, сообщает портал «1 Прайм» со ссылкой на главу «Сбера» Германа Грефа, выступавшего на форуме «Микроэлектроника-2024». По словам последнего, бизнес компании стал главным потребителем микроэлектроники в России.

Как заявил Греф, в четырёх ЦОД размещено более 63 тыс. серверов различного назначения. Глава бизнес-структуры отметил, что «Сбер» стал и крупнейшим «потребителем» специалистов, связанных с микроэлектроникой.

По словам бизнесмена, консалтинговые компании прогнозируют дефицит специалистов в сфере микроэлектроники, который продлится до 2030 года, нехватка составит приблизительно миллион человек. По расчётам «Сбера», в России речь идёт о дефиците 50 тыс. человек, даже если плановый рост учтут при подготовке специалистов в вузах. Греф отметил, что сегодня управляемая им организация уже сотрудничает с кафедрами российских вузов, отбирая и помогая готовить талантливых специалистов, в том числе на практике.

Источник изображения: Сбер

Стоит отметить, что «Сбер» стал не только потребителем микроэлектроники, но и активно развивает собственное производство, а также занимается ключевым ПО. Например, только по последним данным компания организовала производство собственных серверов, намерена создать собственную ERP-систему как альтернативу SAP, а до конца года намерена полностью отказаться от иностранных СУБД на объектах критической инфраструктуры.

Американская компания Cloudflare, предоставляющая в числе прочего услуги CDN, анонсировала серверы 12-го поколения для своей инфраструктуры. В основу 2U-узлов легла аппаратная платформа AMD EPYC Genoa-X. По словам компании, новая платформа на 145 % производительнее и при этом на 63 % энергоэффективнее систем 11-го поколения.

Серверы имеют односокетное исполнение. Применён процессор EPYC 9684X с 96 ядрами (192 потока инструкций), работающий на базовой частоте 2,55 ГГц с возможностью повышения до 3,42 ГГц для всех ядер. Объём L3-кеша составляет 1152 Мбайт, а объём оперативной памяти DDR5-4800 в 12-канальной конфигурации составляет 384 Гбайт.

В оснащения входят два накопителя формата EDSFF E1.S (15 мм) с интерфейсом PCIe 4.0 х4 вместимостью 7,68 Тбайт каждый (Samsung PM9A3 и Micron 7450 Pro). Заявленная скорость последовательного чтения информации достигает 6700 Мбайт/с, скорость последовательной записи — 4000 Мбайт/с. Показатель IOPS (операций ввода/вывода в секунду) при произвольном чтении — до 1,0 млн, при произвольной записи — до 200 тыс. Изделия рассчитаны на одну полную перезапись в сутки (DWPD).

Источник изображений: Cloudflare

Серверы оснащены двумя 25GbE-адаптерами OCP 3.0 — Intel Ethernet Network Adapter E810-XXVDA2 и NVIDIA Mellanox ConnectX-6 Lx. Присутствуют контроллеры ASPEED AST2600 (BMC), AST1060 (HRoT), а также TPM-модуль. Примечательно, что все они, а также сдвоенные чипы памяти BMC и BIOS/UEFI, находятся на внешней карте стандарта OCP DC-SCM 2.0. Их разработкой в рамках Project Argus компания занималась совместно с Lenovo.

За питание отвечают два блока мощностью 800 Вт с сертификатом 80 Plus Titanium. Допускается установка одной карты расширения FHFL двойной ширины или двух карт FHFL одинарной ширины. В частности, могут быть добавлены ускорители на базе GPU с показателем TDP до 400 Вт. Во фронтальной части корпуса располагаются вентиляторы охлаждения.

Компания Lenovo объявила о намерении выпускать ИИ-серверы на заводе в Пондичерри (Индия). Как сообщает The Register, дополнительно она уже основала новую лабораторию в Бангалоре, которая займётся инфраструктурными разработками и исследованиями.

Завод в Пондичерри потенциально может выпускать 50 тыс. единиц вычислительной техники, называемых Lenovo «корпоративными стоечными ИИ-серверами», а также 2,4 тыс. «модулей на основе GPU класса High-End». Китайский IT-гигант не поделился спецификациями стоечных серверов, но сообщил, что «машины High-End класса» получат по 8 ускорителей.

60 % серверов предназначены для поставки в страны Азиатско-Тихоокеанского региона. По данным компании, Lenovo модернизирует цепочку поставок не только для удовлетворения внутреннего, «домашнего» спроса, но и для экспансии на зарубежные рынки.

Источник изображения: ha11ok/pixabay.com

Научно-исследовательский центр в Бангалоре — одна из четырёх площадок для разработок. Остальные расположены в Пекине, Тайбэе и Моррисвилле (Северная Каролина). В Lenovo считают, что он будет ключевым для системного проектирования, разработки и тестирования следующего поколения серверных платформ — оборудования, прошивок, а также для разработки программного обеспечения для них.

В компании прогнозируют, что все будущие разработки серверов мейнстрим-сегмента, а также новые технические инициативы будут опробованы здесь. В Lenovo уверены, что два новых объекта в Индии содействуют дальнейшему укреплению присутствия в стране, создавая тысячи экономических возможностей в высокотехнологичном секторе.

При этом компания действует на индийском рынке уже довольно давно. Она открыла завод в Пондичерри в 2005 году и, как заявляется, выпустила в стране более 7 млн устройств за финансовый год, закончившийся 31 марта. Также в Индии около 10 лет действует завод Motorola Mobility, который компания приобрела у Google в 2014 году.

Индия стремится нарастить производство в стране высокотехнологичных продуктов в рамках инициативы Make in India, запущенной в 2014 году. Последняя предусматривает реформы в политическом секторе, налоговые льготы, субсидии и упрощение процедуры инвестиций.

Похоже, план работает, поскольку Foxconn, HP, Cisco, Acer, Asus и Dell в последние пару лет перенесли некоторые производственные процессы именно в Индию. Компании ориентируются на рост внутреннего рынка самой страны, а также пытаются диверсифицировать операции, учтя опыт перебоев в цепочках поставок в период пандемии COVID-19. Немалую роль играют и геополитические мотивы — США в последние годы не приветствуют ведение дел с Китаем и, тем более, инвестиции в Поднебесную, из-за чего зависимость от китайского бизнеса становится всё более рискованной и некоторые компании переносят оттуда производство, в том числе серверов.

Мировые продажи серверов должны вырасти до 12 млн в текущем году, поэтому 52,4 тыс. машин, которые Lenovo соберёт в Индии, станут лишь малым вкладом в рынок серверного оборудования.

Тем не менее, ИИ-серверы пользуются сегодня таким высоким спросом, что последние инициативы компании будут безусловно приветствоваться в Индии, даже если уровень производства в стране пока невелик. С учётом того, что Lenovo тесно связана с наследием IBM, опыт производства за пределами Китая у компании весьма большой.

Ещё в декабре прошлого года сообщалось, что Индия готовится построить собственную ИИ-инфраструктуру. Позже в том же месяце появилась информация о развёртывании мощностей на 80 Эфлопс. Например, сообщалось о намерении страны скупить ускорители NVIDIA, не доставшиеся Китаю из-за санкций, а в марте 2024 года появилась новость о готовности потратить $1,2 млрд на ИИ-суперкомпьютер и собственные LLM.

HPE представила компактный однопроцессорный 2U-сервер ProLiant DL145 Gen11 на базе AMD EPYC 8004 Siena, предназначенный для перифийных вычислений, для которых характерен дефицит энергии, пространства или возможностей охлаждения. Сервер способен функционировать при температурах от -5 °C до +55 °C, имеет защиту от пыли и устойчив к вибрациям.

Источник изображений: HPE

Возможна установка 64-ядерного CPU с TDP до 200 Вт. Есть шесть слотов (1DPC) для модулей памяти DDR5-4800 ECC суммарной ёмкостью до 768 Гбайт. Дисковая корзина поддерживает установку двух SATA SFF или шести NVMe E3.S-накопителей. Опционально можно установить проприетарный модуль с двумя 480-Гбайт M.2 NVMe SSD, собранных в RAID1, для ОС. Для карт расширения доступно три слота PCIe 5.0 x16: два FHFL и один FHHL. Также есть слот OCP 3.0, тоже PCIe 5.0 x16.

Сервер оснащён системой удалённого управления iLO 6 с выделенным 1GbE-портом. Также на заднюю панель выведены четыре порта USB 3.0 Type-A и разъём DisplayPort. Опционально доступен последовательный порт с разъёмом RJ45. Для питания используются один или два (1+1) БП с сертификацией Platinum/Titanium мощностью 700 или 1000 Вт. Доступен и 700-Вт блок питания 48 В DC. Система вентиляции включает четыре вентилятора с резервированием N+1.

БП, все порты и слоты для удобства выведены на переднюю панель сервера. Фронтальная крышка может быть оснащена воздушным фильтром для защиты от пыли. Есть датчик вскрытия корпуса, блокировка передней панели и гнездо замка Kensington. Устройство имеет габариты 875 × 359 × 406 мм и весит до 15,6 кг. Возможно размещение как на столе/стене, так и в телекоммуникационной стойке. Новинка будет доступна в рамках HPE GreenLake.

Компания Giga Computing, подразделение Gigabyte, анонсировала серверы G593-ZD1-LAX3 и G593-SD1-LAX3, предназначенные для ресурсоёмких нагрузок, связанных с ИИ. Устройства, оснащённые системой прямого жидкостного охлаждения (DLC) от CoolIT, могут нести на борту до восьми ускорителей NVIDIA HGX H200.

Источник изображений: Gigabyte

Модель G593-ZD1-LAX3 выполнена в форм-факторе 5U. Допускается установка двух процессоров AMD EPYC 9004 поколения Genoa с показателем TDP до 400 Вт. Предусмотрены 24 слота для модулей оперативной памяти DDR5-4800. Во фронтальной части расположены отсеки для восьми SFF-накопителей (NVMe/SATA/SAS-4). Есть два коннектора М.2 для SSD типоразмера 2280/22110 с интерфейсом PCIe 3.0 x4 и PCIe 3.0 x1.

Доступны восемь слотов PCIe 5.0 x16 для низкопрофильных карт расширения и четыре разъёма PCIe 5.0 x16 для карт FHHL. В оснащение входят два порта 10GbE (Intel X710-AT2), два выделенных сетевых порта управления 1GbE, два разъёма USB 3.2 Gen1.

В свою очередь, сервер G593-SD1-LAX3 рассчитан на два процессора Intel Xeon Emerald Rapids или Sapphire Rapids, величина TDP которых может достигать 350 Вт. Для модулей ОЗУ DDR5-4800/5600 предусмотрены 32 слота. Прочие характеристики (за исключением разъёмов М.2) аналогичны модели на платформе AMD.

Новые серверы укомплектованы шестью блоками питания мощностью 3000 Вт с сертификатом 80 PLUS Titanium. Присутствует контроллер Aspeed AST2600. Диапазон рабочих температур — от 10 до +35 °C. Система DLC предназначена для отвода тепла от ускорителей NVIDIA HGX H200. При этом в области материнской платы и слотов PCIe установлены вентиляторы охлаждения.

Компания Quanta Cloud Technology (QCT) анонсировала серверы на процессорах Intel Xeon 6, ориентированные на поставщиков облачных услуг, телекоммуникационных провайдеров и операторов ЦОД. Дебютировали решения серий QuantaGrid и QuantaPlex для различных рабочих нагрузок, включая задачи ИИ и НРС.

Отмечается, что серверы QCT построены с применением модульных компонентов, для монтажа которых не требуются инструменты. Доступны варианты с воздушным и жидкостным охлаждением, различной компоновкой подсистемы хранения данных, поддержкой ускорителей одинарной и двойной ширины. Реализована возможность горячей замены отдельных узлов, таких как блоки питания и вентиляторы.

Представлены модели QuantaGrid D55X-1U и QuantaGrid D55Q-2U типоразмера 1U и 2U соответственно. Они допускают установку двух чипов Xeon 6700E (Sierra Forest) с TDP до 350 Вт. Возможна установка 32 модулей DDR5-6400 RDIMM или 16 модулей MRDIMM (до 8000 МГц). У 1U-версии конфигурация подсистемы хранения в зависимости от исполнения включает: 12 × SFF NVMe/SATA/SAS SSD, 16 × E1.S NVMe SSD, 20 × E3.S 1T NVMe или 4 × E3.S 1T NVMe + 8 × E3.S 2T CXL. Карты расширения могут монтироваться по схеме 2 × PCIe 5.0 x16 FHHL, 2 × PCIe 5.0 x16 OCP 3.0 SFF и 1 × DC-SCM или 3 × PCIe 5.0 x16 HHHL, 2 × PCIe 5.0 x16 OCP 3.0 SFF и 1 × DC-SCM.

Источник изображений: QCT

Для сервера формата 2U предусмотрены варианты с поддержкой следующих накопителей: 12 × LFF SATA/SAS HDD или 12 × SFF NVMe, 24 × SFF NVMe/SATA/SAS или 12 × E3.S 1T NVMe + 12 × E3.S 2T CXL. Допускаются различные варианты монтажа карт PCIe 5.0 x8 FHHL, PCIe 5.0 x16 FHFL и PCIe 5.0 x8 HHHL. Серверы комплектуются двумя блоками питания с сертификатом 80 Plus Titanium (до 2700 и 3200 Вт соответственно).

Кроме того, анонсированы модели QuantaGrid S55R-1U и QuantaGrid S55J-2U формата 1U и 2U с поддержкой чипов Xeon 6700 с производительными P-ядрами (Granite Rapids). Раскрываются характеристики только 1U-сервера: один процессор с TDP до 350 Вт, 16 слотов для модулей DDR5-5200 RDIMM, 12 посадочных мест для SFF-накопителей NVMe/SATA/SAS SSD, два слота PCIe 5.0 x16 FHHL + слот OCP 3.0 NIC SFF, два коннектора M.2 2230/2280 PCIe 5.0, два блока питания 80 Plus Titanium мощностью до 2000 Вт.

Дебютировали также серверы QuantaPlex S25Z-2U и QuantaPlex S45Z-2U типоразмера 2U с двумя и четырьмя узлами. Каждый узел рассчитан на один процессор Xeon 6700 с TDP до 350 Вт, 16 модулей DDR5-6400 RDIMM, а также два SSD M.2. Двухузловая версия поддерживает до трёх карт расширения PCIe 5.0 и два SFF-накопителя NVMe/SATA SSD на узел. У четырёхузловой модификации возможна установка одной карты PCIe 5.0, а также двух накопителей E1.S NVMe SSD или трёх устройств SFF NVMe SSD на узел.

Вышел 7U-сервер QuantaGrid D74H-7U для ресурсоёмких нагрузок НРС и ИИ. Он допускает установку двух процессоров Intel Xeon Emerald Rapids или Sapphire Rapids с показателем TDP до 350 Вт. Есть 32 слота для модулей памяти DDR5-5600 RDIMM суммарным объёмом до 8 Тбайт. Предусмотрены отсеки для 18 SFF-накопителей NVMe SSD. Возможна установка восьми ускорителей NVIDIA H100 (SXM5). Слоты расширения выполнены по схеме 2 × PCIe 5.0 x16 OCP 3.0 SFF и 10 × PCIe 5.0 x16 OCP 3.0 TSFF. Применены шесть блоков питания 80 Plus Titanium на 4000 Вт.

Наконец, представлен высокопроизводительный сервер QuantaGrid D75E-4U  формата 4U, который, как утверждается, обеспечивает максимальную гибкость при работе с LLM, ИИ и HPC. Он оснащён двумя процессорами Intel Xeon 6 с TDP до 350 Вт и поддерживает до восьми GPU-ускорителей PCIe следующего поколения с воздушным охлаждением и TDP до 600 Вт.

Министерство промышленности и торговли РФ (Минпромторг), по сообщению газеты «Коммерсантъ», направило в консорциум «Вычислительная техника» (АНО ВТ) письмо с просьбой предоставить информацию о производстве в России серверов, поддерживающих установку четырёх процессоров.

Запрос направлен на имя главы АНО ВТ. Ведомство просит предоставить сведения о 4-сокетных системах, статусе их производства и ведущихся разработках. Говорится, что в Минпромторг начали поступать заявки на такое оборудование от госкомпаний для исполнения постановления правительства №2013 «О минимальной доле закупок товаров российского происхождения».

Источник изображения: Fplus

Как пишет «Коммерсантъ», на сегодняшний день производить серверы с четырьмя процессорами могут только две российские компании — Fplus и Yadro. В частности, Fplus в мае нынешнего года представила систему «Буран-SR242» (SR-242E31-624T) для решения ИИ-задач, работы с большими данными, создания цифровых двойников, НРС-нагрузок и т.д. Эта платформа поддерживает использование четырёх чипов Intel Xeon Sapphire Rapids с TDP до 350 Вт. Ожидается, что «Буран SR-242» войдет в реестр российской электроники в III квартале 2024 года.

Fplus намерена организовать выпуск 4-сокетных серверов на предприятии холдинга в Подмосковье. Планируется, что до конца 2024 года будет изготовлено около 500 таких систем, а в 2025-м — ещё 2 тыс. Компания Yadro, в свою очередь, намерена освоить производство серверов с четырьмя процессорами на заводе «Ядро фаб Дубна». Выпуск таких устройств будет налажен «в ближайшее время».

Директор департамента серверных и сетевых систем компании «Гравитон» считает, что российские производители 4-сокетных серверов могут столкнуться с трудностями по возврату инвестиций. Связано это с тем, что количество заказчиков, скорее всего, будет ограниченным. Еще одним препятствием может стать высокая стоимость компонентов.