Компания Supermicro анонсировала новые серверы для задач ИИ и НРС. Дебютировали системы высокой плотности с жидкостным охлаждением, а также устройства, оборудованные высокопроизводительными ускорителями AMD, Intel и NVIDIA.

Источник изображений: Supermicro

В частности, представлены серверы SYS-421GE-TNHR2-LCC и AS-4125GS-TNHR2-LCC в форм-факторе 4U, оснащённые СЖО. Первая из этих моделей рассчитана на установку двух процессоров Intel Xeon Emerald Rapids или Xeon Sapphire Rapids (до 385 Вт), а также 32 модулей DDR5-5600. Второй сервер поддерживает два чипа AMD EPYC 9004 Genoa с показателем TDP до 400 Вт и 24 модуля DDR5-4800.

Обе новинки могут быть оборудованы восемью ускорителями NVIDIA H100 (SXM). В одной стойке могут размещаться до восьми серверов, что в сумме даст 64 ускорителя. При этом общая заявленная производительность такого кластера на операциях FP16 превышает 126 Пфлопс. Серверы оборудованы восемью фронтальными отсеками для SFF-накопителей NVMe. Питание обеспечивают четыре блока мощностью 5250 Вт с сертификатом Titanium. Слоты расширения выполнены по схеме 8 × PCIe 5.0 x16 LP и 2 × PCIe 5.0 x16 FHHL.

На ISC 2024 компания Supermicro также демонстрирует сервер типоразмера 8U, оборудованный ускорителями Intel Gaudi3. Это одна из первых систем такого рода. Кроме того, представлена система AS-8125GS-TNMR2 формата 8U, рассчитанная на восемь ускорителей AMD Instinct MI300X. Этот сервер может комплектоваться двумя процессорами EPYC 9004 с TDP до 400 Вт, 24 модулями оперативной памяти DDR5-4800, фронтальными накопителями SFF (16 × NVMe и 2 × SATA), двумя модулями M.2 NVMe. Установлены шесть блоков питания на 3000 Вт с сертификатом Titanium.

Наконец, Supermicro готовит серверы формата 4U с жидкостным охлаждением, которые могут оснащаться восемью ускорителями NVIDIA H100 и H200. Компания демонстрирует на конференции ISC 2024 и другие системы для приложений ИИ, а также задач НРС.

Компания Eviden (дочерняя структура Atos) анонсировала серверы серии BullSequana AI, предназначенные для решения ИИ-задач. В зависимости от модификации и уровня производительности устройства подходят для различных сценариев использования — от НРС-платформ до периферийных вычислений.

Наиболее производительными серверами семейства являются решения BullSequana AI 1200H. Они могут применяться в составе облачных и гибридных инфраструктур, а также в дата-центрах заказчиков. По сути, это суперкомпьютер корпоративного уровня, специально разработанный для ресурсоёмких задач, таких как точная настройка ИИ-систем или обучение больших языковых моделей (LLM).

Конфигурация BullSequana AI 1200H включает суперчипы NVIDIA Grace Hopper, а также интерконнект NVIDIA Quantum-2 InfiniBand. Задействовано программное обеспечение Eviden Jarvice XE, Eviden Smart Energy Management Suite, Eviden Smart Management Center и NVIDIA AI Enterprise.

Источник изображения: Eviden

Серверы BullSequana AI 1200H, насчитывающие в общей сложности 1456 ускорителей NVIDIA H100, выбраны для модернизации французского суперкомпьютера Jean Zay. Производительность этого НРС-комплекса увеличится более чем в три раза — с 36,85 до 125,9 Пфлопс.

Кроме того, в новое семейство серверов вошли производительные устройства BullSequana AI 800, системы BullSequana AI 600 с воздушным и гибридным охлаждением, модели BullSequana AI 200 для частных и гибридных облачных сред, а также BullSequana AI 100 для периферийных вычислений.

Источник изображения: Eviden

В целом, как отмечается, каждая модель BullSequana AI предлагает различные уровни производительности, масштабируемости и гибкости. Таким образом, заказчики могут подобрать наиболее подходящий для себя вариант в зависимости от конкретного варианта использования, бюджета и размера бизнеса.

На предстоящей конференции для разработчиков WWDC 2024, которая пройдёт в июне, Apple, как ожидается, представит новую версию iOS 18 с множеством функций генеративного ИИ. Некоторые из них будут выполняться локально, но часть будет использовать ИИ-модели, развёрнутые в ЦОД Apple.

Как сообщает Bloomberg со ссылкой на информированные источники, компания в рамках программы Apple Chips in Data Centers (ACDC) начала обновлять инфраструктуру, оснащая свои ЦОД серверами с чипами собственной разработки M2 Ultra для обеспечения более эффективной работы ИИ-моделей. По словам источников, за последние три года компания инвестировала сотни миллионов долларов в новую облачную инициативу.

Источник изображения: Apple

Чип M2 Ultra включает вычислительный модуль Neural Engine для запуска ИИ-моделей. В ближайшем будущем в ЦОД будут также устанавливаться серверы с чипами M4, представленными на прошлой неделе. Ранее на этой неделе The Wall Street Journal сообщал, что Apple в рамках ACDC разрабатывает собственные серверные ИИ-ускорители для инференса.

Пока Apple планирует использовать для новых облачных сервисов собственные ЦОД, но в конечном итоге перенесёт часть нагрузок на «сторонние объекты». На это намекнул финансовый директор Лука Маэстри (Luca Maestri). «У нас есть собственные мощности ЦОД, а затем мы используем мощности третьих сторон, — сказал он после того, как его попросили рассказать об ИИ-инфраструктуре. — Эта модель исторически хорошо работала для нас, и мы планируем продолжать в том же духе и в дальнейшем».

Корпорация IBM анонсировала компактный сервер POWER S1012 на платформе POWER10, предназначенный для решения ИИ-задач на периферии. Новинка будет предлагаться в двух вариантах исполнения — в корпусе башенного типа и в виде системы формата 2U половинной ширины, что позволит размещать в стандартной стойке два устройства бок о бок.

Решение оснащается модулем POWER10 eSCM с одним, четырьмя или восемью ядрами (3,0–3,9 ГГц) и 256 Гбайт памяти. Каждое ядро способно выполнять до восьми потоков инструкций одновременно (SMT8), благодаря чему максимальная конфигурация обеспечивает до 64 потоков. Заявленная пропускная способность памяти — до 102 Гбайт/с.

Источник изображений: IBM

Конфигурация POWER S1012 может включать два слота PCIe 5.0 x8 или один слот PCIe 4.0 x16, а также дополнительный разъём PCIe 5.0 x8. Допускается установка четырёх накопителей NVMe U.2.

По заявлениям IBM, в плане производительности новинка втрое превосходит сервер POWER S814, поддержка которого закончится буквально на днях. Модификация в формате 2U половинной ширины позволяет сократить пространство для оборудования до 75 % по сравнению со стоечным сервером POWER S1014 (4U). Применение POWER S1012 на периферии даёт возможность выполнять определённые ИИ-задачи непосредственно в точке получения данных, что снижает задержки и уменьшает нагрузку на сетевые каналы.

Сервер POWER S1012 станет доступен у IBM и сертифицированных бизнес-партнёров 14 июня 2024 года. Клиенты смогут выбрать оптимальный для себя период поддержки в диапазоне от трёх до пяти лет. Кроме того, в зависимости от потребностей будут доступны дополнительные варианты обслуживания.

Российский производитель вычислительной техники «Гравитон» анонсировал одни из первых отечественных серверов на аппаратной платформе Intel Xeon Emerald Rapids. Дебютировали модели общего назначения С2122ИУ и С2242ИУ, включённые в реестр российской промышленной продукции Минпромторга.

Устройства выполнены в форм-факторе 2U. Помимо чипов Xeon Emerald Rapids, могут устанавливаться процессоры предыдущего поколения Sapphire Rapids. Максимально допустимый показатель TDP — 350 Вт. Основой в обоих случаях служит российская материнская плата «Урал» с поддержкой до 8 Тбайт оперативной памяти DDR5.

Сервер С2122ИУ оборудован посадочными местами для 12 накопителей LFF в конфигурации 8 × SAS/SATA/NVMe U.2 и 4 × SAS/SATA. Модель С2242ИУ, в свою очередь, рассчитана на 24 накопителя SFF с интерфейсом SAS/SATA/NVMe. Доступ к HDD/SSD обеспечивается через фронтальную панель.

Для новинок предусмотрена возможность установки двух карт расширения PCIe 5.0 х16 полной высоты, до четырёх карт PCIe 5.0 х8 и двух низкопрофильных карт PCIe 4.0 х8. За питание отвечают два блока мощностью от 1200 до 2000 Вт с сертификатом 80 PLUS Platinum (допускается горячая замена). Отмечается, что корпус серверов обладает эффективной вентиляцией, благодаря чему обеспечивается стабильная работа оборудования под высокими нагрузками.

Источник изображения: «Гравитон»

«Наши заказчики заинтересованы в производительной и надёжной IT-инфраструктуре. Мы рады первыми предложить серверы с подтверждённым российским происхождением на процессорах новейшего поколения. Мы активно продолжим работу над развитием линейки оборудования и уже сейчас в сотрудничестве с технологическими партнёрами тестируем его на совместимость с основным инфраструктурным ПО», — говорит «Гравитон». В частности, заявлена совместимость с российскими операционными системами РЕД ОС и РОСА «Хром».

China Mobile, одна из ключевых в Китае телеком-компаний, насчитывающая более миллиарда клиентов, намерена приобрести 8 тыс. ИИ-серверов. По информации The Register, представители IT-гиганта рассчитывают, что оборудование заработает до 2025 года. Приобретение планируют разбить на заказы для семи отдельных вендоров. Местные СМИ уже сообщают, что речь идёт о крупнейшей централизованной закупке ИИ-серверов в Китае за всю историю.

Общая стоимость оборудования может перевалить за ¥15 млрд — $2 млрд. Причём компания не одинока в своём стремлении обзавестись передовыми аппаратными решениями. Спешно организуют закупки ИИ-серверов на фоне антикитайских санкций и другие телеком-гиганты Поднебесной. China Unicom, по слухам, в прошлом месяце занялась закупками 2,5 тыс. серверов, схожие действия предпринимались и China Telecom.

Что именно компании намерены делать с полученными серверами, не уточняется. Впрочем, China Mobile выступает оператором крупного облака, поэтому ИИ-серверы компании безусловно пригодятся. Также не исключено, что бизнес будет использовать ИИ и для обслуживания клиентов, хотя нужно ли для этого такое количество серверов — вопрос отдельный.

Источник изображения: Kvistholt Photography / Unsplash

Главный интерес представляет даже не сфера применения ИИ-ускорителей, а их источники. В Китае пока не создано решений современного мирового уровня и даже передовые модели Huawei серии Ascend не способны на равных тягаться с новейшими решениями NVIDIA.

Хотя в теории американские производители ускорителей могут получить от властей США экспортную лицензию, подав заявку в индивидуальном порядке, вряд ли такое разрешение получит подконтрольная государству China Mobile. Более того, она наряду с China Unicom и China Telecom отнесена Пентагоном к «структурам, идентифицированным как китайские военные компании», а санкции США декларировались именно как меры, призванные помешать военным КНР в получении передовых технологий.

В числе официально доступных китайским телеком-компаниям вариантов — покупка западных ускорителей с искусственно ухудшенной функциональностью, не подпадающих под санкции. В числе неофициальных — обыкновенная контрабанда или, как ходят слухи, закупка через фирмы-прослойки готовых серверов с уже установленными ускорителями.

В 2023 году в Россию было импортировано приблизительно 126 тыс. серверов, что на 10–15 % больше по сравнению с предыдущим годом. Таким образом, как сообщает газета «Коммерсантъ» со ссылкой на статистику Федеральной таможенной службы (ФТС), закупки техники из-за рубежа в данном сегменте вернулись примерно на уровень, который наблюдался в 2021 году.

В частности, как отмечается, в 2023-м импорт серверов в РФ увеличился на 1 % по отношению к 2021 году. Вместе с тем на столько же сократились закупки импортных СХД. В течение 2023 года российские компании приобрели около 35 тыс. зарубежных систем хранения, что, как и в случае с серверами, на 10–15 % больше по сравнению с 2022 годом.

Источник изображения: Stef Westheim / Unsplash

Наиболее быстрорастущим направлением является сектор SSD: в 2023 году импорт таких накопителей в Россию взлетел в пять раз, достигнув приблизительно 148 тыс. единиц. Каким именно брендам отдают предпочтение российские заказчики, не уточняется.

О росте импорта оборудования корпоративного класса говорят также участники рынка. Так, в Beeline Cloud подтверждают, что количество закупаемых серверов и СХД в 2023 году оказалось на уровне 2021-го. В компании сообщили, что в денежном выражении закупки техники вернулись к прежнему уровню, а поставка заказанных решений занимает 6–8 недель. По оценкам Fplus, в 2023 году в РФ было импортировано 127 тыс. серверов.

Закупки оборудования за рубежом осложняются в связи с политикой иностранных банков. Так, недавно стало известно, что китайские банки с конца марта стали блокировать транзакции от российских юрлиц для оплаты компонентов для сборки электронной продукции. Вместе с тем в Ассоциации разработчиков и производителей электроники (АРПЭ) подчёркивают, что потребность в серверном оборудовании в РФ растет примерно на 10 % ежегодно. Поскольку доля российской продукции сравнительно невелика, в такой ситуации наблюдается увеличение импорта.

Компания Gartner обнародовала скорректированный прогноз по глобальному рынку IT-технологий на 2024 год. Аналитики полагают, что отрасль покажет рост приблизительно на 8,0 %. Если в 2023-м затраты составили $4,69 трлн, то в нынешнем году они достигнут $5,06 трлн.

Аналитики учитывают расходы на дата-центры, электронные устройства, ПО корпоративного класса, IT-сервисы и телекоммуникационные сервисы. В 2023 году суммарный рост затрат в обозначенных сегментах оказался на отметке 3,8 % по отношению к предыдущему году. В 2024-м темпы роста увеличатся, что объясняется, в частности, стремительным внедрением генеративного ИИ.

По направлению ЦОД специалисты Gartner прогнозируют увеличение расходов с $236,18 млрд в 2023 году до $259,68 млрд в 2024-м. Таким образом, ожидается рост примерно на 10,0 %. Говорится, что в 2024 году на системы для задач ИИ придётся около 60 % всех расходов гиперскейлеров на закупку серверов. Ещё $1,04 трлн принесёт ПО корпоративного класса. Годом ранее на этот сектор пришлось $914,69 млрд. Рост в годовом исчислении ожидается на уровне 13,9 %.

Источник изображения: Gartner

По направлению IT-сервисов затраты, по мнению экспертов Gartner, поднимутся на 9,7 % — с 1,39 трлн до $1,52 трлн. Телекоммуникационные сервисы покажут прибавку на уровне 4,3 % — с $1,49 трлн до $1,55 трлн. В сфере электронных устройств затраты достигнут $687,94 млрд против $664,03 млрд в 2023 году, что соответствует росту на 3,6 %.

Автономная некоммерческая организация «Вычислительная техника» (АНО ВТ), по сообщению газеты «Ведомости», направила в Минпромторг предложения по упрощению механизма признания электроники российской. Речь идёт, в частности, о серверах и мониторах.

Поправки предлагается внести в постановление правительства №719 «О подтверждении производства промышленной продукции на территории РФ». Этот документ предполагает, что для включения электроники в реестр Минпромторга и получения преференций на госзакупках продуктам необходимо набрать определённое количество баллов. Они начисляются за использование отечественных компонентов, таких как платы и процессоры.

АНО ВТ, в которую входят «Аквариус»», Yadro, Fplus и другие компании, предлагает начислять баллы для признания серверов отечественными за наличие исключительных прав на конструкторскую и технологическую документацию. Ещё одним критерием может стать применение отечественной системы автоматизированного проектирования работ (САПР) в процессе создания электронных компонентов. Кроме того, для начисления баллов предлагается ввести дополнительные позиции, среди которых называются российские SSD с интерфейсом SAS, печатные платы управления питанием, ридеры бесконтактных карт (RFID) и пр.

Источник изображения: АНО ВТ

Дополнительно АНО ВТ считает целесообразным определить первый и второй уровни признания продукции российской для периферийных устройств, в которых отсутствует отечественный процессор, но используется центральный микроконтроллер. Это могут быть, например, мониторы. Новая классификация, по мнению авторов инициативы, позволит «стимулировать применение российской компонентной базы и даст преференции такой продукции». В настоящее время к первому уровню относятся ПК и серверы, оснащённые российским процессором. Второй уровень — это техника, в составе которой отсутствует отечественный чип.

Участники рынка также предлагают Минпромторгу «зафиксировать проходные баллы на 2025–2026 гг., которые не предполагают резких скачков, а направлены на плавный рост». В целом, как ожидается, инициатива АНО ВТ обеспечит присутствие в реестре Минпромторга техники российских компаний и в то же время позволит нарастить реальный процент локализации. Отмечается, что в соответствии с действующими требованиями набирать баллы для признания электроники отечественной поставщикам становится всё сложнее. К тому же это требует огромных вложений и времени.

«Группа Астра», по сообщению «Интерфакса», сформировала дочернюю компанию «Иксдата», которая займётся созданием программно-аппаратных комплексов (ПАК) для высоконагруженных систем и платформ анализа данных. Предполагается, что на новых решениях будет применяться ПО «Тантор Лабс» (входит в «Группу Астра»).

Генеральным директором «Иксдата» назначен Вадим Яценко, который занимает аналогичную должность в «Тантор Лабс». По его словам, создание новой структуры необходимо для соблюдения требований регуляторов. В частности, для включения ПАК в Реестр российской радиоэлектронной продукции Минпромторга необходимо иметь собственную производственную площадку. «Тантор Лабс» для организации выпуска ПАК не подходит, поскольку в её сферу деятельности входит только разработка ПО.

«Для того чтобы собирать и организовывать производство ПАК с нашей СУБД Tantor, нам необходимо юрлицо с другими ОКВЭД. Для удовлетворения требований регулятора и было создано новое юрлицо», — говорит Яценко. Вместе с тем «Иксдата» не будет заниматься непосредственно производством аппаратных решений. Для этих задач планируется привлечь OEM-партнёров, в числе которых называются «Аквариус», Yadro, Kraftway, Delta Computers и др.

Источник изображения: «Тантор Лабс»

В этом году «Тантор Лабс» и группа «Аквариус» представили ПАК Tantor XData. Аппаратная часть данной платформы включает серверы на процессорах Intel Xeon Cascade Lake-SP, AMD EPYC, Baikal-S или Kunpeng 920. Программная составляющая объединяет серверную ОС Astra Linux Special Edition, три связанных репликацией экземпляра СУБД Tantor Special Edition, а также модули Tantor Appliance Manager и Backman. Компоненты ПАК Tantor XData включены в реестры Минпромторга России и Минцифры России. По всей видимости, компания «Иксдата» займётся дальнейшей разработкой систем Tantor XData.

Отмечается, что для «Группы Астра» развитие СУБД в плане создания решений для управления и анализа данными, включая ПАК, является одним из наиболее перспективных направлений бизнеса. Ожидается, что такие продукты обеспечат рост финансовых показателей — выручки и чистой прибыли — в три раза в течение ближайших двух лет. Среди прочих новых инициатив называются разработка и запуск различных облачных услуг для крупного и среднего бизнеса.