AMD анонсировала мощную рабочую станцию Threadripper Halo Station, предназначенную для локального использования ИИ-моделей, насчитывающих более чем 1 трлн параметров. В продажу новинка поступит в следующем году.

Как отмечает старший вице-президент и генеральный директор AMD по вычислительным и графическим решениям, на сегодняшний день Threadripper Halo Station — это самая мощная рабочая станция в мире. Она может использоваться, например, для локального запуска сотен ИИ-агентов.

В основу положен процессор Ryzen Threadripper PRO 9995WX (Shimada Peak): 96C/192T, 2,5/5,4 ГГц, L3-кеш 384 Мбайт. Может использоваться до 2 Тбайт DDR5. Стандартная конфигурация включает два ускорителя Instinct MI350P, каждый из которых несёт на борту 144 Гбайт HBM3E с 4096-бит шиной и пропускной способностью до 4 Тбайт/с.

Источник изображений: AMD

В максимальной комплектации могут быть задействованы четыре таких карты, что в сумме даст 576 Гбайт HBM3E. Применяется СЖО, которая охватывает независимо каждый из экземпляров Instinct, а также CPU. Отмечается, что агрегированная пропускная способность памяти GPU достигает 16 Тбайт/с, системной памяти — 410 Гбайт/с. Прочие технические характеристики на текущий момент не раскрываются.

Каждый из установленных ИИ-ускорителей потребляет до 600 Вт, тогда как показатель TDP процессора Ryzen Threadripper Pro 9995WX составляет 350 Вт. Таким образом, с учётом энергопотребления памяти, установленных накопителей, СЖО и прочих компонентов рабочая станция при максимальной нагрузке может требовать более 3 кВт.

Компания ASUS анонсировала серверы RS700-E12-RS4U и RS720-E12-RS12U на аппаратной платформе Intel, а также RS720A-E14B-R32U, RS500A-E14B-R12U и ESC8000A-E13P на процессорах AMD для приложений ИИ, HPC и нагрузок, связанных с интенсивным использованием данных.

Двухсокетные модели RS700-E12-RS4U и RS720-E12-RS12U рассчитаны на чипы Xeon 6 (Granite Rapids-SP/Sierra Forest-SP). Доступны 32 слота для модулей DDR5-6400 суммарным объёмом до 8 Тбайт. Устройство RS700-E12-RS4U выполнено в формате 1U. Есть два слота PCIe 5.0 x16 для карт расширения FHHL, два разъёма OCP 3.0 PCIe 5.0 x16 (SFF), два коннектора для SSD типоразмера M.2 2280/2260 (PCIe 5.0 х2), четыре отсека для SFF-накопителей NVMe/SATA/SAS.

В свою очередь, версия RS720-E12-RS12U формата 2U предлагает до десяти слотов расширения: 6 × PCIe 5.0 x8 или 3 × PCIe 5.0 x16 (FHFL), 2 × PCIe 5.0 x16 (FHHL) и 2 × OCP3.0 PCIe 5.0 x16 (SFF). Доступны 12 посадочных мест для SFF-накопителей NVMe/SATA/SAS и два коннектора M.2 2280/2260 (PCIe 5.0 х2). Обе системы располагают контроллером Aspeed AST2600, портами RJ45, Mini-DP и USB 3.0.

Серверы RS720A-E14B-R32U и RS500A-E14B-R12U комплектуются чипами EPYC Venice (9006). Первая из этих машин выполнена в формате 2U: она рассчитана на два процессора и 32 модуля DDR5 суммарным объёмом до 4 Тбайт. Могут быть установлены 32 накопителя EDSFF E3.S и два SSD стандарта М.2 22110/2280/2260 с интерфейсом PCIe 4.0 x4. Слоты расширения выполнены по следующей схеме: 2 × PCIe 6.0 x8 или 1 × PCIe 6.0 x16 (FHFL), 1 × PCIe 6.0 x16 (FHHL) и 2 × OCP 3.0 PCIe 6.0 x16 (SFF).

Источник изображений: ASUS

Вариант RS500A-E14B-R12U формата 1U имеет односокетную конструкцию с поддержкой 16 модулей DDR5 (до 2 Тбайт). Реализованы по два слота PCIe 6.0 x16 (FHHL) и OCP 3.0 PCIe 6.0 х16, 12 фронтальных отсеков для SFF-накопителей NVMe/SATA/SAS и два коннектора M.2. Системы оборудованы контроллером Aspeed AST2700.

Наконец, сервер ESC8000A-E13P типоразмера 4U поддерживает установку двух процессоров EPYC Turin (9005). Доступны 24 слота для модулей DDR5-6400/5600 суммарным объёмом до 3 Тбайт. Могут быть смонтированы до восьми двухслотовых ускорителей NVIDIA H200, NVIDIA RTX PRO 6000 Blackwell Server Edition, NVIDIA RTX PRO 4500 Blackwell Server Edition или AMD Instinct MI350P. Кроме того, предусмотрены пять слотов PCIe 5.0 x16 для карт NIC/BlueField-3, восемь фронтальных отсеков для SFF-накопителей и два коннектора M.2 (NVMe). Реализованы два сетевых порта 10GbE (X710-AT2).

Компания Broadcom представила решение VMware AI Factory в качестве программно-определяемой основы для VMware Private AI Cloud, предлагающей клиентам более простой путь к внедрению ИИ благодаря инновациям в автоматизации развёртывания готовой к ИИ инфраструктуры, её сопровождении и поддержке. Как утверждает Broadcom, с помощью её ИИ-фабрики клиенты смогут ускорить развёртывание первой модели и лучше управлять токеномикой ИИ.

«Мы предоставляем клиентам программно-определяемую основу, которая автоматизирует развёртывание инфраструктуры, объединяет управление жизненным циклом и позволяет им выбирать предпочтительное оборудование и проверенные модели. В результате — ускорение развёртывания первой модели, предсказуемые затраты на частное облако и лучший контроль над токеномикой ИИ», — заявил главный директор по продуктам подразделения VMware Cloud Foundation.

VMware AI Factory предоставляет ИИ-приложения непосредственно к частным данным предприятия в защищённой среде частного облака. Благодаря возможностям автоматизации инфраструктуры VCF время от развёртывания на физическом сервере до запуска первой ИИ-модели сокращается с недель до нескольких часов. VMware AI Factory упрощает управление ИИ-инфраструктурой, полностью автоматизируя выделение оборудования, включение программного стека и управление жизненным циклом от начала до конца.

Источник изображения: Broadcom

VMware AI Factory построена на платформе VMware Cloud Foundation (VCF), которая объединяет и совместно использует ресурсы GPU в масштабах всей организации, позволяя командам запускать несколько моделей на общем оборудовании вместо выделения инфраструктуры для каждой рабочей нагрузки. Новые и готовящиеся к запуску частные ИИ-сервисы включают:

• Многопользовательское совместное использование моделей: Model Runtime теперь поддерживает безопасное совместное использование ИИ-моделей через изолированные пространства имен.
• Единое управление моделями в локальных и облачных средах через единый интерфейс потребления, обеспечивающее доступ к локально размещенным моделям с такими улучшениями, как интеллектуальная маршрутизация запросов, ограничение скорости использования токенов и авторизация приложений.
• Безопасные песочницы и управление ИИ, гарантирующие, что агенты не будут превышать свои полномочия или получать доступ к запрещённым для них ресурсам.

VMware AI Factory поддерживает сертифицированные узлы VCF AI ReadyNodes от Cisco, Dell, Lenovo и Supermicro, а также других производителей. Broadcom также объявила о сотрудничестве с AMD для интеграции VCF с GPU AMD Instinct и программной экосистемой ROCm. Любопытно, что идею ИИ-фабрики (AI Factory) первой предложила NVIDIA в качестве эталонной архитектуры, описывающей всё оборудование и ПО, необходимые для выполнения ИИ-нагрузок. ИИ-фабрики NVIDIA основаны на собственном оборудовании и ПО, а также на серверах Dell, Lenovo, HPE и др., которые тоже называют свои продукты ИИ-фабриками.

Вице-президент по маркетингу продуктов в подразделении VCF компании Broadcom, сообщил изданию The Register, что VMware AI Factory — это «эволюция» VMware Private AI Foundation with NVIDIA, добавив, что NVIDIA является «нашим самым давним партнёром среди поставщиков GPU». Несмотря на давнее партнёрство, VMware позаимствовала название продукта NVIDIA для конкурирующего предложения, продвигающего её главного соперника AMD. Впрочем, VMware сообщила, что не исключает возможность создания AI Factory for NVIDIA.

AMD, Cisco и саудовская Humain запустили первую в Саудовской Аравии промышленную ИИ-инфраструктуру на основе ускорителей Instinct в формате GPUaaS. Инфраструктура объединяет ИИ-ускорители AMD Instinct MI355X, CPU AMD EPYC, коммутаторы Cisco Silicon One (N9000) и оптический 800G-интерконнекты.

Компании заявляют, что инфраструктура обслуживает клиентов Humain в Саудовской Аравии и на других рынках, поддерживая различные задачи, от обучения ИИ-моделей до инференса. Система — первый этап более масштабного проекта строительства ИИ-инфраструктуы. В 2027 году AMD, Cisco и Humain рассчитывают начать внедрение до 250 МВт мощностей с использованием новейших AMD Instinct MI400 Series во II полугодии 2027 года. К 2030 году планируется развернуть до 1 ГВт.

Новая архитектура позиционируется как суверенная ИИ-платформа, с помощью которой Humain рассчитывает обеспечить государственные органы, предприятия, исследовательские организации и разработчиков решением, работающим непосредственно на территории страны. AMD предоставляет вычислительные мощности и открытое ПО (ROCm), а Cisco — совместимую сетевую архитектуру и инструменты для централизованного управления инфраструктурой. ИИ-модели предоставит, в частности, Mistral.

Источник изображения: سيف الظاهر/unsplash.com

Для американских компаний наиболее важен переход архитектуры AMD/Cisco к промышленной эксплуатации. Планируемый переход от AMD Instinct MI355X к поколению MI400 демонстрирует, как быстро должна, по мнению создателей, развиваться инфраструктура. Также проект демонстрирует, как политика суверенного ИИ и архитектура гиперскейл-уровня пересекаются всё теснее. Если заявленные планы реализуют, Саудовская Аравия получит в своё распоряжение ИИ-платформу, по мощности энергопотребления сопоставимую с кампусами гиперскейл-уровня.

Европейское совместное предприятие по развитию высокопроизводительных вычислений (EuroHPC JU) и консорциумом LUMI AI Factory выбрали французскую компанию Bull в качестве подрядчика для реализации проекта LUMI-AI — ИИ-суперкомпьютера стоимостью €387,8 млн. Ожидается, что этот комплекс существенно расширит возможности Европы в сфере HPC.

Система LUMI-AI расположится в IT-центре CSC в Каяани (Финляндия) рядом с действующим суперкомпьютером LUMI. Новая машина проектируется с прицелом на широкий спектр нагрузок — от обучения ИИ-моделей и инференса до масштабных научных симуляций, критически важных для поддержания прорывных исследований.

В основу суперкомпьютера LUMI-AI ляжет новейшая архитектура BullSequana XH3500 с жидкостным охлаждением. Говорится о применении 256-ядерных процессоров AMD EPYC Venice 9006 и ускорителей AMD Instinct MI430X. Платформа BullSequana XH3500 использует открытую модульную конструкцию: такой подход позволяет свободно комбинировать блоки CPU, GPU и сетевые компоненты от различных производителей. Так, в качестве технологических партнёров в рамках проекта LUMI-AI выступают IBM (отвечает за хранилище на основе Storage Scale) и Nokia (экспертиза в области сетевых технологий).

Ожидается, что LUMI-AI обеспечит десятикратный прирост производительности для нагрузок ИИ, а также почти двукратное увеличение быстродействия для HPC-задач по сравнению с существующим суперкомпьютером LUMI. Производительность последнего находится на отметке 379,7 Пфлопс. Новый вычислительный комплекс будет работать исключительно на возобновляемой энергии, соответствуя строгим экологическим стандартам. Генерируемое тепло планируется направлять в городскую систему теплоснабжения Каяани.

Источник изображения: Bull

Проект LUMI-AI финансируется на паритетных началах предприятием EuroHPC JU и консорциумом LUMI AI Factory, в который входят Финляндия, Чехия, Дания, Эстония, Норвегия и Польша. Развёртывание суперкомпьютера намечено на II половину 2027 года.

Компания AMD объявила о том, что некоторые её адаптивные «системы на чипе» (SoC) семейства Versal получат поддержку открытого отраслевого стандарта Universal Chiplet Interconnect Express (UCIe) 1.1. Это упростит интеграцию специализированных компонентов для определённых нагрузок и задач. Изделия Versal RF с поддержкой UCIe появятся в IV квартале 2027 года.

Интерконнект UCIe предназначен для обеспечения высокоскоростного обмена данными между различными чиплетами в составе одного общего корпуса. Поддержкой UCIe 1.1 обзаведутся изделия Versal RF со встроенными высокоскоростными радиочастотными аналого-цифровыми и цифро-аналоговыми преобразователями. Эти изделия объединяют программируемую логику FPGA, специализированные движки ИИ и аппаратные блоки цифровой обработки сигналов (DSP). Производительность достигает 80 TOPS при гетерогенных вычислениях.

Источник изображений: AMD

Сообщается, что устройства серии Versal RF смогут поддерживать до четырёх независимых интерфейсов UCIe Standard Package (UCIe-SP) и до двух интерфейсов UCIe Advanced Package (UCIe-AP). В сумме это обеспечит мультитерабитную пропускную способность внутри одной упаковки.

Благодаря UCIe чиплеты Versal RF смогут напрямую взаимодействовать с другими соупакованными блоками, оптимизированными под конкретные нагрузки. Это могут быть сторонние радиочастотные модули или преобразователи данных, ИИ-ускорители, ядра CPU и GPU, модули безопасности, коммуникационные процессоры, ASIC и пр. Таким образом, устраняется необходимость использования отдельных внешних чипов (становится возможной интеграция чиплетов в SoC), подключение которых создаёт дополнительные задержки, повышает энергопотребление и усложняет проектирование. Интерфейс UCIe обеспечивает стандартизированное внутрикорпусное соединение для эффективного обмена данными между гетерогенными чиплетами, включая решения разных производителей.

Компания Synology анонсировала сетевые хранилища RackStation RS826RP+ и RS826+, ориентированные на использование в сфере малого и среднего бизнеса. Устройства, рассчитанные на монтаж в серверную стойку, построены на аппаратной платформе AMD.

Новинки заключены в корпус формата 1U с габаритами 480 × 518,6 × 44 мм. Задействован процессор Ryzen Embedded V1500B с четырьмя ядрами (восемь потоков), работающими на частоте 2,2 ГГц. Объём оперативной памяти DDR4 ECC SO-DIMM в базовой конфигурации составляет 4 Гбайт, в максимальной — 32 Гбайт (2 × 16 Гбайт).

Во фронтальной части расположены четыре отсека для LFF/SFF-накопителей с интерфейсом SATA-3; допускается горячая замена. Заявленная скорость последовательного чтения информации может превышать 2000 Мбайт/с, скорость последовательной записи — 1300 Мбайт/с. Реализованы четыре сетевых порта 1GbE с разъёмами RJ45, которые могут быть объединены с помощью Link Aggregation для обеспечения автоматического резервирования сети и балансировки нагрузки.

Источник изображения: Synology

Хранилища оборудованы слотом PCIe 3.0 x8, в который может быть установлен контроллер 10/25GbE или адаптер для двух накопителей Synology M.2 SSD. Есть два порта USB 3.0 и разъём USB Type-C. Модель RackStation RS826+ оснащена одним блоком питания мощностью 150 Вт, а версия RackStation RS826RP+ — двумя (с резервированием). Диапазон рабочих температур простирается от 0 до +35 °C.

Две системы RS826RP+/RS826+ можно объединить с помощью Synology High Availability для создания кластера серверов хранения с активным и пассивным режимами. Устройства можно настроить как «горячее» или «холодное» хранилище, что обеспечивает гибкость для дополнения существующего оборудования и инфраструктуры. Инструмент Synology Tiering автоматически перемещает редко используемые данные на более экономичные уровни, обеспечивая баланс между производительностью и ёмкостью. На новинки предоставляется трёхлетняя гарантия. 

Компания Gigabyte анонсировала новые серверы семейства R165 на аппаратной платформе AMD EPYC Venice 9006. Дебютировали модели R165-ZG1-CS1, R165-DG3-CS1 и R165-DG2-CS2 в форм-факторе 1U, подходящие для таких задач, как визуальные вычисления, облачные платформы, ИИ-инференс и пр.

Устройство R165-ZG1-CS1 допускает установку одного процессора EPYC 9006 в исполнении SP8 и 16 модулей оперативной памяти DDR5 RDIMM/MRDIMM. Во фронтальной части расположены 12 отсеков для SFF-накопителей NVMe/SATA/SAS-4 с возможностью горячей замены. Есть по одному разъёму PCIe 6.0 x16 для двухслотового ускорителя на базе GPU, а также дополнительных карт расширения стандартов FHFL и FHHL.

Вариант R165-DG3-CS1 рассчитан на один чип EPYC 9006 в исполнении SP7. В арсенале сервера — 16 слотов DDR5 RDIMM/MRDIMM, 16 отсеков для накопителей E3.S с интерфейсом PCIe 6.0 (NVMe), по одному слоту PCIe 6.0 x16 для GPU-ускорителя FHFL и карты FHHL.

Источник изображений: Gigabyte

Наконец, модификация R165-DG2-CS2 поддерживает процессор EPYC 9006 в исполнении SP7, 16 модулей DDR5 RDIMM/MRDIMM и 12 SFF-накопителей NVMe/SATA/SAS-4. Доступны по одному слоту PCIe 6.0 x16 для GPU-ускорителя FHFL и карты FHHL.

Все новинки укомплектованы двухпортовым сетевым контроллером 1GbE на основе Intel I350-AM2. Предусмотрены два внутренних коннектора для SSD стандарта M.2 с интерфейсом PCIe 4.0 x2. Питание обеспечивают два блока мощностью 3200 Вт с сертификатом 80 PLUS Titanium и резервированием. Говорится о поддержке модуля управления и безопасности DC-SCM (Data Center Secure Control Module).

Компания Gigabyte пополнила ассортимент ИИ-серверов моделью G4L4-ZD3-LAX7 в форм-факторе 4U. Устройство выполнено на аппаратной платформе AMD EPYC 9005 Turin в сочетании с NVIDIA HGX B300 (SXM).

Допускается установка двух процессоров EPYC в исполнении Socket SP5 (LGA 6096) с показателем TDP до 500 Вт. Доступны 24 слота для модулей оперативной памяти DDR5-6400, а также четыре слота PCIe 5.0 x16 для карт типоразмера FHHL. Питание обеспечивают десять блоков мощностью 3000 Вт с резервированием и сертификатом 80 PLUS Titanium.

Сервер располагает контроллером ASPEED AST2600, двумя сетевыми портами 10GbE на базе Intel X710-AT2, а также выделенным сетевым портом управления 1GbE. Могут быть реализованы восемь OSFP-портов InfiniBand XDR с пропускной способностью до 800 Гбит/с или сдвоенные 400GbE-порты на базе NVIDIA ConnectX-8 SuperNIC. Упомянута совместимость с DPU NVIDIA BlueField-3.

Во фронтальной части расположены восемь отсеков для SFF-накопителей с интерфейсом PCIe 5.0 (NVMe). Кроме того, есть два внутренних коннектора M.2 (2280/22110) для SSD с интерфейсами PCIe 3.0 x4 и PCIe 3.0 x1. Предусмотрены два фронтальных порта USB 3.0 Type-A, разъём D-Sub и три гнезда RJ45 для сетевых кабелей.

Источник изображения: Gigabyte

Применяется жидкостное охлаждение, которое охватывает все ключевые компоненты, в том числе CPU, GPU и RAM. Дополнительно установлены вентиляторы диаметром 60 мм в области материнской платы и 80 мм в зоне слотов PCIe. Диапазон рабочих температур — от +10 до +35 °C. Опционально доступен модуль TPM 2.0 для обеспечения безопасности.

Компания Supermicro пополнила ассортимент серверов моделью Storage SuperServer ASG-4116S-NU160R на аппаратной платформе AMD. Это система хранения высокой плотности типоразмера 4U, допускающая установку более 160 твердотельных накопителей с интерфейсом PCIe.

Источник изображения: Supermicro

Устройство оснащается процессором семейства AMD EPYC 9005 Turin с показателем TDP до 360 Вт (до 96C/192T). Предусмотрены 12 слотов для модулей оперативной памяти DDR5-6400 RDIMM ECC суммарным объёмом до 6 Тбайт. В оснащение входят два сетевых порта 10GbE RJ45 на основе контроллера Broadcom BCM57416 и выделенный сетевой порт управления 1GbE RJ45 на базе ASPEED AST2600. Есть три слота PCIe 5.0 x16 для карт формата FHHL, два фронтальных порта USB 3.0 Type-A и аналоговый порт D-Sub.

Сервер оснащён 160 слотами для SSD стандарта SFF U.2 (PCIe 4.0 x1; NVMe) с вертикальной загрузкой и возможностью горячей замены. Кроме того, предусмотрены четыре фронтальных отсека для накопителей E1.S (PCIe 5.0; x4 NVMe) с поддержкой горячей замены, а также два внутренних коннектора для SSD типоразмера M.2 M-key 22110/2280 (NVMe). Таким образом, в общей сложности могут быть задействованы до 166 накопителей.

Источник изображения: Supermicro

Новинка оборудована системой воздушного охлаждения. Диапазон рабочих температур простирается от +10 до +35 °C. Питание обеспечивают два блока мощностью 2600 Вт с резервированием и сертификатом 80 PLUS Titanium. Габариты системы составляют 845 × 448,4 × 176 мм, масса — 92 кг. Присутствует модуль TPM 2.0 для обеспечения безопасности.