Intel поделилась информацией об ИИ-ускорителях Crescent Island, предназначенных для использования в серверах и рабочих станциях. Ожидается, что поставки образцов изделий начнутся в текущем полугодии.

Решения Crescent Island будут предлагаться в виде карт расширения с интерфейсом PCIe 5.0 x16. Конфигурация включает 32 ядра Xe3P и 256 матричных движков XMX. Кроме того, задействованы 256 векторных движков. На каждое ядро приходится 1 Мбайт регистра общего назначения (GRF) и 512 Кбайт кеша L1. Помимо этого, есть 32 Мбайт унифицированного кеша L2.

В случае Crescent Island корпорация Intel решила отказаться от использования дорогостоящей памяти НВМ с высокой пропускной способностью. Вместо этого применяются чипы LPDDR5X с пониженным энергопотреблением (скоростные характеристики не раскрываются). Референсный вариант ускорителя несёт на борту 160 Гбайт LPDDR5X, тогда как ODM-производители будут предлагать модификации, имеющие до 480 Гбайт памяти. Заявленное энергопотребление карты находится на уровне 350 Вт; применяется воздушное охлаждение.

Источник изображений: Intel

Изделие поддерживает различные форматы данных — FP64, FP16, BF16, TF32, INT8, INT4, FP8 и FP4. Ускоритель ориентирован прежде всего на задачи инференса. Он хорошо подходит для работы с агентным ИИ и длинными контекстами, где ключевой фактор эффективности — возможность размещения модели и её KV-кеша в памяти. Отмечается, что рабочая станция, оборудованная четырьмя ускорителями Crescent Island с 480 Гбайт памяти, сможет использовать в локальном режиме модели с триллионом параметров, например, Kimi K3. В области программного обеспечения Intel указывает на поддержку vLLM, SGLang, llm-d и NVIDIA Dynamo, что позволяет ИИ-агентам функционировать в гетерогенной инфраструктуре без изменений в коде.

Компания Sandisk анонсировала SSD семейств NAS 600 и NAS 800, разработанные специально для сетевых хранилищ. Изделия, построенные на основе чипов флеш-памяти TLC 3D NAND, обеспечиваются пятилетней гарантией. Продажи начнутся в следующем месяце.

Решения NAS 600 выполнены в SFF-стандарте с толщиной корпуса 7 мм; применен интерфейс SATA-3. В серию вошли модели вместимостью 500 Гбайт, а также 1, 2 и 4 Тбайт. Заявленная скорость последовательного чтения данных у всех версий достигает 560 Мбайт/с, а скорость последовательной записи варьируется от 505 до 520 Мбайт/с. Показатель IOPS при произвольном чтении — от 74 тыс. до 87 тыс., при произвольной записи — от 74 тыс. до 77 тыс. Величина DWPD (полных перезаписей в сутки) составляет от 0,33 до 0,38 на протяжении пяти лет. Значение MTTF (средняя наработка на отказ) достигает 2,25 млн часов. Диапазон рабочих температур простирается от 0 до +70 °C.

Источник изображений: Sandisk

В свою очередь, накопители NAS 800 выполнены в формате M.2 2280 и снабжены интерфейсом PCIe 5.0 (NVMe). В эту серию входят варианты ёмкостью 960 Гбайт, а также 1,92, 3,84 и 7,68 Тбайт. Скорость чтения составляет до 14 900 Мбайт/с, скорость записи — до 13 200 Мбайт/с. Величина IOPS при произвольном чтении — до 2,3 млн, при произвольной записи — до 2 млн. Устройства рассчитаны на одну полную перезапись в сутки (1 DWPD) в течение пяти лет. Показатель MTTF — до 1,75 млн часов. Такие SSD могут эксплуатироваться при температурах от 0 до +85 °C.

Все новинки рассчитаны на работу в составе NAS в круглосуточном режиме 24/7. Цена накопителей NAS 600 в зависимости от вместимости составляет от $180 до $1000, устройств NAS 800 — от $310 до $2200.

Компания Dell сообщила о том, что её система ObjectScale стала первым в мире объектным хранилищем, получившим поддержку SSD вместимостью 245,76 Тбайт. Речь идёт о накопителях Kioxia LC9, которые были анонсированы ещё в июле прошлого года.

В основу платформы ObjectScale положен 2U-сервер PowerEdge R7725 (более ранний анонс говорил об использовании модели с процессорами AMD). Он допускает установку 40 накопителей Kioxia LC9 типоразмера E3.L на 245,76 Тбайт. В сумме это даёт 9,83 Пбайт «сырой» ёмкости. В одной стойке могут быть смонтированы до 20 серверов, в результате чего совокупный объём СХД достигнет 196,6 Пбайт.

Собственно SSD серии Kioxia LC9 построены на чипах флеш-памяти BiCS FLASH QLC 3D с технологией CBA (CMOS directly Bonded to Array). Применяется интерфейс PCIe 5.0 x4 (NVMe 2.0); реализована поддержка двух портов. Скорость последовательного чтения составляет до 12 Гбайт/с, скорость последовательной записи — до 3 Гбайт/с. Предусмотрены средства защиты от сбоев питания.

Решение ObjectScale предназначено для построения высокоэффективной инфраструктуры для работы с неструктурированными данными. Это могут быть огромные массивы информации для аналитики и машинного обучения, резервные копии и архивы, медиаконтент и пр. Платформа также подходит для определённых ИИ-задач.

Источник изображения: Dell

Нужно отметить, что СХД высокой плотности формата 2U типа All-Flash предлагают и другие компании. В частности, в ассортименте HPE присутствует система Alletra Storage Server 4120 с поддержкой 48 накопителей SFF. Supermicro предлагает решение 2U SBB, рассчитанное на 48 двухпортовых NVMe SSD. А у Lenovo есть сервер ThinkSystem SR650 V2, допускающий установку до 40 SSD.

DapuStor анонсировала передовые твердотельные накопители корпоративного класса, предназначенные для работы с ИИ. Представлены решения разных типов с воздушным и жидкостным охлаждением. В частности, дебютировали первые, по словам компании, в отрасли SSD вместимостью 512 Тбайт — изделия серии R6060.

Они выполнены на основе чипов флеш-памяти QLC и оснащены интерфейсом PCIe 5.0. Заказчикам будут предлагаться модификации в форм-факторах EDSFF нового поколения, включая E3.L и E2. Большая ёмкость упрощает масштабирование, снижает энергопотребление и общую стоимость владения высоконагруженных систем хранения, рассчитанных на работу с огромными массивами информации.

В число новинок DapuStor вошёл накопитель R6 типоразмера E1.S ёмкостью 8 Тбайт. Особенностью этого изделия является жидкостное охлаждение. В устройстве применяются чипы флеш-памяти TLC, а для подключения к серверу служит интерфейс PCIe 5.0. Решение ориентировано на ИИ-системы высокой плотности с большим количеством GPU.

Источник изображения: DapuStor

Кроме того, представлены SSD серии J5060 на базе чипов QLC. Они ориентированы на применение в составе платформ с несколькими уровнями флеш-хранения, включая SLC. Это даёт улучшенную гибкость для ИИ-нагрузок, которым требуются одновременно быстрый доступ к данным и значительная вместимость. При таких конфигурациях SLC-накопители обеспечат высокую скорость и существенный ресурс, а QLC — большую вместимость.

DapuStor также демонстрирует двухпортовые SSD семейства R6 в форм-факторе E3.S. Изделия будут выпускаться в конфигурациях TLC и QLC. В первом случае вместимость достигает 30,72 Тбайт, во втором — 61,44 Тбайт. При этом наличие двух портов повышает отказоустойчивость корпоративных ИИ-систем.

Компания Kioxia анонсировала SSD корпоративного класса семейства NX1, выполненные в форм-факторе E1.S. Накопители рассчитаны на высокопроизводительные GPU-серверы, которые применяются на площадках гиперскейлеров и в крупных дата-центрах, ориентированных в том числе на задачи ИИ.

NX1 — это первые изделия Kioxia, поддерживающие DLC СЖО. Такая опция в дополнение к традиционному воздушному охлаждению доступна для устройств в корпусе толщиной 9,5 мм. В семейство также входят варианты толщиной 15 мм: они оснащаются исключительно воздушным охлаждением.

Для подключения к серверу служит интерфейс PCIe 5.0 (NVMe 2.0). Говорится о поддержке стандартов OCP Datacenter NVMe SSD 2.6 и NVMe Flexible Data Placement (FDP), а также опционального шифрования данных (SED). В основу накопителей положены чипы флеш-памяти Kioxia BiCS Flash 8-го поколения типа TLC и фирменный контроллер с «уникальными возможностями». Задействована технология CBA (CMOS directly Bonded to Array), которая обеспечивает повышение энергоэффективности, производительности, плотности и стабильности по сравнению с решениями предыдущих поколений.

Источник изображения: Kioxia

В серию NX1 входят модели вместимостью от 1,92 до 15,36 Тбайт. Устройства способны выдерживать одну полную перезапись в сутки (1 DWPD). По сравнению с SSD серии Kioxia XD8 типоразмера E1.S, которые дебютировали в октябре 2024 года, новинки обеспечивают прирост производительности до 38 % в режиме последовательной записи и до 20 % на операциях произвольной записи. Пробные поставки изделий NX1 уже начались.

Компания Chelsio Communications анонсировала интерконнект седьмого поколения для дата-центров, систем хранения и инфраструктур, ориентированных на ИИ. В состав представленной платформы AI Interconnect Platform входят сетевые адаптеры SmartNIC, контроллеры хранения и процессоры обработки данных (DPU).

В основу AI Interconnect Platform положена архитектура Chelsio Unified Wire: она обеспечивает поддержку стандарта 400GbE и технологии Unified RDMA, объединяющей несколько протоколов удалённого прямого доступа к памяти (iWARP и RoCEv2). Кроме того, задействованы средства ускорения работы систем хранения и оптимизации ИИ-инфраструктуры для облачных, корпоративных развёртываний и гиперскейлеров.

Среди ключевых особенностей платформы названы встроенные криптографические модули для протоколов QUIC, kTLS и IPsec/TLS/kTLS, различные варианты исполнения (PCIe 5.0, OCP 3.0) и лучшие в отрасли показатели производительности в расчёте на ватт потребляемой энергии. Говорится о поддержке виртуализации SR-IOV (Single Root I/O Virtualization), виртуальной коммутации vSwitch и пр.

Источник изображений: Chelsio Communications

В число анонсированных решений входят двух- и четырёхпортовые адаптеры S7250 / S7450 / S7450-OCP SmartNIC с поддержкой 1/10/25/50GbE. Эти изделия оптимизированы для виртуализации, встраиваемых систем и периферийных развёртываний. Кроме того, дебютировали решения S72200 / S72200-OCP SmartNIC с поддержкой 40/50/100/200GbE для масштабных облачных сред, HPC и ИИ-инфраструктур. Представлен также однопортовый адаптер S71400 SmartNIC класса 400GbE с возможностью работы в режимах 4 × 100GbE и 2 × 200GbE: устройство рассчитано на сверхмасштабные сетевые инфраструктуры.

Кроме того, Chelsio выпустит контроллеры хранения T72200/T7450. Они предназначены для ускорения выполнения задач, связанных с обработкой данных. Обеспечивается аппаратная разгрузка для NVMe/TCP, NVMe-oF, iSCSI, RDMA и пр. Устройства будут предлагаться в форм-факторах PCIe и OCP.

Все перечисленные изделия уже доступны для заказа. В декабре начнётся производство полностью программируемых карт T72200-DPU / T7450-DPU, которые сейчас доступны для ознакомления.

Китайская компания Hygon, по сообщениям сетевых источников, создала процессоры нового поколения с архитектурой x86. Речь идёт об изделиях C86-5G, которые, как ожидается, будут применяться в оборудовании для дата-центров. Кроме того, в разработке находятся другие продукты, включая ИИ-ускорители.

Решения C86-5G придут на смену изделиям C86-4G, которые являются наследниками AMD Zen1. Чипы C86-4G насчитывают 16 вычислительных ядер с возможностью одновременной обработки до 32 потоков инструкций, а тактовая частота составляет 2,8 ГГц. Реализована поддержка оперативной памяти DDR5 и интерфейса PCIe 5.0.

Известно, что процессоры C86-5G получат до 128 вычислительных ядер. Упомянута технология многопоточности SMT4, которая позволит каждому ядру обрабатывать четыре потока инструкций, что в сумме даст 512 потоков. Упомянута поддержка 104 линий PCIe 5.0, инструкций AVX512 (ISA на уровне Zen 5), а также режимов INT8 и BF16. Заявленная производительность — 10 Тфлопс на операциях FP64 (до 32 операций за такт). Ожидается, что в ЦОД-сегменте новые китайские процессоры станут альтернативой Intel Xeon 6.

Источник изображений: Hygon

Производство C86-5G уже началось. Чипы станут основой ряда серверов, включая двухсокетную модель H620G59 формата 2U с воздушным охлаждением. Эта система оборудована 32 слотами для модулей DDR5-6400, тремя разъёмами PCIe 5.0 х16, двумя слотами ОСР 3.0, восемью фронтальными отсеками для накопителей стандарта SFF, а также двумя внутренними коннекторами для SSD типоразмера М.2. Кроме того, готовятся серверные стойки высокой плотности TC800G6 (PUE — 1,08) и TC8600H G5 (PUE — 1,04) с жидкостным охлаждением.

Вместе с тем Hygon намерена выпустить GPU с памятью HBM и высокоскоростным интерконнектом. Известно, что это устройство допускает работу в режимах FP64/PF16/BF16. Новинка, предположительно, сможет составить конкуренцию NVIDIA A100. Наконец, в разработке находятся коммутационные решения класса 400/800 Гбит/с. Это чип с поддержкой 104 линий PCIe 5.0, высокоскоростной интерконнект для вертикального масштабирования (сопоставим с NVLink), решение ScaleFabric 400G (для NIC), а также ScaleFabric 400/800G. Последняя из перечисленных новинок обеспечивает поддержку 80 портов на 400 Гбит/с с RDMA, а коммутационная способность достигает 64 Тбит/с. Это устройство рассматривается в качестве альтернативы InfiniBand NDR.

Meta✴ подготовила ASIC Vistara, который позволит посредством CXL установить старую память, например, DDR4, взятую из списанных серверов, в новые серверы, что позволит хотя бы частично сгладить дефицит DRAM, из-за которого компания уже вынужденно продлила срок жизни оборудования. В числе преимуществ такого подхода авторы называют практически бесплатное добавление памяти за счёт повторного использования, повышение производительности благодаря использованию большей ёмкости памяти и снижение выбросов углекислого газа.

Meta✴ отметила, что технология CXL в целом не получила широкого распространения из-за «низкой пропускной способности, высокой задержки и высоких накладных расходов». «Например, расширенная память, которую мы используем в производстве, обеспечивает примерно в 10 раз меньшую пропускную способность и примерно на 60 % большую задержку, чем локальная память», — отмечает компания.

В частности, дополнительные контроллеры и мостики между различными интерфейсами добавляют порядка 150 нс задержек. Кроме того, сообщается, что «большинство решений CXL интегрируют DRAM с контроллером, что препятствует повторному использованию DIMM, и часто не поддерживают DDR4, что является обязательным условием для повторного использования старой памяти». При этом у компании были и есть в использовании около десятка различных DDR4 DIMM. По словам Meta✴, эти проблемы решают в компании с помощью совместной разработки аппаратного и программного обеспечения.

Источник изображений: Meta✴

«В аппаратной части мы разрабатываем собственную микросхему CXL ASIC, Vistara, оптимизированную для повторного использования DRAM, энергоэффективности и низкой задержки. В программной части мы создаем оптимизированное решение на основе TPP (Transparent Page Placement), определяем подходящее соотношение локальной и расширенной памяти для каждой рабочей нагрузки и автоматизируем конфигурацию для каждой задачи, в том числе отключая расширенную память для нагрузок, чувствительных к увеличению задержки», — говорит компания.

ASIC Vistara имеет два 72-бит канала DDR4-3200 (на практике частота снижена до 2400) с ECC с поддержкой 2DPC, позволяющими установить до 256 Гбайт памяти (на практике 128 Гбайт в четырёх DIMM). Для общения с хостом используется интерфейс PCIe 5.0 x16 (на практике достаточно и x8) с поддержкой CXL 1.1/2.0 Type 3. ASIC потребляет около 9 Вт, а задержка обращений к памяти составляет порядка 50 нс. В состав контроллера входят три управляющих ядра RISC-V. Модули с Vistara, по два на каждый односокетный узел, устанавливаются в отдельные слоты в задней части шасси и обдуваются отдельным потоком воздуха во избежание перегрева и для повышения стабильности работы.

Как сообщается, это решение обеспечивает существенный прирост производительности для различных рабочих нагрузок, включая сокращение количества используемых серверов до 25 % для дезагрегированного машинного обучения и сокращение средней задержки на 29 % для распределённых кешей. Стоит отметить, что Microsoft также озаботилась возможностью использования старых модулей DDR4 и морально устаревших SSD в новых серверах в рамках проекта GreenSKU.

Компания DataDirect Networks (DDN) анонсировала высокопроизводительную систему хранения AI400X3M, ориентированную на наиболее требовательные нагрузки ИИ и НРС. Новинка вошла в семейство программно-аппаратных комплексов EXAScaler, в основе которых лежит параллельная файловая система Lustre.

Модель AI400X3M выполнена на аппаратной платформе AMD EPYC Genoa. Устройство приходит на смену версии A1400X2, в составе которой применяются процессоры Intel Xeon Ice Lake. По сравнению с предшественником пропускная способность при чтении, как утверждается, поднялась на 35 %.

Представленное решение выполнено в форм-факторе 2U с габаритами 856 × 446 × 87 мм. Допускается установка 24 NVMe SSD с интерфейсом PCIe 5.0. Заказчикам будут предлагаться варианты вместимостью 120, 250 и 500 Тбайт, а также 1 и 2 Пбайт. Возможны модификации с четырьмя портами XDR/400GbE OSFP или восемью портами NDR200/200GbE QSFP112.

Источник изображения: DDN

Заявленная скорость последовательного чтения информации у AI400X3M достигает 190 Гбайт/с, скорость последовательной записи — 110 Гбайт/с. Величина IOPS (операций ввода/вывода секунду) при произвольном чтении — до 8 млн. Стойка, оборудованная такими СХД, способна обеспечить суммарную вместимость до 30 Пбайт и показатель IOPS до 160 млн.

Новинка укомплектована двумя блоками питания с резервированием и возможностью горячей замены. Диапазон рабочих температур простирается от +5 до +30 °C. Устройство весит около 44 кг без установленных накопителей.

DDN подчёркивает, что внедрение AI400X3M позволит предприятиям, операторам ИИ ЦОД и облачным провайдерам значительно повысить эффективность инфраструктуры, одновременно снизив энергопотребление, затраты на охлаждение и эксплуатационные расходы. СХД поступит в продажу к концу III квартала текущего года.

Компания ScaleFlux анонсировала контроллер MC500 CXL Type 3, разработанный в сотрудничестве с ключевыми отраслевыми партнёрами. Изделие, оптимизированное для обеспечения максимальной производительности в расчёте на 1 Вт энергоптребления, ориентировано на высоконагруженные инфраструктуры ИИ и облачные платформы.

Чип поддерживает стандарты JEDEC SPDM 1.2 и Caliptra, а также передовую технологию коррекции ошибок (ECC) с применением декодирования по списку (list decoding) для обработки сложных сбоев. Применяется интерфейс PCIe 5.0 с возможностью работы в режимах x4, x8, 2x4 и 2x8.

Контроллер совместим с памятью DDR5-4800 (4 канала; 2DPC) и DDR4-3200 (2 канала; 2DPC). В первом случае её объём может достигать 1 Тбайт, во втором — 512 Гбайт. На базе чипа могут проектироваться устройства типоразмера FHHL, HHHL, EDSFF E3.S 1T и E3.S 2T. Типовое заявленное энергопотребление изделия MC500 CXL Type 3 составляет около 6 Вт при использовании восьми линий PCIe или приблизительно 10 Вт в режиме 2×8 линий. Изделие выполнено в корпусе Flip Chip BGA с размерами 23 × 23 мм.

Источник изображения: ScaleFlux

Чип предназначен для объединения процессоров, памяти и ускорителей в серверах. Говорится о совместимости с компонентами ведущих отраслевых игроков, что упрощает построение систем. Контроллер поможет устранить узкие места в архитектуре дата-центров и обеспечить бесшовную совместную работу оборудования, что важно в свете стремительного увеличения объёмов обрабатываемых и передаваемых данных.

Нужно отметить, что в конце прошлого года консорциум CXL Consortium представил спецификацию Compute Express Link (CXL) 4.0. В её основе лежит интерфейс PCIe 7.0, что обеспечивает поддержку линий с пропускной способности в 128 ГТ/с.