Компания Supermicro в партнёрстве с IBM и NVIDIA анонсировала специализированную аппаратно-программную платформу, предназначенную для работы с KV-кешем. Система позволяет значительно сократить время, необходимое ИИ-моделям для начала генерации ответа по запросу пользователя.

Аппаратной основой платформы служат серверы хранения Supermicro Petascale класса All-Flash. Такие устройства выполнены в форм-факторе 1U на процессоре AMD EPYC Turin (до 96 ядер). Поддерживается до 9 Тбайт DDR5-4400 в виде 24 модулей. Упомянуто применение сетевых технологий NVIDIA Spectrum-X. Питание обеспечивают два блока мощностью 1600 Вт с резервированием и сертификатом 80 Plus Titanium.

Во фронтальной части узлов хранения расположены 16 отсеков для накопителей E3.S 1T с интерфейсом PCIe 5.0 x4 (NVMe). Кроме того, есть два внутренних коннектора M.2 M-key 2280/22110 для SSD с интерфейсами PCIe 3.0 x2 и PCIe 3.0 x4. Предусмотрены два слота PCIe 5.0 x16 для карт FHHL и два разъёма OCP 3.0 (PCIe 5.0 x16). Устройство оборудовано сетевым портом управления 1GbE (RJ45), коннектором D-Sub и четырьмя портами USB 3.0 Type-A (по два спереди и сзади). Используется воздушное охлаждение с восемью вентиляторами диаметром 40 мм.

Программная часть включает софт IBM Storage Scale, а также фреймворк NVIDIA Dynamo. В тестах новой платформы на модели со 120 млрд параметров при длине промпта в 130 тыс. токенов время до выдачи первого ответа оказалось в 56 раз меньше по сравнению с обычными системами. Кроме того, при увеличении длины запроса с 30 тыс. до 130 тыс. токенов задержка поднялась всего на 0,377 с.

Источник изображения: Supermicro

Компания Supermicro анонсировала сервер ARS-222GL-NR класса ARC MGX, созданный на базе модульной эталонной архитектуры NVIDIA MGX в рамках концепции NVIDIA Aerial RAN Computer (ARC). Устройство ориентировано на телекоммуникационных операторов.

Новинка рассчитана на два процессора NVIDIA Vera, каждый из которых содержит 88 ядер Olympus (Arm v9.2) с возможностью одновременной обработки до 176 потоков инструкций. Поддерживаются 16 модулей оперативной памяти SOCAMM2 LPDDR5X суммарным объёмом до 3 Тбайт.

Система может быть оборудована двумя ускорителями NVIDIA RTX PRO 4500 Blackwell Server Edition или NVIDIA RTX PRO 6000 Blackwell Server Edition. Доступны три слота PCIe 6.0 x16 для карт FHFL двойной ширины, разъём CXL 2.0 x16, восемь отсеков для накопителей E1.S NVMe, а также два коннектора М.2 для SSD (NVMe/SATA). Сервер располагает выделенным сетевым портом управления 1GbE (RJ45), интерфейсом mini-DP и портом USB Type-A. Могут быть установлены три адаптера NVIDIA ConnectX-8 и DPU BlueField-3.

Модель ARS-222GL-NR выполнена в форм-факторе 2U с габаритами 900 × 438,4 × 87 мм. Реализована система воздушного охлаждения с пятью вентиляторами диаметром 80 мм. Диапазон рабочих температур — от +10 до +35 °C. Питание обеспечивают четыре блока мощностью 3200 Вт с резервированием (3 + 1) и сертификатом 80 Plus Titanium.

Источник изображения: Supermicro

Кроме того, Supermicro представила аналогичный сервер ARC MGX 2U на аппаратной платформе Intel: модель SYS-222C-TN поддерживает два процессора Xeon 6700P и 6500P поколения Granite Rapids-SP или два чипа Xeon 6700E семейства Sierra Forest-SP в исполнении Socket E2 (LGA 4710) с показателем TDP до 350 Вт. Доступны 32 слота для DDR5-8000, до 24 фронтальных отсеков для SFF-накопителей NVMe/SAS/SATA, до восьми разъёмов PCIe 5.0 x16 и пр. Применены два блока питания мощностью до 3200 Вт с сертификатом 80 Plus Titanium.

Supermicro анонсировала стойку с процессорами NVIDIA Vera — новое дополнение к линейке DCBBS (Data Center Building Block Solutions) обещает высокую плотность вычислительных мощностей, необходимых для работы агентного ИИ, задач обучения с подкреплением и обработки данных. Решение позволяет развернуть до 22,5 тыс. песочниц. Стойка может эксплуатироваться самостоятельно или совместно с уже поставляемой системой Supermicro NVIDIA Vera Rubin NVL72.

Стойка Supermicro с процессорами NVIDIA Vera объединяет 256 CPU, обеспечивая в общей сложности 22 528 ядер и 45 056 потоков. За высокоскоростное подключение и аппаратные функции безопасности отвечает DPU BlueField-4; технология прямого жидкостного охлаждения Supermicro DLC-2 охватывает стойку целиком. Стойка построена на архитектуре NVIDIA MGX третьего поколения, которая включена в состав комплекса DLC-2 — это обеспечивает унифицированную инфраструктурную базу, общую с системой Vera Rubin NVL72 того же производителя, и упрощает стандартизированное развёртывание. Для питания заказчики могут выбрать либо традиционное подключение к сети переменного тока, либо использовать дополнительный модуль 800 В DC.

Источник изображения: supermicro.com

Стойка Supermicro NVIDIA Vera CPU поддерживает решение NVIDIA OpenShell, которое обеспечивает непрерывный мониторинг и контроль поведения ИИ-агентов; в качестве внешнего средства мониторинга выступает NVIDIA Sentry на DPU BlueField-4 — при выходе ИИ-агента из-под контроля он изолируется за несколько миллисекунд. Supermicro предусмотрела вариант конфигурации, объединяющий стойки VR200 NVL72 и Vera CPU. Для этого используется схема сети на основе NVIDIA Spectrum-X Ethernet; предусматриваются схемы изоляции горячих коридоров, избыточные CDU между рядами стоек и теплообменники на задних дверцах (RDHx). Инженеры производителя обеспечивают сопровождение проекта на этапе развёртывания и постоянную поддержку.

Новинка может работать и в качестве автономной CPU-платформы — она подойдёт для сценариев оркестрации ИИ-агентов, реализации песочниц, операций с БД, управления кластером и планировщиками, анализа данных, а также крупномасштабных конвейеров сборки ПО. Ранее Supermicro представила стойки со статической нагрузкой до 2500 кг, серверы на платформе AMD EPYC Venice и серверы с Arm AGI для агентного ИИ.

Через семь месяцев после ареста по подозрению в сговоре с целью контрабандных поставок ИИ-ускорителей NVIDIA в Китай внешний подрядчик Supermicro Тин-Вэй «Вилли» Сунь (Ting-Wei “Willy” Sun) признал себя виновным по четырём пунктам обвинения: в сговоре с целью обхода экспортных ограничений, контрабанды товаров, обмана властей США и воспрепятствовании правосудию, сообщает Datacenter Dynamics.

Сунь был одним из трёх человек, работавших на Supermicro, которым власти США предъявили обвинение в контрабанде серверов с ИИ-ускорителями NVIDIA в Китай. Всего, согласно судебным документам, в КНР было направлено серверного оборудования приблизительно на $2,5 млрд — хотя лицензии Министерства торговли США на такую деятельность не было. В числе обвиняемых — один из учредителей Supermicro И-Шьян Лиау (Yih-Shyan Liaw), после ареста покинувший совет директоров компании. Весной текущего года он заявил о своей невиновности по предъявленным обвинениям в федеральном суде Манхэттена.

По версии следствия, подсудимые переупаковывали серверы Supermicro в немаркированные коробки для сокрытия содержимого и использовали поддельные «копии» серверов для обмана при аудите. Судя по записям с камер видеонаблюдения, обвиняемые использовали фен для переклейки серийных номеров с настоящих серверов на копии. После этого использовалась зарегистрированная в Юго-Восточной Азии компания-посредник для сокрытия поставок оборудования с Тайваня в Китай.

Источник изображения: LoboStudio Hamburg/unsplash.com

Как следует из обвинительного заключения, в 2024 году посредник стал одним из крупнейших покупателей Supermicro, в IV квартале финансового года благодаря ему компания выручила $99,7 млн. Самой Supermicro обвинения не предъявляли. Ранее компания публично объявила, что тесно сотрудничает с тайваньскими властями для предотвращения экспорта передовых подсанкционных систем на китайский рынок и привержена защите передовых технологий и интеллектуальной собственности. В компании подчеркнули, что в результате такого взаимодействия властям удалось изъять 50 серверов, обманным путём купленных после продажи авторизованному реселлеру. Сами обвиняемые ранее отрицали нарушение законов.

В июне появились сообщения о том, что в тайваньском офисе компании прошёл обыск. После этого Supermicro заявила, что сама компания «не является объектом данного расследования» и никаких обысков не было. В то же время она признала, что четверо работавших на неё людей задержаны на Тайване для допроса. Также сообщалось, что компания предоставила властям доступ к рабочим местам и электронике сотрудников. Двое из четырёх сотрудников остаются под стражей до суда, ещё двое выпущены под залог.

Компания Supermicro объявила о начале отгрузок стоек NVIDIA Vera Rubin NVL72. Эта аппаратная платформа, приходящая на смену GB200 NVL72, рассчитана на ресурсоёмкие ИИ-нагрузки, включая задачи обучения с подкреплением и приложения агентного ИИ.

Стойки Vera Rubin NVL72 содержат 18 вычислительных узлов форм-фактора 1U, в каждом из которых размещены по четыре ускорителя Rubin и два чипа Vera (88 Arm-ядер Olympus). Таким образом, в общей сложности задействованы 72 ускорителя Rubin и 36 изделий Vera (в сумме 3168 ядер). Система оперирует 20,7 Тбайт памяти HBM4 и 54 Тбайт памяти LPDDR5X.

Платформа Supermicro предусматривает применение технологии прямого жидкостного охлаждения DLC-2. Используются блоки распределения охлаждающей жидкости (CDU) с резервированием N+1. Их охлаждающая ёмкость достигает 1,8 МВт. Опционально доступны теплообменники на задней дверце. В целом, передовая система DLC-2 рассчитана на мощность оборудования до 360 кВт на стойку.

Источник изображения: Supermicro

Supermicro отмечает, что команда её специалистов оказывает заказчикам комплексную поддержку при развёртывании NVIDIA Vera Rubin NVL72 — от анализа характеристик площадки и проектирования до установки и интеграции. Клиентам доступно программное обеспечение SuperCloud, которое предоставляет полный контроль над инфраструктурой, автоматизирует внедрение, содержит инструменты для разработчиков и обеспечивает эффективное управление мультитенантным GPU-облаком. Стойки NVIDIA Vera Rubin NVL72 входят в продуктовое семейство Supermicro Data Center Building Block Solutions (DCBBS).

На Тайване предъявили обвинение одному из топ-менеджеров NVIDIA, входившего в группу, предположительно занимавшуюся контрабандой передовых ИИ-чипов в Китай. Власти острова впервые организовали масштабное преследование участников чёрного рынка подобных технологий, сообщает Bloomberg.

Сообщается, что сотрудник NVIDIA, известный как Чан (Chang), предположительно, при участии ещё восьми людей, организовал поставки в Китай 74 серверов на основе чипов NVIDIA B200 через Японию и Индонезию, в обход американских торговых ограничений. Задержание состоялось ещё в июле, и с тех пор связь с ним отсутствовала. В обвинительном заключении указывается, что группа дополнительно пыталась организовать контрабанду ещё 56 серверов, но их успели изъять тайваньские власти. Помимо сотрудника NVIDIA, обвинения предъявили двум руководителям из Supermicro, занимавшейся выпуском оборудования.

Прокуратура утверждает, что группа сообща действовала на разных уровнях для получения «огромной» прибыли, незаконно экспортируя передовые серверы и увеличивая издержки на соблюдение требований о соблюдении законодательства, и нанесла серьёзный ущерб имиджу Тайваня на международной арене. Ранее сообщалось, что в Китай попало подсанкционное оборудование NVIDIA на миллиарды долларов. Хотя масштаб дела на Тайване относительно невелик, оно станет первым случаем, когда обвинение в участии в контрабанде предъявили сотруднику NVIDIA.

Источник изображения: Joshua Wordel / Unsplash

Источники сообщают, что сторона обвинения требует приговорить сотрудника как «ключевую фигуру» схемы к пяти годам лишения свободы за подделку документации и злоупотребление доверием. Сама NVIDIA фигурантом дела не выступает, а её глава Дженсен Хуанг (Jensen Huang) ранее заявлял, что не видел доказательств контрабанды её ИИ-чипов. Он подчёркивал, что контрабанда для его компании «неприемлима», а продукты продаются проверенным партнёрам, обеспечивающим соблюдение американских правил экспортного контроля.

Производители вроде Supermicro занимаются установкой ИИ-ускорителей NVIDIA в тысячи серверов для разнообразных ИИ ЦОД. Компания обязана соблюдать санкционные ограничения. По данным источников, обвинения выдвинуты против сотрудников реселлера Albatron Technology, связанного с Supermicro, сотрудников вероятного конечного пользователя серверов Flying Tiger, а также ещё двух компаний, помогавших находить клиентов в КНР и организовывать фактические поставки.

Источник изображения: Wesley Tingey / Unsplash

Обвинение предполагает, что реализация схемы началась в феврале 2025 года, когда топ-менеджеры Flying Tiger, включая её владельца, создали в Японии ещё одно юридическое лицо для транзита оборудования. После этого они включили «неустановленным способом» Flying Tiger в число компаний-партнёров, которым NVIDIA позволяет покупать свои чипы.

Компания взаимодействовала с директором по продажам Supermicro, генеральным менеджером Albatron и менеджером проектов тайваньского оператора ЦОД Chief Telecom. Необходимо было создать ложное впечатление, что Flying Tiger арендовала в ЦОД Chief Telecom место для размещения покупаемого оборудования, после чего «заговорщики» обращались к Чану из NVIDIA за серверами.

Источник изображения: Luke Thornton / Unsplash

При этом тайваньское подразделение Supermicro не продаёт серверов компаниям, не прошедшим проверки самого производителя оборудования и NVIDIA, включая персональный аудит при покупке восьми и более серверов. Поэтому в сентябре Чан и один из фигурантов дела из Supermicro при участии ничего не подозревавших коллег посетили Chief Telecom, скрыв тот факт, что Flying Tiger на деле не арендовала у оператора достаточно мощностей. После этого Чан оповестил руководство NVIDIA, что проверка на месте проведена, и предложил одобрить заказ для Flying Tiger, после чего Supermicro согласилась продать компании 130 серверов, доставить которые предполагалось в три этапа.

В начале 2026 года группа «предпринимателей» организовала продажу 40 серверов неназванному китайскому покупателю, часть оборудования переправили в КНР сразу, а часть — транзитом через Индонезию. Все поставки оформлялись от имени Flying Tiger. Ещё 34 сервера экспортировала компания Long Wins, которую помог подключить к схеме второй обвиняемый из Supermicro. Оборудование переправлялось через Индонезию и Японию ещё одной китайской компании.

Тайваньским властям удалось раскрыть схему до того, как удалось вывезти в Японию по поддельным документам оставшиеся 56 серверов попыталась Flying Tiger. По словам Дженесена Хуанга, NVIDIA строго разъясняет действующие правила, а Supermicro должна сама усилить контроль за экспортом. Представители последней заявили, что политика компании соответствует требованиям вендоров вроде NVIDIA и призвали отрасль разработать общие механизмы для предотвращения подобных инцидентов.

Компания Supermicro оставила без работы ряд топ-менеджеров, участвовавших в контрабанде серверов с ИИ-ускорителями NVIDIA на $2,5 млрд в обход экспортных ограничений, введённых США в отношении КНР, сообщает The Register.

В марте власти США предъявили обвинения трём сотрудникам компании. Согласно обвинительному заключению прокуратуры Южного округа Нью-Йорка, соучредитель Supermicro И-Шьян Лиау (Yih-Shyan Liaw) и внешний подрядчик Тин-Вэй Суню (Ting-Wei Sun), не признавшие вину, и генеральный директор тайваньского офиса Supermicro Руэй-Цанг Чанг (Ruei-Tsang Chang) вступили в сговор с целью продажи серверов с запрещёнными для экспорта в Китай чипами в нарушение американского закона Export Controls Reform Act. Им предъявлены обвинения в сговоре с целью контрабанды товаров и обман правительства США.

В апреле Supermicro инициировала собственное расследование, и в минувший четверг заявило, что никто из действующего руководства не имел сведений о схеме и фактах перенаправления поставок продукции, подпадающей под ограничения. Также расследованием не установлено, что компания напрямую продавала продукцию, попадающую под экспортный контроль лицам или организациям, в отношении которых действовали ограничения. Также она не поставляла её в регионы, экспорт в которые был запрещён. Кроме того, не обнаружены доказательства того, что ранее опубликованные финансовые отчёты недостоверны из-за возможной контрабанды продукции.

Источник изображения: I'M ZION/unsplash.com

Тем не менее, заявляется, что трое обвиняемых «более не имеют никакого отношения к Supermicro». Также из заявления Supermicro следует, что расследование привело к увольнениям в других подразделениях компании. Принят «ряд решений» в отношении сотрудников отделов продаж, техподдержки и развития бизнеса, не обеспечивших должное соблюдение экспортных ограничений США. В том числе речь идёт об увольнениях за несоблюдение внутренних правил компании и её «кодекса поведения». Объявлено, что по итогам расследования были выработаны рекомендации по «дальнейшему расширению программы соблюдения экспортных требований», часть которых уже претворили в жизнь.

Фактически Supermicro признала недостаточную эффективность своей системы контроля за экспортом, а некоторые сотрудники действовали таким образом, что их действия сочли основанием для увольнения. Примечательно, что в июле появилась информация об аресте ряда сотрудников Supermicro и других компаний на Тайване. В конце июля в рамках расследования контрабанды ИИ-чипов в Китай на Тайване задержали и сотрудника NVIDIA.

Это не первый случай, когда Supermicro продемонстрировала неэффективное корпоративное управление. Известны два случая, когда компании чудом избежали исключения с биржи за проблемы с бухгалтерской отчётностью. Ещё одно расследование, связанное с несанкционированными поставками, распространялось на Сингапур и Тайвань. В марте акционеры подали на Supermicro в суд с требованием компенсировать потери из-за падения акций на фоне скандала с контрабандой в Китай.

Компания Supermicro пополнила ассортимент серверов моделью Storage SuperServer ASG-4116S-NU160R на аппаратной платформе AMD. Это система хранения высокой плотности типоразмера 4U, допускающая установку более 160 твердотельных накопителей с интерфейсом PCIe.

Источник изображения: Supermicro

Устройство оснащается процессором семейства AMD EPYC 9005 Turin с показателем TDP до 360 Вт (до 96C/192T). Предусмотрены 12 слотов для модулей оперативной памяти DDR5-6400 RDIMM ECC суммарным объёмом до 6 Тбайт. В оснащение входят два сетевых порта 10GbE RJ45 на основе контроллера Broadcom BCM57416 и выделенный сетевой порт управления 1GbE RJ45 на базе ASPEED AST2600. Есть три слота PCIe 5.0 x16 для карт формата FHHL, два фронтальных порта USB 3.0 Type-A и аналоговый порт D-Sub.

Сервер оснащён 160 слотами для SSD стандарта SFF U.2 (PCIe 4.0 x1; NVMe) с вертикальной загрузкой и возможностью горячей замены. Кроме того, предусмотрены четыре фронтальных отсека для накопителей E1.S (PCIe 5.0; x4 NVMe) с поддержкой горячей замены, а также два внутренних коннектора для SSD типоразмера M.2 M-key 22110/2280 (NVMe). Таким образом, в общей сложности могут быть задействованы до 166 накопителей.

Источник изображения: Supermicro

Новинка оборудована системой воздушного охлаждения. Диапазон рабочих температур простирается от +10 до +35 °C. Питание обеспечивают два блока мощностью 2600 Вт с резервированием и сертификатом 80 PLUS Titanium. Габариты системы составляют 845 × 448,4 × 176 мм, масса — 92 кг. Присутствует модуль TPM 2.0 для обеспечения безопасности.

Supermicro расширила ассортимент серверных стоек, анонсировав десять моделей для систем высокой плотности, ориентированных на ресурсоёмкие задачи ИИ и другие критические нагрузки. Дебютировали решения на базе стандартов OCP ORv3 и NVIDIA MGX, а также традиционные 19″ варианты.

Новинки входят в продуктовое семейство Supermicro Data Center Building Block Solutions (DCBBS). Стойки могут поставляться в предварительно сконфигурированном виде, что упрощает и ускоряет развёртывание: заказчикам и интеграторам не нужно монтировать на объекте вычислительные узлы, сетевые компоненты, а также элементы подсистем питания и охлаждения.

Все анонсированные устройства рассчитаны на статическую нагрузку до 2500 кг. Это позволяет размещать мощные ИИ-серверы с ускорителями на базе GPU, высокопроизводительное силовое оборудование и пр. Изделия проходят испытания на вибро- и сейсмическую устойчивость. Говорится о гибких возможностях в плане применения жидкостного охлаждения: стойки совместимы с блоками распределения охлаждающей жидкости (CDU) различных типов, теплообменниками на задней двери (RDHx) и пр. Силовые и сетевые кабели полностью изолированы.

Источник изображения: Supermicro

В число новинок входят стойки для платформ NVIDIA VR200/GB300 MGX в форматах 48U и 52U с вариантами ширины 600 и 750 мм. Кроме того, выпущены решения 44OU и 48OU стандарта ORv3 (типоразмера 21″). В традиционном 19″ исполнении доступны варианты 48U и 52U. Компания Supermicro отмечает, что её производственных возможностей достаточно для выпуска примерно 3 тыс. таких стоек в месяц. Из них около 2 тыс. могут комплектоваться СЖО.

Расследование контрабанды ИИ-оборудования NVIDIA на Тайване, начавшееся с Supermicro и дистрибьюторов компании, теперь достигло самой NVIDIA. Согласно данным TNW, 28 июля прокуратура округа Килунг (Keelung), которая ведёт это дело с весны, задержала старшего менеджера по развитию бизнеса NVIDIA. Это первый случай, когда расследование затронуло персонал самого производителя чипов.

Мужчина был задержан после того, как 24 июля следователи провели обыск в его доме и на рабочем месте, говорится в заявлении прокуратуры без прямого упоминания NVIDIA, сообщает ресурс HKFP. По данным тайваньских СМИ, прокуратура обвиняет его в том, что он подписал документы для конечных пользователей и документы «знай своего клиента» (KYC), что позволило злоумышленникам пройти экспортную проверку серверов с подсанкционными чипами NVIDIA до того, как их перенаправили в Китай.

Задержанному пока не предъявили обвинения и дело в отношении его ещё не рассматривалось в суде. Сообщается, что он попал под наблюдение по делу, не связанному с этим расследованием. Сотрудники береговой охраны, работавшие над делом о контрабанде запрещённых веществ, наткнулись на подпольную цепочку поставок, в которую были вовлечены сотрудники Supermicro и нескольких её тайваньских партнёров по дистрибуции и ЦОД.

Источник изображения: Rifki Kurniawan / Unsplash

По словам следователей, в мае было изъято около 50 серверов на базе чипов NVIDIA GB300 Grace Blackwell Ultra общей стоимостью около NT$ 700 млн (около $21 млн). Прокуроры утверждают, что заказы размещались подставными компаниями, а затем серверы устанавливали в тайваньском ЦОД, создавая видимость того, что это конечное место назначения. После этого их перенаправляли дальше через третьи страны. Ранее сообщалось, что Япония является одним из таких перевалочных пунктов на пути в Гонконг и материковый Китай.

Поскольку на Тайване нет закона, напрямую криминализирующего экспорт ИИ-чипов в Китай, прокуратура подозревает задержанного в «фальсификацию деловых документов в соответствии с Уголовным кодексом» и злоупотреблении доверием. «Экспорт чипов ИИ в Китай на Тайване не является уголовным преступлением, хотя, очевидно, это так по законодательству США», — передаёт Bloomberg.