Компания Gigabyte анонсировала новые серверы семейства R165 на аппаратной платформе AMD EPYC Venice 9006. Дебютировали модели R165-ZG1-CS1, R165-DG3-CS1 и R165-DG2-CS2 в форм-факторе 1U, подходящие для таких задач, как визуальные вычисления, облачные платформы, ИИ-инференс и пр.

Устройство R165-ZG1-CS1 допускает установку одного процессора EPYC 9006 в исполнении SP8 и 16 модулей оперативной памяти DDR5 RDIMM/MRDIMM. Во фронтальной части расположены 12 отсеков для SFF-накопителей NVMe/SATA/SAS-4 с возможностью горячей замены. Есть по одному разъёму PCIe 6.0 x16 для двухслотового ускорителя на базе GPU, а также дополнительных карт расширения стандартов FHFL и FHHL.

Вариант R165-DG3-CS1 рассчитан на один чип EPYC 9006 в исполнении SP7. В арсенале сервера — 16 слотов DDR5 RDIMM/MRDIMM, 16 отсеков для накопителей E3.S с интерфейсом PCIe 6.0 (NVMe), по одному слоту PCIe 6.0 x16 для GPU-ускорителя FHFL и карты FHHL.

Источник изображений: Gigabyte

Наконец, модификация R165-DG2-CS2 поддерживает процессор EPYC 9006 в исполнении SP7, 16 модулей DDR5 RDIMM/MRDIMM и 12 SFF-накопителей NVMe/SATA/SAS-4. Доступны по одному слоту PCIe 6.0 x16 для GPU-ускорителя FHFL и карты FHHL.

Все новинки укомплектованы двухпортовым сетевым контроллером 1GbE на основе Intel I350-AM2. Предусмотрены два внутренних коннектора для SSD стандарта M.2 с интерфейсом PCIe 4.0 x2. Питание обеспечивают два блока мощностью 3200 Вт с сертификатом 80 PLUS Titanium и резервированием. Говорится о поддержке модуля управления и безопасности DC-SCM (Data Center Secure Control Module).

Компания 3Logic Group анонсировала сервер Crusader Squire 1140R, предназначенный для решения базовых IT-задач малых предприятий, филиалов и локальных офисов численностью до 40–50 сотрудников. Новинка, как утверждается, совмещает аппаратную защиту данных и высокий уровень отказоустойчивости при доступной цене.

В основу устройства типоразмера 1U положена аппаратная платформа Intel. Говорится об использовании процессора Pentium Gold G7400 поколения Alder Lake с двумя вычислительными ядрами, функционирующими на частоте 3,7 ГГц. Однако на странице с описанием машины упоминается чип Xeon E-2414 поколения Raptor Lake с четырьмя вычислительными ядрами, работающими на базовой частоте 2,6 ГГц (повышается до 4,5 ГГц). Оба эти изделия рассчитаны на разъём LGA1700.

Сервер оборудован четырьмя слотами для модулей оперативной памяти DDR5-4400 (стандартная конфигурация включает 32 Гбайт). Подсистема хранения данных выполнена по гибридной схеме: задействованы два SSD с интерфейсом SATA-3 вместимостью 480 Гбайт каждый и два SAS HDD по 6 Тбайт (7200 RPM). Имеется выделенный аппаратный контроллер с поддержкой массивов RAID 0/1/5/10.

Источник изображений: 3Logic

Реализованы четыре сетевых порта 1GbE с разъёмами RJ45 (поддерживается режим Link Aggregation), а также порты USB 3.0 и D-Sub. Питание обеспечивают два блока мощностью 450 Вт каждый с функцией горячей замены, которые работают в режиме полного резервирования «1+1».

Новинка может выполнять функции контроллера домена Active Directory, корпоративного почтового сервера с фильтрацией спама и веб-интерфейсом, сетевого маршрутизатора, межсетевого экрана и VPN-шлюза, сервисов DNS и DHCP, а также файлового хранилища. Устройство поставляется без предустановленной ОС. Гарантия производителя составляет три года.

Компания Cerebras Systems анонсировала мощные ИИ-ускорители WSE-3 Turbo и стоечную систему на их основе CS-4. Утверждается, что это решение обеспечивает выигрыш в производительности на задачах инференса до 30 раз по сравнению с платформами на базе современных GPU.

Как и оригинальное изделие WSE-3 (Wafer Scale Engine), ускоритель WSE-3 Turbo содержит 4 трлн транзисторов, 900 тыс. ядер и 44 Гбайт памяти SRAM. При производстве по-прежнему применяется 5-нм техпроцесс TSMC, а площадь кремниевой пластины сохранилась на отметке 46 225 мм². При этом пропускная способность памяти поднялась с 21,6 до 43,2 Пбайт/с, а подсистемы ввода-вывода — с 1,2 до 2,4 Тбит/с.

Источник изображений: Cerebras

Производительность в разреженных FP16-вычислениях выросла вдвое — со 125 до 250 Пфлопс, на обычных FP16-операциях — с 12,5 до 25 Пфлопс. Показатель TDP на уровне пластины оценивается в 33 кВт против 15 кВт у WSE-3, на уровне узла — 46 кВт против 23 кВт, а на уровне всей стойки CS-4 — порядка 120–140 кВт. По-видимому, компания просто подняла рабочие частоты — ориентировочно с 1,4 ГГц до 2,8 ГГц.

ИИ-стойка CS-4 выполнена на модульной архитектуре Nexus. Система разделена на три ключевых блока: это вычислительный узел Wafer-Scale Backpack, подсистема питания и IO-подсистема. Такая архитектура упрощает производство, развёртывание, обслуживание и обновление. Отмечается, что Cerebras полностью переосмыслила концепцию ИИ-сервера. В общей сложности в составе CS-4 задействованы три узла Wafer-Scale Backpack, каждый из которых представляет собой автономную сборку с ускорителем, преобразователем питания, прямым жидкостным охлаждением, компонентами высокоскоростного ввода-вывода и управляющей электроникой.

Питание подводится вплотную к чипам (всего около 0,5 мм против 50 мм в традиционных платах с GPU), что почти полностью исключает потери на уровне платы и позволяет подавать больше мощности, повышая частоту работы и скорость генерации токенов. Специальный IO-модуль позволяет соединять пластины WSE-3 Turbo внутри стойки и между стойками без коммутатора: в результате заявленная задержка передачи данных между пластинами находится на уровне всего 2 мкс. Общее быстродействие достигает 750 Пфлопс в разреженных FP16-вычислениях.

В целом, новинка обеспечивает высочайшую производительность. В качестве примера приводится тест на модели GPT-OSS-120B, где система CS-4 показала результат более 4400 токенов в секунду на одного пользователя. Для сравнения, «наиболее производительный на сегодняшний день сервис ИИ-инференса на базе GPU» демонстрирует показатель в 350 токенов в секунду. Утверждается также, что CS-4 выдаёт свыше 1000 токенов в секунду на моделях с более чем 10 трлн параметров. Поставки системы планируется организовать в текущем квартале.

Компания Gigabyte пополнила ассортимент ИИ-серверов моделью G4L4-ZD3-LAX7 в форм-факторе 4U. Устройство выполнено на аппаратной платформе AMD EPYC 9005 Turin в сочетании с NVIDIA HGX B300 (SXM).

Допускается установка двух процессоров EPYC в исполнении Socket SP5 (LGA 6096) с показателем TDP до 500 Вт. Доступны 24 слота для модулей оперативной памяти DDR5-6400, а также четыре слота PCIe 5.0 x16 для карт типоразмера FHHL. Питание обеспечивают десять блоков мощностью 3000 Вт с резервированием и сертификатом 80 PLUS Titanium.

Сервер располагает контроллером ASPEED AST2600, двумя сетевыми портами 10GbE на базе Intel X710-AT2, а также выделенным сетевым портом управления 1GbE. Могут быть реализованы восемь OSFP-портов InfiniBand XDR с пропускной способностью до 800 Гбит/с или сдвоенные 400GbE-порты на базе NVIDIA ConnectX-8 SuperNIC. Упомянута совместимость с DPU NVIDIA BlueField-3.

Во фронтальной части расположены восемь отсеков для SFF-накопителей с интерфейсом PCIe 5.0 (NVMe). Кроме того, есть два внутренних коннектора M.2 (2280/22110) для SSD с интерфейсами PCIe 3.0 x4 и PCIe 3.0 x1. Предусмотрены два фронтальных порта USB 3.0 Type-A, разъём D-Sub и три гнезда RJ45 для сетевых кабелей.

Источник изображения: Gigabyte

Применяется жидкостное охлаждение, которое охватывает все ключевые компоненты, в том числе CPU, GPU и RAM. Дополнительно установлены вентиляторы диаметром 60 мм в области материнской платы и 80 мм в зоне слотов PCIe. Диапазон рабочих температур — от +10 до +35 °C. Опционально доступен модуль TPM 2.0 для обеспечения безопасности.

Компания Lenovo объявила о комплексной модернизации своей производственной площадки, расположенной в Уитсетте (Северная Каролина, США). Площадь завода увеличилась в два раза, достигнув примерно 82,68 тыс. м2. Наращивание мощностей является частью комплексной программы Lenovo, направленной на формирование производственной инфраструктуры по всему миру.

Многомиллионные инвестиции в площадку в Уитсетте позволят создать около 1 тыс. новых рабочих мест и укрепить глобальную цепочку поставок. Обновлённое предприятие рассчитано на мощность в 20 МВт. Утверждается, что этого будет достаточно для удовлетворения потребностей по выпуску НРС-решений двух следующих поколений. В целом, объём изготовления продукции на этой площадке поднимется примерно на 35 %. В частности, на заводе будет организовано производство передовых систем прямого жидкостного охлаждения (DLC).

Источник изображения: Lenovo

Подчёркивается, что расширение площадки в Уитсетте знаменует собой следующий этап в долгосрочной стратегии Lenovo по поддержке трудовых ресурсов США и местных сообществ, а также масштабной производственной экосистемы компании. Предприятие в Северной Каролине расположено менее чем в часе езды от центра разработок Lenovo, что обеспечивает дополнительную гибкость при выводе продуктов на рынок.

Глобальная производственная сеть Lenovo включает более 30 региональных предприятий, расположенных на 11 рынках — в Аргентине, Бразилии, Китае, Венгрии, Индии, Индонезии, Японии, Мексике, Саудовской Аравии, США и Вьетнаме. Такое географическое распределение повышает устойчивость цепочек поставок, а также позволяет компании быстрее реагировать на запросы локальных клиентов.

Тысячи серверов могут быть взломаны с помощью уязвимостей, имеющихся в BMC-контроллерах, причём, о некоторых из них известно более десяти лет, сообщается в исследовании компании runZero. runZero обнаружила в BMC, поставляемых HPE, Supermicro, Avocent, Huawei, Lenovo, Dell и другими компаниями, в дополнение к уязвимостям, о которых сообщалось ещё в 2013 году, более десятка новых брешей, пишет Ars Technica.

Чтобы оценить масштабы угрозы, runZero провела два сканирования. В первом случае сканировались все BMC, подключённые к интернету, а во втором было проведено внутреннее обследование устройств в корпоративных сетях. Внешнее сканирование выявило более 86 тыс. BMC, которые предоставляли доступ к сервису управления для широкой публики. Более 54 % из них содержали одну или несколько критических уязвимостей. До 75 тыс. BMC содержали баг CVE-2013-4786, уязвимость в протоколе аутентификации IPMI 2.0, которая позволяет взламывать пароли учётных записей BMC администратора в автономном режиме. В свою очередь, внутреннее сканирование 126 761 BMC выявило, что почти 29 % из них имели одну или несколько критических уязвимостей.

Источник изображения: Kevin Ku/unsplash.com

runZero не будет раскрывать подробности об уязвимостях до тех пор, пока они не будут исправлены. Уязвимости относятся к следующим классам:

• Недостатки в процессе аутентификации IPMI. Хакеры могут изменить предписанную последовательность обмена сообщениями, чтобы обойти требования аутентификации. Получив ограниченный доступ к BMC, злоумышленник может получить административный доступ, используя другие уязвимости. К затронутым продуктам относятся решения HPE iLO, Supermicro, OpenBMC и продукты на основе OpenBMC от H3C и NVIDIA.
• Неспособность IPMI обеспечить целостность и защиту шифрования в рамках сеанса. Уязвимость затронула оборудование HPE, Supermicro и Intel (устаревшие системы).
• Предсказуемые идентификаторы сеансов. Токены сеансов генерируются на основе таймеров или времени, а не из безопасных случайных источников, что позволяет злоумышленнику предсказать и захватить активный сеанс BMC другого пользователя как через службу IPMI, так и через браузерные KVM-консоли. Эти ошибки присутствуют в системах Supermicro.
• Вызов сбоя памяти до аутентификации — код, обрабатывающий входящие запросы, не проводит должную проверку данных, что может привести к выполнению вредоносного кода. Проблема обнаружена в системах HPE iLO.
• Возможность установки неподписанного ПО. Злоумышленник может использовать установку вредоносного ПО или замену ключа, используемого для проверки ПО, для обхода аутентификации и повышения привилегий. В числе подверженных этим багам — серверы Supermicro, H3C и Dell.
• Использование данных из общедоступного ПО, которые могут использоваться для аутентификации или расшифровки трафика с BMC. Проблема затронула решения Supermicro, OpenBMC, Huawei и Dell.
• Использование учётных данных по умолчанию и заводских случайных учётных данных, которые могут быть скомпрометированы путем раскрытия хеша благодаря уязвимости CVE-2013-4786. Проблема обнаружена у серверов HPE, Supermicro и Dell.

runZero выпустила инструмент с открытым исходным кодом OOBscan для сканирования всего парка серверов компании с целью обнаружения растущего списка уязвимостей BMC, которые она каталогизировала. Помимо запуска OOBscan, администраторы могут обеспечить защиту, установив длинные, уникальные имена пользователей и сложные пароли, отключив IPMI и KCS, где это возможно, изолировав BMC, избегая размещения нескольких адаптеров в общей VLAN.

«BMC по-прежнему представляют собой недооценённый риск», — сообщила runZero, отметив, что исследование указывает на то, что «экосистема значительно отстаёт с точки зрения качества кода и архитектуры». Вместе с тем нельзя не отметить, что доступ к сетевым интерфейсам BMC из Сети крайне не рекомендуется всеми поставщиками оборудования. Кроме того, рекомендуется использовать для них выделенную сеть и открывать доступ к контроллерам только по необходимости.

Supermicro расширила ассортимент серверных стоек, анонсировав десять моделей для систем высокой плотности, ориентированных на ресурсоёмкие задачи ИИ и другие критические нагрузки. Дебютировали решения на базе стандартов OCP ORv3 и NVIDIA MGX, а также традиционные 19″ варианты.

Новинки входят в продуктовое семейство Supermicro Data Center Building Block Solutions (DCBBS). Стойки могут поставляться в предварительно сконфигурированном виде, что упрощает и ускоряет развёртывание: заказчикам и интеграторам не нужно монтировать на объекте вычислительные узлы, сетевые компоненты, а также элементы подсистем питания и охлаждения.

Все анонсированные устройства рассчитаны на статическую нагрузку до 2500 кг. Это позволяет размещать мощные ИИ-серверы с ускорителями на базе GPU, высокопроизводительное силовое оборудование и пр. Изделия проходят испытания на вибро- и сейсмическую устойчивость. Говорится о гибких возможностях в плане применения жидкостного охлаждения: стойки совместимы с блоками распределения охлаждающей жидкости (CDU) различных типов, теплообменниками на задней двери (RDHx) и пр. Силовые и сетевые кабели полностью изолированы.

Источник изображения: Supermicro

В число новинок входят стойки для платформ NVIDIA VR200/GB300 MGX в форматах 48U и 52U с вариантами ширины 600 и 750 мм. Кроме того, выпущены решения 44OU и 48OU стандарта ORv3 (типоразмера 21″). В традиционном 19″ исполнении доступны варианты 48U и 52U. Компания Supermicro отмечает, что её производственных возможностей достаточно для выпуска примерно 3 тыс. таких стоек в месяц. Из них около 2 тыс. могут комплектоваться СЖО.

Компания MSI представила широкий ассортимент серверов на аппаратной платформе AMD EPYC Venice. Дебютировали модели разных классов для задач ИИ и НРС, облачных инфраструктур, виртуализации и критических бизнес-приложений. В семейство вошли модели для 19″ и 21″ серверных стоек с воздушным и жидкостным охлаждением, в том числе многоузловые машины.

Одной из новинок стала GPU-платформа CG681-S6093 типоразмера 6U с жидкостным охлаждением. Устройство допускает установку двух чипов Venice и восьми ИИ-ускорителей NVIDIA RTX Pro 6000 Blackwell Server Edition с 96 Гбайт памяти GDDR7, которые также входят в контур СЖО. Доступны 32 слота для модулей оперативной памяти DDR5. Задействованы сетевые адаптеры NVIDIA ConnectX-8 SuperNIC и SSD формата E1.S (NVMe).

Источник изображения: MSI

Анонсированы также системы, оптимизированные по показателям производительности и экономической эффективности. Кроме того, выйдут ORv3-решения для построения вычислительных инфраструктур высокой плотности. В целом, в новое семейство вошли следующие серверы:

• CD270-S4091-X2 — 2U, два узла (один процессор SP7), воздушное охлаждение;
• CD270-S4081-X4 — 2U, четыре узла (один процессор SP8), воздушное охлаждение;
• CD281-S4091-X2 — 2OU, два узла (один процессор SP7), воздушное охлаждение;
• CD181-S4091-X2 — 1OU, два узла (один процессор SP7), жидкостное охлаждение;
• CD282-S6091-X2 — 2OU, два узла (два процессора SP7), воздушное охлаждение;
• CD182-S6091-X2 — 1OU, два узла (два процессора SP7), жидкостное охлаждение;
• CD281-S4081-X2 — 2OU, два узла (один процессор SP8), воздушное охлаждение;
• CX172-S4081 — 1U, один процессор SP8;
• CX272-S4081 — 2U, один процессор SP8;
• CX172-S6082 — 1U, два процессора SP8;
• CX272-S6082 — 2U, два процессора SP8.

Компания Giga Computing, подразделение Gigabyte, анонсировала серверы нового поколения на аппаратной платформе AMD EPYC Venice 9006. В частности, дебютировали модели R165-DG2-CS1 и B685-D80-LS1 с прямым жидкостным охлаждением (DLC). Поставки этих устройств начнутся в ноябре нынешнего года.

Машина R165-DG2-CS1 выполнена в форм-факторе 1U. Допускается установка одного процессора EPYC 9006 в исполнении SP7 с показателем TDP до 600 Вт. Применена DLC-система с закрытым контуром и функцией обнаружения протечек. Доступны 16 слотов для модулей оперативной памяти DDR5 RDIMM-8000 и MRDIMM-12800, два коннектора для SSD формата M.2 2280/22110 с интерфейсом PCIe 4.0 x2, а также 12 фронтальных отсеков для SFF-накопителей NVMe/SATA/SAS-4.

Есть слот PCIe 6.0 x16 для GPU-ускорителя и по одному слоту PCIe 6.0 x16 для дополнительных карт расширения форматов FHFL и FHHL. В оснащение входят контроллер ASPEED AST2700, двухпортовый сетевой адаптер 1GbE (Intel I350-AM2), выделенный сетевой порт управления. Питание обеспечивают два блока мощностью 3200 Вт с резервированием и сертификатом 80 PLUS Titanium.

Источник изображений: Giga Computing

Вторая новинка, B685-D80-LS1, имеет типоразмер 6U. Этот сервер получил 10-узловую конфигурацию, где каждый узел рассчитан на два чипа EPYC 9006 с TDP до 500 Вт и 32 модуля DDR5 RDIMM-8000 или MRDIMM-12800. В расчете на узел доступны два посадочных места для NVMe-накопителей E3.S (PCIe 6.0) и три слота PCIe 6.0 x16 для низкопрофильных карт расширения. Все эти компоненты входят в контур СЖО. Кроме того, узлы комплектуются контроллером ASPEED AST2700, сетевым портом управления и интерфейсом Mini-DP. В шасси установлены 12 блоков питания мощностью 3200 Вт с сертификатом 80 PLUS Titanium.

Новые серверы рассчитаны на эксплуатацию в температурном диапазоне от +10 до +30–35 °C. Опционально предлагается установка модуля TPM 2.0 для обеспечения безопасности.

Расследование контрабанды ИИ-оборудования NVIDIA на Тайване, начавшееся с Supermicro и дистрибьюторов компании, теперь достигло самой NVIDIA. Согласно данным TNW, 28 июля прокуратура округа Килунг (Keelung), которая ведёт это дело с весны, задержала старшего менеджера по развитию бизнеса NVIDIA. Это первый случай, когда расследование затронуло персонал самого производителя чипов.

Мужчина был задержан после того, как 24 июля следователи провели обыск в его доме и на рабочем месте, говорится в заявлении прокуратуры без прямого упоминания NVIDIA, сообщает ресурс HKFP. По данным тайваньских СМИ, прокуратура обвиняет его в том, что он подписал документы для конечных пользователей и документы «знай своего клиента» (KYC), что позволило злоумышленникам пройти экспортную проверку серверов с подсанкционными чипами NVIDIA до того, как их перенаправили в Китай.

Задержанному пока не предъявили обвинения и дело в отношении его ещё не рассматривалось в суде. Сообщается, что он попал под наблюдение по делу, не связанному с этим расследованием. Сотрудники береговой охраны, работавшие над делом о контрабанде запрещённых веществ, наткнулись на подпольную цепочку поставок, в которую были вовлечены сотрудники Supermicro и нескольких её тайваньских партнёров по дистрибуции и ЦОД.

Источник изображения: Rifki Kurniawan / Unsplash

По словам следователей, в мае было изъято около 50 серверов на базе чипов NVIDIA GB300 Grace Blackwell Ultra общей стоимостью около NT$ 700 млн (около $21 млн). Прокуроры утверждают, что заказы размещались подставными компаниями, а затем серверы устанавливали в тайваньском ЦОД, создавая видимость того, что это конечное место назначения. После этого их перенаправляли дальше через третьи страны. Ранее сообщалось, что Япония является одним из таких перевалочных пунктов на пути в Гонконг и материковый Китай.

Поскольку на Тайване нет закона, напрямую криминализирующего экспорт ИИ-чипов в Китай, прокуратура подозревает задержанного в «фальсификацию деловых документов в соответствии с Уголовным кодексом» и злоупотреблении доверием. «Экспорт чипов ИИ в Китай на Тайване не является уголовным преступлением, хотя, очевидно, это так по законодательству США», — передаёт Bloomberg.