Не столь давно AMD придала семейству процессоров EPYC законченный вид, анонсировав вариант для периферийных вычислений под кодовым названием Siena. А на днях исследователи с сайта Phoronix опубликовали результаты сводного тестирования EPYC 8324P/PN, сравнив производительность новых процессоров с Intel Xeon Gold 6421N.

Как известно, AMD EPYC Siena — упрощённая и удешевлённая версия Bergamo, использующая те же ядра Zen4c и оптимизированные по количеству транзисторов площади кристалла, но имеющая лишь шестиканальную подсистему памяти, а также не поддерживающая конфигурации с двумя процессорами.

Исследователи выбрали для сравнительного анализа 32-ядерные версии процессоров как AMD, так и Intel. Со стороны «красных» выступили EPYC 8324P (2,65–3,0 ГГц) и EPYC 8324PN (2,05–3,0 ГГц), а честь «синих» был призван отстаивать Xeon Gold 6421N (1,8–3,6 ГГц) поколения Sapphire Rapids.

Тестирование показало весьма любопытные результаты. Хотя архитектура Intel Golden Cove явно сложнее AMD Zen 4c и предусматривает полноценную поддержку AVX-512 и AMX, в большинстве тестов это не стало преимуществом для решения Intel. Процессоры AMD практически везде показали сопоставимый уровень производительности при существенно меньшем уровне энергопотребления.

Источник изображений здесь и далее: Phoronix

С настройками теплопакета по умолчанию EPYC 8324P опередил Xeon Gold 6421N на 2,7 %, в режиме максимальной производительности отрыв составил 5 %, а при ограничении TDP до уровня 155 Вт отставание составило всего 2,5 %. Имеющий более скромную частотную формулу EPYC 8324PN отстал от Xeon на 11,8 %, но перевод процессора в режим производительности позволил вырваться вперед на 4,8 %.

По части энергопотребления в среднем показатель решений AMD оставался на уровне 89 или 94 Вт (в зависимости от режима), в то время как для Intel Xeon аналогичный параметр составил 139 Вт. Таким образом, процессоры Siena доказали не только свою способность тягаться на равных с Sapphire Rapids, но и подтвердили свою ориентацию на сектор энергоэффективных, но достаточно производительных систем, например, платформ периферийных вычислений и RAN-оборудования. Впрочем, по части программной поддержки в последнем случае пока лидирует Intel.

Компания ECS Industrial Computer (ECSIPC) рассказала о новинках, которые будут представлены на технологической выставке GITEX Global 2023.

Одна из новинок — компьютер Liva Z5F Plus для широкого спектра коммерческих и промышленных применений, таких как торговля, периферийные вычисления и пр. Устройство несёт на борту процессор Intel Core 13-го (TDP составляет 15 Вт), до 64 Гбайт оперативной памяти, адаптер Wi-Fi 6 и двухпортовый контроллер 1GbE. Есть два порта DisplayPort (один через USB Type-C), два интерфейса HDMI, четыре последовательных порта, порты USB4 (20 Гбит/с) и USB 3.2 Gen2.

Кроме того, ECS покажет встраиваемую систему iM6501WT. Она комплектуется чипом Intel Core 11-го поколения, максимум 64 Гбайт ОЗУ, SSD формата M.2 с интерфейсом PCIe 4.0 (NVMe), сотовым модемом M.2 4G/5G, адаптером Wi-Fi 6, контроллерами 1GbE и 2.5GbE, портами COM, DIO и USB. Питание подаётся через DC-разъём (12–24 В).

Источник изображений: ECS

Ещё одна новинка — одноплатный компьютер RK3568-IS1 на базе процессора Rockchip с четырьмя ядрами Arm Cortex-A55 и блоком ИИ с производительность 0,8 TOPS. Решение может быть укомплектовано накопителем M.2 (PCIe), модулями Wi-Fi и 4G/5G. Есть интерфейсы MIPI-CSI, I2C, USB, COM, двухпортовый контроллер Ethernet. Говорится о поддержке Android и Ubuntu.

Будет также представлена материнская плата A620AM5-M9 для коммерческого использования. Она рассчитана на чипы AMD Ryzen 7000 с TDP до 65 Вт. Поддерживается до 64 Гбайт памяти DDR5. Упомянуты слот PCI Express 4.0 х16, коннектор M.2 (PCIe 4.0; NVMe), четыре SATA-порта, разъём M.2 для Wi-Fi/Bluetooth и порт 1GbE. Есть шесть портов USB (Type-A и Type-C), а также порты COM и LTP.

Компания AMD анонсировала специализированный ускоритель Alveo UL3524 на базе FPGA, ориентированный на финтех-сферу. Решение, как утверждается, позволяет трейдерам, хедж-фондам, брокерским конторам и биржам совершать операции с задержками наносекундного уровня.

В основу новинки положен чип FPGA Virtex UltraScale+, выполненный по 16-нм технологии. Конфигурация включает 64 трансивера с ультранизкой задержкой, 780 тыс. LUT и 1680 DSP.

Отмечается, что Alveo UL3524 обеспечивает в семь раз меньшую задержку по сравнению с FPGA предыдущего поколения. В частности, инновационная архитектура трансиверов с оптимизированными сетевыми ядрами позволяет добиться показателя менее 3 нс.

Источник изображения: AMD

Ускоритель может использоваться в комплексе с платформой разработки Vivado Design Suite. AMD также предоставляет разработчикам среду FINN с открытым исходным кодом, что позволяет внедрять в высокопроизводительные трейдинговые системы модели ИИ с низкими задержками.

Ускоритель выполнен в виде однослотовой карты расширения с интерфейсом PCIe 4.0 x16. Задействован система пассивного охлаждения, а показатель TDP заявлен на отметке 125 Вт. Предусмотрены четыре сетевых порта QSFP-DD. Карта несёт на борту 16 Гбайт памяти DDR4-2666 и 72 Мбайт памяти QDR II+. Весит ускоритель 832 г.

Для заказа, по сообщению ресурса CNX-Software, доступно устройство Palmshell NeXT H2: это микросервер на платформе AMD, который также предлагается в виде одноплатного компьютера для разработчиков. Цена начинается приблизительно с $200.

В основу положен процессор Ryzen Embedded R1505G (два ядра; четыре потока; 2,4–3,3 ГГц; 25 Вт). Для модулей оперативной памяти DDR4-2400 предусмотрены два слота SO-DIMM: опционально предлагаются модификации с 8 и 16 Гбайт ОЗУ.

Источник изображений: CNX-Software

Система может быть укомплектована SSD типоразмера M.2 2280 с интерфейсом PCIe 3.0 (NVMe) вместимостью 256 или 512 Гбайт. Есть два порта SATA-3 и слот для карты microSD. В арсенале новинки — два сетевых порта 10GbE SFP+ и порт 2.5GbE RJ45, а также коннектор M.2 B-key 3042 для модема 4G/5G. Дополнительно может быть добавлен комбинированный адаптер Intel AX210NGW (Wi-Fi 6E / Bluetooth 5.2) в виде модуля M.2 E-Key 2230.

Предусмотрены два разъёма HDMI с поддержкой видео 4Kp60, интерфейс eDP (только у одноплатного компьютера), по два порта USB 3.1 Gen2 и USB 2.0. Система охлаждения включает медный радиатор и PWM-вентилятор со скоростью вращения до 3000 об/мин. Питание подаётся через DC-разъём (12–19 В).

В тыльной части сервера предусмотрены гнёзда для шести внешних антенн. Говорится о совместимости с широким набором ОС, включая Ubuntu, Arch Linux, Fedora, Debian, OpenWrt, Windows, pfSense и ROS.

Когда речь заходит о больших языковых моделях (LLM), то чаще всего подразумевается их обучение, дообучение и запуск на аппаратном обеспечении NVIDIA, как наиболее широко распространённом и лучше всего освоенном разработчиками. Но эта тенденция понемногу меняется — появляются либо специфические решения, могущие поспорить в эффективности с ускорителями NVIDIA, либо разработчики осваивают другое «железо».

К числу последних принадлежит ИИ-стартап Lamini, сделавший ставку на решения AMD: ускорители Instinct и стек ROCm. Главным продуктом Lamini должна стать программно-аппаратная платформа Superstation, позволяющая создавать и развёртывать проекты на базе генеративного ИИ, дообучая базовые модели на данных клиента.

Изображения: Lamini

Напомним, ROCm представляет собой своего рода аналог NVIDIA CUDA, но упор в решении AMD сделан на более широкую поддержку аппаратного обеспечения, куда входят не только ускорители и GPU, но также CPU и FPGA — всё в рамках инициативы Unified AI Stack. К тому же в этом году у ROCm появилась интеграция с популярнейшим фреймворком PyTorch, который в версии 2.0 получил поддержку ускорителей AMD Instinct.

Что же касается Lamini и её проекта, то, по словам основателей, он привлёк внимание уже более 5 тыс. потенциальных клиентов. Интерес к платформе проявили, например, Amazon, Walmart, eBay, GitLab и Adobe. В настоящее время платформа Lamini уже более года работает на кластере, включающем в себя более 100 ускорителей AMD Instinct MI250, и обслуживает клиентов. При этом заявляется возможность масштабирования до «тысяч таких ускорителей». Более того, AMD сама активно пользуется услугами Lamini.

На данный момент это единственная LLM-платформа, целиком работающая на аппаратном обеспечении AMD, при этом стоимость запуска на ней ИИ-модели Meta✴ Llama 2 с 70 млрд параметров, как сообщается, на порядок дешевле, нежели в облаке AWS. Солидный объём набортной памяти (128 Гбайт) у MI250 позволяет разработчикам запускать более сложные модели, чем на A100.

Согласно тестам, проведённым Lamini для менее мощного ускорителя AMD Instinct MI210, аппаратное обеспечение «красных» способно демонстрировать в реальных условиях до 89% от теоретически возможного в тесте GEMM и до 70% от теоретической пропускной способности функции ROCm hipMemcpy.

Выбор Lamini несомненно принесёт AMD пользу в продвижении своих решений на рынке ИИ. К тому же в настоящее время они более доступны, чем от NVIDIA H10. Сама AMD объявила на мероприятии AI Hardware Summit, что развитие платформы ROCm в настоящее время является приоритетным для компании.

Компания ASUS анонсировала материнскую плату S14NA-U12 типоразмера CEB, предназначенную для построения серверов на процессорах AMD EPYC 8004 Siena. Допускается установка одного чипа в исполнении Socket SP6 (LGA 4844) с показателем TDP до 225 Вт.

Новинка располагает 12 слотами для модулей оперативной памяти DDR5-4800/4000/3600 RDIMM/3DS RDIMM суммарным объёмом до 3 Тбайт. Есть два разъёма PCIe 5.0 x16 и один слот PCIe 5.0 x8.

Доступны два коннектора M.2 с поддержкой модулей формата 2280/22110 с интерфейсом PCIe 5.0 x4 или SATA-3. Кроме того, предусмотрены пять разъёмов MCIO с поддержкой PCIe 5.0 x8. В оснащение входит двухпортовый сетевой контроллер Broadcom BCM57414B1KFSBG стандарта 25GbE.

Источник изображения: ASUS

Интерфейсный блок содержит два порта USB 3.2 Gen1, два коннектора SFP28, аналоговый разъём D-Sub, а также сетевой порт управления с гнездом RJ-45. Через разъёмы на самой плате можно задействовать дополнительные порты USB 3.2 Gen1 и последовательный порт.

Диапазон рабочих температур простирается от +10 до +35 °C. Габариты материнской платы составляют 305 × 267мм.

Высокопроизводительный вычислительный комплекс для Исследовательской лаборатории ВВС США (AFRL), по сообщению ресурса Datacenter Dynamics, прибыл на базу Райт-Паттерсон в Огайо. Суперкомпьютер, построенный Penguin Computing, получил название Raider.

Изображения: AFRL

Новая НРС-система имеет производительность приблизительно 12 Пфлопс. Raider является частью более широкой программы модернизации высокопроизводительных вычислений Министерства обороны и будет доступен ВВС, армии и флоту США. Суперкомпьютер примерно в четыре раза мощнее своего предшественника — комплекса Thunder, запущенного в 2015 году: у этой системы производительность составляет 3,1 Пфлопс. Использовать Raider планируется прежде всего для решения сложных задач в области моделирования различных процессов.

В опубликованных в прошлом году документах говорится, что Raider должен был получить 189 тыс. вычислительных ядер. Предполагалось, что система будет включать 356 узлов различного назначения и конфигурации и получит процессоры AMD EPYC 7713 (Milan), 44 Тбайт RAM, 152 ускорителя NVIDIA A100, 200G-интерконнект InfiniBand HDR и 20-Пбайт хранилище. Однако заявленная производительность этой системы составляла 6,11 Пфлопс, так что характеристики суперкомпьютера явно скорректировали.

В дополнение к Raider Исследовательская лаборатория ВВС США заказала два других суперкомпьютера — TI-23 Flyer и TI-Raven, которые, как ожидается, будут обеспечивать производительность на уровне 14 Пфлопс. Ввод этих систем в эксплуатацию запланирован на 2024 год.

Компания ASRock Rack анонсировала материнские платы с поддержкой новейших процессоров AMD EPYC 8004 Siena в исполнении Socket SP6 (LGA 4844). Дебютировали модели SIENAD8-2L2T, SIENAD8UD-2L2Q и SIENAD10HM3, предназначенные для построения односокетных серверов.

Версия SIENAD8-2L2T выполнена в формате АТХ. Она снабжена восемью слотами для модулей оперативной памяти DDR5-4800, четырьмя разъёмами PCIe 5.0 x16 (в том числе с поддержкой CXL1.1) и разъёмом PCIe 5.0 x8. Есть два коннектора M.2 22110/2280 (PCIe 5.0 x4), по два сетевых порта 10GbE и 1GbE с коннекторами RJ45, а также сетевой порт управления. Плюс к этому доступны два порта USB 3.2 Gen1 Type-A и аналоговый разъём D-Sub.

Источник изображений: ASRock Rack

Плата SIENAD8UD-2L2Q, в свою очередь, соответствует типоразмеру Deep Micro-ATX. Предусмотрены восемь слотов DDR5-4800, два разъёма PCIe5.0 / CXL1.1 x16, слот PCIe5.0 / CXL1.1 x8, два коннектора M.2 22110/2280 (PCIe 5.0 x4), два коннектора MCIO (PCIe 5.0 x8 или 8 × SATA-3), три разъёма MCIO (PCIe 5.0 x8) и коннектор OCuLink (PCIe 3.0 x4). Есть по два порта 1GbE RJ45 и 25GbE SFP28, выделенный сетевой порт управления, два порта USB 3.2 Gen1 Type-A и разъём D-Sub.

Модель SIENAD10HM3 половинной ширины получила 10 разъёмов DDR5-4800, два слота Slim Cool Edge PCIe 5.0 x16, два коннектора M.2 22110/2280 (PCIe 5.0 x4 или SATA-3), по одному разъёму MCIO (PCIe 5.0 / CXL1.1 x8 или 8 × SATA-3) и OCuLink (PCIe 3.0 x4). Имеются контроллеры ASPEED AST2600 и Realtek RTL8211F (выделенный сетевой порт управления).

Компания TYAN, подразделение MiTAC Computing Technology Corporation, представила новые продукты с поддержкой процессоров AMD EPYC 8004 Siena. В частности, дебютировали односокетная материнская плата Tomcat CX S8040 и сервер Transport CX GC73A B8046 типоразмера 1U.

Плата Tomcat CX S8040 выполнена в формате ATX с размерами 305 × 243,8 мм. Допускается установка процессоров в исполнении Socket SP6 с показателем TDP до 225 Вт. Есть восемь слотов для модулей оперативной памяти DDR5-4800/3600 и четыре порта SATA-3.

Новинка располагает четырьмя слотами PCIe 5.0 x16 и двумя разъёмами M.2 22110/2280 (NVMe). Кроме того, предусмотрены по два коннектора MCIO 8x и MCIO 4x, по два сетевых порта 10GbE и 1GbE, порт управления 1GbE, коннектор D-Sub и последовательный порт. Диапазон рабочих температур простирается от +10 до +35 °C.

В свою очередь, сервер Transport CX GC73A B8046 имеет габариты 730 × 438,5 × 43,6 мм. Он несёт на борту материнскую плату S8046GM с возможностью установки одного чипа в исполнении Socket SP6 (до 225 Вт). Доступны 12 слотов для модулей RDIMM DDR5-4800. Во фронтальной части расположены 12 отсеков для SFF-накопителей.

Есть слоты расширения FH/HL и FH/FL с поддержкой PCIe 5.0 x16, сетевой адаптер Realtek RTL8211F стандарта 1GbE, контроллер Aspeed AST2600, два порта USB 3.2 Gen.1 и порт USB 2.0. Питание обеспечивают два блока мощностью 1300 Вт с сертификатом 80 Plus Titanium.

Компания AMD продолжает экспансию на серверном рынке: сегодня она анонсировала выпуск новой разновидности процессоров EPYC четвёртого поколения — чипы EPYC 8004, известные под кодовым именем Siena. Это энергоэффективные процессоры, предназначенные для применения в сфере периферийных вычислений и телекоммуникационного оборудования.

Архитектурно ничего нового в EPYC 8004 нет — основе лежит тот же дизайн ядер Zen 4c, применяемый в процессорах EPYC Bergamo и позволивший создать AMD первые в мире 128-ядерные процессоры с архитектурой x86. В числе прочего, это означает и наличие поддержки AVX-512.

Источник изображений здесь и далее: AMD

Компания продолжает придерживаться уже хорошо освоенной модели создания новых процессоров путём компоновки вычислительных 5-нм чиплетов CCD вокруг унифицированного 6-нм чиплета IOD, выполняющего роль хаба ввода-вывода. Однако есть и существенные изменения. Так, в процессорах серии Siena была серьёзно усечена подсистема памяти, с 12 до 6 каналов DDR5. Также пострадала подсистема PCI Express, включающая 96 линий PCIe 5.0 вместо 128.

Всё это позволило сделать процессоры компактнее, но потребовало введения нового сокета SP6 с меньшим числом контактов — 4844 против 6096 контактов у SP5. Такой ход позволит снизить себестоимость производства системных плат для EPYC 8004, тем более что поддержки двухпроцессорных конфигураций новые чипы AMD не предусматривают.

Всего в новой серии AMD анонсировала 12 процессоров, с количеством ядер от 8 до 64 (16—128 потоков), в вариациях с настраиваемым теплопакетом и фиксированным в соответствии со стандартом NEBS (Network Equipment-Building System); последний также предусматривает более широкий диапазон рабочих температур (от -5 до +85 °C).

Нельзя, впрочем, сказать, что теплопакет как-то особенно низок даже у младших 8-ядерных моделей — он стартует с отметки 80 Вт (для модели с настраиваемым TDP этот показатель можно снизить до 70 Вт), а в максимальных конфигурациях система охлаждения CPU должна справляться с отводом 175–225 Ватт. Для периферийных систем и телекоммуникационного оборудования этого добиться не всегда просто.

Можно назвать и другие ограничения: так, использование прежнего дизайна IOD-чиплета означает поддержку памяти со скоростью до DDR5-4800, причём лишь при одном модуле DIMM на канал, а поддержка 3DS RDIMM отсутствует, что ограничивает максимальный объём оперативной памяти отметкой 1152 Гбайт (12 × 96 Гбайт RDIMM). Из 96 линий PCIe лишь половина может работать в режиме CXL.

А конкуренция со стороны Intel в этом сегменте будет очень жёсткой: поскольку речь идёт о телекоммуникационном оборудовании, у «синих» имеется готовый стек решений vRAN и отлично подходящие для его запуска процессоры Xeon EE с поддержкой vRAN Boost, а также ещё более экономичные Xeon D-2700 с интегрированным 100GbE-контроллером, поддерживающие третье поколение Quick Assist и полноценные расширения AVX-512 и VNNI/DL.

AMD хочет противопоставить этому «чистую» вычислительную мощность, достигаемую за счёт количества ядер. Это может сыграть решающую роль при использовании программного обеспечения, неспособного использовать все преимущества ускорителей в процессорах Intel. Также потенциальных заказчиков должна привлечь низкая совокупная стоимость владения для систем на базе EPYC Siena, достигаемой за счёт высокой удельной производительности новых процессоров.

Компания сообщает, что процессоры EPYC 8004 уже доступны в новых периферийных серверах таких производителей, как Dell, Lenovo и Supermicro, анонсировала новые решения и Giga Computing. Также поддержали выпуск новых чипов Microsoft Azure и Ericsson. Последняя, напомним, весной этого года подписала с AMD соглашение о разработке открытого RAN-стека, что позволит ей «отвязаться» в своих продуктах от решений исключительно Intel.