Государственное объединение научных и прикладных исследований Австралии (CSIRO) сообщило о вводе в эксплуатацию высокопроизводительного вычислительного комплекса Virga. Система, предназначенная для ИИ-задач, ускорит научные открытия, а также поможет развитию промышленности и экономики страны.

Суперкомпьютер располагается в дата-центре Hume компании CDC в Канберре. Его созданием занималась компания Dell: в основу положены серверы PowerEdge XE9640, оснащённые двумя процессорами Intel Xeon Sapphire Rapids 8452Y (36C/72T, 2,0/3,2 ГГц, 300 Вт), до 512 Гбайт RAM и четырьмя 61,44-Тбайт NVMe SSD. Задействованы ИИ-ускорители NVIDIA H100 с 96 Гбайт памяти HBM3 — всего 448 шт. Система занимает 14 стоек, а в качестве интерконнекта используется Infiniband NDR.

Dell заключила контракт на создание Virga в 2023 году: сумма изначально составляла $9,65 млн, однако фактическое строительство комплекса обошлось в $10,85 млн. Новый суперкомпьютер придёт на смену НРС-системе CSIRO предыдущего поколения под названием Bracewell, но унаследует от неё BeeGFS-хранилище, также построенное на оборудовании Dell. В нынешнем рейтинге TOP500 машина занимает 72 место с пиковой и практической FP64-производительностью 18,46 Пфлопс и 14,94 Пфлопс соответственно.

Комплекс Virga получил своё имя в честь метеорологического эффекта «вирга» — это дождь, который испаряется, не достигая земли: видеть его можно в виде полос, выходящих из-под облаков. Систему Virga планируется использовать для таких задач, как прогнозирование пожаров, разработка вакцин нового поколения, проектирование гибких солнечных панелей, анализ медицинских изображений и пр.

Источник изображения: CSIRO

Пока подробные технические характеристики Virga и показатели быстродействия не раскрываются. Отмечается лишь, что в составе комплекса применена гибридная система прямого жидкостного охлаждения. Говорится также, что CDC оперирует двумя кампусами дата-центров Hume. Площадка Hume Campus One объединяет три ЦОД и имеет мощность 21 МВт, тогда как в состав Hume Campus Two входят два объекта суммарной мощностью 51 МВт.

Intel ведет исследования в области интегрированной фотоники уже много лет, поскольку успех в этой сфере критически важен для HPC-систем нового поколения. Два года назад компания сообщила о создании технологии, использующей существующие техпроцессы обработки 300-мм кремниевых пластин для формирования массива лазеров вкупе с модуляторами. А сейчас можно говорить о достижении новой важной вехи в этой области.

На OFC 2024 Intel продемонстрировала опытный образец CPU, оснащённый 64-канальным фотонным интерконнектом OCI (Optical Compute Interconnect). Каждый канал позволяет передавать данные на скорости 32 Гбит/с на расстоянии до 100 м, что позволит решить проблему масштабирования HPC-систем и ИИ-комплексов: пропускной способности 2 Тбит/с (256 Гбайт/с) в каждом направлении хватит на многое. А в перспективе скорость будет доведена до 32 Тбит/с.

Источник изображений: Intel

В настоящее время в системах подобного класса для высокоскоростного соединения узлов используются либо решения с внешними оптическими трансиверами, что серьёзно увеличивает стоимость и энергопотреблению в целом, либо классическую «медь», серьёзно ограниченную по максимальной длине кабеля. OCI позволяет избежать обеих проблем.

Чиплет использует DWDM (восемь длин волн на волокно) и при этом экономичен: энергозатраты на передачу информации составляют всего 5 пДж/бит против 15 пДж/бит у решений с внешними оптическими трансиверами. Ранее заявленную цифру 3 пДж/бит пришлось немного увеличить, что связано с интеграцией интерфейса PCIe.

Внешне продемонстрированный образец чипа напоминает выпускавшиеся когда процессоры Xeon с поддержкой Omni-Path, но вместо электрического разъёма у него теперь оптический соединитель на восемь пар волокон. С помощью простого пассивного переходника к нему в демонстрационной системе Inel был подключен типовой оптоволоконный кабель.

Поскольку речь идёт о чиплете, теоретически ничто не мешает разместить модуль OCI в составе GPU/NPU, FPGA, DPU/IPU и вообще любой модульной SoC. При этом чиплет совместим с PCIe 5.0, так что проблем с интеграцией быть не должно, хотя это и не самый оптимальный вариант. А на уровне упаковки поддерживается и UCIe.

Вкупе с предельной дистанцией до 100 м новый чиплет существенно упростит системы интерконнекта: за редкими исключениями, вроде NVIDIA NVLink или Intel Gaudi 3 с его массивом Ethernet-контроллеров, связь организуется посредством PCIe-адаптера InfiniBand, либо Ethernet, в которые устанавливаются оптические трансиверы. Впрочем, и у PCI Express вскоре появится поддержка оптических подключений, что будет на руку Ultra Accelerator Link (UALink).

В следующем поколении пропускная способность каждой линии OCI возрастёт с 32 до 64 Гбит/с, после чего Intel планирует довести число одновременно используемых длин волн до 16. Затем, в промежутке между 2030 и 2035 годами планируется достигнуть 128 Гбит/с на линию, уже с 16 длинами волн и 16 парами волокон. Но без конкуренции здесь не обойдётся. NVLink, который уже сейчас существенно быстрее (1,8 Тбайт/с в нынешнем поколении), вскоре тоже обзаведётся оптической версией. Похожие решения развивают Celestial AI, MediaTek и Ranovus, Lightmatter и Ayar Labs.

Компания AAEON пополнила ассортимент одноплатных компьютеров моделью PICO-RAP4, которая подходит для применения в системах видеонаблюдения и промышленной автоматизации, робототехнических комплексах, медицинских платформах визуализации и пр.

По заявлениям AAEON, новинка — это самое компактное решение компании с процессором Intel Core 13-го поколения (Raptor Lake). Изделие выполнено в форм-факторе Pico-ITX с размерами 100 × 72 мм. Максимальная конфигурация включает чип Core i7-1370PE (6P+8E/20T, 1,9–4,8 ГГц, 28 Вт). Имеется интегрированный графический ускоритель Intel Iris Xe.

Источник изображения: AAEON

Устройство располагает одним слотом SO-DIMM для модуля DDR5-5200 ёмкостью до 32 Гбайт, одним портом SATA-3 для накопителя, разъёмом mSATA/mPCIe и коннектором M.2 2280 M-Key для SSD с интерфейсом PCIe 4.0 x4. Есть звуковой кодек Realtek ALC256, сетевые контроллеры Intel i226 2.5GbE и Intel i219 1GbE с разъёмами RJ-45 для подключения кабелей.

Допускается одновременный вывод изображения на два дисплея. Для этого могут быть задействованы интерфейсы HDMI 1.4 (3840 × 2160 точек; 30 Гц) и LVDS (1920 × 1200 пикселей; 60 Гц), а также опциональный eDP 1.4 (до 3840 × 2160 точек). Присутствуют два порта USB 3.2 Gen2. Через разъёмы на плате можно использовать два порта USB 2.0 и два последовательных порта RS232/422/485. Упомянуты также колодка GPIO и коннектор для вентилятора охлаждения.

Одноплатный компьютер PICO-RAP4 может эксплуатироваться при температурах от 0 до +60 °C. Заявлена совместимость с Windows 10 и Ubuntu 22.04.2. Питание (12 В) подаётся через 2-контактный коннектор Phoenix.

На Computex 2024 AMD анонсировала новое поколение серверных процессоров EPYC Turin на базе архитектуры Zen 5. При этом компания продемонстрировала слайды, из которых следует, что новые решения серьёзно опережают процессоры Intel Xeon. Так, 128-ядерный Turin сравнивается с 64-ядерным Xeon Platinum 8592+ (Emerald Rapids). AMD говорит о 2,5–5,4-кратном превосходстве, однако Intel опровергает полученные результаты и достаточно подробно разбирает вопрос тестирования в своём блоге.

Конечно, превосходство AMD в чисто количественных показателях очевидно, но в сложных вычислительных задачах, к которым относятся HPC- и ИИ-сценарии, не меньшую, а то и большую роль может играть оптимизация ПО. Intel отмечает, что AMD не привела в своём анонсе конкретных сведений о версиях и настройках ПО, и, вероятнее всего, отказалась от различных расширений. Но, например, Intel Extension for PyTorch (IPEX) позволяет добиться более чем пятикратного прироста производительности по сравнению с «чистой» версией PyTorch.

Для системы с двумя Xeon Platinum 8592+ применение IPEX позволяет поднять производительность инференса в режиме INT4 с чат-ботом на базе Llama2-7B со 127 до 686 запросов в секунду при заданной задержке не более 50 мс. Для своей 256-ядерной платформы на базе Turin AMD говорит про 671 запрос — как видно, с оптимизацией результаты получаются вполне сопоставимыми.

Источник: AMD

И потенциал для дальнейшего роста у Xeon есть: Intel сообщает, что при отключении функции Sub-NUMA Clustering результат может достигать 740 запросов. К сожалению, для других тестов компания диаграмм не опубликовала, хотя и там оптимизация позволяет добиться увеличения производительности в 1,2–2,3 раза. Этого уже не хватает, чтобы бороться с платформой Turin, которая, помимо превосходства в числе ядер, использует и более мощную 12-канальную подсистему памяти.

Источник: Intel

Следует отметить, что Intel не сказала последнего слова: Xeon Platinum 8592+ уже не нов, а в ближайшем будущем AMD Turin придётся столкнуться с Xeon 6 с большим числом ядер. Пока эти чипы доступны лишь в исполнении с энергоэффективными ядрами, но уже в III квартале появятся и 128-ядерные Granite Rapids с производительными P-ядрами и 12-канальной памятью.

Источник: Intel

Тем не менее, тема затронута достаточно фундаментальная: свои плюсы имеет как чисто количественный подход, которого придерживается AMD, так и подход Intel, позволяющий добиться высоких результатов при тщательной оптимизации под более комплексную архитектуру. Нельзя сказать, что результаты AMD являются мошенничеством, хотя случай и не первый — согласно тестам компании, ускоритель Instinct MI300X серьёзно опередил NVIDIA H100, но при этом AMD точно так же «забыла» про оптимизированный фреймворк TensorRT-LLM. Правда, в тот раз «честь мундира» отстоять удалось и с оптимизациями NVIDIA.

Облачная платформа Amazon Web Services (AWS) сообщила о доступности инстансов Elastic Compute Cloud (EC2) U7i, оптимизированных для резидентных (in-memory) баз данных. В основу положены кастомизированные процессоры Intel Xeon поколения Sapphire Rapids.

Утверждается, что по сравнению с инстансами EC2 High Memory предыдущего поколения экземпляры U7i обеспечивают на 135 % более высокую вычислительную производительность и на 115 % большую производительность памяти. При этом пропускная способность EBS-томов увеличена в 2,5 раза.

Инстансы поддерживают подключение до 128 томов EBS gp2/gp3 или io1/io2. Каждый том io2 Block Express может иметь размер до 64 ТиБ и обеспечивать производительность до 256 тыс. IOPS со скоростью до 32 Гбит/с. Все конфигурации включают 896 vCPU, а объём оперативной памяти варьируется от 12 288 до 32 768 ГиБ. Благодаря системе AWS Nitro вся память доступна для использования. Пропускная способность EBS составляет 60 Гбит/с у младшей версии и 100 Гбит/с у всех остальных. Пропускная способность сети — соответственно 100 и 200 Гбит/с.

Источник изображения: AWS

Среди поддерживаемых ОС названы Amazon Linux, Red Hat Enterprise Linux, SUSE Linux Enterprise Server, Ubuntu и Windows Server. Говорится о возможности работы с крупными СУБД, в частности, SAP HANA, Oracle и SQL Server.

Инстансы EC2 U7i были представлены в качестве предварительной версии в ноябре 2023 года. Теперь они доступны для клиентов в американских регионах AWS US East (Северная Вирджиния) и US West (Орегон), а также в Азиатско-Тихоокеанском регионе (Сеул, Сидней). Позднее в текущем году будут запущены более мощные инстансы с увеличенной вычислительной производительностью.

Компания AAEON анонсировала один из первых, по её словам, на рынке одноплатных компьютеров с процессором Intel Core Ultra поколения Meteor Lake. Изделие под названием UP Xtreme i14 подходит для создания автономных мобильных роботов, ИИ-устройств для сферы здравоохранения, ретейла и пр.

Устройство имеет размеры 120,35 × 122,5 мм. Доступен широкий выбор чипов Core Ultra 5 и Core Ultra 7 — вплоть до Core Ultra 7 165H с 16 ядрами (6P+8E+2LPE) с тактовой частотой до 5 ГГц. Все процессоры наделены нейромодулем Intel AI Boost NPU для ускорения выполнения операций, связанных с ИИ. Обработкой графики занимается ускоритель Intel Arc.

Источник изображения: AAEON

Возможно использование до 64 Гбайт оперативной памяти LPDDR5. Есть два коннектора M.2 2280 M-Key (PCIe 4.0 x4) для SSD и порт SATA-3 для подключения дополнительного накопителя. Доступны также разъёмы M.2 2230 E-Key (PCIe 3.0 x1, USB 2.0) для комбинированного адаптера Wi-Fi/Bluetooth и M.2 3052 B-Key (PCIe 3.0 x1, USB 3.2 Gen2 x1) со слотом Nano SIM для модема 4G/5G. Имеются сетевые контроллеры 2.5GbE (Intel I226-IT) и 1GbE (Intel I219).

В число доступных интерфейсов входят два порта HDMI 2.1 (8Kp60), разъёмы DisplayPort 2.1 (8Kp60) и DisplayPort 1.4 (через USB Type-C; 8K60), два гнезда RJ-45 для сетевых кабелей, 3,5-мм аудиогнездо (Mic-in+Line-out), два порта USB 3.2 Gen2 Type-A, по одному разъёму USB 3.2 Gen2 Type-C и USB 2.0 Type-A. Дополнительные интерфейсы, включая USB 2.0 (×2) и последовательные порты RS-232/422/485 (×2), могут быть задействованы через коннекторы на плате. Есть 40-контактная колодка GPIO и модуль TPM 2.0.

Питание в диапазоне 9–36 В подаётся через DC-разъём. Диапазон рабочих температур простирается от 0 до +60 °C. Может применяться ОС Windows 10/11 и Ubuntu 22.04/Kernel 6.5. Цена AAEON UP Xtreme i14 на базе Core Ultra 5 составляет от $749, на основе Core Ultra 7 — от $959.

Компания Supermicro анонсировала серверы нового поколения X14 на аппаратной платформе Intel Xeon 6. Дебютировало большое количество стоечных систем разного класса для облачных приложений, периферийных вычислений, телекоммуникационных сервисов и пр.

Как и ожидалось, в серию X14 вошли модели SuperBlade для НРС-задач и аналитики данных, высокопроизводительные серверы Hyper для масштабируемых облачных рабочих нагрузок, решения CloudDC для дата-центров, системы Hyper-E для периферийных задач, а также устройства WIO, BigTwin, GrandTwin и Edge/Telco.

Кроме того, дебютировали серверы хранения Petascale Storage, которые, по заявлениям Supermicro, обеспечивают лучшие в отрасли показатели плотности и производительности. Эти решения в формате 1U или 2U поддерживают работу с накопителями EDSFF E1.S и E3.S.

Новые серверы комплектуются процессорами Intel Xeon 6, ранее известными под кодовым именем Sierra Forest. Чипы могут содержать до 144 энергоэффективных E-ядер. В дальнейшем Supermicro выпустит серверы с процессорами Xeon 6 с производительными P-ядрами (ранее — Granite Rapids). Готовятся GPU-системы для ИИ-нагрузок, обучения больших языковых моделей (LLM) и ресурсоёмких приложений НРС. Кроме того, будут представлены многоузловые платформы. Для некоторых новинок предусмотрено использование СЖО.

На выставке Computex 2024 компания Supermicro также демонстрирует ИИ-системы SuperCluster на базе NVIDIA Blackwell и NVIDIA HGX H100/H200. Эти мощные комплексы могут оснащаться воздушным или жидкостным охлаждением.

Компания QNAP Systems анонсировала новые NAS корпоративного класса. В частности, дебютировала стоечная система TS-765eU в форм-факторе 1U, выполненная на аппаратной платформе Intel.

Задействован процессор Atom x7405C поколения Amston Lake с четырьмя ядрами (до 3,4 ГГц) и показателем TDP в 12 Вт. Объём оперативной памяти DDR5 может достигать 16 Гбайт. Есть четыре отсека для LFF-накопителей с интерфейсом SATA-3 и три слота для накопителей E1.S/M.2 PCIe NVMe. Система укомплектована адаптером М.2, благодаря которому можно добавить модуль M.2 2280 PCIe SSD. В оснащение входят два сетевых порта 2.5GbE с разъёмами RJ-45. Опционально может быть установлен адаптер OXG-ES10G1T с поддержкой 10GbE.

Кроме того, QNAP представила NAS башенного типа TS-h1277AFX на платформе AMD Ryzen 7000. Это производительная система типа All-Flash с возможностью установки 12 SSD с интерфейсом SATA-3. Объём памяти DDR5 составляет до 192 Гбайт. Есть по два сетевых порта 2.5GbE и 10GbE, три слота PCIe 4.0 для карт расширения, интерфейс HDMI и пр.

Источник изображения: QNAP

В число других новинок, которые QNAP показала на Computex 2024, входят ИИ-модули QAI-M100/QAI-U100 с производительностью до 3 TOPS (интерфейсы USB 3.2 Gen1 или M.2 2280 PCIe 2.0 x1), адаптеры USB 4 — 10GbE (модели QNA-UC10G1T/QNA-UC10G1SF), коммутатор QSW-M3224-24T на 24 порта 10GbE и др.

Компания ASUS анонсировала серверы хранения семейства VS320D, предназначенные для использования в составе инфраструктур SAN (Storage Area Network). Устройства подходят для работы с базами данных, системами виртуализации и пр.

В серию вошли модели VS320-RS12 и VS320D-RS26 с двумя контроллерами, работающими в режиме «активный — активный». Каждый из узлов оснащён неназванным процессором Intel Xeon. Есть четыре слота для модулей DDR4. Устройства выполнены в форм-факторе 2U.

Источник изображений: ASUS

Модель VS320-RS12 рассчитана на установку 12 накопителей LFF с интерфейсом SAS-3. Возможно формирование массивов RAID 0/1/3/5/6/10/30/50/60. Максимальная внутренняя вместимость составляет 264 Тбайт при использовании HDD на 22 Тбайт каждый. В свою очередь, сервер VS320D-RS26 рассчитан на 26 накопителей SFF с интерфейсом SAS-3. Упомянута поддержка массивов RAID 0/1/3/5/6/10/30/50/60. Внутренняя ёмкость — до 798 Тбайт при использовании SSD вместимостью по 30,72 Тбайт.

У обеих новинок питание обеспечивают два блока мощностью 850 Вт с сертификатом 80 PLUS Platinum или 80 PLUS Titanium. Предусмотрены два слота PCIe 3.0 x8. Каждый из контроллеров располагает четырьмя портами 10GbE SFP+ и выделенным сетевым портом управления 1GbE RJ-45. Перечень опций включает четыре разъёма 10GbE RJ-45, два или четыре порта 25GbE SFP28, два или четыре порта 16Gb SFP+ Fibre Channel, два порта 32Gb SFP28 Fibre Channel.

Габариты серверов составляют 88 × 438 × 515 мм, вес — около 16,3–16,4 кг. Заявленная производительность достигает 12,8 Гбайт/с и 1,3 млн IOPS.

Компания Giga Computing, серверное подразделение Gigabyte, анонсировала серверы и материнские платы с поддержкой процессоров Intel Xeon 6, ранее известных под кодовым именем Sierra Forest. Дебютировали модели с возможностью установки одного или двух чипов для широкого спектра задач.

Отмечается, что в ассортимент Giga Computing на базе Xeon 6 входят мощные GPU-модели, решения с прямым жидкостным охлаждением (DLC), многоузловые серверы, материнские платы и серверы общего назначения, а также серверы для периферийных вычислений.

В частности, дебютировали GPU-системы G494 и G294 в форм-факторе соответственно 4U и 2U. Первый из этих серверов поддерживает до десяти ускорителей и имеет дополнительные слоты PCIe для сетевых карт и пр. Доступны отсеки для LFF/SFF-накопителей NVMe/SATA/SAS. Вторая модель предлагает до восьми SFF-отсеков SATA/SAS-4 с возможностью горячей замены и до восьми слотов FHFL PCIe 5.0 x16.

В свою очередь, серверы H-серии высокой плотности могут комплектоваться СЖО. В это семейство, в частности, входит модель H274 с четырьмя узлами, которая в максимальной конфигурации предлагает до 1152 энергоэффективных E-ядер. Многоузловые серверы подходят для облачных задач и микросервисов.

Кроме того, анонсированы серверы общего назначения (R164, R264, R184 и R284) и материнские платы (MS74, MS04 и MS34), которые предлагают гибкие варианты использования. Дебютировали модификации с одним и двумя сокетами, несколькими слотами расширения PCIe, поддержкой накопителей U.2/U.3 или E1.S/E3.S. Для периферийных задач предназначены серверы серии E (E164 и E264) с небольшой глубиной — всего 520 мм.