Производитель серверных решений «Е-Флопс» и инжиниринговая компания «АМДтехнологии» разработали HPC-комплекс для решения ИИ-задач. Проект был реализован по заказу российского банка, входящего в Топ-10 крупнейших финансовых организаций страны, имя которого не уточняется.

Созданное отечественными инженерами изделие состоит из 22 вычислительных узлов, базирующихся ускорителях NVIDIA H100 80GB и x86-процессорах, обеспечивающих пиковую производительность 11792 Тфлопс (FP64) для научных расчётов и 700 Пфлопс (FP8/INT8) для задач ИИ. Машина включает 4224 процессорных ядра, 33792 Гбайт RAM вычислительных узлов и 14080 Гбайт памяти GPU, а также 2973696 ядер CUDA и 92928 тензорных ядер. Каждый ускоритель получил 200G-интерфейс InfiniBand NDR. Локальное подключение обеспечивается 25GbE-интерфейсами, для управления задействована 10GbE-сеть.

Вычислительный комплекс состоит из внутреннего и внешнего сегментов. Внутренний сегмент размещён внутри безопасного периметра банка без выхода в интернет, он ориентирован исключительно на решения задач ИИ. Внешний сегмент находится вне периметра информационной инфраструктуры банка и предназначен для HPC-нагрузок.

Источник изображения: NVIDIA

В соответствии с требованиями заказчика реализованы две независимых подсистемы хранения данных: внутреннего и внешнего сегментов. Во внешнем контуре установлена выделенная СХД с поддержкой иерархического хранения: «горячие» данные размещаются на SSD «сырой» ёмкостью 61 Тбайт, а «холодные» — на массивах HDD ёмкостью 2 Пбайт. Для его подключения используется InfiniBand NDR. Во внутреннем сегменте используется распределённое гиперконвергентное хранилище, которое масштабируется линейно вместе с ростом числа вычислительных узлов. Говорится об FC32 SAN для доступа к объектной СХД.

ПО включает средства мониторинга и управления (в том числе NVIDIA DCGM), систему визуализации и анализа данных на базе открытых пакетов, а также платформу оркестрации Kubernetes с модулями Multus и Cilium. Внешний сегмент дополнительно поддерживает планировщик Slurm. Управляющие серверы работают в среде Proxmox.

Суперкомпьютер уже введён в эксплуатацию и развёрнут в сертифицированном ЦОД одного из крупнейших провайдеров. Все серверы, коммутаторы, СХД внешнего сегмента, патч-панели размещены в 16 серверных шкафах с использованием воздушного охлаждения и организацией холодного и горячего коридоров. В вычислительный комплекс, по требованию заказчика, заложена возможность дальнейшего увеличения количества вычислительных узлов до 42, а также наращивание сетевой инфраструктуры.

Компания Liqid объявила о стратегическом сотрудничестве с AMD, направленном на создание решений следующего поколения для ИИ-инфраструктур. В рамках партнёрства представлена аппаратная платформа Liqid UltraStack 30, оптимизированная для задач инференса.

В состав системы входят сервер с двумя процессорами AMD EPYC 9005 Turin и коммутатор Liqid PCIe Fabric Switch. Ключевыми компонентами являются три GPU-блока, каждый из которых содержит десять ускорителей AMD Instinct MI350P (144 Гбайт памяти HBM3E с 4096-бит шиной). Таким образом, в общей сложности задействованы 30 названных карт и 4,3 Тбайт памяти HBM3E.

Заявленная производительность достигает 69 Пфлопс в режиме FP8. Говорится о возможности работы с общими пулами памяти по высокоскоростному стандарту CXL. Суммарное энергопотребление платформы находится на уровне 22 кВт. По заявлениям Liqid, система обеспечивает 3,7-кратный прирост показателя токенов в секунду по сравнению с традиционными решениями. Количество токенов в пересчете на $1 увеличивается в 2,1 раза, а токенов на 1 Вт затрачиваемой энергии — в 1,8 раза. Затраты на развёртывание могут быть уменьшены на 65 %.

Источник изображения: Liqid

Программное обеспечение Liqid Matrix объединяет GPU-ускорители и в реальном времени распределяет их ресурсы между рабочими нагрузками через высокоскоростную PCIe-шину. При этом все карты остаются в пределах одного узла. В целом, платформа Liqid UltraStack 30, как утверждается, устраняет накладные расходы, связанные с использованием нескольких узлов, обеспечивает предсказуемое линейное масштабирование и доводит загрузку GPU почти до 100 %. Упомянута поддержка Kubernetes для работы с несколькими моделями.

В январе нынешнего года компания AMD формально анонсировала процессоры Ryzen AI Embedded X100 для встраиваемых и автономных систем с ИИ-функциями. Теперь раскрыты технические характеристики этих изделий. Кроме того, представлены вычислительный модуль Kria AI SoM на базе чипа X100 и платформа для разработчиков Kria AI Robotics Developer Platform.

В семейство Ryzen AI Embedded X100 вошли шесть моделей — X168i, X168, X188i, X188, X199i и X199. У изделий с суффиксом «i» в обозначении диапазон рабочих температур простирается от -40 до +105 °C, у других — от 0 до +105 °C. Процессоры X168i и X168 получили восемь ядер с частотой до 5 ГГц и GPU с 32 вычислительными блоками (CU). Решения X188i и X188 имеют аналогичные характеристики, но содержат 12 ядер CPU. Чипы X199i и X199 объединяют 16 ядер с частотой 5,1 ГГц и GPU с 40 вычислительными блоками.

Источник изображений: CNX Software

Все процессоры поддерживают оперативную память LPDDR5x-8533 (до 8 каналов) и 16 линий PCIe 4.0. Реализованы интерфейсы HDMI 2.1, DP 2.0, eDP v1.4, DVI, USB4 (×2), USB 3.2 (×2), USB 2.0 (×3), I2C, SMBus, SPI, UART. Изделия выполнены в корпусе с размерами 45 × 37,5 мм.

Утверждается, что по сравнению с аналогичными процессорами Intel Core Ultra Series 3 чипы Ryzen AI Embedded X100 обеспечивают прирост производительности в 2,1 раза в многопоточном режиме (CoreMark). Графический блок при этом демонстрирует 1,7-кратную прибавку (OpenGL, GFXBench 5.0.0). По сравнению с платформой NVIDIA Jetson Thor T5000 процессоры Ryzen AI Embedded X100 Series демонстрируют 3-кратный рост пиковой производительности в формате FP32.

Вычислительный блок AMD Kria AI SoM, по информации ресурса CNX Software, несёт на борту 64 или 128 Гбайт памяти LPDDR5x. Возможно подключение до восьми камер через коннекторы FAKRA. Упомянуты интерфейсы CAN-FD, RS485, 10GbE QSFP.

В свою очередь, платформа для разработчиков Kria AI Robotics Developer Platform оснащена модулем Kria AI SoM и FPGA Spartan UltraScale+. Предусмотрены коннектор Oculink PCIe, разъём M.2 2280 Key-M для NVMe SSD и слот M.2 2230 Key-E для комбинированного адаптера Wi-Fi/Bluetooth. В оснащение входят два интерфейса Mini DisplayPort, по одному коннектору FAKRA x4 (GMSL2/3) и FAKRA x4 (GMSL1/2), 3,5-мм аудиогнездо, по два сетевых порта 5GbE RJ45 и 1GbE RJ45 (EtherCAT/TSN), порт 10GbE QFSP, интерфейсы USB4 Type-C (×2), USB 3.2 Type-C (×3) и USB 2.0 Type-A (×2), два последовательных порта CAN-FD/RS485.

Intel сообщила результаты II квартала 2026 финансового года, завершившегося 27 июня, которые превзошли прогнозы Уолл-стрит. При этом компания показала самый высокий рост выручки за последние 15 лет. Выручка составила $16,1 млрд, что на 25 % больше, чем годом ранее, и выше консенсус-прогноза аналитиков, опрошенных LSEG (по данным CNBC) в размере $14,42 млрд. Скорректированная прибыль на акцию (Non-GAAP) составила $0,42, значительно превысив прогноз аналитиков в $0,21.

«II квартал стал ещё одним кварталом уверенной работы, — сказал генеральный директор Intel Лип-Бу Тан (Lip-Bu Tan). — Выручка, валовая прибыль и прибыль на акцию превысили наши прогнозы. Это седьмой квартал подряд, когда мы превосходим наши финансовые ожидания». Тем не менее Intel сообщила об убытках (GAAP) в размере $11 млрд, в то время как годом ранее тоже были убытки, но гораздо меньше — $2,9 млрд.

Источник изображений: Intel

Хотя наибольший спрос наблюдается на серверные чипы, подразделение Intel Client Computing Group (CCG) получило наибольшую выручку — $8,9 млрд (рост год к году на 13 %). Intel заявила, что глобальный дефицит памяти, вероятно, негативно скажется на продажах ПК в будущем, хотя считает, что выручка подразделения CCG останется в текущем квартале на прежнем уровне.

В то же время у подразделения Datacenter and AI Group (DCAI), которое специализируется на продуктах для ЦОД и ИИ, выручка выросла гораздо больше — на 59 % до $6,3 млрд. По словам Тана, рост продаж серверных процессоров во II квартале по сравнению с аналогичным периодом прошлого года стал самым сильным за всю историю компании.

Подразделение Intel Foundry, которое занимается производством чипов, получило выручку в размере $5,8 млрд (рост год к году на 31 %). Финансовый директор Дэвид Зинснер (David Zinsner) сообщил аналитикам в ходе телефонной конференции, что спрос превышает производственные возможности компании. «Клиенты продолжают демонстрировать сильную и устойчивую потребительскую активность», — отметил он.

В связи с этим Intel планирует значительно увеличить капитальные затраты в наращивание производства чипов не только для собственных нужд, но и для поставки другим компаниям. Зинснер заявил, что новейший технологический процесс Intel 14A в настоящее время опережает более старые процессы на данном этапе жизненного цикла. Он отметил, что большая часть увеличения капитальных вложений будет направлена на оснащение новых заводов. Однако, как пишет SiliconANGLE, Intel до сих пор не назвала ни одного крупного клиента, который заказал чипы с использованием своего самого передового процесса.

В текущем квартале Intel прогнозирует скорректированную прибыль (Non-GAAP) в размере $0,38 на акцию при выручке от $15,8 до $16,8 млрд. Это выше прогноза Уолл-стрит, который ожидает прибыль в размере $0,27 на акцию при объёме продаж в $15,1 млрд. Компания также повысила свой прогноз капитальных затрат на 2026 год до более чем $20 млрд, объяснив сохраняющимся спросом на ИИ-инфраструктуру.

По состоянию на закрытие торгов в четверг акции Intel выросли более чем на 170 % с начала 2026 года после взлета на 84 % в прошлом году, когда правительство США приобрело 10 % акций компании в рамках программы по поддержке производства микросхем в США. Однако в последнее время акции компании падают, снизившись в июле на 28 %.

Рынок инфраструктурного программного обеспечения в России продолжает удерживать статус одного из наиболее динамично развивающихся сегментов IT-отрасли, и ключевым фактором его расширения выступает импортозамещение софтверной продукции в отечественных организациях. Об этом свидетельствует исследование консалтинговой компании Strategy Partners (входит в экосистему «Сбера»).

Согласно данным аналитиков Strategy Partners, сегмент инфраструктурного ПО в РФ в 2025 году превзошёл уровень 2021 года впервые после ухода зарубежных поставщиков — его объём достиг 158 млрд руб.: рост составил 16 % в годовом выражении, а динамика опередила общие темпы развития отечественной IT‑отрасли на три процентных пункта. При этом ключевым фактором расширения рынка выступило импортозамещение: участие российских вендоров выросло с 8 до 68 %.

Источник изображения: Strategy Partners / strategy.ru

Лидирующую позицию в инфраструктурном ПО продолжают сохранять СУБД — их объём составил 44 млрд руб. в 2025 году. На втором месте фигурируют операционные системы для рабочих станций и серверов (31 млрд руб.). По итогам 2025 года лидером в сегменте СУБД стала Arenadata, а совокупная доля трёх крупнейших участников рынка, включая Postgres Professional (Postgres Pro) и «Группы Астра» (Tantor), составила порядка 30 процентов. На рынке ОС для рабочих станций доминирует «Группа Астра» (Astra Linux) с долей 74 %. В совокупности «Группа Астра», «Ред софт» («Ред ОС») и «Базальт СПО» («Альт») по результатам 2025 года контролировали 98 % рынка российских ОС для персональных компьютеров и серверных машин.

Источник изображения: Strategy Partners / strategy.ru

Наиболее комплексные продуктовые экосистемы, охватывающие значительную часть сегментов инфраструктурного ПО, сформировали «Группа Астра», «Базис», «Ред софт», Orion Soft, «Базальт СПО» и «НТЦ ИТ РОСА».

Что касается прогнозов, то в перспективе четырёх лет сегмент инфраструктурного ПО в России может достигнуть 307 млрд руб. в рамках базового сценария либо 268 млрд руб. при консервативных оценках. К 2030 году на долю СУБД и ОС придётся свыше 40 % объёма упомянутого рынка. При этом наиболее интенсивный рост будет отмечен в сферах, ориентированных на облачные архитектуры. Ожидается, что объём рынка решений для контейнеризации продемонстрирует трёхкратный рост до 15 млрд руб. Аналогично высокие темпы прогнозируются для биллинговых систем (18 %), виртуализации рабочих мест (VDI, 18 %) и резервного копирования (17 %).

Доля российских продуктов на рынке инфраструктурного ПО в 2030 году может достичь 90 %, а совокупная выручка отечественных вендоров на внутреннем рынке превысит показатели иностранных поставщиков.

Планы британского правительства, предусматривающие превращение страны в ИИ-сверхдержаву, практически не учитывают рост потребностей ЦОД в чистой воде. В результате дата-центры могут стать активными конкурентами за этот ресурс с жилыми домами и предприятиями, сообщает The Register. Местных парламентариев предупредила ассоциация участников «водного» бизнеса Water UK. Предостережение сделано на фоне вероятной засухи в южной, центральной и восточной Англии.

Сообщается, что прежние официальные прогнозы потребностей страны в воде не принимали в расчёт нужды дата-центров, хотя именно правительство стимулировало их строительство для развития ИИ-технологий. В письме Water UK подчёркивается, что политика правительства, направленная на создание зон роста ИИ — AI Growth Zones в рамках программы AI Opportunities Action Plan предполагает, что в стране вода имеется в изобилии. В результате ограничиваются планы инвестиций в строительство новых водохранилищ и смежных объектов, а будущее водоснабжение искусственно ограничивается прогнозами, которые и без учёта дата-центров уже являются заниженными.

Источник изображения: Sanket Mishra/unsplash.com

В документе подчёркивается, что из-за отсутствия водных ресурсов уже заблокированы некоторые проекты жилищного строительства и расширения предприятий. По данным Water UK, питьевой воды так мало, что Агентство по охране окружающей среды Великобритании фактически ввело локальные моратории на расширение бизнесов в Восточной Англии и Эссексе. А в прошлом году Британский комитет по борьбе с засухой предложил удалить старые фотографии и письма, чтобы сократить водопотребление ЦОД.

Water UK призвала ускорить создание инфраструктуры водоснабжения, а также пересмотреть лимиты на забор водных ресурсов. Ассоциация настаивает на том, чтобы операторов ЦОД обязали покрывать расходы на ИИ-инфраструктуру, и призывает ввести стандарты минимальной эффективности дата-центров. Кроме того, они должны использовать питьевую воду лишь там, где это строго необходимо, а в остальном обходиться технической водой.

Сложившаяся в Великобритании ситуация стимулирует операторов ЦОД использовать системы охлаждения, экономящие электричество, а не воду. Такая практика характерна для регионов с избытком воды и дешёвой электроэнергией, но в Великобритании цены на электричество — одни из самых высоких в «развитых» странах. В заявлении Water UK отмечено, что мировое использование воды ЦОД должно вырасти более чем вдвое 2025–2030 гг., а в ориентированных на сферу обслуживания экономиках вроде Великобритании потребление к 2030 году и вовсе утроится.

Источник изображения: Mario Amé/unsplash.com

В отчёте британского правительства отмечается, что основные мощности (более 1 ГВт) ЦОД сегодня находятся в Лондоне и его окрестностях, крупнейший кластер дата-центров находится в Слау (Slough, Беркшир) и насчитывает 35 объектов. В том же отчёте отмечено, что операторы ЦОД стране не обязаны отчитываться об использовании водных ресурсов, поэтому официальная статистика фактически отсутствует. Тем не менее, по данным Центра исследований воды (Water Research Centre), английские объекты тратят почти 1,9 млн м³ ежегодно.

По словам Water UK, ассоциация «отчаянно хочет» поставлять воду для ЦОД, но это невозможно, поскольку британское правительство прямо исключило их из системы планирования водоснабжения. Водоснабжающим компаниям разрешено построить десять новых водохранилищ, но на их возведение уйдут годы. В ассоциации подчёркивают, что крупный бизнес должен сам платить за необходимую инфраструктуру, чтобы расходы не ложились на плечи обычных жителей.

Примечательно, что с получением энергии для ЦОД Великобритании тоже имеются проблемы. Ещё в 2025 году совет AI Energy Council при британском правительстве провёл заседание, пытаясь решить, как амбиции страны в сфере ИИ могут быть обеспечены недостаточными мощностями энергетической инфраструктуры.

Орегон десятилетиями взимал лишь разовые сборы за прокладку подводных кабелей. Теперь штат намерен пересмотреть структуру платежей за возможность прокладки кабелей в пределах трёх миль от береговой линии, сообщает Tom’s Hardware. Вырученные средства будут направляться в Общий школьный фонд (Common School Fund) для поддержки местных образовательных учреждений.

Если действующая структура сборов принята 25 лет назад и предусматривает лишь единовременную плату в размере $5 тыс. за подачу заявки, то по новым правилам, которые ещё обсуждается, возможна ежегодная плата по $3 за «погонный фут» кабеля и ещё по $7 за каждый фут защитной трубы, закрывающий ближайший к берегу участок. Департамент государственных земель Орегона (Department of State Lands) рассчитывает, что в случае 20-летней аренды каждый кабель будет приносить миллионы долларов. Например, для кабеля Bifrost (AWS и Meta✴) единовременная выплата за долгосрочную аренду составит около $1,45 млн.

Источник изображения: Jessica Pamp/unsplash.com

Стоит отметить, что ранее рассматривалось более жёсткое предложение, учитывавшее, например, поперечное сечение кабельной инфраструктуры, от чего было решено отказаться. Тем более, что штат рассчитывает и далее привлекать инвестиции в технологический сектор. Он уже приютил около 140 дата-центров и 16 подводных кабелей разных типов. В Орегоне отсутствует и налог с продаж, дополнительно штат предлагает льготы для особых экономических зон.

Власти назвали предложенную ставку конкурентоспособной «и даже низкой». Для сравнения, соседняя Калифорния взимает по $5 за фут кабеля ежегодно. Для операторов кабельной инфраструктуры один-два миллиона долларов раз в 20 лет — совершенно незначительная сумма в сравнении с затратами, необходимыми на саму прокладку. Реализация трансатлантического проекта обходится приблизительно в $250 млн, а через Тихий океан — в $400 млн.

Хотя окончательное решение ещё не принято, высока вероятность, что от новых платежей могут быть почти полностью освобождены кабели, проекты прокладки которых уже утверждены. При этом в некоторые из недавних контрактов, включая тот, что касается прокладки Bifrost, включено положение о том, что любые новые сборы со стороны штата, должны быть оплачены. Однако AWS заранее откупилась, заплатив $300 тыс. за то, чтобы на неё действие новых норм не распространялось.

AMD в ходе конференции Advancing AI 2026 представила серверные процессоры EPYC Venice 9006 на архитектуре Zen 6/6c, ускорители Instinct MI455X и стойки Helios AI на их основе, а также поделилась планами по выпуску чипов EPYC и ускорителей Instinct на ближайшие годы. Кроме того, компания раскрыла предварительные детали о новых платформах Helios, ориентированных на задачи ИИ.

Источник изображений: AMD

В частности, сообщается, что в 2028 году появятся изделия EPYC с кодовым именем Florence, построенные на ядрах Zen 7 и Zen 7c. Для этих CPU предусмотрено применение технологии производства «следующего поколения». Говорится о поддержке передовой памяти типа MRDIMM и LPDDR. Известно, что Florence станут первыми чипами серии EPYC, которые получат поддержку инструкций ACE (AI Compute Extensions), предназначенных для умножения матриц и работы с алгоритмами ИИ. Эти инструкции разрабатываются совместно специалистами AMD и Intel в рамках Консультативной группы экосистемы x86 (x86 Ecosystem Advisory Group).

Процессоры Florence будут предлагаться в вариантах исполнения SP7 и SP8. Изделия первого типа проектируются с прицелом на обеспечение максимальной производительности — они получат наибольшее количество вычислительных ядер. В свою очередь, решения под сокет SP8 будут ориентированы на корпоративные системы с оптимальным соотношением быстродействия и стоимости. Помимо этого, упомянуты чипы Ferrara на базе Zen 7 для хост-узлов ИИ и Fidenza для систем, оптимизированных по показателю производительности в расчёте на Вт. На 2030 год компания AMD наметила выпуск процессоров EPYC с кодовым именем Ravenna. В их основу ляжет архитектура Zen 8, но дополнительные подробности пока не раскрываются.

В сегменте ИИ-ускорителей в 2027 году ожидается появление изделий Instinct MI500 на архитектуре CDNA 6 с памятью HBM4e. Они станут частью платформы Helios 500 вместе с чипами EPYC Verano, а также сетевыми процессорами Pensando Como и Monza. В 2028-м должны выйти карты Instinct MI600 на базе CDNA Next. Эти решения войдут в состав платформы AMD Helios 600, наряду с чипами EPYC Ferrara, а также сетевыми компонентами Pensando Palma и Levanzo.

По данным источников, знакомых с ходом переговоров, Intel и AMD подписывают с китайскими клиентами более долгосрочные обязательства по продаже серверных CPU. Это происходит на фоне резкого роста цен в последнее время, сообщает Reuters. Новые сделки являются последствиями бума ИИ — спрос вырос не только на ИИ-ускорители, но и на память, сетевое оборудование и серверные CPU, что даёт поставщикам больше инструментов воздействия при заключении сделок.

ИИ ЦОД нужны не только GPU, но и обычные серверные CPU для поддержки работы серверов, систем хранения данных, сетевой инфраструктуры и инференса. По словам источников, в обсуждаемых соглашениях обычно оговариваются объёмы закупок, но не цены. В большинстве случаев речь идёт о контрактах сроком до года, хотя с некоторыми клиентами Intel и AMD вели переговоры о поставках в течение двух лет и более.

События перекликаются с происходящим на рынке чипов памяти, где вызванный ИИ дефицит подтолкнул покупателей к заключению более долгосрочных договоров о поставках. Важно, что раньше серверные CPU было намного проще купить, чем ИИ-ускорители и память, но сейчас дефицит добрался и до них. Дефицит CPU может привести к росту цен и замедлить развёртывание инфраструктуры для китайских облачных провайдеров, а также интернет-компаний, расширяющих ИИ-сервисы.

Источник изображения: Ambre Estève/unsplash.com

Цены на CPU продолжают расти в КНР, по отдельным продуктам ежемесячный рост составил 10 % и более. На отдельные модели процессоров цены с начала года выросли более чем на 40 %. Ранее появилась информация, что Intel и AMD уведомили китайских покупателей о длительных сроках поставок CPU, причём в некоторых случаях речь шла о шести месяцах.

По словам Intel, спрос по-прежнему опережает предложение, особенно на серверные Xeon. Также подчёркивалось, что в I квартале заключена сделка с Google — это один из ключевых долгосрочных контрактов, подписанных в этот отчётный период. AMD пока повысила прогноз по рынку серверных CPU до более $120 млрд к 2030 году. Поставщик ссылается на высокий спрос, связанный с задачами агентных ИИ.

Китай — один из крупнейших рынков IT-оборудования в мире, чему способствует активное строительство ИИ-инфрастурктуры. В следующие пять лет КНР рассчитывает потратить ¥2 трлн ($295 млрд) на строительство ИИ ЦОД по всей стране. Масштабное расширение инфраструктуры усилило спрос на процессоры Intel и AMD, даже несмотря на то, что для многих китайских покупателей действуют ограничения США, а на рынке есть и локальные поставщики.

AMD представила ИИ-платформу Helios AI, объединяющую в одной ORW-стойке высотой 44OU процессоры EPYC Venice 9006 SP7 с ускорителями Instinct MI455X и NIC Pensando вместе с ПО AMD ROCm. Гендиректор Лиза Су (Lisa Su) объявила о начале полномасштабного производства Helios. 72 ускорителя MI455X размещены в 18 узлах, по четыре единицы в каждом. По данным AMD, пиковая производительность на стойку составляет 2,9 Эфлопс в режиме FP4 и 1,4 Эфлопс в режиме FP8.

Источник изображений: AMD

В основе масштабируемой архитектуры Helios лежит технология UALoE (UALink over Ethernet), которая объединяет 72 ускорителя AMD Instinct MI455X в стойке в единый домен. Разработанная с учётом суммарной пропускной способности до 260 Тбайт/с и доступа к 31 Тбайт памяти HBM4 с агрегированной пропускной способностью 1,7 Пбайт/с в одной стойке, платформа AMD Helios позволяет обрабатывать модели и рабочие нагрузки, требующие тесной связи между ускорителями.

Как сообщается, система Helios разработана с учётом пути, который проходит рабочая нагрузка ИИ через стойку. Нагрузка поступает через хост-уровень, перемещается в домен GPU, получает доступ к данным модели и активным данным в HBM4 и взаимодействует на уровне всей стойке через масштабируемую коммутационную сеть.

Сеть построена на одношаговой топологии с использованием стандартных микросхем коммутаторов Ethernet (ESUN), что обеспечивает связь GPU с другим GPU через один коммутатор — минимизируя задержку, улучшая управление перегрузкой и максимизируя эффективность связи в сети. Стойка обеспечивает агрегированную пропускную способность при вертикальном масштабировании (через UALoE) 260 Тбайт/с и 43 Тбайт/с при горизонтальном (по три 800GbE-подключения на GPU).

Компания также уделила внимание аппаратной отказоустойчивости AMD Helios. Каждый GPU подключается через 18 независимых линий UALoE, распределённых по разным коммутационным блокам. Когда аппаратный сбой затрагивает один путь, система автоматически поддерживает единую область GPU, используя альтернативные соединения.

Программный инструмент AMD Fabric Manager (AFM) обеспечивает операционный уровень для масштабируемой сети AMD Helios, управляя автоматизацией развёртывания, предоставлением ресурсов, телеметрией, мониторингом и управлением всей сетью в рамках единой платформы. Он предоставляет операторам видимость всей масштабируемой сети, упрощая развёртывание, мониторинг и обслуживание ИИ-инфраструктуры стоечного масштаба по мере роста сред.

В свою очередь, специализированная ОС AMD Fabric OS (AFOS) непосредственно функционирует на уровне коммутации масштабируемой сети, обеспечивая управление в реальном времени и видимость, необходимые для обнаружения и реагирования на аппаратные события внутри самой сети. Вместе AFM и AFOS преобразуют масштабируемую сеть AMD Helios из аппаратного соединения в управляемую, наблюдаемую операционную платформу.

Поскольку не всем нагрузкам требуется одновременное использование 72 ускорителей, компания предложила vPods — виртуальные кластеры (Virtual Pods), которые позволяют клиентам разделять масштабируемую область AMD Helios на более мелкие программно-определяемые среды, адаптированные к конкретным рабочим нагрузкам. Отдельные циклы обучения, среды тестирования и инференса могут сосуществовать в одной стойке, сохраняя при этом изоляцию и локализацию сбоев.

AMD Helios является прямым конкурентом стоечным системам GB300 NVL72 и Vera Rubin NVL72. По словам Су, AMD Helios обеспечивает на 15 % более высокую вычислительную производительность, чем Vera Rubin, и предлагает на 50 % больше высокоскоростной памяти. Она также отметила, что AMD Helios обеспечивает на 30 % больше токенов на доллар, чем серверы NVIDIA. Стойки Helios AI могу быть дополнены стойками Cererbras для дезагрегированного инференса.