Проблемы, связанные с высокопроизводительными вычислениями (HPC), угрожают инновациям в США, утверждает Джек Донгарра (Jack Dongarra), лауреат премии А. М. Тьюринга и один создателей рейтинга самых мощных суперкомпьютеров в мире TOP500, чьи разработки и реализации многих библиотек, включая EISPACK, LINPACK, BLAS, LAPACK и ScaLAPACK, сыграли важную роль в продвижении HPC. В статье, опубликованной The Conversation, Донгарра рассказал о прогрессе HPC и проблемах с инновациями в США.

Учёный отметил, что HPC являются одной из самых важных технологий в современном мире, позволяющей решать различные задачи — от прогнозирования погоды до поиска новых лекарств и обучения ИИ-моделей, которые слишком сложны или слишком велики для обычных компьютеров. Сейчас HPC находятся на переломном этапе, и выбор, который правительство США, исследователи и технологическая отрасль делают сегодня, может повлиять на будущее инноваций, национальной безопасности и мирового лидерства, предупреждает Донгарра.

Используя тысячи и даже миллионы чипов с передовыми системами памяти и хранения для быстрого перемещения и сохранения огромных объёмов данных, HPC-платформы позволять выполнять чрезвычайно подробные симуляции и вычисления, говорит Донгарра. Важность HPC ещё больше возросла с развитием ИИ-технологий, требующих огромных вычислительных мощностей для обучения. «В результате ИИ и HPC теперь тесно сотрудничают, подталкивая друг друга вперёд», — отметил учёный.

По словам Донгарра, сегмент HPC находится под большим давлением, чем когда-либо, с более высокими требованиями к системам по скорости, данным и энергопотреблению. Также он отметил, что HPC сталкиваются с некоторыми серьёзными техническими проблемами.

Донгарра назвал одной из ключевых проблем разрыв между производительностью чипов и подсистем памяти. «Представьте себе, что у вас есть сверхбыстрый автомобиль, но вы застряли в пробке — мощность бесполезна, если дорога не может с ней справиться», — говорит учёный. Точно так же подсистемы памяти не способны «прокормить» вычислительные блоки, которые простаивают, что отражается на эффективности всей вычислительной системы.

Источник изображения: OLCF

Ещё одна проблема HPC — энергопотребление. Закон масштабирования Деннарда, согласно которому с уменьшением размеров транзистора уменьшается и энергопотребление при росте производительности, прекратил своё действие в 2006 году. Теперь, чем мощнее компьютеры, тем больше они потребляют энергии. Чтобы исправить это, исследователи ищут новые способы проектирования как аппаратного, так и программного обеспечения HPC.

Также существует проблема с типами производимых чипов, отметил учёный. Сейчас индустрия чипов в основном сосредоточена на ИИ, который отлично работает с вычислениями с низкой точностью. Однако для многих научных приложений по-прежнему требуется FP64-вычисления. В частности, NVIDIA сделала ставку исключительно на ИИ, поэтому FP64-производительность новейших GB300 почти в 30 раз меньше, чему GB200. У AMD, по слухам, в следующем поколении Instinct будет сразу два варианта ускорителей MI430X с поддержкой FP64 и MI450X, полностью лишённый тензорных ядер с FP64. Но и она может сделать ставку только на ИИ.

Если производители прекратят выпускать чипы, которые требуются учёным, это негативно отразится на выполнении важных исследований. Таким образом тенденции в производстве полупроводников и коммерческие приоритеты могут разниться с потребностями научного сообщества, а отсутствие специализированного оборудования может помешать прогрессу в исследованиях. Можно попытаться создавать специализированные чипы для HPC, но это дорого и сложно. Исследователи, тем не менее, изучают возможность применения новых конструкций для изготовления чипов, включая чиплеты, чтобы сделать их более доступными.

В прошлом у США было преимущество в области HPC благодаря государственному финансированию, поддержке и открытости разработок, но теперь многие страны вкладывают значительные средства в HPC в стремлении снизить зависимость от иностранных технологий и выйти на лидирующие позиции в таких областях, как моделирование климата и персонализированная медицина. В Европе развивают программу EuroHPC, у Японии есть собственный суперкомпьютер Fugaku (а скоро будет ещё один), а у Китая — целая серия «автохтонных» машин.

Источник изображения: WIkipedia / DoE

Правительства стран понимают, что HPC являются ключом к их национальной безопасности, экономической мощи и научному лидерству, отметил Донгарра, подчеркнув, что у США всё ещё нет чёткого долгосрочного плана на будущее. Другие страны развивают это направление быстро, а без национальной стратегии США рискуют отстать, предупредил он: «Национальная стратегия США должна включать финансирование создания новых машин и обучение людей их использованию. Она также должна включать партнёрство с университетами, национальными лабораториями и частными компаниями. Самое главное, что план должен быть сосредоточен не только на оборудовании, но и на ПО и алгоритмах, которые делают HPC полезными», — заявил учёный.

Он отметил, что некоторые шаги в этом направлении уже предприняты, включая принятие в 2022 году «Закона о чипах и науке» (CHIPS and Science Act) и создание управления, которое поможет превратить научные исследования в реальные продукты. В 2025 году также была сформирована целевая группа Vision for American Science and Technology, призванная объединить некоммерческие организации, академические круги и промышленность для помощи правительству в принятии решений. Кроме того, получили развитие квантовые вычисления. Но они пока находятся на ранних стадиях и, скорее всего, будут дополнять, а не заменять традиционные HPC. Поэтому важно продолжать инвестировать в оба вида вычислений.

Донгарра назвал это правильными шагами, но они не решат проблему поддержки HPC в долгосрочной перспективе. Помимо краткосрочного финансирования и инвестиций в инфраструктуру, учёный предложил:

• осуществлять долгосрочные федеральные инвестиции в НИОКР в области HPC, включая передовое оборудование, ПО и энергоэффективные архитектуры;
• производить закупку и развёртывание передовых вычислительных систем в национальных лабораториях и университетах;
• заниматься развитием кадров, включая обучение параллельному программированию, численным методам и интеграции ИИ-HPC;
• согласовывать планы по выпуску оборудования, гарантируя, что разработка коммерческих чипов будет совпадать с потребностями научных и инженерных приложений;
• использовать устойчивые модели финансирования, на которые не повлияют геополитические факторы;
• стимулировать государственно-частное партнёрство для преодоления разрыва между академическими исследованиями, отраслевыми инновациями и потребностями национальной безопасности.

Донгарра отметил, что HPC — это больше, чем просто быстрые суперкомпьютеры. Это основа научных открытий, экономического роста и национальной безопасности. Если США примут предложенные меры, то можно гарантировать, что HPC продолжат поддерживать инновации в течение десятилетий.

Компания Autonomous анонсировала мощную рабочую станцию Brainy, ориентированную на задачи машинного обучения и нагрузки ИИ. Утверждается, что новинка подходит для работы с большими языковыми моделями (LLM), насчитывающими до 70 млрд параметров. При этом пользователи могут добиться значительной экономии средств по сравнению с арендой облачных GPU, говорит компания.

Рабочая станция предлагается в четырёх модификациях — Core, Pro, Pro Max и Ultra. Они несут на борту соответственно два, четыре, шесть и восемь ускорителей NVIDIA GeForce RTX 4090 Ada (16 384 ядра CUDA; 24 Гбайт GDDR6X с 384-бит шиной), а производительность ИИ на операциях FP32 достигает 330 Тфлопс, 661 Тфлопс, 991 Тфлопс и 1,32 Пфлопс.

Младшая модель Brainy Core располагает процессором AMD Ryzen Threadripper 3960X (24C/48T; 3,8–4,5 ГГц), 64 Гбайт системной памяти, одним блоком питания мощностью 1650 Вт, загрузочным SSD вместимостью 1 Тбайт, а также сетевым контроллером 1GbE. Стоит такая версия $9000.

Источник изображений: Autonomous

Ступенью выше располагается модификация Brainy Pro, за которой идёт Brainy Pro Max: они предлагаются по цене $19 000 и $25 000. Обе снабжены чипом Ryzen Threadripper Pro 5955WX (16C/32T; 4,0–4,5 ГГц), 128 Гбайт оперативной памяти, SSD на 1 Тбайт, двухпортовым сетевым адаптером 10GbE, контроллером ВМС и двумя блоками питания мощностью 1650 Вт.

Самая мощная версия рабочей станции — Brainy Ultra — обойдётся в $40 000. Она укомплектована процессором AMD EPYC 9124 Genoa (16C/32C; 3,0–3,7 ГГц), 192 Гбайт ОЗУ, SSD ёмкостью 1 Тбайт, контроллером Aspeed AST 2500, двухпортовым сетевым адаптером 10GbE и четырьмя блоками питания мощностью 2000 Вт каждый. 

При этом все конфигурации не выглядят достаточно сбалансированными. Например, у Pro Max системной памяти меньше, чем VRAM, но хотя бы остаются свободные линии PCIe для подключения накопителей с данными. Кроме того, RTX 4090 не имеет поддержки NVLink Bridge, так что каждая карта работает независимо.

В ассортименте компании Hardkernel появился одноплатный компьютер ODROID-C5, поддерживающий работу с Android и Linux. Изделие, выполненное на аппаратной платформе Amlogic, доступно для заказа по цене $39.

Применён процессор S905X5M: чип объединяет четыре вычислительных ядра Cortex-A55 с тактовой частотой до 2,5 ГГц и графический блок Arm G310-V2 (850 МГц) с поддержкой OpenGL ES 3.2, Vulkan 1.0 и OpenCL 2.0. Встроенный модуль VPU способен декодировать видеоматериалы 4Kp75 (AV1, H.265, VP9, AVS2) и 4Kp30 (H.264), а также кодировать 1080p30 (H.264).

Источник изображения: Hardkernel

Новинка располагает 4 Гбайт оперативной памяти DDR4-3200, коннектором для модуля eMMC вместимостью 16, 32, 64, 128 или 256 Гбайт, слотом для карты microSD (UHS-I SDR104). Есть сетевой адаптер 1GbE с гнездом RJ45. В набор разъёмов входят интерфейс HDMI 2.0 с поддержкой видео 4K (60 Гц), четыре порта USB 2.0, коннектор Micro-USB 2.0 OTG, а также 40-контактная колодка GPIO, совместимая с Raspberry Pi (25 × GPIO, 6 × PWM, 2 × ADC, 2 × I2C, 1 × SPI, 1 × UART).

Питание (7,5–15,5 В) подаётся через DC-разъём на 5.5/2.1 мм. Заявленное энергопотребление под нагрузкой составляет 2,5 Вт. Устройство имеет размеры 85 × 56 × 22 мм и весит 42 г.

Компания Hardkernel предоставляет для ODROID-C5 образы Android 14 и Ubuntu 22.04 с Wayland Gnome Desktop и поддержкой Vulkan 3D GPU. Для новинки будут доступны различные дополнительные аксессуары, включая сенсорный дисплей с диагональю 7″, компактные корпуса, модули Raspberry Pi HAT и др.

Администрация США рассматривает возможность включения нескольких китайских компаний по производству чипов в «чёрный список» экспортного контроля. Среди них — производитель памяти CXMT, а также дочерние структуры крупнейших китайских чипмейкеров SMIC и YMTC. Такое положение дел ограничит для этих компаний доступ к американским технологиям, поскольку поставки без специальной лицензии станут невозможны.

Решение пока не принято из-за разногласий внутри администрации. Часть чиновников считает, что санкции могут сорвать переговоры по торговой сделке между США и Китаем, которые недавно договорились о временном снижении пошлин на 90 дней. Однако другие, как пишет Financial Times, настаивают на жёстких мерах, напоминая, что республиканцы критиковали предыдущую администрацию за слишком мягкую политику в отношении КНР.

Особое внимание США привлекает компания CXMT, которая активно наращивает долю на мировом рынке чипов памяти DRAM и разрабатывает высокопроизводительную память HBM, критически важную для ИИ-нагрузок. В Вашингтоне опасаются, что передовые технологии могут быть использованы Китаем для модернизации военного потенциала, включая разработку гиперзвукового оружия и моделирование ядерных испытаний.

Источник изображения: cxmt.com

Если компании попадут в «чёрный список», это станет очередным шагом США по ограничению доступа Китая к передовым полупроводниковым технологиям, а американские компании не смогут поставлять им оборудование и компоненты без сложного процесса согласования. Ранее аналогичные меры уже применялись против SMIC и YMTC.

Китайские компании пока не прокомментировали ситуацию. В посольстве КНР в США заявили, что «решительно выступают против злоупотребления Вашингтоном концепцией национальной безопасности и искусственных ограничений в торговле», назвав такие действия попыткой подавить технологическое развитие Китая.

Белый дом и Министерство торговли США отказались от официальных комментариев. Однако эксперты считают, что решение может быть принято в ближайшие недели, что увеличит напряжённость в американо-китайских отношениях.

Компания Synology, по сообщению ресурса NAS Compares, разработала сетевое хранилище данных PAS7700 типа All-Flash для монтажа в стойку (4U). Новинка, выполненная на аппаратной платформе AMD, получила двухузловую конструкцию.

Контроллеры работают в режиме «активный — активный». Каждый из узлов несёт на борту неназванный процессор EPYC с 24 вычислительными ядрами и 64 Гбайт оперативной памяти DDR4 ECC с возможностью расширения до 1 Тбайт. Подчёркивается, что установленные чипы оптимизированы для многопоточных рабочих нагрузок, таких как аналитика информации, транзакционные базы данных и крупномасштабная виртуализация.

В общей сложности предусмотрены отсеки для 48 накопителей формата U.2/U.3 с интерфейсом PCIe 4.0 (NVMe) — по 24 на узел. За сетевые подключения отвечают два порта 10GbE (Aquantia) с поддержкой агрегации и выделенный порт управления 1GbE (в расчёте на каждый узел). Говорится об использовании блоков питания с резервированием и системы воздушного охлаждения.

Источник изображения: NAS Compares

Упомянута поддержка протоколов NFS RDMA, NVMe-TCP, NVMe over Fibre Channel (NVMe-FC) и NVMe over RoCE (Remote Direct Memory Access over Converged Ethernet). По всей видимости, также предусмотрены слоты расширения PCIe для установки сетевых адаптеров 25/40/100GbE, но конфигурация этих разъёмов пока не раскрывается. Прочие технические характеристики будут обнародованы позднее.

Спустя год после анонса серверных процессоров начального уровня EPYC 4004 компания AMD обновила данный модельный ряд улучшенными чипами EPYC 4005 Grado. Как и прежде, процессоры ориентированы на применение в серверах для периферийных вычислений, хостинга, а также в решениях для малого и среднего бизнеса. В основе Grado лежат ядра Zen 5, что позволило повысить удельную производительность, получить поддержку более скоростной памяти DDR5 и расширенные возможностями ввода-вывода.

Процессоры EPYC 4005 могут иметь до 16 ядер с поддержкой SMT и полноценной реализации AVX-512. Объём кеша L2 составляет 1 Мбайт на ядро, L3 — 32 Мбайт на восьмиядерный кристалл CCD; некоторые модели оснащаются дополнительным объёмом 3D V-Cache. Контроллер памяти в блоке IOD двухканальный, поддерживаются модули DDR5-5600 ECC суммарным объёмом до 192 Гбайт. Стоит, однако, отметить, что с памятью без коррекции ошибок EPYC 4005 не совместимы.

Источник здесь и далее: AMD

Как и предки новинки в лице настольных Ryzen, EPYC 4005 предоставляют 28 линий PCI Express 5.0, а также интерфейсы USB 3.2 и USB 4 (опционально). Интегрированное видеоядро предлагает поддержку Display Port 2.0 и HDMI 2.1. В плане подсистемы накопителей процессоры могут обеспечивать работу до 14 устройств в различных конфигурациях, включая SATA и NVMe. Поддерживаются массивы RAID 0/1/5/10 с возможностью миграции.

Наличие встроенного сопроцессора безопасности AMD Secure Processor вкупе с поддержкой TPM 2.0, шифрованием памяти и поддержкой доверенных зон (TrustZone) гарантирует высокий уровень безопасности. Процессоры полностью совместимы с инфраструктурой AM5 (LGA 1718), что облегчит жизнь системным интеграторам.

Даже AMD EPYC 4004 имели лучшее соотношение возможностей к цене, нежели могли предложить аналогичные по классу Intel Xeon E-2400. Сохраняется это положение дел и для EPYC 4005: у Intel Xeon 6300 максимум восемь ядер, в то время как решение AMD может предложить 16 полновесных ядер Zen 5. Впрочем, у Intel есть ещё серия Granite Rapids-D, самые младшие модели которой гипотетически могут составить конкуренцию EPYC 4005.

Всего в новую серию на момент анонса вошло шесть моделей. Венчает список 16-ядерный EPYC 4565P с теплопакетом 170 Вт (4,3–5,7 ГГц) стоимостью $589. Несколько особняком стоит модель EPYC 4585PX с расширенным до 128 Мбайт кешем L3, в остальном повторяющая характеристики модели 4565P. За кеш придётся доплатить — обойдётся такой EPYC в $699. Остальные представители модельного ряда EPYC 4005 имеют теплопакет 65 Вт, а их турбо-частоты ограничены 5,4–5,5 ГГц при базовых частотах менее 4 ГГц и количестве ядер от 6 до 16.

Ресурс Phoronix уже провёл предварительное тестирование новинок, получив обнадёживающие результаты: EPYC 4565 в 1,83 раза превзошёл Intel Xeon 6369P, и даже шестиядерный EPYC 4245P опередил того же соперника на 16 %. Восьмиядерный EPYC 4345P оставил позади бывшего флагмана из серии Xeon E с 38-% отрывом.

Все модели AMD EPYC 4005 поддерживают работу в среде Windows Server, RHEL, SLES и Ubuntu. Доступны новые процессоры AMD EPYC уже сейчас. Ряд ведущих производителей серверного оборудования, в том числе Altos, ASRock Rack, GIGABYTE, Mitac, MSI и Supermicro представили свои варианты решений на базе EPYC 4005.

Компания Cadence анонсировала суперкомпьютер Millennium M2000, спроектированный для выполнения сложного моделирования с использованием ИИ. Новая НРС-система предназначена для ускорения проектирования микрочипов, разработки лекарственных препаратов следующего поколения и пр.

Суперкомпьютер построен на платформе NVIDIA HGX B200. Кроме того, задействованы карты NVIDIA RTX Pro 6000 Blackwell Server Edition, оснащённые 96 Гбайт памяти GDDR7. Применены библиотеки NVIDIA CUDA-X и специализированное ПО для решения ресурсоёмких задач.

Утверждается, что Millennium M2000 обеспечивает до 80 раз более высокую производительность по сравнению с системами на базе CPU в области автоматизации проектирования электроники (EDA), создания и анализа систем (SDA) и разработки медикаментов. При этом глубоко оптимизированный программно-аппаратный стек помогает существенно сократить общее энергопотребление.

В качестве примера приводится моделирование подсистемы питания на уровне полупроводниковых чипов. В случае вычислительных комплексов на основе сотен традиционных CPU на выполнение такой задачи может потребоваться около двух недель. Суперкомпьютер Millennium M2000 позволит получить результат менее чем за один день.

Источник изображения: Cadence

Генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) сообщил, что компания планирует приобрести десять суперкомпьютерных систем Millennium на базе GB200 NVL72 для ускорения проектирования собственных продуктов. Сторонние заказчики смогут получить доступ к Millennium M2000 через облако или купить устройство для установки в собственном дата-центре. Базовая конфигурация включает около 32 ускорителей и стоит $2 млн, но это не финальная цена.

Компания DataDirect Networks (DDN), специализирующаяся на системах хранения данных для НРС, объявила о заключении партнёрского соглашения с разработчиком ИИ-решений Nebius (бывшая материнская структура «Яндекса»). В рамках соглашения стороны займутся созданием высокопроизводительной подсистемы хранения данных для ресурсоёмких ИИ-задач.

Речь идёт об интеграции решений DDN Infinia и EXAScaler в облачную инфраструктуру Nebius AI Cloud. Эти системы будут использоваться для хранения данных, предназначенных для обучения больших языковых моделей, инференса и поддержания работы ИИ-приложений в реальном времени.

По заявлениям DDN, Infinia гарантирует надёжность и передовую производительность, благодаря чему ускоряется обучение и развёртывание моделей ИИ. Вместе с тем EXAScaler обеспечивает высокую пропускную способность и согласованность операций ввода-вывода. Другим преимуществом названных решений является возможность масштабирования в рамках облачных и локальных развёртываний: заказчики смогут быстро наращивать ресурсы в ИИ-облаке Nebius, гибридных и изолированных средах, используя параллельную файловую систему EXAScaler.

Источник изображения: Nebius

Утверждается, что Infinia и EXAScaler устраняют проблемы с задержками при обработке данных. В результате, нагрузки ИИ могут обрабатываться с максимальной эффективностью — даже в случае моделей с несколькими триллионами параметров. В целом, как отмечают партнёры, благодаря интеграции систем DDN в облако Nebius клиенты смогут решать ИИ-задачи с более высокой скоростью и с меньшими временными и финансовыми затратами.

Компании GigaIO и d-Matrix объявили о стратегическом партнёрстве с целью создания «самого масштабируемого в мире» решения для инференса, ориентированного на крупные предприятия, которые разворачивают ИИ в большом масштабе. Ожидается, что новая платформа поможет устранить узкие места в плане производительности и упростить внедрение крупных ИИ-систем.

В рамках сотрудничества осуществлена интеграция ИИ-ускорителей d-Matrix Corsair в состав НРС-платформы GigaIO SuperNODE. Архитектура Corsair основана на модифицированных ячейках SRAM для вычислений в памяти (DIMC), работающих на скорости около 150 Тбайт/с. По заявлениям d-Matrix, ускоритель обеспечивает непревзойдённую производительность и эффективность инференса для генеративного ИИ. Устройство выполнено в виде карты расширения с интерфейсом PCIe 5.0 х16. Быстродействие достигает 2,4 Пфлопс с (8-бит вычисления). Изделие имеет двухслотовое исполнение, а показатель TDP равен 600 Вт.

В свою очередь, SuperNODE использует фирменную архитектуру FabreX на базе PCIe, которая позволяет объединять различные компоненты, включая GPU, FPGA и пулы памяти. По сравнению с обычными серверными кластерами SuperNODE обеспечивает более эффективное использование ресурсов.

Источник изображения: d-Matrix

Новая модификация SuperNODE поддерживает десятки ускорителей Corsair в одном узле. Производительность составляет до 30 тыс. токенов в секунду при времени обработки 2 мс на токен для таких моделей, как Llama3 70B. По сравнению с решениями на базе GPU обещаны трёхкратное повышение энергоэффективности и в три раза более высокое быстродействие при сопоставимой стоимости владения.

«Наша система избавляет от необходимости создания сложных многоузловых конфигураций и упрощает развёртывание, позволяя предприятиям быстро адаптироваться к меняющимся рабочим нагрузкам ИИ, при этом значительно улучшая совокупную стоимость владения и операционную эффективность», — говорит Alan Benjamin (Алан Бенджамин), генеральный директор GigaIO.

Американская компания Backblaze анонсировала облачное S3-хранилище B2 Overdrive, оптимизированное для нагрузок с интенсивным обменом данными, таких как задачи ИИ и НРС. Утверждается, что платформа в плане соотношения производительности/цены значительно превосходит предложения конкурентов.

Backblaze отмечает, что при работе с ресурсоёмкими приложениями ИИ, машинного обучения, доставки контента или аналитики, клиенты зачастую сталкиваются с выбором: платить больше за максимальную скорость доступа к облаку или жертвовать производительностью, чтобы сохранить расходы на приемлемом уровне. B2 Overdrive, как утверждается, решает эту проблему.

Новый сервис обеспечивает пропускную способность до 1 Тбит/с, а цена начинается с $15 за 1 Тбайт в месяц. Минимальный заказ — несколько Пбайт. Заявленный показатель безотказного функционирования — 99,9 %. Предоставляется бесплатный вывод данных из облака в трехкратном среднем ежемесячном объёме хранения клиента. После превышения этого значения стоимость составляет $0,01 за 1 Гбайт. Скидки за объём и сроки хранения доступны с сервисом B2 Reserve.

Источник изображения: Backblaze

Для хранения данных в облаке B2 Overdrive применяются HDD. Подключение к инфраструктуре клиента осуществляется через защищённую частную сеть. Информацию в экзабайтном масштабе можно свободно перемещать в любой кластер GPU или HPC с неограниченным бесплатным выводом.

Среди прочих преимуществ B2 Overdrive компания Backblaze выделяет отсутствие требований к минимальному размеру файлов, уведомления о событиях, а также бесплатное удаление информации. Приём заявок на подключение к сервису уже начался.