Технологический институт Карлсруэ (KIT) в Германии объявил о вводе в эксплуатацию НРС-комплекса HoreKa 2 (Hochleistungsrechner Karlsruhe 2) с гибридной архитектурой. Суперкомпьютер поможет в решении сложных научных задач в таких областях, как климатология, создание новых материалов, физика элементарных частиц, энергетика и ИИ. Система, размещённая на территории кампуса KIT Campus North в Баден-Вюртемберге на юго-западе Германии, обошлась в €17 млн.

Источник изображения: Markus Breig/KIT

В составе платформы объединены более 42 тыс. процессорных ядер, 300 ускорителей и 250 Тбайт основной памяти. Заявленная пиковая производительность находится на отметке 33 Пфлопс, что примерно в два раза больше по сравнению с суперкомпьютером HoreKa первого поколения (17 Пфлопс).

В состав HoreKa 2 входят разделы HoreKa Onyx, HoreKa Blue, HoreKa Teal и HoreKa Ruby. Первый включает 164 двухпроцессорных узла на базе AMD EPYC 9655 (96 ядер) с 768 Гбайт памяти, SSD вместимостью 1,92 Тбайт и интерконнектом InfiniBand NDR 200. Сегмент HoreKa Blue представлен восемью двухсокетными узлами с чипами Intel Xeon Platinum 8368 (38 ядер), 4 Тбайт памяти, семью SSD ёмкостью 3,84 Тбайт каждый и интерконнектом InfiniBand HDR 200.

Раздел HoreKa Teal содержит 22 двухсокетных узла с процессорами AMD EPYC 9354 (32 ядра), 768 Гбайт памяти, четырьмя ускорителями NVIDIA H100, двумя SSD на 3,84 Тбайт и интерконнектом 4 × InfiniBand NDR200. Кроме того, задействован один узел с двумя чипами Intel Xeon Platinum 8568Y+ (48 ядер), 2 Тбайт памяти, восемью ускорителями NVIDIA H200 (HGX), восемью SSD вместимостью 3,84 Тбайт и интерконнектом 8 × InfiniBand NDR400. Наконец, секция HoreKa Ruby объединяет 13 узлов с двумя чипами AMD EPYC 9454 (48 ядер), 768 Гбайт памяти, четырьмя ускорителями NVIDIA HGX H200, одним SSD ёмкостью 15,36 Тбайт и интерконнектом 4 × InfiniBand NDR400.

Отмечается, что в перспективе в состав вычислительного комплекса войдёт раздел HoreKa Jade с 75 узлами на базе NVIDIA Grace, 960 Гбайт памяти, четырьмя ускорителями NVIDIA B200, SSD на 15,36 Тбайт и интерконнектом 2 × InfiniBand NDR200. На всех узлах используется платформа Red Hat Enterprise Linux (RHEL) 9.x. Применена распределённая файловая система с поддержкой параллельного доступа IBM Spectrum Scale (GPFS).

В последние недели Amazon вела переговоры с инвесторами о возможности совершения сделки, в рамках которой она передаст чипы NVIDIA Grace Blackwell на сумму около $8 млрд в созданную для этого специальную структуру (Special Purpose Vehicle, SPV), чтобы потом их взять назад в аренду сообщила газета Financial Times со ссылкой на информированные источники.

Эта структура привлечёт для покупки чипов средства внешних инвесторов путём выпуска долговых обязательств. Передача дорогостоящих полупроводников инвесторам позволит компании перейти к модели ведения бизнеса, требующей меньшего объёма активов на балансе.

SPV — тип юридического лица, которое компании создают для крупных сделок или для реализации конкретного проекта. Такие компании, как правило, имеют форму самостоятельной структуры без каких-либо сотрудников. Они юридически и финансово отделены от материнской компании, принимая на себя активы и риски.

Инвесторы ожидают, что новая структура получит кредитный рейтинг инвестиционного уровня (ориентируясь на текущий рейтинг Amazon категории AA), что откроет возможность привлечения более широкого круга участников сделки, таких как страховые и пенсионные фонды.

Источник изображения: Woliul Hasan/unsplash.com

Amazon также планирует предложить долю участия в этой структуре в размере до 10 %, что означает, что сама компания не будет владеть в ней долей. Чипы, фигурирующие в этой сделке, были приобретены или взяты в лизинг Amazon и уже установлены более чем в десятке дата-центров в пяти штатах США, включая Неваду и Вирджинию. Передача чипов SPV исключила бы их из баланса Amazon. Возможно, что ещё более важно, средства, которые SPV планирует привлечь у внешних инвесторов, будут отражены в балансе этой специализированной компании.

Списание долговых обязательств с баланса компании улучшает соотношение долга и собственного капитала — показатель, который влияет на её кредитный рейтинг. Кредитный рейтинг компании, в свою очередь, влияет на её способность привлекать более дешёвые заёмные средства, сокращая затраты на это. По оценкам Modal, стоимость ускорителя Grace Blackwell составляет от 60 до 70 тыс. С учётом суммы сделки в $8 млрд компания намерена реализовать от 114 до 133 тыс. чипов NVIDIA, пишет SiliconANGLE.

Обсуждение возможной сделки ведётся на фоне того, как технологические гиганты ищут нестандартные способы финансирования масштабных расходов на инфраструктуру ИИ ЦОД. Значительная часть расходов приходится на ИИ-ускорители. ИТ-компании применяют различные стратегии для вывода долговых обязательств за пределы баланса с целью сохранения своей кредитоспособности. В частности, они используют гарантии остаточной стоимости, предоставляя кредиторам гарантии относительно будущей стоимости чипов или ЦОД, при этом не привлекая заёмные средства для финансирования своих проектов. Такой подход позволяет скрыть степень риска, на который идут технологические гиганты.

Источник изображения: Alexander Grey/unsplash.com

Технологические гиганты имеют внебалансовые обязательства на сумму от $1,65 трлн до $3 трлн. Большая часть этого долга связана с проектами в области ИИ-инфраструктуры. Например, компания Meta✴ Platforms продала 80 % акций своего флагманского дата-центра Hyperion инвестиционной компании. Также используются и другие схемы. На этой неделе газета New York Times сообщила, что Meta✴ претендует на миллиарды долларов налоговых льгот на инновации, характеризуя свои ИИ ЦОД как экспериментальные проекты.

В этом году Amazon планирует потратить $220 млрд на капитальные вложения, большую часть которых её облачное подразделение AWS направит на закупку чипов и расширение ИИ ЦОД. Чтобы покрыть эти затраты компания вышла на рынок ценных бумаг, объявив в марте о планах привлечь около $50 млрд за счёт выпуска корпоративных облигаций, увеличив предложение с $37 млрд из-за высокого спроса. Но затем компания столкнулась с ослаблением интереса к долгосрочным долговым обязательствам, когда в июле продала облигации на $25 млрд, поскольку инвесторы требовали более высокой доходности.

Финансирование заимствований за счёт имеющихся ИИ-ускорителей стало популярным среди ИИ-компаний, таких как CoreWeave. Чтобы снизить стоимость таких займов для своих клиентов, NVIDIA в августе предложила создать платформу финансирования на сумму $500 млрд в сотрудничестве с крупнейшими группами Уолл-стрит — Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs и KKR. Для клиентов этой платформы она обязалась предоставить гарантии на $125 млрд.

Компания Gigabyte анонсировала рабочую станцию AI TOP 100 B850 для локальной обработки ресурсоёмких ИИ-нагрузок с целью снижения зависимости от облачных сервисов. Новинка выполнена в башенном форм-факторе на аппаратной платформе AMD.

В основу системы положены материнская плата на наборе логики AMD B850 и процессор Ryzen 9 9950X (16C/32T, 4,3/5,7 ГГц). Реализовано жидкостное охлаждение. Объём оперативной памяти DDR5 равен 128 Гбайт. В оснащение входит SSD вместимостью 2 Тбайт с интерфейсом PCIe 4.0. Платформа также оснащена четырьмя портами SATA-3 для подключения накопителей.

Модель Gigabyte AI TOP 100 B850 доступна в двух модификациях — AT1A9N9-5100 и AT1A9A7-5101. В первом случае установлен ускоритель NVIDIA GeForce RTX 5090 с 32 Гбайт памяти GDDR7: в такой конфигурации устройство подходит для локального запуска небольших LLM, генеративного ИИ и агентных рабочих процессов. Утверждается, что производительность при инференсе достигает 64,9 токена в секунду при работе с моделью, содержащей 32 млрд параметров.

Источник изображений: Gigabyte

Вторая версия несёт на борту две карты AMD Radeon AI PRO R9700 с 32 Гбайт памяти GDDR6 каждая: этот вариант предназначен для работы с более крупными моделями и приложениями, требовательными к размеру памяти. Например, возможны инференс при использовании LLM, насчитывающих до 235 млрд параметров, и тонкая настройка моделей со 110 млрд параметров.

Рабочая станция располагает слотами PCIe 5.0 x16 (×2), PCIe 4.0 x2, M.2 PCIe 5.0 (×2) и M.2 PCIe 4.0, двумя сетевыми портами 10GbE, адаптерами Wi-Fi 7 и Bluetooth 5.4, звуковым кодеком High Definition Audio. На фронтальную панель выведены по два порта USB 3.0 Type-A и USB 2.0 Type-A, а также разъём USB 3.2 Type-C. Сзади расположены два гнезда RJ45 для сетевых кабелей, интерфейс HDMI, по четыре порта USB 3.0 Type-A и USB 2.0 Type-A, три порта USB 3.1 Type-A, разъём USB Type-C и аудиогнёзда. За питание отвечает блок мощностью 1600 Вт с сертификатом 80 Plus Platinum. Габариты составляют 230 × 551 × 447 мм, масса — 25 кг. Говорится о совместимости с Windows 11 Pro и Linux.

Американские экспортные ограничения не помешали Huawei заполнить освободившуюся на китайском рынке нишу. По словам главы компании Эрика Сюя (Eric Xu), по продажам в Китае чипы Ascend обогнали продукцию NVIDIA, сообщает The Register.

В пресс-релизе компании отмечается, что статистику о рыночной доле NVIDIA в КНР собрать непросто, но, судя по полученным Huawei данным, Ascend уже впереди. Сюй отметил, что его соотечественники остро ощущают, когда следует действовать быстро и не принимают будущее, в котором кто-то извне будет принимать решения, сможет ли КНР получать доступ к определённым продуктам.

Администрация Трампа после прихода к власти в США постепенно смягчила ограничения на поставки американских ускорителей в Китай, а к концу прошлого года даже объявила о разрешении продаж ускорителей NVIDIA H200. Тем не менее, решение было принято с опозданием. Пока NVIDIA ожидала разрешения, Пекин, озабоченный запретом на поставку менее производительных H20 ранее в том же году, начал принимать экстренные меры. Чиновники начали стимулировать переход китайских компаний на ускорители местного производства. В ходе финансового отчёта NVIDIA за II квартал было озвучено, что компания начала поставки небольших партий H200 в регион, но на эти поставки пришлось менее 1 % выручки компании от бизнеса ЦОД.

Сюй подчеркнул, что китайские ускорители не такие производительные, как импортные, зато их поставки гарантированы, поэтому для правительства КНР и Huawei совершенно очевидно, что необходимо стремиться к полной самостоятельности в производстве чипов и суверенитету цепочки поставок для выпуска полупроводников в целом.

Источник изображения: Huawei

Хотя по формальным признакам новейшие ускорители Huawei всё ещё уступают продуктам NVIDIA и AMD, это компенсируется масштабами внедрения. Компания представила кластер Atlas 950 SuperCluster на сотни тысяч чипов, а новая архитектура поддерживает обучение и инференс моделей с триллионами параметров и масштабирование до миллиона ускорителей. На днях Huawei представила Atlas 960E SuperPoD на базе UnifiedBus и технологии NPO (Near-Packaged Optics).

Впрочем, Сюй признал, что за пределами Китая Huawei, вероятно, ещё некоторое время не будет рассматриваться как угроза NVIDIA, поскольку у компании недостаточно производственных мощностей для удовлетворения спроса даже в Китае. Расширение присутствия за рубежом пока не планируется, поскольку приоритет отдаётся китайским заказчикам. При этом бизнесмен признал, что ведутся поставки ограниченному числу заказчиков за рубежом.

Переходу на продукты Huawei способствует не только давление китайских властей, поощряющих это, но и изменение программных подходов. Например, с чипами Huawei более года работает DeepSeek. Как считают в HiSilicon, входящей в структуру Huawei, основное препятствие было связано не с аппаратной частью. Речь шла о программном «барьере» для ускорителей Ascend и продуктов других компаний помимо NVIDIA. В компании отметили, что ситуация изменилась за последние 18 мес.

Если ещё два года назад обучение ИИ осуществлялось в основном с помощью фреймворка PyTorch поверх экосистемы CUDA, то теперь изменения в архитектуре ИИ-моделей подтолкнули разработчиков к пересмотру подходов и снижению зависимости от специальных возможностей CUDA. Передовые ИИ-лаборатории более не считают экосистему CUDA такой важной, как два года назад. В связи с этим DeepSeek на днях представила набор программных инструментов, призванных упростить использование Huawei Ascend и другим ИИ-разработчикам.

Huawei же ускоряет разработку новых чипов. В начале 2027 года выйдут ИИ-ускорители Huawei Ascend 960DT, а в III квартале должна появиться модель Ascend 960PR. В 2028 году ожидается ускоритель Ascend 970 с 288 Гбайт памяти с пропускной способностью 14,4 Тбайт/с.

NVIDIA сообщила, что совет директоров одобрил увеличение программы обратного выкупа акций на $150 млрд, в результате чего сумма выделенных на программу средств достигла $235 млрд. «Это крупнейшее в истории увеличение лимита программы обратного выкупа акций», — отметила компания. Также NVIDIA планирует увеличить текущий размер дивидендов, составляющий 25 центов на акцию, хотя пока не конкретизировала ни размеры, ни сроки планируемого повышения.

Как отметила компания, эти шаги стали возможны благодаря значительному росту выручки, а также высокой эффективности её инвестиционного портфеля, средства которого направляются в ИИ-стартапы. Обратный выкуп акций станет для акционеров ещё одним способом получить выгоду от успехов компании, пишет SiliconANGLE.

«Генерируемый нами денежный поток позволяет инвестировать в технологии, способствующие этой трансформации, и возвращать капитал акционерам, — указано в заявлении генерального директора NVIDIA Дженсена Хуанга (Jensen Huang). — Это решение отражает нашу уверенность в открывающихся перед нами долгосрочных перспективах».

Источник изображения: NVIDIA

NVIDIA завершила II квартал 2027 финансового года с объёмом денежных средств и их эквивалентов в размере $22,44 млрд. Скорректированная прибыль и выручка компании более чем вдвое превысили результаты аналогичного квартала годом ранее благодаря сохраняющемуся спросу на ее чипы. Финансовый директор NVIDIA Колетт Кресс (Colette Kress) сообщила, что производитель чипов ожидает роста продаж еще на 70 % в 2028 финансовом году, тогда как Уолл-стрит прогнозирует рост на 40 %.

В ходе презентации NVIDIA сообщила, что получает $40 млрд выручки на каждый ГВт мощности ЦОД, введённой в эксплуатацию клиентами. Этот показатель вырос в четыре раза по сравнению с 2022 годом. По оценкам компании, выручка на ГВт превысит $60 млрд после выпуска поколения Feynman, запланированного на 2028 год.

Также NVIDIA раскрыла некоторые данные о своём инвестиционном портфеле. В него входят доли в 13 публичных компаниях и 229 частных стартапах. Согласно представленным данным, инвестиции приносят NVIDIA более чем трёхкратную прибыль. Предстоящие первичные публичные размещения (IPO) компаний Anthropic PBC и OpenAI Group PBC сулят NVIDIA очередное поступление крупной прибыли.

В ноябре прошлого года NVIDIA обязалась инвестировать $10 млрд в Anthropic, которую за два месяца до этого оценили в $183 млрд. По имеющимся данным, сейчас Anthropic готовится к выходу на биржу с оценкой в $2 трлн. В свою очередь, OpenAI получила от NVIDIA $30 млрд в рамках февральской сделки с оценкой в $730 млрд. По данным The New York Times, компания сейчас рассматривает возможность проведения нового раунда финансирования при оценке до $1,5 млрд. IPO OpenAI может привести к дальнейшему росту стоимости её акций, что ещё больше увеличит доходность инвестиций NVIDIA.

NVIDIA представила открытую платформу обеспечения безопасности агентов Open Agent Safety Platform для реализации более безопасных рамок работы ИИ-агентов на всех этапах: от тестирования до развёртывания.

NVIDIA Open Agent Safety Platform включает в себя open source ПО NVIDIA OpenShell и эталонную архитектуру системы NVIDIA Sentry. Платформа обеспечивает комплексное управление и контроль на всех уровнях стека: от ПО до аппаратных, вычислительных и роботизированных систем, на которых функционируют агенты.

ПО OpenShell создает защищённую среду выполнения, которая отслеживает все действия агентов и обеспечивает соблюдение заданных правил безопасности во время их работы. Защищённый контур выполнения позволяет контролировать, как автономные ИИ-агенты решают задачи с использованием как открытых, так и закрытых моделей.

Компания отметила, что OpenShell обеспечивает защиту с минимальными накладными расходами при работе на NVIDIA Vera. Сочетание OpenShell и Vera позволяет агентам безопасно функционировать и выполнять задачи с максимальной скоростью. Поскольку OpenShell — решение open source, его можно адаптировать для работы с вычислительными платформами сторонних производителей, включая Arm и Intel.

Источник изображения: NVIDIA

Система Sentry дополняет OpenShell независимым модулем мониторинга (watchdog), работающим на базе DPU NVIDIA BlueField-4 и непрерывно отслеживающим поведение агента. Sentry обеспечивает принудительное соблюдение мер безопасности на аппаратном уровне и способна за считанные миллисекунды изолировать (поместить в карантин) агентов, если те предпринимают попытки выйти за пределы установленных границ.

Sentry объединяет функции обнаружения угроз, аппаратного управления агентами и защиты доступа к данным, действуя в изолированной доверенной среде, отделённой от основного вычислительного потока; она реагирует в режиме реального времени и остается невидимой как для самих агентов, так и для злоумышленников. Система Sentry построена на базе ПО NVIDIA DOCA, которое предоставляет возможности программирования, используемые Sentry для анализа запросов и ответов агентов, сбора телеметрии, проверки подлинности агентов и обеспечения соблюдения детализированных политик доступа по модели Zero Trust к данным, инструментам, API и сервисам.

С целью повышения безопасности использования ИИ NVIDIA объединила усилия с ведущими компаниями ИИ-экосистемы, охватывая весь стек технологий — от инфраструктуры и ПО до моделей и робототехники. В их числе Anthropic, Cisco, CrowdStrike, Dell, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow и SpaceXAI.

В частности, NVIDIA объединила усилия с Anthropic для внедрения дополнительных уровней безопасности и контроля в архитектуру агентных систем. Решение Claude Managed Agents формирует защитный контур, разделяя процессы управления агентами (цикл выполнения агента) и среды их непосредственной работы (песочницы). Интеграция с OpenShell и BlueField обеспечивает корпоративным клиентам контроль доступа агентов к ресурсам внутри этих песочниц.

SpaceXAI использует платформу NVIDIA Open Agent Safety Platform для работы с агентами для написания кода Cursor и моделями Grok. А Scale AI использует эталонную архитектуру NVIDIA Open Agent Safety Platform для создания надёжных агентных ИИ-систем, предназначенных для корпоративных и государственных заказчиков, внедряя её в уровень агентной инфраструктуры портфеля решений Scale GenAI.

Salesforce и NVIDIA интегрировали OpenShell с платформой Slack, что позволяет командам управлять активностью агентов OpenShell непосредственно в Slack: отслеживать действия агентов и события аудита, а также одобрять или отклонять запросы агентов на расширение прав доступа. Red Hat использует компоненты платформы (OpenShell и DOCA) в решении Red Hat AI Factory with NVIDIA.

Среди более чем 100 организаций, использующих технологии платформы NVIDIA Open Agent Safety Platform, — Accenture, Armadin, Cadence, Cognition, CrowdStrike, Cisco, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir и Palo Alto Networks.

Компания Supermicro объявила о начале отгрузок стоек NVIDIA Vera Rubin NVL72. Эта аппаратная платформа, приходящая на смену GB200 NVL72, рассчитана на ресурсоёмкие ИИ-нагрузки, включая задачи обучения с подкреплением и приложения агентного ИИ.

Стойки Vera Rubin NVL72 содержат 18 вычислительных узлов форм-фактора 1U, в каждом из которых размещены по четыре ускорителя Rubin и два чипа Vera (88 Arm-ядер Olympus). Таким образом, в общей сложности задействованы 72 ускорителя Rubin и 36 изделий Vera (в сумме 3168 ядер). Система оперирует 20,7 Тбайт памяти HBM4 и 54 Тбайт памяти LPDDR5X.

Платформа Supermicro предусматривает применение технологии прямого жидкостного охлаждения DLC-2. Используются блоки распределения охлаждающей жидкости (CDU) с резервированием N+1. Их охлаждающая ёмкость достигает 1,8 МВт. Опционально доступны теплообменники на задней дверце. В целом, передовая система DLC-2 рассчитана на мощность оборудования до 360 кВт на стойку.

Источник изображения: Supermicro

Supermicro отмечает, что команда её специалистов оказывает заказчикам комплексную поддержку при развёртывании NVIDIA Vera Rubin NVL72 — от анализа характеристик площадки и проектирования до установки и интеграции. Клиентам доступно программное обеспечение SuperCloud, которое предоставляет полный контроль над инфраструктурой, автоматизирует внедрение, содержит инструменты для разработчиков и обеспечивает эффективное управление мультитенантным GPU-облаком. Стойки NVIDIA Vera Rubin NVL72 входят в продуктовое семейство Supermicro Data Center Building Block Solutions (DCBBS).

Компания MSI IPC анонсировала индустриальный компьютер небольшого форм-фактора MS-C9ZA, предназначенный для выполнения ИИ-задач на периферии. Новинка, в частности, подходит для приложений машинного зрения, робототехники, систем видеоаналитики, автономных устройств и пр.

В основу положен вычислительный модуль NVIDIA Jetson Orin Nano. Задействованы шесть ядер Arm Cortex-A78AE с частотой 1,5 ГГц, графический блок на архитектуре NVIDIA Ampere и 8 Гбайт памяти LPDDR5-3200. Применена система пассивного охлаждения, а ребристая верхняя часть корпуса выполняет функции радиатора для рассеяния тепла. Диапазон рабочих температур простирается от -25 до +65 °C.

Компьютер располагает слотом M.2 M Key 2280 для SSD с интерфейсом PCIe 4.0 x4 (в оснащение в базовой конфигурации входит накопитель вместимостью 256 Гбайт) и коннектором M.2 E Key 2230 (PCIe/UART) для адаптера Wi-Fi. Есть два сетевых порта 1GbE RJ45, интерфейс HDMI с возможностью вывода изображения с разрешением до 3840 × 2160 точек (30 Гц), два порта USB 3.1 Type-A, один порт USB 2.0 Type-C, а также колодка GPIO (4 × GPI, 4 × GPO).

Источник изображения: MSI

Габариты новинки составляют 126 × 96 × 74 мм, масса — около 1 кг. Питание подаётся через DC-разъём в диапазоне 12–24 В. Допускается монтаж на DIN-рейку. Упомянут модуль TPM 2.0 для обеспечения безопасности. Используется операционная система NVIDIA Jetson Linux 35.5, специально оптимизированная для разработки и запуска приложений в области ИИ, компьютерного зрения и периферийных вычислений.

Компания Giga Computing, являющаяся подразделением Gigabyte, объявила о создании площадки GAIFA (Gigabyte AI Factory Accelerator) — своего первого вычислительного центра в области ИИ. Он расположился в Синьбэе (Новом Тайбэе) на территории Тайваня.

GAIFA представляет собой полигон для проверки и отладки сверхплотных серверных стоек, систем жидкостного охлаждения и электропитания, а также других компонентов и модулей, которые применяются в составе современных ИИ-инфраструктур. Причём специализация GAIFA выходит за рамки аппаратного обеспечения, охватывая весь процесс формирования ИИ ЦОД: от планирования объекта до установки вычислительных и сетевых узлов. В среде GAIFA могут тестироваться самые разные нагрузки — от обучения больших языковых моделей (LLM) с огромным количеством параметров до инференса и профессиональных визуальных вычислений.

Источник изображений: Gigabyte

Архитектура площадки выполнена по модульному принципу. В частности, задействованы две стойки NVIDIA GB300 NVL72. Каждая из них объединяет 18 вычислительных лотков, содержащих по два Arm-процессора Grace (72 ядра Neoverse V2) и по четыре чипа Blackwell Ultra. В сумме это даёт 36 изделий Grace и 72 экземпляра Blackwell Ultra на стойку (включая 17 Тбайт памяти LPDDR5X и 20 Тбайт HBM3E). Применяются сетевые адаптеры NVIDIA ConnectX-8 SuperNIC.

Кроме того, в состав GAIFA входит одна стойка на основе серверов G4L4-SD3-LAX7, использующих аппаратную платформу NVIDIA HGX B300 (восемь SXM-ускорителей Blackwell Ultra). Эти машины наделены системой прямого жидкостного охлаждения (DLC) с функцией обнаружения протечек. Дополнительно установлены серверы XL44-SX2-AAS1 с восемью ускорителями NVIDIA RTX Pro 6000 Blackwell Server Edition (96 Гбайт памяти GDDR7). Наконец, применены 10-узловые серверы B683-Z80-LAS1 на платформе AMD EPYC 9005 Turin с СЖО.

На текущем этапе общая мощность площадки GAIFA находится на уровне 700 кВт. В дальнейшем показатель будет увеличиваться — по мере расширения объекта и добавления дополнительного оборудования.

NVIDIA запустила NVIDIA DSX Ready — программу сертификации продуктов и решений партнёров, которые соответствуют требованиям эталонного проекта ИИ-фабрики NVIDIA DSX. На начальном этапе программа включает две категории: аккумуляторные энергохранилища (BESS) и блоки распределения охлаждающей жидкости (CDU). Для каждой из категорий указаны требования к продуктам и оценка в рамках программы, что поможет упростить оценку предложений, снизить риски, связанные с интеграцией, и ускорить внедрение решений.

Платформа NVIDIA DSX объединяет проектирование и эксплуатацию ИИ-фабрики, сетевых технологий, энергоснабжения, охлаждения, инфраструктуры и ПО. Она упрощает проектирование и эксплуатацию фабрику как единой системы с учётом имеющихся ограничений по энергоснабжению, охлаждению, водоснабжению и электросетям.

Системный подход позволяет путём оптимизации одной части фабрики устранить узкое место в другой. NVIDIA DSX Ready предлагает поставщикам систем энергоснабжения и охлаждения ориентиры для создания на основе эталонных проектов сертифицированных решений, а разработчикам — более понятный способ поиска и оценки таких решений.

Источник изображения: NVIDIA

На данный момент программа DSX Ready включает сертифицированные решения BESS от Hitachi Energy, LG Energy Solution и Tesla, а также сертифицированные решения CDU от LG Electronics, LiquidStack и Vertiv. Со временем будут добавлены категории, охватывающие инфраструктуру и ПО.

Для поставщиков BESS партнёры проводят необходимые квалификационные испытания и предоставляют подтверждающие данные для рассмотрения и утверждения NVIDIA. Прохождение квалификации не заменяет собой инженерную проверку на уровне площадки. Для поставщиков CDU предусмотрен набор инструментов для самосертификации CDU, позволяющий определить степень соответствия решения требованиям NVIDIA.