Компания NVIDIA представила комплексную стратегию ускоренного развития ИИ-технологий в Японии. Создание национальной ИИ-инфраструктуры в стране сочетается с внедрением широкой экосистемы специализированных отраслевых ИИ-моделей и периферийного оборудования. Новая стратегия поможет Японии перейти на унифицированную платформу, учитывающую языковые особенности, демографию и особенности рабочих процессов в робототехнике, здравоохранении и автомобилестроении, сообщает Storage Review.

Краеугольным камнем стратегии станет запуск ИИ-фабрики для физического ИИ, строительство которой будет организовано совместно с Noetra. Фабрику спроектируют для NVIDIA Vera Rubin NVL72 — всего 13,75 тыс. CPU Vera и 27,5 тыс. GPU Rubin, объединённых Spectrum-X Ethernet. ЦОД мощностью 140 МВт на платформе NVIDIA DSX предназначен для создания мультимодальных моделей с триллионами параметров в рамках проекта FRONTia Министерства экономики, торговли и промышленности Японии. Проект уделяет первоочередное внимание созданию ИИ высокой надёжности для промышленности, логистики, здравоохранения и телеком-сектора.

Источник изображения: NVIDIA

Ведущие японские компании и исследовательские структуры уже используют модели Nemotron, датасеты и библиотеки NVIDIA для разработки решений, оптимальных для местного рынка. Так, Токийский технологический институт (Institute of Science Tokyo) разработал семейство моделей Swallow, в которых приоритетное внимание уделяется японскому языку, с сохранением возможности работы с английским и с программным кодом. В телеком-секторе дочерняя структура Softbank — SB Intuitions создала ИИ-модели семейства Sarashina. Hitachi, OMRON и Shimizu Corporation применяют инструменты Metropolis для развёртывания ИИ-агентов с применением систем машинного зрения на заводах, стройплощадках и общественных инфраструктурных объектах.

В автомобильной отрасли Toyota расширяет партнёрство с NVIDIA для внедрения ИИ в транспортных средствах, инфраструктуре и промышленных операциях. Toyoata ещё в прошлом году заявила, что разработает автомобили с автопилотом уровня L2++ на платформе NVIDIA DRIVE AGX. Теперь компания внедряет в производство NVIDIA Omniverse и Isaac Sim для заводов и робототехники. Подразделение Woven by Toyota разработало мультимодальную модель для городского дорожного движения, призванную интерпретировать условия реального мира и реагировать в режиме реального времени, прогнозируя дальнейшие события. Kawasaki Heavy Industries намерена использовать решения NVIDIA в медицинских роботах, больничном оборудовании и др.

Ключевая цель NVIDIA — предоставление открытого, портируемого стека ИИ-технологий. Предоставляя открытые модели, компания позволяет японским структурам сохранять суверенитет данных, соблюдать требования местных регуляторов и развёртывать ИИ везде, где необходимо. Многоуровневая стратегия позволит позиционировать Японию как ключевой хаб для масштабного внедрения физического ИИ.

Компания NVIDIA, по информации SemiAnalysis, вынуждена пересмотреть планы по выпуску ИИ-продуктов следующего поколения. В частности, возникли сложности с проектом стоек Kyber, релиз которых откладывается примерно на год — до 2028-го.

Изначально предполагалось, что NVIDIA выпустит стоечное решение Kyber NVL144/NVL72 в 2027 году. Система объединит 144 ускорителя Rubin Ultra с NVLink 7, обеспечив четырёхкратное повышение производительности по сравнению с Blackwell NVL72 (Oberon). Однако теперь стало известно, что вывод Kyber на коммерческий рынок задержится примерно на 12 мес. Связано это с трудностями при разработке центральной коммутационной платы (midplane). Выпуск NVL576 — более крупной системы, объединяющей восемь стоек посредством оптических соединений CPO, — скорее всего, также будет отложен или же решение выйдет ограниченной партией.

Источник изображения: NVIDIA

Сообщается, что NVIDIA полностью отказалась от архитектуры NVL72×2, которая рассматривалась в качестве альтернативы Kyber. В случае NVL72×2 изучалась возможность размещения двух стоек Oberon «спина к спине». Однако проект пришлось отменить из-за критики со стороны облачных провайдеров и гиперскейлеров, которые посчитали такую конструкцию неудобной и слишком дорогой в эксплуатации. Вместе с тем в GB200 NVIDIA тоже изначально отказалась от NVL36×2, но в итоге партнёры реализовали такую конфигурацию.

Отменён также выпуск изделий Rubin Ultra с четырьмя вычислительными чиплетами, тогда как коммутаторы NVLink с интегрированной оптикой (СРО) станут доступны не ранее, чем состоится анонс ускорителей Feynman. На этом фоне ожидается увеличение объёмов поставок решений Oberon Rubin и Oberon Rubin Ultra. В целом, уже организовано масштабное производство изделий Rubin: предстоящей осенью NVIDIA начнёт поставлять их восьми облачным партнёрам, включая Amazon Web Services (AWS), Microsoft Azure и Google Cloud.

Компания Dell Technologies анонсировала сервер PowerEdge XE8812 для ресурсоёмких нагрузок ИИ и HPC. Устройство, относящееся к семейству Dell AI Factory with NVIDIA, ориентировано на использование в составе стоечной платформы Dell PowerRack 9100, основанной на стандартах OCP.

Модель PowerEdge XE8812 выполнена на архитектуре NVIDIA Vera Rubin NVL4, которая включает четыре ускорителя Rubin. Таким образом, в составе стойки могут быть задействованы в общей сложности до 144 GPU, что обеспечивает высочайшую плотность вычислений.

Сама стойка Dell PowerRack 9100 соответствует стандарту ORv3. Она поддерживает работу с оборудованием суммарной мощностью более 300 кВт. Реализовано прямое жидкостное охлаждение, которое охватывает как CPU, так и GPU. Интегрированный контроллер удалённого доступа Dell (iDRAC) позволяет настраивать, обновлять и контролировать серверы PowerEdge дистанционно из любой точки с подключением к сети.

Источник изображения: Dell

В целом, как отмечает Dell, переход на платформу Vera Rubin обеспечивает 50-% прирост объёма памяти в расчёте на сокет и GPU по сравнению с решениями NVIDIA предыдущего поколения. В сочетании с библиотеками NVIDIA CUDA-X это даёт предприятиям возможность запускать крупные ИИ-модели и симуляции полностью в оперативной памяти. Сервер предназначен для решения сложных задач, таких как, например, молекулярное моделирование. Поставки PowerEdge XE8812 планируется организовать в начале следующего года.

Компания Microsoft запустила новую ИИ-фабрику проекта Fairwater в Висконсине. Ввод в эксплуатацию состоялся раньше запланированного срока, на объекте заработали сотни тысяч ИИ-систем NVIDIA Grace Blackwell, в частности NVIDIA GB200. Объект подключён к аналогичной ИИ-фабрике в Джорджии. В результате сформирована масштабируемая распределённая вычислительная система для самых требовательных передовых ИИ-моделей.

Благодаря совместной работе над системами электроснабжения, охлаждения и сетевой инфраструктурой NVIDIA Spectrum-X Ethernet, а также новому сетевому протоколу Multipath Reliable Connection (MRC) с распределением пакетов данных по множественным маршрутам, архитектура Fairwater позволяет оптимизировать «экономику токенов» — стоимость обработки и генерации данных искусственным интеллектом. Дополнительно Microsoft завершила проверку платформы NVIDIA Vera Rubin. Облачный гигант подтвердил готовность платформы к развёртыванию в дата-центрах Microsoft Azure.

NVIDIA Vera Rubin может использоваться наряду с системами Blackwell без необходимости модернизации инфраструктуры. Она обеспечивает производительность при инференсе до 10 раз выше на каждый затраченный мегаватт потребляемой мощности по сравнению с платформой-предшественницей. Интегрированная технология NVIDIA Confidential Computing защищает модели и данные в процессе работы ИИ-агентов.

Источник изображения: NVIDIA

Платформа NVIDIA Dynamo представляет собой программное решение для высокопроизводительного инференса, ускоряющее запуск и эксплуатацию ИИ-моделей. Кроме того, она ускоряет запуск моделей в среде AKS (Azure Kubernetes Service). Технология NVIDIA Grove отвечает за распределённую оркестрацию инференса в инфраструктуре Kubernetes.

Речь идёт о запуске новой ИИ-фабрики Fairwater в США. Не так давно в эксплуатацию ввели объект в Атланте, хотя строительство в Висконсине началось довольно давно. В конце апреля глава Microsoft Сатья Наделла (Satya Nadella) заявил, что кампус строится ударными темпами и будет введён в эксплуатацию раньше намеченного срока.

Компания Dell Technologies поставила свою первую стойку NVIDIA Vera Rubin NVL72. Получателем системы стала компания CoreWeave — неоооблачный провайдер, который активно расширяет инфраструктуру для ресурсоёмких нагрузок ИИ.

Источник изображений: Dell

Стойка содержит 72 ускорителя Rubin и 36 процессоров Vera на архитектуре Arm. Суммарный объём памяти HBM4 составляет 20,7 Тбайт, системной памяти LPDDR5X — 54 Тбайт. Реализовано жидкостное охлаждение горячей водой (+45 °C). Сама стойка в собранном виде весит около 1,8 т и потребляет до 230 кВт. Заявленная ИИ-производительность достигает 3,6 Эфлопс в режиме NVFP4 при инференсе, что примерно в пять раз превышает показатель Blackwell. На задачах обучения быстродействие NVFP4 составляет 2,5 Эфлопс.

Отмечается, что Dell успешно провела все необходимые диагностические тесты Vera Rubin NVL72, по результатам которых система готова к дальнейшему развёртыванию на площадке заказчика. CoreWeave намерена использовать новый кластер для расширения своей инфраструктуры НРС. Масштабный вывод платформы на рынок намечен на II половину текущего года.

Между тем сама NVIDIA объявила о начале массового производства решений поколения Vera Rubin. В числе партнёров, объявивших о поддержке этих систем, названы Dell Technologies, HPE, Lenovo и Supermicro, а также AIC, Aivres, ASRock Rack, ASUS, Cloudian, Compal, DDN, Everpure, Foxconn, GIGABYTE, Hitachi Vantara, Hyve Solutions, IBM, Inventec, MinIO, MiTAC Computing, MSI, NetApp, Nutanix, Pegatron, Quanta Cloud Technology (QCT), VAST Data, WEKA, Wistron и Wiwynn. Вместе с тем CoreWeave, а также Lambda и Oracle Cloud Infrastructure одними из первых начнут развёртывание стоек Vera Rubin в своих ИИ-инфраструктурах.

Британская Nscale рассчитывает развернуть на территории португальской площадки Start Campus более 66 тыс. ИИ-ускорителей NVIDIA Rubin в интересах крупного клиента — компании Microsoft. Речь идёт об одном из крупнейших развёртываний NVIDIA Vera Rubin NVL72 в Европе. Это значительно расширит действие договора между Microsoft и Nscale. В его рамках первая брала на себя обязательства развернуть 12,6 тыс. NVIDIA GB300 в ЦОД в Синеше (Sines, Португалия).

Ускорители поколения Blackwell Ultra разместятся в первом построенном здании Start Campus, а в рамках нового, расширенного соглашения Nscale намерена инвестировать в проект ещё €230 млн ($268,9 млн) в общую для кампуса инфраструктуру и ещё €465 млн ($543,7 млн) — в строительство нового здания мощностью 200 МВт на территории того же кампуса. Развёртывание ИИ-ускорителей Rubin компания Nscale начнёт в конце 2027 года.

По словам представителя Nscale, речь идёт об одной из крупнейших инвестиций в ИИ-инфраструктуру в истории Португалии и одну из наиболее значимых для Евросоюза. Косвенно это отражает рост спроса на сервисы Nscale. По данным руководства Start Campus, Синиш — один из ведущих европейских хабов для внедрения ИИ, укрепляющий способность Европы реализовать суверенные проекты на основе устойчивости, отказоустойчивости, а также долгосрочного планирования.

Источник изображения: Start Campus

Предполагается, что Start Campus в Синише будет иметь мощность 1,2 ГВт. Первый ЦОД SIN01 мощностью 26 МВт запущен в январе 2025 года. Всего запланировано строительство шести зданий. Ожидается, что кампус будет полностью обеспечен возобновляемой энергией, разработчики рассчитывают добиться PUE 1,1 и WUE 0 благодаря использованию для охлаждения океанских вод.

Ранее сообщалось, что Microsoft намерена инвестировать $10 млрд в ИИ ЦОД на территории кампуса. Microsoft и Nscale уже реализуют ряд проектов, в т.ч. в Норвегии, Великобритании и США. Ранее компания объявила, что Microsoft в рамках партнёрства будут предоставлены в общей сложности 116 тыс. ИИ-ускорителей NVIDIA GB300. В апреле 2026 года Microsoft заключила соглашение о поставке ещё 30 тыс. ускорителей NVIDIA Rubin в Норвегию.

Компании Microsoft и Nscale расширили партнёрство. Техногигант арендует у Nscale 30 тыс. ИИ-ускорителей NVIDIA Vera Rubin в норвежском ЦОД, которые изначально предназначались для проекта OpenAI Stargate Norway. Дополнительные вычислительные мощности станут доступны в 2027 году. Это фактически второй значимый отказ от развития кампусов Stargate в Европе. Ранее OpenAI приостановила создание ИИ ЦОД в Великобритании. А кампус Stargate в ОАЭ и вовсе находится под угрозой атак со стороны Ирана.

Источник изображения: Nscale

По имеющимся данным, ускорители для Microsoft разместят в 230-МВт дата-центре в Квандале (Kvandal) в непосредственной близости от Нарвика (Narvik) на севере Норвегии. Площадка строится усилиями совместного предприятия норвежской промышленной группы Aker и Nscale. По некоторым данным, уход OpenAI из Норвегии был обусловлен неспособностью компании заключить взаимовыгодное соглашение с Nscale, передаёт Bloomberg. Тем не менее, OpenAI всё равно получит доступ к ИИ-мощностям в Норвегии посредством Microsoft Azure — компания так или иначе обязана потратить $250 млрд на облако Microsoft. В США OpenAI тоже отказалась от расширения флагманского кампуса Stargate в Техасе, и эти мощности тоже достанутся Microsoft.

Microsoft уже имеет договорённости с Nscale, связанные с использованием норвежской площадки, в сентябре 2025 года было подписано соглашение об аренде мощностей на $6,2 млрд. Во сколько обойдётся новое, будет объявлено позже. Также компании уже подписали соглашения в Великобритании, Техасе и Португалии. Британские ЦОД Nscale тоже простаивать не будут — по данным Datacenter Dynamics, Google заключила сделку об аренде мощностей в Лондоне. Правда, это не те мощности, что изначально создавались для OpenAI.

Компания HPE анонсировала новые решения семейства NVIDIA AI Computing by HPE, ориентированные на крупномасштабные ИИ-платформы и суперкомпьютерные системы.

О намерении использовать такие инфраструктурные продукты в числе прочих сообщили Аргоннская национальная лаборатория (ANL) Министерства энергетики США (DOE), Hudson River Trading (HRT), Корейский институт научно-технической информации (KISTI) и Центр высокопроизводительных вычислений HLRS при Штутгартском университете в Германии.

В частности, представлены новые узлы для суперкомпьютерной платформы HPE Cray Supercomputing GX5000 — blade-серверы HPE Cray Supercomputing GX240. Эти устройства могут нести на борту до 16 процессоров NVIDIA Vera (88C/176T). В одной стойке могут быть размещены до 40 узлов, что в сумме даёт 640 чипов Vera и 56 320 ядер Olympus. Реализовано жидкостное охлаждение. Система предназначена для решения наиболее ресурсоёмких вычислительных задач в области ИИ. Новые серверы появятся на рынке в следующем году.

Для платформы HPE Cray Supercomputing GX5000 также будут доступны коммутаторы NVIDIA Quantum-X800 InfiniBand, предоставляющие 144 порта с пропускной способностью до 800 Гбит/с. В этих устройствах реализованы развитые функции снижения энергопотребления.

Кроме того, HPE готовит OCP-серверы высокой плотности Compute XD700 для обучения LLM и инференса. В основу данной системы положена платформа NVIDIA HGX Rubin NVL8, а одна стойка может насчитывать до 128 ускорителей Rubin. Данное решение появится в начале 2027-го.

Источник изображений: HPE

Помимо этого, анонсирована стоечная система нового поколения NVIDIA Vera Rubin NVL72 by HPE — это флагманская ИИ-платформа, разработанная для моделей с более чем 1 трлн параметров. Конфигурация включает 36 процессоров Vera, 72 чипа Rubin, интерконнект NVIDIA NVLink шестого поколения, сетевые адаптеры NVIDIA ConnectX-9 SuperNIC и DPU NVIDIA BlueField-4. Система поступит в продажу в декабре 2026 года.

NVIDIA объявила о том, что платформа Vera Rubin, объединяющая теперь уже семь различных чипов (ещё в январе их было шесть), которые вместе откроют новые горизонты агентного ИИ, запущена в производство. Платформа включает Arm-процессоры Vera, ускорители Rubin, интерконнект NVLink 6, адаптеры ConnectX-9 SuperNIC и DPU BlueField-4, а также Ethernet-коммутаторы Spectrum/Quantum-6. Седьмым чипом стал LPU Groq 3 — NVIDIA купила Groq за рекордные $20 млрд всего три месяца назад и активно наращивает производство LPU.

Благодаря такому сочетанию компонентов платформа обеспечивает обработку ИИ-нагрузок на всех этапах — от масштабного предварительного обучения, постобучения и масштабирования во время тестирования до инференса агентных задач в реальном времени, говорит NVIDIA. «Vera Rubin — это скачок в развитии — семь прорывных чипов, пять стоек, один гигантский суперкомпьютер — созданный для обеспечения всех этапов работы ИИ», — сообщил Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA. Он отметил, что с появлением Vera Rubin в развитии агентного ИИ наступил переломный момент, положившей начало «крупнейшему в истории развёртыванию инфраструктуры».

Источник изображений: NVIDIA

«Платформа NVIDIA Vera Rubin предоставляет нам вычислительные ресурсы, сетевые возможности и системную архитектуру, позволяющие продолжать работу, одновременно повышая безопасность и надёжность, на которые полагаются наши клиенты», — подтвердил Дарио Амодеи (Dario Amodei), генеральный директор и соучредитель Anthropic. «Инфраструктура NVIDIA — это основа, которая позволяет нам расширять границы ИИ, — заявил Сэм Альтман (Sam Altman), генеральный директор OpenAI. — С NVIDIA Vera Rubin мы будем запускать более мощные модели и агентов в огромных масштабах и предоставлять более быстрые и надёжные системы сотням миллионов людей».

Как отметила компания, Vera Rubin предлагает самую обширную комплексную ИИ-платформу — суперкомпьютер с множеством стоек, специально разработанных для ИИ, работающих как одна массивная, целостная система. NVIDIA Vera Rubin NVL72 обеспечивает высокую эффективность в обучение больших MoE-моделей с использованием вчетверо меньшего количества ускорителей по сравнению с платформой Blackwell и достижение до 10 раз большей пропускной способности инференса на ватт при в десять раз меньшей стоимости токена.

CPU-стойка Vera — это высокоплотная MGX-платформа с СЖО, объединяющая 256 процессоров Vera для обеспечения масштабируемой, энергоэффективной производительности с первоклассной однопоточной обработкой, что обеспечивает возможности для масштабируемого агентного ИИ. Стойки Vera имеют тесную синхронизацию сред во всей ИИ-фабрике. Вместе со стойками Rubin они обеспечивают основу крупномасштабных систем агентного ИИ и обучения с подкреплением — при этом Vera обеспечивает результаты в два раза эффективнее и наполовину быстрее, чем традиционные CPU (впрочем, в NVL8 по-прежнему будут Intel Xeon).

Стойки Groq 3 LPX (тоже с СЖО и тоже на базе MGX) и Vera Rubin, разработанные для обеспечения низкой задержки и обработки больших контекстов, необходимых для агентных систем, обеспечивают до 35 раз более высокую пропускную способность инференса на мегаватт и до 10 раз больший потенциал дохода для моделей с триллионами параметров. В масштабе предприятия парк LPU функционирует как единый гигантский процессор для быстрого и детерминированного ускорения инференса.

Стойка LPX с 256 LPU-чипами имеет 128 Гбайт SRAM с агрегированной пропускной способностью 640 Тбайт/с. В сочетании с Vera Rubin NVL72 чипы LPU повышают эффективность декодирования, совместно вычисляя каждый слой модели ИИ для каждого выходного токена. Всё это позволяет работать с моделями с триллионами параметров и контектсным окном в миллионы токенов, сохраняя максимальную эффективность по энергопотреблению, памяти и вычислительным ресурсам. Любопытно, что Rubin CPX в этот раз NVIDIA решила особо не упоминать.

Анонсированная вместе с Vera Rubin СХД BlueField-4 STX разработана специально для ИИ-нагрузок, обеспечивая бесперебойное расширение памяти GPU по всему POD-кластеру. Впрочем, теперь компания говорит, что BlueField-4 включает CPU Vera, а не Grace, и ConnectX-9 SuperNIC. STX обеспечивает высокоскоростной общий слой данных, оптимизированный для хранения и извлечения больших объёмов KV-кеша, генерируемых LLM и рабочими процессами агентного ИИ. А программная платформа DOCA Memos позволяет использовать выделенное KV-хранилище для увеличения пропускной способности инференса до пяти раз, также повышая энергоэффективность по сравнению с архитектурами хранения общего назначения.

Также NVIDIA совместно с более чем 200 партнёрами анонсировала платформу NVIDIA DSX для Vera Rubin, которая включает технологию DSX Max-Q, позволяющую динамически управлять питанием всей ИИ-фабрики целиком, позволяя увеличить на 30 % ИИ-инфраструктуру в ЦОД при том же энергопотреблении. ПО DSX Flex обеспечивает ИИ-фабрикам гибкость в работе с энергосетями, позволяя освоить до 100 ГВт неиспользуемой мощности сетей. Кроме того, NVIDIA выпустила эталонный проект Vera Rubin DSX AI Factory — схему для совместно разработанной ИИ-инфраструктуры, которая максимизирует количество токенов на ватт и общую пропускную способность, повышая отказоустойчивость системы и ускоряя развётывание.

В Microsoft Azure появились первые Vera Rubin (Источник изображения: X/@satyanadella)

Продукты на базе Vera Rubin будут доступны у партнёров NVIDIA, начиная со II половины этого года. В их число входят гиперскейлеры AWS, Google Cloud, Microsoft Azure и Oracle Cloud, а также партнёры NVIDIA Cloud — CoreWeave, Crusoe, Lambda, Nebius, Nscale и Together AI. Ожидается, что широкий спектр серверов на базе продуктов Vera Rubin будут поставлять глобальные производители систем Cisco, Dell Technologies, HPE, Lenovo и Supermicro, а также Aivres, ASUS, Foxconn, GIGABYTE, Inventec, Pegatron, Quanta Cloud Technology (QCT), Wistron и Wiwynn.

NVIDIA объявила о запуске платформы следующего поколения Rubin, которая приходит на смену Blackwell Ultra. Компания отметила, что платформа Rubin объединяет сразу пять инноваций, включая новейшие поколения интерконнекта NVIDIA NVLink, Transformer Engine, Confidential Computing и RAS Engine, а также процессор NVIDIA Vera. Примечательно, что NVIDIA снова решила вернуться к именованию на основе количества суперчипов (NVL72), а не ускорителей (NVL144), как обещала в прошлом году.

Созданная с использованием экстремального совместного проектирования на аппаратном и программном уровнях, NVIDIA Vera Rubin обеспечивает десятикратное снижение стоимости токенов для инференса и четырёхкратное сокращение количества ускорителей для обучения моделей MoE по сравнению с платформой NVIDIA Blackwell. Коммутационные системы NVIDIA Spectrum-X Ethernet Photonics обеспечивают пятикратное повышение энергоэффективности и времени безотказной работы.

Источник изображений: NVIDIA

Платформа Rubin построена на шести чипах — Arm-процессоре Vera, ускорителе Rubin, коммутаторе NVLink 6, адаптере ConnectX-9 SuperNIC, DPU BlueField-4 и Ethernet-коммутаторе NVIDIA Spectrum-6. Ускорители Rubin поначалу будут доступны в двух форматах. В первом случае — в составе стоечной платформы DGX Vera Rubin NVL72, которая объединяет 72 ускорителя Rubin и 36 процессоров Vera, NVLink 6, ConnectX-9 SuperNIC и BlueField-4. Также ускорители Rubin будут доступны в составе платформы DGX/HGX Rubin NVL8 на базе x86-процессоров. Обе платформы будут поддерживаться кластерами NVIDIA DGX SuperPod, сообщил ресурс CRN.

Как отметила NVIDIA, разработанный для агентного мышления, процессор NVIDIA Vera является самым энергоэффективным процессором для крупномасштабных ИИ-фабрик. Он оснащён 88 кастомными Armv9.2-ядрами Olympus с 176 потоками с новой технологией пространственной многопоточности NVIDIA, 1,5 Тбайт системной памяти SOCAMM LPDDR5x (1,2 Тбайт/с), возможностями конфиденциальных вычислений и быстрым интерконнектом NVLink-C2C (1,8 Тбайт/с в дуплексе).

NVIDIA Rubin с аппаратным адаптивным сжатием данных обеспечивает до 50 Пфлопс (NVFP4) для инференса, что в пять раз быстрее, чем Blackwell. Он также обеспечивает до 35 Пфлопс (NVFP4) в режиме, что в 3,5 раза быстрее, чем его предшественник. Пропускная способность 288 Гбайт HBM4 составляет 22 Тбайт/с, что в 2,8 раза быстрее предшественника, а пропускная способность NVLink на один ускоритель вдвое выше — 3,6 Тбайт/с (в дуплексе).

NVIDIA также сообщила, что Vera Rubin NVL72 обладает 54 Тбайт памяти LPDDR5x, что в 2,5 раза больше, чем у Blackwell, и 20,7 Тбайт памяти HBM4, что на 50 % больше, чем у предшественника. Агрегированная пропускная способность HBM4 достигает 1,6 Пбайт/с, что в 2,8 раза больше, а скорость интерконнекта составляет 260 Тбайт/с, что вдвое больше, чем у платформы Blackwell NVL72, и «больше, чем пропускная способность всего интернета». Ожидаемый уровень энергопотребления составит от 190 до 230 кВт на стойку.

Компания отметила, что Vera Rubin NVL72 — первая стоечная платформа, обеспечивающая конфиденциальные вычисления, которая поддерживает безопасность данных на уровне доменов CPU, GPU и NVLink. Коммутатор NVLink 6 с жидкостным охлаждением оснащён 400G-блоками SerDes, обеспечивает пропускную способность 3,6 Тбайт/с на каждый GPU для связи между всеми GPU, общую пропускную способность 28,8 Тбайт/с и 14,4 Тфлопс внутрисетевых вычислений в формате FP8.

Хотя NVIDIA заявила, что Rubin находится в «полномасштабном производстве», аналогичные продукты от партнёров появятся только во II половине этого года. Среди ведущих мировых ИИ-лабораторий, поставщиков облачных услуг, производителей компьютеров и стартапов, которые, как ожидается, внедрят Rubin, компания назвала Amazon Web Services (AWS), Anthropic, Black Forest Labs, Cisco, Cohere, CoreWeave, Cursor, Dell Technologies, Google, Harvey, HPE, Lambda, Lenovo, Meta✴, Microsoft, Mistral AI, Nebius, Nscale, OpenAI, OpenEvidence, Oracle Cloud Infrastructure (OCI), Perplexity, Runway, Supermicro, Thinking Machines Lab и xAI.

ИИ-лаборатории, включая Anthropic, Black Forest, Cohere, Cursor, Harvey, Meta✴, Mistral AI, OpenAI, OpenEvidence, Perplexity, Runway, Thinking Machines Lab и xAI, рассматривают платформу NVIDIA Rubin для обучения более крупных и мощных моделей, а также для обслуживания мультимодальных систем с длинным контекстом с меньшей задержкой и стоимостью по сравнению предыдущими поколениями ускорителей. Партнёры по инфраструктурному ПО и хранению данных AIC, Canonical, Cloudian, DDN, Dell, HPE, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, Supermicro, SUSE, VAST Data и WEKA работают с NVIDIA над разработкой платформ следующего поколения для инфраструктуры Rubin.

В связи с тем, что рабочие нагрузки агентного ИИ генерируют огромные объёмы контекстных данных, NVIDIA также представляла новую платформу хранения контекста инференса NVIDIA Inference Context Memory Storage Platform — новый класс инфраструктуры хранения, разработанной для масштабирования контекста инференса.

Сообщается, что платформа, работающая на базе BlueField-4, обеспечивает эффективное совместное использование и повторное применение данных KV-кеша в рамках всей ИИ-инфраструктуры, повышая скорость отклика и пропускную способность, а также обеспечивая предсказуемое и энергоэффективное масштабирование агентного ИИ.

Дион Харрис (Dion Harris), старший директор NVIDIA по высокопроизводительным вычислениям и решениям для ИИ-инфраструктуры, сообщил, что по сравнению с традиционными сетевыми хранилищами для данных контекста инференса, новая платформа обеспечивает до пяти раз больше токенов в секунду, в пять раз лучшую производительность на доллар и в пять раз лучшую энергоэффективность.