Huawei представила платформу OceanStor M900, спроектированную для работы с KV-кешем в крупномасштабных дата-центрах. Новинка позволяет решить проблему нехватки DRAM, которая создает «бутылочное горлышко» в современных ИИ-кластерах.

Отмечается, что в настоящее время в сфере ИИ наблюдается переход от технологических экспериментов к широкомасштабному внедрению. Приложения ИИ эволюционировали от чат-ботов до агентов, способных автономно выполнять сложные задачи. Большие языковые модели (LLM) нового поколения могут насчитывать до 10 трлн параметров. Современные системы с огромными контекстными окнами (более 1 млн токенов) и многошаговые ИИ-агенты генерируют колоссальные объёмы KV-кеша, для обработки которого ресурсов HBM и DRAM недостаточно. Платформа OceanStor M900 помогает преодолеть эти ограничения путём использования высокоскоростных SSD.

По заявлениям Huawei, в OceanStor M900 впервые в отрасли применена передовая архитектура, объединяющая CPU, сетевой контроллер и контроллер NAND. Она обеспечивает собственную KV-семантику для одношагового соединения ИИ-ускорителей в составе узлов SuperPoD с твердотельными накопителями. Это устраняет необходимость применения различных протоколов, благодаря чему задержка доступа сокращается на 90 % по сравнению с традиционными подходами — с нескольких миллисекунд до 60 мкс. Один кластер обеспечивает суммарную пропускную способность до 40 Тбайт/с, что в 1,5 раза выше, чем у существующих решений. При этом объём памяти, доступной для каждого нейропроцессора (NPU), увеличивается с гигабайт до терабайт.

Источник изображения: Huawei

Платформа OceanStor M900 использует высокоскоростной интерконнект UnifiedBus. Общая вместимость может достигать 64 Пбайт. В системе реализована технология адаптивного хранения (KV-Aware Adaptive Storage), которая прогнозирует жизненный цикл KV-кеша и перераспределяет нагрузку между SSD для достижения максимальной эффективности и надёжности. В результате, показатель DWPD (полных перезаписей в сутки) для установленных SSD поднимается до 24, что в 16 раз превосходит обычные значения. Благодаря этому значительно снижаются расходы на эксплуатацию, поскольку сокращается необходимость в замене дорогостоящих накопителей.

В целом, OceanStor M900 позволяет раскрыть вычислительную мощность SuperPoD-устройств, ресурсы которых в противном случае могут простаивать из-за нехватки памяти для работы с KV-кешем.

На фоне роста инвестиций в ИИ компании стали более избирательно подходить к замене устаревшего оборудования (например, мейнфреймов), стремясь максимально продлить срок службы устаревших ИТ-систем, пишет The Register со ссылкой на исследование State of IT Modernization 2026 компании Ensono. В рамках исследования был проведён опрос 500 руководителей ИТ-подразделений и бизнес-лидеров в США и Великобритании.

78 % респондентов–руководителей, принимающих решения в сфере ИТ, сегодня считают устаревшие системы более важными, чем два года назад, поскольку они рассматриваются как ключевой элемент для успешного внедрения ИИ в организации. Исследователи пришли к выводу, что ИИ меняет приоритеты модернизации, однако корпорации по-прежнему сталкиваются с рядом традиционных проблем, усложняющих этот процесс: превышением бюджета, задержками в реализации инициатив и нехваткой квалифицированных кадров.

По данным Ensono, 45 % компаний активно масштабируют внедрение ИИ по всем подразделениям, а 44 % инвестируют в точечные проекты, способные принести значительный эффект. Поддержка ИИ, автоматизации и передовых инициатив по работе с данными стали главными движущими силами модернизации; при этом более половины компаний отмечают, что ИИ способствует модернизации, обеспечивая более высокий уровень автоматизации и повышая эффективность работы.

Источник изображения: IBM

В числе главных препятствий для реализаций целей в области ИИ респонденты назвали трудности интеграции технологий в существующие рабочие процессы (33 %) и ограничения инфраструктуры (28 %). В связи с этим устаревшие системы приобретают новую стратегическую ценность. Почти половина организаций рассматривает их (например, мейнфреймы) как критически важную основу для ИИ и ценный источник данных, а 47 % используют такие системы выборочно для конкретных приложений на базе ИИ.

Более половины организаций Великобритании (57 % респондентов; в США меньше — 48 %) предпочитает оптимизировать и расширять возможности устаревших систем, модернизируя приложения непосредственно на существующей платформе, вместо того чтобы полностью их заменять. «Компании начинают понимать, что унаследованные системы — такие как мейнфреймы — представляют собой невероятно мощные, надёжные и эффективные вычислительные ресурсы, которые теперь, благодаря ИИ, можно дополнить новыми возможностями и сделать более гибкими», — пишет Ensono.

Отмечается, что в этих системах сосредоточены данные и бизнес-логика, накопленные за десятилетия и обеспечивающие работу многих компаний. Преимущество получат те организации, которые достаточно хорошо разбираются в своей ИТ-среде, чтобы отличить элементы, подлежащие замене, от тех, которые стоит лишь дополнить, а также готовы внедрять новые методы модернизации, недоступные ещё полтора года назад, подчеркнули аналитики.

Источник изображения: IBM

Ещё два года назад компания Kyndryl заявила, что мейнфреймы могут служить фундаментом для развёртывания ИИ-систем. Исследования показали, что мощные мейнфреймы становятся отличной платформой для выполнения задач ИИ, и их всё чаще интегрируют с современной инфраструктурой. При этом часть рабочих нагрузок с мейнфреймов может переноситься на другие системы при одновременной модернизации оставшихся задач непосредственно на платформе, чтобы продолжать пользоваться преимуществами её безопасности и надёжности. Ранее в этом году в Gartner отметили, что для пользователей VMware перенос рабочих нагрузок на мейнфрейм — более рациональное решение, чем переход на новые условия лицензирования от Broadcom.

По словам управляющего директора HPE в Великобритании, на Ближнем Востоке и в Африке, корпоративные клиенты предпочитают дольше эксплуатировать имеющиеся ИТ-ресурсы, в частности, продлевая циклы обновления оборудования с пяти до семи лет: «Полагаю, мы наблюдаем тенденцию к более раннему планированию критически важных проектов. Многие клиенты заглядывают гораздо дальше в свои планы расходов и оценивают предстоящие задачи — например, в связи с прекращением поддержки определённых технологий или истечением срока аренды площадей в дата-центре. Таким образом, перед ними встаёт выбор: приостановить процесс и продлить срок службы оборудования или же двигаться вперёд, так как это необходимо. Думаю, это заставляет клиентов кардинально пересматривать свои подходы».

Huawei поделилась планами по выпуску новых ИИ-ускорителей Ascend. Сообщается, что в I квартале следующего года дебютирует изделие Ascend 960DT, которое придёт на смену Ascend 950. В состав 960DT (аббревиатура расшифровывается как Decode/Training — декодирование/обучение) войдут 288 Гбайт памяти с пропускной способностью 9,6 Тбайт/с — в 2,4 раза больше по сравнению с Ascend 950. При этом сетевые источники указывают на использование памяти HiZQ — собственного решения Huawei, позиционирующегося в качестве альтернативы НВМ. Пропускная способность интерконнекта Ascend 960DT составит 2,2 Тбайт/с.

Для нового ускорителя заявлена поддержка форматов FP32, HF32, FP16, BF16, FP8, MXFP8, HiF8, MXFP4 и HiF4. ИИ-производительность в режиме FP8 будет достигать 2 Пфлопс, в режиме FP4 — 4 Пфлопс. В один кластер могут объединяться тысячи таких изделий для масштабирования быстродействия. В частности, посредством NPO могут быть связаны до 4096 эксземпляров Ascend 960DT, что обеспечит суммарную FP4-производительность на уровне 16 Эфлопс.

Источник изображения: wccftech.com

На III четверть 2027 года намечен анонс карты Ascend 960PR (Prefill/Recommenders — заполнение/рекомендации). Она будет нести на борту 192 Гбайт памяти с пропускной способностью 2,4 Тбайт/с (скорость интерконнекта сохранится на уровне 2,2 Тбайт/с). Это решение обеспечит быстродействие до 2 Пфлопс на операциях FP8 и до 8 Пфлопс в режиме FP4.

В 2028 году, как ожидается, появится ускоритель Ascend 970 с 288 Гбайт памяти с пропускной способностью 14,4 Тбайт. У данной модели пропускная способность интерконнекта поднимется до 4,4 Тбайт/с. Производительность FP8 и FP4 — до 3,6 и 14 Пфлопс соответственно. Наконец, на 2029-й запланирован выпуск изделия Ascend 980 с 384 Гбайт памяти (38,4 Тбайт/с) и интерконнектом на 8 Тбайт/с. Карта сможет выдавать 7,2 Пфлопс на операциях FP8 и 28 Пфлопс в режиме FP4.

Cornelis представила Active Compute Fabric — открытую архитектуру, охватывающую сетевые системы класса scale-up (вертикальное масштабирование) и scale-out (горизонтальное масштабирование) и включающую встроенные средства программируемых вычислений.

В настоящее время ИИ-кластеры выросли до многих тысяч GPU. Количество параметров в моделях увеличилось с миллиардов до триллионов. Однако фундаментальное поведение большинства сетей ЦОД не эволюционировало так быстро — они в основном перемещают данные из точки А в точку Б, обеспечивая максимально надёжную передачу.

Современные рабочие ИИ-нагрузки не всегда ведут себя как традиционные HPC и другие распределённые приложения. В них доминируют синхронизация, коллективные операции и зависимости, а также значительный трафик между серверами (east-west). Когда сеть не справляется с огромными требованиями к пропускной способности таких рабочих нагрузок, ускорители часто простаивают, иногда в течение длительного времени.

Проблему простоя поставщики пытаются решить преимущественно за счёт увеличения пропускной способности, а не изменения принципов работы самой сетевой инфраструктуры. «ИИ-инфраструктура достигла того этапа, когда одного лишь повышения быстродействия конечных узлов уже недостаточно. Сетевая фабрика должна стать активным компонентом вычислительной системы», — заявила Лиза Спелман (Lisa Spelman), генеральный директор Cornelis.

Источник изображений: Cornelis Networks

Архитектура Active Compute Fabric переносит программируемые вычислительные функции непосредственно на уровень сети. Сетевая фабрика может производить манипуляции над данными прямо во время передачи: собирать данные KV-кеша для дезагрегированного инференса, координировать распределение экспертов для моделей MoE, ускорять коллективные операции, такие как AllReduce, и сжимать градиенты при передаче, разгружая вычислительные узлы, уменьшая накладные расходы на синхронизацию и отвечая за целостность передачи данных. При этом она может брать на себя новые функции по мере развития алгоритмов ИИ и ПО. Нечто похожее, например, NVIDIA начала предлагать в InfiniBand несколько поколений назад (SHARP), но, по слухам, данная функциональность особой популярностью не пользуется.

Cornelis опирается на открытые Ethernet-стандарты UALink для вертикального масштабирования и Ultra Ethernet — для горизонтального, что даёт поддержку широкого спектра ускорителей. Это важный фактор, поскольку компании всё больше диверсифицируют оборудование и технологии, используемые в своих ЦОД. Клиенты, использующие решения для ИИ, всё чаще обращаются к решениям стоечного масштаба, сталкиваясь при этом с проблемой привязки к конкретному поставщику, а Cornelis позиционирует себя как нейтральная, открытая альтернатива. Это явный кивок в сторону NVIDIA, хотя тот же UALink пока трудно назвать действительно зрелой технологией.

Видение Cornelis по поводу открытых и эффективных сетей, масштабируемых по принципу «масштабирование и расширение», разделяет Qualcomm, которая присоединилась к Cornelis на конференции AI Infra Summit. Cornelis отметила, что обе компании разделяют общее видение проблем, стоящих перед ИИ-инфраструктурой: использование пассивных сетевых архитектур, обеспечивающих лишь передачу данных, приводит к недогрузке вычислительных ускорителей, что напрямую сказывается на экономической эффективности процессов инференса. По мере перехода к созданию ИИ-систем стоечного масштаба, обе компании рассматривают сеть как ключевой элемент проектирования, а не как второстепенный компонент.

Лиза Спелман отдельно отметила в интервью CRN схожесть подходов с Qualcomm: «Мы видим много общего в отношении проблем инфраструктуры ИИ, проблем, с которыми сталкиваются клиенты, и множество возможностей и потенциала для объединения наших технологий и решения этих проблем для клиентов <…> Мы считаем, что сейчас идеальное время для выхода на этот рынок. Ещё многое предстоит решить», — сказала Спелман.

Как отметил CRN, проблема для Cornelis заключается в том, что NVIDIA более года продвигает свою собственную технологию интерконнекта NVLink Fusion как де-факто интерконнект для вертикального масштабирования. К альянсу уже присоединились Qualcomm, Arm, Marvell, Amazon, Fujitsu, Ayar, SiFive, Intel, d-Matrix и MediaTek. Это позволяет NVIDIA оставаться важнейшим поставщиком для рынка ИИ-инфраструктуры и открывает новый источник дохода.

Cornelis также объявила о привлечении финансирования в размере $205 млн. Средства будут направлены на масштабирование производства, укрепление партнёрских отношений с клиентами и ускорение реализации планов по выводу продукции на рынок. Ресурс Forbes считает, что для компании в сегменте HPC-сетей такой уровень инвестиций значителен и свидетельствует о том, что рынок считает проблему узкого места в сетевых технологиях реальной, и что Cornelis продемонстрировала достаточный прогресс благодаря текущим внедрениям в ЦОД для ИИ и HPC, чтобы оправдать дальнейшее расширение.

«Потенциал рынка сетевых решений на базе открытых стандартов для масштабирования ИИ (как вертикального, так и горизонтального) к 2030 году превысит $55 млрд. Мы убеждены, что именно сетевая инфраструктура будет определять, какая часть инвестиций в развёртывание систем ИИ принесёт реальную отдачу», — заявили в IAG Capital Partners.

Стартап Crusoe завершил новый раунд финансирования серии F в размере $3,9 млрд с оценкой его рыночной стоимости примерно в $30,9 млрд, сообщил ресурс The Wall Street Journal. По словам гендиректора Crusoe Чейза Лохмиллера (Chase Lochmiller), раунд финансирования возглавили Atreides Management, Valor Equity Partners и Mubadala Investment. В число других инвесторов входят Founders Fund, TPG и несколько суверенных фондов, включая Катарское инвестиционное управление (Qatar Investment Authority, QIA).

После двух лет строительства комплекса ЦОД Stargate в Абилине (Abilene, Техас), используемого OpenAI, Crusoe теперь делает ставку на создание небольших модульных ЦОД Spark, которые она может производить на собственных заводах и развёртывать там, где есть доступ к электроэнергии. Это будет быстрее и дешевле, чем полагаться исключительно на крупные строительные проекты, которые становятся всё дороже и сталкиваются с задержками по всей стране.

Лохмиллер заявил, что для инференса не требуются огромные ИИ-кластеры. «В настоящее время для этого не нужен ЦОД по типу того, в Абилине», — сказал Лохмиллер. По его словам, инференс в таком ЦОД «может быть излишним». Меньшие по размеру ЦОД Spark предоставляют компании ещё одно преимущество: скорость, поскольку для них не требуются месяцы планирования, строительства и согласования с местными жителями. ЦОД Spark уже работают в Рино (Reno, штат Невада) с питанием от б/у батарей электромобилей и солнечных панелей.

Источник изображения: Crusoe

Crusoe отличается от других стартапов в сфере ИИ-инфраструктуры тем, что не делает ставку на одно направление деятельности. Например, неооблачные компания занимаются в основном лишь тем, что покупают дорогостоящие чипы и сдают в аренду доступ к ним. В свою очередь, Crusoe разрабатывает и сдаёт в аренду ЦОД, сдаёт в аренду GPU в них и запускает ИИ-модели для клиентов и взимает плату за вычислительные ресурсы (токены). «Мы продаём ЦОД, GPU и токены», — сказал Лохмиллер.

По словам источников The Wall Street Journal, эта стратегия временами вызывала недовольство совета директоров, который предлагал сузить сферу деятельности компании. Однако Лохмиллер считает, что его стратегия помогает компании строить лучшие ЦОД, поскольку даёт понимание того, как меняется спрос. Crusoe ожидает, что большая часть её облачных вычислений будет выполняться в небольших ЦОД Spark. «Мы собираемся устанавливать их повсюду», — заявил Лохмиллер.

Компании NVIDIA, Google и Emerald AI анонсировали создание объединения AI Energy Management Alliance (AEMA). Оно должно ускорить развитие ИИ ЦОД, готовых оптимизировать и корректировать своё энергопотребление в соответствии с текущим состоянием энергосистем. ИИ ЦОД будут взаимодействовать с сетями, при необходимости меняя нагрузку. NVIDIA полагает, что это поможет в ускоренном режиме подключать новые мощности, повысить надёжность энергосистем и эффективнее использовать доступную инфраструктуру.

Как сообщает NVIDIA, обычные процедуры присоединения к сетям предполагают снабжение объектов с довольно стабильным энергопотреблением, но ИИ ЦОД к ним не относятся. При этом их вычислительные нагрузки можно будет произвольно менять, перенося вычисления, использовать системы накопления энергии, реагировать на инциденты в энергосистеме и др. Это позволит эффективнее использовать имеющиеся мощности электросетей, снижать энергопотребление во время пиковых нагрузок на энергосистему и даже откладывать затратную модернизацию инфраструктуры. Кроме того, более безопасным и быстрым становится подключение к сетям крупных ИИ ЦОД.

При этом эксперты The Register обращают внимание на ограничения, касающиеся самой NVIDIA. Компания сможет продавать всё больше ИИ-ускорителей только в случае, если дата-центры будут получать достаточно энергии. В результате NVIDIA стремится «выжать» максимум из каждого доступного гигаватта. Например, обычный ЦОД на 100 МВт оставляет в резерве до 20 % мощности для компенсации неэффективности оборудования, потерь при преобразовании энергии и скачков потребления.

Источник изображения: NVIDIA

Одно из решений — платформа DSX MaxLPS, позволяющая использовать больше ИИ-ускорителей в рамках заданного «энергетического бюджета». Она координирует работу вычислительной и физической инфраструктуры, элементы которой могут обмениваться данными о работе друг друга, снижая энергопотребление в зависимости, например, от фактической загрузки серверов, без постоянной работы на максимальной мощности. API DSX Exchange также позволяют работать с совместимыми компонентами стороннего производства, в т.ч. оборудования Vertiv и Schneider Electric.

DSX Flex непосредственно обеспечивает взаимодействие ЦОД и энергосистемы. NVIDIA, Emerald AI и Silicon Valley Power продемонстрировали способность временно высвобождать некоторые мощности ЦОД при росте нагрузок на электросети без остановки критически важных вычислений. Аналогичный эксперимент успешно провели National Grid, Emerald AI и Nebius. На уровне стоек NVIDIA и Lambda уже показали, что подобная умная координация позволяет уместить в пределах заданного энергетического бюджета больше вычислительных модулей — 19 вместо обычных 16, при этом производительность на ватт выросла приблизительно на четверть.

Формально ничего принципиального нового в предложенной технологии нет. Ещё в 2023 году Google тестировала систему перепаспределения нагрузок в ЦОД в часы пик. То же делала и Microsoft, но в обоих случаях речь шла о переносе обработки несрочных фоновых задач во времени или между дата-центрами. В 2026 году Google модернизировала управление питанием своих ЦОД в США, добавив возможность более гибко регулировать их энергопотребление, которая подкреплена контрактами с несколькими энергокомпаниями.

Источник изображения: NVIDIA

NVIDIA намерена интегрировать подобную возможность в инфраструктуру ИИ ЦОД по умолчанию. Для компании смысл не только в снижении нагрузки на энергосеть, но и в оптимизации контактов с энергокомпаниями. Предполагается, что они смогут в упрощённом порядке разрешать подключение новых мощностей, если будут знать, что часть нагрузки можно быстро отключить. Впрочем, полную остановку работы ЦОД это не предусматривает, поскольку критически важные задачи будут выполняться, а второстепенные нагрузки приостановить или перенести в другие ЦОД.

Альянс AEMA должен дополнить технологические решения разработкой общих правил взаимодействия ИИ ЦОД с энергосистемами, в том числе вопросы регулирования энергопотребления и реагирования на аварийные ситуации. Также предполагается стандартизировать технические требования, показатели эффективности и обмен эксплуатационными данными.

AEMA позиционируется как технологически нейтральная инициатива, поскольку требования будет определять не использование того или иного конкретного оборудования или ПО, а измеряемые характеристики ЦОД — от скорости реакции на чрезвычайные ситуации до предсказуемости и продолжительности доступного сокращения нагрузки. Если объект способен подтвердить «гибкость», для него могут создать более простые и быстрые процедуры подключения к электросетям с учётом фактических рисков и преимуществ для энергосистемы.

ИИ-стартапы Cohere Inc. и Aleph Alpha GmbH подписали соглашение о слиянии. Контракт официально оформляет апрельский план — на тот момент сообщалось, что немецкий ретейлер Schwarz Group GmbH планировал предоставить компании €500 млн ($573 млн) финансирования. На прошлой неделе появилась информация, что поддерживаемый канадским правительством консорциум может инвестировать ещё $3 млрд, сообщает Silicon Angle.

Базирующаяся в Торонто Cohere разрабатывает ИИ-модели для корпоративного рынка. В портфолио компании входит серия open source моделей Command. Также она предлагает специализированные алгоритмы, оптимизированные для задач вроде перевода и поиска. Новейшая модель Parse преобразует документы в формат, легко обрабатываемый ИИ-агентами. Компания зарабатывает на продаже доступа к своим моделям через API. Также она предлагает сервис North, предназначенный для повышения продуктивности с помощью ИИ. По имеющимся данным, выручка компании в прошлом году достигла $240 млн.

ИИ-провайдер добился в прошлом сентябре капитализации в $7 млрд. Предполагается, что создаваемая в результате слияния Cohere и Aleph Alpha компания будет оценена в $20 млрд, инвесторы рассчитывают, что сделка откроет значительные возможности для развития нового бизнеса. Cohere, со своей стороны, привлекла около $126 млн венчурного финансирования.

Источник изображения: Cohere

Немецкая Aleph Alpha разрабатывает малые языковые модели (SLM) для корпоративных клиентов и правительственных структур. По данным компании, её разработчики создали кастомные бенчмарки, позволяющие оценивать работу предлагаемых компанией алгоритмов. Также бизнес помогает клиентам в решении последующих задач вроде внедрения моделей. Попутно компания ведёт и фундаментальные исследования. В прошлом году она представила библиотеку, позволяющую удвоить производительность ИИ-моделей при инференсе. Недавно компания детализировала новый подход, позволяющий предотвратить ИИ-галлюцинации в RAG-системах.

Cohere и Aleph Alpha намерены работать в дальнейшем под брендом Cohere после одобрения сделки всеми регуляторами. Объединённая организация сохранит штаб-квартиры в Берлине и Торонто, а действующая штаб-квартира Aleph Alpha в Гейдельберге (германия) станет исследовательским центром.

По данным Cohere, одним из приоритетов новой компании станет укрепление партнёрства с Schwarz Group. Ретейлер имеет облачное подразделение STACKIT, занимающееся ИИ-задачами, а также хостингом других приложений для сторонних организаций. В прошлом году компания анонсировала намерение потратить €11 млрд на новый дата-центр, в котором будут работать до 100 тыс. ИИ-ускорителей.

Компания Huawei представила четырёхуровневый 3D-ЦОД в Уху (Wuhu, провинция Аньхой, Китай) с вертикально расположенными системами охлаждения, вычислительным оборудованием, энергосистемами и резервным источником питания, сообщил ресурс TechRepublic. По словам компании, архитектура разработана для размещения более плотной ИИ-инфраструктуры, включая кластеры суперузлов, содержащие более 100 тыс. ускорителей.

Использование ИИ-ускорителей в ЦОД влечёт за собой гораздо более высокую плотность энергопотребления. По словам Huawei, мощность серверных стоек выросла с нескольких киловатт до 100 кВт и 200 кВт и, как ожидается, продолжит увеличиваться. А использование масштабных моделей с триллионами параметров и быстро растущий спрос на токены предъявляют повышенные требования к ИИ-инфраструктуре искусственного интеллекта. Поэтому кластеры на базе суперузлов Ascend с более чем 100 тыс. картами станут базовой конфигурацией.

Источник изображения: Huawei

«Мы рассматриваем ЦОД как стандартный продукт, который можно тиражировать в больших масштабах, а не как индивидуальный инженерный проект», — заявили в компании. По словам Huawei, более 90 % механических и электрических систем для ЦОД могут предлагаться уже в собранном виде, что сокращает их сроки поставки после заказа примерно с шести до трех месяцев. По данным Pandaily, процесс строительства объекта в Уху занял около девяти месяцев, что гораздо меньше 18-24 месяцев, требующихся для строительства подобных ЦОД.

Huawei также представила обзорную библиотеку дизайна 3D-ЦОД, включающую пять разделов: «Вычислительная мощность», «Трансформация», «Реконструкция постоянного тока», «Скачок стоимости», «Шедевр» и «Смена парадигмы». Она охватывает системы водоснабжения, кондиционирования, электрические системы высокого и низкого напряжения и многое другое.

Нидерландский стартап Axelera AI объявил о начале отгрузок изделий Europa — специализированных ИИ-чипов следующего поколения (AI Processing Unit, AIPU). Они ориентированы прежде всего на выполнение инференса с высокой энергетической эффективностью.

Первая информация о решениях Europa появилась в октябре прошлого года. Конструкция чипов включает восемь ядер ИИ, 16 векторных ядер с архитектурой RISC-V, 256-бит интерфейс LPDDR5 с пропускной способностью 200 Гбайт/с и 128 Мбайт памяти L2 SRAM. Заявленное быстродействие достигает 629 TOPS на операциях INT8. При производстве применяется 5-нм технология Samsung.

Заказчики могут приобретать чипы Europa для самостоятельного проектирования ИИ-ускорителей. Кроме того, изделия доступны в составе PCIe-карты Axelera Edge 232p формата HHHL с одним AIPU и платы Axelera Server 250p типоразмера FHFL с четырьмя AIPU. Эти устройства могут устанавливаться в серверы и рабочие станции.

Источник изображений: Axelera AI

Как утверждает Axelera AI, решения на базе Europa обеспечивают в шесть раз более высокую производительность (токенов в секунду) на 1 Вт затрачиваемой энергии по сравнению с ускорителями на базе GPU. Новые карты могут применяться не только в составе дата-центров и облачных платформ, но и на периферии, а также на корпоративных площадках.

Ускорители Axelera Edge 232p будут доступны в составе серверов Dell XE5 и Supermicro 111AD. Кроме того, о поддержке Europa объявили такие компании, как 2CRSi, Advantech, Axiomtek, HPE, Lenovo, Seco и др. Продукты Axelera AI внедрили более 600 клиентов по всему миру, включая заказчиков в сферах оборонной промышленности, робототехники, беспилотных летательных аппаратов, розничной торговли и безопасности. Стартап говорит об общем портфеле заказов стоимостью свыше $1,5 млрд.

SiFive и AMD показали возможность работы программной экосистемы AMD ROCm на представленной недавно серверной платформе BigSky Datacenter Development Platform. Компании показали запуск современной ИИ-модели Gemma4-E2B с применением ROCm 10.0 на серверах SiFive с ядрами SiFive P870-D. Непосредственно за инференс отвечали ускорители AMD Radeon AI PRO R9700.

Взаимодействие компания позволит использовать open source ПО, экосистему ROCm и аппаратные решения на архитектуре RISC-V для создания системы ИИ-вычислений в ЦОД нового поколения. Партнёры продолжат заниматься оптимизацией ROCm для RISC-V, желая обеспечить в перспективе ускоренное время обработки данных и большее число сценариев использования ИИ-ускорителей и более крупных ИИ-моделей.

По словам представителя SiFive, комбинация передовой открытой стандартной архитектуры с ПО с открытым исходным кодом позволяет гиперскейлерам и разработчикам решать современные ИИ-задачи на RISC-V. Это будет способствовать ускоренному внедрению RISC-V в ЦОД.

Источник изображения: SiFive

RISC-V-сервер BigSky SF-2U870 разработан специально для портирования, оптимизации и валидации ПО. Платформа включает 32 ядра P870-D (тактовая частота 2,0 ГГЦ), 256 Гбайт DDR5-5600, четыре слота PCIe 5.0 x16 и слот PCIe 3.0 x4. Также используется два SSD U.2 NVMe SSD по 7,68 Тбайт и сетевая карта OCP 3.0 NIC 10/25GbE.

Аналогичную интеграцию с своей платформы с архитектурой RISC-V продвигает и NVIDIA. Ранее компания уже официально объявила о поддержке CUDA соответствующих решений, что позволяет использовать CPU на RISC-V для управления ИИ-ускорителями. Также компания поддержала включение SiFive в свою партнёрскую программу NVLink Fusion.