Marvell анонсировала CXL-контроллеры для расширения памяти — модели Structera X 3406 и 3506 поддерживают до шести каналов и могут использоваться четырьмя хостами, подключаясь через PCIe 6.0 x16.

Marvell Structera X 3406 поддерживает 18 слотов DDR4 RDIMM — до 9 Тбайт памяти на один контроллер, а Structera X 3506 — 12 слотов DDR5 RDIMM, до 6 Тбайт. В отличие от четырёхканальных контроллеров первого поколения новые модели поддерживают спецификации CXL 3.2. Начало поставок инженерных образцов намечено на I квартал 2027 года.

Важнейшим нововведением стала поддержка работы с четырьмя хостами. Таким образом, блок памяти DDR4 или DDR5 превращается в совместно используемый несколькими серверами пул ресурсов, а не выступает индивидуальной картой расширения только для одного. Marvell позиционирует Structera X 3406/3506 как решения для задач инференса, если есть ограничения в производительности памяти или нехватка её объёма для KV-кеша. Подходят они и для моделей рекомендательных систем — их таблицы вложений нередко превышают объём памяти, доступный для адресации одним процессорным сокетом.

Источник изображения: Marvell

Встроенный блок аппаратного ускорения LZ4 достигает скорости сжатия и распаковки в 250 Гбайт/с, что впятерь выше, чем у контроллеров предыдущего поколения. Это позволяет в два-три раза увеличить эффективный объём памяти в зависимости от типа рабочей нагрузки. При запуске рекомендательных моделей Marvell обещает двухкратный рост числа запросов в секунду и увеличение эффективной ёмкости таблиц на контроллер в два-три раза. При инференсе LLM время до получения первого токена сокращается на 40–50 % при той же длине контекста, или при той же задержке можно вдвое увеличить размер контекстного окна в сравнении с контроллерами первого поколения.

За стабильную работу контроллеров Marvell Structera X 3406 и 3506 отвечает технология StructGuard, обеспечивающая функции RAS — она включает передовые средства коррекции ошибок для зашиты от сбоев устройства памяти. Поддерживаются постквантовая криптография, механизм проверки подлинности и целостности Caliptra 2.0, шифрование канала CXL между сервером и контроллером, а также шифрование памяти AES-256. Это первый CXL-контроллер расширения памяти с постквантовой защитой, утверждает Marvell.

Новые Structera X 3406 и 3506 унаследовали драйверы и механизмы проверки совместимости от моделей 2404 и 2504, которые уже поставляются гиперскейлерам. Samsung и SK hynix отметили успешную валидацию Structera со своими модулями памяти. Контроллеры Structera X дополняют линейку, в которую входят ускорители Structera A для организации вычислений вблизи памяти, а также Photonic Fabric Memory Appliance — решение с использованием фотонной связи. Marvell позиционирует этот комплект как комплексное портфолио: от простого расширения памяти с прямым подключением до дезагрегированных систем.

d-Matrix анонсировала d-Matrix Squadron — вычислительный комплекс из многостоечных систем, обеспечивающий мощность порядка мегаватт для выполнения задач ИИ-инференса. По словам компании, благодаря вычислительной архитектуре d-Matrix, ориентированной на работу с памятью (memory-centric), кластеры Squadron идеально подходят для исследовательских лабораторий в сфере ИИ, корпораций и государственных организаций. Они оптимальны для приложений, критически чувствительных к задержкам, включая инструменты для написания кода, персональных ИИ-агентов, системы кибербезопасности и платформы для высокочастотного трейдинга (HFT).

Система Squadron, разработанная в партнёрстве с компаниями Arista, Broadcom и Supermicro, уже задействована в дата-центре d-Matrix в Аризоне для внутренних исследований и разработок. Компания начала её поставки приоритетным клиентам для внедрения в их ЦОД. Кроме того, в свободную продажу поступили отдельные компоненты системы: серверы и стойки d-Matrix Corsair SquadRack.

Источник изображения: d-Matrix

Система Squadron предлагается в различных конфигурациях: от отдельных стоек d-SquadRack (в каждой — восемь серверов) до полномасштабных интегрированных вычислительных кластеров, включающих до 1024 ускорителей Corsair. Кластеры объединяются в единую сеть с помощью 400G-адаптеров JetStream, а ПО d-Matrix Aviator упрощает их развёртывание. Поскольку кластеры Squadron используют воздушное охлаждение и созданы на базе отраслевых стандартов, заказчики могут интегрировать их в уже существующие ЦОД без необходимости внедрения СЖО или реконструкции инфраструктуры.

Кластеры Squadron, оптимизированные для быстрого и эффективного развёртывания ИИ-систем, способны обеспечиваать работу моделей исключительно на чипах Corsair. Они рассчитаны на работу в гетерогенных средах с использованием дезагрегированных вычислений.

Генеральный директор и соучредитель d-Matrix сообщил, что компания успешно реализовала технологию дезагрегации Attention-FFN (AFD), используя собственную систему Squadron в связке с серверами на базе GPU. При переносе вычислений компонентов Experts/FFN на стойки Corsair гетерогенная система обеспечила генерацию 845 т/с на одного пользователя. При одновременной работе 64 пользователей такая гетерогенная конфигурация с поддержкой AFD продемонстрировала общую пропускную способность 20 415 т/с. d-Matrix уверяет, что первой в отрасли продемонстрировала реализацию концепции AFD на реальном «железе», доступном уже сегодня.

В нынешних условиях для быстрого восстановления сервисов российским компаниям необходимы резервные площадки — ЦОД «судного дня», заявил заместитель президента–председателя правления ПАО «Ростелеком» Валерий Ермаков на форуме РБК Tech. Он отметил, что недавние атаки беспилотников на дата-центры «Яндекса» показали уязвимость централизованной инфраструктуры.

«Так называемый ЦОД судного дня — это то, что должно быть, потому что сегодня бэкап — это то, что позволяет любому сегодня провайдеру услуг очень быстро восстановиться», — заявил Ермаков, сообщает РБК. Он указал на необходимость быстрого реагирования на изменение ситуации и возникновение новых угроз. Если раньше крупные компании концентрировали ключевые сервисы на нескольких площадках, что позволяло повысить экономическую эффективность и упростить управление, то сейчас такая централизация стала уязвимостью.

Сейчас заказчики в срочном порядке переходят к микросотовой архитектуре, которая предполагает распределение сервисов между большим количеством площадок, резервирование мощностей и географическое разнесение объектов инфраструктуры с целью повышения её устойчивости. «Возвращаемся обратно в ту историю, когда мы разносим максимально наши сервисы, разносим таким образом, чтобы это было максимально разнесено по площадкам и, самое главное, обязательно это было ещё отрезервировано. И максимально разносим по географической территории с тем, чтобы сохранить устойчивость. Это действительно очень важный момент», — говорит Ермаков.

Источник изображения: İsmail Enes Ayhan/unsplash.com

Он также указал на потребность в надёжной телеком-инфраструктуре, которая обеспечивала бы при переходе к распределённой архитектуре низкую задержку при передаче больших объёмов данных. С этим в России наблюдаются проблемы, поскольку вся магистральная сеть в России сильно перегружена и большинство оптических каналов построили 20–30 лет назад, и сегодня физически «это стекло начинает тускнеть» со всеми вытекающими отсюда последствиями, включая ослабление и искажение сигнала, снижение пропускной способности линий, увеличение числа ошибок передачи данных и уменьшение надёжности связи.

В ближайшее время, как полагает Ермаков, Россия столкнётся с дефицитом магистральных ресурсов, который станет серьёзным препятствием для перехода к микросотовой архитектуре. По его словам, построенная «Ростелекомом» линия TEA NEXT от Калининграда до Монголии обеспечит дополнительные ресурсы для реагирования на новые угрозы, перехода к распределённой архитектуре и повышения устойчивости бизнеса в России.

Согласно статистике независимого публичного реестра инцидентов, связанных с безопасностью энергетической и сетевой инфраструктуры, Energy Incident Register, количество пожаров и перебоев с электроснабжением ЦОД с 2024 года выросло более чем вдвое, сообщает Datacenter Dynamics.

Так, если в 2024 году в мире было зарегистрировано восемь инцидентов, то в 2025 и 2026 гг. речь идёт о 20 и 19 соответственно. Инциденты отслеживаются реестром на основе открытых данных, опубликованных с 2010 по 2026 гг. в 26 странах. Из 93 зарегистрированных за этот период инцидентов 47 пришлись на 2024 или более поздние годы. Больше всего происшествий зарегистрировано в США — 33 за 16 лет. На втором месте Великобритания с 14 инцидентами за тот же период.

Из 93 инцидентов 52 связаны с пожарами и «тепловыми происшествиями», из них 18 классифицированы как «крупные». Чаще всего проблемы были связаны с системами ИБП и аккумуляторными помещениями, на них приходилось 22 из 93 инцидентов. Второе место занимают резервные генераторы, на которые пришлось 15 происшествий. В большинстве случаев (53 из 93) в публикациях не отмечалось, какой именно элемент оборудования или инфраструктуры вызвал происшествие.

Источник изображения: Lai Man Nung/unsplash.com

Стоит отметить, что с момента публикации исходного сообщения количество отмеченных инцидентов выросло до 174, на 2024 год и позднее пришлось 50 инцидентов. При этом в обновлённой записи имеются данные о двух инцидентах в России — в ЦОД «Яндекса» в Сасово и Владимире. Данные о ЦОД в Калуге ещё не внесли в реестр, как и информацию о ЦОД «Сбера».

Весной Uptime Institute сообщал, что за последнюю пятилетку отказоустойчивость ЦОД значительно выросла. При этом сбои в работе дата-центров по-прежнему происходят, а устранение их обходится всё дороже и времени на это уходит в среднем всё больше. Причинами зачастую являются человеческие ошибки и сбои в электроснабжении.

Французские компании внедряют агентный ИИ во всех сферах — от аэрокосмической до финансового и государственного сектора и научных исследований. NVIDIA принимает участие в новых проектах, особое внимание на данном этапе уделяя стартапам. Ранее она уже вкладывала средства в ведущие технологические компании включая Alice & Bob, Gradium и Scintil Photonics. В целом в Европе компания выделила на развитие технологической экосистемы около $10 млрд.

Теперь компания объявила о новых запланированных инвестициях в Doctolib, Entalpic, Genesis AI и Pigment. Стартапы готовят инновации для здравоохранения, поиска новых материалов, физического ИИ и бизнес-планирования. Так, Doctolib специализируется на медицинских технологиях и разрабатывает ИИ-агентов. Entalpic ускоряет разработку передовых материалов на атомарном уровне, в том числе полупроводников и электроники следующего поколения. Genesis AI — робототехническая компания, разрабатывающая универсальных ИИ-роботов. Pigment предлагает корпоративное ПО и разрабатывает платформу, помогающую управлять предприятиями.

Источник изображения: Anthony Tan/unsplash.com

Аппаратные решения тоже развиваются. Например, Bull расширяет производство ИИ-серверов в Европе, в том числе грядущих NVIDIA Vera Rubin Ultra. Первый спутник Altair-1 в группировке из 50 аппаратов стоимостью $1 млрд успешно выведен на орбиту в октябре. Спутник оснащён модулями NVIDIA Jetson AGX Orin и работает с ИИ-моделями Mistral. В сфере квантовых вычислений Alice & Bob интегрировала платформу NVIDIA NVQLink для работы со своими сверхпроводящими кубитами. Quandela использует NVQLink для интеграции DGX Spark и своих фотонных кубитов

В банковском секторе SBS запускает суверенную платформу управляемых ИИ-сервисов и ИИ-агентов. Также недавно Mistral представила в режиме закрытого тестирования открытую ИИ-модель Mistral Large 4. При поддержке NVIDIA фонд Fondation Inria создает рабочую группу, которая займется развитием передовых методов open source в области ИИ.

Практические результаты во Франции обеспечивает комбинация открытых моделей и инфраструктуры NVIDIA. Например, L’Oréal внедрила NVIDIA ALCHEMI, чтобы её учёные могли эффективнее планировать исследования и анализировать возможные составы продуктов. С помощью дообученных и открытых моделей Mirakl добавила в свою экосистему более 70 млн товаров, а время подключения каталогов продавцов к её платформе сократилось до менее двух часов. Omi помогает брендам массово интегрировать точные изображения товаров в маркетинговый контент. Bouygues Telecom и Prisme.ai запустили платформу AI Studio V2 для того, чтобы сотрудники могли создавать собственных ИИ-агентов в защищённой, контролируемой среде.

В департаменте Кот-д’Ор ThinkDeep и Akila создали ИИ-агента на основе цифрового двойника, применяющего открытые модели мира NVIDIA Cosmos, модели Nemotron и библиотеки Omniverse. Такое решение используется для управления инфраструктурой, включающей 5,8 тыс. км дорог и здания, что уже позволило снизить издержки на 10 %, а в будущем затраты планируется сократить на 30 %. Также Nemotron и Cosmos лежат в основе платформы DeepBrain компании ThinkDeep, предназначенной для обработки грузов и обеспечения безопасности портовой инфраструктуры.

Летом сообщалось, что платформа AI Factory France (AI2F) под руководством Национального управления высокопроизводительных вычислений (GENCI) Франции объявила о запуске в партнёрстве с NVIDIA программы по ускорению ИИ-инноваций в стране. Программа обеспечит компаниям упрощённый доступ к передовой вычислительной инфраструктуре и специализированным ИИ-сервисам. Она объединяет глобальную экосистему NVIDIA с национальными и европейскими ИИ-ресурсами Франции.

Бум ИИ задаёт высокие темпы строительства вычислительной инфраструктуры. В следующем году лидеры рынка облачных услуг сообща направят на эти цели более $1,5 трлн, но даже в этом соответствующая сумма более чем удвоится. На покупку серверных систем в 2027 году будет потрачено более $1,1 трлн.

Такими прогнозами делится TrendForce, учитывая в своей статистике данные о капитальных расходах девяти крупнейших провайдеров облачных услуг (CSP). В текущем году эти затраты они увеличат сразу на 106 % до $957 млрд, лишь немного недотянув до психологически важной отметки в $1 трлн. В следующем году темпы роста капитальных затрат девяти крупнейших CSP вырастут ещё на 60 % и превысят $1,5 трлн, хотя сам прирост будет более скромным по сравнению с текущим годом.

TrendForce к лидерам облачного сегмента относит компании Google, Amazon, Meta✴, Microsoft, Oracle, ByteDance, Tencent, Alibaba и Baidu, которые представляют США и Китай. Ранее аналитики ожидали, что в следующем году перечисленные компании свои совокупные капитальные затраты увеличат только на 50 %, но в силу ряда причин текущий прогноз пересмотрен в сторону прироста на 60 %.

Источник изображения: TrendForce

Три главных фактора способствуют росту расходов этих компаний. Во-первых, цены на готовые серверные системы продолжают расти. Во-вторых, закупки компонентов в условиях дефицита осуществляются в больших объёмах, чем планировалось бы в нормальной ситуации. В-третьих, некоторые поставщики требуют от CSP крупных авансовых платежей в счёт будущих партий продукции.

В сегменте серверов для инфраструктуры ИИ объёмы поставок в текущем году вырастут на 32,2 %, по прогнозам TrendForce. В следующем году темпы роста даже увеличатся до 36 %, поскольку признаков насыщения спроса наблюдаться не будет. В денежном выражении ИИ-серверы сформируют $479 млрд выручки или почти 75 % ёмкости всего рынка серверов в текущем году, которая достигнет $639,2 млрд, по версии TrendForce.

Источник изображения: TrendForce

В следующем году облачные гиганты сосредоточатся на закупках стоечных систем на базе NVIDIA GB300 и VR200, а также AMD Helios. Средняя цена их реализации неизбежно вырастет в условиях дефицита и высокой стоимости микросхем памяти. По прогнозу TrendForce, выручка от реализации серверного оборудования на мировом рынке впервые превысит $1 трлн в 2027 году, причём из этой суммы $920 млрд придутся на выручку от реализации ИИ-серверов. Она вырастет по сравнению с 2026 годом более чем на 90 %. Доля ИИ-серверов на рынке в денежном выражении увеличится примерно до 81 %.

«Сбербанк» подтвердил факт атаки дронов на его ЦОД в Балаково в Саратовской области, отметив, что все системы работают в штатном режиме, пишет ТАСС со ссылкой на заявление первого зампреда правления банка Александра Ведяхина.

«Мы подтверждаем факт атаки на ЦОД. При этом все системы и все сервисы Сбербанка работают штатно. Никто из сотрудников не пострадал», — рассказал Ведяхин журналистам, отвечая на вопрос по поводу последствий атаки беспилотников на объекты кредитного учреждения в Саратовской области.

Источник изображения: «Сбербанк»

ЦОД «Сбербанка» в Балаково находится в процессе строительства, начатого в 2021 году, с поэтапным вводом в эксплуатацию отдельных объектов. Предполагается, что он станет одним из крупнейших в России, после полного ввода в эксплуатацию в 2030 году с общей площадью более 55 тыс. м² в составе семи модулей.

Ранее атакам БПЛА подверглись дата-центр «Яндекса» в Сасово в Рязанской области, ЦОД в Калуге и ЦОД во Владимире, в связи с чем начались сбои в работе ряда сервисов компании. В ЦОД Сасово находятся два крупных суперкомпьютер «Яндекса» — «Червоненкис» и «Ляпунов». Во владимирском дата-центра расположен суперкомпьютер «Галушкин». Также сообщалось, что на территории ЦОД «Сбербанка» ведётся строительство крупнейшего в России суперкомпьютера на 3000 стоек, в которых, по данным «Ведомостей» можно уместить 120–130 тыс. серверов.

Kioxia показала улучшенные твердотельные накопители серии GP1, построенные на основе памяти XL-Flash третьего поколения. Эти устройства ориентированы на высокопроизводительные ИИ-системы, где выполняют функции сверхбыстрого промежуточного уровня хранения между памятью HBM и стандартными SSD.

Оригинальные изделия Kioxia GP1 дебютировали в августе нынешнего года. Они выполнены на флеш-памяти XL-Flash второго поколения и оснащены интерфейсом PCIe 6.0 (NVMe 2.2). Заявленный показатель IOPS (количество операций ввода-вывода в секунду) достигает 10 млн при произвольном чтении данных блоками по 512 байт. Доступны варианты в форм-факторах E3.S и E1.S.

У новых SSD семейства GP1 величина IOPS при произвольном чтении увеличилась вдвое — до 20 млн. Кроме того, XL-Flash третьего поколения обеспечивает в три раза более высокую скорость чтения и примерно на 150 % более высокую скорость записи по сравнению с предшественниками. Новая флеш-память отличается укороченными шинами, что позволило снизить RC-задержку.

Источник изображения: Kioxia

Кроме того, увеличилось количество независимых плоскостей памяти в расчёте на кристалл (XL-Flash второго поколения насчитывает 16 таких плоскостей). Общая эффективность выросла приблизительно на 40 % при чтении и на 80 % при записи, однако энергопотребление на каждую операцию, по оценкам, несколько увеличилось.

Прочие технические характеристики улучшенных SSD пока не раскрываются. В оригинальных накопителях GP1 применяются ячейки MLC (два бита информации), работающие в режиме pSLC. Устройства способны выдерживать до 50 полных перезаписей в сутки (DWPD).

Kioxia анонсировала SSD семейства CM9-DLC с поддержкой прямого жидкостного охлаждения. Накопители ориентированы на применение прежде всего в ИИ-серверах для кеширования контекста.

Изделия выполнены в форм-факторе E3.S с двухпортовой конфигурацией. Задействованы чипы флеш-памяти BiCS FLASH TLC NAND восьмого поколения; для обмена данными служит интерфейс PCIe 5.0 (NVMe 2.0, NVMe-MI 1.2). Говорится о поддержке отдельных положений спецификации OCP Datacenter NVMe SSD v2.5.

Накопители CM9-DLC будут предлагаться в вариантах для смешанных нагрузок и интенсивного чтения. В первом случае вместимость составляет 6,4, 12,8 и 25,6 Тбайт. Скорость последовательного чтения варьируется от 13 500 до 14 800 Мбайт/с, скорость последовательной записи — от 9750 до 11 000 Мбайт/с. Величина IOPS при произвольном чтении данных блоками по 4 Кбайт составляет от 3,2 до 3,4 млн, при произвольной записи — 800 тыс. Такие устройства рассчитаны на три полных перезаписи в сутки (величина DWPD) на протяжении пяти лет.

Источник изображения: Kioxia

В свою очередь, изделия, оптимизированные для операций чтения, могут иметь ёмкость 7,68, 15,36 и 30,72 Тбайт. Их скоростные показатели аналогичны SSD для смешанных нагрузок. При этом значение IOPS при произвольном чтении находится в диапазоне от 2,75 до 3,4 млн, а при произвольной записи — от 270 до 500 тыс. Устройства выдерживают одну полную перезапись в сутки в течение пяти лет.

Все новые накопители могут устанавливаться в серверы как с СЖО, так и с традиционным воздушным охлаждением. Предусмотрены средства защиты данных при внезапном отключении питания Power Loss Protection (PLP), функция мгновенного уничтожения информации (SIE) и инструменты сквозного шифрования. Пробные поставки SSD уже начались.

Компания Visionbay.ai, подразделение Foxconn, представила референсный проект ИИ-фабрики нового поколения K-1 для платформы NVIDIA Vera Rubin с электропитанием 800 В DC и технологиями терморегуляции Vertiv. Использование стандартизированной LVDC-архитектуры создаёт условия для дальнейшего повышения плотности ИИ-инфраструктуры. При этом сохраняется возможность гибкой модернизации уже действующих объектов.

Вместо полного одномоментного перехода на новые технологические решения предлагается поэтапное внедрение распределения питания 800 В DC там, где это целесообразнее всего. Такой подход даёт возможность операторам ЦОД подготовиться к появлению новых поколений ИИ-систем без необходимости масштабной разовой модернизации инженерной инфраструктуры зданий.

Предложенная архитектура предполагает использование центров электропитания на уровне кластеров (cluster-level power centers) с централизацией преобразования переменного тока в постоянный (AC/DC) и распределяют питание 800 В DC ближе к вычислительным ресурсам. Поддерживается модульное расширение, возможно создание типовых инфраструктурных блоков для масштабирования ИИ-фабрик.

Источник изображения: NVIDIA

K-1 отражает системный подход NVIDIA к проектированию ИИ-фабрик. С таким подходом электропитание, охлаждение и вычислительные ресурсы сразу разрабатываются как единая система. Поддержка инфраструктуры с СЖО, масштабируемого распределения электроэнергии и будущих систем класса Vera Rubin позволяет партнёрам экосистемы превращать референсную архитектуру ИИ-фабрик NVIDIA в готовую к развёртыванию инфраструктуру для нового этапа ускоренных вычислений. Примером реализации такой инфрастуркутуры стало предложение Supermicro.