d-Matrix анонсировала d-Matrix Squadron — вычислительный комплекс из многостоечных систем, обеспечивающий мощность порядка мегаватт для выполнения задач ИИ-инференса. По словам компании, благодаря вычислительной архитектуре d-Matrix, ориентированной на работу с памятью (memory-centric), кластеры Squadron идеально подходят для исследовательских лабораторий в сфере ИИ, корпораций и государственных организаций. Они оптимальны для приложений, критически чувствительных к задержкам, включая инструменты для написания кода, персональных ИИ-агентов, системы кибербезопасности и платформы для высокочастотного трейдинга (HFT).

Система Squadron, разработанная в партнёрстве с компаниями Arista, Broadcom и Supermicro, уже задействована в дата-центре d-Matrix в Аризоне для внутренних исследований и разработок. Компания начала её поставки приоритетным клиентам для внедрения в их ЦОД. Кроме того, в свободную продажу поступили отдельные компоненты системы: серверы и стойки d-Matrix Corsair SquadRack.

Источник изображения: d-Matrix

Система Squadron предлагается в различных конфигурациях: от отдельных стоек d-SquadRack (в каждой — восемь серверов) до полномасштабных интегрированных вычислительных кластеров, включающих до 1024 ускорителей Corsair. Кластеры объединяются в единую сеть с помощью 400G-адаптеров JetStream, а ПО d-Matrix Aviator упрощает их развёртывание. Поскольку кластеры Squadron используют воздушное охлаждение и созданы на базе отраслевых стандартов, заказчики могут интегрировать их в уже существующие ЦОД без необходимости внедрения СЖО или реконструкции инфраструктуры.

Кластеры Squadron, оптимизированные для быстрого и эффективного развёртывания ИИ-систем, способны обеспечиваать работу моделей исключительно на чипах Corsair. Они рассчитаны на работу в гетерогенных средах с использованием дезагрегированных вычислений.

Генеральный директор и соучредитель d-Matrix сообщил, что компания успешно реализовала технологию дезагрегации Attention-FFN (AFD), используя собственную систему Squadron в связке с серверами на базе GPU. При переносе вычислений компонентов Experts/FFN на стойки Corsair гетерогенная система обеспечила генерацию 845 т/с на одного пользователя. При одновременной работе 64 пользователей такая гетерогенная конфигурация с поддержкой AFD продемонстрировала общую пропускную способность 20 415 т/с. d-Matrix уверяет, что первой в отрасли продемонстрировала реализацию концепции AFD на реальном «железе», доступном уже сегодня.

В нынешних условиях для быстрого восстановления сервисов российским компаниям необходимы резервные площадки — ЦОД «судного дня», заявил заместитель президента–председателя правления ПАО «Ростелеком» Валерий Ермаков на форуме РБК Tech. Он отметил, что недавние атаки беспилотников на дата-центры «Яндекса» показали уязвимость централизованной инфраструктуры.

«Так называемый ЦОД судного дня — это то, что должно быть, потому что сегодня бэкап — это то, что позволяет любому сегодня провайдеру услуг очень быстро восстановиться», — заявил Ермаков, сообщает РБК. Он указал на необходимость быстрого реагирования на изменение ситуации и возникновение новых угроз. Если раньше крупные компании концентрировали ключевые сервисы на нескольких площадках, что позволяло повысить экономическую эффективность и упростить управление, то сейчас такая централизация стала уязвимостью.

Сейчас заказчики в срочном порядке переходят к микросотовой архитектуре, которая предполагает распределение сервисов между большим количеством площадок, резервирование мощностей и географическое разнесение объектов инфраструктуры с целью повышения её устойчивости. «Возвращаемся обратно в ту историю, когда мы разносим максимально наши сервисы, разносим таким образом, чтобы это было максимально разнесено по площадкам и, самое главное, обязательно это было ещё отрезервировано. И максимально разносим по географической территории с тем, чтобы сохранить устойчивость. Это действительно очень важный момент», — говорит Ермаков.

Источник изображения: İsmail Enes Ayhan/unsplash.com

Он также указал на потребность в надёжной телеком-инфраструктуре, которая обеспечивала бы при переходе к распределённой архитектуре низкую задержку при передаче больших объёмов данных. С этим в России наблюдаются проблемы, поскольку вся магистральная сеть в России сильно перегружена и большинство оптических каналов построили 20–30 лет назад, и сегодня физически «это стекло начинает тускнеть» со всеми вытекающими отсюда последствиями, включая ослабление и искажение сигнала, снижение пропускной способности линий, увеличение числа ошибок передачи данных и уменьшение надёжности связи.

В ближайшее время, как полагает Ермаков, Россия столкнётся с дефицитом магистральных ресурсов, который станет серьёзным препятствием для перехода к микросотовой архитектуре. По его словам, построенная «Ростелекомом» линия TEA NEXT от Калининграда до Монголии обеспечит дополнительные ресурсы для реагирования на новые угрозы, перехода к распределённой архитектуре и повышения устойчивости бизнеса в России.

Согласно статистике независимого публичного реестра инцидентов, связанных с безопасностью энергетической и сетевой инфраструктуры, Energy Incident Register, количество пожаров и перебоев с электроснабжением ЦОД с 2024 года выросло более чем вдвое, сообщает Datacenter Dynamics.

Так, если в 2024 году в мире было зарегистрировано восемь инцидентов, то в 2025 и 2026 гг. речь идёт о 20 и 19 соответственно. Инциденты отслеживаются реестром на основе открытых данных, опубликованных с 2010 по 2026 гг. в 26 странах. Из 93 зарегистрированных за этот период инцидентов 47 пришлись на 2024 или более поздние годы. Больше всего происшествий зарегистрировано в США — 33 за 16 лет. На втором месте Великобритания с 14 инцидентами за тот же период.

Из 93 инцидентов 52 связаны с пожарами и «тепловыми происшествиями», из них 18 классифицированы как «крупные». Чаще всего проблемы были связаны с системами ИБП и аккумуляторными помещениями, на них приходилось 22 из 93 инцидентов. Второе место занимают резервные генераторы, на которые пришлось 15 происшествий. В большинстве случаев (53 из 93) в публикациях не отмечалось, какой именно элемент оборудования или инфраструктуры вызвал происшествие.

Источник изображения: Lai Man Nung/unsplash.com

Стоит отметить, что с момента публикации исходного сообщения количество отмеченных инцидентов выросло до 174, на 2024 год и позднее пришлось 50 инцидентов. При этом в обновлённой записи имеются данные о двух инцидентах в России — в ЦОД «Яндекса» в Сасово и Владимире. Данные о ЦОД в Калуге ещё не внесли в реестр, как и информацию о ЦОД «Сбера».

Весной Uptime Institute сообщал, что за последнюю пятилетку отказоустойчивость ЦОД значительно выросла. При этом сбои в работе дата-центров по-прежнему происходят, а устранение их обходится всё дороже и времени на это уходит в среднем всё больше. Причинами зачастую являются человеческие ошибки и сбои в электроснабжении.

Французские компании внедряют агентный ИИ во всех сферах — от аэрокосмической до финансового и государственного сектора и научных исследований. NVIDIA принимает участие в новых проектах, особое внимание на данном этапе уделяя стартапам. Ранее она уже вкладывала средства в ведущие технологические компании включая Alice & Bob, Gradium и Scintil Photonics. В целом в Европе компания выделила на развитие технологической экосистемы около $10 млрд.

Теперь компания объявила о новых запланированных инвестициях в Doctolib, Entalpic, Genesis AI и Pigment. Стартапы готовят инновации для здравоохранения, поиска новых материалов, физического ИИ и бизнес-планирования. Так, Doctolib специализируется на медицинских технологиях и разрабатывает ИИ-агентов. Entalpic ускоряет разработку передовых материалов на атомарном уровне, в том числе полупроводников и электроники следующего поколения. Genesis AI — робототехническая компания, разрабатывающая универсальных ИИ-роботов. Pigment предлагает корпоративное ПО и разрабатывает платформу, помогающую управлять предприятиями.

Источник изображения: Anthony Tan/unsplash.com

Аппаратные решения тоже развиваются. Например, Bull расширяет производство ИИ-серверов в Европе, в том числе грядущих NVIDIA Vera Rubin Ultra. Первый спутник Altair-1 в группировке из 50 аппаратов стоимостью $1 млрд успешно выведен на орбиту в октябре. Спутник оснащён модулями NVIDIA Jetson AGX Orin и работает с ИИ-моделями Mistral. В сфере квантовых вычислений Alice & Bob интегрировала платформу NVIDIA NVQLink для работы со своими сверхпроводящими кубитами. Quandela использует NVQLink для интеграции DGX Spark и своих фотонных кубитов

В банковском секторе SBS запускает суверенную платформу управляемых ИИ-сервисов и ИИ-агентов. Также недавно Mistral представила в режиме закрытого тестирования открытую ИИ-модель Mistral Large 4. При поддержке NVIDIA фонд Fondation Inria создает рабочую группу, которая займется развитием передовых методов open source в области ИИ.

Практические результаты во Франции обеспечивает комбинация открытых моделей и инфраструктуры NVIDIA. Например, L’Oréal внедрила NVIDIA ALCHEMI, чтобы её учёные могли эффективнее планировать исследования и анализировать возможные составы продуктов. С помощью дообученных и открытых моделей Mirakl добавила в свою экосистему более 70 млн товаров, а время подключения каталогов продавцов к её платформе сократилось до менее двух часов. Omi помогает брендам массово интегрировать точные изображения товаров в маркетинговый контент. Bouygues Telecom и Prisme.ai запустили платформу AI Studio V2 для того, чтобы сотрудники могли создавать собственных ИИ-агентов в защищённой, контролируемой среде.

В департаменте Кот-д’Ор ThinkDeep и Akila создали ИИ-агента на основе цифрового двойника, применяющего открытые модели мира NVIDIA Cosmos, модели Nemotron и библиотеки Omniverse. Такое решение используется для управления инфраструктурой, включающей 5,8 тыс. км дорог и здания, что уже позволило снизить издержки на 10 %, а в будущем затраты планируется сократить на 30 %. Также Nemotron и Cosmos лежат в основе платформы DeepBrain компании ThinkDeep, предназначенной для обработки грузов и обеспечения безопасности портовой инфраструктуры.

Летом сообщалось, что платформа AI Factory France (AI2F) под руководством Национального управления высокопроизводительных вычислений (GENCI) Франции объявила о запуске в партнёрстве с NVIDIA программы по ускорению ИИ-инноваций в стране. Программа обеспечит компаниям упрощённый доступ к передовой вычислительной инфраструктуре и специализированным ИИ-сервисам. Она объединяет глобальную экосистему NVIDIA с национальными и европейскими ИИ-ресурсами Франции.

Бум ИИ задаёт высокие темпы строительства вычислительной инфраструктуры. В следующем году лидеры рынка облачных услуг сообща направят на эти цели более $1,5 трлн, но даже в этом соответствующая сумма более чем удвоится. На покупку серверных систем в 2027 году будет потрачено более $1,1 трлн.

Такими прогнозами делится TrendForce, учитывая в своей статистике данные о капитальных расходах девяти крупнейших провайдеров облачных услуг (CSP). В текущем году эти затраты они увеличат сразу на 106 % до $957 млрд, лишь немного недотянув до психологически важной отметки в $1 трлн. В следующем году темпы роста капитальных затрат девяти крупнейших CSP вырастут ещё на 60 % и превысят $1,5 трлн, хотя сам прирост будет более скромным по сравнению с текущим годом.

TrendForce к лидерам облачного сегмента относит компании Google, Amazon, Meta✴, Microsoft, Oracle, ByteDance, Tencent, Alibaba и Baidu, которые представляют США и Китай. Ранее аналитики ожидали, что в следующем году перечисленные компании свои совокупные капитальные затраты увеличат только на 50 %, но в силу ряда причин текущий прогноз пересмотрен в сторону прироста на 60 %.

Источник изображения: TrendForce

Три главных фактора способствуют росту расходов этих компаний. Во-первых, цены на готовые серверные системы продолжают расти. Во-вторых, закупки компонентов в условиях дефицита осуществляются в больших объёмах, чем планировалось бы в нормальной ситуации. В-третьих, некоторые поставщики требуют от CSP крупных авансовых платежей в счёт будущих партий продукции.

В сегменте серверов для инфраструктуры ИИ объёмы поставок в текущем году вырастут на 32,2 %, по прогнозам TrendForce. В следующем году темпы роста даже увеличатся до 36 %, поскольку признаков насыщения спроса наблюдаться не будет. В денежном выражении ИИ-серверы сформируют $479 млрд выручки или почти 75 % ёмкости всего рынка серверов в текущем году, которая достигнет $639,2 млрд, по версии TrendForce.

Источник изображения: TrendForce

В следующем году облачные гиганты сосредоточатся на закупках стоечных систем на базе NVIDIA GB300 и VR200, а также AMD Helios. Средняя цена их реализации неизбежно вырастет в условиях дефицита и высокой стоимости микросхем памяти. По прогнозу TrendForce, выручка от реализации серверного оборудования на мировом рынке впервые превысит $1 трлн в 2027 году, причём из этой суммы $920 млрд придутся на выручку от реализации ИИ-серверов. Она вырастет по сравнению с 2026 годом более чем на 90 %. Доля ИИ-серверов на рынке в денежном выражении увеличится примерно до 81 %.

«Сбербанк» подтвердил факт атаки дронов на его ЦОД в Балаково в Саратовской области, отметив, что все системы работают в штатном режиме, пишет ТАСС со ссылкой на заявление первого зампреда правления банка Александра Ведяхина.

«Мы подтверждаем факт атаки на ЦОД. При этом все системы и все сервисы Сбербанка работают штатно. Никто из сотрудников не пострадал», — рассказал Ведяхин журналистам, отвечая на вопрос по поводу последствий атаки беспилотников на объекты кредитного учреждения в Саратовской области.

Источник изображения: «Сбербанк»

ЦОД «Сбербанка» в Балаково находится в процессе строительства, начатого в 2021 году, с поэтапным вводом в эксплуатацию отдельных объектов. Предполагается, что он станет одним из крупнейших в России, после полного ввода в эксплуатацию в 2030 году с общей площадью более 55 тыс. м² в составе семи модулей.

Ранее атакам БПЛА подверглись дата-центр «Яндекса» в Сасово в Рязанской области, ЦОД в Калуге и ЦОД во Владимире, в связи с чем начались сбои в работе ряда сервисов компании. В ЦОД Сасово находятся два крупных суперкомпьютер «Яндекса» — «Червоненкис» и «Ляпунов». Во владимирском дата-центра расположен суперкомпьютер «Галушкин». Также сообщалось, что на территории ЦОД «Сбербанка» ведётся строительство крупнейшего в России суперкомпьютера на 3000 стоек, в которых, по данным «Ведомостей» можно уместить 120–130 тыс. серверов.

Kioxia показала улучшенные твердотельные накопители серии GP1, построенные на основе памяти XL-Flash третьего поколения. Эти устройства ориентированы на высокопроизводительные ИИ-системы, где выполняют функции сверхбыстрого промежуточного уровня хранения между памятью HBM и стандартными SSD.

Оригинальные изделия Kioxia GP1 дебютировали в августе нынешнего года. Они выполнены на флеш-памяти XL-Flash второго поколения и оснащены интерфейсом PCIe 6.0 (NVMe 2.2). Заявленный показатель IOPS (количество операций ввода-вывода в секунду) достигает 10 млн при произвольном чтении данных блоками по 512 байт. Доступны варианты в форм-факторах E3.S и E1.S.

У новых SSD семейства GP1 величина IOPS при произвольном чтении увеличилась вдвое — до 20 млн. Кроме того, XL-Flash третьего поколения обеспечивает в три раза более высокую скорость чтения и примерно на 150 % более высокую скорость записи по сравнению с предшественниками. Новая флеш-память отличается укороченными шинами, что позволило снизить RC-задержку.

Источник изображения: Kioxia

Кроме того, увеличилось количество независимых плоскостей памяти в расчёте на кристалл (XL-Flash второго поколения насчитывает 16 таких плоскостей). Общая эффективность выросла приблизительно на 40 % при чтении и на 80 % при записи, однако энергопотребление на каждую операцию, по оценкам, несколько увеличилось.

Прочие технические характеристики улучшенных SSD пока не раскрываются. В оригинальных накопителях GP1 применяются ячейки MLC (два бита информации), работающие в режиме pSLC. Устройства способны выдерживать до 50 полных перезаписей в сутки (DWPD).

Kioxia анонсировала SSD семейства CM9-DLC с поддержкой прямого жидкостного охлаждения. Накопители ориентированы на применение прежде всего в ИИ-серверах для кеширования контекста.

Изделия выполнены в форм-факторе E3.S с двухпортовой конфигурацией. Задействованы чипы флеш-памяти BiCS FLASH TLC NAND восьмого поколения; для обмена данными служит интерфейс PCIe 5.0 (NVMe 2.0, NVMe-MI 1.2). Говорится о поддержке отдельных положений спецификации OCP Datacenter NVMe SSD v2.5.

Накопители CM9-DLC будут предлагаться в вариантах для смешанных нагрузок и интенсивного чтения. В первом случае вместимость составляет 6,4, 12,8 и 25,6 Тбайт. Скорость последовательного чтения варьируется от 13 500 до 14 800 Мбайт/с, скорость последовательной записи — от 9750 до 11 000 Мбайт/с. Величина IOPS при произвольном чтении данных блоками по 4 Кбайт составляет от 3,2 до 3,4 млн, при произвольной записи — 800 тыс. Такие устройства рассчитаны на три полных перезаписи в сутки (величина DWPD) на протяжении пяти лет.

Источник изображения: Kioxia

В свою очередь, изделия, оптимизированные для операций чтения, могут иметь ёмкость 7,68, 15,36 и 30,72 Тбайт. Их скоростные показатели аналогичны SSD для смешанных нагрузок. При этом значение IOPS при произвольном чтении находится в диапазоне от 2,75 до 3,4 млн, а при произвольной записи — от 270 до 500 тыс. Устройства выдерживают одну полную перезапись в сутки в течение пяти лет.

Все новые накопители могут устанавливаться в серверы как с СЖО, так и с традиционным воздушным охлаждением. Предусмотрены средства защиты данных при внезапном отключении питания Power Loss Protection (PLP), функция мгновенного уничтожения информации (SIE) и инструменты сквозного шифрования. Пробные поставки SSD уже начались.

Компания Visionbay.ai, подразделение Foxconn, представила референсный проект ИИ-фабрики нового поколения K-1 для платформы NVIDIA Vera Rubin с электропитанием 800 В DC и технологиями терморегуляции Vertiv. Использование стандартизированной LVDC-архитектуры создаёт условия для дальнейшего повышения плотности ИИ-инфраструктуры. При этом сохраняется возможность гибкой модернизации уже действующих объектов.

Вместо полного одномоментного перехода на новые технологические решения предлагается поэтапное внедрение распределения питания 800 В DC там, где это целесообразнее всего. Такой подход даёт возможность операторам ЦОД подготовиться к появлению новых поколений ИИ-систем без необходимости масштабной разовой модернизации инженерной инфраструктуры зданий.

Предложенная архитектура предполагает использование центров электропитания на уровне кластеров (cluster-level power centers) с централизацией преобразования переменного тока в постоянный (AC/DC) и распределяют питание 800 В DC ближе к вычислительным ресурсам. Поддерживается модульное расширение, возможно создание типовых инфраструктурных блоков для масштабирования ИИ-фабрик.

Источник изображения: NVIDIA

K-1 отражает системный подход NVIDIA к проектированию ИИ-фабрик. С таким подходом электропитание, охлаждение и вычислительные ресурсы сразу разрабатываются как единая система. Поддержка инфраструктуры с СЖО, масштабируемого распределения электроэнергии и будущих систем класса Vera Rubin позволяет партнёрам экосистемы превращать референсную архитектуру ИИ-фабрик NVIDIA в готовую к развёртыванию инфраструктуру для нового этапа ускоренных вычислений. Примером реализации такой инфрастуркутуры стало предложение Supermicro.

Через семь месяцев после ареста по подозрению в сговоре с целью контрабандных поставок ИИ-ускорителей NVIDIA в Китай внешний подрядчик Supermicro Тин-Вэй «Вилли» Сунь (Ting-Wei “Willy” Sun) признал себя виновным по четырём пунктам обвинения: в сговоре с целью обхода экспортных ограничений, контрабанды товаров, обмана властей США и воспрепятствовании правосудию, сообщает Datacenter Dynamics.

Сунь был одним из трёх человек, работавших на Supermicro, которым власти США предъявили обвинение в контрабанде серверов с ИИ-ускорителями NVIDIA в Китай. Всего, согласно судебным документам, в КНР было направлено серверного оборудования приблизительно на $2,5 млрд — хотя лицензии Министерства торговли США на такую деятельность не было. В числе обвиняемых — один из учредителей Supermicro И-Шьян Лиау (Yih-Shyan Liaw), после ареста покинувший совет директоров компании. Весной текущего года он заявил о своей невиновности по предъявленным обвинениям в федеральном суде Манхэттена.

По версии следствия, подсудимые переупаковывали серверы Supermicro в немаркированные коробки для сокрытия содержимого и использовали поддельные «копии» серверов для обмана при аудите. Судя по записям с камер видеонаблюдения, обвиняемые использовали фен для переклейки серийных номеров с настоящих серверов на копии. После этого использовалась зарегистрированная в Юго-Восточной Азии компания-посредник для сокрытия поставок оборудования с Тайваня в Китай.

Источник изображения: LoboStudio Hamburg/unsplash.com

Как следует из обвинительного заключения, в 2024 году посредник стал одним из крупнейших покупателей Supermicro, в IV квартале финансового года благодаря ему компания выручила $99,7 млн. Самой Supermicro обвинения не предъявляли. Ранее компания публично объявила, что тесно сотрудничает с тайваньскими властями для предотвращения экспорта передовых подсанкционных систем на китайский рынок и привержена защите передовых технологий и интеллектуальной собственности. В компании подчеркнули, что в результате такого взаимодействия властям удалось изъять 50 серверов, обманным путём купленных после продажи авторизованному реселлеру. Сами обвиняемые ранее отрицали нарушение законов.

В июне появились сообщения о том, что в тайваньском офисе компании прошёл обыск. После этого Supermicro заявила, что сама компания «не является объектом данного расследования» и никаких обысков не было. В то же время она признала, что четверо работавших на неё людей задержаны на Тайване для допроса. Также сообщалось, что компания предоставила властям доступ к рабочим местам и электронике сотрудников. Двое из четырёх сотрудников остаются под стражей до суда, ещё двое выпущены под залог.