NVIDIA объявила о серии совместных проектов с SoftBank, направленных на ускорение суверенных инициатив Японии в области ИИ, которые также обеспечат возможность получения дохода от ИИ для поставщиков телекоммуникационных услуг по всему миру.

В выступлении на саммите NVIDIA AI Summit Japan генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) объявил, что SoftBank создаёт самый мощный в Японии ИИ-суперкомпьютер с использованием платформы NVIDIA DGX SuperPOD B200 и интерконнекта Quantum-2 InfiniBand. Эта система станет первой в мире, которая получит системы DGX B200. Она будет использоваться компанией для разработки генеративного ИИ и развития других бизнес-решений, а также для предоставления вычислительных услуг университетам, научно-исследовательским институтам и предприятиям в стране. Суперкомпьютер идеально подойдёт для разработки больших языковых моделей (LLM), говорится в пресс-релизе.

Пока что на звание самого мощного ИИ-суперкомьютера Японии претендует система ABCI 3.0 на базе NVIDIA H200. Впрочем, Softbank не сидит сложа руки и планирует построить ещё один суперкомпьютер, на этот раз на базе суперускорителей GB200 NVL72. Они же будут использоваться в проекте Sharp, KDDI и Supermicro по созданию «крупнейшего в Азии» ИИ ЦОД.

Источник изображения: NVIDIA

Также в ходе саммита было объявлено, что SoftBank, используя платформу ускоренных вычислений NVIDIA AI Aerial, успешно запустил первую в мире телекоммуникационную сеть, объединяющую возможности ИИ и 5G. В ходе испытаний, проведенных в префектуре Канагава, SoftBank продемонстрировала, что решение AI-RAN достигло производительности 5G операторского класса, используя ресурсы ускорителя для одновременной обработки сетевого трафика и инференса.

Отмечается, что мобильные сети традиционно рассчитаны на обработку пиковых нагрузок и в среднем задействуют только треть аппаратных ресурсов, что позволяет монетизировать оставшиеся две трети путём предоставления ИИ-сервисов. NVIDIA и SoftBank также сообщили, что с помощью ПО NVIDIA AI Enterprise японская компания будет создавать локализованные безопасные ИИ-сервисы.

ИИ вообще и генеративный ИИ в частности привели к стремительному росту энергопотребления ЦОД — по прогнозам агентства Gartner, в следующие два года рост составит 160 %. В результате ожидается, что 40 % существующих ИИ ЦОД будут ограничены в энергоресурсах к 2027 году. Как утверждают в агентстве, взрывной рост новых ИИ ЦОД гиперскейл-уровня обеспечивает постоянный рост спроса на электроэнергию, который совсем скоро превысит возможности поставщиков электричества.

Это грозит нехваткой энергии и перебоями в энергоснабжении, что ограничит рост новых ЦОД для систем генеративного ИИ и прочих целей с 2026 года. По оценкам Gartner, для обеспечения работы для ИИ серверов в 2027 году понадобится 500 ТВт∙ч, что в 2,6 раза больше, чем в 2023 году.

Дефицит энергии может затянуться, поскольку на создание новой инфраструктуры для генерации, распределения и доставки энергии уйдут годы, а уже назревшие проблемы никуда не денутся. В скором будущем число новых ЦОД и развитие систем генеративного ИИ будет определяться доступностью энергии. В Gartner рекомендуют организациям и компаниям оценить влияние риск дефицита энергии на их продукты и сервисы. Стоит не только принимать в расчёт рост стоимости электричества при планировании новых продуктов и сервисов, но и искать новые решения, требующие меньше энергии.

Источник изображения: Gartner

Неизбежно связанное с дефицитом повышение цен на электричество увеличит стоимость эксплуатации больших языковых моделей (LLM). Хотя ключевые пользователи электроэнергии заранее работают над заключением долгосрочных контрактов, зачастую по фиксированным ставкам, стоимость энергии для питания дата-центров в любом случае значительно вырастет. Это скажется на стоимости ИИ как продукта и бизнесе соответствующих сервис-провайдеров.

Вероятно, цели по достижению экоустойчивости при этом пострадают. Ранее уже прогнозировалось, что операторы ЦОД не смогут добиться заявленных целей, теперь к сходным выводам приходят и в Gartner. В краткосрочной перспективе растущий спрос заставит поставщиков добывать энергию любыми доступными способами. В некоторых случаях это означает сохранение электростанций на ископаемом топливе, которые при других обстоятельствах закрылись бы в плановом порядке. В Gartner подчёркивают, что масштабирование ЦОД приведёт и к росту выбросов CO₂ в краткосрочной перспективе.

Источник изображения: Janusz Walczak/unsplash.com

Дата-центрам требуется энергоснабжение в режиме 24/7, а такого не могут обеспечить классические ветряные и солнечные электростанции. Надёжно поставлять энергию в больших объёма могут только ГЭС, станции на ископаемом топливе и АЭС. В долгосрочной перспективе новые технологии энергохранилищ (вроде натрий-ионных аккумуляторов) или «чистая» энергия вроде малых модульных реакторов (SMR) позволит легче добиваться ESG-целей.

В Gartner рекомендуют пересмотреть цели достижения экоустойчивости, связанные с выбросами углекислого газа с учётом будущих требований ЦОД и доступности источников энергии в ближайшие годы. При разработке ИИ-приложений стоит сконцентрировать усилия на использовании минимальных вычислительных мощностей и оценивать другие возможности вроде широкого применение периферийных вычислений и т.н. малых языковых моделей (SLM), имеющих узкую специализацию.

Компания TrendFocus, по сообщению StorageNewsletter, подвела итоги исследования глобального рынка SSD в III квартале 2024 года. Поставки в натуральном выражении зафиксированы на отметке 62,443 млн единиц: это на 8 % меньше по сравнению с предыдущим кварталом.

Вместе с тем в ёмкостном плане отмечен рост: суммарная вместимость отгруженных за три месяца SSD поднялась в квартальном исчислении примерно на 10 %, достигнув 99,187 Эбайт. Таким образом, средний объём поставляемых накопителей существенно увеличился.

Рейтинг ведущих игроков мирового рынка SSD возглавляет Samsung с долей 24,2 % по итогам III четверти 2024-го. На втором месте находится Western Digital, показавшая результат в 16,5 %. Замыкает тройку Micron с 12,9 %. Если рассматривать отрасль с точки зрения общей вместимости поставленных накопителей, то первое место также принадлежит Samsung — 34,0 %. Далее идут Solidigm с 14,4 % и Micron с 14,2 %.

Источник изображения: TrendFocus / StorageNewsletter

Продажи SSD корпоративного класса с интерфейсом PCle подскочили в квартальном исчислении на 29 % — до 10,954 млн штук. Их суммарная вместимость при этом поднялась на 25 %, достигнув 55,654 Эбайт. Оба показателя являются рекордными. Вместе с тем отгрузки корпоративных SATA-изделий уменьшились на 23 % в штуках и на 45 % в ёмкостном плане — до 2,642 млн и 2,546 Эбайт соответственно. Поставки твердотельных SAS-накопителей снизились на 11 % — до 0,705 млн, но их общая ёмкость подросла на 0,9 %, составив 3,270 Эбайт.

В клиентском сегменте из-за сохраняющегося слабого спроса со стороны OEM-производителей и наличия складских запасов отгрузки SSD снизились квартал к кварталу на 12 %, оказавшись на отметке 48,142 млн единиц. Общая вместимость упала на 1% — до 37,716 Эбайт.

Министерство внутренних дел России (МВД), по сообщению газеты «Ведомости», столкнулось с серьёзными проблемами при замене вышедших из строя серверов на российских процессорах «Эльбрус», разработкой которых занимается АО «МЦСТ». Дело в том, что поставки этих чипов ограничены.

Как сообщил заместитель начальника департамента информационных технологий, связи и защиты информации МВД Игорь Кашпур, с 2020-го по 2024 год ведомство приобрело в общей сложности 709 серверов с процессорами «Эльбрус». В частности, в марте 2021-го МВД выделило 1,16 млрд руб. для закупки 298 систем. Позднее в том же году планировалось приобрести ещё 80 серверов на 350 млн руб. А в 2023-м ведомство получило 23 сервера на «Эльбрусах» общей стоимостью 86,3 млн руб.

Как отмечает Кашпур, серверы служат для поддержания работы сервисов автоматизации деятельности центров фиксации административных правонарушений в области дорожного движения в базе специального ПО «Паутина», а также единого информационного ресурса регистрационного иммиграционного учета. Проблема заключается в том, что эти машины демонстрируют невысокую отказоустойчивость. Причём у МВД фактически отсутствует возможность оперативной замены такого оборудования при выходе его из строя вследствие форс-мажорных обстоятельств, поскольку отгрузки новых серверов осуществляются исключительно в плановом порядке.

Источник изображения: МЦСТ

В МЦСТ говорят, что имеющийся на сегодняшний день резерв чипов «Эльбрус» распределён, тогда как новые партии «временно не производятся». Вместе с тем директор по развитию компании Константин Трушкин сообщил, что возможности и мощности для производства требуемого оборудования у МЦСТ имеются. По его словам, решаются вопросы, связанные с возобновлением поставок.

Говорится также, что проблемы с серверами на чипах «Эльбрус» испытывают и другие организации, в число которых входят банки, операторы и госкорпорации. Участники рынка говорят, что трудности с выпуском процессоров у МЦСТ возникли в связи с санкциями. От выпуска «Эльбрусов» отказался тайваньский контрактный производитель TSMC, который ранее занимался выполнением соответствующих заказов. У МЦСТ были планы по переносу производства на завод «Микрон», но они так и не были реализованы. Сейчас компания находится под внешним управлением.

Micron представила SSD 6550 ION, который позиционируется как самый быстрый в мире 61,44-Тбайт накопитель для ЦОД и первый в мире накопитель стандарта PCIe 5.0 x4 (NVMe 2.0b) в форм-факторе E3.S с такой ёмкостью. Новинка подходит для растущих рабочих нагрузок ИИ, обеспечивая при этом лучшую в своем классе производительность и до 20 % более низкое энергопотребление по сравнению с накопителями конкурирующих брендов.

Нюанс в том, что самым быстрым Micron 6550 ION является именно при таком сочетании ёмкости, форм-фактора и интерфейса, а сравнение делается с решениями Samsung, Solidigm и Western Digital, но не Kioxia. Типовое энергопотребление у новинок не превышает 20 Вт. Точно такой же показатель есть у одной из моделей Western Digital, но решение Micron быстрее. 6550 ION соответствует стандарту OCP 2.5 и имеет активное управление питание (ASPM). Это позволяет накопителю потреблять в режиме ожидания 4 Вт в состоянии L1 против 5 Вт в состоянии L0, что до 20 % повышает энергоэффективность в простое.

Источник изображений: Micron

6550 ION подходят для создания озёр данных для ИИ, для приёма, подготовки данных и создания контрольных точек во время обучения, для хранения файлов и объектов, создания публичных облачных хранилищ, обслуживания аналитических баз данных, а также для систем доставки контента. Также сообщается, что 6550 ION обеспечивает ведущую в отрасли плотность хранения, позволяя клиентам сократить площадь ЦОД до 67 %, обеспечивая плотность на уровне 1,2 Пбайт/1U.

Скорость последовательного чтения/записи 6550 ION достигает 12,5/5,0 Гбайт/с. Значение IOPS при работе с блоками данных по 4 Кбайт — до 1,6 млн при произвольном чтении и до 70 тыс. при произвольной записи. 6550 ION может быть полностью записан за 3,4 часа, в то время как конкурирующие диски заполняются на 150 % дольше, отмечает компания.

Источник: ServeTheHome

Кроме того, 6550 ION также превосходит SSD аналогичной ёмкости в критических ИИ-нагрузках, включая работу с NVIDIA Magnum IO GPUDirect Storage (GDS), работу с блоками данных 4 Кбайт при обучении некоторых сетей и создание контрольных точек во время обучения ИИ. При тренировке LLM с с миллиардами параметров контрольные точки создаются довольно часто, а ускорители могут простаивать десятки минут, пока данные сбрасываются на SSD.

Источник: ServeTheHome

Micron 6550 ION доступен в форм-факторах E3.S (1T), U.2 и E1.L и имеет ёмкость 30,72 или 61,44 Тбайт. Кроме того, сообщается, что 6550 ION предлагает ведущий в отрасли набор функций безопасности, включая SPDM 1.2 для аттестации и SHA-512 для безопасной генерации подписей. Он соответствует требованиям TAA и сертифицирован по стандарту FIPS 140-3 L2.

Накопитель имеет надёжность на уровне 1,0 RDWPD при записи случайных блоков на 16 Кбайт, а для 4-Кбайт блоков — 0,25 RDWPD. Диапазон рабочих температур простирается от 0 до 70 °C. Показатель MTTF составляет 2,5 млн часов. Гарантия производителя — 5 лет. Также отмечается, что 6550 ION полностью состоит из компонентов, изготовленных самой Micron.

Французская государственная энергоснабжающая компания EDF (Électricité de France), которая является одним из крупнейших в мире производителей атомной энергии, обсуждает поставки электричества для трёх кампусов ЦОД во Франции мощностью 1 ГВт каждый. По данным Reuters, соответствующей информацией поделился представитель ED.

В октябре EDF запустила Project Giga для удовлетворения растущего спроса на энергию со стороны ИИ ЦОД. В рамках проекта планируется использовать землю и инфраструктуру EDF для поставок низкоуглеродной энергии гиперскейлерам вроде Microsoft и Google. В том же месяце выработка атомной энергии во Франции составляла 30,0 ТВт∙ч, на 1,7 ТВт∙ч больше год к году. С начала года ежегодные кумулятивные поставки составили 292,0 ТВт∙ч, на 30,7 ТВт∙ч больше в сравнении с 2023 годом, отмечает Datacenter Dynamics.

Несмотря на рост интереса к «мирному атому» на европейском рынке, активнее и радушнее всего атомную энергию принимают в США, это касается как обычных атомных электростанций, так и малых модульных реакторов (SMR). В сентябре Microsoft согласились заключить PPA на 20 лет с Constellation Energy для получения 100 % электричества с АЭС Three Mile Island в Пенсильвании. В марте AWS приобрела кампус ЦОД Talen Energy рядом АЭС Susquehanna, тоже в Пенсильвании — за $650 млн.

Источник изображения: Jametlene Reskp / Unsplash

В секторе SMR компания подписала три соглашения для содействия внедрению SMR для питания ЦОД. В том числе речь идёт о соглашениях с Energy Northwest и Dominion Energy, а также прямых инвестициях в разработчика SMR — X-energy. Не так давно Google анонсировала сделку на поставку 500 МВт с разработчиком SMR— Kairos Power. Компания рассчитывает, что первые из шести-семи реакторов в рамках соглашения заработают в 2030 году.

Supermicro, по данным UDN, лишилась заказа от индонезийской YTL Group (YTLP) на поставку новейших суперускорителей NVIDIA GB200 NVL72 для одного из крупнейших в Юго-Восточной Азии ИИ-суперкомпьютеров. Изначально заказ YTL был поделен между Supermicro и Wiwynn (Wistron), но теперь поставками будет заниматься только Wiwynn.

В начале ноября появилась информация о том, что NVIDIA начала менять цепочку поставок, перенаправляя чипы, предназначавшиеся Supermicro, другим вендорам. В последнее время Supermicro была третьим по величине партнёром NVIDIA по объёму закупок чипов. Supermicro, по слухам, остановила расширение двух заводов в Малайзии, которые должны были удвоить её производственные мощности до 10 тыс. полностью укомплектованных стоек с СЖО в месяц.

Остановка строительства заводов негативно сказалась на планах YTL Group, крупного покупателя ИИ-серверов NVIDIA и одного из крупнейших клиентов Supermicro. YTL намерена за $4,3 млрд построить кампус ЦОД площадью более 660 га в Джохоре (Малайзия) и разместить там самый производительный в стране или даже регионе ИИ-суперкомпьютер (300 Эфлопс). По данным UDN, YTL вынужденно передала заказ тайваньской Wywinn. Последняя также владеет современным производством в Малайзии, которое недавно было расширено.

Крупные неприятности у Supermicro начались в августе, когда Hindenburg Research обвинила компанию в различных злоупотреблениях, включая манипуляции с бухгалтерской отчётностью. Впоследствии собственное расследование открыло Министерства юстиции США. Ernst & Young отказалась от аудита Supermicro, а сама компания уже несколько раз откладывала публикацию финансовой отчётности. Всё это привело к резкому падению стоимости акций компании. А сейчас ей и вовсе грозит делистинг с Nasdaq.

Российский поставщик решений корпоративного класса ITPOD анонсировал собственное семейство СХД с поддержкой протокола NVMe/TCP. Импортозамещающие устройства, как утверждается, подходят как для небольших, так и для крупных компаний.

В серию вошли три модели типа All-Flash — ITPOD FF-100, ITPOD FF-300 и ITPOD FF-500 с поддержкой соответственно 24, 48 и 72 NVMe-накопителей. Максимальная сырая ёмкость достигает 367 Тбайт, 734 Тбайт и 1,1 Пбайт, эффективная — 1,5 Пбайт, 3 Пбайт и 4 Пбайт соответственно.

Все новинки используют два контроллера в режиме Active–Active. Допускается установка TLC SSD вместимостью 3,2, 6,4 и 12,8 Тбайт, а также накопителей QLC SSD на 15,3 Тбайт. Поддерживаются протоколы iSCSI, NVMe/TCP и NFS. Возможно подключение двух NVMe-полок без дополнительных коммутаторов.

Источник изображений: ITPOD

Есть два порта 1GbE и выделенный сетевой порт управления 1GbE. Кроме того, предусмотрены четыре слота расширения для установки адаптеров 10GbE SFP+ (4 порта), 25GbE SFP28 (два порта) или 40/100GbE QSFP28 (два порта). Диапазон рабочих температур — от +10 до +35 °C. Аппаратная платформа, судя по всему, заказана у Gooxi.

Версия начального уровня ITPOD FF-100 несёт на борту 512 Гбайт памяти и обеспечивает производительность до 400 тыс. IOPS. Вариант среднего уровня ITPOD FF-300 оснащён 1024 Гбайт памяти, а значение IOPS достигает 600 тыс. Наиболее производительная модель ITPOD FF-500 комплектуется 1536 Гбайт памяти и имеет показатель IOPS до 1 млн. Все устройства наделены 64 Гбайт памяти NVRAM.

СХД устойчивы к отказам до трёх накопителей, поддерживают транзакционную целостность и автоматическое восстановление данных. Все ключевые компоненты имеют резервирование, обеспечивая непрерывную эксплуатацию.

В семейство СХД ITPOD также войдут гибридные модели на основе SSD и HDD, но их характеристики пока не раскрываются. Системы подойдут для компаний, работающих с большими массивами данных, аналитикой, облачными технологиями и другими информационными системами.

Компания «Рикор» анонсировала компьютеры небольшого форм-фактора Rikor MSK и Rikor Pro для корпоративных клиентов. Устройства, как утверждается, стали первыми серийными мини-ПК, корпус которых полностью произведён в России: это сокращает время поставки, уменьшает стоимость, а также даёт дополнительную гибкость при заказе.

В основу новинок положена аппаратная платформа Intel Alder Lake, но позже появится модификация на платформе AMD. Сейчас доступен выбор из процессоров Core i3-12100 (4С/8Т; 3,3–4,3 ГГц; 60 Вт) и Core i5-12400 (6С/12Т; 2,5–4,4 ГГц; 65 Вт). Доступны два слота SO-DIMM для модулей DDR4-3200 суммарным объёмом до 64 Гбайт.

Источник изображения: «Рикор»

Устройства заключены в корпус с габаритами 180 × 178 × 39 мм (объём около 1,25 л). Есть коннектор М.2 для SSD с интерфейсом PCIe 3.0 или SATA-3 и ещё один разъём М.2 для SSD SATA-3. Кроме того, может быть установлен SFF-накопитель SATA-3. В оснащение входят адаптеры Wi-Fi 6 и Bluetooth 5.2, сетевой контроллер 1GbE. Изображение может выводиться одновременно на несколько мониторов через интерфейсы D-Sub, HDMI 1.4b и DisplayPort 1.4. Доступны четыре порта USB 3.2 Gen1 Type-A, два порта USB 3.2 Gen1 Type-С и два порта USB 2.0 Type-A, гнездо RJ-45 для сетевого кабеля и набор аудиогнёзд на 3,5 мм. За питание отвечает внешний блок мощностью 90 Вт. Упомянут модуль ТРМ 2.0.

Ключевым преимуществом устройств «Рикор» называет максимальную локализацию производства. Инженеры компании разработали конструкцию объёмом немногим более 1 л, которая, как отмечается, не только не уступает зарубежным аналогам по ключевым характеристикам, но и превосходит их по прочности и лёгкости. Полный цикл производства внутри страны позволяет снизить стоимость устройств благодаря экономии на логистике и материалах, а также ускоряет поставки клиентам.

Компания AIC представила JBOD-массив J4108-02-04X, предназначенный для формирования систем хранения данных большой ёмкости. Решение, рассчитанное на установку в стойку, выполнено в форм-факторе 4U с габаритами 434 × 1050 × 176 мм.

Новинка допускает использование 108 накопителей LFF или SFF, для монтажа/демонтажа которых не требуются инструменты. Поддерживается горячая замена, что обеспечивает простоту обслуживания и сокращает время простоя.

Задействованы карты расширения Expander с поддержкой SAS4 × 48 (Hub), а также SAS35 × 40, SAS35 × 36/SAS4 × 40, SAS4 × 32 (Edge). Реализованы четыре хост-интерфейса Mini SAS HD (SFF-8674; обратно совместим с SFF-8644 SAS12G) в расчёте на модуль расширения.

Источник изображений: AIC

Интерфейсы накопителей — 24 Гбит/с и 12 Гбит/с SAS при использовании двух модулей расширения или 24 Гбит/с и 12 Гбит/с SAS + 6 Гбит/с SAS/SATA при использовании одного модуля расширения.

Модель J4108-02-04X комплектуется двумя блоками питания с сертификатом 80 Plus Platinum или 80 Plus Titanium мощностью 2000 Вт каждый с возможностью горячей замены. За охлаждение отвечают восемь вентиляторов размером 60 × 56 мм (плюс по одному вентилятору 40 × 56 мм на модуль расширения). Диапазон рабочих температур — от 0 до +35 °C.

Помимо модели на 108 накопителей, компания AIC анонсировала JBOD-массив J4078-02-04X типоразмера 4U с возможностью установки 78 устройств LFF/SFF, а также модель J2024-07-04X стандарта 2U, которая рассчитана на 24 накопителя SFF.