NVIDIA объявила о серии совместных проектов с SoftBank, направленных на ускорение суверенных инициатив Японии в области ИИ, которые также обеспечат возможность получения дохода от ИИ для поставщиков телекоммуникационных услуг по всему миру.

В выступлении на саммите NVIDIA AI Summit Japan генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) объявил, что SoftBank создаёт самый мощный в Японии ИИ-суперкомпьютер с использованием платформы NVIDIA DGX SuperPOD B200 и интерконнекта Quantum-2 InfiniBand. Эта система станет первой в мире, которая получит системы DGX B200. Она будет использоваться компанией для разработки генеративного ИИ и развития других бизнес-решений, а также для предоставления вычислительных услуг университетам, научно-исследовательским институтам и предприятиям в стране. Суперкомпьютер идеально подойдёт для разработки больших языковых моделей (LLM), говорится в пресс-релизе.

Пока что на звание самого мощного ИИ-суперкомьютера Японии претендует система ABCI 3.0 на базе NVIDIA H200. Впрочем, Softbank не сидит сложа руки и планирует построить ещё один суперкомпьютер, на этот раз на базе суперускорителей GB200 NVL72. Они же будут использоваться в проекте Sharp, KDDI и Supermicro по созданию «крупнейшего в Азии» ИИ ЦОД.

Источник изображения: NVIDIA

Также в ходе саммита было объявлено, что SoftBank, используя платформу ускоренных вычислений NVIDIA AI Aerial, успешно запустил первую в мире телекоммуникационную сеть, объединяющую возможности ИИ и 5G. В ходе испытаний, проведенных в префектуре Канагава, SoftBank продемонстрировала, что решение AI-RAN достигло производительности 5G операторского класса, используя ресурсы ускорителя для одновременной обработки сетевого трафика и инференса.

Отмечается, что мобильные сети традиционно рассчитаны на обработку пиковых нагрузок и в среднем задействуют только треть аппаратных ресурсов, что позволяет монетизировать оставшиеся две трети путём предоставления ИИ-сервисов. NVIDIA и SoftBank также сообщили, что с помощью ПО NVIDIA AI Enterprise японская компания будет создавать локализованные безопасные ИИ-сервисы.

ИИ вообще и генеративный ИИ в частности привели к стремительному росту энергопотребления ЦОД — по прогнозам агентства Gartner, в следующие два года рост составит 160 %. В результате ожидается, что 40 % существующих ИИ ЦОД будут ограничены в энергоресурсах к 2027 году. Как утверждают в агентстве, взрывной рост новых ИИ ЦОД гиперскейл-уровня обеспечивает постоянный рост спроса на электроэнергию, который совсем скоро превысит возможности поставщиков электричества.

Это грозит нехваткой энергии и перебоями в энергоснабжении, что ограничит рост новых ЦОД для систем генеративного ИИ и прочих целей с 2026 года. По оценкам Gartner, для обеспечения работы для ИИ серверов в 2027 году понадобится 500 ТВт∙ч, что в 2,6 раза больше, чем в 2023 году.

Дефицит энергии может затянуться, поскольку на создание новой инфраструктуры для генерации, распределения и доставки энергии уйдут годы, а уже назревшие проблемы никуда не денутся. В скором будущем число новых ЦОД и развитие систем генеративного ИИ будет определяться доступностью энергии. В Gartner рекомендуют организациям и компаниям оценить влияние риск дефицита энергии на их продукты и сервисы. Стоит не только принимать в расчёт рост стоимости электричества при планировании новых продуктов и сервисов, но и искать новые решения, требующие меньше энергии.

Источник изображения: Gartner

Неизбежно связанное с дефицитом повышение цен на электричество увеличит стоимость эксплуатации больших языковых моделей (LLM). Хотя ключевые пользователи электроэнергии заранее работают над заключением долгосрочных контрактов, зачастую по фиксированным ставкам, стоимость энергии для питания дата-центров в любом случае значительно вырастет. Это скажется на стоимости ИИ как продукта и бизнесе соответствующих сервис-провайдеров.

Вероятно, цели по достижению экоустойчивости при этом пострадают. Ранее уже прогнозировалось, что операторы ЦОД не смогут добиться заявленных целей, теперь к сходным выводам приходят и в Gartner. В краткосрочной перспективе растущий спрос заставит поставщиков добывать энергию любыми доступными способами. В некоторых случаях это означает сохранение электростанций на ископаемом топливе, которые при других обстоятельствах закрылись бы в плановом порядке. В Gartner подчёркивают, что масштабирование ЦОД приведёт и к росту выбросов CO₂ в краткосрочной перспективе.

Источник изображения: Janusz Walczak/unsplash.com

Дата-центрам требуется энергоснабжение в режиме 24/7, а такого не могут обеспечить классические ветряные и солнечные электростанции. Надёжно поставлять энергию в больших объёма могут только ГЭС, станции на ископаемом топливе и АЭС. В долгосрочной перспективе новые технологии энергохранилищ (вроде натрий-ионных аккумуляторов) или «чистая» энергия вроде малых модульных реакторов (SMR) позволит легче добиваться ESG-целей.

В Gartner рекомендуют пересмотреть цели достижения экоустойчивости, связанные с выбросами углекислого газа с учётом будущих требований ЦОД и доступности источников энергии в ближайшие годы. При разработке ИИ-приложений стоит сконцентрировать усилия на использовании минимальных вычислительных мощностей и оценивать другие возможности вроде широкого применение периферийных вычислений и т.н. малых языковых моделей (SLM), имеющих узкую специализацию.

AWS намерена привлечь больше людей к разработке ИИ-приложений и фреймворков, использующих разработанные Amazon ускорители семейства Tranium. В рамках нового инициативы Build on Trainium с финансированием в объёме $110 млн академическим кругам будет предоставлен доступ к кластерам UltraClaster, включающим до 40 тыс. ускорителей, сообщает The Register.

В рамках программы Build on Trainium предполагается обеспечить доступ к кластеру представителям университетов, которые заняты разработкой новых ИИ-алгоритмов, которые позволяет повысить эффективность использования ускорителей и улучшить масштабирование вычислений в больших распределённых системах. На каком поколении чипов, Trainium1 или Trainium2, будут построены кластеры, не уточняется.

Источник изображений: AWS

Как поясняют в самом блоге AWS, исследователи могут придумать новую архитектуру ИИ-моделей или новую технологию оптимизации производительности, но у них может не оказаться доступа к HPC-ресурсам для крупных экспериментов. Не менее важно, что плоды трудов, как ожидается, будут распространяться по модели open source, поэтому от этого выиграет вся экосистема машинного обучения.

Впрочем, со стороны AWS альтруизма мало. Во-первых, $110 млн будут выданы выбранным проектам в виде облачных кредитов, такое происходит не впервые. Во-вторых, компания фактически пытается переложить часть своих задач на других людей. Кастомные чипы AWS, включая ИИ-ускорители для обучения и инференса, изначально разрабатывались для повышения эффективности выполнения внутренних задач компании. Однако низкоуровневые фреймворки и т.п. ПО не предназначены для того, чтобы с ними мог свободно работать широкий круг лиц как, например, происходит с NVIDIA CUDA.

Иными словам, AWS для популяризации Trainium необходимо более простое в освоение ПО, а ещё лучше готовые решения прикладных задач. Неслучайно Intel и AMD склонны предлагать разработчикам готовые оптимизированные под их ускорители фреймворки вроде PyTorch и TensorFlow, а не пытаться заставить их заниматься достаточно низкоуровневым программированием. AWS занимается тем же самым, предлагая продукты вроде SageMaker.

Во многом реализация проекта возможна благодаря новому интерфейсу Neuron Kernel Interface (NKI) для AWS Tranium и Inferentia, обеспечивающему прямой доступ к набору инструкций чипов и позволяющему исследователям строить оптимизированные вычислительные ядра для работы новых моделей, оптимизации производительности и инноваций в целом. Впрочем, учёным — в отличие от обычных разработчиков — часто интересно работать именно с низкоуровневыми системами.

«Росатом» планирует приобрести 50 % производителя телеком-оборудования ООО «Файбертрейд» (бренд Future Technologies), сообщил РБК со ссылкой на информированные источники. По словам источника в госкорпорации, в рамках сделки оценка компании составила около 7 млрд руб. Сейчас сделка проходит согласование в Федеральной антимонопольной службе (ФАС).

Базирующаяся в Новосибирске «Файбертрейд» занимается разработкой и производством оптических трансиверов, систем уплотнения каналов и другого телекоммуникационного оборудования. Компания перестала публиковать финансовые результаты в 2022 году. До этого, в 2020 году её выручка составила 683 млн руб., сократившись в 2021 году на 20 %, до 549 млн руб.

Эксперты отмечают, что Future Technologies «не просто сборщик телеком-оборудования, эта компания интегрирована в цепочку — научный институт, разработчик прикладных технологий, тиражный производитель». Сделка позволит компании ускорить дальнейшее развитие.

Источник изображения: Future Technologies

По словам источника РБК, сделка поможет «Росатому» развивать и частично закрыть потребность «в доверенных и соответствующих современным требованиям трансиверах и коммутаторах» для критической информационной инфраструктуры (КИИ), включая сети связи и информационный системы госорганов, энергетических, финансовых, транспортных и ряда других компаний. Владельцы КИИ обязаны до 2030 года полностью перейти на использование отечественного оборудования и ПО.

В конце прошлого «Росатом» приобрёл 50 % в Kraftway, на тот момент сумма сделки оценивалась в 3,5–5 млрд руб. Кроме того, дочернее предприятие госкорпорации ООО «Т-ком» занимается в России производством коммутаторов. Осенью этого года группа компаний Softline получила контроль над НТО «ИРЭ-Полюс», ещё одним значимым отечественным игроком в области ВОЛС. Согласно прогнозу NeoAnalytics, в ближайшей перспективе объём российского рынка телеком-оборудования будет в среднем расти на 2–3 % и к 2026 году приблизится к 2 трлн руб.

Один из самых отдалённых островов Великобритании — Папа-Уэстрей (Papa Westray) в Оркнейском архипелаге — получил широкополосное оптоволоконное интернет-подключение благодаря водопроводу, передаёт Datacenter Dynamics. Утверждается, что метод более эффективен и менее «разрушителен», чем обычные способы прокладки кабелей. На все работы у подрядчика CloudNet ушло восемь месяцев, а оплатили их власти Шотландии.

Уже проложенный на острове водопровод обеспечивает питьевой водой около 90 человек. Оптоволоконный кабель находится внутри ещё одной трубки, расположенной внутри труб водопроводной сети. Конечно, кабель протянут подобным способом не с «большой земли». Приём и передача данных осуществляются с помощью радиосвязи с соседним островом Уэстрей (Westray), а водопопровод является лишь «последней милей». Для мониторинга качества воды на острове в трубах дополнительно размещены датчики.

По словам CloudNet, из-за топографии острова водопроводные трубы отлично подошли для прокладки оптоволокна, поскольку это позволило свести к минимуму земляные работы и сократить издержки на проект. Предполагается, что новая ВОЛС упростит жителям ведение бизнеса и доступ к жизненно важным сервисам вроде здравоохранения и образования. Представители шотландских властей рассматривают и другие способы подключения к современным услугам жителей сельских общин.

В 2022 году британское правительство анонсировало проект стоимостью £4 млн (тогда $5,6 млн) по использованию водопроводных сетей для прокладки оптоволоконных кабелей в отдалённых частях страны. Проект известен как Fibre in Water (FiW), тестирование концепции было начато в Йоркшире.

Компания Cisco, по сообщению The Register, объединила продуктовые семейства беспроводных решений Catalyst и Meraki под единым брендом Cisco Wireless. Кроме того, корпорация анонсировала унифицированную подписку, а также представила точки доступа CW9178 и CW9176 стандарта Wi-Fi 7.

Отмечается, что новое оборудование будет предлагаться с единой подпиской, которая включает возможности как облачного, так и локального управления. Устройства подходят для использования в любой точке мира, а региональные различия, необходимые для соответствия местным нормам, могут быть реализованы на уровне ПО.

Нововведения означают, что Cisco не придётся выпускать разные варианты оборудования для разных стран, тогда как клиенты смогут приобретать комплекты централизованно и распределять их по региональным представительствам. Это обеспечит больше гибкости при построении сетевых инфраструктур. Заказчики смогут выбирать между лицензиями двух типов — Essentials и Advantage, которые предусматривают разные уровни функциональности. Существующие пользователи оборудования Catalyst и Meraki смогут продолжить эксплуатацию техники на прежних условиях.

Источник изображения: Cisco

Точки доступа CW9178 и CW9176 могут работать в частотных диапазонах 6, 5 и 2,4 ГГц. Максимальная канальная скорость достигает соответственно 11 520, 5700 и 688 Мбит/с. Реализована поддержка Bluetooth Low Energy (BLE) и GPS/GNSS, Power over Ethernet (PoE), WPA3-Enterprise, AES и пр. Модель CW9178 располагает двумя сетевыми портами 10GbE, версия CW9176 — одним. Устройства могут монтироваться на стену, потолок или использоваться в настольном режиме. Диапазон рабочих температур простирается от 0 до +50 °C.

Компания TrendFocus, по сообщению StorageNewsletter, подвела итоги исследования глобального рынка SSD в III квартале 2024 года. Поставки в натуральном выражении зафиксированы на отметке 62,443 млн единиц: это на 8 % меньше по сравнению с предыдущим кварталом.

Вместе с тем в ёмкостном плане отмечен рост: суммарная вместимость отгруженных за три месяца SSD поднялась в квартальном исчислении примерно на 10 %, достигнув 99,187 Эбайт. Таким образом, средний объём поставляемых накопителей существенно увеличился.

Рейтинг ведущих игроков мирового рынка SSD возглавляет Samsung с долей 24,2 % по итогам III четверти 2024-го. На втором месте находится Western Digital, показавшая результат в 16,5 %. Замыкает тройку Micron с 12,9 %. Если рассматривать отрасль с точки зрения общей вместимости поставленных накопителей, то первое место также принадлежит Samsung — 34,0 %. Далее идут Solidigm с 14,4 % и Micron с 14,2 %.

Источник изображения: TrendFocus / StorageNewsletter

Продажи SSD корпоративного класса с интерфейсом PCle подскочили в квартальном исчислении на 29 % — до 10,954 млн штук. Их суммарная вместимость при этом поднялась на 25 %, достигнув 55,654 Эбайт. Оба показателя являются рекордными. Вместе с тем отгрузки корпоративных SATA-изделий уменьшились на 23 % в штуках и на 45 % в ёмкостном плане — до 2,642 млн и 2,546 Эбайт соответственно. Поставки твердотельных SAS-накопителей снизились на 11 % — до 0,705 млн, но их общая ёмкость подросла на 0,9 %, составив 3,270 Эбайт.

В клиентском сегменте из-за сохраняющегося слабого спроса со стороны OEM-производителей и наличия складских запасов отгрузки SSD снизились квартал к кварталу на 12 %, оказавшись на отметке 48,142 млн единиц. Общая вместимость упала на 1% — до 37,716 Эбайт.

Министерство внутренних дел России (МВД), по сообщению газеты «Ведомости», столкнулось с серьёзными проблемами при замене вышедших из строя серверов на российских процессорах «Эльбрус», разработкой которых занимается АО «МЦСТ». Дело в том, что поставки этих чипов ограничены.

Как сообщил заместитель начальника департамента информационных технологий, связи и защиты информации МВД Игорь Кашпур, с 2020-го по 2024 год ведомство приобрело в общей сложности 709 серверов с процессорами «Эльбрус». В частности, в марте 2021-го МВД выделило 1,16 млрд руб. для закупки 298 систем. Позднее в том же году планировалось приобрести ещё 80 серверов на 350 млн руб. А в 2023-м ведомство получило 23 сервера на «Эльбрусах» общей стоимостью 86,3 млн руб.

Как отмечает Кашпур, серверы служат для поддержания работы сервисов автоматизации деятельности центров фиксации административных правонарушений в области дорожного движения в базе специального ПО «Паутина», а также единого информационного ресурса регистрационного иммиграционного учета. Проблема заключается в том, что эти машины демонстрируют невысокую отказоустойчивость. Причём у МВД фактически отсутствует возможность оперативной замены такого оборудования при выходе его из строя вследствие форс-мажорных обстоятельств, поскольку отгрузки новых серверов осуществляются исключительно в плановом порядке.

Источник изображения: МЦСТ

В МЦСТ говорят, что имеющийся на сегодняшний день резерв чипов «Эльбрус» распределён, тогда как новые партии «временно не производятся». Вместе с тем директор по развитию компании Константин Трушкин сообщил, что возможности и мощности для производства требуемого оборудования у МЦСТ имеются. По его словам, решаются вопросы, связанные с возобновлением поставок.

Говорится также, что проблемы с серверами на чипах «Эльбрус» испытывают и другие организации, в число которых входят банки, операторы и госкорпорации. Участники рынка говорят, что трудности с выпуском процессоров у МЦСТ возникли в связи с санкциями. От выпуска «Эльбрусов» отказался тайваньский контрактный производитель TSMC, который ранее занимался выполнением соответствующих заказов. У МЦСТ были планы по переносу производства на завод «Микрон», но они так и не были реализованы. Сейчас компания находится под внешним управлением.

Micron представила SSD 6550 ION, который позиционируется как самый быстрый в мире 61,44-Тбайт накопитель для ЦОД и первый в мире накопитель стандарта PCIe 5.0 x4 (NVMe 2.0b) в форм-факторе E3.S с такой ёмкостью. Новинка подходит для растущих рабочих нагрузок ИИ, обеспечивая при этом лучшую в своем классе производительность и до 20 % более низкое энергопотребление по сравнению с накопителями конкурирующих брендов.

Нюанс в том, что самым быстрым Micron 6550 ION является именно при таком сочетании ёмкости, форм-фактора и интерфейса, а сравнение делается с решениями Samsung, Solidigm и Western Digital, но не Kioxia. Типовое энергопотребление у новинок не превышает 20 Вт. Точно такой же показатель есть у одной из моделей Western Digital, но решение Micron быстрее. 6550 ION соответствует стандарту OCP 2.5 и имеет активное управление питание (ASPM). Это позволяет накопителю потреблять в режиме ожидания 4 Вт в состоянии L1 против 5 Вт в состоянии L0, что до 20 % повышает энергоэффективность в простое.

Источник изображений: Micron

6550 ION подходят для создания озёр данных для ИИ, для приёма, подготовки данных и создания контрольных точек во время обучения, для хранения файлов и объектов, создания публичных облачных хранилищ, обслуживания аналитических баз данных, а также для систем доставки контента. Также сообщается, что 6550 ION обеспечивает ведущую в отрасли плотность хранения, позволяя клиентам сократить площадь ЦОД до 67 %, обеспечивая плотность на уровне 1,2 Пбайт/1U.

Скорость последовательного чтения/записи 6550 ION достигает 12,5/5,0 Гбайт/с. Значение IOPS при работе с блоками данных по 4 Кбайт — до 1,6 млн при произвольном чтении и до 70 тыс. при произвольной записи. 6550 ION может быть полностью записан за 3,4 часа, в то время как конкурирующие диски заполняются на 150 % дольше, отмечает компания.

Источник: ServeTheHome

Кроме того, 6550 ION также превосходит SSD аналогичной ёмкости в критических ИИ-нагрузках, включая работу с NVIDIA Magnum IO GPUDirect Storage (GDS), работу с блоками данных 4 Кбайт при обучении некоторых сетей и создание контрольных точек во время обучения ИИ. При тренировке LLM с с миллиардами параметров контрольные точки создаются довольно часто, а ускорители могут простаивать десятки минут, пока данные сбрасываются на SSD.

Источник: ServeTheHome

Micron 6550 ION доступен в форм-факторах E3.S (1T), U.2 и E1.L и имеет ёмкость 30,72 или 61,44 Тбайт. Кроме того, сообщается, что 6550 ION предлагает ведущий в отрасли набор функций безопасности, включая SPDM 1.2 для аттестации и SHA-512 для безопасной генерации подписей. Он соответствует требованиям TAA и сертифицирован по стандарту FIPS 140-3 L2.

Накопитель имеет надёжность на уровне 1,0 RDWPD при записи случайных блоков на 16 Кбайт, а для 4-Кбайт блоков — 0,25 RDWPD. Диапазон рабочих температур простирается от 0 до 70 °C. Показатель MTTF составляет 2,5 млн часов. Гарантия производителя — 5 лет. Также отмечается, что 6550 ION полностью состоит из компонентов, изготовленных самой Micron.

Французская государственная энергоснабжающая компания EDF (Électricité de France), которая является одним из крупнейших в мире производителей атомной энергии, обсуждает поставки электричества для трёх кампусов ЦОД во Франции мощностью 1 ГВт каждый. По данным Reuters, соответствующей информацией поделился представитель ED.

В октябре EDF запустила Project Giga для удовлетворения растущего спроса на энергию со стороны ИИ ЦОД. В рамках проекта планируется использовать землю и инфраструктуру EDF для поставок низкоуглеродной энергии гиперскейлерам вроде Microsoft и Google. В том же месяце выработка атомной энергии во Франции составляла 30,0 ТВт∙ч, на 1,7 ТВт∙ч больше год к году. С начала года ежегодные кумулятивные поставки составили 292,0 ТВт∙ч, на 30,7 ТВт∙ч больше в сравнении с 2023 годом, отмечает Datacenter Dynamics.

Несмотря на рост интереса к «мирному атому» на европейском рынке, активнее и радушнее всего атомную энергию принимают в США, это касается как обычных атомных электростанций, так и малых модульных реакторов (SMR). В сентябре Microsoft согласились заключить PPA на 20 лет с Constellation Energy для получения 100 % электричества с АЭС Three Mile Island в Пенсильвании. В марте AWS приобрела кампус ЦОД Talen Energy рядом АЭС Susquehanna, тоже в Пенсильвании — за $650 млн.

Источник изображения: Jametlene Reskp / Unsplash

В секторе SMR компания подписала три соглашения для содействия внедрению SMR для питания ЦОД. В том числе речь идёт о соглашениях с Energy Northwest и Dominion Energy, а также прямых инвестициях в разработчика SMR — X-energy. Не так давно Google анонсировала сделку на поставку 500 МВт с разработчиком SMR— Kairos Power. Компания рассчитывает, что первые из шести-семи реакторов в рамках соглашения заработают в 2030 году.