Компания ASRock Rack представила серверы с ускорителями NVIDIA Blackwell, предназначенные для решения ресурсоёмких задач в области ИИ и НРС. В частности, демонстрируются устройства, оборудованные системой жидкостного охлаждения.

Фото: ASRock Rack

В число новинок на базе архитектуры NVIDIA Blackwell входят стоечная система ORV3 NVIDIA GB200 NVL72 с СЖО и сервер 6U8X-GNR2/DLC NVIDIA HGX B200 с технологией прямого жидкостного охлаждения Direct-to-chip. Второе из названных устройств выполнено в формате 6U; поддерживаются до восьми ускорителей NVIDIA HGX B200. А сервер 6U8X-EGS2 NVIDIA HGX B100, в свою очередь, рассчитан на восемь NVIDIA HGX B100. Все новые серверы ASRock Rack NVIDIA HGX допускают использование до восьми DPU NVIDIA BlueField-3 SuperNIC.

Источник изображения: ASRock Rack

Источник изображения: ASRock Rack

ASRock Rack также продемонстрировала системы, выполненные на модульной архитектуре NVIDIA MGX. Это, в частности, двухсокетный сервер 4UMGX-GNR2 формата 4U с возможностью установки восьми ускорителей FHFL. Устройство располагает пятью слотами FHHL PCIe 5.0 x16 и одним разъёмом HHHL PCIe 5.0 x16 с поддержкой NVIDIA BlueField-3 DPU и NVIDIA ConnectX-7 NIC. Есть 16 отсеков для накопителей E1.S (PCIe 5.0 x4) с возможностью горячей замены.

«Мы представили решения для дата-центров на базе архитектуры NVIDIA Blackwell для самых требовательных рабочих нагрузок в области обучения больших языковых моделей (LLM) и генеративного ИИ. Мы и дальше намерены расширять семейство этих серверов», — сказал Вейши Са, президент ASRock Rack. На выставке Computex 2024 компания ASRock Rack демонстрирует и другие системы с ускорителями NVIDIA. Например, представлена модель MECAI-GH200 (на изображении) — на момент анонса это самый компактный в мире сервер с суперчипом NVIDIA GH200.

Компания NVIDIA сообщила о доступности комплексного решения AI Enterprise-IGX, которое, как утверждается, призвано удовлетворить растущую потребность в ИИ-вычислениях в реальном времени на периферии в таких областях, как медицина, промышленность и пр.

Продукт объединяет NVIDIA IGX и систему Holoscan, а также Isaac и Metropolis. Напомним, IGX — это платформа индустриального уровня для ИИ-вычислений на периферии, специально разработанная для промышленных и медицинских сред. Holoscan предоставляет собой полнофункциональную инфраструктуру, необходимую для масштабируемой программно-определяемой обработки потоковых данных в режиме реального времени на периферии.

Источник изображения: NVIDIA

Отмечается, что AI Enterprise-IGX предоставляет предприятиям новый уровень производительности, безопасности и поддержки для всего стека ПО для периферийных вычислений. В результате, упрощается и ускоряется развёртывание ИИ-приложений на периферии. Благодаря сочетанию NVIDIA AI Enterprise-IGX и Holoscan на базе IGX-платформ клиенты получают решение с гибкими возможностями интеграции сенсоров, высокой ИИ-производительностью и безопасностью для решения задач на периферии.

Источник изображения: NVIDIA

Вместе с тем NVIDIA объявила об обновлении самой аппаратной платформы IGX. В частности, для IGX Orin 700 (кодовое имя IGX Boardkit) реализована поддержка ускорителей NVIDIA RTX 6000 Ada, что обеспечивает ИИ-производительность до 1,705 TOPS — это в семь раз больше по сравнению с показателем, который достигается при использовании интегрированного GPU. Кроме того, появилась поддержка «системы на модуле» IGX Orin 500.

Источник изображения: NVIDIA

Говорится также, что программа сертификации NVIDIA-Certified Systems теперь распространяется на платформу IGX. Такие продукты готовят Advantech, Adlink, Aetina, Ahead, Cosmo Intelligent Medical Devices (подразделение Cosmo Pharmaceuticals), Dedicated Computing, Leadtek, Onyx, YUAN и др.

Вместе с тем многие компании, работающие в области медицинских технологий, включая Barco, Karl Storz, Medtronic и Moon Surgical, внедряют NVIDIA IGX с системой Holoscan для ускорения разработки ИИ-решений для медицинской диагностики, хирургических роботов, средств по уходу за пациентами и пр.

NVIDIA объявила о доступности NVIDIA NIM, микросервисов инференса, которые предоставляют готовые модели в виде заранее оптимизированных контейнеров, доступных для развёртывания в облаках, ЦОД или на рабочих станциях. Это, по словам компании, позволяет разработчикам возможность без труда создавать приложения генеративного ИИ за считанные минуты, хотя ранее на это уходили недели.

Сложность приложений генеративного ИИ растёт и часто в них используется несколько моделей с различными возможностями для генерации текста, изображений, видео, речи и т.д. NVIDIA NIM позволяет значительно повысить производительность разработчиков, предоставляя простой стандартизированный способ добавления генеративного ИИ в их приложения. NIM также позволяет компаниям максимизировать свои инвестиции в инфраструктуру. Например, NIM-контейнер с оптимизированным вариантом Meta✴ Llama 3-8B выдаёт втрое больше токенов за единицу времени, чем LLM без оптимизаций.

Источник изображений: NVIDIA

Более 200 технологических партнёров NVIDIA, включая Cadence, Cloudera, Cohesity, DataStax, NetApp, Scale AI и Synopsys, уже используют NIM, чтобы ускорить развёртывание генеративного ИИ для приложений, специфичных для их индустрии, таких как ИИ-помощники, помощники по созданию кода, цифровые человеческие аватары и многое другое. Кроме того, экосистему NIM поддерживают Canonical, Red Hat, Nutanix, VMware, Kinetica и Redis. Доступна и интеграция с KServe.

NIM интегрирован в платформу NVIDIA AI Enterprise. Начиная со следующего месяца участники программы NVIDIA Developer Program получат бесплатный доступ к NIM для исследований, разработки и тестирования. Контейнеры NIM могут включать ПО NVIDIA CUDA, NVIDIA Triton Inference Server и NVIDIA TensorRT-LLM. А на ai.nvidia.com уже доступно более 40 готовых моделей, включая Databricks DBRX, Google Gemma, Meta✴ Llama 3, Microsoft Phi-3, Mistral Large, Mixtral 8x22B и Snowflake Arctic. Компания также представила и NVIDIA BioNeMo NIM для биомедицинской сферы.

Ведущие провайдеры ИИ-решений и MLOps-платформ, включая Amazon SageMaker, Microsoft Azure AI, Dataiku, DataRobot, deepset, Domino Data Lab, LangChain, Llama Index, Replicate, Run.ai, ServiceNow, Securiti AI и Weights & Biases также внедрили NIM. Hugging Face теперь тоже предлагает NIM-контейнейры и позволяет развернуть модели в различных облаках всего за несколько кликов. Микросервисы NIM также интегрированы в AWS, Google Cloud, Microsoft Azure и Oracle Cloud. Наконец, компетенциями в области NIM обзавелись Accenture, Deloitte, Infosys, Latentview, Quantiphi, SoftServe, TCS и Wipro.

Предприятия могут запускать приложения с поддержкой NIM практически в любом месте, в том числе на сертифицированных NVIDIA системах Cisco, Dell, HPE, Lenovo и Supermicro, а также ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Wistron и Wiwynn. Более того, например, Foxconn и Pegatron уже используют NIM для разработки предметно-ориентированных LLM для собственных производственных нужд.

Израильская компания Gilat Satellite Networks, производящая наземное оборудование для сетей фиксированной спутниковой связи, по сообщению ComNews, приостановила поставки в Россию. Таким образом, официальные отгрузки зарубежных VSAT-решений (Very Small Aperture Terminal — малая спутниковая станция) на российский рынок полностью прекращены.

Ключевыми производителями VSAT-продукции в мировом масштабе являются американские Hughes Network Systems LLC, ST Engineering iDirect Inc. и Comtech Telecommunications Corp., а также упомянутая Gilat. Первые три компании прекратили работать с российскими заказчиками в 2022 году. Gilat осуществляла отгрузки в РФ и в 2022–2023 гг., но в 2024-м ситуация изменилась, передаёт ComNews.

Источник изображения: Gilat

Сразу несколько российских VSAT-операторов сообщили, что Gilat прекратила заключать с ними новые контракты. Кроме того, некоторые участники рынка РФ пожаловались, что израильская компания остановила отгрузки своего оборудования. В частности, один оператор отметил, что Gilat уведомила о приостановлении поставок продукции в Россию с 1 января 2024 года. Представитель другого оператора добавил, что Gilat была готова заключать новые контракты только до 31 декабря 2023-го.

С другой стороны, некоторые участники российского рынка утверждают, что вели переговоры о поставках оборудования с Gilat в I квартале 2024-го, и «никаких намёков на его недоступность не было». А технический директор ещё одного VSAT-оператора заявляет, что задержки с поставками решений Gilat возникали и раньше, и «иногда они доходили до одного года».

Минцифры РФ, по сообщению ТАСС, выступает с предложением распространить льготное кредитование на строительство дата-центров с целью ускорения развития отрасли. Об этом в ходе конференции «Телеком: перезагрузка» заявил руководитель ведомства Максут Шадаев.

В России стремительно растёт спрос на услуги ЦОД. В 2023 году объём соответствующего рынка достиг 42,8 млрд руб., что на 21,2 % больше по сравнению с предыдущим годом. Фактически спрос превышает предложение. Вместе с тем строительство новых дата-центров осложнено из-за нехватки оборудования.

Источник изображения: Ростелеком-ЦОД

По словам Шадаева, с учётом текущей ставки операторы не смогут поддерживать высокие темпы расширения ЦОД-инфраструктуры без льготных кредитов. Поэтому соответствующие меры поддержки предлагается распространить на строительство дата-центров. Министр также напомнил, что указом о национальных целях развития предусмотрено увеличение средней скорости доступа в интернет, что подразумевает модернизацию сетей связи.

«Мы все понимаем, что в городских агломерациях трафик растёт очень быстро и необходимо модернизировать и сети фиксированной связи, сети мобильной связи — нужно наращивать плотность покрытия LTE, нужно запускать сети 5G. И всё это нужно делать на отечественном оборудовании», — отметил Шадаев.

Ранее Минцифры предложило включить в национальный проект «Экономика данных» механизм поддержки российских операторов ЦОД. Тогда говорилось о льготном кредитовании компаний, закупающих для строительства дата-центров отечественное инженерное оборудование — системы противопожарной защиты, климатическую технику, источники бесперебойного питания (ИБП) и пр.

Государственный архив Российской Федерации (Госархив) обнародовал тендер на строительство центра хранения и обработки данных (ЦХОД) в городе Обнинске (Калужская область). Начальная цена контракта составляет 1,033 млрд руб., а заявки на выполнение работ принимаются до 7 июня 2024 года.

ЦОД в числе прочего призван обеспечить безопасное и долгосрочное хранение документов в электронном виде. При создании площадки планируется использовать отечественные оборудование и ПО.

В конкурсной документации, в частности, говорится о закупке 2U-серверов Depo Storm 3470A2R. Они могут комплектоваться двумя процессорами Intel Xeon Ice Lake-SP (до 40C/80T). Доступны 32 слота для модулей DDR4-3200. Подсистема хранения включает 12 фронтальных отсеков для накопителей LFF/SFF с интерфейсом SATA/SAS/NVMe с горячей заменой, выделенный опциональный отсек для двух SSD без горячей замены и два слота M.2 2280/22110 (PCIe 3.0 x4). Возможна установка двух блоков питания мощностью 1200 или 1600 Вт. Присутствуют два порта 1GbE RJ-45 и выделенный сетевой порт управления.

Источник изображения: Госархив

Кроме того, будут приобретены СХД Depo Storage 3536G3 в формате 4U. Конфигурация включает два контроллера, которые функционируют в режиме «активный — активный». Каждый из них наделён двумя процессорами и поддерживает до 256 Гбайт памяти DDR4. Доступны отсеки для 24 накопителей LFF/SFF SAS. Возможно формирование массивов RAID 0/5/6/7.3/10/N+M. Поддерживаются протоколы SMB/CIFS, NFS, FTP, AFP, FC, iSCSI. Задействованы два блока питания на 1200 Вт.

Контрактом также предусмотрена поставка рабочих станций, коммутаторов и прочего оборудования. Плюс к этому закупается офисная мебель. В качестве даты окончания работ значится 20 ноября 2024 года.

Компания Pure Storage, специализирующаяся на разработке All-Flash СХД, сообщила финансовые результаты I квартала 2025 финансового года, завершившегося 5 мая 2024 года.

Выручка за отчётный квартал составила $693,5 млн, что на 18 % больше результата аналогичного квартала предыдущего финансового года, а также выше собственного прогноза Pure Storage, равного $680,0 млн, и консенсус-прогноза аналитиков, опрошенных Zacks Investment Research, в размере $681,4 млн.

Источник изображений: Pure Storage

При этом выручка от предоставления услуг по подписке выросла год к году на 23 % до $280,3 млн. Ещё больше увеличился ежегодный регулярный доход (ARR) от подписки, составивший $1,4 млрд (рост год к году — 25). Оставшиеся обязательства (RPO) равны $2,3 млрд (рост 27 %). Финансовый директор компании назвал ключевые факторы роста выручки: продажи новым и существующим корпоративным клиентам по всей платформе хранения данных и высокий спрос клиентов на решения FlashBlade, включая FlashBlade//E.

Операционные убытки компании за квартал (GAAP) равны $41,8 млн. При подсчёте не по GAAP компания сработала с операционной прибылью в размере $100,4 млн. Чистые убытки Pure Storage составили $35 млн, что лучше прошлогоднего результата, равного $67,4 млн чистых убытков. Убытки на акцию (GAAP) составили $0,11, в то время как при подсчёте не по GAAP у компании прибыль на акцию равна $0,32, что выше консенсус-прогноза восьми аналитиков, опрошенных Zacks, в размере $0,22 на акцию. За прошедший квартал у компании добавилось 262 новых клиента, а общее количество клиентов превысило 12 500.

В текущем, II финансовом квартале компания прогнозирует выручку в размере $755 млн, что на 9,6 % больше год к году. Всего за 2025 финансовый год Pure Storage планирует получить выручку около $3,1 млрд (рост на 10,5 % по сравнению с 2024 финансовым годом).

Компания отметила, что благодаря интеграции с NVIDIA она представила новые проверенные эталонные архитектуры для генеративного ИИ, в том числе с поддержкой NVIDIA OVX и BasePod. Гендиректор Pure Storage выразил надежду на расширение сотрудничества с гиперскейлерами, использующими широкий спектр сред хранения данных, для которых компания может предложить технологии Purity и DirectFlash.

Российская компания «DатаРу» анонсировала обновлённую СХД «ДатаРу ПС 3200», построенную на аппаратной платформе Intel. Устройство поддерживает работу с QLC SSD, что позволяет существенно увеличить суммарную вместимость по сравнению с TLC-накопителями.

Система выполнена в форм-факторе 2U. Она оснащена двумя контроллерами, функционирующими в режиме «активный — активный». Каждый из контроллеров использует два процессора Intel Xeon Skylake с 64 ядрами (2,1 ГГц). Объём кеш-памяти составляет 768 Гбайт.

СХД рассчитана на 96 накопителей NVMe SSD. Минимальная конфигурация, как сообщает CNews, включает 11 QLC-накопителей. При необходимости система может масштабироваться вплоть до 5,9 Пбайт эффективной вместимости. Благодаря программным улучшениям степень сжатия данных увеличилась на 20 %, а показатель энергопотребления в расчёте на 1 Тбайт хранимой информации снизился на 28 %. В среднем коэффициент сжатия составляет 5:1.

Источник изображения: «DатаРу»

Устройство оснащается четырьмя портами 1/10/25GbE или четырьмя портами 1/10GbE RJ-45. Опционально доступна конфигурация с четырьмя разъёмами FC8/16/32. Поддерживаются протоколы iSCSI, VMware Virtual Volumes (vVols) 2.0, NFSv3/4/4.1, CIFS (SMB 1), SMB 2, SMB 3.0/3.02/3.1.1, (S)FTP.

Сингапур рассчитывает дать операторам дата-центров ещё 300 МВт электроэнергии. Хотя в стране фактически действует мораторий на возведение новых ЦОД, ёмкость, по данным The Register, всё-таки будет выделена благодаря оптимизации уже действующих объектов. Ещё 200 МВт добавят за счёт новых «зелёных» энергопроектов. Сегодня в Сингапуре находятся более 70 ЦОД общей ёмкостью более 1,4 ГВт.

С 2019 года здесь фактически действует мораторий на строительство новых дата-центров, хотя уже одобренные проекты разрешено завершить, что, например, удалось сделать Singtel и Keppel. Запрет несколько ослабили в 2022 году — некоторым компаниям позволили подавать заявки на получение новых разрешений, хотя условия получения лицензий значительно ужесточили. Equinix, GDS, Microsoft и консорциум AirTrunk и ByteDance смогли получить одобрение на ввод 80 МВт новых мощностей, а недавно AWS анонсировала планы инвестировать $9 млрд в свои сингапурские ЦОД.

Источник изображения: Jisun Han/unsplash.com

Местный орган Infocomm Media Development Authority (IMDA) представил план по оптимизации энергопотребления ЦОД Green Data Centre Roadmap путём внедрения новых аппаратных и программных решений. Целью заявлено соблюдение климатических обязательств и получение «лишних» 300 МВт в краткосрочной перспективе. Операторы ЦОД должны будут совместно с клиентами увеличить энергоэффективность своих объектов. При этом освобождающиеся ёмкости будут распределять между теми, для кого приоритетными являются «зелёные» проекты, хотя экономическая целесообразность тоже будет учтена.

Речь идёт о более широком внедрении СЖО, отказе от воздушного охлаждения, повышении допустимых температур в машинных залах, использовании различных типов «зелёного» ПО и более современного оборудования. К концу года IMDA обновит стандарт BCA-IMDA Green Mark, ужесточив критерии энергоэффективности дата-центров в целом. К 2025 году будут представлены отдельные стандарты оценки энергоэффективности IT-оборудования и СЖО. В течение ближайших 10 лет PUE всех дата-центров Сингапура должен стать не выше 1,3 при 100 % загрузке, а WUE — быть не хуже 2 м³/МВт∙ч.

Компания Amazon (AWS) планирует построить крупный кампус ЦОД рядом с атомной электростанцией в Пенсильвании (США). Datacenter Dynamics сообщает, что местные власти единодушно проголосовали за новое зонирование территории, благодаря которому компании выделили около 650 га земли в новом специальном районе Special Data Center Overlay District. Представители Amazon заявили, что компания намерена построить на территории 15 зданий ЦОД в течение следующих десяти лет.

В марте AWS приобрела у Talen Energy Corporation дата-центр и землю в Салемском муниципальном округе. Местные власти одобрили для компании налоговые льготы Local Economic Revitalization Tax Assistance (LERTA) — речь идёт о дисконте в 70 % в течение 10 лет. Приобретённый AWS объект питается от расположенной рядом АЭС Susquehanna Steam Electric Station (SSES), принадлежащей Talen. Построенная в 1983 году станция SSES имеет мощность 2494 МВт и является одной из крупнейших АЭС в США.

Источник изображения: Talen Energy

Впервые новости о кампусе Talen с питанием от атомной станции появились в июле 2021 года. Talen построила «пробный ЦОД ёмкостью 48 МВт и площадью 28,87 тыс. м² в начале прошлого года. В Talen заявляли, что потенциально площадка способна получить до 960 МВт. Отдельно там же возвели криптомайнинговую площадку Nautilus, тоже запитанную от АЭС, но её Amazon не покупала.

Большинство земель до перезонирования относилось к территориям сельскохозяйственного назначения, значительная часть из них расположена между SSES и электростанцией Caithness Moxie Freedom, работающей на природном газе. Владельцы соседних территорий также сообщили, что Amazon предлагала им выкупить землю, но предложила слишком мало денег. Кроме того, местных жителей волнует, что случится с кампусом ЦОД, когда АЭС выведут из эксплуатации. Согласно текущему плану, один реактор заглушат в 2042 году, ещё один — в 2044-м. Впрочем, лицензии на их эксплуатацию можно будет продлить.

У Amazon имеются договорные обязательства с Talen о минимальных поставках энергии, в течение нескольких лет показатели должны увеличиваться с шагом 120 МВт. Единовременно их можно будет ограничить на уровне 480 МВт. Кроме того, у AWS есть возможность дважды продлевать соглашение на 10 лет, если лицензии на эксплуатацию реакторов будут продлены. В рамках соглашения Talen также будет продавать AWS соглашения о покупке энергии (PPA) в течение 10 лет.