Компания NVIDIA объявила о приобретении стартапа Run:ai из Тель-Авива (Израиль), занимающегося разработкой ПО для управления рабочими нагрузками и оркестрации на базе Kubernetes, которое позволяет более эффективно использовать вычислительные ресурсы при работе с ИИ-приложениями.

Стоимость сделки не раскрывается. По данным TechCrunch, покупка обошлась NVIDIA в $700 млн. Это одно из крупнейших приобретений Nvidia с момента покупки Mellanox за $6,9 млрд в марте 2019 года. Два года назад NVIDIA купила Bright Computing, разработчика решений для управления НРС-кластерами.

NVIDIA отметила, что развёртывание ИИ-приложениЙ становится всё более сложным. Оркестрация генеративного ИИ, рекомендательных и поисковых систем, а также других рабочих нагрузок требует сложного планирования для оптимизации производительности. ПО Run:ai позволяет управлять и оптимизировать вычислительную инфраструктуру как локально, так и в облаке или в гибридных средах.

Источник изображения: NVIDIA

Созданная стартапом открытая платформа поддерживает все популярные варианты Kubernetes и интегрируется со сторонними инструментами и платформами ИИ. Компании из различных отраслей используют платформу Run:ai для управления кластерами ускорителей в масштабе ЦОД.

Как сообщается, на относительно раннем этапе деятельности Run:ai удалось создать большую клиентскую базу из компаний из списка Fortune 500, что позволило привлечь венчурные инвестиции. Перед сделкой Run:ai привлекла капитал в размере $118 млн от ряда инвесторов, включая Insight Partners, Tiger Global, S Capital и TLV Partners.

NVIDIA заявила, что в ближайшем будущем продолжит предлагать продукты Run:ai в рамках той же бизнес-модели, а также продолжит инвестировать в развитие Run:ai в рамках платформы NVIDIA DGX Cloud, предоставляющей корпоративным клиентам доступ к вычислительной инфраструктуре и ПО для обучения моделей генеративного и других форм ИИ.

Решения Run:ai уже интегрированы с NVIDIA DGX, NVIDIA DGX SuperPOD, NVIDIA Base Command, контейнерами NGC, ПО NVIDIA AI Enterprise и другими продуктами. По словам NVIDIA, пользователи серверов и рабочих станций NVIDIA DGX, а также DGX Cloud также получат доступ к возможностям Run:ai, что особенно полезно при развёртывании генеративного ИИ в нескольких ЦОД.

Для питания своих дата-центров и колокейшн-мощностей Apple использовала в 2023 году 2,344 ТВт∙ч электроэнергии. Datacenter Dynamics сообщает, что компании принадлежит семь собственных ЦОД, а также неизвестное число колокейшн-площадок по всему миру, энергопотребление тех и других на 100 % компенсируется покупкой PPA-сертификатов.

В докладе Environmental Progress Report компания сообщила, что объект в Месе (штат Аризона) был крупнейшим потребителем, на него пришлось 488 ГВт∙ч, 82 % потреблённого электричества приходится на солнечную энергию, включая 4,76 МВт, которые получаются на территории самого кампуса. Ещё 18 % получают за счёт энергии ветра. ЦОД в Мейдене (Северная Каролина) использовал 453 ГВт·ч, 82 % приходится на солнечную энергию и 12 % — на ветряную.

В Рино (Невада) кампус потребил 440 ГВт∙ч, энергия обеспечена полностью за счёт солнца, в том числе 20 МВт от проекта Fort Churchill Solar Array, в котором используются искривлённые зеркала для концентрации света на фотоэлектрических ячейках. В Прайнвилле (Орегон) использовано 269 ГВт∙ч — 60 % получено за счёт ветряной энергии, 38 % — за счёт солнечной, а ещё 2 % — от малых ГЭС. Компания начала использовать микро-ГЭС в 2013 году, проект Earth By Design реализован рядом с ирригационным каналом. В компании утверждают, что теперь имеется уже два таких проекта.

Источник изображения: Apple

Два дата-центра в Китае использовали в общей сложности 171 ГВт∙ч, на солнечную и ветряную энергию приходится по 50 %. Правда, согласно местным законам, Apple не считается оператором этих ЦОД. На ЦОД в Виборге (Дания) пришлось 40 ГВт∙ч. Точных данных по распределению энергии не имеется, зато в Apple сообщили, что этот дата-центр не нуждается в резервных дизельных генераторах. В 2019 году компания отказалась от строительства второго ЦОД в стране, проект оценивался в $921 млн.

Что касается колокейшн-ёмкостей, то в США и за их пределами компания использовала 387 и 96 ГВт∙ч соответственно — на них приходится около 20,6 % IT-энергопотребления компании. Кстати, впервые в истории Apple использование электричества её колокейшн-объектами упало с 487,9 ГВт∙ч в 2022 году. В предыдущие пять лет до 2022 года оно росло в среднем на 14,49 % ежегодно.

В доклад не вошла отчётность об использовании Apple облаков. Компания давно пользуется услугами Google Cloud и, похоже, это крупнейший клиент платформы, а прошлом году на базе облака Google начата разработка ИИ-моделей. Самое приблизительное представление даёт статистика 2019 года. Тогда сообщалось, что более $30 млн/мес. тратится на облако AWS.

Оператор дата-центров Digital Realty намерен реорганизовать систему питания своих ЦОД в Ирландии таким образом, чтобы та могла отдавать электричество в энергосети во время пиковых нагрузок. The Register сообщает, что это поможет сгладить нагрузки на энергосистемы, снизить выбросы углекислого газа и обеспечить операторам дополнительную выручку.

Один из крупнейших в мире операторов дата-центров работает с энергораспределяющей компанией Enel X, которая позволит сохранить стабильность сетей с помощью систем бесперебойного питания ЦОД. Это, например, даст возможность снизить зависимость от электростанций, работающих на ископаемом топливе в часы максимальных нагрузок. Digital Realty уже ранее реализовала подобный проект с помощью Enel X в Сиднее.

Только вокруг Дублина оператор ЦОД имеет девять объектов. Он утверждает, что аккумуляторы их ИБП прошли самые строгие проверки и одобрены для снабжения резервной энергией электросетей. Для начала в программе будут участвовать источники бесперебойного питания мощностью 6 МВт. Соглашение с Enel X позволит Digital Realty использовать по-новому использовать энергетические активы дата-центров, в числе прочего позволяя подключать к сети больше возобновляемых источниках энергии.

Источник изображения: israel palacio/unsplash.com

Ирландия уже получает 30–40 % энергии из возобновляемых источников, что имеет и негативные стороны. В частности, неизбежны перепады качества энергоснабжения из-за нестабильности работы ветряков и других подобных источников. В Digital Realty подчёркивают, что в таких ситуациях пригодится энергия ИБП дата-центров. В этом месяце оператор EirGrid объявил о снижении минимального числа больших генераторов на ископаемом топливе, которые должны работать в энергосети страны в любое время — с пяти до четырёх, в ответ на растущую доступность возобновляемой энергии.

Впрочем, Digital Realty не первой представляет подобную схему в Ирландии. Microsoft уже анонсировала внедрение интерактивной ИБП-технологии в собственном ЦОД в Дублине в середине 2022 года, она сотрудничает с Eaton и той же Enel X. Последняя служит агрегатором для объединения коммерческих источников энергии в «виртуальные электростанции». В прошлом году Microsoft объявила, что проект увенчался успехом и заявила о намерении масштабировать его на другие ЦОД по всей планете.

Энергия для ЦОД стала весьма обсуждаемой темой в последнее время, эксперты предупреждают, что рост ёмкости дата-центров на фоне взрывного спроса на ИИ-сервисы может привести к тому, что только в США ЦОД будет потребляться к 2030 году 20–25 % всей электроэнергии, а в Ирландии к 2026 году — около трети. Это уже привело к рационированию вычислительных ресурсов AWS.

Компания HPE анонсировала точки доступа Wi-Fi 7 семейства Aruba Networking 730 Series для корпоративного сектора. Новинки, как утверждается, оптимизированы для задач Интернета вещей (IoT). Решения позволяют не только собирать данные с подключенных устройств, но и отслеживать их местоположение.

Дебютировали модели HPE Aruba Networking AP-734 с внешними антеннами и HPE Aruba Networking AP-735 с внутренними антеннами. Поддерживается работа 2×2 в трёх частотных диапазонах — 2,4, 5 и 6 ГГц с каналами 20/40, 160 и 320 МГц соответственно. Максимальная заявленная канальная скорость составляет соответственно 688 Мбит/с, 2,9 Гбит/с и 5,8 Гбит/с. При этом радиомодуль 2,4 ГГц можно переключить в режим 5 или 6 ГГц. Одновременно могут быть подключены до 512 клиентов.

Говорится о совместимости со стандартами 802.11a//b/g/n/ac/ac/be. В оснащение входят два модуля Bluetooth Low Energy (BLE) и Zigbee (802.15.4), а также приёмник GNSS L1/L5 с поддержкой GPS, Galileo, ГЛОНАСС и BeiDou. Упомянута технология 802.11az для отслеживания местоположения в сетях Wi-Fi: точность находится в пределах 1 м. Кроме того, предусмотрен барометрический датчик: он позволяет определять, на каком этаже здания находится устройство.

Источник изображения: HPE

Точки доступа получили новую функцию энергосбережения, которая основана на алгоритмах ИИ. Осуществлять мониторинг и управление можно посредством Aruba Central — облачной платформы для взаимодействия с сетевым оборудованием. Среди прочего упомянуты два порта USB 2.0 и два разъёма RJ-45 с поддержкой 5GbE и PoE (802.3bt Class 5, 40 Вт).

Диапазон рабочих температур простирается от 0 до +50 °C. Реализованы средства обеспечения безопасности WPA3, Enhanced Open и WPA2-MPSK. В продажу точки доступа Aruba Networking 730 Series поступят в июле нынешнего года.

В 2023 году в Россию было импортировано приблизительно 126 тыс. серверов, что на 10–15 % больше по сравнению с предыдущим годом. Таким образом, как сообщает газета «Коммерсантъ» со ссылкой на статистику Федеральной таможенной службы (ФТС), закупки техники из-за рубежа в данном сегменте вернулись примерно на уровень, который наблюдался в 2021 году.

В частности, как отмечается, в 2023-м импорт серверов в РФ увеличился на 1 % по отношению к 2021 году. Вместе с тем на столько же сократились закупки импортных СХД. В течение 2023 года российские компании приобрели около 35 тыс. зарубежных систем хранения, что, как и в случае с серверами, на 10–15 % больше по сравнению с 2022 годом.

Источник изображения: Stef Westheim / Unsplash

Наиболее быстрорастущим направлением является сектор SSD: в 2023 году импорт таких накопителей в Россию взлетел в пять раз, достигнув приблизительно 148 тыс. единиц. Каким именно брендам отдают предпочтение российские заказчики, не уточняется.

О росте импорта оборудования корпоративного класса говорят также участники рынка. Так, в Beeline Cloud подтверждают, что количество закупаемых серверов и СХД в 2023 году оказалось на уровне 2021-го. В компании сообщили, что в денежном выражении закупки техники вернулись к прежнему уровню, а поставка заказанных решений занимает 6–8 недель. По оценкам Fplus, в 2023 году в РФ было импортировано 127 тыс. серверов.

Закупки оборудования за рубежом осложняются в связи с политикой иностранных банков. Так, недавно стало известно, что китайские банки с конца марта стали блокировать транзакции от российских юрлиц для оплаты компонентов для сборки электронной продукции. Вместе с тем в Ассоциации разработчиков и производителей электроники (АРПЭ) подчёркивают, что потребность в серверном оборудовании в РФ растет примерно на 10 % ежегодно. Поскольку доля российской продукции сравнительно невелика, в такой ситуации наблюдается увеличение импорта.

SAS Institute Inc. сообщила о расширении ИИ-платформы SAS Viya, с помощью которой компании могут интегрировать самые мощные большие языковые модели (LLM), такие как GPT-4 и Gemini Pro 1.5, в свои существующие бизнес-процессы. Благодаря этому компании могут использовать LLM для создания индивидуальных моделей и агентов ИИ, точно настроенных на выполнение конкретных бизнес-задач с объяснимыми результатами и повышенной конфиденциальностью и безопасностью, а также гарантией, что они будут соответствовать определённым требованиям.

В частности, SAS Viya пополнилась новым предложением Viya Copilot для разработчиков, специалистов по обработке данных и бизнес-пользователей. Решение Viya Copilot похоже на личного помощника, призванного ускорить выполнение различных бизнес-задач. По словам компании, для этого решение использует комплексный набор инструментов, включающий генерацию кода, очистку данных, исследование данных и анализ пробелов в знаниях.

Источник изображений: SAS Institute

Обновление SAS Viya также улучшило флагманскую маркетинговую платформу компании SAS Customer Intelligence 360. Маркетологи теперь могут использовать генеративный ИИ для создания рекомендуемой аудитории на основе подсказок на естественном языке, подбора темы электронных писем и извлечения данных об аудитории.

Компания также запустила для разработчиков ИИ-приложений новую платформу SAS Data Maker, целью которой является устранение проблемы конфиденциальности и решение проблем с нехваткой данных. SAS Data Maker может генерировать «высококачественные синтетические табличные данные» для обучения ИИ вместо использования конфиденциальных данных. В то же время новая платформа поможет в ситуациях, когда компаниям не хватает данных для обучения моделей.

Вице-президент и главный аналитик Constellation Research, отметил в интервью ресурсу SiliconANGLE, что на данный момент SAS Data Maker может создавать синтетические данные только в табличных форматах, и поэтому вряд ли будет востребована многими компаниями.

Также была представлена SAS Viya Workbench — специализированная платформа для разработки ИИ в SAS Viya, предоставляющая вычислительную среду самообслуживания по требованию для таких задач, как подготовка данных, исследовательский анализ данных и построение аналитических моделей ИИ. Платформа будет запущена во II квартале на AWS Marketplace с поддержкой SAS и Python, а также поддержкой R к концу года. Пользователи получат доступ к двум вариантам среды разработки в SAS Viya Workbench, включая Visual Studio Code и Jupyter Notebooks.

Для тех, кто по каким-то причинам не может разрабатывать собственные ИИ-модели и ищет готовые решения, которые можно просто подключить к своим бизнес-системам и сразу приступить к работе, SAS представила первую из целого каталога «облегчённых» отраслевых моделей ИИ, предназначенных для клиентов в сфере финансовых услуг, здравоохранения, государственных учреждений, производства и т.д.

По словам SAS, пакетные ИИ-модели создаются с использованием запатентованных LLM и предназначены для пользователей нетехнологического сектора с целью оптимизации рабочих процессов и улучшения процесса принятия решений. SAS анонсировала свою первую комплексную модель — помощника с ИИ для оптимизации складских помещений, который может оценивать планировку складов клиентов и предлагать лучшие способы организации, чтобы максимизировать ёмкость или повысить эффективность.

Корпорация IBM, по сообщению газеты The Wall Street Journal, близка к заключению соглашения по приобретению разработчика ПО HashiCorp. На фоне ведущихся переговоров рыночная стоимость HashiCorp повысилась с $4,9 млрд до приблизительно $5,86 млрд.

HashiCorp была основана в 2012 году двумя однокурсниками из Вашингтонского университета — Митчеллом Хасимото (Mitchell Hashimoto) и Армоном Дадгаром (Armon Dadgar). Штаб-квартира компании располагается в Сан-Франциско (Калифорния), а представительства есть в других регионах США, а также в Канаде, Австралии, Индии и Европе.

Источник изображения: HashiCorp

HashiCorp предоставляет набор открытых инструментов, которые предприятия используют для управления своей облачной инфраструктурой. Одним из продуктов компании является Terraform — софт, который служит для взаимодействия с внешними ресурсами, в частности, в рамках концепции «инфраструктура как код». Кроме того, HashiCorp развивает решения Vault и Boundary, предназначенные для повышения безопасности рабочих сред.

Компания получает доход от продажи платных облачных версий своих продуктов. В IV квартале 2024 финансового года, который у HashiCorp завершился 31 января, была продемонстрирована выручка в размере $155,8 млн. Это на 15 % больше по сравнению с результатом годичной давности. Количество клиентов достигло 4423, большинство из которых тратят на софт более $100 тыс. в год.

Компания TrendFocus, по сообщению ресурса Storage Newsletter, подвела итоги исследования мирового рынка HDD в I квартале 2024 года. Отрасль показала смешанные результаты. С одной стороны, продажи сокращаются из-за сезонных колебаний, но, с другой стороны, в сегменте гиперскейлеров наблюдается спрос на накопители высокой ёмкости.

Суммарные продажи HDD всех типов в период с января по март включительно составили 29,1–30,6 млн ед. Это на 0,9–6,1 % больше в квартальном исчислении, но на 8,9–13,4 % меньше в годовом. Вместимость отгруженных за трёхмесячный период HDD оценивается примерно в 260 Эбайт.

Источник изображения: pixabay.com

Квартальные поставки Nearline-накопителей, по данным TrendFocus, превысили 12 млн штук, а их суммарная вместимость составила примерно 210 Эбайт. Отгрузки производительных HDD корпоративного класса незначительно превысили 1,5 млн единиц. Продажи LFF-изделий для настольных ПК и потребительской электроники зафиксированы на отметке около 9 млн штук. Поставки SFF-устройств для ноутбуков и электроники сократились на 10 % в квартальном исчислении, оказавшись в верхней части «диапазона 6 млн штук».

Крупнейшим игроком мирового рынка HDD остаётся Seagate с долей 39,2–39,5 % и поставками в 11,5–12,0 млн штук. В годовом выражении продажи у этой компании снизились на 17,6–21,0 %. На втором месте в рейтинге находится Western Digital с 37,9–38,1 % и 11,1–11,6 реализованных устройств: продажи год к году сократились на 8,4–12,3 %. Замыкает тройку Toshiba, которая удерживает 22,3–22,9 % рынка с квартальными продажами в размере 6,5–7,0 млн штук. У этой компании отгрузки в годовом исчислении поднялись на 2,0–9,9 %.

Занимающаяся разработкой и выпуском солнечных элементов питания компания Exowatt получила финансирование от руководителя OpenAI Сэма Альтмана (Sam Altman), а также двух других инвесторов. The Register сообщает, что точных данных об объёмах инвестиций Альтмана нет, но вкладывает деньги не его компания, а он лично.

Доля вложений Альтмана в Exowatt неизвестна, но есть данные, что двумя другими инвесторами выступили Andreessen Horowitz и Atomic. Общий объём инвестиций составляет $20 млн. В Exowatt рассчитывают генерировать экобезопасное электричество, стоимость которого со временем упадёт до $0,01/кВт·ч. Серьёзные проекты начнут реализовать уже в 2024 году.

Exowatt разрабатывает солнечные панели, сохраняющие энергию в виде тепла, которое конвертируется в электричество. Интеграция довольно больших «тепловых аккумуляторов» с собственно солнечными линзами в одном блоке, как заявляют в компании, и является ключевым отличием от других решений. Утверждается, что новое солнечное решение для питания ИИ и дата-центров будущего обеспечит меньшую стоимость энергии, чем у электростанций на ископаемом топливе.

Источник изображения: Exowatt

Высокие энергетические показатели чрезвычайно важны, когда речь идёт о дата-центрах, не говоря о ЦОД для ИИ-систем — дефицит электричества является серьёзной проблемой для гиперскейлеров вроде AWS, Microsoft или Google. Сам Альтман ещё в январе 2024 года говорил о проблемах с электроснабжением и подчёркивал, что для развития ИИ потребуется «прорыв» в энергетических технологиях.

Считается, что причиной инвестиций Альтмана отчасти стала дружба с главой Atomic Джеком Абрахамом (Jack Abraham), хотя глава OpenAI не впервые вкладывает деньги в энергетические проекты. Например, он поддерживает «атомные» стартапы Helion и Oklo. Примечательно, что первым потенциальным клиентом Helion является Microsoft, имеющая тесные связи с OpenAI — компания намерена получить доступ к электричеству, полученному за счёт термоядерного синтеза, уже в 2028 году.

Впрочем, в краткосрочной перспективе будут применяться более привычные источники электричества — солнечная и атомная энергии. Exowatt и другие экзотические энергетические компании всё ещё находятся на стадии стартапов. В то же время Amazon, например, использует традиционную АЭС для питания недавно купленного кампуса ЦОД.

Компания Samsung Electronics, по сообщению ресурса Business Korea, откроет новую научно-исследовательскую и опытно-конструкторскую (R&D) лабораторию в Кремниевой долине. Её специалисты займутся прежде всего созданием ИИ-чипов на открытой архитектуре RISC-V.

По имеющейся информации, Технологический институт Samsung SAIT (Samsung Advanced Institute of Technology) учредил исследовательский центр Advanced Processor Lab (APL). Южнокорейская компания намерена расширить свои возможности в области разработки ИИ-решений, чтобы в перспективе бросить вызов американским корпорациям, в числе которых называется NVIDIA.

Около месяца назад Samsung сформировала лабораторию Semiconductor AGI Computing Lab, сотрудники которой разрабатывают чипы следующего поколения для ИИ-приложений. Офисы данного подразделения располагаются в Южной Корее и США. Основным направлением исследований являются системы «общего искусственного интеллекта» (Artificial General Intelligence, AGI). В заявлении в LinkedIn глава Samsung Semiconductor Ке Хён Гён (Kye Hyun Kyung) отметил, что на первом этапе лаборатория сосредоточит усилия на разработке чипов для больших языковых моделей (LLM), тогда как реализация проектов в области AGI начнётся позднее.

Источник изображения: pixabay.com

Между тем власти США в рамках «Закона о чипах» выделили Samsung $6,4 млрд безвозвратных субсидий на строительство предприятий в Техасе. По условиям соглашения, в городе Тейлоре будут построены два завода по выпуску полупроводниковых изделий с нормами 4 и 2 нм. «Мы считаем, что полупроводниковые технологии нового поколения, созданные с использованием ИИ и компьютерной техники, сыграют ключевую роль в повышении качества жизни. Именно поэтому SAIT тесно сотрудничает с учёными и экспертами в поисках новых долгосрочных драйверов роста для Samsung», — говорит Гёйонг Джин (Gyoyoung Jin), президент SAIT.