(HPE) объявила о доступности входящей в портфель NVIDIA AI Computing by HPE программно-аппаратной платформы HPE Private Cloud AI на базе GreenLake, разработанной совместно с NVIDIA для создания и запуска корпоративных приложений генеративного ИИ. По словам компании, ключевым отличием HPE Private Cloud AI являются решения для автоматизации и оптимизации приложений ИИ, позволяющие предприятию сократить сроки запуска виртуальных помощников с нескольких месяцев до мгновений.

К числу таких решений («ускорителей» в терминологии HPE) относится виртуальный помощник на базе генеративного ИИ, который поможет разработчикам быстро создавать интерактивные чат-боты, отвечающие на вопросы на естественном языке, на основе собственных данных организации и открытых больших языковых моделей (LLM).

Компании смогут с их помощью настраивать свои приложения ИИ для различных целей, таких как техническая поддержка, формирование коммерческих предложений, создание маркетингового контента и многое другое. Виртуального помощника можно усовершенствовать, добавив в будущем голосовой ввод, возможность работы с изображениями и многокомпонентную поддержку, обеспечивая более продвинутую генерацию контента и работу в режиме многозадачности.

Источник изображений: HPE

Как утверждает HPE, будущие пакеты решений будут включать в себя широко используемые приложения ИИ для вертикальных отраслей, включая финансовые услуги, здравоохранение, розничную торговлю, энергетику и государственный сектор. Они будут основаны на NVIDIA NIM Agent Blueprints, эталонных вариантах ИИ-решений, которые предприятия смогут постоянно совершенствовать на основе собственных данных и отзывов клиентов.

«Предприятия ищут ускоренные, настраиваемые инструменты ИИ, подходящие для конкретных вариантов использования с учётом их специфики, — говорит Джастин Бойтано (Justin Boitano), вице-президент по корпоративным программным продуктам ИИ в NVIDIA. — NVIDIA NIM Agent Blueprints позволяет приложениям ИИ, разработанным с помощью HPE Private Cloud AI, совершенствоваться с использованием обратной связи от живых пользователей, улучшая модели в рамках непрерывного цикла обучения».

«Ускорители» HPE — это настраиваемые модульные low-code или no-code приложения, использующие микросервисы NVIDIA NIM. Эти проверенные и воспроизводимые решения упрощают развёртывание приложений ИИ, которое обычно включает приобретение новых навыков, принятие сложных рабочих нагрузок, а также интеграцию и настройку агентов, нескольких микросервисов, векторных баз данных, хранилищ данных, разрозненных источников данных, систем управления пользователями, масштабируемых серверов инференса, наборов данных, моделей ИИ и других ИТ-ресурсов.

HPE также объявила о запуске партнёрской программы Unleash AI, разработанной для поддержки обширной экосистемы ведущих организаций-партнёров. Unleash AI является частью Technology Partner Program, входящей в инициативу HPE Partner Ready, которая дополнит HPE Private Cloud AI. Новая программа будет включать поставщиков на всех уровнях — от данных, моделей и приложений технологического стека до системных интеграторов и поставщиков услуг консалтинга, проектирования, внедрения и управления комплексными решениями для клиентов на основе ИИ.

Решения партнёров, в том числе основанные на NVIDIA NIM Agent Blueprints, будут курироваться и предварительно проверяться для работы в HPE Private Cloud AI. Эта программа дополнит новую стратегию партнёрства в области ИИ, которую HPE объявила в сотрудничестве с NVIDIA.

Red Hat объявила о запуске платформы Red Hat Enterprise Linux AI (RHEL AI) для создания генеративных ИИ-решений в облачных средах. По данным Silicon Angle, анонсированный три месяца назад пакет ПО сделали общедоступным в ходе мероприятия Red Hat Summit.

Ранее анонсированный пакет включает семейство открытых языковых моделей IBM Granite, а также инструмент настройки моделей InstructLab, разработанный самой RedHat. Всё это объединили в образ RHEL для развёртывания в гибридных облаках и на локальных площадках. В компании сообщили, что RHEL AI упростит и удешевит разработку компактных и недорогих моделей.

Затраты на обучение моделей могут быть очень высокими, в Red Hat сообщают, что на создание некоторых передовых моделей уходит до $200 млн. И это только на обучение, без учёта стоимости самих данных и настройки, критически важной для выполнения специальных задач каждой конкретной компании. В Red Hat уверяют, что будущее за небольшими генеративными ИИ-моделями, большинство которых будет open source.

Источник изображения: Red Hat

В компании рассчитывают, что RHEL AI станет основной платформой для создания «бюджетных» и открытых решений. По умолчанию предоставляется библиотека бесплатных LLM Granite общего назначения. InstructLab поможет в тонкой настройке моделей без обширных навыков, связанными с наукой о данных. А интеграция с Red Hat OpenShift AI упростит обучение, настройку и обслуживание моделей. RHEL AI позволит разворачивать генеративный ИИ в непосредственной близости от баз данных и хранилищ компаний.

RHEL AI оптимизирован для развёртывания на новейших серверах Dell PowerEdge и обеспечивает все возможности, предоставляемые подпиской Red Hat, в т.ч. круглосуточную поддержку, расширенную поддержку жизненного цикла моделей и, например, правовую защиту Open Source Assurance. Поскольку RHEL AI фактически является расширением Red Hat Enterprise Linux, дистрибутив можно использовать и на любом другом оборудовании, в том числе в облаках. Решение уже доступно у AWS и IBM Cloud, в Google Cloud и Azure появится возможность использовать его позже в этом году. В IBM Cloud ожидается появление предложения «как услуги» — по подписке в самом облаке, но только в следующем году.

Ранее сообщалось, что для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти и хранилище от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Компания CoreWeave, предоставляющая облачные услуги для ИИ-задач, объявила о заключении партнёрского соглашения со стартапом Run:ai. В рамках сотрудничества клиентам будут предоставляться услуги для эффективного обучения ИИ и улучшения инференса.

CoreWeave, учреждённая в 2017 году, изначально занималась майнингом криптовалют, а затем переориентировалась на вычисления общего назначения и хостинг проектов генеративного ИИ. Компания активно развивает инфраструктуру дата-центров. В апреле 2023-го CoreWeave получила $221 млн в ходе раунда финансирования Series B, а позднее привлекла на развитие ещё $200 млн. В августе 2023-го было объявлено о долговом финансировании в размере $2,3 млрд под залог ускорителей NVIDIA. В декабре прошлого года CoreWeave провела ещё один раунд финансирования — на $642 млн. В мае 2024-го компания получила $1,1 млрд, а затем привлекла дополнительно $7,5 млрд в виде долгового финансирования.

Источник изображения: CoreWeave

В свою очередь, стартап Run:ai основан в 2018 году: в марте 2022-го он получил $75 млн в ходе раунда финансирования Series C. Фирма специализируется на разработке ПО для управления рабочими нагрузками ИИ. Такие инструменты позволяют более эффективно использовать вычислительные ресурсы при работе с ИИ-приложениями. В апреле 2024 года NVIDIA заключила соглашение о приобретении Run:ai. Условия сделки не раскрываются, но, по имеющейся информации, стоимость может составлять до $1 млрд. При этом NVIDIA также является и инвестором CoreWeave.

В рамках нового партнёрства клиенты CoreWeave смогут управлять рабочими нагрузками ИИ в своей инфраструктуре с помощью платформы Run:ai. Решения Run:ai разработаны для оптимизации использования вычислительных ресурсов в облачных средах. Утверждается, что платформа Run:ai, обеспечивающая масштабируемость, гибкость и экономическую эффективность, идеально дополняет облачную архитектуру CoreWeave. Среди ключевых преимуществ для заказчиков названы:

• Стратегическое управление ресурсами;
• Расширенное планирование и определение приоритетов;
• Динамическое распределение вычислительных мощностей;
• Поддержка ИИ на протяжении всего жизненного цикла;
• Улучшенные средства мониторинга;
• Масштабируемость;
• Автоматизированное распределение рабочих нагрузок.

ГК Softline (ПАО «Софтлайн») сообщила об открытии представительства в Хошимине, главном экономическом центре Вьетнама. В рамках ранее анонсированной стратегии международной экспансии компания выходит на рынки дружественных стран. Ранее также было открыто представительство в ОАЭ для доступа на рынки ближневосточных стран и в Казахстане — для выхода на рынки Центральной Азии.

Открытие представительства во Вьетнаме компания объяснила намерением продвигать в регионе портфель собственных продуктов и услуг, в частности отраслевых ИТ-решений на основе ИИ и решений в области информационной безопасности. Кроме того, ГК Softline планирует содействовать расширению присутствия российских вендоров для совместного продвижения технологий в регионе.

Источник изображения: Chris Slupski / Unsplash

Выбор Вьетнама для размещения хаба в Юго-Восточной Азии обусловлен высокими темпами роста цифровизации экономики страны, которая занимает по этому показателю лидирующие позиции в регионе, говорит Softline. Правительство содействует развитию ИТ-отрасли, а компании активно внедряют передовые технологии. В стране реализуется национальная стратегия исследований, разработки и применения ИИ до 2030 года. По данным Всемирного банка, темпы роста цифровой экономика Вьетнама составляют 10 % в год и к 2045 году она может превысить $200 млрд.

По словам Softline, прежде чем принять это решение, были проведены собственные рыночные исследования. Также компания приняла участие в профильных выставках и конференциях, на которых представила свои продукты и решения. Отмечено положительное отношение к российским ИТ-решениям и более широкие возможности подбора квалифицированных технических специалистов по сравнению с другими странами региона. Среди населения достаточно высокий уровень владения английским языком, а немало топ-менеджеров заказчиков также владеет русским языком, что упрощает коммуникации.

Взрывной рост ИИ сделал индустрию ЦОД одной из самых привлекательных сфер для вложения средств. Как сообщает The Register, NVIDIA совместно с другими инвесторами намерена вложить $160 млн в техасского оператора дата-центров Applied Digital, ранее известного как Applied Blockchain. Это не первый заметный игрок на рынке майнинговых ЦОД, которые переключился на ИИ и получил поддержку NVIDIA.

Акции Applied Digital торгуются на Nasdaq, но по данным Silicon Angle, в данном случае компания привлекла финансирование посредством т.н. «частного размещения» (private placement), которое предусматривает прямую передачу акций инвесторам без посредничества биржи. При этом в сделке обычно участвуют заранее одобренные компании. Applied Digital выпустила 49,38 млн акций по $3,24 за каждую.

Applied Digital занимается строительством дата-центров с СЖО для высокоплотных вычислений. Компания также сдаёт в аренду кластеры ускорителей, в частности, NVIDIA H200 и A40. Облачное подразделение — довольно весомая часть бизнеса Applied Digital. В финансовом году, закончившемся 31 марта, на его долю пришлось $29 млн из $165,6 млн общей выручки. За четыре последних месяца в эксплуатацию введено четыре новых ИИ-кластера, а ещё два запустят в ближайшие месяцы.

Источник изображения: Applied Digital

В августе Applied Digital объявила о строительстве 400 МВт ёмкостей для неназванного американского облачного оператора. Речь идёт о строящемся 100-МВт кампусе в Эллендейле (Северная Дакота) и двух других объектах. По данным СМИ, $160 млн новых инвестиций потратят на создание основы для раундов долгового финансирования, а оно уже будет истрачено на расширение кампуса ЦОД в Северной Дакоте и облачные инициативы компании. Интересно, что именно в этом штате две неизвестных компании готовы потратить $250 млрд на гигантские ИИ ЦОД.

Поскольку передовые ускорители NVIDIA стоят порядка $30-40 тыс. каждый, некоторые операторы вынуждены обращаться за крупными займами. Так, в июле оператор CyrusOne занял $7,9 млрд для покупки новейших ускорителей, не считая $1,8 млрд, привлечённых ещё весной. В мае CoreWeave привлекла $1,1 млрд, а несколькими неделями позже убедила инвесторов одолжить ещё $7,5 млрд. Lambda Labs начала текущий год с раунда финансирования на $320 млн, ещё $500 млн она привлекла весной и теперь планирует закупить десятки тысяч новых ускорителей.

Помимо традиционных венчурных инвесторов вроде BlackRock, Magnetar Capital и Coatue, в некоторых из подобных проектов участвует и сама NVIDIA, ранее уже поддерживавшая CoreWeave, которая прославилась тем, что взяла в долг $2,3 млрд под залог ускорителей, чтобы купить ещё больше ускорителей. Мотивация NVIDIA очевидна — продавать ускорители компания сможет до тех пор, пока на них есть спрос, а спрос может обеспечить только строительство новых дата-центров.

По состоянию на начало сентября 2024 года в России доля иностранного софта на объектах критической информационной инфраструктуры (КИИ), а также зарубежных средств обеспечения кибербезопасности составляет от 30 % до 40 %. Такие цифры, как сообщает ТАСС, озвучил вице-президент «Ростелекома» Игорь Ляпунов в ходе Восточного экономического форума.

В соответствии с указом президента РФ Владимира Путина, с 1 января 2025 года государственным структурам, госкорпорациям и субъектам КИИ запрещается использовать ПО, услуги и сервисы информационной безопасности, предоставляемые недружественными государствами. В этой связи в стране ведётся активное внедрение отечественных решений.

Как отмечает Ляпунов, вновь создаваемые и вводимые в строй объекты КИИ базируются исключительно на российском ПО, оборудовании и средствах защиты информации. Однако существует проблема импортозамещения ряда ранее внедрённых зарубежных решений. Это касается, в частности, межсетевых экранов нового поколения (NGFW). Во многих дата-центрах применяются иностранные продукты, хотя такие изделия предлагают, например, UserGate, «РТК-Солар», «ИнфоТеКС», InfoWatch и Positive Technologies. Но по оценкам МТС RED, полноценной замены зарубежным NGFW в РФ пока не создано.

Источник изображения: Nawfal Makarim / Unsplash

По оценкам вице-президента «Ростелекома», на полный отказ от использования подобных импортных продуктов уйдёт от трёх до четырёх лет. «Чтобы заместить центральную "железку", она должна появиться, сертифицироваться, быть протестирована и спроектирована. Если текущая ситуация на рынке NGFW сохранится, то мы перейдем к достаточно импортозамещённому состоянию в 2026–2027 годах», — сказал Ляпунов.

Согласно исследованию компании «К2 кибербезопасность», более половины российских организаций с КИИ могут не успеть перейти на отечественные решения в сфере защиты. Главная сложность заключается в нехватке отечественных аналогов зарубежных ИБ-продуктов.

IT-гигант Amazon Web Services (AWS) намерен инвестировать ещё $2 млрд в дата-центры в штате Телингана на юге Индии. По данным Datacenter Dynamics, гиперскейлер уже обсуждает с властями штата условия расширения своего парка ЦОД на данной территории.

По словам представителя местных властей, Amazon проявила интерес к инвестициям $2 млрд в дата-центры в Телингане, причём они не ограничатся столицей штата — Хайдарабадом. В ходе обсуждений выяснилось, что компания намерена направлять инвестиции в следующие 4–5 лет, особый акцент будет сделан на строительстве ЦОД.

Облачный регион AWS запустила в Хайдарабаде в ноябре 2022 года, а планы его создания обнародовали ещё в 2020 году. Всего компания рассчитывает вложить в город и штат $2,8 млрд. Планы расширения региона ЦОД в Хайдарабаде обнародовали в августе 2024 года, после визита представителей властей штата в Калифорнию для встречи с топ-менеджерами AWS. Местные власти сообщают, что основным драйвером расширения мощностей стали технологии ИИ. Amazon осознаёт их потенциал и готовит серьёзные вложения в регион. В свою очередь, Телинган готова предоставить многочисленные локации для новых кампусов.

Источник изображения: Motamarri Phani/unsplash.com

В 2023 году сообщалось, что AWS намерена вложить почти $13 млрд в расширение в Индии облачной инфраструктуры. До этого в 2016 году в Мумбаи был запущен облачный регион с тремя зонами доступности.

Институт океанологии имени П.П. Ширшова Российской академии наук (ИО РАН), единственный в России институт, занимающийся исследованиями во всех областях морских наук, включая физику, климатологию, химию, биологию и геологию океана, использует в своей работе суперкомпьютерный комплекс, разработанный и установленный специалистами группы компаний РСК.

Используя вычислительные мощности суперкомпьютера, специалисты института изучают роль Мирового океана и морей России в формировании и прогнозировании климата, балансе парниковых газов, а также всего комплекса физических, химических, биологических и геологических процессов в океане и обеспечения экологической безопасности в интересах устойчивого развития человечества.

По словам Сергея Гулева, заведующего Лабораторией взаимодействия океана и атмосферы и мониторинга климата ИО РАН, помимо всего прочего, суперкомпьютер РСК обеспечил для института необходимые вычислительные ресурсы для решения сложных задач в рамках двух важнейших инициатив — проекта государственного значения «Единая национальная система мониторинга климатически активных веществ» и Федеральной научно-технической программы в области экологического развития РФ и климатических изменений на 2021–2030 гг.

Гулев также отметил, что работа на суперкомпьютере позволит накопить опыт, который будет полезен при использовании значительно более мощного вычислительного комплекса, запланированного к запуску в ближайшие два-три года в рамках Единой национальной системы мониторинга климатически активных веществ.

Источник изображения: РСК

После запуска суперкомпьютера РСК несколько раз модернизировала его в 2017–2024 гг. В этом году запланировано ещё одно обновление машины. Сейчас HPC-комплекс ИО РАН включает 50 вычислительных узлов на базе платформы «РСК Торнадо» с процессорами Intel Xeon и прямым жидкостным охлаждением. Недавно к ним были добавлены два узла с ускорителями NVIDIA H100 (тоже с СЖО) общей производительностью 104 Тфлопс (FP64). Теперь суммарная производительность суперкомпьютера превышает 308 Тфлопс.

Хранилище машины включает All-Flash раздел ёмкостью 50 Тбайт, а также HDD-раздел объёмом более 1,5 Пбайт. Благодая программному комплексу «РСК БазИС» создана иерархическая среда хранения данных с возможностью создания конфигурации файловых систем по запросу.

Две компании намерены заняться строительством в Северной Дакоте (США) ИИ ЦОД. Datacenter Dynamics сообщает, что на августовском заседании местной Комиссии по коммунальным услугам (Public Service Commission) к властям со своими предложениями обратились представители крупного бизнеса. Ёмкость проектов составит от 500 МВт до 1 ГВт, но со временем может вырасти до 5–10 ГВт.

Реализация каждого проекта обойдётся в $125 млрд. Хотя имена компаний не раскрываются, обе описываются источниками СМИ, как бизнесы с рыночной капитализацией в «триллионы» долларов. Таких компаний не так уж много. В частности, речь может идти об NVIDIA, Amazon, Microsoft, Google, Meta✴ и Apple.

В марте 2024 года Microsoft совместно с OpenAI изучала возможность строительства 5-ГВт кампуса за $100 млрд. Проект Stargate на тот момент не ассоциировали с конкретным местом, не было и информации о чипах, которые намерены использовать компании. Издание The Information утверждает, что одной из компаний, намеренной построить ЦОД в Северной Дакоте, является именно Microsoft — губернатор штата Даг Бургум (Doug Burgum) ранее был одним из топ-менеджеров гиперскейлера.

Источник изображения: Intricate Explorer/unsplash.com

В Комиссии говорят, что интерес к проектам ИИ ЦОД вырос. Сейчас ведутся переговоры с компаниями, наиболее агрессивно реализующими подобные проекты, поэтому штат должен упростить компаниям перезонирование земель и получение доступа к электроэнергии, иначе высок риск потери инвестиций. При этом в Северной Дакоте, по данным Data Center Map, в штате всего семь кампусов ЦОД. Однако именно здесь всего за четыре года рост энергопотребления дата-центрами составил 37 %, говорится в июльском докладе Управления энергетической информации (Energy Information Administration, EIA) США.

В штате действует криптомайнинговый оператор Applied Digital, получивший в июне $200 млн инвестиций на строительство ЦОД в Северной Дакоте. Компания заключила сделку с неизвестным гиперскейлером, который займёт мощности на расширенном объекте компании. Северная Дакота — один из немногих штатов, генерирующих больше энергии, чем тратит сам, и третий по величине добытчик сырой нефти в стране. Комиссия округа Мортон (Morton County Commission) намерена обсудить возможный мораторий на строительство ЦОД в своих границах.

Сбер анонсировал семейство устройств корпоративного класса для бизнес-коммуникаций и организации видеоконференцсвязи. В частности, дебютировали интерактивные панели Sber Pro для переговорных комнат и других пространств, а также различные аксессуары.

Sber Pro — универсальное решение, заменяющее целый комплекс отдельных продуктов для совместной работы, говорит компания. Эта панель с сенсорным экраном оснащена 4K-камерой с возможностью интеллектуального наведения на говорящего, массивом из восьми микрофонов, динамиками и сабвуферами. Взаимодействовать с дисплеем можно при помощи пальцев и специального пера, при этом поддерживается до 40 одновременных касаний.

Источник изображений: Сбер

В семейство Sber Pro входят модификации с диагональю 65″, 75″ и 86″. Устройства оборудованы адаптерами Wi-Fi 6 и Bluetooth 5.2, тремя портами USB 3.0, четырьмя интерфейсами HDMI, аудиовходом и аудиовыходом. В конференциях могут участвовать до 200 человек, в вебинарах — до 3 тыс. Реализованы различные функции на основе ИИ: шумоподавление, замена фона, транскрибация речи, суммаризация итогов встречи. Пользователи во время звонка могут рисовать на экране, добавлять комментарии, вносить изменения и реагировать на полученную информацию.

В набор доступных аксессуаров входят подвесная камера с 8-Мп сенсором Sony и 12-кратным оптическим зумом, панель управления, терминал ВКС (XLR-микрофон, 2 × USB 3.0, 2 × HDMI-входа и 2 × HDMI-выхода, 1GbE и пр.) и внешний микрофон (охват 360°; радиус покрытия до 3 м).

Кроме того, представлены два комплекта для видеоконференцсвязи. Один из них ориентирован на небольшие переговорные комнаты до шести человек. В набор входят панель управления и видеобар — устройство, сочетающее в себе 4K-камеру с широким углом обзора, встроенные микрофоны, динамик и микрокомпьютер с Arm-процессором. Решение поддерживает фокусировку на говорящего или группу участников встречи. Возможна работа с несколькими экранами для вывода изображения как в режиме видеоконференцсвязи, так и в качестве источника для показа контента при офлайн-работе.

Второй комплект предназначен для пространств среднего размера: он состоит из PTZ-камеры с 12-кратным оптическим зумом, внешних микрофонов, а также терминала, к которому подключаются периферийные устройства и панели управления.