Vultr, крупнейший в мире частный облачный провайдер, объявил о том, что в составе его инфраструктуры теперь доступны ускорители AMD Instinct MI300X и открытый программный стек AMD ROCm. Клиенты могут использовать их для ресурсоёмких задач ИИ и НРС-нагрузок.

Отмечается, что благодаря объединению платформы Vultr Serverless Inference с ускорителями Instinct MI300X даже небольшие предприятия получают возможность применять передовые технологии ИИ, которые ранее им были недоступны. Новое решение ориентировано на заказчиков из различных отраслей, включая здравоохранение, финансовые услуги, производство, энергетику, медиа, розничную торговлю и телекоммуникации.

На сайте Vultr отмечается, что изделия Instinct MI300X обеспечивают ИИ-производительность в режиме TF32 до 653,7 Тфлопс, FP16 — 1307,4 Тфлопс, INT8 — 2614,9 TOPS, FP8 — 2614,9 Тфлопс. При НРС-нагрузках теоретическое пиковое быстродействие достигает 81,7 Тфлопс FP64 и 163,4 Тфлопс FP32.

Источник изображения: Vultr

Ускорители AMD интегрируются с Vultr Kubernetes Engine for Cloud GPU для формирования кластеров Kubernetes с ускорением на базе GPU. Компания Vultr говорит о высоком соотношении цены и производительности, гибких возможностях масштабирования и оптимизации для инференса. Нужно отметить, что ранее об использовании ускорителей Instinct MI300X в составе своей облачной инфраструктуры объявила корпорация Oracle. Новые инстансы BM.GPU.MI300X.8 могут использоваться в том числе для обработки больших языковых моделей (LLM), насчитывающих сотни миллиардов параметров.

Компания Microsoft будет способствовать развитию облачной и ИИ-инфраструктуры Бразилии, расширяя свои собственные дата-центры в стране. По данным Datacenter Dynamics, компания объявила о намерении потратить $2,7 млрд на соответствующие проекты в течение трёх лет. В частности, в штате Сан-Паулу предполагается расширить облачную инфраструктуру в нескольких кампусах ЦОД. В Бразилии у компании есть облачный регион Brazil South в штате Сан-Паулу (введён в эксплуатацию в 2014 году), а в 2020 году IT-гигант запустил Brazil Southeast в Рио-де-Жанейро.

Глава Microsoft Сатья Наделла (Satia Nadella) уже заявил о поддержке ИИ-трансформации страны и сообщил, что новые инвестиции компании в облака и ИИ обеспечат доступ к современным технологиям, а программы обучения будут способствовать получению новых навыков, которые станут драйвером процветания людей и экономики Бразилии в эру ИИ.

По данным компании, речь идёт о крупнейшей в истории компании единовременной инвестиции в стране. В числе прочего предусмотрено обучение 5 млн человек навыкам работы с ИИ в последующие три года.

Ещё в 2014 году Microsoft запустила облачный регион São Paulo Azure в бразильском муниципалитете Кампинас, а в 2021 году его расширили до трёх зон доступности. В 2023 году появилась информация, что компания дополнительно работает над объектами в городах Ортоландия (Hortolândia) и Сумаре (Sumaré) в штате Сан-Паулу. Также в 2020 году было объявлено о намерении открыть второй облачный регион в Рио-де-Жанейро, но позже проект переквалифицировали в «регион с зарезервированным доступом».

Источник изображения: Pedro Menezes/unsplash.com

В 2023 году Microsoft подписала с AES Brasil контракт на поставки возобновляемой энергии сроком на 15 лет, забор энергии предусмотрен с ветроэлектростанции Cajuína Wind Complex, находящейся в штате Риу-Гранди-ду-Норти (Rio Grande do Norte). Коммерческая эксплуатация началась в июле 2024 года.

Инвестирует в бразильскую цифровую инфраструктуру не только Microsoft. Пару недель назад появилась информация о том, что $1,8 млрд на расширение ЦОД в стране готовится выделить и AWS, а Scala Data Centers построит в бразильском штате Риу-Гранди-ду-Сул (Rio Grande do Sul) мегакампус ЦОД на 4,75 ГВт.

Компания Synergy Research Group обнародовала результаты анализа мировой облачной экосистемы в I половине 2024 года. Суммарные затраты в сегментах услуг и инфраструктуры достигли $427 млрд, увеличившись примерно на 23 % по сравнению с I полугодием 2023-го.

Отмечается, что в сегментах IaaS, PaaS и SaaS рост расходов в среднем составил 21 % в годовом исчислении. При этом по направлению корпоративных сервисов SaaS прибавка оказалась немногим менее 20 %.

Затраты на публичные и частные облачные дата-центры в течение января–июня 2024 года увеличились на 30 % по сравнению с тем же периодом 2023-го. Гиперскейлеры продолжают активно развивать свои инфраструктуры: их ёмкость выросла на 24 % год к году, а суммарный объём готовящихся к вводу мощностей подскочил на 47 %.

Источник изображения: Synergy Research Group

В сфере SaaS и облачных инфраструктурных услуг лидерами являются Microsoft, Amazon, Google и Salesforce. В сегменте оборудования и ПО для дата-центров значительную долю рынка занимают ODM-производители, услугами которых пользуются гиперскейлеры. Крупными игроками данного рынка также названы Dell, Microsoft, Supermicro и HPE. Отмечается, что позиции быстро укрепляет NVIDIA, поставляющая решения для платформ ИИ, в том числе напрямую гиперскейлерам.

С географической точки зрения безусловным лидером являются США, на которые в I полугодии 2024-го приходилось 44 % всей выручки от облачных услуг, 53 % ёмкости гиперскейлеров и 47 % рынка оборудования и ПО для облачных ЦОД. На долю китайских игроков приходится 8 % всей выручки от облачных услуг и 16 % мощностей гиперскейлеров.

Компания Uber намерена использовать кастомные Arm-процессоры Ampere Computing в облаке Oracle Cloud Infrastructure (OCI). В частности, компании займутся оптимизацией чипов для ИИ-задач. До недавнего времени Uber использовала преимущественно собственные ЦОД, но в 2022 году приняла решение перенести большую часть задач в облака.

С ростом количества ЦОД и зон доступности управлять IT-инфраструктурой Uber становилось всё сложнее. На ввод в эксплуатацию новой зоны порой требовались месяцы и сотни специалистов, поскольку управление серверами происходило чуть ли не «вручную», а инструменты автоматизации часто подводили. Рассмотрев различные варианты развития, Uber постепенно пришла к сотрудничеству с Ampere, Goolge и Oracle. А в феврале 2023 года компания подписала крупные семилетние облачные контракты с Google и Oracle.

По данным Uber, водители и курьеры компании выполняют более 30 млн заказов ежедневно. Для этого требуется большая IT-инфраструктура, например, для оптимизации маршрутов, в том числе с применением ИИ-технологий — ежесекундно к ИИ-моделям приходит 15 млн запросов. По оценкам Uber и Ampere, перенос нагрузок в OCI не только снизил инфраструктурные затраты, но и уменьшил энергопотребление на 30 %. Сейчас компании совместно работают над новыми чипами, выявляя, какие изменения в микроархитектуру стоит внести, чтобы будущие процессоры оптимально подходили для задач Uber.

Источник изображения: Denys Nevozhai/unsplash.com

Собственные Arm-процессоры разрабатывают AWS, Google Cloud и Microsoft Azure — Graviton, Axion и Cobalt 100 соответственно. Однако кастомизацией под конкретного клиента, пусть даже крупного, они не занимаются. Тем не менее, эксперты IDC считают, что облачные клиенты безусловно выиграют от совместной подготовки с разработчиками чипов новых полупроводниковых решений. Клиенты могут обладать специфическими знаниями и интеллектуальной собственностью, но как правило не имеют возможности самостоятельно вывести на рынок готовый продукт.

Сейчас Uber переносит тысячи микросервисов, многочисленные платформы хранения данных и десятки ИИ-моделей в OCI. Компания уже перевела значительную часть бессерверных рабочих нагрузок на платформы на базе Ampere. Впрочем, дело не ограничивается только Ampere — компания также активно использует инстансы на базе чипов AMD.

Облачная платформа Oracle Cloud Infrastructure (OCI) задействовала ускорители AMD Instinct MI300X и открытый программный стек AMD ROCm в составе новейших инстансов BM.GPU.MI300X.8. Они предназначены для ресурсоёмких ИИ-нагрузок, включая обработку больших языковых моделей (LLM), насчитывающих сотни миллиардов параметров.

Инстансы BM.GPU.MI300X.8 типа Bare Metal объединяют восемь ускорителей Instinct MI300X, каждый из которых несёт на борту 192 Гбайт памяти HBM3 с пропускной способностью 5,3 Тбайт/с. Утверждается, что модель Hugging Face OPT с 66 млрд параметров может быть запущена на одном Instinct MI300X.

В составе инстансов задействованы два процессора Intel Xeon Sapphire Rapids с 56 ядрами. Объём оперативной памяти DDR5 составляет 2 Тбайт. Для хранения данных используются восемь NVMe SSD вместимостью 3,84 Тбайт каждый. Инстансы включают frontend-сеть с пропускной способностью 100 Гбит/с, а в составе кластера применяются соединения уровня 400G (×8).

Источник изображения: AMD

Стоимость подписки на BM.GPU.MI300X.8 составляет $6/час за каждый ускоритель. Платформа OCI Supercluster на базе AMD Instinct MI300X может объединять до 16 384 ускорителей, что позволяет заказчикам гибко масштабировать вычислительные ресурсы под свои задачи, говорит компания. Отмечается, что появление новых инстансов предоставит клиентам OCI больше возможностей в плане организации высокопроизводительных и эффективных вычислений при реализации сложных ИИ-проектов.

Кроме того, компания предлагает и кластеры с ускорителями NVIDIA: 32 768 × A100, 16 384 × H100, 65 536 × H200 и 3840 × L40S. А в I половине 2025 года заказчикам станет доступен зеттафлопсный облачный ИИ-суперкомпьютер из 131 072 ускорителей NVIDIA B200 (Blackwell).

Облачная платформа Yandex Cloud объявила о планах увеличить инвестиции в развитие существующих и создание новых сервисов и технологий. В течение двух лет, с 2025 по 2026 год, на эти цели будет выделено 42 млрд руб., что почти вдвое больше затрат в 2023–2024 гг., составивших 22 млрд руб.

Источник изображений: Yandex Cloud

Рост инвестиций связан с высокими темпами развития платформы, увеличением количества пользователей и расширением списка приоритетных направлений, в который вошли ИИ-сервисы, сервисы для управления информационной безопасностью и средства обеспечения полного цикла разработки.

Одно из новых направлений Yandex Cloud — сервисы для работы с ИИ-технологиями. Представленная сегодня в рамках Yandex Scale 2024 платформа AI Studio позволяет в рамках единого интерфейса создавать приложения на базе различных ИИ-технологий Яндекса: сетей YandexGPT и YandexART, технологий распознавания и синтеза речи и т.д. Платформа включает SDK с готовыми образцами кода, которые позволят клиентам ускорить процесс разработки.

Также в платформе доступен AI Playground — сервис для тестирования ML-моделей в режиме диалога, который позволяет подобрать оптимальные промпты и настройки моделей для своих проектов. В будущем AI Playground предложит и другие ML-технологии, в том числе модели для синтеза и распознавания речи Yandex SpeechKit. Платформа, уже доступная всем клиентам Yandex Cloud, в дальнейшем будет пополняться новыми возможностями. Компания также планирует делиться собственными практиками по внедрению ИИ, чтобы помочь заказчикам быстрее получать выгоду от его использования.

Второе направление инвестиций — укрепление информационной безопасности. Yandex Cloud будет развивать существующие решения в этой сфере, например сервисы для защиты от DDoS-атак, а также создавать новые. Так, была представлена единая «приборная панель» Security Deck, которая позволяет управлять безопасностью облачной инфраструктуры и наблюдать за ключевыми параметрами. С её помощью можно выявлять уязвимости, отслеживать чувствительные данные, а также управлять правами доступа сотрудников, чтобы снизить риск утечек из облака. Тестирование Security Desk бесплатное — достаточно подать заявку на сайте.

Security Deck объединяет несколько инструментов по управлению безопасностью. Например, модуль Data Security Posture Management (DSPM) предназначен для выявления персональных и других чувствительных данных в инфраструктуре. Он определяет места хранения различных типов конфиденциальной информации (например, ФИО или СНИЛС), что позволяет снизить риск их утечки. А с помощью модуля Cloud Infrastructure Entitlements Management (CIEM) можно проверять права доступа к облачным ресурсам.

Также имеется модуль контроля прозрачности доступа к облачным ресурсам Access Transparency. Он позволяет проверить, для каких целей был предоставлен доступ сотрудников облачной платформы к инфраструктуре — например, для выполнения дополнительной диагностики ИТ-систем инженерами службы поддержки или обновления ПО. Встроенная нейросеть YandexGPT обобщает собранную информацию и предоставляет её в удобном виде.

Ещё одно направление — платформа полного цикла для разработки и сопровождения IT-продуктов SourceCraft. На этой платформе можно будет создавать исходный код, управлять его версиями, тестировать, собирать, развёртывать и сопровождать ПО. Помимо инструментов хранения и ревью кода в SourceCraft будут добавлены функции для непрерывной интеграции и развёртывания ИТ-проектов, безопасной разработки, аудита, логгинга, мониторинга и трейсинга.

Первым компонентом платформы станет представленный ранее сервис Yandex Code Assistant — ИИ-помощник для работы с кодом. С его помощью можно будет по фрагменту кода сгенерировать наиболее вероятное его продолжение. Сервис уже доступен для тестирования на облачной платформе Yandex Cloud. Компания предоставит доступ к SourceCraft внешним пользователям в 2025 году, но уже сейчас можно записаться в лист ожидания.

Также на конференции было объявлено о запуске сервиса по аренде выделенных физических серверов Yandex BareMetal и сервиса Serverless Integrations для ускорения разработки продуктов в облаке. Yandex BareMetal позволит компаниям получить вычислительные мощности для размещения любого ПО, в том числе средств виртуализации. При этом обслуживание оборудования компания берёт на себя.

Yandex BareMetal можно использовать вместе с остальной облачной инфраструктурой Yandex Cloud. Клиенты смогут выбрать необходимую конфигурацию сервера в специальной консоли, а также использовать единый центр поддержки, биллинг и систему управления доступом провайдера. Заявки на бесплатное закрытое тестирование Yandex BareMetal, которое начнётся до конца 2024 года, можно подать уже сейчас.

В свою очередь сервис Serverless Integrations позволит ИТ-специалистам без написания кода автоматизировать рабочие процессы, например, обработку онлайн-заказов и мониторинг систем безопасности, что по данным компании, позволяет ускорить разработку приложений на 10–70 % в зависимости от задач и специфики компании. Serverless Integrations доступен пользователям Yandex Cloud по запросу.

Связать рабочие процессы между собой поможет инструмент Workflows. Достаточно пошагово описать последовательность операций с помощью разметки, и в нужный момент Workflows сам запустит эти процессы и проконтролирует их выполнение. В будущем в Workflows появится визуальный интерфейс, с помощью которого последовательность процессов можно будет составлять из блоков, как в конструкторе. Для автоматизации процессов также есть EventRouter — инструмент для обмена информации между внутренними сервисами о новых событиях в системе.

В ходе конференции Microsoft AI Tour Mexico 2024 глава Microsoft Сатья Наделла (Satya Nadella) объявил, что компания намерена инвестировать $1,3 млрд в улучшение ИИ-инфраструктуры страны. Пресс-служба компании сообщает, что деньги будут выделяться в течение трёх лет. В числе прочего предусмотрены вложения в программу Artificial Intelligence National Skills, призванную сделать доступ к ИИ-технологиям более демократичным. Также предусмотрены инструменты поощрения использования ИИ малым и средним бизнесом и ускорения цифровой трансформации страны.

В течение трёх лет Microsoft обучит 5 млн жителей страны работе с решениями на базе ИИ — от обычных пользователей до учителей, разработчиков и руководителей организаций. Также разрабатывается обучающая платформа для соискателей вакансий и работников. Сфере найма будет уделяться повышенное внимание, а среднему и малому бизнесу помогут выявить, какие навыки работы с ИИ необходимы сотрудникам.

Согласно исследованию Microsoft, в 2023 году 57 % опрошенных представителей малого и среднего бизнеса Мексиси уже использовали ИИ, в первую очередь для повышения эффективности работы, обработки данных и персонализации обслуживания клиентов. Благодаря программе The Bridge Accelerator компания стремится помочь местному малому и среднему бизнесу подготовиться к интеграции в бизнес-процессы Северной Америки с внедрением ИИ-платформы PyMAIs. Инициатива позволит 30 тыс. предприятий за три года обновить бизнес, повысить свою конкурентоспособность и увеличить охват потенциальных клиентов, в том числе за пределами Мексики.

Источник изображения: Microsoft

В рамках программы AI for Good компания занимается вопросами здравоохранения, связи и устойчивого развития. В частности, компания разработала ИИ-модели, позволяющие врачам использовать смартфоны для ранней диагностики ретинопатии недоношенных. В сфере связи проекты Microsoft и Viasat должны к концу года охватить более 1,45 млн человек в стране. В том числе речь идёт об активации новых сетей, способных обеспечить доступ более 150 тыс. мексиканцев, ранее не имевших доступа к сотовой связи. Немалое значение играет и устойчивое развитие — к 2030 году Microsoft намерена стать компанией с отрицательным углеродным выбросом, PPA заключены на более 34 ГВт в 24 странах.

В Мексике компания также обещает расширить доступ людей к чистой воде и санитарным решениям, работая над восстановлением запасов воды и экосистем в целом. В частности, с компанией The Next 150 подписано соглашение об удалении до 95 тыс. тонн CO₂ в рамках проекта производства биоугля. Также подписано годовое соглашение с Toroto SAPI de CV об удалении 234 тыс. тонн CO₂ в рамках восстановления лесной экосистемы в одном из штатов Мексики. Проекты поддерживают и местных фермеров, способствуя сохранению биоразнообразия.

Microsoft стремится стать катализатором новой экономики с повышенным вниманием к цифровым услугам, ИИ и смежным решениям. Мексика, географически близкая к США, не может остаться без внимания IT-гиганта.

Платформа RCloud by 3data объявила о запуске кластера в дата-центре Miran в Санкт-Петербурге, который позволит обеспечить клиентам более высокую отказоустойчивость и доступность облачных сервисов в Северо-Западном регионе и за его пределами. В новом кластере клиентам доступны IaaS и PaaS, возможность быстрого подключения оборудования к облаку, единый центр технической поддержки по всем услугам, а также управление сервисами из единого окна управления.

Дата-центры оператора ЦОД Miran имеют уровень надёжности Tier III и соответствуют стандарту PCI-DSS. ЦОД оператора подключены к основным узлам связи Петербурга и Москвы и имеют все необходимые системы для обеспечения бесперебойной работы защищённой инфраструктуры, говорится в сообщении.

RCloud by 3data руководствуется стратегией расширения географически распределенной инфраструктуры, размещая новые облачные кластеры в разных регионах страны. В настоящее время платформа предлагает заказчикам доступ к объектам в Москве, Санкт-Петербурге, Владивостоке, Казахстане и Амстердаме. Также RCloud by 3data предоставляет готовые решения: защищённую облачную инфраструктуру, аттестованную в соответствии с 152-ФЗ, и облако, сертифицированное по стандарту PCI-DSS.

Источник изображения: RCloud by 3data

В RCloud by 3data отметили, что размещение кластера в дата-центре Miran в Санкт-Петербурге позволит предложить заказчикам надёжною облачную инфраструктуру с гибким масштабированием. В свою очередь, в Miran назвали заключение партнёрского соглашения и размещение кластера платформы RCloud by 3data в её дата-центре важным шагом в стратегии расширения сервисов, предоставляемых компанией своим клиентам.

Продукт российского вендора «Базис» — комплексная система защиты виртуальной инфраструктуры Basis Virtual Security — занял первое место в рейтинге CNews «Средства облачной защиты-2024». Это первая сводная оценка данного класса решений в России.

Эксперты сопоставили продукты пяти российских разработчиков по восьми критериям, принципиальным для безопасной работы виртуальных сред. Basis Virtual Security набрал наибольшее количество баллов (378), опередив ближайшего конкурента на 54 пункта.

При составлении рейтинга аналитики учитывали следующие характеристики: кодовую базу для разработки решения, совместимость с российскими операционными системами, поддержку платформ виртуализации, функциональные возможности, вопросы безопасности, поддержку протоколов при аутентификации пользователей, поддержку протоколов для консолидированного сбора и индексации логов, длительность бесплатного тестового периода и розничную стоимость одной лицензии.

Источник изображения: «Базис» / CNews

Basis Virtual Security — программное средство защиты конфиденциальной информации, в 2020 году получившее сертификат соответствия ФСТЭК. Решение соответствует 4 уровню доверия и может применяться в значимых объектах КИИ первой категории, первых классах ГИС и АСУТП и первом уровне защиты ИСПДН.

В продукте реализованы технологии единого входа (Single Sign-On), управление доступом к информационным системам, многофакторная аутентификация и регистрация событий безопасности, а также контроль целостности и доверенная загрузка виртуальных машин и гипервизоров. Горизонтальная масштабируемость системы обеспечивается за счет кластеризации.

В сентябре 2024 года была выпущена обновленная версия системы Basis Virtual Security 3.2. Техническая команда вендора добавила в продукт политики реагирования на события нарушения целостности виртуальных машин и возможность выполнения периодических операций контроля целостности. Наряду с этим, удалось повысить производительность подсчёта контрольных сумм файлов виртуальных машин и вычислительных узлов, улучшить пользовательский опыт и обеспечить совместимость с ALD Pro в режиме LDAP-федерации.

Alibaba Cloud представила на своей ежегодной конференции Apsara модульную архитектуру ЦОД под названием «CUBE DC 5.0», которая, по словам компании, поможет ей удовлетворить спрос на инфраструктуру ИИ за счёт повышения производительности и сокращения времени сборки новых объектов, пишет ресурс The Register.

Согласно заявлению Alibaba Cloud, архитектура CUBE DC 5.0 основана на использовании «готовых модульных конструкций» и «передовых фирменных технологий, таких как гибридная система охлаждения (wind-liquid, воздушно-жидкостная), архитектура распределения DC-питания постоянного тока». Не раскрывая подробности используемых технологий, Alibaba Cloud сообщила, что модульный подход сокращает время развёртывания ЦОД до 50 % по сравнению с традиционными методами строительства.

The Register попросил Alibaba объяснить работу «гибридной системы охлаждения wind-liquid». Предположительно, речь идёт о СЖО с охлаждающей пластиной — метод, при котором тонкие резервуары с охлаждённой жидкостью размещаются на оборудовании, а охлаждение достигается за счёт циркуляции жидкости и/или продувки воздуха по пластинам.

Источник изображений: Alibaba Cloud

Гендиректор Alibaba Cloud Intelligence Эдди Ву (Eddie Wu) заявил, что компания «вкладывает значительные средства в создание ИИ-инфраструктуры ИИ будущего». Компания анонсировала на конференции планировщик, который позволяет улучшить управление аппаратными ресурсами, повышая коэффициент использования до 90 %.

Также было представлено IaaS-предложение Enterprise Elastic Compute Service (ECS) девятого поколения, получившее улучшения для обработки приложений ИИ. В частности, были увеличены скорость работы механизма рекомендаций на 30 % и количество запросов на чтение/запись в базу данных в секунду на 17 %. Кроме того, Alibaba Cloud анонсировала ПО Open Lake, которая объединяет несколько крупных движков данных для использования их приложениями генеративного ИИ. Ещё одно новое предложение от китайской компании — DMS: OneMeta+OneOps, которое, по-видимому, объединяет и управляет метаданными из 40 различных источников данных.

Также Alibaba Cloud сообщила о выходе новых ИИ-моделей с открытым исходным кодом семейства Qwen 2.5 и новой ИИ-модели семейства Tongyi Wanxiang для преобразования текста в видео с поддержкой китайского и английского языков.