Vultr, крупнейший в мире частный облачный провайдер, объявил о том, что в его инфраструктуре появились ускорители AMD Instinct MI325X, предназначенные для ресурсоёмких ИИ-нагрузок. Говорится об использовании открытого программного стека ROCm и о поддержке ключевых фреймворков. Vultr стал первым поставщиком облачных услуг, взявшим на вооружение изделия AMD Instinct MI325X.

Ускорители развёрнуты в дата-центре компании в Чикаго (Иллинойс, США). Внедрение этих решений является частью усилий по расширению сотрудничества с AMD: в сентябре прошлого года в облаке Vultr появились ускорители Instinct MI300X.

Изделия Instinct MI325X несут на борту 256 Гбайт памяти HBM3E с пропускной способностью до 6 Тбайт/с. Пиковая производительность достигает 1,3 Пфлопс в режиме FP16 и 2,6 Пфлопс в режиме FP8. Решения подходят в том числе для задач инференса.

Источник изображения: AMD

Отмечается, что Vultr использует ускорители Instinct MI325X в составе серверов Supermicro AS-8126GS-TNMR типоразмера 8U. Эти машины комплектуются двумя процессорами AMD EPYC 9005/9004 с показателем TDP до 500 Вт. Доступны 24 слота для модулей DDR5-6000 суммарным объёмом до 9 Тбайт. Во фронтальной части расположены десять отсеков для SFF-накопителей в конфигурации 8 × NVMe и 2 × SATA. Кроме того, есть два коннектора М.2 (NVMe). Предусмотрены восемь слотов PCIe 5.0 x16 LP и два слота PCIe 5.0 x16 FHHL. За питание отвечают шесть блоков мощностью 5250 Вт с сертификатом Titanium. Применяется воздушное охлаждение.

«Ускорители AMD Instinct MI325X устанавливают новые стандарты в области ИИ, обеспечивая невероятную производительность и эффективность для задач инференса», — говорит глава Vultr. Цены на новые инстансы пока не названы.

Vultr, крупнейший в мире частный облачный провайдер, сообщил о проведении раунда финансирования на $333 млн. Инвестиционную программу возглавили LuminArx Capital Management и AMD Ventures, а банк Goldman Sachs & Co. LLC выступил в качестве финансового консультанта.

Vultr управляет облачной платформой, объединяющей на сегодняшний день 32 дата-центра в различных регионах. Компания предлагает инстансы, стоимость которых начинается с $2,5/мес. Доступны разные варианты инфраструктуры, включая серверы bare-metal, платформу Kubernetes, а также несколько типов хранилищ данных. В начале уходящего года Vultr запустил собственную сеть доставки контента (CDN) для поддержания работы современных нагруженных сервисов.

Источник изображения: Vultr

По результатам проведённого раунда финансирования провайдер Vultr получил оценку в $3,5 млрд. Привлечённые средства будут использованы для глобального расширения инфраструктуры ИИ. Речь идёт о приобретении дополнительных ускорителей на базе GPU с целью развития облачных вычислений.

По всей видимости, Vultr продолжит закупать ИИ-оборудование AMD. В сентябре 2024-го облачный провайдер объявил о том, что в его инфраструктуре появились ускорители AMD Instinct MI300X. Изделия интегрируются с Vultr Kubernetes Engine for Cloud GPU для формирования кластеров Kubernetes с ускорением на базе GPU. А недавно Vultr представил облачный ИИ-кластер на основе Instinct MI300X. В создании платформы принимают участие Broadcom и Juniper Networks. Кластер располагается в дата-центре Vultr Centersquare в Лайле (юго-западный пригород Чикаго; Иллинойс; США).

Vultr, крупнейший в мире частный облачный провайдер, объявил о том, что в составе его инфраструктуры теперь доступны ускорители AMD Instinct MI300X и открытый программный стек AMD ROCm. Клиенты могут использовать их для ресурсоёмких задач ИИ и НРС-нагрузок.

Отмечается, что благодаря объединению платформы Vultr Serverless Inference с ускорителями Instinct MI300X даже небольшие предприятия получают возможность применять передовые технологии ИИ, которые ранее им были недоступны. Новое решение ориентировано на заказчиков из различных отраслей, включая здравоохранение, финансовые услуги, производство, энергетику, медиа, розничную торговлю и телекоммуникации.

На сайте Vultr отмечается, что изделия Instinct MI300X обеспечивают ИИ-производительность в режиме TF32 до 653,7 Тфлопс, FP16 — 1307,4 Тфлопс, INT8 — 2614,9 TOPS, FP8 — 2614,9 Тфлопс. При НРС-нагрузках теоретическое пиковое быстродействие достигает 81,7 Тфлопс FP64 и 163,4 Тфлопс FP32.

Источник изображения: Vultr

Ускорители AMD интегрируются с Vultr Kubernetes Engine for Cloud GPU для формирования кластеров Kubernetes с ускорением на базе GPU. Компания Vultr говорит о высоком соотношении цены и производительности, гибких возможностях масштабирования и оптимизации для инференса. Нужно отметить, что ранее об использовании ускорителей Instinct MI300X в составе своей облачной инфраструктуры объявила корпорация Oracle. Новые инстансы BM.GPU.MI300X.8 могут использоваться в том числе для обработки больших языковых моделей (LLM), насчитывающих сотни миллиардов параметров.

Vultr, крупнейший в мире частный облачный провайдер, объявил о запуске суверенного и частного облаков — платформ Sovereign Cloud и Private Cloud, которые ориентированы на государственных заказчиков, исследовательские учреждения и предприятия, работающие с критически важными данными.

Отмечается, что значительная часть облачных рабочих нагрузок в мире в настоящее время управляется ограниченным количеством поставщиков услуг, дата-центры которых сосредоточены в определённых географических регионах. Это вызывает обеспокоенность по поводу цифрового суверенитета и контроля над данными среди правительств ряда стран — особенно в Европе, на Ближнем Востоке, в Латинской Америке и Азии.

Источник изображения: Vultr

Вместе с тем предприятиям приходится соблюдать всё больше правил, регулирующих сбор, хранение и использование данных. Согласно исследованию Accenture, примерно 50 % европейских руководителей высшего звена считают суверенитет данных главным вопросом при выборе поставщиков облачных услуг. Причём более трети респондентов сообщили, что их компании стремятся переместить от 25 % до 75 % информации, рабочих нагрузок или активов в суверенное облако. Платформы Sovereign Cloud и Private Cloud как раз и призваны удовлетворить этот спрос.

Новые сервисы предоставляют доступ к облачной инфраструктуре, гарантируя при этом, что критически важные данные и операции остаются в пределах национальных границ, а обработка осуществляется в соответствии с местными законодательными требованиями. При этом Vultr предоставляет клиентам доступ к вычислительным ресурсам на базе современных GPU и средствам ИИ. Утверждается, что благодаря сотрудничеству с поставщиками телекоммуникационных услуг, такими как Singtel, а также с другими партнёрами и правительствами по всему миру Vultr может развёртывать локальные облака в любом регионе.

Источник изображения: Vultr

Кроме того, Vultr обеспечивает технологическую независимость на базе изолированной физической инфраструктуры, управление которой находится под непосредственным контролем клиента и не связано с центральной системой Vultr. В целом, платформы Vultr Sovereign Cloud и Private Cloud гарантируют, что данные хранятся локально, не передаются за пределы национальных границ и используются строго по назначению.

Нужно отметить, что суверенные облачные сервисы развёртывают и многие другие провайдеры и операторы дата-центров. Так, в сентябре 2023 года о планах по созданию суверенного облака в ОАЭ объявила корпорация Microsoft. Oracle в июне 2023-го запустила суверенную облачную платформу EU Sovereign Cloud, предназначенную специально для Европейского союза. По заявлениям Oracle, создание суверенных облаков также заказали семь государств, включая Японию, Италию, Саудовскую Аравию, Бангладеш и Новую Зеландию. Кроме того, суверенное облако для Европы анонсировала компания Amazon. А Orange и Capgemini запустят во Франции суверенное облако Bleu на базе решений Microsoft.

Vultr, крупнейший в мире частный облачный провайдер, анонсировал создание собственной сети доставки контента, разработанной для поддержания работы современных нагруженных сервисов. Платформа получила название Vultr CDN: она построена на базе глобальной инфраструктуры Vultr, охватывающей шесть континентов.

Система, как утверждается, использует сложные интеллектуальные функции распределения контента, оптимизируя операции и гарантируя высокую экономическую эффективность. Стоимость услуг составляет от $10/мес. за каждый регион (1 Тбайт трафика входит в стоимость), что, по заявлениям Vultr, является самой низкой ценой в отрасли.

Источник изображения: Vultr

Благодаря полной интеграции с Vultr Cloud Compute платформа CDN автоматически и интеллектуально масштабируется, оптимизируя параметры для каждой конкретной задачи и приложения. Облачная платформа, охватывающая 32 локации по всему миру, обеспечивает низкую задержку и высокую скорость доставки контента независимо от того, где находится пользователь. Утверждается, что Vultr CDN соответствует ведущим отраслевым стандартам безопасности: предусмотрены средства защиты в том числе от DDoS-атак.

Реализована бесшовная интеграция с популярными платформами CMS, а также с объектным хранилищем Vultr. В целом, как отмечает Vultr, новая CDN-платформа меняет правила игры на рынке сетей доставки контента. Глобальный охват, производительность и высокая экономическая эффективность позволяют поддерживать современные масштабируемые приложения с минимальными затратами.

По оценкам ResearchAndMarkets, в 2022 году объём мирового CDN-рынка составил приблизительно $6,7 млрд. К 2030-му, согласно прогнозам аналитиков, этот показатель может достичь $30,5 млрд. Между тем некоторые компании отказываются от развития собственных CDN-сервисов. Так, американская телекоммуникационная фирма Lumen Technologies решила продать соответствующие клиентские контракты провайдеру Akamai Technologies. А ранее Akamai приобрела около 100 клиентов CDN у Stackpath. При этом сама компания постепенно становится облачным провайдером.

Vultr, крупнейший в мире частный облачный провайдер, объявил о доступности суперчипа NVIDIA GH200 Grace Hopper во всех своих 32 облачных регионах. Портфолио провайдера также включает предложения на базе HGX H100, A100, L40S, A40 и A16. Vultr видит свою миссию в том, чтобы сделать HPC-решения простыми в использовании и доступными для предприятий и разработчиков по всему миру.

Ускорители NVIDIA интегрированы с широким спектром предложений Vultr в области виртуализированных облачных платформ и bare metal, а также с управляемыми кластерами Kubernetes, управляемыми базами данных, блочными и объектными хранилищами и многим другим. Этот комплексный набор продуктов и услуг делает Vultr предпочтительным универсальным облачным поставщиком для предприятий любого размера с критически важными инициативами в области ИИ и машинного обучения, считает компания.

Источник изображения: Vultr

Vultr также объявила о получении статуса NVIDIA Elite в партнёрской сети NVIDIA в области вычислений — NVIDIA Partner Network for Compute Competency. Статус ориентирован на партнёров, которые предоставляют вычислительные платформы с ускорителями NVIDIA для корпоративных заказчиков. Партнёры по Compute должны обеспечивать высокую производительность, масштабируемость и безопасность для каждой платформы.