Провайдер Cloud.ru представил Evolution ML Inference — первый, по словам компании, в России управляемый облачный сервис для инференса больших языковых моделей (LLM), который позволит эффективно управлять вычислительными ресурсами. С его помощью клиенты смогут помимо моделей GigaChat от Cloud.ru запускать и развертывать собственные ИИ-модели, а также open source модели из библиотеки Hugging Face на базе облачных ускорителей.

Это полностью управляемый сервис — пользователю достаточно настроить конфигурацию, модель и тип масштабирования, Cloud.ru предоставит доступ к мощным ускорителям, а также будет отвечать за полное администрирование и обслуживание инфраструктуры. Сервис отличается простотой и гибкостью управления, что позволяет запускать модели без необходимости сборки образа напрямую из Hugging Face, а также запускать собственные образы со своим окружением.

Благодаря поддержке технологии Shared GPU, позволяющей распределять GPU-ресурсы с учётом потребления количества vRAM, необходимого для эффективной работы модели без задержек, а также с возможностью динамически перераспределять ресурсы в зависимости от текущих потребностей, сервис обеспечивает повышение утилизации мощностей в ИИ-проектах от 15 до 45 % в сравнении со сценарием, когда GPU используется целиком. Тем самым обеспечивается высокая степень адаптации и рациональное использование доступных ресурсов с одновременным запуском нескольких моделей на одном GPU.

«Это делает технологию наиболее оптимальной для распределённых систем с разнородной вычислительной инфраструктурой и помогает эффективно масштабировать нагрузку», — отметила Cloud.ru. Ещё одно отличие сервиса — поддержка режима скайлирования (эффективного масштабирования), когда оплата за использование модели начисляет только с момента обращения к ней.

По оценкам Cloud.ru, около 70 % заказчиков используют GPU-ресурсы, зарезервированные под инференс в процессе эксплуатации ML-моделей, менее чем на 55 %. При внедрении ИИ в большинстве случаев базой становится именно среда исполнения модели. Поэтому для рационального использования ресурсов и оптимизации затрат при обработке ИИ-нагрузок, особенно генеративного ИИ, необходима производительная инфраструктура с гибким масштабированием в реальном времени, отметил глава Cloud.ru.

Провайдер облачных и ИИ-технологий Cloud.ru объявил о разработке новой платформы для локального развёртывания ИИ-сервисов Cloud.ru Evolution Stack AI-bundle, представляющей собой конфигурацию решения Cloud.ru Evolution Stack, оптимизированную под выполнение ML- и ИИ-задач.

Новая платформа объединит возможности частного и гибридного облака Cloud.ru с набором инструментов для быстрой и безопасной разработки ИИ-продуктов с полным контролем данных. Решение будет востребовано представителями финансового и государственного секторов, операторами облачных ЦОД, крупным ретейлом и промышленными предприятиями. Использование платформы позволит упростить запуск и масштабирование ИИ-сервисов, снизит для пользователей порог входа в разработку ИИ-решений и ускорит их внедрение предприятиями.

Cloud.ru Evolution Stack AI-bundle будет включать сервисы для end-to-end ML-разработки и локального развёртывания, кастомизации и дальнейшего масштабирования моделей, в том числе:

• рабочие DS-окружения Jupyter Lab;
• инструменты управления жизненным циклом ML-моделей (обучение, дообучение, инференс);
• инфраструктурные компоненты: Managed Kubernetes с поддержкой ускорителей, реестр артефактов, виртуальные машины на базе ускорителей, высокопроизводительное S3-хранилище и специализированная файловая система для интеграции с ML-сервисами.

Новая платформа будет базироваться на собственных разработках Cloud.ru в сфере ИИ, используемых в облачной платформе Cloud.ru Evolution, и свободно распространяемых компонентах. С её помощью можно будет решать ИИ-задачи в гибридном сценарии: например, обучать модели в публичном облаке, а инференс выполнять в частном контуре клиента, или, наоборот, переносить процесс в публичное облако в периоды высокой нагрузки.

Используя OSS/BSS-инструменты, платформа поддерживает мультитенантную архитектуру, централизованное управление доступом, мониторинг сервисов и определение квот на используемые ресурсы. При необходимости Cloud.ru Evolution Stack AI-bundle будет дополняться другими IaaS/PaaS провайдера при создании облачного решения под ключ для использования на уровне всей инфраструктуры клиента. Также можно будет дополнять предложение Cloud.ru Evolution Stack ИИ-решениями из портфеля Evolution Stack AI-bundle.

Платформа для создания гибридного и частного облака Cloud.ru входит в реестр российского программного обеспечения и соответствует требованиям импортозамещения. Помимо лицензионного ПО, разрабатываемая платформа будет доступна в составе программно-аппаратных комплексов для ИИ-задач с поставкой по подписке. По словам Cloud.ru, новая платформа обеспечит крупному бизнесу и государственным организациям возможность использования ИИ-сервисов и полного набора инструментов публичного облака Cloud.ru Evolution on-premise.

Провайдер облачных и ИИ-технологий Cloud.ru анонсировал Cloud.ru Evolution AI Factory, цифровую среду для разработки приложений и агентов на основе ИИ в облаке, которая объединяет облачные ИИ- и ML-инструменты для работы с генеративными нейросетями и управления жизненным циклом ИИ-приложений. Это универсальная среда с широким спектром возможностей: от обучения моделей до запуска мультиагентных систем.

С помощью Cloud.ru Evolution AI Factory компании смогут создавать собственные ИИ-приложения по предлагаемым готовым шаблонам или работать с кастомизированными ИИ-моделями. Благодаря удобному набору технологий и встроенных ассистентов с решением можно работать даже без специальных навыков. Использование Cloud.ru Evolution AI Factory позволит компаниям значительно снизить затраты на вычислительную инфраструктуру, повысить эффективность работы и сократить сроки вывода новых продуктов на рынок.

Как сообщил глава Cloud.ru, решение будет доступно клиентам этим летом с полностью готовой инфраструктурой, сервисами и продуктами для простого и быстрого создания ИИ-приложений. Платформа включает:

• Сервис Foundation Models, обеспечивающий быстрый и удобный доступ в российском облаке к таким популярным моделям, включая GigaChat, DeepSeek, Qwen и Gemma. Он позволит разработчикам адаптировать ИИ-модели под свои задачи, проверять гипотезы и проводить эксперименты без необходимости в запуске сложной инфраструктуры. В состав сервиса также входит AI Playground — среда для быстрого прототипирования, проверки гипотез и тестирования моделей на практике.
• Evolution ML Inference — сервис для запуска моделей из библиотеки Hugging Face на облачных мощностях с ускорителями, в том числе в пользовательских Docker-образах. Он поддерживает среды исполнения vLLM, TGI, Ollama, Diffusers, Transformers, а также модели-трансформеры, диффузионные модели и большие языковые модели (LLM). Инференс-как-сервис позволяет распределять ресурсы ускорителя между задачами на уровне production-ready решения. Это позволит гибко и максимально эффективно управлять ресурсами в облаке, снижая затраты и ускоряя работу ИИ-моделей.
• AI Assistants — сервис для создания агентных и мультиагентных систем с подключением к внешним системам с MCP (Model Context Protocol), который позволит настроить взаимодействие между ИИ-агентами и источниками данных с возможностью использования продвинутых моделей и собственных решений компании. Сервис обеспечивает быстрый доступ к информации, автоматизацию рутинных задач, в том числе, благодаря использованию RAG.
• Cloud.ru ML Space — платформа для выполнения задач глубокого обучения с использованием суперкомпьютеров и МО на базе российского решения. Подходит для полного цикла МО-разработки в облаке и on-premise.

Сообщается, что новое решение позволяет объединить в Cloud.ru не только инструменты для создания ИИ-приложений, но и независимых разработчиков ПО, чтобы упростить работу с облаком и бизнеса в целом.

Провайдер облачных сервисов Cloud.ru обнародовал результаты исследования, посвящённого использованию средств ИИ российскими IT-специалистами. Выяснилось, что более 70 % респондентов применяют ИИ-сервисы как минимум раз в неделю, а 39 % разработчиков ПО используют такие инструменты ежедневно.

Опубликованные цифры получены в ходе опроса разработчиков, тестировщиков, аналитиков данных и представителей других IT-специальностей с разным уровнем подготовки со всей России. Большинство респондентов отмечают, что навыки работы с ИИ становятся всё более значимыми на рынке труда. В частности, 70 % участников опроса периодически встречают в вакансиях обязательное требование владеть навыками и инструментами ИИ, а 22 % респондентов сталкиваются с подобными требованиями регулярно.

Практически две трети — 62 % — IT-специалистов в России доверяют ИИ как напарнику. Почти половина опрошенных, в чьих компаниях активно поддерживается использование ИИ, оценили доверие к технологии наивысшим баллом. Вместе с тем 46 % респондентов больше доверяют российским ИИ-сервисам, тогда как одинаковое доверие к отечественным и зарубежным инструментам проявляют менее трети специалистов — около 31 %. Среди наиболее популярных сценариев использования ИИ названы (респонденты могли выбирать несколько ответов):

• Работа с кодом — 73 %;
• Генерация текстов — 31 %;
• Поиск информации — 31 %;
• Анализ данных — 31 %;
• Создание презентаций — 24 %;
• Генерация изображений — 24 %;
• Анализ рисков кибербезопасности — 19 %;
• Расшифровка аудиозаписей — 15 %;
• Подготовка обзоров объёмной информации — 9 %.

В целом, как сказано в исследовании, применение ИИ помогает российским IT-специалистам работать быстрее и эффективнее, минимизирует усилия, избавляет от рутины, повышает чувство уверенности и комфорта, освобождая больше времени для профессиональной реализации и решения интересных мотивирующих задач.

Провайдер облачных и ИИ-технологий Cloud.ru вывел на рынок Cloud.ru Evolution Stack — продукт для создания частных и гибридных облаков в ИТ-ландшафте клиента. Новый продукт сокращает сроки разработки и тестирования отраслевых технологических решений. В том числе предлагаются готовые конфигурации с набором IaaS/PaaS-сервисов. Об этом сообщает пресс-служба компании.

В основе решения лежит единый с публичным облаком Cloud.ru Evolution технологический стек собственной разработки. Как сообщает пресс-служба компании, платформа разработана с учетом растущего спроса на гибридное и частное облака, включая периферийные вычисления и поддержку ИИ-нагрузок.

Источник изображений: Cloud.ru

Модульная облачная платформа позволяет построить частное облако в собственном дата-центре, а также развернуть гибридную инфраструктуру, объединяя возможности публичного облака Cloud.ru Evolution и on-premise инфраструктуру, включая системы виртуализации. Решение включает функциональные системы управления операциями и эксплуатацией облачной инфраструктуры. Эти модули упрощают учет ресурсов, биллинг, контроль SLA, позволяя вести мониторинг производительности оборудования и сервисов, проактивно выявлять неисправности.

Также можно формировать индивидуальные продуктовые каталоги, управлять доступами, тарифами и квотами, настраивать проектную иерархию и гибкое разделение вычислительных ресурсов. Консоль управления и модуль Multicloud Manager позволяют централизованно администрировать облачную инфраструктуру как on-premise, так и в публичном облаке Cloud.ru. Модуль VM Manager позволяет настроить индивидуальные политики управления виртуальной инфраструктурой и в автоматическом режиме проверять ее на соответствие корпоративным стандартам кибербезопасности и наличие угроз.

Провайдер облачных сервисов и ИИ-технологий Cloud.ru объявил о заморозке цен на пользование облачными услугами. Предложение действительно для новых клиентов — они смогут пользоваться сервисами по фиксированным ценам в течение трёх лет, сообщает пресс-служба компании. Предполагается, что такой подход поможет вести долгосрочное планирование IT-бюджета и эффективно развивать цифровые сегменты бизнеса.

Заморозка цен коснётся виртуальных машин, в том числе с GPU, объектных хранилищ, баз данных, а также иных облачных сервисов. Cloud.ru располагает более 100 IaaS- и PaaS-сервисов, ML-платформой на базе суперкомпьютеров и публичным облаком Cloud․ru Evolution на основе собственных разработок и open source. В компании подчёркивают, что использование облачных решений позволит бизнесу быстро запускать новые услуги и цифровые продукты, а также масштабировать нагрузки.

Источник изображения: Josh Calabrese/unsplash.com

По словам коммерческого директора Cloud.ru, компания помогает бизнесам сохранить контроль над IT-инфраструктурой даже под влиянием внешних макроэкономических факторов. В ответ на рост цен на рынке облачных услуг компания предлагает зафиксировать стоимость ряда сервисов — это позволит бизнесу даже в долгосрочной перспективе сохранить предсказуемость затрат на информационные технологии.

Специальное предложение действует для новых клиентов, включая как юридических лиц, так и индивидуальных предпринимателей. Для того, чтобы воспользоваться им, необходимо оставить заявку на подключение сервисов Cloud.ru до 31 марта 2025 года. По предварительным оценкам iKS-Consulting, в 2024 году рынок облачных услуг в России вырос на треть, до 165,6 млрд руб. По доле выручки Cloud.ru занимает на нём первое место (IaaS+PaaS).

Облачный провайдер Cloud.ru сообщил о запуске сервиса Evolution Bare Metal, с помощью которого пользователь может получить выделенный сервер из личного кабинета без обращения за помощью к службе техподдержки. Сервис позволит арендовать выделенные серверы для систем, которым требуется доступ к аппаратной части. Evolution Bare Metal интегрирован с кроссплатформенными сервисами Cloud.ru.

Пользователь может выбрать нужную из готовых конфигураций для разных типов задач, различающихся типом процессоров, объёмом памяти и характеристиками дисков. После заказа клиент получает доступ к серверу менее, чем за минуту без учёта времени на установку операционной системы. Для управления сервером доступны VNC и API.

Источник изображений: Cloud.ru

Сценарии использования сервиса Evolution Bare Metal:

• Размещение высоконагруженных приложений, баз данных и российских ЕRP-систем;
• Среда для разработки и тестирования: проведение нагрузочных тестов, требующих высокой производительности ресурсов, симуляции различных сценариев использования и проверку производительности ПО;
• Кластеры для работы с Big Data;
• Создание виртуализированных сред и контейнеров для рационального управления ресурсами и изолирования приложений и сервисов для их гибкости и безопасности.

Как указано в пресс-релизе, Evolution Bare Metal позволит использовать выделенные физические серверы с облачной инфраструктурой, гибкой конфигурацией и удобным управлением для аналитических задач, работы с высоконагруженными корпоративными приложениями и базами данных в цифровом банкинге, финтехе, e-commerce, онлайн-стриминге.

Впрочем, пока что на выбор предлагаются всего пять конфигураций готовых серверов серии Light на базе 12- и 22-ядерных CPU Intel Xeon поколения Haswell-EP/Broadwell-EP и Skylake-SP с 64 или 128 Гбайт RAM и SAS/SATA SSD/HDD. Для установки доступны ОС Ubuntu Linux и Oracle Linux.

Компания Cloud.ru (ранее — SberCloud) сообщила о разработке Cloud.ru Evolution Stack, модульной облачной платформы, с помощью которой компании смогут создавать частное, гибридное или распределённое облако. Надёжность работы ПО при промышленной эксплуатации подтверждена тестированием на реальных нагрузках корпоративных клиентов в публичном облаке Cloud.ru Evolution, построенном на том же технологическом стеке с единой кодовой базой, говорит компания.

Платформа предназначена для клиентов, которым необходимо масштабировать инфраструктуру в режиме реального времени. С её помощью они смогут использовать гибридные сценарии, прибегая как к собственным вычислительным ресурсам, так и возможностям публичного облака Cloud.ru. Решение позволяет отслеживать потребление и оптимально распределять пиковые нагрузки между облаками, сокращая расходы на ИТ-инфраструктуру. Также в Cloud.ru Evolution Stack предусмотрена возможность управления сторонней виртуализацией, что значительно упрощает процесс миграции виртуальной инфраструктуры на импортозамещённое решение.

Источник изображения: Cloud.ru

С помощью новой платформы компании с широкой филиальной сетью смогут обрабатывать и хранить данные в географически распределённых облаках-сателлитах, реализуя концепцию пограничных вычислений. В этом случае вариант реализации частного облака может быть предоставлен клиентам в виде программно-аппаратных комплексов на базе серверного оборудования отечественных производителей.

Перед внедрением платформы в контур компании эксперты Cloud.ru проведут необходимую подготовительную работу, выполнят установку и пусконаладочные работы, а также проведут инструктаж персонала заказчика. В среднем реализация такого проекта в зависимости от сложности займёт до четырёх месяцев. А вот о точных сроках доступности Cloud.ru Evolution Stack компания пока не говорит.

Провайдер облачных и ИИ-технологий Cloud.ru обнародовал результаты исследования российского IT-рынка по состоянию на 2022 год. Говорится, что на соответствующий сегмент приходится приблизительно 1,8 % в российском ВВП, тогда как в мировом масштабе этот показатель достигает 2,9 %.

В структуре IT-рынка аналитики выделяют три вертикали: это аппаратное обеспечение, софт и IT-сервисы. Телекоммуникации не входят в оценку, но сетевое оборудование, не относящееся напрямую к телекоммуникационной отрасли, включено в группу аппаратных решений.

Источник изображений: Cloud.ru. Нажмите для увеличения

По оценкам, в 2022 году объём российской IT-отрасли достиг примерно 1,6 трлн руб. Это на 200 млрд руб., или 17,3 %, больше по сравнению с 2021-м.  На 500 ведущих компаний рынка приходится 80 % суммарных затрат. Средняя динамика роста крупнейших IT-компаний в стране за 2019–2022 гг. составила 18,3 %. При этом Топ-10 крупнейших по выручке IT-компаний обеспечили 22 % рынка по итогам 2022 года, а рост их выручки в 2019–2022 гг. опережал средний показатель по отрасли и достигал 22,4 %.

На аппаратные решения по итогам 2022 года пришлось примерно 399 млрд руб. Еще 605 млрд руб. принесло ПО, около 599 млрд руб. — IT-сервисы. Наибольший темп прироста в 2022 году показали облачный сегмент и вычислительная техника (серверы): их объём увеличился более чем на 40 %. При этом каждый сегмент российского IT-рынка демонстрирует рост свыше 10 % в течение четырёх лет. Среди трёх рассматриваемых вертикалей наиболее динамично развивается софт со среднегодовым темпом на уровне 21,2 % в 2019–2020 гг.

В отчёте говорится, что конкурентная среда российского IT-рынка по всем основным сегментам сформирована и достаточно стабильна: есть ярко выраженные лидеры в большинстве сегментов и компании с меньшей, но тоже существенной долей рынка. Среди всех сегментов отрасли нет ни одного, в котором была бы монополия. Во всех сферах активно конкурируют как минимум пять компаний. В целом, по большинству сегментов уровень концентрации рынка в Топ-10 достаточно высок. Наименьшая концентрация наблюдается в сегментах аутсорсинга, IT-сервисов IoT, автоматизации бизнес-процессов, SaaS, средств разработки и периферийного оборудования.

«Лидеры сегментов IT-рынка часто демонстрируют более высокий темп роста, чем весь сегмент, и концентрация рынка в большинстве областей увеличивается. Ведущие компании имеют ресурсы на закрытие существующего спроса, а также на его создание и стимулирование. Особенно верно это для компаний, которые создают сложные технологические продукты, такие как ИИ- и ML-сервисы», — говорится в исследовании.