Компания Selectel, являющаяся специализированным поставщиком IT-решений на базе собственной сети дата-центров, сообщила об обновлении собственной ИИ-платформы, упрощающей внедрение искусственного интеллекта в корпоративные процессы и позволяющей организациям быстро разворачивать и масштабировать ИИ-модели в облаке без необходимости самостоятельно настраивать IT-инфраструктуру для работы с ними.
Ключевым изменением ИИ-платформы Selectel стала обновлённая версия Foundation Models Catalog — сервиса для тестирования, запуска и интеграции больших языковых моделей (LLM) в приложения и бизнес-процессы, дополненного средствами управления ИИ-моделями через REST API и пользовательский интерфейс, а также инструментами мониторинга и автоматизации, помогающими отслеживать работу моделей и улучшать их производительность.
Как устроена ИИ-инфраструктура Selectel (источник изображения: selectel.ru/solutions/ai-infrastructure)
Среди прочих обновлений в продукте разработчик отмечает следующие:
- встроенные средства развёртывания ИИ-моделей на выделенной инфраструктуре с возможностью быстрого автомасштабирования;
- доработанная архитектура платформы: в качестве основного компонента для инференса задействован vLLM — высокопроизводительный open source-фреймворк для запуска LLM;
- в каталог добавлены новые open source-модели: решения от IBM (Granite), Alibaba (Qwen), DeepSeek, Microsoft (Phi), Mistral AI и OpenAI;
- улучшенный пользовательский интерфейс: в каталоге появилась фильтрация по характеристикам, упрощающая поиск и выбор подходящих моделей.
Оплата за пользование ИИ-платформой Selectel осуществляется за фактически используемые вычислительные ресурсы. В ближайшее время заказчикам станет доступна новая модель тарификации по количеству токенов.
Источник:
