Компания Uber намерена использовать кастомные Arm-процессоры Ampere Computing в облаке Oracle Cloud Infrastructure (OCI). В частности, компании займутся оптимизацией чипов для ИИ-задач. До недавнего времени Uber использовала преимущественно собственные ЦОД, но в 2022 году приняла решение перенести большую часть задач в облака.

С ростом количества ЦОД и зон доступности управлять IT-инфраструктурой Uber становилось всё сложнее. На ввод в эксплуатацию новой зоны порой требовались месяцы и сотни специалистов, поскольку управление серверами происходило чуть ли не «вручную», а инструменты автоматизации часто подводили. Рассмотрев различные варианты развития, Uber постепенно пришла к сотрудничеству с Ampere, Goolge и Oracle. А в феврале 2023 года компания подписала крупные семилетние облачные контракты с Google и Oracle.

По данным Uber, водители и курьеры компании выполняют более 30 млн заказов ежедневно. Для этого требуется большая IT-инфраструктура, например, для оптимизации маршрутов, в том числе с применением ИИ-технологий — ежесекундно к ИИ-моделям приходит 15 млн запросов. По оценкам Uber и Ampere, перенос нагрузок в OCI не только снизил инфраструктурные затраты, но и уменьшил энергопотребление на 30 %. Сейчас компании совместно работают над новыми чипами, выявляя, какие изменения в микроархитектуру стоит внести, чтобы будущие процессоры оптимально подходили для задач Uber.

Источник изображения: Denys Nevozhai/unsplash.com

Собственные Arm-процессоры разрабатывают AWS, Google Cloud и Microsoft Azure — Graviton, Axion и Cobalt 100 соответственно. Однако кастомизацией под конкретного клиента, пусть даже крупного, они не занимаются. Тем не менее, эксперты IDC считают, что облачные клиенты безусловно выиграют от совместной подготовки с разработчиками чипов новых полупроводниковых решений. Клиенты могут обладать специфическими знаниями и интеллектуальной собственностью, но как правило не имеют возможности самостоятельно вывести на рынок готовый продукт.

Сейчас Uber переносит тысячи микросервисов, многочисленные платформы хранения данных и десятки ИИ-моделей в OCI. Компания уже перевела значительную часть бессерверных рабочих нагрузок на платформы на базе Ampere. Впрочем, дело не ограничивается только Ampere — компания также активно использует инстансы на базе чипов AMD.

Разработчик ИИ-суперчипов Cerebras Systems анонсировал сотрудничество с Dell. Вместе компании займутся созданием передовых вычислительных инфраструктур для генеративного ИИ. В рамках сотрудничества будут создаваться масштабируемые решения для ИИ-суперкомпьютеров Cerebras с платформами Dell на базе процессоров AMD EPYC Genoa.

Источник изображения: Cerebras

По словам участников проекта, новые технологические решения дадут возможность обучать модели, на порядки более крупные, чем те, что есть на данный момент. В частности, будут задействованы системы Dell PowerEdge R6615 на базе AMD EPYC 9354P, которые предоставят потоковый доступ к 82 Тбайт памяти — для обучения моделей практически любого размера.

Совместные платформы Cerebras и Dell будут включать ИИ-системы и суперкомпьютеры. Также будет предложена тренировка ИИ-моделей и иные сервисы поддержки машинного обучения. Как утверждают в самой Cerebras, сотрудничество с Dell станет поворотной точкой, открывающие каналы глобальной дистрибуции. Компании предоставят ИИ-оборудование, ПО и экспертизу, что позволит заказчикам упростить и ускорить внедрении современных ИИ-технологий, попутно снизив TCO.

В марте Cerebras представила новейшие суперчипы Cerebras WSE-3, а в мае появилась новость, что совместно с Core42 из ОАЭ компания создаст суперкомпьютер Condor Galaxy 3 (CG-3) со 172,8 млн ИИ-ядер.

Lenovo и Cisco объявили о стратегическом партнерстве. Меморандум о взаимопонимании (MoU), подписанный компаниями, предусматривает совместную разработку, инжиниринг и реализацию готовых инфраструктурных решений для генеративного ИИ — от периферии до облаков.

Сотрудничество позволит заказчикам получить полностью интегрированное решение, предоставляющее согласованное и оптимизированное взаимодействие сетевой экосистемы Cisco Nexus с оборудованием Lenovo. Это позволит заказчику получить полностью готовое инфраструктурное решение «под ключ» с поддержкой по принципу «одного окна». Кроме того, компании предоставят единый простой интерфейс для настройки, управления и анализа сетевых операций во всей сетевой экосистеме.

Источник изображения: Lenovo

Lenovo и Cisco собираются предлагать гиперперсонализированные решения, которые помогут не только расширить использование генеративного ИИ, но и ускорят цифровую трансформацию компаний, причём наиболее эффективным с точки зрения результата и затрат способом.

В рамках конференции «Цифровая индустрия промышленной России» (ЦИПР) разработчик программного обеспечения «Сбербанк Технологии» («СберТех») и компания «Марвел-Дистрибуция» подписали соглашение о сотрудничестве.

Согласно условиям партнёрского соглашения, «Марвел-Дистрибуция» будет продвигать на российском рынке разработанную «СберТехом» облачную платформу Platform V, предназначенную для создания бизнес-решений и промышленных приложений любого масштаба и сложности.

Платформа Platform V включает более 70 продуктов, которые закрывают потребности разработки на всех уровнях архитектуры предприятия (бэкенд и фронтенд, интеграция, хранение и аналитика данных, виртуализация и контейнеризация), а также предоставляют полный набор инструментов для управления производственными процессами и реализации ИИ-моделей, говорит компания. Продукты зарегистрированы в реестре отечественного ПО Минцифры и соответствуют стандартам корпоративного уровня в области безопасности, производительности и надёжности.

Источник фото: пресс-служба «СберТеха»

«Продукты нашей платформы помогают организациям не только провести цифровую трансформацию, но и снизить расходы на IT-инфраструктуру. Сотрудничество с компанией «Марвел-Дистрибуция» отвечает нашим долгосрочным интересам: вместе мы поможем российскому бизнесу достичь технологической независимости на уровне ПО», — прокомментировал соглашение о сотрудничестве генеральный директор «СберТеха».