Точно неизвестно, велик ли спрос на ИИ-сервисы Microsoft или у компании просто недостаточно вычислительных ресурсов, но IT-гиганту пришлось договариваться с Oracle об использовании ИИ-ускорителей в ЦОД последней. Как сообщает The Register, речь идёт о применении оборудования Oracle для «разгрузки» некоторых языковых моделей Microsoft, применяемых в Bing.

Во вторник компании анонсировали многолетнее соглашение. Как сообщают в Microsoft, одновременное использование компанией как Oracle Cloud, так и Microsoft Azure расширит возможности клиентов и ускорит работу с поисковыми сервисами. Сотрудничество связано с тем, что Microsoft надо всё больше вычислительных ресурсов для заявляемого «взрывного роста» её ИИ-сервисов, а у Oracle как раз имеются десятки тысяч ускорителей NVIDIA A100 и H100 для аренды.

Источник изображения: cliff1126/pixabay.com

Служба Oracle Interconnect обеспечивает взаимодействие с облаком Microsoft Azure, что позволяет работающим в Azure сервисам взаимодействовать с ресурсами Oracle Cloud Infrastructure (OCI). Раньше такое решение уже применялось, но для сторонних клиентов двух компаний. Теперь Microsoft применяет Interconnect наряду с Azure Kubernetes Service для организации работы ИИ-узлов в облаке Oracle на благо Bing Chat.

Microsoft ещё в феврале интегрировала чат-бота Bing Chat в свой поисковый сервис и свой браузер. Не так давно добавилась и возможность, например, генерировать изображения прямо в процессе диалога. При этом использование больших языковых моделей требует огромного числа ускорителей для их тренировки, но для инференса необходимы ещё большие вычислительные мощности.

Фото: Microsoft

В Oracle утверждают, что облачные суперкластеры компании, которые, вероятно, будет использовать Microsoft, могут масштабироваться до 32 768 ИИ-ускорителей A100 или 16 384 ускорителей H100 с использованием RDMA-сети с ультранизкой задержкой. Дополнением является хранилище петабайтного класса. В самой Microsoft избегают говорить, сколько именно узлов Oracle нужно компании, причём, похоже, не намерены делать этого и в будущем.

Конкуренты сотрудничают уже не в первый раз. В сентябре Oracle сообщала о намерении размещать системы с базами данных в ЦОД Azure. Более того, ещё в мае 2023 года Microsoft и Oracle изучали возможность аренды ИИ-серверов друг у друга на случай, если у них вдруг не будет хватать вычислительных мощностей для крупных облачных клиентов. Ранее ходили слухи, что похожие соглашения Microsoft подписала с CoreWeave и Lambda Labs, к которым NVIDIA более благосклонна в вопросах поставки ускорителей. Попутно Microsoft ищет более экономичные альтернативы языковым моделям OpenAI.

Microsoft без особого ажиотажа запустила облачный регион Azure в Израиле. Официальный анонс был удалён. Сообщалось, что новый регион включает три зоны доступности Azure, которые предлагают клиентам дополнительную отказоустойчивость, поскольку регион обладает автономным питанием, сетью и системой охлаждения, создающими в комплексе дополнительную устойчивость к сбоям в ЦОД. Регион Центральный Израиль отражён на странице регионов Azure как активный.

Хотя Microsoft была первым из американских облачных провайдеров, объявившим о планах запуска региона в Израиле, компания оказалась последней, кто фактически открыл облачный регион в этой стране. Microsoft объявила о планах открыть первые ЦОД в Израиле в 2020 году. Объекты предполагалось запустить в 2021 году в районе Модиин между Тель-Авивом и Иерусалимом, но в 2021 году местная пресса сообщила о переносе открытия региона на начало 2022 года.

Изображение: Microsoft Azure

AWS запустила свой первый облачный регион в Израиле в августе 2023 года. В свою очередь, Google объявила о запуске нового облачного региона Google Cloud в Тель-Авиве (me-west1) в октябре прошлого года, а Oracle запустила облачный регион в Иерусалиме в 2021 году. Причём у последней мощности размещены в защищённом дата-центре на глубине 50 м под землёй.

Компания Microsoft намерена осуществить крупнейшее за 40 лет для своих программ в Австралии вложение. Как сообщает Bloomberg, компания намерена в течение двух лет потратить $3,2 млрд на расширение сети ЦОД для облачных вычислений и реализации ИИ-проектов.

Новые инвестиции помогут Microsoft обеспечить рост количества ЦОД в Канберре, Сиднее и Мельбурне на почти в полтора раза — с 20 до 29 дата-центров. Дополнительно в штате Новый Южный Уэльс будет открыт образовательный центр Microsoft Datacenter Academy. Также предусмотрено сотрудничество со спецслужбами страны по вопросам обеспечения кибербезопасности.

Объявление о новых инвестициях состоялось через день посоле того, как премьер-министр Австралии Энтони Альбанезе (Anthony Albanese) прилетел в США с четырёхдневным официальным визитом, в рамках которого предусмотрена и встреча с президентом США Джо Байденом (Joe Biden). Ожидается, что основной темой обсуждений станут поставки критически важных полезных ископаемых и технические инновации.

Источник изображения: Joey Csunyo/unsplash.com

В рамках второго этапа соглашения AUKUS, подписанного в 2021 году, страны договорились о более тесном технологическом сотрудничестве — США, Великобритания и Австралия будут делиться критически важными сведениями, включая данные о квантовых вычислениях и искусственном интеллекте.

Впрочем, в своём стремлении развивать ЦОД в Австралии Microsoft далеко не одинока и даже не является рекордсменом. Ещё весной 2023 года появилась информация, что AWS к 2027 году вложит $8,9 млрд в свои дата-центры на территории страны.

Корпорация Microsoft отрапортовала о работе в I четверти 2024 финансового года, которая была закрыта 30 сентября. Общая выручка редмондского гиганта достигла $56,5 млрд, что примерно на 13 % больше прошлогоднего результата, составлявшего около $50,1 млрд.

Квартальная операционная прибыль в годовом исчислении увеличилась на 25 % — с $21,5 млрд до $26,9 млрд, тогда как чистая прибыль поднялась на 27 % — с $17,6 млрд до $22,3 млрд. Прибыль в пересчёте на одну ценную бумагу оказалась на уровне $2,99 против $2,35 годом ранее (плюс 27 %).

Источник изображения: Microsoft

Microsoft продолжает активно развивать облачное направление. В подразделении Intelligent Cloud, которое, помимо облачных сервисов, включает Enterprise Services, Windows Server и SQL Server, выручка по итогам I квартала 2024 финансового года достигла $24,3 млрд. Это на 19 % больше результата за аналогичный период предыдущего финансового года, когда показатель равнялся $20,3 млрд. Денежные поступления от серверных продуктов и облачных услуг поднялись на 21 % год к году благодаря росту доходов от Azure и других сервисов на 29 %.

По направлению Productivity and Business Processes (офисные приложения Office и Office 365, Dynamics CRM) выручка за трёхмесячный период достигла $18,6 млрд против $16,5 млрд годом ранее (прибавка на уровне 13 %). Выручка от коммерческих продуктов Office и облачных сервисов поднялась на 15 % благодаря росту денежных потоков от Office 365 на 18 %. Выручка от потребительских продуктов Office и облачных сервисов показала прибавку в 3 %, а число подписчиков Microsoft 365 Consumer достигло 76,7 млн.

Dell сообщила о доступности облачной платформы APEX Cloud Platform for Azure, представленной в мае на мероприятии Dell Technologies World, став первым партнёром Microsoft в новой категории Premier Solutions для Azure Stack HCI. Решения в этой категории включают только платформы, обеспечивающие максимально быструю окупаемость гибридного облака Azure.

Платформа APEX Cloud Platform for Azure позволяет сформировать согласованную облачную среду Azure на периферии, в филиальной сети и центральных ЦОД, а также в публичном облаке. Партнёрство Dell и Microsoft позволяет переносить облачные сервисы Azure в локальные среды.

Источник изображений: blocksandfiles.com

Помимо соответствия требованиям Microsoft Premier Solutions для Azure Stack HCI, облачная платформа Dell APEX предлагает клиентам несколько дополнительных возможностей. К ним относятся почти мгновенная доступность новых выпусков ПО и исправлений, автоматическое расширение кластера, специализированные узлы для периферийных вычислений и поддержка дополнительных конфигураций хранения с программно-определяемым хранилищем. С помощью облачной платформы APEX Dell предоставляет вычислительные, хранилища и сетевые ресурсы в гиперконвергентной среде для запуска AzureStack HCI v22H2. Эта версия Dell APEX Cloud Platform for Azure использует Storage Spaces Direct с программно-определяемым хранилищем PowerFlex в качестве будущей опции.

Платформа использует 2U-узлы MC-760 и MC-660. На периферийных площадках может использоваться один узел, а в ЦОД — кластеры из 16 узлов с автоматическим расширением. MC-760 имеет как AFA-вариант, так и гибридную конфигурацию, в то время как MC-660 доступен только в конфигурациях с All-Flash. Оба типа узлов поддерживают до двух ускорителей NVIDIA Ampere. Dell сообщила о планах добавить третий, более специализированный тип узла на основе оптимизированного для периферии сервера PowerEdge XR4000. Также будет добавлена возможность масштабирования хранилища отдельно от вычислений.

По словам Dell, по сравнению с существующей платформой для Azure Stack HCI новое решение позволит сократить количество этапов его развёртывания на 88 %. Также благодаря высокой интеграции Dell со службами поддержки Microsoft, обновления, исправления и новые выпуски ПО будут доступны клиентам в течение 4 часов после выпуска апдейта Microsoft.

Несмотря на давнее соперничество, компании Oracle и Microsoft заключили необычное соглашение. Первая разместит своё аппаратное обеспечение Exadata, применяемое в Oracle Cloud, в дата-центрах Microsoft. Результатом должно стать сокращение времени задержки при передаче данных между сервисами и инфраструктурой IT-гигантов.

Сотрудничество будет организовано в виде сервиса OracleDatabase@Azure. Некоторые транснациональные корпорации, включая Vodafone и Pepsi, уже начали пользоваться сервисом, а другие приступят к его эксплуатации в начале следующего года в облачных регионах Azure в США, Великобритании и Германии. Со временем Oracle пообещала обеспечить и глобальный доступ.

Первый шаг к более тесному сотрудничеству был сделан в прошлом году, когда пользователи Azure получили возможность напрямую работать с СУБД в облаке Oracle Cloud Infrastructure (OCI). Как сообщают в Oracle и Microsoft, углубление взаимодействия особенно повлияет на развитие ИИ, поскольку данные для обучения моделей можно хранить у Oracle, а обрабатывать в Azure, причём с низким уровнем задержки. Кроме того, появление нового сервиса будет в целом способствовать переходу клиентов Oracle в облако.

Фото: Microsoft

Интеграция сервисов двух компаний также означает, что клиенты смогут приобрести доступ к Oracle Database@Azure на площадке Azure Marketplace и использовать средства с баланса Azure для оплаты расходов. При этом оператором сервиса будет выступать именно Oracle. Возможно, появятся и другие совместные проекты двух компаний. В мае сообщалось об их намерении совместно использовать оборудование из-за дефицита ИИ-ускорителей. Кроме того, совместные проекты двух компаний помогут им противостоять доминированию AWS на облачном рынке.

Microsoft договорилась о партнёрстве с G42, предположительно тесной связанной со спецслужбами Объединённых Арабских Эмиратов (ОАЭ). Как сообщает портал CIO, компании пришли к соглашению о создании в стране «суверенного» облака и развёртывании ИИ-мощностей. В 2019 году Microsoft первой из «большой тройки» запустила облачный регион на Ближнем Востоке, именно в ОАЭ.

Технологии Microsoft позволят создать мощную облачную платформу для госсектора ОАЭ и ряда жёстко регулируемых отраслей страны. В Microsoft заявляют, что это позволит обезопасить важную информацию, получить доступ к новейшим облачным и ИИ-функциям, уже доступным в публичном облаке Azure. При этом платформа будет соответствовать местным законам о «суверенитете» данных.

Не забыли в Microsoft и о собственном развитии. В рамках сделки Microsoft расширит свои ЦОД в ОАЭ при сотрудничестве с поддерживаемым властями оператором Khazna Data Centers. В Microsoft считают, что сделка поможет государственному и частному секторам страны использовать новейшие облачные технологии для решения общественно важных задач.

Источник изображения: Microsoft

Это уже не первый проект Microsoft с государственным участием на Ближнем Востоке. Так, в этом году компания рассказала о намерении построить новый облачный регион Azure в Саудовской Аравии и уже предоставляет некоторые облачные сервисы на основе Azure и OpenAI правительству Катара. Впрочем, не все довольны такой активностью Microsoft. Ещё в апреле НКО Human Rights Watch заявила о том, что планируемые компанией облачные проекты в Саудовской Аравии угрожают жителям страны, в жизни которых активно вмешиваются власти — местные законы позволяют легко получать доступ к облачным данным.

Впрочем, компания не одинока в попытках расширить влияние на Ближнем Востоке. Например, в августе Amazon Web Services (AWS) запустила облачный регион в Тель-Авиве и сообщила о готовности инвестировать в Израиль $7,2 млрд к 2037 году. В феврале о намерении расширить облачные мощности в Саудовской Аравии, потратив $1,5 млрд, заявила и Oracle. А на днях запуске облачного региона в Эр-Рияде отчиталась Huawei.

Произошедший 30 августа сбой в работе австралийского дата-центра привёл к проблемам в работе с сервисами Azure, API, базами данных, а также облачным ПО. Пользователи более суток не имели доступа к Azure, сервисам Microsoft 365 и Power Platform. Как сообщает Network World, в Microsoft обвиняют в произошедшем недостаток персонала в ЦОД и неисправную систему автоматики.

По данным экспертов компании, после падения напряжения в сети на юго-востоке страны отключилась часть охлаждающих систем в одном из ЦОД. Поскольку охлаждение не работало должным образом, рост температуры в машинных залах привёл к автоматическому отключению некоторого оборудования для сохранения инфраструктуры и данных.

При этом в компании подчеркнули, что системы охлаждения можно было бы заново включить вручную, окажись для этого достаточно персонала в ЦОД. С учётом размеров кампуса и небольшого числа сотрудников ночной смены людей оказалось недостаточно для своевременного восстановления работоспособности. В компании подчеркнули, что временно увеличили команду с трёх до семи человек, пока не выяснили причины проблем и не приняли необходимые меры для их устранения.

Источник изображения: Microsoft

В Microsoft добавили, что компания работает над масштабными реформами, включая совершенствование системы автоматизации ЦОД для восстановления работоспособности в случае повторения инцидентов, в частности, связанных с перепадами напряжения. Поэтому ведётся оценка загруженности серверов, чтобы выяснить, какие именно системы охлаждения нужно «оживить» в первую очередь.

В последние месяцы сбои в работе сервисов Microsoft уже случались, в первую очередь связанные с нарушением доступа к Microsoft 365. Например, в июле пострадали OneDrive для бизнеса и SharePoint Online, а месяцем ранее с проблемами на восемь часов столкнулись пользователи Outlook Web, Teams, OneDrive для бизнеса и SharePoint. А в начале года наблюдались глобальные сбои в работе сервисов компании.

Корпорация Microsoft открыла доступ к инстансам ND H100 v5 в облаке Azure. Эти масштабируемые виртуальные машины предназначены для решения сложных задач, связанных с ИИ и большими языковыми моделями.

В основу ND H100 v5 положены NVIDIA H100: восемь таких ускорителей объединены посредством NVSwitch и NVLink 4.0. Возможно масштабирование до тысяч ускорителей при помощи сети на базе NVIDIA Quantum-2 InfiniBand с пропускной способностью до 400 Гбит/с в расчёте на ускоритель (до 3,2 Тбит/с на виртуальную машину). В составе ND H100 v5 применяются процессоры Intel Xeon Sapphire Rapids, обеспечивающие поддержку PCIe 5.0 и DDR5-4800.

Источник изображения: Microsoft

Отмечается, что инстансы ND H100 v5 являются одними из самых мощных вычислительных решений, которые Microsoft предлагала до сих пор. Они доступны в регионах Azure на востоке и западе США. Заказы на ND H100 v5 принимаются уже сейчас, а к началу 2024 года Microsoft обещает сделать доступными для клиентов «сотни тысяч» ускорителей NVIDIA H100.

Microsoft подчеркнула в квартальном отчёте для инвесторов важность обеспеченности достаточным количеством ускорителей вычислений для стабильной работы облачных сервисов искусственного интеллекта (ИИ). Компания добавила уровень обеспеченности GPU в перечень факторов риска сбоев, с которым она может столкнуться, если не будет иметь надлежащую инфраструктуру.

Этот факт отражает растущий спрос ведущих технологических компаний на ИИ-ускорители, необходимые для предоставления доступа к ИИ-сервисам небольшим предприятиям.

Microsoft увеличила объём капвложений в облачные системы в IV квартале 2023 финансового года, включая расходы на ускорители вычислений, и планирует наращивать их в дальнейшем, стремясь удовлетворить растущий спрос на облачные сервисы искусственного интеллекта (ИИ).

Источник изображения: NVIDIA

«Наши центры обработки данных зависят от наличия разрешённой и пригодной для строительства земли, предсказуемых поставок энергии, сетевых материалов и серверов, включая ускорители вычислений (GPU) и другие компоненты», — указано в квартальном отчёте Microsoft. До этого GPU не упоминались в таком разрезе в предыдущих годовых отчётах Microsoft. Также нет упоминания GPU в таком смысле в недавних годовых отчётах других крупных технологических компаний, таких как Alphabet, отметил ресурс CNBC.

В рамках партнёрства с Microsoft компания OpenAI использует облако Azure для выполнения вычислений для ИИ-чат-бота ChatGPT и различных ИИ-моделей. Microsoft также начала использовать ИИ-модели OpenAI для улучшения с помощью генеративного ИИ своих продуктов, таких как приложения Outlook и Word, а также поисковая система Bing. Это повлекло за собой рост потребности компании в ИИ-ускорителях. Чтобы обеспечить в полной мере своих клиентов вычислительными ресурсами, Microsoft подписала соглашение о сотрудничестве с CoreWeave об использовании его оборудования для обработки своих ИИ-нагрузок.