Как заявил недавно на конференции Code Conference технический директор Microsoft Кевин Скотт (Kevin Scott), приобрести ускорители компании NVIDIA для ИИ и HPC-вычислений уже не так сложно, как ещё несколько месяцев назад. По данным портала Tom’s Hardware, проблема доступности и поставок активно решается производителем.

По словам того же Скотта, ещё не так давно спрос намного превышал предложение всех производителей ускорителей. Хотя дефицит ещё не исчез, ситуация улучшается буквально с каждой неделей. В последнее время драйвером огромного спроса на ускорители были техногиганты, включая Microsoft, активно осваивающие рынок ИИ-продуктов, в том числе для сторонних клиентов. Для тренировки больших языковых моделей (LLM), обычно используются ускорители именно NVIDIA, в результате чего спрос на них в 2023 году стремительно взлетел, а рост стоимости акций «зелёных» с начала года составил 190 %.

Источник изображения: NVIDIA

В ходе недавнего отчёта о доходах NVIDIA сообщила о намерении повысить объёмы поставок в следующем году. Параллельно появилась информация о том, что трафик одного из самых популярных чат-ботов, ChatGPT от OpenAI, существенно падал в течение трёх месяцев подряд. OpenAI использует облачную платформу Microsoft Azure, так что нагрузка на неё в последнее время не столь велика. По словам Скотта, занимающегося в числе прочего и распределением ресурсов, эта задача в последние кварталы была чрезвычайно трудной, но теперь выполнять свои обязанности стало намного легче.

Скотт не стал комментировать слухи о том, что Microsoft якобы разрабатывает собственные ИИ-чипы, но подтвердил, что компания прилагает немалые усилия в работе над полупроводниковыми проектами и инвестировала в них немало средств. При этом он признал, что в последние годы NVIDIA остаётся ведущим партнёром Microsoft в ИИ-секторе, но подчеркнул, что компания будет выбирать наилучшие решения для своих систем, какое бы происхождение они ни имели.

10 октября 2023 года официально завершается расширенная поддержка серверных операционных систем Windows Server 2012 и Windows Server 2012 R2. Об этом свидетельствует информация, опубликованная на сайте Microsoft.

Прекращение поддержки означает, что для упомянутых программных платформ перестанут выпускаться патчи и обновления безопасности, что может существенно повысить риски, связанные с защитой и надёжностью корпоративных IT-инфраструктур. Для обеспечения стабильного и бесперебойного функционирования серверных площадок компания рекомендует своим заказчикам произвести обновление ОС до актуальных версий.

Источник изображения: microsoft.com

Специально для организаций, до сих пор использующих Windows Server 2012 и 2012 R2 в своей IT-инфраструктуре, Microsoft будет в течение трёх лет предлагать платные обновления в рамках программы Extended Security Updates (ESU). В качестве альтернативы компания предлагает клиентам произвести миграцию устаревших систем в облачное окружение Azure, в котором сервис ESU будет предоставляться без дополнительной платы. Более подробную информацию о миграции на новые серверные ОС можно найти на сайте learn.microsoft.com/windows-server.

Релиз Windows Server 2012 состоялся в сентябре 2012 года. Особенностями ОС стали новый пользовательский интерфейс Modern UI, усовершенствованный гипервизор Hyper-V 3.0, технология виртуализации сетевой инфраструктуры Extensible Switch, функция объединения сетевых адаптеров NIC Teaming, средства централизованного управления большим числом систем хранения данных посредством объединения накопителей в единый виртуальный пул (механизм Storage Spaces) и организации дополнительных сетевых путей между клиентом и сервером (технология SMB Multichannel), а также прочие инновационные на тот момент решения.

Хотя Microsoft принадлежит 49 % OpenAI, занимающейся разработкой популярных и производительных языковых моделей вроде GPT-4, интересы компаний не всегда совпадают. Как сообщает Silicon Angle, Bing Chat Enterprise первой и ChatGPT Enterprise второй, по сути, конкурируют за одну и ту же целевую аудиторию. Кроме того, Microsoft, стремящаяся внедрить ИИ почти во все свои программные продукты, готовит новые, более простые и менее ресурсоёмкие модели, чем GPT-4.

По данным источников в OpenAI, в Microsoft обеспокоены высокой стоимостью эксплуатации передовых ИИ-моделей. Microsoft пытается встроить ИИ во многие продукты, включая Copilot для Windows на базе GPT-4. С учётом того, что пользователей Windows в мире больше 1 млрд, в компании опасаются, что повсеместное распространение ИИ-инструментов приведёт к неконтролируемому росту расходов. По некоторым данным, компания уже поручила части из своих 1,5 тыс. сотрудников ИИ-департамента заняться более экономичными альтернативами — пусть даже они будут не столь «сообразительными».

Источник изображения: Microsoft

Хотя реализация соответствующих проектов всё ещё находится на ранних стадиях, уже появилась информация, что компания начала внутренние тесты моделей собственной разработки. В частности, «творческий» и «точный» режимы Bing Chat опираются на GPT-4, тогда как «сбалансированный» использует новые модели Prometheus и Turing. Последняя может отвечать только на простые вопросы, а более каверзные она всё равно вынуждена передавать на обработку творению OpenAI.

Для программистов у Microsoft есть модель Phi-1 с 1,3 млрд параметров, которая может эффективно генерировать код, но в остальном отстаёт от GPT-4. Ещё одной альтернативой стала разработанная Microsoft модель Orca на основе Meta✴ Llama-2, принадлежащей Meta✴. По некоторым данным, Orca близка по возможностям к моделям OpenAI, но компактнее и требует значительно меньше ресурсов.

Считается, что подразделение Microsoft использует около 2 тыс. ускорителей NVIDIA, большинство из которых сегодня и применяется для тренировки более эффективных моделей, имеющих узкую специализацию в отличие от многопрофильной GPT-4. Если раньше состязание на рынке шло за создание ИИ с наибольшими возможностями, то теперь одним из важнейших факторов становится стоимость разработки и обслуживания таких инструментов.

Microsoft ведёт эксперименты с использованием в строительстве ЦОД в штате Вашингтон низкоуглеродных бетонных смесей. По данным пресс-службы компании, применяются материалы с включением компонентов, полученных из микроводорослей, а также летучей золы и шлака. Основной целью является снижение уровня выбросов связанного с производством бетона углекислого газа на 50 %.

Обычно цемент для бетона изготавливается из известняка, нагреваемого вместе с глиной с попутным выделением углекислоты. Кроме того, сами печи для обжига обычно топятся углём или природным газом, что способствует дополнительному выделению CO₂. Поскольку Microsoft намерена стать «углеродно-отрицательной» к 2030 году, такой подход она считает не слишком экологичным. Компания уже экспериментирует со строительством объектов с применением дерева, земли, пеньки и даже грибов.

Сейчас компания проводит тесты альтернативных бетонных смесей, одна из которых предусматривает использование «биогенного» известняка из микроводорослей и прочих добавок, вторая — летучей золы и шлака. Ну а третья сочетает компоненты двух предыдущих смесей. Предполагается, что можно будет снизить уровень т.н. «воплощённого углерода» более чем вдвое. При этом, как признают в самой Microsoft, технология создания подобных бетонных смесей весьма сложна.

Источник изображения: Microsoft

Известняк компания получает от Minus Materials, занимающейся коммерциализацией процесса добычи известняка из морских водорослей, разработанного Университетом Колорадо в Боулдере. Принадлежащая Microsoft структура Climate Innovation Fund поддерживает Prometheus Materials, тоже создающую биоцемент из водорослей, но с помощью другого процесса. Тот же фонд инвестирует в компанию Boston Metal, работающую над обработкой руды электролизом с помощью возобновляемой электроэнергии — это помогает хотя бы частично устранить выбросы CO₂ из процесса производства стали.

Ранее Microsoft тестировала обычный бетон с добавлением CO2, что позволяло укрепить материал — компания инвестировала в производителя соответствующего продукта CarbonCure. Впрочем, добавление углекислого газа в бетон лишь очень в малой степени способствует сокращению выбросов — большая часть углекислоты всё равно уходит в атмосферу.

Тем не менее, игнорировать вопрос в свете всеобщей «зелёной» повестки не получится. Только на производство бетона приходится 8 % мировых углеродных выбросов, а ещё 7 % — на производство стали, активно применяемой в строительстве. Например, в индустрии ЦОД наибольшая часть выбросов приходится на выбросы класса Scope III, за который отвечают цепочки поставок. Ранее Meta✴ также сообщала об экспериментах с «зелёным» бетоном, созданным с помощью ИИ.

Компания Microsoft всерьёз занялась проблемой обеспечения ЦОД электроэнергией, получаемой малыми модульными реакторами (SMR) и микрореакторами. По данным Datacenter Dynamics, компания уже ищет руководителя программы, готового отвечать за подготовку и внедрение стратегии получения энергии для дата-центров из источников такого типа.

Это не первые меры компании, направленные на расширение применения атомной энергетики на рынке ЦОД. Например, она уже приобретает «зелёные кредиты» (CEC) у АЭС, а в июле появилась информация о том, что дата-центр Microsoft в Бойдтоне будет получать «виртуальную» атомную энергию благодаря соглашению о покупке с АЭС Constellation.

Источник изображения: wostemme/pixabay.com

В описании вакансии сообщается, что позиция предусматривает техническую оценку интеграции SMR и микрореакторов для питания ЦОД, используемых облаком и ИИ-системами компании. Топ-менеджер должен формировать и адаптировать план внедрения малых реакторов, тщательно выбирать партнёров и подбирать технологии, а также регулярно оценивать последствия для бизнеса от их внедрения. Новая роль также предусматривает и участие в изучении и разработке технологий, ещё не достигших коммерческого уровня.

Поскольку нагрузка на энергосети во всём мире продолжает расти, доступность энергии стала чрезвычайно важным фактором для индустрии ЦОД, из-за чего откладываются проекты дата-центров во многих регионах. Ситуация усугубляется тем, что компании стремятся перейти на новые, экологичеси безопасные технологии, доступ к которым ещё более ограничен. Модульные реакторы в этом свете рассматриваются как более дешёвая, компактная и быстро внедряемая альтернатива традиционным АЭС. Такие системы могут применяться даже на территории самих ЦОД.

Известно, что модульные реакторы мощностью до 470 МВт начала продвигать Rolls-Royce. Last Energy уже нашла клиентов для своих 20-МВт решений в Великобритании. NuScale получила одобрение регуляторов в США на применение SMR мощностью 50–77 МВт, а Oklo планирует внедрять SMR от 15 МВт. На рынке действует и Terra Power, поддерживаемая одним из основателей Microsoft — Биллом Гейтсом.

В ирландском графстве Килдэр скоро появится новый дата-центр Microsoft и ещё несколько объектов аналогичного назначения. Как сообщает DataCenter Dynamics, разрешение на строительство получила и AWS — она сможет возвести ЦОД в Дублине.

Хотя в 2022 году появилась информация о том, что в Ирландии больше не рады гиперскейлерам, а в Дублине и окрестностях ещё в начале 2022 года прекратили приём заявок на подключение дата-центров к энергосети, развитие рынка ЦОД в стране продолжается — это один из перспективных источников доходов Ирландии. В конце года сообщалось, что там появятся более 20 дата-центров за пределами Большого Дублина.

Источник изображения: 20twenty/pixabay.com

Теперь обнародована информация о том, что Microsoft ведёт переговоры о строительстве кампуса в графстве Килдэр. Предпочтительным решением для Microsoft, по данным самой компании, будет закупка 100 % возобновляемой электроэнергии посредством корпоративных PPA. Компания уже имеет несколько ЦОД в районе Дублина, последними она получила разрешения на строительство дата-центров DUB 14 и DUB15 в бизнес-парке Grange Castle Business Park ещё весной 2021 года.

Дополнительно в графстве дали зелёный свет расширению кампуса Kildare Innovation Campus (KIC), ранее принадлежавшего HP. В прошлом месяце совет графства Килдэр согласовал здесь снос трёх зданий для строительства четырёх ЦОД общей площадью более 76 тыс. м2. Будут использоваться генераторы на гидрированном растительном масле (HVO), на крышах разместят солнечные панели, а рядом появится станция с девятью газотурбинными генераторами.

Источник изображения: MarcOliver_Artworks/pixabay.com

Также, хотя в августе прошлого года сообщалось, что AWS, Microsoft и Equinix приостановили развитие своих ЦОД в Дублине, стало известно, что AWS получила от местных властей разрешение на строительство ещё трёх дата-центров на территории уже существующего кампуса. Заявка была подана ещё в январе и, похоже, оператор ЦОД получил разрешение на подключение к энергосети национальной энергетической компании EirGrid ещё в 2019 году.

Будут простроены дата-центры E, F и G, высотой более двух этажей каждый. По имеющимся данным, речь идёт об объектах на 73 МВт. В 2019 году уже получено разрешение на строительство здесь четырёх зданий, но фактически они объединены в два модуля. Amazon имеет ещё несколько кампусов в окрестностях Дублина и, по некоторым данным, приостановила здесь реализацию проектов в связи с мораторием на новые подключения к национальной энергосети, а для некоторых рассматривает подключение к альтернативным источникам энергии.

Несмотря на давнее соперничество, компании Oracle и Microsoft заключили необычное соглашение. Первая разместит своё аппаратное обеспечение Exadata, применяемое в Oracle Cloud, в дата-центрах Microsoft. Результатом должно стать сокращение времени задержки при передаче данных между сервисами и инфраструктурой IT-гигантов.

Сотрудничество будет организовано в виде сервиса OracleDatabase@Azure. Некоторые транснациональные корпорации, включая Vodafone и Pepsi, уже начали пользоваться сервисом, а другие приступят к его эксплуатации в начале следующего года в облачных регионах Azure в США, Великобритании и Германии. Со временем Oracle пообещала обеспечить и глобальный доступ.

Первый шаг к более тесному сотрудничеству был сделан в прошлом году, когда пользователи Azure получили возможность напрямую работать с СУБД в облаке Oracle Cloud Infrastructure (OCI). Как сообщают в Oracle и Microsoft, углубление взаимодействия особенно повлияет на развитие ИИ, поскольку данные для обучения моделей можно хранить у Oracle, а обрабатывать в Azure, причём с низким уровнем задержки. Кроме того, появление нового сервиса будет в целом способствовать переходу клиентов Oracle в облако.

Фото: Microsoft

Интеграция сервисов двух компаний также означает, что клиенты смогут приобрести доступ к Oracle Database@Azure на площадке Azure Marketplace и использовать средства с баланса Azure для оплаты расходов. При этом оператором сервиса будет выступать именно Oracle. Возможно, появятся и другие совместные проекты двух компаний. В мае сообщалось об их намерении совместно использовать оборудование из-за дефицита ИИ-ускорителей. Кроме того, совместные проекты двух компаний помогут им противостоять доминированию AWS на облачном рынке.

Многие знают, что ИИ-модели в процессе работы потребляют огромное количество энергии, но не всем известно, что им нужно ещё и очень много чистой воды. Как сообщает Silicon Angle, выяснилось, что ЦОД стоящих за работой ИИ-систем компаний тратят очень много воды, а у техногигантов вроде Google и Microsoft водопотребление только растёт.

Как следует из доклада Associated Press, использование ЦОД Microsoft воды выросло с 2021 по 2022 гг. на 34 %, в прошлом году компания потратила 6,4 млрд литров. В тот же период водопотребление Google выросло на 20 %. По данным экспертов, занимавшихся исследованием воздействия генеративных ИИ-систем на окружающую среду, в большей части рост потребления вызван увеличением связанных с ИИ нагрузок.

По некоторым оценкам, модель GPT-3 компании OpenAI, стоящая за чат-ботом ChatGPT, ответственна за трату более 320 тыс. л во время тренировки, а ChatGPT и вовсе «выпивает» 0,5 л воды каждую чат-сессию, состоящую из 25-50 запросов. Учитывается и непрямое использование воды, включающее затраты электростанций, питающих ЦОД.

Источник изображения: MartinStr/pixabay.com

Для Google статистика оказалась крайне неоднородной и разнится от ЦОД к ЦОД — многое зависит от местоположения, сезона, технологии охлаждения и уровня потребления воды электростанциями. Впрочем, многие специалисты отрасли уверены, что рост потребления воды имеет важное значение, но большие опасения вызывает рост энергопотребления.

Дело в том, что значительная часть используемой воды перерабатывается и применяется снова, тогда как об энергии нельзя сказать того же. Кроме того, Microsoft, Google и другие операторы ЦОД сами заинтересованы в сокращении потребления воды, поэтому будут принимать все необходимые меры для этого.

Ранее Microsoft сообщала, что намерена стать «водно-положительной», «углеродно-отрицательной» и безотходной уже к 2030 году, а к 2024 году снизить потребление ЦОД воды на 95 % (в сравнении с 2021 годом). Впрочем, до сих пор нет точных определений некоторым терминам, например, никто детально не говорил, о какой «водно-положительности» идёт речь. Можно только предполагать, что компания намерена отдавать в природу больше воды, чем потребляет.

Источник: Microsoft

Примером может служить Pepsi, которая, пропустив воду сквозь снековое оборудование в районе Мехико, очищает её до уровня питьевой и отправляет на другой завод — для мытья картофеля для чипсов. Таким образом, воды действительно поступает «в оборот» больше, чем изначально забирается из природных источников.

В OpenAI, крупнейшим инвестором которой является Microsoft, подчеркнули, что осознают высокие уровни потребления ИИ энергии и воды и активно работают над повышением эффективности в этой сфере. Решением может стать создание для ИИ более эффективных алгоритмов и оборудования, хотя на это уйдёт некоторое время.

Microsoft договорилась о партнёрстве с G42, предположительно тесной связанной со спецслужбами Объединённых Арабских Эмиратов (ОАЭ). Как сообщает портал CIO, компании пришли к соглашению о создании в стране «суверенного» облака и развёртывании ИИ-мощностей. В 2019 году Microsoft первой из «большой тройки» запустила облачный регион на Ближнем Востоке, именно в ОАЭ.

Технологии Microsoft позволят создать мощную облачную платформу для госсектора ОАЭ и ряда жёстко регулируемых отраслей страны. В Microsoft заявляют, что это позволит обезопасить важную информацию, получить доступ к новейшим облачным и ИИ-функциям, уже доступным в публичном облаке Azure. При этом платформа будет соответствовать местным законам о «суверенитете» данных.

Не забыли в Microsoft и о собственном развитии. В рамках сделки Microsoft расширит свои ЦОД в ОАЭ при сотрудничестве с поддерживаемым властями оператором Khazna Data Centers. В Microsoft считают, что сделка поможет государственному и частному секторам страны использовать новейшие облачные технологии для решения общественно важных задач.

Источник изображения: Microsoft

Это уже не первый проект Microsoft с государственным участием на Ближнем Востоке. Так, в этом году компания рассказала о намерении построить новый облачный регион Azure в Саудовской Аравии и уже предоставляет некоторые облачные сервисы на основе Azure и OpenAI правительству Катара. Впрочем, не все довольны такой активностью Microsoft. Ещё в апреле НКО Human Rights Watch заявила о том, что планируемые компанией облачные проекты в Саудовской Аравии угрожают жителям страны, в жизни которых активно вмешиваются власти — местные законы позволяют легко получать доступ к облачным данным.

Впрочем, компания не одинока в попытках расширить влияние на Ближнем Востоке. Например, в августе Amazon Web Services (AWS) запустила облачный регион в Тель-Авиве и сообщила о готовности инвестировать в Израиль $7,2 млрд к 2037 году. В феврале о намерении расширить облачные мощности в Саудовской Аравии, потратив $1,5 млрд, заявила и Oracle. А на днях запуске облачного региона в Эр-Рияде отчиталась Huawei.

Произошедший 30 августа сбой в работе австралийского дата-центра привёл к проблемам в работе с сервисами Azure, API, базами данных, а также облачным ПО. Пользователи более суток не имели доступа к Azure, сервисам Microsoft 365 и Power Platform. Как сообщает Network World, в Microsoft обвиняют в произошедшем недостаток персонала в ЦОД и неисправную систему автоматики.

По данным экспертов компании, после падения напряжения в сети на юго-востоке страны отключилась часть охлаждающих систем в одном из ЦОД. Поскольку охлаждение не работало должным образом, рост температуры в машинных залах привёл к автоматическому отключению некоторого оборудования для сохранения инфраструктуры и данных.

При этом в компании подчеркнули, что системы охлаждения можно было бы заново включить вручную, окажись для этого достаточно персонала в ЦОД. С учётом размеров кампуса и небольшого числа сотрудников ночной смены людей оказалось недостаточно для своевременного восстановления работоспособности. В компании подчеркнули, что временно увеличили команду с трёх до семи человек, пока не выяснили причины проблем и не приняли необходимые меры для их устранения.

Источник изображения: Microsoft

В Microsoft добавили, что компания работает над масштабными реформами, включая совершенствование системы автоматизации ЦОД для восстановления работоспособности в случае повторения инцидентов, в частности, связанных с перепадами напряжения. Поэтому ведётся оценка загруженности серверов, чтобы выяснить, какие именно системы охлаждения нужно «оживить» в первую очередь.

В последние месяцы сбои в работе сервисов Microsoft уже случались, в первую очередь связанные с нарушением доступа к Microsoft 365. Например, в июле пострадали OneDrive для бизнеса и SharePoint Online, а месяцем ранее с проблемами на восемь часов столкнулись пользователи Outlook Web, Teams, OneDrive для бизнеса и SharePoint. А в начале года наблюдались глобальные сбои в работе сервисов компании.