Словацкая компания Tachyum, разрабатывающая процессоры Prodigy с уникальной архитектурой, объявила о выпуске руководства по оптимизации производительности этих чипов. Точнее, для FPGA-эмулятора Prodigy, поскольку самих чипов всё ещё нет. Огромный документ на 1600 страниц содержит подробную информацию о том, как в полной мере воспользоваться потенциалом новинки.

Первая информация о разработке Prodigy появилась в 2019–2020 гг. Эти суперпроцессоры, как утверждается, объединяют возможности CPU, GPU и TPU. Они предназначены для решения различных ресурсоёмких задач, связанных в том числе с ИИ и машинным обучением.

Сроки выпуска Prodigy несколько раз пересматривались: сначала выход чипов был перенесён с 2021-го на 2022 год, затем — на 2023 год, а впоследствии — на 2024-й. В соответствии с текущими планами Tachyum намерена начать отгрузку образов чипов в 2025 году.

Источник изображения: Tachyum

Подготовленное руководство для изделий Prodigy, как заявляет компания, содержит рекомендации по созданию высокопроизводительного ПО для этой платформы. Документ описывает конкретные методы оптимизации, включая управление ограничениями диспетчеризации, улучшение процедур работы памяти и пр. Кроме того, описаны способы обработки операций кеширования и доступа к специальным регистрам для тонкой настройки с целью достижения максимальной производительности.

В руководстве рассматриваются особенности чипов. Архитектура набора инструкций Prodigy (ISA) представляет собой смесь RISC и CISC, но не включает какие-либо сложные и/или длинные и неэффективные инструкции переменной длины. Все инструкции имеют ширину 32 или 64 бит, а некоторые из них содержат функции доступа к памяти для дальнейшего повышения производительности.

Изделия Prodigy объединяют до 192 ядер с тактовой частотой до 5 ГГц и выше. Реализованы 16 каналов памяти DDR5-7200 с возможностью использования до 32 Тбайт ОЗУ в расчёте на процессорный разъём. Поддерживаются 96 линий PCIe 5.0. Планируемая технология производства — 5 нм. В конце 2023 года Tachyum получила заказ на поставку чипов Prodigy для создания суперкомпьютера с ИИ-производительностью до 8 Зфлопс.

Европейская комиссия одобрила сделку по приобретению компанией NVIDIA стартапа Run:ai из Тель-Авива (Израиль), который специализируется на разработке ПО для управления рабочими нагрузками ИИ и оркестрации на базе Kubernetes. Регуляторы пришли к выводу, что слияние не создаст проблем с конкуренцией в Европейской экономической зоне.

Стартап Run:ai основан в 2018 году. В марте 2022-го он получил $75 млн в ходе раунда финансирования Series C. Компания создаёт специализированные инструменты, которые позволяют более эффективно использовать вычислительные ресурсы при работе с ИИ-приложениями.

NVIDIA объявила о планах по поглощению Run:ai в апреле нынешнего года. Тогда говорилось, что стоимость сделки может составлять до $1 млрд. Вместе с тем израильская газета Calcalist оценила актив в $700 млн. Изучением возможных последствий слияния занялись регулирующие органы в США и Европе. В частности, американское Министерство юстиции заподозрило, что NVIDIA покупает Run:ai с тем, чтобы в дальнейшем «похоронить» технологии этого стартапа. Дело в том, что платформа Run:ai позволяет уменьшить потребность в вычислительных ресурсах при работе с ИИ, а следовательно, снизить количество необходимых ускорителей. Это может привести к тому, что некоторые клиенты станут покупать меньше продуктов NVIDIA.

Источник изображения: Run:ai

Еврокомиссия дала сделке зелёный свет. В официальном заявлении регулятора сказано, что деятельность NVIDIA и Run:ai не пересекается. Подчёркивается, что NVIDIA занимает доминирующее положение на мировом рынке GPU. Однако у этой компании не будет «ни технических возможностей, ни стимулов для того, чтобы препятствовать совместимости своих GPU с конкурирующим ПО для оркестрации». Кроме того, как отмечается, Run:ai сейчас «не занимает существенной позиции» на рассматриваемом рынке ПО. Клиенты по-прежнему будут иметь доступ к альтернативным продуктам с функциями, аналогичными тем, что предлагает Run:ai.

«Комиссия пришла к выводу, что предлагаемое приобретение не вызовет проблем с конкуренцией ни на одном из рассмотренных рынков в Европейской экономической зоне. Поэтому сделка безоговорочно одобрена», — сказано в заявлении регулятора.

В ходе расследования Horizon Inquiry, посвящённого скандалу с британской почтовой службой, вскрылись неприглядные факты. Ошибки в ПО Horizon, из-за которых многих сотрудников несправедливо обвинили в мошенничестве, перекладываются почтой и разработчиком ПО, компанией Fujitsu, друг на друга, сообщает The Register. Fujitsu заявляет, что сообщала об ошибках в ПО, которые игнорировались ответственными лицами. Почта же утверждает, что ничего не знала и вообще зависела от японской компании.

В своё время ПО Horizon стало причиной множества бухгалтерских сбоев, в результате которых сотрудники британской почтовой службы подверглись преследованию, в том числе уголовному. По словам юристов Fujitsu, поставщик IT-платформы Horizon не несёт ответственности за десятки сломанных жизней. Компания якобы в течение 25 лет сообщала почте о багах, ошибках и дефектах ПО и их влиянии на бухгалтерию государственной организации. Расследование началось в 2021 году и продолжается до сих пор.

Источник изображения: Michael Jasmund / Unsplash

Horizon представляет собой систему электронных терминалов продаж (EPOS) и финансового учёта, использующуюся Почтовой службой Великобритании. Она внедрялась компанией ICL, которую позже приобрела Fujitsu. С 1999 по 2015 гг. 736 управляющих почтовыми отделениями были неправомерно обвинены в мошенничестве — на деле причиной неточностей в бухгалтерии были ошибки ПО. В результате многие бывшие сотрудники почты стали банкротами, другие попали в тюрьму, а некоторые свели счёты с жизнью. Хотя многие обвинения сняли в судах, 60 человек по разным причинам не дожили до оправдания.

Юридический представитель почты отрицает, что руководство знало о проблемах, а адвокат бывшей главы структуры Паулы Веннеллс (Paula Vennells) отрицает, что та знала о проблемах с Horizon. Представитель Fujitsu заявил, что компания установила как минимум 70 причастных, в отношении которых есть свидетельства того, что они всё время знали о проблеме. В том числе речь идёт о членах совета директоров Почтовой службы Великобритании, её топ-менеджерах и сотрудниках службы безопасности, а также командах, участвовавших в расследовании инцидентов.

Утверждается, что почта пыталась замять и скрыть свою ответственность за скандал и несправедливо пытается обвинить во всём Fujitsu и другие «третьи стороны». В числе прочего почта пыталась выдать себя за «подчинённого партнёра» Fujitsu, находящегося от той в «технически зависимом» состоянии, но расследованием заявления не подтверждаются.

Источник изображения: Joanna Kosinska / Unsplash

Представитель Почтовой службы, в свою очередь, заявил, что та сожалеет о том, что положилась на японскую компанию, понадеявшись на надёжность Horizon. В результате ложное предположение об отсутствии ошибок якобы помешало вовремя принять меры — сыграло роль и желание защитить бренд и экономические интересы компании, а иерархия в организации не давала низовым сотрудникам дать делу об ошибках ход. Кроме того, руководящие должности занимали недостаточно компетентные люди, что привело к ряду управленческих ошибок. Обмена ключевой информации о Horizon в рамках почтовой структуры не происходило ни «вертикально», ни «горизонтально».

Адвокат Саманта Лик (Samantha Leek), защищающая интересы непосредственно бывшей главы Почтовой службы Великобритании Веннелс, заявила, что бывшие коллеги подзащитной из числа топ-менеджеров не передали важную информацию о Horizon ни совету директоров, ни генеральному директору. Утверждается, что бывшая глава почты «опустошена» фактом того, что с ней не поделились сведениями и не имеет желания «показывать пальцами» на других или спекулировать, почему информацию не передали.

Это не единственный случай в Великобритании, когда ПО проверенных компаний становится причиной катастрофических событий. В своё время ERP-система Oracle фактически довела до банкротства муниципалитет Бирмингема (крупнейший в Европе) — история не закончена до сих пор, а расходы превысили сотню миллионов фунтов.

В последнем докладе Международного энергетического агентства (IEA), посвящённого «угольной» генерации электричества, сообщается, что в 2024 году потребление угля в энергетике достигло рекордных за всю историю значений. Хотя большая часть роста расходов этого топлива приходится на Китай и Индию, не всё хорошо и с более благополучными в контексте «зелёной повестки» странами, сообщает Datacenter Dynamics.

Согласно докладу, доминируют всё равно рынки КНР и Индии. Спрос на уголь в Китае должен в 2024 году вырасти на 1 %, достигнув 4,9 млрд тонн, в Индии — на 5 % до 1,3 млрд тонн. Впрочем, в IEA допускают, что спрос может выйти на плато до 2027 года, если Китай начнёт избавляться от зависимости от угольной энергетики.

На сегодня КНР потребляет на 30 % больше угля, чем остальной мир вместе взятый. Два ключевых драйвера роста — развитие сервисов, ранее использовавших другие типы топлива, и развитие ИИ ЦОД. В последние годы Китай интенсивно развивает инфраструктуру ЦОД. По официальным данным, страна инвестировала в дата-центры более $6,1 млрд с 2022 года. В итоге потребление электричества ЦОД в стране уже к 2030 году должно вырасти более чем на 5 %.

Также подчёркивается, что в т.н. «развитых» странах снижение потребления угля замедлилось, это особенно очевидно для стран Евросоюза и США. Там спрос на электричество привёл к замедлению соответствующих показателей. В результате потребление угля в ЕС и США снизится в текущем году на 12 % и 5 % соответственно, в сравнении с 23 % и 17 % годом ранее.

Источник изображения: Marcos Assis/unspalsh.com

Некоторые американские поставщики электроэнергии уже сообщили, что именно спрос со стороны дата-центров на энергию привёл к тому, что энергетикам пришлось продлить срок жизни угольных электростанций. С ростом спроса на электричество коммунальные службы вынуждены использовать все доступные типы энергетики, особенно в регионах с большим числом ЦОД. По некоторым оценкам, к 2030 году ЦОД будут потреблять 9 % электроэнергии США ежегодно, в сравнении с 4 % в 2023 году.

Источник изображения: IEA

В прошлом месяце американская коммунальная компания Southern Co. заявила, что рассматривает продление срока работы угольных электростанций для удовлетворения спроса ЦОД и других коммерческих и промышленных объектов на электроэнергию. В частности, речь идёт об угольной электростанции Plant Bowen в Джорджии мощностью 3,45 ГВт.

Источник изображения: IEA

Дополнительно известно, что поставщик энергии с угольных станций Hallador Energy сообщил о росте спроса на поставки электричества для ЦОД. Также он видит «значимые возможности» в секторе ископаемого топлива. Недавно он подписал не обязывающее соглашение с неназванным оператором ЦОД для поставки «угольного» электричества в течение длительного периода.

Регулятор NERC бьёт тревогу, утверждая, что ресурсоёмкий ИИ представляет угрозу для североамериканской электросети, а бизнес продолжает наращивать спрос. Недавно глава OpenAI Сэм Альтман (Sam Altman) выступил с идеей создания целой сети 5-ГВт ЦОД в Соединённых Штатах. Правительство страны уже готовит план строительства ИИ ЦОД и электростанций на федеральных землях, пусть и в ущерб экологии.

Администрация действующего президента США Джо Байдена (Joe Biden) разрабатывает план строительство крупных ИИ ЦОД и электростанций на федеральных землях. Причина таких решительных мер — вероятность отстать от других стран в гонке за доминирование в сфере ИИ, сообщает Datacenter Knowledge. План Байдена стал неожиданностью для многих представителей индустрии, уже приготовившихся работать с администрацией будущего президента Дональда Трампа (Donald Trump).

План намерены оформить в виде специального указа, который президент подпишет до окончания срока полномочий 20 января 2025 года. Предполагается, что он ослабит экологические ограничения для отдельных участков федеральных земель — они ещё не определены. По данным источников, в первую очередь речь идёт о возможности строительства ЦОД нового поколения ёмкостью не менее 1 ГВт. Вероятно, на тех же участках построят и специальные электростанции на природном газе — потом вместо газа будет использоваться ветряная или солнечная энергия.

Такие меры, похоже, приходится принимать для решения проблем в цепочках поставок и с дефицитом энергии, грозящим ограничить рост ИИ. Новый план даст возможность компаниям вроде OpenAI, Microsoft и Google строить новые электростанции, независимые от региональных электросетей, уже не способных справиться с огромным спросом. Появилась информация, что завершить работу над документом до окончания срока полномочий Байдена могут и не успеть.

Представители властей предупреждают, что индустрия ИИ в США может отстать от конкурентов, в первую очередь Китая, способных стремительно построить новую энергетическую инфраструктуру для роста ЦОД. Выражается беспокойств и в связи с экономическими последствиями передачи ИИ-технологий другим странам.

Пока чиновники беспокоятся о первенстве в сфере ИИ, коалиция крупных экогрупп агрессивно выступает против использования в данном контексте федеральных земель — из-за угрозы климату и окружающей среде в целом. Им вторят некоторые сенаторы и исследователи.

Новый указ призван способствовать развитию и более ранних проектов властей. Например «Закон о чипах» от 2022 года представляет собой одну из крупнейших программ развития промышленности в истории США, с многомиллиардными инвестициями со стороны государства, строительством заводов по выпуску полупроводников на территории страны и др. В этом году подписаны законы, смягчающие экологические ограничения при производстве чипов и смежных компонентов.

Источник изорбражения: Mina Rad/unsplash.com

Потребляемая американскими ЦОД мощность выросла на 50 % с прошлого года, ожидается, что к концу следующего она вырастет ещё на столько же. К 2030 году ЦОД будут потреблять до 17 % всей электроэнергии США, в четыре с лишним раза больше, чем сегодня. Хотя учёные США считают, что у страны большая фора в гонке ИИ, сохранение лидерства требует огромных ресурсов и нужно быстро удовлетворить потребности ЦОД в энергии. Сейчас в Соединённых Штатах более 3 тыс. ЦОД, поддержку окажут в первую очередь гиперскейлерам.

Изначально в рамках указа рассматривалось даже применение «Закона об оборонном производстве», дававшего чрезвычайные полномочия федеральным властям для укрепления промышленности и цепочек поставок, но пока эту идею отложили. Тем временем техногиганты давно требуют федеральной поддержки. Глава OpenAI Сэм Альтман (Sam Altman) недавно продвигал идеи создания сети гигаваттных ЦОД с господдержкой.

В OpenAI заявляли, что США хотя и являются лидером в ИИ-индустрии, Китай развивается всё быстрее, наращивая производство чипов и энергии. В США же с поставками энергии большие проблемы. Некоторые эксперты опасаются, что при Трампе вместо производства «чистой» энергии для ЦОД могут сместить акцент на генерацию больших объёмов на ископаемом топливе — указ соперника могут интерпретировать иначе, чем предполагалось. Недавно американский регулятор NERC заявил, что ИИ представляет угрозу для электросети Северной Америки.

По данным Omdia, тайваньский технологический гигант Foxconn в этом году может стать первой неамериканской компанией, ставшей лидером мирового рынка серверов, сообщил ресурс Data Center Knowledge. Согласно прогнозу, общие затраты на серверы в 2024 году составят $229 млрд, из них $29 млрд достанутся Foxconn.

На фоне растущего спроса со стороны крупных американских поставщиков облачных услуг на оптимизированные для обработки ИИ-нагрузок серверы ODM-бизнес Foxconn достигнет астрономического роста в 2024 году. Вскоре компания опередит Dell ($25 млрд по итогам года), которая, в свою очередь, обошла в 2018 году HPE ($13 млрд в 2024 году) на рынке серверов, предсказывают аналитики.

По словам Влада Галабова (Vlad Galabov), старшего директора Omdia, в 2024 году на четырёх крупнейших провайдеров облачных услуг — Microsoft, Amazon, Google и Meta✴ — будет приходиться почти половина всего объёма капитальных затрат на ЦОД, что позволит им усилить влияние на высококонкурентном рынке серверов. «Поскольку разработка и развёртывание приложений ИИ доминируют, поставщики, сотрудничающие с NVIDIA, процветают. Эта динамика вывела Foxconn на первое место», — отметил аналитик.

Источник изображения: Foxconn

В числе бенефициаров резкого роста спроса на оптимизированные для ИИ серверы также стали Quanta Cloud Technologies (QCT; пятое место, $15 млрд), ZT Systems (девятое место, $19 млрд) и SuperMicro (третье место, $19 млрд), более чем вдвое увеличившие доход от продаж серверов в 2024 году. При этом на рынке произошли перестановки. AMD купила ZT Systems, однако производственное подразделение будет продано. Доля Inventec в ZT Systems также достанется AMD. А Supermicro испытывает трудности и уже лишилась ряда крупных заказов.

Завершающийся год был успешным и для Dell, у которой появились новые крупные стратегические клиенты, такие как CoreWeave и xAI. Она также разработала портфель профессиональных сервисов и эталонных проектов, включая консалтинговые услуги в области ИИ. «Несмотря на изменения в рейтинге, все поставщики серверов будут считать, что 2024 год принёс им крупный успех из-за значительного роста рынка», — сообщил Манодж Сукумаран (Manoj Sukumaran), ведущий аналитик Omdia.

Источник изображения: Omdia

В Omdia отметили, что консолидированный характер инвестиций сделал 2024 год уникальным годом на рынке серверов. Omdia прогнозирует, что на 10 компаний будет приходиться почти 60 % мировых инвестиций в серверы и 10 компаний удовлетворят более 70 % спроса на рынке.

Как ожидает Omdia, что устойчивый рост продолжится в течение десятилетия, и к 2028 году рынок серверов достигнет $380 млрд, приблизившись в 2030 году к $500 млрд. «Мы увидели только верхушку айсберга формирования и расходов облачных провайдеров, специализирующихся на ИИ. Их капитальные затраты на серверы должны значительно вырасти, и CoreWeave потенциально превзойдет Oracle в 2025 году», — отметил Галабов.

Европейское совместное предприятие по развитию высокопроизводительных вычислений (EuroHPC JU) начло подгтовку к созданию передовых сетей, которые соединят суперкомпьютеры, квантовые компьютеры и дата-центры Евросоюза. Это позволит создать гиперсвязанную объединённую экосистему HPC и квантовых вычислений, сообщает HPC Wire.

Сеть с пропускной способностью в несколько Тбит/с охватит не только площадки EuroHPC, но и национальные и региональные суперкомпьютеры и ЦОД, которые в консорциум не входят. Это позволит сформировать инфраструктуру будущего, поддерживающую самые передовые разработки, ИИ и цифровые инновации в континентальном масштабе, учитывающие критические проблемы вроде климатической устойчивости и общественного здоровья.

Истчоник изображения: EuroHPC JU

«Гиперинтернет» объединит европейские системы в единую цифровую экосистему, позволяющую совместить самые разные технологии. Разработанная для HPC и Big Data сеть будет использовать самые передовые архитектуры, обеспечивая высокую скорость и производительность в целом. Объединённая инфраструктура, как ожидается, будет способствовать европейскому лидерству в суперкомпьютерных вычислениях и инновациях, обеспечивая качественную устойчивую связь в зоне обслуживания.

Инициатива EuroHPC пока касается исключительно членов Евросоюза, дополнительные критерии соответствия требованиям можно найти на специальной странице. Создание сервисов «гиперсвязи» планируется с середины 2025 по середину 2029 гг.

Североамериканская электросеть столкнулась с «критическими вызовами надёжности» — производители энергии не успевают поставлять её в необходимых объёмах, удовлетворяющих спрос ИИ ЦОД. Местный регулятор North American Electric Reliability Corporation (NERC) пришёл к выводу, что рост энергопотребления в следующем десятилетии наряду с закрытием угольных электростанций обеспечит невероятную нагрузку на электросети США и Канады, сообщает The Financial Times.

Дефицит может вызвать отключения электричества в часы пиковых нагрузок в обеих странах. Ситуация только ухудшится из-за задержек с подключением к сети новых солнечных электростанций, энергохранилищ и гибридных ресурсов. Некоторые регионы США могут столкнуться с нехваткой энергии уже в следующем году, сообщается в докладе 2024 Long Term Reliability Assessment, посвящённом проблемам надёжности электроснабжения.

По словам представителя NERC, наблюдается рост спроса на электричество, невиданный десятилетиями, причём темпы роста только увеличиваются. Доклад — последнее предупреждение о том, что невероятные запросы на электричество угрожают и без того работающей на износ электросети. Кроме того, в таких условиях крайне сложно осуществить энергетический переход на «зелёные» источники энергии.

Источник изображения: John Middelkoop/unspalsh.com

Спрос на электричество в последнее время рос быстрее, чем в любой момент за последние два десятилетия на фоне стремительного строительства ЦОД для ИИ и криптомайнинга, а также массовой покупки электромобилей и тепловых насосов. В NERC сообщают, что в ближайшее десятилетие пиковый летний спрос вырастет на 132 ГВт или 15 %, хотя в прошлом году прогнозировался рост только на 80 ГВт. Пиковый зимний спрос увеличится на 149 ГВт или 18 % (против 92 ГВт, прогнозировавшихся ранее).

NERC является некоммерческой структурой под надзором Федеральной комиссии по регулированию энергетики США. По оценкам Международного энергетического агентства, мировой спрос на электричество только со стороны ЦОД может достичь 1000 ТВт∙ч уже к 2026 году. Это вдвое выше, чем уровень 2022 года и эквивалентно энергопотреблению Германии.

Источник изображения: Paul Pastourmatzis/unsplash.com

Крупные операторы ЦОД пытаются найти возможность удовлетворить спрос, а главным бенефициаром, похоже, станет атомная энергетика. При этом NERC предупреждает, что рост спроса будет совпадать по времени со сворачиванием энергетических проектов на ископаемом топливе — в следующие 10 лет будет выведено из эксплуатации мощностей на 115 ГВт. NERC предупреждает, что дефицит может привести к падению резервов мощностей ниже требуемых объёмов почти в каждом регионе.

Например, оператор Midcontinent System Operator, отвечающий за электросети на Среднем Западе, может столкнуться с нехваткой энергии уже в следующем году. В результате, как утверждают в NERC, в следующие 10 лет большинство систем подачи энергии Северной Америки столкнутся с дефицитом надёжности электроснабжения в связи с ростом спроса на электричество и закрытия электростанций старых типов. В краткосрочной перспективе ожидается бум газовых электростанций.

В янвере сообщалось, что потребление электроэнергии дата-центрами в США должно достигнуть 35 ГВт уже к концу текущего десятилетия, почти вдвое выше в сравнении с показателями 2022 года. Из-за ИИ-бума спрос на ЦОД высок на многих мировых рынках, но одной из главных проблем стала нехватка электричества — спрос на него на рынках ЦОД зачастую превышает предложение. В результате, например, в США спрос на ИИ и дефицит ёмкости уже взвинтили цены на аренду дата-центров.

Разработчик малых атомных реакторов Oklo, поддерживаемый главой OpenAI Сэмом Альтманом (Sam Altman), подписал соглашение о поставке 12 ГВт мощностей оператору дата-центров Switch. Ожидается, что это поможет удовлетворить растущий спрос оператора на электроэнергию, сообщает Bloomberg.

Компании подписали не обязывающее соглашение, действующее до 2044 года, которое поддержит планы Oklo по строительству и управлению малыми модульными реакторами (SMR) Aurora. В Oklo рассчитывают начать поставки электричества от своих микро-АЭС к концу десятилетия по цене около $100 за МВт∙ч. Многочисленные IT-гиганты, включая AWS и Meta✴ подписали в последние месяцы соглашения для питания своей инфраструктуры с помощью атомной энергии, но сделка Oklo и Switch является одной из крупнейших.

Утверждается, что ЦОД являются идеальными клиентами новых атомных проектов, поскольку их потребности в стабильных поставках энергии только растут. Правда, пока атомные сделки зависят от разработчиков SMR, которые всё ещё не создали ни один работающий коммерческий реактор.

Источник изображения: Oklo

Oklo является одной из десятков компаний, разрабатывающих малые модульные реакторы — они будут выпускаться на заводах и собираться на местах использования. Предполагается, что мини-АЭС будут быстрее и дешевле строить, но пока испытаний в реальных условиях они не прошли. Oklo, председателем которой является Сэм Альтман, может стать одной из первых — первый SMR компании, возможно, заработает уже в 2027 году.

Ранее сообщалось о получении запросов Oklo на поставку 750 МВт для ЦОД в США. Потенциальные клиенты не называются, но известно, что общая мощность планируемых к строительству реакторов Oklo в результате должна вырасти до 2,1 ГВт. В апреле появилась информация о том, что Equinix заплатила $25 млн за право получить до 500 МВт от малых модульных реакторов Oklo.

По оценкам аналитиков Omdia, Microsoft приобрела вдвое больше флагманских ускорителей NVIDIA в сравнении с любым из своих конкурентов. В Omdia подсчитали, что в 2024 году IT-гигант приобрёл 485 тыс. ускорителей NVIDIA Hopper, следующий по масштабу покупатель из США — компания Meta✴ купила всего 224 тыс. ускорителей. Заметно отстают и AWS с Google, сообщает The Financial Times

В последние пару лет спрос на передовые ускорители превышает предложение. В этом году техногиганты потратили на ЦОД на основе новейших чипов NVIDIA Blackwell десятки миллиардов долларов, а венчурные инвесторы вкладывают огромные средства в ИИ-технологии несмотря на пока низкую отдачу.

Облачная инфраструктура Microsoft активно используется не только самой корпорацией, но и OpenAI, в том числе для обучения новейшей модели o1. Идёт непрекращающееся соревнование с Google, стартапами вроде Anthropic и xAI, не говоря уж о китайских конкурентах. Так, по оценкам Omdia китайские ByteDance и Tencent заказали по 230 тыс. ускорителей NVIDIA только в этом году, включая ослабленную модель H20. Amazon и Google, наряду с Meta✴ работающие над внедрением собственных ускорителей, пока приобрели 196 тыс. и 169 тыс. Hopper соответственно.

Источник изображений: NVIDIA

Microsoft, инвестировавшая $13 млрд в OpenAI, является наиболее агрессивно среди других американским IT-гигантов наращивает инфраструктуру ИИ ЦОД. Кроме того, она предлагает и собственные ИИ-сервисы вроде Copilot. В этом году компания заказала втрое больше чипов NVIDIA того же поколения, чем в 2023-м. Во второй половине октября сообщалось, что компания стремительно наращивает закупки суперускорителей NVIDIA GB200 NVL.

Про данным Omdia, на серверы технологические компании мира потратят в 2024 году $229 млрд. Впереди Microsoft с $31 млрд капитальных расходов и Amazon c $26 млрд. 10 ведущих покупателей инфраструктуры ЦОД, включая xAI и CoreWeave, обеспечивают 60 % вложений в вычислительные мощности. На NVIDIA приходится 43 % трат на серверы.

Хотя NVIDIA всё ещё доминирует на рынке ИИ-чипов, AMD активно пытается составить ей конкуренцию. В этом году Meta✴ приобрела 173 тыс. ускорителей MI300, а Microsoft — 96 тыс. Также крупные компании используют и чипы собственной разработки. Google уже десять лет разрабатывает TPU, а у Meta✴ есть два поколения MTIA — обе компании внедрили по 1,5 млн собственных чипов. Amazon развернула 1,3 млн ускорителей Trainium и Inferentia. Для Anthropic компания намерена построить кластер из сотен тысяч Trainium для обучения новейшего поколения ИИ-моделей. Amazon уже инвестировала в стартап $8 млрд.

При этом сама Microsoft, хоть и выпускает собственные полупроводниковые продукты, конкурирующие с NVIDIA, но внедрила в этом году только 200 тыс. чипов Maia. Чипы NVIDIA всё ещё нужны Microsoft для предоставления «уникальных» сервисов. Правда, для этого компании дополнительно нужны инфраструктура, ПО и другие компоненты экосистемы. В начале ноября появилась информация, что Microsoft по итогам I квартала 2025 финансового года не хватает ресурсов для обслуживания ИИ, но компания готова и далее вкладываться в ЦОД, хотя инвесторам это не по нраву. Более того, Microsoft потратит $10 млрд на аренду ИИ-серверов у CoreWeave.