По данным Omdia, тайваньский технологический гигант Foxconn в этом году может стать первой неамериканской компанией, ставшей лидером мирового рынка серверов, сообщил ресурс Data Center Knowledge. Согласно прогнозу, общие затраты на серверы в 2024 году составят $229 млрд, из них $29 млрд достанутся Foxconn.

На фоне растущего спроса со стороны крупных американских поставщиков облачных услуг на оптимизированные для обработки ИИ-нагрузок серверы ODM-бизнес Foxconn достигнет астрономического роста в 2024 году. Вскоре компания опередит Dell ($25 млрд по итогам года), которая, в свою очередь, обошла в 2018 году HPE ($13 млрд в 2024 году) на рынке серверов, предсказывают аналитики.

По словам Влада Галабова (Vlad Galabov), старшего директора Omdia, в 2024 году на четырёх крупнейших провайдеров облачных услуг — Microsoft, Amazon, Google и Meta✴ — будет приходиться почти половина всего объёма капитальных затрат на ЦОД, что позволит им усилить влияние на высококонкурентном рынке серверов. «Поскольку разработка и развёртывание приложений ИИ доминируют, поставщики, сотрудничающие с NVIDIA, процветают. Эта динамика вывела Foxconn на первое место», — отметил аналитик.

Источник изображения: Foxconn

В числе бенефициаров резкого роста спроса на оптимизированные для ИИ серверы также стали Quanta Cloud Technologies (QCT; пятое место, $15 млрд), ZT Systems (девятое место, $19 млрд) и SuperMicro (третье место, $19 млрд), более чем вдвое увеличившие доход от продаж серверов в 2024 году. При этом на рынке произошли перестановки. AMD купила ZT Systems, однако производственное подразделение будет продано. Доля Inventec в ZT Systems также достанется AMD. А Supermicro испытывает трудности и уже лишилась ряда крупных заказов.

Завершающийся год был успешным и для Dell, у которой появились новые крупные стратегические клиенты, такие как CoreWeave и xAI. Она также разработала портфель профессиональных сервисов и эталонных проектов, включая консалтинговые услуги в области ИИ. «Несмотря на изменения в рейтинге, все поставщики серверов будут считать, что 2024 год принёс им крупный успех из-за значительного роста рынка», — сообщил Манодж Сукумаран (Manoj Sukumaran), ведущий аналитик Omdia.

Источник изображения: Omdia

В Omdia отметили, что консолидированный характер инвестиций сделал 2024 год уникальным годом на рынке серверов. Omdia прогнозирует, что на 10 компаний будет приходиться почти 60 % мировых инвестиций в серверы и 10 компаний удовлетворят более 70 % спроса на рынке.

Как ожидает Omdia, что устойчивый рост продолжится в течение десятилетия, и к 2028 году рынок серверов достигнет $380 млрд, приблизившись в 2030 году к $500 млрд. «Мы увидели только верхушку айсберга формирования и расходов облачных провайдеров, специализирующихся на ИИ. Их капитальные затраты на серверы должны значительно вырасти, и CoreWeave потенциально превзойдет Oracle в 2025 году», — отметил Галабов.

Европейское совместное предприятие по развитию высокопроизводительных вычислений (EuroHPC JU) начло подгтовку к созданию передовых сетей, которые соединят суперкомпьютеры, квантовые компьютеры и дата-центры Евросоюза. Это позволит создать гиперсвязанную объединённую экосистему HPC и квантовых вычислений, сообщает HPC Wire.

Сеть с пропускной способностью в несколько Тбит/с охватит не только площадки EuroHPC, но и национальные и региональные суперкомпьютеры и ЦОД, которые в консорциум не входят. Это позволит сформировать инфраструктуру будущего, поддерживающую самые передовые разработки, ИИ и цифровые инновации в континентальном масштабе, учитывающие критические проблемы вроде климатической устойчивости и общественного здоровья.

Истчоник изображения: EuroHPC JU

«Гиперинтернет» объединит европейские системы в единую цифровую экосистему, позволяющую совместить самые разные технологии. Разработанная для HPC и Big Data сеть будет использовать самые передовые архитектуры, обеспечивая высокую скорость и производительность в целом. Объединённая инфраструктура, как ожидается, будет способствовать европейскому лидерству в суперкомпьютерных вычислениях и инновациях, обеспечивая качественную устойчивую связь в зоне обслуживания.

Инициатива EuroHPC пока касается исключительно членов Евросоюза, дополнительные критерии соответствия требованиям можно найти на специальной странице. Создание сервисов «гиперсвязи» планируется с середины 2025 по середину 2029 гг.

После отставки Пэта Гелсингера (Pat Gelsinger) обязанности гендиректора Intel временно исполняют Дэвид Цинснер (David Zinsner) и Мишель Джонстон Холтхаус (Michelle (MJ) Johnston Holthaus). Несмотря на временный статус, их видение путей выхода из кризиса имеет важное значение для компании.

Дэвид Цинснер и Мишель Холтхаус сходятся во мнении, что за GPU — будущее, а технологии ИИ всё ещё находится в зачаточном состоянии, пишет ресурс HPCwire. Их точка зрения в корне отличается от позиции Гелсингера, сделавшего ставку на CPU. Сейчас врио гендиректора занимаются ревизией планов компании, а также имеющегося портфеля решений для ЦОД. По их мнению, у Intel всего три перспективных продукта для ЦОД и ИИ: чипы Xeon Diamond Rapids и Clearwater Forest, а также ускорители Falcon Shores.

Холтхаус выступила на ежегодной глобальной технологической конференции Barclays, где, отвечая на вопрос о том, чем её стратегия будет отличаться от планов Гелсингера, заявила, что не следует ожидать полной смены стратегии, будет лишь «возобновление внимания» к повышению конкурентоспособности продуктов Intel, пишет ресурс EE Times.

Холтхаус также заявила, что сейчас пришло время подумать, как можно использовать имеющийся портфель интеллектуальной собственности во всём портфеле продуктов компании. Она признала, что на рынке решений для ЦОД компания сталкивается с большими проблемами. Ожидалось, что Granite Rapids укрепят позиции Intel на рынке серверов, но теперь она возлагает надежды на Diamond Rapids, которые будут выпускаться по техпроцессу Intel 18A (1,8 нм).

Источник изображения: Intel

«Для нас 2025 год — это год… стабилизации потери доли этого сегмента рынка [и] действительно лазерной фокусировки на создании правильных продуктов для восстановления доли. Нам предстоит много работы в этом направлении», — сообщила Холтхаус. Она отметила, что рынок решений для ЦОД сильно изменился, имея в виду стремление провайдеров облачных услуг создавать собственные кастомные процессоры и ускорители ИИ.

Intel намерена улучшить работу на рынке процессоров для ЦОД с помощью недавно анонсированной консультативной группы по экосистеме x86, которая позволит заказчкикам влиять на будущие архитектурные особенности. Попутно компания отказалась от инициативы X86S по созданию облегчённого варианта ISA. Холтхаус заявила, что она чувствует уверенность по поводу будущего Intel Xeon, вместе с тем отметив, что AMD в последние годы лучше показала себя в работе с клиентами.

Со-гендиректор сообщила, что рассматривает Falcon Shores как тестовый продукт. «Это будет замечательно? Нет, — сказала она. — Но это хороший первый шаг в создании платформы, извлечении уроков, понимании того, как всё это ПО будет работать и как будет реагировать экосистема, чтобы мы могли очень быстро исправиться». Ранее стало известно, что на смену Falcon Shores придёт ИИ-ускоритель Jaguar Shores.

Источник изображения: Intel

Холтхаус подчеркнула, что видит большие возможности в инференсе ИИ, предъявляющем другие требования к оборудованию, чем обучение. В целом Холтхаус отметила, что Intel недостаточно инвестировала в свою продукцию и действовала недостаточно быстро, а также признала, что в краткосрочной перспективе компанию ожидают проблемы с предложением продуктов. Также она признала, что Intel нужен универсальный GPU для долгосрочной конкурентоспособности на только зарождающемся рынке ИИ.

Топ-менеджер заявила, что компания не будет тратить время и деньги на создание ускорителей ИИ для ЦОД с нуля. Вместо этого малотиражные продукты позволит Intel учиться и совершенствоваться, сказала она. «Я смотрю на Gaudi как на первый шаг. В Gaudi есть несколько действительно хороших вещей, которые мы изучаем, особенно на уровне ПО и платформы, — сказала Холтхаус. — Но Gaudi не позволит нам выйти в массы, это не тот GPU, который [мог бы быть] легко развёрнут в системах по всему миру».

Также компания сообщила, что завершила этап сокращений персонала и пока не собирается их возобновлять. «Мы закончили с большим сокращением персонала, которое нам пришлось осуществить, оно в основном завершено, — сказал Цинснер. — Однако мы будем постоянно проверять, куда мы тратим деньги, чтобы убедиться, что получаем соответствующую отдачу».

Североамериканская электросеть столкнулась с «критическими вызовами надёжности» — производители энергии не успевают поставлять её в необходимых объёмах, удовлетворяющих спрос ИИ ЦОД. Местный регулятор North American Electric Reliability Corporation (NERC) пришёл к выводу, что рост энергопотребления в следующем десятилетии наряду с закрытием угольных электростанций обеспечит невероятную нагрузку на электросети США и Канады, сообщает The Financial Times.

Дефицит может вызвать отключения электричества в часы пиковых нагрузок в обеих странах. Ситуация только ухудшится из-за задержек с подключением к сети новых солнечных электростанций, энергохранилищ и гибридных ресурсов. Некоторые регионы США могут столкнуться с нехваткой энергии уже в следующем году, сообщается в докладе 2024 Long Term Reliability Assessment, посвящённом проблемам надёжности электроснабжения.

По словам представителя NERC, наблюдается рост спроса на электричество, невиданный десятилетиями, причём темпы роста только увеличиваются. Доклад — последнее предупреждение о том, что невероятные запросы на электричество угрожают и без того работающей на износ электросети. Кроме того, в таких условиях крайне сложно осуществить энергетический переход на «зелёные» источники энергии.

Источник изображения: John Middelkoop/unspalsh.com

Спрос на электричество в последнее время рос быстрее, чем в любой момент за последние два десятилетия на фоне стремительного строительства ЦОД для ИИ и криптомайнинга, а также массовой покупки электромобилей и тепловых насосов. В NERC сообщают, что в ближайшее десятилетие пиковый летний спрос вырастет на 132 ГВт или 15 %, хотя в прошлом году прогнозировался рост только на 80 ГВт. Пиковый зимний спрос увеличится на 149 ГВт или 18 % (против 92 ГВт, прогнозировавшихся ранее).

NERC является некоммерческой структурой под надзором Федеральной комиссии по регулированию энергетики США. По оценкам Международного энергетического агентства, мировой спрос на электричество только со стороны ЦОД может достичь 1000 ТВт∙ч уже к 2026 году. Это вдвое выше, чем уровень 2022 года и эквивалентно энергопотреблению Германии.

Источник изображения: Paul Pastourmatzis/unsplash.com

Крупные операторы ЦОД пытаются найти возможность удовлетворить спрос, а главным бенефициаром, похоже, станет атомная энергетика. При этом NERC предупреждает, что рост спроса будет совпадать по времени со сворачиванием энергетических проектов на ископаемом топливе — в следующие 10 лет будет выведено из эксплуатации мощностей на 115 ГВт. NERC предупреждает, что дефицит может привести к падению резервов мощностей ниже требуемых объёмов почти в каждом регионе.

Например, оператор Midcontinent System Operator, отвечающий за электросети на Среднем Западе, может столкнуться с нехваткой энергии уже в следующем году. В результате, как утверждают в NERC, в следующие 10 лет большинство систем подачи энергии Северной Америки столкнутся с дефицитом надёжности электроснабжения в связи с ростом спроса на электричество и закрытия электростанций старых типов. В краткосрочной перспективе ожидается бум газовых электростанций.

В янвере сообщалось, что потребление электроэнергии дата-центрами в США должно достигнуть 35 ГВт уже к концу текущего десятилетия, почти вдвое выше в сравнении с показателями 2022 года. Из-за ИИ-бума спрос на ЦОД высок на многих мировых рынках, но одной из главных проблем стала нехватка электричества — спрос на него на рынках ЦОД зачастую превышает предложение. В результате, например, в США спрос на ИИ и дефицит ёмкости уже взвинтили цены на аренду дата-центров.

Разработчик малых атомных реакторов Oklo, поддерживаемый главой OpenAI Сэмом Альтманом (Sam Altman), подписал соглашение о поставке 12 ГВт мощностей оператору дата-центров Switch. Ожидается, что это поможет удовлетворить растущий спрос оператора на электроэнергию, сообщает Bloomberg.

Компании подписали не обязывающее соглашение, действующее до 2044 года, которое поддержит планы Oklo по строительству и управлению малыми модульными реакторами (SMR) Aurora. В Oklo рассчитывают начать поставки электричества от своих микро-АЭС к концу десятилетия по цене около $100 за МВт∙ч. Многочисленные IT-гиганты, включая AWS и Meta✴ подписали в последние месяцы соглашения для питания своей инфраструктуры с помощью атомной энергии, но сделка Oklo и Switch является одной из крупнейших.

Утверждается, что ЦОД являются идеальными клиентами новых атомных проектов, поскольку их потребности в стабильных поставках энергии только растут. Правда, пока атомные сделки зависят от разработчиков SMR, которые всё ещё не создали ни один работающий коммерческий реактор.

Источник изображения: Oklo

Oklo является одной из десятков компаний, разрабатывающих малые модульные реакторы — они будут выпускаться на заводах и собираться на местах использования. Предполагается, что мини-АЭС будут быстрее и дешевле строить, но пока испытаний в реальных условиях они не прошли. Oklo, председателем которой является Сэм Альтман, может стать одной из первых — первый SMR компании, возможно, заработает уже в 2027 году.

Ранее сообщалось о получении запросов Oklo на поставку 750 МВт для ЦОД в США. Потенциальные клиенты не называются, но известно, что общая мощность планируемых к строительству реакторов Oklo в результате должна вырасти до 2,1 ГВт. В апреле появилась информация о том, что Equinix заплатила $25 млн за право получить до 500 МВт от малых модульных реакторов Oklo.

Малайзия предпринимает важные меры для цифровой трансформации — страна официально открыла Национальный офис ИИ (NAIO). Речь идёт о специальном учреждении, разрабатывающем политику и правила в сфере ИИ для формирования ключевого ИИ-хаба в Юго-Восточной Азии, сообщает DigiTimes.

В NAIO уже обозначили базовые цели на 2025 год: разработку всеобъемлющей стратегии развития ИИ на пять лет (до 2030 года), создание нормативной базы для развития ИИ и ускорение внедрения ИИ в разных отраслях. Также NAIO будет разрабатывать руководства, посвящённые этике ИИ, изучать влияние искусственного интеллекта на деятельность правительства и публиковать отчёты о тенденциях в отрасли, а также формировать всеобъемлющую базу данных, посвящённую ИИ-технологиям.

В правительстве подчёркивают важность повышения цифровой грамотности и призывают внедрять образовательные программы от начальных школ до университетов и, конечно, в государственном секторе. Предполагается создание к 2025 году 50 тыс. человек, владеющих навыками работы с ИИ, программирования и анализа данных.

Источник изображения: Mahmud Ahsan/unsplash.com

Власти страны уже объявили о сотрудничестве с AWS, Google и Microsoft для совместного создания инновационных решений для развития Малайзии. В 2024 году Малайзию посетил глава Microsoft Сатья Наделла (Satya Nadella), объявив об инвестициях в ИИ-инфраструктуру в объёме $2,2 млрд и помощи в развитии талантов в области ИИ на территории всей Юго-Восточной Азии.

AWS запустила в стране облачный регион в августе 2024 года и взяла на себя обязательство вложить в Малайзию $6,2 млрд к 2038 году. Кроме того, компания поддержала местный ИИ-стартап Mesolitica в разработке т.н. MaLLaM — языковой модели, предназначенной для работы с многочисленными малайзийскими диалектами.

Похожие обязательства взяла на себя и Google, начавшая строить ЦОД за $2 млрд в Селангоре в минувшем октябре. Компания уже подписала соглашение о долгосрочном сотрудничестве с Dagang NeXchange (DNeX), предусматривающее предоставление в стране суверенных облачных услуг. Средства в ИИ и облака Малайзии инвестирует и Oracle.

Министерство инвестиций, торговли и промышленности (MITI) объявило, что вложения в информационные технологии достигли приблизительно $16,1 млрд.

Стартап xAI Илона Маска (Elon Musk), по сообщению ресурса ServeTheHome, приступил к расширению мощности ИИ-кластера Colossus. Речь идёт о монтаже суперускорителей NVIDIA GB200 NVL72 на архитектуре Blackwell.

В начале сентября уходящего года компания xAI запустила ИИ-суперкомпьютер Colossus, в основу которого изначально легли 100 тыс. ускорителей NVIDIA H100. Сообщалось, что в дальнейшем количество ускорителей NVIDIA планируется увеличить вдвое. В начале декабря стартап получил $6 млрд инвестиций с целью увеличения числа ускорителей в составе Colossus до 1 млн штук.

Отмечалось, что проект по расширению ИИ-кластера реализуется в партнёрстве с NVIDIA, Dell и Supermicro. Вместе с тем ранее появилась информация, что Dell перехватила у Supermicro крупный заказ на ИИ-серверы для xAI. Судя по всему, именно Dell является поставщиком систем GB200 NVL72 для комплекса Colossus.

Источник изображения: Uday Ruddarraju

На днях специалист xAI Удай Руддарраджу (Uday Ruddarraju) опубликовал на своей странице в социальной сети Х фотографию новых серверных модулей в составе Colossus. На снимке видны вычислительные узлы и лотки с коммутаторами NVLink. Наблюдатели отмечают, что компоненты пока не подключены к основной сети, на что указывает отсутствие оптоволоконных соединений. Вместе с тем уже подсоединены низкоскоростные сети управления. В узлах установлены карты NVIDIA Bluefield-3.

Источник изображения: Michael Dell

В отражении от шара с логотипом xAI просматриваются стойки с оборудованием. Предположительно, это системы производства Dell. Ранее глава этой компании Майкл Делл (Michael Dell) объявил о начале поставок первых в мире серверных стоек GB200 NVL72. Кроме того, Dell представила систему PowerEdge XE9712, которая использует архитектуру суперускорителя GB200 NVL72.

Компания Radxa пополнила ассортимент одноплатных компьютеров моделью Orion O6, особенность которой заключается в использовании процессора Cix P1 с 12 вычислительными ядрами Armv9. Новинка выполнена в форм-факторе mini-ITX с габаритами 170 × 170 мм.

Чип Cix P1 с архитектурой DynamIQ объединяет квартеты ядер Cortex-A720 с частотой до 2,8 ГГц, Cortex-A720 с частотой до 2,4 ГГц и Cortex-A520 с частотой до 1,8 ГГц. Присутствует GPU-блок Arm Immortalis G720 MC10 с поддержкой Vulkan 1.3, OpenGL ES 3.2, OpenCL 3.0. Возможно декодирование видео 8Kp60 (AV1, H.265, H.264, VP9, VP8, H.263, MPEG4, MPEG2), а также кодирование 8Kp30 (H.265, H.264, VP9, VP8). Встроенный нейропроцессорный движок (NPU) обладает производительностью до 30 TOPS с возможностью работы в режимах INT4/INT8/INT16, FP16/BF16 и TF32.

Источник изображения: Radxa

Объём оперативной памяти LPDDR5-5500 может составлять 8, 16, 32 или 64 Гбайт. Есть слот M.2 Key-M (PCIe 4.0 x4) для NVMe SSD, разъём M.2 Key-E (PCIe 4.0 x2; USB) для адаптера Wi-Fi (Wi-Fi 7/6E + Bluetooth) и слот PCIe x16 (PCIe 4.0 x8) для карты расширения. Присутствует сетевой адаптер 5GbE.

Допускается вывод изображения на четыре монитора через интерфейсы HDMI 2.0 (4Kp60), DisplayPort 1.4 (4Kp120), USB Type-C (DisplayPort Alt Mode) и eDP (4Kp60). В оснащение входят по два порта USB 3.2 Gen2 (10 Гбит/с) Type-A и USB 2.0 Type-A, дополнительный порт USB 3.2 Gen2 Type-C с поддержкой Power Delivery, гнездо RJ-45 для сетевого кабеля, 40-контактная колодка GPIO (3 × UART, 2 × I2C, 2 × I2S, 2 × PWM, 1 × SPI, 10 × GPIO), 4-контактный коннектор для вентилятора с ШИМ-управлением. Питание может подаваться через порт USB Type-C (минимум 65 Вт) или АТХ-коннектор.

Говорится о совместимости с Debian и Fedora, а в дальнейшем — с Ubuntu, Android, Deepin, Windows и OpenKylin. Цена варьируется от $200 до $450 в зависимости от объёма ОЗУ. Доступность платы гарантирована как минимум до сентября 2029 года.

МТС проводит реструктуризацию, в рамках которой ключевые активы будут выведены в самостоятельную структуру — компанию MWS (MTС Web Services, АО МВС), зарегистрированную в 2021 году в Москве в составе группы компаний МТС, сообщил «Коммерсантъ» со ссылкой на информированные источники. В настоящее время в АО МВС входит облачный бизнес группы с 15 ЦОД.

Как сообщает собеседник «Коммерсанта», в рамках реструктуризации в MWS также войдут команды, занимающиеся разработкой технологий ИИ, Big Data и облаками. В частности, в отдельную компанию могут войти «МТС Диджитал», МТС AI, MWS (бывший МТС Cloud), Big Data, а также могут быть добавлены активы в области инноваций и кибербезопасности. Руководство новой структурой могут доверить первому вице-президенту МТС по технологиям Павлу Воронину. Как ожидается, к 2030 году выручка компании составит 230 млрд руб. О планах перевести в дочернее предприятие MWS ещё ряд активов МТС объявила этой весной.

Источник изображения: MWS

По словам другого источника «Коммерсанта», в компанию могут также войти подразделение по кибербезопасности и VisionLabs (системы умного зрения). При этом внутри самих IT-активов компании изменений не будет. Источник утверждает, что МТС в дальнейшем может провести IPO MWS, хотя конкретные сроки он не указывает.

Эксперты назвали частой практикой для рынка, когда под IPO выделяется актив, потенциально оцениваемый с более высокими мультипликаторами. Вывод дочерних структур на IPO также позволяет снизить долговую нагрузку на компанию и привлечь инвестиции. В сентябре президент МТС Вячеслав Николаев сообщил в интервью Forbes, что выведет на IPO до пяти компаний в ближайшие несколько лет, назвав одним из первых направление рекламных технологий МТС Ads.

По оценкам аналитиков Omdia, Microsoft приобрела вдвое больше флагманских ускорителей NVIDIA в сравнении с любым из своих конкурентов. В Omdia подсчитали, что в 2024 году IT-гигант приобрёл 485 тыс. ускорителей NVIDIA Hopper, следующий по масштабу покупатель из США — компания Meta✴ купила всего 224 тыс. ускорителей. Заметно отстают и AWS с Google, сообщает The Financial Times

В последние пару лет спрос на передовые ускорители превышает предложение. В этом году техногиганты потратили на ЦОД на основе новейших чипов NVIDIA Blackwell десятки миллиардов долларов, а венчурные инвесторы вкладывают огромные средства в ИИ-технологии несмотря на пока низкую отдачу.

Облачная инфраструктура Microsoft активно используется не только самой корпорацией, но и OpenAI, в том числе для обучения новейшей модели o1. Идёт непрекращающееся соревнование с Google, стартапами вроде Anthropic и xAI, не говоря уж о китайских конкурентах. Так, по оценкам Omdia китайские ByteDance и Tencent заказали по 230 тыс. ускорителей NVIDIA только в этом году, включая ослабленную модель H20. Amazon и Google, наряду с Meta✴ работающие над внедрением собственных ускорителей, пока приобрели 196 тыс. и 169 тыс. Hopper соответственно.

Источник изображений: NVIDIA

Microsoft, инвестировавшая $13 млрд в OpenAI, является наиболее агрессивно среди других американским IT-гигантов наращивает инфраструктуру ИИ ЦОД. Кроме того, она предлагает и собственные ИИ-сервисы вроде Copilot. В этом году компания заказала втрое больше чипов NVIDIA того же поколения, чем в 2023-м. Во второй половине октября сообщалось, что компания стремительно наращивает закупки суперускорителей NVIDIA GB200 NVL.

Про данным Omdia, на серверы технологические компании мира потратят в 2024 году $229 млрд. Впереди Microsoft с $31 млрд капитальных расходов и Amazon c $26 млрд. 10 ведущих покупателей инфраструктуры ЦОД, включая xAI и CoreWeave, обеспечивают 60 % вложений в вычислительные мощности. На NVIDIA приходится 43 % трат на серверы.

Хотя NVIDIA всё ещё доминирует на рынке ИИ-чипов, AMD активно пытается составить ей конкуренцию. В этом году Meta✴ приобрела 173 тыс. ускорителей MI300, а Microsoft — 96 тыс. Также крупные компании используют и чипы собственной разработки. Google уже десять лет разрабатывает TPU, а у Meta✴ есть два поколения MTIA — обе компании внедрили по 1,5 млн собственных чипов. Amazon развернула 1,3 млн ускорителей Trainium и Inferentia. Для Anthropic компания намерена построить кластер из сотен тысяч Trainium для обучения новейшего поколения ИИ-моделей. Amazon уже инвестировала в стартап $8 млрд.

При этом сама Microsoft, хоть и выпускает собственные полупроводниковые продукты, конкурирующие с NVIDIA, но внедрила в этом году только 200 тыс. чипов Maia. Чипы NVIDIA всё ещё нужны Microsoft для предоставления «уникальных» сервисов. Правда, для этого компании дополнительно нужны инфраструктура, ПО и другие компоненты экосистемы. В начале ноября появилась информация, что Microsoft по итогам I квартала 2025 финансового года не хватает ресурсов для обслуживания ИИ, но компания готова и далее вкладываться в ЦОД, хотя инвесторам это не по нраву. Более того, Microsoft потратит $10 млрд на аренду ИИ-серверов у CoreWeave.