Intel поделилась информацией об ИИ-ускорителях Crescent Island, предназначенных для использования в серверах и рабочих станциях. Ожидается, что поставки образцов изделий начнутся в текущем полугодии.

Решения Crescent Island будут предлагаться в виде карт расширения с интерфейсом PCIe 5.0 x16. Конфигурация включает 32 ядра Xe3P и 256 матричных движков XMX. Кроме того, задействованы 256 векторных движков. На каждое ядро приходится 1 Мбайт регистра общего назначения (GRF) и 512 Кбайт кеша L1. Помимо этого, есть 32 Мбайт унифицированного кеша L2.

В случае Crescent Island корпорация Intel решила отказаться от использования дорогостоящей памяти НВМ с высокой пропускной способностью. Вместо этого применяются чипы LPDDR5X с пониженным энергопотреблением (скоростные характеристики не раскрываются). Референсный вариант ускорителя несёт на борту 160 Гбайт LPDDR5X, тогда как ODM-производители будут предлагать модификации, имеющие до 480 Гбайт памяти. Заявленное энергопотребление карты находится на уровне 350 Вт; применяется воздушное охлаждение.

Источник изображений: Intel

Изделие поддерживает различные форматы данных — FP64, FP16, BF16, TF32, INT8, INT4, FP8 и FP4. Ускоритель ориентирован прежде всего на задачи инференса. Он хорошо подходит для работы с агентным ИИ и длинными контекстами, где ключевой фактор эффективности — возможность размещения модели и её KV-кеша в памяти. Отмечается, что рабочая станция, оборудованная четырьмя ускорителями Crescent Island с 480 Гбайт памяти, сможет использовать в локальном режиме модели с триллионом параметров, например, Kimi K3. В области программного обеспечения Intel указывает на поддержку vLLM, SGLang, llm-d и NVIDIA Dynamo, что позволяет ИИ-агентам функционировать в гетерогенной инфраструктуре без изменений в коде.

IBM анонсировала первый двухархитектурный процессор для мейнфреймов, который позволит запускать операционные системы и приложения на вычислительных платформах IBM (s390x) и Arm (AArch64) в будущих системах IBM z и LinuxONE. Компания отметила, что это первый этап в разработке процессора, достигнутый в рамках сотрудничества с Arm, стартовавшего в апреле 2026 года.

Источник изображения: IBM

2-нм процессор будет содержать 11 доступных двухпоточных (SMT 2) ядер, работающих на частоте более 5,7 ГГц, ускорители ИИ-инференса, специально разработанные для обнаружения мошенничества в финансовых транзакциях в режиме реального времени, выделенный встроенный DPU для ускорения I/O и большую кеш-архитектуру для ресурсоёмких корпоративных рабочих нагрузок с большими частными кешами L2 объёмом по 36 Мбайт, из которых формируются виртуальные L3/L4-кеши. Как отметил ресурс ServeTheHome, виртуальный L3 даёт 432 Мбайт, в то время как L4, объединяя все кеши всех ядер, обеспечит до 3,5 Гбайт памяти с очень низкой задержкой, что полезно для корпоративных рабочих нагрузок, таких как обработка транзакций и обслуживание баз данных.

Источник изображений: IBM/ServeTheHome

Компания отметила, что архитектура чипа не предусматривает отдельных ядер Arm и IBM: каждое процессорное ядро может одновременно выполнять инструкции Arm и IBM Z, или Arm и LinuxONE, отдавая приоритет установленным характеристикам платформы: производительности, безопасности, шифрования и доступности. Платформы IBM Z и LinuxONE способны масштабироваться до сотен ядер и десятков терабайт памяти.

Подчёркивается, что ключевым моментом является то, что IBM реализовала AArch64 на аппаратном уровне, а не путём трансляции. В этом проекте используется реализация Arm с порядком байтов little-endian поверх архитектуры z/Architecture с порядком байтов big-endian. Заявлена поддержка Armv9.3, SVE и SVE2 — всего 2792 инструкции, что более чем в два раза больше, чем z-инструкций. IBM также заявляет о соответствии стандарту Arm SystemReady, что важно для совместимости с имеющимся ПО. Приложения Arm видят собственный полноценный процессор Arm, работая без изменений «из коробки».

IBM говорит, что новый чип эффективно объединит две крупнейшие в мире вычислительные экосистемы, которые до сих пор были изолированы друг от друга. Мейнфреймы IBM z и системы LinuxONE составляют основу мировой экономики, обрабатывая, по оценкам аналитиков, около 70 % всех финансовых транзакций в мире, а также огромные объёмы данных в сфере здравоохранения. В свою очередь, программную экосистему Arm поддерживает более 22 млн разработчиков по всему миру. Она охватывает широкий и постоянно растущий спектр облачных и периферийных приложений, включая облачное ПО и ПО для ИИ.

Предсказатель ветвлений демонстрирует, как существующая конструкция ядра IBM z может использоваться и для AArch64. Используется XML-описание архитектуры Arm для автоматического декодирования инструкций, диспетчеризации и отправки на исполнение. Переиспользуется возможность переименования регистров и основные пути исполнения инструкций, а также некоторые CISC-решения вроде копирования и очистки памяти. Но разработчиком всё равно пришлось добавить новые элементы управления для SVE, а также пути исполнения для FP16/Bfloat16 и криптографических функций.

Встроенные ускорителям для криптографии, сжатия и инференса отображаются для Arm ПО представляются в качестве платформенных устройств в Linux на Arm. При этом процессор способен одновременно выполнять инструкции обеих ISA с сохранением сквозной проверки массивов и потоков данных/управления, прозрачного восстановления после нерегулярных сбоев, резервирования/замещения ядер при постоянных сбоях, параллельного восстановления и технологии аппаратной защиты оперативной памяти RAIM. Эта конструкции обеспечивает надёжность с целевым показателем доступности 99,999999 %.

На программном уровне для запуска Linux-приложений для обеих архитектур используются KVM и OpenShift, которые, как нативные приложения z/OS, используют логически разделы, работающие на одном физическом процессоре. А каждый поток может работать как с инструкциями s390x, так и с Arm, при этом переключение занимает наносекунды. Такое сосуществование является залогом получения наилучших результатов от обеих программных экосистем, позволяя клиентам сохранять код для мейнфреймов, одновременно используя широкую базу ПО Arm, пишет SiliconANGLE.

Дополнит новый CPU ускоритель ИИ-инференса второго поколения, который ориентирован на более крупные корпоративные рабочие нагрузки. Он содержит 16 активных ИИ-ядер (и одно резервное) с поддержкой FP4 и MXFP4, которые, по словам IBM, могут обеспечить четырёхкратное увеличение TOPS. Он получит 96 Гбайт HBM3e с ПСП до 4 Тбайт/с и PCIe 6.0 в качестве интерфейса одноранговой сети с низкой задержкой. IBM позиционирует чип как компонент для критически важных ИИ-систем, обеспечивающий надёжные вычисления, защищающие данные и модели в состоянии покоя, при передаче и использовании, в том числе с использованием криптографии с квантовой защитой.

Как пишет SiliconANGLE, финансовые компании, работающие в условиях жёсткого регулирования, не могут отказаться от использования мейнфреймов и LinuxONE, известных своей исключительной безопасностью и надёжностью. Но для доступа к программной экосистеме Arm им приходилось отказываться от систем IBM. Новый чип меняет положение дел.

«Этот процессор представляет собой значительный архитектурный прогресс для IBM z и LinuxONE, — сказал Кристиан Якоби (Christian Jacobi), главный технический директор и научный сотрудник IBM Systems Development. — Внедряя Arm непосредственно в наши платформы, мы объединяем доступ к одной из самых быстрых программных экосистем в отрасли с качествами, которые сделали системы IBM основой для ведения бизнеса».

Двухпроцессорная архитектура IBM и Arm потенциально может способствовать новой волне внедрения ИИ компаниями в отраслях с жёстким регулированием. Вскоре разработчики смогут писать код для Arm и развёртывать его непосредственно на мейнфреймах, так что устаревшие аппаратные системы IBM останутся актуальными ещё долгие годы. Сообщается, что новый процессор будет доступен для клиентов в 2028 году.

Alibaba Cloud намерена всё больше полагаться на своё дочернее подразделение T-Head, занимающееся выпуском ИИ-ускорителей, сообщает Datacenter Dynamics. Выступая в ходе недавнего отчёта компании за II квартал 2026 года, её глава Эдди Ву (Eddie Wu) заявил, что бизнес сохраняет уверенность в перспективах своего ИИ- и облачного подразделений.

Ву выразил уверенность, что выручка и валовая маржа увеличатся, поскольку компания наращивает внедрение собственных проприетарных ИИ-чипов в своих ЦОД. Такие чипы будут составлять всё большую долю от общего числа используемых ускорителей, они станут заменой закупаемых у сторонних компаний продуктов.

В начале года T-Head представила ускорители Zhenwu 810E для обучения ИИ-моделей и инференса. В марте Alibaba сообщила об отгрузке 470 тыс. чипов, признав, что они ещё уступают решениям NVIDIA и AMD, а в мае появились данные, что Alibaba Cloud потребуется в 10 раз больше вычислительных мощностей, чем в 2022 году, поэтому запас собственных ускорителей компании необходим.

При этом заверения Ву были действительно необходимы в ходе отчёта, т.к. чистая прибыль компании за квартал упала на 75 %, поскольку Alibaba нарастила свои капитальные затраты на ИИ. Операционная прибыль (маржа) составила 6 %, значительно сократившись в сравнении с 14 % годом ранее. Капитальные затраты в течение квартала составили $10,07 млрд, увеличившись на 75 % г/г, в основном это связано с ростом трат на ИИ-инфраструктуру в ответ на увеличивающийся спрос со стороны клиентов.

В числе прочих причин — изменения циклов закупок, рост вычислительных мощностей на основе CPU на фоне ожидания роста спроса на ИИ-агентов и увеличение цен на широкий спектр полупроводниковых компонентов. Поскольку капитальные затраты в отчётном квартале значительно выросли, возникли вопросы относительно ранее озвученных расходов Alibaba в объёме $53 млрд за три года. По словам Ву, не стоит ожидать линейного роста расходов.

Источник изображения: Ban Daisy/unsplash.com

Генеральный директор компании также сообщил, что Alibaba теперь располагает крупнейшей среди облачных провайдеров Азии сетью дата-центров и регулярно вводит в эксплуатацию новые площадки. В последние месяцы открыты новые ЦОД в Южной Корее, Японии, Франции и Малайзии.

Хотя расходы китайского техногиганта растут, Alibaba отмечает, что выручка от ИИ и облачных продуктов составила $7,139 млрд, т.е. на 45 % выше в сравнении с $6,19 млрд кварталом ранее. А связанные с ИИ продукты принесли компании $1,82 млрд, при этом выручка уже третий год подряд растёт трёхзначными (в процентном выражении) темпами.

Аналитикам было объявлено, что компания уверена в способности обеспечить $15 млрд выручки от «внешних» облачных сервисов к 2030 году и выйти на валовую маржу 20 %. При текущем уровне маржинальности Alibaba намерена окупить инвестиции в ИИ-инфраструктуру за три года, а по мере того, как будет расти маржа, рассчитывает сократить окупаемость до 2,5 лет.

Среди прочего было отмечено, что скорректированная EBITDA составила $5,77 млрд, на 14 % меньше, чем годом ранее. На прошлой неделе акции Alibaba упали на 10 % на фоне анонса дополнительной эмиссии в Гонконге акций на $10,2 млрд для инвестиций вырученных средств в ИИ.

Некоторых из крупнейших клиентов NVIDIA предупредили о том, что цены на серверы с ИИ-ускорителями во многих случаях вырастут более чем на 15 %. Одним из основных факторов называется подорожание чипов памяти, сообщает Bloomberg.

Источники сообщают, что рост цен касается систем, поставки которых начнутся в начале следующего года, и затронет разные варианты, включая оснащённые флагманскими ускорителями NVIDIA Vera Rubin и Grace Blackwell. Насколько подорожает тот или иной продукт, будет зависеть от конфигурации памяти и применяемых чипов NVIDIA.

Сообщается, что компании, выпускающие по контрактам серверы для крупных операторов, в т.ч. Microsoft, Google и Oracle, недавно уведомили клиентов о грядущем росте цен. Впрочем, в самой NVIDIA новости пока не комментируют. Неспособность ключевой компании индустрии сдержать цены демонстрирует, насколько важную роль сейчас играют производители памяти Samsung, SK hynix и Micron. Ключевые технобизнесы уровня Apple и Qualcomm недавно признавали, что вынуждены повышать цены на свои продукты из-за дефицита чипов.

Источник изображения: NVIDIA

Хотя выпуск наращивается, полностью спрос удовлетворить пока не получается. Это ведёт к росту цен на многие электронные компоненты и оборудование. Кроме того, производители получают беспрецедентное влияние на рынок технологий. Контрактный производитель TSMC, отвечающий за выпуск чипов NVIDIA, тоже всё ещё не может справиться с растущим спросом. При этом валовая маржа NVIDIA (выручка, остающаяся после производственных затрат), составляет 75 %.

Как клиенты NVIDIA отреагируют на последние изменения и создаст ли это «окно возможностей» для конкурентов, будет зависеть от того, смогут ли те сами обеспечить достаточный объём производства всех необходимых чипов. Ключевые клиенты NVIDIA — Amazon, Microsoft, Google и Meta✴ — давно работают над собственными чипами для ЦОД. Их возможность обеспечить большую независимость также будет зависеть от поставок памяти Samsung, SK hynix и Micron.

Рост цен, вероятно, усложнит реализацию новых проектов ЦОД. Уже сейчас многие из них столкнулись с задержками, связанными с дефицитом рабочей силы, ужесточением условий на рынке капитала и противодействием жителей, не говоря уж о доступности энергии. Показатели NVIDIA являются одним из важнейших ориентиров для отрасли ЦОД и инвесторов, вложивших огромные средства в ИИ-инфраструктуру в ожидании того, что та обеспечит трансформацию экономики.

Google подписала с Marvell крупную сделку. Как сообщила Marvell в документе (Form 8-K), направленном на этой неделе в Комиссию по ценным бумагам и биржам (SEC) США, расширенное соглашение касается разработки кастомных кремниевых решений, касающихся экосистемы TPU, включая ускорители ИИ-инференса, контроллеры хранения данных, контроллеры сетевых интерфейсов, контроллеры интерфейсов памяти и вычислительные системы, размещённые вблизи памяти (near-memory).

О переговорах двух компаний сообщалось ещё в апреле. По словам источников, речь шла о разработке двух чипов — один относится к подсистеме памяти TPU, второй — сам TPU следующего поколения. После сообщения о сделке, акции Marvell выросли в среду на 8 %, продолжив рост, в результате которого стоимость её акций за последние 12 мес. увеличилась более чем в три раза. В свою очередь, акции Broadcom, основного поставщика TPU, упали на 5 %, сообщила газета The Financial Times.

В рамках нынешней сделки Marvell выпустила для Google варрант на приобретение почти 59 млн акций (58 970 907 штук) по цене исполнения $206,58 на сумму около $12,2 млрд. 1 360 867 акций по варранту будут выдаваться равными частями ежеквартально в течение первого года после заключения коммерческого соглашения и подписания варранта. Оставшиеся акции по варранту будут предоставляться по усмотрению компании с III квартала 2027 финансового года по конец 2033 финансового года компании Google и её аффилированным лицам в 240 равных траншах, при этом один транш предоставляется за каждые $500 млн выручки от продаж разработанных чипов.

Источник изображения: Marvell

У Google есть соглашение с Broadcom о разработке TPU и других компонентов для инфраструктуры, продлённое в апреле этого года до 2031 года. И для Broadcom не составило бы большого труда принять участие в разработке вышеуказанных чипов. Но для Google сделка с Marvell важна тем, что позволит снять зависимость от одного поставщика — Broadcom, который теперь не сможет диктовать свои цены. Кроме того, Google теперь сотрудничает и с MediaTek.

К тому же, как отметил The Register, портфолио Marvell содержит ряд решений, которые могут представлять интерес для Google, включая высокоскоростные SerDes-блоки, используемые в сетевых коммутаторах и картах, многокристальные эталонные проекты XPU, контроллеры памяти CXL и кремниевые фотонные интерконнекты.

Китайская компания Baidu сообщила в ходе отчёта за II квартал 2026 года, что видит хорошие перспективы для своего бизнеса по производству чипов Kunlunxin, поскольку у местных покупателей не будет альтернатив. Доу Шен (Dou Shen), вице-президент Baidu AI Cloud Group, заявил, что компания работает над вопросом выхода Kunlunxin на биржу и вскоре предоставит конкретную информацию по этому поводу.

«С точки зрения бизнеса, мы по-прежнему очень уверены в долгосрочном росте и коммерческом потенциале Kunlunxin по нескольким причинам», — сказал Доу Шен. Во-первых, спрос на инфренс продолжает расти, и в Baidu считают, что эта тенденция сохранится надолго. Во-вторых, внутренний рынок Китая имеет «значительный потенциал роста», поскольку предложение ИИ-чипов «вероятно, останется ограниченным в течение некоторого времени». «На этом фоне клиенты всё чаще ищут высокопроизводительные, надёжные и экономичные отечественные чипы ИИ», — говорит Шен.

Как отметил The Register, эти заявления примечательны в контексте политики правительства США, разрешившего NVIDIA возобновить продажи своей продукции в Китае, и реакции на это Пекина, который наложил вето на любые закупки местными компаниями. По словам NVIDIA, запрет Вашингтона на поставки в Китай обошёлся ей в $10,5 млрд только за шесть месяцев. В своем последнем квартальном отчёте компания сообщила, что даже после отмены запрета она не будет получать никакой выручки в Китае, и что у неё «нет уверенности в том, что какой-либо импорт будет разрешен в страну». И теперь Baidu сообщает, что китайские покупатели обращаются к местным поставщикам. К тому же Пекин поощряет внедрение местных технологий, стремясь снизить зависимость от американской продукции.

Источник изображения: Baidu

Выручка Baidu снижается пятый квартал подряд. Рекламный бизнес сокращался быстрее, чем рос бизнес в сфере ИИ, отметил ресурс TNW. Компания сообщила о выручке за II квартал, завершившийся 30 июня 2026 года, в размере ¥31,325 млрд ($4,62 млрд), что на 4 % меньше, чем годом ранее, и на 2 % меньше, чем в предыдущем квартале. Результат также оказался меньше прогнозов аналитиков. По данным Bloomberg, South China Morning Post прогнозировал выручку в размере ¥31,6 млрд. Согласно опросу LSEG, консенсус-прогноз аналитиков составлял ¥31,96 млрд.

Основным драйвером роста был облачный бизнес. Выручка от деятельности, связанной с ИИ, выросла на 25 % до ¥12,5 млрд. Сейчас на этот бизнес приходится половина общего дохода компании. Выручка от облачных сервисов с использованием ИИ выросли на 50 % в годовом исчислении до ¥7,3 млрд, а доход от сегмента GPU Cloud (ранее назывался «доходы от подписки на инфраструктуру ИИ-ускорителей») увеличился на 283 %, ускорившись по сравнению с ростом на 184 % в предыдущем квартале. Компания заявила, что рост в сегменте GPU Cloud отражает растущий спрос на публичные облачные вычисления для ИИ. Доход от ИИ-приложений составил ¥2,5 млрд, что на 3 % больше, чем годом ранее, а выручка от маркетинговых сервисов, разработанных с использованием ИИ, осталась примерно на том же уровне — ¥2,6 млрд.

Всего онлайн-маркетинговые сервисы принесли ¥13,1 млрд, что на 19 % меньше год к году. Аналитики Reuters объяснили эту тенденцию затяжным спадом на рынке недвижимости в Китае и вялым потребительским спросом. «Хотя наш онлайн-маркетинговый бизнес по-прежнему находится под давлением, растущая динамика в нашем основном бизнесе, основанном на ИИ, подтверждает переход Baidu от компании, ориентированной на интернет, к компании, в первую очередь ориентированной на ИИ», — указал в своём заявлении соучредитель и генеральный директор Baidu Робин Ли (Robin Li), пишет ресурс qz.com.

Чистая налогооблагаемая прибыль Baidu составила ¥2,3 млрд, а чистая рентабельность — 7 %. Скорректированная чистая прибыль (Non-GAAP) составила ¥2,6 млрд. Операционный денежный поток равняется ¥3,4 млрд, что является положительным показателем четвертый квартал подряд, сообщила компания. Расходы на R&D составили ¥4,6 млрд ($679 млн), увеличившись на 5 % по сравнению с предыдущим кварталом и снизившись на 10 % год к году.

Компания Cerebras Systems анонсировала мощные ИИ-ускорители WSE-3 Turbo и стоечную систему на их основе CS-4. Утверждается, что это решение обеспечивает выигрыш в производительности на задачах инференса до 30 раз по сравнению с платформами на базе современных GPU.

Как и оригинальное изделие WSE-3 (Wafer Scale Engine), ускоритель WSE-3 Turbo содержит 4 трлн транзисторов, 900 тыс. ядер и 44 Гбайт памяти SRAM. При производстве по-прежнему применяется 5-нм техпроцесс TSMC, а площадь кремниевой пластины сохранилась на отметке 46 225 мм². При этом пропускная способность памяти поднялась с 21,6 до 43,2 Пбайт/с, а подсистемы ввода-вывода — с 1,2 до 2,4 Тбит/с.

Источник изображений: Cerebras

Производительность в разреженных FP16-вычислениях выросла вдвое — со 125 до 250 Пфлопс, на обычных FP16-операциях — с 12,5 до 25 Пфлопс. Показатель TDP на уровне пластины оценивается в 33 кВт против 15 кВт у WSE-3, на уровне узла — 46 кВт против 23 кВт, а на уровне всей стойки CS-4 — порядка 120–140 кВт. По-видимому, компания просто подняла рабочие частоты — ориентировочно с 1,4 ГГц до 2,8 ГГц.

ИИ-стойка CS-4 выполнена на модульной архитектуре Nexus. Система разделена на три ключевых блока: это вычислительный узел Wafer-Scale Backpack, подсистема питания и IO-подсистема. Такая архитектура упрощает производство, развёртывание, обслуживание и обновление. Отмечается, что Cerebras полностью переосмыслила концепцию ИИ-сервера. В общей сложности в составе CS-4 задействованы три узла Wafer-Scale Backpack, каждый из которых представляет собой автономную сборку с ускорителем, преобразователем питания, прямым жидкостным охлаждением, компонентами высокоскоростного ввода-вывода и управляющей электроникой.

Питание подводится вплотную к чипам (всего около 0,5 мм против 50 мм в традиционных платах с GPU), что почти полностью исключает потери на уровне платы и позволяет подавать больше мощности, повышая частоту работы и скорость генерации токенов. Специальный IO-модуль позволяет соединять пластины WSE-3 Turbo внутри стойки и между стойками без коммутатора: в результате заявленная задержка передачи данных между пластинами находится на уровне всего 2 мкс. Общее быстродействие достигает 750 Пфлопс в разреженных FP16-вычислениях.

В целом, новинка обеспечивает высочайшую производительность. В качестве примера приводится тест на модели GPT-OSS-120B, где система CS-4 показала результат более 4400 токенов в секунду на одного пользователя. Для сравнения, «наиболее производительный на сегодняшний день сервис ИИ-инференса на базе GPU» демонстрирует показатель в 350 токенов в секунду. Утверждается также, что CS-4 выдаёт свыше 1000 токенов в секунду на моделях с более чем 10 трлн параметров. Поставки системы планируется организовать в текущем квартале.

Расследование, проведённое The Guardian, показало, что заявления Microsoft об ИИ-мощностях компании расходятся с данными о количестве чипов, находящихся в эксплуатации. Ранее, как сообщается, Microsoft рассчитывала установить в ЦОД по всему миру 1,8 млн ИИ-ускорителей к концу 2024 года, но сейчас, в разгар реализации программы по расширению ИИ-мощностей стоимостью $280 млрд, она развернула «всего» 2,2 млн ускорителей, согласно внутренним документам. Это вдвое меньше, чем прогнозировали эксперты.

Такое расхождение в данных может означать, что новейшие дата-центры или ещё не ввели в эксплуатацию, или для них нет достаточного количества чипов. Оценить реальный прогресс компании непросто, в том числе потому, что данные в цепочке поставок NVIDIA хранятся в большом секрете. Как и её клиенты, сама NVIDIA крайне редко раскрывает, сколько чипов и кому она продаёт, а без этого сложно определить, действительно ли отрасль ИИ развивается так, как заявлено.

В последние два года Microsoft заявляет о стремительном строительстве ИИ-инфраструктуры. В прошлом году сообщалось, что к середине 2027 года компания удвоит масштабы своей сети ЦОД. С 2022 года она направила на покупку земли, зданий вычислительную ИИ-инфраструктуру около $280 млрд. Только за последний квартал вложено более $41 млрд. Впрочем, сложно определить, сколько именно ЦОД построено на эти деньги.

Источник изображений: Microsoft

Оценить прогресс можно по косвенным данным. Собственная отчётность Microsoft свидетельствует, что мощность ЦОД компании выросла на 5 ГВт в рамках строительства ИИ-инфраструктуры. Сейчас в компании говорят о наличии сотен ЦОД на пяти континентах. Фактически мощность должна быть ещё выше, поскольку ИИ-инфраструктуру компания строит с 2022 года.

Внутренняя презентация Microsoft за 2024 год свидетельствует, что уже тогда компания якобы располагала 5 ГВт установленной мощности ЦОД. Совокупная мощность на сегодня соответственно может составлять порядка 10 ГВт, но нет данных, все ли эти ЦОД поддерживают ИИ-сервисы или некоторые обслуживают другие облачные сервисы. Впрочем, сама Microsoft утверждает, что в последние годы подавляющая часть капитальных затрат идёт именно на ИИ-инфрастурктуру.

Если предположить, что у Microsoft есть 10 ГВт ИИ ЦОД, у неё должно быть около 6,4 млн ИИ-ускорителей, но некоторые эксперты уверены, что картина несколько иная. По некоторым свидетельствам, мощность ИИ ЦОД Microsoft в 2024 году была на уровне 1,23 ГВт, но если та добавила 5 ГВт ещё, ей потребовалось бы около 4 млн ИИ-ускорителей. Эксперты уверены, что верить стоит прежде всего сторонним данным об устойчивом развитии, поскольку те проверяются независимыми структурами.

В самой Microsoft выкладки The Guardian называют неверными, хотя в чём именно ошибка, не рассказали. Некоторые эксперты считают, что строительство ИИ-мощностей идёт медленнее, чем ожидалось, судя по годовым отчётам компании. Журналисты сообщают, что источники в самой компании подтвердили, что за последний год общее количество ИИ-чипов «почти не изменилось». Отчасти «недостача» может объясняться партнёрством с OpenAI, поскольку некоторые ЦОД Microsoft, связанные с этой компанией, могут не фигурировать во внутренних документах.

Кроме того, некоторые крупные проекты ЦОД, вероятно, ещё не запущены полностью. Например, крупнейший ИИ-проект Microsoft в США — Fairwater в Висконсине и Джорджии. В апреле компания заявила, что ЦОД в Висконсине «вводится в эксплуатацию», но спутниковые снимки свидетельствуют, что работает лишь часть объекта. В мае Microsoft признавала, что Fairwater ещё не запущен.

Также внутренний документ свидетельствует, что у компании меньше чипов NVIDIA Blackwell, чем можно было бы ожидать, исходя из публичных заявлений NVIDIA. По косвенным данным, у Microsoft должно быть около 1 млн таких чипов, но в действительности установлено меньше половины от этого количества. По словам главы Microsoft Сатьи Наделлы (Satya Nadella), главной проблемой является дефицит электроэнергии и проблемы со строительством ЦОД. Т.е. у компании может быть огромное количество чипов на складе, но нет готовых объектов, чтобы разместить их.

Как заявил один из представителей Microsoft, компания использует самые разные чипы, от собственных до разработанных NVIDIA, AMD и Intel, а также другое оборудование, поэтому оценки The Guardian неточны и «основаны на неправильных предположениях, из которых сделаны ошибочные выводы». В The Guardian использовала предложенную учёными методику, согласно которой общую мощность можно разделить на энергопотребление одного ускорителя. Самым распространённым у Microsoft является NVIDIA H100, потребляющий около 700 Вт. Если мощность ЦОД Microsoft составляет 10 ГВт, при простом делении речь моджет идти о 12 млн чипов. Впрочем, у Micrsooft есть немало менее мощных A100 и более энергоёмких Blackwell.

Конечно, такие оценки не учитывают использования систем охлаждения и энергопотребления другого оборудования. По некоторым оценкам, в ИИ ЦОД непосредственно на чипы тратится лишь около 80 % от общего энергопотребления. Другими словами, при мощности 10 ГВт на вычисления может приходиться 8 ГВт. Так, в одном из отчётов Microsoft речь идёт об использовании 89 % ИИ-чипами.

Кроме того, далеко не все чипы относятся к ИИ-ускорителям. Энергии требуют модули памяти, накопители, процессоры и др. Сервер с восемью H100 потребляет до 10 кВт. Если разделить 8 ГВт на 10 кВт, выйдет 800 тыс. серверов или около 6,4 млн чипов. Эксперты считают, что это «консервативная» оценка, поскольку на практике компании вроде Microsoft «перегружают» свои ЦОД, устанавливая больше чипов, чем способна поддержать площадка.

Компания CoreWeave, специализирующаяся на облачных услугах для ИИ-задач, по сообщению ресурса Business Insider, объявила о намерении предоставлять в аренду устаревающие ускорители NVIDIA A100 как минимум до 2029 года. Связано это с огромным спросом на вычислительные мощности в дата-центрах, ориентированных на нейросетевые нагрузки.

Изделие NVIDIA A100 дебютировало ещё в 2020 году. Устройство предлагается в вариантах PCIe и SXM с 80 Гбайт памяти HBM2e с пропускной способностью до 1935 и 2039 Гбайт/с соответственно. Показатель TDP в первом случае составляет 300 Вт, во втором — 400 Вт. Заявленная производительность достигает 19,5 Тфлопс в режиме FP32 и 312 Тфлопс на операциях FP16.

Финансовый директор CoreWeave рассказал, что компания недавно подписала контракт о сдаче NVIDIA A100 в аренду до 2029-го. Иными словами, некоторые клиенты намерены использовать эти ускорители даже спустя девять лет после анонса. Впрочем, CoreWeave не одинока — AWS ранее тоже завила о том, что A100 по-прежнему раскупают.

Источник изображения: CoreWeave

Вместе с тем сегмент аппаратного обеспечения для ИИ стремительно развивается. Некоторые аналитики указывают, что быстрый прогресс NVIDIA может приводить к устареванию ИИ-чипов предыдущего поколения в течение двух–трёх лет в связи с появлением всё более производительных и совершенных решений. В такой ситуации компаниям, тратящим миллиарды долларов на развитие инфраструктуры ИИ, вероятно, придётся списывать эти инвестиции гораздо быстрее, что негативно скажется на прибыли.

С другой стороны, даже после появления новых ускорителей старые GPU могут оставаться полезными в течение длительного времени. В частности, их можно перепрофилировать для менее ресурсоёмких задач. В результате, эффективный срок службы ИИ-изделий может составлять 7–8 лет, если вопрос энергоэффективности не стоит.

Компания Anthropic официально подтвердила появившиеся ранее в СМИ сообщения о планах начать разработку собственного ИИ-чипа. В интервью ресурсу Business Insider её представитель заявил, что компания формирует собственную команду разработчиков для создания кастомных чипов для ИИ-моделей Claude, присоединяясь к разрабатывающих собственные чипы Amazon (Trainium), Alibaba (Zhenwu), Google (TPU), Meta✴ (MTIA), Microsoft (Maia) и OpenAI (Jalapeño).

Издание The Information в прошлом месяце сообщило, что Anthropic вела переговоры с Samsung по поводу возможности сотрудничества в производстве чипов. Согласно недавно опубликованному объявлению о вакансии Anthropic ищет инженеров с опытом работы в широком спектре областей проектирования и верификации микросхем для команды по разработке чипов.

Источник изображения: Brecht Corbeel/unsplash.com

Вакансия инженера с зарплатой от $320 до $485 тыс. предполагает, что претенденты должны продемонстрировать «непосредственный личный вклад» в завершение и выпуск полупроводниковых разработок. «Эта должность для человека, который уже выпускал микросхемы, имеет реалистичное представление о сроках и готов принимать важные решения без поддержки крупной организации», — указано в объявлении. В нём также сообщается, что Anthropic планирует автоматизировать некоторые задачи верификации с помощью ИИ. Также компания намерена разработать симуляции, в которых Claude смогут научить тестировать новые конструкции микросхем.

Особое внимание будет уделено формальной верификации, в ходе которой конструкция микросхемы проверяется на наличие недостатков путём моделирования всевозможных сценариев эксплуатации. OpenAI также использует ИИ для ускорения разработки микросхем. Разработка ускорителя Jalapeño заняла всего 9 мес. благодаря тому, что некоторые задачи были автоматизированы с помощью ИИ.

Представитель Anthropic сообщил, что компания будет разрабатывать чип совместно со своими будущими LLM. Хотя разработка ИИ-чипа собственными силами — дорогостоящий и сложный процесс, она позволяет настраивать вычислительные мощности в соответствии с потребностями своих моделей. К тому же, это позволит компании снизить зависимость от дорогостоящих ускорителей NVIDIA, которая доминирует на рынке ИИ-чипов. Тем не менее, Anthropic будет и дальше придерживаться «многочипового подхода», в рамках которого будет использовать для своих задач оборудование AWS, Google, Microsoft, NVIDIA и AMD.

Как сообщил в начале июня ресурс The Information, компания может выбрать Samsung в качестве партнёра для производства своего чипа. Недавно Samsung представила технологию zHBM, которая может значительно повысить эффективность ИИ-чипов. Как утверждает компания, технология zHBM позволяет размещать память непосредственно поверх логических ядер. Такая компоновка позволяет ускорить обмен данными между памятью и логическими схемами, что, в свою очередь, снижает энергопотребление. Вполне возможно, что Anthropic могла бы использовать zHBM в своём ИИ-ускорителе.