Оборудование для мощнейшего ИИ-суперкомпьютера компании xAI, курируемой Илоном Маском (Elon Musk), как сообщает Datacenter Dynamics, будут поставлять Dell и Supermicro. Речь идёт о серверах, оборудованных высокопроизводительными ускорителями NVIDIA. После анонса акции обеих компаний выросли в цене.

Напомним, что xAI реализует проект по созданию самого мощного в мире вычислительного комплекса, ориентированного на задачи ИИ. Строительство суперкомпьютера будет осуществляться в несколько этапов. Так, в ближайшее время должна быть запущена система, содержащая 100 тыс. ускорителей NVIDIA H100. А летом 2025 года планируется ввести в эксплуатацию кластер из 300 тыс. новейших ускорителей NVIDIA B200.

О том, что участие в масштабном проекте xAI принимает корпорация Dell, сообщил её генеральный директор Майкл Делл (Michael Dell). Эти сведения подтвердил и сам Маск: по его словам, Dell «соберёт половину стоек, которые войдут в состав суперкомпьютера». За строительство оставшейся части системы будет отвечать Supermicro.

По имеющейся информации, огромный дата-центр xAI, прозванный «ИИ-гигафабрикой», расположится в окрестностях Мемфиса (штат Теннесси). О том, в какой пропорции работы по строительству машины будут распределены между Dell и Supermicro, на данный момент нет. Стоимость проекта оценивается в миллиарды долларов.

Фото: Michael Dell

xAI в настоящее время арендует около 16 тыс. ускорителей NVIDIA H100 в облаке Oracle Cloud, а также использует веб-сервисы Amazon и свободные мощности на ЦОД-площадках X/Twitter. В мае 2024 года стартап осуществил раунд финансирования Series B, в ходе которого было привлечено $6 млрд. В результате, рыночная стоимость xAI достигла $24 млрд. Создаваемый суперкомпьютер будет использоваться в том числе для поддержания работы чат-бота xAI Grok следующего поколения.

Компания Pure Storage объявила об обновлении своей платформы хранения данных, включая улучшение управления парком массивов, использование ИИ для выявления аномалий и новые соглашения SLA.

Решение Pure Fusion, которое автоматизирует оркестрацию и размещение рабочих нагрузок, теперь встроено в среду Purity. Решение объединяет массивы и оптимизирует пулы хранения «на лету» для структурированных и неструктурированных данных, как локально, так и в облаке, используя машинное обучение для оптимизации работы. Pure Fusion повится на всех платформах Pure Storage.

Источник изображений: Pure Storage via Blocks&Files

Также компания представила первый в индустрии (по её словам) интеллектуальный помощник для СХД — GenAI Copilot for storage, который «представляет собой радикально новый способ управления и защиты данных с использованием естественного языка». Он прошёл обучение на данных десятков тысяч клиентов Pure Storage и может оказать действенную помощь в работе команд по обслуживанию СХД при исследовании проблем с производительностью и управлением, а также для упреждения инцидентов безопасности. Эта функция использует несколько LLM в фоновом режиме, а также данные телеметрии от хранилищ пользователя.

Также Pure анонсировала три соглашения об уровне обслуживания (SLA) Evergreen//One Storage as-a-Service (STAaS), включая гарантию AI StaaS, восстановление после кибератаки и обеспечение устойчивости, а также возможность перераспределения обязательств по использованию хранилищ. Кроме того, используется новая система оценки безопасности и улучшенное обнаружение аномалий доступа к данным с помощью ИИ.

Соглашение об уровне обслуживания Evergreen//One AI Storage as-a-Service гарантирует, что производительности хранилища, обслуживающего ускорители, будет достаточно для поддержки рабочих нагрузок обучения, инференса и HPC. Более того, теперь можно не просто оплачивать только необходимые уровни производительности и пропускной способности, но и динамически менять их в зависимости от сиюминутных потребностей. А Site Rebalance SLA позволит раз в год перераспределять уже приобретённые ресурсы между несколькими площадками, если, например, одной из них более не требуется изначальный уровень обслуживания, а другой уже не хватает ресурсов.

Также компания расширила возможности Cyber Recovery and Resilience SLA — теперь заказчикам доступна услугу аварийного восстановление. Pure разработает индивидуальный план восстановления, а при наступлении «страхового случая» в заданные сроки доставит новое оборудование, развернёт его и поможет перенести данные.

А чтобы свести к минимуму различные инциденты, Pure Storage внедрила новую оценку рисков безопасности на уровне всего парка хранилищ. Компания даст практические рекомендации по максимизации киберустойчивости, основываясь на анализе более чем 10 тыс. эксплуатируемых массивов Pure, и будет обновлять их минимум ежеквартально, а также поможет клиентам соблюсти правила различных регуляторов. А AI Copilot позволит оценить защищённость и безопасность развёрнутых хранилищ.

Источник изображений: Pure Storage via StorageReview

Дополнительно Pure теперь предоставляет защищённые рабочие пространства для приложений с тщательным контролем доступа. Основная цель — простая и безопасная автоматизированная интеграция данных с кластерами ИИ без потери производительности, управляемости и защищённости. Новые функции обнаружения аномалий используют машинное обучение на исторических данных о работе хранилищ заказчика для обнаружения атак программ-вымогателей, вредоносной активности и DoS путём непрерывного мониторинга аномалий производительности. В случае атаки можно будет быстро найти последний незатронутый снимок данных и быстро восстановить работу.

Наконец, Pure Storage объявила о прохождении сертификации для работы с NVIDIA DGX BasePOD и NVIDIA OVX, а к концу года компания намерена провести сертификацию своих СХД и для работы с NVIDIA DGX SuperPOD. Компания утверждает, что у её массивов лучшая в отрасли энергоэффективность и что её СХД потребляют на 85 % меньше энергии, чем альтернативные All-Flash платформы. И именно это может помочь клиентам преодолеть ограничения по мощности в ЦОД, обслуживающих крупные ИИ-кластеры.

Amazon потратит €10 млрд ($10,7 млрд) на обновление дата-центров и модернизацию логистической сети в Германии, передаёт Silicon Angle. Всего несколько недель назад облако Amazon Web Services (AWS) объявила о намерении потратить €7,8 млрд ($8,36 млрд) в той же Германии на суверенную облачную платформу AWS European Sovereign Cloud.

Часть из €10 млрд Amazon потратит на найм ещё 4 тыс. сотрудников в центры обработки заказов в нескольких немецких городах, в результате чего общий штат сотрудников в Германии вырастет до более 40 тыс. человек. Amazon также управляет в Германии сетью из четырёх инжиниринговых центров — компания объявила о намерении расширить свой берлинский кампус. Целью является поддержка работ, связанных с робототехникой и ИИ.

Другая часть инвестиций будет использована для «постройки, поддержки и обслуживания» кластера облачных дата-центров в районе Франкфурта. Сейчас франкфуртский облачный регион AWS включает три зоны доступности, изолированные друг от друга на физическом уровне, и две т.н. «локальные зоны», расположенные ближе к потребителям.

Истчоник изображения: Igor Flek/unsplash.com

Для AWS European Sovereign Cloud будет построен дата-центр в земле Бранденбург, он заработает к концу следующего года. Предполагается, что эти облачные мощности будут обслуживаться только персоналом из Евросоюза. Ранее компания уже сообщала о том, что метаданные пользователей из ЕС будут храниться на территории блока. Год назад схожий проект реализовала в регионе компания Oracle.

Hewlett Packard Enterprise (HPE) и NVIDIA представили платформу NVIDIA AI Computing by HPE — портфель совместно разработанных решений для ускорения внедрения генеративного ИИ.

Ключевым в портфеле является предложение HPE Private Cloud AI. Как указано в пресс-релизе, это первое в своём роде комплексное решение, которое обеспечивает самую глубокую на сегодняшний день интеграцию вычислительных технологий, сетей и ПО NVIDIA с хранилищем, вычислительными ресурсами и облачной платформой HPE GreenLake. Решение предоставляет предприятиям любого размера возможность быстрой и эффективной разработки и развёртывания приложений генеративного ИИ.

Решение HPE Private Cloud AI с новой функцией OpsRamp AI Copilot, которая позволяет повысить эффективность ИТ-операций и обработки рабочих нагрузок, включает в себя облачную среду самообслуживания с полным управлением жизненным циклом. Оно доступно в четырёх конфигурациях (Small, Medium, Large и Extra Large) для поддержки рабочих нагрузок ИИ различной сложности.

Источник изображения: SiliconANGLE

HPE Private Cloud AI также поддерживает инференс, точную настройку моделей и их дообучение посредством RAG с использованием собственных данных. Решение сочетает в себе средства контроля конфиденциальности, безопасности, прозрачности и управления данными, в том числе средства ITOps и AIOps. AIOps использует машинное обучение и анализ данных для автоматизации и улучшения ИТ-операций. ITOps включает в себя ряд инструментов, обеспечивающих бесперебойное функционирование ИТ-инфраструктуры организации.

Источник изображения: The Next Platform

Конфигурация HPE Private Cloud AI Small, предназначенная для инференса, включает от четырёх до восьми ускорителей NVIDIA L40S, до 248 Тбайт дискового пространства и 100GbE-подключение в стойке мощностью 8 кВт. Конфигурация Medium, предназначенная для инференса и RAG, включает до 16 ускорителей NVIDIA L40S, до 390 Тбайт дискового пространства и 200GbE-подключение в стойке мощностью 17,7 кВт.

Источник изображения: The Next Platform

Конфигурации Large и Extra Large предлагают дополнительные возможности по обработке нагрузок ИИ и ML, а также тонкой настройке ИИ-модели. Конфигурация Large включает до 32 ускорителей NVIDIA H100 NVL, до 1,1 Пбайта дискового пространства и 400GbE-интерконнект в двух стойках мощностью 25 кВт каждая. В свою очередь, конфигурация Extra Large включает до 24 ускорителей NVIDIA GH200 NVL2, до 1,1 Пбайта дискового пространства и 800GbE-интeрконнект в двух стойках мощностью 25 кВт каждая.

Стойки могут управляться клиентом самостоятельно или обслуживаться HPE. Каждая конфигурация может работать как автономное локальное решение ИИ или в составе гибридного облака. Используется программная платформа NVIDIA AI Enterprise, включающая микросервисы инференса NIM. Её дополняет ПО HPE AI Essentials.

Кроме того, поддержку новых ускорителей NVIDIA получили три аппаратные платформы:

• базовая модель HPE ProLiant Compute DL384 Gen12 с NVIDIA GH200 NVL2 предназначена для заказчиков, использующих достаточно крупные ИИ-модели или RAG.
• сервер среднего уровня HPE ProLiant DL380a Gen12 включает до восьми ускорителей NVIDIA H200 NVL и подходит тем, кому нужна гибкость в масштабировании рабочих нагрузок генеративного ИИ;
• топовая модель HPE Cray XD670 с узлами на базе восьми ускорителей NVIDIA H200 NVL называется идеальной для разработки LLM.

HPE также объявила, что её облачная платформа HPE GreenLake for File Storage прошла сертификацию Nvidia DGX BasePOD и валидацию хранилища NVIDIA OVX, HPE Private Cloud AI, а также анонсированное оборудование будут доступны этой осенью за исключением платформы Cray XD670 на базе NVIDIA H200 NVL, который поступит в продажу этим летом. А после станут доступны и решения на базе Blackwell.

Американская инвестиционная компания KKR совместно с сингапурской Singtel объединили усилия для вложения $3 млрд сингапурских долларов (чуть более $2,2 млрд) в ST Telemedia Global Data Centres (STT GDC). По данным Forbes, речь идёт о крупнейшей в этом году инвестиции в цифровую инфраструктуру Юго-Восточной Азии — в перспективном регионе активно развиваются технологии ИИ.

В рамках сделки партнёры намерены выкупить на $1,30 млрд погашаемых привилегированных акций STT GDC — правда, компании всё ещё ожидают разрешения местных регуляторов. После полного исполнения обязательств по покупке акций по заранее оговоренной цене компании вложат в сингапурского оператора ЦОД ещё $0,92 млрд, после чего KKR будет владеть 14,1 % компании, а Singtel — 4,2 %.

STT GDC — один из самых быстрорастущих операторов дата-центров. Компания управляет 95 ЦОД общей ёмкостью более 1,7 ГВт на более чем 20 рынках в 11 регионах, включая Азию, Великобританию и континентальную Европу. Предполагается, что беспрецедентный рост облачных и ИИ-бизнесов вместе с вливаниями KKR и Singtel дадут STT GDC толчок к росту на рынке цифровой инфраструктуры. Поступления от инвесторов пойдут на международную экспансию компании.

Источник изображения: Bryan Low/unsplash.com

В феврале 2024 года STT GDC сообщила о готовности многих инвесторов вложить в компанию $1 млрд перед потенциальным выходом на IPO в США или Сингапуре. В мае 2024 года сообщалось, что KKR и Singtel конкурируют за долю в 20 % в STT GDC. Но ST Telemedia, владеющая многими медиакомпаниями в регионе, в любом случае останется мажоритарным акционером. Компания уже анонсировала планы расширения во Вьетнаме и начала строительство третьего ЦОД в Ченнаи (Индия).

KKR активно наращивает инвестиции в дата-центры на фоне растущего спроса на цифровую инфраструктуру для облачных и ИИ-сервисов в Азии. В сентябре 2023 года нью-йоркская компания приобрела 20 % в региональном бизнесе Singtel, связанном с ЦОД — компании Nxera за $0,81 млрд. А сегодня Nxera объявила о заключении партнёрства с Telekom Malaysia с целью постройки нового ЦОД в Джохоре (Малайзия).

Основным акционером сингапурской Singtel является Temasek — крупнейшая телекоммуникационная компания Юго-Восточной Азии с более 780 млн мобильных клиентов в 21 стране Азии, Австралии и Африки. Кроме того, она предоставляет в регионе и другие услуги связи и инфраструктурные сервисы.

В последние месяцы в Юго-Восточной Азии наблюдается бум проектов, связанных с ЦОД. Планы строительства там облачной ИИ-инфраструктуры анонсировали многие IT-гиганты, включая AWS, Google и Microsoft.

Крупные технокомпании вроде Microsoft и Google горят желанием использовать всё больше энергии от атомных электростанций для питания своих ЦОД, но намного меньше у них желания вкладывать средства в строительство новых АЭС. По данным Bloomberg, об этом они официально заявили на конференции Nuclear Society. По информации издания, ИИ и ЦОД, вероятно, впервые обеспечат существенный рост энергопотребления в США.

Но участники конференции объявили, что находятся в «неподходящем положении» для того, чтобы помогать в разработке АЭС. Дело в том, что строительство реакторов, особенно на базе новых технологий, по мнению Google, весьма рискованно. Техногиганты готовы платить «разумную надбавку» за уже доступную им чистую энергию, но не хотят инвестировать в компании, непосредственное занятые строительством АЭС. В Google подчеркнули, что всецело поддерживают атомную энергетику, но считают, что брать риски на себя должны не конечные потребители.

Дискуссия развернулась после того, как Билл Гейтс (Bill Gates) заявил, что намерен вложить миллиарды долларов в создание АЭС на базе малого модульного реактора (SMR) в Вайоминге, строительство которой уже начато компанией TerraPower. Поддержка Гейтса станет ключевой на фоне рисков, связанных с атомной энергетикой. Строительство планируется завершить в 2030 году, с отставанием на два года от озвученного в 2021 году срока. В Вайоминге же планируется установка SMR от компании Oklo, поддерживаемой главой OpenAI.

Источник изображения: Dan Meyers/unsplash.com

В апреле в Джорджии компания Southern Co. впервые за десятилетия завершила строительство новой АЭС в США, на семь лет позже запланированного и с увеличением бюджета приблизительно на 150 %. Возможно, именно поэтому IT-компании заявляют, что должны сконцентрироваться на своих сильных сторонах, строя дата-центры, тогда как поставками энергии должны заниматься коммунальные службы. Об этом, в частности, объявил главный менеджер по энергетике и устойчивости Microsoft Адриан Андерсон (Adrian Anderson).

По его словам, если дата-центр нуждается в чистой энергии, оператор должен связаться с поставщиком электричества, а вовсе не с производителем ветряных турбин, а сами высказывания о том, что отдельные покупатели должны самостоятельно оценивать риски инвестиций в атомные технологии он назвал «смехотворной концепцией». При этом сама Microsoft набирает команду и топ-менеджеров для развития направления SMR.

Сегодня новые реакторы разрабатываются многими компаниями, но им понадобится значительная финансовая помощь для того, чтобы перейти к строительству и коммерциализации новых объектов. Несмотря на то, что в появлении большего числа АЭС заинтересованы как энергокомпании, так и операторы ЦОД, техногиганты не спешат в массовом порядке заниматься финансированием таких проектов. По словам недавно покинувшего пост директора по энергетической стратегии Meta✴ Питера Фрида (Peter Freed), сама идея того, что IT-компании спасут положение и просто «выпишут чек» ошибочна.

18 июня 2024 года, по сообщению ресурса AnandTech, стоимость ценных бумаг NVIDIA поднялась до $135,58. Росту курса акций способствует востребованность ИИ-ускорителей на базе GPU. На этом фоне NVIDIA стала самой дорогой компанией в мире, превзойдя по капитализации Apple и Microsoft.

Продажи ИИ-решений NVIDIA бьют рекорды. По оценкам, в 2023 году компания отгрузила приблизительно 3,76 млн ускорителей, ориентированных на ЦОД. Это более чем на 1 млн штук превосходит результат 2022 года. NVIDIA заняла примерно 98 % мирового рынка ускорителей на основе GPU для дата-центров.

Источник изображения: AnandTech

При цене акций в $135,58 за штуку рыночная стоимость NVIDIA достигла $3,335 трлн. Для сравнения: в этот же день капитализация Microsoft составляла $3,317 трлн, а Apple — $3,285 трлн. Холдинг Alphabet, в состав которого входит Google, имел рыночную стоимость $2,170 трлн, Amazon — $1,902 трлн.

Однако, говорят специалисты, показатель капитализации, как и сам фондовый рынок, является весьма волатильным. А поэтому, нет гарантий, что NVIDIA сможет удерживать первое место в рейтинге самых дорогих компаний мира в течение длительного времени, не говоря уже о ежедневных колебаниях. Оценки стоимости NVIDIA, Apple и Microsoft находятся в пределах $50 млрд (1%) друг от друга, что в масштабах их бизнеса является сравнительно небольшой разницей.

С другой стороны, спрос на ИИ-ускорители для дата-центров и облачных платформ остаётся высоким, а поэтому NVIDIA имеет хорошие перспективы для наращивания продаж. Недавно компания анонсировала новые решения на базе архитектуры Blackwell. Говорится, что некоторые заказы на высокопроизводительные ускорители NVIDIA по-прежнему остаются невыполненными. Иными словами, компания всё ещё не в полной мере удовлетворяет потребности гиперскейлеров и других крупных заказчиков.

UPD 21.06.2024: по итогам биржевых торгов в четверг NVIDIA потеряла звание самой дорогой компании в мире, уступив позицию Microsoft. Впрочем, разница между компаниями минимальна, так что вероятна череда взлётов и падений.

По словам президента Microsoft в Японии Мики Цусаки (Miki Tsusaka), страна стала одним из лидеров по внедрению новых ИИ-инструментов и имеет потенциал для ускорения как экономики в целом, так и технологического сектора. Цифровизация страны получила ускорение ещё во время пандемии при переходе многих сотрудников на работу из дома. Как передаёт Bloomberg, Цусака уверена, что Япония наверстала прежнее отставание от других держав.

Топ-менеджер Microsoft уверена, что ускорение продолжится, поскольку технологии дают новые возможности — даже с относительно небольшим стареющим населением ИИ способен придать стране значительный импульс развития. В Microsoft утверждают, что компания заинтересована в образовании большего количества женщин в стране. Кроме того, в ближайшие два года компания намерена инвестировать в масштабирование своих местных ИИ-ресурсов $2,9 млрд.

Источник изображения: Yu Kato/unsplash.com

Объявление о новых инвестициях года подняло цену акций коммунальных и некоторых других компаний страны на фоне ожиданий роста спроса на энергию. Кроме того, вероятный повышенный спрос способствовал лоббированию перезапуска крупнейшей АЭС. В мае сообщалось, что Япония намерена значительно нарастить генерацию электричества в ответ на рост спроса на ИИ и чипы.

Кибербезопасность названа ещё одним ключевым приоритетом, поскольку без неё невозможно использовать ИИ. Microsoft тесно сотрудничает с японскими властями в соответствующей сфере на национальном и местном уровнях, а также с локальными бизнес-структурами.

По словам Цусаки, все были поражены, когда появился интернет, а смартфон сегодня буквально является частью нашего тела — но появление ИИ стало научно-технической революцией, результаты которой превзошли все эти технологии.

Облачный гигант Microsoft намерен инвестировать €6,69 млрд ($7,16 млрд) в постройку в северо-восточном испанском регионе Арагон новых дата-центров. Reuters сообщает, что эта область Испании становится одним из ключевых вычислительных хабов на территории Европы.

По данным региональных властей, американский инвестор подал заявку на получение разрешения на строительство дата-центров вблизи испанской Сарагосы — ранее о вероятном возведении новых ЦОД недалеко от города уже сообщали местные СМИ. Как сообщают представители местного самоуправления, реализация проекта растянется на 10 лет. Ранее Microsoft анонсировала инвестиции в ЦОД на $2,1 млрд., а на днях был запущен первый облачный регион Azure в Мадриде.

Вероятно, Microsoft намерена угнаться за главным конкурентом — AWS, также имеющей планы на Арагон. Только в прошлом месяце облачное подразделение Amazon объявило о намерении вложить в строительство ЦОД в регионе €15,7 млрд в течение 10 лет. В AWS утверждают, что ЦОД компании будут полностью питаться за счёт возобновляемой энергии, благо в провинции постоянно дуют сильные ветры.

Источник изображения: Gerard Albanell / Unsplash

Сарагоса считается пятым по величине городом Испании и давно стала крупным логистическим и транспортным хабом, удачно расположенным между Мадридом и Барселоной, крупнейшими городскими агломерациями страны. Кроме того, город находится в самом центре коридора, связывающего Пиренейский полуостров с Францией и другими странами Европы.

По прогнозам IDC, новая облачная и ИИ-инфраструктура в Испании пополнит ВВП страны на €10,7 млрд и будет способствовать появлению 77 тыс. новых рабочих мест в 2024–2030 гг.

Финансовый директор AMD Жан Ху (Jean Hu) в ходе конференции для инвесторов Nasdaq в Лондоне сообщила о том, что решения для ЦОД остаются для компании основным источником прибыли, несмотря на бум ИИ. По её словам, для многих рабочих нагрузок ключевым аппаратным ресурсом являются ядра CPU.

Ху отметила, что в I четверти 2024 года направление продуктов для дата-центров демонстрировало значительно более высокие темпы роста, нежели другие сегменты бизнеса AMD. Вместе с тем были отмечены некоторые сложности в области встраиваемых продуктов. «Основным драйвером повышения валовой прибыли по-прежнему остаются ЦОД, и я думаю, что в следующем году будет наблюдаться аналогичная картина», — подчеркнула Жан Ху.

Источник изображения: AMD

Вместе с тем финдиректор AMD признаёт, что ИИ является «горячей темой». На этом фоне Ху рассказала о разработках компании в соответствующей сфере. Она напомнила, что на выставке Computex 2024 дебютировали чипы для ноутбуков Ryzen AI 300 с NPU, а также настольные процессоры Ryzen 9000. На серверный сегмент ориентированы мощные ускорители Instinct MI325X и MI350X. Отмечается, что изделие MI350X, продажи которого начнутся в 2025 году, будет конкурировать с NVIDIA Blackwell B200. А в 2026-м AMD выпустит ускоритель Instinct MI400 в качестве конкурента будущим решениям NVIDIA Rubin. При этом NVIDIA продаёт ускорители миллионами, а AMD и Intel в сумме смогли продать и 100 тыс. шт. в 2023 году.

Что касается сегмента традиционных серверов (без средств ИИ), то финансовый директор AMD указала на его сокращение по итогам 2023 года. Ху сказала, что данный сектор остаётся «довольно смешанным». В области серверных процессоров компания укрепляет позиции благодаря своим чипам EPYC, в том числе поколения Siena. По словам Ху, доля AMD в соответствующей области в I квартале 2024 года достигла 33 %. Новейшие серверные платформы AMD позволяют предприятиям уменьшить количество серверов на 40 % при сохранении прежнего уровня производительности.