Мировое потребление электричества дата-центрами может вырасти более чем вдвое к 2026 году. По данным AI Business, соответствующие данные содержатся в докладе Fueling the Future компании PGIM, специализирующейся на управлении активами. Одним из ключевых факторов, влияющих на энергопотребление, называются высокие нагрузки при обучении больших языковых моделей (LLM).

Более того, если сегодня на долю ЦОД приходится всего 2 % от всего потребляемого в мире электричества, то к 2030 году потреблением может стремительно вырасти — до более 20 %. Также сообщается, что развитые страны просто не успевают расширять свою электрическую инфраструктуру. Например, спрос на энергию со стороны ЦОД в Ирландии, где её и так не хватает, должен удвоиться к 2026 году, составив до трети общего потребления электричества страны.

Источник изображения: American Public Power Association/unsplash.com

В PGIM считают, что операторы дата-центров должны искать баланс между наращиванием вычислительной мощности и возможностью получать энергию из каких-либо источников. В докладе отмечается, что операторы отвечают на этот вызов по-разному — некоторые активно сотрудничают с поставщиками «зелёной» энергии для интеграции «безуглеродных» источников непосредственно с комплексами ЦОД.

Источник: PGIM

Некоторые операторы, включая Microsoft, расширяют водородную энергетику — компания участвует в разработке водородных топливных ячеек, способных заменить дизельные генераторы. Перспективной является атомная энергия. Например, AWS приобрела принадлежавший Talen Energy кампус ЦОД возле АЭС. Некоторые рассчитывают на малые модульные реакторы (SMR), разрабатываемые многими стартапами, например — поддерживаемой Сэмом Альтманом (Sam Altman) компанией Oklo, их можно будет устанавливать в непосредственной близости от ЦОД и снабжать кампусы «чистой» энергией.

Как заключили авторы доклада, сегодня операторам ЦОД приходится не только думать о том, как масштабировать свой бизнес для увеличения вычислительных мощностей, но и как получать дешёвое электричество в достаточных объёмах. И пока это получается далеко не у всех.

Облачный провайдер CoreWeave предложил $1 млрд компании Core Scientific, предоставляющей хостинг для HPC-систем и параллельно занимающейся криптомайнингом. Datacenter Dynamics сообщает, что предложение поступило всего через несколько дней после подписания соглашения на аренду 200 МВт в течение 12 лет за $3,5 млрд.

Как сообщают отраслевые источники, речь идёт о покупке компании из расчёта $5,75 за акцию — это несколько меньше биржевой стоимости Core Scientific на момент предложения. Компании сотрудничают уже несколько лет — в Core Scientific говорят об аренде «тысяч ускорителей» с 2019 по 2022 гг. Если соглашение об аренде 200 МВт останется в силе, то последней придётся модифицировать многочисленные площадки для размещения ускорителей NVIDIA, принадлежащих CoreWeave.

Модернизация должна начаться летом 2024 года, а закончить её планируется в первой половине 2025-го. На это потребуется около $300 млн, которые будут получены от платежей CoreWeave за хостинг, но инвестировать можно будет не более половины от ежемесячной платы. Договор с CoreWeave позволяет дважды продлить аренду мощностей сроком на пять лет, в том числе на других площадках Core Scientific.

Предполагается, что сделка с CoreWeave позволит диверсифицировать бизнес и сбалансировать майнинг и хостинг для ИИ-проектов для максимизации прибыли и минимизации рисков. В Core Scientific заявили, что из доступных ей почти 1,2 ГВт мощностей она может выделить до 500 МВТ для HPC/ИИ-хостинга. Часть майнинговых проектов перенесут с одних площадок на другие, компактно высвобождая место для HPC-кластеров.

Источник изображения: Towfiqu barbhuiya/unsplash.com

CoreWeave, основанная в 2017 году, в своё время и сама занималась криптовалютами и блокчейн-технологиями, но впоследствии переключилась на облачные ИИ-платформы. Компания привлекла миллиарды долларов в качестве инвестиций и просто в долг. На сегодня она предлагает сервисы в трёх регионах: US East (Нью-Джерси), US West (Невада) и US Central (Иллинойс). Компания активно арендует мощности и к концу 2023 года намеревалась управлять 14 дата-центрами, а к концу 2024 — 28 ЦОД.

CoreWeave заявила, что потратит $1,6 млрд на постройку ЦОД для ИИ-супероблака, перенесёт часть мощностей в ЦОД Chirisa, арендует дата-центры Flexential и TierPoint в США. В марте этого года CoreWeave арендовала 16 МВт в ЦОД Core Scientific в Остине (Техас). Компания считается крупным клиентом Digital Realty, арендующим стойки для «десятков тысяч» ускорителей в одном из ЦОД на западном побережье США. Недавно компания анонсировала строительство двух ЦОД в Великобритании и присматривается к ЦОД EdgeConneX в Барселоне. Прямым конкурентом компании считается Lambda Labs, масштабы бизнеса которой гораздо скромнее.

Core Scientific тоже основана в 2017 году, но управляет криптомайнинговыми кампусами ЦОД в США. Всего компания располагает 745 МВт доступной энергии и ещё 372 МВт зарезервированной ёмкости. У неё имеется собственное майнинговое оборудование и, конечно, на её мощностях расположено оборудование клиентов. Впрочем, дела Core Scientific идут довольно плохо — в декабре 2022 года она подала заявление о банкротстве, после чего цена её акций упала на 98 %.

UPD 06.06.2024: руководство Core Scientific отказалось от предложения CoreWeave о покупке, отметив, что ведёт переговоры с другими клиентами по поводу предоставления ёмкостей для хостинга HPC- и ИИ-проектов. Компания считает, что для неё это пока более прибыльно, чем продажа. На фоне последних новостей акции компании выросли.

UPD 26.06.2024: CoreWeave подписала с Core Scientific ещё одно соглашение об аренде, на этот раз на 12 лет и 70 МВт.

Российский сервис GitVerse оперативно сформировал собственное «зеркало» Docker Hub, так что теперь у пользователей из России есть доступ к актуальным docker-образам. Пресс-служба «СберТеха» («Сбербанк Технологии») сообщает, что сервис уже заработал в режиме «бета» — достаточно будет быстро перенастроить уже имеющиеся клиенты.

В «СберТехе» сообщают, что размещённые на площадке образы полностью соответствуют исходным с Docker Hub. Уже опубликована инструкция по применению docker-образов и, там же, инструкция по применению альтернативного клиента podman. По словам генерального директора СберТеха, несмотря на то, что зарубежный сервис заблокирован для российских клиентов, он по-прежнему важен с точки зрения непрерывности рабочих процессов. Именно поэтому компания выпустила обновление GitVerse.

Источник изображения: Luke Peters/unsplash.com

Платформа Docker Hub пользовалась большим спросом у российских индивидуальных и корпоративных пользователей, но в конце прошлого месяца доступ к ней был закрыт. Docker Hub активно используется для получения зависимостей и базовых docker-образов в ходе разработки и развёртывания ПО. При этом альтернативные репозитории и «зеркала», созданные неизвестными компаниями или лицами, могут быть опасны в связи с возможными атаками на цепочку поставок.

Компания IDC обнародовала свежий прогноз по глобальному рынку публичных облачных сервисов и ПО. По мнению аналитиков, затраты в соответствующих сегментах будут быстро расти на фоне стремительного развития ИИ и систем обеспечения информационной безопасности.

Согласно прогнозам, в 2024 году объём отрасли публичных облаков и софта достигнет $222 млрд. Компании, как отмечается, всё чаще используют облачные среды в связи с их гибкостью, масштабируемостью и экономической эффективностью. Внедрение облачных сервисов стимулируется благодаря растущему спросу на решения для анализа больших данных, кибербезопасности и ИИ.

По оценкам IDC, к 2027 году расходы на публичные облачные сервисы поднимутся до $219,3 млрд. При этом затраты на локальные платформы и другие сервисы составят ещё около 30 % от этой суммы, или приблизительно $65,8 млрд. Среди наиболее быстрорастущих направлений названы софт и инфраструктурные сервисы (+19,4 % в 2023 году), телекоммуникации (+16,6 %), ретейл (+16,1 %), образовательная сфера (+15,6 %) и банковский сектор (+14,6 %).

Источник изображения: IDC

Аналитики отмечают, что с географической точки зрения одним из наиболее активно развивающихся станет Азиатско-Тихоокеанский регион. Здесь величина CAGR (среднегодовой темп роста в сложных процентах) в плане расходов на публичные облачные сервисы и ПО в течение ближайших лет ожидается на уровне 14,2 %. Это подчёркивает «стратегическую направленность региона на цифровую трансформацию и технологические инновации».

Среди факторов, сдерживающих внедрение облачных платформ, аналитики называют опасения по поводу безопасности данных, сетевые ограничения, отсутствие внутреннего опыта, желание контроля над IT-инфраструктурой и вопросы, связанные с первоначальными затратами. Поставщики услуг решают эти проблемы, повышая уровень защиты, улучшая сетевую инфраструктуру, предлагая обучение и поддержку, предоставляя гибридные/мультиоблачные варианты использования и внедряя гибкие модели ценообразования.

Компания TrendForce обнародовала результаты исследования мирового рынка SSD корпоративного класса в I квартале 2024 года. Отмечается, что спрос на такие накопители по сравнению с IV четвертью 2023-го подскочил на 62,9 %, что объяснятся в том числе стремительным развитием ИИ.

Согласно подсчётам аналитиков, в период с января по март включительно отгрузки корпоративных SSD достигли в денежном выражении $3,76 млрд. TrendForce говорит о значительном увеличении спроса на высокопроизводительные серверы для задач ИИ. Причём заказчики из Северной Америки всё чаще используют SSD высокой ёмкости на основе чипов флеш-памяти QLC для замены HDD. Это приводит к росту поставок твердотельных накопителей.

Источник изображения: TrendForce

Крупнейшим игроком мирового рынка по итогам I квартала 2024 года стала компания Samsung с долей 47,4 % и продажами в размере $1,78 млрд: рост по отношению к предыдущему кварталу зафиксирован на отметке 85,4 %. На втором месте располагается SK Group (SK hynix и Solidigm), у которой отгрузки поднялись в квартальном исчислении на 49,3 % — до $1,14 млрд, а доля оказалась на уровне 30,4 %. Замыкает тройку Micron с выручкой в размере $373,5 млн (рост на 49,4 % в квартальном сопоставлении) и долей около 9,9 %.

В пятёрку ведущих игроков также вошли Kioxia и Western Digital, у которых продажи зафиксированы в объёме $325,7 млн и $133,0 млн соответственно, что соответствует 8,7 % и 3,6 % рынка. У Kioxia продажи год к году поднялись на 50,1 %, у Western Digital — на 18,1 %.

Аналитики полагают, что во II квартале текущего года продажи SSD корпоративного класса увеличатся более чем на 20 %. Это приведёт к росту стоимости данной продукции примерно на 20 % и к сопоставимому увеличению объёма отрасли в денежном выражении.

Компания NVIDIA сообщила о доступности комплексного решения AI Enterprise-IGX, которое, как утверждается, призвано удовлетворить растущую потребность в ИИ-вычислениях в реальном времени на периферии в таких областях, как медицина, промышленность и пр.

Продукт объединяет NVIDIA IGX и систему Holoscan, а также Isaac и Metropolis. Напомним, IGX — это платформа индустриального уровня для ИИ-вычислений на периферии, специально разработанная для промышленных и медицинских сред. Holoscan предоставляет собой полнофункциональную инфраструктуру, необходимую для масштабируемой программно-определяемой обработки потоковых данных в режиме реального времени на периферии.

Источник изображения: NVIDIA

Отмечается, что AI Enterprise-IGX предоставляет предприятиям новый уровень производительности, безопасности и поддержки для всего стека ПО для периферийных вычислений. В результате, упрощается и ускоряется развёртывание ИИ-приложений на периферии. Благодаря сочетанию NVIDIA AI Enterprise-IGX и Holoscan на базе IGX-платформ клиенты получают решение с гибкими возможностями интеграции сенсоров, высокой ИИ-производительностью и безопасностью для решения задач на периферии.

Источник изображения: NVIDIA

Вместе с тем NVIDIA объявила об обновлении самой аппаратной платформы IGX. В частности, для IGX Orin 700 (кодовое имя IGX Boardkit) реализована поддержка ускорителей NVIDIA RTX 6000 Ada, что обеспечивает ИИ-производительность до 1,705 TOPS — это в семь раз больше по сравнению с показателем, который достигается при использовании интегрированного GPU. Кроме того, появилась поддержка «системы на модуле» IGX Orin 500.

Источник изображения: NVIDIA

Говорится также, что программа сертификации NVIDIA-Certified Systems теперь распространяется на платформу IGX. Такие продукты готовят Advantech, Adlink, Aetina, Ahead, Cosmo Intelligent Medical Devices (подразделение Cosmo Pharmaceuticals), Dedicated Computing, Leadtek, Onyx, YUAN и др.

Вместе с тем многие компании, работающие в области медицинских технологий, включая Barco, Karl Storz, Medtronic и Moon Surgical, внедряют NVIDIA IGX с системой Holoscan для ускорения разработки ИИ-решений для медицинской диагностики, хирургических роботов, средств по уходу за пациентами и пр.

NVIDIA объявила о доступности NVIDIA NIM, микросервисов инференса, которые предоставляют готовые модели в виде заранее оптимизированных контейнеров, доступных для развёртывания в облаках, ЦОД или на рабочих станциях. Это, по словам компании, позволяет разработчикам возможность без труда создавать приложения генеративного ИИ за считанные минуты, хотя ранее на это уходили недели.

Сложность приложений генеративного ИИ растёт и часто в них используется несколько моделей с различными возможностями для генерации текста, изображений, видео, речи и т.д. NVIDIA NIM позволяет значительно повысить производительность разработчиков, предоставляя простой стандартизированный способ добавления генеративного ИИ в их приложения. NIM также позволяет компаниям максимизировать свои инвестиции в инфраструктуру. Например, NIM-контейнер с оптимизированным вариантом Meta✴ Llama 3-8B выдаёт втрое больше токенов за единицу времени, чем LLM без оптимизаций.

Источник изображений: NVIDIA

Более 200 технологических партнёров NVIDIA, включая Cadence, Cloudera, Cohesity, DataStax, NetApp, Scale AI и Synopsys, уже используют NIM, чтобы ускорить развёртывание генеративного ИИ для приложений, специфичных для их индустрии, таких как ИИ-помощники, помощники по созданию кода, цифровые человеческие аватары и многое другое. Кроме того, экосистему NIM поддерживают Canonical, Red Hat, Nutanix, VMware, Kinetica и Redis. Доступна и интеграция с KServe.

NIM интегрирован в платформу NVIDIA AI Enterprise. Начиная со следующего месяца участники программы NVIDIA Developer Program получат бесплатный доступ к NIM для исследований, разработки и тестирования. Контейнеры NIM могут включать ПО NVIDIA CUDA, NVIDIA Triton Inference Server и NVIDIA TensorRT-LLM. А на ai.nvidia.com уже доступно более 40 готовых моделей, включая Databricks DBRX, Google Gemma, Meta✴ Llama 3, Microsoft Phi-3, Mistral Large, Mixtral 8x22B и Snowflake Arctic. Компания также представила и NVIDIA BioNeMo NIM для биомедицинской сферы.

Ведущие провайдеры ИИ-решений и MLOps-платформ, включая Amazon SageMaker, Microsoft Azure AI, Dataiku, DataRobot, deepset, Domino Data Lab, LangChain, Llama Index, Replicate, Run.ai, ServiceNow, Securiti AI и Weights & Biases также внедрили NIM. Hugging Face теперь тоже предлагает NIM-контейнейры и позволяет развернуть модели в различных облаках всего за несколько кликов. Микросервисы NIM также интегрированы в AWS, Google Cloud, Microsoft Azure и Oracle Cloud. Наконец, компетенциями в области NIM обзавелись Accenture, Deloitte, Infosys, Latentview, Quantiphi, SoftServe, TCS и Wipro.

Предприятия могут запускать приложения с поддержкой NIM практически в любом месте, в том числе на сертифицированных NVIDIA системах Cisco, Dell, HPE, Lenovo и Supermicro, а также ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Wistron и Wiwynn. Более того, например, Foxconn и Pegatron уже используют NIM для разработки предметно-ориентированных LLM для собственных производственных нужд.

Сингапур рассчитывает дать операторам дата-центров ещё 300 МВт электроэнергии. Хотя в стране фактически действует мораторий на возведение новых ЦОД, ёмкость, по данным The Register, всё-таки будет выделена благодаря оптимизации уже действующих объектов. Ещё 200 МВт добавят за счёт новых «зелёных» энергопроектов. Сегодня в Сингапуре находятся более 70 ЦОД общей ёмкостью более 1,4 ГВт.

С 2019 года здесь фактически действует мораторий на строительство новых дата-центров, хотя уже одобренные проекты разрешено завершить, что, например, удалось сделать Singtel и Keppel. Запрет несколько ослабили в 2022 году — некоторым компаниям позволили подавать заявки на получение новых разрешений, хотя условия получения лицензий значительно ужесточили. Equinix, GDS, Microsoft и консорциум AirTrunk и ByteDance смогли получить одобрение на ввод 80 МВт новых мощностей, а недавно AWS анонсировала планы инвестировать $9 млрд в свои сингапурские ЦОД.

Источник изображения: Jisun Han/unsplash.com

Местный орган Infocomm Media Development Authority (IMDA) представил план по оптимизации энергопотребления ЦОД Green Data Centre Roadmap путём внедрения новых аппаратных и программных решений. Целью заявлено соблюдение климатических обязательств и получение «лишних» 300 МВт в краткосрочной перспективе. Операторы ЦОД должны будут совместно с клиентами увеличить энергоэффективность своих объектов. При этом освобождающиеся ёмкости будут распределять между теми, для кого приоритетными являются «зелёные» проекты, хотя экономическая целесообразность тоже будет учтена.

Речь идёт о более широком внедрении СЖО, отказе от воздушного охлаждения, повышении допустимых температур в машинных залах, использовании различных типов «зелёного» ПО и более современного оборудования. К концу года IMDA обновит стандарт BCA-IMDA Green Mark, ужесточив критерии энергоэффективности дата-центров в целом. К 2025 году будут представлены отдельные стандарты оценки энергоэффективности IT-оборудования и СЖО. В течение ближайших 10 лет PUE всех дата-центров Сингапура должен стать не выше 1,3 при 100 % загрузке, а WUE — быть не хуже 2 м³/МВт∙ч.

Компания Amazon (AWS) планирует построить крупный кампус ЦОД рядом с атомной электростанцией в Пенсильвании (США). Datacenter Dynamics сообщает, что местные власти единодушно проголосовали за новое зонирование территории, благодаря которому компании выделили около 650 га земли в новом специальном районе Special Data Center Overlay District. Представители Amazon заявили, что компания намерена построить на территории 15 зданий ЦОД в течение следующих десяти лет.

В марте AWS приобрела у Talen Energy Corporation дата-центр и землю в Салемском муниципальном округе. Местные власти одобрили для компании налоговые льготы Local Economic Revitalization Tax Assistance (LERTA) — речь идёт о дисконте в 70 % в течение 10 лет. Приобретённый AWS объект питается от расположенной рядом АЭС Susquehanna Steam Electric Station (SSES), принадлежащей Talen. Построенная в 1983 году станция SSES имеет мощность 2494 МВт и является одной из крупнейших АЭС в США.

Источник изображения: Talen Energy

Впервые новости о кампусе Talen с питанием от атомной станции появились в июле 2021 года. Talen построила «пробный ЦОД ёмкостью 48 МВт и площадью 28,87 тыс. м² в начале прошлого года. В Talen заявляли, что потенциально площадка способна получить до 960 МВт. Отдельно там же возвели криптомайнинговую площадку Nautilus, тоже запитанную от АЭС, но её Amazon не покупала.

Большинство земель до перезонирования относилось к территориям сельскохозяйственного назначения, значительная часть из них расположена между SSES и электростанцией Caithness Moxie Freedom, работающей на природном газе. Владельцы соседних территорий также сообщили, что Amazon предлагала им выкупить землю, но предложила слишком мало денег. Кроме того, местных жителей волнует, что случится с кампусом ЦОД, когда АЭС выведут из эксплуатации. Согласно текущему плану, один реактор заглушат в 2042 году, ещё один — в 2044-м. Впрочем, лицензии на их эксплуатацию можно будет продлить.

У Amazon имеются договорные обязательства с Talen о минимальных поставках энергии, в течение нескольких лет показатели должны увеличиваться с шагом 120 МВт. Единовременно их можно будет ограничить на уровне 480 МВт. Кроме того, у AWS есть возможность дважды продлевать соглашение на 10 лет, если лицензии на эксплуатацию реакторов будут продлены. В рамках соглашения Talen также будет продавать AWS соглашения о покупке энергии (PPA) в течение 10 лет.

Компания IOEMA Fiber объявила о планах проложить в Северном море подводный кабель с высокой пропускной способностью между Великобританией и Норвегией, который также соединит Нидерланды, Германию и Данию, пишет Datacenter Dynamics.

Кабель длиной 1400 км пройдёт по маршруту, соединяющему Дамптон-Гэп (Великобритания) с Кристиансанном (Норвегия), с тремя ответвлениями к Эмсхавену (Нидерланды), Вильгельмсхафену (Германия) и Блобьергу (Дания). Кабель включает 48 пар волокон со скоростью передачи данных 27–29 Тбит/с на пару при общей пропускной способности кабеля 1,3 Пбит/с.

В Великобритании партнёром IOEMA выступит Colt Technology Service. Кабель выйдет на посадочную станцию (CLS) в Дамптон-Гэп на юго-востоке Англии, которая ранее использовалась для кабелей Tangerine и Pan-European Crossing. В Нидерландах IOEMA сотрудничает с Eurofiber и QTS. Нитка будет выходить на посадочную станцию, где ранее размещался кабель VSNL Northern Europe (TGN Northern Europe), а его конечная точка — ЦОД QTS в Эмсхавене. Eurofiber обеспечит резервную транзитную связь через свою оптоволоконную сеть с Гронингеном, Амстердамом, Франкфуртом, Гамбургом, Роттердамом и Брюсселем.

Источник изображения: IOEMA

В Дании IOEMA сотрудничает с Arelion и разместит кабель на посадочной станции в Блобьерге, где ранее размещалась кабельная система ТАТ-14. В Германии IOEMA сотрудничает с EWE, с которой строит новую посадочную станцию на побережье Северного моря в Вильгельмсхафене. Здесь конечная точка кабеля — новая посадочная станция в кампусе компании Bulk в Кристиансанне, где он будет подключён к оптоволоконным системам Bulk в Норвегии.

По словам технического директора IOEMA, проект находился на стадии планирования с 2019 года. Компания намерена получить финансирование в этом году и начать строительство к 2026 году с последующим вводом в эксплуатацию в конце 2027 года. Он добавил, что компания ищет основного клиента кабельной системы, которая позиционируется как высокопроизводительная замена ряда устаревших кабелей в этом регионе, таких как SeaMeWe-3, TAT-14, CANTAT-3, часть которых уже выведена из эксплуатации, а срок эксплуатации остальных закончится в ближайшие годы.