Базирующаяся в Лондоне (Великобритания) неооблачная компания Nscale подала заявку в Комиссию по ценным бумагам и биржам США (SEC) на проведение первичного публичного размещения акций (IPO) на Нью-Йоркской фондовой бирже с оценкой рыночной стоимости до $35 млрд, сообщила газета The Financial Times.

В рамках листинга Nscale запустит розничное предложение для британских инвесторов, которое позволит им приобретать акции по той же цене, что и существующие акционеры, через инвестиционную платформу RetailBook, сообщают источники газеты, знакомые с ситуацией. На данный момент Nscale работает с убытками, которые в I половине года составили $1,02 млрд, что почти в три раза больше, чем за аналогичный период прошлого года. Выручка компании за полугодие выросла более чем на 1250 % до $140,6 млн.

В прошлом месяце британская компания заключила соглашение с Anthropic об аренде мощностей флагманского ЦОД в Западной Вирджинии на сумму до $44,6 млрд на шесть лет. Anthropic получит доступ к 460 МВт в первом ЦОД кампуса Monarch, общая мощность которого на момент полного ввода в эксплуатацию составит 1,35 ГВт. По словам Nscale, у компании есть «чёткий план расширения мощностей до более чем 8 ГВт», пишет SiliconANGLE. Попутно разработчик человекоподобных роботов Figure AI заявил о намерении арендовать у Nscale до 100 тыс. GPU. В рамках сделки Nscale приобретает долю в стартапе.

Источник изображений: Nscale

По оценкам Nscale, строительство дата-центра, который планируется ввести в эксплуатацию в конце следующего года, обойдётся примерно в $70 млрд, включая строительство электростанции на природном газе мощностью 2 ГВт для обеспечения его работы. Компания также работает над 11 другими проектами по созданию ЦОД с ещё 1,3 ГВт мощностей для выполнения контрактов на сумму $101 млрд.

Nscale сообщила, что на конец августа она располагала 7 МВт активных вычислительных мощностей в пяти собственных ЦОД в Ирландии, Норвегии и Португалии, а ещё 48 МВт — в арендованных дата-центрах по контрактам на сумму $2,6 млрд. На данный момент Nscale развернула 25 тыс. GPU в своей сети ЦОД. Кроме того, в её распоряжении имеется «461 000 активных и арендованных GPU», которые помогут удовлетворить будущий спрос со стороны клиентов.

Nscale в марте привлекла $2 млрд при оценке в $14,6 млрд в рамках раунда финансирования серии С, организованного норвежской энергетической группой Aker и 8090 Industries при поддержке NVIDIA, Dell, Nokia и других компаний. По данным Dealroom, перед выходом на IPO компания привлекла в общей сложности $3,7 млрд в виде акционерного капитала и более $5 млрд в виде заёмных средств. Компания не будет полагаться исключительно на IPO для финансирования своих проектов. Согласно проспекту эмиссии, компания недавно выпустила конвертируемые облигации на сумму $3,1 млрд.

В проспекте эмиссии подчёркивается важность её отношений с NVIDIA — поставщиком ускорителей, её клиентом и финансовым покровителем. NVIDIA заключила с Nscale сделку на сумму $1,2 млрд на аренду мощностей и инвестировала в Nscale более $2 млрд, в том числе $1 млрд в конвертируемые облигации. Компания также отдельно дала гарантию на обязательства Nscale по аренде мощностей на сумму $860 млн на объекте в Техасе.

Следует отметить, что призывы лидеров ИИ-отрасли к замедлению темпов развития ИИ из-за рисков для безопасности спровоцировали распродажу акций компаний, занимающихся ИИ-инфраструктурой и производством полупроводников на фоне опасений, что крупные технологические компании сократят капиталовложения в ЦОД. Из-за этого компания Holtec International, занимающаяся ядерной энергетикой, в среду отменила запланированное IPO. Nscale планирует провести IPO, делая ставку на то, что интерес инвесторов к проектам в сфере вычислительной инфраструктуры не угаснет, несмотря на подобные призывы.

Nscale ожидает значительного увеличения прибыли по мере роста мощности и выручки от ЦОД. Это связано с тем, что такие статьи расходов, как проектирование, останутся в основном неизменными. «По мере того как развёрнутые по контрактам системы будут полностью введены в эксплуатацию и достигнут стабильного уровня использования, мы ожидаем, что маржинальность стабилизируется на более высоком уровне», — говорится в проспекте IPO.

Предлагающая оптимизированные для криптомайнинга ЦОД компания Blockfusion подписала соглашение с облачной ИИ-компанией CoreWeave. Последняя станет клиентом её ЦОД на территории кампуса North East Data в Ниагара-Фолс (шт. Нью-Йорк), сообщает Datacenter Dynamics. Соответствующие данные обнародовала специальная SPAC-компания Blue Acquisition Corp., присутствующая на NASDAQ — идёт процедура её слияния с Blockfusion.

Договор заключён на 15 лет с возможностью дважды продлить его ещё на 5 лет. В июне было объявлено о подписании необязывающего письма о намерениях. На тот момент Blockfusion заявляла, что в общей сложности клиент получит до 300 МВт мощности, в т.ч. 85 МВт будет гарантировано по принципу take-or-pay. Ранее Blockfusion заявляла, что только 85 «гарантированных» мегаватт могут принести порядка $2,8 млрд выручки за первые 15 лет, если договор продлят дважды, он принесёт до $5 млрд.

По словам Blockfusion, компания превращает бывшую производственную площадку в Ниагара-Фолс в инфраструктуру для вычислений нового поколения, способную стать центром «технологического притяжения» региона в долгосрочной перспективе. Ранее Blockfusion уже переоборудовала прекратившую работу электростанцию в кампус для криптомайнинга, теперь она адаптирует объект для использования высокоплотной ИИ-инфраструктуры с жидкостным охлаждением.

Источник изображения: Rafik Wahba/unsplash.com

CoreWeave строит и собственные площадки для ИИ-вычислений, но в основном компания полагается на сторонних операторов дата-центров. В частности, в Северной Америке она арендует мощности у Core Scientific (едва не купив её), Galaxy Digital, Related Digital, Applied Digital, Chirisa Technology Parks, Lincoln, Flexential, TierPoint, Digital Realty, DataBank, Switch, Digital Crossroads, eStruxture, Bell Canada и др. В числе ключевых клиентов CoreWeave — крупнейшие компании рынка ИИ, включая OpenAI, Microsoft, IBM, NVIDIA и Meta✴.

Предоставляющая облачные услуги для ИИ компания перешла от сдачи в аренду мощностей криптомайнерам к сдаче ИИ-компаниям, включая бизнесы Core Scientific, Applied Digital и Galaxy. По словам мэрии Ниагара-Фолс, в конечном счёте инвестиции в технологии должны приность реальные выгоды местным жителям.

Huawei объявила о разработке архитектуры интерконнекта нового поколения UnifiedBus (UB). Технология призвана решить проблемы скорости передачи данных в крупномасштабных вычислительных кластерах, ориентированных на ресурсоёмкие задачи ИИ.

В традиционных системах для ЦОД эффективность использования ресурсов снижается по мере масштабирования платформы. Так, в кластере из 100 тыс. NPU фактически задействуется всего около 20 % доступной вычислительной мощности, в то время как оставшиеся ресурсы простаивают в ожидании данных, утверждает Huawei. Обучение модели с триллионами параметров требует передачи колоссальных объёмов промежуточных сведений, а современные ИИ-агенты регулярно генерируют запросы, создавая постоянную нагрузку на коммуникационные линии.

Всё это приводит к необходимости гибкого перераспределения меняющейся нагрузки между CPU и NPU. Кроме того, резко возрастают требования к хранению данных на всех уровнях вычислительных платформ. В результате, недостаточная пропускная способность интерконнекта становится главным узким местом, ограничивающим производительность современных ИИ-кластеров.

Источник изображения: Huawei

Архитектура UnifiedBus позволяет устранить существующие недостатки, объединив более десяти различных протоколов и увеличив общую пропускную способность интерконнекта с примерно 100 Гбайт/с до уровня в несколько Тбайт/с, тогда как задержка (RTT) уменьшается с 7 до 2 мкс. Новая архитектура также предусматривает единую глобальную адресацию памяти внутри ИИ-узлов SuperPoD. Помимо этого, UnifiedBus напрямую соединяет CPU, NPU, RAM и SSD, обеспечивая децентрализованную одноранговую связь между ними и гибкое распределение имеющихся ресурсов.

В рамках концепции UnifiedBus чипы DDR выступают в качестве альтернативной памяти для NPU, снижая задержки для поисковых, рекомендательных и других сервисов, а также удваивая производительность векторного поиска. При этом сокращаются требования к ёмкости HBM в составе ИИ-ускорителей. В целом, UnifiedBus служит глобальной «магистралью данных» со сверхвысокой пропускной способностью и малой задержкой, обеспечивая гибкое масштабирование вычислительных ресурсов.

Специальный модуль интерконнекта UnifiedBus LinkBlade с бескабельным дизайном обеспечивает высокоскоростную связь внутри стоек вычислительного кластера. Утверждается, что в составе SuperPoD с 4096 NPU применение LinkBlade позволяет сэкономить около 196 км медных соединений. Для обмена данными между отдельными стойками решение UnifiedBus LinkDevice предлагает 176 портов с пропускной способностью 1,6 Тбит/с каждый, обеспечивая полностью оптическое соединение со скоростью 280 Тбит/с. При этом могут формироваться кластеры с миллионами NPU.

Huawei продемонстрировала суперкластер для работы с агентным ИИ на базе UnifiedBus, который состоит из узлов SuperPoD TaiShan 950 и Atlas 960, хранилища данных OceanStor M900 и коммутатора Xinghe UBG. Эта платформа поддерживает многоуровневое объединение ресурсов, обеспечивая эффективную работу с различными нагрузками.

Компания EXA Infrastructure взялась за прокладку подводного кабеля протяжённостью 6552 км, соединяющего Нью-Джерси (США) и Брин (Великобритания). Новый кабель EXA Meridian представляет собой систему из 24 оптоволоконных пар общей пропускной способностью около 500 Тбит/с, которую должны ввести в эксплуатацию в IV квартале 2029 году. Ключевым подрядчиком стала Xtera.

Это уже девятый трансатлантический кабель в портфолио EXA. Компания позиционирует проект, как первый кабель через Атлантику, построенный одним оператором за последние десять лет. Meridian разрабатывается для гиперскейлеров, неооблачных провайдеров, финансовых и государственных структур, а также исследовательских организаций. Подобные заказчики всё активнее приобретают отдельные оптоволоконные пары. EXA предварительно сообщила о «якорных» договорённостях с гиперскейлерами и неооблаками, но заказчики и условия взаимодействия пока не раскрыты.

Источник изображения: EXA Infrastructure

EXA интегрирует Meridian с существующей сетью компании. Новая посадочная станция в Брине будет соединена несколькими наземными маршрутами со Слау (Slough, Беркшир), а оттуда — с панъевропейской сетью EXA. Это обеспечит связь с ключевыми европейскими рынками ЦОД. И это очень удобно для тех, кто покупает пары волокон или несколько несущих.

Прокладка новых трансатлантических кабелей ведётся ударными темпами. Так, только в августе объявлено о том, что McMahon Design and Management проложит между Ирландией и США подводные интернет-кабели Narwhal 1 и Narwhal 2, а Meta✴ подала заявку на прокладку 497-Тбит/с интернет-кабеля Aurora между США и Данией.

ПАО «Газпром» посчитало остаточные ресурсы выработанных месторождений в Ямало-Ненецком автономном округе (ЯНАО) и ближайшие свободные генерирующие мощности достаточными для создания ЦОД в регионе, сообщает ТАСС.

Структура подтвердила, что запасы уже выработанных в округе месторождений — рентабельная ресурсная база для новых ЦОД. Подчёркивается, что из-за низкого пластового давления подобные ресурсы целесообразно пускать в дело вблизи от мест добычи — в частности для обеспечения электричеством дата-центров.

Особо отмечается пилотный проект, который «Газпром» реализует совместно с ООО «Крипто энерджи», поддержку проекта оказывают власти ЯНАО. Развёртывание проекта планируется на одной из площадок Медвежьего месторождения. «Крипто энерджи» будет отвечать за строительство модульного комплекса ЦОД и газопоршневой электростанции. «Газпром» займётся поставками низконапорного газа, а местное правительство станет содействовать владельцам вычислительной мощности, упрощая им получение государственной поддержки.

Источник изображения: ПАО "Газпром"

В «Газпроме» подчеркнули, что компания не только обеспечивает поставки низконапорного газа, но и предоставляет собственные свободные электрогенерирующие мощности для строительства ЦОД в российских регионах. Соответствующий проект уже реализован на Бованенковском месторождении.

Google объявила об общедоступности инстансов M4N в Google Compute Engine. Компания отметила, что это второе предложение в семействе ВМ, оптимизированных для работы с сетью и блочными хранилищами. Серия M4N специально разработана для задач, требующих больших объёмов памяти и высокой интенсивности операций I/O.

Как утверждает Google, по сравнению с аналогичными предложениями других крупных облачных провайдеров, инстансы M4N обеспечивают самые высокие показатели IOPS и пропускной способности на ядро в классе инстансов с большим объёмом памяти, а также позволяют снизить совокупную стоимость владения (TCO) для СУБД Oracle более чем на 20 %. Серия M4N дополняет существующие семейства ВМ, оптимизированных для работы с памятью (M1, M2, M3, M4 и X4). Новая серия позиционируется не как замена этим продуктам, а как более специализированное решение для приложений, в которых «узким местом» стали ограничения подсистемы хранения данных или сети.

Также сообщается, что M4N — это первый в отрасли инстанс, оптимизированный для работы с сетью и блочными хранилищами, который отличается повышенным соотношением объёма памяти к количеству ядер (до 26:1) и большим максимальным объемом памяти (6 Тбайт). Инстансы M4N на базе процессоров Intel Xeon Emerarld Rapids дополнены функциями разгрузки фирменного аппаратного решения Titanium и обеспечивают совокупную производительность хранилища на уровне хоста до 25 тыс. МиБ/с (25 ГиБ/с) и до 1 млн IOPS с дисками Hyperdisk Extreme, что вдвое превышает показатели производительности блочных хранилищ для текущих инстансов M4.

Источник изображения: Google

Компания отметила, что корпоративные ИТ-подразделения сталкиваются с ростом затрат на лицензирование ПО, стоимость которого привязана к количеству ядер, виртуальных или физических. В связи с этим приходилось идти на компромисс, оплачивая больше вычислительных ядер, чем требовалось для самой задачи, чтобы получить необходимый объём оперативной памяти и достаточную производительность подсистемы хранения данных. M4N меняют этот подход благодаря лучшему в отрасли соотношению объема памяти к количеству vCPU, говорит Google. Они позволяют:

• Снизить TCO и расходы на лицензирование: отказаться от избыточного выделения ядер, сохраняя при этом требуемый уровень производительности СУБД Oracle, что обеспечивает снижение TCO более чем на 20​% по сравнению с аналогичными предложениями ведущих гиперскейлеров.
• Оптимизировать инфраструктуру: выделять ровно тот объём вычислительных мощностей, который необходим для конкретной рабочей нагрузки, сохраняя при этом доступ к большим объёмам RAM.
• Повысить эффективность использования кеша: благодаря большему объёму памяти на каждое ядро значительные части базы данных могут размещаться в SGA, что сокращает количество ресурсоёмких операций I/O и повышает общую эффективность системы.

Источник изображения: Google

Серия M4N включает 10 инстансов с количеством vCPU в пределах от 16 до 224, объёмом DDR5 от 248 до 5952 Гбайт. Пропускная способность сети достигает 400 Гбит/с для трафика между виртуальными машинами и 200 Гбит/с для исходящего трафика. Инстансы предлагаются с предустановленными конфигурациями, рассчитанными на различные профили рабочих нагрузок. В числе целевых сценариев использования M4N компания указала критически важные корпоративные базы данных, системы генеративного ИИ и компоненты RAG, медицинские информационные системы, ERP, аналитику в реальном времени и EDA.

Компания Huawei, по сообщению The Register, продемонстрировала оптические модули NPO (Near-Packaged Optics), предназначенные для организации высокоскоростного интерконнекта в дата-центрах для ИИ-задач.

В традиционных коммутаторах оптические блоки обычно располагаются на передней панели, а длина соединения от собственно чипа до собственно оптических компонентов довольно велика. Энергопотребление и тепловыделение таких решений увеличиваются с ростом скоростей передачи данных, что становится серьезной проблемой в свете активного внедрения стандартов 800 Гбит/с и 1,6 Тбит/с. Кроме того, длинные электрические трассы и интенсивная обработка сигналов в DSP приводят к увеличению задержек.

Источник изображения: The Register

Одним из способов повышения эффективности является применение технологии CPO (Co-Packaged Optics). Она предполагает размещение оптического модуля на той же подложке, что и ASIC. Такой подход обеспечивает небольшие задержки и низкое энергопотребление, однако затрудняет замену вышедших из строя оптических модулей и значительно удорожает производство. В результате, возрастают эксплуатационные затраты в ЦОД.

Платформа NPO, предложенная компанией Huawei, предусматривает монтаж оптического движка в виде отдельного компонента на плате рядом с ASIC. При этом конструкция NPO исключает необходимость в отдельном DSP-чипе — соответствующие функции интегрируются в ASIC. Таким образом, сохраняется возможность замены оптического модуля в случае его выхода из строя, тогда как задержки по сравнению с традиционными решениями снижаются со 100 до 10 нс, а энергопотребление уменьшается примерно на 60 %.

В NPO-решении Huawei используются 36 линий 200G, что в сумме даёт 7,2 Тбит/с. Предполагается, что предложенная технология будет использоваться в следующих поколениях ИИ-узлов SuperPoD.

Штат Вирджиния (США) является крупнейшим в мире хабом для дата-центров, но скоро рост ЦОД там может замедлиться. Местный губернатор Эбигейл Спанбергер (Abigail Spanberger) подписала указ, ужесточающий правила строительства и эксплуатации ЦОД в штате, сообщает The Register.

По словам Спанбергер, до её прихода к власти у штата не было чёткого, скоординированного плана по нейтрализации негативного воздействия дата-центров на местных жителей. Теперь ситуация изменилась. Новый указ — лишь часть более масштабной политики, направленной на повышение ответственности операторов ЦОД, предусматривающей большую прозрачность, запрет заключения соглашений о неразглашении (NDA) с местными властями, ограничение на выдачу разрешений для дата-центров и ужесточение экологических требований.

По словам Спанбергер, в действующей политике отсутствовал ряд конкретных требований для возможного привлечения строителей ЦОД к ответственности. Кроме того, проекты ЦОД мощностью более 25 МВт не будут получать разрешения в ускоренном порядке. Также указ призывает государственные органы разработать параметры оценки, позволяющие отличать ответственные ЦОД от «безответственных», способных негативно сказаться на местных жителях и окружающей среде.

Источник изображения: Jamie Street/unsplash.com

Дополнительно указ ограничит использование требующих много воды градирен в районах с дефицитом водных ресурсов. Также он будет поощрять операторов ЦОД модернизировать резервные генераторы для сокращения вредных выбросов либо переходить на аккумуляторные хранилища, топливные ячейки и прочие источники «зелёной» энергии. Указ подписан всего через несколько дней после того, как власти округа Лаудон (Loudoun) поддержали план приостановки окончательных решений и электроподстанций по некоторым заявкам на строительство ЦОД на 12 мес. Именно в этом округе концентрация ЦОД максимальна.

Сопротивление строительству дата-центров нарастает на всей территории Соединённых Штатов. Это происходит на фоне роста опасений относительно их влияния на качество воздуха, шумовое загрязнение, потребление водных ресурсов, а также влияния на рост счетов за электричество. Например, кампус ЦОД Colossus 2 Илона Маска (Elon Musk) в Теннесси питается от газовых турбин, расположенных по ту сторону границы штата в Миссисипи, теперь из-за этого подан иск НКО NAACP о нарушении Закона о чистом воздухе (Clean Air Act).

Тем временем в июле Нью-Йорк стал первым штатом, приостановившим строительство ЦОД мощнее 50 МВт. Месяцем позже в Пенсильвании губернатор Джош Шапиро (Josh Shapiro) издал указ, блокирующий заявки на строительство ЦОД, если подающие их не берут на себя юридические обязательства по соблюдению требований губернаторской программы Responsible Infrastructure Development (GRID). Ограничения ввели и в Техасе.

Компания Unigen анонсировала SSD серий Cheetah Storage Class Memory (SCM) и Cheetah High Capacity (HC). Устройства первого семейства рассчитаны на ИИ-нагрузки, которым требуются минимальные задержки при доступе к данным, второго — на хранение обширных массивов информации, например, при обучении больших языковых моделей (LLM).

Изделия Cheetah SCM будут предлагаться в исполнениях E1.L, E3.S, E1.S и U.2. Применяются чипы флеш-памяти pSLC/eTLC NAND, а для подключения служит интерфейс PCIe 5.0 x4 (NVMe 2.0). Вместимость составляет 1,6 и 3,2 Тбайт. Скорость последовательного чтения достигает 14 700 Мбайт/с, скорость последовательной записи — 11 100 Мбайт/с. Величина IOPS (операций ввода/вывода в секунду) при произвольном чтении блоками по 4 Кбайт — до 3,37 млн, при произвольной записи — до 1,01 млн. Накопители выдерживают до 60 полных перезаписей в сутки (показатель DWPD) при произвольных нагрузках и до 80 перезаписей при последовательны операциях.

Источник изображений: Unigen

В свою очередь, устройства Cheetah HC доступны в форм-факторах E1.L и U.2. Предусмотрены модификации с чипами флеш-памяти QLC NAND и TLC NAND. Задействован интерфейс PCIe 5.0 x4 (NVMe 2.0). В серию входят варианты ёмкостью 16, 32, 64 и 128 Тбайт. Скорость последовательного чтения составляет до 14,17 Гбайт/с, скорость последовательной записи — до 2,355 Гбайт/с. Показатель IOPS — до 836 тыс. при произвольном чтении и до 36,8 тыс. при произвольной записи. Значение DWPD при произвольных нагрузках находится на отметке 0,3, при последовательных — 1,8.

Все накопители имеют 16 каналов NAND и поддерживают интерфейс DDR5. Средняя наработка на отказ (MTTF) указана на уровне 2 млн часов. Диапазон рабочих температур простирается от 0 до +70 °C. Реализованы средства безопасности TCG Opal и Secure Boot, сквозная защита данных (End-to-End Data Protection), а также функция защиты от потери питания (Power Loss Protection). Массовое производство новых SSD уже началось.

Anthropic и OpenAI прорабатывают варианты заключения сделок по аренде мощностей в небольших дата-центрах с целью расширения ИИ-инфраструктуры на фоне усиления дефицита, сообщил ресурс CNBC со ссылкой на источники. По словам инсайдеров, обе компании заключили за последний год крупные соглашения об использовании дата-центров мощностью в сотни мегаватт и даже гигаватты, но теперь они также проявляют интерес к сделкам на 20–30 МВт.

В частности, Anthropic изучала возможность заключения соглашений такого масштаба в Великобритании и странах Северной Европы, а OpenAI также рассматривала варианты развёртывания мощностей меньшего объёма в странах Северной Европы. Один из источников сообщил о переговорах с участием Anthropic и OpenAI по поводу развёртывания вычислительных мощностей аналогичного масштаба в США. Такие сделки позволяют компаниям быстрее запускать рабочие нагрузки в условиях бума ИИ-технологий.

«Мы формируем диверсифицированный портфель вычислительных мощностей, чтобы удовлетворить растущий спрос на ИИ во всём мире», — заявил представитель OpenAI ресурсу CNBC. Он пояснил, что разные рабочие нагрузки требуют использование разной инфраструктуры, поэтому компания ведёт переговоры с широким кругом партнёров и оценивает возможности, исходя из своих требований, а также показателей производительности, надёжности, сроков реализации и стоимости.

Источник изображения: Crusoe

Обе компании обычно арендуют вычислительные мощности у операторов дата-центров и неооблаков, отдавая предпочтение масштабным долгосрочным соглашениям. В августе стало известно о сделке Anthropic с Nscale по поводу аренды мощностей в строящемся ЦОД в Западной Вирджинии на 460 МВт. OpenAI заявила, что ещё в апреле превысила первоначальный план по выделению 10 ГВт мощности для своего инфраструктурного проекта Stargate, и уже после этого взяла на себя обязательства по обеспечению дополнительных 3 ГВт мощностей в Джорджии и 8 ГВт в Огайо.

Масштабные проекты по строительству ЦОД в США и других странах всё чаще сталкиваются с противодействием со стороны местных жителей. Также во многих регионах Европы наблюдается дефицит свободных земельных участков и энергетических мощностей для развёртывания ЦОД.

По словам Structure Research, привлекательность сделок относительно меньших вычислительных мощностей заключается в том, что они позволяют быстрее получить доступ к готовой инфраструктуре: «Получить доступ к нескольким мегаваттам на уже подключенном к энергосети объекте может быть практичнее, чем ждать выделения гораздо большего блока мощностей в одной локации. Для рабочих нагрузок, способных функционировать на разрозненных площадках, совокупность небольших объектов может в итоге обеспечить значительный объём мощностей».

Источник изображения: Crusoe

Обучение моделей ИИ требует огромных вычислительных ресурсов для обработки колоссальных массивов данных, но инференс может осуществляться с использованием более компактных кластеров чипов. По словам Тана, многие задачи инференса позволяют обрабатывать отдельные запросы на разрозненных небольших кластерах. При этом всё большая часть вычислительных ресурсов ИИ перенаправляется от обучения ИИ-моделей к их непосредственной эксплуатации.

По оценкам JLL, к 2027 году доля мощностей ЦОД, используемых для инференса, должна превысить долю мощностей, выделяемых для обучения моделей. В 2025 году на инференс приходилось 9 % от общего объёма рабочих нагрузок в глобальных ЦОД, тогда как на обучение — 14 %. К 2030 году, как ожидается, на инференс будет приходиться 37 % этих мощностей, а на обучение моделей — лишь 13 %.

В феврале сообщалось о планах NVIDIA начать сотрудничать с рядом участников рынка ЦОД для изучения возможностей создания небольших объектов, предназначенных для распределённого инференса. Напомним, что Crusoe, построившая крупный комплекс дата-центров Stargate в Абилине (Abilene, Техас), используемый OpenAI, теперь инвестирует в создание более компактных ЦОД, на развёртывание которых уходит меньше времени, и этот процесс обходится гораздо дешевле запуска крупных комплексов, строительство которых сейчас сталкивается с задержками на всей территории США.