ИИ-облако CoreWeave выбрало Morgan Stanley, Goldman Sachs Group и JPMorgan Chase & Co. для подготовки к грядущему IPO. По данным источников Bloomberg, пожелавших сохранить анонимность, компания намерена выйти на биржу в 2025 году. Подготовка к торгам идёт полным ходом, к процессу могут присоединиться и другие известные банки.

Согласно октябрьскому заявлению, CoreWeave уже получила кредитную линию на $650 млн от JPMorgan, Goldman Sachs и Morgan Stanley. Впрочем, представители самих CoreWeave, Morgan Stanley и JPMorgan отказались от комментариев, а в Goldman Sachs и вовсе предпочли проигнорировать запрос СМИ. Для выхода на биржу время самое подходящее, поскольку ожидается, что рынок IPO в США вернётся к средним допандемийным показателям.

Источник изображения: CoreWeave

В апреле 2023 года CoreWeave получила $221 млн, а потом — ещё $200 млн. В августе того же года объявлено о долговом финансировании в объёме $2,3 млрд под залог ускорителей NVIDIA. В декабре CoreWeave провела раунд финансирования на $642 млн, а в мае 2024 года она получила $1,1 млрд. Позже компания привлекла ещё $7,5 млрд. Наконец, в октябре появилась информация о намерении Cisco инвестировать в компанию. При этом в рамках сделки CoreWeave может получить оценку в $23 млрд. Среди инвесторов уже числятся NVIDIA, Magnetar Capital, Coatue Management, Jane Street, JPMorgan Asset Management и Fidelity.

Основанную в 2017 в Нью-Джерси CoreWeave возглавляет Майкл Интратор (Michael Intrator). CoreWeave начала с криптомайнинговых проектов, но среди других компаний этого сектора одной из первых переориентировала бизнес на работу преимущественно с ИИ. Компания стала массового закупать серверные ускорители NVIDIA, опередив спрос на них. Сегодня компания строит ЦОД для развёртывания H100 и H200. В компании рассчитывают управлять 28 ЦОД по всему миру ещё до конца текущего года, ещё 10 новых ЦОД планируется ввести в эксплуатацию в 2025 году.

Компания QNAP Systems анонсировала сетевое хранилище (NAS) TS-433eU, рассчитанное на монтаж в стойку. Решение типоразмера 1U имеет уменьшенную глубину (292,3 мм), благодаря чему подходит для конфигураций с ограниченным пространством для монтажа оборудования.

Новинка получила неназванный Arm-процессор с четырьмя вычислительными ядрами Cortex-A55 (2 ГГц) и графическим модулем Mali-G52. В состав чипа входит NPU-блок для ускорения операций, связанных с ИИ, таких как распознавание лиц и идентификация объектов.

NAS несёт на борту 4 Гбайт оперативной памяти без возможности расширения и столько же флеш-памяти. Во фронтальной части расположены четыре отсека для накопителей LFF/SFF с интерфейсом SATA-3. Предусмотрены два сетевых порта 2.5GbE и два порта USB 3.2 Gen1 Type-A (расположены в тыльной части корпуса). За охлаждение отвечают три вентилятора диаметром 40 мм. Диапазон рабочих температур — от 0 до +40 °C. Габариты составляют 43,3 × 430 × 292,3 мм, масса — примерно 4 кг без установленных накопителей.

Источник изображения: QNAP

Устройство использует фирменную программную платформу QTS 5.2.1. Поддерживается шифрование информации по алгоритму AES. При необходимости может быть подключён модуль расширения QNAP USB JBOD TR-004U формата 1U с четырьмя дополнительными отсеками для устройств LFF/SFF.

Разработчик заявляет, что новый NAS призван удовлетворить потребности бизнеса в области хранения информации, обмена файлами, синхронизации и защиты данных для повышения стабильности и производительности повседневной работы. Устройство обеспечивает резервное копирование из различных источников, включая ПК, серверы, Google Workspace и Microsoft 365.

Российский разработчик оборудования для дата-центров «Утилекс» сообщил о том, что объём поставок микро-ЦОД семейства DataStone за пять месяцев превысил 300 ед. Эти решения предназначены для размещения и обеспечения требуемой готовности вычислительного и сетевого оборудования, систем хранения, а также любых устройств типоразмера 19″.

Изделия DataStone выполнены по стандарту IP65 в виде герметичного шкафа с шумоизоляцией. Реализована замкнутая ультразвуковая система адиабатического увлажнения, не требующая подключения к трассам водоснабжения и канализации. В шкафу размещаются не менее шести датчиков температуры и двух датчиков влажности. Поддерживается удалённый мониторинг через SNMP, Modbus TCP, RTU. Кроме того, упомянута возможность построения системы охлаждения с полным резервированием (2N).

Источник изображения: «Утилекс»

Решения DataStone могут применяться для замены серверных комнат, развёртывания ЦОД в неподготовленных помещениях; создания инфраструктуры частного облака, периферийных вычислений и пр. Ключевыми преимуществами микро-ЦОД названы экономия капитальных затрат, возможность установки IT-оборудования с любой энергетической плотностью, высвобождение площадей, сжатые сроки создания ЦОД, возможность повторного использования и унификация решения.

Отмечается, что с конца мая по конец октября 2024 года «Утилекс» поставил заказчикам более 300 модульных микро-ЦОД DataStone+ в разных конфигурациях. В их число, в частности, вошли:

• Модульный микро-ЦОД с увеличенной высотой 50U и замкнутой системой ультразвукового адиабатического увлажнения;
• Модульный микро-ЦОД из пяти шкафов и трёх кондиционеров с замкнутой системой ультразвукового адиабатического увлажнения;
• Партия микро-ЦОД с водяным охлаждением и точностью поддержания температуры в пределах 0,1 °C;
• Партия микро-ЦОД с охлаждением на чиллерной воде.

Компания Innodisk анонсировала модули памяти DDR5-6400 ёмкостью 64 Гбайт, предназначенные для задач с интенсивным использованием данных. Это могут быть приложения ИИ (в том числе генеративного), платформы смешанной реальности, большие языковые модели (LLM), автономные транспортные средства, телемедицинские системы и пр.

Изделия доступны в различных вариантах исполнения — CUDIMM, CSODIMM, ECC CUDIMM, ECC CSODIMM и RDIMM. Помимо версии на 64 Гбайт, серия включает варианты объёмом 8, 16, 32, 24 и 48 Гбайт.

Источник изображения: Innodisk

Модули функционируют при напряжении питания 1,1 В. Диапазон рабочих температур простирается от 0 до +95 °C. Реализована технология TVS (Transient Voltage Suppressor), которая обеспечивает защиту от перепадов напряжения. Контакты модулей имеют покрытие золотом толщиной 30 мкм, благодаря чему улучшается проводимость и обеспечивается защита от окисления: это увеличивает срок службы.

По заявлениям Innodisk, модули памяти DDR5-6400 полностью совместимы с новейшими процессорами AMD и Intel. Среди ключевых сфер применения изделий названы индустриальные и встраиваемые устройства, серверное оборудование, системы видеонаблюдения, платформы промышленной автоматизации и пр. В частности, память может поддерживать работу ресурсоёмких приложений ИИ на периферии. Применительно к телемедицине 3D-визуализация с высоким разрешением и анализ данных в режиме реального времени позволят удалённо проводить пациентам хирургические операции с высокой точностью, говорит компания.

Компания SMART Modular анонсировала SSD семейства T6EN, предназначенные для использования в аэрокосмической и промышленной сферах, а также в оборонном секторе. В серию вошли изделия в трёх вариантах исполнения — U.2, EDSFF E1.S и M.2 2280.

Все накопители выполнены на основе чипов флеш-памяти 3D TLC. Задействован интерфейс PCIe 4.0 x4. Диапазон рабочих температур простирается от -40 до +85 °C. Заявленный показатель MTBF (средняя наработка на отказ) превышает 2 млн часов. Говорится о поддержке TCG Opal 2.0 и шифрования AES-256.

Устройства T6EN U.2 доступны в вариантах вместимостью 960 Гбайт, а также 1,92, 3,84, 7,68 и 15,36 Тбайт. Скорость последовательного чтения достигает 3500 Мбайт/с, скорость последовательной записи — 3000 Мбайт/с. Значение IOPS (операций ввода/вывода в секунду) при работе с блоками данных по 4 Кбайт — до 390 тыс. при произвольном чтении и до 55 тыс. при произвольной записи.

Источник изображения: SMART Modular

Решения EDSFF E1.S обладают аналогичными показателями быстродействия, но у них максимальная ёмкость составляет 7,68 Тбайт. Наконец, SSD формата M.2 2280 обеспечивают скорость последовательного чтения и записи до 3200 Мбайт/с. Величина IOPS — до 390 тыс. при произвольном чтении и до 50 тыс. при произвольной записи. Максимальная вместимость равна 7,68 Тбайт.

Для всех изделий в качестве опции доступно специальное конформное покрытие, предназначенное для защиты от негативного влияния факторов окружающей среды: повышенных температур, влаги, загрязнений, химических веществ и механических воздействий.

В ходе мероприятия SK AI Summit 2024 глава южнокорейского оператора SK Telecom Рю Ён Сан (Ryu Young-sang) объявил, что стратегия компании будет связана с тремя основными компонентами: ИИ ЦОД, облачным доступом к ИИ-ускорителям (GPUaaS) и периферийными ИИ-сервисами (Edge AI). По данным блога IEEE ComSoc, компания рассчитывает развивать соответствующий бизнес в Южной Корее и в Азиатско-Тихоокеанском регионе (АТР), а также за его пределами, в том числе с партнёрами.

SK Telecom намерена построить в ключевых регионах страны и за её пределами ИИ ЦОД гиперскейл-уровня, став инфраструктурным ИИ-хабом для всего АТР. Компания также будет предоставлять облачный доступ к ИИ-ускорителям, чтобы компенсировать их дефицит в Южной Корее и развернёт периферийную ИИ-инфраструктуру для быстрого обслуживания оконечных устройств.

SK Telecom начнёт строительство «небольших» ИИ ЦОД ёмкостью от 100 МВт каждый, со временем доведя общую ёмкость до нескольких гигаватт. В Корее дата-центры смогут рассчитывать на стабильные поставки энергии из возобновляемых источников на основе водородной, солнечной или ветряной энергетики. Дополнят ЦОД международные ВОЛС. При этом «материнская» SK Group намерена задействовать для обеспечения работы все свои ресурсы, от передовых полупроводников до систем погружного охлаждения и других технологий.

Источник изображения: SK Telecom

SK Telecom намерена уже в декабре развернуть тестовый ИИ ЦОД в Южной Корее для испытания комбинации технологий SK Group и партнёров. В частности, в ЦОД будут испытывать три типа СЖО: прямое жидкостное охлаждение, иммерсионное охлаждение и прецизионное жидкостного охлаждения (Precision Liquid Cooling, PLC). Там же проведут испытания чипов SK hynix, включая передовую память HBM, решения для виртуализации ускорителей и ИИ-технологии оптимизации энергозатрат.

Один из имеющихся ЦОД в Гасане в спешном порядке оснастят современными ускорителями. С декабря в рамках GPUaaS станут доступны NVIDIA H100 — это совместный проект с американской Lambda Labs. В марте 2025 года планируется развернуть NVIDIA H200. Наконец, периферийные сервисы Edge AI задействуют национальную телеком-инфраструктуру, чтобы «установить контакт» между ЦОД и ИИ на оконечных устройствах.

Сейчас SK Telecom проводит исследования совместно с партнёрами со всего мира, изучая пути возможности развития ИИ-инфраструктуры и разработки новых ИИ-сервисов в области здравоохранения, робототехники, видеонаблюдения и др. В компании утверждают, что если раньше конкуренция в сфере телекоммуникаций была связана в основном со скоростью и ёмкостью каналов, то теперь «парадигму сетевой эволюции» следует изменить — будущие 6G-сети эволюционируют в ИИ-инфраструктуру следующего поколения, где коммуникации и ИИ интегрированы.

Системам генеративного ИИ требуются самые разные ресурсы, но в некоторых сферах их нехватка может носить критический характер. По данным DigiTimes, серьёзную проблему может составить нехватка качественных массивов данных, рост потребления электроэнергии и пресной воды, а также дефицит поставок меди для IT-индустрии.

Как сообщают эксперты CB Insights, к 2026 году может снизиться доступность высококачественных данных для обучения языковых моделей. В результате их разработчикам придётся полагаться либо на дорогие лицензированные данные, либо на синтезированные самим же ИИ наборы данных. С 2022 года около 50 вендоров уже вышли на рынок синтетических данных для обучения, а ещё 30 компаний ищут средства.

Однако выход на этот рынок гигантов вроде Microsoft и Meta✴ сократил возможности привлечения средств стартапами. В 2024 году в этой сфере отмечены всего пять раундов финансирования, тогда как в 2022 году был 21 раунд. Кроме того, теперь в некоторых стартапах соответствующего профиля начались и увольнения, а израильская Datagen, основанная ещё в 2018 году, подала заявление о банкротстве. При этом Scale AI, основанная чуть раньше, сумела привлечь $1 млрд.

Источник изображения: Christian Dubovan/unsplash.com

Развитие ИИ также значительно увеличивает энергопотребление, например, ИИ-поиск Google, по слухам, требует в 10 раз больше энергии, чем обычный. По информации Международного энергетического агентства (IEA), спрос на электроэнергию, связанный ЦОД. ИИ и криптовалютами, достиг в 2022 году 460 ТВт∙ч, а к 2026 году должен вырасти до 620–1050 ТВт∙ч.

По оценкам IEA к 2026 году отрасли на основе ИИ, возможно, будут потреблять в 10 раз больше энергии, чем в 2023 году. Компенсировать спрос частично могут технологические инновации в сфере энергетики. Исследователи Central Research Institute of Electric Power Industry (CRIEPI) отмечают, что развитие энергосберегающих технологий может вдвое снизить рост спроса на электричество. Впрочем, коммерческая судьба таких проектов не всегда благоприятна.

Источник изображения: Jani Brumat / Unsplash

Развитию ИИ угрожает и рост потребления воды системами охлаждения ЦОД. В 2023 году Microsoft сообщала о 23-% росте потребления воды до 7,844 млн м³, в основном из-за расширения ЦОД. Например, обучение модели OpenAI GPT-3 с 175 млрд параметров потребовало 700 м³ только на охлаждение серверов в новейшем американском ЦОД Microsoft. С учётом воды, потраченной при генерации энергии и производстве оборудования, расход составил и вовсе 5,4 тыс. м³. А при эксплуатации GPT-3 каждый диалог из 10–50 запросов обходился в 0,5 л воды. К 2027 году спрос на воду на охлаждение и производство энергии во всех ЦОД должен достичь 4,2–6,6 млрд м³/год. Приблизительно столько за полгода потребляет Великобритания.

Источник изображения: Ra Dragon / Unsplash

Наконец, угрозу индустрии ИИ представляет дефицит меди. Спрос на медь растёт вместе со спросом на возобновляемую энергию, электротранспорт и генеративный ИИ. По данным JPMorgan Chase & Co. К 2030 году только ИИ ЦОД могут требовать 2,6 млн т меди ежегодно. Каждый дополнительный МВт ёмкости может требовать 20–40 т меди. Дефицит предложения меди по прогнозам вырастет до 4 млн т в год к 2030 году, спрос ИИ-индустрии добавит этому показателю ещё 2,6 млн т. Здесь тоже могут помочь новые технологии, способные прямо или косвенно снизить спрос или замедлить его рост.

По оценкам Macquarie Investment Bank, ежегодный рост спроса на медь может быть ограничен 200 тыс. т до 2030 года — другие аналитики куда более пессимистичны. Оценка потребления для ЦОД составляет 27 т/МВт, что приблизительно соответствует оценкам JPMorgan. В Macquarie отмечают, что технологии энергосбережения помогут компенсировать рост энергопотребления ИИ-инфраструктурой, а также рост использования меди в отрасли.

Nautilus Data Technologies выставила свой смонтированный на барже ЦОД в Стоктоне (Калифорния) на продажу. По информации Datacenter Dynamics, это первый коммерческий плавучий ЦОД Nautilus, от которого компания решила отказаться, чтобы и сфокусироваться на продвижении других проектов, в частности, экоустойчивых модульных платформ EcoCore.

ЦОД уровня Tier III введён в эксплуатацию в 2021 году. ЦОД использует воду в качестве внешнего охлаждающего контура, благодаря чему уровень PUE не превышает 1,15 круглый год. Поддерживаются стойки мощностью до 55 кВт. Объект площадью 1858 м² состоит из четырёх машинных залов. На земле расположено офисное здание и склад. На сегодня клиентами арендованы 5,58 МВт из имеющихся 6,5 МВт.

Источник изображения: Nautilus Data Technologies

Весь комплекс доступен для покупки за $45 млн, при этом Nautilus намерена сохранить за собой долю в 15 %. Также компания объявила, что может поделиться практическим опытом эксплуатации необычного дата-центра. В компании заявляют, что объект в Стоктоне доказал жизнеспособность и эффективность подхода, а полученный опыт лёг в основу EcoCore COOL и других инфраструктурных решений, которые компания намерена продвигать на мировом рынке ЦОЛ.

Компания разрабатывает несколько собственных проектов ЦОД, включая наземный в штате Мэн и плавучие объекты в США и Франции. Однако дальше планов, по-видимому, дело не пошло, поскольку для успешного завершения проектов требуются партнёры и инвестиции. Впрочем, теперь компания сфокусирована на EcoCore. Ранее сообщалось, что Nautilus будет поставлять модули EcoCore для кампуса Start Campus в Португалии, полноценная реализация которого тоже под вопросом.

План компании Meta✴ по строительству дата-центра с питанием от АЭС столкнулся с неожиданным препятствием. По данным The Register, его реализации помешали насекомые, точнее — редкий вид пчёл, обосновавшийся на «спорной» территории.

По словам главы компании Марка Цукерберга (Mark Zuckerberg), обнаружение редкого вида насекомых на участке будущей стройки оказало влияние на решение регуляторов, в конце концов отклонивших проект ЦОД, сообщает Financial Times. Meta✴ вела переговоры об энергоснабжении нового ИИ ЦОД с оператором действующей электростанции, рассчитывая получать безуглеродную энергию в больших объёмах.

Неизвестно, где именно должны были построить ЦОД. В 2018 году Electric Power Research Institute (EPRI), занимающаяся исследованиями чистой энергетики, выступил с инициативой Power-In-Pollinators, в рамках которой энергокомпании должны были поддержать насекомых-опылителей вроде пчёл и бабочек. В частности, речь шла о восстановлении их популяций на территории бывших АЭС. Сегодня EPRI Pollinator Stewardship Dashboard включает 19 компаний-участников.

Источник изображения: Sandy Millar/unsplash.com

ИИ-вычисления требуют немало энергии, поэтому гиперскейлеры в США заинтересованы в атомных проектах для удовлетворения спроса на электричество без использования ископаемого топлива. В сентябре Microsoft заключила сделку сроком на 20 лет, связанную с возобновлением работы АЭС Three Mile Island (Crane Clean Energy Center). В прошлом месяце Google объявила о сделке с Kairos Power о покупке энергии, полученной от малых модульных реакторов (SMR). Oracle заявила, что получила разрешения на строительство трёх SMR для питания ИИ ЦОД ёмкостью более 1 ГВт.

В недавнем отчёте о финансах Meta✴ подняла нижний порог капитальных затрат в 2024 году с $37 млрд до $38 млрд, верхний порог сохранился на уровне $40 млрд. Значительная часть этих расходов предназначена для строительства и обслуживания ИИ ЦОД. Впрочем, с препятствиями в попытке получить атомную энергию для своих ЦОД столкнулась и Amazon — регулятор отказал в увеличении поставок энергии кампусу AWS от АЭС Susquehanna.

AMD и Fujitsu объявили о подписании меморандума о взаимопонимании с целью формирования стратегического партнёрства, направленного на создание вычислительных платформ для ИИ и HPC. Предполагается, что сотрудничество охватит различные сферы — от разработки специализированных решений до коммерциализации.

Речь идёт об объединении передовых аппаратных решений в области CPU и GPU с сопутствующим ПО. Партнёры намерены содействовать формированию открытой экосистемы для задач ИИ. В частности, упомянуты Arm-процессоры Fujitsu MONAKA и ускорители AMD Instinct. Стороны намерены задействовать открытый программный стек AMD ROCm и специализированный софт Fujitsu для изделий с архитектурой Arm.

В целом, сотрудничество будет сосредоточено на трёх ключевых направлениях — инжиниринг, экосистемы и бизнес. Партнёры рассчитывают создать инновационные вычислительные платформы для ИИ и HPC к 2027 году. AMD и Fujitsu также будут сообща работать над маркетинговыми кампаниями и улучшать взаимодействие с заказчиками. Например, планируется создание совместного центра для клиентов.

Источник изображения: AMD

«Объединяя инновационную технологию графических чипов AMD с эффективными и высокопроизводительными процессорами Fujitsu, мы стремимся создать среду, в которой больше компаний смогут использовать инструменты ИИ при одновременном снижении энергопотребления в дата-центрах», — говорит Вивек Махаджан (Vivek Mahajan), корпоративный вице-президент и технический директор Fujitsu.

Нужно отметить, что ранее Fujitsu заключила соглашение о сотрудничестве с Supermicro. Компании займутся разработкой СЖО для ЦОД, а также серверов следующего поколения на чипах Fujitsu MONAKA для широкого спектра рабочих нагрузок — от ИИ и НРС до облачных и периферийных задач. Два года назад AMD также подписала аналогичное соглашение о сотрудничестве с европейским разработчиком серверных Arm-процессоров SiPearl.