Исследователи Microsoft опубликовали результаты анализа энергопотребления, затрат воды и выбросов дата-центров на протяжении их жизненного цикла. Учитывались даже выбросы в инфраструктурной цепочке поставок ЦОД и возможная утилизация объектов, сообщает Datacenter Dynamics.

Как заявляют в Microsoft, проведение оценки жизненного цикла ЦОД (Life Cycle Assessment, LCA) важно ещё на ранних этапах проектирования. Применение инструментов LCA способствует принятию более обоснованных инженерных решений с учётом совокупной стоимости владения, производительности, экоустойчивости и др. Компания предлагает отрасли использовать её LCA-инструментарий при постройке новых ЦОД.

В рамках своего исследования Microsoft два года изучала четыре технологии охлаждения: фрикулинг, прямое жидкостное охлаждение (DLC), однофазная и двухфазная иммерсионные СЖО. Правда, основной акцент делался на изучение систем охлаждения для CPU, а не ИИ-ускорителей.

Источник изображений: Microsoft/Nature

Исследование показало, что использование водоблоков и погружного охлаждения позволяет сократить выбросы парниковых газов на 15–21 %, потребление электричества на 15–20 % и воды — на 31–52 % в течение всего жизненного цикла ЦОД — в сравнении с традиционными воздушными системами охлаждения.

Основной вывод — многообещающей технологией является двухфазное иммерсионное охлаждение, способное снизить воздействие на окружающую среду по всем параметрам. Однако такие системы пока применяют PFAS-химикаты, которые с переменным успехом вытесняют регуляторы Евросоюза и США. Другими словами, в будущем использование таких СЖО могут ограничить. Кроме того, сама Microsoft изучает, но внедряет подобные системы в своих ЦОД ограниченно. Также отмечается, что DLC может быть не менее эффективным, чем погружные системы обоих типов.

Дополнительно в статье дана количественная оценка экономии электричества и воды, а также сокращения выбросов при переходе от типичной системы энергоснабжения к 100 % применению возобновляемых источников энергии. Установлено, что выбросы парниковых газов, например, можно сократить на 50–90 % вне зависимости от того, какие применяются технологии охлаждения.

Корпорация Intel на мероприятии Foundry Direct Connect продемонстрировала экспериментальную систему жидкостного охлаждения процессоров. Решение, которое находится в разработке в течение нескольких лет, проектируется с прицелом на наиболее мощные чипы для задач ИИ и НРС.

В отличие от других технологий прямого жидкостного охлаждения (DLC) новая система Intel предполагает применение специального блока, монтируемого непосредственно поверх корпуса CPU. Блок оснащён медными микроканалами, по которым жидкость может направляться к наиболее горячим зонам.

Intel утверждает, что система способна отводить тепло от чипов с TDP до 1000 Вт с использованием стандартной охлаждающей жидкости. Уже готовы рабочие прототипы для процессоров в исполнениях LGA и BGA. Корпорация продемонстрировала возможности решения на примере изделий Core Ultra и Xeon.

Источник изображения: Tom's Hardware / Future

Известно, что для системы предусмотрено применение термоинтерфейса TIM (Thermal Interface Material) на основе жидкого металла. Этот материал в сравнении с обычным полимерным TIM обеспечивает улучшение теплового контакта. Intel работает над разными вариантами термоинтерфейса для различных процессоров.

В целом, по заявлениям Intel, предложенная технология даёт возможность повысить эффективность отвода тепла на 15–20 % по сравнению с традиционным прямым жидкостным охлаждением на кристалле с отсоединенной процессорной крышкой. В настоящее время корпорация продолжает дорабатывать систему для последующего практического внедрения в дата-центрах.

Компания JetCool, которая в конце 2024 года была куплена производителем электроники и инфраструктуры для дата-центров Flex, представила блок распределения охлаждающей жидкости (CDU) SmartSense для HPC/ИИ ЦОД. Температура на входе может составлять более +60 °C, что устраняет необходимость в чиллерах, а также сокращает потребление энергии и воды. SmartSense может использоваться для охлаждения стоек мощностью до 301 кВт. Возможно масштабирование до 2,1 МВт для охлаждения целого ряда стоек.

Решение SmartSense выполнено в форм-факторе 6U. Говорится о совместимости со стойками типоразмера 19″ и ORv3 глубиной 42″ (1070 мм) и более. Применены высокоэффективные насосы с резервирование, работающие на скорости 3600 об/мин, что обеспечивает низкий уровень шума. Типовая потребляемая мощность составляет 2000 Вт (максимум 3400 Вт). Скорость потока может достигать 400 л/мин. Диапазон температур теплоносителя — от +15 до +70 °C.

Источник изображения: JetCool

SmartSense CDU может использоваться в сочетании с водоблоками SmartPlate, которые специально разработаны для удовлетворения жёстких требований к теплоотводу в эпоху ИИ. Такое решение, как утверждается, обеспечивает возможность эксплуатации оборудования при больших нагрузках даже в условиях высокой температуры окружающей среды.

Компания Flex обещает всестороннюю поддержку заказчиков, приобретающих блоки SmartSense. В число услуг входят установка, интеграция, тестирование и ввод систем в эксплуатацию. Благодаря глобальной логистической инфраструктуре Flex гарантирует доступность критически важных запасных частей, что сведёт к минимуму перебои в обслуживании, заявляет компания.

Google представил технологию питания 400 В постоянного тока (DC) и систему жидкостного охлаждения пятого поколения Project Deschutes для стоек нового поколения, которы призваны поддержать стремительное развитие ИИ. В течение последних десяти лет компания использует питание 48 В DC, но переход к новому стандарту позволит повысить максимальную мощность на одну стойку со 100 кВт до 1 МВт.

Ожидается, что отдельные стойки с ИИ-системами будут потреблять свыше 500 кВт уже к 2030 году. Так, грядущий суперускоритель NVIDIA Rubin Ultra NVL576, который появится в 2027 году, будет «упакован» в стойку нового поколения Kyber и потреблять порядка 600 кВт. Google, надо полагать, разработает собственную модификацию данного ускорителя, адаптированного к её дата-центрам, как уже сделала для GB200 NVL72.

Использование 400 В позволяет задействовать цепочку поставок, используемую индустрией электромобилей, что способствует снижению затрат и повышению качества. Совместно с Meta✴ и Microsoft компания Google работает над проектом Mt. Diablo, в рамках которого вырабатываются общие стандарты электрических и механических интерфейсов. Первая версия спецификаций (v0.5) будет доступна для отраслевого обсуждения в мае 2025 года.

Источник изображения: Google

Подсистема питания в Mt. Diablo вынесена в отдельный модуль (sidecar). Это увеличивает полезное пространство в серверных стойках, позволяя целиком отдать их под ускорители, и повышает общую энергоэффективность приблизительно на 3 %, что в масштабах гиперскейлера очень существенно. В перспективе рассматривается переход на прямое распределение высоковольтного постоянного тока внутри ЦОД для ещё большей эффективности и повышения плотности.

Источник изображения: Google

С резким повышением энергопотребления чипов использование СЖО стало неизбежным. В последние семь лет Google развернула СЖО в более 2 тыс. кластеров TPU Pod. Впервые жидкостное охлаждение стало применяться для ИИ-ускорителей TPU v3, появившихся в 2018 году. Компания использует водоблоки, что позволяет практически удвоить плотность размещения вычислительных мощностей в сравнении с воздушным охлаждением. При переходе от TPU v2 к TPU v3 это также позволило вчетверо увеличить размер кластеров. СЖО применяются и для ускорителей Ironwood (TPU v7).

CDU-архитектура Project Deschutes, в которой используются резервные теплообменники и насосы, обеспечивает уровень доступности 99,999 %. Пятое поколение Project Deschutes Google планирует передать Open Compute Project (OCP) в 2025 году. Публикация спецификаций, проектных данных и рекомендаций по эксплуатации ускорит массовое внедрение СЖО в индустрии. В компании уверены, что совместные усилия помогут индустрии справиться с будущими вызовами в индустрии ИИ и масштабировать вычислительные мощности и дальше.

ИИ-облако AI Green Bytes строит в Париже дата-центр с иммерсионной системой охлаждения, основным отличием которой от обычных решений будет применение охлаждающей жидкости Oleon Qloe растительного происхождения, сообщает Datacenter Dynamics. В AI Green Bytes подчёркивают, что жидкость Qloe — передовая разработка для экоустойчивых ИИ-вычислений. Новый объект обеспечит «непревзойдённую эффективность» с минимальным воздействием на окружающую среду.

ЦОД должен открыться в июне 2025 года, это будет первый объект AI Green Bytes с иммерсионной системой охлаждения. Каждая ёмкость способна охлаждать IT-оборудование мощностью 361 кВт. Общая мощность объекта не разглашается. Ранее компания представила концепцию модульного ЦОД AI Green Qube площадью 400 м², способного вместить 3,5 тыс. ИИ-ускорителей. Правда, компания не уточняет, основан ли парижский объект на том же самом дизайне.

ИИ-стартапа AI Green Bytes был основан в Норвегии 2024 году. Oleon же является подразделением французской компании Avril, специализирующимся на разработке «зелёных» химикатов. Жидкость Qloe, по словам компании, полностью биоразлагаема и нетоксична, но при этом обеспечивает высококачественное охлаждение.

Источник изображения: Submer

В 2022 году американская продовольственная компания Cargill представила собственную жидкость растительного происхождения для иммерсионных СЖО — NatureCool 2000. Эта жидкость, на 90 % состоящая из масел растительного происхождения, тоже является безопасной и биоразлагаемой. Синтетическая жидкость Synmerse DC от Perstorp (дочернее предприятие Petronas) также заявлена как биоразлагаемая. О её составе разработчик ничего говорит, сообщая лишь, что она не содержит PFAS-химикатов.

Компания Microsoft намерена развернуть системы охлаждения LG Electronics в своих дата-центрах. Речь идёт о неизвестном пока числе готовящихся к работе ИИ ЦОД, сообщает Datacenter Dynamics. О партнёрстве объявлено после того, как LG Electronics представила обновлённую серию охлаждающих решений, объединив в одном портфолио существующие и новые решения, в том числе СЖО.

Как заявили в LG, между смартфонами дома, ноутбуками на работе и, например, смарт-ТВ стоят ЦОД, играющие ключевую роль в повседневной жизни. А её решения для охлаждения играют решающую роль в обеспечении корректной работы серверного оборудования. LG намерена стать уникальным игроком, она готова удовлетворить спрос на соответствующие компоненты будущим проектам ЦОД и упростить строительство с помощью эффективных предложений «под ключ».

LG предлагает водоблоки, CDU, чиллеры, системы кондиционирования, интеллектуальную платформа мониторинга и управления охлаждением, а также другие комплексные решения. Компания объявила, что намерена сотрудничать с Microsoft для внедрения систем терморегулирования LG и технологии охлаждения в дата-центрах «следующего поколения». Объёмы и рамки сделки не раскрываются.

Источник изображения: LG Electronics

Ранее в этом году LG заявляла, что будет работать с Microsoft над рядом ИИ-проектов, включая создание ИИ-агентов для разных объектов, от домов до транспорта, отелей и офисов. Компания начала более агрессивно развивать решения для сектора ЦОД в прошлом году и заявила, что подписала крупную сделку на более 100 чиллеров для ЦОД, которая оценивается в десятки миллионов долларов.

Fujitsu, Supermicro и Nidec объявили об объединении усилий с целью снижения энергопотребления ЦОД. Речь идёт о создании платформы, которая поможет операторам дата-центров повысить коэффициент эффективности использования энергии (PUE).

Отмечается, что стремительное внедрение ИИ приводит к быстрому росту нагрузки на ЦОД. Это, в свою очередь, провоцирует увеличение энергопотребления, что объясняется установкой мощных серверов с ускорителями на базе GPU. Тем не менее, многие дата-центры продолжают использовать воздушное охлаждение. Хотя жидкостное охлаждение обеспечивает значительно более высокую эффективность, проектирование, строительство и эксплуатация таких систем требуют высокого уровня технических знаний и навыков.

В рамках нового проекта партнёры объединят ПО для мониторинга и управления жидкостным охлаждением Fujitsu, высокопроизводительные GPU-серверы Supermicro и высокоэффективную систему жидкостного охлаждения Nidec. В частности, Fujitsu намерена использовать свой 40-летний опыт в области СЖО, которые применяются в суперкомпьютерах. Supermicro предоставит высокопроизводительные серверные комплексы высокой плотности, оптимизированные для жидкостного охлаждения: такие устройства позволят сократить энергопотребление и снизить уровень шума благодаря отсутствию вентиляторов.

Источник изображения: Nidec

Nidec будет отвечать за поставки компонентов СЖО, включая блоки распределения охлаждающей жидкости (CDU), насосы и пр. Система охлаждения Nidec, как ожидается, улучшит управление температурой и снизит энергопотребление.

В целом, как заявляют партнёры, новая инициатива поможет повысить общую энергоэффективность ЦОД до 40 % по сравнению с традиционными методами воздушного охлаждения. Fujitsu оценит преимущества решения в своем центре обработки данных Tatebayashi.

Компания CoolIT Systems анонсировала блок распределения охлаждающей жидкости (CDU) CHx2000 для дата-центров, ориентированных на задачи ИИ и НРС. Новинка обеспечивает отвод более 2 МВт тепла: это, как утверждается, на сегодняшний день самый высокий показатель для CDU данного класса.

Устройство выполнено в виде шкафа с размерами основания 750 × 1200 мм. Заявленный расход жидкости составляет 1,2 л/мин. на кВт (LPM/kW): допускается охлаждение до двенадцати стоек NVIDIA GB200 NVL72 мощностью 120 кВт. По сравнению со своим предшественником (модель CHx1500) новинка обеспечивает повышение охлаждающей способности на 66 %.

При создании CHx2000 компания CoolIT Systems сделала упор на долговечность, безотказную работу и простоту обслуживания. Применены два насоса с возможностью горячей замены (N+N), обеспечивающие производительность 1500 л/мин. Трубы изготовлены из нержавеющей стали. В конструкции используются 4″ муфты Victaulic.  Благодаря резервированию критически важных компонентов доступность находится на уровне 99,9999 %.

Источник изображения: CoolIT Systems

Предусмотрена интегрированная система управления и мониторинга (Redfish, SNMP, TCP/IP, Modbus, BACnet и др.). Причём допускается групповое управление одновременно до 20 экземпляров CDU. Во время обслуживания возможен доступ с лицевой и тыльной сторон с поддержкой горячей замены насосов, фильтров и датчиков. Заявленная потребляемая мощность составляет 12,24 кВт при работе одного насоса (1500 л/мин). Во фронтальной части корпуса располагается информационный дисплей.

Блок CHx2000 уже доступен для заказа. CoolIT Systems предоставляет комплексную поддержку и услуги по проектированию, монтажу и обслуживанию в более чем 70 странах по всему миру.

На рынке появляется всё больше модульных решений для ЦОД, позволяющих ускорить их ввод в эксплуатацию. Так, Vertiv представила комплексное решение SmartRun, которое объединяет шину распределения питания, сеть трубопроводов жидкостного охлаждения, систему изоляции «горячего коридора» и сетевую инфраструктуру, сообщает The Register.

По словам Vertiv, SmartRun предлагает на 85 % более быстрое развёртывание благодаря быстровозводимой модульной конструкции, готовой к работе в формате plug-and-play, и установке всех компонентов за один подход. Сложность разводки минимизируется за счёт размещения труб и кабелей над «горячим коридором». Впрочем, пока никаких дополнительных деталей Vertiv не приводит.

Модульными системами как таковыми сейчас никого не удивить, у самой Vertiv уже есть такие решения. Однако когда разговор заходит о заранее изготовленных на заводе системах, то нередко речь идёт о полностью готовых микро-ЦОД, упакованных в контейнеры со всем необходимым. Подобные решения есть опять-таки у самой Vertiv, Schneider Electric, EcoBlox, Armada, Danfoss, GreenMDC и множества других вендоров. Нечто похожее на SmartRun предлагает Nautilus.

Источник изображений: Vertiv

Не так давно новую модульную инфрастурктуру ЦОД для Digital Realty реализовала Schneider Electric — 10-МВт ЦОД HER1 в Ираклионе (Крит, Греция) был построен за 12 месяцев. Он имеет два зала по 19 стоек и работает на 100 % возобновляемой энергии. Schneider Electric предоставила два энергомодуля с MV/LV трансформаторами, ИБП и модуль воздушного охлаждения, а также оснастила два зала электропитанием и охлаждением. Все системы управляются платформой EcoStruxure.

Источник изображений: Vertiv

По расчётам Omdia, мировые продажи предварительно собранных модульных ЦОД обеспечат $10,8 млрд выручки в 2028 году. Основные преимущества — скорость сборки, предварительное тестирование и низкая стоимость строительства. Хотя в Европе, по данным Schneider Electric, всё ещё доминирует традиционное строительство ЦОД, модульные решения становятся всё популярнее — если оператор строит ЦОД с нуля, то экономия может составить до 30 %, а сроки запуска сократятся.

Synergy Research Group считает, что модульная, заранее подготовленная инфраструктура, вероятно, останется относительно малой частью рынка, поскольку её невозможно масштабировать каким-либо разумным образом. По данным экспертов IDC, перспективы подобных технологий также вызывают вопросы. В компании тоже говорят, что строить и быстро вводить в эксплуатацию такие решения легко, а вот масштабировать — довольно сложно. Другими словами, доля таких ЦОД составит менее 10 % и ситуация вряд ли изменится в обозримом будущем.

Южнокорейская LG Electronics (LG) представила серию передовых систем охлаждения для дата-центров. В том числе речь идёт о чиллерах, системах воздушного и водного охлаждения серверов, а также специальном продукте — LG Building Energy Control (BECON), сообщает пресс-центр компании. Новое оборудование и ПО, как ожидается, откроет компании дорогу на североамериканский рынок оборудования для ЦОД.

Гибридные решения LG, обеспечивающие охлаждение как чипов, так и помещений, предназначены для ИИ ЦОД нового поколения с высокой плотностью размещения вычислительных мощностей. Для узлов компания прямое жидкостное охлаждение чипов и фирменный модульный CDU (Coolant Distribution Unit), использующий высокоэффективные «эксклюзивные» инверторный насос и теплообменник. Благодаря компактности CDU можно создавать различные конфигурации, включающие до восьми блоков.

Система имеет встроенный 10,4″ сенсорный дисплей, который упрощает контроль и обслуживание системы. Сенсоры (физические и виртуальные) обеспечивают своевременную диагностику. Более того, CDU применяет технологию LG Active Load Sharing для оптимизации производительности под каждую нагрузку, что в целом повышает эффективность системы.

Источник изображений: LG

LG также разработала собственные водоблоки, готовые справиться с новейшими ускорителями с высоким TDP. Решение использует параллельную подачу охлаждающей жидкости к чипам для обеспечения высоких показателей отвода тепла. Для максимизации зоны теплообмена используются микроконалы (Skived Fin). Более того, водоблок можно кастомизировать при помощи ИИ под конкретные чипы. Для минимизации риска утечки охлаждающей жидкости, LG использует специальную пайку, дополнительно каждый водоблок подвергается тройной проверке.

Чиллер LG Water-Cooled Oil-Free Centrifugal Chiller, по данным компании, обеспечивает исключительную энергоэффективность благодаря использованию фирменных магнитных подшипников LeviTech. Данная технология, в комбинации с ИИ-управлением, помогает снизить потери энергии, повысить надёжность и способствует быстрому восстановлению после неожиданных отключений электричества. Безмасляный инверторный чиллер применяет экобезопасные хладагенты.

Воздушные чиллеры (ACC) доступны как в инверторном винтовом, так и в безмасляном центробежном исполнении и включают важные компоненты вроде собственного винтового компрессора LG. Благодаря поддержке фрикулинга ACC может плавно переключаться с охлаждения с хладагентом на естественное охлаждение (без хладагента), повышая надёжность и эффективность системы. Специальные механизмы предотвращают перебои в работе, а трёхступенчатая система возврата масла увеличивает надёжность и безопасность системы дополнительно.

Источник изображения: LG

Идеальным дополнением к ACC называется Computer Room Air Handler (CRAH), использующий вентиляторы с электронно-коммутируемыми двигателями (EC) с коррекцией коэффициента мощности и 3D-лопасти, а также специальные теплообменники для минимизации энергозатрат. Кроме того, CRAH получил модульную конструкцию решётки, упрощающую установку и обслуживание.

Для будущих решений в недавно сформированной лаборатории LG HVAC Solution Lab создан испытательный стенд, способный точно моделировать различные сценарии использования оборудования в разных условиях среды.

Все решения, от установок-чиллеров до D2C-систем и оборудования для охлаждения помещений, могут легко управляться с помощью системы BECON, представляющей собой единую централизованную платформу для управления и мониторинга охлаждения серверов и чиллерных систем. Она координирует работу каждого подключенного решения для обеспечения заданных температуры и уровня влажности. Заодно осуществляется и анализ данных для обеспечения максимальной энергоэффективности решений LG.