В Meta✴ намерены снабжать свои американские дата-центры геотермальной (петротермальной) энергией. По данным Datacenter Dynamics, компания анонсировала сделку со стартапом Sage Geosystems об использовании технологий последнего для обеспечения ЦОД электричеством.

Sage Geosystems будет использовать разработку Geopressured Geothermal System (GGS) для поставки клиенту «зелёной» энергии. Первая фаза проекта должна заработать в 2027 году. В Meta✴ рассчитывают получить до 150 МВт базовой петротермальной мощности для своих объектов. Пока не сообщается, какие именно ЦОД будут снабжаться энергией из «безуглеродных» источников. Впрочем, в Sage проговорились, что речь идёт о местности к востоку от Скалистых гор.

В Sage Geosystems назвали проект прекрасным примером того, как государственный и частный сектор могут сотрудничать в деле перехода на «чистую» энергию и поблагодарили Министерство энергетики (DOE) за поддержку коммерциализации инновационных решений. Как сообщают в компании, в основном геотермальная энергия используется в штатах Невада, Юта и Калифорния. Что касается Meta✴, то компания заключила контракты на поставку более 12 ГВт электричества из возобновляемых источников по всему миру, став одним из крупнейших корпоративных покупателей возобновляемой энергии в мире.

Источник изображения: Job Savelsberg/unsplash.com

В Sage заявляют, что петротермальные системы — более распространённый и доступный источник энергии, чем гидротермальные скважины. Петротермальные системы прокачивают в замкнутом контуре воду между поверхностью Земли и подземными горячими породами. Можно бурить как собственные скважины, так и перепрофилировать некоторые «сухие» нефтяные скважины. Также Sage работает над технологиями долговременного хранения энергии. В прошлом году небольшой пилотный проект смог обеспечить 200 кВт в течение более 18 часов и 1 МВт — в течение 30 минут.

Техасская Sage Geosystems основана в 2020 году бывшими сотрудниками Shell. В раунде финансирования серии A компания привлекла $17 млн. Средства будут направлены на строительство первого коммерческого GGS-проекта компании мощностью 3 МВт в Техасе, недалеко от Сан-Антонио. Геотермальная электростанция должна заработать ещё до конца 2024 года. Ранее Sage подписала сделку с американской армией для обеспечения энергией военных объектов в Нью-Мексико и Техасе. Также она изучает возможность использования геотермальной энергетики в интересах базы ВВС США в Хьюстоне (Техас).

Источник изображения: Federica Bisso/unsplash.com

Ранее Google заключила контракт с Fervo Energy и NV Energy на покупку более 100 МВт геотермальной энергии в Неваде. Соглашение о покупке «чистой» энергии (PPA) заключила с Contact Energy в Новой Зеландии компания Microsoft, также она строит геотермальный кампус в Кении вместе с G42.

В Индонезии Star Energy обсуждает с операторами ЦОД строительство объектов недалеко от геотермальных электростанций, PDG также подписала «геотермальный» контракт для своих ЦОД в Индонезии. На Филиппинах Converge заключила соглашение о поставках аналогичной энергии с местной электрокомпанией. В Калифорнии стартап CalEthos намерен построить крупный кампус с энергоснабжением из аналогичных источников. Наконец, итальянский стартап Geoveda Srl намерен построить небольшой ЦОД с геотермальным питанием в Тоскане.

Корпорация Intel, по сообщению ресурса VideoCardz, представила процессоры Xeon W-2500 и W-3500 поколения Sapphire Rapids Refresh. Эти чипы предназначены для применения в рабочих станциях и высокопроизводительных настольных компьютерах. Они придут на смену семействам Xeon W-3400 и W-2400.

В серию Xeon W-2500 вошли изделия с 26, 22, 18, 14, 12, 10 и 8 ядрами. Во всех случаях поддерживается технология многопоточности. Объём кеша L3 варьируется от 22,5 до 48,75 Мбайт. Версии с 8 и 10 ядрами могут работать с памятью DDR5-4400, все другие модели — с DDR5-4800 (четыре канала). Показатель базовой мощности (Processor Base Power, PBP) варьируется от 175 до 250 Вт.

Источник изображений: VideoCardz

Семейство Xeon W-2500 возглавляет модель Xeon W7-2595X с 26 ядрами: базовая частота равна 2,8 ГГц, максимальная — 4,8 ГГц. Этот чип, как и другие решения с суффиксом «X», имеет разблокированный множитель, благодаря чему обеспечивается возможность разгона. Все процессоры серии поддерживают 64 линии PCIe 5.0. Цена варьируется от $609 до $2039.

Более мощные изделия Xeon W-3500 насчитывают от 16 до 60 ядер с поддержкой многопоточности. Размер кеша L3 — от 45 до 112,5 Мбайт. Все процессоры могут работать с памятью DDR5-4800 (восемь каналов). Количество линий PCIe 5.0 равно 112. Значение PBP находится в диапазоне от 290 до 385 Вт. На вершине семейства располагается модель Xeon W9-3595X с базовой частотой 2,0 ГГц и максимальной частотой 4,8 ГГц. Цена варьируется от $1339 до $5889. Новые процессоры рассчитаны на работу с материнскими платами на чипсете Intel W790.

Источник изображения: Intel

В рамках сделки по покупке компанией AMD поставщика серверных и облачных решений ZT Systems, компания Inventec, владеющая 10 % акций последней, выразила готовность продать свою долю за $411 289 377. По информации DigiTimes, Inventec помимо денег получит и акции AMD.

Inventec продаёт свою долю для укрепления финансовых позиций и, вероятно, концентрации усилий на других сферах бизнеса. Общая сумма сделки AMD по покупке ZT Systems составляет $4,9 млрд, 75 % стоимости будет выплачена денежными активами, оставшиеся 25 % — акциями самой AMD. В рамках сделки Inventec продаст простые акции и фондовые опционы в ZT Systems. После завершения сделки компания также получит около 884 тыс. акций AMD.

Источник изображения: ZTSYSTEMS

Поскольку AMD выразила намерение продать часть бизнеса ZT Systems, отвечающую непосредственно за производство, не исключено, что Inventec впоследствии захочет выкупить её. В самой компании отказались комментировать предположение. В Wistron, тоже выпускающей серверы для гиперскейлеров, на вопрос о возможной передаче ей производственных мощностей ZT Systems сообщили, что инициатива теперь принадлежит AMD и пока планов подобного «поглощения» нет.

Inventec начала поставлять серверы ключевым облачным провайдерам в 2019 году, в том числе Amazon, Microsoft и Meta✴, инвестировав и в ZT Systems. Позже Inventec и ZT Systems сотрудничали над производством серверов для NVIDIA. Inventec в этой цепочке занималась установкой материнских плат и общей подготовкой шасси серверов (уровень L6), а ZT Systems отвечала за финальную сборку и тестирование готовых серверов (L10), а также за интеграцию систем на заключительном этапе (L11).

На днях дата-центр «N1», проект которого реализуется компанией «Свободные Технологии Инжиниринг», успешно прошёл проверку для получения сертификата Uptime Institute. Компания сообщает, что ЦОД будет присвоен уровень Tier III Constructed Facility.

Объект мощностью 11,5 МВт (IT-ёмкость 6,3 МВт) и площадью 4860 м² реализуется компанией «Свободные Технологии Инжиниринг» под ключ в новом «Телекомплексе» рядом с Останкинской телебашней в Москве. ЦОД расположен в технологическом блоке последнего и имеет полностью автономную от остальной части здания инженерную инфраструктуру, 10 машинных залов, 2 MMR и специальный выделенный зал для телеком-операторов и IX.

Источник изображения: Свободные Технологии Инжиниринг

Уровень надёжности — Tier III по классификации Uptime Institute. Схема резервирования электропитания 6/5N, схема резервирования системы технологического кондиционирования — N+1, время работы от ИБП при максимальной нагрузке — не менее 15 минут. Схема электроснабжения стоек — 2N (и по два PDU). 2N-резервирование маршрутов прокладки ВОЛС, два независимых и разнесённых магистральных ввода.

ЦОД «N1» предлагает колокейшн-услуги и сопутствующие сервисы, в том числе услугу Smart Hands. Имеется 1020 стоек со средней мощностью на каждую по 6 кВт и максимальной — 10 кВт. В 2025 году планируется начать строительство на территории второй очереди ЦОД на 2000 стоек.

В огромной лаборатории в штаб-квартире Google в Маунтин-Вью (Калифорния, США) установлены сотни серверных стоек с ИИ-ускорителями TPU (Tensor Processing Unit) собственной разработки, с помощью которых производится обучение больших языковых моделей, пишет ресурс CNBC, корреспонденту которого компания устроила небольшую экскурсию.

Первое поколение Google TPU, созданное ещё в 2015 году, и представляет собой ASIC для обработки ИИ-нагрузок. Сейчас компания использует такие, хотя и более современные ускорители для обучения и работы собственного чат-бота Gemini. С 2018 года TPU Google доступны облачным клиентам компании. В июле этого года Apple объявила, что использует их для обучения моделей ИИ, лежащих в основе платформы Apple Intelligence.

TPU v1 (Источник изображений здесь и далее: Google)

«В мире есть фундаментальное убеждение, что весь ИИ, большие языковые модели, обучаются на (чипах) NVIDIA, и, конечно, на решения NVIDIA приходится львиная доля объёма обучения. Но Google пошла по собственному пути», — отметил гендиректор Futurum Group Дэниел Ньюман (Daniel Newman). Благодаря расширению использованию ИИ подразделение Google Cloud увеличило доход, и в последнем квартальном отчёте холдинг Alphabet сообщил, что выручка от облачных вычислений выросла на 29 %, впервые превысив $10 млрд за квартал.

Google была первым провайдером облачных вычислений, создавшим кастомные ИИ-чипы. Лишь спустя три года Amazon Web Services анонсировала свой первый ИИ-ускоритель Inferentia, Microsoft представила ИИ-ускоритель Azure Maia 100 в ноябре 2023 года, а в мае того же года Meta✴ рассказала об семействе MTIA. Однако лидирует на рынке генеративного ИИ компания OpenAI, обученная на ускорителях NVIDIA, тогда как нейросеть Gemini была представлена Google спустя год после презентации ChatGPT.

В Google рассказали, что впервые задумались о создании собственного чипа в 2014 году, когда в руководстве решили обсудить, насколько большими вычислительными возможностями нужно обладать, чтобы дать возможность всем пользователям поговорить с поиском Google в течение хотя бы 30 с каждый день. По оценкам, для этого потребовалось бы удвоить количество серверов в дата-центрах. «Мы поняли, что можем создать специальное аппаратное обеспечение, <…> в данном случае тензорные процессоры, для обслуживания [этой задачи] гораздо, гораздо более эффективно. Фактически в 100 раз эффективнее, чем было бы в противном случае», — отметил представитель Google.

С выходом второго поколения TPU в 2018 году Google расширила круг выполняемых чипом задач, добавив к инференсу обучение ИИ-моделей. Процесс создания ИИ-ускорителя не только отличается высокой сложностью, но и требует больших затрат. Так что реализация таких проектов в одиночку не по силам даже крупным гиперскейлерам. Поэтому с момента создания первого TPU Google сотрудничает с разработчиком чипов Broadcom, который также помогает её конкуренту Meta✴ в создании собственных ASIC. Broadcom утверждает, что потратила более $3 млрд в рамках реализации совместных проектов.

В рамках сотрудничества Google отвечает за собственно вычислительные блоки, а Broadcom занимается разработкой I/O-блоков, SerDes и иных вспомогательных компонентов, а также упаковкой. Самы чипы выпускаются на TSMC. С 2018 года в Google трудятся ещё одни кастомные чипы — Video Coding Unit (VCU) Argos, предназначенной для обработки видео.

Что касается TPU, то в этом году клиентам Google будет доступно шестое поколение TPU Trillium. Более того, им станут доступны и первые Arm-процессоры Axion собственной разработки. Google выходит на этот рынок с большим отставанием от конкурентов. Amazon выпустила первый собственный процессор Graviton в 2018 году, Alibaba Yitian 710 появились в 2021 году, а Microsoft анонсировала Azure Cobalt 100 в ноябре. Все эти чипы основаны на архитектуре Arm — более гибкой и энергоэффективной альтернативе x86.

Энергоэффективность имеет решающее значение. Согласно последнему экологический отчёту Google, с 2019 по 2023 год выбросы компании выросли почти на 50 %, отчасти из-за увеличения количества ЦОД для ИИ-нагрузок. Для охлаждения ИИ-серверов требуется огромное количество воды. Именно поэтому начиная с третьего поколения TPU компания использует прямое жидкостное охлаждение, которое только теперь становится практически обязательным для современных ИИ-ускорителей вроде NVIDIA Blackwell.

Компания HighPoint представила NVMe DAS с возможностью формирования RAID-массивов и интерфейсом подключения PCIe 4.0 x16.

Новая серия включает модели RocketStor 6541AW и 6542AW, которые предназначены для промышленных и периферийных платформ и профессиональных рабочих станций. Хранилища оснащены соответственно четырьмя и восемью вертикальными корзинами с поддержкой горячей замены. Возможна установка NVMe SFF-накопителей U.2/U.3 корпоративного класса суммарной ёмкостью до 0,5 Пбайт. Доступно формирование до четырёх независимых массивов RAID 0/1/10, которые могут быть загрузочными с точки зрения хоста.

Каждому накопителю предоставляется четыре линии PCIe 4.0. К хосту хранилище подключается посредством CDFP-кабеля (PCIe 4.0 x16) длиной 1 м и HHFL-карты расширения Highpoint RocketRAID 1544 (тоже PCIe 4.0 x16), которая обеспечивает выделенный x16-канал связи между хостом и устройством. Highpoint подчёркивает, что и в шасси, и в адаптере используются PCIe-коммутаторы Broadcom PEX88048, которые предоставляют 48 линий PCIe 4.0 с низким уровнем задержки, что позволяет получить высокую скорость передачи данных без потерь.

Источник изображения: RocketStor 6541AW (Источник здесь и далее: highpoint-tech.com)

Поддерживается установка SED-накопителей и шифрование данных, а сами устройства используют SecureBoot, что позволяет избежать запуска неавторизованного кода во время загрузки. Кроме того, при отключении от «родного» хост-адаптера данные в хранилище становятся недоступными.

RocketStor 6542AW с внешней платой контроллера

RocketStor 654x оснащены вентиляторами с низким уровнем шума, а возможность ручной регулировки оборотов позволяет настраивать интенсивность охлаждения в зависимости от условий эксплуатации. Возможно и полное отключение вентиляторов. На изображении задней панели также видны порт USB 2.0 Type-C (для перепрошивки) и LAN-порт RJ45 (для инвентаризации).

Габариты RocketStor 6541AW составляют 154,94 × 130,05 × 210,06 мм при массе 5,2 кг, 6542AW — 234,95 × 122,94 × 210,18 мм и 6,7 кг. Диапазон рабочих температур простирается от +5 °C до + 55 °C. Встроенный блок питания имеет мощность 250 Вт. Гарантия составляет два года. Поставки новинок начнутся в сентябре. Пока что на сайте производителя указана только стоимость старшей модели 6542AW, которая составляет $2300.

Южнокорейский стартап Rebellions представила на днях план развития своих ИИ-ускорителей. Как сообщает Business Korea, компания ускорит выпуск ИИ-чипов нового поколения, которые получат 4-нм модули памяти HBM3e производства Samsung. Samsung же будет отвечать за объединение чипов и HBM в одной упаковке.

Изначально к концу 2024 года планировалось наладить выпуск продукта Rebel Single с одним модулем памяти, но потом было решено выпустить гораздо более производительный вариант Rebel Quad с четырьмя 12-слойными (12-Hi) модулями HBM3e суммарной ёмкостью 144 Гбайт, тоже к концу текущего года. Новинка придёт на смену ускорителю ATOM, который оснащён всего лишь 16 Гбайт GDDR6.

Использование ёмкой и быстрой HBM3e-памяти считается одним из главных преимуществ Rebel Quad, по этому показателю новинки сравнимы с последними ускорители NVIDIA семейства Blackwell. При этом обещано, что новинки будут значительно энергоэффективнее решений NVIDIA и даже ускорителей Groq. Это по-прежнему серверные ускорители для обработки LLM вроде ChatGPT, но подойдут ли они для обучения ИИ-моделей, пока не уточняется.

Источник изображения: Rebellions

Сейчас Rebellions ориентируется на поставки комплексных ИИ-решений «стоечного уровня». В рамках концепуии Rebellion Scalable Design (RDS) будет предложены программно-аппаратные комплексы, которые позволят органично взаимодействовать многочисленным ускорителями и серверам с максимальной производительностью и энергоэффективностью. Речь идёт о решении, теоретически способном конкурировать с NVIDIA CUDA.

Корпорация Intel раскрыла некоторые технические характеристики SoC Xeon 6 поколения Granite Rapids-D, предназначенных для периферийных решений (edge), в том числе на базе платформы Intel Tiber Edge. Изделия, использующие чиплетную компоновку, появятся на рынке в 2025 году.

Процессоры базируются на производительных P-ядрах Redwood Cove. Каждое ядро получило по 64 Кбайт L1-кеша для инструкций и данных, а также L2-кеш объёмом 2 Мбайт. Конструкция SoC включает один или два вычислительных тайла, а также тайл ввода-вывода (I/O), отвечающий за реализацию PCIe, CXL и различных вспомогательных ускорителей. Вычислительные блоки производятся по техпроцессу Intel 3, IO-тайл — по техпроцессу Intel 4. Тайлы «сшиты» посредством EMIB.

Источник изображения: Intel

Xeon 6 Granite Rapids-D будут доступны в модификациях с поддержкой четырёх (2DPC) и восьми каналов памяти. Размеры BGA-упаковок — 77,5 × 50 мм и 77,5 × 56,5 мм соответственно. Говорится о поддержке DDR5-5600 м MCR-DIMM, 32 линий PCIe 5.0, 16 линий PCIe 4.0 и 16 линий CXL 2.0. Возможно использование до восьми Ethernet-портов 1/10/25GbE, до четырёх портов 50GbE или двух портов 100GbE. Ethernet-контроллер поддерживает классификацию пакетов и обработку ACL, предлагает различные планировщики и возможность программируемой обработки трафика.

Возможности Intel QAT (Quick Assist Technology) тоже значительно расширены. Во-первых, теперь в состав QAT входит медиаускоритель для обработки потокового видео на лету: (де-)кодирования и транскодирования, масштабирования, обрезки кадра и т.д. Говорится как минимум о поддержка 1080p@30 для AVC/HEVC/AV1. Видеопоток при необходимости можно тут же направить к процессорным ядрам с AMX. Во-вторых, появилась возможность в один проход сжать и зашифровать данные с попутной проверкой их целостности.

Источник изображения: Intel

Чипы также получили поддержку Intel DLB (Dynamic Load Balancer), Intel vRAN Boost, Intel Data Streaming Accelerator (DSA), Intel SGX (Software Guard Extensions), Intel TDX (Trust Domain Extensions). Кроме того, были значительно расширены возможности функции Intel RDT (Resource Director Technology), которая теперь позволяет отслеживать и управлять состоянием IO-устройств, включая PCIe, CXL, интегрированных ускорителей и т.д.

Встроенные ИИ-возможности обеспечивает более чем 8-кратный прирост быстродействия в Resnet-50 и более чем 6-кратное увеличение производительности в Visual Transformer по сравнению с Xeon D 2899NTN предыдущего поколения (с AVX512 VNNI) благодаря новым инструкциям AMX. Поддерживается работа в режиме FP16.

Intel пока не раскрывает максимальное количество вычислительных ядер у Xeon 6 Granite Rapids-D. Но в ходе презентации был упомянут вариант с 42 ядрами, работающий в связке со 128 Гбайт памяти DDR5-5600/4800. Процессоры будут предлагаться в версиях, оптимизированных для вычислительных нагрузок и edge-приложений с ИИ-функциями.

Южнокорейский стартап FuriosaAI на мероприятии анонсировал специализированный чип RNGD (произносится как «Renegade»), который позиционируется в качестве альтернативы ускорителям NVIDIA. Новинка предназначена для работы с большими языковыми моделями (LLM) и мультимодальным ИИ.

FuriosaAI основана в 2017 году тремя инженерами, ранее работавшими в AMD, Qualcomm и Samsung. Своё первое решение компания выпустила в 2021 году: чип Warboy представляет собой высокопроизводительный ЦОД-ускоритель, специально разработанный для рабочих нагрузок компьютерного зрения. Новое изделие RNGD, как утверждает FuriosaAI, является результатом многолетних инноваций.

Чип изготавливается по 5-нм техпроцессу TSMC. ИИ-ускоритель на базе RNGD выполнен в виде карты расширения PCIe 5.0 x16. Он наделён 48 Гбайт памяти HBM3 с пропускной способностью до 1,5 Тбайт/с и 256 Мбайт памяти SRAM (384 Тбайт/с). Показатель TDP находится на уровне 150 Вт, что позволяет использовать устройство в системах с воздушным охлаждением. Для сравнения: у некоторых ускорителей на базе GPU величина TDP достигает 1000 Вт и более.

Источник изображения: FuriosaAI

Утверждается, что RNGD обеспечивает производительность до 512 Тфлопс в режиме FP8 и до 256 Тфлопс в режиме BF16. Быстродействие INT8/INT4 достигает 512/1024 TOPS. Карта позволяет эффективно запускать открытые LLM, такие как Llama 3.1 8B. Говорится, что один PCIe-ускоритель RNGD обеспечивает пропускную способность от 2000 до 3000 токенов в секунду (в зависимости от длины контекста) для моделей с примерно 10 млрд параметров. В системе можно объединить до восьми карт для работы с моделями, насчитывающими около 100 млрд параметров.

RNGD основан на архитектуре свёртки тензора (Tensor Contraction Processor, TCP), которая, как отмечается, обеспечивает оптимальный баланс между эффективностью, программируемостью и производительностью. Программный стек состоит из компрессора моделей, сервисного фреймворка, среды выполнения, компилятора, профилировщика, отладчика и набора API для простоты программирования и развёртывания. Говорится, что чипы RNGD можно настроить для выполнения практически любой рабочей нагрузки LLM или мультимодального ИИ.

Компания MSI анонсировала материнскую плату MS-CF10, предназначенную для создания систем промышленной автоматизации, платформ видеонаблюдения, медицинского оборудования, edge-устройств и пр. Новинка выполнена в формате Mini-ITX с размерами 170 × 170 мм.

В зависимости от модификации применяется набор логики Intel R680E, Q670E или H610E. Во всех случаях возможна установка процессора Intel Raptor Lake-S Refresh в исполнении LGA 1700 с показателем TDP до 65 Вт. Имеются два слота SO-DIMM для модулей DDR5-5200 суммарным объёмом до 64 Гбайт.

Плата располагает одним слотом PCIe 5.0 x16, коннектором M.2 M-key (PCIe x4; NVMe, SATA-3.0) для SSD формата 2242/2280, разъёмом M.2 E-key (PCIe x1; USB 2.0; CNVi) для адаптера Wi-Fi/Bluetooth (формат 2230) и коннектором М.2 B-key (PCIe x1; USB 3.2 Gen2; USB 2.0) для сотового модема (формат 3042 + слот для SIM-карты). Предусмотрены также два порта SATA 3.0 для накопителей с возможностью формирования массивов RAID 0/1/5 (только у версий на чипсетах Intel R680E и Q670E).

Источник изображения: MSI

Все модификации платы оснащены тремя сетевыми портами 2.5GbE (контроллер Intel I226-LM и/или Intel I226-V), звуковым кодеком Realtek ALC897, контроллером ввода/вывода Fintek F81966D-I, чипом TPM 2.0. Возможен вывод изображения одновременно на четыре дисплея: LVDS с разрешением 1920 × 1200 точек @ 60 Гц, а также eDP, HDMI 2.0 и DP с разрешением 4096 × 2304 пикселя @ 60 Гц (во всех трёх случаях).

Интерфейсный блок содержит шесть портов USB 3.2 Gen2, три гнезда RJ-45 для сетевых кабелей, аудиогнёзда на 3,5 мм, разъёмы HDMI и DP. Через коннекторы на плате можно задействовать четыре последовательных порта, два порта USB 3.2 Gen1 и три порта USB 2.0. Диапазон рабочих температур — от 0 до +60 °C. Заявлена совместимость с Windows 10 IoT Enterprise 2021 LTSC, Windows 11 IoT Enterprise LTSC и Linux.