Компания NVIDIA сообщила о том, что её система DGX SuperPOD ляжет в основу нового вычислительного комплекса для задач ИИ, который будет использоваться различными правительственными учреждениями США для проведения исследований в области климатологии, здравоохранения и кибербезопасности.

Внедрением суперкомпьютера занимается MITRE — американская некоммерческая организация, специализирующаяся в области системной инженерии. Она ведёт разработки и исследования в интересах госорганов США, включая Министерство обороны (DoD), Федеральное управление гражданской авиации (FAA) и пр.

Система DGX SuperPOD станет основой вычислительной платформы MITRE Federal AI Sandbox, доступ к ресурсам которой будет предоставляться различным организациям на федеральном уровне. Государственные учреждения смогут сообща использовать суперкомпьютер для обучения больших языковых моделей (LLM), развёртывания генеративных приложений и других современных ИИ-решений.

Источник изображения: NVIDIA

В состав MITRE Federal AI Sandbox войдут 32 системы NVIDIA DGX H100, а общее количество ускорителей NVIDIA H100 составит 256 штук. Производительность на операциях ИИ будет достигать примерно 1 Эфлопс. Быстродействие FP64 — приблизительно 17 Пфлопс. Ввод суперкомпьютера в эксплуатацию состоится позднее в текущем году.

«Развёртывание MITRE DGX SuperPOD поможет ускорить реализацию инициатив федерального правительства США в области ИИ. Технологии ИИ обладают огромным потенциалом для улучшения государственных услуг в гражданской области и решения серьёзных проблем, в том числе в сфере кибербезопасности», — сказал Энтони Роббинс (Anthony Robbins), вице-президент NVIDIA.

Согласно данным компании Mercury Research, которая отслеживает рынки полупроводников и компонентов для ПК, Intel продолжает доминировать на рынке чипов для ПК, но AMD завоёвывает позиции на рынках чипов для серверов, десктопов и мобильных устройств, пишет AnandTech.

В I квартале 2024 года AMD достигла рекордно высокой доли на рынках процессоров с архитектурой x86 для десктопов и серверных процессоров x86 благодаря успеху продуктов серии Ryzen 8000 и процессоров EPYC Genoa. Хотя доля AMD на рынке настольных компьютеров и ноутбуков в последние годы колебалась, компания неуклонно расширяет присутствие на рынке серверов как по объёмам поставок, так и по росту доходов.

В I квартале 2024 года доля AMD на рынке процессоров для серверов увеличилась до 23,6 %, что означает прирост на 0,5 % последовательно и на 5 % год к году, обусловленный ростом числа платформ на базе процессоров AMD EPYC Genoa. Intel продолжает доминировать на рынке серверов с долей 76,4 %, но прогресс AMD вполне очевиден.

Источник изображения: The Register/Mercury Research

Доля выручки AMD на рынке серверов на платформе x86 достигла 33 %, что на 5,2 % больше год к году и на 1,2 % больше, чем в предыдущем квартале. Это означает, что компания набирает обороты в производстве hi-end устройств с современными процессорами. Учитывая, что на данный момент у Intel нет прямых конкурентов 96-ядерным и 128-ядерным (Bergamo) процессорам AMD, неудивительно, что AMD удалось добиться увеличения доли на рынке чипов для серверов.

«Как мы отметили во время нашего финансового отчёта за I квартал, продажи серверных процессоров выросли по сравнению с прошлым годом благодаря росту внедрения на предприятиях и расширению облачных развертываний», — указала AMD в своём заявлении.

Red Hat представила Red Hat Enterprise Linux AI (RHEL AI), базовую платформу, которая позволит более эффективно разрабатывать, тестировать и запускать генеративные модели искусственного интеллекта (ИИ) для поддержки корпоративных приложений. Фактически это специализированный дистрибутив, включающий базовые модели, инструменты для работы с ними и необходимые драйверы.

Источник изображений: Red Hat

Доступная сейчас в качестве превью для разработчиков, платформа RHEL AI включает в себя семейство больших языковых моделей (LLM) IBM Granite, недавно ставших доступными под лицензией Apache 2.0, инструментом тюнинга и доработки моделей InstructLab посредством методики LAB (Large-Scale Alignment for Chatbots), а также различные библиотеки и фреймворки.

Решение представляется в виде готового для развёртывания образа и является частью MLOps-платформы OpenShift AI. По словам Red Hat, RHEL AI предоставляет поддерживаемую, готовую к корпоративному использованию среду для работы с ИИ-моделями на аппаратных платформах AMD, Intel и NVIDIA. По словам компании, open source подход позволит устранить препятствия на пути реализации стратегии в области ИИ, такие как недостаток навыков обработки данных и финансовых возможностей.

Основная цель RHEL AI и проекта InstructLab — предоставить экспертам в предметной области возможность напрямую вносить свой вклад в большие языковые модели, используя свои знания и навыки. Новая платформа позволит им более эффективно создавать приложения с использованием ИИ, например, чат-боты. Впоследствии при наличии подписки RHEL AI компания предложит поддержку корпоративного уровня на протяжении всего жизненного цикла продукта, начиная с модели Granite 7B и ПО и заканчивая возможным возмещение ущерба в отношении интеллектуальной собственности.

«Опираясь на инфраструктуру GPU, доступную в IBM Cloud, которая используется для обучения моделей Granite и поддержки InstructLab, IBM Cloud получит поддержку RHEL AI и OpenShift AI. Эта интеграция позволит предприятиям легче внедрять генеративный ИИ в свои критически важные приложения», — отметила компания.

При этом прямо сейчас для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти, а также хранилищем ёмкостью от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Компания Stockholm Exergi объявила о подписании с Microsoft крупнейшей в мире сделки по прямому захвату углерода. Datacenter Dynamics сообщает, что соглашение предусматривает удаление 3,33 млн тонн углекислого газа в Швеции в рамках проекта Värtan BECCS в Стокгольме. Для сравнения — выбросы корпорации в 2022 году составили 13 млн тонн CO₂.

BECCS предусматривает захват и постоянное хранение CO₂, выделяющегося в ходе процессов преобразования биомассы в топливо или её сжигания для получения энергии. В данном случае под биомассой подразумеваются обыкновенные древесные пеллеты. Такой подход считается достаточно экологичным, поскольку деревья являются возобновляемым ресурсом и в процессе роста сами поглощают углекислый газ. Однако добиться полного захвата CO₂ при их сжигании не представляется возможным.

Источник изображения: Stockholm Exergi

Как заявляют в Stockholm Exergi, Värtan BECCS чрезвычайно важен — внедрение технологий на существующих электростанциях на биомассе является ключевым этапом на пути создания мощностей по удалению углерода по всему миру. Финансирование проекта предусматривается в том числе из Инновационного фонда Европейского союза, но для достижения приемлемых финансовых результатов потребуются дополнительные доходы от продажи модулей для удаления углерода.

Сделка сроком 10 лет вступит в силу в 2028 году, после чего каждый год Stockholm Exergi будет удалять из атмосферы до 800 тыс. тонн CO₂. Разрешение от природоохранных регуляторов было получено ещё в марте 2023 года, строительство мощностей для захвата углекислоты, сжижения полученного газа и его промежуточного хранения должно начаться в 2025 году. Впрочем, Stockholm Exergi заявила, что финальное решение об инвестициях планируется принять в IV квартале 2024 года.

Источник изображения: Stockholm Exergi

В проектах захвата углерода Microsoft часто является ключевым инвестором, поскольку компания намерена добиться не только «углеродной нейтральности», но и со временем компенсировать выбросы, которые приходятся на её деятельность за всю историю существования бизнеса. Компания уже заключила несколько сделок, связанных с использованием биоугля и, в частности, соглашение с Carbon Streaming о покупке кредитов с биоугольной площадки в Вирджинии.

Также IT-гигант участвует и в других «зелёных» проектах по захвату угля, включая сделку на 300 тыс. тонн с Heirloom и на 10 тыс. тонн с Climeworks, также занимающейся прямым захватом углерода. Кроме того, на неизвестных условиях заключена сделка об удалении углекислоты из атмосферы с Carbon Capture. Microsoft не одинока в своих начинаниях. В захват углерода уже инвестировали и компании вроде Meta✴ и Google.

После того, как компании Foxconn не удалось наладить крупное производство на площадке в Маунт-Плезант (Висконсин, США), её передали Microsoft для строительства кампуса ЦОД общей стоимостью $3,3 млрд, передаёт The Register.

Получив налоговые льготы на сумму в $3 млрд, Foxconn так и не смогла ими воспользоваться — проект не отвечал требованиям штата, например, по количеству созданных рабочих мест. Компанию даже поймали на подтасовке статистики путём найма сотрудников с последующим увольнением сразу после подачи отчётности. К 2021 году объём планируемых инвестиций сократился до $672 млн, а налоговые льготы — до $80 млн.

Впрочем, Foxconn так и не удалось реализовать амбициозный проект — инициатива по созданию 13 тыс. рабочих мест провалилась, было снесено порядка 100 домов и ферм, а на подготовку площадки совершенно зря ушло $500 млн средств налогоплательщиков. Компания смогла сформировать только небольшое производство серверов.

Источник изображения: Dave Hoefler/unsplash.com

В 2023 году участок в 400 га, предназначавшийся для строительства завода, приобрела Microsoft. Здесь компания намерена построить кампус ЦОД, модернизировать местную инфраструктуру и совместно с Университетом Висконсина создать центр AI Co-Innovation Lab для внедрения машинного обучения в процессы автоматизации и обучения 100 тыс. местных жителей генеративным ИИ-технологиям вроде Copilot. Дополнительно компания намерена подготовить и сертифицировать 3 тыс. местных разработчиков ИИ-систем и 1 тыс. техников для обслуживания ЦОД.

Строительство началось в конце 2023 года. Ранее местные СМИ писали минимум о четырёх дата-центрах на территории кампуса. В Microsoft попытались развеять страхи, что кампус будет потреблять слишком много энергии — компания работает с National Grid над строительством в Висконсине солнечной электростанции на 250 МВт, последняя должна заработать в 2027 году. Также Microsoft намерена использовать замкнутую систему жидкостного охлаждения для большей части мощностей на площадке, которая будет потреблять воду только во время очень жаркой погоды. Ранее Microsoft попала в неприятности в окрестностях Финикса (Аризона), где её фактически заставили отказаться от испарительного охлаждения.

Что касается трудоустройства, планы у Microsoft даже близко не столь масштабные, как были у Foxconn: бизнес из Редмонда рассчитывает задействовать 2,3 тыс. человек в строительстве к 2025 году и сформировать 2 тыс. постоянных рабочих мест.

Японская компания SoftBank Group Corp. ведёт переговоры о приобретении переживающего финансовые проблемы британского Graphcore Ltd., разработчика ИИ-ускорителей IPU, сообщил Bloomberg со ссылкой на информированные источники. По их словам, переговоры длятся уже несколько месяцев, но финансовые условия всё ещё не определены и нет никаких гарантий, что будет достигнуто окончательное соглашение.

В сентябре 2023 года Financial Times сообщала, что SoftBank сделала предварительное предложение о покупке Graphcore, которое стартап отклонил. SoftBank имеет контрольный пакет акций в другом британском разработчике микросхем, Arm Holdings, объявившем в феврале о хороших перспективах расширения своего бизнеса на рынке ИИ-чипов. С тех пор акции Arm выросли примерно на 40 %.

Источник изображения: Graphcore

Основанная в 2016 году компания Graphcore из Бристоля представила в 2020 году серверные ИИ-ускорители IPU (Intelligence Processing Unit). По словам Graphcore, её чипам вполне под силу составить конкуренцию NVIDIA. В числе её инвесторов такие компании, как Samsung Electronics, Bosch и Sequoia Capital. После раунда финансирования в 2020 году стоимость Graphcore оценивалась в $2,8 млрд. Но с тех пор британской компании так и не удалось набрать необходимые обороты и сейчас она активно ищет финансирование, чтобы остаться на плаву на фоне роста убытков из-за сокращения продаж.

Как сообщил в феврале ресурс Bloomberg News, переговоры начались в тот время, когда основатель SoftBank Масаёси Сон (Masayoshi Son) решил запустить собственный проект в сфере ИИ стоимостью до $100 млрд, чтобы бросить вызов NVIDIA. SoftBank притормозила инвестиции в технологический сектор в 2022 году, но в конце 2023 года решила вернуться к заключению новых сделок, делая ставку на ИИ. Масаёси Сон представил это как стратегию, ориентированную на бизнес Arm.

Техасская компания Iozera.ai объявила о строительстве дата-центра ёмкостью в 386 МВт в Марокко. По данным Datacenter Dynamics, реализация проекта Eureka Park обойдётся в $500 млн.

Стартап предлагает услуги по хранению, управлению и предобработке данных для ИИ, а также консалтинг в соответствующей сфере. Подписываемый с властями страны меморандум о взаимопонимании предусматривает не только создание ЦОД, но и ИИ-хаба в Тетуане, в непосредственной близости от Гибралтарского пролива. Стратегическое партнёрство рассчитано на «демократизацию» доступа к передовыми ИИ-ресурсам и расширение возможностей доступа к ним учёных, стартапов и предприятий.

Строительство начнётся в IV квартале 2024 года, площадка должна будет готова к работе во II квартале 2026-го. Технической информации о проекте практически нет, но планируемая ёмкость в 386 МВт ставит его вровень с некоторыми крупнейшими дата-центрами гиперскейлеров. Энергия, вероятно, будет поступать из двух «зелёных» источников — солнечной электростанции Noor Solar Power Complex и ветроэлектростанции Koudia Al Baida Wind Farm.

Источник изображения: Kamal Bilal/unsplash.com

Примечательно, что Iozera была основана только в декабре 2023 года и опыта строительства дата-центров у неё нет. На подписании меморандума с властями будет присутствовать представитель тайваньской Pegatron, поэтому не исключено, что техногигант тоже имеет интерес в этом деле Рядом с ЦОД разместятся инкубатор для ИИ-стартапов Eureka Park, образовательный центр Ryse Research и экспозиция AI Expo.

Рынок ЦОД Марокко в мировом масштабе очень невелик (всего 21 дата-центр), но согласно мартовскому докладу Research and Markets, опубликованному в марте, за следующие три года он вырастет до $51 млн. Недавно N+One Datacenters сообщила, что занималась строительством объекта в Касабланке, а в марте Oracle заявила, что запускает марокканский облачный регион в рамках облачной инфраструктуры N+One.

Компания Apple занимается разработкой собственных ИИ-полупроводников для дата-центров, передаёт The Wall Street Journal. В перспективе это поможет ей в «гонке вооружений», развернувшейся на рынке ИИ-решений. И у Apple есть ресурсы для создания передовых ИИ-чипов.

В последние десять лет компания уже выбилась в лидеры полупроводниковой индустрии, представляя всё новые чипсеты для мобильных устройств и компьютеров Mac-серии. Как свидетельствуют источники СМИ, серверный проект Project ACDC (Apple Chips in Data Center) задействует компетенции компании в деле создания решений для ЦОД. Недавно сообщалось, что Apple наняла создателя ИИ-кластеров Google. Реализацию проекта Apple начала несколько лет назад, но данных о том, когда будут готовые первые чипы, пока нет.

По имеющимся данным, компания уже тесно сотрудничает с TSMC. Предполагается, что чипы для серверов Apple будут оптимизированы для запуска ИИ-моделей, а не их обучения — на этом рынке по-прежнему будет доминировать NVIDIA. Время поджимает, поскольку Google и Microsoft уже имеют собственные ИИ-ускорители, хотя и разных классов — TPU и Maia 100. Обе компании имеют компетенции в области LLM, а Microsoft весьма дружна с OpenAI, которая тоже не прочь заняться «железом».

Источник изображения: GR Stocks/unsplash.com

Такое положение дел не устраивает инвесторов Apple, поскольку компания не продемонстрировала никаких впечатляющих успехов в соответствующей сфере, в то время как цена акций конкурентов продолжает расти на фоне новостей об их достижениях. В Apple пытаются убедить инвесторов, что это лишь временное явление и скоро грядут анонсы, связанные с ИИ. Опыт Apple в сфере разработки современных полупроводников должен помочь в создании ИИ-чипов. Сегодня компания представила 3-нм процессор M4 с самым мощным, по её словам, NPU в мире.

Хотя компания добилась определённых успехов в разработке чипов для потребительской и профессиональной электроники, определённые задачи даются ей с трудом. Например, она всё ещё бьётся над созданием собственного беспроводного модуля. Хотя в Apple предпочли бы, чтобы большинство ИИ-вычислений осуществлялись силами самих чипов, некоторые задачи будут по-прежнему выполняться в облаке, где и пригодятся новые полупроводники. Это позволит компании лучше контролировать свою стратегию развития в сфере ИИ.

Dominion Energy в прошлом году подключила к энергосети в Вирджинии — крупнейшем в мире рынке ЦОД — 15 дата-центров общей ёмкостью 933 МВт. По данным Datacenter Dynamics, в 2024 году электроснабжение получат ещё столько же ЦОД, суммарная ёмкость которых пока не подсчитана. А всего с 2019 года Dominion Energy подключила в Северной Вирджинии 94 дата-центра общей ёмкостью 4 ГВт. Для сравнения — ёмкость ЦОД Microsoft по всему миру только недавно превысила 5 ГВт.

В докладе Dominion Energy за 2023 год сообщается, что на дата-центры приходится 24 % продаж электричества дочерней Virginia Power, тогда как в 2022 году их доля была 21 %. При этом подчёркивается, что спрос отдельных ЦОД вырос с приблизительно с 30 МВт до 60–90 МВт, а запросы кампусов выросли с 300 МВт до «нескольких гигаватт». При этом на максимальное потребление они теперь выходят не за 4–5 лет, а всего за 2–3 года, причём в дальнейшем нагрузка только увеличится.

Источник изображения: American Public Power Association/unsplash.com

American Electric Power (AEP) получила запросы на поставку до 15 ГВт, львиная доля которых приходится на ЦОД. Драйверами спроса служат гиперскейлеры вроде AWS и Google. Компания имеет мощности около 38 ГВт и готова инвестировать более $27 млрд в линии электропередач и системы распределения энергии в следующие пять лет. Она ожидает увеличение капитальных издержек в будущем, связанных с ростом потребления энергии ЦОД.

Public Service Enterprise Group (PSEG) ведёт переговоры о строительстве ЦОД ёмкостью 50–100 МВт рядом со своими АЭС. Наконец, отвечающая за электропередачу компания PJM заявила, что располагает достаточными ресурсами для того, чтобы удовлетворить спрос летом 2024 года. Однако она предупреждает о проблемах в будущем из-за того, что для замены 1 МВт энергии от обычных электростанций на ископаемом топливе, которые активно выводятся из эксплуатации, фактически требуется несколько МВт из возобновляемых источников из-за нестабильности последних.

Проблема энергоснабжения ЦОД в США вообще и Северной Вирджинии в частности носит системный характер. В апреле сообщалось, что «зелёные» энергопроекты не смогут «прокормить» ИИ на крупнейшем в мире рынке ЦОД, причём тревогу поставщики бьют уже не первый год. Если ситуацию не удастся оперативно исправить, то дефицит энергии может привести к сокращению ИИ-нагрузок или даже к постройке ТЭС непосредственно на территории кампусов, как это уже происходит в Европе.

Компания Radxa анонсировала довольно необычную материнскую плату под названием Rock 5 ITX. Это изделие в формате Mini-ITX оснащено процессором Arm, а одной из основных сфер применения названо создание сетевых хранилищ (NAS). В качестве программной платформы применяется Roobi OS.

Плата укомплектована процессором Rockchip RK3588, который часто используется в одноплатных компьютерах для индустриального применения и сферы IoT. Чип содержит четыре ядра Cortex-A76 (2,4 ГГц) и четыре ядра Cortex-A55 (1,8 ГГц), графический блок Arm Mali-G610 MC4 и нейропроцессорный модуль (NPU) с производительностью до 6 TOPS. Поддерживаются вычисления INT4/INT8/INT16/FP16/BF16/TF32.

Новинка может нести на борту 4, 8, 16 или 32 Гбайт памяти LPDDR5. В оснащение входит флеш-накопитель eMMC вместимостью 8 Гбайт для Roobi OS. Дополнительно можно установить карту microSD и SSD формата M.2 (NVMe; PCIe 3.0 х2). Для подключения накопителей в рамках NAS доступны четыре порта SATA-3 на базе контроллера ASMedia ASM1164.

Источник изображения: Radxa

Плата располагает двумя сетевыми портами 2.5GbE с поддержкой PoE и коннектором M.2 E Key, которому можно подключить адаптер Wi-Fi 6. Есть два выхода HDMI (до 8Kp60), вход HDMI (до 4Kp60), два порта USB 2.0 Type-A, четыре разъёма USB 3.0 Type-A, порт USB 3.0 Type-C, набор аудиогнёзд и разъём для подачи питания (12 В). Среди прочего упомянута поддержка интерфейсов DP (через USB Type-C), MIPI DSI, eDP, MIPI CSI.

Модель Radxa Rock 5 ITX имеет размеры 170 × 170 мм. Диапазон рабочих температур — от 0 до +50 °C. Может быть подключён вентилятор охлаждения с регулировкой скорости вращения посредством PWM. Стоимость модификаций с 8, 16 или 32 Гбайт ОЗУ составляет $120, $160 и $240, тогда как цена модели с 4 Гбайт памяти не раскрывается.