Red Hat представила Red Hat Enterprise Linux AI (RHEL AI), базовую платформу, которая позволит более эффективно разрабатывать, тестировать и запускать генеративные модели искусственного интеллекта (ИИ) для поддержки корпоративных приложений. Фактически это специализированный дистрибутив, включающий базовые модели, инструменты для работы с ними и необходимые драйверы.

Источник изображений: Red Hat

Доступная сейчас в качестве превью для разработчиков, платформа RHEL AI включает в себя семейство больших языковых моделей (LLM) IBM Granite, недавно ставших доступными под лицензией Apache 2.0, инструментом тюнинга и доработки моделей InstructLab посредством методики LAB (Large-Scale Alignment for Chatbots), а также различные библиотеки и фреймворки.

Решение представляется в виде готового для развёртывания образа и является частью MLOps-платформы OpenShift AI. По словам Red Hat, RHEL AI предоставляет поддерживаемую, готовую к корпоративному использованию среду для работы с ИИ-моделями на аппаратных платформах AMD, Intel и NVIDIA. По словам компании, open source подход позволит устранить препятствия на пути реализации стратегии в области ИИ, такие как недостаток навыков обработки данных и финансовых возможностей.

Основная цель RHEL AI и проекта InstructLab — предоставить экспертам в предметной области возможность напрямую вносить свой вклад в большие языковые модели, используя свои знания и навыки. Новая платформа позволит им более эффективно создавать приложения с использованием ИИ, например, чат-боты. Впоследствии при наличии подписки RHEL AI компания предложит поддержку корпоративного уровня на протяжении всего жизненного цикла продукта, начиная с модели Granite 7B и ПО и заканчивая возможным возмещение ущерба в отношении интеллектуальной собственности.

«Опираясь на инфраструктуру GPU, доступную в IBM Cloud, которая используется для обучения моделей Granite и поддержки InstructLab, IBM Cloud получит поддержку RHEL AI и OpenShift AI. Эта интеграция позволит предприятиям легче внедрять генеративный ИИ в свои критически важные приложения», — отметила компания.

При этом прямо сейчас для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти, а также хранилищем ёмкостью от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Компания Stockholm Exergi объявила о подписании с Microsoft крупнейшей в мире сделки по прямому захвату углерода. Datacenter Dynamics сообщает, что соглашение предусматривает удаление 3,33 млн тонн углекислого газа в Швеции в рамках проекта Värtan BECCS в Стокгольме. Для сравнения — выбросы корпорации в 2022 году составили 13 млн тонн CO₂.

BECCS предусматривает захват и постоянное хранение CO₂, выделяющегося в ходе процессов преобразования биомассы в топливо или её сжигания для получения энергии. В данном случае под биомассой подразумеваются обыкновенные древесные пеллеты. Такой подход считается достаточно экологичным, поскольку деревья являются возобновляемым ресурсом и в процессе роста сами поглощают углекислый газ. Однако добиться полного захвата CO₂ при их сжигании не представляется возможным.

Источник изображения: Stockholm Exergi

Как заявляют в Stockholm Exergi, Värtan BECCS чрезвычайно важен — внедрение технологий на существующих электростанциях на биомассе является ключевым этапом на пути создания мощностей по удалению углерода по всему миру. Финансирование проекта предусматривается в том числе из Инновационного фонда Европейского союза, но для достижения приемлемых финансовых результатов потребуются дополнительные доходы от продажи модулей для удаления углерода.

Сделка сроком 10 лет вступит в силу в 2028 году, после чего каждый год Stockholm Exergi будет удалять из атмосферы до 800 тыс. тонн CO₂. Разрешение от природоохранных регуляторов было получено ещё в марте 2023 года, строительство мощностей для захвата углекислоты, сжижения полученного газа и его промежуточного хранения должно начаться в 2025 году. Впрочем, Stockholm Exergi заявила, что финальное решение об инвестициях планируется принять в IV квартале 2024 года.

Источник изображения: Stockholm Exergi

В проектах захвата углерода Microsoft часто является ключевым инвестором, поскольку компания намерена добиться не только «углеродной нейтральности», но и со временем компенсировать выбросы, которые приходятся на её деятельность за всю историю существования бизнеса. Компания уже заключила несколько сделок, связанных с использованием биоугля и, в частности, соглашение с Carbon Streaming о покупке кредитов с биоугольной площадки в Вирджинии.

Также IT-гигант участвует и в других «зелёных» проектах по захвату угля, включая сделку на 300 тыс. тонн с Heirloom и на 10 тыс. тонн с Climeworks, также занимающейся прямым захватом углерода. Кроме того, на неизвестных условиях заключена сделка об удалении углекислоты из атмосферы с Carbon Capture. Microsoft не одинока в своих начинаниях. В захват углерода уже инвестировали и компании вроде Meta✴ и Google.

После того, как компании Foxconn не удалось наладить крупное производство на площадке в Маунт-Плезант (Висконсин, США), её передали Microsoft для строительства кампуса ЦОД общей стоимостью $3,3 млрд, передаёт The Register.

Получив налоговые льготы на сумму в $3 млрд, Foxconn так и не смогла ими воспользоваться — проект не отвечал требованиям штата, например, по количеству созданных рабочих мест. Компанию даже поймали на подтасовке статистики путём найма сотрудников с последующим увольнением сразу после подачи отчётности. К 2021 году объём планируемых инвестиций сократился до $672 млн, а налоговые льготы — до $80 млн.

Впрочем, Foxconn так и не удалось реализовать амбициозный проект — инициатива по созданию 13 тыс. рабочих мест провалилась, было снесено порядка 100 домов и ферм, а на подготовку площадки совершенно зря ушло $500 млн средств налогоплательщиков. Компания смогла сформировать только небольшое производство серверов.

Источник изображения: Dave Hoefler/unsplash.com

В 2023 году участок в 400 га, предназначавшийся для строительства завода, приобрела Microsoft. Здесь компания намерена построить кампус ЦОД, модернизировать местную инфраструктуру и совместно с Университетом Висконсина создать центр AI Co-Innovation Lab для внедрения машинного обучения в процессы автоматизации и обучения 100 тыс. местных жителей генеративным ИИ-технологиям вроде Copilot. Дополнительно компания намерена подготовить и сертифицировать 3 тыс. местных разработчиков ИИ-систем и 1 тыс. техников для обслуживания ЦОД.

Строительство началось в конце 2023 года. Ранее местные СМИ писали минимум о четырёх дата-центрах на территории кампуса. В Microsoft попытались развеять страхи, что кампус будет потреблять слишком много энергии — компания работает с National Grid над строительством в Висконсине солнечной электростанции на 250 МВт, последняя должна заработать в 2027 году. Также Microsoft намерена использовать замкнутую систему жидкостного охлаждения для большей части мощностей на площадке, которая будет потреблять воду только во время очень жаркой погоды. Ранее Microsoft попала в неприятности в окрестностях Финикса (Аризона), где её фактически заставили отказаться от испарительного охлаждения.

Что касается трудоустройства, планы у Microsoft даже близко не столь масштабные, как были у Foxconn: бизнес из Редмонда рассчитывает задействовать 2,3 тыс. человек в строительстве к 2025 году и сформировать 2 тыс. постоянных рабочих мест.

Японская компания SoftBank Group Corp. ведёт переговоры о приобретении переживающего финансовые проблемы британского Graphcore Ltd., разработчика ИИ-ускорителей IPU, сообщил Bloomberg со ссылкой на информированные источники. По их словам, переговоры длятся уже несколько месяцев, но финансовые условия всё ещё не определены и нет никаких гарантий, что будет достигнуто окончательное соглашение.

В сентябре 2023 года Financial Times сообщала, что SoftBank сделала предварительное предложение о покупке Graphcore, которое стартап отклонил. SoftBank имеет контрольный пакет акций в другом британском разработчике микросхем, Arm Holdings, объявившем в феврале о хороших перспективах расширения своего бизнеса на рынке ИИ-чипов. С тех пор акции Arm выросли примерно на 40 %.

Источник изображения: Graphcore

Основанная в 2016 году компания Graphcore из Бристоля представила в 2020 году серверные ИИ-ускорители IPU (Intelligence Processing Unit). По словам Graphcore, её чипам вполне под силу составить конкуренцию NVIDIA. В числе её инвесторов такие компании, как Samsung Electronics, Bosch и Sequoia Capital. После раунда финансирования в 2020 году стоимость Graphcore оценивалась в $2,8 млрд. Но с тех пор британской компании так и не удалось набрать необходимые обороты и сейчас она активно ищет финансирование, чтобы остаться на плаву на фоне роста убытков из-за сокращения продаж.

Как сообщил в феврале ресурс Bloomberg News, переговоры начались в тот время, когда основатель SoftBank Масаёси Сон (Masayoshi Son) решил запустить собственный проект в сфере ИИ стоимостью до $100 млрд, чтобы бросить вызов NVIDIA. SoftBank притормозила инвестиции в технологический сектор в 2022 году, но в конце 2023 года решила вернуться к заключению новых сделок, делая ставку на ИИ. Масаёси Сон представил это как стратегию, ориентированную на бизнес Arm.

Техасская компания Iozera.ai объявила о строительстве дата-центра ёмкостью в 386 МВт в Марокко. По данным Datacenter Dynamics, реализация проекта Eureka Park обойдётся в $500 млн.

Стартап предлагает услуги по хранению, управлению и предобработке данных для ИИ, а также консалтинг в соответствующей сфере. Подписываемый с властями страны меморандум о взаимопонимании предусматривает не только создание ЦОД, но и ИИ-хаба в Тетуане, в непосредственной близости от Гибралтарского пролива. Стратегическое партнёрство рассчитано на «демократизацию» доступа к передовыми ИИ-ресурсам и расширение возможностей доступа к ним учёных, стартапов и предприятий.

Строительство начнётся в IV квартале 2024 года, площадка должна будет готова к работе во II квартале 2026-го. Технической информации о проекте практически нет, но планируемая ёмкость в 386 МВт ставит его вровень с некоторыми крупнейшими дата-центрами гиперскейлеров. Энергия, вероятно, будет поступать из двух «зелёных» источников — солнечной электростанции Noor Solar Power Complex и ветроэлектростанции Koudia Al Baida Wind Farm.

Источник изображения: Kamal Bilal/unsplash.com

Примечательно, что Iozera была основана только в декабре 2023 года и опыта строительства дата-центров у неё нет. На подписании меморандума с властями будет присутствовать представитель тайваньской Pegatron, поэтому не исключено, что техногигант тоже имеет интерес в этом деле Рядом с ЦОД разместятся инкубатор для ИИ-стартапов Eureka Park, образовательный центр Ryse Research и экспозиция AI Expo.

Рынок ЦОД Марокко в мировом масштабе очень невелик (всего 21 дата-центр), но согласно мартовскому докладу Research and Markets, опубликованному в марте, за следующие три года он вырастет до $51 млн. Недавно N+One Datacenters сообщила, что занималась строительством объекта в Касабланке, а в марте Oracle заявила, что запускает марокканский облачный регион в рамках облачной инфраструктуры N+One.

Компания Apple занимается разработкой собственных ИИ-полупроводников для дата-центров, передаёт The Wall Street Journal. В перспективе это поможет ей в «гонке вооружений», развернувшейся на рынке ИИ-решений. И у Apple есть ресурсы для создания передовых ИИ-чипов.

В последние десять лет компания уже выбилась в лидеры полупроводниковой индустрии, представляя всё новые чипсеты для мобильных устройств и компьютеров Mac-серии. Как свидетельствуют источники СМИ, серверный проект Project ACDC (Apple Chips in Data Center) задействует компетенции компании в деле создания решений для ЦОД. Недавно сообщалось, что Apple наняла создателя ИИ-кластеров Google. Реализацию проекта Apple начала несколько лет назад, но данных о том, когда будут готовые первые чипы, пока нет.

По имеющимся данным, компания уже тесно сотрудничает с TSMC. Предполагается, что чипы для серверов Apple будут оптимизированы для запуска ИИ-моделей, а не их обучения — на этом рынке по-прежнему будет доминировать NVIDIA. Время поджимает, поскольку Google и Microsoft уже имеют собственные ИИ-ускорители, хотя и разных классов — TPU и Maia 100. Обе компании имеют компетенции в области LLM, а Microsoft весьма дружна с OpenAI, которая тоже не прочь заняться «железом».

Источник изображения: GR Stocks/unsplash.com

Такое положение дел не устраивает инвесторов Apple, поскольку компания не продемонстрировала никаких впечатляющих успехов в соответствующей сфере, в то время как цена акций конкурентов продолжает расти на фоне новостей об их достижениях. В Apple пытаются убедить инвесторов, что это лишь временное явление и скоро грядут анонсы, связанные с ИИ. Опыт Apple в сфере разработки современных полупроводников должен помочь в создании ИИ-чипов. Сегодня компания представила 3-нм процессор M4 с самым мощным, по её словам, NPU в мире.

Хотя компания добилась определённых успехов в разработке чипов для потребительской и профессиональной электроники, определённые задачи даются ей с трудом. Например, она всё ещё бьётся над созданием собственного беспроводного модуля. Хотя в Apple предпочли бы, чтобы большинство ИИ-вычислений осуществлялись силами самих чипов, некоторые задачи будут по-прежнему выполняться в облаке, где и пригодятся новые полупроводники. Это позволит компании лучше контролировать свою стратегию развития в сфере ИИ.

Dominion Energy в прошлом году подключила к энергосети в Вирджинии — крупнейшем в мире рынке ЦОД — 15 дата-центров общей ёмкостью 933 МВт. По данным Datacenter Dynamics, в 2024 году электроснабжение получат ещё столько же ЦОД, суммарная ёмкость которых пока не подсчитана. А всего с 2019 года Dominion Energy подключила в Северной Вирджинии 94 дата-центра общей ёмкостью 4 ГВт. Для сравнения — ёмкость ЦОД Microsoft по всему миру только недавно превысила 5 ГВт.

В докладе Dominion Energy за 2023 год сообщается, что на дата-центры приходится 24 % продаж электричества дочерней Virginia Power, тогда как в 2022 году их доля была 21 %. При этом подчёркивается, что спрос отдельных ЦОД вырос с приблизительно с 30 МВт до 60–90 МВт, а запросы кампусов выросли с 300 МВт до «нескольких гигаватт». При этом на максимальное потребление они теперь выходят не за 4–5 лет, а всего за 2–3 года, причём в дальнейшем нагрузка только увеличится.

Источник изображения: American Public Power Association/unsplash.com

American Electric Power (AEP) получила запросы на поставку до 15 ГВт, львиная доля которых приходится на ЦОД. Драйверами спроса служат гиперскейлеры вроде AWS и Google. Компания имеет мощности около 38 ГВт и готова инвестировать более $27 млрд в линии электропередач и системы распределения энергии в следующие пять лет. Она ожидает увеличение капитальных издержек в будущем, связанных с ростом потребления энергии ЦОД.

Public Service Enterprise Group (PSEG) ведёт переговоры о строительстве ЦОД ёмкостью 50–100 МВт рядом со своими АЭС. Наконец, отвечающая за электропередачу компания PJM заявила, что располагает достаточными ресурсами для того, чтобы удовлетворить спрос летом 2024 года. Однако она предупреждает о проблемах в будущем из-за того, что для замены 1 МВт энергии от обычных электростанций на ископаемом топливе, которые активно выводятся из эксплуатации, фактически требуется несколько МВт из возобновляемых источников из-за нестабильности последних.

Проблема энергоснабжения ЦОД в США вообще и Северной Вирджинии в частности носит системный характер. В апреле сообщалось, что «зелёные» энергопроекты не смогут «прокормить» ИИ на крупнейшем в мире рынке ЦОД, причём тревогу поставщики бьют уже не первый год. Если ситуацию не удастся оперативно исправить, то дефицит энергии может привести к сокращению ИИ-нагрузок или даже к постройке ТЭС непосредственно на территории кампусов, как это уже происходит в Европе.

Компания Radxa анонсировала довольно необычную материнскую плату под названием Rock 5 ITX. Это изделие в формате Mini-ITX оснащено процессором Arm, а одной из основных сфер применения названо создание сетевых хранилищ (NAS). В качестве программной платформы применяется Roobi OS.

Плата укомплектована процессором Rockchip RK3588, который часто используется в одноплатных компьютерах для индустриального применения и сферы IoT. Чип содержит четыре ядра Cortex-A76 (2,4 ГГц) и четыре ядра Cortex-A55 (1,8 ГГц), графический блок Arm Mali-G610 MC4 и нейропроцессорный модуль (NPU) с производительностью до 6 TOPS. Поддерживаются вычисления INT4/INT8/INT16/FP16/BF16/TF32.

Новинка может нести на борту 4, 8, 16 или 32 Гбайт памяти LPDDR5. В оснащение входит флеш-накопитель eMMC вместимостью 8 Гбайт для Roobi OS. Дополнительно можно установить карту microSD и SSD формата M.2 (NVMe; PCIe 3.0 х2). Для подключения накопителей в рамках NAS доступны четыре порта SATA-3 на базе контроллера ASMedia ASM1164.

Источник изображения: Radxa

Плата располагает двумя сетевыми портами 2.5GbE с поддержкой PoE и коннектором M.2 E Key, которому можно подключить адаптер Wi-Fi 6. Есть два выхода HDMI (до 8Kp60), вход HDMI (до 4Kp60), два порта USB 2.0 Type-A, четыре разъёма USB 3.0 Type-A, порт USB 3.0 Type-C, набор аудиогнёзд и разъём для подачи питания (12 В). Среди прочего упомянута поддержка интерфейсов DP (через USB Type-C), MIPI DSI, eDP, MIPI CSI.

Модель Radxa Rock 5 ITX имеет размеры 170 × 170 мм. Диапазон рабочих температур — от 0 до +50 °C. Может быть подключён вентилятор охлаждения с регулировкой скорости вращения посредством PWM. Стоимость модификаций с 8, 16 или 32 Гбайт ОЗУ составляет $120, $160 и $240, тогда как цена модели с 4 Гбайт памяти не раскрывается.

Правительство Австралии и штата Квинсленд, по сообщению ресурса Datacenter Dynamics, инвестируют AU$940 млн (приблизительно $620 млн) в создание мощного квантового компьютера. Он будет развёрнут на площадке недалеко от аэропорта Брисбена. Созданием системы займётся калифорнийский стартап PsiQuantum.

PsiQuantum была основана в 2016 году. Своей миссией она называет разработку «первого в мире практически полезного квантового компьютера». Компания заявляет, что её технология даёт возможность в относительно короткие сроки создавать квантовые системы большого масштаба, устойчивые к появлению ошибок. Для этого предлагается использовать существующие технические решения, такие как мощные криогенные системы. Проект, реализуемый стартапом в Австралии, предусматривает строительство фотонного квантового компьютера. Предполагается, что система сможет оперировать приблизительно 1 млн кубитов.

Источник изображения: PsiQuantum

Власти Австралии и штата Квинсленд профинансируют проект в равных долях — примерно по $310 млн. В обмен на инвестиции PsiQuantum создаст региональную штаб-квартиру в штате Квинсленд, откуда будет управлять своими квантовыми системами. Ожидается, что новый компьютер заработает к концу 2027 года. Он будет использоваться для решения сложных задач в различных сферах, включая возобновляемую энергию, добычу полезных ископаемых и металлов, здравоохранение и транспорт.

Правительство Австралии впервые высказало идею развёртывания системы, созданной компанией PsiQuantum, в конце 2023 года. Но тогда проект подвергся критике за то, что власти хотят отдать предпочтение американской фирме, а не австралийским организациям, которые занимаются квантовыми вычислениями. Но теперь, похоже, все разногласия устранены.

Компания TrendForce обнародовала прогноз по мировому рынку SSD корпоративного класса на основе флеш-памяти QLC NAND (четыре бита информации в ячейке). Аналитики полагают, что спрос на такие накопители будет быстро расти на фоне стремительного развития рынка ИИ.

TrendForce выделяет две основные причины повышения интереса к решениям QLC со cтороны операторов облачных платформ и дата-центров, ориентированных на ИИ. Это высокая скорость чтения данных и улучшенная совокупная стоимость владения по сравнению с HDD.

Отмечается, что в случае с корпоративными HDD сейчас применяются устройства вместимостью преимущественно 20–24 Тбайт, тогда как QLC SSD обеспечивают ёмкость до 64 Тбайт. Таким образом, достигается значительная экономия места для размещения накопителей в стойках ЦОД. Кроме того, сокращается энергопотребление, благодаря чему снижаются затраты на поддержание работы СХД. При этом SSD на базе QLC позволяют эффективно решать ИИ-задачи, связанные с инференсом, когда производится интенсивное чтение информации, а не запись.

Источник изображения: TrendForce

В настоящее время только Solidigm и Samsung имеют сертифицированные продукты QLC. По оценкам, в IV квартале 2023 года Samsung занимала приблизительно 45 % рынка SSD корпоративного класса, а Solidigm/SK hynix  — 32%. Ещё около 10 % пришлось на Micron, 8 % — на Kioxia, 4 % — на Western Digital. В связи с ростом заказов на продукты QLC компания Solidigm планирует расширить производство 144-слойных чипов флеш-памяти во II половине 2024 года. Samsung, которая пока специализируется на 176-слойных изделиях и не имеет серьёзных конкурентов, извлекает выгоду из ограниченного предложения QLC SSD высокой ёмкости.

TrendForce прогнозирует, что поставки серверных SSD на базе QLC в плане общей ёмкости достигнут 30 Эбайт в 2024 году, увеличившись в четыре раза по сравнению с 2023-м. При этом ожидается рост контрактных цен на SSD корпоративного класса на 23–28 % в I четверти 2024 года (в квартальном исчислении), на 20–25 % во II четверти и на 5–10 % в III четверти года.