Облачная платформа Amazon Web Services (AWS) сообщила о доступности инстансов Elastic Compute Cloud (EC2) U7i, оптимизированных для резидентных (in-memory) баз данных. В основу положены кастомизированные процессоры Intel Xeon поколения Sapphire Rapids.

Утверждается, что по сравнению с инстансами EC2 High Memory предыдущего поколения экземпляры U7i обеспечивают на 135 % более высокую вычислительную производительность и на 115 % большую производительность памяти. При этом пропускная способность EBS-томов увеличена в 2,5 раза.

Инстансы поддерживают подключение до 128 томов EBS gp2/gp3 или io1/io2. Каждый том io2 Block Express может иметь размер до 64 ТиБ и обеспечивать производительность до 256 тыс. IOPS со скоростью до 32 Гбит/с. Все конфигурации включают 896 vCPU, а объём оперативной памяти варьируется от 12 288 до 32 768 ГиБ. Благодаря системе AWS Nitro вся память доступна для использования. Пропускная способность EBS составляет 60 Гбит/с у младшей версии и 100 Гбит/с у всех остальных. Пропускная способность сети — соответственно 100 и 200 Гбит/с.

Источник изображения: AWS

Среди поддерживаемых ОС названы Amazon Linux, Red Hat Enterprise Linux, SUSE Linux Enterprise Server, Ubuntu и Windows Server. Говорится о возможности работы с крупными СУБД, в частности, SAP HANA, Oracle и SQL Server.

Инстансы EC2 U7i были представлены в качестве предварительной версии в ноябре 2023 года. Теперь они доступны для клиентов в американских регионах AWS US East (Северная Вирджиния) и US West (Орегон), а также в Азиатско-Тихоокеанском регионе (Сеул, Сидней). Позднее в текущем году будут запущены более мощные инстансы с увеличенной вычислительной производительностью.

Корпорация Microsoft, по сообщению ресурса Datacenter Dynamics, открыла свой первый облачный регион в Испании. Площадка ЦОД располагается в Мадриде: она будет обслуживать коммерческих и государственных заказчиков, предоставляя в том числе услуги в области ИИ.

Регион получил название Spain Central. Он создан в рамках масштабного проекта, предусматривающего инвестиции в размере $2,1 млрд в развитие облачной и ИИ-инфраструктуры в Испании. Речь идёт не только о строительстве новых дата-центров, но и о цифровой трансформации государственного и коммерческого сегментов в целом.

Источник изображения: Microsoft

Spain Central будет предоставлять различные сервисы в области вычислений, хранения информации, анализа данных, повышения кибербезопасности, генеративного ИИ и пр. О намерении использовать платформу уже заявили Abanca, Aciturri, Banc Sabadell, Banco Santander, Bankinter, BBVA, CaixaBank и многие другие компании и организации.

Партнёры Microsoft, включая Accenture, Capgemini, DXC Technology, Fujitsu, Minsait, KPMG, Kyndryl, NTT Data, SEIDOR и Telefónica Tech, присоединились к стратегической программе Strategic Partner Program, которая направлена на цифровую трансформацию испанских организаций. В частности, планируется перенос рабочих нагрузок клиентов на платформу Spain Central.

«Новый ЦОД-регион Microsoft обеспечит передовые и безопасные решения в области ИИ для заказчиков в Испании и других странах Европы», — отметил Хосе Луис Эскрива (José Luis Escrivá), министр цифровой трансформации Испании.

Microsoft активно развивает облачную инфраструктуру. Корпорация недавно сообщила о планах вложить $1,7 млрд в облака и ИИ в Индонезии. Аналогичные проекты Microsoft реализует в Таиланде и во Франции. Кроме того, редмондский гигант готовится к экспансии в Азиатско-Тихоокеанском регионе. Microsoft также создаёт суверенное облако для государственных органов ОАЭ.

В ходе конференции Worldwide Developer Conference (WWDC), состоявшейся в понедельник, компания Apple упомянула о том, что её серверы на собственных чипах и ОС используются для новых ИИ-сервисов Apple Intelligence. Как отмечает The Register, прямо компания не говорила ни о CPU, ни об ОС и никогда не подтверждала слухи об ИИ-серверах собственной разработки, но отсылки ко всем этим компонентам оказались разбросаны по презентациям на WWDC.

Новые функции завязаны на Apple Private Cloud Compute — серверную экосистему, где IT-гигант применяет большие ИИ-модели, которые справляются с некоторыми задачами намного лучше, чем компактные модели на пользовательских устройствах. В компании отмечают, что Private Cloud Compute использует мощные и безопасные кастомные серверы в своих ЦОД. Также упоминается термин «вычислительный узел», но нет точных данных о том, является ли он синонимом слова «сервер».

Источник изображения: Apple

Подчёркивается, что облачные мощности используют те же аппаратные технологии обеспечения безопасности, что и, например, iPhone, включая Secure Enclave и Secure Boot. Машины используют новую защищённую ОС на базе iOS и macOS, где отсутствуют некоторые административные компоненты. К минимуму свели даже телеметрию, обычно критически важную для поддержания работы облака. Другими словами, доступ к данным получит только пользователь, доступа не будет даже у системных администраторов.

Если в ряде случаев возможностей смартфона или планшета будет не хватать для конкретной ИИ-задачи, Apple будет определять, какой необходимый минимум данных нужен для решения задачи и отправлять их в зашифрованным виде в облаке. В облаке для каждой такой задачи будет создавать зашифрованный же анклав, который после обработки данных и отправки результата пользователю (тоже с шифрованием) будет полностью удалён. Другими словами, исходные фото, видео и другой контент никогда не будут покидать устройства пользователя, а их отслеживание и расшифровка весьма проблематичны.

Уже сейчас в своих облаках Arm-чипы AWS, Google, Oracle и Microsoft. По соотношению цена/производительность они нередко лучше, чем чипы Intel или AMD, во всяком случае при решении некоторых задач, в том числе инференса, поэтому вполне логично, если к таким же решениям прибегнет и Apple.

Подразделение системного интегратора Telkom Group, компания BCX, объединила усилия с Alibaba для организации облачных сервисов Alibaba Cloud в Мозамбике. По данным Datacenter Dynamics, BCX обеспечит хостинг т.н. Africa Local Public (ALP) Cloud в дата-центре в Мапуту.

По словам главы BCX, сотрудничество с Alibaba Cloud позволяет предоставлять новейшие технологии при посредничестве местной компании, которая понимает сложности и особенности ведения бизнеса на африканском континенте. В BCX признают чрезвычайную важность цифрового суверенитета для мозамбикского бизнеса, поэтому BCX и запустила облако ALP Cloud в Мапуту. Говорится о нескольких зонах доступности, местной службе поддержки и возможности оплаты в местной валюте.

Источник изображения: Rohan Reddy/unsplash.com

Это уже вторая африканская страна, где появились облачные сервисы Africa Local Public Cloud компании Alibaba. Запуск в Южной Африке состоялся ещё в октябре 2023 года. Китайская компания разместила свои сервисы в двух южноафриканских ЦОД, создав две зоны доступности — в ЦОД BCX в Мидранде и принадлежащем Teraco Data Environment дата-центре в Исандо. Следующий этап внедрения ALP Cloud предусматривает создание зоны доступности в ЦОД в Кейптауне. Также в Южной Африке предлагают свои облачные сервисы Microsoft Azure, Amazon (AWS) и Google.

BCX, основанная в 1996 году как Business Connexion, считается одним из крупнейших системных интеграторов в Африке, Telkom Group купила бизнес в 2015 году. BCX анонсировала партнёрство с Alibaba в октябре 2022 года — африканскому контрагенту дали эксклюзивные права распространять продукты и сервисы Alibaba Cloud в Южной Африке. Сегодня Alibaba управляет 89 зонами доступности в 30 регионах по всему миру.

Компания IDC обнародовала результаты исследования мирового рынка публичных облаков в 2023 году. Отрасль продолжает демонстрировать стремительный рост: суммарные затраты по сравнению с 2022-м подскочили на 19,9%, достигнув приблизительно $669,2 млрд.

Крупнейшим сегментом остаются платформы SaaS (приложения): на них в 2023 году пришлось около $298,5 млрд, а доля в общем объёме рынка составила 44,6 %. Для сравнения, годом ранее показатели равнялись $254,4 млрд и 45,6 %. Таким образом, отмечен рост затрат на 17,4 % в годовом исчислении.

На втором месте в плане расходов находятся сервисы IaaS со $133,4 млрд против $115,5 млрд в 2022 году. Рост составил около 15,6 %, тогда как доля снизилась в годовом исчислении с 20,7 % до 19,9 %.

Источник изображения: IDC

Замыкают тройку службы PaaS со $123,3 млрд и долей 18,4 % по сравнению с $95,4 млрд и 17,1 % годом ранее. Рост в годовом исчислении зафиксирован на уровне 29,3 %. Затраты в сегменте SaaS–SIS (SaaS в области системных инфраструктур) год к году увеличились на 22,5 % — с $93,1 млрд до $114,0 млрд. При этом рыночная доля поднялась с 16,7 % до 17,0 %.

Суммарная доля пяти ведущих поставщиков публичных облачных услуг — Microsoft, Amazon Web Services (AWS), Salesforce, Google и Oracle — составила 40,5 % по итогам 2023 года. Лидером является Microsoft с результатом 16,8 %, а на втором месте располагается AWS с 12,4 %.

IDC прогнозирует, что в 2024 году мировой доход от публичных облаков превысит $800 млрд, что будет соответствовать росту на 20,5 % по отношению к 2023-му. Показатель CAGR (среднегодовой темп роста в сложных процентах) в течение пяти лет ожидается на отметке 19,5 %: в результате, затраты достигнут $1,6 трлн в 2028 году.

Компания Veeam Software, специализирующаяся на разработке решений резервного копирования и управления данными, представила облачную службу хранения данных Veeam Data Cloud Vault, использующую публичное облако Azure. Новое предложение Vault — «хранилище как услуга» (Storage as a Service, STaaS) — может использоваться для хранения данных, управления и доступа к ним в рамках подписки с предсказуемой ценой.

У заказчиков, по словам компании, отпадает необходимость в разработке, внедрении и управлении облачной или физической инфраструктурой хранения, основанной на принципах нулевого доверия. Решение интегрировано с Veeam Backup & Replication и предлагает полностью управляемое, предварительно настроенное, неизменяемое, зашифрованное и логически изолированное хранилище. Новинка дополняет предложения других провайдеров, таких как ExaGrid, ObjectFirst, PowerProtect, Scality и т.д.

Источник изображения: Veeam

Пользователи смогут напрямую писать резервные копии Veeam Data Platform в Veeam Vault или же дополнить локальное хранилище в рамках стратегии резервного копирования 3-2-1-1-0 с помощью копирования и/или многоуровневого хранения. Vault основано на уровне «горячего доступа» (Azure Blob Hot LRS) с немедленным доступом к данным. Предложение использовать его как часть стратегии 3-2-1-1-0 означает, что:

• должно быть как минимум три копии данных, включая рабочую;
• следует использовать как минимум два разных носителя данных, например, ленточное, дисковое и/или облачное хранилище;
• минимум одна из копий должна храниться отдельно от рабочих данных и основного бэкапа;
• минимум одна копия должна храниться оффлайн (с воздушным зазором) или, если она находится в публичном облаке, должна быть неизменяемой;
• резервное копироване должно завершаться без ошибок (количество ошибок — 0).

Вскоре Veeam добавит в Vault ещё две функции. Во-первых, появятся более холодные и архивные уровни объектного хранилища, особенно для старых и/или вторичных резервных копий, где более низкая производительность восстановления ради экономии средств при долгосрочногм хранении. Во-вторых, появится «централизованное управление и мониторинг всех аспектов Veeam Vault посредством более тесной интеграции с единым пользовательским интерфейсом Veeam Data Platform».

Облачное хранилище Veeam Data Cloud Vault доступно через Azure Marketplace с помесячной оплатой за кажлый Тбайт. Цена отличается в зависимости от региона и включает в себя оплату хранилища, вызовы API для записи/чтения, а также исходящий трафик.

Китайские компании, лишённые доступа к передовым ИИ-чипам из-за введённых США санкций, освоили новую схему обхода ограничений. По данным The Register, теперь они покупают доступ к подсанкционному оборудованию непосредственно на территории Соединённых Штатов. О возможности подобной схемы эксперты предупреждали уже давно.

По слухам, Alibaba и Tencent вели переговоры с NVIDIA о получении тем или иным способом доступа к ускорителям, продажа которых в Китай ограничена — бизнесы из КНР рассматривали возможность использовать их в ЦОД на территории США. China Telecom, как считается, тоже вела переговоры с облачными провайдерами о получении доступа к высокопроизводительному ИИ-оборудованию. Другими словами, китайский бизнес намерен обходить американские санкции, покупая или арендуя оборудование под боком у Вашингтона. Владелец TikTok — компания ByteDance, похоже, тоже участвует в подобных схемах со своим партнёром Oracle, у которого она арендует доступ к передовым ускорителям NVIDIA.

Источник изображения: Mark Daynes/unsplash.com

В NVIDIA ответили на запросы журналистов, сообщив, что поддерживают новые дата-центры в США, расширяя вычислительные экосистемы и создавая рабочие места. В компании подчеркнули, что все клиенты американских ЦОД должны соблюдать местные законы, включая правила экспортного контроля и прочие ограничения.

США уже годами вовлечены в «полупроводниковую войну» и применили в отношении Китая несколько пакетов санкций, призванных ограничить доступ Китаю к данным о передовых архитектурах чипов и современному оборудованию для их производства. Конечно, КНР ищет пути для обхода ограничений — например, компании вроде Huawei неоднократно ловили на попытках так или иначе обмануть американскую санкционную машину.

В то же время США пытаются наладить производство чипов на территории страны — сегодня большинство передовых полупроводников выпускается на Тайване. Это только усилит желание КНР получить доступ к самым современным технологиям и подстегнёт не только инвестиции в полупроводниковую отрасль, но и поиск новых путей обхода санкций. Правда, пока не известно, могут ли считаться китайские компании, пытающиеся организовать вычисления на территории США, нарушителями законов или они просто ловко нашли пробел в американском законодательстве.

Провайдер облачных сервисов CoreWeave официально объявил о планах расширения деятельности на территории континентальной Европы. Datacenter Dynamics сообщает, что компания намерена инвестировать $2,2 млрд в три дата-центра на континенте ещё до конца 2025 года.

Основанная в 2017 году компания, занимавшаяся изначально майнингом и другими блокчейн-технологиями, вовремя переключилась на предоставление облачного доступа к современным ИИ-ускорителям. Компания уже привлекла миллиарды долларов инвестиций и даже взяла немало средств в долг. Сейчас она располагает тремя основными регионами ЦОД: US East в Нью-Джерси, US West в Неваде и US Central в Чикаго (Иллинойс). Также имеются сведения об ещё одном регионе в Рино (тоже в Иллинойсе).

В Европе компания суммарно потратит $3,5 млрд, включая $1,3 млрд на дата-центры в Великобритании. Три новых ЦОД дополнят проекты CoreWeave в этой стране. В компании считают, что Европа станет новым фронтиром для ИИ-индустрии и важной точкой роста самой CoreWeave. По словам представителей оператора, его инфраструктура обеспечит европейскому облачному рынку вычислительные решения и инструменты, необходимые для удовлетворения спроса на ИИ-проекты следующего поколения.

Источник изображения: Coreweave

Хотя подробностей о вложениях известно не так уж много, уже есть данные, что CoreWeave будет инвестировать в кампусы на территории Швеции и Норвегии. Ранее сообщалось, что компания планирует открыть объект и в Испании — она уже искала технического специалиста для работы в ЦОД EdgeConneX в Барселоне. При этом официальных данных о реализации проекта в Испании не поступало.

Шведские власти приветствуют инвестиции в местные ЦОД, предрекая, что они усилят критическую ИИ-инфраструктуру в стране и сами по себе являются свидетельством уверенности бизнеса в шведском технологическом секторе и местном финансовом климате, привлекающем подобные компании. В Норвегии также поддерживают инициативу и, похоже, намерены превратить страну в хаб для технологического развития и реализации ИИ-проектов.

В последние 18 месяцев компания стремительно наращивает арендуемые ёмкости и ранее сообщала, что рассчитывает управлять 14 дата-центрами к концу 2023 года и 28 — к концу 2024. Она уже подписала соглашения с Lincoln Rackhouse, Chirisa, Flexential, TierPoint, Digital Realty и Core Scientific в нескольких штатах США, по всей стране открыты вакансии компании для технических специалистов.

Облачный провайдер Lambda Labs представил услугу 1-Click Clusters, которая позволяет без длительного ожидания получить ИИ-кластер, включающий от 64 до 512 ускорителей NVIDIA H100, на срок от двух недель по единой цене $4,49/час за каждый ускоритель. По словам сооснователя компании, данное предложение является уникальным и с рыночной, и с технической точки зрения.

Lambda Labs говорит, что на практике большинству ИИ-разработчиков как правило требуется доступ к кластерам из десятков или сотен ускорителей на относительно короткие периоды обучения и проверки моделей длительностью несколько недель. При этом долгосрочная аренда кластера, который будет периодически простаивать, обходится дорого. А аренда на короткий срок нередко сопряжена с длительным ожиданием доступности ускорителей как раз в тот момент, когда они больше всего нужны. При этом без общения с отделом продаж вряд ли удастся обойтись. Именно поэтому Lambda Lambs и предложила услугу 1-Click Clusters, в рамках которой на получение ИИ-кластера уходит не более нескольких дней.

Источник изображения: Lambda Labs

Аппаратная составляющая включает узлы на базе HGX H100 с 208 vCPU, 1,9 Тбайт RAM и локальным NVMe-хранилищем ёмкостью 24 Тбайт. Все узлы связаны 400G-интерконнектом NVIDIA Quantum-2 InfiniBand, а каждому ускорителю полагается свой адаптер NVIDIA ConnectX-7. Как утверждает сооснователь Lambda Labs, мало кто из облачных провайдеров способен «нарезать» крупную InfiniBand-фабрику, объединяющую тысячи ускорителей, на небольшие виртуализированные кластеры, причём делать это без участия человека.

В состав каждого кластера также входят три управляющих узла: 8 vCPU, 34 Гбайт RAM, 208 Гбайт NVMe SSD и один внешний IP-адрес. За интернет-подключение отвечают два общих 100-Гбит/с канала, причём плата не берётся ни за входящий, ни за исходящий трафик. Дополнительно можно арендовать сетевое хранилище по цене $0,20/мес. за каждый Гбайт. Кластеры поставляются вместе с набором ПО Lambda Stack, который включает все необходимые драйверы и библиотеки, популярные фреймворки и средства разработки.

Облачный провайдер CoreWeave предложил $1 млрд компании Core Scientific, предоставляющей хостинг для HPC-систем и параллельно занимающейся криптомайнингом. Datacenter Dynamics сообщает, что предложение поступило всего через несколько дней после подписания соглашения на аренду 200 МВт в течение 12 лет за $3,5 млрд.

Как сообщают отраслевые источники, речь идёт о покупке компании из расчёта $5,75 за акцию — это несколько меньше биржевой стоимости Core Scientific на момент предложения. Компании сотрудничают уже несколько лет — в Core Scientific говорят об аренде «тысяч ускорителей» с 2019 по 2022 гг. Если соглашение об аренде 200 МВт останется в силе, то последней придётся модифицировать многочисленные площадки для размещения ускорителей NVIDIA, принадлежащих CoreWeave.

Модернизация должна начаться летом 2024 года, а закончить её планируется в первой половине 2025-го. На это потребуется около $300 млн, которые будут получены от платежей CoreWeave за хостинг, но инвестировать можно будет не более половины от ежемесячной платы. Договор с CoreWeave позволяет дважды продлить аренду мощностей сроком на пять лет, в том числе на других площадках Core Scientific.

Предполагается, что сделка с CoreWeave позволит диверсифицировать бизнес и сбалансировать майнинг и хостинг для ИИ-проектов для максимизации прибыли и минимизации рисков. В Core Scientific заявили, что из доступных ей почти 1,2 ГВт мощностей она может выделить до 500 МВТ для HPC/ИИ-хостинга. Часть майнинговых проектов перенесут с одних площадок на другие, компактно высвобождая место для HPC-кластеров.

Источник изображения: Towfiqu barbhuiya/unsplash.com

CoreWeave, основанная в 2017 году, в своё время и сама занималась криптовалютами и блокчейн-технологиями, но впоследствии переключилась на облачные ИИ-платформы. Компания привлекла миллиарды долларов в качестве инвестиций и просто в долг. На сегодня она предлагает сервисы в трёх регионах: US East (Нью-Джерси), US West (Невада) и US Central (Иллинойс). Компания активно арендует мощности и к концу 2023 года намеревалась управлять 14 дата-центрами, а к концу 2024 — 28 ЦОД.

CoreWeave заявила, что потратит $1,6 млрд на постройку ЦОД для ИИ-супероблака, перенесёт часть мощностей в ЦОД Chirisa, арендует дата-центры Flexential и TierPoint в США. В марте этого года CoreWeave арендовала 16 МВт в ЦОД Core Scientific в Остине (Техас). Компания считается крупным клиентом Digital Realty, арендующим стойки для «десятков тысяч» ускорителей в одном из ЦОД на западном побережье США. Недавно компания анонсировала строительство двух ЦОД в Великобритании и присматривается к ЦОД EdgeConneX в Барселоне. Прямым конкурентом компании считается Lambda Labs, масштабы бизнеса которой гораздо скромнее.

Core Scientific тоже основана в 2017 году, но управляет криптомайнинговыми кампусами ЦОД в США. Всего компания располагает 745 МВт доступной энергии и ещё 372 МВт зарезервированной ёмкости. У неё имеется собственное майнинговое оборудование и, конечно, на её мощностях расположено оборудование клиентов. Впрочем, дела Core Scientific идут довольно плохо — в декабре 2022 года она подала заявление о банкротстве, после чего цена её акций упала на 98 %.

UPD 06.06.2024: руководство Core Scientific отказалось от предложения CoreWeave о покупке, отметив, что ведёт переговоры с другими клиентами по поводу предоставления ёмкостей для хостинга HPC- и ИИ-проектов. Компания считает, что для неё это пока более прибыльно, чем продажа. На фоне последних новостей акции компании выросли.

UPD 26.06.2024: CoreWeave подписала с Core Scientific ещё одно соглашение об аренде, на этот раз на 12 лет и 70 МВт.