В 2024 году компания Meta✴, по сообщению The Register, после многих лет разработки может начать массовое внедрение собственных ИИ-чипов. Они станут альтернативой ускорителям NVIDIA и AMD, что поможет снизить зависимость от продукции сторонних поставщиков. В 2024 году компания намерена потратить до $37 млрд на развитие своей инфраструктуры.

В настоящее время для поддержания ИИ-нагрузок Meta✴ применяет такие решения, как NVIDIA H100. Ожидается, что к концу 2024 года компания будет иметь в своём распоряжении 350 тыс. этих ускорителей. Вместе с тем Meta✴ проявляет интерес и к изделиям AMD Instinct MI300. Ранее компания высоко оценила возможности Qualcomm Cloud AI 100, но отказалась от них из-за несовершенства ПО. Не приглянулись Meta✴ и чипы Esperanto. Сейчас Meta✴ ведёт разработку собственных ИИ-ускорителей.

Источник изображения: Meta✴

Весной 2023 года стало известно, что компания создала свой первый ИИ-процессор. Чип под названием MTIA (Meta✴✴ Training and Inference Accelerator; на изображении) представляет собой ASIC в виде набора блоков, функционирующих в параллельном режиме. Задействованы 64 вычислительных элемента в виде матрицы 8 × 8, каждый из которых объединяет два ядра с архитектурой RISC-V. Конструкция включает 128 Мбайт памяти SRAM, а также до 64/128 Гбайт памяти LPDDR5. Показатель TDP равен 25 Вт. Заявленная производительность на операциях INT8 достигает 102,4 TOPS, на операциях FP16 — 51,2 Тфлопс. Процессор производится по 7-нм технологии TSMC.

Источник изображения: Meta✴

Как теперь сообщается, в 2024-м Meta✴ намерена начать активное использование собственных ИИ-ускорителей с кодовым именем Artemis. В их основу лягут компоненты MTIA первого поколения. Чип Artemis, оптимизированный для инференса, будет применяться наряду с ускорителями сторонних поставщиков. При этом, как отметили представители компании, изделия Artemis обеспечат «оптимальное сочетание производительности и эффективности при рабочих нагрузках, специфичных для Meta✴».

Источник изображения: Meta✴

Компания пока не раскрывает ни архитектуру Artemis, ни конкретные рабочие нагрузки, которые будет поддерживать чип. Участники рынка полагают, что Meta✴ будет запускать готовые ИИ-модели на собственных специализированных ASIC, чтобы высвободить ресурсы ускорителей для развивающихся приложений. По данным SemiAnalysis, Artemis получит улучшенные ядра, а компоненты LPDDR5 уступят место более быстрой памяти, использующей технологию TSMC CoWoS.

Нужно добавить, что Amazon и Google уже несколько лет используют собственные чипы для ИИ-задач. Например, Amazon недавно ИИ-ускорители Trainium2 и Inferenetia2, тогда как Google в 2023 году представила сразу два новых ускорителя: Cloud TPU v5p и TPU v5e. А Microsoft сообщила о создании ИИ-ускорителя Maia 100.

Холдинг Alphabet сообщил результаты работы в IV квартале и 2023 году, завершившемся 31 декабря. Выручка облачного подразделения Google Cloud составила около $9,2 млрд, увеличившись год к году на 25,66 %. Что примечательно, подразделение сработало с операционной прибылью в размере $864 млн, в то время годом ранее у него были убытки в $186 млн.

Выручка всего Alphabet в IV квартале составила $86,31 млрд по сравнению с $76,048 млрд годом ранее. Выручка за весь 2023 год — $307,394 млрд, что значительно превышает результат 2022 года, равный $282,836 млрд. Чистая прибыль холдинга выросла в 2023 году до $73,795 млрд с $59,972 млрд годом ранее, отчасти благодаря решению компании продлить срок службы серверов и сетевого оборудования.

Alphabet впервые продлил срок службы своего оборудования в 2021 году, увеличив продолжительность работы серверов с трёх до четырёх лет, а сетевого оборудования — с четырёх до пяти. В 2023 году Alphabet вновь продлил срок эксплуатации оборудования, на этот раз — до шести лет. Благодаря этому только в IV квартале 2023 года расходы компании на амортизацию оборудования упали на $983 млн, а чистая прибыль увеличилась на $765 млн. За весь год амортизация оборудования Alphabet снизилась на $3,9 млрд, а чистая прибыль увеличилась на $3 млрд.

Изображение: Google

При этом компания вложила значительные средства в новую инфраструктуру. В IV квартале общие капитальные затраты составили $11 млрд, что, по словам президента и главного инвестиционного директора Alphabet и Google Рут Порат (Ruth Porat), было обусловлено «инвестициями в техническую инфраструктуру, причём самый крупный компонент — серверы, за которыми следуют ЦОД». В предыдущем квартале капзатраты составили $7,6 млрд. Резкое увеличение капзатрат обусловлено «перспективами создания уникальных приложений ИИ для пользователей, рекламодателей, разработчиков, облачных корпоративных клиентов и правительств во всем мире, а также возможностями долгосрочного роста, которые они предлагают».

Порат добавила, что компания будет придерживаться этой политики и в 2024 году. «Мы ожидаем, что капитальные затраты в 2024 году будут значительно больше, чем в 2023 году», — отметила она. Порат также подчеркнула, что фактором роста Google Cloud Platform (GCP) является ИИ. Гендиректор Сундар Пичаи (Sundar Pichai) заявил, что компания продолжит инвестировать в инфраструктуру, как в ЦОД, так и в вычислительную технику, чтобы поддержать рост возможностей ИИ-технологий.

Изображение: Google

Подразделение Google Cloud снова стало самым быстрорастущим сегментом. После значительного замедления роста с +28 % год к году во II квартале до +22 % в III квартале рост облака вновь ускорился до +26 %. Более того, в этот раз ускорение темпов роста было сильнее, чем у AWS и Azure. Рост доходов от облачных технологий вновь ускорился на 4 п. п. Также резко выросла операционная маржа Google Cloud — последовательно на 6 п.п. до 9 %. Компания объяснила замедление темпов роста в III квартале проведением оптимизации рабочей нагрузки. В ходе нынешнего отчёта Сундар Пичаи сообщил, что этот вопрос «в основном был проработан».

Темпы роста Google Cloud по-прежнему опережают рынок: по оценкам Synergy Research Group, общемировой прирост рынка облаков составил +20 % в годовом исчислении до $74 млрд в IV квартале, ускорившись с 18 % в годовом исчислении в III квартале. Доминирует Amazon (31 % рынка), за ним следуют Microsoft (24 %) и Google (11 %). Большая тройка занимает 67 % рынка. Причём Microsoft и Google нарастили свои доли, а AWS — снизила.

Медиакомпания X/Twitter получила налоговую льготу на сумму $10,1 млн за то, что согласилась разместить оборудование ЦОД в Атланте (Джорджия). Datacenter Dynamics сообщает, что бизнес Илона Маска (Elon Musk) пригрозил в противном случае отправить оборудование для ИИ-вычислений в Портленд (Орегон).

На прошлой неделе Управление по развитию округа Фултон (Development Authority of Fulton County) провело голосование, в результате которого подавляющим большинством голосов (шесть против двух) решено предоставить налоговые льготы сроком на 10 лет для проекта стоимостью $700 млн в Атланте. Предполагается дооснащение уже существующего объекта.

Фото: Kelly Sikkema / Unsplash

Инфраструктуру будут использовать для создания ИИ-продуктов X Platform. Например, больших языковых моделей (LLM) и инструментов семантического поиска. X заказала 10 тыс. ускорителей для этого проекта в апреле 2023 года, но в декабре местные власти отказали ей в налоговых льготах. X заявила о необходимости подобной «скидки», чтобы якобы не пришлось делать трудный выбор и размещать оборудование в Портленде (Орегон).

Несмотря на явный шантаж, в декабре X признала, что начнёт обновлять инфраструктуру независимо от того, предоставят ли местные власти льготу или нет. В январе представитель X признался, что большая часть ИИ-оборудования уже доставлена в ЦОД в Атланте, не считая одной партии стоимостью $200 млн. Тем не менее, он предупредил, что оставшееся «железо» могут направить в Портленд, если власти не пойдут навстречу.

X ссылается на то, что без льгот обслуживание инфраструктуры в Атланте будет на 21 % дороже, чем в Орегоне, а при их наличии стоимость в обоих штатах будет одинаковой. При этом проект не предусматривает создания новых рабочих мест, хотя и позволит сохранить 24 из уже существующих. Налоговые поступления в следующие 10 лет должны составить более $16 млн.

Фото: Taylor Vick / Unsplash

Пикантность ситуации в том, что у X практически не осталось собственных площадок. ЦОД в Атланте порядка десяти лет является одним из основных для компании. После прихода Маска компания покинула сначала один дата-центр в Сакраменто (Калифорния), а затем и второй, причём один из них в итоге достался Tesla. Суммарно компания высвободила 48 МВт, перенеся часть нагрузок в оставшиеся ЦОД. Ожидалось, что она сократит присутствие и в Атланте.

Компанию также обвиняли в иной форме «оптимизации» — неуплате счетов облачным провайдерам, включая Google, Oracle и Amazon. Маск требовал пересмотреть условия контрактов, но в результате X/Twitter столкнулась с техническими проблемами, вызвавшими сбои в работе сервисов. При этом компания по-прежнему во многом полагается на облака.

Американский регулятор присвоил высокий приоритет расследованию об использовании телеком-операторами США старых кабелей в свинцовой оболочке. Как сообщает The Wall Street Journal (WSJ), Агентство по охране окружающей среды (EPA) запросило встречу с участниками местного рынка телекоммуникационных услуг в связи с тем, что AT&T, Verizon и другие операторы до сих пор не избавились от кабелей, признанных небезопасным ещё в середине прошлого века.

В результате делом занялось EPA, которое выявило превышение уровня свинца выше максимально допустимого для безопасности детей в более чем сотне проб, взятых с мест расположения кабелей в свинцовых оболочках в трёх штатах. Агентство намерено взять дополнительные пробы в других местах. Ассоциация United States Telecom Association (USTelecom), представляющая интересы операторов США, сообщила, что Verizon сотрудничает с EPA. С аналогичным заявлением самостоятельно выступила и AT&T.

Источник изображения: NANDKUMAR PATEL / Unsplash

Операторы, в ведении которых находятся старые освинцованные кабели, заявили, что те не несут угрозы и вообще не являются основным источником загрязнения природы. Однако прошлогоднее расследование WSJ показало, что свинец из старых кабелей со временем попадает в окружающую среду — в воду, почву и воздух. Превышение норм было выявлено в самых разных концах страны. Пробы из окрестностей 130 кабелей были признаны токсичными сразу несколькими независимыми лабораториями. После этого вопросом заинтересовались американские сенаторы.

Журналисты заявили, что скрытыми источниками загрязнения являются более 2 тыс. старых магистралей, причём с проблемой не спешили бороться ни ответственные за них компании, ни природоохранные ведомства. Хотя телеком-операторы не применяют кабели в свинцовой оболочке с 1960-х годов, старые магистрали, как правило, остаются там же, где их когда-то проложили, даже если по соседству с ними проведены оптоволоконные линии. По некоторым оценкам, утилизация или нейтрализация токсичных кабелей обойдётся операторам в $60 млрд.

Регуляторы США, отвечающие за вопросы здравоохранения и защиты окружающей среды, подчёркивают, что загрязнение свинцом может подрывать здоровье людей — металл влияет на почки, сердце, репродуктивные способности и психическое развитие, причём «безопасной» дозы фактически не существует, особенно для детей. Свинец может довольно долго оставаться в кровотоке и десятилетиями накапливаться во внутренних органах и костях.

Консорциум NVM Express обновил спецификации, добавив возможность работы с вычислительными хранилищами NVMe Computational Storage Feature. Речь идёт о возможности использования устройств хранения, которые могут самостоятельно обрабатывать хранящуюся на них информацию по команде извне. Это позволит снизить совокупную стоимость владения IT-системами и повысить их общую производительность.

Спецификация включает два новых набора команд: Computational Programs и Subsystem Local Memory Command Sets. Первый отвечает за исполнение программ на устройстве хранения, в том числе их загрузку, поиск уже загруженных программ и их запуск. Набор обеспечивает модульный подход к программам, управляемым хостом. Второй предоставляет доступ к памяти в подсистеме NVM и позволяет работать с данными, обрабатываемыми программами на устройстве хранения.

Источник изображения: NVM Express

Вычислительное хранилище сокращает необходимость в перемещении данных между накопителями и процессором/ускорителем. Определённые операции могут производиться непосредственно на устройстве хранения, что повышает время отклика приложений, критичных к задержке. Это могут быть базы данных, модели ИИ и системы доставки контента.

В целом, функция NVMe Computational Storage Feature обеспечивает стандартизированную, не зависящую от поставщика оборудования архитектуру для хранения и обработки данных на накопителях NVMe. Решение ориентировано прежде всего на операторов дата-центров и гиперскейлеров.

Google объявила о намерении проложить новые кабели в центральной части Тихого океана. Как сообщает пресс-служба компании, речь идёт о кабелях, не покидающих пределы тихоокеанского бассейна — Bulikula и Halaihai. Они будут проложены при сотрудничестве с Amalgamated Telecom Holdings (ATH), APTelecom и Telstra и обеспечат рост доступности и надёжности связи в регионе.

В частности, Bulikula свяжет Гуам с Фиджи, а Halaihai — Гуам и Французскую Полинезию. В рамках более глобального проекта South Pacific Connect, анонсированного в октябре и включающего кабели Honomoana и Tabua, а также Humboldt, инициатива Central Pacific Connect позволит создать кольцевую связь между Гуамом, Французской Полинезией и Фиджи, с заранее запланированными ответвлениями для подключения и других стран и территорий в этой местности.

После ввода в эксплуатацию Bulikula и Halaihai значительно усилятся позиции Гуама, уже сегодня выступающего в качестве хаба для кабелей Apricot, Echo и др. Власти Гуама принимают все меры для развития цифровой инфраструктуры и сокращения информационной пропасти между жителями. Заявлено, что дополнительно Гуам поможет обеспечить связью острова в северной и южной частях океана. Поддерживают аналогичные инициативы и власти Фиджи и Французской Полинезии.

Источник изображения: Google

В целом Pacific Connect рассматривается как ключевая инвестиция, способная внести фундаментальные изменения в структуру доступа к Сети на Островах Кука, на Фиджи, Кирибати, Самоа и Вануату, а также обеспечить магистральный интернет всем тихоокеанским островам. Инициативу приветствовали и в Австралии, тесно связанной с регионом, а также в США. Считается, что это поможет экономическому и социальному развитию, обеспечит новые возможности для торговли, электронной коммерции и доступа к правительственным сервисам.

Компания VMware прекращает распространение большого количества редакций продуктов виртуализации семейства vSphere. Изменение политики, по всей видимости, связано со сделкой с Broadcom, заключённая ещё во II квартале 2022 года. Статус End Of Availability (EOA) получили более 50 программных решений (см. список ниже). Для некоторых решений VMware предлагает новую модель использования по подписке.

Наблюдатели говорят, что после поглощения компании VMware корпорацией Broadcom развитие бизнеса VMware пошло по иному пути. Цель заключается в увеличении выручки от крупных клиентов в ущерб небольшим заказчикам. Ранее Broadcom отменила бессрочные лицензии VMware, а также перевела все решения на подписную модель. Кроме того, началась корректировка продуктового семейства. Одновременно были отменены скидки и изменена схема взаимодействия с партнёрами. Бизнес VMware реорганизован с формированием четырёх ключевых подразделений.

Источник изображения: VMware

Для малых предприятий данное решение компании стало настоящим ударом и привело к переоценке обслуживания и дальнейшего развития инфраструктуры. Полный перечень софта, попавшего в список EOA, выглядит следующим образом:

• VMware vSphere+/Enterprise Plus;
• VMware vSphere Starter/Basic/Standard/Advanced/Foundation/ROBO/Scale Out/Desktop/Acceleration Kits/Essentials Kit/Essentials Plus Kit;
• VMware vSphere with Operations Management;
• VMware vSphere Storage Appliance;
• VMware vSphere Hypervisor;
• VMware Cloud Foundation;
• VMware Cloud Foundation for VDI/for ROBO;
• VMware SDDC Manager;
• VMware vCenter Standard/Foundation;
• VMware vSAN;
• VMware vSAN ROBO/Desktop;
• VMware HCI Kit;
• VMware Site Recovery Manager;
• VMware Cloud Editions/Cloud Packs;
• VMware vCloud Suite;
• VMware Aria Suite (vRealize Suite)/Universal Suite (vRealize Cloud Universal)/Suite Term/Operations for Networks (vRealize Network Insight)/Operations for Networks Universal (vRealize Network Insight Universal)/Operations for Logs (vRealize Log Insight);
• VMware vRealize Network Insight ROBO/Operations 8 Application Monitoring Add-On/Automation SaltStack SecOps Add-On;
• VMware Aria Operations/Automation/Automation for Secure Hosts add-on (SaltStack SecOps)/Operations for Integrations (vRealize True Visibility Suite);
• VMware Cloud Director/Cloud Director Service;
• VMware NSX;
• VMware NSX for Desktop/ROBO/Distributed Firewall/Gateway Firewall;
• VMware NSX Threat Prevention to Distributed Firewall/Threat Prevention to Gateway Firewall;
• VMware NSX Advanced Threat Prevention to Distributed Firewall/Advanced Threat Prevention to Gateway Firewall;
• VMware NSX Advanced Load Balancer;
• VMware Container Networking Enterprise with Antrea;
• VMware HCX/HCX+.

Компания Aligned представила новую систему жидкостного охлаждения DeltaFlow~, которая позволяет увеличить плотность размщения вычислительных мощностей 300 кВт на стойку, сообщил ресур Datacenter Dynamics.

DeltaFlow^~ — это готовое решение, поддерживающее текущие и будущие технологии жидкостного охлаждения, включая прямое охлаждение direct-to-chip с CDU, охлаждение с использованием теплообменника на задней дверце (Rear-door Heat Exchanger, RDHx) и иммерсионное охлаждение. Решение опирается на систему с замкнутым контуром без использования наружного воздуха или воды. По словам Alidned, новая СЖО позволяет клиентам по-максимуму использовать современные чипы и ускорителя, сокращая время выхода на рынок, затраты и риски.

Фото: Aligned

DeltaFlow^~ также интегрируется с технологией воздушного охлаждения Delta³ (Delta Cube) без изменений в подаче электроэнергии или существующей температуры в машинных залах. Delta³ вместо традиционного холодного коридора использует вентиляторы и теплообменники, расположенные непосредственно за стойками и подключённые к водяному контуру, уходящему к чиллерам. Delta³ позволяет добиться плотности до 50 кВт на стойку.

Aligned стала одной из последних компаний, анонсировавшей платформу для оборудования высокой плотности, основанное на жидкостном охлаждении. Ранее в этом месяце Stack представила решение с использованием погружного охлаждения, которое позволяет поддерживать мощность 300 кВт или выше на стойку. Летом прошлого года CyrusOne анонсировала новую архитектуру ЦОД для ИИ-нагрузок, где тоже используется погружное охлаждение и тоже можно получить 300 кВт на стойку.

Тогда же Digital Realty запустила услугу колокации с поддержкой размещений до 70 кВт на стойку, а в декабре Equinix объявила о планах по расширению поддержки передовых технологий СЖО в значительной части своих ЦОД, хотя и не указала предельную плотность. DataBank также переработала конструкцию машинных залов для поддержки размещений высокой плотностью с использованием жидкостного охлаждения.

Компания Güralp Systems Ltd, по сообщению ресурса Datacenter Dynamics, проложила в Ионическом море в 30 км от побережья Катании на Сицилии (Италия) инновационный подводный кабель SMART протяжённостью 21 км. Решение предназначено для мониторинга сейсмической активности.

Кабели SMART (Science Monitoring and Reliable Telecommunications — научный мониторинг и надежные телекоммуникации) предусматривают установку датчиков в подводные оптоволоконные повторители для сбора данных об окружающей среде на дне океана.

Система разработана компанией Güralp в партнёрстве с Национальным институтом геофизики и вулканологии (INGV) для итальянского проекта InSEA SMART Cable: Wet Demonstrator Project. Задача заключается в измерении сейсмического риска у побережья Сицилии. Инициатива InSEA финансируется Министерством исследований Италии и управляется INGV.

Источник изображений: Güralp

Цель проекта — изучение возможности размещения сейсмометров и датчиков мониторинга окружающей среды внутри и вокруг корпусов ретрансляторов традиционных подводных оптоволоконных интернет-кабелей. При этом одним из главных условий является сохранение научной ценности данных, собираемых такими приборами.

Кабельная система SMART содержит три измерительных ретранслятора, расположенных на расстоянии 6 км друг от друга. Каждый из них оснащён сейсмометром Certimus, акселерометром Fortimus, а также наружным блоком приборов, который содержит манометр абсолютного давления и датчик температуры.

Кабель SMART спроектирован таким образом, чтобы для его укладки могло использоваться стандартное оборудование. Он был проложен в декабре 2023 года на глубине около 2000 м. Компания Güralp уже начала сбор научных данных. Ожидается, что такая информация поможет в прогнозировании высоты цунами в регионе, а также позволит сократить время предупреждения.

Платформа Google Cloud сообщила о том, что отныне отменяется плата за перенос данных её клиентов, которые переходят к другому облачному провайдеру или хотят использовать собственную вычислительную инфраструктуру. Это изменение носит глобальный характер и распространяется на всех пользователей Google Cloud по всему миру.

Отмечается, что устранение платы за выгрузку данных при смене поставщика услуг облегчит клиентам переход на наиболее подходящие для них платформы. Амит Завери (Amit Zavery), генеральный менеджер и руководитель платформы Google Cloud, говорит, что данный шаг отражает стремления компании упростить взаимодействие облачных систем.

Источник изображения: Google

Вместе с тем Google подчёркивает, что нововведение не решает фундаментальных проблем, которые «мешают многим клиентам работать с предпочитаемым ими поставщиком облачных услуг». Речь идёт о политиках лицензирования, которые используют другие облачные провайдеры. Google отмечает, что крупные игроки рынка используют своё доминирующее положение для ухудшения конкурентной обстановки. Google заявляет, что сложная схема лицензионных ограничений провайдеров-монополистов включает в себя правила, с кем и как могут работать их клиенты; взимание пятикратной комиссии при переходе на облака определённых конкурентов; ограничение совместимости необходимого ПО с облачной инфраструктурой конкурентов.

Ранее Google направила в антимонопольный орган Великобритании жалобу против Microsoft, заявив, что политика корпорации ставит в невыгодное положение других облачных поставщиков. По словам Google, из-за лицензионных ограничений Microsoft у клиентов «не остаётся экономически разумной альтернативы, кроме как использовать Azure». Ранее сообщалось, что антимонопольное расследование деятельности Amazon и Microsoft на облачном рынке начнёт британский регулятор Office of Communications (Ofcom). В Евросоюзе на днях вступил в силу закон, обязывающий облачных провайдеров упростить переход клиентов к конкурентами.