Компания AMD, по сообщению ресурса The Register, нашла крупного заказчика для DPU (Data Processing Unit) семейства Pensando: им стало облако Microsoft Azure. Доступ к этим специализированным ускорителям теперь предоставляется клиентам по модели «как услуга». Это тем более любопытно, что Microsoft недавно поглотила разработчика DPU Fungible.

О поставках DPU Pensando в интересах Microsoft сообщила президент и исполнительный директор AMD Лиза Су (Lisa Su) в ходе оглашения финансовых показателей за I квартал 2023 года. Ускорители применяются в составе недавно анонсированной службы Microsoft Accelerated Connections. Гиперскейлеры зачастую используют DPU, но делают это для поддержания работы собственных сервисов. В случае Azure доступ к таким ускорителям предоставляется сторонним заказчикам.

Источник изображения: AMD

В финансовом отчёте AMD говорится, что выручка по итогам I четверти 2023-го составила $5,35 млрд. Это примерно на 9 % меньше результата годичной давности, равнявшегося $5,89 млрд. Компания понесла чистые убытки в размере $139 млн, или 9 центов в пересчёте на одну ценную бумагу. Для сравнения: в I квартале 2022 года AMD продемонстрировала чистую прибыль на уровне $786 млн, или 56 центов на акцию.

Источник изображения: AMD

Выручка подразделения ЦОД за год практически не изменилась: она составила $1,30 млрд против $1,29 млрд в I четверти 2022-го. При этом операционная прибыль рухнула в годовом исчислении на 65 % — с $427 млн до $148 млн. По направлению встраиваемых систем квартальная выручка за год взлетела на 163 % — с $595 млн до $1,56 млрд. Операционная прибыль в этой группе поднялась на 188 %, достигнув $798 млн.

По словам госпожи Су, AMD ожидает, что спрос на серверы во втором квартале 2023 года «остается смешанным». При этом компания рассматривает в качестве потенциальных областей роста ЦОД-сегмент и рынок встраиваемых систем. Увеличению продаж должно способствовать бурное развитие технологий ИИ. Компания ожидает, что на рынке будут востребованы процессоры Genoa и Bergamo, а также ускорители MI300 и решения Xilinx.

Как известно, один из пионеров концепции DPU, Pensando Systems теперь принадлежит AMD. Поглощение состоялось весной этого года и обошлось «красным» в $1,9 млрд. На мероприятии VMware Explore 2022 были озвучены весьма обширные планы AMD относительно технологического наследия Pensando, передаёт ServeTheHome.

Напомним, первое поколение сопроцессоров данных, разработанное Pensando, получило кодовое имя Capri, оно использовало 16-нм техпроцесс и поддерживало скорость 100 Гбит/с. Второе поколение, Elba, уже получило 7-нм «кремний», поддержку 200GbE, четыре P4-программируемых конвейера с 32 ядрами MPU для обработки сетевых пакетов, а также 16 ядер Arm Cortex-A72 для пользовательских приложений.

Здесь и далее источник изображений: AMD (via ServeTheHome)

Сопроцессоры Elba нашли своё место в коммутаторах Aruba CX 10000. Но доступны они и в виде обычных карт расширения: так, младший вариант DSC2-25G в форм-факторе HHHL имеет две корзины SFP56 и поддерживает конфигурации 2×10G или 2×25G. Старший вариант оснащён портами QSFP28 и поддерживает установку трансиверов со скоростями вплоть до 100 Гбит/с.

Но самое интересное, чем поделилась AMD на VMware Explore 2022 — планы по развитию DPU на базе наработок Pensando. Новый чип под кодовым названием Giglio должен будет увидеть свет уже в следующем, 2023 году. Относится он к поколению 2+, и является оптимизированной версией Elba. При этом в планах у AMD есть и 400G-платформа Adaptive Exotic SmartNIC.

А вот на 2024 год запланирован DPU следующего поколения: 5-нм процессор под кодовым именем Salina сразу получит поддержку скорости 800 Гбит/с. При этом сохранится программная совместимость с DPU Pensando предыдущего поколения. Любопытно, что в презентации AMD присутствует упоминание «AMD EPYC Solution (Future)». Каким образом платформа Pensando будет интегрирована с EPYC, пока не уточняется.

Отметим, что AMD планирует гораздо быстрее Intel освоить 400G и 800G — первую планку «синие» собираются взять в 2023–24 гг., а вторую только двумя годами позже. И у обеих компания есть целый ряд конкурентов в лице Chelsio, Fungible, Kalray, Marvell, Nebulon, NVIDIA и др. При этом у AMD и NVIDIA уже есть важное преимущество — их решения теперь совместимы с VMware vSphere 8.

На конференция Hot Chips 34 AMD представила новую платформу 400G Adaptive Exotic SmartNIC. В самой концепции формально нет ничего нового, поскольку DPU уже снискали популярность в среде гиперскейлеров, но вариант AMD сочетает достоинства не двух, а трёх миров: классического ASIC, программируемой логики на базе FPGA и Arm-процессора общего назначения.

На деле процессор (PSX) новинки AMD устроен ещё интереснее: он делится на два домена. В первом домене имеется шестнадцать ядер Arm Cortex-A78, организованных в четыре кластера по четыре ядра. Сюда же входят аппаратные движки для ускорения TLS 1.3. Второй домен состоит из четырёх ядер Arm Cortex-R52 и различных контроллеров низкоскоростных шин, таких как UART, USB 2.0, I2C/I3C, SPI, MIO и прочих.

Изображения: AMD (via ServeTheHome)

Посредством высокоскоростной программируемой внутренней шины блок PSX соединён с другими компонентами: модулем взаимодействия с хост-системой (CPM5N), подсистемой памяти, сетевым модулем HNICX и блоком программируемой логики. CPM5N реализует поддержку PCIe 5.0/CXL 2.0, причём доступен режим работы в качестве корневого (root) комплекса PCIe. Тут же находится настраиваемый DMA-движок.

Блок фиксированных сетевых функций представляет собой классический ASIC, обслуживающий пару портов 200GbE. Подсистема памяти представлена 8 каналами DDR5/LPDDR5 с поддержкой 32-бит DDR5-5600 ECC или 160-бит LPDDR5-6400, но говорится и совместимости с другими вариантами памяти, в то числе SCM. Здесь же имеется блок шифрования содержимого памяти с поддержкой стандартов AES-GCM/AES-XTS.

400G Adaptive Exotic SmartNIC имеет развитую поддержку VirtIO и OVS. Также поддерживается виртуализация NVMe-устройств, тоже с шифрованием. Особое внимание AMD уделила тесному взаимодействию всех частей Adaptive Exotic SmartNIC: наличие выделенных линков между блоками хост-контроллера, PSX и FPGA обеспечивает работу на полной скорости в средах, действительно требующих прокачки данных на скоростях в районе 400 Гбит/с.

Благодаря наличию FPGA-части 400G новинка можно легко адаптировать к новым требованиям со стороны заказчиков. В частности, решения на базе ПЛИС Xilinx активно поставляются в Китай, где требования к шифрованию существенно отличаются от предъявляемых к аппаратному обеспечению в Европе или США, но наличие блока FPGA позволяет решить эту проблему. У Intel уже есть в сём-то похожая платформа, но более скромная по техническим характеристикам — Oak Springs Canyon (C6000X).

О грядущих серверных APU MI300, сочетающих архитектуры Zen 4 и CDNA 3, и сразу нескольких сериях процессоров EPYC мы уже рассказали, но на мероприятии Financial Analyst Day 2022 компания поделилась и другими планами относительно серверного рынка, которые весьма обширны. Они включают в себя использование разработок и технологий Xilinx и Pensando.

Фактически AMD теперь владеет полным портфолио аппаратных решений для ЦОД и рынка HPC: процессорами EPYC, ускорителями Instinct, SmartNIC и DPU на базе чипов Xilinx и Pensando и, наконец, FPGA всё той же Xilinx. Долгосрочные перспективы рынка ЦОД AMD оценивает в $125 млрд, из них на долю ускорителей приходится $64 млрд, а классические процессоры занимают лишь второе место с $42 млрд; остальное приходится на DPU, SmartNIC и FPGA.

Источник: AMD

Теперь у AMD есть полный спектр «умных» сетевых решений практически для любой задачи, включая сценарии, требующие сверхнизкой латентности. Эту роль берут на себя адаптеры Solarflare. Более универсальные ускорители Xilix Alveo обеспечат поддержку кастомных сетевых функций и блоков ускорения, а также высокую производительность обработки пакетов. Ускорители могут быть перепрограммированы, что потенциально позволит существенно оптимизировать затраты на сетевую инфраструктуру крупных ЦОД.

Источник: AMD

Гиперскейлерам они уже поставляются, в текущем виде они имеют до двух 200GbE-портов и совокупную скорость обработки до 400 млн пакетов в секунду. Следующее поколение должно увидеть свет в 2024 году, здесь AMD придерживается двухгодичного цикла. Выпускается и 7-нм DPU Pensando Elba, также предоставляющий пару 200GbE-портов. В отличие от Alveo, это более узкоспециализированное устройство, содержащее 144 P4-программируемых пакетных движка. Помимо них имеются выделенные аппаратные движки ускорения криптографии и сжатия/декомпрессии данных.

Уникальный программно-аппаратный стек Pensando, унаследованный AMD, обеспечивает ряд интересных возможностей, востребованных в крупных системах виртуализации на базе ПО VMware — например, полноценную поддержку виртуализации NVMe, поддержку NVMe-oF/RDMA, в том числе и NVMe/TCP, а также полноценное шифрование и туннели IPSec на полной линейной скорости 100 Гбит/с с временем отклика 3 мкс и джиттером в районе 35 нс.

Источник: AMD

Разработки Pensando уже используются такими крупными поставщиками сетевого оборудования и СХД, как Aruba (коммутаторы с DPU) и NetApp (системы хранения данных). Таким образом, AMD вполне вправе говорить о том, что современный высокопроизводительный ЦОД может быть целиком построен на базе технологий компании, от процессоров и ускорителей до интерконнекта и специфических акселераторов.

Современный безопасный ЦОД может быть целиком построен на базе технологий AMD. Источник: AMD

Поддержка доверенных вычислений, включая полное шифрование содержимого памяти делает такие ЦОД и более безопасными, что немаловажно в современном мире, полном кибер-угроз. В том же направлении движутся NVIDIA BlueField и Intel IPU, а также целый ряд других игроков.

AMD продолжает расширять портфолио решений для дата-центров. Ранее компания приобрела Xilinx, одного из ключевых разработчиков FPGA, конкурента которого в лице Altera несколько лет назад поглотила Intel. Теперь же AMD сообщила о приобретении за сумму порядка $1,9 млрд компании Pensando, которая одной из первых заявила о создании нового класса устройств, которые сейчас известны как DPU.

Pensando Systems была основана выходцами из Cisco в 2017 году. Через два года стартап «вышел из тени», собрав к тому моменту $278 млн инвестиций. Тогда же был объявлен и первый заказчик — производитель СХД NetApp. Теперь же, после объявления сделки с AMD, были названы имена других крупных клиентов, среди которых оказались облачные платформы IBM Cloud, Microsoft Azure и Oracle Cloud, а также банк Goldman Sachs.

Изображение: AMD/Pensando

Pensando предлагает карты DSC-100 (Distributed Services Card) и DSC-25 с интерфейсами 100GbE и 25GbE соответственно. Как и все современные DPU, эти устройства содержат ядра общего назначения (Arm), программируемый (на P4) сетевой движок, а также ряд ускорителей для (де-)компрессии, (де-)шифрования и некоторых других типовых задач при работе с трафиком и данными. В частности, одним из первых применений стала реализация NVMe-oF с RDMA.

Сейчас же DPU забирают всё больше служебных задач с CPU, высвобождая таким образом вычислительные ресурсы, и упрощают дезагрегацию всей инфраструктуры ЦОД, переводя её на облачные рельсы — многие разработки были в той или иной степени вдохновлены AWS Nitro. Например, VMware ведёт работу с Intel, NVIDIA и Pensando над проектом Project Monterey по переносу части нагрузок vSphere на DPU и SmartNIC, причём по словам Pensando, её программно-аппаратный стек предлагают уникальные возможности, включая поддержку vMotion.

Архитектура Pensando Elba

Кроме того, в конце прошлого года были представлены первые коммутаторы с интегрированными DPU Pensando — Aruba CX 10000. У NVIDIA тоже есть успехи в области интеграции DPU BlueField и SmartNIC Connect-X со сторонними решениями, например, c NGFW от Check Point и Palo Alto Networks. DPU же являются одним из ключевых компонентов для HPC-платформ NVIDIA и в целом сыграют важную роль в развитии компании. Поэтому приобретение Pensando Systems важно и весьма своевременно для AMD.

Однако конкуренция на этом рынке нарастает. Intel делает для Google собственные DPU (которые она называет IPU) Mount Evans, Fungible ставит рекорды производительности, Nebulon пытается освоить новые ниши, Kalray налаживает отношения с производителями СХД и облачными провайдерами, а Marvell, как и многие другие компании, нацелилась на рынок гиперскейлеров и телекоммуникаций.

Совсем молодой по меркам мира информационных технологий класс новых сопроцессоров, DPU, уже успел снискать популярность у разработчиков и производителей сетевого оборудования. Компания Aruba Networks анонсировала новые коммутаторы CX 10000, главной особенностью которых является наличие DPU от Pensando Systems.

Не столь давно Pensando заявила, что намерена потягаться с NVIDIA BlueField-2. По мнению компании, её процессор DSC-100 опережает соперника на целое поколение, и при потреблении 30 Вт способен на полной скорости обрабатывать сетевой поток 100 Гбит/с со средней задержкой не более 3 мкс. Ранее эти DPU уже «засветились» в некоторых серверах Dell и HPE и СХД NetApp. Теперь пришла очередь коммутаторов компании Aruba Networks, дочерней компании HPE.

Новая серия ToR-коммутаторов L2/L3 Aruba CX 10000 имеет суммарную пропускную способность до 3,2 Тбит/с. Новинка предоставляет 48 портов 10/25GbE, а со стороны агрегирующего слоя имеет 6 портов 40/100GbE. Но самое главное — это наличие в составе CX 1000 сопроцессора Pensando Elba, позволяющего избавиться от отдельных аппаратных устройств шифрования или обеспечения сетевой безопасности (брандмауэры и т.п.).

Elba: второе поколение DPU Pensando

7-нм DPU Elba содержит четыре P4-конвейера для обработки пакетов, каждый из которых включает 32 ядра MPU, а также кеши, планировщики и прочую обвязку. Сами P4-ядра работают на частоте 1,5 ГГц. Дополнительно этот DPU имеет 16 ядер общего назначения Cortex-A72 с частотой 2,8 ГГц и контроллер DDR4/5. Есть и аппаратные блоки ускорения криптографии, сжатия/дедупликации, сверки контрольных сумм. Для связи с внешним миром есть 32 линии PCIe 4.0.

Архитектура Pensando Elba

Собственно говоря, DPU способен обрабатывать трафик вплоть до L7 — всё зависит только от потребностей заказчика. Шифрование, инспекция трафика, брандмауэр, балансировка нагрузки, сегментация приложений на уровне порта, подробнейшая телеметрия — всё это может взять на себя именно Elba. А само устройство, CX 1000 при этом будет занимать всего 1U-место в стойке и, разумеется, потреблять меньше энергии, нежели классический набор отдельных устройств.

Полноценная поддержка Aruba Fabric Composer существенно упростит процесс интеграции коммутаторов нового поколения в существующие сети на базе оборудования Aruba Networks. Разумеется, за такие возможности придётся серьёзно заплатить: поставки Aruba CX 1000 начнутся в январе 2022 года, со стоимостью, стартующей с отметки $45000. Но в комплект уже будут входить реализации брандмауэра, zero trust сегментации, телеметрии, защиты от DDoS-атак.

В начале августа VMware, Dell и NVIDIA объявили о раннем доступе к Project Monterey. А вслед за этим об аналогичной инициативе заявила и Pensando Systems, которая утверждает, что её решение лучше, чем BlueField-2. И дело не только в том, что её DPU доступны в сертифицированных VMware серверах Dell и HPE или, к примеру, некоторых СХД NetApp.

Ускорители Pensando, по словам создателей, опережают BlueField-2 в Project Monterey на поколение. Как заявил главный маркетолог Pensando Кристофер Рэтклифф (Christopher Ratcliffe), их DPU предлагает лучшие в своем классе возможности и улучшенные на порядок показатели задержки и передачи пакетов. При этом потребляемая мощность составляет 20 Вт при пропускной способности 25 Гбит/с, и порядка 30 Вт при 100 Гбит/с.

Pensando DSC-100

Старшая версия DPU DSC-100 (Distributed Services Card) способна обрабатывать до десятков миллионов пакетов в секунду с миллионами маршрутов и списков контроля доступа. При этом средняя задержка составляет всего 3 мкс с джиттером на уровне 35 нс. В техническом плане отмечается, что карта Pensando в 4-5 раз производительнее, чем SmartNIC на базе Arm и NVIDIA BlueField-2 от NVIDIA. DPU оснащён ядрами Arm и программируемым (P4) ASIС Capri собственной разработки. Карта обеспечивает виртуализацию NVMe и поддержку NVMe-oF с транспортом RDMA или TCP, дедупликацию и ускорение CRC32/64.

Pensando DSC-25

Она поддерживает IPSec-туннели, а также шифрование (AES-256) и (де)компрессию вместе с защитой и глубокой телеметрией со скоростью всё те же 100 Гбит/с. При этом доступна не только разгрузка CPU и ускорение работы виртуальных машин, но и их «живая» миграция (VMotion), чего, по словам компании, конкуренты предложить не могут. Рэтклифф отметил, что стартап тесно сотрудничает с VMware, чтобы максимально использовать все возможности аппаратного и программного стека компании.

При этом у стартапа, основанного выходцами из Cisco, дела, судя по всему, идут неплохо. В августе компания завершила раунд финансирования и привлекла $35 млн от Ericsson, Qualcomm и Liberty Global Venture. Ранее в стартап инвестировали HPE и Lightspeed Venture Partners, а общая сумма привлечённых средств сейчас составляет $313 млн.

Стартап Pensando Systems в своё время заинтриговал тем, что начал с внедрения загадочного драйвера сетевого адаптера в ядро Linux. Позже, в процессе привлечения инвесторов, выяснилось, что основной продукт Pensando — программно-определяемая облачная платформа.

А 29 октября появились данные о первом аппаратном решении, использующем наработки новой компании, основанной выходцами из Cisco. Речь идёт о новом ONTAP-массиве NetApp A400, использующем только твердотельные накопители.

Коммуникационный модуль A400. В нём и используется чип Pensando Фото: Blocks & Files

В этой новинке имеется сетевая карта, базирующаяся на чипе, разработанном в стенах Pensando. Служит данный сопроцессор для разгрузки основных процессоров массива и отвечает за сжатие, декомпрессию данных и вычисление контрольных сумм.

Карта имеет интерфейс 100GbE. Дедупликация данных осуществляется за счёт использования внутренней файловой системы WAFL. Предельная общая ёмкость массива составляет 7,3 Пбайт, с учётом степени дедупликации 4:1 эффективная ёмкость может достичь значений 29,4 или 58,8 Пбайт.

Узел A400, вид сзади

NetApp впервые использовала нестандартный ASIC в своих решениях и есть вероятность того, что разработки Pensando Systems она внедрит и остальные решения серии AFF. Что касается Pensando, то она позиционирует свои решения как альтернативу AWS Nitro ‒ более производительную и лучше масштабируемую. Ускорители, разработанные этим стартапом, уже используются одним из крупнейших инвестиционных банков, Goldman Sachs.

Pensando Systems, созданная выходцами из Cisco, вышла из тени. Компания сейчас проводит последний раунд привлечения инвесторов, в ходе него были раскрыты первые подробности. Этот раунд должен привлечь $145 млн инвестиций. Всего же стартап получил порядка $278 млн.

Основной продукт компании представляет собой распределённую, программно-определяемую облачную платформу, которая, как обещает компания, безболезненно перенесёт устаревшие архитектуры в облако без дорогостоящих вложений или сбоев. Проще говоря, это гибридная мультиоблачная платформа с высоким уровнем защиты и встроенными возможностями телеметрии в реальном времени.

pixabay.com

Кроме того, существующие предприятия смогут трансформировать свою текущую инфраструктуру в облачную среду, улучшая работу систем и упрощая их обслуживание. И хотя это пока больше обещания, но, как ожидается, выходцы из Cisco знают своё дело и смогут создать действительно достойный продукт.

Утверждается, что облачные системы Pensando превзойдут Amazon AWS Nitro (программно-аппаратная платформа для EC2) в 5–9 раз по производительности. Также обещано, что новые системы смогут легко масштабироваться.

Решение Pensando будет базироваться на неком полностью программируемом «процессоре». В начале сентября компания подала заявку в FCC для двух ускорителей DSC (Distributed Services Card): Naples 100 и Naples 25. Карты снабжены двумя портами 100 Гбит/с или 25 Гбит/с соответственно. Они могут быть установлены как в облаке, так и в серверах заказчиков. Вероятно, именно их Ethernet-драйвера засветились в ядре Linux месяц назад.

Компания Pensando Systems, основанная бывшими руководителями Cisco, на сегодня мало кому известна. Однако, как оказалось, теперь у них есть сетевой драйвер в основной ветке ядра Linux 5.4. Он называется IONIC и предназначен для неких адаптеров Ethernet. Технические аспекты на данный момент не уточняются.

Также неясно, чем он отличается от существующих, какие имеет преимущества и недостатки. Этого нельзя прочитать и на сайте pensando.io, поскольку на данный момент он не запущен, хотя адрес уже фигурирует в корпоративных документах и используется для e-mail. Даже логотипа компании пока нет, хотя заявка на торговую марку давно одобрена.

pixabay.com

Сообщается лишь о том, что его добавил Шеннон Нельсон (Shannon Nelson), который много лет участвует в разработке Linux. Сначала он проработал почти три десятилетия в Intel, затем присоединился к Oracle в качестве инженера по ядру системы. А с прошлого года он упоминается как разработчик сетевых драйверов Linux в Pensando.

Столь звёздный состав стартапа лишь интригует. Любопытно, что в прошлом году компания массово нанимала разработчиков, причём подавляющее большинство позиций касалось программирования, а вовсе не работы над ASIC и другим железом. А в заявке на регистрацию торговой марки в качестве области деятельности перечислены довольно общие термины: интегральные схемы; ПО для сети, безопасности, балансировки, телеметрии, аналитики и хранилищ в компьютерных сетях.