Материалы по тегу: dpu
|
15.10.2026 [13:53], Сергей Карасёв
Модули безопасности Axiado войдут в состав серверной платформы Arm AGIКомпании Axiado и Arm объявили о заключении соглашения о сотрудничестве. Речь идёт об интеграции модулей управления и безопасности Axiado DC-SCM (Data Center Secure Control Module) в серверную платформу Arm AGI. Отмечается, что для серверных ИИ-систем следующего поколения требуется качественно новый подход к управлению и защите. Критически важными становятся функции RoT (Root of Trust), находящиеся на более низком уровне, чем CPU. Это нужно для обеспечения непрерывной работы и эффективного управления IT-инфраструктурой, а также для предотвращения атак на встроенное ПО, цепочки поставок и среду выполнения. Модуль Axiado DC-SCM построен на базе специализированного чипа TCU (Trusted Control/Compute Unit). Он объединяет функции контроллера BMC, аппаратной защиты и ИИ-ускорения для выявления угроз в реальном времени. Это обеспечивает безопасность, оперативный контроль и управление платформой с самой первой инструкции после включении питания.
Источник изображения: Axiado Интеграция Axiado DC-SCM и Arm AGI основана на отраслевых стандартах и протоколах, таких как OpenBMC, OCP DC-SCM и DC-SCI, а также Redfish. Ожидается, что сотрудничество Axiado и Arm поможет клиентам в создании безопасных и масштабируемых инфраструктур, ориентированных на задачи ИИ.
10.10.2026 [13:33], Сергей Карасёв
До 22 ядер Arm Neoverse N2 и два канала DDR5-5200: Xsight Labs представила DPU серии E1LКомпания Xsight Labs анонсировала программно-определяемые SoC семейства E1L для построения DPU. По сравнению с ранее выпущенными изделиями серии E1 новые решения отличаются более высокой энергоэффективностью при меньшей производительности. В семейство вошли модели E1L-8, E1L-16 и E1L-22, оснащённые соответственно 8, 16 и 22 ядрами Arm Neoverse N2 (Perseus) v9.0-A. Объём кеша SLC (System Level Cache) составляет 8 Мбайт у двух младших версий и 12 Мбайт у старшей при конфигурации памяти 1 × DDR5-5200 и 2 × DDR5-5200. Реализованы 16 программируемых линий PCIe 5.0 (плюс четыре линии управления PCIe 5.0) и четыре двухрежимных контроллера. Порты могут иметь конфигурацию 1 × 200GbE или 4 × 100/50/25/10GbE. Говорится о поддержке интерфейсов I2C/I3C/SMBus, SPI/QSPI, SMI, UART, GPIO, 1588 RTC, JTAG и UFS 4.1. Показатель TDP в зависимости от модификации варьируется от 25 до 40 Вт, тогда как типовое энергопотребление находится в диапазоне 15–25 Вт. Изделия могут поставляться в виде модулей COM Express. При производстве E1L, как и в случае E1, задействуется технология TSMC N5. На программном уровне новые чипы совместимы со старшими собратьями. Возможно использование стандартного открытого софта без необходимости приобретения лицензий на проприетарные продукты. Решения на базе E1L могут применяться в устройствах с жёсткими ограничениями по внутреннему пространству и энергопотреблению, во встраиваемых системах без специализированного охлаждения и в периферийном оборудовании. Новинки будут демонстрироваться на мероприятии OCP Global Summit 2026, которое пройдёт с 12 по 15 октября в Сан-Хосе (Калифорния, США). Пробные поставки запланированы на II квартал следующего года.
30.09.2026 [01:05], Владимир Мироненко
Платформа NVIDIA Open Agent Safety Platform обеспечит безопасное использование ИИ-агентов — от тестирования до развёртыванияNVIDIA представила открытую платформу обеспечения безопасности агентов Open Agent Safety Platform для реализации более безопасных рамок работы ИИ-агентов на всех этапах: от тестирования до развёртывания. NVIDIA Open Agent Safety Platform включает в себя open source ПО NVIDIA OpenShell и эталонную архитектуру системы NVIDIA Sentry. Платформа обеспечивает комплексное управление и контроль на всех уровнях стека: от ПО до аппаратных, вычислительных и роботизированных систем, на которых функционируют агенты. ПО OpenShell создает защищённую среду выполнения, которая отслеживает все действия агентов и обеспечивает соблюдение заданных правил безопасности во время их работы. Защищённый контур выполнения позволяет контролировать, как автономные ИИ-агенты решают задачи с использованием как открытых, так и закрытых моделей. Компания отметила, что OpenShell обеспечивает защиту с минимальными накладными расходами при работе на NVIDIA Vera. Сочетание OpenShell и Vera позволяет агентам безопасно функционировать и выполнять задачи с максимальной скоростью. Поскольку OpenShell — решение open source, его можно адаптировать для работы с вычислительными платформами сторонних производителей, включая Arm и Intel. Система Sentry дополняет OpenShell независимым модулем мониторинга (watchdog), работающим на базе DPU NVIDIA BlueField-4 и непрерывно отслеживающим поведение агента. Sentry обеспечивает принудительное соблюдение мер безопасности на аппаратном уровне и способна за считанные миллисекунды изолировать (поместить в карантин) агентов, если те предпринимают попытки выйти за пределы установленных границ. Sentry объединяет функции обнаружения угроз, аппаратного управления агентами и защиты доступа к данным, действуя в изолированной доверенной среде, отделённой от основного вычислительного потока; она реагирует в режиме реального времени и остается невидимой как для самих агентов, так и для злоумышленников. Система Sentry построена на базе ПО NVIDIA DOCA, которое предоставляет возможности программирования, используемые Sentry для анализа запросов и ответов агентов, сбора телеметрии, проверки подлинности агентов и обеспечения соблюдения детализированных политик доступа по модели Zero Trust к данным, инструментам, API и сервисам. С целью повышения безопасности использования ИИ NVIDIA объединила усилия с ведущими компаниями ИИ-экосистемы, охватывая весь стек технологий — от инфраструктуры и ПО до моделей и робототехники. В их числе Anthropic, Cisco, CrowdStrike, Dell, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow и SpaceXAI. В частности, NVIDIA объединила усилия с Anthropic для внедрения дополнительных уровней безопасности и контроля в архитектуру агентных систем. Решение Claude Managed Agents формирует защитный контур, разделяя процессы управления агентами (цикл выполнения агента) и среды их непосредственной работы (песочницы). Интеграция с OpenShell и BlueField обеспечивает корпоративным клиентам контроль доступа агентов к ресурсам внутри этих песочниц. SpaceXAI использует платформу NVIDIA Open Agent Safety Platform для работы с агентами для написания кода Cursor и моделями Grok. А Scale AI использует эталонную архитектуру NVIDIA Open Agent Safety Platform для создания надёжных агентных ИИ-систем, предназначенных для корпоративных и государственных заказчиков, внедряя её в уровень агентной инфраструктуры портфеля решений Scale GenAI. Salesforce и NVIDIA интегрировали OpenShell с платформой Slack, что позволяет командам управлять активностью агентов OpenShell непосредственно в Slack: отслеживать действия агентов и события аудита, а также одобрять или отклонять запросы агентов на расширение прав доступа. Red Hat использует компоненты платформы (OpenShell и DOCA) в решении Red Hat AI Factory with NVIDIA. Среди более чем 100 организаций, использующих технологии платформы NVIDIA Open Agent Safety Platform, — Accenture, Armadin, Cadence, Cognition, CrowdStrike, Cisco, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir и Palo Alto Networks.
22.09.2026 [09:37], Владимир Мироненко
VMware отказалась от развития решений для SmartNIC и DPUVMware без особого шума свернула свои амбициозные планы в отношении SmartNIC/DPU, не вызвавшие интереса у клиентов, пишет The Register. Умеш Махаджан (Umesh Mahajan), вице-президент и генеральный менеджер подразделения сетевых приложений и безопасности Broadcom, сообщил о прекращении работы компании «в этом сегменте». Гиперскейлеры активно используют DPU и SmartNIC для выполнения задач по обеспечению безопасности, управлению сетью и т.д, разгружая ядра основного CPU, которые можно сдавать в аренду клиентам. Перенос вспомогательных задач на SmartNIC также способствует повышению уровня изоляции и безопасности; например, AWS подчеркивает преимущества собственной системы Nitro, которая в том числе отвечате за функции гипервизора. В своей стратегии по развитию частных облаков VMware исходила из предположения, что клиентам нужна локальная (on-premise) версия публичного облака — по крайней мере, с точки зрения операционной модели. Ещё будучи независимой компанией, VMware предположила, что клиенты оценят подход гиперскейлеров к аппаратному обеспечению, и адаптировала свою платформу для работы на SmartNIC. Изначально в рамках Project Monterey компания нацелилась на перенос части функций NSX, а со временем также планировала более полно реализовать функции vSAN и управления хостом. По словам Махаджана, VMware обеспечила работу своих продуктов на решениях AMD и NVIDIA, но с DPU Intel возникли трудности, поскольку для этого потребовалось вмешательство в микрокод. И даже когда VMware смогла решить эту проблему, покупатели не проявили к продукту интереса. «Клиенты продолжали обсуждать эту тему, но не покупали продукт», — отметил Махаджан, добавив, что в связи с этим дальнейшие затраты на разработку стало сложно обосновывать. Между тем обычные сетевые карты (NIC) эволюционировали и увеличили пропускную способность до такой степени, что преимущества SmartNIC стали менее очевидными. В итоге VMware прекратила продажи распределённого брандмауэра. «VMware опередила отрасль в использовании DPU/SmartNIC для разгрузки и повышения эффективности инфраструктуры ЦОД; однако формирование полноценной экосистемы вокруг SmartNIC шло медленно», — сообщил изданию The Register представитель VMware. Он добавил, что компонент Distributed Services Engine для SmartNIC, остаётся частью VCF и будет получать поддержку. «Мы также продолжаем искать способы упростить взаимодействие с клиентами и при необходимости корректировать наш подход к продуктам, — сообщил представитель компании. — Например, мы разработали функцию прямой разгрузки (direct offloading) для ускорения сетевого трафика с помощью адаптеров ConnectX-7; этот механизм отличается от Distributed Services Engine». Он также упомянул инновации VMware в таких областях, как многоуровневое хранение данных в памяти (memory tiering), глобальная дедупликация и концепция AI Factory. NVIDIA также использует термин AI factory для обозначения комплекса аппаратных средств — включая SmartNIC/DPU, — необходимых для выполнения инференса. VMware и NVIDIA связывают партнёрские отношения. VMware также начала сотрудничать с AMD, чьи стоечные ИИ-системы Helios также используют SmartNIC. VMware почти наверняка не собирается окончательно отказываться от SmartNIC, считает The Register. А поскольку в таких решениях часто используются Arm-процессоры, наработки, созданные в рамках проекта Distributed Services Engine, могут найти применение в версии VMware ESXi on Arm.
08.08.2026 [16:10], Сергей Карасёв
Bull и Kalray займутся разработкой сетевых технологий для ИИ и НРСФранцузские компании Bull и Kalray объявили о стратегическом партнёрстве, направленном на развитие передовых сетевых технологий для инфраструктур ИИ и НРС. Стороны, в частности, намерены сотрудничать в сфере Ultra Ethernet — нового стандарта на базе Ethernet, ориентированного на современные ресурсоёмкие нагрузки. Bull и Kalray сосредоточат усилия на разработке решений следующего поколения, отвечающих высоким требованиям производительности, масштабируемости и эффективности. Речь идёт, в частности, об интерконнекте с большой пропускной способностью и малыми задержками. В рамках партнёрства Kalray предоставит свою сетевую платформу Kalray Networking Engine, предназначенную для работы с огромными массивами данных в составе ЦОД, инфраструктур ИИ и НРС. Эта платформа предусматривает использование 64 ядер KV5 с открытой архитектурой RISC-V. Заявленная пропускная способность достигает 1,6 Тбит/с. В свою очередь, Bull ускорит развитие собственного интерконнекта BXI (Bull eXascale Interconnect) — это специализированная высокоскоростная сетевая архитектура для суперкомпьютеров и систем высокопроизводительных вычислений. В частности, планируется добавление в состав BXI новых функций безопасности и виртуализации, необходимых для облачных и ИИ-нагрузок. В целом, развитие BXI будет смещено в сторону стандарта Ethernet. Соглашение между Bull и Kalray предусматривает совместную разработку технологических блоков, совместимых с Ultra Ethernet, и их интеграцию в будущие поколения сетевых решений Bull. Сотрудничество, как ожидается, откроет новые возможности для OEM-производителей и поставщиков инфраструктурных решений. Помимо этого, партнёрство будет способствовать развитию отраслевых стандартов, обеспечивающих масштабируемость, совместимость и долгосрочный потенциал платформ для ИИ и НРС. Планируется, что первые решения, разработанные совместными усилиями Bull и Kalray, станут доступны для коммерческого использования в 2028 году.
21.07.2026 [12:24], Сергей Карасёв
Chelsio представила 400GbE-решения седьмого поколения для ИИ ЦОДКомпания Chelsio Communications анонсировала интерконнект седьмого поколения для дата-центров, систем хранения и инфраструктур, ориентированных на ИИ. В состав представленной платформы AI Interconnect Platform входят сетевые адаптеры SmartNIC, контроллеры хранения и процессоры обработки данных (DPU). В основу AI Interconnect Platform положена архитектура Chelsio Unified Wire: она обеспечивает поддержку стандарта 400GbE и технологии Unified RDMA, объединяющей несколько протоколов удалённого прямого доступа к памяти (iWARP и RoCEv2). Кроме того, задействованы средства ускорения работы систем хранения и оптимизации ИИ-инфраструктуры для облачных, корпоративных развёртываний и гиперскейлеров. Среди ключевых особенностей платформы названы встроенные криптографические модули для протоколов QUIC, kTLS и IPsec/TLS/kTLS, различные варианты исполнения (PCIe 5.0, OCP 3.0) и лучшие в отрасли показатели производительности в расчёте на ватт потребляемой энергии. Говорится о поддержке виртуализации SR-IOV (Single Root I/O Virtualization), виртуальной коммутации vSwitch и пр.
Источник изображений: Chelsio Communications В число анонсированных решений входят двух- и четырёхпортовые адаптеры S7250 / S7450 / S7450-OCP SmartNIC с поддержкой 1/10/25/50GbE. Эти изделия оптимизированы для виртуализации, встраиваемых систем и периферийных развёртываний. Кроме того, дебютировали решения S72200 / S72200-OCP SmartNIC с поддержкой 40/50/100/200GbE для масштабных облачных сред, HPC и ИИ-инфраструктур. Представлен также однопортовый адаптер S71400 SmartNIC класса 400GbE с возможностью работы в режимах 4 × 100GbE и 2 × 200GbE: устройство рассчитано на сверхмасштабные сетевые инфраструктуры. ![]() Кроме того, Chelsio выпустит контроллеры хранения T72200/T7450. Они предназначены для ускорения выполнения задач, связанных с обработкой данных. Обеспечивается аппаратная разгрузка для NVMe/TCP, NVMe-oF, iSCSI, RDMA и пр. Устройства будут предлагаться в форм-факторах PCIe и OCP. Все перечисленные изделия уже доступны для заказа. В декабре начнётся производство полностью программируемых карт T72200-DPU / T7450-DPU, которые сейчас доступны для ознакомления.
02.06.2026 [10:04], Руслан Авдеев
NVIDIA усилила DPU BlueField-4 мониторингом работы ИИ-агентов в реальном времениNVIDIA Vera BlueField-4 STX (BF-4 STX) обеспечит ИИ-системам защиту ИИ-агентов, контекстной памяти и доступа к файлам непосредственно на аппаратном уровне, сообщает Blocks & Files. DPU поддерживает программную платформу DOCA (Data Center Infrastructure-on-a-Chip Architecture), обеспечивающую доступ по принципу Zero Trust, а также ведёт мониторинг и контроль деятельности ИИ-агентов для предотвращения утечки данных, несанкционированного доступа и других угроз. Решение разработано в рамках создания платформы NVIDIA Vera Rubin. Решение использует три интегрированные библиотеки безопасности и микросервисы DOCA, работающие в процессоре и памяти DPU. В частности, речь идёт о микросервисе DOCA Vault, благодаря которому доступ к нужным файлам с необходимыми правами получают только авторизованные ИИ-нагрузки. DOCA Argus обеспечивает прозрачность действий ИИ-агентов и рабочих нагрузок, а DOCA Flow помогает изолировать сетевой трафик и защитить конфиденциальные данные в экосистемах с многочисленными арендаторами ресурсов. Благодаря BF-4 STX серверы и СХД могут анализировать и контролировать взаимодействие ИИ-агентов, данных и контекстной памяти в потоке данных. По информации NVIDIA, обнаружение угроз происходит до 1000 раз быстрее, чем в существующих средах без агентного мониторинга, а контроль работы осуществляется на скоростях до 800 Гбит/с. Свои решения в сфере безопасности интегрируют с Vera BlueField-4 STX компании Akamai, Armis, Check Point, Cisco, CrowdStrike, EQTY, F5, Fortinet, Palo Alto Networks, TrendAI, Xage Security и Zscaler. Платформы на базе STX предлагают провайдеры систем хранения данных: Cloudian, DDN, Dell, Everpure, Hitachi Vantara, HPE, IBM, MinIO, NetApp, Nutanix, VAST Data и WEKA. Системы на базе STX уже разрабатывают Asus, Foxconn, Gigabyte Technology, Supermicro, Wistron и Wiwynn. Заказчикам помогают внедрять соответствующие решения интеграторы Accenture, Deloitte и World Wide Technology.
10.04.2026 [23:09], Владимир Мироненко
Intel поставит Google несколько поколений Xeon и IPUIntel и Google объявили об углублении многолетнего партнёрства в области инфраструктуры ИИ и облачных вычислений, охватывающего как развёртывание процессоров, так и совместную разработку специализированных чипов инфраструктуры (IPU). За два дня до этого компания стала партнёром по производству микрочипов для мегапроекта Tesla Terafab. В итоге акции Intel за неделю выросли на треть. Intel и Google отметили, что по мере ускорения внедрения ИИ-инфраструктура становится всё более сложной и гетерогенной, что приводит к увеличению зависимости от CPU для оркестрации, обработки данных и повышения производительности на системном уровне. В рамках сотрудничества с Intel компания Google планирует использовать несколько поколений процессоров Intel Xeon для улучшения производительности, энергоэффективности и TCO в своих инстансах. Intel уже делает кастомные Xeon для AWS. Стороны подчеркнули, что одних только ускорителей недостаточно для удовлетворения потребностей современной ИИ-инфраструктуры. «ИИ меняет подход к построению и масштабированию инфраструктуры. Масштабирование ИИ требует большего, чем просто ускорители — оно требует сбалансированных систем. CPU и IPU играют центральную роль в обеспечении производительности, эффективности и гибкости, необходимых для современных рабочих нагрузок ИИ», — сообщил генеральный директор Intel Лип-Бу Тан (Lip-Bu Tan). Как отметил ресурс The Next Web, Intel потратила последние два года на переориентацию с рынка универсальных вычислений, где она когда-то доминировала, на процессоры и специализированные инфраструктурные чипы, которые играют структурную роль в развёртывании ИИ и которые постоянно недооценивали в рамках концепций, ориентированных на GPU. Одновременно компания развивает бизнес по производству кастомных чипов для ИИ-рынка. Амин Вахдат (Amin Vahdat), старший вице-президент и главный технолог Google по инфраструктуре ИИ отметил: «Процессоры и инфраструктурное ускорение остаются краеугольным камнем систем ИИ — от организации обучения до инференса и развёртывания. Intel является надёжным партнёром уже почти два десятилетия, и её план развития Xeon даёт нам уверенность в том, что мы сможем и дальше удовлетворять растущие требования к производительности и эффективности наших рабочих нагрузок». Что важно, партнёрство охватывает несколько поколений Intel Xeon, а не текущий цикл обновления оборудования Google. Партнёрство также включает расширенную совместную разработку IPU (DPU) — специализированных программируемых ускорителей на базе ASIC, предназначенных для разгрузки сетевых функций, функций хранения, функций безопасности и т.п., которые на масштабах гиперскейлера позволяют существенно сэкономить и упростить управление инфраструктурой. Ранее компании совместно разработали свой первый IPU Mount Evans. Момент для анонса партнёрства выбран подходящий. Рабочие нагрузки ИИ смещаются от обучения на ускорителях, что позволить себе могут немногие, к масштабируемому инференсу, который является распределённым, чувствительным к задержкам, непрерывным и требовательным к ресурсам CPU для оркестрации, работы с данными и управления системой в целом. По-видимому, собственные процессоры Google Axion пока не слишком годятся на эту роль. Впрочем, для внешних заказчиков компания точно так же предлагает инстансы с чипами NVIDIA, хотя её собственные TPU пользуются огромным спросом. Впрочем, расширение сотрудничество можно объяснить и более прозаично — дефицит серверных процессоров на рынке усиливается, так что заранее договориться о поставках с крупным игроком, да ещё имеющим собственное производство на территории США, всегда выгодно.
20.03.2026 [11:35], Сергей Карасёв
NVIDIA представила архитектуру хранения данных BlueField-4 STX для ИИ-системКомпания NVIDIA анонсировала модульную эталонную архитектуру BlueField-4 STX, которая поможет предприятиям, облачным провайдерам и операторам дата-центров в создании высокопроизводительных платформ хранения данных, оптимизированных для задач ИИ. Отмечается, что в традиционных ЦОД применяются хранилища общего назначения, обладающие большой вместимостью. Однако они зачастую не способны обеспечивать скорость отклика, необходимую для работы ИИ-агентов: таким системам требуются доступ к информации в реальном времени и контекстная память. Архитектура STX призвана устранить существующие узкие места. Технологической основой STX является DPU NVIDIA BlueField-4, который объединяет Arm-процессор NVIDIA Grace/Vera, 128 Гбайт LPDDR5, 512 Гбайт SSD, сетевой адаптер NVIDIA ConnectX-9 SuperNic (1,6 Тбит/с) и коммутатор PCIe 6.0 с 48 линиями. Используются микросервисы NVIDIA DOCA и программное обеспечение NVIDIA AI Enterprise. Утверждается, что архитектура STX обеспечивает в четыре раза более высокую энергоэффективность по сравнению с традиционными архитектурами хранения, построенными на основе CPU. В целом, как отмечается, STX предоставляет основу для создания универсального механизма обработки данных, ускоряющего полный жизненный цикл ИИ — от обучения и аналитики до инференса на базе агентов. Первой реализацией STX в масштабе стойки является новая платформа хранения NVIDIA CMX с контекстной памятью, которая расширяет память GPU. О поддержке NVIDIA STX сообщили такие компании, как Cloudian, DDN, Dell Technologies, Everpure, Hitachi Vantara, HPE, IBM, MinIO, NetApp, Nutanix, VAST Data и WEKA. Производством систем на базе STX займутся AIC, Supermicro и Quanta Cloud Technology (QCT). Внедрить платформу в числе прочих намерены CoreWeave, Crusoe, IREN, Lambda, Mistral AI, Nebius, OCI и Vultr. Решения на базе STX станут доступны во II половине текущего года.
23.02.2026 [23:22], Владимир Мироненко
Astera Labs по-тихому купила PliopsAstera Labs приобрела Pliops, сообщил ресурс StorageNewsletter со ссылкой на заявление Мариуса Тудора (Marius Tudor), бывшего директора по развитию бизнеса Pliops, подтвердившего факт сделки на своей странице в соцсети LinkedIn. Финансовых подробностей о сделке не сообщается. Ресурс допустил, что компания приобрела Pliops для своего первого научно-исследовательского центра в Израиле. О создании своего передового R&D-центра в Израиле Astera Labs сообщила в начале февраля. Предполагается, что новый центр с офисами в Тель-Авиве и Хайфе ускорит разработку масштабируемых сетей следующего поколения для протоколов высокоскоростной связи, а также будет способствовать техническим исследованиям и разработкам, направленным на решение проблем с памятью в приложениях для обучения и инференса ИИ. Руководителем центра назначен ветеран полупроводниковой индустрии Гай Азрад (Guy Azrad), старший вице-президент по проектированию и генеральный директор Astera Labs Israel, а его помощником станет Идо Букспан (Ido Bukspan), вице-президент по проектированию ASIC, имеющий 20-летний стаж работы в Mellanox и NVIDIA, где он дошёл до должности старшего вице-президента по проектированию микросхем, разрабатывая высокопроизводительные решения InfiniBand, Ethernet и NVLink. «Новый израильский дизйн-центр будет стремиться использовать лучшие в регионе инженерные таланты, чтобы сосредоточиться на полном цикле проектирования микросхем — от архитектуры до производства, включая ПО и системное проектирование для передовых ИИ-платформ и новых приложений для инференса», — заявил Азрад. Разработанная Pliops PCIe-карта расширения XDP LightningAI с программным стеком FusIOnX функционирует как ещё один уровень памяти для GPU-серверов. Она работает на базе ASIC, которая «раскладывает» KV-кеш на SSD с доступом через NVMe-oF (RDMA) и горизонтальным масштабированием. Стек Pliops FusIOnX снижает стоимость, энергопотребление и вычислительные затраты путём оптимизации рабочих процессов инференса LLM. «Сочетание нашего оборудования LightningAI с ПО FusIOnX устраняет узкое место, связанное с памятью GPU, обеспечивая до восьми раз более быструю обработку данных и экономию энергии на уровне стойки. И это работает от начала до конца: на любом GPU, любой LLM, любом ПО для обработки данных и любой сетевой инфраструктуре», — заявил Идо Букспан. По данным компании, Pliops XDP LightningAI вместе с ПО расширяют возможности высокоскоростной памяти (HBM) для серверов с GPU и ускоряют работу vLLM на NVIDIA в 2,5 раза. |
|


