NVIDIA представила открытую платформу обеспечения безопасности агентов Open Agent Safety Platform для реализации более безопасных рамок работы ИИ-агентов на всех этапах: от тестирования до развёртывания.
NVIDIA Open Agent Safety Platform включает в себя open source ПО NVIDIA OpenShell и эталонную архитектуру системы NVIDIA Sentry. Платформа обеспечивает комплексное управление и контроль на всех уровнях стека: от ПО до аппаратных, вычислительных и роботизированных систем, на которых функционируют агенты.
ПО OpenShell создает защищённую среду выполнения, которая отслеживает все действия агентов и обеспечивает соблюдение заданных правил безопасности во время их работы. Защищённый контур выполнения позволяет контролировать, как автономные ИИ-агенты решают задачи с использованием как открытых, так и закрытых моделей.
Компания отметила, что OpenShell обеспечивает защиту с минимальными накладными расходами при работе на NVIDIA Vera. Сочетание OpenShell и Vera позволяет агентам безопасно функционировать и выполнять задачи с максимальной скоростью. Поскольку OpenShell — решение open source, его можно адаптировать для работы с вычислительными платформами сторонних производителей, включая Arm и Intel.
Источник изображения: NVIDIA
Система Sentry дополняет OpenShell независимым модулем мониторинга (watchdog), работающим на базе DPU NVIDIA BlueField-4 и непрерывно отслеживающим поведение агента. Sentry обеспечивает принудительное соблюдение мер безопасности на аппаратном уровне и способна за считанные миллисекунды изолировать (поместить в карантин) агентов, если те предпринимают попытки выйти за пределы установленных границ.
Sentry объединяет функции обнаружения угроз, аппаратного управления агентами и защиты доступа к данным, действуя в изолированной доверенной среде, отделённой от основного вычислительного потока; она реагирует в режиме реального времени и остается невидимой как для самих агентов, так и для злоумышленников. Система Sentry построена на базе ПО NVIDIA DOCA, которое предоставляет возможности программирования, используемые Sentry для анализа запросов и ответов агентов, сбора телеметрии, проверки подлинности агентов и обеспечения соблюдения детализированных политик доступа по модели Zero Trust к данным, инструментам, API и сервисам.
С целью повышения безопасности использования ИИ NVIDIA объединила усилия с ведущими компаниями ИИ-экосистемы, охватывая весь стек технологий — от инфраструктуры и ПО до моделей и робототехники. В их числе Anthropic, Cisco, CrowdStrike, Dell, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow и SpaceXAI.
В частности, NVIDIA объединила усилия с Anthropic для внедрения дополнительных уровней безопасности и контроля в архитектуру агентных систем. Решение Claude Managed Agents формирует защитный контур, разделяя процессы управления агентами (цикл выполнения агента) и среды их непосредственной работы (песочницы). Интеграция с OpenShell и BlueField обеспечивает корпоративным клиентам контроль доступа агентов к ресурсам внутри этих песочниц.
SpaceXAI использует платформу NVIDIA Open Agent Safety Platform для работы с агентами для написания кода Cursor и моделями Grok. А Scale AI использует эталонную архитектуру NVIDIA Open Agent Safety Platform для создания надёжных агентных ИИ-систем, предназначенных для корпоративных и государственных заказчиков, внедряя её в уровень агентной инфраструктуры портфеля решений Scale GenAI.
Salesforce и NVIDIA интегрировали OpenShell с платформой Slack, что позволяет командам управлять активностью агентов OpenShell непосредственно в Slack: отслеживать действия агентов и события аудита, а также одобрять или отклонять запросы агентов на расширение прав доступа. Red Hat использует компоненты платформы (OpenShell и DOCA) в решении Red Hat AI Factory with NVIDIA.
Среди более чем 100 организаций, использующих технологии платформы NVIDIA Open Agent Safety Platform, — Accenture, Armadin, Cadence, Cognition, CrowdStrike, Cisco, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir и Palo Alto Networks.
Источник:
