Компании SpaceXAI (SpaceXSI) грозит штраф в размере $6,1 млн — компания начала строить свои ЦОД в штате Миссисипи без необходимых разрешений. Кроме того, ей предстоит новое судебное разбирательство из-за газовых турбин, сообщает Datacenter Dynamics.

SpaceXAI сообщила о получении уведомления от Департамента качества окружающей среды штата Миссисипи (Mississippi Department of Environmental Quality, MDEQ). Регулятор полагает, что работы, связанные с нарушением целостности почвы в ходе строительства, начались ещё до получения разрешения в рамках общей программы штата по контролю за ливневыми стоками на крупных строительных площадках (Large Construction Stormwater General Permit).

По имеющимся данным, регулятор требует взыскать с компании до $25 тыс. за каждый день нарушений, всего $6,1 млн за действия на трёх объектах. Уведомление об этом направлено дочерней структуре SpaceXAI — компании MZX Tech LLC.

Три площадки ЦОД, формирующие кластер, построенный SpaceX, входят в комплекс неподалёку от Мемфиса (Memphis, шт. Теннесси). При этом сами объекты расположены по другую сторону границы штата в Миссисипи. ЦОД Macrohard и Macroharder уже функционируют, а объект Minihard ещё не достроен. Четвёртый ЦОД расположен в самом Мемфисе.

Помимо штрафа, SpaceXAI грозит разбирательство из-за газовых турбин. С момента начала строительства в 2024 году объекты компании находились под пристальным вниманием активистов и общественности.

Источник изображения: Sasun Bughdaryan/unsplash.com

На днях судья отклонила попытку Министерства юстиции США заблокировать иск НКО National Association for the Advancement of Colored People (NAACP), обвиняющей компанию в нарушении федерального законодательства и законов штата. Утверждается, что SpaceXAI построила и ввела в эксплуатацию газовую электростанцию в Саутхейвене (Southaven, штат Миссисипи) без получения обязательных разрешений.

Представители исполнительной власти пытались добиться прекращения дела, ссылаясь на то, что судебные санкции в отношении SpaceXAI могут угрожать национальной безопасности США. Суд постановил, что даже широкие полномочия федеральных властей, в частности в части контроля за соблюдением Закона о чистом воздухе (Clean Air Act), не дают права в одностороннем порядке добиваться прекращения разбирательства.

Как именно гражданско-правовые санкции и судебный запрет на работу турбин могут угрожать национальной безопасности и экономическим интересам США, точно не раскрывается.

Тем временем выручка «материнской» SpaceX растёт во многом благодаря успеху облачного ИИ-бизнеса. В III квартале она составила $14,58 млрд — на 151 % больше, чем годом ранее, и превысила ожидания экспертного сообщества. Из этой суммы $7,5 млрд пришлось на ИИ-проекты.

Наращивая ИИ-мощности, Китай во многом зависит от зарубежных чипов и облачных вычислений. Только за счёт удалённого доступа к иностранным облачным ресурсам Поднебесная к концу 2027 года получит мощности, эквивалентные 2,8 млн ИИ-ускорителей NVIDIA H100. Для сравнения — в текущем году речь идёт об эквиваленте 1 млн чипов, сообщает SCMP.

Как свидетельствует исследование вашингтонского Института прогресса (Institute for Progress, IFP), в 2027 году доступ Китая к ресурсам для ИИ-вычислений вырастет почти вдвое, причём около 65 % этих мощностей будут приходиться на разработанные в США чипы. Это свидетельствует о сохранении зависимости страны от вычислительного оборудования иностранного производства.

Всего вычислительные мощности в 2027 году должны вырасти с эквивалента 4,6 млн H100 сегодня до 8,8 млн. При составлении прогноза учитывались как чипы китайского производства, так и легальный импорт, контрабанда и вычислительные ресурсы, доступные благодаря зарубежным облачным платформам.

При этом, хотя США имеют приблизительно 16-кратное преимущество над Китаем по вычислительным мощностям для обучения ИИ, отставание передовых китайских ИИ-моделей от американских аналогов составляет приблизительно 6,5 месяца.

IFP называет одним из ключевых факторов успеха Китая, позволяющих сократить отставание, так называемую дистилляцию — использование результатов работы более крупных и сложных ИИ-моделей, в том числе чужих, для обучения более компактных и быстрых. Ранее КНР отвергла обвинения со стороны США в том, что китайские разработчики «агрессивно и злонамеренно» занимаются такой дистилляцией.

Источник изображения: K ZHAO/unsplash.com

На фоне этих данных IFP призвал американских политиков ужесточить ограничения на доступ Китая к зарубежным облачным ресурсам, а также дополнительно затруднить контрабанду чипов и легальные поставки ускорителей. В недавно опубликованном докладе американского Института политики и стратегии в области ИИ (Institute for AI Policy and Strategy) отмечалось, что иностранные организации, которым запрещено приобретать американское вычислительное оборудование, всё ещё могут пользоваться облачными сервисами с удалённым доступом к таким чипам. Этот вашингтонский аналитический центр также призвал ввести новые ограничения на доступ к технологиям, в том числе усилить проверку личности клиентов и структуры собственности компаний, арендующих подобные мощности.

Хотя экспорт чипов в Китай ограничен обязательным лицензированием таких поставок, с января Вашингтон позволил рассматривать заявки на покупку ускорителей NVIDIA H200, AMD MI325X и сопоставимых моделей при соблюдении определённых мер безопасности.

В частности, американские компании-экспортёры должны доказать, что поставки осуществляются не в ущерб американским покупателям, а их китайские клиенты должны ввести специальные процедуры, поддерживающие соблюдение экспортных ограничений, а также предоставлять покупаемые чипы для независимого тестирования в США.

Тем временем китайские компании наращивают компетенции в сфере собственных разработок альтернативных ускорителей. В прошлом месяце Huawei Technologies заявила, что её ускоритель Ascend 960DT, разработанный для обучения ИИ-моделей, будет доступен в I квартале 2027 года, на три квартала раньше, чем планировалось.

Компания сообщила, что ввела в эксплуатацию более 1 тыс. вычислительных систем Atlas 900 A3 SuperPoD, а система Atlas 950 уже нашла масштабное коммерческое применение. Подобные кластерные архитектуры объединяют тысячи ИИ-ускорителей.

Тем не менее масштабировать собственное производство Китаю пока довольно трудно. По данным группы Epoch AI из Сан-Франциско, главным препятствием для эффективного наращивания выпуска остаётся дефицит микросхем памяти HBM, применяемых в передовых вычислительных системах.

По оценкам Epoch AI, в текущем году совокупная вычислительная мощность выпущенных Huawei чипов составит менее 4 % от мощности ускорителей, поставленных на глобальный рынок NVIDIA. В феврале Huawei заявляла, что её ускорители Ascend уже обошли решения NVIDIA по продажам в Китае. Впрочем, в последнем случае речь идёт о доле на рынке, а не совокупной мощности.

Владимир Путин дал поручение правительству России рассмотреть возможность расширения производства систем иммерсионного охлаждения для отечественных центров обработки данных (ЦОД).

Это поручение вошло в перечень задач, которые были утверждены главой государства по итогам выставки технологических компаний – участников конкурса растущих российских брендов «Знай наших» и пленарного заседания форума «Сильные идеи для нового времени», состоявшихся 28 августа 2026 года.

Правительству предлагается рассмотреть вопросы об оказании поддержки в реализации проектов, в том числе в части, касающейся «организации при участии ПАО “Сбербанк России”, общества с ограниченной ответственностью “Яндекс”, иных заинтересованных организаций масштабирования производства систем иммерсионного охлаждения для российских центров обработки данных». Доклад по этому вопросу необходимо подготовить до 1 декабря 2026 года.

Технология иммерсионного охлаждения, обеспечивающая отвод тепла от серверов и электронных компоненты благодаря их полному погружению в специальную диэлектрическую жидкость с высокой теплопроводностью и устойчивостью к электрическим зарядам, отличается целым рядом преимуществ, особенно для высоконагружённых систем. В их числе более высокая по сравнению с воздушным охлаждением энергоэффективность, возможность более плотного размещения оборудования и продление сроков его службы.

Также обеспечивается эффективная защита оборудования от загрязнений и меньше потребность в техническом обслуживании по сравнению с системами воздушного охлаждения.

Китайская ZTE представила модульный ЦОД, разработанный для ИИ-нагрузок. Новый продукт ZXEDC M8000 Intelligent Computing Micro-Module показали в ходе мероприятия Data Center World Asia, сообщает Datacenter Dynamics.

Китайская компания заявила, что M8000 объединяет «холодный коридор», стойки с сетевым оборудованием, стойки для жидкостного охлаждения, CDU для систем с водоблоками, трубопровод вторичного контура охлаждения, оборудование системы электропитания постоянным током высокого напряжения (HVDC), а также умные шинопроводы, «воздушные стены» (air walls), системы мониторинга и освещения, кабели и системы взаимодействия с пожарной сигнализацией — всё в одном модуле. Система также может поддерживать как стандартные вычислительные задачи, так и ИИ-вычисления.

По данным ZTE, мощность отдельных стоек модуля составит от 20 до 60 кВт, а пиковая мощность достигнет 250 кВт. Стойки отделены от несущего каркаса модуля, поэтому в будущем операторы смогут перейти с воздушного на жидкостное охлаждение непосредственно на площадке размещения дата-центра.

Также ZTE утверждает, что архитектура системы охлаждения предусматривает использование общего источника холода для воздушного и жидкостного контуров. Это позволяет операторам регулировать соотношение между воздушным и жидкостным охлаждением.

Источник изображения: ZTE

По данным ZTE, благодаря использованию фрикулинга система способна обеспечить показатель PUE на уровне 1,15 во всех климатических регионах. Оборудование с питанием 800 В постоянного тока (DC) в сочетании с умными шинопроводами для распределения электроэнергии между стойками, как утверждают в компании, обеспечивает КПД системы электропитания до 98 %.

Компания утверждает, что модуль M8000 — первый вариант с жидкостным охлаждением, получивший сертификат UL Solutions, подтверждающий герметичность системы на уровне всего комплекса. Также ZTE заявляет, что архитектура модульного ЦОД позволяет поддерживать три поколения ИТ-оборудования без необходимости существенной перестройки инфраструктуры по мере наращивания мощностей.

В 2025 году компания представила модульный ЦОД AIDC Prefabricated Container Solution, обеспечивающий показатель PUE на уровне 1,15 благодаря использованию системы охлаждения Chilled Water Wall (CWW), а также разделению «холодного» и «горячего» коридоров и жидкостному охлаждению с водоблоками в сочетании с фрикулингом.

Компания ZTE в основном известна телекоммуникационными решениями, в том числе оборудованием для сетей 5G. В последние месяцы она сотрудничала с малайзийской U Mobile, итальянским провайдером EOLO, а также крупнейшим провайдером телекоммуникационных услуг Шри-Ланки SLT-Mobitel в рамках модернизации сетей 5G.

В прошлом месяце поставщик успешно завершил испытания в рамках проверки концепции (PoC) портативной мобильной базовой станции в Малайзии, полностью независимой от внешней электросети и обеспечиваемой энергией из возобновляемых источников.

Базирующаяся в Грузии облачная компания Silk Cloud обнародовала планы предложить клиентам своих ЦОД ИИ-ускорители NVIDIA Blackwell. Компания является подразделением Silknet и частью грузинской Silk Road Group намерена развернуть в стране системы HPE на основе решений NVIDIA HGX B300, сообщает Datacenter Dynamics.

Предложение станет актуально в 2027 году, как толь ко компания получит необходимые разрешения. Количество планируемых к использованию ускорителей пока не раскрывается.

По словам представителя Silk Road Group, эта инвестиция — первый шаг на пути к созданию возможностей, которые помогут Грузии занять место в развивающейся мировой ИИ-экономике и дадут возможность стать частью инфраструктуры, на которую эта экономика полагается.

Как заявил глава Silknet Давид Мамулавшивли (David Mamulaishvili), Грузия должна получить возможность не только пользоваться искусственным интеллектом, но и создавать его сама. Это обеспечит вклад в обеспечение конкурентоспособности страны, высоких темпов инноваций и создание новых деловых возможностей.

Источник изображения: Iman Gozal/unsplash.com

По данным бизнесмена, премьера первой системы на основе NVIDIA Blackwell Ultra в Грузии — часть долгосрочной стратегии Silknet, в рамках которой предусматривается содействие передовому цифровому развитию и ИИ, а также усиление технологических возможностей компании.

Silknet является грузинским телеком-провайдером, действующим с 2009 года. Silk Cloud заработала в 2025 году — компания предлагает услуги по обеспечению кибербезопасности, управлению данными, ИИ-сервисы и облачные системы коммерческим организациям.

Silknet начала строительство дата-центра для Silk Road в Тбилиси в августе 2026 года. ЦОД будет использовать 2 МВт вычислительных мощностей и будет готов к работе в 2027 году.

Новый дата-цент встроится в национальную инфраструктуру Silknet, включающую более 4 тыс. км магистральных ВОЛС с трансграничными соединениями с Арменией, Азербайджаном и Турцией, а также маршрутами в Европу, на Ближний Восток и в Азию.

Infineon заключила партнёрское соглашение с NVIDIA, в рамках которого будет разработана технология преобразования энергии с компонентами на основе нитрида галлия (GaN), предназначенная для архитектуры питания ИИ ЦОД с напряжением 800 В постоянного тока, сообщает Data Centre Dynamics. Новое соглашение стало продолжением договорённостей, достигнутых в мае 2025 года.

В рамках нового соглашения основное внимание будет уделяться разработке преобразователей промежуточной шины питания (IBC) — эти устройства понижают напряжение основной шины, питающей карты ускорителей, до более низких уровней, позволяя последующим каскадам питания формировать необходимые значения для работы компонентов в системах ИИ.

Источник изображения: infineon.com

Многокаскадная архитектура помогает снизить потери при распределении энергии и соблюсти жёсткие требования к занимаемой площади на плате, тепловым характеристикам и времени безотказной работы. Стандарт высоковольтного питания постоянным током внедряется наряду с существующими системами переменного тока и низковольтного постоянного тока в качестве дополнительного решения для систем с повышенной плотностью мощности.

GaN-компоненты переключаются быстрее кремниевых аналогов и характеризуются меньшими потерями, что позволяет достичь частот переключения до 1 МГц на этапе промежуточного преобразования. За счёт этого можно уменьшить размеры магнитных и других пассивных компонентов, повысить плотность мощности и снизить высоту конструкции печатных плат — всё это важно с учётом того, что мощность серверных стоек приближается к мегаваттному уровню. В ассортименте решений Infineon на базе GaN значатся преобразователи для различных диапазонов: с 800 В до 50, 12 и 6 В; компания также располагает микроконтроллерами питания PSoC Control C3, чипами EiceDRIVER для управления силовыми транзисторами — и предлагает комплексные системные решения IBC. Есть также аналоги на компонентах из кремния и карбида кремния.

Ранее тайваньская Winbond договорилась о приобретении у Infineon бизнеса по производству памяти NOR и FRAM; Infineon, в свою очередь, поглотила индийского производителя систем электропитания для ЦОД C2i Semiconductors. В начале года компания также представила беспроводные чипы Airoc ACW741x для оборудования интернета вещей.

Dell расширила ассортимент решений серии Dell AI Factory with NVIDIA — производитель представил серверы и стойки на процессорах NVIDIA Vera, а также стоечную систему для инференса с ускорителями Groq 3 LPU.

Система Dell PowerEdge M9882 включает 256 процессоров NVIDIA Vera в одной стойке формата 48U — решение призвано более эффективно использовать ресурсы питания и охлаждения в ЦОД за счёт отделения вычислительных мощностей CPU от кластеров GPU. Стойка, отметили в Dell, разрабатывалась специально для поддержки агентного ИИ; система может работать параллельно с инфраструктурой на базе GPU, ориентированной на инференс моделей.

Источник изображения: dell.com

Сервер Dell PowerEdge R8822 представляет собой двухпроцессорное решение на базе NVIDIA Vera с воздушным охлаждением, совместимое со стандартными 19-дюймовыми стойками. Как и стоечный вариант, модель R8822 оптимизирована для агентного ИИ: на ней можно запускать задачи обучения с подкреплением, обработки данных и аналитики; поддерживается установка до четырёх двухслотовых GPU для ускорения задач, связанных с ИИ и высокой вычислительной нагрузкой.

Dell также представила PowerEdge XE9810 — свой первый продукт с ускорителями Groq 3 LPU. Система состоит из 16 вычислительных модулей с прямым жидкостным охлаждением. Точное число LPU в каждом модуле не уточняется, но в Dell отмечают, что решение служит «идеальным дезагрегированным дополнением к существующим GPU-кластерам». Система разрабатывалась для обеспечения высокой пропускной способности, необходимой для массового выполнения задач агентного ИИ в реальных условиях. Сервер Dell PowerEdge R8822 станет доступным уже в октябре; модели M9882 и XE9810 появятся в I квартале 2027 года.

Ранее компания рассказала о расширении возможностей Dell AI Data Platform. Производитель анонсировал первую в мире СХД PowerEdge R7725 с поддержкой SSD на 245 Гбайт; в ассортименте Dell также значится сервер PowerEdge XE8812 на архитектуре NVIDIA Vera Rubin NVL4.

Насыщенный график выхода на публичные торги технологических компаний в последнее время значительно изменился. В очереди на IPO осенью неожиданно осталась только Anthropic, сообщает Reuters.

ИИ-компания готовится провести публичное размещение акций, по данным источников, знакомых с ситуацией — в середине ноября. Проспект эмиссии могут опубликовать до конца текущего месяца. Правда, источники предупреждают, что планы и сроки выхода вполне могут измениться.

IPO Anthropic позволит оценить, насколько её положение в ИИ-бизнесе позволяет преодолеть неблагоприятную рыночную конъюнктуру. Обычно в такой ситуации юристы и банкиры рекомендуют отложить IPO. По словам некоторых инвесторов, потенциально оправданной оценкой компании при выходе на биржу может считаться $1,5 трлн. По некоторым данным, предлагать акции потенциальным инвесторам начнут на неделе, начинающейся 9 ноября.

При этом другие компании в сфере ИИ-инфраструктуры и ЦОД уже отложили выход на биржу. Это связано с ростом процентных ставок, который способствовал распродаже ценных бумаг операторов ИИ-инфраструктуры, таких как CoreWeave, привёл к падению их стоимости и усилил сомнения в надёжности инвестиций в ИИ.

Намерение Anthropic продолжить подготовку к IPO свидетельствует о привлекательности компании для инвесторов — даже на фоне опасений, связанных с конкуренцией с ИИ-моделями с открытым исходным кодом и проблемами с безопасностью ИИ, оказывающими давление на весь сектор. НедавноAnthropic по секрету сообщила инвесторам о росте выручки на 45 % и выходе на прибыль.

Хотя в сегменте ЦОД сохраняется рыночная турбулентность, многие инвесторы по-прежнему оптимистично оценивают перспективы Anthropic. Акции компании рассматривают как одну из перспективных возможностей для вложений в технологический сектор, привлекательную для долгосрочных инвесторов. Важно, что возможное IPO Anthropic влияет на ситуацию на рынке в целом, поскольку другие компании, желающие выйти на биржу, опасаются конкуренции за капитал институциональных инвесторов с таким сильным игроком.

Источник изображения: Brecht Corbeel/unsplash.com

Спад в сегменте ИИ отмечается после серии отмен IPO, начавшейся в сентябре. Компании утратили возможность получить привлекательную оценку стоимости перед выходом на биржу.

Так, оператор ЦОД Switch и британская Nscale перенесли IPO, выход на биржу должен состояться до конца текущего года, хотя планы могут измениться. Также некоторые источники сообщают, что Nscale пришлось отложить IPO, поскольку необходимо дать ответ на замечания Комиссии по ценным бумагам и биржам США (SEC). Выход на биржу отложила и поддерживаемая SoftBank компания SB Energy. Заявку отозвал или приостановил поддерживаемый BlackStone фонд AirTrunk REIT, подготовку к IPO приостановила поддерживаемая NVIDIA компания Firmus.

Ранее сообщалось, что Nscale подала заявку на IPO публично в сентябре, а Switch — конфиденциально. Такая форма позволяет согласовывать регистрационное заявление с регуляторами до публичного раскрытия финансовых и деловых данных. Обычно подробная информация публикуется перед презентационными турами для инвесторов, в ходе которых компании ещё до старта IPO начинают предлагать акции потенциальным покупателям.

После относительно неудачного недавнего IPO компании Oura опасения усилились: её ценными бумагами заинтересовалось мало инвесторов, ориентированных на долгосрочное владение акциями. В целом это вызывает сомнения в достаточности спроса со стороны институциональных инвесторов, которые обычно обеспечивают компаниям, недавно вышедшим на IPO, стабильную базу акционеров.

Во многом отказ компаний от выхода на биржу вызван сомнениями в том, оправдают ли будущий спрос и доходы огромные инвестиции.

По оценкам Gartner, к 2030 году закрыться могут около 80 % неооблачных компаний. Инвесторы сомневаются не столько в спросе на ИИ, сколько в том, окупятся ли колоссальные вложения и смогут ли ИИ-бизнесы обслуживать свои долги. При этом подчёркивается, что проблемы CoreWeave не обязательно означают, что от финансового кризиса пострадает вся ИИ-отрасль.

В сентябре Bain & Company также опубликовала доклад, согласно которому ИИ-индустрии необходимо $6 трлн ежегодной выручки к 2031 году, чтобы обеспечить финансирование ИИ-инфраструктуры для удовлетворения ожидаемого спроса. Если отрасль не представит новые продукты и сценарии использования ИИ, ожидается дефицит выручки. Наконец, МВФ допускает, что ИИ-пузырь может лопнуть, попутно нанеся огромный ущерб всей мировой экономике.

NVIDIA представила эталонную архитектуру DSX Pod — модульного контейнерного ИИ-ЦОД, оснащаемого семью стойками Vera Rubin NVL72, а также необходимым для работы сетевым, охлаждающим и электротехническим оборудованием. Компания утверждает, что такая архитектура позволяет сократить время развёртывания ЦОД на заранее подготовленной площадке примерно с шести месяцев до двух недель, сообщает Datacenter Knowledge.

Анонсированное в ходе мероприятия GTC Berlin модульное решение рассчитано на организации, которым требуется быстро ввести в эксплуатацию большие вычислительные мощности без длительного планирования, строительства и значительных трудозатрат, характерных для реализации обычных ИИ-проектов. NVIDIA заявила, что сотрудничает с 17 партнёрами, включая Bull, Dell Technologies, HPE, Lenovo, Eaton, Schneider Electric и Vertiv. Они начнут поставлять варианты решений на основе DSX Pod в начале 2027 года.

По словам представителя NVIDIA, речь идёт о полностью собранном и протестированном контейнерном решении со стандартизированным вводом питания на 800 В постоянного тока (DC) и заранее смонтированными трубопроводами. Это строительный блок для будущих ИИ-фабрик.

NVIDIA сообщает, что сама компания разрабатывает и проверяет эталонную архитектуру, а партнёры производят контейнеры, интегрируют оборудование, адаптируют системы электроснабжения и жидкостного охлаждения, а также устанавливают и обслуживают готовые комплексы. Речь идёт не об универсальном готовом продукте NVIDIA, а о проектной основе для решений разных вендоров.

Хотя архитектура была представлена в Берлине, в компании подчеркнули, что контейнерный эталонный проект предназначен для внедрения по всему миру. Местом проведения мероприятия GTC Berlin выбрали Берлин, поскольку руководство NVIDIA считает модульную инфраструктуру быстрого развёртывания важным фактором развития ИИ в Европе.

В компании подчеркнули, что решение разработано для организаций, желающих быстрее вводить в эксплуатацию сотни мегаватт вычислительных мощностей, упростив этот процесс по сравнению с реализацией обычных проектов.

По мнению экспертов IDC, DSX Pod подходит для трёх сценариев развёртывания. Его можно использовать в суверенных проектах, требующих физической изоляции оборудования, в небольших ИИ-проектах для выполнения специализированных задач, а также для периферийных ИИ-вычислений — там, где необходимы комплексные решения для ускоренных вычислений «под ключ».

Для удовлетворения спроса на ИИ-инфраструктуру NVIDIA и её партнёры по цепочке поставок намерены в следующие три года увеличить производственные мощности по выпуску подложек в 2,5 раза, а к 2028 году — нарастить мощности по передовому корпусированию более чем на 300 %. Кроме того, к середине 2027 года планируется увеличить объёмы производства оптических модулей на основе технологии интегрированной оптики Co-Packaged Optics (CPO) в 15 раз, а к концу 2028 года — дополнительно удвоить этот показатель.

В ходе мероприятия компания также представила программное обеспечение и механизмы безопасности для масштабных ИИ-проектов. В частности, была представлена эталонная архитектура OpenShell Reference Architecture, призванная помочь организациям управлять ИИ-агентами. Она позволяет определять, к каким ресурсам могут обращаться агенты, отслеживать их активность и принудительно обеспечивать соблюдение заданных политик при выявлении небезопасного поведения.

В компании рассказали, что архитектура объединяет инфраструктуру NVIDIA Vera Rubin NVL72 для обучения и инференса с системами на базе процессоров NVIDIA Vera, которые обеспечивают работу и управление средой выполнения ИИ-агентов. Между этими системами располагаются DPU BlueField, выполняющие функции изолированного средства контроля безопасности. Последние анализируют сетевой трафик и позволяют обновлять политики безопасности, в том числе отключая агента при выявлении его небезопасного поведения.

По данным NVIDIA, среди компаний, использующих OpenShell Reference Architecture для повышения безопасности при работе с ИИ-агентами, — Anthropic, AWS, Google Cloud, Meta✴, Microsoft, OpenAI и Perplexity.

Платформа Google Cloud анонсировала сервис Agent Compute Engine, оптимизированный для размещения ИИ-агентов, сообщает SiliconANGLE. ИИ-агенты традиционно функционируют в песочницах — здесь размещаются приложения, данные и инструкции пользователей, необходимые для выполнения поставленных задач. Эти среды оснащены механизмами кибербезопасности, блокирующими вредоносные действия.

На сервисе Agent Compute Engine такие песочницы реализованы в виде микровиртуальных машин (microVM) — эта технология сочетает аппаратную эффективность контейнеров с уровнем безопасности традиционной виртуализации. В Google использовали возможности гипервизоров по изоляции виртуальных машин друг от друга, чтобы предотвратить распространение вредоносов.

Источник изображения: Ameer Basheer / unsplash.com

Микровиртуальные машины работают на специально настроенном оборудовании без сохранения состояния — они не сохраняют на постоянной основе применяемые ИИ-агентами файлы. Для хранения данных используется неизменяемая файловая система без возможности изменения или удаления информации. Целостность прошивки на оборудовании проверяется с помощью чипов кибербезопасности Titan, а его центральные процессоры имеют средства защиты от атак по сторонним каналам. У microVM есть лишь ограниченный доступ к ресурсам хранения данных — если злоумышленники установят контроль над одной из песочниц, они не смогут ни прочитать, ни удалить их. Сеть, соединяющая оборудование с остальной инфраструктурой ЦОД, также имеет дополнительную защиту: трафик проходит через несколько прокси-серверов.

Когда ИИ-агент завершает работу, песочница, в которой он функционировал, должна оставаться доступной, потому что его могут активировать снова. Такие простаивающие песочницы могут потреблять значительный объём ресурсов и приводить к росту затрат. Сервис Agent Compute Engine отслеживает переход песочницы в состояние простоя и отключает её, предотвращая тем самым излишнее потребление аппаратных ресурсов; когда песочница снова становится востребованной, сервис оперативно её активирует. «Это позволяет разместить на одном физическом узле значительно больше microVM для агентов, чем при использовании традиционных виртуальных машин. Мы дополнили решение необходимыми для работы агентов функциями: созданием снимков и форками, возможностями перемотки и отката состояния. Это позволяет эффективно использовать систему без дублирования ресурсов», — пояснили в Google Cloud.

Некоторые агенты для доступа к приложениям используют учётные данные пользователей — эти данные хранятся вне песочницы, в которой запущен агент, подчеркнули в Google. За счёт этого злоумышленники, даже получив контроль над песочницей, не смогут похитить конфиденциальную информацию. Когда агенту требуется войти в приложение, служба Google Cloud Agent Gateway извлекает соответствующие учётные данные и передаёт их в приложение от имени агента. В ближайшие месяцы Agent Compute Engine заработает с новой версией Agent Gateway — последняя служба помогает клиентам блокировать небезопасный трафик агентов, и она получит функцию маршрутизации моделей. Каждый запрос агента станет направляться к той модели, которая сможет обработать его наиболее эффективно. В Agent Gateway также появится инструмент для контроля расходов, связанных с инференсом.

Ранее в Google Cloud представили набор инструментов TorchTPU для работы с PyTorch на TPU. Облачный провайдер объявил о готовности запустить в ноябре инстансы на NVIDIA Vera Rubin NVL72. Клиенты платформы также получат доступ к новейшим моделям OpenAI.