Материалы по тегу: ии
|
28.10.2026 [18:57], Павел Котов
На eBay выставили б/у суперкомпьютер за $60 миллионовКомпания Core 4 Solutions выставила на платформе eBay бывший в употреблении ИИ-суперкомпьютер, включающий 300 стоек, обращает внимание Tom’s Hardware. Цена лота — $59 млн. Кластер включает 9600 ускорителей NVIDIA A100 (архитектура Ampere) и 4200 64-ядерных процессора EPYC на архитектуре Rome. NVIDIA уже перешла на более современные архитектуры Blackwell и Vera Rubin, для AMD актуальна EPYC Turin, но ускорители A100 и процессоры EPYC Rome остаются достаточно эффективными для широкого спектра задач. Учитывая, что цена на современные стойки NVIDIA доходит до $7,8 млн за единицу, системы на базе A100 представляются разумной бюджетной альтернативой. И не придётся ждать в очереди на поставку новейшего оборудования NVIDIA.
Источник изображения: nvidia.com Каждая стойка кластера включает четыре вычислительных и три управляющих узла. В состав каждого вычислительного узла входят два 64-ядерных процессора AMD EPYC Rome, восемь ускорителей Nvidia A100 (версия SXM4 с 40 Гбайт памяти) и 1 Тбайт оперативной памяти DDR4-2933. Каждый узел управления оснащается двумя 64-ядерными процессорами EPYC и 192 Гбайт памяти DDR4. В общей сложности кластер включает до 9600 ускорителей A100 и 4200 процессоров AMD EPYC Rome. Учитывая, что каждый процессор содержит 64 вычислительных ядра Zen 2, на кластер приходятся 268 800 ядер. Объём оперативной памяти составляет до 1401,6 Тбайт. Ценник в $59,7 млн представляется обоснованным. По грубым подсчётам, одни только ускорители NVIDIA A100 обойдутся примерно в $24 млн, $3 млн будут стоить процессоры AMD EPYC Rome и ещё $1,1 млн — оперативная память DDR4. Итого около $28,1 млн только за основные компоненты. В состав кластера также входят стойки, системы охлаждения, блоки питания, сетевые адаптеры NVIDIA Mellanox ConnectX-6 SmartNIC и другое оборудование. На eBay попадаются порой неожиданные лоты, и суперкомпьютер — едва ли самый удивительный вариант. Core 4 Solutions вполне может рассчитывать что на него найдётся покупатель. По мере расширения ИИ-инфраструктуры и ЦОД могут найтись корпоративные клиенты, которые оценят выгоду и возможности, предлагаемые в этом объявлении. Ранее французская Bull была выбрана для разработки европейского ИИ-суперкомпьютера LUMI-AI за €387,8 млн; в Японии заработали суперкомпьютеры RIKYU и ROQUO на базе NVIDIA GB200 NVL4; британское правительство решило потратить $1 млрд на ИИ-суперкомпьютер с британскими чипами.
28.10.2026 [18:52], Павел Котов
В Oracle Cloud Infrastructure появятся ускорители CerebrasНа платформе Oracle Cloud Infrastructure (OCI) будет организован доступ к технологиям высокоскоростного ИИ-инференса Cerebras. Решение предназначено для исследовательских лабораторий в сфере ИИ, корпораций и разработчиков, которые создают интерактивные интеллектуальные приложения. Партнёрство затрагивает существующую инфраструктуру Oracle и её возможности в области ИИ-инференса, включая специализированные кластеры (Dedicated AI Clusters) в составе сервиса OCI Enterprise AI. ИИ-приложения берут на себя выполнение всё более сложных многоэтапных задач, и скорость инференса становится критически важным фактором для качества взаимодействия с пользователем. Задержку увеличивает каждый дополнительный вызов ИИ-модели, что может замедлить цепочки рассуждений и работу ИИ-агентов. Быстрый инференс позволяет разработчикам создавать агенты и приложения, которые сохраняют высокую скорость отклика даже при выполнении наиболее сложных задач.
Источник изображения: cerebras.ai Процессор Cerebras Wafer-Scale Engine, разработанный специально для высокоскоростного ИИ-инференса, объединяет вычислительные мощности и память на одном кристалле размером с целую кремниевую пластину. Такая архитектура сокращает перемещение данных и необходимость обмена информацией между отдельными чипами, в результате чего обеспечивается быстрая генерация токенов даже в длинных цепочках рассуждений и многоэтапных процессах, которые выполняют ИИ-агенты. Решение Cerebras Inference станет доступным в OCI в 2027 году — клиенты облачной платформы Oracle получат новый инструмент для создания ИИ-приложений, в которых скорость имеет решающее значение. Ранее AMD и Cerebras представили платформу для ИИ-инференса со сверхнизкой задержкой. Разработчик царь-чипов к концу года намерен развернуть в Европе 200 МВт ИИ-мощностей. Только в Финляндии компания получит объект на 165 МВт.
28.10.2026 [17:36], Руслан Авдеев
Китайская CXMT начнёт производство передовой памяти HBM3E несмотря на низкий выход годной продукцииКитайский производитель полупроводников ChangXin Memory Technologies (CXMT) готовится к началу выпуска передовой памяти с высокой пропускной способностью — HBM3E. При этом по данным источников, знакомых с ситуацией, к применению пригодны лишь немногим более 20 % сходящих с конвейера чипов, сообщает Reuters. Решение компании всё-таки начать производство свидетельствует об острой нехватке в Китае чипов памяти, доступ к которым имеет важнейшее значение для поддерживаемых правительством инициатив по массовому выпуску альтернатив ИИ-ускорителям NVIDIA на фоне американских экспортных ограничений для КНР. Источники сообщают, что CXMT, называемая крупнейшим производителем DRAM-памяти в Китае, направила образцы HBM3E разработчикам ИИ-ускорителей. По некоторым данным компания намерена начать производство в ближайшие два месяца. Выход готовых к использованию чипов составляет порядка 20–30 %, тогда как, например, у лидера рынка — южнокорейской SK Hynix речь идёт приблизительно о 70 %. HBM представляет собой один из ключевых компонентов специализированных ИИ-ускорителей, применяемых для обучения и использования ИИ-моделей. В декабре 2024 года Вашингтон ужесточил экспортный контроль за поставками некоторых передовых решений HBM в Китай, поэтому китайские производители ускорителей всё чаще пытаются получить такие модули по неофициальным каналам. При этом конечная цена памяти при таких поставках вырастает в разы.
Источник изображения: CXMT На этом фоне CXMT продолжает работу над проектом несмотря на высокий процент брака, поскольку получить память в нужных объёмах из-за рубежа в КНР довольно трудно. В результате повышается себестоимость производства, поскольку значительную часть чипов отправляют на доработку или просто выбраковывают. В сентябре сообщалось, что Huawei, Cambricon, MetaX и Iluvatar CoreX подняли цены на текущее и следующее поколение ИИ-чипов на 20–50 % из-за роста затрат на память, мешающего наращивать производство. Ожидается, что модули HBM3E компании CXMT будут стоить больше, чем сопоставимые продукты зарубежных конкурентов. Работу над собственными продуктами компания начала в 2024 году. В тестах производительность памяти HBM3E компании CXMT оказалась близка к показателям памяти HBM3 южнокорейской SK Hynix. CXMT отправила клиентам по два варианта HBM3E — стандартный и модернизированный, изменённый для увеличения процента выхода пригодных к использованию чипов. Подобные сложности наглядно иллюстрируют технологический разрыв между CXMT и SK Hynix, Samsung Electronics и Micron Technology, которые доминируют на глобальном рынке памяти. На SK Hynix, по данным Counterpoint Research, во II квартале приходилось 50 % выручки от HBM в мире. Второе и третье места занимали Samsung и Micron с 33 % и 18 % соответственно. Большая часть выручки приходится на продажи HBM3E. При этом доля CXMT в мировой выручке от продажи DRAM за тот же период составила 10 % — это делает компанию четвёртым по величине поставщиком обычных чипов памяти в мире. Тем не менее американские экспортные ограничения мешают компании получить доступ к передовым инструментам для выпуска микрочипов, препятствуя сокращению отставания от лидеров отрасли. В июле Samsung заявила об увеличении продаж памяти HBM4 и отправке образцов HBM4E ряду заказчиков. Недавно SK Hynix заявила, что HBM4 станет мейнстримом в её линейке уже в IV квартале и предрекла сохранение дефицита памяти до 2030 года.
28.10.2026 [16:16], Павел Котов
NVIDIA и Oracle расширят инфраструктуру OCI на базе Vera Rubin NVL72 до мультигигаваттного масштабаNVIDIA и Oracle объявили о планах по расширению суперкластеров в Oracle Cloud Infrastructure (OCI) с использованием систем Vera Rubin NVL72, сообщает HPCwire. Масштаб таких решений достигнет гигаваттных значений — системы помогут удовлетворить спрос клиентов на обучение, инференс моделей искусственного интеллекта, а также на работу ИИ-агентов. Две компании расширили сотрудничество в сфере ИИ-инфраструктуры: в OCI доступны системы NVIDIA Vera Rubin NVL72 и Vera CPU. Инициатива обеспечит клиентам инфраструктуру, которая подходит как для ресурсоёмких задач, требующих высокой мощности GPU, например, для обучения и инференса ИИ, так и для задач, в которых основная нагрузка ложится на CPU. В последнем случае это могут быть действия ИИ-агентов между вызовом моделей: подключение внешних инструментов, тестирование программного кода, поиск и извлечение данных. Клиенты могут независимо масштабировать ресурсы CPU и GPU в соответствии с конкретными рабочими нагрузками, чтобы сократить объём простаивающих мощностей и эффективнее использовать имеющуюся инфраструктуру.
Источник изображения: BoliviaInteligente / unsplash.com Суперкластеры OCI объединяют стоечные системы NVIDIA NVL72, сетевые решения Oracle Acceleron, в том числе NVIDIA Spectrum-X Ethernet с коммутаторами NVIDIA Spectrum-6 и DPU NVIDIA BlueField-4, а также системы электропитания и охлаждения гигаваттного класса, необходимые для обучения и инференса моделей. В каждой стойке 72 GPU объединены с помощью технологии NVIDIA NVLink, а отказоустойчивая многоплоскостная сеть OCI позволяет масштабировать систему до сотен тысяч GPU. Планируется также внедрение системы NVIDIA HGX Rubin NVL8, включающей восемь GPU Rubin, объединённых через NVLink в серверной конфигурации на базе архитектуры x86. Платформа комплектуется двумя 64-ядерными процессорами Intel Xeon 6, 4 Тбайт памяти DDR5 и высокоскоростным интерфейсом RDMA с пропускной способностью 6,4 Тбит/с. Это решение обеспечивает гибкие возможности для обучения, дообучения и инференса ИИ-моделей при сохранении совместимости с приложениями на базе архитектуры x86. Такая гибкость позволяет адаптировать инфраструктуру ИИ к различным моделям и рабочим нагрузкам по мере изменения потребностей. Ранее Oracle призналась, что направление ИИ ЦОД является для неё рискованным. Компания обеспечила высокоскоростное подключение своей инфраструктуры к AWS, а также сдала китайской Tencent 100 тысяч передовых ускорителей в аренду для развития ИИ-систем.
28.10.2026 [16:14], Владимир Мироненко
Oracle станет первым гиперскейлером, предлагающим Google TPUOracle и Google объявили о расширении партнёрства, в рамках которого тензорные процессоры Google (Tensor Processing Units, TPU) станут доступны через облачную инфраструктуру Oracle Cloud Infrastructure (OCI). Таким образом Oracle станет первым гиперскейлером, предлагающим Google TPU за пределами экосистемы Google. Сообщается, что TPU появятся на платформе OCI, начиная с 2027 года. «Различные задачи в сфере ИИ требуют разных вычислительных мощностей, — отметил Махеш Тиагараджан (Mahesh Thiagarajan), президент OCI. — Доступ к TPU от Google в среде OCI позволяет клиентам использовать несколько передовых архитектур для вычислений в области ИИ в рамках одного облака. Такая свобода выбора дает возможность подобрать оптимальную инфраструктуру с точки зрения производительности, пропускной способности и экономической эффективности для каждой конкретной задачи ИИ».
Источник изображения: Google В настоящее время Google предлагает TPU восьмого поколения. Модель TPU 8t предназначена для обучения нейросетей, TPU 8i — это чип для инференса (выполнения вычислений в обученных моделях), оптимизированный для решения итеративных задач, характерных для работы специализированных ИИ-агентов. На прошедшей на прошлой неделе конференции PyTorch Conference 2026 Google объявила, что TorchTPU — нативный стек PyTorch для TPU Google — теперь доступен в формате открытого исходного кода на платформе GitHub. Это позволяет обучать, обслуживать и развёртывать модели на TPU, используя привычные инструменты, такие как vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face и LiteRT. Как отметила Google, такая переносимость даёт командам возможность выбирать для каждой задачи тот ускоритель, который обеспечивает минимальную стоимость одного токена или максимальную скорость обучения — и всё это без необходимости переписывать код модели. А благодаря нынешнему анонсу вскоре можно будет запускать такие задачи на TPU как в Google Cloud, так и в инфраструктуре Oracle. Кроме того, Google сотрудничает с компанией Blackstone в создании облачной платформы на территории США, которая также будет предоставлять доступ к тензорным процессорам TPU Google, отметил ресурс Data Center Dynamics. Не исключено, что эта платформа может опередить Oracle и раньше её начнёт предлагать TPU клиентам.
28.10.2026 [13:54], Руслан Авдеев
OpenAI собралась закупать ИИ-чипы Google, чтобы меньше зависеть от NvidiaКомпания OpenAI готовится приобретать ИИ-чипы Google. Это происходит на фоне растущих затрат технологических компаний, связанных с увеличением спроса на ИИ-вычисления, сообщает The Information. В случае реализации план укрепит связи между OpenAI и Google, конкурирующими на рынках ИИ-продуктов и поиска, но всё теснее взаимодействующими в рамках совместных коммерческих проектов. На прошлой неделе OpenAI заявила, что обеспечит доступ к своим передовым ИИ-моделям через Google Cloud. Финансовые условия сделки пока не разглашаются. В текущем году Amazon, Microsoft и Alphabet (материнская компания Google) намерены потратить на ИИ-инфраструктуру в общей сложности $600 млрд. Тем временем инвесторы всё чаще задаются вопросом, когда такие масштабные инвестиции начнут приносить значимую финансовую отдачу. Компания OpenAI уже входит в число крупнейших покупателей ИИ-ускорителей NVIDIA, которые использует для обучения и эксплуатации ИИ-моделей. В июне 2025 года сообщалось, что она уже начала арендовать вычислительные мощности Google, хотя на тот момент подробные данные о типах используемых чипов отсутствовали.
Источник изображения: OpenAI/Google Тензорные процессоры Google Tensor Processing Units (TPU) получили популярность в качестве альтернативы ускорителям NVIDIA, поскольку многие участники рынка ИИ ищут менее дорогие альтернативы её продуктам. Google начала прямые продажи некоторым покупателям в текущем году. Alphabet в ближайшее время опубликует финансовую отчётность за минувший квартал, инвесторы компании ищут свидетельства того, что её активные инвестиции в ИИ способствуют росту её облачного бизнеса. Сделки с клиентами, включая Anthropic, подогрели спрос на TPU Google. По данным компании, она рассчитывает признать небольшую часть выручки по соглашениям о продаже этих процессоров до конца текущего года, тогда как основная часть выручки, как ожидается, будет признана в 2027 году. Тем временем OpenAI занимается собственным полупроводниковым проектом. В июне она представила чип, разработанный совместно с Broadcom. По имеющимся данным, она планировала начать внедрение соответствующих чипов к концу текущего года в рамках программы разработки нескольких поколений собственных полупроводников. Недавно появилась информация, что покупать тензорные процессоры Google намерена и Oracle.
28.10.2026 [11:42], Руслан Авдеев
NVIDIA, AMD и Broadcom купят акции Meta✴ на $5 млрдMeta✴ Platforms объявила о намерении NVIDIA и AMD приобрести акции компании на $4 млрд. Производители чипов купят их в рамках «распродажи» Meta✴ ценных бумаг на $95 млрд в ближайшем будущем — IT-гигант намерен получить средства для дальнейшего развития своих ИИ-проектов, сообщает Silicon Angle. По имеющимся данным, в покупке акций заинтересована и Broadcom. Всего, по информации Meta✴, три компании намерены инвестировать в акции $5 млрд. NVIDIA готова потратить на ценные бумаги Meta✴ $3 млрд в рамках расширения партнёрства. При этом Meta✴ готовится нарастить использование GPU NVIDIA поколения Rubin и CPU Vera, вероятно, в рамках систем Vera Rubin NVL72, включающих по 72 GPU и 36 CPU. Также Meta✴ намерена покупать больше сетевого оборудования NVIDIA. Она расширит использование семейства продуктов Spectrum-X, включая чипы SuperNIC и сетевые коммутаторы. Кроме того, Meta✴ намерена закупать чипы семейства NVIDIA BlueField-4, позволяющие разгрузить основные чипы серверов, ускоряя сетевые операции, работу с хранилищами данных и выполнение задач, связанных с обеспечением кибербезопасности. NVIDIA поможет Meta✴ увеличить производительность и рентабельность семейства ИИ-моделей Meta✴ Muse. Дополнительно Meta✴ планирует исследовать «возможности сотрудничества», связанные с представленной не так давно эталонной архитектурой NVIDIA — т. н. OpenShell Reference Architecture, представляющей собой набор технических ресурсов, позволяющих упростить использование инструментария NVIDIA OpenShell. Последний позволяет запускать ИИ-агентов в изолированных «песочницах» для минимизации киберугроз.
Источник изображения: Towfiqu barbhuiya/unsplash.com AMD, готовая инвестировать в Meta✴ $1 млрд, раскрыла, что последняя взяла на вооружение стоечную платформу AMD Helios AI, включающую 72 GPU. Платформа построена на основе новейших ускорителей семейства Instinct MI450, CPU EPYC и DPU Pensando — «ответ» BlueField 4. Сообщается, что Meta✴ уже внедрила «начальный» набор стоек Helios и уже тестирует их. В будущем компания намерена расширить использование этих систем. В дальнейшем Meta✴ намерена внедрять кастомные ИИ-ускорители на основе архитектуры AMD Instinct. Производитель чипов, в свою очередь, будет использовать собранные в ходе сотрудничества технические данные для совершенствования своих чипов и дизайна стоек. Как заявили в AMD, компании совместно создают и развёртывают инфраструктуру гигаваттного масштаба, а также формируют новое поколение чипов, ПО и систем, позволяющих запускать самые амбициозные модели и сервисы Meta✴. Данные об инвестициях Broadcom не были официально обнародованы, но, учитывая, что NVIDIA и AMD готовы вложить в акции Meta✴ в общей сложности $4 млрд из заявленных $5 млрд, речь, вероятно, идёт об $1 млрд.
28.10.2026 [10:42], Андрей Крупин
Представлено отечественное решение для безопасной работы с ИИ — Solar AI FirewallКомпания «Солар» (дочернее предприятие «Ростелекома», работающее в сфере информационной безопасности) выпустила Solar AI Firewall — программный комплекс для безопасного взаимодействия с системами искусственного интеллекта в корпоративной среде. Solar AI Firewall представляет собой шлюз безопасности для работы с внешними и внутренними ИИ-сервисами. Решение помогает контролировать доступ к моделям и проверять передаваемые данные. Система выявляет персональные данные, реквизиты и ключи доступа, а также помогает обнаруживать потенциально опасные инструкции — например, попытки подменить исходные инструкции или обойти ограничения модели. В зависимости от настроек политики шлюз может маскировать чувствительные данные, блокировать запросы или задерживать их обработку до решения специалиста по информационной безопасности. В дополнение к вышеперечисленному Solar AI Firewall проверяет права доступа к ИИ, применяет заданные службой ИБ правила для организации, подразделений, пользователей и приложений, а также позволяет устанавливать лимиты на запросы, токены и бюджет. Программный комплекс поддерживает сценарии работы с корпоративными ИИ-ассистентами и агентами, в том числе использующими RAG — поиск по корпоративным базам знаний с передачей найденного контекста в модель. Шлюз проверяет запросы и передаваемые материалы, а также позволяет ограничивать действия агентов: например, блокировать команды на удаление файлов, если они запрещены политиками безопасности.
Источник изображения: «Солар» / rt-solar.ru Solar AI Firewall можно развернуть в контуре организации и интегрировать в существующую инфраструктуру несколькими способами. Например, подключить к ИИ-шлюзу в качестве дополнительного защитного слоя или настроить получение копий трафика от NGFW и прокси-серверов по протоколу ICAP. Кроме того, поддерживается работа продукта в режиме копии трафика. Решение взаимодействует с локальными и внешними ИИ-сервисами через OpenAI-совместимый API. Это позволяет интегрировать продукт в существующую инфраструктуру без полной перестройки её архитектуры. В экосистеме «Солара» шлюз может функционировать в связке с SWG-системой Solar webProxy и передавать инциденты в Solar Dozor. Solar webProxy помогает контролировать доступ к веб-ресурсам, а Solar Dozor — выявлять нарушения политик передачи данных. Таким образом клиенты могут контролировать доступ к ИИ-сервисам и снижать риски утечек корпоративных данных. По данным «Солара», за 2025 год объем корпоративной информации, которую сотрудники отправляют в общедоступные ИИ-сервисы, вырос в 30 раз. Кроме того, защищённость платформ на базе искусственного интеллекта становится предметом внимания регуляторов. Приказ ФСТЭК России №117, вступивший в силу 1 марта 2026 года, затрагивает безопасность ИИ в государственных информационных системах.
28.10.2026 [01:08], Владимир Мироненко
Broadcom договорилась с банками о кредитах на $63 млрд для поставок её чипов AnthropicBroadcom заключила сделку с банками Уолл-стрит — Bank of America, Blackstone, Citi и Morgan Stanley — в рамках которой те предоставят финансирование в размере $63 млрд на закупку у неё чипов для ИИ и сетевого оборудования для компании Anthropic. Эта сделка стала одной из крупнейших долговых операций, связанных с развитием ИИ-инфраструктуры, отметило агентство Reuters. Согласно условиям сделки, будет создана специализированная проектная компания (SPV), через которую будет осуществляться закупка специализированных ИИ-ускорителей (XPU) и высокоскоростных сетевых решений Broadcom. Затем это оборудование будет передано в лизинг компании Anthropic, его поставки начнутся в 2027 году. В сделке используется многоуровневая кредитная структура, позволяющая сбалансировать риски и масштаб. Bank of America, Citi и Morgan Stanley выступают ведущими организаторами приоритетного займа (старшего долга). По словам источников, знакомых с ситуацией, объём приоритетных займов составляет около $43,5 млрд, что соответствует 69 % от общего объема финансирования Компания Blackstone, специализирующаяся на альтернативных инвестициях, берёт на себя обязательство финансирования второго уровня (вторичный долг), которое имеет более низкий приоритет по сравнению со старшим долгом. В свою очередь, Broadcom берет на себя часть обязательств по финансированию, предоставляя так называемую гарантию остаточной стоимости (residual value support) кредиторам, выдающим приоритетные займы, что фактически служит существенным обеспечением в структуре финансирования. Как сообщает The Wall Street Journal, генеральный директор Broadcom Хок Тан (Hock Tan) потратил почти два месяца, пытаясь убедить банки предоставить более $40 млрд займа в рамках этой сделки. Однако, по словам осведомлённых источников, в последние недели некоторые банки начали проявлять всё больше беспокойства по поводу участия в проекте, получившем название Project North Star. Как утверждают источники, гендиректор Broadcom провёл в минувшие выходные переговоры с руководством банков, добившись подтверждения их участия. Кроме того, было достигнуто соглашение о повышении процентных ставок по кредитам. Банки также получили дополнительные заверения относительно гарантий со стороны Broadcom, которые защитят их от убытков в случае, если Anthropic не сможет погасить кредиты. Сделка была анонсирована поздно вечером в понедельник — после того как Anthropic подала документы для IPO.
28.10.2026 [01:08], Павел Котов
Akamai расширила платформу AI Cloud средами для инференса и работы ИИ-агентовAkamai расширила свою инфраструктурную платформу AI Cloud двумя базовыми компонентами: Akamai Inference и Akamai Agent Sandbox, сообщает SiliconANGLE. Они обеспечат корпоративных клиентов управляемой средой с широкими возможностями настройки, из которой можно выполнять и обслуживать рабочие нагрузки ИИ-инференса и запуска агентных приложений в любой инфраструктуре от облачных ЦОД до периферийных серверов. Akamai Inference представляет собой управляемый сервис, обеспечивающий клиентам доступ к нескольким десяткам открытых и кастомизированных ИИ-моделей через OpenAI-совместимые API. Преимуществом Akamai Inference является возможность развёртывать новые приложения и ИИ-агенты на периферийном оборудовании без переписывания кода. При запуске доступен выбор из 12 моделей с открытыми весами размером от 8 млрд до 2,8 трлн параметров, в том числе NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b и Google Gemma 4. Доступен ассортимент специализированных встраиваемых моделей для RAG-конвейеров. Они предназначаются для подключения моделей с открытым весом к службам управляемых БД Akamai, то есть их ответы основаны на корпоративных данных.
Источник изображения: Markus Stickling / unsplash.com Основная задача Akamai Agent Sandbox — безопасное выполнение. Это изолированная среда для запуска ИИ-агентов, работающих в автономном режиме от имени пользователей. В песочнице ИИ-агенты работают на базе бессерверной вычислительной платформы Akamai Functions; их код содержится в изолированных средах WebAssembly под управлением открытого фреймворка Spin. Эти песочницы обеспечивают предприятиям полный контроль над ИИ-агентами: от вычислений и памяти до системных API и исходящего доступа к Сети, гарантируя, что они не выйдут за установленные границы. Akamai также расширила парк платформ GPU в Akamai AI Cloud: предлагается доступ к кластерам NVIDIA Blackwell Ultra, в том числе к RTX PRO 6000 Blackwell Server Edition. Каждый узел Blackwell Ultra с восемью GPU обеспечивает до 2,3 Тбайт общей памяти HBM3e для поддержки рассуждений с долгим контекстом. В следующем году компания намерена также развернуть платформу нового поколения NVIDIA Vera Rubin. Ранее Akamai заключила с Anthropic соглашение на $11,6 млрд, обеспечив ИИ-лаборатории доступ к своей инфраструктуре, а также была вынуждена отказаться от своих CDN-сервисов в Китае. Компания также сообщала о намерении развернуть несколько тысяч ускорителей NVIDIA RTX Blackwell для распределённого инференса. |
|
