Akamai расширила платформу AI Cloud средами для инференса и работы ИИ-агентов

 

Akamai расширила свою инфраструктурную платформу AI Cloud двумя базовыми компонентами: Akamai Inference и Akamai Agent Sandbox, сообщает SiliconANGLE. Они обеспечат корпоративных клиентов управляемой средой с широкими возможностями настройки, из которой можно выполнять и обслуживать рабочие нагрузки ИИ-инференса и запуска агентных приложений в любой инфраструктуре от облачных ЦОД до периферийных серверов.

Akamai Inference представляет собой управляемый сервис, обеспечивающий клиентам доступ к нескольким десяткам открытых и кастомизированных ИИ-моделей через OpenAI-совместимые API. Преимуществом Akamai Inference является возможность развёртывать новые приложения и ИИ-агенты на периферийном оборудовании без переписывания кода. При запуске доступен выбор из 12 моделей с открытыми весами размером от 8 млрд до 2,8 трлн параметров, в том числе NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b и Google Gemma 4. Доступен ассортимент специализированных встраиваемых моделей для RAG-конвейеров. Они предназначаются для подключения моделей с открытым весом к службам управляемых БД Akamai, то есть их ответы основаны на корпоративных данных.

 Источник изображения: Markus Stickling / unsplash.com

Источник изображения: Markus Stickling / unsplash.com

Основная задача Akamai Agent Sandbox — безопасное выполнение. Это изолированная среда для запуска ИИ-агентов, работающих в автономном режиме от имени пользователей. В песочнице ИИ-агенты работают на базе бессерверной вычислительной платформы Akamai Functions; их код содержится в изолированных средах WebAssembly под управлением открытого фреймворка Spin. Эти песочницы обеспечивают предприятиям полный контроль над ИИ-агентами: от вычислений и памяти до системных API и исходящего доступа к Сети, гарантируя, что они не выйдут за установленные границы.

Akamai также расширила парк платформ GPU в Akamai AI Cloud: предлагается доступ к кластерам NVIDIA Blackwell Ultra, в том числе к RTX PRO 6000 Blackwell Server Edition. Каждый узел Blackwell Ultra с восемью GPU обеспечивает до 2,3 Тбайт общей памяти HBM3e для поддержки рассуждений с долгим контекстом. В следующем году компания намерена также развернуть платформу нового поколения NVIDIA Vera Rubin.

Ранее Akamai заключила с Anthropic соглашение на $11,6 млрд, обеспечив ИИ-лаборатории доступ к своей инфраструктуре, а также была вынуждена отказаться от своих CDN-сервисов в Китае. Компания также сообщала о намерении развернуть несколько тысяч ускорителей NVIDIA RTX Blackwell для распределённого инференса.

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER. | Можете написать лучше? Мы всегда рады новым авторам.
Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости и обзоры

Источник:

Постоянный URL: https://servernews.ru/1150508

Комментарии