Компании Parasail и d-Matrix объявили о развёртывании кастомных ускорителей d-Matrix Corsair для инференса вместе с ускорителями NVIDIA Hopper и Blackwell в рамках гетерогенной дезагрегированной инфраструктуры, что позволит в 10 раз увеличить скорость инференса.

В объединённой системе ускорители NVIDIA и Corsair будут работать согласованно, выполняя вычислительные задачи с учётом их возможностей. Чтобы улучшить экономику инференса для отдельных рабочих нагрузок, Parasail использует GPUтA для ресурсоёмкого предварительного заполнения, а ускорители d-Matrix Corsair — для чувствительного к задержке декодирования. К этому же стремится и сама NVIDIA, добавившая к своим GPU ускорители Groq.

Источник изображения: Parasail

Parasail управляет облаком для инференса, которое объединяет мощности ИИ-ускорителей в более чем 40 ЦОД в 15 странах. Разработанная ею технология автоматической оптимизации позволяет динамически распределять рабочие нагрузки между гетерогенным парком исходя из требований к моделям и обработке. Parasail делает ставку на гетерогенный вычислительный подход с d-Matrix, чтобы получить больше выгоды от уже имеющейся у неё ИИ-инфраструктуры NVIDIA.

d-Matrix утверждает, что сочетание Corsair с GPU позволяет выполнять задачи инференса на порядок быстрее, втрое дешевле и впятеро энергоэффективнее, сообщил TNW. Ресурс отметил, что вместо борьбы с потенциальными конкурентами NVIDIA предлагает им сотрудничество, чтобы интегрировать их в свою экосистему. Заказчикам больше не нужен один гигантский GPU для всего. Они хотят получить самый дешевый чип для каждой задачи, объединённый с другими чипами в единую систему. План NVIDIA состоит в том, чтобы обеспечить продажи или занять место рядом с тем продуктом, который одержит победу, пишет TNW.

Китайский стартап DeepSeek работает над созданием собственного чипа для ИИ-инференса, что позволит ему снизить зависимость от NVIDIA и Huawei, чьи ускорители используются для обучения и запуска его ИИ-моделей, сообщило агентство Reuters со ссылкой на информированные источники.

По данным источников, работа DeepSeek над этим проектом началась около года назад и пока находится на ранней стадии: сейчас стартап ведёт переговоры с компаниями, занимающимися проектированием чипов, производством микросхем и памяти. В последние месяцы он увеличил найм инженеров-разработчиков микросхем, причём набор ведётся в частном порядке, без особой огласки и без размещения вакансий на публичных платформах.

Для DeepSeek эта инициатива имеют дополнительное стратегическое измерение, поскольку США ввели экспортные ограничения на поставку китайским компаниям передовых чипов NVIDIA, а власти Китая оказывает давление на местные компании, продвигая разработку и внедрение отечественных альтернатив.

Источник изображения: He Junhui/unsplash.com

DeepSeek не единственная компания, кто стремится снизить зависимость от NVIDIA, доминирующей на рынке ИИ-чипов. Помимо гиперскейлеров Amazon (Trainium), Alibaba (Zhenwu), Google (TPU), Meta✴ (MTIA) и Microsoft (Maia), расширяющих использование собственных чипов, ещё ряд компаний предпринимает шаги в этом направлении. Например, в прошлом месяце OpenAI представила Jalapeño, свой первый кастомный чип для инференса, разработанный совместно с Broadcom. Anthropic тоже рассматривает возможность создания собственных ИИ-чипов.

Selectel и Национальный исследовательский университет ИТМО объявили о запуске совместного предприятия с целью разработки решений в сфере ИИ, в частности — платформы для создания, внедрения и промышленной эксплуатации мультиагентных систем на базе больших языковых моделей (LLM). Новая платформа позволит быстро создавать ИИ-решения под конкретные бизнес-процессы заказчиков, подключать их к корпоративным данным и системам, измерять качество работы и безопасно их развивать по мере изменения задач бизнеса.

Коммерческая модель будет учитывать фактическое потребление вычислительных ресурсов и токенов. Оплата заказчиком использования ИИ-агентов будет производиться в зависимости от объёма, сложности и места выполнения работы: на инфраструктуре Selectel, в выделенном контуре или непосредственно у заказчика.

Сообщается, что в штат СП войдёт проектная группа ИТМО и опытные эксперты индустрии. ИТМО выступит ключевым центром компетенций с готовыми наработками, а Selectel обеспечит финансирование проекта на сумму более 1 млрд руб., а также предоставит необходимую IT-инфраструктуру. Ранее сообщалось, что Selectel создал новую компанию для реализации ИИ-проектов — «Эмерджентные мультиагентные системы» (ООО «ЭМС»).

По словам Олега Любимова, гендиректора Selectel, объединив экспертизу Selectel в построении специализированной инфраструктуры для ИИ с профильными компетенциями команды ИТМО, и действуя при этом как самостоятельный игрок, новое предприятие будет способствовать ускорению развития прикладных решений, необходимых крупному бизнесу на фоне перехода к агентной экономике ИИ-систем.

Источник изображения: ИТМО

Любимов уточнил в интервью ресурсу Forbes, что у Selectel доля в уставном капитале СП составляет ⅔, у ИТМО — ⅓. Руководитель ИТМО Александр Бухановский рассказал Forbes, что специалисты ИТМО разработали технологию, которая автоматизирует конструирование прикладных агентов ИИ и мультиагентных систем на их основе под комплексные бизнес-задачи. «Мы реализовали ИИ, который умеет делать ИИ», — отметил он.

С 2020 года Selectel инвестировал в развитие ИИ-решений более 3,5 млрд руб. В ближайшие пять лет провайдер планирует увеличить финансирование проектов в сфере ИИ, выделив на эти цели 10 млрд руб. С конца прошлого года 25 % АО «Селектел» принадлежит компании «Каталитик Пипл», созданной МКПАО «Т-Технологии» и ХК «Интеррос».

«Группа Астра» объявила о выпуске программного комплекса «Боцман AI», предназначенного для развёртывания языковых и других моделей искусственного интеллекта внутри защищённого контура организации, без передачи данных во внешние облачные сервисы.

«Боцман AI» является расширением платформы «Боцман» — отечественного решения оркестрации контейнеров на базе Kubernetes, входящего в состав Astra Dev Platform и ориентированного на компании, которые строят внутренние платформы разработки и эксплуатируют приложения в изолированных или регулируемых IT-инфраструктурах. Решение позволяет организациям разворачивать и запускать ИИ-нагрузки внутри собственного сетевого контура — с сохранением суверенитета над данными, предсказуемыми затратами и без привязки к зарубежным провайдерам.

Для работы с «Боцман AI» достаточно произвести описание ИИ-модели через стандартный Kubernetes-ресурс — всё остальное система делает автоматически, говорят разработчики. Она самостоятельно подготавливает хранилище весов и запускает среду выполнения с нужным движком — будь то vLLM, Ollama, SGLang или FasterWhisper, после чего публикует модель через единый шлюз. Отдельного внимания заслуживает механизм обновлений — они происходят без образования окна недоступности, что особенно критично при работе с дорогостоящей GPU-инфраструктурой.

Источник изображения: Numan Ali / unsplash.com

Для взаимодействия с моделями в «Боцман AI» задействован OpenAI-совместимый API. Помимо базовой функциональности, платформа предлагает ряд инструментов для промышленной эксплуатации. В неё встроены автоматическое масштабирование под нагрузку, система биллинга и управление API-ключами с контролем бюджетов, что позволяет прозрачно распределять ресурсы между командами и проектами. Установка программного решения осуществляется через «Боцман Apps & Marketplace» в виде Helm-чарта.

Стартап Etched, вышел из скрытого режима (stealth), объявив о разработке ИИ-чипа для инференса и подписанных контрактах на его поставку более чем на $1 млрд. Также стартап сообщил о привлечении $800 млн инвестиций в рамках нескольких ранее не разглашавшихся раундов финансирования.

Последний раунд финансирования прошёл в декабре 2025 года. Компания привлекла тогда $500 млн инвестиций при оценке в $5 млрд. В числе инвесторов Etched — VentureTech Alliance, Питер Тиль (Peter Thiel), Jane Street, Hudson River Trading, Jump Trading, Two Sigma, Stripes, Ribbit Capital, Radical Ventures, Primary VC, Positive Sum, а также несколько известных исследователей и предпринимателей в области ИИ.

Источник изображений: Etched

Компания сообщила, что первые прототипы чипов (A0) сошли с производственной линии N4P TSMC в начале этого года и что она планирует начать поставки своих первых стоечных систем для инференса этим летом. В настоящее время они проходят тестирование у клиентов. По данным Etched, предварительные испытания у клиентов продемонстрировали передовые показатели пропускной способности, задержки и энергоэффективности ИИ-систем при выполнении инференса.

Etched разрабатывает вертикально интегрированную инфраструктуру для ИИ-инференса, которая объединяет кастомные микросхемы, стойки, сетевое оборудование, системы охлаждения, ПО и производство. Компания сообщила, что её системы уже работают с популярными ИИ-моделями, включая DeepSeek, Qwen, Mamba и Llama, и предназначены для поддержки моделей от плотных архитектур до больших MoE-систем с произвольно большим количеством параметров.

Как сообщает ресурс Converge! Network Digest, для поддержки производства Etched открыла завод на Тайване, а также построила ЦОД мощностью 2 МВт, испытательный центр и лабораторию для прототипирования новых продуктов (NPI) в своей штаб-квартире в Сан-Хосе, с планом достижения ИИ-инфраструктурой для инференса гигаваттного масштаба к 2027 году.

Etched также сообщила о внедрении двух технологий. Первая — Low Voltage Inference (LVI), которая позволяет чипу работать с вполовину меньшим напряжением по сравнени с типовыми ускорителями, при этом устоявшаяся производительность составляет более 80 % от пиковой при разреженном инференсе триллионных MoE-моделей. Результатом является отсутствие троттлинга значительное ускорение инференса. Вторая технология, Cluster Scale Memory (CSM), сочетает SRAM и HBM с общей архитектурой памяти с низкой задержкой и запатентованный интерконнект. В итоге и задержка снижается, и высокая пропускная способность памяти сохраняется.

Cornelis и NextSilicon объявили о сотрудничестве с целью разработки эталонных архитектур для ИИ и HPC. В рамках проекта компании приступили к оценке возможности использования 400G-интерконнекта Cornelis CN5000 в паре с вычислительной платформой NextSilicon Maverick-2.

На первом этапе проверяется совместная работа интерконнекта и вычислительных ресурсов в различных конфигурациях, причём партнёры начали с проверенных комбинаций. Компании планируют расширить тестирование на интерконнект CN6000 со скоростью 800 Гбит/с, запуск которого запланирован на II половину 2026 года.

Обе компании нацелены на решение проблемы в своей сфере. Стандартный Ethernet не рассчитан на обработку небольших, чувствительных к задержке сообщений, которые генерируются в больших масштабах при выполнении задач ИИ-инференса и симуляции HPC. Возникает перегрузка, и дорогостоящие вычислительные ресурсы простаивают в ожидании данных. CN5000 разработан для устранения этого простоя.

Источник изображений: Cornelis Networks

Вычислительные ресурсы простаивают при обработке нерегулярных, зависящих от данных рабочих нагрузок, которые доминируют в ИИ и HPC. Израильская компания NextSilicon построила ускоритель Maverick-2 на основе своей интеллектуальной вычислительной архитектуры (ICA) — программно-определяемой архитектуры с управлением потоками данных (dataflow), в которой вычисления запускаются не последовательными инструкциями, а по факту поступления данных. Платформа переконфигурируется для каждой рабочей нагрузки во время выполнения без изменения существующего кода.

Сочетание подходов Cornelis и NextSilicon позволяет решить обе проблемы, обеспечивая передачу данных и поддерживая постоянную работу вычислительных ресурсов. Совместные эталонные архитектуры предоставят OEM-партнерам план создания систем, которые они смогут построить и вывести на рынок.

«Операторы постоянно говорят нам, что их самые дорогие системы простаивают, ожидая подключения к сети, — говорит Лиза Спелман (Lisa Spelman), генеральный директор Cornelis. — Мы создали CN5000, чтобы положить конец этому ожиданию. NextSilicon бросает вызов аналогичной проблеме в вычислительной сфере, поэтому это сотрудничество является естественным шагом. Вместе мы можем показать партнерам и клиентам, что дают бесперебойная сеть и вычислительная архитектура, ориентированная на рабочие нагрузки, в рамках единого решения».

Наряду с HPC, сотрудничество также будет направлено на переход в ИИ-инференсе к моделям смешанных экспертов (MoE) и агентному ИИ. Инференс в продуктовых средах для этих рабочих нагрузок больше не выполняется как одна модель на одном ускорителе. Он разделяется на этапы, и данные перемещаются между этапами по сети. Дезагрегированный инференс делает сетевую инфраструктуру частью вычислительного пути. Он применим для сети, которая обрабатывает небольшие, импульсные, чувствительные к задержкам сообщения без перегрузки, и вычислительных ресурсов, которые адаптируются к каждому этапу конвейера.

Qualcomm анонсировала High Bandwidth Compute (HBC), гибридное решение для вычислений и памяти, разработанное в качестве альтернативы памяти HBM и обеспечения большей производительности, эффективности и пропускной способности. В нём используется трёхмерная архитектура Near-Memory Computing (NMC), обеспечивающая предельно близкое расположение быстрой памяти к вычислительным ядра.

В HBC используется память LPDDR, размещённая вертикально в несколько слоёв, соединённых сквозными кремниевыми контактами (TSV). Такой подход обеспечивает лучшую энергоэффективность, чем традиционная HBM, в которой в вертикальных слоях размещается память DDR, поскольку микросхемы LPDDR потребляют меньше энергии, обеспечивая при этом аналогичную пропускную способность и ёмкость.

При этом в основании HBC лежит вычислительный кристалл, который берёт на себя часть обработки данных основного процессора, тем самым разгружая его. Как отметил ресурс Techpowerup, эта технология аналогична используемой в памяти HBM4, где базовый кристалл представляет собой логический кристалл для лучшей интеграции вычислительных решений, таких как трассировка пакетов и подготовка данных для ввода и вывода из HBM.

Источник изображений: Qualcomm

Qualcomm сообщила, что HBC обеспечивает шестикратное увеличение пропускной способности на Вт по сравнению с HBM, согласно опубликованным характеристикам конкурирующих продуктов, нормализованным на уровне платы, а также 200-кратное увеличение ёмкости на Вт по сравнению с SRAM, согласно опубликованным характеристикам конкурирующих продуктов, нормализованным на уровне стойки.

HBC первого поколения (HBC Gen 1) достигла пропускной способности 133 Тбайт/с на ускорителе AI250, что в 18 раз больше, чем у AI200 на базе LPDDR5X. Коммерческое тестирование HBC1 с AI250 ожидается в середине 2027 года. Компания планирует выпуск решения HBC Gen 2 в 2028 году. Это решение выйдет с ИИ-ускорителем Qualcomm Dragonfly AI300 и обеспечит 54-кратное увеличение эффективной пропускной способности по сравнению с AI200 и семикратное увеличения пропускной способности на Вт по сравнению с HBM.

Dragonfly AI300 интегрирует HBC2, обеспечив высокую пропускную способность и низкую задержку для инференса больших языковых и мультимодальных моделей (LLM, LMM) и агентного ИИ. По данным Qualcomm, ожидается в 4–8 раз более высокая производительность по сравнению с существующими архитектурами на базе GPU по пропускной способности памяти на Вт на карту. Масштабирование решения будет осуществляться с помощью интерконнектов UALink и ESUN с использованием медных и оптических кабелей. Коммерческое производство образцов Dragonfly AI300 начнётся в 2028 году.

Компания Qualcomm заявила о намерении продать полупроводники в рамках связанного с ЦОД бизнеса на сумму $15 млрд к 2029 году. Она отходит от выпуска преимущественно чипсетов для смартфонов и прочей потребительской электроники — новость вызвала рост акций компании после закрытия торгов в среду на 12 %, сообщает Reuters.

По словам представителя компании, связанный с ЦОД бизнес принесёт в 2027 финансовом году $5 млрд, из них $1 млрд поступит от покупателей новых кастомных чипов. Также компания объявила, что рассчитывает получить к 2029 году $40 млрд выручки за пределами связанного со смартфонами бизнеса (ранее говорилось о $22 млрд), к тому времени выручка от решений для смартфонов будет не превышать трети от общей. Ранее аналитики Bank of America заявляли, что ежегодная выручка Qualcomm от связанного с ЦОД бизнеса к 2027–2028 гг. будет значительно скромнее, приблизительно $2–$5 млрд ежегодно.

Источник изображений: Qualcomm

После озвученного прогноза на 5 % выросли в цене и акции Arm Holdings, на основе технологий которой Qualcomm разрабатывает многие из своих чипов. Также объявлено, что новые чипы компании будут покупать Meta✴ и Microsoft. Qualcomm рассчитывает выпускать и кастомные чипы для двух других неназванных гиперскейлеров.

Рост интереса Qualcomm к ИИ-чипам отражает рост давления на рынке смартфонов, который страдает от дефицита чипов памяти, вызванного стремительным ростом спроса на ИИ-инфраструктуру. Кроме того, крупные производители смартфонов вроде Apple и Samsung разрабатывают чипы самостоятельно.

В среду Qualcomm объявила, что Microsoft будет использовать новую категорию решений компании, использующих дешёвые чипы памяти, применяемые в смартфонах и ноутбуках, вместо дорогой HBM-памяти, применяемой NVIDIA или SRAM-модулей, используемых Cerebras Systems. Qualcomm назвала категорию High Bandwidth Compute (HBC). Утверждается, что индустрия получит невероятно ценное предложение в плане соотношения цены и производительности.

По данным Qualcomm, компания Meta✴ будет использовать её новый CPU, получивший название Dragonfly C1000, специально разработанный для ИИ ЦОД — на этом рынке уже есть решения NVIDIA и самой Arm. О двух других гиперскейлерах сообщается, что для них будут выпускаться кастомные чипы, а выручка начнёт поступать ещё до конца текущего календарного года. По данным Qualcomm, запрос на такие решения исходил от самих гиперскейлеров.

Qualcomm, неоднократно пытавшаяся развивать свой бизнес, связанный с ЦОД, снова делает попытку выйти на рынок ИИ и серверов, полный сильных игроков вроде NVIDIA и прочих разработчиков, включая Amazon (Graviton), Google (Axion), Microsoft (Cobalt). Весной заявлялось, что компания планирует начать поставки чипов для ЦОД «ведущему гиперскейлеру» «в декабрьском квартале» и ожидает сотрудничество на несколько поколений чипов.

Также по её данным ведётся работа над тремя вариантами чипов: CPU, ускорителями ИИ-инференса и кастомными ASIC-модулями — в последнем сегменте активно действуют Broadcom и Marvell. Ключевым «полем битвы» называется ниша чипов для ИИ-инференса.

OpenAI и Broadcom представили кастомный чип Jalapeño, разработанный в тесном сотрудничестве «в соответствии с видением OpenAI будущего инференса LLM». Согласно первым тестам, ускоритель первого поколения обеспечивает производительность на ватт значительно выше, чем у современных аналогов.

Как сообщает OpenAI, Jalapeño был разработан с нуля для текущих и будущих LLM. Благодаря использованию ИИ-моделей OpenAI от начала проектирования до выхода на производство чипа потребовалось всего лишь девять месяцев. OpenAI отметила, что разрабатывала Jalapeño, «руководствуясь своим планом развития моделей, ядер, систем обслуживания и потребностей продукта, совместно с партнёрами Broadcom и Celestica». Чип спроектирован не как отдельный ускоритель, а как часть масштабируемого програмнно-аппаратного комплекса.

Инженерные образцы Jalapeño работают в лаборатории с задачами машинного обучения на целевой частоте и энергопотреблении, включая GPT‑5.3‑Codex‑Spark. Компания пообещала предоставить подробный технический отчёт о производительности ускорителя в ближайшие месяцы. Как сообщает Bloomberg, по словам генерального директора Broadcom Хока Тана (Hock Tan), на данный момент ускоритель демонстрирует экономию средств примерно на 50 % по сравнению с типовыми ИИ-ускорителями.

Источник изображения: OpenAI

Сообщается, что архитектура чипа снижает перемещение данных и обеспечивает баланс вычислительных и сетевых ресурсов, а также памяти для достижения фактического использования, гораздо более близкого к теоретической пиковой производительности. Реализация аппаратных и сетевых технологий Broadcom, включая Tomahawk, помогают вывести платформу на крупномасштабный производственный уровень.

OpenAI отметила, что стремится создать полный стек для продукта. Она не только разрабатывает передовые модели и решения на их основе. Компания проектирует инфраструктуру под ними: архитектуру чипов, ядра, системы памяти, сети, управление, системы развёртывания и пользовательский опыт. Благодаря этому каждый слой стека может быть оптимизирован для достижения главной цели компании: сделать свои модели быстрее, надёжнее и доступнее для пользователей.

Стремясь оптимизировать затраты на ИИ-инфраструктуру, Amazon (Trainium), Google (TPU), Meta✴ (MTIA) и Microsoft (Maia) тоже работают над собственными кастомными ИИ-ускорителями. Во многом это связано и с желанием снизить зависимость от чипов NVIDIA.

Стартап Groq, занимающийся разработкой чипов для инференса и купленный NVIDIA за $20 млрд, объявил о привлечении $650 млн на развитие собственного облака, сообщает Silicon Angle. Возглавили раунд инвестиционная группа Disruptive и хеджевый фонд Infinitum.

В декабре 2025 года NVIDIA согласилась заключить исключительное лицензионное соглашение на технологии и наняла нескольких сотрудников Groq, в том числе её основателя и генерального директора. При этом формально «зелёным» облако GroqCloud в рамках сделки не досталось. Компания раскрыла, что её облачная платформа обрабатывает триллионы токенов в неделю для 5 млн разработчиков.

Источник изображения: NVIDIA

Облачная инфраструктура Groq работает на базе 13 ЦОД на нескольких континентах. Компания рассчитывает потратить привлечённые средства для расширения мощностей до 200 МВт к 2027 году. В Groq утверждают, что часть новых вычислительных мощностей получит системы NVIDIA LPX на основе LPU 3. Прочие облачные операторы в теории тоже способны создать сервис для инференса на основе решений NVIDIA/Groq.