Французские компании Bull и Kalray объявили о стратегическом партнёрстве, направленном на развитие передовых сетевых технологий для инфраструктур ИИ и НРС. Стороны, в частности, намерены сотрудничать в сфере Ultra Ethernet — нового стандарта на базе Ethernet, ориентированного на современные ресурсоёмкие нагрузки.

Bull и Kalray сосредоточат усилия на разработке решений следующего поколения, отвечающих высоким требованиям производительности, масштабируемости и эффективности. Речь идёт, в частности, об интерконнекте с большой пропускной способностью и малыми задержками.

В рамках партнёрства Kalray предоставит свою сетевую платформу Kalray Networking Engine, предназначенную для работы с огромными массивами данных в составе ЦОД, инфраструктур ИИ и НРС. Эта платформа предусматривает использование 64 ядер KV5 с открытой архитектурой RISC-V. Заявленная пропускная способность достигает 1,6 Тбит/с.

В свою очередь, Bull ускорит развитие собственного интерконнекта BXI (Bull eXascale Interconnect) — это специализированная высокоскоростная сетевая архитектура для суперкомпьютеров и систем высокопроизводительных вычислений. В частности, планируется добавление в состав BXI новых функций безопасности и виртуализации, необходимых для облачных и ИИ-нагрузок. В целом, развитие BXI будет смещено в сторону стандарта Ethernet.

Источник изображения: Bull

Соглашение между Bull и Kalray предусматривает совместную разработку технологических блоков, совместимых с Ultra Ethernet, и их интеграцию в будущие поколения сетевых решений Bull. Сотрудничество, как ожидается, откроет новые возможности для OEM-производителей и поставщиков инфраструктурных решений. Помимо этого, партнёрство будет способствовать развитию отраслевых стандартов, обеспечивающих масштабируемость, совместимость и долгосрочный потенциал платформ для ИИ и НРС. Планируется, что первые решения, разработанные совместными усилиями Bull и Kalray, станут доступны для коммерческого использования в 2028 году.

Компания Synology анонсировала сетевые хранилища серии DiskStation neo+ на аппаратной платформе AMD. Дебютировали модели DS1825neo+, DS1525neo+, DS925neo+ и DS725neo+ с возможностью установки соответственно восьми, пяти, четырёх и двух LFF/SFF-накопителей с интерфейсом SATA-3.

Все новинки выполнены в «настольном» форм-факторе. Применён процессор Ryzen Embedded V1500B с четырьмя ядрами (восемь потоков), работающими на частоте 2,2 ГГц (модель DS725neo+ получила двухъядерный чип Ryzen Embedded R1600 с частотой 2,6–3,1 ГГц) — это весьма старые чипы. Две старшие модели несут на борту 8 Гбайт DDR4 SO-DIMM (по умолчанию без ECC), две младшие — 4 Гбайт. Во всех случаях допускается расширение до 32 Гбайт в виде двух модулей на 16 Гбайт, в том числе с ECC.

Источник изображений: Synology

Хранилища располагают двумя коннекторами M.2 2280 для NVMe SSD. Предусмотрены два сетевых порта 2.5GbE (у варианта DS725neo+ — по одному порту 2.5GbE и 1GbE). Модификации DS1825neo+ и DS1525neo+ оборудованы слотом расширения PCIe 3.0 для опционального сетевого адаптера 10GbE или 25GbE. В зависимости от модели реализованы от одного до трёх разъёмов USB 3.0. Можно подключить модуль расширения DX525.

Устройства функционируют под управлением ОС DSM. Предусмотрены средства шифрования информации на стороне клиента. Возможна защита критически важных томов (LUN) и общих папок с помощью автоматизированных неизменяемых снимков, для которых применяются пользовательские политики хранения. Приём заказов на NAS серии DiskStation neo+ уже начался.

Стартап Lumilens, специализирующийся на разработке решений для оптическими сетей для ЦОД, объявил о выходе из скрытого режима (stealth mode) и успешном завершении раунда финансирования серии C, в ходе которого он привлёк $700 млн. В результате общий объём инвестиций в него превысил $900 млн, а оценка рыночной стоимости стартапа выросла до $5,51 млрд.

Раунд совместно возглавили Atreides Management, Bain Capital Ventures, Meritech, Seligman Ventures и Spark Capital при участии Addition, Alkeon, Harbourvest, J.P. Morgan Private Capital, Mayfield, MVP Ventures, Qualcomm Ventures, Peak XV, Redpoint Ventures, Seifdune и других ведущих инвесторов.

Компания сообщила, что использует привлечённые средства для расширения своих операций в сфере инженерии и производства. Lumilens отметила, что спустя всего два года с момента основания её первый продукт прошел квалификацию и начал поставляться в ЦОД одного из четырёх ключевых гиперскейлеров в рамках многомиллиардного соглашения. Это может относиться к одному из технологических гигантов: Amazon, Alphabet, Microsoft и Meta✴, считает Reuters.

Источник изображений: Lumilens

Lumilens проектирует и производит оптические интерконнекты для обоих типов сетей внутри ИИ ЦОД — вертикально масштабируемой (scale-up) сети, которая напрямую соединяет GPU в рамках одной вычислительной системы, и горизонтально масштабируемой (scale-out) сети, которая объединяет различные стойки и кластеры.

Для горизонтально масштабируемых сетей Lumilens предлагает подключаемые оптические трансиверы класса 800G/1.6T. Для вертикально масштабируемых сетей компания разрабатывает решения CPO (Co-Packaged Optics) и NPO (Near-Package Optics), предназначенные для замены медного интерконнекта малой дальности и, в конечном итоге, для обеспечения работы десятков тысяч GPU в качестве единой тесно связанной ИИ-системы.

Все продукты основаны на разработанной компанией платформе LumiCore, объединяющей кремниевую фотонику, интегральные схемы со смешанным сигналом, электрооптические интерпозеры и оптические системы. Единая платформа для всего портфеля продукции позволяет Lumilens переходить от проектирования к сертифицированному клиентом продукту за считанные месяцы, и гарантирует, что каждый продукт с самого начала разработан для крупномасштабного производства.

Компания сообщила, что разработала новаторскую технологию электрооптических интерпозеров, которая значительно упрощает сборку фотонных чипов, а также собственные технологические процессы, специализированную робототехнику и автоматизацию тестирования, масштабируя мощности через производственных партнёров и собственных крупномасштабных предприятий.

«Ограничение для ИИ сместилось с количества GPU, которые вы можете купить, на количество, которое вы можете подключить», — утверждает Анкур Сингла (Ankur Singla), основатель и генеральный директор Lumilens. Сингла ранее создал и продал две инфраструктурные компании: Contrail Systems, занимающуюся программно-определяемыми сетями, которую Juniper Networks приобрела в 2012 году примерно за $176 млн, а затем Volterra, платформу для периферийных и облачных вычислений, которую F5 купила почти за $500 млн в январе 2021 года.

В период между работой в Volterra и Lumilens он также основал Exaforce, платформу безопасности на основе ИИ, которая сейчас оценивается примерно в $725 млн, где он по-прежнему занимает должность исполнительного председателя. Lumilens — его четвёртая инфраструктурная компания, отметил ресурс Tech Funding News. Её команда включает специалистов из Cisco, Juniper Networks, Meta✴, Marvell, Lumentum и Coherent.

На фоне продолжающихся атак беспилотников на дата-центры стартап Impact Drones анонсировал проект по созданию автономных дронов-перехватчиков для защиты различных объектов гражданской инфраструктуры. Это могут быть ЦОД, аэропорты, электросетевые сооружения и пр.

Как сообщает ресурс Datacenter Dynamics, фирма Impact Drones базируется в Сан-Франциско (Калифорния, США). Она основана Джаспером Лортихе (Jasper Lortije) и Алессандро Фиуме (Alessandro Fiume). Лортихе имеет опыт работы в аэрокосмической отрасли: он участвовал в создании навигационных систем, функционирующих в условиях отсутствия сигналов GNSS. В свою очередь, Фиуме ранее работал в отделе продаж Bloomberg. Стартап получает финансовую поддержку от бизнес-акселератора Y Combinator.

Источник изображения: Impact Drones

Предполагается, что самоуправляемые беспилотники-перехватчики Impact Drones будут размещаться в специальных герметичных контейнерах на территории защищаемого объекта. Система предполагает применение различных датчиков для обнаружения враждебных БПЛА. В случае идентификации угрозы производится автоматический запуск беспилотника Impact Drones, который вылетает из контейнера, пробивая его верхнюю крышку. Дальнейший полёт осуществляется с использованием визуальной системы навигации, не зависящей от спутниковых сигналов GPS. Таким образом, дроны смогут выполнять свои задачи даже в условиях действия средств РЭБ.

Стартап намерен вывести на рынок две модели перехватчиков — Hunter и Sable. Первая предназначена для ближнего боя, вторая — для поражения целей на больших расстояниях. Hunter выполнен по схеме квадрокоптера: внешне он напоминает снаряд с четырьмя винтами в тыльной части. Этот дрон спроектирован для борьбы с медленными низколетящими угрозами. Sable относится к самолетному типу: аппарат оснащён турбодвигателем и дельтовидным фюзеляжем, благодаря чему может развивать высокую скорость. Беспилотник способен преследовать быстро движущиеся цели. Начать пробные поставки перехватчиков Impact Drones рассчитывает в III квартале текущего года.

AMD объявила о достижении окончательного соглашения о приобретении Taalas, канадского разработчика ускорителей для ИИ-инференса из Торонто. Финансовые подробности сделки не раскрываются. С момента основания в 2023 году Taalas привлекла в общей сложности $219 млн венчурных инвестиций в рамках трёх раундов финансирования, включая последний на $169 млн в феврале этого года. AMD сообщила, что технология Taalas дополнит полнофункциональную ИИ-платформу AMD, включая стоечные решения Helios, Instinct, EPYC, ROCm и расширяющуюся экосистему ИИ компании.

Покупая Taalas, компания AMD решает те же задачи, что и NVIDIA при покупке Groq за $20 млрд в декабре прошлого года, говорят аналитики: сделать высокопроизводительные «премиальные» сервисы инференса, востребованные для ИИ-агентов, быстрее и дешевле в использовании. Taalas разрабатывает чипы, ориентированные на конкретные ИИ-модели, что обеспечивается путём прямой интеграции их весов в «кремний» вместе со значительным объёмом высокоскоростной памяти SRAM.

Источник изображения: AMD

Этот подход отличается от традиционных решений для инференса, которые полагаются на универсальные GPU. При этом он позволяет снизить задержку и вычислительные затраты за счёт устранения необходимости обращения к внешней памяти во время процесса инференса. Ресурс The Register отметил, что Taalas не раскрывает принцип работы своих чипов, но известно, что они состоят из двух основных областей: микросхемы памяти с маской (Mask-ROM), где вытравливаются веса модели, и собственно SRAM, где хранятся KV-кеши и т.д.

Что важно, технология Taalas — это не просто концептуальная разработка. В феврале компания представила свой первый тестовый чип HC1, изготовленный по 6-нм техпроцессу TSMC с площадью кристалла 815 мм², который содержит 53 млрд транзисторов. Первоначальные тесты показали, что чип обрабатывает Meta✴ Llama 3.1 8B со скоростью 16 960 токенов в секунду — на момент анонса в феврале прошлого года это было в 48 раз быстрее, чем NVIDIA H200, и в 8,5 раза быстрее, чем ускорители Cerebras.

Источник изображения: Taals

Taalas разработала совместно с TSMC оптимизированный для литографического производства рабочий процесс, который позволяет клиентам перейти от весов моделей к развёртываемым PCIe-картам, работающим с реальным инференсом, примерно за два месяца, говорит генеральный директор Taalas Любиша Байич (Ljubisa Bajic), о чём пишет ресурс CNBC. Это значительно быстрее по сравнению с традиционными циклами разработки заказных чипов, что делает кастомные кремниевые микросхемы более доступными для компаний, которые ранее не могли позволить себе разработку ASIC из-за высокой стоимости.

В чипе HC2 второго поколения, который должен выйти этим летом, Taalas планирует увеличить количество параметров ИИ-модели до 20 млрд. При обработке больших ИИ-моделей, как и при использовании GPU, веса просто распределяются между несколькими ускорителями с использованием конвейерного параллелизма. Таким образом, для модели с 1 трлн параметров понадобится всего 50 ускорителей HC2, и у AMD как раз есть вычислительная платформа стоечного масштаба и собственная команда разработчиков систем. Это решение компактнее и энергоэффективнее NVIDIA LPX, для работы которого потребуется несколько десятков GPU и как минимум 2000 LPU Groq, отметил The Register.

Источник изображения: Taals

Альтернативные чипы, разработанные Taalas и Groq, особенно важны для приложений с «низкой задержкой», где время до первого ответа от ИИ-модели имеет большое значение. «Я твёрдо убеждена, что в отношении чипов нет универсального решения», — заявила генеральный директор AMD Лиза Су (Lisa Su) в июле. Она добавила, что AMD прогнозирует, что GPU будут и дальше составлять большую часть рынка ИИ-чипов, поскольку они достаточно гибкие, чтобы поддерживать новые ИИ-модели. Впрочем, AMD недавно заключила соглашение с Cerebras, которое тоже ориентировано на сверхбыстрый инференс.

Разрабатывая чип специально для конкретной модели, компания жертвует гибкостью ради эффективности. Специализация позволяет сократить рабочую нагрузку, переведя её в более прямой поток данных, что снижает вычислительные и оперативные издержки, присущие универсальным решениям. Но стойку, построенную для использования одной модели, нельзя просто перенастроить при изменении модели. Это делает подход Taalas наиболее привлекательным для стабильного, высокопроизводительного инференса, который, по словам AMD, является наиболее быстрорастущим сегментом ИИ-рынка.

При этом Taalas утверждает, что изменение весов, размеров матрицы и других важных параметров требует изменения всего двух слоев маски. Это означает, что даже если для каждой модели потребуется много разных чипов, количество дорогостоящих масок, которые необходимо будет изготовить, намного меньше, чем если бы, например, пришлось изготавливать два разных GPU, пишет ServeTheHome.

Компания Anthropic официально подтвердила появившиеся ранее в СМИ сообщения о планах начать разработку собственного ИИ-чипа. В интервью ресурсу Business Insider её представитель заявил, что компания формирует собственную команду разработчиков для создания кастомных чипов для ИИ-моделей Claude, присоединяясь к разрабатывающих собственные чипы Amazon (Trainium), Alibaba (Zhenwu), Google (TPU), Meta✴ (MTIA), Microsoft (Maia) и OpenAI (Jalapeño).

Издание The Information в прошлом месяце сообщило, что Anthropic вела переговоры с Samsung по поводу возможности сотрудничества в производстве чипов. Согласно недавно опубликованному объявлению о вакансии Anthropic ищет инженеров с опытом работы в широком спектре областей проектирования и верификации микросхем для команды по разработке чипов.

Источник изображения: Brecht Corbeel/unsplash.com

Вакансия инженера с зарплатой от $320 до $485 тыс. предполагает, что претенденты должны продемонстрировать «непосредственный личный вклад» в завершение и выпуск полупроводниковых разработок. «Эта должность для человека, который уже выпускал микросхемы, имеет реалистичное представление о сроках и готов принимать важные решения без поддержки крупной организации», — указано в объявлении. В нём также сообщается, что Anthropic планирует автоматизировать некоторые задачи верификации с помощью ИИ. Также компания намерена разработать симуляции, в которых Claude смогут научить тестировать новые конструкции микросхем.

Особое внимание будет уделено формальной верификации, в ходе которой конструкция микросхемы проверяется на наличие недостатков путём моделирования всевозможных сценариев эксплуатации. OpenAI также использует ИИ для ускорения разработки микросхем. Разработка ускорителя Jalapeño заняла всего 9 мес. благодаря тому, что некоторые задачи были автоматизированы с помощью ИИ.

Представитель Anthropic сообщил, что компания будет разрабатывать чип совместно со своими будущими LLM. Хотя разработка ИИ-чипа собственными силами — дорогостоящий и сложный процесс, она позволяет настраивать вычислительные мощности в соответствии с потребностями своих моделей. К тому же, это позволит компании снизить зависимость от дорогостоящих ускорителей NVIDIA, которая доминирует на рынке ИИ-чипов. Тем не менее, Anthropic будет и дальше придерживаться «многочипового подхода», в рамках которого будет использовать для своих задач оборудование AWS, Google, Microsoft, NVIDIA и AMD.

Как сообщил в начале июня ресурс The Information, компания может выбрать Samsung в качестве партнёра для производства своего чипа. Недавно Samsung представила технологию zHBM, которая может значительно повысить эффективность ИИ-чипов. Как утверждает компания, технология zHBM позволяет размещать память непосредственно поверх логических ядер. Такая компоновка позволяет ускорить обмен данными между памятью и логическими схемами, что, в свою очередь, снижает энергопотребление. Вполне возможно, что Anthropic могла бы использовать zHBM в своём ИИ-ускорителе.

Тысячи серверов могут быть взломаны с помощью уязвимостей, имеющихся в BMC-контроллерах, причём, о некоторых из них известно более десяти лет, сообщается в исследовании компании runZero. runZero обнаружила в BMC, поставляемых HPE, Supermicro, Avocent, Huawei, Lenovo, Dell и другими компаниями, в дополнение к уязвимостям, о которых сообщалось ещё в 2013 году, более десятка новых брешей, пишет Ars Technica.

Чтобы оценить масштабы угрозы, runZero провела два сканирования. В первом случае сканировались все BMC, подключённые к интернету, а во втором было проведено внутреннее обследование устройств в корпоративных сетях. Внешнее сканирование выявило более 86 тыс. BMC, которые предоставляли доступ к сервису управления для широкой публики. Более 54 % из них содержали одну или несколько критических уязвимостей. До 75 тыс. BMC содержали баг CVE-2013-4786, уязвимость в протоколе аутентификации IPMI 2.0, которая позволяет взламывать пароли учётных записей BMC администратора в автономном режиме. В свою очередь, внутреннее сканирование 126 761 BMC выявило, что почти 29 % из них имели одну или несколько критических уязвимостей.

Источник изображения: Kevin Ku/unsplash.com

runZero не будет раскрывать подробности об уязвимостях до тех пор, пока они не будут исправлены. Уязвимости относятся к следующим классам:

• Недостатки в процессе аутентификации IPMI. Хакеры могут изменить предписанную последовательность обмена сообщениями, чтобы обойти требования аутентификации. Получив ограниченный доступ к BMC, злоумышленник может получить административный доступ, используя другие уязвимости. К затронутым продуктам относятся решения HPE iLO, Supermicro, OpenBMC и продукты на основе OpenBMC от H3C и NVIDIA.
• Неспособность IPMI обеспечить целостность и защиту шифрования в рамках сеанса. Уязвимость затронула оборудование HPE, Supermicro и Intel (устаревшие системы).
• Предсказуемые идентификаторы сеансов. Токены сеансов генерируются на основе таймеров или времени, а не из безопасных случайных источников, что позволяет злоумышленнику предсказать и захватить активный сеанс BMC другого пользователя как через службу IPMI, так и через браузерные KVM-консоли. Эти ошибки присутствуют в системах Supermicro.
• Вызов сбоя памяти до аутентификации — код, обрабатывающий входящие запросы, не проводит должную проверку данных, что может привести к выполнению вредоносного кода. Проблема обнаружена в системах HPE iLO.
• Возможность установки неподписанного ПО. Злоумышленник может использовать установку вредоносного ПО или замену ключа, используемого для проверки ПО, для обхода аутентификации и повышения привилегий. В числе подверженных этим багам — серверы Supermicro, H3C и Dell.
• Использование данных из общедоступного ПО, которые могут использоваться для аутентификации или расшифровки трафика с BMC. Проблема затронула решения Supermicro, OpenBMC, Huawei и Dell.
• Использование учётных данных по умолчанию и заводских случайных учётных данных, которые могут быть скомпрометированы путем раскрытия хеша благодаря уязвимости CVE-2013-4786. Проблема обнаружена у серверов HPE, Supermicro и Dell.

runZero выпустила инструмент с открытым исходным кодом OOBscan для сканирования всего парка серверов компании с целью обнаружения растущего списка уязвимостей BMC, которые она каталогизировала. Помимо запуска OOBscan, администраторы могут обеспечить защиту, установив длинные, уникальные имена пользователей и сложные пароли, отключив IPMI и KCS, где это возможно, изолировав BMC, избегая размещения нескольких адаптеров в общей VLAN.

«BMC по-прежнему представляют собой недооценённый риск», — сообщила runZero, отметив, что исследование указывает на то, что «экосистема значительно отстаёт с точки зрения качества кода и архитектуры». Вместе с тем нельзя не отметить, что доступ к сетевым интерфейсам BMC из Сети крайне не рекомендуется всеми поставщиками оборудования. Кроме того, рекомендуется использовать для них выделенную сеть и открывать доступ к контроллерам только по необходимости.

SK Hynix и Sandisk представили первые спецификации высокоскоростной флеш-памяти (HBF), технологии хранения данных следующего поколения, разработкой которых они занимались с прошлого года. В феврале SK Hynix и Sandisk запустили проект по стандартизации HBF в рамках Open Compute Project (OCP). Google и Tensorrent уже присоединились к нему, и ожидается, что к ним подключатся и другие компании.

Теперь спецификации находятся в открытом доступе для любой компании, разрабатывающей системы ИИ-инференса или ускорители. Они охватывают до 512 Гбайт ёмкости на основе двух конфигураций стека с 8 и 16 слоями NAND с тремя уровнями пропускной способности (Класс 1–3) в пределах от 0,4 до 3,0 Тбайт/с. SK hynix отметила, что ключевым моментом является использование UCIe, это закладывает основу для гибкой интеграции технологии HBF в различные типы процессоров, включая GPU и CPU.

В документе определены интерфейс хоста xPU-HBF, электрические спецификации, базовые ожидания по производительности, рекомендации по надёжности и упаковке стека кристаллов HBF, а также руководство пользователя по ПО для операций чтения и записи. Компании разработали спецификацию таким образом, чтобы HBF мог сосуществовать с HBM в одной системе, а не заменять его, отметил ресурс StorageReview.com. Расчёт ёмкости такой же, что и при переносе KV-кеша на флеш-память: хранение контекста на более дешевом и плотном уровне увеличивает количество токенов и пользователей, которые может обслуживать каждый ускоритель.

Источник изображения: SK hynix

Sandisk и SK Hynix объявили свою стратегию: ранняя и открытая публикация в рамках OCP, чтобы позиционировать HBF как де-факто стандарт для рынка хранения данных для ИИ до того, как конкуренты создадут альтернативу. «Вычисления в ИИ создают новый набор требований к памяти, и технология HBF разработана для удовлетворения этих требований, — сообщила Sandisk, назвав спецификации важной вехой «для следующего поколения ИИ-систем, созданных для улучшения экономики токенов в масштабе».

«С быстрым распространением ИИ-приложений мы достигли точки, когда необходимо перепроектировать общие структуры обработки данных, — сказала SK hynix, — С помощью HBF SK hynix расширит границы между памятью и хранилищем и внесёт свой вклад в создание новых архитектур, повышающих общую эффективность системы».

Marvell анонсировала набор CXL-продуктов, призванных решить проблему дефицита памяти в системах, ориентированных на ресурсоёмкие ИИ-нагрузки. В частности, дебютировали специализированные контроллеры расширения памяти Structera X, чипы-ускорители Structera A и коммутаторы Structera S.

Платформа Structera X оптимизирована специально для развёртывания на площадках гиперскейлеров. Изделия, как отмечается, разработаны в партнёрстве с ведущими мировыми компаниями в сфере облачных вычислений. В данное семейство вошли чипы Structera X 2404 и Structera X 2504, предназначенные для работы с памятью DDR4 и DDR5 соответственно.

В свою очередь, решения Structera A предназначены для организации вычислений вблизи памяти (near-memory). В частности, представлен чип Structera A 2504, который объединяет 16 ядер Arm Neoverse V2, работающих на частоте 3,2 ГГц. Изделие поддерживает до 4 Тбайт памяти с пропускной способностью до 200 Гбайт/с, сжатие LZ4 и 256-бит шифрование XTS-AES. Чип позволяет снять часть нагрузки с CPU сервера, беря на себя такие задачи, как ИИ-инференс, обслуживание моделей рекомендаций на основе глубокого обучения (DLRM), векторный поиск и запуск резидентных баз данны. Вместе решения Structera X и Structera A предоставляют крупным компаниям комплексный инструментарий для масштабирования и оптимизации памяти в условиях дезагрегированной инфраструктуры ИИ.

Источник изображения: Marvell

Наконец, в серию Structera S вошло устройство 30260 — это коммутатор PCIe 6.0 / CXL 3.x на 260 линий, который позволяет подключать до 16 или 32 CPU или GPU к общему пулу памяти объёмом до 48 Тбайт. При этом обеспечивается суммарная пропускная способность до 4 Тбайт/с, тогда как задержки составляют менее 460 нс. Говорится о совместимости с памятью DDR4 и DDR5. По заявлениям Marvell, Structera S демонстрирует до 16 раз лучшую масштабируемость по сравнению с локальной памятью и на 72 % меньшую задержку, чем при использовании пула на основе RDMA. В конфигурациях на базе GPU достигается до 4,8 раза более высокая пропускная способность при инференсе, тогда как время до получения первого токена сокращается на 82,7 %.

Разработчик ИИ-ускорителей для инференса Etched привлёк $300 млн в раунде финансирования серии C при оценке капитализация в $10,3 млрд — и это менее чем через месяц после выхода из «стелс-режима», сообщает Storage Review. Раунд возглавила Sequoia Capital, также в нём приняли участие a16z, Jane Street, Diffusion и SK Hynix. Утверждается, что это наивысшая оценка, достигнутая в раунде C, возглавленном Sequoia.

В предыдущем раунде в конце 2025 года компания привлекла $500 млн, а её оценка составляла $5 млрд. Etched уже похвасталась, что заключила контракты на поставку чипов для ИИ-инференса более чем на $1 млрд. Привлечённые средства компания направит на расширение производства, а также ускорение внедрения решений среди заказчиков. Помимо предприятия на Тайване, компания открыла объект площадью 7,4 тыс. м² в непосредственной близости от штаб-квартиры в Сан-Хосе, где уже работает 2-МВт ЦОД с её чипами.

Источник изображения: Etched

Новый кампус в Милпитасе (Milpitas) мощностью 10 МВт будет включать лабораторию для вывода на рынок новых продуктов (NPI), линию монтажа электронных компонентов (SMT), площадку прототипирования инфраструктуру для развёртывания оборудования. По данным Etched, спрос на системы уже превысил предложение, поскольку клиенты стремятся перейти от тестирования к промышленной эксплуатации. В результате компании пришлось увеличить штат до 400 сотрудников, нанимая специалистов из NVIDIA, Broadcom, Google TPU, SK Hynix и прочих компаний.

По словам представителя Etched, компании ещё предстоит выйти на гигаваттный уровень, поэтому она взаимодействует с инвесторами, готовыми вкладывать средства в ИИ-инфраструктуру. Сообщается, что компания «круглосуточно» работает с первыми заказчиками, чтобы вывести свой первый продукт на рынок.