Samsung совместно с AMD представила решение для объединения памяти (memory pooling) по протоколу CXL, сообщил ресурс StorageReview.com. Решение построено на базе модулей памяти Samsung CMM-D (CXL Memory Module Dynamic) и предназначено для задач инференса в агентных системах ИИ. Согласно данным Samsung, использование пула памяти позволяет сократить время до получения первого токена (TTFT) на 38 % и повысить полезную пропускную способность (goodput) в 3,3 раза по сравнению со статическим распределением памяти.

В основе решения лежит технология Dynamic Capacity Device (DCD) — механизм протокола CXL, позволяющий динамически выделять память хосту и возвращать её обратно в пул в процессе работы системы. Несколько экземпляров LLM используют общий пул ресурсов с эластичным распределением. Если в каком-то экземпляре происходит резкий рост нагрузки — например, увеличивается контекст или количество параметров, — он временно заимствует дополнительные мощности, а по завершении задачи возвращает их обратно. Для сравнения, при традиционном подходе резервирование делается под пиковую нагрузку, из-за чего часть ресурсов зачастую простаивает.

Источник изображения: Samsung

Решение было протестировано на вычислительной платформе AMD. Проблема, которая решается в данном случае, заключается в возникновении простоев процессора (CPU stalls) при масштабировании агентных ИИ-нагрузок — ситуациях, когда объём и пропускная способность памяти не растут пропорционально количеству вычислительных ядер.

Samsung заявила, что технология CMM-D позволяет увеличить число одновременно работающих пользователей агентных ИИ-систем за счёт масштабирования памяти параллельно с мощностями CPU. Компании пока не раскрыли конфигурацию серверов, топологию коммутаторов CXL, а также показатели задержки и пропускной способности интерконнекта для данной совместной системы. Сроки выпуска и показатели энергопотребления решения также пока не известны.

В августе нынешнего года корпорация IBM анонсировала фирменные SSD пятого поколения — устройства FCM5 (FlashCore Module 5). Как сообщает ресурс Blocks & Files, в этих накопителях задействованы чипы магниторезистивной энергонезависимой памяти с произвольным доступом (MRAM) производства Everspin.

MRAM в конструкции SSD применяется вместо суперконденсаторов для защиты от потери данных в результате сбоев питания. В традиционных накопителях корпоративного класса при потере энергоснабжения суперконденсаторы выполняют функцию встроенного мини-ИБП, позволяя контроллеру переместить информацию из DRAM-кеша во флеш-память и корректного завершить работу.

Источник изображения: Blocks & Files

В устройствах FCM5 чипы MRAM служат в качестве буфера. Они обеспечивают быстрый доступ, на уровне DRAM (десятки наносекунд), могут адресоваться побайтно и обладают колоссальной износостойкостью. Причём данные в MRAM сохраняются даже при отключении питания, что избавляет от необходимости установки суперконденсаторов. Благодаря такому подходу высвобождается дополнительное пространство в корпусе накопителя, что позволяет установить больше микросхем NAND для повышения вместимости.

Изделия семейства FCM5 построены на чипах флеш-памяти QLC NAND с pSLC-кешированием. Для обмена данными служит интерфейс PCIe 4.0 (NVMe). Доступны варианты с «сырой» ёмкостью 6,6, 12,2, 26,4, 52,8 и 105,6 Тбайт, тогда как вместимость со сжатием достигает соответственно 19,8, 36,6, 79,2, 158,4 и 316,8 Тбайт. Устройства выполнены в форм-факторе EDSFF с усовершенствованным корпусом High-Performance Flash Enclosure (HPFE) Gen 3 E3.

Компания Innodisk анонсировала модули оперативной памяти DDR5-8000 RDIMM ECC, предназначенные для использования в периферийных ИИ-системах, корпоративных серверах и НРС-платформах. Изделия будут предлагаться в вариантах объёмом от 16 до 64 Гбайт.

Отмечается, что работа таких ресурсоёмких приложений, как большие языковые модели (LLM), генеративный ИИ, цифровые двойники и телемедицинские сервисы, зачастую сопряжена с непрерывным обменом большими наборами данных между CPU и подсистемой RAM. Новые модули RDIMM со скоростью до 8000 МТ/с спроектированы специально для обеспечения высокой производительности и надёжности при постоянных нагрузках.

Источник изображения: Innodisk

Реализованы различные механизмы безопасности, повышающие стабильность при эксплуатации в промышленных условиях. Так, встроенные TVS-диоды (супрессоры) защищают компоненты от резких скачков напряжения, а электронные предохранители eFuse предотвращают сбои при аномалиях в цепи питания. Модули получили позолоченные контакты (толщина покрытия составляет 30 мкм), что улучшает проводимость и увеличивает срок службы. Кроме того, предусмотрена защита от сульфирования, которая предотвращает выход модулей из строя при длительной работе в средах с высокой концентрацией серы.

В I квартале 2027 года Innodisk планирует расширить ассортимент изделий DDR5-8000. В частности, будут представлены решения CUDIMM, CSODIMM, ECC CUDIMM и ECC CSODIMM. Эти модули найдут применение в широком спектре периферийных и промышленных устройств.

Компания Everspin Technologies, разработчик магниторезистивной энергонезависимой памяти с произвольным доступом (MRAM), объявила об успешной демонстрации первого в мире расширения памяти x86-сервера с помощью MRAM PERSYST, подключённой к серверу Supermicro посредством CXL.

Для демонстрации использовался сервер Supermicro AS-1116CS-TN с 32-ядерным процессором AMD EPYC 9355, FPGA-платформа AMD Alveo U250 с контроллером Wolley CXL (по данным ресурса Blocks & Files — CXL 3.2, но c PCIe 3.0), подключённым к Everspin PERSYST DDR4 MRAM UDIMM ёмкостью 1 Гбайт (четыре модуля MRAM DDR4 в встроенных разъёмах DIMM на плате FPGA).

Конфигурация предоставляет платформу, основанную на открытых стандартах, для демонстрации согласованного доступа к персистентной памяти MRAM через CXL. Она также позволяет объединять ресурсы памяти в пул и распределять их между хостами. Для ИИ-систем это создаёт возможности для использования таких решений, как контрольные точки и персистентный KV-кеш. В рамках демонстрации разработчики показали работу быстрого персистентного буфера и кеш-памяти с построчными доступом с задержкой на уровне наносекунд и записью данных в 100 раз быстрее, чем в SSD на базе NAND.

Источник изображения: Everpure

Everspin планирует внедрить технологию MRAM в новые архитектуры памяти, включая персистентное кеширование, буферизацию записи и приложения для работы с метаданными. До сих пор, как и Optane, MRAM не удавалось из-за высокой цены добиться значительного прогресса за пределами специализированных рынков с малым объёмом продаж.

Глава Everspin Санджив Аггарвал (Sanjeev Aggarwal) отметил, что CXL предоставляет стандартный способ использования памяти MRAM на гораздо более широком спектре вычислительных платформ: «Теперь у нас есть рабочая система, позволяющая заказчикам выполнять свои собственные рабочие нагрузки и оценивать преимущества для своих конкретных приложений». Генеральный директор Wolley сообщил, что их контроллер обеспечивает подключение к памяти и хранилищам данных через CXL, а демонстрация с Everspin наглядно показала, как MRAM может быть внедрена с использованием стандартной семантики.

Как полагает Blocks & Files, основная идея в том, чтобы задействовать MRAM в периферийных x86-серверах или небольших ЦОД для хранения рабочих данных ИИ, таких как блоки KV-кеша, с возможностью считывания их быстрее, чем с внешних SSD (даже с RDMA), и без потери данных при отключении питания или сбое в работе.

Тайваньская компания Winbond Electronics Corporation объявила о заключении соглашения о покупке акций с Infineon Technologies LLC, «дочкой» Infineon Technologies AG, благодаря которому в её собственность переходит 100-% доля в бизнесе Infineon по производству NOR Flash и FRAM. Базовая стоимость сделки составляет $1,12 млрд. Перед закрытием сделки эта сумма может быть скорректирована.

Сделка уже одобрена советом директоров Winbond, поскольку ожидается, что она позволит компании расширить глобальные научно-исследовательские ресурсы, улучшить возможности поставок и повысить качество обслуживания клиентов по всему миру. Winbond сообщила о планах привлечь квалифицированных специалистов из более чем 10 стран и расширить сеть партнёров в цепочке поставок.

Как ожидается, сделка будет закрыта во II половине 2027 года при условии получения необходимых разрешений от регулирующих органов. После закрытия сделки компания будет носить название Spansion и действовать как самостоятельная структура с головным офисом в США.

«Мы рады возродить название и товарный знак Spansion. Компания Spansion была пионером отрасли; она внесла значительный вклад в развитие ИТ-индустрии благодаря многочисленным инновациям и технологическим прорывам. Для нас большая честь вновь продолжить дело под этим именем», — заявил Артур Ю-Ченг Цзяо (Arthur Yu-Cheng Chiao), председатель совета директоров и гендиректор Winbond.

Источник изображения: Infineon

Как сообщает TrendForce со ссылкой на данные Economic Daily News и Commercial Times, эта сделка — крупнейшая в истории Тайваня по приобретению зарубежного бизнеса в сфере памяти — может увеличить глобальную долю Winbond на рынке NOR Flash до более чем 30 %. По данным TrendForce, сделка и возрождение бренда Spansion в качестве независимого предприятия после 11-летнего перерыва, как ожидается, может увеличить совокупную долю компании на рынке NOR Flash примерно до 34 %.

Как пишет Economic Daily News, приобретённый Winbond бизнес эквивалентен почти половине её существующих операций по производству NOR Flash, что значительно расширит рыночное преимущество компании перед конкурентами. В перспективе ключевыми препятствиями в реализации полученных технологий станут нормативные требования. Как отмечает MoneyDJ, внимание будет сосредоточено на том, сможет ли Winbond успешно интегрировать технологии Infineon и работать с её клиентами, обеспечивая при этом соблюдение требований национальной безопасности и антимонопольного законодательства в отношении этого приобретения и связанных с ним планов расширения мощностей на ключевых рынках.

Сделка совершается в благоприятное для рынка NOR Flash время, когда спрос смещается в сторону высоких цен. По данным TrendForce, контрактные цены выросли в среднем на 100–120 % и, как ожидается, останутся высокими во II половине года. При этом прогнозируется рост цен на продукты большой ёмкости (256 Мбайт и выше) ещё на 90–110 %.

Micron объявила о разработке первых в мире модулей оперативной памяти RDIMM DDR5 объёмом 512 Гбайт. Изделия рассчитаны на применение в высокопроизводительных серверах, ориентированных на ресурсоёмкие задачи, такие как обучение больших языковых моделей (LLM), приложения агентного ИИ, инференс в реальном времени, анализ огромных массивов данных и пр.

Представленные решения поддерживают скорость передачи данных до 9200 МТ/с. В модулях памяти кристаллы DRAM расположены вертикально друг над другом, что позволяет повысить плотность компоновки. Применяется технология сквозных соединений TSV (Through-Silicon Via).

Подчёркивается, что благодаря созданным изделиям RDIMM DDR5-9200 в одном двухсокетном сервере с 24 слотами DIMM может использоваться до 12 Тбайт ОЗУ. При этом достигается повышение энергоэффективности подсистемы RAM. Утверждается, что один модуль ёмкостью 512 Гбайт потребляет 16 Вт против 44,2 Вт у четырёх изделий на 128 Гбайт. Это соответствует выигрышу в 63,8 % при аналогичном общем объёме ОЗУ.

Источник изображения: Micron

Micron также заявляет, что в таких задачах, как аналитика данных в Apache Spark (SVM), новые модули памяти обеспечивают повышение производительности до 1,4 раза по сравнению с конфигурациями на базе DDR5 объёмом 256 Гбайт. Помимо этого, разработанные изделия предоставляют значительные преимущества для ресурсоёмких баз данных и платформ кеширования, включая RocksDB и Redis, повышая пропускную способность и улучшая параллелизм.

В тестировании модулей RDIMM DDR5-9200 на 512 Гбайт принимают участие AMD и Intel. Организовать массовое производство решений планируется во II половине следующего года.

Компания Primemas анонсировала CXL-решения, предназначенные для расширения памяти в ИИ-системах. Кроме того, объявлено о партнёрстве с Micron в рамках проекта Abaco.

В частности, дебютировали модули CXL, выполненные в виде карт расширения с интерфейсом PCIe. Изделия PMA14 и PMA16 оснащены соответственно 14 и 16 слотами RDIMM, что позволяет использовать до 3,5 и 4 Тбайт памяти DRAM (при установке изделий на 256 Гбайт). Применяется фирменная архитектура Primemas Hublet, которая даёт возможность формировать пулы памяти CXL огромной ёмкости.

Источник изображения: Primemas

Новые CXL-модули станут частью платформы Abaco — стоечной вычислительной системы с более чем 100 Тбайт памяти. Этот комплекс создаётся для Тихоокеанской северо-западной национальной лаборатории (PNNL) Министерства энергетики США (DoE). Предполагается, что Abaco будет использоваться для решения сложных задач в области ИИ и НРС, а также для обработки огромных массивов информации. Проект финансируется управлением научных исследований DoE в рамках программы перспективных научных вычислений (ASCR). Отмечается, что Abaco поможет решить проблему нехватки памяти в современных ИИ-инфраструктурах, когда GPU-ускорители вынуждены простаивать в ожидании данных для обработки.

Ещё одним решением Primemas является SLiM (Switchless Pooled Memory) — новая архитектура памяти, оптимизированная для рабочих нагрузок ИИ с интенсивным использованием KV-кеша. Эта система типоразмера 1U позволяет нескольким серверам получать доступ к десяткам терабайт общей DRAM со сверхнизкой задержкой, без необходимости внешних коммутаторов CXL.

Рост цен на чипы памяти может привести к тому, что к следующему году на расходы облачных операторов ЦОД, связанные с DRAM- и NAND-памятью будет приходиться более ⅔ от их капитальных затрат в целом, сообщает TrendForce. Аналитики прогнозируют, что общие капитальные расходы облачных операторов в этом году почти удвоятся (вырастут на 98 %), а в 2027 году увеличатся ещё на 50 %.

Быстрый рост отчасти обусловлен ростом инвестиций в новую инфраструктуру, но также и увеличением счетов за память. В результате, по оценкам TrendForce, на DRAM- и NAND-память будет приходиться 47 % всех расходов на оборудование в текущем году, в 2027 году показатель вырастет до 68 %.

Конкретных прогнозов выручки аналитики не приводят, но утверждают, что к концу 2026 года объём рынка серверной DRAM-памяти вырастет г/г на 270 %, а цены на SSD корпоративного класса — на 235 %. Дефицит высокопроизводительной памяти ведёт к тому, что производители отдают приоритет при производстве серверным продуктам. По оценкам TrendForce, на используемую ИИ-ускорителями HBM, а также RDIMM для серверов в совокупности придётся более половины поставок DRAM в текущем году.

Источник изображений: TrendForce

Это уже отразилось на ценах ПК, растущих двузначными темпами в процентном отношении из-за дефицита стандартных модулей памяти. В ответ на это поставки ПК упали на 5 %, а поставки смартфонов в текущем году, вероятно, упадут на 15 %. Корпоративным пользователям всё труднее игнорировать происходящее. Поскольку на память приходится всё большая доля капитальных затрат облачных провайдеров, весьма вероятно, что расходы в конечном итоге лягут на плечи клиентов.

Ранее в этом месяце европейский оператор ЦОД OVHcloud предупредил, что намерен повысить цены на 87 %, чтобы покрыть рост цен на память. Весьма вероятно, что его примеру последуют и другие провайдеры. Более того, TrendForce полагает, что дорожающая память позволит производителям серверов и чипов вроде оправдать рост цен и на свои решения. Так, NVIDIA уже предупредила крупных клиентов о росте цен на продукты на платформах Vera Rubin и Grace Blackwell на 15 %.

По мере развития рынка ИИ-агентов и активного внедрения ИИ-моделей с триллионами параметров производительность сопутствующей ИИ-инфраструктуры требует не только роста вычислительных мощностей, но и эффективного проектирования в рамках единой системы вычислений, памяти, сети и ПО. Для помощи гиперскейлерам и другим клиентам, использующим NVLink Fusion, компания предложила память NVHBM.

В традиционной архитектуре HBM-контроллер размещается на кристалле XPU, занимая некоторую площадь, которую можно было бы использовать для вычислений. NVHBM построена по той же технологии, что NVIDIA будет использовать в своих будущих GPU — кастомный контроллер памяти интегрируется в основной кристалл HBM, благодаря чему NVHBM обеспечит до 30 % роста пропускной способности памяти и до 15 % снижения энергопотребления, а также высвободит до 25 % больше площади основного кристалла XPU в сравнении со стандартной памятью HBM4E.

Источник изображения: NVIDIA

Стандартный вариант реализации NVHBM будет доступен у нескольких поставщиков памяти. Это должно снизить объём инженерных работ, необходимых для интеграции и сертификации памяти разных производителей. Заказчики NVLink Fusion смогут быстрее выводить на рынок специализированные ИИ-ускорители. Подразделение Annapurna Labs компании Amazon первым получит возможность поработать над NVHBM в рамках более широкого сотрудничества с NVIDIA по развитию NVLink Fusion, которое предполагает интеграцию NVLink Fusion в ИИ-ускорители Trainium4.

NVLink Fusion уже позволяет подключать XPU и CPU к стоечной платформе NVIDIA, партнёры компании могут получить доступ к чиплетам NVLink-C2C, сетевым коммутаторам NVLink и стойкам NVIDIA MGX. Также возможно использование широкой номенклатуры CPU различных партнёров, разработчиков ASIC и др.

Компания Pine64, разрабатывающая одноплатные компьютеры с поддержкой Linux и другие продукты, сообщила о приостановке выпуска устройств. Причина — дефицит комплектующих, прежде всего чипов оперативной и флеш-памяти. Цены на эти компоненты продолжают расти, что создаёт производственные трудности и снижает рентабельность бизнеса.

В официальном заявлении Pine64 говорится, что из-за сформировавшейся нехватки изделий DRAM и eMMC выпуск новых устройств на Linux в ближайшее время не планируется. Будет ли производство возобновлено в обозримом будущем, зависит от цен на эти компоненты после середины 2027 года. При этом компания намерена продолжить поставки решений на базе микроконтроллеров.

«В целом, ситуация с Linux-устройствами не самая радужная, но в магазине PineStore по-прежнему доступны устройства на базе MCU — ассортимент таких продуктов в дальнейшем будет расширяться», — сказано в заявлении Pine64. Таким образом, купить оборудование Pine64 под управлением Linux будет невозможно после исчерпания оставшихся запасов. При этом компания продолжит реализацию таких товаров, как умные часы PineTime, блок питания PinePower и пр.

Источник изображения: Pine64

Между тем другие участники рынка на фоне дефицита чипов памяти вынуждены поднимать цены на свои продукты. В частности, значительно увеличилась стоимость популярных одноплатных компьютеров и вычислительных модулей Raspberry Pi: некоторые решения подорожали сразу на $150. Кроме того, NVIDIA подняла цены на модули Jetson — стоимость отдельных устройств подскочила вдвое. Вместе с тем продолжается стремительный рост цен на SSD корпоративного класса.