Южнокорейский стартап Panmnesia сообщил о разработке специализированного CXL-решения, которое позволяет расширять встроенную память ускорителей на базе GPU путём подключения внешних блоков DRAM или даже SSD. Отмечается, что современным приложениям ИИ и НРС требуется значительный объём быстрой памяти, но возможности ускорителей в этом плане ограничены.

Сложность расширения памяти актуальных ускорителей заключается в том, что в таких изделиях отсутствуют логическая структура CXL и компоненты, поддерживающие DRAM и/или SSD. Кроме того, подсистемы кеша и памяти GPU не распознают никаких расширений. В лучшем случае предлагается механизм унифицированной виртуальной памяти (UVM) для совместного доступа к содержимому памяти и CPU, и GPU. Однако этот механизм довольно медленный.

Источник изображений: Panmnesia

Panmnesia обошла существующие ограничения путём создания собственного root-комплекса, совместимого со стандартом CXL 3.1 и предоставляющего несколько root-портов. Он и обеспечивает поддержку внешней памяти через PCIe. При этом задействован особый декодер HDM (Host-managed Device Memory), отвечающий за работу с адресными пространствами. Это сложное решение в каком-то смысле «обманывает» подсистему памяти ускорителя, заставляя ее рассматривать внешнюю PCIe-память как доступную напрямую.

Прототип, основанный на кастомизированном GPU, в ходе тестов продемонстрировало задержки менее 100 нс при передаче данных в обоих направлениях. При этом решение Panmnesia предоставляет более гранулярный доступ к памяти в сравнении с UVM. Быстродействие CXL-системы Panmnesia оказалось в 3,22 раза выше в пересчёте на IPC по сравнению с UVM.

Компания Samsung анонсировала SSD корпоративного уровня BM1743. Накопитель, выполненный по технологии v7 QLC V-NAND, имеет вместимость 61,44 Тбайт. Новинка призвана составить конкуренцию изделию Solidigm D5-P5336 аналогичной ёмкости, которое дебютировало приблизительно год назад.

Устройство Samsung BM1743 является преемником модели BM1733a, которая изготавливается по технологии v5 QLC V-NAND. Оба решения выполнены в SFF-стандарте U.2. Основной сферой применения названы дата-центры и облачные сервисы, в том числе связанные с ИИ-нагрузками.

Источник изображения: Samsung

Благодаря использованию интерфейса PCIe 4.0 производительность новинки увеличена примерно в два раза по сравнению с предшественником. Скорость последовательного чтения информации достигает 7200 Мбайт/с, скорость последовательной записи — 2000 Мбайт/с. Показатель IOPS при работе с блоками данных по 4 Кбайт составляет до 1,6 млн при произвольном чтении и до 110 тыс. при произвольной записи.

В SSD применяются 176-слойные флеш-чипы NAND. Устройство рассчитано на 0,26 полных перезаписи в сутки (показатель DWPD) на протяжении срока службы. Срок гарантированной сохранности данных при выключении питания увеличился с одного месяца до трёх в сравнении с решением предыдущего поколения. Говорится о подготовке варианта в формате E3.S с поддержкой PCIe 5.0. Кроме того, в перспективе свет увидит модификация вместимостью 122,88 Тбайт.

По итогам I квартала 2024 года на мировом рынке было реализовано приблизительно 82,79 млн SSD разных типов, что на 6,2 % меньше по сравнению с последней четвертью 2023-го. Уточненные данные, как сообщает ресурс StorageNewsletter, обнародовала аналитическая компания TrendFocus. Отмечается, что, несмотря на сокращение продаж в штучном выражении, суммарная вместимость отгруженных за три месяца SSD поднялась в квартальном исчислении на 2,0 %, достигнув 86,99 Эбайт.

В рейтинге крупнейших игроков мирового рынка лидирует Samsung с долей 30,4 %. Вторую позицию удерживает Western Digital с 18,7 %, а замыкает тройку SK hynix с 10,4 %. В плане общей ёмкости реализованных накопителей Samsung контролирует 34,0 % мирового рынка SSD. Затем идут Western Digital с 15,8 % и Solidigm с 15,2 %.

Источник изображения: TrendFocus / StorageNewsletter

Поставки корпоративных SSD с интерфейсом PCle поднялись квартал к кварталу на 31,6 % — до 7,09 млн, а их суммарная вместимость выросла на 31,8 %, составив около 30,53 Эбайт. Продажи твердотельных SAS-устройств сократились в I квартале 2024 года на 5,8 % в штуках — до 0,88 млн единиц, но их общая ёмкость увеличилась на 1,7 % — до 3,26 Эбайт. Говорится также, что отгрузки корпоративных SSD с интерфейсом SATA поднялись до 4,03 млн штук, но их общая вместимость снизилась в квартальном исчислении на 6,3 % из-за более высокого спроса на изделия с меньшим объёмом.

В клиентском сегменте поставки SSD сократились квартал к кварталу на 10,5 % в штучном выражении и на 12,1 % в ёмкостном — до 64,87 млн единиц и 43,39 Эбайт.

Компания Western Digital, по сообщению ресурса Tom's Hardware, продемонстрировала флеш-кристалл 3D QLC NAND самой высокой на сегодняшний день ёмкости, составляющей 2 Тбит (256 Гбайт). Такие изделия, как ожидается, приведут к появлению более вместительных и доступных SSD.

Кристалл изготовлен на основе 218-слойной производственной технологии BiCS8. Это значительное достижение по сравнению с «базовым» решением Western Digital 3D TLC ёмкостью 1 Тбит, которое также выпускается по указанной методике. Скорости чтения/записи нового изделия и показатель IOPS на данный момент не раскрываются.

Источник изображений: Western Digital

Кристаллы 3D QLC NAND вместимостью 2 Тбит могут быть оптимизированы по производительности и ёмкости. В первом случае энергоэффективность по сравнению с предыдущим поколением увеличивается до 32 %, во втором заявлено улучшение износостойкости до 60 %.

При объединении четырёх кристаллов нового поколения может быть получен модуль вместимостью 1 Тбайт. А связка из 16 кристаллов даёт возможность создавать SSD объёмом 4 Тбайт. Таким образом, если Western Digital и её партнёр Kioxia смогут организовать массовое производство изделий 3D QLC NAND ёмкостью 2 Тбит, это может привести к появлению сравнительно недорогих накопителей большой вместимости. В результате, Western Digital получит возможность укрепить позиции на мировом рынке SSD, в первую очередь в корпоративном сегменте.

Утверждается, что плотность новых кристаллов Western Digital на 15–19 % выше, чем у конкурентов. При этом прирост производительности достигает 50 %, тогда как энергопотребление в расчёте на 1 Гбайт хранимой информации сокращается на 13 %. Официальный анонс изделий ожидается в ближайшее время.

Компания Western Digital анонсировала SSD корпоративного класса семейства Ultrastar DC SN861, рассчитанные на поддержание ресурсоёмких нагрузок, связанных с большими языковыми моделями (LLM), инференсом, приложениями ИИ и пр. Изделия будут предлагаться в трёх вариантах исполнения — U.2, E1.S и E3.S.

Решения U.2 выполнены в SFF-формате толщиной 15 мм. Используется интерфейс PCIe 5.0 х4 (NVMe 2.0). В серии представлены модификации вместимостью 1,60, 1,92, 3,2, 3,84, 6,4 и 7,68 Тбайт. Заявлена поддержка TCG Opal 2.01. Средства Power Loss Protection отвечают за сохранность данных при внезапном отключении питания.

Скорость чтения информации у всех накопителей достигает 13 700 Мбайт/с, а скорость записи варьируется от 3600 до 7500 Мбайт/с. Показатель IOPS при чтении — от 2,1 млн до 3,3 млн, при записи — от 165 тыс. до 665 тыс. Изделия могут выдерживать до одной полной перезаписи в сутки (показатель DWPD), а версии на 3,2 и 6,4 Тбайт — до трёх.

Источник изображения: Western Digital

Решения стандарта E1.S, в свою очередь, имеют ёмкость 1,92, 3,84 и 7,68 Тбайт. Они выполнены в корпусе толщиной 15 мм. Применяется интерфейс PCIe 5.0 х4 (NVMe 1.4b). Скорость чтения варьируется от 12 100 до 13 700 Мбайт/с, скорость записи — от 3400 до 7000 Мбайт/с. Устройства обладают показателем IOPS от 1,55 млн до 3,2 млн при чтении и от 140 тыс. до 235 тыс. при записи. Величина DWPD равна 1.

Все накопители рассчитаны на эксплуатацию при температурах от 0 до +70 °C. Средняя наработка на отказ (MTTF) заявлена в 2,5 млн часов. Гарантия производителя — пять лет. Характеристики устройств формата E3.S пока не раскрываются.

Кроме того, Western Digital объявила о расширении семейства накопителей Ultrastar DC SN655. Теперь в него входят модели вместимостью до 64 Тбайт. Наконец, компания сообщила о начале пробных поставок HDD серии Ultrastar DC HC690 на основе технологии UltraSMR ёмкостью 32 Тбайт.

Компания Goodram Industrial, принадлежащая Wilk Elektronik SA, анонсировала SSD семейства M1000 Gen 2, обладающие повышенной надёжностью. Устройства ориентированы на применение в коммерческом и промышленном секторах: это могут быть встраиваемые решения, системы автоматизации, индустриальные компьютеры и пр.

Изделия выполнены в SFF-стандарте с применением чипов флеш-памяти BiCS5 3D TLC NAND. Для подключения служит интерфейс SATA-3. Заявленная скорость передачи данных составляет до 550 Мбайт/с при чтении и до 510 Мбайт/с при записи.

Источник изображения: Goodram Industrial

В серию M1000 Gen 2 входят модели вместимостью 128, 256 и 512 Гбайт, а также 1 Тбайт. Диапазон рабочих температур простирается от -40 до +85 °C. Каждый накопитель, как утверждается, проходит строгие испытания качества, включая тестирование в климатической камере, имитирующей сложные условия окружающей среды (перепады температуры, влажность).

Среди поддерживаемых технологий упомянуты средства Over-provisioning (резервируют некоторый объем SSD под нужды контроллера), инструмент управления питанием Low Power Management, функции контроля износа (Static and Dynamic Wear Leveling) и управление поврежденными блоками (Bad Block Management).

Dell ожидает, что уже во II половине 2024 года цена DRAM и SSD вырастет на 15–20 %. По словам вице-председателя и операционного директора компании Джеффа Кларка (Jeff Clarke), цены вырастут как на компоненты, так и на логистику. The Register сообщает, что в связи с этим Dell намерена обновить цены на свою продукцию.

По его словам, это связано с недостатком капитальных инвестиций, низкой загрузкой производств и другими факторами. Большая часть спроса придётся на продукцию для ИИ-серверов, за квартал принёсших Dell $1,7 млрд — рост квартал к кварталу составил более 100 %. Подобному оборудованию нужно много памяти с большой пропускной способностью, ёмкое внутренее и внешнее хранилище.

Источник изображения: Dell

По словам Кларка, компания уже начала пересмотр ценообразования с учётом новых реалий, что помогло Dell улучшить показатели своего серверного бизнеса. Речь как обычном оборудовании, так и о комплектах для ИИ. Объём невыполненных заказов на ИИ-серверы Dell достиг $3,8 млрд, но, по словам Кларка, NVIDIA справляется со спросом, поэтому задержек в поставках ускорителей H200 во II квартале опасаться не стоит. А вот ускорители B200, как и предупреждала NVIDIA, пока в дефиците.

Компания TrendForce обнародовала результаты исследования мирового рынка SSD корпоративного класса в I квартале 2024 года. Отмечается, что спрос на такие накопители по сравнению с IV четвертью 2023-го подскочил на 62,9 %, что объяснятся в том числе стремительным развитием ИИ.

Согласно подсчётам аналитиков, в период с января по март включительно отгрузки корпоративных SSD достигли в денежном выражении $3,76 млрд. TrendForce говорит о значительном увеличении спроса на высокопроизводительные серверы для задач ИИ. Причём заказчики из Северной Америки всё чаще используют SSD высокой ёмкости на основе чипов флеш-памяти QLC для замены HDD. Это приводит к росту поставок твердотельных накопителей.

Источник изображения: TrendForce

Крупнейшим игроком мирового рынка по итогам I квартала 2024 года стала компания Samsung с долей 47,4 % и продажами в размере $1,78 млрд: рост по отношению к предыдущему кварталу зафиксирован на отметке 85,4 %. На втором месте располагается SK Group (SK hynix и Solidigm), у которой отгрузки поднялись в квартальном исчислении на 49,3 % — до $1,14 млрд, а доля оказалась на уровне 30,4 %. Замыкает тройку Micron с выручкой в размере $373,5 млн (рост на 49,4 % в квартальном сопоставлении) и долей около 9,9 %.

В пятёрку ведущих игроков также вошли Kioxia и Western Digital, у которых продажи зафиксированы в объёме $325,7 млн и $133,0 млн соответственно, что соответствует 8,7 % и 3,6 % рынка. У Kioxia продажи год к году поднялись на 50,1 %, у Western Digital — на 18,1 %.

Аналитики полагают, что во II квартале текущего года продажи SSD корпоративного класса увеличатся более чем на 20 %. Это приведёт к росту стоимости данной продукции примерно на 20 % и к сопоставимому увеличению объёма отрасли в денежном выражении.

Компания TrendFocus, по сообщению StorageNewsletter, обнародовала результаты исследования глобальной отрасли SSD в I четверти 2024 года. Рынок показал смешанные результаты: несмотря на то, что отгрузки накопителей сократились в штучном выражении, их суммарная вместимость увеличилась.

С января по март включительно в мире было реализовано около 83,789 млн SSD. Это на 5,1 % меньше по сравнению с IV кварталом 2023 года. Общая ёмкость реализованных устройств поднялась в квартальном исчислении на 6,5 % — до 90,866 Эбайт.

Источник изображения: TrendFocus / StorageNewsletter

В рейтинге ведущих поставщиков SSD продолжает лидировать Samsung с долей 31,3 % по итогам I четверти 2024-го. На втором месте располагается Western Digital с 18,5 %, на третьем — SK hynix с 10,3 %. Если рассматривать отрасль с точки зрения общей вместимости поставленных накопителей, то у Samsung доля равна 36,8 %. Далее в рейтинге располагается Western Digital с 15,1 %, а замыкает тройку Solidigm с 14,8 %.

Объём отгрузок SSD корпоративного класса с интерфейсом PCle резко возрос, увеличившись на 50,0 % в квартальном исчислении — до 8,078 млн штук. Их общая вместимость поднялась на 45,5 %, достигнув 33,709 Эбайт.

Поставки накопителей SAS в штуках сократились на 19,9 % — до 0,751 млн единиц, тогда как в ёмкостном выражении падение зафиксировано на отметке 5,6 % — до 3,027 Эбайт. В сегменте корпоративных SSD с интерфейсом SATA, напротив, зарегистрирован рост: отгрузки поднялись на 2,1 %, составив 3,638 млн единиц. Общая ёмкость таких устройств показала прибавку в квартальном исчислении на 3,7 % — до 5,123 Эбайт.

В клиентском сегменте поставки SSD уменьшились квартал к кварталу на 9,5 % — до 65,649 млн единиц. В ёмкостном плане падение составило 11,5 %, а итоговый результат — 43,671 Эбайт.

Phison представила собственный бренд SSD корпоративного класса PASCARI, который включает сразу несколько различных серий: X, AI, D, S и B. Новинки представлены в форм-факторах E1.S, E3.S, U.3/U.2, M.2 2280/22110 и SFF 2,5″ и наделены интерфейсами SATA-3 и PCIe 4.0/5.0.

Наиболее интересна серия AI (или aiDAPTIVCache), которая фактически является частью программно-аппаратного комплекса aiDAPTIV+. Пока упоминается только один M.2 SSD — AI100E. Это сверхбыстрые и сверхнадёжные 2-Тбайт NVMe-накопители на базе SLC NAND (вероятно, всё же eSLC) с DWPD, равным 100 на протяжении трёх или пяти лет (в материалах указаны разные сроки). Аналогичные накопители, хотя и в более крупном форм-факторе, предлагают Micron и Solidigm, а Kioxia в прошлом году анонсировала накопители на базе XL-Flash второго поколения с MLC NAND.

Во всех случаях, по сути, речь идёт об SCM (Storage Class Memory). Наиболее ярким представителем данной категории была почившая серия продуктов Intel Optane. Phison переняла общую идею перестройки иерархии памяти, где SCM является ещё одним слоем между DRAM и массивом SSD, приложив её к задачам обучения ИИ. AI100E являются кеширующими накопителями, расширяющими доступную память. Программная прослойка aiDAPTIVLink общается с ускорителями NVIDIA и SSD с одной стороны и с PyTorch (также есть упоминание TensorFlow) — с другой.

Источник изображений: Phison

aiDAPTIVLink позволяет автоматически и прозрачно переносить на SSD неиспользуемые в текущий момент части обучаемой LLM и по необходимости отправлять их сначала в системную RAM, а потом и в память ускорителя, что и позволяет обходиться меньшим числом ускорителей при тренировке действительно больших моделей. Естественно, никакого чуда здесь не происходит, поскольку время обучения от этого нисколько не сокращается, но с другой стороны, обучение становится в принципе возможным на системах с малым количеством ускорителей или просто с относительно слабыми GPU и относительно небольшим же объёмом системной RAM.

Среди уже поддерживаемых моделей упомянуты некоторые LLM семейств Llama, Mistral, ResNet и т.д. Для них, как заявляется, не нужны никакие модификации для работы с aiDAPTIV+. Также упомянута возможность горизонтального масштабирования при использовании данной технологии. Точные характеристики AI100E компания не приводит, но это и не так существенно, поскольку напрямую продавать эти накопители она не собирается. Вместо этого они будут предлагаться в составе готовых и полностью укомплектованных рабочих станций или серверов.

Семейство PASCARI X включает сразу четыре серии накопителей. Так, X200E (DWPD 3) и X200P (DWPD 1) — это двухпортовые накопители на базе TLC NAND с интерфейсом PCIe 5.0 x4, представленные в форм-факторах U.2 и E3.S. Пиковые скорости последовательного чтения и записи составляют 14,8 Гбайт/с и 8,35 Гбайт/с соответственно. На случайных операциях с 4K-блоками производительность чтения достигает 3 млн IOPS, а записи — 900 тыс. IOPS у X200E и 500 тыс. IOPS у X200P. Здесь и далее даны только крайние показатели в рамках серии, а не отдельного накопителя.

Ёмкость X200E составляет 1,6–12,8 Тбайт, но также готовится 25,6-Тбайт U.2-версия. У X200P диапазон ёмкостей простирается от 1,92 Тбайт до 15,36 Тбайт, но опять-таки будет 30,72-Тбайт вариант в U.2-исполнении. Отмечается поддержка MF-QoS (QoS для различных нагрузок), поддержка 64 пространств имён, MTBF на уровне 2,5 млн часов, сквозная защита целостности передаваемых данных, улучшенная защита от потери питания и т.д.

У X100E (DWPD 3) и X200P (DWPD 1) среди возможностей дополнительно упомянуты поддержка TCG Opal 2.0, NVMe-MI, шифрования AES-256, безопасной очистки и т.д. От X200 эти накопители отличаются в первую очередь интерфейсом PCIe 4.0 x4 (возможны два порта x2). Выпускаются они только в форм-факторе U.3/U.2. X100E предлагают ёмкость от 1,6 Тбайт до 25,6 Тбайт, а X100P — от 1,92 Тбайт до 30,72 Тбайт. Пиковые скорости последовательного чтения и записи в обоих случаях достигают 7 Гбайт/с. Произвольное чтение 4K-блоками — до 1,7 млн IOPS, а вот запись у X100E упирается в 480 тыс. IOPS, тогда как у X100P и вовсе не превышает 190 тыс. IOPS.

В семейство PASCARI D входит всего одна серия компактных накопителей D100P на базе TLC NAND с интерфейсом PCIe 4.0 x4 (один порт, NVMe 1.4), представленная в форм-факторах M.2 2280 (от 480 Гбайт до 1,92 Тбайт), M.2 22110 (от 480 Гбайт до 3,84 Тбайт) и E1.S (тоже от 480 Гбайт до 1,92 Тбайт). Производительность M.2-вариантов составляет до 6 Гбайт/с и 2 Гбайт/с на последовательных операциях чтения и записи, а на случайных — до 800 тыс. IOPS и 60 тыс. IOPS соответственно. E1.S-версия чуть быстрее в чтении — до 6,8 Гбайт/с. Надёжность — 1 DWPD. Среди особенностей вендор выделяет сквозную защиту целостности данных, LPDC-движок четвёртого поколения, поддержку NVMe-MI и т.п.

PASCARI B включает серию загрузочных накопителей B100P: M.2 2280 (будет и 22110), TLC NAND, PCIe 4.0 x4, 1 DWPD и те же функции, что у D100P. Доступны только накопители ёмкостью 480 Гбайт и 960 Гбайт. Скоростные характеристики относительно скромны. Последовательные чтение и запись не превышают 5 Гбайт/с и 700 Мбайт/с, а произвольные — 450 тыс. IOPS и 30 тыс. IOPS. Также к PASCARI B принадлежит серия BA50P: SATA-накопители в форм-факторах M.2 2280 и SFF 2,5″ на базе TLC NAND с DWPD 1 и ёмкостью 240/480/960 Гбайт. Скорости чтения/записи не превышают 530/500 Мбайт/с при последовательном доступе, и 90/20 тыс. IOPS при случайном доступе 4K-блоками.

Наконец, семейство PASCARI S представлено тремя сериями SFF-накопителей (2,5″) с TLC-памятью и интерфейсом SATA-3, отличающихся в первую очередь опять-таки показателем надёжности: SA50E (3 DWPD), SA50P (1 DWPD) и SA50E (>0,4 DWPD). SA50E имеют ёмкость от 480 Гбайт до 3,84 Тбайт, SA50P — от 480 Гбайт до 7,68 Тбайт, а SA50E — от 1,92 Тбайт до 15,36 Тбайт. Отличаются и максимальные скорости произвольного чтения/записи 4K-блоками: 98/60 тыс., 98/40 тыс. и 97/20 тыс. IOPS соответственно. А вот последовательные чтение и запись естественным образом ограничены самим интерфейсом, т.е. не превышают 530 Мбайт/с и 500 Мбайт/с соответственно. В описании упомянуты сквозная защита целостности данных, LPDC-движок и улучшенная защита от потери питания.

Для вообще всех накопителей заявленный диапазон рабочих температур простирается от 0 до 70 °C. А вот срок гарантии не указан, так что показатели DWPD теряют смысл. Кроме того, Phison практически для каждой серии говорит о возможности кастомизации. Например, для X100 предлагаются услуги IMAGIN+.