Аналитическая компания Trendforce сообщила прогноз развития рынка DRAM в 2023 году, согласно которому память для серверов обгонит чипы памяти для мобильных устройств по доле в общем выпуске DRAM. По данным Trendforce, во второй половине 2022 года рынок памяти находился в состоянии свободного падения: в III квартале средние цены на DRAM снизились на 31 %, в IV квартале — ещё на 34 %.

В этом году Trendforce даёт консервативный прогноз относительно роста поставок смартфонов и увеличения объёма DRAM в них. Рост среднего установленного объёма памяти DRAM в смартфонах, который начал заметно замедляться ещё в 2022 году, станет более ограниченным, а мобильная DRAM будет виновником сокращения доли всего рынка DRAM, отметили аналитики. Причиной аналитики называют образовавшиеся складские запасы, что повлияло на аппаратные спецификации разрабатываемых смартфонов. TrendForce ожидает, что в ближайшие годы прирост среднего объёма DRAM в смартфонах будет ниже 10 % год к году.

Источник: Trendforce

А вот на серверном рынке ситуация иная. Появление новых приложений, связанных с ИИ и высокопроизводительными вычислениями (HPC), влечёт за собой потребность в большем объёме памяти. Поэтому TrendForce полагает, что серверная память будет составлять наибольшую часть общего объёма производства на рынке DRAM в течение следующих нескольких лет. TrendForce также отметила, что память DRAM для серверов обладает определённой степенью эластичности по цене, которая меняется в соответствии со спросом, а контрактные цены на неё значительно снизились с III квартала 2022 года.

TrendForce прогнозирует, что средний установленный объём DRAM в серверах увеличится в этом году на 12,1 % в годовом исчислении. По оценкам TrendForce, серверная память в этом году займёт около 37,6 % рынка, тогда как мобильная DRAM— около 36,8 %. То есть серверная DRAM обгонит мобильную DRAM.

TrendForce также считает, что к 2025 году SSD корпоративного класса будут представлять самый большой сегмент рынка флеш-памяти NAND. Снижение цен стимулировало спрос на неё со стороны производителей смартфонов и серверов, утверждает компания. В связи с этим рост установленного объёма флеш-памяти NAND на одно устройство должен превысить 20 % как для смартфонов, так и для корпоративных твердотельных накопителей.

Сокращение дистанции между вычислительными ресурсами и ресурсами памяти породило ряд технологий, включая различные варианты «умной» DRAM, однако компания Macronix, поставщик NOR- и NAND-устройств, видит проблему иначе и предлагает перенести ряд вычислений непосредственно в специальную разновидность флеш-памяти.

С растущими объёмами данных в ряде современных сценариев, включая машинное обучение, системы не всегда могут «прокормить» вычислительные ядра, так что Macronix предлагает производить первичную обработку данных прямо во флеш-памяти. И такую память под названием FortiX Macronix представила на мероприятии Flash Memory Summit 2022.

Источник: Blocks & Files

В данном случае речь не о классическом «вычислительном накопителе», в котором используется достаточно мощный контроллер с процессорными ядрами общего назначения или сразу FPGA. Сама структура NAND-чипов Fortix включает в себя специализированные структуры nvTCAM (non-volatile ternary content-addressable memory).

Она может выполнять достаточно узкоспециализированные вычисления, в частности, поиск по ключевым словам, и определение расстояния Хэмминга. Она работает не так быстро, как аналогичные запросы к классической DRAM, но это без учёта накладных расходов на транспортировку данных с флеш-накопителя в память и выполнение соответствующих функций с участием центрального процессора.

Источник: Blocks & Files

В случае с FortiX флеш-память выполняет эти задачи сама, чем экономит пропускную способность и электроэнергию. В сравнении с DRAM накопитель на базе памяти FortiX может выигрывать в некоторых аспектах, предлагая плотность упаковки от 64 Гбит на чип против 8–16 у DRAM, а также потребляя около 330 мВт против примерно 1 Вт. Правда, скорость поиска на порядок ниже, зато число запросов на порядок больше, утверждает Macronix.

Компания называет областью применения FortiX различные задачи машинного интеллекта — распознавание паттернов и голоса, поиск в крупных (Big Data) массивах данных, поиск совпадения в ДНК. Подробностей о строении вычислительной части FortiX компания не приводит и некоторые зарубежные источники считают, что речь может идти о разных комбинациях NAND и специфических, настроенных под определенную задачу, обработчиках запросов.

Технология X-NAND, впервые представленная компанией NEO Semiconductor летом прошлого года, вызвала немалый интерес, поскольку она обещает нивелировать основные недостатки, свойственные флеш-памяти с тремя и более битами на ячейку: пониженный ресурс и низкую скорость записи.

Благодаря использованию унифицированного буфера, способного одновременно обслуживать 16 столбцов (Y-Plane) и ряда других хитростей, разработчикам удалось добиться превосходства QLC X-NAND даже над классической SLC. По крайней мере, в теории. На практике компания использовала четыре слоя по 16 Y-столбцов, что позволяло писать в трёх плоскостях в SLC-режиме, четвёртая же использовалась для параллельного перевода записываемых данных в TLC-режим. Это позволило добиться постоянной скорости записи 1600 Мбайт/с — в 10 раз выше, нежели у обычного чипа TLC.

Структура кристалла X-NAND. Источник: NEO Semiconductor

А совсем недавно было анонсировано новое, второе поколение X-NAND. Для него заявлен двукратный прирост производительности и устроены новые чипы NEO Semiconductor несколько иначе в плане параллелизма: теперь SLC-запись и TLC-уплотнение производятся в каждой паре плоскостей из четырёх имеющихся. Это и позволило поднять скорость записи вдвое, до 3200 Мбайт/с. Разработчики также сообщают о примерно трёхкратном приросте скоростей чтения/записи на случайных операциях и о некотором снижении латентности; при этом размер кристалла X-NAND второго поколения не изменился.

Параллелизация SLC-записи и QLC-уплотнения решает проблему скорости. Источник: NEO Semiconductor

Архитектура поддерживает реализацию вариантов флеш-памяти с практически любым разумным количеством бит на ячейку, от SLC до PLC, технология же позволяет развернуть производство X-NAND на базе техпроцессов любого крупного поставщика NAND-устройств. Если верить NEO Semiconductor, речь идёт о практически нулевых затратах на модернизацию производства под выпуск X-NAND. Увы, компания официально не сообщала, готов ли кто-то из крупных игроков развернуть массовый выпуск новой памяти.

Классическая архитектура NAND-памяти имеет свои пределы: по мере увеличения количества бит на ячейку падает и производительность, и надёжность. Компания NEO Semiconductor, о разработках которой мы рассказывали ранее, получила новые патенты на технологию X-NAND, позволяющую обойти ограничения традиционной флеш-памяти.

Даже переход от MLC к TLC вызвал в своё время множество нареканий, часть из которых удалось обойти переходом от планарной NAND к NAND с 3D-структурами. Но дальнейший рост плотности под вопросом: QLC-накопители не блещут производительностью, особенно при записи; а в случае с PLC ситуация ещё более обострится.

Цена многоячеечности в классической NAND-памяти

NEO Semiconductor предлагает решение, призванное избавить технологию NAND от основных её недостатков. Технология X-NAND позволит сделать QLC-память не только более производительной, нежели классическая SLC, но и более компактной с точки зрения расхода транзисторов и площади кристалла.

Архитектура страничного буфера классической флеш-памяти (слева) и X-NAND

Обычно с падением производительности многоячеечной NAND пытаются бороться увеличением числа одновременно программируемых столбцов (Y-Plane), но это ведёт к резкому росту объёма буферов записи — каждый «слой» требует собственного буфера. В архитектуре X-NAND, однако, один буфер может использоваться для параллельной работы с большим количеством линий, 16 и более. То есть при неизменном объёме буфера количество Y-Plane можно повысить в 16 и более раз, во столько же раз увеличивая и производительность за счёт параллелизма операций чтения и записи.

X-NAND позволит как уменьшить размер кристалла, так и увеличить производительность при прежней площади

Компания опубликовала достаточно подробную документацию, в которой разъясняется ряд нюансов, на которых базируется технология X-NAND. Так, программирование одновременно 16 ячеек с помощью одного страничного буфера достигается за счёт использования импульсов длительностью не более 10 мкс, что позволяет обойтись ёмкостью бит-линий без операций обновления (refresh), а заодно и существенно снизить энергопотребление. Также доступно краткое двухстраничное описание новой технологии.

Запись в SLC и перемещение в QLC в архитектуре X-NAND идут одновременно

NEO Semiconductor считает, что 16 Y-слоёв не предел: при 64 выигрыш в производительности при операциях записи и чтения может достигнуть 22 и 30 раз соответственно; узким местом станет пропускная способность самого интерфейса, а не возможности структур X-NAND. При этом надёжности разработчики тоже уделяют немало внимания: использование укороченных бит-линий позволяет снизить их ёмкость и повысить точность управления, что сделает достаточно надёжным даже пятибитный вариант (PLC).

Оценка преимуществ X-NAND при разном количестве бит на ячейку

Обойти чудовищное падение скорости при записи в технологии X-NAND позволяет возможность параллельного программирования ячеек: свежие данные всегда пишутся в SLC-ячейки, но одновременно с этим идёт процесс их перемещения в TLC/QLC/PLC-области. Таким образом, исключается основная проблема многоячеечных NAND-устройств, а именно сильное падение производительности записи при выходе за пределы SLC-кеша.

Переход на X-NAND позволит сделать QLC- и PLC-накопители быстрыми на всём объёме

Компания NEO Semiconductor уже получила два новых патента США за номерами 11056190 B2 и 11049579 B2, а значит, она намеревается продвигать технологию X-NAND всерьез, лицензируя её ведущим производителям NAND-устройств, таким как SK Hynix с Intel, Micron, Kioxia, Samsung, Western Digital. Если всё сложится удачно, такая память сможет совершить революцию в All-Flash СХД и наверняка заинтересует гиперскейлеров.

Флеш-память имеет свои достоинства, но также обладает рядом недостатков, поэтому крупные разработчики микроэлектроники активно работают над созданием и внедрением иных, лишённых недостатков NAND типов энергонезависимой памяти. Одной из разновидностей такой памяти является STT-MRAM (Spin-Transfer-Torque). На мероприятии IEEE International Devices Meeting 2020 корпорация IBM продемонстрировала новые чипы этого типа, произведённые с использованием 14-нм норм производства.

Базовая структура ячейки STT-MRAM. Информация хранится в MTJ-вентиле (версия Intel, 2018 год)

Термин STT-MRAM расшифровывается как «магниторезистивная память с записью с переносом спина электрона». В отличие от более традиционных технологий, значения в такой памяти хранятся за счёт магнитных моментов, а не электрического заряда. Скоростные характеристики STT-MRAM великолепны, но объёмы невелики — порядка гигабайт.

Одним из крупных разработчиков, занимающихся STT-MRAM, является IBM, которая ещё в 2018 году представила уникальный SSD с буфером на основе этой технологии вместо традиционной DRAM. На тот момент память типа MRAM имела ёмкость порядка 256 Мбит на чип и выпускалась с использованием 40-нм техпроцесса, а использование 22-нм норм и достижение ёмкости 1 Гбит на кристалл лишь обсуждались.

А уже в 2020 году компания представила новые SSD FlashCore с MRAM-буфером и продемонстрировала собственые рабочие микросхемы STT-MRAM, произведённые с использованием 14-нм техпроцесса. При этом удалось добиться очень высоких скоростных характеристик: если ранее шла речь о задержках в районе 6-7 мкс, то в случае с новыми чипами STT-MRAM речь идёт уже о 4-20 наносекундах, а это показатели уровня DRAM. Столь низкие скорости циклов записи делают новинки идеально походящими на роль рабочей памяти в компактных встраиваемых приложениях и в качестве «кеша последнего уровня».

Структура 14-нм «стопок» STT-MRAM в версии IBM 2020 года

IBM сообщает, что ей удалось преодолеть проблемы с реализацией магниторезистивных туннельных вентилей (MTJ) при малых размерах элемента, что ранее ограничивало STT-MRAM рамками 22-28-нм техпроцессов. Новая технология использует шаблон с вертикальным расположением MTJ-структур (высота 160 нм), он имеет ёмкость 2 Мбит. В нём удалось избавиться от паразитных наводок, за счёт чего задержки при записи удалось снизить до рекордных 4 нс. Компания также рассказала о новых продвинутых магнитных материалах, позволяющих создавать структуры со временем переключения 2 нс, что делает их идеальным выбором для различного рода энергонезависимых кешей.

Помимо STT-MRAM, IBM сообщила о развитии технологий памяти на основе фазового перехода. В перспективе они позволят создавать аналоговые энергонезависимые массивы памяти, способные точно хранить синаптический вес. Такая память будет идеальной для аналоговых инференс-систем и систем машинного обучения нового поколения. Более подробно о новинках можно прочесть в блоге IBM.

Флеш-память NAND используется сегодня везде, от портативных устройств до сверхпроизводительных корпоративных систем хранения данных. У технологии есть свои ограничения, к примеру, увеличение количества бит в ячейке NAND приводит к снижению производительности и надёжности. Компания NEO Semiconductor предлагает своё видение флеш-памяти нового поколения под названием X-NAND, сочетающее в себе высокую плотность хранения данных, свойственную QLC и производительность, характерную для SLC или MLC.

В классической архитектуре буферы занимают существенную часть кристалла

В своё время переход от MLC к TLC вызвал массу вопросов: да, повысить плотность хранения данных удалось на треть (три бита на ячейку вместо двух), однако это привело к необходимости использования восьми программирующих напряжений. Требования к точности работы контроллера возросли, а надёжность такой флеш-памяти, напротив, снизилась. Победить это удалось переходом от планарных технологий к 3D NAND. Но сейчас внедрение QLC и памяти с ещё более высоким числом бит на ячейку вызывает те же вопросы, ставшие ещё острее.

Внедрение более тонких техпроцессов в производстве флеш-памяти исчерпывает потенциал надёжности, достигнутый за счёт внедрения 3D NAND, и в памяти типа QLC количество циклов перезаписи падает вновь. Кроме того, производительность таких устройств часто оказывается ниже всякой критики, особенно на операциях записи. В накопителях потребительского класса такой провал компенсируется активным использованием части флеш-массива в режиме SLC, но для серьёзного применения такой подход не годится, поскольку не обеспечивает устоявшейся производительности в сценариях с постоянной нагрузкой.

X-NAND позволяет обойтись одним буфером, но в 16 раз увеличить степень параллелизма

Увеличить производительность многоячеечной NAND можно путём наращивания количества одновременно программируемых столбцов (Y-plane) — за счёт параллелизма скорость записи серьёзно повышается. Но каждый столбец требует собственного буфера записи (обычно объёмом 16 Кбайт на блок) и уже при 16 «слоях» размер кристалла такой флеш-памяти вырастает на 270%. При этом сама архитектура такова, что количество одновременно проводимых операций чтения или записи не может превышать количества буферов.

Компания NEO Semiconductor предлагает свой выход: в архитектуре X-NAND используется общий буфер. Его объём составляет те же 16 Кбайт на блок, однако на каждую страницу приходится лишь по 1 Кбайт, что позволяет избежать непрактичного «раздувания» кристалла. При этом за счёт параллелизма растёт и производительность: по заявлениям компании-разработчика, память QLC X-NAND в три раза быстрее обычной QLC на случайных операциях, а при линейной записи выигрыш составляет 14 раз.

Память QLC X-NAND может быть быстрее классической SLC NAND

В некоторых параметрах QLC X-NAND даже превосходит классическую SLC NAND, обычную служащую скоростным эталоном; особенно впечатляет скорость чтения: до 11 Гбайт/с на страницу проттив 1,6 Гбайт/с у SLC. При этом надёжность также выше: X-NAND за счёт параллелизма может не столь часто «тревожить» ячейки программирующими импульсами, меньше изнашивая их.

Сама технология, конечно, требует изменений в логике работы контроллера, однако физически адаптировать производство обычной NAND под X-NAND, как сообщает NEO Semiconductor, весьма просто: в самой структуре ячеек X-NAND изменений нет, и общий техпроцесс остаётся прежним. Следовательно, любой потенциальный партнёр компании, располагающий производством NAND, может легко опробовать технологию в действии без существенных денежных затрат.

Ещё в июле прошлого года Toshiba Memory Europe заявила о смене названия на KIOXIA Europe. Новое имя получили все подразделения, ранее действовавшие под брендом Toshiba Memory.

Осенью того же года, 1 октября, был объявлен запуск нового бренда и начало деятельности компании под новым именем. А совсем недавно название KIOXIA получило официальный статус.

История у Toshiba Memory, нынешней KIOXIA, очень богатая. Достаточно сказать, что именно этой компании мы обязаны торжеством флеш-накопителей сегодня и именно она стоит у истоков столь популярного устройства, как NAND-память. Изобрёл флеш-память японский профессор Фудзио Масуока (Fujio Masuoka), начавший свою карьеру в Toshiba ещё в 1971 году. Изначально он работал над созданием памяти DRAM и разработал чип ёмкостью 1 Мбит. Довольно быстро стало понятно, что обеспечить энергонезависимость полупроводниковых устройств памяти весьма непросто.

Профессор Масуока с блеском решил эту задачу: вместо того, чтобы обеспечивать энергонезависимость каждой бит-ячейки, он предложил эти ячейки группировать. Изначально детищем Масуока стала память NOR, но настоящий прорыв случился в 1987 году, когда профессор впервые представил миру новое запоминающее устройство под названием NAND. Он надеялся, что флеш-память заменит жёсткие диски — и, как мы видим, сегодня предсказание профессора сбывается.

Профессор Фудзио Масуока, изобретатель флеш-памяти

Теперь компания KIOXIA Europe GmbH (ранее известная под названием Toshiba Memory Europe GmbH) является европейским подразделением KIOXIA Corporation, ведущего мирового поставщика флеш-памяти и твердотельных накопителей (SSDs). KIOXIA разрабатывает и производит решения по хранению данных для бизнеса и домашних пользователей:

• Твердотельные накопители для корпоративных пользователей, центров обработки данных и клиентских устройств;
• Встроенную флеш-память для автомобилей, мобильных устройств, бытовой техники и промышленности;
• Продаваемые в розницу твердотельные накопители, карты SD и microSD, флеш-накопители USB, предназначенные для использования, например, в мобильных телефонах, игровых консолях, фотоаппаратах, планшетах, ноутбуках и обычных компьютерах.

Новое имя должно помочь компании в обновлении имиджа и становлении в качестве независимого производителя. Оно ведёт своё происхождение от двух слов, японского kioku (память) и греческого axia (ценность) — и действительно, в современном мире трудно переоценить значение флеш-памяти, которая используется буквально везде, от простейших устройств до огромных центров обработки данных.

Новый логотип KIOXIA имеет серебристый цвет, который должен символизировать надёжность и высочайшее качество продуктов, предлагаемых компанией. Основная палитра официальных цветов KIOXIA довольно яркая, помимо серебристого, она включает в себя голубой, пурпурный, светло-зелёный, оранжевый и жёлтый цвета. Это отражает разносторонность компании и её желание применять новые технологии на благо всего общества.

Для того, чтобы отпраздновать начало деятельности под новым именем, KIOXIA запустила кампанию #FutureMemories. Первым мероприятием в рамках этой программы стал проект TEZUKA2020, посвящённый легендарному мангаке Осаму Тэдзука (Osamu Tezuka). Впервые за 30 лет его работы будут перерисованы в новом качестве с использованием технологий искусственного интеллекта, использующих флеш-массивы производства KIOXIA. Это лишь первый из примеров того, как компания меняет мир к лучшему при помощи своих технологий.

Компании Winbond Electronics и Macronix International намерены в текущем году предложить новые продукты на основе флеш-памяти SLC NAND. Об этом сообщает ресурс DigiTimes, ссылаясь на отраслевые источники.

Технология SLC, или Single-Level Cell, предусматривает хранение только одного бита информации в одной ячейке. По сравнению с изделиями MLC (Multi-Level Cell) такие чипы обладают более высокими надёжностью и долговечностью.

Сообщается, что Winbond и Macronix намерены расширить ассортимент продуктов на базе SLC NAND для промышленного применения, а также для ряда нишевых областей.

Предполагается, что выпуск новых продуктов на базе технологии SLC NAND поможет компаниям повысить прибыль. К примеру, Winbond отмечает рост спроса на память NAND: в конце прошлого года на эти изделия пришлось около 9 % в общей выручке компании против 7 % в начале 2019 года.

Winbond рассчитывает на увеличение до 25% доли продукции для промышленного и автомобильного секторов. Отмечается, что в нынешнем году ожидается хороший спрос на высокоплотные чипы SLC NAND ёмкостью 512 Мбит и 1 Гбит.

Macronix, в свою очередь, наращивает выпуск SLC NAND, производимой по разработанному в компании техпроцесу 19 нм. Именно эти чипы должны помочь компании завоевать рынок промышленной памяти.

Компания SMART Modular Technologies анонсировала новые модули оперативной памяти Mini-DIMM DDR4-3200, рассчитанные на использование в коммерческой и промышленной сферах. Заказчики смогут выбирать между регистровой памятью с ECC и небуферизированной памятью.

Модули доступны в двух вариантах — ULP (Ultra Low Profile) и VLP (Very Low Profile). В первом случае высота составляет 17,78 мм, во втором — 18,75 мм.

Память может эксплуатироваться в широком температурном диапазоне — от минус 40 до плюс 85 градусов Цельсия. Опционально доступно нанесение покрытия для защиты от воздействия окружающей среды и повышения виброустойчивости.

Новые модули подходят для применения в устройствах промышленного класса, телекоммуникационном, а также в других системах, к которым предъявляются повышенные требования в плане рабочих температур и надёжности. Сведений о цене новых модулей DDR4-3200 Mini-DIMM пока нет.

Опытная партия памяти UPMEM была представлена летом прошлого года. Разработчик выпустил 8-Гбайт модули DDR4-2400 RDIMM (ECC), каждый из которых опирался на 4-Гбит микросхемы DRAM с 8 встроенными процессорами DPU (data processing unit). То есть каждый модуль такой памяти был вооружён 128 процессорами для первичной обработки данных прямо на кристаллах памяти.

Важно отметить, что память UPMEM полностью совместима с имеющимся оборудованием. Модификации требуют только некоторые программные библиотеки, но они не очень большие, всего несколько сотен строк кода. Зато потом штатные платформы на процессорах Intel Xeon могут получить многократный рост производительности и снижение итогового энергопотребления без увеличения объёма памяти.

Свежим пресс-релизом разработчик поделился бенчмарками работы системы с процессорами Intel Xeon на памяти UPMEM в приложении для анализа генома человека и при индексном поиске. Работа инструмента GATK (Genome Analysis Toolkit) для составления генетической карты и анализа отклонений на массиве памяти UPMEM прошла в 10 раз быстрее, чем на аналогичном по объёму массиве обычной памяти DDR4.

Поскольку фрагменты генома обрабатывались прямо в памяти, это привело к росту пропускной способности в 11 раз. Всё вместе сопровождалось снижением потребления в 6 раз в пересчёте на пропускную способность. При этом надо отметить, что модуль UPMEM потребляет в два раза больше энергии, чем обычный модуль памяти без встроенных процессоров.

Запуск индексного поиска также показал преимущество встроенной в память первичной обработки данных. На массиве памяти UPMEM запрос распараллеливался по всем чипам и там обрабатывался встроенными процессорами вместо того, чтобы загружать данные в центральный процессор и только там их обрабатывать. Как результат, задержки в обработке снизились в 35 раз, а пропускная способность выросла в 11 раз. Потребление при выполнении этой задачи оказалось также в 6 раз меньше, чем с использованием обычной памяти.

Результаты реальных тестов памяти UPMEM оказались несколько меньше теоретически обоснованных. Ранее разработчик заявлял о 10-кратном снижении потребления, тогда как на деле потребление снизилось в 6 раз. Но даже это выглядит превосходным результатом. При этом скорость работы приложений выросла на порядок, что окажет услугу учёным и человечеству при расшифровке генома и ускорит поиск информации удалёнными клиентами.