Прошедший на прошлой неделе в Париже международный саммит AI Action Summit, посвящённый вопросам развития ИИ, запомнится не только анонсом проекта ЕС InvestAI Initiative с бюджетом €200 млрд, призванного сократить отставание Европы от США и Китая в развитии ИИ, но и также созданием «Коалиции за устойчивый ИИ» (Coalition for Sustainable AI), в которую войдут ведущие компании рынка ИИ, в том числе операторы ЦОД, поставщики и разработчики микросхем.

Как сообщает Data Center Dynamics, коалиция объявила, что будет стремиться согласовывать разработку ИИ (как аппаратного, так и программного обеспечения) с экологическими аспектами. Новая коалиция входит в состав «Коалиции за цифровую экологическую устойчивость» (CODES), созданной в 2021 году. Основателями Coalition for Sustainable AI стали Франция, ООН и Международный союз электросвязи (ITU).

К новой коалиции присоединились операторы дата-центров Data4, Verne, EcoDataCenter, Equinix, Sepia Infrastructure и Telehouse, а также провайдеры облачных услуг OVHcloud и IBM. Также её членами стали NVIDIA с AMD и Schneider Electric, Philips, Eviden, Orange, Mistral. Примечательно, что среди участников нет ни одного гиперскейлера, равно как и американских разработчиков ИИ OpenAI и Anthropic. Зато есть многочисленные НПО и высшие учебные заведения, а также правительства Франции, Великобритании, Чили, Кипра, Дании, Финляндии, Германии, Индии, Италии, Кении, Южной Кореи, Марокко и Норвегии.

Источник изображения: Verne Global

Стремительное развитие инфраструктуры ИИ резко увеличило энергопотребление сектора ЦОД, и отрасль вынуждена использовать даже уголь для питания заметно возросших вычислительных мощностей, используемых для обучения всё более крупных ИИ-моделей, что подчёркивает актуальность вопросов защиты экологии при дальнейшем росте рынка ИИ.

В преддверии саммита президент Франции Эммануэль Макрон (Emmanuel Macron) объявил о французском ответе на американский ИИ-мегапроект Stargate с частными инвестициями на €109 млрд. Также Франция выразила готовность выделить на создание гигантского ИИ-кластера 1 ГВт атомной энергии.

Modern Hydrogen и Mesa Solutions объединились для создания необычного решения для питания дата-центров, которое предполагает выработку водорода из природного газа непосредственно на территории кампуса с ЦОД с последующим использованием водорода для генерации энергии, сообщает пресс-служба Mesa. Mesa займётся генераторами на водороде, а Modern Hydrogen будет отвечать за конверсию природного газа.

Предполагается, что операторы ЦОД получат три преимущества: они смогут развёртывать готовые модульные и масштабируемые решения, избежать проблем питания, связанных с внешними энергосетями, и использовать уже существующую для транспортировки природного газа инфраструктуру. Кроме того, среди операторов, по словам обеих компаний сейчас востребованы экологичные и низкоуглеродные источники питания.

Modern Hydrogen использует пиролиз для расщепления природного газа или биогаза на водород и углерод. Последний продаётся производителям асфальта. Для расщепления используется высокая температура, при этом в применении катализаторов нет необходимости, а сами установки явлются модульными и легко масштабируемыми. Modern Hydrogen спонсируется энергетическими компаниями NextEra Energy и National Grid.

Источник изображения: Mesa Solutions

В прошлом году Equinix и Microsoft установили водородные топливные элементы GeoPura в своих дублинских ЦОД, чтобы проверить возможность их использования в качестве основного источника энергии. Honda пошла по другому пути, задействовав б/у ячеек от автомобилей. Есть и множество других проектов, включая весьма масштабные. Впрочем, водородные источникаи питания пока остаются очень незрелой технологией. Для водорода отсутствует развитая цепочка поставок, поэтому многие эксперты уверены, что до его массового коммерческого применения пройдут годы, если не десятилетия.

По информации Международного энергетического агентства (IEA), в ближайшие три года миру потребуется много новых источников энергии, чтобы покрыть беспрецедентно быстро растущий спрос. Достичь этого будет непросто, свидетельствуют данные агентства.

В отчёте IEA речь идёт о текущем состоянии рынка электроэнергии и его вероятных изменениях в 2025–2027 гг. Прогнозируется, что миру нужно будет ещё 3,5 тыс. ТВт∙ч в следующие три года. Это значит, что с нынешнего дня по 2027 год в эксплуатацию нужно будет ежегодно вводить больше мощностей, чем потребляет за год, например, Япония. При этом Япония занимает пятое место по объёмам энергопотребления в мире, на неё приходится более 1000 ТВт∙ч ежегодно.

Большая доля новых мощностей будет вводиться в эксплуатацию на развивающихся рынках — именно они будут наращивать потребление электричества в ближайшие годы. Но потребление после периода относительной стагнации должно вырасти и в относительно развитых экономиках. Эта стагнация в последние годы была отчасти вызвана ростом эффективности технологий, в особенности повышением энергоэффективности.

Источник изображения: Nikola Johnny Mirkovic/unsplash.com

Конечно, эту тенденцию может изменить рынок ЦОД, но «виноваты» будут не только ИИ-системы и выросшие потребности в вычислениях. Так, в развивающихся экономиках вроде Индии стали использовать больше кондиционеров — во многом из-за изменения климата. А Евросоюз начинает наращивать использование тепловых насосов и электромобилей, да и дата-центры в регионе тоже ожидает взрывной рост. Всё это приведёт к росту производств, которым тоже понадобится энергия.

Конечно, для покрытия спроса постоянно ведётся поиск экобезопасных источников энергии для ЦОД и других проектов — от малых модульных реакторов (SMR) до повторного запуска старых АЭС. В IEA предполагают, что уже к 2027 году АЭС, ветряные и солнечные электростанции и ГЭС смогут закрыть до 95 % прогнозируемого спроса. Уже в 2025 году источники возобновляемой энергии должны обеспечить более трети мирового производства электричества, обогнав уголь в глобальном масштабе. В 2024 году это уже случилось в США, но с оговоркой — на местном рынке энергетики доминирует газ и, по-видимому, будет доминировать и далее.

Источник изображения: IEA

Тем не менее, даже в тех регионах мира, где скачок энергопотребления будет самым высоким — например, в КНР, на которую приходится более половины мирового спроса на электричество в 2024 году — в ближайшие годы источники возобновляемой энергии удовлетворят более 90 % спроса на электричество.

Если прогнозы агентства относительно возобновляемых источников энергии будут верны, в следующие три года мировые выбросы углекислого газа выйдут на плато, но изменения климата могут негативно сказаться на динамике использования возобновляемой энергии. Из-за разных факторов — от засух, зимних бурь в регионах, где их обычно не случалось, глобального потепления — цены на электричество стали весьма волатильными, что может помешать развитию новых источников.

Как сообщают в IEA, эти события в целом свидетельствуют о недостаточной гибкости системы по техническим, нормативным или договорным причинам. Так или иначе, миру предстоят годы интенсивной электрификации без гарантий того, что всё пройдёт гладко для мировой экономики.

Western Digital (WD) провела День инвестора в преддверии выделения Sandisk в отдельную компанию по выпуску NAND-накопителей, на котором представила планы по внедрению технологии магнитной записи с подогревом записывающего слоя носителя (HAMR), пишет ресурс Blocks & Files.

Выделение Sandisk в отдельный бизнес связано с тем, что цена акций WD не отражает её фактическую стоимость, отметил Blocks & Files. Предполагается, что в качестве независимой компании Sandisk будет иметь многомиллиардную оценку, что сулит прибыль текущим акционерам WD, которым будет предоставлено 0,33333 акции Sandisk за каждую принадлежащую им акцию WD.

Ирвинг Тан (Irving Tan), который в дальнейшем будет возглавлять производителя жёстких дисков WD, сообщил инвесторам, что с 2023 по 2028 год объём сгенерированных данных вырастет в 3 раза и составит 394 Збайт. Более половины этого объёма (59 %), будет приходиться на корпоративные ЦОД и публичное облако, 15 % — на периферийные площадки, а ещё 26 % — на конечные устройства, такие как ПК и ноутбуки.

Источник изображений: Western Digital

В основных и периферийных ЦОД в 2028 году, как ожидается, будет храниться 3043 Эбайт данных, причем большую часть из них — на Nearline HDD. Это связано с тем, что, по словам WD, корпоративные SSD будут продолжать стоить в шесть раз больше из расчёта за 1 Тбайт, чем диски Nearline, а стоимость приобретения составляет большую часть общих расходов на владение SSD и HDD за весь срок службы. Сообщается, что у SSD совокупная стоимость владения в 3,6 раза выше, чем у HDD, с учётом затрат на приобретение, энергопотребления и других расходов.

WD планирует обеспечить себе сильные позиции на рынке жёстких дисков благодаря выпуску дисков большей ёмкости с переходом на технологию HAMR. В настоящее время компания выпускает жёсткие диски на базе технологии энергосберегающей перпендикулярной магнитной записи (ePMR) второго поколения с использованием улучшенной черепичной записи UltraSMR (32 Тбайт) и традиционной записи CMR (26 Тбайт).

При этом WD использует в дисках 11 пластин, тогда как у Seagate есть 10-пластинные диски с HAMR и SMR на 32 Тбайт, а вскоре станут общедоступными 36-Тбайт HDD. Модели ёмкостью 40 Тбайт запланированы к выходу на конец этого года, а в 2026 году планируется выпускать уже 50-Тбайт диски. Это обеспечит Seagate преимущество в плотности записи и стоимости продукта. Toshiba сделала ставку на FC-MAMR (Flux Control Microwave Assisted Magnetic Recording), магнитную запись с микроволновой поддержкой с управляемым потоком, и пока предлагает накопители с десятью пластинами ёмкостью до 28 Тбайт (SMR).

WD раскрыла свои планы по выпуску HDD до 2030 года и на дальнейший период. Диски с технологией HAMR появятся в 2026 году — с обычной магнитной записью (CMR) ёмкостью 36 Тбайт и с черепичной (SMR) на 44 Тбайт. WD ожидает, что эти диски будут квалифицированы её клиентами среди провайдеров ЦОД к концу 2026 года, когда она начнёт их массовое производство. Компания планирует начать массовые поставки своих накопителей HAMR в I половине 2027 года.

WD также намерена начать выпуск дисков с записью CMR ёмкостью 80 Тбайт и дисков с SMR ёмкостью 100 Тбайт после 2030 года, а затем перейти к выпуску дисков с технологией магнитной записи с точечным подогревом (HDMR) ёмкостью более 100 Тбайт. Для сравнения — Pure Storage, которая уверена, после 2028 года SSD полностью вытеснят HDD из ЦОД, уже представила накопители ёмкостью 150 Тбайт, а теперь готовит и 300-Тбайт модули.

Компания заявила, что большая часть её капитальных затрат и бюджета выделяется на разработку дисков с технологией HAMR. Два клиента из числа гиперскейлеров уже начали тестирование таких дисков, пишет Tom's Hardware со ссылкой на заявление Тана. В свою очередь Seagate сообщила, что тестирование дисков с технологией HAMR заняло много лет. Аналитик Wedbush Мэтт Брайсон (Matt Bryson) подтвердил, что с первой попытки получить рабочий диск с HAMR проблематично.

В ассортименте корпорации Intel появились процессоры семейства Twin Lake, рассчитанные на применение в таких устройствах, как компьютеры небольшого форм-фактора и одноплатные изделия. По сути, чипы Twin Lake представляют собой обновление решений Alder Lake-N.

Сообщается, что вычислительные ядра Twin Lake базируются на архитектуре Gracemont, как и у Alder Lake-N, но по сравнению с прародителями имеют несколько более высокие частоты. Предусмотрен встроенный графический ускоритель Intel UHD Graphics. Показатель TDP в зависимости от модификации варьируется от 6 до 15 Вт.

Источник изображения: Intel

Конструкция Twin Lake включает исключительно энергоэффективные ядра E-Core, тогда как производительные ядра P-Core не предусмотрены. Таким образом, технология многопоточности не поддерживается. Объём кеш-памяти L3 у всех новинок составляет 6 Мбайт.

На сегодняшний день в семейство входят четыре чипа: Intel Core 3 Processor N355, Intel Core 3 Processor N350, Intel Processor N250 и Intel Processor N150. Первые два наделены восемью ядрами, два других — четырьмя. Максимальная частота в турбо-режиме достигает 3,9 ГГц (см. таблицу). Поддерживается работа с оперативной памятью DDR4-3200, DDR5-4800 и LPDDR5-4800, максимальный объём которой может достигать 16 Гбайт. Возможен вывод изображения через интерфейсы eDP 1.4b, DP 1.4, HDMI 2.1, MIPI-DSI 1.3. При производстве применяется технология Intel 7 (исполнение — FCBGA1264).

Источник изображения: wccftech.com

Сетевые источники отмечают, что с точки зрения реальной производительности процессоры семейства Twin Lake практически идентичны сопоставимым по характеристикам изделиям серии Alder Lake-N.

Компания Graid Technology сообщила о том, что её платформа SupremeRAID SE, предназначенная для формирования высокопроизводительных массивов NVMe RAID, теперь поддерживает работу с ускорителями семейства NVIDIA GeForce RTX 5000.

SupremeRAID — это программно-определяемое решение на базе GPU, предназначенное для обеспечения максимальной производительности SSD. Отмечается, что SupremeRAID SE позволяет формировать массивы RAID на 4–8 накопителях NVMe с высокой отказоустойчивостью, одновременно освобождая ресурсы CPU для других задач.

Платформу SupremeRAID SE можно использовать с такими ускорителями, как GeForce RTX 5090, GeForce RTX 5080, GeForce RTX 5070 Ti, GeForce RTX 5070 и GeForce RTX 5060. Решение ориентировано прежде всего на мощные рабочие станции, предназначенные для приложений ИИ, машинного обучения, 3D-рендеринга, редактирования видеоматериалов высокого разрешения и разработки игр. По заявлениям Graid Technology, программно-определяемый RAID обладает упрощённой настройкой, которая избавлена от сложностей, присущих традиционным аппаратным решениям RAID.

Источник изображения: Graid Technology

В целом, благодаря SupremeRAID SE можно задействовать имеющиеся мощности GPU для формирования высокопроизводительных и высокоустойчивых RAID-конфигураций: поддерживаются режимы RAID 0, 1, 10, 5. Говорится о совместимости с Windows Server 2011/2022 и Windows 11, а также с широким перечнем ОС на ядре Linux, включая AlmaLinux 8.8, CentOS 7.9/8.5, Fedora 40, openSUSE Leap 15.3 (Kernel 5.3), Oracle Linux 7.9/8.7/9.1, RHEL 7.9/8.8 и Ubuntu 24.04.0, а также с более ранними версиями указанных дистрибутивов.

Российский IT-сегмент нынче переживает непростые времена. Причинами этого являются напряжённая геополитическая ситуация в мире, санкционные ограничения со стороны западных стран, а также полная либо частичная приостановка деятельности на отечественном рынке многих иностранных высокотехнологичных компаний. Перечисленные факторы обернулись для бизнеса серьёзными трудностями, заставившими организации заняться перестройкой логистических цепочек и актуализацией продуктовых портфелей.

О масштабах произошедших изменений свидетельствуют проведённые OCS Distribution опросы игроков рынка, результаты которых были озвучены в рамках прошедшего в Москве технологического форума «IT-Ось 2025». Исследование проводилось летом 2024 года и охватило несколько сотен IT-дилеров и интеграторов из 26 городов РФ.

Серверное оборудование

В этом сегменте рынка наибольшую активность в прошедшем году продемонстрировали Центральный федеральный округ, Урал и Сибирь — регионы, ставшие лидерами индустрии центров обработки данных и столкнувшиеся со сложностями с приобретением оборудования для наращивания вычислительных мощностей. По данным OCS Distribution, в 2024 году Свердловская и Новосибирская области вошли в Топ-5 регионов с самыми высокими продажами серверов. При этом рост показателя в Свердловской области в натуральном выражении превысил 50 %.

Здесь и далее источник изображений: OCS Distribution / ocs.ru

Для удовлетворения спроса потребителей российские вендоры вынуждены были либо производить свою продукцию в третьих странах, либо закупать необходимые компоненты за границей. Оба варианта предполагают сложности и с оплатой услуг иностранных партнёров, и с логистикой.

Второй проблемой стало появление большого количества так называемых «серовозов». После 2022 года на рынке массово возникали небольшие компании, которые специализировались на поставках определённых видов оборудования. Они не имели складов, не оказывали бизнесу услуг вроде финансового плеча и потому могли предложить более привлекательную цену в сравнении с крупным дистрибьютором. Однако к низкой цене прилагалось отсутствие любых гарантий. Популярным стал сценарий, когда дилер или интегратор покупал у «серого» поставщика оборудование, а при получении обнаруживал, что оно не соответствует требованиям бизнес-заказчика. Дальше, обычно, техника уже перезаказывалась у дистрибьютора, и происходило это в режиме горящих сроков. Такое положение дел негативным образом сказалось на развитии серверного рынка в России.

Сетевое оборудование

Среди регионов о проблемах с приобретением коммуникационного оборудования чаще всего говорили Южный и Уральский федеральные округа, в которых задействованы большие производственные мощности. ЮФО в прошлом году демонстрировал самый высокий за последние пять лет рост промышленного производства (по данным Минэкономразвития). В I полугодии 2024 года объем инвестиций увеличился на 16 %. На Урале востребованность сетевого оборудования подогревается активным строительством дата-центров.

Согласно наблюдениям аналитиков OCS Distribution, в 2024 году сроки поставок многих популярных азиатских брендов сетевого оборудования увеличились. Производители опасались вторичных санкций, из-за чего у импортёров стали появляться проблемы с оплатой товаров и логистикой. Эти трудности носили внерегиональный характер. Если крупные дистрибьюторы к подобным сложностям готовились заранее и быстро адаптировались, то «серовозы» и другие игроки срывали сроки поставок.

Промышленное ПО

В этой сфере с трудностями в реализации проектов столкнулись индустриальные предприятия Сибирского федерального округа. Исследование показало, что крупные коммерческие заказчики в Сибири с трудом переходят на отечественные аналоги популярных IT-решений. В первую очередь дело в функциональных возможностях, к которым привыкли компании и которых им недостаёт в российском ПО.

Есть и ещё один интересный региональный нюанс. По наблюдениям OCS Distribution, организации из этого региона начинают внедрять новое промышленное ПО с отставанием в один-два года от центрально-российских предприятий. Они предпочитают сначала внимательно изучить опыт коллег из Москвы, а лишь потом — приобрести софт для себя. Вероятнее всего, сибирские предприятия будут активнее реализовывать программы импортозамещения в 2025–2026 гг.

В целом российский IT-рынок продемонстрировал высокую гибкость. Опрос показал, что поиск и приобретение большей части оборудования и софта происходили безболезненно для ИТ-дилеров и интеграторов. Так, 37 % респондентов вообще не заметили никаких сложностей с покупкой ПО для проектов бизнес-заказчиков. В свою очередь, 13 % игроков рынка приобретали ИТ-оборудование без каких-либо проблем.

С одной стороны, в этом помогли технические особенности софта. У многих компаний в 2023–2024 гг. не было острой необходимости приобретать новые продукты. Программное обеспечение имеет долгий жизненный цикл. При этом крупный бизнес часто приобретал бессрочные лицензии на иностранный софт. С другой стороны, стоит отметить усилия игроков IT-рынка. В последние годы во многих сегментах российские IT-компании представили собственные продукты. Также стоит упомянуть, что в России процветает внутренняя разработка.

Стабилизируется ситуация и с IT-оборудованием. В последние несколько лет в различных категориях аппаратного обеспечения растёт число отечественных аналогов популярных иностранных решений и новых разработок. Также появляются предложения от новых вендоров из дружественных стран.

Прогноз на 2025 год

Этап интенсивной перестройки российского IT-рынка вместе с «покупательскими метаниями» подошёл к концу. Крупные дистрибьюторы по-прежнему адаптируются под новые обстоятельства, но это уже происходит в рабочем режиме. «Мы видим, что рынок возвращается к традиционной проверенной модели работы — крупные дистрибьюторы поставляют для розничных игроков IT-оборудование и ПО, дилеры и интеграторы в свою очередь продают их бизнесу под проекты цифровизации и модернизации. Мелкие оптовые поставщики, появившиеся после 2022 года, частично сохранились на рынке. Они, как правило, обслуживают потребности небольших игроков в маленьких партиях», — отмечают в OCS Distribution.

Опрос показал, что 19 % респондентов ожидают от дистрибьюторов очень глубокого погружения в обслуживание и поддержку поставляемых решений. Это интересный тренд: после ухода иностранных брендов дистрибьюторы взяли на себя поддержку их решений. По этой причине на рынке не произошёл коллапс, и оборудование с ПО, пусть и с некоторыми трудностями, но продолжило работать после 2022 года.

Возвращение рынка к привычной модели работы — через дистрибьютора — будет снижать число «жалоб» на проблемы с приобретением IT-решений. Уже в этом году даже в сложных категориях вроде серверного оборудования у российских компаний будет складываться более позитивный покупательский опыт.

По сообщению ресурса CNX Software, в продажу поступил компьютер небольшого форм-фактора CWWK X86-P6, который может выполнять функции NAS. В основу новинки легла аппаратная платформа Intel Twin Lake. Устройство уже доступно для заказа по цене от $200 в виде barebone-версии.

В зависимости от модификации устанавливается чип Intel Core 3 Processor N355 (восемь ядер; до 3,9 ГГц; 15 Вт) или Intel Processor N150 (четыре ядра; до 3,6 ГГц; 6 Вт). Эти изделия содержат ускоритель Intel Graphics с частотой до 1,35 ГГц и 1 ГГц соответственно. Объём оперативной памяти DDR5-4800 может достигать 48 Гбайт (один слот SO-DIMM).

Компьютер располагает четырьмя разъёмами M.2 M-key 2280 (PCIe 3.0 x1) для NVMe SSD. При необходимости к этим коннекторам могут быть подключены специализированные ИИ-модули. Кроме того, имеется разъём M.2 2230 для адаптера Wi-Fi 6/7 (заявлена совместимость с Intel AX210/BE200). Устройство оборудовано двумя сетевыми портами 2.5GbE RJ45 (контроллер Intel I226V), двумя портами USB 3.2 Gen2, а также двумя выходами HDMI 2.0 с возможностью вывода изображения в формате до 4Kp60.

Источник изображения: CNX Software

Устройство заключено в корпус из алюминиевого сплава с размерами 100 × 100 × 58,5 мм. Ребристая верхняя часть выполняет функции радиатора для отвода тепла, причём на ней имеются четыре монтажных отверстия для крепления внешнего вентилятора. Диапазон рабочих температур простирается от −10 до +75 °C. Питание (12 В / 5 A) подаётся через DC-коннектор. Весит новинка примерно 1,2 кг. На компьютер устанавливается Windows 11.

В сентябре 2024 года компания NetApp анонсировала высокопроизводительные СХД ASA A1K, ASA A90 и ASA A70 типа All-Flash, оптимизированные для блочного хранения. А теперь дебютировали модели ASA A20, ASA A30 и ASA A50, относящиеся к начальному и среднему уровням.

Устройства также предназначены для блочного хранения. Применяется архитектура с двумя контроллерами в режиме «активный — активный», а доступность данных заявлена на уровне 99,9999 %.

Все новинки имеют стоечное исполнение 2U с 24 внутренними отсеками для SSD. Реализована 12-узловая конфигурация: максимальное количество накопителей у ASA A20, ASA A30 и ASA A50 составляет соответственно 720, 432 и 288. Это обеспечивает суммарную вместимость до 48, 29 и 19 Пбайт с учётом компрессии. Могут применяться NVMe SSD ёмкостью до 15,36 Тбайт.

Источник изображения: NetApp

Возможно использование до 32 портов Ethernet (вплоть до 100GbE). Доступны восемь слотов расширения PCIe. Говорится о поддержке NVMe/TCP, NVMe/FC, FC, iSCSI, а также платформ Windows Server, Linux, Oracle Solaris, AIX, HP-UX, VMware, macOS, ESX.

Позднее в текущем году NetApp предложит клиентам решение ONTAP Autonomous Ransomware Protection на базе искусственного интеллекта (ARP/AI) для блочных хранилищ. Кроме того, с целью снижения операционных рисков заказчиков NetApp запустит сервис обнаружения программ-вымогателей (Ransomware Detection Program). Если такое вторжение не удастся идентифицировать, NetApp поможет клиентам с восстановлением информации с помощью инструментов NetApp Professional Services без первоначальной оплаты. Стоимость новых СХД начинается с $25 тыс.

Компания SanDisk, которая вскоре станет независимой, отделившись от Western Digital, предложила способ многократного увеличения объёма памяти ИИ-ускорителей. Как сообщает ресурс ComputerBase.de, речь идёт о замене HBM (High Bandwidth Memory) на флеш-чипы с высокой пропускной способностью HBF (High Bandwidth Flash).

На первый взгляд, идея может показаться абсурдной, поскольку флеш-память NAND значительно медленнее DRAM, которая служит основой HBM. Но, по заявлениям SanDisk, архитектура HBF позволяет обойти ограничения, присущие традиционным NAND-изделиям, что сделает память нового типа пригодной для применения в ИИ-ускорителях. При этом HBF планируется использовать прежде всего для задач инференса, а не обучения моделей ИИ.

С каждым новым поколением HBM растёт объём памяти, которым оснащаются ИИ-карты: у современных ускорителей AMD и NVIDIA он достигает 192 Гбайт. Благодаря внедрению HBF компания SanDisk рассчитывает увеличить показатель в 8 или даже 16 раз при сопоставимой цене. Компания предлагает две схемы использования флеш-памяти с высокой пропускной способностью: одна предусматривает полную замену HBM на HBF, а другая — совмещение этих двух технологий.

Источник изображений: ComputerBase.de

В качестве примера SanDisk приводит GPU со 192 Гбайт памяти HBM, которая разделена на восемь стеков по 24 Гбайт. В случае HBF каждый такой стек сможет иметь ёмкость 512 Гбайт. Таким образом, при полной замене HBM ускоритель сможет нести на борту 4 Тбайт памяти: это позволит полностью загрузить большую языковую модель Frontier с 1,8 трлн параметров размером 3,6 Тбайт. В гибридной конфигурации можно, например, использовать связку стеков 2 × HBM плюс 6 × HBF, что в сумме даст 3120 Гбайт памяти.

Архитектура HBF предполагает монтаж кристаллов NAND друг над другом поверх логического кристалла. Вся эта связка располагается на интерпозере рядом с GPU, CPU, TPU или SoC — в зависимости от предназначения конечного изделия. Обычная флеш-память NAND приближается к DRAM по пропускной способности, но не может сравниться с ней по времени доступа. SanDisk предлагает решить проблему путём разделения HBF на массив областей с большим количеством линий данных: это позволит многократно увеличить скорость доступа.

SanDisk разработала архитектуру HBF в 2024 году под «влиянием ключевых игроков в области ИИ». В дальнейшие планы входят формирование технического консультативного совета, включающего партнёров и лидеров отрасли, и создание открытого стандарта. Впрочем, есть и другие методы увеличения объёма памяти ускорителей. Один из них — использование CXL-пулов.