SK hynix опубликовала в журнале Nature Electronics статью, подготовленную совместно с исследователями из США, Сингапура и Южной Кореи, под названием «CPO для HPC и ИИ». В ней изложены планы по развитию интегрированной оптики (CPO) — технологии оптического интерконнекта следующего поколения, которая решает проблемы узких мест в передаче данных с точки зрения целостной системы, выходящей за рамки одной только памяти и охватывающей стойки целиком, пишет StorageReview.com.

По мере того как кластеры ИИ-систем масштабируются до тысяч GPU и стеков HBM, традиционные медные каналы связи достигают своих пределов, а более высокие скорости и большие расстояния приводят к увеличению энергопотребления, задержек и сложности передачи сигналов, отметила SK hynix.

Согласно исследованию SK hynix, производительность вычислительных систем растёт примерно в три раза каждые два года, в то время как пропускная способность интерконнекта за тот же период увеличивается примерно в 1,4 раза, что приводит к барьеру, который всё больше ограничивает перемещение данных между ИИ-системами. Даже если GPU будут становиться всё более быстрее, производительность ИИ-кластера не будет расти с той же скоростью, если данные не смогут достаточно быстро перемещаться между процессорами, памятью и ускорителями.

Источник изображений: SK hynix

CPO позволяет решить эту проблему, размещая оптические трансиверы вблизи процессора или ускорителя на той же подложке. Преобразование высокоскоростных электрических сигналов в фотонные каналы, непосредственно прилегающие к вычислительному кремнию, минимизирует длину электрических дорожек, уменьшая паразитную ёмкость и затухание или искажение сигнала. Эта архитектура обеспечивает оптическую передачу с низкими потерями и высокой пропускной способностью по платам, стойкам и модулям, сохраняя при этом более высокую плотность полосы пропускания и улучшенную устойчивость к электромагнитным помехам.

Физическая упаковка накладывает ограничения на количество процессоров и модулей памяти, которые можно разместить на одной подложке. Оптическая связь предлагает возможность их физического разделения, позволяя им при этом работать как часть гораздо более крупной вычислительной системы.

Концептуальная схема оптико-ориентированной архитектуры напрямую соединяет пулы вычислительных ресурсов (XPU) и пулы памяти посредством оптических сигналов с использованием интерпозера. Такой подход позволяет создавать дезагрегированные пулы общей памяти с низкой задержкой, где несколько вычислительных модулей могут получать доступ к общей ёмкости через оптическую объединительную плату без типичных для традиционных сетевых фабрик затрат на (де-)сериализацию, обеспечивая более гибкое перемещение данных на системном уровне и более быструю реакцию на растущий масштаб ИИ-моделей.

Как отметил ресурс The Korea Times, значение статьи в Nature Electronics заключается не только в определении CPO как потенциального решения, но и в определении целей для будущей ИИ-инфраструктуры. Исследователи предполагают, что в будущем системы будут обеспечивать пропускную способность более 100 Тбит/с на узел, потребляя менее 1 пДж/бит и поддерживая межчиповую задержку менее 10 нс. SK hynix также прогнозирует архитектурную эволюция от стандартных 2D-многочиповых модулей и интеграции 2.5D-кремниевых интерпозеров к 3D-гетерогенной стековой компоновке.

Кроме того, были указаны ключевые проблемы коммерциализации. Переход от демонстрации передовых вариантов упаковки к серийному производству оборудования сопряжён с рядом нерешенных инженерных проблем. Интеграция маломощных кремниевых фотонных устройств вместе с мощной логикой хоста требует сложной теплоизоляции и передовых микроканальных или иных систем прямого охлаждения упаковки.

Также отрасли необходимо разработать стандартизированные протоколы когерентности с низкой задержкой, способные координировать операции с оптически связанной памятью без дополнительных затрат на проприетарные решения. Надёжная коммерциализация потребует комплексного проектирования оборудования, охватывающего топологии кристаллов DRAM, специализированные контроллеры памяти, фотонные модули и гетерогенную упаковку подложек.

Статья также даёт представление о том, как SK hynix позиционирует себя на следующем этапе развития ИИ-инфраструктуры. Компания стала одним из главных бенефициаров бума генеративного ИИ благодаря HBM. Следующий этап требует, чтобы устройства памяти, контроллеры, оптические компоненты, процессоры и передовые технологии упаковки проектировались совместно, а не оптимизировались по отдельности. Именно поэтому исследователи делают акцент на «совместном проектировании». Нечто похожее уже разрабатывает Marvell, Lightmatter, Ayar Labs и другие вендоры. OCP также взялась за стандартизацию CPO, а группа гиперскейлеров сформировала альянс OCI MSA.

Компания Pine64, разрабатывающая одноплатные компьютеры с поддержкой Linux и другие продукты, сообщила о приостановке выпуска устройств. Причина — дефицит комплектующих, прежде всего чипов оперативной и флеш-памяти. Цены на эти компоненты продолжают расти, что создаёт производственные трудности и снижает рентабельность бизнеса.

В официальном заявлении Pine64 говорится, что из-за сформировавшейся нехватки изделий DRAM и eMMC выпуск новых устройств на Linux в ближайшее время не планируется. Будет ли производство возобновлено в обозримом будущем, зависит от цен на эти компоненты после середины 2027 года. При этом компания намерена продолжить поставки решений на базе микроконтроллеров.

«В целом, ситуация с Linux-устройствами не самая радужная, но в магазине PineStore по-прежнему доступны устройства на базе MCU — ассортимент таких продуктов в дальнейшем будет расширяться», — сказано в заявлении Pine64. Таким образом, купить оборудование Pine64 под управлением Linux будет невозможно после исчерпания оставшихся запасов. При этом компания продолжит реализацию таких товаров, как умные часы PineTime, блок питания PinePower и пр.

Источник изображения: Pine64

Между тем другие участники рынка на фоне дефицита чипов памяти вынуждены поднимать цены на свои продукты. В частности, значительно увеличилась стоимость популярных одноплатных компьютеров и вычислительных модулей Raspberry Pi: некоторые решения подорожали сразу на $150. Кроме того, NVIDIA подняла цены на модули Jetson — стоимость отдельных устройств подскочила вдвое. Вместе с тем продолжается стремительный рост цен на SSD корпоративного класса.

Спустя всего несколько дней после презентации совместно с SK hynix первых спецификаций стандарта High Bandwidth Flash (HBF), компания SanDisk объявила о завершении финального этапа проектирования (стадии tape-out) первого кристалла HBF, продемонстрировав его образец на слайде. Заодно компания сообщила подробности о своей стратегии роста и долговременной экономической модели.

В HBF используется многослойная архитектура NAND вместо DRAM с размещением её рядом с ускорителем, подобно HBM. HBF использует запатентованную технологию, которая помогает уменьшить напряжение и деформацию кристалла и улучшить теплопроводность, позволяя использовать многослойную структуру из 16 кристаллов для достижения целевой ёмкости и пропускной способности.

Источник изображений: SanDisk

Как сообщила SanDisk, первое поколение HBF нацелено на 512 Гбайт на один стек — 16 кристаллов по 256 Гбайт с общей пропускной способностью 1,6 Тбайт/с при чтении. SanDisk утверждает, что HBF обеспечивает в 8–16 раз большую ёмкость, чем HBM, при аналогичной стоимости и в упаковке, по размерам, высоте стека и энергопотреблению практически не уступающем HBM4. А поскольку это NAND-память, она энергонезависима.

Ожидается, что второе и третье поколение HBF обеспечат скорость чтения, превышающую 2 и 3,2 Тбайт/с соответственно, а ёмкость многослойной структуры достигнет 1 и 1,5 Тбайт на стек. При этом они будут потреблять соответственно в 0,8 и 0,64 раза меньше энергии, чем память первого поколения. Как сообщает StorageReview.com, в презентации SanDisk были чётко обозначены целевые рабочие нагрузки HBF: LLM с MoE-архитектурой, длинные контекстные окна и большие KV-кеши — всё с учётом предложений крупных клиентов в области облачных вычислений и ИИ.

В представленной презентации также указаны три варианта развёртывания памяти HBF в рамках одного XPU. Она может дополнять HBM, заполняя некоторые позиции в стеке вокруг xPU, или полностью заменять её, занимая аналогичную площадь. Либо же она будет хранить веса декодирования и KV-кеши, тогда как HBM (меньшего объёма) будет работать как кеш. Эта гибкость важнее, чем кажется на первый взгляд, поскольку позволяет использовать HBF, не требуя от производителя ускорителя отказа от HBM.

SanDisk показала результаты внутренних тестов генерации токенов для одного GPU c HBF, четырёх GPU с HBF и восемью GPU с HBM. На основе тестов компания сделала два заявления. Первое — о восьмикратном увеличении эффективности капитальных затрат исходя из минимальной конфигурации, необходимой для запуска модели: один GPU с HBF против восьми GPU с HBM. Второе — о двукратном увеличении эффективности GPU: четыре GPU с HBF выдают тот же объём токенов, что и восемь GPU с HBM.

HBF показывает результат, отличающийся от HBM с высокой пропускной способностью всего на 2,2 % при чтении весов для Llama 3.1 405B. Следует учесть, что речь идёт о предварительных данных самой SanDisk, где, например, не даны точные значения по скорости генерации токенов. Но в целом компания говорит о том, что увеличение объёма набортной памяти ускорителя в 8–16 раз при той же пропускной способности и примерно той же мощности, что у HBM, потребует меньшего количества ускорителей для хранения одной и той же модели, а сами ускорители будут тратить меньше времени на ожидание данных.

Как сообщает TrendForce со ссылкой на Mizuho Securities и Goldman Sachs, компания планирует выпустить первые образцы HBF в 2027 году, а массовое производство, как ожидается, начнётся в 2028 году. В Mizuho Securities полагают, что HBF вряд ли полностью заменит HBM, но позволит создавать дезагрегированные архитектуры для ИИ-инференса — консорциум HBF, куда входят Google, Meta✴, SK hynix и Tenstorrent, работает над развитием этого подхода.

TrendForce полагает, что в долгосрочной перспективе выиграет гибридная архитектура, где HBM будет использоваться для высокоскоростных вычислений, а HBF — для повышения плотности хранения. Такая иерархия памяти может стать ключевым фактором крупномасштабной коммерциализации ИИ.

Компания Gigabyte пополнила ассортимент ИИ-серверов моделью G4L4-ZD3-LAX7 в форм-факторе 4U. Устройство выполнено на аппаратной платформе AMD EPYC 9005 Turin в сочетании с NVIDIA HGX B300 (SXM).

Допускается установка двух процессоров EPYC в исполнении Socket SP5 (LGA 6096) с показателем TDP до 500 Вт. Доступны 24 слота для модулей оперативной памяти DDR5-6400, а также четыре слота PCIe 5.0 x16 для карт типоразмера FHHL. Питание обеспечивают десять блоков мощностью 3000 Вт с резервированием и сертификатом 80 PLUS Titanium.

Сервер располагает контроллером ASPEED AST2600, двумя сетевыми портами 10GbE на базе Intel X710-AT2, а также выделенным сетевым портом управления 1GbE. Могут быть реализованы восемь OSFP-портов InfiniBand XDR с пропускной способностью до 800 Гбит/с или сдвоенные 400GbE-порты на базе NVIDIA ConnectX-8 SuperNIC. Упомянута совместимость с DPU NVIDIA BlueField-3.

Во фронтальной части расположены восемь отсеков для SFF-накопителей с интерфейсом PCIe 5.0 (NVMe). Кроме того, есть два внутренних коннектора M.2 (2280/22110) для SSD с интерфейсами PCIe 3.0 x4 и PCIe 3.0 x1. Предусмотрены два фронтальных порта USB 3.0 Type-A, разъём D-Sub и три гнезда RJ45 для сетевых кабелей.

Источник изображения: Gigabyte

Применяется жидкостное охлаждение, которое охватывает все ключевые компоненты, в том числе CPU, GPU и RAM. Дополнительно установлены вентиляторы диаметром 60 мм в области материнской платы и 80 мм в зоне слотов PCIe. Диапазон рабочих температур — от +10 до +35 °C. Опционально доступен модуль TPM 2.0 для обеспечения безопасности.

Компания AAEON анонсировала одноплатный компьютер Pico-ADN2 в форм-факторе Pico-ITX (примерно 2,5″), предназначенный для использования в сфере промышленной автоматизации, на транспорте и пр. Устройство, как отмечается, спроектировано для работы в непредсказуемых условиях, когда велика вероятность сбоев в электроснабжении.

Новинка имеет размеры 100 × 72 мм. Возможно исполнение с 2-контактным разъёмом для внешнего суперконденсатора, выполняющего функции ИБП: его заряда хватит как минимум на 48 часов работы одноплатного компьютера. Ещё одной особенностью изделия является применение преимущественно фиксируемых штыревых разъёмов вместо привычных портов: это обеспечивает большую надёжность при эксплуатации в условиях сильной вибрации. Диапазон рабочих температур простирается от -20 до +70 °C.

Источник изображения: AAEON

В основу положена аппаратная платформа Intel Alder Lake-N. В зависимости от модификации применяется чип Intel Processor N97 (4C/4T; до 3,6 ГГц; 12 Вт) или Core i3-N305 (8C/8T; до 3,8 ГГц; 15 Вт). Имеется встроенный контроллер Intel UHD Graphics. Объём памяти LPDDR5 составляет 16 Гбайт (впаяна).

Допускается вывод изображения одновременно на три монитора через интерфейсы LVDS (1920 × 1200 точек; 60 Гц), eDP 1.4 (3840 × 2160 пикселей; 60 Гц; опционально) и HDMI 1.4 (3840 × 2160 точек; 30 Гц). Через разъёмы на плате могут быть задействованы два сетевых порта 1GbE (контроллеры Intel I226-IT и Realtek RTL8111H-CG), по два порта USB 3.0 и USB 2.0, два последовательных порта (RS-232/422/485). Реализованы полноразмерный слот mSATA/mPCIe для накопителя и коннектор M.2 2230 E-Key (PCIe 3.0 x1 + USB 2.0) для адаптера Wi-Fi. Допускается подключение вентилятора охлаждения через 4-контактный разъём. Заявлена совместимость с Windows 10/11 и Ubuntu 24.04.2.

Тайваньская компания Macronix в сотрудничестве с исследовательским центром IBM разработала так называемые двухуровневые SSD (Dual-Tier SSD), передаёт Blocks & Files. Идея заключается в том, что в одном устройстве объединяются высокопроизводительный слой на основе флеш-чипов SLC NAND и слой большой ёмкости на базе TLC NAND.

Система рассматривает каждый из уровней в составе Dual-Tier SSD в качестве отдельного NVMe-накопителя. За перераспределение данных между слоями отвечает специальное ПО. Так, наиболее часто используемая информация помещается в SLC-раздел, который обеспечивает высокие скорости записи и чтения, но имеет сравнительно небольшую вместимость. В свою очередь, «холодные» и «теплые» данные могут храниться в менее производительном, но более ёмком TLC-разделе.

Источник изображения: Blocks & Files

Благодаря гибкому управлению на основе собираемой статистики и анализа текущих нагрузок в Dual-Tier SSD достигается оптимальный баланс между производительностью, надёжностью и сроком службы чипов NAND. Кроме того, может осуществляться параллельное взаимодействие с разными слоями накопителя.

Рассматривается также возможность динамического перераспределения ёмкости между разными уровнями хранения в Dual-Tier SSD. В этом случае в зависимости от текущей нагрузки часть ёмкости TLC NAND может быть использована в режиме pseudo-SLC (pSLC) — такой подход уже применяется во множестве накопителей. Это даст дополнительную гибкость при работе с высоконагруженными приложениями — например, в области ИИ и НРС. Предполагается, что Dual-Tier SSD смогут заменить связку из традиционных HDD и SSD в платформах хранения IBM Storage Scale System.

Компания «Базальт СПО» представила продукт экосистемы «Альт» — специализированную программную платформу «Альт Оркестрация» (ALT Orchestra), предназначенную для организации Kubernetes-кластеров и построения контейнерной инфраструктуры.

«Альт Оркестрация» построена на базе Talos Linux и обладает атомарной архитектурой. Процесс обновления ОС реализован как единая неделимая операция. Это исключает риск получить частично обновлённую или неработоспособную систему, гарантирует, что состояние любой ноды в кластере всегда будет предсказуемым и соответствовать известному рабочему состоянию. В дистрибутив платформы включены только компоненты, библиотеки и службы, необходимые для Kubernetes-кластеров. Минимальный набор компонентов и отсутствие пакетного менеджера уменьшают потенциальные уязвимости.

Рабочее окружение платформы «Альт Оркестрация» (источник изображения: basealt.ru/alt-orchestra)

С целью обеспечения максимальной защиты от взлома и цифровых угроз в ОС «Альт Оркестрация» реализованы средства интеграции с аппаратным модулем TPM, функции шифрования дисков и безопасной загрузки платформы с запуском ПО, подписанного доверенным ключом. Управление системой осуществляется через API. Традиционный доступ через shell и SSH отсутствует.

Рабочее окружение платформы «Альт Оркестрация» (источник изображения: basealt.ru/alt-orchestra)

В числе потенциальных пользователей ОС «Альт Оркестрация» называются государственные предприятия и организации финансового сектора, которым необходимо решение для развёртывания приложений с высокими требованиями к доступности и безопасности, облачные провайдеры и хостинговые компании, а также DevOps-команды.

«Альт Оркестрация» зарегистрированная в реестре отечественного ПО. Физическим лицам право использования продукта предоставляется безвозмездно. Юридическим лицам, государственным, муниципальным органам и иным хозяйствующим субъектам для работы с системой необходимо приобретение соответствующей лицензии.

Российский разработчик инфраструктурного программного обеспечения «Группа Астра» вышел на рынок Юго-Восточной Азии. Входящая в структуру группы компания «Астра Консалтинг» и уполномоченный государственный орган Республики Союз Мьянма подписали контракт на создание в стране национальной системы «Единого окна».

На первом этапе платформа объединит информационные системы, государственных органов, участвующих во внешнеторговой деятельности Мьянмы, и обеспечит реализацию трёх ключевых функций: единая подача (Single Submission) — необходимые сведения предоставляются один раз через единую платформу; единая и синхронная обработка (Single and Synchronous Processing) — данные становятся доступны всем подключённым ведомствам и могут одновременно использоваться в рамках существующих процедур; единое решение (Single Decision) — результаты работы государственных органов объединяются для принятия согласованного решения при оформлении и выпуске товаров.

Источник изображения: Myanmar National Portal / myanmar.gov.mm

Система избавит участников внешнеэкономической деятельности от необходимости многократно предоставлять одни и те же документы в разные инстанции, что существенно ускорит таможенную очистку грузов. Создаваемая платформа изначально проектируется как масштабируемая: заложенные в архитектуру базовые компоненты позволят в дальнейшем разворачивать новые государственные сервисы без повторной разработки ключевых элементов.

Важной частью проекта станет интеграция с ASEAN Single Window — региональной системой электронного обмена торговыми документами между участниками Ассоциации государств Юго-Восточной Азии (АСЕАН). Это позволит Мьянме подключиться к единому цифровому пространству внешней торговли региона и обеспечить электронный обмен необходимыми торговыми и таможенными данными с другими странами АСЕАН.

Неооблачная компания CoreWeave объявила о заключении многолетнего стратегического соглашения с поставщиком решений для хранения данных для ИИ-инфраструктуры Solidigm о предоставлении приоритетного доступа к корпоративным SSD, поддерживающим её облачную ИИ-платформу. Соглашение призвано обеспечить масштабирование ёмкости хранения данных в соответствии с потребностями клиентов на интегрированной облачной ИИ-платформе CoreWeave.

Компания отметила, что хранилище стало критическим ограничивающим фактором при планировании мощностей. Поэтому она заключила прямое многолетнее соглашение с Solidigm, чтобы обеспечить приоритетное распределение ресурсов по мере ускорения внедрения ИИ на предприятиях и сокращения предложения хранилищ данных в отрасли.

«Это соглашение обеспечивает нам приоритетный доступ к накопителям, от которого зависят наши планы развития, позволяя клиентам сосредоточиться на том, что они создают, а не на инфраструктуре для этого», — заявил главный операционный директор CoreWeave.

Источник изображения: CoreWeave

Согласно прогнозу TrendForce, контрактные цены на флеш-память NAND вырастут в III квартале 2026 года по сравнению с текущим кварталом на 10–15 %. При этом цены на обычную DRAM вырастут на 13–18 %. Это не относится к предложению корпоративных SSD, улучшающемуся по мере того, как производители перенаправляют мощности из потребительского сегмента. Но TrendForce ожидает явного дефицита NAND-памяти в течение 2026 года, при этом существенное расширение мощностей маловероятно до конца 2027 или 2028 года.

По словам аналитиков, рост цен замедляется отчасти потому, что часть закупок теперь регулируется долгосрочными соглашениями о поставках. Долгосрочное соглашение заключается тогда, когда ограничивающим фактором является распределение отгрузок, а не цена. CoreWeave не пытается получить более дешевые SSD-накопители; она просто намерена быть первой в очереди за ними, отметил ServeTheHome. Ранее CoreWeave подписала с Backblaze пятилетнее соглашение стоимостью $335 млн на несколько Эбайт

Этот тренд наблюдается и в других сегментах рынка. Western Digital на прошлой неделе сообщила, что её долгосрочные соглашения на поставку жёстких дисков теперь действуют с 2029 по 2031 календарный год. Что касается предложения, SK hynix инвестирует ₩100 трлн в свои заводы в Чхонджу (Cheongju, Южная Корея) именно потому, что ИИ подтолкнул спрос на NAND-память к превышению над предложением.

SK Hynix и Sandisk представили первые спецификации высокоскоростной флеш-памяти (HBF), технологии хранения данных следующего поколения, разработкой которых они занимались с прошлого года. В феврале SK Hynix и Sandisk запустили проект по стандартизации HBF в рамках Open Compute Project (OCP). Google и Tensorrent уже присоединились к нему, и ожидается, что к ним подключатся и другие компании.

Теперь спецификации находятся в открытом доступе для любой компании, разрабатывающей системы ИИ-инференса или ускорители. Они охватывают до 512 Гбайт ёмкости на основе двух конфигураций стека с 8 и 16 слоями NAND с тремя уровнями пропускной способности (Класс 1–3) в пределах от 0,4 до 3,0 Тбайт/с. SK hynix отметила, что ключевым моментом является использование UCIe, это закладывает основу для гибкой интеграции технологии HBF в различные типы процессоров, включая GPU и CPU.

В документе определены интерфейс хоста xPU-HBF, электрические спецификации, базовые ожидания по производительности, рекомендации по надёжности и упаковке стека кристаллов HBF, а также руководство пользователя по ПО для операций чтения и записи. Компании разработали спецификацию таким образом, чтобы HBF мог сосуществовать с HBM в одной системе, а не заменять его, отметил ресурс StorageReview.com. Расчёт ёмкости такой же, что и при переносе KV-кеша на флеш-память: хранение контекста на более дешевом и плотном уровне увеличивает количество токенов и пользователей, которые может обслуживать каждый ускоритель.

Источник изображения: SK hynix

Sandisk и SK Hynix объявили свою стратегию: ранняя и открытая публикация в рамках OCP, чтобы позиционировать HBF как де-факто стандарт для рынка хранения данных для ИИ до того, как конкуренты создадут альтернативу. «Вычисления в ИИ создают новый набор требований к памяти, и технология HBF разработана для удовлетворения этих требований, — сообщила Sandisk, назвав спецификации важной вехой «для следующего поколения ИИ-систем, созданных для улучшения экономики токенов в масштабе».

«С быстрым распространением ИИ-приложений мы достигли точки, когда необходимо перепроектировать общие структуры обработки данных, — сказала SK hynix, — С помощью HBF SK hynix расширит границы между памятью и хранилищем и внесёт свой вклад в создание новых архитектур, повышающих общую эффективность системы».