Китайская компания Dongfang Suanxin (Shanghai Oriental Compute Core Technology) объявила о разработке ИИ-ускорителя DF1000. Новинка выполнена полностью на отечественных компонентах, а вместо дорогостоящей памяти HBM применяется 3D DRAM.
Устройство использует концепцию «вычислений вблизи памяти» (Near-In-Memory Computing). Чип 3D DRAM имеет многослойную структуру, созданную с использованием технологии гибридного соединения: утверждается, что применённый подход позволяет уменьшить шаг интерконнекта с микрометрового до субмикрометрового уровня. В результате по сравнению с традиционными решениями количество сквозных межсоединений увеличивается в 10 раз. А это даёт возможность поднять пропускную способность памяти в пять раз при той же ёмкости. Таким образом, может быть сформирован аналог HBM.
Источник изображения: Dongfang Suanxin
Ускоритель DF1000 производится с применением 14-нм технологии. Пропускная способность при доступе к памяти заявлена на уровне 6,4 Тбайт/с, а масштабируемая пропускная способность интерконнекта — 900 Гбайт/с. Быстродействие на операциях ИИ достигает 520 Тфлопс в режиме BF16. Новинка подходит для обучения больших языковых моделей (LLM) и выполнения других ресурсоёмких задач. Аппаратная часть может быть переконфигурирована под определённую задачу, что повышает эффективность использования ресурсов.
Изделие DF100, согласно имеющимся данным, обеспечивает вдвое большую пропускную способность по сравнению с NVIDIA H100, и на 33 % превосходит по данному показателю ускоритель H200. Китайское решение демонстрирует быстродействие до 500 токенов/с при работе с моделью Llama3 70B.
В разработке также находится решение DF2000, которое Dongfang Suanxin планирует выпустить ближе к 2027 году. Оно обеспечит производительность до 1000 Тфлопс в режиме BF16, до 2000 Тфлопс в режиме FP8 и до 4000 Тфлопс в режиме FP4. Пропускная способность памяти составит до 15 Тбайт/с благодаря усовершенствованной архитектуре 3D DRAM, а интерконнекта — до 1600 Гбайт/с. Предусмотрено применение 14-нм техпроцесса.
На 2028 год намечен выход ускорителей DF3000, которые по вычислительной мощности превзойдут предшественников вдвое, обеспечивая 2000 Тфлопс на операциях BF16, 4000 Тфлопс в режиме FP8 и 8000 Тфлопс в режиме FP4. Пропускная способность памяти составит до 20 Тбайт/с, интерконнекта — до 3200 Гбайт/с.
Источник:
