AMD представила AMD Instinct MI455X — первый ускоритель, построенный на новой архитектуре AMD CDNA 5-го поколения и разработанный специально для стоечного решения AMD Helios, обеспечивая высокую производительность при обработке ИИ-нагрузок, включая ИИ-инференс, обучение и тонкую настройку. Созданный на базе комбинации 2-нм и 3-нм чиплетов, ускоритель имеет 432 Гбайт памяти HBM4 с пиковой пропускной способностью 23,3 Тбайт/с.
Вычислительные (XCD) чиплеты основаны на техпроцессе TSMC N2 — 2 нм с круговым затвором, — в то время как чиплеты FCD и MID используют техпроцесс N3P (3 нм FinFET). Упаковка объединяет 8 чиплетов XCD, 2 IOD и 2 FCD, а также 12 стеков HBM4, что в сумме составляет 320 млрд транзисторов. AMD Instinct MI455X поддерживает NUM до восьми NUMA-доменов. В режиме NPS1 адреса распределяются по 12 стекам HBM на двух чиплетах, а в профиле NPS2 адреса распределяются на два раздела по 6 стекам HBM без обмена данными между чиплетами.
Источник изображений: AMD
Четыре чиплета XCD размещены поверх каждого чиплета кеш-памяти (FCD) с использованием гибридного соединения. В свою очередь, два чиплета FCD соединены с шестью стеками HBM4, двумя чиплетами IO и друг с другом с помощью технологии CoWoS-L от TSMC. Каждый XCD включает по 32 активных процессора WGP (Work Group Processor), что в сумме составляет 256.
Чиплеты HBM4 соединены через 192-канальный интерфейс. Имеется 16 блоков кеша L2 по 16 Мбайт каждый, что в сумме составляет 192 Мбайт разделяемого кеша LLC. 16 линий AMD Infinity Fabric обеспечивает 256 Гбайт/с в двунаправленном режиме. Масштабирование в стойке обеспечивает 72 линии UALoE (3,6 Тбайт/с в двунаправленном режиме).
Согласно данным производителя, AMD Instinct MI455X обеспечивает 20 Пфлопс пиковой мощности в операциях MXFP6 и MXFP8, 40,3 Пфлопс пиковой мощности в операциях MXFP4. Также сообщается о поддержке типы данных FP4, FP6 и FP8. Для FP64-нагрузок будет представлена модификация MI430X
По сравнению с предыдущим поколением Instinct MI355X обеспечивает до 4 раз увеличение пиковой вычислительной мощности, до 2,9 раза увеличение пропускной способности памяти и 1,5-кратное увеличение ёмкости памяти. Благодаря этому обеспечивается увеличению пропускной способности токенов в 18 раз и до 34-кратного снижения стоимости токенов при использовании DeepSeek V4 Flash FP4, сообщил TechPowerUp.
Источник:
