AMD анонсировала мощную рабочую станцию Threadripper Halo Station, предназначенную для локального использования ИИ-моделей, насчитывающих более чем 1 трлн параметров. В продажу новинка поступит в следующем году.
Как отмечает старший вице-президент и генеральный директор AMD по вычислительным и графическим решениям, на сегодняшний день Threadripper Halo Station — это самая мощная рабочая станция в мире. Она может использоваться, например, для локального запуска сотен ИИ-агентов.
В основу положен процессор Ryzen Threadripper PRO 9995WX (Shimada Peak): 96C/192T, 2,5/5,4 ГГц, L3-кеш 384 Мбайт. Может использоваться до 2 Тбайт DDR5. Стандартная конфигурация включает два ускорителя Instinct MI350P, каждый из которых несёт на борту 144 Гбайт HBM3E с 4096-бит шиной и пропускной способностью до 4 Тбайт/с.
Источник изображений: AMD
В максимальной комплектации могут быть задействованы четыре таких карты, что в сумме даст 576 Гбайт HBM3E. Применяется СЖО, которая охватывает независимо каждый из экземпляров Instinct, а также CPU. Отмечается, что агрегированная пропускная способность памяти GPU достигает 16 Тбайт/с, системной памяти — 410 Гбайт/с. Прочие технические характеристики на текущий момент не раскрываются.
Каждый из установленных ИИ-ускорителей потребляет до 600 Вт, тогда как показатель TDP процессора Ryzen Threadripper Pro 9995WX составляет 350 Вт. Таким образом, с учётом энергопотребления памяти, установленных накопителей, СЖО и прочих компонентов рабочая станция при максимальной нагрузке может требовать более 3 кВт.
Источник:
