Компания CoreWeave, специализирующаяся на облачных услугах для ИИ-задач, по сообщению ресурса Business Insider, объявила о намерении предоставлять в аренду устаревающие ускорители NVIDIA A100 как минимум до 2029 года. Связано это с огромным спросом на вычислительные мощности в дата-центрах, ориентированных на нейросетевые нагрузки.
Изделие NVIDIA A100 дебютировало ещё в 2020 году. Устройство предлагается в вариантах PCIe и SXM с 80 Гбайт памяти HBM2e с пропускной способностью до 1935 и 2039 Гбайт/с соответственно. Показатель TDP в первом случае составляет 300 Вт, во втором — 400 Вт. Заявленная производительность достигает 19,5 Тфлопс в режиме FP32 и 312 Тфлопс на операциях FP16.
Финансовый директор CoreWeave рассказал, что компания недавно подписала контракт о сдаче NVIDIA A100 в аренду до 2029-го. Иными словами, некоторые клиенты намерены использовать эти ускорители даже спустя девять лет после анонса. Впрочем, CoreWeave не одинока — AWS ранее тоже завила о том, что A100 по-прежнему раскупают.
Источник изображения: CoreWeave
Вместе с тем сегмент аппаратного обеспечения для ИИ стремительно развивается. Некоторые аналитики указывают, что быстрый прогресс NVIDIA может приводить к устареванию ИИ-чипов предыдущего поколения в течение двух–трёх лет в связи с появлением всё более производительных и совершенных решений. В такой ситуации компаниям, тратящим миллиарды долларов на развитие инфраструктуры ИИ, вероятно, придётся списывать эти инвестиции гораздо быстрее, что негативно скажется на прибыли.
С другой стороны, даже после появления новых ускорителей старые GPU могут оставаться полезными в течение длительного времени. В частности, их можно перепрофилировать для менее ресурсоёмких задач. В результате, эффективный срок службы ИИ-изделий может составлять 7–8 лет, если вопрос энергоэффективности не стоит.
Источник:
