В следующем году Tiny Corp намерена начать поставки высокопроизводительных контейнерных ИИ-систем Exabox стоимостью $10 млн, сообщает Phoronix. Компания известна разработками открытого ИИ-фрейворка Tinygrad, а также «суверенным» стеком драйверов для ИИ-ускорителей AMD и оборудования Tinybox. Точные характеристики оборудования пока не называются, но производитель рассчитывает, что новинка обеспечит лучшее соотношение производительности, объёма памяти и пропускной способности сети на доллар в своём классе.
Exabox представляет собой компактный суперкомпьютер в 20′ контейнере, со всей необходимой инфраструктурой, в том числе программной. Для начала эксплуатации потребуется «всего лишь» бетонное основание и подключение к электросети. Клиенты смогут масштабировать ИИ-инфраструктуру, объединяя контейнеры в единую систему. Готовятся «красный» и «зелёный» варианты на основе ИИ-ускорителей AMD и NVIDIA соответственно. Они получат 400G-интерконнект.
Разработчики считают, что при утилизации на уровне 50 % MFU (Model FLOPs Utilization) на обучение модели уровня китайской Kimi может уйти приблизительно 10 недель. Программный стек Tinyguard позволит использовать контейнер как единый ИИ-ускоритель, но никто не мешает использовать и, например, PyTorch. Первый Exabox планируется поставить во II или III квартале 2027 года, но предварительные заказы уже принимаются. За $100 тыс. возвратного депозита можно зарезервировать Exabox.
Источник изображения: Tiny Corp
Конечно, контейнерные ЦОД не являются уникальным предложением. Ещё в 2007 году Sun Mycrosystems представила аналогичную концепцию Blackbox. В целом модульные решения уже довольно давно стали частью мейнстрима. Так, Armada представила контейнерный ИИ ЦОД, LG разработала модульные ИИ ЦОД AI Box, а Crusoe представила периферийные дата-центры Crusoe Edge Zones на базе модулей Spark.
Источник:
