Универсальный ИИ-фреймворк Meta* AITemplate позволит легко переключиться с ускорителей AMD на NVIDIA и наоборот

 

Компания Meta* заявила о запуске нового набора ИИ-инструментов — Python-фреймворка AITemplate (AIT). Новый фреймворк позволяет не только оптимизировать модели, но и поддерживает конвертацию с Python на C++, благодаря чему повышается итоговая производительность.

По данным портала Semiaccurate.com, новая платформа позволит быстрее исполнять код ускорителем NVIDIA A100 для моделей BERT и ResNet-50, в среднем — со скоростью от 2Х до 12Х в сравнении с PyTorch. В случае с AMD Instinct MI250 обеспечено ускорение в 1,5-2 раза, но даже это очень много, если речь идёт о масштабах компаний вроде Meta*.

 Источник изображения: Semiaccurate

Источник изображения: Semiaccurate

При этом Meta* полностью открыла исходный код AITemplate, который можно бесплатно загрузить здесь для дальнейшего свободного использования в соответствии с лицензией Apache 2.0. Для работы требуется CUDA 11.6 или ROCm 5.2.3. В дальнейшем Meta* намерена поддерживать 90-дневный релизный цикл.

 Источник изображения: Semiaccurate

Источник изображения: Semiaccurate

Отметим, что ещё в марте выяснилось, что Qualcomm предлагала Meta* стать основным покупателем первого серверного ИИ-чипа — Cloud AI 100. Взвесив возможности программного обеспечения, поставляемого с новым чипом, техногигант принял решение по-прежнему использовать уже применяемые ей аппаратные платформы. Теперь выяснилось, что у Meta* имеется универсальное решение, позволяющее эффективно использовать аппаратные решения как AMD, так и NVIDIA.


* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER. | Можете написать лучше? Мы всегда рады новым авторам.

Источники:

Постоянный URL: https://servernews.ru/1075256

Комментарии

Система Orphus