Материалы по тегу: habana

09.04.2021 [02:30], Владимир Мироненко

SDSC Voyager — первый суперкомпьютер с ИИ-ускорителями Habana от Intel

Суперкомпьютерный центр Калифорнийского университета в Сан-Диего (SDSC) выбрал ИИ-ускорители Habana Labs для суперкомпьютера Voyager, разработка которого финансируется из средств Национального научного фонда США (NSF). На реализацию этого проекта NSF выделил грант в размере $5 млн. Habana Labs была приобретёна Intel в 2019 году.

Ожидается, что Voyager станет доступен для использования осенью этого года. Суперкомпьютер является специализированным ИИ-кластером, содержащим как обучающие серверы, так и инференес-серверы, основанные на чипах Gaudi и Goya от Habana Labs соответственно. Проект направлен на продвижение исследований искусственного интеллекта в широком спектре научных и технических областей.

Серверы будут подготовлены компанией Supermicro, технологическим партнёром Voyager:

  • Supermicro X12 Gaudi AI Training System — восемь OAM-модулей HL-205 в паре с двумя процессорами Intel Xeon Ice Lake-SP для обучения;
  • Supermicro SuperServer 4029GP-T с восемью картами Goya HL-100 PCIe в сочетании с двуями Intel Xeon Cascade Lake-SP для инференса.

Voyager будет использовать уникальные возможности подключения ускорителей Habana для эффективного масштабирования возможностей тренировки нейронных сетей. Voyager имеет 42 узла для обучения в восьми стойках (всего 336 ускорителей Gaudi) и выделенную сетевую стойку, которая объединяет все чипы Gaudi через 100GbE-порты RoCE, а также СХД и два инференс-сервера (16 ускорителей Goya).

Gaudi — единственный в отрасли ИИ-ускоритель, который имеет сразу 10 встроенных контроллеров 100GbE с поддержкой RoCE v2 (RDMA over Converged Ethernet), что обеспечивает гибкость масштабирования и позволяет избежать проблем с пропускной способностью.

В течение первых трёх лет эксплуатации система будет находиться на этапе тестирования. В этот период SDSC будет работать с исследовательскими группами в сферах астрономии, климатологии, химии, физики элементарных частиц и т. д., а также создавать документацию.

Постоянный URL: http://servernews.ru/1036920
02.12.2020 [13:06], Владимир Мироненко

ИИ-ускорители Habana Gaudi от Intel появились в облаке AWS

Генеральный директор AWS Энди Ясси (Andy Jassy) представил во вторник на мероприятии AWS re: Invent 2020 инстансы EC2 с использованием до восьми ИИ-ускорителей Habana Gaudi, способные обеспечит рост производительности до 40 % по сравнению с текущими инстансами EC2 на базе графических процессоров для рабочих нагрузок машинного обучения.

Ускорители Habana Gaudi специально разработаны для тренировки моделей глубокого обучения для рабочих нагрузок, включающих обработку естественного языка, обнаружение объектов, классификацию, системы рекомендаций и персонализации.

Назвав инстансы EC2 на основе Habana Gaudi «идеальными» для таких рабочих нагрузок, AWS заявила, что рост сложности моделей машинного обучения увеличивает время и стоимость обучения ИИ. «Заказчики продолжают искать способы снизить стоимость обучения, чтобы выполнять итерации чаще и улучшать качество своих моделей машинного обучения, — заявила AWS. — Инстансы EC2 на основе Gaudi предназначены для удовлетворения таких потребностей клиентов, обеспечивая экономическую эффективность при тренировке моделей машинного обучения».

При этом экземпляры EC2 на основе Gaudi изначально поддерживают популярные программные платформы, такие как TensorFlow и PyTorch. А с помощью пакета SynapseAI от Habana разработчики смогут легко создавать новые или переносить существующие обучающие модели с графических процессоров на ускорители Gaudi.

Intel приобрела Habana в 2019 году в рамках стратегии по расширению использования искусственного интеллекта, и чтобы расширить портфолио ИИ-ускорителей для облака и центров обработки данных — категории чипов, в которой доминирует NVIDIA. Intel заявила, что это приобретение поможет её переходу к поставкам нового класса систем с XPU, объединяющих процессоры и ускорители с различной компоновкой.

Постоянный URL: http://servernews.ru/1026833
25.03.2020 [07:21], Андрей Галадей

В Linux 5.7 ожидается улучшение поддержка ИИ-ускорителей Intel Habana

Стартап Habana Labs планирует улучшить драйверы для ряда своих ИИ-продуктов в будущем релизе Linux 5.7. Эта компания ранее разработала специализированные ИИ-ускорители Goya и Gaudi, которые, как утверждается, вчетверо превосходят традиционные GPU в задачах искусственного интеллекта.

После того, как компанию в прошлом году купила Intel, она продолжила работать в том же направлении, дорабатывая открытые драйверы. 

В Intel и Habana Labs пока не комментируют процесс разработки. Однако можно надеяться, что в будущем поддержка ИИ-ускорителей появится, учитывая длинный послужной список проектов Intel, где использовались open source наработки. Работа над драйверами для Linux стартовала в начале 2019 года, когда был запущен ускоритель Goya.

Отмечается, что в коде драйвера Habana Labs для ядра 5.7 уже есть улучшения MMU, оптимизации для будущей поддержки ASIC, новый интерфейс DebugFS, улучшенная поддержка HWMON sysfs с возможностью считывать показания датчиков, и так далее. А поддержка Gaudi запланирована в версиях 5.7 или 5.8.

Постоянный URL: http://servernews.ru/1006733
Система Orphus