AWS запускает EC2-инстансы G4 с ускорителями NVIDIA T4

 

Облачный сервис AWS (Amazon Web Services) анонсировал запуск инстансов на базе ИИ-процессоров NVIDIA последнего поколения, предназначенных для рабочих нагрузок с высокой интенсивностью или связанных с машинным обучением.

Эти задачи требуют применения значительных вычислительных ресурсов и только дополнительные мощности позволят ускорить их решение.

Напомним, что с запуском P3 в 2017 году AWS стал первым, кто представил инстансы, оптимизированные для треннинга машинному обучению в облаке, с мощными акселераторами NVIDIA V100 Tensor Core, что позволило клиентам сократить обучение сетей с нескольких дней до нескольких часов.

Новые инстансы G4 оснащены картами NVIDIA T4 последнего поколения, кастомными процессорами Intel Xeon Scalacble второго поколения (Cascade Lake), имеют пропускную способность сети до 100 Гбит/с и локальное хранилище NVMe ёмкостью до 1,8 Тбайт, что позволяет обеспечить наиболее экономически эффективные GPU-инстансы для процесса машинного обучения.

С вычислительной производительностью 65 Тфлопс со смешанной точностью инстансы G4 не только обеспечивают отличное сочетание цены и производительности для выполнения вычислительных задач, но также могут использоваться с минимальными затратами для небольших начальных учебных курсов по машинному обучению.

Для рабочих нагрузок машинного обучения можно запускать инстансы G4 с помощью Amazon SageMaker или AWS Deep Learning AMI, которые включают в себя такие среды машинного обучения, как TensorFlow, TensorRT, MXNet, PyTorch, Caffe2, CNTK и Chainer.

Инстансы G4 также будут поддерживать сервис Amazon Elastic Inference в ближайшие недели.

Для выполнения графических и потоковых приложений можно запускать инстансы G4 с Windows, Linux или AWS Marketplace AMI от NVIDIA с предустановленным программным обеспечением NVIDIA Quadro Virtual Workstation.

Инстансы G4 доступны в Восточном регионе США (Северная Вирджиния, Огайо), Западном регионе США (Орегон, Северная Калифорния), Европе (Франкфурт, Ирландия, Лондон) и Азиатско-Тихоокеанском регионе (Сеул и Токио). В других регионах это решение будет доступно в ближайшие месяцы. G4 доступны в виде инстансов по требованию, зарезервированных или спотовых.

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.

Источник:

Постоянный URL: https://servernews.ru/994538
Поделиться:  

Комментарии

Система Orphus