Компания Supermicro анонсировала серверы SuperServer SYS-220GQ-TNAR+ и SuperServer SYS-220GP-TNR на базе Intel Xeon Ice Lake-SP и ускорителей NVIDIA. Устройства предназначены для высокопроизводительных вычислений (НРС), обработки алгоритмов искусственного интеллекта (ИИ) и решения различных облачных задач.

Обе модели выполнены в формате 2U. Они поддерживают установку двух процессоров Intel Xeon Scalable третьего поколения в исполнении Socket P+ (LGA-4189). Могут применяться чипы с показателем TDP до 270 Вт. Первая относится к решениям на платформе NVIDIA HGX A100 (Redstone). Вторая же является более универсальной, поскольку рассчитана на PCIe-ускорители, в том числе начального и среднего уровня.

Здесь и ниже изображения Supermicro

Первая модель — SuperServer SYS-220GQ-TNAR+ — наделена 32 слотами для модулей оперативной памяти DDR4-3200. GPU-часть представлена блоком из четырёх акселераторов NVIDIA A100 (80 Гбайт) с NVLink. Во фронтальной части предусмотрены четыре посадочных места для 2,5" накопителей с функцией «горячей» замены.

Присутствуют два сетевых порта 10GbE. Кроме того, возможна установка 200GbE-адаптеров NVIDIA ConnectX-6 с поддержкой GPUDirect RDMA (в соотношении 1:1 DPU:GPU). За питание отвечают два блока мощностью 3000 Вт каждый.

Модификация SuperServer SYS-220GP-TNR располагает 16 слотами для модулей ОЗУ. Могут применяться PCIe-акселераторы NVIDIA A100, A40 и RTX A6000. В лицевой части находятся 10 отсеков для накопителей стандарта 2,5". В оснащение входят два блока питания на 2600 Вт каждый.

На смену устаревшей серии GTX10 и дефицитной RTX30 пришли наследницы серии Quadro — GPU NVIDIA RTX A4000 и А5000 на базе текущей архитектуры Ampere, которые были анонсированы в апреле 2021 года. Инженеры HOSTKEY сравнили эффективность использования новых ускорителей в GPU-серверах на различных типах нагрузок.

Ampere использует 8-нм техпроцесс от Samsung и поддерживает высокоскоростную память HBM2 и GDDR6(X). GDDR6X является шестым поколением памяти DDR SDRAM и может достигать скорости до 21 Гбит/с. В А5000 и А4000 NVIDIA использует ядра RT 2-го поколения и тензорные ядра 3-го поколения, позволяющие обеспечить двукратный прирост производительности по сравнению со старыми ядрами Turing. Новинки используют стандарт PCIe 4.0, что позволяет убрать узкие места при обмене данными с GPU.

В Ampere используется новая версия CUDA 8+. На чипе теперь есть два потоковых мультипроцессора, что обеспечивает значительный рост производительности FP32-вычислений по сравнению с картами на базе Turing. Старшие GPU A5000 и выше поддерживают NVLink 3.0 для попарного объединения карт, что это приводит к кратному увеличению производительности.

Технические характеристики видеокарт NVIDIA RTX A4000 и RTX A5000, RTX 3090, Quadro RTX 4000

На новых картах куда больше памяти, это позволяет эффективно работать с нейросетями и изображениями. Другим существенным отличием RTX A4000 и RTX A5000 является аппаратное ускорение размытия движения, позволяющее значительно сократить время и затраты на при рендеринге.

В старших картах от RTX A5000 есть поддержка vGPU и NVIDIA RTX vWS, что позволяет обеспечить совместное использование вычислительных ресурсов и виртуальных GPU несколькими пользователями. В среднем новые видеокарты NVIDIA обгоняют по производительности старую линейку Quadro в 1,5–2 раза и потребляют меньше электричества.

Тестирование HOSTKEY

Инженеры компании HOSTKEY провели собственное тестирование профессиональных видеокарт NVIDIA RTX A5000 и A4000 и сравнили их с RTX 3090 и Quadro RTX 4000 — представителем предыдущего поколения профессиональных видеокарт компании NVIDIA. Для тестов использовалась система следующей конфигурации:

• Процессор OctaCore Intel Xeon E-2288G, 3,5 ГГц
• 32 Гбайт DDR4-3200 ECC DDR4 SDRAM 1600 МГц
• Samsung SSD 980 PRO 1Tбайт (1000 GB, PCI-E 4.0 x4)
• Серверная материнская плата ASUS P11C-I Series (1 PCI-E x16, 1 M.2, 2 DDR4 DIMM, 2x Gigabit LAN + IPMI)
• Microsoft Windows 10 Professional 64-бит.

Tест V-Ray GPU RT

Тест V-Ray GPU CUDA

Тесты V-Ray GPU CUDA и RTX позволяют измерить относительную производительность GPU при рендеринге. GPU RTX A4000 и RTX A5000 значительно превосходят по производительности Quadro RTX 4000 и GeForce GTX 1080 Ti (тест V-Ray GPU RTX на этой карте провести невозможно, т.к. она не поддерживает технологию RTX), но уступают RTX 3090, что объясняется высокой пропускной способностью памяти (936,2 Гбайт/с против 768 Гбайт/с у RTX A5000) и количеством потоковых процессоров (10496 против 8192 у RTX A5000).

«Собаки против кошек»

Для сравнения производительности GPU для нейросетей был использован набор данных «Собаки против кошек» — тест анализирует содержимое фотографии и различает изображена на фото кошка или собака. Все необходимые исходные данные находятся здесь. Также этот тест был выполнен на разных GPU в различных облачных сервисах. Получены следующие результаты:

Полный цикл обучения

Полный цикл обучения тесовой нейросети занял от 5 до 30 мин. Результат NVIDIA RTX A5000 и A4000 составил 07:30 и 9:10 минут соответственно. Быстрее единичных NVIDIA RTX A5000 и A4000 работал только GPU-сервер с восемью картами GeForce RTX 2080Ti и с энергопотреблением около 2 кВт·ч. Видеокарты Tesla V100 прошлого поколения доступны в сервисах Google Cloud Compute Engine, Microsoft Azure и Amazon Web Services и показали наилучший результат из протестированных там карт.

Сколько стоит обучить нейросеть в разных местах?

На графике представлена стоимость обучения модели с использованием различных сервисов для следующих конфигураций:

• AWS — AWS p3.2xlarge
• Google Cloud — GCP Compute Engine
• Microsoft Azure — Tesla V100
• HOSTKEY — RTX А4000, RTX A5000

Заключение

Новые профессиональные видеокарты NVIDIA RTX A5000 и A4000 являются оптимальным решением для использования в GPU-серверах и позволяют выполнять сложные вычисления, производя быструю обработку больших массивов данных. Переход на новую архитектуру Ampere позволил значительно увеличить производительность новых профессиональных видеокарт NVIDIA. Улучшенные тензорные ядра и ядра RT значительно улучшают качество и возможности трассировки лучей в реальном времени.

Объем памяти в 16 Гбайт у NVIDIA RTX A4000 и 24 Гбайт у RTX A5000 позволяет обрабатывать большие массивы данных, а мост NVLink для A5000 объединяет две карты в одну, что даёт доступ уже к 48 Гбайт высокопроизводительной памяти. Что важно, лицензия на драйверы NVIDIA для профессиональных GPU (в отличие от игровых видеокарт) никак не ограничивает их использование в центрах обработки данных.

HOSTKEY рекомендует использовать современные выделенные и виртуальные GPU-серверы для рендеринга, транскодинга видео, обучения нейросетей и обработки данных уже обученными сетями. Если есть стабильный большой объем данных для обработки, аренда выделенных GPU-серверов может на порядок повысить скорость их обработки за те же деньги или позволит существенно сократить затраты на формирование собственной инфраструктуры.

Пока что HOSTKEY предоставляет GPU-серверы на базе помесячной оплаты, но в ближайшее время все эти машины будут доступны и в режиме почасовой оплаты с полной автоматизацией их предоставления клиенту при заказе через API. Кроме того, новые серверы с профессиональными картами RTX A5000 и A4000 доступны теперь не только в Нидерландах, но и в Москве.

HOSTKEY — динамично развивающийся хостинг-провайдер, который более 10 лет оказывает услуги по размещению и аренде серверов, проектированию и внедрению частных облаков, лизингу и обслуживанию оборудования. HOSTKEY предоставляет серверы в аренду в дата-центрах категории TIER III в Европе, США и России, а также оказывает услуги проектирования, запуска и поддержки приватных облаков, поддержки серверов в любых дата-центрах в Нидерландах. Компания работает как с корпоративными клиентами, так и с частными лицами.

МТС сообщила о запуске облачным провайдером CloudMTS услуги аренды виртуальных рабочих мест (Virtual Desktop Infrastructure, VDI) с использованием графических ускорителей. Новый сервис получил название GPU Workspaces и ориентирован на организации, в бизнес-процессах которых задействован софт, требующий высокопроизводительного оборудования.

К такому ПО относятся графические и видеоредакторы, программное обеспечение для 3D-рендеринга и анимации, системы автоматизированного проектирования и инженерного анализа. VDI-сервис позволяет сотрудникам без установки «тяжёлого» софта иметь полноценный доступ к специализированным приложениям практически с любого устройства независимо от его производительности.

Инфраструктура GPU Workspaces развёрнута в расположенном в г. Лыткарино Московской области (9 км от МКАД) дата-центре «Авантаж», соответствующем требованиям надёжности уровня Tier III по классификации Uptime Institute. Решение построено на базе платформы VMware Horizon Desktop as a Service и GPU NVIDIA.

Виртуальные рабочие места предоставляются заказчикам в различных конфигурациях и могут оснащаться необходимым количеством vCPU, объёмом памяти vGPU и vRAM, а также подходящим для задач клиента объёмом SSD. Доступны функции установки дополнительного программного обеспечения и резервного копирования пользовательских данных. Уровень обслуживания и параметры доступности сервиса закреплены в соглашении Service Level Agreement (SLA).

Компания Northern Data AG, поставщик инфраструктурных решений для высокопроизводительных вычислений (HPC) и майнинга, объявила о заключении соглашения с фирмой Block.one, специализирующейся на разработке программных продуктов в сфере блокчейна. По условиям договора Northern Data приобретёт у Block.one подразделение Decentric Europe BV. Главной целью покупки являются серверные системы, оборудованные ускорителями.

Речь, в частности, идёт о более чем 24 тыс. серверов производства Gigabyte Technology. В них задействованы в общей сложности приблизительно 223 тыс. акселераторов AMD и NVIDIA. Northern Data занимается формирование одного из крупнейших в мире распределённых GPU-кластеров для HPC-приложений. Центры расположатся в Норвегии, Швеции, Нидерландах и Германии.

Здесь и ниже изображения Northern Data

Сделка предусматривает выплату €195 млн деньгами в течение двенадцати месяцев. Ещё приблизительно €170 млн будут выплачены в виде ценных бумаг Northern Data в количестве 2,3 млн штук. Отмечается, что Northern Data завершит установку всех GPU-северов в рамках проекта к концу текущего квартала. В результате общая производительность оборудования компании достигнет отметки 2,6 Эфлопс FP32 (390 Пфлопс FP64) или примерно 13,86 Тхеш/с.

Northern Data готова конкурировать с американскими компаниями, которые занимают ведущие позиции на рынке высокопроизводительных центров обработки данных. Компания активно сотрудничает с Gigabyte и AMD. Результаты проекта должны повысить доступность высокопроизводительных облачных услуг в областях машинного обучения и искусственного интеллекта для более широкой аудитории малого и среднего бизнеса.

Компания Chenbro анонсировала корпус SR113 высотой 4U, предназначенный для построения серверов, нацеленных на решение задач в области глубокого обучения и ИИ. Новинка может использоваться в качестве самостоятельной системы башенного типа или монтироваться в стойку.

Возможна установка материнских плат проприетарного формата SMC X12DPG/X11DPG и Tyan S7105. Кроме того, поддерживаются платы SSI EEB. Корпус имеет общие габариты 680 × 438 × 175 мм и весит 25 кг.

Здесь и ниже изображения Chenbro

Есть посадочные места для 11 FHFL-карт, поддерживается установка до пяти акселераторов двойной ширины. Подсистема хранения данных может быть выполнена на основе восьми SAS/SATA-накопителей типоразмера 3,5" или 2,5" с поддержкой горячей замены. Доступны два отсека для устройств типоразмера 5,25". Во фронтальной части располагаются два порта USB 3.0 и комбинированное 3,5-мм аудиогнездо.

Корпуса предлагается с одним или двумя (1+1) блоками питания класса 80+ Platinum мощностью 1200 или 2000 Вт. Возможна установка до восьми 80-мм вентиляторов (8200/11000 RPM). Есть датчик вскрытия корпуса и опциональный замок для дверцы на передней панели.

Компания ASRock Rack анонсировала сервер 4U10G-ICX2/2T, подходящий для высокопроизводительных вычислений, машинного обучения и решения задач, связанных с искусственным интеллектом. Новинка, выполненная в формате 4U, рассчитана на монтаж в стойку.

В основу положена материнская плата SP2C621D32GM-2T. Возможна установка двух процессоров Intel Xeon Scalable третьего поколения в исполнении Socket P+ (LGA 4189) с показателем TDP до 250 Вт. В общей сложности доступны 32 разъёма для модулей оперативной памяти DDR-3200. Максимально поддерживаемый объём ОЗУ составляет 8 Тбайт.

Здесь и ниже изображения ASRock Rack

Имеются 12 фронтальных отсеков для установки накопителей типоразмера 3,5 дюйма с возможностью «горячей» замены. Дополнительно можно задействовать два твердотельных модуля М.2 22110/2280 с интерфейсом PCIe 3.0 x4 или SATA 3.0. Также во фронтальной части опционально доступны три слота PCIe 4.0 x16: два для полноразмерных карт расширения и один OCP 3.0.

Сервер поддерживает установку до десяти двухслотовых акселераторов PCIe 4.0 x16 с TDP до 350 Вт — например, NVIDIA A100 — для организации высокопроизводительных вычислений. Также возможно применение 20 однослотовых ускорителей PCIe 4.0 x8. Есть и один дополнительный разъём для карты PCIe 4.0 x16 в однослотовом исполнении. В системе есть два PCIe-коммутатора Broadcom PEX88096.

Новинка оборудована двумя сетевыми портами 10GbE на базе контроллера Intel X710-AT2 и выделенным сетевым портом управления для ASPEED AST2500. Подсистема питания выполнена по схеме 3+1 с блоками мощностью 1600 Вт с сертификатом 80 PLUS Platinum. За охлаждение отвечают два блока по вентиляторов с поддержкой горячей замены: 80×80 мм в середине шасси и 80×38 мм в задней части корпуса.

Selectel, ведущий российский провайдер услуг облачных инфраструктурных сервисов и дата-центров, получил статус Cloud Service Provide партнёрской программы NVIDIA (NVIDIA Partner Network). Благодаря этому Selectel теперь имеет возможность предоставлять клиентам услуги по аренде лицензий NVIDIA, позволяющие заказчикам выделенных серверов Selectel, а также клиентам «Облака на базе VMware» обеспечить организацию виртуальных рабочих мест и оптимизации потребления ресурсов графических процессоров.

Клиентам Selectel доступны любые типы лицензий NVIDIA сроком от одного месяца с оплатой за фактическое использование решений. Ресурсы одного GPU можно будет использовать для нескольких виртуальных машин (shared), что позволит увеличить эффективность работы распределённых команд и оптимизировать расходы. Для ресурсоёмких задач, можно будет использовать сразу несколько GPU для одной виртуальной машине (aggregation), что ускорит их выполнение.

Компания предлагает клиентам серверы с графическими картами для 3D-моделирования, рендеринга, машинного обучения и сложной аналитики в аренду от 1 дня. Клиент может заказать аренду готового сервера или указать конфигурацию с необходимыми параметрами, которая будет готова в течение 1–5 дней.

В услугу аренды сервера входит:

• бесплатный трафик: на скорости 100 Мбит/с — безлимитно, на скорости 1 Гбит/c — 30 Тбайт для серверов Chipcore или 5 Тбайт для других серий;
• 1 общий публичный IPv4-адрес;
• автоустановка ОС;
• управление через API;
• бесплатная замена комплектующих в течение 3-х часов в случае выхода оборудования из строя;
• бесплатный DNS-хостинг;
• 3 бесплатные метрики для настройки автоматического мониторинга.

«В прошлом году с переходом в онлайн увеличился спрос со стороны бизнеса на серверы и облачные решения. Даже у небольших компаний ощутимо выросла потребность в надежной инфраструктуре для реализации своих задач и поддержки работы распределенных команд, — рассказал Константин Ефимов, руководитель отдела закупки оборудования, Selectel. — Комбинация преимуществ продуктовых решений Selectel с технологиями виртуализации NVIDIA позволит нашим клиентам быстрее и эффективнее справляться со сложными задачами, связанными с 3D-моделированием, рендерингом, глубокой аналитикой и машинным обучением».

«Мы рады приветствовать Selectel, крупнейшего игрока на рынке облачных инфраструктурных сервисов и услуг дата-центров, в качестве официального облачного провайдера NVIDIA, — отметила Ирина Лобачева, менеджер по работе с партнерами в NVIDIA. — В новом статусе Selectel сможет обеспечить заказчикам еще больше возможностей и гибкости при работе с ресурсоемкими задачами в облаке. Одним из первых заказчиков Selectel, который уже оценил преимущества комплексного решения, стал “ПИК-Проект”, проектное бюро ведущего девелопера России. Для них это стало эффективным инструментом по снижению расходов и повышению удобства при работе с облаком».

Тестирование решений NVIDIA проводится в виртуальной лаборатории NVIDIA, оставить заявку можно на сайте Selectel.

Компания Gigabyte Technology сообщила о расширении ассортимента серверов, имеющих сертификацию NVIDIA: такие системы предлагают наилучшие конфигурации с использованием ускорителей с архитектурой NVIDIA Ampere и сетевых карт NVIDIA SmartNIC.

Отмечается, что ранее были сертифицированы пять серверов Gigabyte с ускорителями NVIDIA A100 (40 Гбайт): это решения R282-Z96, R281-G30, G492-Z51, G482-Z54 и G242-Z11.

Здесь и ниже изображения Gigabyte

На тот раз сертификацию получили GPU-системы Gigabyte, рассчитанные на высокопроизводительные вычисления: это серверы G242-Z11, G292-Z20, G292-Z24, G292-Z40, G482-Z54 и G492-Z51. Кроме того, сертифицированы системы общего назначения R281-G30, R282-Z96 и R282-Z93.

Отмечается, что Gigabyte G242 — это единственный на сегодняшний день сервер с сертификацией NVIDIA, в основу центрального процессора которого положена архитектура Arm.

Компания Gigabyte Technology также объявила о поддержке NVIDIA Omniverse Enterprise — это платформа для совместной работы и моделирования в реальном времени. Система легко развёртывается при любых масштабах: от небольших рабочих групп в локальной сети до гибридных локальных и облачных инфраструктур, а также географически распределённых команд.

На COMPUTEX 2021 компания NVIDIA поделилась информацией о расширении экосистемы сертифицированных партнёрских решений на базе её продуктов. В том числе с анонсированными на GTC'21 ускорителями A100 и A40, A10 и A30, а также DPU BlueField-2.

В частности, ASUS, Dell Technologies, GIGABYTE, QCT и Supermicro, представили на выставке COMPUTEX 2021 новые системы на базе NVIDIA BlueField-2. Добавим, что внедрение DPU BlueField-2 широко поддерживаются лидерами рынка программирования, включая RedHat и VMware. Чтобы помочь разработчикам создавать приложения на базе BlueField-2 DPU, Red Hat бесплатно предоставляет им подписки Red Hat Developer для Red Hat Enterprise Linux. Как ожидается, серверы с ускорением DPU BlueField-2 выйдут в этом году, некоторые из которых будут участвовать в программе сертифицированных систем NVIDIA.

Также в ходе выставки NVIDIA анонсировала десятки новых серверов, сертифицированных для работы с программным стеком NVIDIA AI Enterprise, отметив быстрое расширение программы NVIDIA-Certified Systems, которая теперь включает более 50 систем от ведущих мировых производителей: Advantech, Altos, ASRock Rack, ASUS, Dell Technologies, GIGABYTE, Hewlett Packard Enterprise, Lenovo, QCT, Supermicro и других. Кроме того, Dell Technologies, HPE, Nettrix и Supermicro стали предлагать сертифицированные серверы на платформе NVIDIA HGX.

Растущий список сертифицированных NVIDIA систем включает крупнейших производителей x86-серверов, что позволяет привнести возможности ИИ в широкий спектр отраслей, включая здравоохранение, производство, розничную торговлю и финансовые сервисы. Доступные в широком диапазоне цен и уровней производительности системы включают ускорители NVIDIA A100, A40, A30 или A10 с тензорными ядрами, а также DPU NVIDIA BlueField-2 или адаптеры NVIDIA ConnectX-6.

Сертификация NVIDIA будет распространяться на серверы Arm CPU, которые появятся в 2022 году Расширяя экосистему Arm до уровня предприятия для высокопроизводительных вычислений (HPC) и ИИ, компании GIGABYTE и Wiwynn планируют предлагать новые серверы с Arm-процессорами и ускорителями NVIDIA Ampere.

GIGABYTE в сотрудничестве с NVIDIA предлагает инструментарий разработчика Arm HPC Developer Kit, который предоставляет интегрированную программно-аппаратную платформу разработки ПО для HPC, ИИ и научных вычислений. Платформа включает в себя процессор Ampere Altra на базе ядер Arm Neoverse, два ускорителя A100, два DPU BlueField-2 и NVIDIA HPC SDK.

Сертифицированные NVIDIA системы с ускорителями Ampere уже доступны для потребителей. Системы с DPU NVIDIA BlueField-2 будут доступны в конце этого года. Системы на базе процессоров Arm появятся в 2022 году, но разработчики уже могут подать заявку на получение комплекта NVIDIA Arm HPC.

Компания NVIDIA представила сегодня акселератор корпоративного класса A16: анонс новинки состоялся в рамках мероприятия GPU Technology Conference 2021. Ускоритель поможет в организации дистанционной работы, что актуально в текущей эпидемиологической обстановке. В такой ситуации востребованы платформы виртуальных рабочих столов (VDI).

В инфраструктуре VDI среды виртуальных рабочих мест размещаются на централизованном сервере и развёртываются по запросу. Для поддержания работы таких систем как раз и предназначен ускоритель NVIDIA A16. Решение объединяет четыре графических процессора с архитектурой Ampere. Также имеются аппаратные (де-)кодеры NVENC (x4) и NVDEC (x8).

Используется 64 Гбайт памяти GDDR6 — по 16 Гбайт на процессор.Устройство позволяет формировать виртуальные GPU (vGPU) с памятью объёмом 1, 2, 4, 8 или 16 Гбайт. Имеется поддержка технологий NVIDIA Virtual PC (vPC), Virtual Applications (vApps), RTX Workstation (vWS), Virtual Compute Server (vCS).

Ускоритель выполнен в виде карты расширения с интерфейсом PCIe 4.0. В компьютерном корпусе новинка займёт два слота. Для дополнительного питания служит 8-контактный разъём; заявленный показатель TDP — 250 Вт. Поставки акселератора NVIDIA A16 начнутся в текущем году. Более точные сроки начала продаж и стоимость разработчик раскроет позднее.