Современные системы искусственного интеллекта оперируют громадными объёмами данных, и что немаловажно, требуют загрузки этих данных с высокой скоростью. Поэтому компания PEAK:AIO представила новую версию платформы AI Data Server, предназначенного специально для подобного класса задач.

Обновлённая платформа, по словам компании-разработчика, вдвое производительнее предыдущего варианта и обеспечивает линейную производительность на уровне 80–120 Гбайт/с при использовании единственного узла хранения данных. Стоимость владения при этом снижена на 70%. Такая производительность достигается за счёт сочетания технологий GPUDirect и NVMe-oF.

Источник изображений здесь и далее: PEAK:AIO

Платформа AI Data Server относится к программно определяемым решениям, она разработана PEAK:AIO в сотрудничестве с крупными производителями серверного оборудования, такими, как Dell, Supermicro и GIGABYTE. В роли поставщика выступит компания PNY Technologies.

Технические характеристики новой платформы AI Data Server

Новый вариант базируется на процессорах последнего поколения, использует шину PCI Express 5.0 и сетевые решения NVIDIA ConnectX-6/7, а также накопители с интерфейсом NVMe. Базовая конфигурация имеет форм-фактор 2U и может располагать полезным объёмом от 50 до 700 Тбайт, а обслуживать при этом такая СХД может до 10 вычислительных серверов вроде NVIDIA DGX A100.

Стоимость новой платформы PEAK:AIO будет начинаться с отметки $8 тысяч за один узел хранения данных. В настоящее время новинка уже проходит бета-тестирование, а массовые поставки начнутся во втором квартале текущего года.

Компания PNY Technologies анонсировала специализированные системы хранения данных 3S Storage Server, оптимизированные для использования в составе высокопроизводительных вычислительных комплексов, использующих ускорители NVIDIA.

Речь, в частности, идёт о системе NVIDIA DGX A100, предназначенной для различных задач, связанных с искусственным интеллектом. Для таких систем PNY предлагает две модели 3S Storage Server — 3S-1050 и 3S-2450. Первая соответствует типоразмеру 1U, вторая — 2U.

Здесь и ниже изображения PNY

Серверы хранения оборудованы быстрыми твердотельными накопителями NVMe. Младшая модель может оснащаться десятью SSD-модулями вместимостью 7,69 или 15 Тбайт каждый. Таким образом, суммарная вместимость достигает 150 Тбайт.

Старшая модификация рассчитана на установку 24 твердотельных накопителей. Как и в первом случае могут применяться устройства на 7,69 или 15 Тбайт, а максимальная суммарная ёмкость достигает 360 Тбайт. Более подробно с техническими характеристиками решений 3S Storage Server можно ознакомиться здесь.

Имя PNY хорошо знакомо энтузиастам 3D-графики, поскольку компания известна профессиональными ускорителями и системами на базе графических процессоров Quadro и других решений NVIDIA. А на днях компания анонсировала новый сервер хранения данных 3S-2400, предназначенный, главным образом, для использования именно в комплексах машинного обучения.

Такие задачи требуют не только вычислительных возможностей, но и хранения солидных объёмов данных с предоставлением быстрого к ним доступа.

Нехватки вычислительной мощности у систем NVIDIA DGX-1 не наблюдается, а PNY 3S-2400 призван ликвидировать возможное «бутылочное горлышко» в части хранения и доступа к данным, используемым для тренировки нейросетей. В разработке нового сервера принимал участие один из пионеров в области программно определяемых систем хранения данных, Марк Кларзински (Mark Klarzynski), автор идеи массивов, полностью реализованных на флеш-памяти.

Панель управления NVMesh

С аппаратной точки зрения PNY 3S-2400 использует технологию RDMA, позволяющую минимизировать время отклика СХД до менее чем 90 микросекунд, а программная часть реализована на базе технологий Excelero NVMesh. Интерфейс у нового сервера реализован в виде двух каналов InfiniBand EDR со скоростью 100 Гбит/с.

Всего с четырьмя накопителями 3S-2400 может обеспечить линейные скорости порядка 12 Гбайт/с, а случайные — свыше 2 миллионов IOPS. С восемью накопителями линейная скорость повышается до 23 Гбайт/с.

Варианты поставки PNY 3S-2400

Масштабируется система очень просто: количество NVMe-накопителей можно увеличить до 24, что в пределе даёт 32 Тбайт для хранения данных. Но это не предел, поскольку реализована возможность установки дополнительных дисковых полок; правда, такая конфигурация уже потребует наличия коммутатора InfiniBand, тогда как единичная платформа может подключаться к DGX-1 напрямую.

Помимо IB, программный стек NVMesh поддерживает и NVMe over Ethernet, а также предоставляет удобную систему мониторинга активности PNY 3S-2400. Система сопровождается трёхлетней гарантией производителя с расширенной технической поддержкой.

Компания PNY Technologies анонсировала новые версии ускорителей NVIDIA Quadro RTX 8000 и Quadro RTX 6000, предназначенные для использования в центрах обработки данных.

Особенность новинок PNY в том, что они наделены пассивной системой охлаждения. Отмечается, что эти карты подходят для использования в существующих (или будущих) серверных шасси, рассчитанных на полноразмерные двухслотовые ускорители NVIDIA Tesla.

Решения Quadro RTX 8000 и Quadro RTX 6000 на архитектуре Turing были представлены компанией NVIDIA ещё в 2018 году. Подробно об этих изделиях можно узнать в нашем материале. Напомним, что первый из названных ускорителей располагает 48 Гбайт памяти GDDR6, а второй — 24 Гбайт. При этом оба содержат 4608 ядер CUDA, 576 тензорных ядер и 72 RT-ядра.

Замена профильных изделий Tesla на карты Quadro RTX 8000 и Quadro RTX 6000 может оказаться выгодной с точки зрения соотношения цены и производительности. При этом применение пассивного охлаждения позволит устанавливать ускорители в те корпуса, для которых не подходят карты с активным кулером. Отметим, что ранее появилась информация о ЦОД-варианте NVIDIA GeForce RTX 2080 Ti с пассивным охлаждением.

Выставка ISC 2018 в Германии стала площадкой для показа компанией PNY интегрированного серверного решения AIRI, предназначенного для ресурсоёмких вычислений в рамках глубинного обучения, хранения и оперирования большими объёмами данных. Сервер, название которого расшифровывается как «AI-ready infrastructure», представляет собой плод совместных усилий специалистов NVIDIA, Pure Storage и Arista, причём вклад той или иной компании в AIRI виден невооружённым глазом.

Роль PNY применительно к AIRI — приём и обслуживание заказов

Узлы AIRI могут размещаться в стойке различным образом, но по умолчанию сверху находится блок коммутаторов Arista (2 × 100 Гбит/с), ниже — узел FlashBlade с SSD-накопителями, а в самом низу — четыре узла NVIDIA DGX-1 поколения Volta. В корпусе FlashBlade размещены накопители суммарным объёмом 255 Тбайт, характеризующиеся пиковой производительностью 1,5 млн IOPS. Теоретически объём AIRI можно увеличить в три раза за счёт более ёмких SSD.

Узлы NVIDIA DGX-1 на базе ускорителей Tesla V100 обладают производительностью 1 Пфлопс в матричных (Tensor) вычислениях. В корпусе одного DGX-1 объединены ресурсы восьми карт на чипах Volta GV100, двух процессоров Intel Xeon E5-2698 v4 и других компонентов. Исходя из максимального энергопотребления квартета DGX-1 в 12,8 кВт в сочетании с 1,8 кВт узла FlashBlade и питанием коммутаторов, можно предположить, что для всей системы понадобится не менее 15 кВт мощности в пике нагрузки.

Наряду с AIRI компания PNY продемонстрировала на ISC 2018 barebone-сервер форм-фактора 4U, который также предназначен для вычислений, связанных с глубинным обучением. «Начинкой» модели Single Root Complex Purley 4U GPU Server (артикул PNYSRA4X000000-100) по умолчанию являются: материнская плата Tyan S7119GMRE, четыре 1600-Вт блока питания с резервированием по схеме «3 + 1» и солидным уровнем энергоэффективности (сертификат 80 PLUS Platinum), набор 120-мм вентиляторов с резервированием «5 + 1» и райзер для подключения дискретного SAS-контроллера. Кроме того, в комплект поставки сервера включены два процессорных кулера LGA3647 и монтажный набор.

Система допускает установку двух CPU Intel Xeon Scalable (Skylake-SP) с тепловыделением до 205 Вт, 24 модулей оперативной памяти RDIMM/RDIMM 3DS/LRDIMM/LRDIMM 3DS DDR4, как минимум 11 HPC-ускорителей на базе GPU, 14 накопителей с разъёмом подключения SATA 6 Гбит/с, четырёх NVMe SSD с интерфейсом U.2 (требуется приобретение дополнительного «внешнего» контроллера) и других компонентов.

Известный поставщик серверных решений, компания PNY, не могла пропустить выставку ISC 2017, где продемонстрировала свой ассортимент видеоадаптеров и систем в сборе. Большинство прототипов и продуктов полностью изготовлены на производственных мощностях подрядчиков и партнёров американской компании, в числе которых ASUS, Gigabyte, NVIDIA, Supermicro, TYAN и другие. Как бы то ни было, приобрести их зачастую можно только через PNY Technologies (в том числе и на российском рынке).

PNY уже давно занимается поставками ускорителей Quadro, но в этом году взялась отгружать ещё и модели Tesla. Официальный анонс PCI-E версии Tesla V100 состоялся только на днях, поэтому в компании решили ограничиться демонстрацией на стенде адаптера предыдущего поколения — Tesla P100. Продукт TCSP100M-16GB-PB оснащён графическим процессором NVIDIA GP100 (3584 шейдерных блоков) и 16 Гбайт памяти HBM2 с функцией контроля ошибок. В вычислениях двойной точности (FP64) карта обеспечивает быстродействие на уровне 4,67 Тфлопс, а её энергопотребление составляет 250 Вт.

Без Quadro также не обошлось: перед нами модель Quadro GP100 (PNY VCQGP100-PB) с теми же 3584 ядрами CUDA и 16 Гбайт HBM2, что и у Tesla P100. За счёт более высокой частоты GPU «чистая» производительность увеличена до 5,15 Тфлопс (FP64), а максимальное энергопотребление, наоборот, немного ниже — 235 Вт. В число видеовыходов включены DVI-D и квартет DisplayPort 1.4.

Дистрибуция серверов NVIDIA DGX-1 для вычислений, связанных с искусственным интеллектом, также не чужда PNY. Система DGX-1 первого поколения (на фото) содержит восемь ускорителей Tesla P100 с суммарной производительностью 170 Тфлопс (FP16). Среди прочего, сервер включает два 20-ядерных процессора Intel Xeon E5-2698 v4, 512 Гбайт памяти DDR4-2133 и четыре 1,92-Тбайт SSD-накопителя в RAID 0.

А так выглядит NVIDIA DGX-1 второго поколения (наше фото с ISC 2017):

Имеются в ассортименте PNY и серверы попроще. Как, например, следующая двухпроцессорная система с платой Gigabyte:

Однако системы наподобие PNY/TYAN FT77D-B7109 (см. ниже) всё-таки выглядят более впечатляюще. Мощь восьми ускорителей NVIDIA и двух Xeon может использоваться для научных исследований широкого спектра, анализа генетических последовательностей, обнаружения месторождений нефти и газа, масштабных проектов в области распознавания лиц и расшифровки важных данных методом полного перебора или «грубой силы» (англ. brute force). В 4U-корпусе также имеются посадочные места для четырнадцати 2,5-дюймовых SSD и четырёх M.2-накопителей.

Посетители ISC 2017 могли оценить прямо со стенда PNY работу кластера компании в г. Бордо. Для доступа к ресурсам HPC-системы было достаточно воспользоваться QR-кодом.