В апреле прошлого года глава NVIDIA Дженсен Хуанг (Jensen Huang) раскрыл первые сведения о серверном Arm-процессоре под кодовым именем Grace. Главным «мозговыми центром» компании, ответственным за его создание, станет израильский центр исследований и разработок. Он уже насчитывает около 2800 сотрудников, но компания хочет организовать новую рабочую группу, связанную именно с HPC-решениями, и планирует нанять ещё минимум несколько сотен специалистов, сообщает Globes.

Столь серьёзных масштабов израильский исследовательский отдел NVIDIA достиг за счёт приобретения компанией известного разработчика сетевых чипов и технологий Mellanox. Также NVIDIA активно сотрудничает с местной экосистемой стартапов и разработчиков посредством программ NVIDIA Inception Program и Developer Program.

Изображения: NVIDIA

Новая рабочая группа, ориентированная на создание процессоров, будет тесно сотрудничать с уже имеющимися командами, работающими в области DPU и ИИ. Последнее немаловажно, поскольку Grace в первую очередь нужен для поддержки работы ускорителей NVIDIA. Это поможет компании избавиться от зависимости со стороны AMD и Intel, чьи процессоры используются в платформах DGX/HGX. Новый чип NVIDIA должен увидеть свет в начале 2023 года.

Архитектура Grace изначально будет рассчитана на тесную интеграцию с ускорителями и высокоскоростной памятью

Ожидается, что использование Grace позволит получить десятикратный рост производительности в сравнении с существующими решениями. Новый чип будет использовать шину NVLink 4.0 с пропускной способностью до 900 Гбайт/с, что позволит сделать интеграцию CPU и ускорителей более тесной. Первые заказчики систем на базе Grace уже известны — это Лос-Аламосская национальная лаборатория и Швейцарский национальный суперкомпьютерный центр CSCS. Оба суперкомпьютера построит HPE.

После обнаружения первой уязвимости в библиотеке Apache Log4j (CVE-2021-44228, более известна как Log4Shell) команда Google Open Source Insights провела обследование всех пакетов Java в центральном репозитории Maven с целью «определения масштаба проблемы в экосистеме JVM с открытым исходным кодом». По оценкам исследователей, могут пройти годы, прежде чем уязвимость будет полностью устранена в экосистеме Java.

Более 80% пакетов Java, которых коснулась уязвимость в Log4j, не могут быть обновлены напрямую, и для её устранения потребуется координация между различными проектными группами. Значительная часть проблемы связана с непрямыми (косвенными) зависимостями. Прямые зависимости или случаи, когда пакет явно интегрирует Log4j, относительно легко исправить, поскольку разработчик или владелец проекта просто должен обновить Log4j до последней версии.

Более 80% пакетов Java в репозитории Maven Central Repository имеют Log4j в качестве косвенной зависимости, при этом большинство из них имеют уязвимую версию на глубине до пяти уровней. Многие пакеты используют сторонние библиотеки, которые обращаются к Log4j. В этом случае владелец пакета должен дождаться, пока сопровождающий этой библиотеки обновит Log4j и выпустит свежую версию.

EPI (European Processor Initiative), целью которого является создание европейских высокопроизводительных процессоров и ускорителей для серверов, HPC-систем и автономного транспорта, успешно завершил первую фазу развития — CPU под кодовым именем Rhea стал на шаг ближе к реальности. Его выпуск запланирован на конец 2022 года.

Консорциум EPI был создан в 2018 году, сейчас в него входят уже 28 компаний и организаций в 10 странах Евросоюза. Сегодня EPU объявил о достижении целей первой фазы проекта, который включает три основных направления разработки: процессоры общего назначения (GPP), ускорители (EPAC) и SoC для робомобилей.

Планы European Processor Initiative (Изображения: EPI)

Первое направление возглавляет SiPearl при поддержке Atos. Компания создаёт 6-нм чип Rhea с ядрами Arm Neoverse V1. Однако это лишь часть общей картины — чип получит ещё 29 различных блоков RISC-V, а также внутренний интерконнект NoC (Network-on-Chip) для связи ядер и различных подсистем. В целом, чип уже работоспособен на уровне RTL — полный дизайн в настоящее время проходит валидацию в эмуляторах, но его уже можно использовать для создания системного и прикладного ПО.

Rhea получит контроллеры памяти с поддержкой HBM2E, для валидации которых CEA подготовила отдельную платформу. За защиту будет отвечать автономная система управления безопасностью (SMS) от ProvenRun. Пизанский университет разработал целый набор IP-блоков Crypto Tile для ускорения AES, ECC/ECDSA/ECIES/ECDH и SHA2/SHA3. Crypto Tile имеет безопасное хранилище ключей, защиту от атак по сторонним каналам, поддержку постквантового шифрования (Crystals Kyber и Dilithium) и эффективной работы со сверхдлинными ключами, а также аппаратный генератор случайных чисел и быстрые AXI4-интерфейсы.

Первая партия чипов EPAC

Для современного процессора очень важен фактор энергопотребления, и здесь огромный вклад внесли университеты Болоньи и Цюриха, разработавшие новый контроллер питания на базе ядер RISC-V. Он использует современные алгоритмы машинного обучения для более эффективного управления многоядерными SoC. Регуляторы напряжения и референсная платформа для них (пока на базе FPGA) спроектированы компаниями Atos и E4 Computer Engineering.

Прототип ускорителя EPAC

Направление ускорителей представлено чипами EPAC 1.0 на базе ядер RISC-V и IP-блоков различных специализированных ускорителей, первые образцы которых были выпущены этой осенью. Тестовая плата для EPAC разработана E4 Computer Engineering. Предварительное тестирование показывает отличную степень программируемости и совместимости. Сейчас идёт разработка и портирование ПО и драйверов.

Тестовая платформа для новой европейской платформы автономного транспорта

Наконец, третья ветвь EPI, находящаяся под патронажем Infineon, представила концепт платформы автономного транспорта на базе BMW X5. Основой служит SoC eHPC на базе IP-блоков, созданных в рамках других направлений работы EPI. В состав платформы входят новые камеры и радарные ИИ-системы. Серьёзное внимание уделено безопасности — есть соответствие требованиям стандарта ASIL D. Новая платформа является модульной и позволяет подключить чипы Rhea и EPAC, ускорители Kalray MPPA и ПЛИС Menta eFPGA.

В целом, результаты первой фазы работы EPI доказывают возможность кооперации между столь серьёзным количеством разработчиков. Заложены основные принципы работы и созданы первые работоспособные прототипы как отдельных IP-блоков, так и платформ. При этом все они созданы силами европейских компаний и во многом опираются на открытые решения, которые EPI намерен поддерживать и далее.

Корпорация Intel продолжает развивать идеи унификации, заложенные в проекте oneAPI. Новая версия инструментария расширияет спектр поддерживаемых языков и архитектур. Ещё в 2020 году, когда Intel представила oneAPI 1.0, было очевидно, что будущее за гетерогенными системам, что по итогам уходящего 2021 года лишь подтвердилось.

По мнению аналитиков Evans Data, 40% разработчиков ПО сейчас нацеливают свои усилия на системы, имеющие в своём составе более одной процессорной архитектуры. Intel oneAPI как раз и позволяет объединить все компоненты таких систем в единый «оркестр» — использование унифицированного и при этом открытого инструментария позволит лучше оптимизировать ПО, упростит разработку и тестирование, и в конечном итоге сделает этот процесс более быстрым и менее затратным.

Единая модель oneAPI объединяет под своей крышей разные архитектуры и модели вычислений

oneAPI предлагает, по словам Intel, первый в мире унифицированный компилятор C++, SYCL и Fortran на базе LLVM как для обычных процессоров, так и для ускорителей, в частности, на базе GPU. Поддержку ускоренных вычислений получил Python, который на сегодня считается одним из самых популярных языков программирования. Кроме того, существенно улучшен инструментарий Intel DPC++ Compatibility Tool — теперь он позволяет автоматически переиспользовать 90-95% кода CUDA при портировании его на SYCL/DPC++.

Инструментарий Intel oneAPI 2022, естественно, получил поддержку и оптимизации, связанные с новыми процессорами и ускорителями на базе архитектуры Xe. Для процессоров Alder Lake появилась поддержка AVX-VNNI, а для Sapphire Rapids — нового набора расширений матричной математики Intel AMX. Существенное внимание в новом релизе компания уделила вопросам ускорения задач машинного обучения:

• Оптимизации Intel ускорили работу фреймворков TensorFlow и PyTorch до 10 раз.
• Расширения Intel для Scikit-learn позволили ускорить выполнение алгоритмов машинного обучения до 100 раз в сравнении с базовой open source версией пакета.
• Представлен новый инструмент Intel Neural Compressor, повышающий производительность инференс-систем за счёт дополнительной оптимизации уже после обучения моделей.

Не забыты и инструменты для разработчиков. Так, Intel VTune получил удобный функцию Flame Graph Display для быстрого визуального выявления «горячих мест». С его помощью можно оценить выгоду от переброса вычислений с CPU на GPU, прежде чем вносить серьёзные изменения в код проекта. Существенно возросла степень интеграции с Microsoft Visual Studio, включая поддержку версии 2022 и WSL2.

Также уделено внимание техникам рендеринга на базе трассировки лучей: в этой части oneAPI получил целый ряд оптимизаций и новых возможностей. Из заметных нововведений также следует отметить поддержку FP16 и грядущих ускорителей на базе графической архитектуры Intel Xe.

На площадке коллективного финансирования Crowd Supply представлен проект любопытного изделия — небольшой платы для разработчиков под названием Halo TD-XPAH. Новинка поможет в создании различных беспроводных IoT-устройств, работающих в сети с большим покрытием.

Плата поддерживает протокол 802.11ah, который также известен как Wi-Fi HaLow. Он разработан как дополнение к стандартам беспроводной передачи данных IEEE 802.11. Протокол 802.11ah предусматривает использование нелицензируемого частотного диапазона 900 МГц для увеличения радиуса действия беспроводной сети.

Источник изображений: Crowd Supply

Решение Halo TD-XPAH оборудовано модулем AzureWave AW-HM482 с «системой на чипе» Newracom NRC7292 на основе ядер Cortex-M3/M0. Поддерживается работа на частотах 902,0–928,0 МГц. Дальность передачи сигнала составляет минимум 1 км, а пропускная способность достигает 15 Мбит/с.

Реализована поддержка интерфейсов 4x I2C, 2x SPI, 4x UART, 8x PWM, 4x 9-bit ADC, 32x GPIO. Есть разъём USB Type-C для подачи питания и обмена данными. Для платы будут доступны Linux-драйверы, прошивка и комплект для разработчиков (SDK). В качестве примеров использования новинки называются дистанционный мониторинг, экстренная связь, камеры наблюдения с большой дальностью действия и пр. Цена изделия составит $99.

AMD анонсировала новую платформу для разработчиков AMD Accelerator Cloud (AAC). Это приватное облако, которое обеспечивает удалённый доступ к новейшим продуктам AMD для тестирования их возможностей в задачах высокопроизводительных вычислений (HPC) и искусственного интеллекта (ИИ).

Для начала работы с платформой необходимо пройти регистрацию и получить одобрение доступа со стороны AMD, после чего пользователи получат возможность формировать по запросу необходимую конфигурацию узлов, выбирая нужные им ускорители AMD Instinct, ОС, а также версию пакета ROCm, ради продвижения которого, судя по всему, всё и затевалось.

В ближайшие месяцы в облаке появятся ускорители Instinct MI200 и новейшие процессоры AMD EPYC, которые можно будет протестировать на пригодность для выполнения планируемых пользователем рабочих нагрузок. Это упростит перенос кода, бенчмаркинг ПО или тесты по масштабированию нагрузок на большее количество вычислительных узлов.

Изображение: AMD

Компания намерена дополнить этот сервис треннингами и хакатонами, в том числе приватными, для того, чтобы потенциальные клиенты смогли быстрее отточить свои навыки и получить максимальную отдачу от решений AMD. Это немаловажная для AMD инициатива, поскольку многие разработчики приложений HPC/ИИ не так хорошо осведомлены о текущих возможностях программных решений AMD.

Аналогичный сервис два года назад представила Intel — в облачной платформе DevCloud доступны процессоры, ускорители, GPU и FPGA компании, а также наборы средств разработки, программные пакеты, библиотеки и прочее ПО, необходимое для тестирования и оптимизации программных решений. Запуск DevCloud был приурочен к анонсу oneAPI и ускорителей Intel X^e.

NVIDIA объявила о присуждении очередных грантов аспирантам для проведения исследований в области вычислений с использованием GPU. Стипендиальная программа Graduate Fellowship Program компании существует 21 год. В рамках этой программы NVIDIA предоставила в виде грантов уже $6 млн почти 200 аспирантам для поддержки их работы в области машинного обучения, компьютерного зрения, робототехники и систем программирования.

В этот раз компания назвала 10 аспирантов, каждый из которых получит грант в размере $50 000. NVIDIA сообщила, что лауреаты будут участвовать в летней стажировке. Стипендиатами NVIDIA в 2022-2023 гг. являются:

• Дэвис Ремпе (Davis Rempe), Стэнфордский университет — Моделирование трёхмерного движения для оценки позы, реконструкции формы и прогнозирования движения, что позволяет интеллектуальным системам «понимать» динамические трёхмерные объекты, людей и сцены.
• Хао Чен (Hao Chen), Техасский университет в Остине — Разработка инструментов физического синтеза СБИС следующего поколения, способных генерировать качественную разводку схем для передовых техпроцессоров, особенно для обработки аналоговых/смешанных сигналов.
• Мохит Шридхар (Mohit Shridhar), Вашингтонский университет — Восприятие языка и действий для задач робототехники с возможностью обучения посредством взаимодействий, а не на статических наборах данных.
• Сай Правин Бангару (Sai Praveen Bangaru), Массачусетский технологический институт — Разработка алгоритмов и компиляторов для дифференциальных вычислений, позволяющих легко комбинировать их с компонентами машинного обучения.
• Шломи Стейнберг (Shlomi Steinberg), Калифорнийский университет, Санта-Барбара — Разработка моделей и вычислительных инструментов для физических расчётов освещения, моделирования частично когерентного света в сложных средах.
• Снеха Гоенка (Sneha Goenka), Стэнфордский университет — Изучение процессов геномного анализа с помощью совместного проектирования аппаратного и программного обеспечения для обеспечения сверхбыстрой диагностики генетических заболеваний и ускорения крупномасштабного сравнительного геномного анализа.
• Юфэй Йе (Yufei Ye), Университет Карнеги-Меллона — Создание агентов, которые могут воспринимать физические взаимодействия между объектами, понимать последствия взаимодействия с физическим миром и даже предсказывать потенциальные эффекты конкретных взаимодействий.
• Юке Ван (Yuke Wang), Калифорнийский университет в Санта-Барбаре — Изучение новых решений и оптимизаций на уровне алгоритмов и систем для ускорения различных рабочих нагрузок глубокого обучения, включая глубокие нейронные сети и нейронные сети на графах.
• Юньтян Дэн (Yuntian Deng), Гарвардский университет — Разработка масштабируемых, управляемых и интерпретируемых подходов к генерации естественного языка с возможностью создания длинных текстов.
• Зекун Хао (Enze Xie), Корнельский университет — Разработка алгоритмов, которые «учатся» на реальных визуальных данных, чтобы помочь людям создавать фотореалистичные трёхмерные миры, применяя полученные «знания».

К модели «всё как услуга» проявляет интерес всё больше компаний. Не оставаться в стороне от тренда решила и сербская MikroElektronika (MIKROE), известная в кругах разработчиков встраиваемой электроники как производитель и дистрибьютор средств разработки и отладки широкой номенклатуры микроконтроллеров.

В арсенале компании есть компиляторы и IDE для наиболее распространённых архитектур: ARM, PIC, PIC32 , dsPIC/PIC32, FT90x, AVR, 8051 и более 1000 отладочных плат различного назначения. Теперь клиенты компании получили возможности разрабатывать свои устройства удалённо, воспользовавшись услугой «оборудование-как-сервис».

Все изображения: MIKROE

Новая платформа под названием Planet Debug позволяет проектировщикам разрабатывать и отлаживать встраиваемые системы удалённо и без покупки оборудования — цена услуги начинается от $4/день и зависит от конфигурации системы. Время в Planet Debug можно зарезервировать заранее с указанием всех технических требований к конфигурации рабочего места. Поддержка удалённой отладки встроена в NECTO Studio.

Генеральный директор MIKROE, Неб Матич (Neb Matic), признался, что идея такого сервиса появилась у компании в результате наблюдений за т.н. циркулярной экономикой в других отраслях: «Пользователи делятся вещами или арендуют их, а не покупают. Так почему бы не сделать это и для индустрии встраиваемых решений?».

Такой подход позволяет разработчикам сразу же приступить к делу, не тратя время и деньги на покупку оборудования, доставку и начальную настройку. Модель также привлекательна и для производителей чипов, которые смогут познакомить со своей продукцией большее число потребителей без необходимости её поставок в зачастую весьма отдалённые регионы.

Сейчас в Planet Debug доступно более 70 различных плат для разработчиков, которые могут быть подключены и настроены по техническому заданию заказчика и будут готовы к работе уже на следующий день. Дополнительное удобство использования IDE NECTO состоит в том, что разработчик получает данные с физических устройств, работающих в реальном времени, а не от симулятора. А видеопоток с камеры, направленной на оборудование, показывается прямо в IDE.

Доступ к устройствам в Planet Debug осуществляется через фирменный инструмент CODEGRIP, сочетающий функции программирования и отладки. Для подключения к платам он использует набор стандартных интерфейсов, таких как JTAG и SWD, а для сопряжения с сетью имеет модуль Wi-Fi. Простота смены периферийных устройств, дисплеев и микроконтроллеров без необходимости их закупки открывает широкие возможности как для обучающихся, так и для профессионалов, а также способствует более рациональному использованию ресурсов, что важно для экологии.

Системы Planet Debug помимо офиса MIKROE развёрнуты в Университете НовиСад (Сербия), в США и в Мексике. В ближайших планах компании установка платформ Planet Debug в Азии. Матич считает, что «оборудование-как-услуга» — это будущее разработки и новые системы по такой модели станет доступны проектировщикам из любой точки мира.

Hewlett Packard Enterprise (HPE) анонсировала масштабные инвестиции в Тайвань — на местной исследовательской базе компания намерена ускорить разработку нового «железа» и развивать цепочку поставок вычислительной техники. Руководство техногиганта называет остров «глобальным стратегическим хабом для технологий следующего поколения».

Компания наняла 100 новых специалистов в уже существующие лаборатории. Планируется, что здесь будет находиться крупнейший дизайн-центр HPE за пределами США для разработки серверов, систем хранения данных и т.д. Точные суммы не сообщаются, но эксперты считают, что HPE потратит миллиарды долларов на создание технологического «аванпоста» для разработки новых продуктов в чрезвычайно востребованных на рынке сферах вроде 5G, периферийных (edge) и высокопроизводительных вычислений (HPC).

Источник изображения: hpe.com

HPE также назвала Тайвань «центром передового опыта для глобальной цепочки поставок» — значительную часть необходимого оборудования компания производит или закупает именно здесь. Ожидамаые инвестиции оказались столь значительными, что наиболее заметные политики острова отметили их важность и дальновидность персонально. Впрочем, стоит помнить, что HPE инвестирует в не самый стабильный с геополитической токи зрения регион в непосредственной близости от КНР.

Intel в рамках мероприятия Innovation раскрыла имя партнёра по разработке IPU Mount Evans — им оказалась компания Google. Впрочем, это не означает, что новинки будут доступны только ей и окажутся оптимизированы только под её задачи. IPU хоть и ориентированы в первую очередь на гиперскейлеров (среди возможных заказчиков называют и Facebook), но, по мнению Intel, будут интересны и менее крупным игрокам. Более того, было, наконец, прямо сказано, что ведётся работа и над Project Monterey от VMware.

Как пояснил Гвидо Аппенцеллер (Guido Appenzeller), технический директор подразделения Data Platforms Group Intel, название IPU (Infrastructure Processing Unit) было выбрано в противовес всё ещё относительно новому, но более привычному термину DPU (Data Processing Unit) именно потому, что IPU охватывает более широкий спектр задач по работе именно с инфраструктурой, а не только c данными.

Справедливости ради отметим, что и сами DPU, поначалу чаще ориентированные именно на ускорение работы с СХД и устранению узких мест в передаче данных, уже расширили свою функциональность и практически являются IPU именно в терминологии Intel — этот класс сопроцессоров независим от хост-системы и занимается обслуживанием инфраструктуры, включая работу с сетью и хранилищем, изоляцию и телеметрию, управление нагрузками и т.д.

У Intel достаточно богатый опыт работы по сетевому направлению с гиперскейлерами. По словам Аппенцеллера, семь из восьми крупнейших компаний этого класса используют решения Intel во всей или хотя бы в некоторых частях своей инфраструктуры. Так, Microsoft, Baidu и JD полагаются на SmartNIC на базе FPGA. Партнёрство же с Google будет выгодно для обеих компаний. Intel получит заказы, а Google, наконец, обретёт то, что давно есть у Amazon — аналог Nitro. На масштабе в миллионы серверов это очень важно.

Однако IPU (как аппаратные устройства) — только часть общей картины. Для полноты не хватает как минимум ещё двух компонентов: программного стека и сопутствующей инфраструктуру. Tofino-3 — анонсированный ранее чип или, как его называет сама Intel, Intelligent Fabric Processor — не только поддерживает коммутацию на скорости 25,6 Тбит/с с параллельным сбором телеметрии, но и является полностью P4-программируемым. А это позволяет организовать сквозные мониторинг, управление и оптимизацию трафика для конкретных задач.

Или, иными словам, IPU и подходящие коммутаторы позволяют сделать всю инфраструктуру практически полностью программно определяемой, но с аппаратной разгрузкой части функций и близкой к bare metal итоговой производительностью. Правда, в качестве демо Intel опять же приводит «классические» примеры с СХД и Open vSwitch, а также сценарии глубокого мониторинга производительности и быстрого поиска проблемных мест в сети. Но этим потенциальные возможности не ограничиваются.

Более того, со стороны ПО и средств разработки жёсткой привязки именно к «железу» Intel нет. Компания представила open source фреймворк IPDK (Infrastructure Programmer Development Kit) для упрощения переноса и, что важно, оптимизации наиболее тяжёлых или нетривиально реализуемых функций ПО на SmartNIC (с FPGA или иной программируемой логикой), IPU/DPU, коммутаторы или CPU. IPDK дополняет уже имеющиеся решения вроде DPDK, SPDK и т.д. возможностями работы с P4.