Несмотря на частые анонсы новых решений, ситуация на рынке ускорителей всё ещё складывается в пользу NVIDIA, которая существенно раньше своих соперников поняла всю важность этого рынка и делает всё возможное для продвижения собственной программной платформы CUDA.

CUDA позволяет разрабатывать приложения, работающие только на аппаратном обеспечении NVIDIA. С учётом взрывной популярности ИИ такая ситуация позволяет компании держать высокие цены, да и сама платформа хорошо отшлифована временем. Но вкупе с дефицитом ускорителей NVIDIA всё это негативно влияет на развитие индустрии ИИ в целом, что закономерно вызывает недовольство со стороны разработчиков.

С целью положить конец такому порядку ряд крупных компаний-разработчиков и полупроводниковых гигантов, включая Intel, Qualcomm, Samsung, Arm и Google сформировали альянс, названный The Unified Acceleration Foundation (UXL). Целью этого союза является создание универсального открытого ПО, которое позволит разработчикам ИИ-решений отказаться от CUDA и использовать ускорители других производителей.

Источник изображения: Intel

Сама группа UXL была сформирована ещё в сентябре прошлого года ведущими производителями микрочипов, но на днях она объявила о расширении, а также уточнила, как именно намерена бороться с CUDA. В основу нового, открытого мультиплатформенного стандарта ляжет Intel OneAPI, уходящий корнями в SYCL и OpenCL. В наследство достанутся и различные наработки Intel, включая инструмент SYCLomatic, позволяющий конвертировать CUD-код в SYCL-код, способный выполняться практически на любой платформе, в том числе и от NVIDIA.

UXL надеется сформировать стандартную модель программирования для ИИ-вычислений. Спецификации должны быть утверждены уже в I полугодии, а к концу 2024 года UXL, согласно планам, достигнет зрелого состояния. Группа намеревается привлечь и других производителей чипов, а также крупных провайдеров облачных услуг, включая Microsoft Azure и Amazon. Примечательно, что AMD к UXL решила не присоединяться.

Вместе с графическими и серверными ускорителями серии X^e Intel представила и новую, унифицированную модель разработки oneAPI и соответствующий инструментарий для неё, который и продолжает развивать. В течение нескольких лет компания организовала два десятка центра компетенций oneAPI по всему миру, причём один из первых появился в Нижнем Новгороде, что, в общем, не случайно. oneAPI настолько важен для Intel, что она на днях объявила о поглощении компании Codeplay, одного из ключевых разработчиков в этой области.

oneAPI позволяет унифицировать разработку и портирование приложений для различных архитектур, причём не только от самой Intel: CPU, GPU, FPGA и т.д. Проект базируется на открытом SYCL, наследнике OpenCL — оба стандарта курирует Khronos Group. Intel предлагает компилятор, инструменты для анализа и портирования кода и массу оптимизированных библиотек для различных классов приложений, да и сама активно занимается адаптацией и оптимизацией сторонних библиотек и фреймворков.

Изображение:Intel

Всё это делается ради привлечения как можно большего числа разработчиков, которые, как видится Intel, должны в идеальном случае сразу же создавать приложения (в первую очередь в HPC-сегменте, но не только) с помощью oneAPI, даже если их планируется в большинстве случаев запускать на оборудовании AMD или NVIDIA. И именно поэтому Intel хочет, чтобы стек oneAPI был не только бесплатным, но и как можно более открытым.

Аналогичных идей придерживается и AMD в рамках проекта ROCm и сопутствующих инструментов вроде HIP. Обе компании рассчитывают, что открытость и дружелюбность средств разработки позволят им потеснить NVIDIA CUDA. При этом обе понимают, что в CUDA вкладывались в течение 15 лет, а сейчас порядка трёх четвертей сотрудников NVIDIA занимаются именно разработкой ПО. В мае Intel открыла исходники SYCLomatic, инструмента для автоматизированного переноса кода с CUDA на SYCL.

Изображение:Intel

У Codeplay уникальная позиция. Сотрудники компании входят в комитеты по стандартизации Khronos, возглавляют рабочую группу SYCL и давно продвигают этот стандарт. Кроме того, они причастны к формированию стандартов ISO С++, занимаются OpenCL и приложили руку к целому ряду других стандартов и спецификаций. Codeplay разработала высокоэффективные компиляторы oneAPI/SYCL для ускорителей AMD и NVIDIA, а также создала ряд оптимизированных библиотек для ускорителей всех трёх игроков.

Codeplay Software была основана в 2002 году в Эдинбурге (Шотландия). Компания занимается созданием по заказу инструментов разработки, отладки и профилирования для самых разных чипов и архитектур. Также в её портфолио есть решения для экзафлопсных вычислений, ИИ, графики (именно с игровой индустрии она когда-то и начинала), автомобильных систем и т.д. Сумма сделки, которая всё ещё ожидает финального одобрения, не раскрывается. Это не первый случай, когда многолетнее партнёрство привело к поглощению — в 2013 году NVIDIA купила PGI (The Portland Group, Inc.), разработчика компиляторов Fortran и C/C++ для HPC-систем.

Ранее мы уже писали об экспериментальнои проекте ZLUDA, развивающем открытую реализацию CUDA для GPU Intel, которая позволила бы нативно исполнять CUDA-приложения на ускорителях Intel без каких-либо модификаций. При этом её разработка ведётся независимо и от Intel, и от NVIDIA.

Новинка построена на базе интерфейса Intel oneAPI Level Zero, и может работать на картах Intel UHD/Xe с неплохим уровнем производительности. Однако у первой версии был ряд ограничений. Вчера же вышла вторая версия, которая получила ряд улучшений. Кроме того, автор проекта объявил о переходе на модель непрерывного выпуска релизов.

Основной упор в новой версии сделан на улучшение поддержки Geekbench и работы в Windows-окружении. Собственно говоря, автор прямо говорит, что оптимизация под Geekbench пока является основной целью, а другие CUDA-приложения могут не работать. Кроме того, такое ПО, запущенное с помощью ZLUDA будет работать медленнее, чем на картах NVIDIA, в силу разности архитектур GPU и необходимости эмуляции некоторых возможностей. Подробности приведены на странице проекта.