Qualcomm Technologies анонсировала стек Qualcomm AI Stack, объединяющий «лучшие в своём классе программные предложения для ИИ» компании в единый пакет. Цель компании — унифицировать и упростить набор программных инструментов для OEM-производителей и разработчиков, чтобы они могли создавать, оптимизировать и развёртывать ИИ-решения на базе продуктов Qualcomm, которые охватывают всё больше сегментов, от встраиваемых решений до целых ЦОД.

Qualcomm AI Stack поддерживает популярные ИИ-платформы и среды, в том числе TensorFlow, PyTorch, ONNX. Новый стек состоит из базовых библиотек и сервисов для разработчиков, системного ПО, инструментов и компиляторов. По словам компании, теперь любую ИИ-функциональность, разработанную для одного устройства, можно легко развёрнуть на других — с помощью нового стека можно единожды создать и оптимизировать ИИ-модель, а затем быстро перенести её на другую платформу и настроить, что помогает существенно экономить время и ресурсы.

Источник изображения: Qualcomm Technologies

В стек входят Neural Processing SDK, AI Model Efficiency Toolkit (AIMET) Pro, AIMET Model Zoo, Model Analyzers, Neural Architecture Search и т.д. Кроме того, Qualcomm недавно перенесла SDK Qualcomm Neural Processing SDK на Microsoft Windows, а решение Qualcomm AI Engine Direct теперь доступно для всех продуктов Qualcomm, включая ИИ-ускоритель Qualcomm Cloud AI 100. От последнего, к слову, Meta* в своё время отказалась как раз из-за проблем с ПО.

Источник изображения: Qualcomm Technologies

Как отметила компания, Qualcomm Neural Processing SDK для Android и недавно анонсированная Windows-версия остаются ключевыми продуктами для OEM-производителей и разработчиков и будут получать регулярные обновления и поддержку. В Qualcomm AI Software Stack также входят три SDK для автономных транспортных средств (Snapdragon Ride SDK), Intelligent Multimedia и SDK для робототехники, Интернета вещей и виртуальной реальности (Snapdragon Spaces SDK). Общая основа этих SDK помогает разработчикам поддерживать весь портфель аппаратных решений Qualcomm в различных сегментах.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

На свет «умные» сетевые адаптеры появились не вчера — технология возмужала и доросла до концепции DPU, сопроцессора данных, могущего взять на себя не только обработку трафика, но и многое другое, вплоть до обслуживания гипервизора. Текущие реализации DPU базируются на проприетарных технологиях, но организация Linux Foundation хочет положить этому конец и сделать такие сопроцессоры по-настоящему популярными.

На этой неделе организация объявила о старте инициативы Open Programmable Infrastructure (OPI), целью которой является разработка открытых программных стандартов для DPU, IPU и SmartNIC. Проект уже получил поддержку от многих ведущих разработчиков аппаратного и программного обеспечения, включая NVIDIA, Intel, Marvell, F5, Keysight, Dell Tech и Red Hat. Стоит ожидать дальнейшего увеличения количества участников.

Изображение: opiproject.org

За счёт унификации и открытости OPI, считает Linux Foundation, темпы внедрения «умных» сетевых ускорителей существенно вырастут. Для гиперскейлеров и крупных облачных провайдеров проприетарное ПО обычно не проблема, но куда сложнее ситуация выглядит для менее крупных компаний.

Проект OPI положит конец ситуации, когда разработчики DPU порой не могут договориться даже о единой терминологии. На первой стадии участники проекта создадут стандартизированные определения для технологий и функций, выполняемых DPU, затем начнётся разработка универсальных API и программных архитектур и фреймворков, не зависящих от «железа» конкретного разработчика.

Такой крупный игрок на рынке DPU, как NVIDIA, приветствует инициативу, и в рамках проекта OPI уже открыла доступ к SDK DOCA разработчикам ПО и аппаратных сетевых средств. Компания и ранее обещала сделать DOCA для сетевых ускорителей тем же, чем стал стандарт CUDA для GPU, но теперь, к счастью, стандарт не будет закрытым: библиотеки и прочие средства, а также документация, уже доступны, а открытая лицензия позволит использовать наработки NVIDIA не только для ускорителей BlueField, но и для решений других производителей. Сайт проекта OPI находится здесь, также имеется репозиторий на GitHub.

Разберём, как создавать API сервера с помощью Go, запускать контейнеры, взаимодействовать с Docker и работать с кастомными операторами Kubernetes.

К концу курса вы создадите сильно упрощённый аналог Prometheus'a. Вы разработаете систему, которая будет собирать состояние других сервисов, сохранять собранное состояние в базу данных и предоставлять WEB API для доступа к сохраненным данным.

Источник изображения: Слёрм

Программа

Модуль 1: Основы Golang

Научитесь разбираться в простых конструкциях языка, понимать его синтаксис и структуру. Узнаете, как объявляются переменные, какие типы данных в GO бывают. Сможете объявлять и присваивать их, начнете делать циклы и ветвления.

Модуль 2: Погружаемся глубже в основы

Научитесь решать вычислительные и логические задачи с помощью Go. Узнаете, как структурировать свои приложения и как работать с зависимостями в модулях. Поймёте, как использовать флаги env и как запускать сторонние приложения из Go.

Научитесь оперировать стандартной библиотекой языка и создавать сложные программы на Go. Разберёте тесты структурно — поймёте, что такое тест и как он организован.

Модуль 3. Docker и Kubernetes

Узнаете, для чего нужен Docker SDK. Научитесь использовать его в Go и поймете, как Docker говорит с приложениями. Познакомитесь с различными паттернами, узнаете о целях Kubernetes API, приготовитесь к прикладному применению. Рассмотрите анатомию операторов, их использование в production-е, а также напишите свой оператор сами.

Спикеры

Всеволод Севостьянов — Engeneering Manager в HelloFresh.

• Архитектор и разработчик решений для обеспечения очень высокой пропускной способности (до 30 тысяч запросов в секунду на реальных бизнес кейсах);
• Tech Advisor команды DevOps;
• Специализируется на облачных решениях.

Тигран Ханагян — Team Lead & Backend Developer в Citymobil.

• Более 7 лет опыта разработки на разных языках (python, php, Go);
• Архитектор высоконагруженных сервисов на Go с нуля, один из которых - сервис программы лояльности в city-mobil.ru;
• Автор статей в публичных каналах.

Посмотреть подробную программу и записаться: https://slurm.club/3tMZRVi

Компания Nordic Semiconductor представила аппаратную платформу Thingy:53, предназначенную для создания прототипов и построения различных устройств для Интернета вещей (IoT). Новинка уже доступна для заказа по ориентировочной цене от $45–60.

В основу решения положена «система на чипе» Nordic Semi nRF5340. Она объединяет одно вычислительное ядро Arm Cortex-M33 с тактовой частотой 128 МГц и 512 Кбайт оперативной памяти, а также 64-МГц ядро Arm Cortex-M33 с 64 Кбайт памяти для обработки сетевых функций. В оснащение входит радиочастотный блок nRF21540 FEM. Реализована поддержка беспроводной связи Bluetooth LE и Bluetooth Mesh, технологий NFC и Thread/Zigbee, а также проприетарной связи в диапазоне 2,4 ГГц.

Источник изображений: CNX-Software

Плата располагает большим количеством различных сенсоров. Это шестиосевой модуль IMU с акселерометром и гироскопом, датчики температуры, влажности, атмосферного давления, качества воздуха, освещённости и пр. Кроме того, предусмотрен микрофон с функцией пробуждения по звуку. Новинка наделена портом USB Type-C и зуммером (4 кГц). Предусмотрена аккумуляторная батарея ёмкостью 1350 мА·ч.

20 июня в Слёрм стартует усовершенствованный курс «CI/CD на примере Gitlab CI». Пройдём путь от создания самого простого пайплайна до настройки сложных вариантов CI/CD с возможностью отката на предыдущую версию.

Курс поможет:

• Разобраться с принципами CI/CD и освоить конвейерный метод разработки. Вы научитесь работать с пайплайнами, билдами и артефактами.
• Понять, из чего состоит Gitlab, какие у него возможности и настройки. Вы научитесь использовать с Gitlab и создадите свой проект.
• Изучить лучшие практики построения пайплайна, особенности шаблонизации и работы с переменными. Вы научитесь работать с Gitlab CI.
• Узнать, что такое динамическое окружение и что оно дает. Вы научитесь работать с инцидентами и добавлять в пайплайн возможность отката назад.

Источник: Слёрм

Breaking news: мы не только доработали программу, но и добавили новый формат обучения! Помимо классического видеокурса вам доступно обучение в потоке, которое поможет усилить мотивацию и не сбавлять темп.

Обучение в потоке — чистый рок-н-ролл:

• AMA-сессии 2 раза в неделю. Вы общаетесь со спикером, задаёте вопросы и получаете обратную связь по домашним заданиям.
• Видеоуроки в личном кабинете открываются постепенно – по 4 занятия каждые 2 недели. Вы грамотно распределяете нагрузку и выбираете комфортный темп обучения.
• Общение с единомышленниками. У вас есть закрытый чат, который помогает стать частью уютного комьюнити и зарядиться мотивацией.
• Комфортное погружение. Вы постоянно ощущаете поддержку куратора, который проследит, чтобы вы получили доступы и разобрались с личным кабинетом.

Глубоко погрузиться в тонкости CI/CD вам помогут:

• Александр Швалов — старший системный инженер, Wrike, ex-Слёрм, ex-Southbridge
• Тимофей Ларкин — ведущий инженер X5 Retail Group
• Александр Довнар — Lead DevOps в Naviteq (ex. Onesoil and EPAM)

Посмотреть программу и записаться: https://slurm.club/3zEhjiK

C момента анонса архитектуры Zen и появления процессоров EPYC можно отсчитывать начало возвращения AMD на серверный рынок и в сферу HPC. Многие владельцы ЦОД и проектировщики суперкомпьютеров всё чаще выбирают AMD, но компания также стремится упрочнить свои позиции и на рынке систем машинного интеллекта, где долгое время доминирует NVIDIA со своей экосистемой CUDA.

Причём речь идёт о завоевании всех сегментов, от сферы периферийных вычислений до крупных облачных систем, для чего в распоряжении компании уже есть «нужный кремний и программное обеспечение». Именно такое заявление «красные» сделали на мероприятии Financial Analyst Day 2022. Глава AMD, Лиза Су (Lisa Su) отметила, что предстоит много работы, но открывающиеся перспективы роста того стоят. Наступление уже началось: отмечается интерес к процессорам EPYC для применения в инференс-системах и ускорителей Instinct для обучения нейросетей.

Охват рынка ИИ-систем и машинного обучения решениями AMD. Источник: AMD

С Instinct всё понятно, на сегодня это один из мощнейших ускорителей в отношении «чистой» производительности, а вот EPYC добились серьёзного прироста скорости исполнения инференс-нагрузок во многом благодаря благодаря библиотеке ZenDNN (Zen Deep Neural Network). Эта библиотека тесно интегрирована с популярными фреймворками TensorFlow, PyTorch и ONNXRT.

Она поддерживается процессорами EPYC, начиная со второго поколения, но компания пойдет и дальше в деле внедрения элементов ИИ в новые поколения процессоров на аппаратном уровне. Речь, в том числе, идёт о поддержке AVX-512 VNNI, которая появится в EPYC Genoa и Ryzen 7000. Ранее поддержкой таких инструкций могли похвастаться только процессоры Intel, которая активно вкладывалась в развитие ПО в течение нескольких лет.

Адаптивная архитектура XDNA. Источник: AMD

Другой путь заключается в использовании чиплетов на базе блоков Xilinx. Эта инициатива получила название адаптивной архитектуры XDNA. Нужны блоки появились ещё в серии Versal в 2018 году, а сейчас AMD намеревается снабдить аналогичным ИИ-движком ноутбучные Ryzen: Phoenix Point (2023 год) и Strix Point (2024 год). Эта же технология появится в EPYC, но точные сроки пока не оговорены, зато сообщается, что чипы с архитектурой Zen 5 c новыми оптимизациями для машинного обучения дебютируют в 2024 году.

На этом планы относительно портфолио Xilinx не заканчиваются. Решения на базе матриц Zynq давно и активно применяются в индустрии, здравоохранении, транспортных системах и «умных» производствах. Это же относится к рынку телекоммуникаций, использующему Xilinx Versal и облачным ЦОД, где довольно широко применяются ускорители Alveo и ПЛИС Kintex. И AMD ни в коем случае не собирается покидать эти секторы рынка.

Сферы и отрасли, потребности которых могут покрываться решениями AMD. Источник: AMD

Компания также активно готовит почву к пришествию своего первого серверного APU Instinct MI300. Так, пакет ROCm получил оптимизации для сценариев обучения и инференса в PyTorch и TensorFlow, и он же теперь может работать на потребительских моделях Radeon с архитектурой RDNA. AMD также разрабатывает SDK с предварительно оптимизированными моделями, что упростит разработку и внедрение ИИ-приложений.

Можно сказать, что охват рынка искусственного интеллекта и машинного обучения у AMD будет держаться на трёх китах: процессорах Ryzen и EPYC для моделей малых и средних объёмов; будущих EPYC с ИИ-блоками и ускорителях на базе Radeon и Versal для средних и больших моделей; ускорителях и APU Instinct вкупе с адаптивными чипами Xilinx для моделей большого и сверхбольшого размера.

Консолидация всех технологий ИИ, имеющихся у AMD, в единый программный стек. Источник: AMD

А для лучшей консолидации AMD активно объединяет в единый массив ранее независимые средства ПО для всех типов вычислителей. В этом она активно сотрудничает с другими компаниями, включая таких гигантов, как Microsoft и Meta*. Концепция Unified AI Stack будет развиваться и в дальнейшем, включая всё новые и новые компоненты, так что в итоге разработчику систем машинного интеллекта можно будет использовать единый набор инструментов, поддерживающий все ИИ-технологии AMD. В том же направлении движется и Intel со своей инициативой oneAPI.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Представлен комплект «всё-в-одном» u-blox XPLR-IOT-1 стоимостью $360, предназначенный для оценки и тестирования различных устройств, проектируемых для Интернета вещей (IoT). Кроме того, с использованием новинки могут создаваться концепт-продукты вроде систем промышленной автоматизации, трекеров и пр.

Основной модуль u-blox NORA-B106 снабжён микроконтроллером Nordic Semi nRF5340 с двумя ядрами Arm Cortex M33 с частотой 128/64 МГц. Поддерживается беспроводная связь Bluetooth 5.2 Low Energy (BLE).

Источник изображений: CNX-Software

Этот модуль служит для управления вспомогательными компонентами. Один из них — блок SARA-R510S, который обеспечивает поддержку сотовой связи LTE-M и NB-IoT.

Ещё один компонент имеет обозначение NINA-W156: с его помощью реализуется беспроводная связь Wi-Fi 4 в частотном диапазоне 2,4 ГГц. Наконец, задействован GNSS-блок MAX-M10S, отвечающий за поддержку BeiDou, Galileo, ГЛОНАСС и GPS.

Для системы предусмотрено наличие ряда сенсоров: датчиков температуры, влажности, давления и освещённости. Кроме того, есть магнитометр, гироскоп и акселерометр. Предусмотрен порт Micro-USB. Габариты составляют 14 × 8 × 3 см.

Как сообщает Financial Times, Deutsche Bank, не афишируя свои действия, произвёл масштабную релокацию высококвалифицированных разработчиков ПО из своих техцентров, расположенных в Москве и Санкт-Петербурге. В России работало около четверти всех IT-специалистов банка — численность локального штат составляла порядка 1,5 тыс. человек. Из них около половины согласились на переезд в Берлин.

Решение о переводе штата было принято после начала украинского конфликта. Компания предложила релокацию каждому сотруднику. В марте Deutsche Bank сообщил о приостановки банковской деятельности в России. Для организации переезда был сформирована команда из примерно 50 человек, которая включала кадровиков, юристов и IT-специалистов. Банк заранее озаботился проведением всех необходимых бюрократических процедур на немецкой стороне, так что процесс хоть и оказался непростым, но в целом прошёл гладко — сотрудники получили возможность работать сразу по прилёте в Берлин.

Изображение: Deutsche Bank

Переезд был организован с соблюдением миграционных законов обеих стран. Все кандидаты прошли специальную проверку, поскольку Deutsche Bank опасался, что среди них могут быть шпионы. Кроме того, была проведена проверка всех исходников ПО, созданных в России. Всего было перевезено около 2 тыс. человек, включая супругов и детей. Также компания по возможности помогла перевезти и домашних животных. Deutsche Bank не сообщил о судьбе сотрудников, оставшихся в РФ, но один из менеджеров заявил, что компания продолжает изучать различные варианты дальнейших действий.

Deutsche Bank открыл свой первый технологический центр в России двадцать лет назад. Создаваемые здесь программные решения для трейдинговой платформы и внутренних корпоративных систем очень важны для компании. Потеря местного штата высококвалифицированных специалистов грозила мгновенными и серьёзными последствиями, из-за чего и была затеяна столь быстрая и массовая релокация. Deutsche Bank отдельно подчеркнул, что никакие важные данные на территории России не хранились и не обрабатывались.

AMD China, китайское подразделение AMD, объявило о заключении соглашения о сотрудничестве с китайским производителем электромобилей NIO. Согласно опубликованному AMD видео, автопроизводитель будет использовать процессоры AMD EPYC 3-го поколения (Milan) для ускорения глубокого обучения, как следствие, сокращения цикла разработки продукта.

Источник: AMD China

Кроме того, NIO будет использовать оборудование AMD для анализа методом конечных элементов (FEA) и CFD-нагрузок (вычислительная гидродинамика), которые нужны для моделирования аварий и формирования аэродинамических моделей. Утверждается, что благодаря новым процессорам EPYC HPC-серверы NIO получат 50-% прирост производительности при решении задач моделирования.

Важно отметить, что процессоры AMD EPYC будут использоваться только для разработки новых решений, а не в автомобилях компании. В настоящее время в авто NIO применяются чипы Qualcomm для бортовой информационно-развлекательной системы, в то время как в системах помощи водителю используются чипы Intel Mobileye и NVIDIA. AMD также является партнёром гоночной команды Mercedes-AMG Petronas Formula One Team, которой поставляет чипы AMD EPYC для CFD-моделирования при проектировании гоночных машин.

UPD 08.06.2022: NIO выступила с критикой AMD China. NIO действительно закупила серверы c процессорами EPYC у стороннего производителя, но AMD в этом процессе никак не участвовала и ни о каком сотрудничестве речи не идёт. Более того, такая возможность даже не обсуждалась. NIO не давала права AMD China использовать информацию о закупке в рекламных целях. AMD убрала пресс-релиз, но рекламный ролик оставила. NIO продолжает настаивать на его удалении.

Словацкая компания Tachyum, разработчик семейства процессоров Prodigy, сообщает о начале приёма предварительных заказов на аппаратное решение Prodigy Evaluation Platform. Эта платформа будет выпущена ограниченной серией в текущем году и станет доступна ряду квалифицированных заказчиков и партнёров.

Решение Prodigy Evaluation представляет собой сервер в форм-факторе 2U, предназначенный для тестирования универсальных чипов Prodigy. Помимо собственно процессора, платформа содержит память DDR5.

Источник изображения: Tachyum

Допускается установка до четырёх высокопроизводительных процессоров Prodigy в различных конфигурациях. Такие чипы, по сути, объединяют возможности CPU, GPU и TPU. Они содержат до 128 ядер, работающих на частоте до 5,7 ГГц. Процессоры подходят для решения различных ресурсоёмких задач в сфере облаков, высокопроизводительных вычислений, ИИ-систем, машинного обучения и пр.

Платформа Prodigy Evaluation использует воздушное охлаждение. Она будет поставляться с прикладным программным обеспечением. Заказы принимаются до 31 июля 2022 года.