Второй крупнейший игрок на рынке программируемых матриц компания Xilinx представил новые ускорители на ПЛИС модели Alveo U50. Ускорители выполнены в формфакторе PCIe-адаптеров с низким профилем и занимают на материнской плате один слот. До этого в семействе продуктов Alveo были представлены лишь двухслотовые модели, требующие дополнительного питания PCIe. Устройства построены на 16-нм чипах с архитектурой FPGA UltraScale+.

Адаптеры Xilinx Alveo U50 питаются исключительно через слот и свободны от подключения дополнительных разъёмов, что, безусловно, означает пониженное потребление и меньшую производительность. Но эти жертвы могут окупиться сполна. Ускорители Alveo U50 можно установить практически в любой сервер, где есть хоть один свободный слот PCIe. Это решение может стать массовым и оказаться тем камешком с горы, который вызовет лавину интереса к продукции Xilinx и экосистеме ИИ-платформ компании. Фактически Alveo U50 могут стать для Xilinx оружием победы, как бы громко это ни звучало.

Отказ от дополнительного питания свёл пиковое потребление адаптера Alveo U50 до 75 Вт или до номинального значения 50 Вт. Тем самым адаптер Xilinx оказался конкурентом NVIDIA Tesla T4 и предназначен для платформ ИИ с функцией принятия решений. Это могут быть как локальные (пограничные) системы, так и облачные. Компания Xilinx активно работает с облачным сервисом Amazon (AWS) и предоставляет драйверы, компиляторы и другие необходимые программные компоненты.

Интерфейс Xilinx Alveo U50 ― это PCI Express 4.0 с поддержкой спецификаций CCIX. В семействе ускорителей Alveo шину PCIe 4.0 и CCIX поддерживает только старшее решение Alveo U280. Это ещё один плюс в копилку преимуществ младшего и, как надеются в Xilinx, массового решения. Другим преимуществом стало использование в качестве бортовой памяти массива HBM2 объёмом 8 Гбайт с пропускной способностью до 460 Гбайт/с. Адаптеры U200 и U250 используют память DDR4, которая дешевле, но не так быстра.

Наконец, адаптеры Alveo U50 поддерживают протокол NVMe-oF. Это означает, что адаптер снимает с процессора задачу по обслуживанию передачи пакетов данных и обеспечивает минимальные задержки при работе с данными ― на уровне обмена с прямым подключением, хотя может находиться удалённо. Сетевой разъём у адаптера, кстати, QSFP28, который позволяет обмениваться данными со скоростью до 100 Гбит/с. Также предусмотрена модификация Alveo U50DD с двумя портами QSFP28. О цене вопроса не сообщается, но будет явно не выше цен на адаптеры NVIDIA Tesla T4.

Gartner прогнозирует быстрое развитие проектов в области искусственного интеллекта (ИИ) и машинного обучения.

Сейчас организации и компании, работающие с платформами ИИ и машинного обучения, реализуют в среднем по четыре проекта в соответствующих сферах. В целом, 59 % респондентов сообщили, что в том или ином виде применяют средства искусственного интеллекта.

В течение следующего года организации, которые уже применяют ИИ, намерены развернуть в среднем ещё по шесть проектов с использованием технологий искусственного интеллекта и машинного обучения. Таким образом, их количество достигнет десяти.

В 2021-м названный показатель, как ожидается, увеличится до 20, то есть вырастет в пять раз по сравнению с текущим годом. А в 2022 году, согласно прогнозам Gartner, организации и компании доведут количество проектов, связанных с ИИ, до 35. Иными словами, данная величина увеличится практически на порядок по сравнению с нынешним годом.

Средства искусственного интеллекта и машинного обучения позволяют автоматизировать выполнение многих рутинных операций, а также ускорить развёртывание новых сервисов и клиентских платформ. 

Исследование, проведённое компанией SAS и Ассоциацией сертифицированных специалистов по расследованию хищений и мошенничества (ACFE), говорит о том, что всё больше компаний и организаций будут применять защитные решения на основе искусственного интеллекта (ИИ) и машинного обучения.

Речь идёт об инструментах нового поколения, предназначенных для борьбы с мошенничеством. ИИ-технологии и машинное обучение позволят повысить эффективность выявления преступных схем и прогнозирования рисков.

В настоящее время антифрод-инструменты на базе ИИ и машинного обучения применяют примерно 13 % организаций. Ещё 25 % компаний, принявших участие в исследовании, намерены внедрить подобные технологии в течение года или двух. Таким образом, к 2021-му около 40 % организаций будут использовать для борьбы с мошенничеством ИИ и машинное обучение.

Сейчас большинство организаций чаще всего пользуются преднастроенными отчётами по ключевым событиям мошенничества с использованием классических инструментов, например, от Microsoft Office. Это стандартный инструмент для 64 % компаний, охваченных исследованием. На втором месте по популярности стоит автоматический мониторинг с использованием экспертных бизнес-правил — его применяют 54 % организаций. Замыкает тройку визуальное исследование данных с использованием инструментов Business intelligence (BI) — 35 %.

Ожидается, что к 2021 году 72 % организаций будут использовать для борьбы с мошенничеством автоматический мониторинг данных, автоматическое обнаружение аномалий и др. Предиктивная аналитика планируется использоваться в 52 % организаций. 

Технологии машинного обучения (ML) позволяют явить миру не только системы распознавания, чем сегодня не занимается только ленивый, но также ведут к появлению решений для сложнейших анализов химических, молекулярных и атомарных структур веществ и материалов. До сих пор подобный анализ вёлся с  использованием знаний и уравнений квантовой механики и физики. Это долгий и трудоёмкий путь, который с помощью технологий ML можно пройти в разы быстрее. Для этого необходимо научить систему анализировать атомную структуру материалов, а не вести длительные расчёты по формулам.

Слева расчёт распределения плотности заряда бензола, справа ― разница между анализом с помощью машинного обучения и расчётом по формулам

Учёные из Технологического института штата Джорджия решили применить методику машинного обучения для анализа атомной структуры материалов, которые используются для производства обычных конденсаторов ― алюминия и полиэтилена. Увеличение потребления энергии ведёт к росту всякого рода силовой электроники, в которой конденсаторы играют немаловажную роль. Эти элементы хотелось бы сделать меньше, а их ёмкость ― больше. Очевидно, что для этого должны быть созданы материалы с заданными свойствами. Машинное обучение может помочь в скорейшем анализе (переборе) массы материалов, на изучение свойств которых традиционными средствами ушло бы непомерно много времени.

Проект по автоматизации анализа атомной структуры материалов включает два этапа расчётов. Первичный, самый быстрый, проходит на базе суперкомпьютера Comet в Сан-Диего (San Diego Supercomputer Center, SDSC), а вторичный ― на суперкомпьютере Stampede Техасского университета в Остине. В систему ML загоняются уже имеющиеся данные по каждому из материалов (алюминию и полиэтилену), рассчитанные с использованием уравнений соответствующего раздела квантовой механики, а учёные наделяют вычислительные платформы алгоритмами, которые учатся имитировать анализ атомной структуры материалов, не прибегая к точным расчётам. Так получается на несколько порядков быстрее, чем использование только квантовой механики.

По мнению учёных, подобным образом можно будет провести быстрый анализ и поиск материалов для любых сфер деятельности человека. Особенно в этом нуждается электронная промышленность, которая приближается к барьеру своих возможностей в виде физических ограничений для техпроцессов КМОП.

Природные катаклизмы ежегодно уносят тысячи жизней и приводят к многомиллиардным убыткам. Причём с каждым годом ситуация только ухудшается. Быстрее и точнее прогнозировать атмосферные явления вскоре поможет новая система на основе технологий искусственного интеллекта (ИИ).

В разработке участвуют специалисты Университета штата Пенсильвания (Penn State), американского провайдера прогнозов погоды AccuWeather и испанского Альмерского университета (University of Almería).

Исследователи применяют фреймворк машинного обучения для обнаружения вращательного движения в структурах облаков, запечатлённых на спутниковых снимках. В частности, алгоритмы ищут образования в форме запятой, которые связаны с такими атмосферными явлениями, как град, грозы и бураны. Для тренировки модели использовались аннотированные вручную снимки — с упором как на форму, так и на параметры движения.

Пример спутникового снимка с атмосферным образованием в форме запятой

В результате, новая модель смогла с точностью до 99 % выявлять атмосферные образования указанного типа со средней скоростью 40 секунд на один прогноз. В целом, система позволяет охватить 64 % всех прогнозов плохой погоды, что превосходит результат для других используемых сейчас моделей. 

Недавно мы писали большой материал, посвящённый июньскому обновлению публичного рейтинга суперкомпьютеров Top 500. В нём, в частности, упоминались проблемы, связанные с оценкой реальной производительности систем. Дело в том, что в список попадают суперкомпьютеры, которые прошли тест High-Performance Linpack (HPL) вне зависимости от того, используются ли они для реальных нагрузок HPC или ИИ. Но есть и другая сторона дела: Linpack оценивает 64-бит производительность систем в вычислениях с плавающей запятой, но многие современные нагрузки в области ИИ не всегда требуют такой точности, и потому реальная производительность может быть заметно выше.

Именно это недавно продемонстрировала Национальная лаборатории Ок-Риджа, протестировав свой суперкомпьютер Summit (текущий лидер среди участников публичного рейтинга Top500, создан IBM при участии NVIDIA и Mellanox) в особом тесте HPL-AI, призванном оценивать производительность суперкомпьютеров в задачах машинного обучения и искусственного интеллекта. В этом тесте Summit набрал 445 петафлопс — втрое больше стабильных 148,6 петафлопс в тесте HPL.

HPL, представленный три десятка лет назад, остаётся эталоном для измерения производительности систем Top500 в задачах HPC. Более современная альтернатива — HPCG Benchmark — пока так и не достигла заветной цифры в 500 участников рейтинга. 

Однако нынешние суперкомпьютеры теперь используются и в сфере «искусственного интеллекта», а не только для классических «тяжёлых» расчётов. При этом в большинстве ИИ-моделей применяются вычисления половинной или смешанной точности — принципиально иной метод, который позволяет исследователям повысить вычислительную эффективность, получив доступ к неиспользованному потенциалу производительности современных суперкомпьютеров.

Чтобы учесть этот фактор и был предложен тест HPL-AI, представляющий собой развитие HPL для оценки производительности вычислений смешанной точности, широко используемых для обучения моделей искусственного интеллекта. Методология HPL-AI изложена в документе, опубликованном на SC 2018 Аззамом Хайдаром (Azzam Haidar), Джеком Донгаррой и его командой.

«Методы смешанной точности становятся все более важными для повышения вычислительной эффективности суперкомпьютеров, как для традиционного моделирования с методами итеративного уточнения, так и для задач ИИ, — отметил господин Донгарра. — Так же, как HPL позволяет сравнивать потенциал систем в вычислениях двойной точности, этот новый подход, основанный на HPL, позволяет сравнивать возможности суперкомпьютеров в задачах смешанной точности».

NVIDIA удалось осуществить весь массив вычислений в рамках тестового запуска HPL-AI на Summit всего за полчаса — втрое быстрее, чем исполняется оригинальный HPL. В ряде задач, как можно видеть, это может давать кратно ощутимое преимущество. Напомним: в Summit используется 27 000 графических ускорителей NVIDIA Tesla V100.

Учёные используют суперкомпьютеры с поддержкой вычислений смешанной точности для моделирования и задач искусственного интеллекта в области химии, атомной энергетики, нефтегазовой промышленности и так далее.

Компания QNAP Systems анонсировала акселераторы серии Mustang, рассчитанные на применение в системах, использующих алгоритмы искусственного интеллекта и машинного обучения.

В семейство вошли два ускорителя — Mustang V100 и Mustang F100. Изделие Mustang V100 объединяет восемь процессоров Intel Movidius Myriad X MA2485. Решение подходит для систем машинного зрения. Акселератор выполнен в виде карты расширения с интерфейсом PCI Express x4. Габариты составляют 169,54 × 80,05 × 23,16 мм.

Ускоритель Mustang F100, в свою очередь, использует перепрограммируемую вентильную матрицу (FPGA) Intel Arria 10 GX1150. В оснащение входят 8 Гбайт памяти DDR4. Для установки акселератора требуется слот PCI Express x8. Размеры — 169,5 × 68,7 × 33,7 мм.

Акселераторы могут использоваться в серверах, настольных компьютерах, рабочих станциях, а также в сетевых хранилищах данных (NAS), допускающих установку карт расширения.

Говорится о совместимости с программными платформами Ubuntu 16.04.3 LTS, CentOS 7.4, Windows 10 и QTS. Информации об ориентировочной цене на данный момент, к сожалению, нет. 

Amazon объявила о публичном запуске Amazon Personalize — службы Amazon Web Services (AWS), которая облегчает разработку систем рекомендаций и персонализации контента для веб-сайтов и мобильных приложений, а также поддерживает настройку воронки продаж. Сейчас сервис доступен в некоторых регионах AWS, включая восток США (Огайо и Северная Вирджиния), запад США (Орегон), Азиатско-Тихоокеанский регион (Токио, Сингапур) и ЕС (Ирландия). В ближайшее время Amazon планирует добавить поддержку для других регионов.

«Мы рады поделиться с клиентами AWS нашим опытом, накопленным в течение двух десятилетий использования машинного обучения для предоставления качественного сервиса на Amazon.com, — сказал вице-президент AWS по машинному обучению Свами Сивасубраманян (Swami Sivasubramanian).  — Клиенты давно спрашивали нас о Amazon Personalize, и теперь мы с нетерпением хотим увидеть, как они используют этот сервис, чтобы порадовать своих пользователей. Самое впечатляющее то, что использование наших сервисов на базе искусственного интеллекта, таких как Amazon Personalize, не требует никакого опыта в машинном обучении, чтобы немедленно начать обучать, настраивать и развёртывать модель в соответствии с требованиями бизнеса».

Amazon запустила новый сервис AWS — Personalize, данная служба поможет даже при отсутствии опыта работы с ИИ, использовать всю мощь машинного обучения, чтобы на лету формировать рекомендации и персонализированный контент для клиентов

Personalize был анонсирован ещё в прошлом году на конференции Amazon re.Invent. Он представляет собой полностью управляемую службу, которая обучает, настраивает и развёртывает пользовательские модели машинного обучения в облаке, формируя необходимую инфраструктуру и управляя такими вещами, как обработка данных, извлечение функций, обучение алгоритмов и их оптимизация, а также хостинг. Клиенты предоставляют сервису данные об активности пользователей в их приложениях или на веб-сайтах (например, клики, просмотры страниц, регистрации и покупки), в дополнение к инвентаризации элементов, которые они хотят рекомендовать (например, статьи, продукты, видео или музыка) и демографической информации (например, возраст или географическое положение). Получив всю эту информацию, Personalize при помощи специального API формирует необходимые рекомендации по товарами и услугам для каждого из клиентов.

Такие компании, как Domino’s, Yamaha, Subway, видеохостинг Spuul и свадебная компания Zola уже используют Personalize для формирования списка предпочитаемых блюд и рекомендаций по ингредиентам, выбора музыкальных инструментов и разработки индивидуального стиля.

«С тысячами фильмов и телепередач в нашем каталоге предоставить зрителям наиболее интересный для них контент — это непростая задача. Чтобы обеспечить более быстрый и эффективный доступ к контенту, мы хотим предоставить нашим пользователям сервис рекомендаций высочайшего качества, отвечающие их интересам и предпочтениям. Amazon Personalize позволил нам легко и быстро запустить сервис персональных рекомендаций, несмотря на то, что ранее у нашей команды не было опыта работы с искусственным интеллектом и машинным обучением. Нам понадобилось всего 3 дня, чтобы разобраться в этом сервисе Amazon и создать первый набор данных, чтобы сформировать рекомендации. Теперь мы можем предоставить каждому зрителю уникальный опыт видеопросмотра», — поделился Даниэль Мюллер (Daniel Muller), руководитель облачной инфраструктуры Spuul.

За последние десять лет жизнь изрядно потрепала архитектуру MIPS. Десять лет назад она начала резко терять популярность на волне интереса к архитектуре ARM и в 2012 году была приобретена компанией Imagination Technologies. Но и с Imagination не сложилось. В 2017 году компания Apple заявила об отказе от графических ядер PowerVR и, тем самым, обанкротила Imagination и пустила по миру разработки MIPS. В 2018 году патенты MIPS и наборы команд купила молодая компания Wave Computing, которая специализировалась не на процессорах, а на ускорителях ИИ. Наконец, в конце 2018-го компания Wave Computing объявляет о планах сделать архитектуру MIPS свободной от лицензирования и уже в марте этого года выпускает первый бесплатный релиз MIPS R6. Но и о себе Wave не забыла. На днях компания выпустила лицензированный продукт TritonAI, который поможет сделать процессоры на архитектуре MIPS умными и обучаемыми.

Поскольку архитектура MIPS в основном ориентирована на периферийные платформы, что не исключает её масштабирование до уровня ЦОД, пакет TritonAI ориентирован в первую очередь на периферийные (пограничные) обучаемые системы и системы с функцией принятия решений. Сама архитектура MIPS при этом остаётся свободной от лицензирования в пределах представленных релизов, хотя определённые ядра компания Wave Computing будет также распространять на условиях лицензии.

Благодаря фирменной технологии WaveFlow платформа TritonAI будет поддерживать произвольные ИИ-алгоритмы, что делает её весьма гибким решением. В общем случае разработчик обещает поддержку ускорения вычислений как целочисленных данных 8/16/32/int, так и bfloat16, а также 32 FP. По умолчанию TritonAI поддерживает ускорение работы ИИ фрейморка Google TensorFlow в ОС Linux. Возможно портирование других фреймворков, например, Caffe2. Для 8-битных целочисленных операций производительность достигает одного PetaTOP на одном ядре в комбинациях матриц 4 × 4 или 8 × 8 для запуска ускорения работы алгоритмов популярных свёрточных нейронных сетей (Convolutional Neural Network, CNN). В рамках 7-нм техпроцесса исполнение CNN на платформе TritonAI может масштабироваться до 8 TOPS/Вт и обеспечить свыше 10 TOPS/мм² на типичном техпроцессе с обычным вольтажом.

Что касается изменения масштабов платформы, то она допускает работу на массиве от 1 до 6 ядер MIPS с аппаратной поддержкой до 4 автономных вычислительных потоков на каждое ядро. Это масштаб изменения от пограничного устройства, например, из разряда вещей с подключением к Интернету до ускорителей в центрах по обработке данных. Архитектура ядер бесплатна, ИИ за деньги. Это формула успеха? Посмотрим.

Компания SAS объявила о заключении соглашения о сотрудничестве с NVIDIA, предусматривающего развитие технологий искусственного интеллекта (ИИ).

В частности, стороны займутся совместными разработками в сфере машинного обучения, компьютерного зрения и обработки естественного языка.

«Графические процессоры и библиотеки CUDA-X AI от NVIDIA усилят решения на основе искусственного интеллекта от SAS, что позволит повысить скорость обработки данных и сделать их анализ ещё более точным», — отмечается в сообщении партнёров.

В настоящее время системы искусственного интеллекта являются одним из наиболее перспективных направлений развития рынка информационных технологий. Такие платформы востребованы в самых разных сферах — в здравоохранении и фармацевтике, в промышленности, финансах и пр.

Компании, работающие в указанных областях, благодаря сотрудничеству SAS и NVIDIA получат ряд новых преимуществ. Например, медицинские специалисты смогут использовать технологию распознавания объектов, чтобы отличить доброкачественные опухоли от злокачественных. Промышленным предприятиям компьютерное зрение поможет увидеть скрытый брак прямо на конвейере, а финансовые организации сэкономят миллиарды долларов благодаря своевременному обнаружению мошеннических операций.

Новые технологии позволят решать задачи по классификации и распознаванию изображений, обнаружению объектов, перевода речи в текст, определению эмоций и др. Всё это будет способствовать развитию рынка Интернета вещей.