Облачный сервис AWS объявил о доступности EC2-инстансов X2gd. Новые инстансы на базе разработанных AWS ARM-процессоров Graviton2 обеспечивают до 55 % лучшее соотношение цены и производительности по сравнению с инстансами на базе архитектуры x86 текущего поколения Intel, а также предлагают увеличенный объем памяти на один vCPU по сравнению с другими инстансами на базе Graviton2.

Инстансы X2gd обеспечивают самую низкую стоимость гигабайта памяти среди всех инстансов Amazon EC2 и позволяют более эффективно выполнять такие рабочих нагрузок, как базы данных в памяти (например, Redis, Memcached и т. д.), реляционные базы данных (например, MySQL, PostGreSQL и т. д.), хранилища данных (например, Amazon Redshift), кеширование и автоматизация электронного проектирования (EDA).

Кроме того, по мере того, как все больше клиентов запускают контейнеры на AWS для обеспечения переносимости приложений и повышения эффективности инфраструктуры, экземпляры X2gd также позволяют им использовать контейнерные приложения с большим объёмом памяти в одном инстансе, чтобы снизить общую стоимость владения.

Инстансы Amazon EC2 на базе процессоров AWS Graviton2 начали предлагаться в мае 2020 года. Сейчас уже многие популярные решения AWS, включая Elastic Container Service, Elastic Container Registry, Elastic Kubernetes Service, CodeBuild, CodeCommit, CodePipeline, CodeDeploy, CloudWatch, ElastiCache и Elastic Map Reduce поддерживают Graviton2 для предоставления клиентам услуг с улучшенным соотношения цены к производительности.

X2gd присоединяются к растущему портфелю EC2-инстансов на базе AWS Graviton2: M6g/M6gd, C6g/C6gd/C6gn, R6g/R6gd и T4g. Инстансы X2gd доступны для повременной оплаты, с тарифом Savings Plans, как зарезервированные (RI) или как спотовые инстансы (SI). Экземпляры X2gd первоначально доступны в регионах США (Северная Вирджиния, Огайо, Орегон) и Европы (Ирландия). Чуть позже в этом году они будут доступны и в других регионах.

Вторжение архитектуры ARM в мир современных высокоплотных центров обработки и хранения данных оказалось успешным: в настоящее время AWS активно использует процессоры Graviton2, а Ampere начала поставки чипов Altra, показавших себя не хуже AMD EPYC второго поколения. Обе реализации серверных ARM-процессоров показывают в среднем лучшую в сравнении с x86-64 энергоэффективность, но как они проявят себя в прямом столкновении между собой?

Вкратце напомним: платформа Ampere Altra является открытой: процессоры имеют свой разъём LGA 4926, тогда как AWS Graviton2 хотя и базируются на той же архитектуре ARM Neoverse N1, но сторонним заказчикам не поставляются — воспользоваться можно лишь облачными инстансами, запускаемыми на системах с этими ЦП.

Ядер больше у Altra (80 против 64), но оба процессора не имеют поддержки SMT. В тактовых частотах преимущество также у Altra: 64-ядерный инстанс AWS m6g.metal имеет фиксированную частоту 2,5 ГГц, а у процессоров Altra Quicksilver Q80-33 она может достигать 3,3 ГГц. Кроме того, доступны конфигурации с двумя процессорными разъёмами, обеспечивающими суммарно 160 ядер. Тем не менее, результаты тестов представляют существенный интерес: столь серьёзные реализации архитектуры ARM столкнулись друг с другом впервые.

Полностью с обзором можно ознакомиться на сайте Phoronix, мы же рискнём выделить отдельные, на наш взгляд, наиболее интересные результаты. Так, в тесте HPCG победу одержала реализация Ampere, но при равном активном количестве ядер превосходство над Graviton2 составило лишь около 5%, и это с учётом возможности ядер Quicksilver разгоняться до 3,3 ГГц. Зато эта же возможность очень помогла процессорам Ampere одержать убедительную победу в тестах на сжатие данных.

Тест Stream показал чуть более высокий результат на платформе Graviton2, но разница столь незначительна, что её можно не принимать во внимание. А вот в Coremark 1.0, наборе тестов, созданном специально для оценки вычислительных способностей процессоров, Altra Quicksilver одерживает безоговорочную победу. Даже при равном с Graviton2 количестве активных ядер разница довольно серьёзна, а в 80-ядерном режиме Altra Q80-33 не оставляет процессору AWS ни шанса. И это же можно сказать про тесты с трассировкой лучей.

Ampere Altra Quicksilver: лучшая серверная платформа с архитектурой ARM

В остальных тестах картина схожая, либо не столь зависящая от количества активных ядер у Altra. Но Graviton2 не удалось выиграть нигде. Впрочем, это не значит, что решение AWS хуже: оба процессора базируются на дизайне ядер ARM Neoverse N1, но Graviton2 работает на существенно более низкой частоте и, по всей видимости, его проигрыш на 9/10 объясняется этой причиной. В целом же, ARM-платформа Ampere выглядит интереснее: она доступна и в виде классических серверов, а не только как облачная услуга, кроме того, в двухпроцессорной конфигурации со 160 ядрами платформа Mount Jade обеспечивает великолепную производительность.

Стив Робертс (Steve Roberts) из Amazon Web Services (AWS) сообщил о том, что вскоре будут доступны новые инстансы Amazon Elastic Compute Cloud (EC2) в семействе инстансов G4, которые позволят повысить производительность и снизить затраты на рабочие нагрузки с интенсивным использованием графики, такие как потоковая передача игр, анимация и рендеринг видео. До этого самыми экономичными инстансами компании на базе GPU в EC2 были инстансы G4dn, выпущенные в 2019 году и оснащенные ускорителями NVIDIA T4.

Инстансы G4ad используют новейшие GPU AMD Radeon Pro V520 и процессоры EPYC 2-го поколения, и являются первыми в EC2, оснащенными GPU AMD. Они идеально подходят для развёртывания моделей машинного обучения в производственной среде, а также для приложений с интенсивным использованием графики. Доступны инстансы трех размеров: от G4ad.4xlarge с 1 графическим процессором до G4ad.16xlarge с 4 графическими процессорами, как указано ниже.

По сравнению с G4dn новые экземпляры G4ad на 45 % лучше по соотношению цены и производительности для рабочих нагрузок с интенсивным использованием графики, включая вышеупомянутую потоковую передачу игр, удалённые графические рабочие станции и сценарии рендеринга. По сравнению с экземпляром G4dn такого же размера, экземпляры G4ad обеспечивают повышение производительности до 40 %.

Следует отметить, что экземпляры G4dn по-прежнему будут лучшим вариантом для машинного обучения (ML) в малом масштабе и для задач инференса благодаря тензорным ядрам. Кроме того, экземпляры G4dn по-прежнему лучше всего подходят для приложений, которым требуется доступ к библиотекам NVIDIA, таким как CUDA, CuDNN и NVENC. Однако, когда нет зависимости от библиотек NVIDIA, AWS рекомендует клиентам попробовать экземпляры G4ad, чтобы воспользоваться преимуществами лучшего соотношения цены и производительности.

Графические процессоры AMD Radeon Pro V520 поддерживают API DirectX 11/12, Vulkan 1.1 и OpenGL 4.5. В качестве операционных систем клиенты могут выбирать из Windows Server 2016/2019, Amazon Linux 2, Ubuntu 18.04.3 и CentOS 7.7. Инстансы G4ad будут доступны с повременной тарификацией и в качестве зарезервированных или спотовых инстансов. Новые экземпляры G4ad вскоре будут доступны в регионах US East (Северная Виргиния), US West (Орегон) и Европа (Ирландия).

Следующий «железный» анонс касается инстансов на базе Intel Xeon — компания объявила о запуске экземпляров M5zn, которые будут предложены в семи размерах. В них используются специальные процессоры Cascade Lake, все ядра в которых могут работать устоявшейся частотой до 4,5 ГГц. M5zn являются разновидностью вариантом инстансов M5 общего назначения и базируются на Nitro System. Эти экземпляры оснащены сетью со скоростью передачи данных 100 Гбит/с с низкой задержкой и адаптером Elastic Fabric (EFA) для повышения производительности при выполнении высокопроизводительных вычислений и запуске приложений с интенсивным обменом данными. Все экземпляры M5zn приведены в таблице ниже.

Гипервизор Nitro позволяет инстансам M5zn обеспечивать производительность, практически неотличимую от инстансов bare-metal. Другие компоненты системы AWS Nitro System, такие как Nitro Security Chip и аппаратная обработка EBS, повышают производительность, а шифрование VPC обеспечивает больше безопасности. Новые инстансы уже доступны в ряде регионов США, а также в регионах Европа (Ирландия и Франкфурт-на-Майне) и Азия (Токио).

Кроме того, AWS сообщила о пополнении портфолио Graviton2 на базе Arm-чипов инстансами C6gn, которые обеспечивают пропускную способность сети до 100 Гбит/с, скорость работы с томами EBS до 38 Гбит/с, повышение производительности обработки пакетов до 40 % и улучшение соотношения цены и производительности на 40 % по сравнению с сопоставимыми экземплярами на процессорах x86. Инстансы C6gn будут доступны в 8 размерах:

Amazon Web Services (AWS) решила использовать свои процессоры Gaviton2 на базе Arm по умолчанию для сервиса ElastiCache. ElastiCache от AWS позволяет пользователям создавать хранилища Redis или Memcached в облачных сервисах Amazon. Данный шаг очень своевременный и оправданный, ниже мы объясним почему.

Еще в декабре 2019 года AWS протестировала Memcached на Arm и обнаружила, что производительность выше на 43%, а задержки существенно меньше, поэтому запуск ElastiCache на собственном процессоре Graviton2 был делом времени. Чуть менее года потребовалось AWS, чтобы выполнить задуманное и теперь в инстансах M6g и R6g на базе Graviton2 поддерживается ElastiCache, что обеспечивает ему преимущество в производительности до 45% по сравнению с инстансами предыдущего поколения.

AWS продвигает ElastiCache на базе Graviton2 в качестве обновления на том основании, что он быстрее и предлагает более широкую пропускную способность сети, чем сопоставимые инстансы на базе x86. По умолчанию на новых инстансах установлена последняя версия Amazon Linux 2, при этом поддерживается последние версии Redis и Memcached с возможностью бесшовного обновления с экземпляров предыдущего поколения, что облегчает миграцию на новые инстансы.

ElastiCache — отличный пример, когда AWS ведет себя больше как поставщик SaaS, чем поставщик облачных услуг, при этом процессор, который используется для данной услуги, не имеет определяющего значение, если клиенты получают необходимое программное обеспечение и производительность в рамках заявленной цены за услугу. Например, такие компании, как Salesforce, никогда не раскрывают, на какой аппаратной платформе они работают.

Теперь AWS сообщает своим клиентам, что может предоставить превосходный сервис с помощью собственного процессора. Это повышает вероятность того, что AWS расширит подобную практику и для других рабочих нагрузок. Intel и AMD это явно не понравится, потому что на данный момент альтернативные архитектуры не применяются массово и не составляют им конкуренцию, однако ситуация может измениться коренным образом, если практика, подобная AWS будет использоваться другими крупными операторами облачных услуг.

Amazon Web Services, представитель Большой Тройки крупнейших поставщиков облачных услуг, продолжает активно развивать экосистему предложений на базе собственного процессора Graviton2 с архитектурой ARM. Ещё в середине мая AWS представила инстансы EC2 M6g на базе Graviton2, а теперь расширяет их семейство, анонсировав новые инстансы M6gd, R6gd и C6gd.

AWS Graviton2: 64 ядра, 32 Мбайт кеша L3, однако поддержки SMT нет

В предыдущих вариантах за хранение данных отвечало фирменное блочное хранилище Amazon Elastic Block Store (EBS). Назвать его медленным нельзя, да и скорости сетевых каналов предлагались солидные, до 25 Гбит/с, но всё же некоторые задачи требуют СХД с более быстрым доступом и меньшим уровнем задержек. Поэтому главной особенностью новых инсансов с литерой d в названии стало наличие локального твердотельного хранилища с интерфейсом NVMe.

Когда речь заходит об удельной производительности, Grativon2 оставляет в пыли и Intel Xeon, и AMD EPYC. Источник: AnandTech

По словам компании, это лучшие предложения на рынке: соотношение цены к производительности лучше на 40%, а объёма SSD-хранилища в пересчёте на Гбайт/vCPU — на 50% выше, нежели у конкурентов. D-инстансы доступны в восточном и западном регионах США, а также в европейской Ирландии. Объём NVMe-хранилища может варьироваться в пределах 59 ‒ 1900 Гбайт.

Как уже упоминалось, основной платформой остаётся ARM-процессор Graviton2 собственной разработки Amazon, уже доказавший свою жизнеспособность великолепным соотношением цена/производительность. У инстансов на базе Graviton2 есть собственный репозиторий, где AWS помогает оптимизировать задачи и приложения пользователей под новую архитектуру. Доступен также полноценный SDK.

Мы уже писали про анонс новых инстансов от Amazon Web Services (AWS) на базе ARM-процессоров Graviton второго поколения, которые интересны тем, производятся по 7-нм технологии и обладают  64 ядрами Neoverse N1, каждое из которых имеет кэш 2 уровня в 1 Мбайт, а сам чип имеет 32 Мбайт общего кэша 3 уровня.

Теперь же AWS официально представила восемь вариантов инстансов EC2 M6g, которые могут предложить пользователям от 1 до 64 vCPU и объем памяти от 4 до 256 ГБайт.

Новый тип виртуальных машин лучше всего подойдет для микросервисов, небольших хранилищ данных, игровых серверов. Очень хорошо о новых инстансах M6g отозвалась Netflix: «Мы протестировали новые экземпляры серверов с использованием отраслевого стандарта LMbench и набора тестов Java и увидели улучшение на 50%, по сравнению с экземплярами M5» (экземпляры M5 работают на заказных процессорах Intel Xeon Platinum 8175M).

Теперь у AWS есть свой собственный процессор, который она разрабатывала под конкретные задачи, поэтому он эффективнее Intel Xeon в некоторых приложениях.

Серия M — это вычислительные узлы общего назначения, спрос на которые крайне высок. AWS в ближайшие месяцы планирует представить высокопроизводительную серию C и оптимизированную под большой объем памяти серию R. Также анонсированы инстансы с блочным NVMe-хранилищем для задач, требующих быстрой дисковой подсистемы с низкими задержками (например, биллинг).

Сравнение инстансов двух поколений AWS Graviton (цены для региона eu-central-1)

Есть во всей этой красивой истории и «ложка дегтя» — пока код вашего ПО не оптимизирован под ARM Graviton, он будет работать медленно, или не сможет работать вовсе. Это большая проблема, т.к. экосистема ПО, написанного для процессоров Intel и x86 вообще, огромна. Лишь немногие корпоративные продукты портированы на ARM, причем качество этого портирования может быть очень разным.

Несмотря на все сложности, у архитектуры ARM большое будущее, а Netflix лишь одна из первых компаний, оценивших выгоду новых инстансов M6g, поэтому запуск не только процессора, а уже готового продукта AWS является заметной вехой в эволюции ARM-систем. 

Первые попытки Amazon в сфере использования альтернативных процессоров в облачных вычислениях оказались не слишком удачны. Инстансы на базе ARM-чипов Graviton высокой производительностью не блеснули. Однако ещё в декабре прошлого года компания анонсировала новое поколение собственных процессоров — Graviton2 с архитектурой ARM Neoverse N1.

В ближайшее время AWS планирует сделать инстансы с новыми ЦП доступными всем клиентам, а пока нашим коллегам с ресурса AnandTech удалось провести предварительное их тестирование.

AWS Graviton2 с точки зрения системы. Источник: AnandTech

Об особенностях Graviton2 уже рассказано в заметке, посвящённой их анонсу. Новый тип инстанса AWS EC2 на их базе носит название M6g, доступны конфигурации с количеством vCPU от 1 до 128 — это больше, нежели у предложений на базе x86, где данный параметр ограничен 96. Физически новая платформа использует один разъём с одним 64-ядерным процессором, при этом, заказчик получает 64 физических ядра, в то время, как с x86 он может получить 32 ядра с поддержкой SMT.

Архитектура Neoverse N1 отличается высокой энергоэффективностью. Источник: AnandTech

В тестировании наряду с M6g приняли участие инстансы m5n (Intel Xeon Platinum 8259CL, 24 ядра с SMT, два процессора, 2,9 ‒ 3,2 ГГц, AVX512, 6 × DDR42933, 2 узла NUMA) и M5a (AMD EPYC 7571, 32 ядра с SMT, один процессор, 2,5 ‒ 2,9 ГГц, AVX2, 8 × DDR4-2666, 4 узла NUMA). У M6g 64 физических ядра, нет SMT и фиксированная частота, составляющая 2,5 ГГц. Контроллер памяти, как и у AMD, восьмиканальный, но используются модули с частотой 3200 МГц, а отсутствие NUMA должно положительно сказаться на производительности в некоторых сценариях.

Graviton2 использует топологию типа «сеть» (mesh).  Источник: AnandTech

Уже на тестах латентности подсистемы памяти новые Graviton2 показали себя неплохо — сопоставимо с AMD EPYC,. Полученный результат, составивший 81 наносекунду, отлично согласуется с заявленными AWS 83 наносекундами. В тестах SPECint и SPECfp Graviton2 продемонстрировал, что может на равных состязаться с EPYC, а иногда и заметно превосходить его.

Graviton2 уничтожает x86 своей низкой стоимостью эксплуатации. Источник: AnandTech

А вот с масштабированием возникли некоторые вопросы. В некоторых сценариях Graviton2 просто не хватило поддержки «широких» SIMD, чем может похвастаться Xeon Scalable. При использовании большого количества потоков сказывалась также нехватка пропускной способности памяти. Настоящий реванш новинка показала при оценке стоимости и удельной производительности, оказавшись на 40 ‒ 50% более выгодной, нежели платформы Intel и AMD.

...и добивает удельным уровнем производительности в пересчёте на доллар.  Источник: AnandTech

В целом, отмечают исследователи AnandTech, платформа AWS Graviton2 показала себя пусть не идеально, но весьма неплохо: ей, пожалуй, не хватает объёма кеша L3 (32 Мбайт на 64 ядра) и не мешало бы оптимизировать подсистему памяти, добавив, возможно, больше каналов. Но с точки зрения экономической эффективности новые инстансы не имеют равных, и когда они станут доступными широкому кругу заказчиков, резон оставаться на x86 будет только один — жёсткая привязка клиентского ПО к архитектуре процессора.

Будущее архитектуры ARM в облачных системах уже сейчас выглядит достаточно безоблачно, тем более что в 2022 году Amazon обещает представить ЦП следующего поколения под кодовым названием Matterhorn. Детально ознакомиться с результатами тестирования можно на сайте AnandTech.