Amazon Web Services (AWS) решила использовать свои процессоры Gaviton2 на базе Arm по умолчанию для сервиса ElastiCache. ElastiCache от AWS позволяет пользователям создавать хранилища Redis или Memcached в облачных сервисах Amazon. Данный шаг очень своевременный и оправданный, ниже мы объясним почему.

Еще в декабре 2019 года AWS протестировала Memcached на Arm и обнаружила, что производительность выше на 43%, а задержки существенно меньше, поэтому запуск ElastiCache на собственном процессоре Graviton2 был делом времени. Чуть менее года потребовалось AWS, чтобы выполнить задуманное и теперь в инстансах M6g и R6g на базе Graviton2 поддерживается ElastiCache, что обеспечивает ему преимущество в производительности до 45% по сравнению с инстансами предыдущего поколения.

AWS продвигает ElastiCache на базе Graviton2 в качестве обновления на том основании, что он быстрее и предлагает более широкую пропускную способность сети, чем сопоставимые инстансы на базе x86. По умолчанию на новых инстансах установлена последняя версия Amazon Linux 2, при этом поддерживается последние версии Redis и Memcached с возможностью бесшовного обновления с экземпляров предыдущего поколения, что облегчает миграцию на новые инстансы.

ElastiCache — отличный пример, когда AWS ведет себя больше как поставщик SaaS, чем поставщик облачных услуг, при этом процессор, который используется для данной услуги, не имеет определяющего значение, если клиенты получают необходимое программное обеспечение и производительность в рамках заявленной цены за услугу. Например, такие компании, как Salesforce, никогда не раскрывают, на какой аппаратной платформе они работают.

Теперь AWS сообщает своим клиентам, что может предоставить превосходный сервис с помощью собственного процессора. Это повышает вероятность того, что AWS расширит подобную практику и для других рабочих нагрузок. Intel и AMD это явно не понравится, потому что на данный момент альтернативные архитектуры не применяются массово и не составляют им конкуренцию, однако ситуация может измениться коренным образом, если практика, подобная AWS будет использоваться другими крупными операторами облачных услуг.

Amazon Web Services, представитель Большой Тройки крупнейших поставщиков облачных услуг, продолжает активно развивать экосистему предложений на базе собственного процессора Graviton2 с архитектурой ARM. Ещё в середине мая AWS представила инстансы EC2 M6g на базе Graviton2, а теперь расширяет их семейство, анонсировав новые инстансы M6gd, R6gd и C6gd.

AWS Graviton2: 64 ядра, 32 Мбайт кеша L3, однако поддержки SMT нет

В предыдущих вариантах за хранение данных отвечало фирменное блочное хранилище Amazon Elastic Block Store (EBS). Назвать его медленным нельзя, да и скорости сетевых каналов предлагались солидные, до 25 Гбит/с, но всё же некоторые задачи требуют СХД с более быстрым доступом и меньшим уровнем задержек. Поэтому главной особенностью новых инсансов с литерой d в названии стало наличие локального твердотельного хранилища с интерфейсом NVMe.

Когда речь заходит об удельной производительности, Grativon2 оставляет в пыли и Intel Xeon, и AMD EPYC. Источник: AnandTech

По словам компании, это лучшие предложения на рынке: соотношение цены к производительности лучше на 40%, а объёма SSD-хранилища в пересчёте на Гбайт/vCPU — на 50% выше, нежели у конкурентов. D-инстансы доступны в восточном и западном регионах США, а также в европейской Ирландии. Объём NVMe-хранилища может варьироваться в пределах 59 ‒ 1900 Гбайт.

Как уже упоминалось, основной платформой остаётся ARM-процессор Graviton2 собственной разработки Amazon, уже доказавший свою жизнеспособность великолепным соотношением цена/производительность. У инстансов на базе Graviton2 есть собственный репозиторий, где AWS помогает оптимизировать задачи и приложения пользователей под новую архитектуру. Доступен также полноценный SDK.

Мы уже писали про анонс новых инстансов от Amazon Web Services (AWS) на базе ARM-процессоров Graviton второго поколения, которые интересны тем, производятся по 7-нм технологии и обладают  64 ядрами Neoverse N1, каждое из которых имеет кэш 2 уровня в 1 Мбайт, а сам чип имеет 32 Мбайт общего кэша 3 уровня.

Теперь же AWS официально представила восемь вариантов инстансов EC2 M6g, которые могут предложить пользователям от 1 до 64 vCPU и объем памяти от 4 до 256 ГБайт.

Новый тип виртуальных машин лучше всего подойдет для микросервисов, небольших хранилищ данных, игровых серверов. Очень хорошо о новых инстансах M6g отозвалась Netflix: «Мы протестировали новые экземпляры серверов с использованием отраслевого стандарта LMbench и набора тестов Java и увидели улучшение на 50%, по сравнению с экземплярами M5» (экземпляры M5 работают на заказных процессорах Intel Xeon Platinum 8175M).

Теперь у AWS есть свой собственный процессор, который она разрабатывала под конкретные задачи, поэтому он эффективнее Intel Xeon в некоторых приложениях.

Серия M — это вычислительные узлы общего назначения, спрос на которые крайне высок. AWS в ближайшие месяцы планирует представить высокопроизводительную серию C и оптимизированную под большой объем памяти серию R. Также анонсированы инстансы с блочным NVMe-хранилищем для задач, требующих быстрой дисковой подсистемы с низкими задержками (например, биллинг).

Сравнение инстансов двух поколений AWS Graviton (цены для региона eu-central-1)

Есть во всей этой красивой истории и «ложка дегтя» — пока код вашего ПО не оптимизирован под ARM Graviton, он будет работать медленно, или не сможет работать вовсе. Это большая проблема, т.к. экосистема ПО, написанного для процессоров Intel и x86 вообще, огромна. Лишь немногие корпоративные продукты портированы на ARM, причем качество этого портирования может быть очень разным.

Несмотря на все сложности, у архитектуры ARM большое будущее, а Netflix лишь одна из первых компаний, оценивших выгоду новых инстансов M6g, поэтому запуск не только процессора, а уже готового продукта AWS является заметной вехой в эволюции ARM-систем. 

Первые попытки Amazon в сфере использования альтернативных процессоров в облачных вычислениях оказались не слишком удачны. Инстансы на базе ARM-чипов Graviton высокой производительностью не блеснули. Однако ещё в декабре прошлого года компания анонсировала новое поколение собственных процессоров — Graviton2 с архитектурой ARM Neoverse N1.

В ближайшее время AWS планирует сделать инстансы с новыми ЦП доступными всем клиентам, а пока нашим коллегам с ресурса AnandTech удалось провести предварительное их тестирование.

AWS Graviton2 с точки зрения системы. Источник: AnandTech

Об особенностях Graviton2 уже рассказано в заметке, посвящённой их анонсу. Новый тип инстанса AWS EC2 на их базе носит название M6g, доступны конфигурации с количеством vCPU от 1 до 128 — это больше, нежели у предложений на базе x86, где данный параметр ограничен 96. Физически новая платформа использует один разъём с одним 64-ядерным процессором, при этом, заказчик получает 64 физических ядра, в то время, как с x86 он может получить 32 ядра с поддержкой SMT.

Архитектура Neoverse N1 отличается высокой энергоэффективностью. Источник: AnandTech

В тестировании наряду с M6g приняли участие инстансы m5n (Intel Xeon Platinum 8259CL, 24 ядра с SMT, два процессора, 2,9 ‒ 3,2 ГГц, AVX512, 6 × DDR42933, 2 узла NUMA) и M5a (AMD EPYC 7571, 32 ядра с SMT, один процессор, 2,5 ‒ 2,9 ГГц, AVX2, 8 × DDR4-2666, 4 узла NUMA). У M6g 64 физических ядра, нет SMT и фиксированная частота, составляющая 2,5 ГГц. Контроллер памяти, как и у AMD, восьмиканальный, но используются модули с частотой 3200 МГц, а отсутствие NUMA должно положительно сказаться на производительности в некоторых сценариях.

Graviton2 использует топологию типа «сеть» (mesh).  Источник: AnandTech

Уже на тестах латентности подсистемы памяти новые Graviton2 показали себя неплохо — сопоставимо с AMD EPYC,. Полученный результат, составивший 81 наносекунду, отлично согласуется с заявленными AWS 83 наносекундами. В тестах SPECint и SPECfp Graviton2 продемонстрировал, что может на равных состязаться с EPYC, а иногда и заметно превосходить его.

Graviton2 уничтожает x86 своей низкой стоимостью эксплуатации. Источник: AnandTech

А вот с масштабированием возникли некоторые вопросы. В некоторых сценариях Graviton2 просто не хватило поддержки «широких» SIMD, чем может похвастаться Xeon Scalable. При использовании большого количества потоков сказывалась также нехватка пропускной способности памяти. Настоящий реванш новинка показала при оценке стоимости и удельной производительности, оказавшись на 40 ‒ 50% более выгодной, нежели платформы Intel и AMD.

...и добивает удельным уровнем производительности в пересчёте на доллар.  Источник: AnandTech

В целом, отмечают исследователи AnandTech, платформа AWS Graviton2 показала себя пусть не идеально, но весьма неплохо: ей, пожалуй, не хватает объёма кеша L3 (32 Мбайт на 64 ядра) и не мешало бы оптимизировать подсистему памяти, добавив, возможно, больше каналов. Но с точки зрения экономической эффективности новые инстансы не имеют равных, и когда они станут доступными широкому кругу заказчиков, резон оставаться на x86 будет только один — жёсткая привязка клиентского ПО к архитектуре процессора.

Будущее архитектуры ARM в облачных системах уже сейчас выглядит достаточно безоблачно, тем более что в 2022 году Amazon обещает представить ЦП следующего поколения под кодовым названием Matterhorn. Детально ознакомиться с результатами тестирования можно на сайте AnandTech.