Материалы по тегу: aws

03.08.2024 [00:33], Владимир Мироненко

AWS увеличила выручку на 19 %​, но по-прежнему отстаёт по темпам роста от Microsoft Azure и Google Cloud

Компания Amazon.com, Inc. объявила результаты II квартала 2024 года, завершившегося 30 июня 2024 года. В связи с более низким, чем прогнозировали аналитики Уолл-стрит доходом, а также слабым прогнозом, акции компании упали на 6 % на расширенных торгах. Тем не менее, компания продолжает вкладывать всё больше средств в развитие облачной инфраструктуры, в том числе для ИИ-нагрузок.

Выручка Amazon составила $147,98 млрд, превысив на 10 % показатель аналогичного периода прошлого года, равный $134,38 млрд. Вместе с тем выручка оказалась ниже консенсус-прогноза аналитиков, опрошенных LSEG, в размере $148,56 млрд. Операционная прибыль компании выросла до $14,67 млрд с $7,68 млрд годом ранее. Чистая прибыль увеличилась с $6,75 млрд ($0,65 на разводнённую акцию) в прошлом году до $13,48 млрд ($1,26 на разводнённую акцию) при консенсус-прогнозе аналитиков Уолл-стрит $1,03 на разводнённую акцию.

 Источник изображений: AWS

Источник изображений: AWS

Облачное подразделение Amazon Web Services (AWS) увеличило продажи год к году на 19 % до $26,28 млрд за квартал с $22,14 млрд годом ранее при консенсус-прогнозе аналитиков, опрошенных StreetAccount, в размере $26,0 млрд. Операционная прибыль увеличилась с $5,36 млрд во II квартале 2023 года до $9,33 млрд. Хотя AWS превзошло прогнозы аналитиков по выручке, темпы роста у него ниже чем у облачных подразделений Microsoft и Google, увеличивших продажи на 29 %. Впрочем, объявленные ими цифры включают не только облачную инфраструктуру.

В связи с высоким спросом на технологии ИИ Amazon тратит значительные суммы на расширение своей облачной инфраструктуры AWS. Капитальные затраты Amazon и лизинг составили $30,5 млрд за I половину года, и ожидается, что эта цифра вырастет во II половине года, говорит финансовый директор Amazon Брайан Олсавски (Brian Olsavsky). «Большая часть расходов будет направлена на поддержку растущей потребности в инфраструктуре AWS, поскольку мы по-прежнему видим высокий спрос как на генеративный ИИ, так и на негенеративный ИИ», — цитирует ресурс GeekWire его слова.

Amazon прогнозирует выручку в текущем квартале в диапазоне от $154 до $158,5 млрд, что представляет собой рост на 8–11 % в годовом исчислении. Средняя точка этого диапазона, $156,25 млрд, отстаёт от средней оценки аналитиков, опрошенных LSEG, в $158,24 млрд.

Постоянный URL: http://servernews.ru/1108930
01.08.2024 [23:55], Алексей Степин

Arm-процессоры AWS Graviton4 успешно конкурируют с актуальными Intel Xeon, а иногда обгоняют даже AMD EPYC

Всего за пять лет Amazon успела разработать и внедрить четыре поколения серверных Arm-процессоров Graviton. 4-нм Graviton4 получили 96 ядер и 12 каналов памяти DDR5-5600, а также поддержку PCIe 5.0. Всё это дало AWS основание утверждать, что Graviton4 производительнее предшественника на 30 %, а пропускная способность памяти у него выше на 75 %. Насколько это соответствует истине, выяснил ресурс Phoronix, который заодно сравнил новинки с другими современными процессорами.

В тестировании Phoronix приняли участие следующие модели Graviton:

  • Graviton1: конец 2018 г., 16 нм, 16 × Cortex-A72 (Arm v8), 2,3 ГГц, инстанс a1.metal;
  • Graviton2: декабрь 2019 г., 7 нм, 64 × Neoverse-N1 (Arm v8.2-A), 8 × DDR4-3200, 2,5 ГГц, PCIe 4.0, инстанс r6g.metal;
  • Graviton3: ноябрь 2021 г., 5 нм, чиплеты, 64 × Neoverse-V1 (Arm v8.4-A), 8 × DDR5-4800, 2,6 ГГц, PCIe 5.0, инстанс r7g.metal;
  • Graviton4: ноябрь 2023 г., 4 нм, чиплеты, 96 × Neoverse-V2 (Arm v9.0-A), 12 × DDR5-5600, 2,8 ГГц, PCIe 5.0, инстанс r8g.metal-24xl.
 Источник: AWS

Источник: AWS

Платформа Graviton в последней итерации выглядит вполне достойно. Она использует современный набор инструкций Arm, а по количеству ядер и каналов памяти сопоставима с новейшими решениями Intel и AMD. Производительность по мере смены поколений у Graviton растёт практически линейно, за исключением перехода от первого поколения ко второму, что легко объясняется возросшим сразу вчетверо количеством ядер.

Что касается Graviton4, то новые процессоры в среднем быстрее Graviton3 примерно в 1,55 раза, а первенца серии они превосходят в 10,4 раза. В некоторых случаях выигрыш выходит далеко за рамки теоретических 1,5x, поскольку у Graviton4 более совершенная архитектура, новее набор инструкций, вдвое больший объем кеша на ядро и существенно более производительная подсистема памяти. Такое поведение, к примеру, характерно для тестов srsRAN, задач криптографии и особенно работы с базами данных.

 Источник здесь и далее: Phoronix

Источник здесь и далее: Phoronix

В другом исследовании Phoronix процессорам Graviton4 довелось столкнуться с серьёзными соперниками из мира x86, включая 128-ядерный AMD EPYC 9754 (Bergamo) и 144-ядерные Intel Xeon 67xx (Sierra Forest), а также с ближайшим конкурентом по Arm-платформе, 128-ядерным процессором Ampere Altra Max. К сожалению, метрик энергопотребления в текущей версии инстанса r8g.metal-24xl получить не удалось, но и без этого результаты получены весьма интересные.

С первых тестов очевидно, что Altra Max уже не соперник современным решениям, несмотря на сопоставимое количество ядер — сказывается не самая новая архитектура. А вот Graviton4 чувствует себя неплохо и в тестах на компиляцию может опережать даже AMD EPYC 9754. Хороша новинка и в базах данных, она лишь немного уступает процессорам Genoa и зачастую опережает 144-ядерное решение Intel c E-ядрами. И даже в HPC-нагрузках, для которых характерно активное использование FP-вычислений у Graviton4 всё хорошо! Неплохо себя детище AWS чувствует и в сценариях (де-)компрессии данных и кодировании видео.

В итоговом зачёте AWS Graviton4 уверенно занимает место в середине таблицы, опережая оба Xeon — и 64-ядерный Platinum 8592+ (Emerald Rapids), и 144-ядерный Xeon 6780E, но до уровня AMD EPYC 9754 всё же несколько недотягивая. Это вполне даёт основание считать, что платформа AWS Graviton достигла зрелости. Она вполне конкурентоспособна даже на фоне x86-монстров. Более того, на сегодня Graviton4 можно считать самым продвинутым серверным процессором с архитектурой AArch64. Впрочем, вскоре предстоят сражения с Granite Rapids, Turin и AmpereOne (а на подходе ещё и Aurora с HBM).

Постоянный URL: http://servernews.ru/1108861
01.08.2024 [14:30], Руслан Авдеев

Amazon подала на Nokia в суд за нарушение облачных патентов, не преминув напомнить об ошибках прошлого

Компания Amazon подала в штате Делавэр (США) иск к Nokia, обвинив последнюю в нарушении дюжины патентов, связанных с облачными вычислениями. Как передаёт Reuters, в материалах дела указывается, что Nokia злоупотребляла технологиями AWS, используя их в собственных облачных решениях. Год назад Nokia сама обратилась в суд с просьбой призвать к ответственности Amazon в связи с нарушением патентов на технологии видеостриминга.

Сейчас Nokia заявила, что намерена изучить претензии Amazon и активно защищать свои права в суде. Amazon утверждает, что финская компания без разрешения использует технологии, изобретённые ей ещё в начале 2000-х годов, и просит суд заблокировать использование нарушающих её патенты решений Nokia, а также назначить денежную компенсацию.

В Amazon заявляют, что с момента основания AWS в 2006 году компания фундаментально трансформировала вычисления и коммуникации. До появления AWS масштабные вычисления, связанные с большими объёмами данных, полагались в основном на om-premise серверную инфраструктуру компаний. В Amazon добавили, что через 14 лет после запуска AWS Nokia анонсировала новую стратегию, связанную с облачными вычислениями, открыв подразделение Cloud and Network Services.

 Источник изображения: Growtika/unsplash.com

Источник изображения: Growtika/unsplash.com

AWS утверждает, что облачные решения Nokia предусматривают использование интеллектуальной собственности Amazon. Так, Nokia CloudBand опирается на патентованные механизмы конфигурирования виртуальных машин, управления распределённым выполнением приложений, автоматического масштабирования ресурсов и т.д. А Nokia Nuage Networks нарушает патенты, связанные с управлением коммуникациями в виртуальных сетях и эмуляцией физических сетевых устройств, дополняет DataCenter Dynamics.

Amazon не удержалась от колкостей, упомянув в иске, что неспособность Nokia оценить важность смартфонов чуть не довела компания до банкротства в 2013 году. В 186-страничном иске кропотливо упоминаются все случаи нарушения патентного законодательства, с цитатами маркетинговых и технических материалов Nokia, посвящённых облачным сервисам компании.

Не исключено, что взаимные иски связаны. Процесс, инициированный Nokia против Amazon в октябре 2023 года, до сих пор не закончен. Утверждается, что Amazon Prime Video и устройства для стриминга нарушают пакет мультимедийных патентов Nokia, связанных с разнообразными технологиями, включая методы сжатия и доставки видео, системы рекомендации контента и даже аппаратные решения.

Иск Amazon довольно необычен, поскольку Nokia практически забросила облачный бизнес летом 2023 года, признав, что у неё не хватит ресурсов, чтобы выдержать конкуренцию в этой области. Более того, Nokia является облачным партнёром AWS в Германии. Неизвестно, готова ли Amazon сражаться в суде до конца или просто пытается вынудить Nokia сесть за стол переговоров. Часто такие споры завершаются внесудебными договорённостями.

Постоянный URL: http://servernews.ru/1108834
24.07.2024 [17:25], Руслан Авдеев

AWS закупит топливные элементы Bloom Energy на 20 МВт для будущего ЦОД в Кремниевой долине

Amazon Web Services (AWS) планирует подписать PPA-соглашение о покупке 20 МВт «зелёной» энергии с производителем топливных элементов Bloom Energy. По информации Datacenter Dynamics, сделка заключена с прицелом на открытие нового дата-центра в Кремниевой долине, где ожидается бум строительства ЦОД.

Местная энергетическая компания Silicon Valley Power (SVP) разрешила строительство собственных генерирующих мощностей в Санта-Кларе для удовлетворения растущего спроса со стороны ЦОД. AWS рассчитывает использовать для генерации газ, так что для дата-центра 2315 MCB уже готовится подстанция — объект на четыре трансформатора с номинальной мощностью 99 МВА. Два трансформатора строятся уже сейчас. В документах городских властей сообщается, что ЦОД обычно используют 55 % номинальной мощности. Предполагается, что электричество будет на 50 % дороже в сравнении с текущими тарифами SVP для промышленных предприятий.

Изначально в своём ЦОД AWS намерена освоить 9 МВА, но в течение 10 лет (к 2034 году) мощность должна вырасти до 32 МВА. PPA, заключённые с Bloom Energy, обеспечат дополнительную энергию. Ожидается, что Amazon покроет все расходы, включая оплату работы сотрудников SVP, обслуживание оборудования, закупки газа и прочие издержки. В первый год проект обойдётся в $35 млн, включая взнос в 5 % в городской фонд. Кроме того, включена стоимость REC-кредитов на возобновляемую энергию для «компенсации» использования природного газа.

 Источник изображения: Paul Hanaoka/unsplash.com

Источник изображения: Paul Hanaoka/unsplash.com

В ходе собрания, посвящённого проекту, представитель городских властей сообщил, что как минимум четыре дополнительных клиента намерены заключить аналогичные сделки. Ранее AWS заявляла, что будет использовать топливные элементы Bloom Energy в Орегоне на 72 МВт с питанием от природного газа, но в июне от планов пришлось отказаться, из-за местной критики относительно высоких углеродных выбросов.

По данным Управления энергетической информации США (US Energy Information Administration, EIA), при генерации электричества с использованием угля выделяется 1 кг CO2 на кВт∙ч, нефти — 1,1 кг, а природного газа — 430 г. А вот при использовании солнечных элементов выделяется 48 г/кВт∙ч, энергии ветра — 12 г/кВт∙ч, атомной энергии — 12 г/кВт∙ч.

Ранее в этом месяце инициативная группа сотрудников AWS (AECJ) заявила, что компания искажает сведения о степени экобезопасности её ЦОД, раскритиковав использование REC-сертификатов на возобновляемую энергию. Исследование AECJ показало, что это «низкокачественные» сертификаты, которые никак не способствуют развитию зелёной энергетики — фактически речь идёт о торговле бумажными заявками на электричество, «которое другие люди уже сгенерировали и использовали».

Постоянный URL: http://servernews.ru/1108418
16.07.2024 [13:23], Руслан Авдеев

Сотрудники Amazon обвинили компанию в искажении истинных экологических показателей

Как заявила группа сотрудников Amazon, компания «искажает правду» о том, в каком объёме её дата-центры на самом деле запитаны от источников возобновляемой энергии. По данным Datacenter Dynamics, это противоречит недавнему ESG-докладу, в котором сообщается, что гигант полностью перешёл на возобновляемые источники на семь лет раньше, чем было запланировано.

Инициативная группа сотрудников Amazon Employees for Climate Justice (AECJ) поделилась результатами собственного расследования, согласно которым дата-центры компании лишь на 22 % обеспечены энергией из возобновляемых источников. AECJ утверждает, что Amazon скрывает тот факт, что энергоёмкие ЦОД действуют в сердце «угольного» региона США, а дальнейшее развитие ЦОД повысит потребление нефти и газа. Компания вкладывается в экспансию ЦОД в районах, сильно зависящих в энергоснабжении от нефти, газа и угля вроде Северной Вирджинии и Саудовской Аравии.

 Источник изображения: Chris LeBoutillier/unsplash.com

Источник изображения: Chris LeBoutillier/unsplash.com

Выкладки AECJ основаны на том, что Amazon, как и многие организации, заявляет о постепенном переходе к нулевым выбросам, покупая сертификаты на возобновляемую энергию (Renewable Energy Credits, REC или СВЭ), которые косвенно компенсируют выбросы, связанные с питанием объектов компании от электростанций на ископаемом топливе. В AECJ рассчитали, что 68 % покупок REC являются «низкокачественными» и никак не связаны с получением новой возобновляемой энергии. Фактически речь идёт о покупке Amazon сертификатов на электричество, которое уже сгенерировано и истрачено совсем другими людьми.

Сомнения в эффективности REC уже привели к тому, что некоторые компании перешли к приобретению т.н. соглашений о покупке энергии (PPA) 24×7, которые обеспечивают равное почасовое сопоставление фактически использованного ЦОД электричества и сгенерированной «чистой» энергии. Например, такие соглашения заключают и намерены заключать в ещё большем объёме Google и Microsoft, но Amazon к ним ещё не присоединилась, хотя и массово заключает обычные PPA.

Группа процитировала пожелавших остаться анонимных сотрудников, которые рассуждают о том, что компания, возможно, намеренно лжёт всем, рассылая фото солнечных электростанций, чтобы убедить в «зелёном» курсе развития. Сотрудники считают, что Amazon должна сообщать о реальном прогрессе в достижении углеродной нейтральности хотя бы «своим» — чтобы те принимали больше усилий для достижения этой цели.

 Источник изображения: Jan Huber/unsplash.com

Источник изображения: Jan Huber/unsplash.com

AECJ организована в 2019 году в знак протеста на бездействие компании на фоне климатического кризиса. Группа призывает руководство делать большие инвестиции в возобновляемую энергетику в тех же регионах, где должны появиться новые ЦОД Amazon. Также подчёркивается, что несмотря на регулярные и объёмные отчёты о прогрессе в области экоустойчивости, фактически всеобъемлющий план достижения нулевых выбросов к 2040 году отсутствует.

Представитель руководства Amazon отметил, что в докладе содержатся верные данные, использованы прозрачные методики, а данные из представленного оппонентами доклада неверны, поскольку ссылаются на сведения и мнения от источников вне компании, не владеющих вопросом. Буквально на днях сообщалось, что у Amazon (в отличие от Google и Microsoft) выбросы падают уже не первый год подряд. Правда, в абсолютном выражении они выросли на 34 %.

Постоянный URL: http://servernews.ru/1108012
06.03.2024 [23:05], Владимир Мироненко

AWS отменила плату за выгрузку данных при переезде на другую платформу, последовав примеру Google Cloud

Amazon Web Services Inc. сообщила об отмене так называемой «платы за выход», которую взимала с клиентов при перемещении больших объёмов данных из своего облака в связи с переходом на другую платформу. Ранее о таком же решении объявила Google Cloud.

Компания заявила в своём блоге, что предложение нацелено на пользователей, которые хотят навсегда перенести большие объёмы данных из AWS. Как полагает ресурс SiliconANGLE, решение AWS связано с требованиями Европейского закона о данных (EU Data Act), принятого в январе этого года и заставившего облачных провайдеров упростить переход клиентов к конкурентам. Требования закона вступят в силу позже в этом году. Вместе с тем в AWS заявили, что её предложение также распространяется на клиентов, использующих мультиоблачный подход, и на тех, кто хочет вернуть свои данные назад.

До этого AWS позволила клиентам бесплатно выгружать до 100 Гбайт данных со своих облачных платформ, но для крупнейших клиентов этого было явно недостаточно. Плата за исходящий трафик была значительной, и они фактически оказались заложниками облака Amazon.

 Источник изображения: AWS

Источник изображения: AWS

Компания сообщила в своем блоге, что клиентам, прежде чем перенести свои данные на альтернативную платформу, необходимо будет связаться с сотрудниками службы поддержки. После утверждения заявки клиента ему будет предоставлено достаточное количество кредитов на передачу данных для выполнения миграции. Предоставленные кредиты DTO будут действительны в течение 60 дней. За это время клиент должен полностью завершить переход.

Подход к миграции Amazon почти такой же, как у Google Cloud, хотя есть различия. Google Cloud тоже требует, чтобы клиенты получили одобрение, прежде чем приступить к реализации перехода, но настаивает на том, чтобы клиенты полностью закрыли свои учётные записи, чтобы можно было претендовать на предоставление кредитов, тогда как AWS этого не делает.

Постоянный URL: http://servernews.ru/1101313
05.03.2024 [18:59], Руслан Авдеев

Атомное облако: AWS приобрела гигаваттный кампус ЦОД, запитанный от АЭС

Облачный гигант Amazon Web Services (AWS) приобрёл у Talen Energy Corporation кампус ЦОД, строящийся у атомной электростанции Susquehanna в Пенсильвании (США). По данным Datacenter Dynamics, ещё на минувшей неделе Talen объявила о продаже кампуса «крупному облачному провайдеру». В презентации для инвесторов было раскрыто, что речь идёт об AWS.

Кампус Cumulus Data площадью более 485 га впервые анонсировали ещё в 2021 году — он находится в непосредственной близости от принадлежащей Talen АЭС мощностью 2,5 ГВт. Компания начала строительство в 2021 году и завершила первый объект гиперскейл-уровня на 28,9 тыс. м2 и 48 МВт в 2023 году. Параллельно возводилась отдельная ферма для криптомайнинга для компании TeraWulf, но она, похоже, не является частью сделки с Amazon.

 Изображение: Cumulus Data

Изображение: Cumulus Data

Площадка и активы Cumulus Data проданы за $650 млн — $350 млн выплачены сразу, ещё $300 млн будут выплачены после завершения этапов строительства, запланированных на 2024 год. Дополнительно предусмотрена и гарантированная продажа «безуглеродной» электроэнергии станции Susquehanna по фиксированной цене, которая может быть пересмотрена только через 10 лет. В Talen уже сообщили, что довольны сделкой, которая принесла выгода и обеспечила возврат инвестиций.

 Источник: Talen Energy

Источник: Talen Energy

Ожидается, что в конечном итоге ёмкость кампуса AWS достигнет 960 МВт. У компании есть обязательства по минимальному потреблению энергии, они будут увеличиваться в течение нескольких лет с шагом в 120 МВт. Впрочем, у AWS остаётся возможность единовременно ограничить обязательства лимитом в 480 МВт. В рамках сделки предусмотрены и другие договорённости. Например, Talen обязуется поставлять с АЭС электричество кампусу AWS в рамках PPA.

Электростанция Susquehanna Steam Electric мощностью 2,5 ГВт была сдана в эксплуатацию в 1983 году — это одна из крупнейших атомных станций в США. Теперь ей владеет Talen Energy, основанная в 2015 году. В 2020 году компания основала Cumulus Growth для инвестиций «на стыке цифровой инфраструктуры и энергетики», а также Cumulus Coin, занимающуюся майнингом криптовалют. В России с 2018 года действует дата-центр «Калининский», расположенный у одноимённой АЭС в Тверской области.

Постоянный URL: http://servernews.ru/1101229
29.11.2023 [03:43], Владимир Мироненко

AWS представила 96-ядерный Arm-процессор Graviton4 и ИИ-ускоритель Trainium2

Amazon Web Services представила Arm-процессор нового поколения Graviton4 и ИИ-ускоритель Trainium2, предназначенный для обучения нейронных сетей. Всего к текущему моменту компания выпустила уже 2 млн Arm-процессоров Graviton, которыми пользуются более 50 тыс. клиентов.

 Amazon Graviton4 (Изображение: AWS)

Amazon Graviton4 (Изображение: AWS)

«Graviton4 представляет собой четвёртое поколение процессоров, которое мы выпустили всего за пять лет, и это самый мощный и энергоэффективный чип, который мы когда-либо создавали для широкого спектра рабочих нагрузок», — отметил Дэвид Браун (David Brown), вице-президент по вычислениям и сетям AWS. По сравнению с Graviton3 новый чип производительнее на 30 %, включает на 50 % больше ядер и имеет на 75 % выше пропускную способность памяти.

 Изображение: AWS

Изображение: AWS

Graviton4 будет иметь до 96 ядер Neoverse V2 Demeter (2 Мбайт L2-кеша на ядро) и 12 каналов DDR5-5600. Кроме того, новый чип получит поддержку шифрования трафика для всех своих аппаратных интерфейсов. Процессор изготавливается по 4-нм техпроцессу TSMC, включает 73 млрд транзисторов и, вероятно, имеет чиплетную компоновку. Возможно, это первый CPU компании, ориентированный на работу в двухсокетных платформах.

 Изображение: AWS

Изображение: AWS

Поначалу Graviton4 будет доступен в инстансах R8g (пока в статусе превью), оптимизированных для приложений, интенсивно использующих ресурсы памяти — высокопроизводительные базы данных, in-memory кеши и Big Data. Эти инстансы будут поддерживать более крупные конфигурации, иметь в три раза больше vCPU и в три раза больше памяти по сравнению с инстансами Rg7, которые имели до 64 vCPU и 512 Гбайт ОЗУ.

 Amazon Trainium2 (Изображение: AWS)

Amazon Trainium2 (Изображение: AWS)

В свою очередь, Trainium 2 предназначен для обучения больших языковых моделей (LLM) и базовых моделей. Сообщается, что ускоритель в сравнении с Trainium 1 вчетверо производительнее и при этом имеет в 3 раза больший объём памяти и в 2 раза более высокую энергоэффективность. Инстансы EC2 Trn2 получат 16 ИИ-ускорителей с возможностью масштабирования до 100 тыс. единиц в составе EC2 UltraCluster, которые суммарно дадут 65 Эфлопс, то есть по 650 Тфлопс на ускоритель. Как утверждает Amazon это позволит обучать LLM с 300 млрд параметров за недели вместо месяцев.

Со временем на Graviton4 заработает SAP HANA Cloud, портированием и оптимизацией этой платформы уже занимаются. Oracle также перенесла свою СУБД на Arm, а заодно перевела все свои облачные сервисы на чипы Ampere, в которую в своё время инвестировала. Microsoft же пошла по пути AWS и недавно анонсировала 128-ядерый Arm-процессор (Neoverse N2) Cobalt 100 и ИИ-ускоритель Maia 100 собственной разработки. Всё это может представлять отдалённую угрозу для AMD и Intel. С NVIDIA же все всё равно пока что продолжают дружбу — именно в инфраструктуре AWS, как ожидается, появится самый мощный в мире ИИ-суперкомпьютер на базе новых GH200.

Постоянный URL: http://servernews.ru/1096651
28.11.2023 [22:20], Игорь Осколков

NVIDIA анонсировала суперускоритель GH200 NVL32 и очередной самый мощный в мире ИИ-суперкомпьютер Project Ceiba

AWS и NVIDIA анонсировали сразу несколько новых совместно разработанных решений для генеративного ИИ. Основным анонсом формально является появление ИИ-облака DGX Cloud в инфраструктуре AWS, вот только облако это отличается от немногочисленных представленных ранее платформ DGX Cloud тем, что оно первом получило гибридные суперчипах GH200 (Grace Hoppper), причём в необычной конфигурации.

 Изображения: NVIDIA

Изображения: NVIDIA

В основе AWS DGX Cloud лежит платформа GH200 NVL32, но это уже не какой-нибудь сдвоенный акселератор вроде H100 NVL, а целая, готовая к развёртыванию стойка, включающая сразу 32 ускорителя GH200, провязанных 900-Гбайт/с интерконнектом NVLink. В состав такого суперускорителя входят 9 коммутаторов NVSwitch и 16 двухчиповых узлов с жидкостным охлаждением. По словам NVIDIA, GH200 NVL32 идеально подходит как для обучения, так и для инференса действительно больших LLM с 1 трлн параметров.

Простым перемножением количества GH200 на характеристики каждого ускорителя получаются впечатляющие показатели: 128 Пфлопс (FP8), 20 Тбайт оперативной памяти, из которых 4,5 Тбайт приходится на HBM3e с суммарной ПСП 157 Тбайтс, и агрегированная скорость NVLink 57,6 Тбайт/с. И всё это с составе одного EC2-инстанса! Да, новая платформа использует фирменные DPU AWS Nitro и EFA-подключение (400 Гбит/с на каждый GH200). Новые инстансы, пока что безымянные, можно объединять в кластеры EC2 UltraClasters.

Одним из таких кластеров станет Project Ceiba, очередной самый мощный в мире ИИ-суперкомпьютер с FP8-производительность 65 Эфлопс, объединяющий сразу 16 384 ускорителя GH200 и имеющий 9,1 Пбайт памяти, а также агрегированную пропускную способность интерконнекта на уровне 410 Тбайт/с (28,8 Тбайт/с NVLink). Он и станет частью облака AWS DGX Cloud, которое будет доступно в начале 2024 года. В скором времени появятся и EC2-инстансы попроще: P5e с NVIDIA H200, G6e с L40S и G6 с L4.

Постоянный URL: http://servernews.ru/1096645
02.09.2023 [11:28], Сергей Карасёв

Биржа Nasdaq продолжает перенос сервисов в облако AWS

Американская биржа Nasdaq, по сообщению ресурса Datacenter Dynamics, завершила ещё один этап переноса своих рабочих нагрузок на облачную платформу Amazon Web Services (AWS): речь идёт о системе работы с ценными бумагами Nasdaq Bond Exchange.

О планах по переводу части служб на платформу AWS биржа Nasdaq объявила в конце 2021 года. Тогда сообщалось, что будет применяться решение AWS Outposts, которое позволяет развернуть локальную инфраструктуру AWS практически в любом дата-центре или на колокейшн-площадке. Это необходимо для обеспечения минимального времени отклика.

Перенос системы опционов Nasdaq MRX на платформу AWS был завершен в декабре 2022 года. А сервисы Nasdaq Bond Exchange начали функционировать на базе данного облака в конце августа нынешнего года.

 Источник изображения: Nasdaq

Источник изображения: Nasdaq

Ожидается, что полный переход Nasdaq на AWS займёт около десяти лет. Он включает в себя перемещение некоторых рабочих нагрузок в основной дата-центр Nasdaq — на площадку Equinix NY11, которая располагается в Картерете (штат Нью-Джерси). В рамках проекта предполагается модернизация ЦОД: размер нынешнего одноэтажного комплекса, обеспечивающего колокейшн-площадь около 8500 м2, будет увеличен в два раза. Объект, построенный в 2000 году, входит в число 24 центров обработки данных, купленных компанией Equinix в 2016 году у Verizon.

Постоянный URL: http://servernews.ru/1092443