Процессоры Intel серии Xeon Max отличаются от своих обычных, «не максимальных» собратьев наличием интегрированной памяти HBM2e объёмом 64 Гбайт. Что же это даёт им на практике? Этот вопрос исследовал ресурс Phoronix — им в руки новейшие двухсокетные системы Supermicro Hyper SuperServer SYS-221H-TNR с чипами Xeon Max 9468 и 9480.

Напомним, Intel Xeon Max отличается от своих обычных собратьев серии Sapphire Rapids наличием 64 Гбайт HBM2e на борту, причём объём одинаков для всех моделей, хотя количество ядер может варьироваться от 32 до 56. Процессоры Xeon Max были протестированы в трёх режимах: только с памятью HBM (без DDR5), с HBM в качестве кеша для 512 Гбайт DDR5, а также в «плоском» режиме, но без отдачи HBM какому-либо процессу, то есть фактически только с DDR5.

Изображение: Intel

Тесты показали, что два первых режима действительно могут обеспечить преимущество в некоторых сценариях нагрузки. Результаты получились вполне закономерными: там, где сравнительно небольшого объёма HBM2e достаточно, режим HBM Only оказывается самым быстрым из-за высокой пропускной способности и отсутствия необходимости как-то синхронизировать работу с DDR5.

Источник: Phoronix

Однако режим кеширования тоже обеспечивает выигрыш, хотя в ряде нагрузок, таких как OpenFOAM, он не такой большой. В ИИ-сценариях, в частности, в тестах OpenVINO, разница меньше, а иногда отключение HBM2e и вовсе позволяет добиться чуть лучшей производительности, особенно на системе с Xeon Max 9480, где на каждое ядро приходится меньше памяти. Но в других тестах, таких как PETSc и Stress-NG, использование HBM2e может дать огромный прирост производительности, который глупо было бы игнорировать.

В целом, можно уверенно заявлять, что в среднем, прирост производительности при HBM-кешировании составляет 10–11 %, а при отказе от DDR5 к этому значению можно добавить ещё около 8 %. Также очевидно, что потребление системы в таком режиме заметно ниже, поскольку не требуется питание для модулей DDR5. В целом можно говорить о 18–20 % превосходства на широком спектре нагрузок, сообщает Phoronix.

Корпорация Intel, по сообщению ресурса Tom's Hardware, вынуждена приостановить поставки определённых процессоров Xeon Sapphire Rapids из-за обнаружившейся ошибки. Баг может провоцировать внезапную остановку работы системы. Специалисты Intel уже занимаются решением проблемы.

Чипы Xeon Sapphire Rapids существуют в двух конструктивных исполнениях — XCC и MCC. В первом случае применяется сборка из четырёх кристаллов, а количество вычислительных ядер варьируется от 36 до 60. Второй вариант имеет монолитную конструкцию с числом ядер до 32.

Источник изображения: Intel

Известно, что ошибка проявляется в отдельных MCC-моделях Sapphire Rapids. Отгрузки этих продуктов, как отмечается, были приостановлены в середине июня. По всей видимости, Intel работает над новой версией прошивки, которая позволит исправить баг. Если решить проблему удастся таким способом, компании не придётся инициировать программу отзыва и тратить значительные средства на обмен дефектных изделий.

«Нам стало известно о проблеме с частью процессоров Xeon Sapphire Rapids (MCC) со средним числом ядер, которая может прерывать работу системы при определённых условиях, и мы активно изучаем её. Из соображений предосторожности мы временно приостановили поставки этих чипов», — сообщил представитель Intel.

Нужно отметить, что ошибки в процессорах — не редкость. Так, чипы Intel Skylake вышли с 53 известными багами, а шесть месяцев спустя Intel сообщила ещё о 40 ошибках. А недавно стало известно, что процессоры EPYC Rome перестают функционировать через 1044 дня непрерывной работы, но устранять ошибку AMD не планирует.

Облачное подразделение Amazon Web Services (AWS), по сообщению ресурса Datacenter Dynamics, намерено инвестировать $7,8 млрд в расширение инфраструктуры дата-центров в Огайо (США). Окончательный выбор места для новых кампусов будет сделан позднее — проект по развитию инфраструктуры ЦОД AWS в этом регионе продлится до 2029–2030 гг.

Amazon заявляет, что с 2015 года инвестировала в Огайо около $6,3 млрд. Первый облачный регион AWS здесь был открыт в 2016 году. Помимо дата-центров, компания вложила средства в 18 солнечных и ветряных электростанций в штате. Ожидается, что после того, как все они будут полностью введены в эксплуатацию, ежегодный объём производства «зелёной» энергии превысит 6,6 млн МВт·ч.

Источник: AWS

Губернатор штата сказал, что новый проект представляет собой вторую по величине инвестицию частной компании в истории Огайо. Вложения создадут большое количество рабочих мест и помогут в увеличении ВВП штата. Недавно также стало известно, что Amazon построит в Сиднее новый дата-центр стоимостью $200 млн. Кроме того, компания вложит почти $13 млрд в развитие облачной инфраструктуры в Индии.

Ранее также сообщалось, что Amazon потратит около $35 млрд в расширение мощностей ЦОД в Вирджинии — в дополнение к $35 млрд, которые были инвестированы здесь с 2011-го. Правда, проекты AWS вызвали негодование местных жителей, в результате чего часть инициатив была приостановлена. Претензии связаны с сильным шумом ЦОД, а также с тем, что строительство новых ЦОД предполагается в особых зонах — сельской местности, исторических местах или в местах захоронений предков многих жителей.

Объединившись, российские ИТ-компании «Флант» и «Экспресс 42» будут создавать продуктовую экосистему для контейнерной разработки и эксплуатации высоконагруженных сервисов. Процесс слияния пройдет в несколько этапов, в течение нескольких лет. Первые полгода команды будут работать самостоятельно, затем начнут объединять процессы. Все существующие направления работы и штат сохранятся.

По данным ЕГРЮЛ, АО «Флант» стало владельцем 7,99 % долей в ООО «Экспресс 42» 22 мая 2023 года. Эта доля принадлежала создателю ООО «Отус онлайн-образование» Дмитрию Волошину. После сделки собственниками «Экспресс 42» остались три сооснователя компании: Александр Титов, Никита Борзых и Иван Евтухович (владеют по 30,67 % долей). По условиям сделки они получат акции «Фланта».

Источник: пресс-конференция «Фланта» и «Экспресс 42»

Совместно компании планируют создать продуктовую экосистему из 7–8 продуктов. В перечень DevOps-услуг партнеров войдут продвижение платформы для управления кластерами Kubernetes, DevOps-аутсорсинг, мониторинг инфраструктуры и DevOps-консалтинг, сервисы инструментальной платформы поставки ПО и процессов управления инфраструктурой, а также решение для контейнерной разработки цифровых продуктов, с единым окном в инфраструктуру для команд разработки.

Годовой объем российского рынка продуктов и услуг, высвободившийся после ухода зарубежных компаний, по оценкам «Фланта», составляет примерно 16 млрд руб. В ближайшие годы объединенная компания намерена занять 30–50 % этого рынка.

В 2024 году на смену платформам Sapphire Rapids и Emerald Rapids корпорация Intel планирует выпустить чипы Granite Rapids на базе производительных Р-ядер. Эти процессоры будут производиться с использованием техпроцесса Intel 3 и будут поистине огромными в смысле физических размеров — на днях энтузиасту с ником YuuKi_AnS удалось получить первые фотографии Granite Rapids.

Тенденция к укрупнению процессорных разъёмов не нова: эта гонка стартовала аккурат в момент переезда контроллера памяти, а затем и шины PCI Express из чипсета в сам процессор, и постепенно наращивание возможностей обеих интерфейсов сделало своё дело.

Источник изображений здесь и далее: YuuKi_AnS

Но снимки, опубликованные YuuKi_AnS, впечатляют даже на фоне AMD SP5 для платформы Genoa. Неудивительно, новый разъём превосходит SP5 даже по количеству контактов — 7529 против 6096. Процессоры Granite Rapids получат 12 каналов DDR5-5600, 96 линий PCIe 5.0 и поддержку CXL 2.0.

По размерам новые процессоры приблизительно в 1,7 раза больше Sapphire Rapids, ожидается, что размеры LGA-7529 составят 105 × 70 мм, что действительно больше, чем у AMD SP5, где аналогичные размеры составляют 75 × 72 мм; для сравнения, LGA-4189 (Ice Lake-SP) имеет габариты 77,6 × 56,6 мм.

Технически процессоры будут состоять из двух кристаллов с архитектурой Redwood Cove, включающей в себя только Р-ядра. Компания Intel планирует минимум три варианты охлаждения, рассчитанных на 400–500 Вт. Более подробно о Granite Rapids «синие» расскажут на мероприятии Intel Innovation, запланированном на сентябрь этого года.

Стартап Databricks, разработчик платформы машинного обучения, анализа и обработки данных, объявил о приобретении компании-разработчика решений в области генеративного ИИ MosaicML Inc. С помощью разработанных MosaicML языковых моделей компании смогут обучать и выполнять точную настройку генеративных ИИ-моделей на основе собственных данных с высоким качеством и низкой стоимостью, а технологии оптимизации обучения моделей MosaicML помогут снизить затраты.

MosaicML наиболее известна своим собственным семейством больших языковых моделей (LLM) MPT, с более чем 3,3 млрд загрузок модели MPT-7B. Семейство LLM компании с открытым исходным кодом основано на архитектуре MPT-7B, построенной с 7 млрд параметров и контекстным окном на 64 тыс. токенов. На днях MosaicML выпустила модель MPT-30B с 30 млрд параметров, которая гораздо мощнее MPT-7B и превосходит по качеству модель OpenAI GPT-3 (175 млрд параметров).

Источник изображения: MosaicML

MosaicML сообщила, что размер MPT-30B был специально подобран для развёртывания всего на одном ускорителе — либо NVIDIA A100 80 Гбайт (16-бит точность), либо A100 40 Гбайт (8-бит точность). По словам MosaicML, другие сопоставимые LLM, такие как Falcon-40B, имеют большее количество параметров и не могут обслуживаться на одном ускорителе, что увеличивает минимальную стоимость системы инференса.

Платформа Databricks Lakehouse в сочетании с технологиями MosaicML предложит клиентам простой, быстрый и экономичный способ сохранить контроль над данными, а также обеспечить их безопасность и защитить правf собственности. Размещая модели в Databricks Lakehouse, компании смогут адаптировать их к конкретным корпоративным данным и безопасно развёртывать их. Использование обслуживаемых моделей, таких как от OpenAI, может привести к утечке данных и другим рискам. Это особенно важно для строго регулируемых отраслей — модель и данные должны оставаться вместе в изолированном окружении.

Источник изображения: Databricks

Кроме того, решения MosaicML обеспечивают в 2–7 раз более быстрое обучение моделей по сравнению со стандартными подходами, предлагая при этом линейное масштабирование. Компания утверждает, что модели с несколькими миллиардами параметров теперь можно обучить за часы, а не за дни. Согласно пресс-релизу, при применении интегрированной платформы Databricks и MosaicML обучение и использование LLM будет стоить тысячи долларов, а не миллионы.

«Теперь Databricks может расширить свою платформу для создания, обучения и размещения традиционных моделей машинного обучения на большие языковые модели, — заявил Джастин ДеБрабант (Justin DeBrabant), старший вице-президент ActionIQ Inc. — Это означает, что Databricks предлагает продукты и услуги на платформе Lakehouse. которые простираются от ETL до аналитики SQL, пользовательского машинного обучения, а теперь и до размещённых LLM».

Дебютировали одноплатные компьютеры Arduino UNO R4 Minima и Arduino UNO R4 WiFi, доступные для заказа по цене €18 и €25 соответственно. В основу изделий положен микроконтроллер Renesas RA4M1 Arm Cortex-M4F MCU с частотой 48 МГц, 32 Кбайт памяти SRAM и 256 Кбайт флеш-памяти.

Габариты одноплатного компьютера составляют 68,6 × 53,4 мм. Беспроводная версия изделия содержит чип ESP32-S3-MINI-1, обеспечивающий поддержку Wi-Fi 4 и Bluetooth 5.0, а также возможность работы с Arduino IoT Cloud. Кроме того, эта модификация располагает матричным дисплеем 12 × 8 LED.

Источник изображения: Arduino

Новинки оборудованы портом USB Type-C, который используется как для подачи питания, так и для программирования. Набор доступных интерфейсов включает: 6×PWM, 1×UART, 1×I2C, 1×SPI, цифровой вывод I/O (14 линий), аналоговый вход (6×; АЦП), LED (13×). Модификация Arduino UNO R4 WiFi дополнительно располагает коннектором Qwiic I2C для модулей расширения.

Облачное подразделение Amazon Web Services (AWS), по сообщению ресурса ITNews, намерено развернуть в Австралии новый ЦОД. Инициатива носит кодовое имя Project Echidna: известно, что строительство дата-центра может начаться в текущем году, а стоимость проекта оценивается в $200 млн.

Новый ЦОД расположится в Сиднее. Речь идёт о строительстве двухэтажного здания общей площадью 9225 м². Мощность площадки составит 35,2 МВт. Установку оборудования планируется осуществлять поэтапно по мере роста спроса. Соседний дата-центр AWS в Новом Южном Уэльсе в настоящее время находится на стадии строительства. Два объекта будут питаться от частной подстанции, которую построит Endeavor Energy.

Источник изображения: Amazon

Amazon запустила облачный регион в Сиднее в 2012 году. Изначально он базировался на дата-центре SYD3 Equinix. У компании также есть кампус в районе Истерн-Крик в Сиднее. Ранее в этом году Amazon открыла второй австралийский регион в Мельбурне. На развитие облачной инфраструктуры в Австралии компания намерена потратить $8,9 млрд до 2027 года.

Как сообщает ресурс DCD, Google на этой неделе направила в Федеральную торговую комиссию (FTC) письмо в рамках проводимого регулятором расследования в облачном секторе, в котором обвинила Microsoft и Oracle в антиконкурентной практике в отношении своего облачного бизнеса и лицензирования ПО и предоставила подробное описание предполагаемых нарушений.

Изображение: Twitter / looper

В марте FTC отправила запрос участникам рынка на получение информации о деловой практике поставщиков облачных услуг. Ожидается, что предоставленные компаниями комментарии помогут комиссии определить, насколько некоторые сегменты экономики зависят от облачных сервисов, а также риски безопасности, связанные с их деятельностью. Крайний срок подачи комментариев истёк на этой неделе. Всего было получено более 90 комментариев.

В частности, FTC хотела бы получить оценку способности клиентов облачных сервисов заключать контракты с облачными провайдерами, описание стимулов, которые провайдеры предлагают клиентам для получения доли рынка, а также узнать, насколько клиенты зависят от проприетарных услуг и в какой мере поставщики облачных услуг информируют клиентов о рисках безопасности.

«Google Cloud… разделяет обеспокоенность, которую высказывали многие другие, в том числе клиенты и партнёры, что условия лицензирования, применяемые Microsoft, Oracle и другими поставщиками устаревшего локального ПО, искажают конкуренцию в облаке», — говорится в 11-страничном письме Google, направленном в FTC. Google отметила, что, используя чрезмерно сложные соглашения, направленные на привязку клиентов к их экосистемам, эти провайдеры пытаются монополизировать облачный рынок.

Источник: Synergy Research Group

«При этом они не только подталкивают клиентов к монолитной облачной модели, но и ограничивают выбор, увеличивают затраты для клиентов и подрывают растущие и процветающие цифровые экосистемы в США и во всем мире», — подчеркнула Google. Google и раньше обвиняла Microsoft в «ограничительном и дискриминационном лицензировании и других вредных действиях», таких как ограничение совместимости определённых функций и ПО с облачной инфраструктурой, отличной от Azure.

Oracle, в свою очередь, письме обвинила AWS в использовании «хищнических методов выставления оплаты для исключения конкуренции» и в том, что она является «злейшим нарушителем» в отношении стоимости отдачи данных из облака. Oracle также предложила FTC «тщательно расследовать», использует ли Amazon свою монопольную позицию в космической индустрии.

AWS, бессменный лидер рынка, не стала критиковать конкурентов, а вместо этого отметила их быстрый рост в последние годы. «Ни у одного облачного провайдера нет ничего близкого к “монополии”, и отрасль становится всё менее концентрированной», — заявили в компании. Фонд Electronic Frontier Foundation (EFF) отметил «доминирующую» роль AWS на рынке облачных услуг, назвав компанию «несущей стеной интернета».

Источник: Synergy Research Group

Microsoft, занимающая второе место на рынке, тоже отметила существующую конкуренцию в облачной индустрии и заявила, что регулирующие органы должны «тщательно избегать любого вмешательства, которое может нарушить конкурентные предложения», предоставляемые отраслью. По данным Canalys, на долю AWS и Microsoft Azure в I квартале 2023 года пришлось более половины всех затрат на облачные услуги в мире.

Ассоциация европейских поставщиков облачных сервисов CISPE (Cloud Infrastructure Services Providers in Europe), которую поддерживает AWS, но не Microsoft, отметила в письме регулятору, что компании в Европе вынуждены платить «несправедливые дополнительные расходы» за лицензирование ПО в облачной инфраструктуре, предоставляемом независимыми поставщиками услуг облачной инфраструктуры, указав в качестве примера на Microsoft.

При этом в Европе неоднократные попытки избавиться от «облачного ига» американских гиперскейлеров успехом не увенчались, с годами их лидерство лишь стремительно укрепляется. Наконец, некоммерческий исследовательский центр EPIC (Electronic Privacy Information Center) предупредил в своём письме FTC, что на рынке ИИ основная доля сконцентрирована у небольшого числа провайдеров.

Источник: Synergy Research Group

Как отметил DCD, аналогичное расследование может начаться в Великобритании, поскольку британский регулятор в секторе телекоммуникаций Office of Communications (Ofcom) недавно предложил Управлению по конкуренции и рынкам (CMA) изучить рынок облачной инфраструктуры, чтобы выяснить, необходимо ли регулирование для улучшения конкуренции.

Компания Eviden, дочерняя структура Atos, сообщила о заключении двух контрактов с Национальным центром среднесрочного прогнозирования погоды Индии (NCMRWF) на создание HPC-систем. Основой послужит платформа BullSequana XH2000. Общая сумма соглашений, подписанных от имени Министерства наук о Земле Индии, составляет $100 млн.

Один из комплексов расположится в Ноиде в индийском штате Уттар-Прадеш. Эта HPC-система производительностью около 8,3 Пфлопс будет применяться для моделирования погоды и исследования климата. Суперкомпьютер объединит 2100 узлов с процессорами AMD EPYC 7643, а также 18 узлов на базе NVIDIA A100. Предусмотрено использование NVIDIA Quantum InfiniBand и высокопроизводительной памяти Micron. Упомянута система хранения DDN EXAScaler ES400NVX2: 2 Пбайт SSD и 20 Пбайт HDD.

Источник изображения: Atos

Второй суперкомпьютер, предназначенный для Индийского института тропической метеорологии (IITM, Пуна), обеспечит производительность до 13 Пфлопс. Его конфигурация включает 3000 узлов с чипами AMD EPYC 7643 и 26 узлов на основе NVIDIA A100. Этот комплекс также получит сетевую платформу NVIDIA Quantum InfiniBand и хранилище DDN EXAScaler ES400NVX2 с 3 Пбайт флеш-памяти и 29 Пбайт памяти на основе HDD.