TrendForce отметила в своём новом исследовании, что в связи с резким ростом популярности приложений генеративного ИИ ведущие провайдеры облачных решений, включая Microsoft, Google, AWS, а также китайские технологические гиганты, такие как Baidu и ByteDance, значительно увеличили приобретение ИИ-серверов, необходимых для обучения и оптимизации ИИ-моделей.

Ажиотаж вокруг генеративного ИИ стал стимулом для разработки более мощных ИИ-серверов и роста этого сегмента рынка. Как полагают аналитики TrendForce, производители будут расширять использование в ИИ-системах передовых технологий, применяя мощные ускорители вычислений и высокопроизводительную память HBM в сочетании с современными методами упаковки чипов. Согласно прогнозу TrendForce, в течение 2023–2024 гг. вырастет спрос на HBM, а также на 30–40 % увеличатся мощности для выпуска чипов с использованием передовых методов упаковки.

Источник изображения: NVIDIA

TrendForce отметила, что для повышения вычислительной эффективности ИИ-серверов и увеличения пропускной способности памяти ведущие производители ИИ-микросхем, включая NVIDIA, AMD и Intel, наращивают использование HBM. В настоящее время у чипов NVIDIA A100/H100 имеется 80 Гбайт памяти HBM2e/HBM3. В суперчипе GH200 Grace Hopper используется ускоритель NVIDIA H100 с 96 Гбайт памяти HBM3.

В чипах серии AMD Instinct MI300 тоже используется память HBM3: у версии MI300A её ёмкость составляет 128 Гбайт, а у более продвинутой версии MI300X — 192 Гбайт. Также ожидается, что Google в рамках расширения ИИ-инфраструктуры начнёт в конце 2023 года в партнёрстве с Broadcom производство обновлённых тензорных чипов TPU, тоже с использованием памяти HBM.

Источник изображения: AMD

Согласно прогнозу TrendForce, в 2023 году будет выпущено ИИ-ускорителей с общим объёмом памяти HBM в пределах 290 млн Гбайт, что означает рост год к году на 60 %. В 2024 рост объёмов выпуска памяти HBM составит 30 % или более. Также будет расти спрос на передовые технологии упаковки чипов для сферы ИИ и высокопроизводительных вычислений (HPC). При этом преобладающим методом для ИИ-чипов будет Chip on Wafer on Substrate (CoWoS) от TSMC, позволяющий разместить на одной подложке до 12 стеков памяти HBM.

По оценкам TrendForce, с начала 2023 года спрос на CoWoS вырос почти на 50 % на фоне роста популярности ускорителей NVIDIA A100 и H100. Ожидается, что к концу года ежемесячный выпуск TSMC чипов с применением CoWoS вырастет до 12 тыс. Во второй половине 2023 года возможности заказа выпуска чипов с применением CoWoS будут ограничены в связи с растущим спросом на ИИ-чипы со стороны AMD, Google и других компаний.

Высокий спрос на использование CoWoS сохранится до 2024 года с прогнозируемым ростом производственных мощностей по упаковке этим методом на 30–40 % с учётом готовности соответствующего оборудования. Аналитики TrendForce не исключают возможности использования NVIDIA альтернативных технологий упаковки для производства ускорителей в случае сохранения высокого спроса на системы ИИ. Речь идёт о разработках компаний Samsung и Amkor.

«Лаборатория Касперского» («ЛК») и «Систэм электрик» (Systeme Electric) создадут кибериммунные устройства на основе операционной системы KasperskyOS для промышленных и энергетических предприятий. Systeme Electric является правопреемником Schneider Electric, которая в 2022 году продала бизнес в РФ и Беларуси локальному руководству.

«ЛК» оптимизирует KasperskyOS под функции таких устройств, как терминалы релейной защиты и автоматики (РЗА), программируемые логические контроллеры (ПЛК), которые планируются к выпуску. Также партнеры будут разрабатывать прикладные приложения, к примеру, для защиты от внештатных режимов работы, контроля и управления технологическими процессами на электроэнергетических объектах, нефтеперерабатывающих предприятиях и металлургических заводах.

На ПМЭФ-2023 партнеры объявили о создании мини-компьютеров на базе KasperskyOS для обеспечения безопасности электросетей на промышленных и энергетических объектах. Помимо этого было объявлено о разработке киберимунного смартфона с этой защищённой ОС, который выйдут в России и за рубежом. Кибериммунитет — это относительно молодая отраслевая дисциплина, базирующаяся на принципе Secure-by-Design, который заключается в проектировании устройства и его ПО с учетом всевозможных киберрисков.

Компания Oracle объявила о планах обновить инстансы Oracle Cloud Infrastructure E5, оснастив их процессорами AMD EPYC Genoa. Компания сообщила, что предложит гибкие конфигурации инстансов, позволяя клиентам подбирать параметры под их нужды. Новинки, по словам Oracle, при той же стоимости на треть быстрее инстансов прошлого поколения, а также предлагают большее количество ядер и более высокую ПСП.

Так, инстансы E5 Standard предназначены для нетребовательных задач, таких как веб-серверы и серверы приложений или разработка ПО. Будут доступны bare-metal и спот-инстансы. E5 Standard используют внешнее блочное хранилище, которое работает медленнее локального, но вместе с тем дешевле. Высокопроизводительные E5 Dense-IO ориентированы на крупные СУБД, Big Data и приложения, которым требуется быстрое локальное хранилище, которое обеспечивает примерно в 10 раз меньшую задержку, чем стандартное блочное хранилище.

Экземпляры E5 HPC созданы для высокопроизводительных вычислений, в том числе ИИ. E5 HPC доступны только в конфигурациях bare-metal и с RDMA-сетью, что позволяет формировать облачные суперкомпьютеры. Также для семейства E5 доступны кластерные ФС для таких сценариев использования, как большие базы данных, обучение ИИ, финансовый анализ, рендеринг видео и моделирование. Новые опции и конфигурации будут доступны в июле–августе.

Источник изображения: Oracle

В свою очередь облачный провайдер Amazon Web Services (AWS) запустил предварительную версию инстансов EC2 M7a с процессорами AMD EPYC Genoa, которые будут доступны для общего использования в III квартале этого года. По словам гендиректора Лизы Су (Lisa Su), AMD будет использовать новые инстансы AWS для собственных рабочих нагрузок. Кроме того, AWS присматривается и к новым ИИ-ускорителям AMD Instinct MI300.

Источник изображения: Microsoft

Наконец, в Microsoft Azure стали доступны первые инстансы с AMD EPYC Genoa-X и 400G-интерконнектом NVIDIA Quantum-2 InfiniBand. Как сообщает компания, виртуальные машины серий HBv4 и HX предлагают передовые уровни производительности, эффективности масштабирования и экономичности для различных HPC-нагрузок. Новинки уже доступны в регионе Azure East US, а вскоре появятся в регионах Azure Korea Central, Azure South Central US, Azure Sweden Central и Azure Southeast Asia.

Вместе с Bergamo и Genoa-X компания AMD представила и новый ИИ-ускоритель, а точнее два варианта одного и того же продукта — Instinct MI300A и MI300X. Как и в случае с EPYC, модульный подход к построению чипов позволил компании с минимумом усилий расширить портфолио.

Об Instinct MI300A компания рассказывала неоднократно. Это самодостаточный APU (или XPU), объединяющий 24 ядра EPYC Genoa (три CCD), ускоритель на базе CDNA3 и 128 Гбайт общей памяти HBM3. Конкурировать он будет с решением NVIDIA Grace Hopper, которое включает 72-ядерный Arm-процессор NVIDIA Grace и ускоритель NVIDIA H100 с 96 Гбайт HBM3. Intel же из гонки гибридов временно выбыла, отказавшись в Falcon Shores от блока CPU.

Изображения: AMD

Правда, подход у компаний разный. NVIDIA предпочитает использовать NVLink и для объединения кристаллов внутри Grace Hopper (C2C), и для связи между узлами, что упрощает масштабирование. AMD в случае Instinct MI300 использует большую подложку-интерпозер, которая объединяет HBM-стеки (8 шт.) и блоки Zen 4/CDNA3 (4 шт.), что даёт определённую гибкость в выборе конфигурации чипа.

Этим компания и воспользовалась, представив OAM-ускорители MI300X, которые напрочь лишены CPU-блоков. Весьма своевременное появление 24-Гбайт модулей HBM3 позволило поднять общий объём памяти до 192 Гбайт, а её пропускную способность (ПСП) — до 5,2 Тбайт/с. Впрочем, о характеристиках новинки AMD больше ничего и не говорит, если не считать упоминания ПСП шины Infinity Fabric (896 Гбайт/с) и количества транзисторов (153 млрд шт.).

Столь большой объём памяти выгодно отличает MI300X от SXM-версии NVIDIA H100, которая может предложить только 80 Гбайт HBM3 и ПСП 3,35 Тбайт/с. Да, у NVIDIA есть «сендвич» H100 NVL, у которого имеется уже 188 Гбайт HBM3 (7,8 Тбайт/с). Но это всё же совсем иной форм-фактор, хотя, как и MI300X, ориентированный на работу с действительно большими ИИ-моделями.

Больший объём набортной памяти позволяет избавиться от лишних перемещений данных между ускорителем и основной памятью системы или несколькими ускорителями. Как и полагается, AMD анонсировала Instinct Platform — плату наподобие NVIDIA HGX, которая объединяет восемь ускорителей MI300X и, по-видимому, соответствует стандарту OCP UBB, что упрощает создание узлов на её основе.

Первые образцы Instinct MI300X появятся в следующем квартале, а образцы MI300A уже поставляются заказчикам. Впрочем, одним «железом» сыт не будешь — компания активно развивает программную платформу, в том числе ROCm, поскольку в области ПО для ИИ догнать, а уж тем более перегнать NVIDIA будет непросто. Это настолько важный пункт для AMD, что даже в презентации речь сначала долго шла о ПО, а уж потом были представлены новые ускорители.

AMD официально представила два новых, пока что очень небольших семейства серверных процессоров EPYC на базе архитектуры Zen 4. Это давно обещанные CPU серии EPYC 97x4, известные под кодовым именем Bergamo и рассчитанные на гиперскейлеров и облачных провайдеров, а также EPYC 9x84X Genoa-X с 3D V-Cache, которые предлагают до 1152 Мбайт L3-кеша и которые ориентированы на HPC-нагрузки.

Ничего нового относительно архитектурных особенностей Bergamo компания не поведала. Более высокая плотность компоновки ядер Zen 4c достигнута, в частности, путём модификации кешей (они проще и меньше) и компромиссными решениями в отношении упаковки, частот и т.д. В итоге получается интересная картина — ядер в сравнении с EPYC Genoa (до 96 шт.) стало больше, а вот общее число транзисторов уменьшилось с 90 до 82 млрд. Показатель TDP сохранился на прежнем уровне.

Изображения: AMD

AMD говорит, что ядра Zen 4c примерно на треть меньше Zen 4: 2,48 мм² против 3,84 мм² (ядро + L2-кеш). Оба варианта производятся по 5-нм техпроцессу TSMC. В CCD теперь содержится 16 ядер вместо 8, а в самом процессоре теперь 8 CCD вместо 12. Центральный IO-мостик у Genoa и Bergamo предлагает одни и те же возможности: 128 линий PCIe 5.0 (CXL) и 12 каналов памяти DDR5-4800. При этом оба варианта совместимы не только на уровне сокета (SP5), но и ISA, и платформы целиком — достаточно обновления BIOS.

В случае Bergamo компания, как и прежде, напирает на относительно низкую совокупную стоимость владения и на ещё более высокую энергоэффективность в сравнении с Genoa. Поскольку SMT на месте, в 2U4N-шасси с двухсокетными узлами теперь можно получить 2048 vCPU. Отдельный вопрос, как это всё ещё сбалансировать с точки зрения IO. Но в любом случае такое решение должно привлечь гиперскейлеров, среди которых была упомянута Meta✴, уже использующая сотни тысяч процессоров EPYC.

Любопытно, что в пресс-релизе AMD сравнивает общую производительность Bergamo с Ampere Altra, утверждая, что в ключевых облачных нагрузках они в 3,7 раз быстрее. Кроме того, новинки в 2,7 раз энергоэффективнее конкурентов. При этом оба документа, описывающих условия тестирования, на момент написания публикации доступны не были. Возможно, как и в других тестах, речь идёт о 128-ядерных Altra Max, которые уже доступны у ключевых облачных провайдеров.

По-видимому, в этой области AMD воспринимает как важного (если не ключевого) конкурента именно Ampere, а не Intel, с продукцией которой были показаны сравнения во время презентации. Так, старший AMD EPYC 9754 до 2,6 раз быстрее старшего же Intel Xeon 8490H (Sapphire Rapids), который предлагает всего 60 ядер при сравнимом TDP. До выхода Sierra Forest с E-ядрами (до 144 шт.) в следующем году Intel отвечать AMD нечем. А вот Ampere уже представила 192-ядерные (но без SMT) AmpereOne, которые, по слухам, уже давно поставляются избранным клиентам.

Да и сама AMD заявляет, что Bergamo тоже уже отгружаются. Заодно AMD объявила о доступности EPYC Genoa-X (9x84X). Концептуально они повторяют Milan-X, то есть поверх каждого CCD в обычном Genoa располагается плитка V-Cache с 64 Мбайт L3-кеша (с небольшим штрафом при обращении). 12 CCD дают 768 Мбайт дополнительного кеша, а суммарно выходят умопомрачительные 1152 Мбайт L3-кеша на процессор.

Выгоду от столь большого объёма кешей могут получить не все приложения. Речь в основном идёт об HPC, CFD, EDA и СУБД. При этом, что удивительно, AMD сравнивает новинки с «обычными» Intel Xeon Sapphire Rapids, а не с Intel Xeon Max, оснащённых 64 Гбайт набортной HBM2e-памяти (1,2 Тбайт/с) и ориентированных, в целом, на те же задачи — в таком случае они оказываются до 2,9 раз быстрее.

Компания «Систэм Электрик» (Systeme Electric, ранее Schneider Electric в России) сообщила о доступности заказчикам программной платформы Systeme Maintenance, предназначенной для поддержки и обеспечения процессов технического обслуживания и ремонтов (ТОиР) производственного и промышленного оборудования.

Systeme Maintenance является полностью отечественной разработкой, созданной экспертами «Систэм Электрик» для сервисного обслуживания предприятий любого масштаба и направленности. Решение обеспечивает непрерывный контроль критически важного технологического оборудования и заблаговременно информирует о проблемах. Включённые в состав комплекса средства предиктивной аналитики позволяют предсказать отказ оборудования и предотвратить аварийную ситуацию.

Источник изображения: systeme.ru

Платформа построена на модульном принципе, что позволяет масштабировать её независимо от типа исследуемого оборудования и систем. Systeme Maintenance позволяет наблюдать за процессами ТОиР в режиме реального времени, обеспечивает планирование сервисных работ, подготовку технологических карт, а также накопление и систематизацию данных, в том числе визуализацию и анализ количества и причин отказов оборудования. Поддерживается интеграция с системами ERP и SCADA.

Systeme Maintenance разработана с учётом специфики работы российских предприятий и соответствует нормативным требованиям в области информационной безопасности. Платформа может быть развёрнута как на серверах заказчика, так и облачном окружении с предоставлением доступа по подписочной модели (SaaS).

Среди требований, накладываемых к процессору для облачных серверов, числится максимизация производительности в пересчёте на процессорный разъём. В связи с рядом ограничений, в том числе, физического характера, рост этого показателя замедлился. Поэтому крайне важны, чтобы новые чипы могли повысить энергоэффективность и снизить совокупную стоимость владения инфраструктурой.

AMD впервые в истории готовится представить x86-процессор, изначально созданный для гиперскейлеров — EPYC Bergamo. В основе новинок лежит оптимизированная архитектура Zen 4 — Zen 4c. Логически она не отличается от прародительницы, но доработки «кремния» позволили компании выпустить 128-ядерный процессор в том же форм-факторе, что и 96-ядерный EPYC Genoa. В качестве I/O-модуля используется тот же блок Floyd, располагающий 128 линиями PCI Express 5.0 и прочими характеристиками, свойственными процессорам AMD в конструктиве SP5. SemiAnalysis провёл исследование отличий Genoa и Bergamo.

Источник: SemiAnalysis

Bergamo включает всего 8 модулей CCD (Vindhya), в то время как Genoa требует 12 (Durango) даже с учетом существенно меньшего количества ядер — в один CCD теперь умещается 16 ядер против 8 (два CCX). Тем не менее, общий объём кеша L3 у новинки меньше, 256 Мбайт против 384 Мбайт. Также снижена с 3,7 до 3,1 ГГц максимальная тактовая частота. Логика на кристалле упакована более плотно, уменьшено количество физических разделов (partitions), применены менее производительные двухпортовые ячейки SRAM 6T (8T у Genoa). Также процессоры лишились TSV-контактов, так что поддержки 3D V-Cacne Bergamo лишены изначально.

Первыми в серии станут 128-ядерный EPYC 9745 и 112-ядерный EPYC 9734. Оба процессора используют 12 каналов DDR5-4800 с совокупной пропускной способностью 460 Гбайт/с. Теплопакет удалось удержать в прежних 360–400 Вт. Возможен выпуск кастомных версий, учитывающих потребности крупных облачных провайдеров, но сколько и каких модифицированных Bergamo будет произведено, пока неизвестно.

Российская компания «Систэм Электрик» (Systeme Electric) сообщила о выходе однофазных ИБП для широкого спектра применений. Начались продажи моделей Back-Save BV, Smart-Save SMT, Smart-Save Online SRV и Smart-Save Online SRT, а также сопутствующих аккумуляторных батарей.

Устройства Back-Save BV (BVSE) рассчитаны на применение в офисе или дома для питания как маломощных устройств, таких как модемы или маршрутизаторы, так и компьютеров и игровых приставок. Модели серии оснащены встроенным стабилизатором. Интеллектуальная зарядка позволяет восполнять запас энергии даже при выключенном ИБП. Благодаря небольшим размерам устройство можно разместить в любых ограниченных пространствах или повесить его на стену.

Источник изображений: «Систэм Электрик»

ИБП семейства Smart-Save SMT (SMTSE) подходят для защиты серверного, сетевого и телекоммуникационного оборудования в сравнительно несложных конфигурациях: в магазинах розничной торговли, в сетях малых и средних предприятий. ИБП оснащены встроенным стабилизатором напряжения, USB-портом и последовательным портом, информационным дисплеем и SNMP-картой (опционально). ИБП можно монтировать в навесных или напольных шкафах небольшой глубины.

Изделия Smart-Save Online SRV (SRVSE) предназначены для серверного оборудования. ИБП имеют корректировку коэффициента мощности на входе, USB-порт и последовательный порт. Есть возможность установки опциональных коммуникационных карт: SNMP, сухие контакты, Modbus. Реализована возможность подключения до 10 дополнительных внешних батарейных блоков.

Наконец, серия Smart-Save Online SRT (SRTSE) включает производительные ИБП, разработанные для самых сложных условий электроснабжения. Имеется возможность подключения дополнительных батарей с функцией горячей замены. Мощность достигает 10 кВА. Устройства обеспечивают высокоэффективную защиту питания для серверных залов, а также для сетей голосовой связи и передачи данных. В числе преимуществ этой серии названы широкий диапазон входной сети, корректировка коэффициента мощности на входе, наличие USB- и последовательного портов, а также возможность установки коммуникационных карт.

Университет штата Нью-Йорк в Стони-Бруке анонсировал проект нового НРС-комплекса, который планируется использовать при проведении исследований в таких областях, как инженерия, физика, социальные и биологические науки. Созданием суперкомпьютера займутся специалисты компании HPE.

В основу платформы лягут серверы HPE ProLiant DL360 Gen11 на процессорах Intel Xeon Sapphire Rapids. В том числе будут задействованы узлы на базе Intel Xeon Max. Утверждается, что применение этих решений позволит повысить плотность компоновки оборудования и уменьшить площадь дата-центра — в том числе благодаря возможности развёртывания СЖО.

Помимо НРЕ и Intel, в проекте принимает участие системный интегратор ComnetCo. Эта фирма и раньше сотрудничала с Университетом штата Нью-Йорк в Стони-Бруке; кроме того, она имеет опыт взаимодействия с исследовательскими организациями и государственными заказчиками. Управление НРС-платформой возьмут на себя Институт передовых вычислительных наук (IACS) и Отдел информационных технологий (DoIT) в составе университета.

Отмечается, что Университет штата Нью-Йорк в Стони-Бруке станет первым академическим учреждением в США, развернувшим суперкомпьютерную платформу с процессорами Xeon Max на серверах HPE ProLiant. Доступ к ресурсам платформы планируется предоставлять в масштабах всего кампуса. Сведений о производительности системы на данный момент нет.

Компания evroc раскрыла планы по созданию первого в Европе «безопасного, суверенного и устойчивого облака гиперскейл-класса». Проект, как утверждается, позволит положить конец доминированию зарубежных провайдеров на европейском рынке облачных вычислений.

Evroc была основана в 2022 году для «развития цифровой Европы». Штаб-квартира компании находится в Стокгольме (Швеция), а офис разработки располагается в Софии-Антиполисе (Франция). Инвесторами проекта стали EQT Ventures и Norrsken VC.

Сообщается, что в 2024 году evroc создаст пилотный дата-центр в районе Стокгольма, а также начнёт процесс выбора площадок для первых двух европейских облачных кампусов и дополнительных центров разработки софта. Один из ЦОД будет построен в Северной Европе, другой — в Южной. На этом этапе evroc рассчитывает привлечь и вложить в проект приблизительно €3 млрд.

Источник изображения: Evroc

Evroc планирует использовать энергосберегающие технологии следующего поколения для создания «самого чистого в мире облака». Для платформы предусмотрено применение уникального проприетарного решения для балансировки нагрузки Eco Load Balancer. Эта система обеспечит бесперебойную и безопасную передачу данных между ЦОД в зависимости от того, где в текущий момент наиболее доступна энергия из возобновляемых источников.

К 2028 году evroc планирует создать в Европе восемь сверхкрупных дата-центров, а также три центра разработки ПО, в которых будут работать более 3000 человек. Инфраструктура будет включать в себя полный набор облачных сервисов, интеграцию со сторонними приложениями и возможности для разработчиков.