AWS и NVIDIA анонсировали сразу несколько новых совместно разработанных решений для генеративного ИИ. Основным анонсом формально является появление ИИ-облака DGX Cloud в инфраструктуре AWS, вот только облако это отличается от немногочисленных представленных ранее платформ DGX Cloud тем, что оно первом получило гибридные суперчипах GH200 (Grace Hoppper), причём в необычной конфигурации.

Изображения: NVIDIA

В основе AWS DGX Cloud лежит платформа GH200 NVL32, но это уже не какой-нибудь сдвоенный акселератор вроде H100 NVL, а целая, готовая к развёртыванию стойка, включающая сразу 32 ускорителя GH200, провязанных 900-Гбайт/с интерконнектом NVLink. В состав такого суперускорителя входят 9 коммутаторов NVSwitch и 16 двухчиповых узлов с жидкостным охлаждением. По словам NVIDIA, GH200 NVL32 идеально подходит как для обучения, так и для инференса действительно больших LLM с 1 трлн параметров.

Простым перемножением количества GH200 на характеристики каждого ускорителя получаются впечатляющие показатели: 128 Пфлопс (FP8), 20 Тбайт оперативной памяти, из которых 4,5 Тбайт приходится на HBM3e с суммарной ПСП 157 Тбайтс, и агрегированная скорость NVLink 57,6 Тбайт/с. И всё это с составе одного EC2-инстанса! Да, новая платформа использует фирменные DPU AWS Nitro и EFA-подключение (400 Гбит/с на каждый GH200). Новые инстансы, пока что безымянные, можно объединять в кластеры EC2 UltraClasters.

Одним из таких кластеров станет Project Ceiba, очередной самый мощный в мире ИИ-суперкомпьютер с FP8-производительность 65 Эфлопс, объединяющий сразу 16 384 ускорителя GH200 и имеющий 9,1 Пбайт памяти, а также агрегированную пропускную способность интерконнекта на уровне 410 Тбайт/с (28,8 Тбайт/с NVLink). Он и станет частью облака AWS DGX Cloud, которое будет доступно в начале 2024 года. В скором времени появятся и EC2-инстансы попроще: P5e с NVIDIA H200, G6e с L40S и G6 с L4.

Компания Vertiv представила образец деревянного дата-центра. Как сообщает Datacenter Konwledge, такое решение призвано помочь операторам ЦОД снизить углеродные выбросы и достичь поставленных целей устойчивого развития. С учётом того, что на производство цемента в мире приходится около 8 % мировых углеродных выбросов, деревянные ЦОД могут стать экологичной альтернативой традиционным кампусам.

Вопросы экобезопасности в индустрии ЦОД приобретают всё большее значение, поскольку только в США спрос на дата-центры, как ожидается, будет расти на 10 % ежегодно до 2030 года. Это заставит бизнес строить всё новые объекты, причём сегодня они в основном возводятся из стали и бетона. Для того, чтобы решить экологические проблемы клиентов, Vertiv построила образец TimberMod, а на основе предложенной концепции, вероятно, будут создаваться и другие ЦОД.

Источник изображения: Vertiv

Решение TimberMod доступно в качестве экобезопасной опции при создания готовых модульных ЦОД серий Power Module и SmartMod. Для строительства применяется древесина, заготовленная с учётом требований к устойчивым методам ведения хозяйства. При этом конструкция модулей устойчива к землетрясениям и ветрам и пожаробезопасна.

Хотя деревянные ЦОД кажутся довольно необычной концепцией, Vertiv — не первая компания, которая использует древесину для возведения таких объектов. Например, шведский оператор EcoDataCenter ещё в 2019 году открыл один из первых в мире экоустойчивых ЦОД. Центр не только на 100 % снабжается электричеством за счёт энергии ветра и воды, но и выполнен из «самозатухающей» кросс-ламинированной древесины, способной противостоять огню десятки минут.

Источник изображения: Vertiv

В самой EcoDataCenter заявили, что на севере дерево веками используется в качестве строительного материала, а в Швеции применяется для возведения объектов самого разного назначения и сегодня. Так, на новый ЦОД EcoDataCenter 2 потрачено 3200 м³ леса — такой объём в Швеции вырастает всего за 14 минут.

Аналитики Omdia подчеркивают, что деревянные дата-центры не являются такой уж новинкой, но благодаря модульным решениям Vertiv они стали доступнее. Модульные ЦОД позволяют сократить время строительства на 40–80 %, причём деревянные модули создаются даже быстрее аналогов из бетона, стали и композитных материалов, а углеродный выброс при строительстве можно снизить на ⅔.

В III квартале 2024 фискального года, завершившегося в октябре 2023-го, компания NVIDIA заработала впечатляющие $14,5 млрд на решениях для дата-центров. Как сообщает Tom’s Hardware, значительная часть выручки приходится на передовые ускорители H100 для ИИ и HPC-систем.

Данные опубликовала компания Omdia, отслеживающая активность на рынке IT-решений. Согласно её анализу, крупнейшими покупателями ускорителей H100 стали гиперскейлеры вроде Meta✴ и Microsoft, значительно обогнавших по объёмам закупок Google, Amazon, Oracle и Tencent. Если Microsoft и Meta✴ приобрели по 150 тыс. ускорителей, то их «коллеги» по IT-рынку — по 50 тыс. При этом гиперскейлерам отдаётся очевидный приоритет при выполнении заказов.

В Omdia пришли к выводу, что до конца года будет поставлено почти 650 тыс. H100. В то же время срок выполнения новых заказов на серверы на базе ускорителей компании вырос с 36 до 52 недель. Так, Dell, HPE и Lenovo не могут полностью удовлетворить свои потребности в ускорителях для своих серверов в кратчайшие сроки. В итоге год к году поставки серверов в количественном выражении рухнут на 17–20 %, однако общая выручка поднимется на 6–8 %.

Источник изображения: Omdia

В 2027 году рынок серверов должен вырасти до $195,6 млрд, причём основное предпочтение будет отдаваться специализированным вариантам под конкретные задачи, оснащённым специальными сопроцессорами. Запрос на серверы с кастомными конфигурациями становится новой нормой по мере того, как заказчики осознали экономическую эффективность применения сопроцессоров и ускорителей. Пионерами в этой сфере стали компании, связанные с ИИ и медиаконтентом, но привлекательность таких решений, как ожидается, в ближайшем будущем будет оценена и в других секторах.

Облачная платформа AWS представила инстансы Amazon EC2 U7i, предназначенные для поддержки крупных in-memory СУБД, включая SAP HANA, Oracle и SQL Server. Новые инстансы используют кастомные процессоры Intel Xeon Sapphire Rapids и обеспечивают по сравнению с инстансами EC2 High Memory первого поколения до 125 % большую вычислительную производительность и до 120 % большую производительность памяти.

EC2 U7i также обеспечивают в 2,5 раза большую пропускную способность EBS-томов, позволяя наполнять базы данных in-memory со скоростью до 44 Тбайт/час. Инстанс U7i поддерживает подключение до 128 томов EBS gp2/gp3 или io1/io2. Каждый том io2 Block Express может иметь размер до 64 ТиБ и обеспечивать производительность до 256 тыс. IOPS со скоростью до 32 Гбит/с.

Инстансы поддерживают адаптеры ENA Express, обеспечивающем пропускную способность до 25 Гбит/с на каждый сетевой поток. Всего же каждый инстанс может получить 100-Гбит/с подключение для работы с сетью и EBS. Максимальная конфигурация включает 896 vCPU и 32768 ГиБ оперативной памяти. В число поддерживаемых U7i операционных систем входят Red Hat Enterprise Linux и SUSE Enterprise Linux Server. Инстансы U7i в виде превью доступны в регионах US West (Орегон), Азиатско-Тихоокеанском (Сеул) и Европейском (Франкфурт).

Компания Omdia обнародовала предварительную статистику по мировому серверному рынку в 2023 году. Аналитики отмечают, что отрасль претерпевает трансформацию, что объясняется стремительным развитием технологий ИИ, растущей потребностью в системах со специализированными ускорителями и пр.

Специалисты Omdia называют наблюдающуюся тенденцию гипергетерогенными вычислениями (hyper heterogeneous computing). Речь идёт об увеличении спроса на серверы, которые оборудованы аппаратными компонентами для ускорения выполнения определённых задач. Это могут быть сопроцессоры для инференса, например, изделия NeuReality или карты для ускорения обработки сервисов, скажем, Nebulon Medusa2.

Источник изображения: Microsoft

По оценкам Omdia, в 2023 году глобальные поставки серверов в штучном выражении рухнут на 17–20 % по сравнению с прошлым годом. Вместе с тем из-за роста стоимости систем в связи с добавлением дополнительных аппаратных компонентов общая выручка поднимется на 6–8 %.

Аналитики полагают, что в свете развития гипергетерогенных вычислений к 2027 году на CPU и специализированные сопроцессоры будет приходиться более 30 % расходов дата-центров на оборудование по сравнению с менее чем 20 % десятью годами ранее. Если рассматривать сегмент GPU-серверов, то Microsoft и Meta✴ Platforms являются ведущими заказчиками: ожидается, что эти компании к концу 2023-го получат более 150 тыс. изделий NVIDIA H100. Это в три раза больше по сравнению с объёмом закупок Google, Amazon и Oracle.

Источник: Omdia (via aibusiness.com)

В отчёте Omdia также отмечается, что спрос на GPU-системы со стороны гиперскейлеров настолько высок, что традиционные поставщики в лице Dell, Lenovo и HPE попросту не в состоянии выполнять заказы на поставки серверов с ускорителями H100 из-за дефицита этих изделий. Время ожидания для клиентов может достигать 36–52 недель.

Из-за необходимости использования более мощных серверов операторам ЦОД приходится тратить больше денег на инфраструктуру электропитания и охлаждения. Так, выручка от стоечных средств распределения питания подскочила на 17 % в I полугодии 2023-го, а расходы на системы охлаждения увеличились на 7 % в годовом исчислении. При этом объём сегмента прямого жидкостного охлаждения вырастет на 80 % в нынешнем году.

Облачная платформа Amazon Web Services (AWS) и компания Kyndryl, бывшее подразделение IBM, объявили о заключении многолетнего соглашения о сотрудничестве. Партнёры помогут корпоративным заказчикам в создании и внедрении решений на базе генеративного ИИ и передовых средств машинного обучения.

Предполагается, что сотрудничество позволит клиентам AWS и Kyndril ускорить цифровую трансформацию, повысить эффективность работы и задействовать инновационные решения в рамках своего бизнеса.

Источник изображения: pixabay.com

По условиям соглашения, Kyndril и AWS создадут площадку Innovation Factory для совместной разработки решений на основе генеративного ИИ и машинного обучения, ориентированных на конкретные сценарии использования. Данная инициатива призвана помочь заказчикам в модернизации облачной стратегии.

Кроме того, партнёрство нацелено на расширение возможностей Kyndril по проектированию, внедрению, миграции, улучшению и управлению облачными сервисами AWS в комплексных IT-средах. Стороны помогут ускорить модернизацию систем планирования ресурсов предприятия и других приложений на площадке AWS: это позволит сократить финансовые и временные затраты.

Kyndril также сможет увеличить количество своих сотрудников, имеющих сертификаты AWS, что поможет ускорить реализацию проектов по миграции рабочих нагрузок клиентов в облако и по развёртыванию сервисов генеративного ИИ.

Компания Biostar представила материнскую плату Birpl-Pat для индустриального сектора. Новинка может применяться при создании интеллектуальных платформ Интернета вещей (AIoT), систем автоматизации, edge-устройств и пр. Эксплуатироваться решение может в широком температурном диапазоне, который простирается от -40 до +85 °C.

Плата выполнена в компактном формате с размерами 148 × 102 мм. Допускается установка процессоров Intel Raptor Lake-P, например, чипа i5-1345URE (2Р + 8Е; 12 потоков; 1,4–4,6 ГГц; 15 Вт). Присутствует интегрированный графический контроллер Intel Iris Xe Graphics.

Источник изображения: Biostar

В оснащение входят два слота SO-DIMM для модулей DDR5-4800 суммарным объёмом до 64 Гбайт, порт SATA-3, звуковой кодек Realtek ALC887 и двухпортовый сетевой адаптер Intel I226V (2.5GbE). Есть коннектор M.2 key-M 2242/2260/2280 для SSD с интерфейсом PCIe x4, разъём M.2 key-E 2230 (USB 2.0 + PCIe x1) для комбинированного модуля Wi-Fi/Bluetooth и коннектор M.2 key-B 3042/3052 (PCIe + USB 3.0) для модема 4G/5G (плюс слот для SIM-карты).

Интерфейсный блок содержит по два порта USB 3.2 Gen2 Type-A, USB 3.2 Gen2 Type-C и RJ-45, коннекторы HDMI 2.0 и DP 1.4. Через разъёмы на плате можно использовать четыре последовательных порта, два порта USB 2.0, интерфейсы LVDS/eDP и пр. Заявлена совместимость с Windows 10 Pro/IoT Enterprise. Плата подходит для применения в устройствах, которые эксплуатируются на открытом воздухе.

Инвестиционный фонд Digital 9 Infrastructure (D9) из Великобритании, как сообщает ресурс Datacenter Dynamics, заключил соглашение о продаже своей доли в исландском операторе дата-центров Verne Global. Покупателем выступила частная инвестиционная компания Ardian, базирующаяся во Франции.

Фонд D9, находящийся под контролем Triple Point Investment Management, приобрёл Verne Global осенью 2021 года: сумма сделки составила приблизительно $320 млн. Verne Global оперирует комплексом ЦОД мощностью 24 МВт на территории бывшего объекта НАТО в Кеблавике на полуострове Рейкьянес в юго-западной Исландии.

Источник изображения: Verne Global

Под брендом Verne фонд D9 объединил финские дата-центы Ficolo и лондонские площадки Volta. Кроме того, на этапе строительства находится ЦОД мощностью приблизительно 8 МВт. Оператор Verne также планировал реализовать пятилетний проект по расширению мощности своего кампуса в Исландии до более чем 96 МВт: капитальные затраты в рамках данной инициативы оценивались в $483,6 млн.

Однако в 2023 году у D9 возникли серьёзные финансовые сложности: долг продолжал расти, а стоимость акций резко снизилась. Фонд изначально хотел продать миноритарную долю в Verne, но акционеры настаивали на полной продаже. Условия соглашения с Ardian, а также стоимость сделки не раскрываются. Для передачи активов необходимо получение разрешений со стороны регулирующих органов. Ожидается, что процесс будет завершён к концу I квартала 2024 года.

«Мы очень рады стать частью платформы Ardian, у которой есть команда с глубоким опытом в области цифровой инфраструктуры и которая поможет ускорить наши планы развития в скандинавских странах», — отметил Доминик Уорд (Dominic Ward), генеральный директор Verne Global.

Минцифры РФ, по сообщению газеты «Коммерсантъ», планирует до 2030 года инвестировать в развитие отечественных средств обеспечения информационной безопасности (ИБ) приблизительно 25,2 млрд руб. Предполагается, что инициатива будет способствовать импортозамещению в соответствующей сфере, а также поможет повысить эффективность уже развёрнутых систем.

О новой программе финансирования говорится в материалах национального проекта «Экономика данных». К концу текущего десятилетия, как ожидается, все зарубежные средства защиты получат российские аналоги, что важно в условиях сложившейся геополитической обстановки.

Источник изображения: pixabay.com

Из общей суммы около 7,1 млрд руб. предлагается направить на развитие новой системы противодействия компьютерным атакам «Мультисканер» на базе ГосСОПКА (государственная система обнаружения, предупреждения и ликвидации последствий компьютерных атак). Ещё примерно 3,7 млрд руб. пойдёт на расширение функциональности и улучшение платформ «Антифрод» (противодействие мошенническим звонкам) и «Антифишинг» (блокировка мошеннических сайтов). На внешнюю оценку защищённости ключевых государственных информационных систем (ГИС) планируется выделить 2,4 млрд руб. Наконец, 12 млрд руб. будет затрачено на различные инструменты и сервисы обеспечения кибербезопасности: это криптография, средства защиты и т. д.

По данным Минцифры, после внедрения «Антифрода» число мошеннических звонков в 2023 году снизилось на 38 % — до 62,7 млн. «Мультисканер», по оценкам ведомства, сможет обрабатывать более 90 млн файлов в год, а число инцидентов, связанных с нарушениями безопасности ключевых ГИС, благодаря новым ИБ-мерам снизится до нуля.

Однако участники рынка отмечают, что затраты в размере 25,2 млрд руб. «выглядят несколько завышенными» даже с учётом инфляции. При этом финансирование «само по себе не гарантирует какой-либо результат».

Научно-производственное объединение «Эшелон» сообщило о выпуске нового релиза системы комплексного анализа защищённости «Сканер-ВС 6».

«Сканер-ВС» представляет собой универсальный инструмент для решения широкого спектра задач по тестированию и анализу защищённости корпоративной IT-инфраструктуры, а также оценки эффективности средств защиты информации. Продукт позволяет проводить как специализированные тесты, так и комплексное тестирование защищённости информационных систем, сочетающее сетевые и системные проверки. Решение поддерживает работу с банком данных угроз безопасности информации ФСТЭК России, может применяться в качестве мобильного места администратора информационной безопасности, а также как средство расследования инцидентов IT-безопасности и для мониторинга сети.

Источник изображения: npo-echelon.ru

При подготовке релиза «Сканер-ВС 6» к выпуску специалистами НПО «Эшелон» была проделана работа по оптимизации и повышению скорости работы программного комплекса. В частности, говорится о существенном увеличении скорости поиска уязвимостей благодаря технологии «без скриптов». Также продукт получил ежедневно обновляемую базу данных уязвимостей и поддержку защищённой операционной системы Astra Linux 1.7.

Использование «Сканер-ВС» позволяет обеспечить непрерывный мониторинг защищённости информационных систем, а также повысить эффективность деятельности IT-подразделений и служб безопасности. Для оценки функциональных возможностей предусмотрена демонстрационная версия программного решения.