Разработчик ИИ-суперчипов Cerebras Systems анонсировал сотрудничество с Dell. Вместе компании займутся созданием передовых вычислительных инфраструктур для генеративного ИИ. В рамках сотрудничества будут создаваться масштабируемые решения для ИИ-суперкомпьютеров Cerebras с платформами Dell на базе процессоров AMD EPYC Genoa.

Источник изображения: Cerebras

По словам участников проекта, новые технологические решения дадут возможность обучать модели, на порядки более крупные, чем те, что есть на данный момент. В частности, будут задействованы системы Dell PowerEdge R6615 на базе AMD EPYC 9354P, которые предоставят потоковый доступ к 82 Тбайт памяти — для обучения моделей практически любого размера.

Совместные платформы Cerebras и Dell будут включать ИИ-системы и суперкомпьютеры. Также будет предложена тренировка ИИ-моделей и иные сервисы поддержки машинного обучения. Как утверждают в самой Cerebras, сотрудничество с Dell станет поворотной точкой, открывающие каналы глобальной дистрибуции. Компании предоставят ИИ-оборудование, ПО и экспертизу, что позволит заказчикам упростить и ускорить внедрении современных ИИ-технологий, попутно снизив TCO.

В марте Cerebras представила новейшие суперчипы Cerebras WSE-3, а в мае появилась новость, что совместно с Core42 из ОАЭ компания создаст суперкомпьютер Condor Galaxy 3 (CG-3) со 172,8 млн ИИ-ядер.

Инвесторы делают ставки на то, что сиднейская Goodman Group в этом году продолжит стремительно расти. Bloomberg сообщает, ожидания экспертов обусловлены выгодным географическим расположением её активов и мощным потоком финансовых ресурсов, которые обеспечат существенное развитие бизнеса компании в сфере ЦОД для ИИ.

В этом году акции REIT-траста Goodman, инвестирующего в недвижимость, выросли на 40 % — это лучший показатель в рейтинге Bloomberg World REIT Index. В портфеле компании множество объектов соответствующего профиля, от Сиднея до Гонконга, Лос-Анджелеса и Франкфурта. Более того, компания активно переоборудует в хранилища данных и принадлежащие ей склады. По мнению отраслевых экспертов, Goodman владеет буквально неоценимыми активами поблизости от ключевых регионов деловой активности.

Источник изображения: Googdman Group

Показатели Goodman отражают то, как высоко инвесторы всего мира оценивают возможности заработка на ИИ, даже на рынках вроде Австралии, где доминируют глобальные игроки из числа добывающих компаний и банков. В прошлом месяце траст улучшил прогноз роста по итогам фискального года, который закончится 30 июня, с 11 % до 13 %. Предполагается, что этому помог растущий спрос на инфраструктуру для цифровой экономики. В Goodman уверены, что бухгалтерский баланс компании обеспечит ей успех даже на фоне продолжающейся высокой волатильности на мировом рынке недвижимости.

При этом эксперты Bloomberg Intelligence уверены, что поворот бизнеса Goodman от традиционного рынка индустриальной недвижимости не просто «трюк с ИИ» — компания может сохранить рост выручки благодаря перепрофилированию существующих активов и развитию новых проектов для удовлетворения мировых требований к обработке данных. Впрочем, оценки биржевых показателей компании вызывают некоторую озабоченность аналитиков, хотя пока беспокоиться не о чем, поскольку у компании имеется большой потенциал роста.

По мере того как будут вводиться в эксплуатацию всё новые энергетические резервы Goodman, будет расти и потенциал дальнейшего развития в сравнении с конкурентами. В Citigroup считают, что результаты работы компании могут превзойти прогнозы аналитиков. В феврале 2024 года сама Goodman сообщала, что обладает возможностями строительства ЦОД на десятки миллиардов долларов в ближайшие 7–10 лет.

Производитель потребительской электроники ASUS уже давно работает на рынке серверов и ЦОД. Пока он занимает на нём не очень большую долю, но как сообщил ресурсу The Register старший вице-президент ASUS Джеки Сюй (Jackie Hsu), высокопроизводительных вычислений (HPC) и серверов стал для компании «областью большого роста».

Сюй рассказал, что ASUS участвовала в строительстве на Тайване суперкомпьютера Taiwania 2 производительностью 9 Пфлопс, занявшего в рейтинге TOP500 двадцатую позицию после дебюта в 2018 году. А в прошлом году ASUS выиграла тендер на участие в создании суперкомпьютера Taiwania 4.

Сюй сообщил, что ASUS построила ЦОД для Taiwania 4. Причём PUE новой площадки составляет 1,17, что является неплохим показателем для любого подобного объекта, а тем более для Тайваня, отличающегося климатом с высокими температурой и влажностью.

Источник изображения: ASUS

Также ASUS участвовала в ряде проектов в области ИИ, включая разработку собственной большой языковой модели (LLM) Formosa Foundation со 176 млрд параметров. Модель была обучена на наборах данных на местном языке для генерации текста с традиционной китайской семантикой.

Благодаря накопленному опыту ASUS начала предлагать услуги на рынке ИИ. Компания уже заключила несколько контрактов, в рамках которых она проектирует и создаёт мощные системы для работы с ИИ, предлагая большую часть программного и аппаратного стека, необходимого для обработки ИИ-нагрузок. Гендиректор NVIDIA Дженсен Хуанг (Jensen Huang) назвал ASUS в числе компаний, с кем NVIDIA будет сотрудничать в работе над созданием так называемых фабрик ИИ.

На Computex 2024 компания представила новые серии серверов ASUS RS700-E12 и RS720-E12 с процессорами Intel Xeon 6, разработанные специально для обработки высокопроизводительных рабочих нагрузок, а также серверы хранения семейства VS320D, предназначенные для использования в составе инфраструктур SAN для работы с базами данных, системами виртуализации и пр. Также ASUS представила ИИ-систему ESC AI POD на базе суперускорителей NVIDIA GB200 NVL72.

Согласно исследованию юридической фирмы Linklaters, 2023-й стал вторым по величине годом за последнее десятилетие в плане объёма инвестиций в ЦОД. Затраты в соответствующем сегменте оцениваются в $36 млрд. Увеличение расходов объясняется быстрым расширением инфраструктуры дата-центров на фоне стремительного развития ИИ и НРС.

Отмечается, что крупнейшим рынком ЦОД остаётся Северная Америка. В 2023-м на этот регион пришлось 62 % всех капиталовложений, что эквивалентно приблизительно $22,3 млрд.

Источник изображения: Linklaters

Вместе с тем растёт активность в области дата-центров в Европе. Доля инвестиций в этом регионе поднялась с 6 % в 2022 году до 20 % в 2023-м. Таким образом, в европейские ЦОД за прошедший год было инвестировано около $7,2 млрд. Кроме того, в Европе устойчиво растёт объём сделок на рынке дата-центров.

В исследовании говорится, что секьюритизация, обеспеченная активами (ABS), становится привлекательным вариантом финансирования проектов ЦОД. Такая модель обеспечивает более экономически эффективные способы рефинансирования существующей банковской задолженности. В 2023 году только в США на ABS-сделки пришлось примерно $5,4 млрд.

Говорится также, что в течение первых пяти месяцев 2024 года глобальные инвестиции в области дата-центров достигли $22 млрд. Из них 69 %, или приблизительно $15,2 млрд вложено в Северной Америке, а 29 %, или почти $6,4 млрд, — в Европе.

На Computex 2024 AMD анонсировала новое поколение серверных процессоров EPYC Turin на базе архитектуры Zen 5. При этом компания продемонстрировала слайды, из которых следует, что новые решения серьёзно опережают процессоры Intel Xeon. Так, 128-ядерный Turin сравнивается с 64-ядерным Xeon Platinum 8592+ (Emerald Rapids). AMD говорит о 2,5–5,4-кратном превосходстве, однако Intel опровергает полученные результаты и достаточно подробно разбирает вопрос тестирования в своём блоге.

Конечно, превосходство AMD в чисто количественных показателях очевидно, но в сложных вычислительных задачах, к которым относятся HPC- и ИИ-сценарии, не меньшую, а то и большую роль может играть оптимизация ПО. Intel отмечает, что AMD не привела в своём анонсе конкретных сведений о версиях и настройках ПО, и, вероятнее всего, отказалась от различных расширений. Но, например, Intel Extension for PyTorch (IPEX) позволяет добиться более чем пятикратного прироста производительности по сравнению с «чистой» версией PyTorch.

Для системы с двумя Xeon Platinum 8592+ применение IPEX позволяет поднять производительность инференса в режиме INT4 с чат-ботом на базе Llama2-7B со 127 до 686 запросов в секунду при заданной задержке не более 50 мс. Для своей 256-ядерной платформы на базе Turin AMD говорит про 671 запрос — как видно, с оптимизацией результаты получаются вполне сопоставимыми.

Источник: AMD

И потенциал для дальнейшего роста у Xeon есть: Intel сообщает, что при отключении функции Sub-NUMA Clustering результат может достигать 740 запросов. К сожалению, для других тестов компания диаграмм не опубликовала, хотя и там оптимизация позволяет добиться увеличения производительности в 1,2–2,3 раза. Этого уже не хватает, чтобы бороться с платформой Turin, которая, помимо превосходства в числе ядер, использует и более мощную 12-канальную подсистему памяти.

Источник: Intel

Следует отметить, что Intel не сказала последнего слова: Xeon Platinum 8592+ уже не нов, а в ближайшем будущем AMD Turin придётся столкнуться с Xeon 6 с большим числом ядер. Пока эти чипы доступны лишь в исполнении с энергоэффективными ядрами, но уже в III квартале появятся и 128-ядерные Granite Rapids с производительными P-ядрами и 12-канальной памятью.

Источник: Intel

Тем не менее, тема затронута достаточно фундаментальная: свои плюсы имеет как чисто количественный подход, которого придерживается AMD, так и подход Intel, позволяющий добиться высоких результатов при тщательной оптимизации под более комплексную архитектуру. Нельзя сказать, что результаты AMD являются мошенничеством, хотя случай и не первый — согласно тестам компании, ускоритель Instinct MI300X серьёзно опередил NVIDIA H100, но при этом AMD точно так же «забыла» про оптимизированный фреймворк TensorRT-LLM. Правда, в тот раз «честь мундира» отстоять удалось и с оптимизациями NVIDIA.

Sapeon и Rebellions, два южнокорейский участника альянса AI Platform Alliance, сформированного в прошлом году с целью ускорения внедрения передовых решений в области ИИ, объявили о планах по объединению усилий, чтобы ускорить работу и добиться больших масштабов бизнеса.

Компания Sapeon предлагает чип X330, предназначенный для инференса и обслуживания больших языковых моделей (LLM), а также основанные на этом чипе серверы. В свою очередь, Rebellions разработала NPU ATOM для систем компьютерного зрения и использования с чат-ботами на базе ИИ. Оба производителя участвуют в программе по импортозамещению ИИ-ускорителей, CPU и иных чипов.

Сейчас Южная Корея стремится добиться технологической независимости от зарубежных поставщиков оборудования и ПО. Речь, в первую очередь, об NVIDIA. Ускорители последней в своё время не достались местному IT-гиганту Naver, который временно был вынужден заменить их процессорами Intel Xeon, а впоследствии вместе с Samsung создал собственные ИИ-чипы Mach-1.

Источник изображения: Rebellions

Инициатором слияния Sapeon и Rebellions выступила SK hynix, которая вместе с SK Telecom является акционером Sapeon. В своём заявлении она отметила, эти компании согласились на слияние, поскольку, по их мнению, это позволит создать компанию, способную оказать конкуренцию другим участникам глобального рынка ИИ.

Как отметил The Register, время сейчас имеет решающее значение для Sapeon и Rebellions, поскольку следующие два или три года воспринимаются как «золотое время» для создания компаний, способных стать крупными игроками в области ИИ. Поэтому предполагается провести слияние в кратчайшие сроки с завершением сделки в III квартале и запуском объединённой компании до конца 2024 года.

Источник изображения: Sapeon

В свою очередь, SK hynix планирует оказать помощь объединенной компании в разработке ИИ-полупроводников. Sapeon была выделена SK Telecom в отдельную компанию в 2016 году. Rebellions была создана всего четыре года назад при поддержке прямого конкурента SK Telecom в лице KT Corp., но уже договорилась с Samsung о поставке ей ИИ-чипов, которые будут производиться компанией Chaebol с использованием 4-нм процесса с интеграцией HBM3e.

Компания «Базальт СПО» сообщила о доступности профессиональной аудитории открытой библиотеки libdomain, предназначенной для управления доменной IT-инфраструктурой на базе Samba, FreeIPA, Active Directory, OpenLDAP и реализации проектов по импортозамещению ПО в российских организациях.

Разработчики могут использовать libdomain вместо написания API под каждую службу каталогов. В составе библиотеки представлен модуль, который автоматически распознает, с какой именно службой каталогов происходит взаимодействие, и трансформирует запросы приложений в подходящий формат.

Библиотека выпущена под лицензией GNU GPLv2, включена в независимый открытый репозиторий проекта «Сизиф» и в 11 программную платформу (p11), являющуюся основой для разработки новых версий операционных Linux-систем семейства «Альт» и широкого спектра других программных продуктов — от софта для встроенных и мобильных устройств до программных решений для серверов предприятий, дата-центров и облачных окружений.

Схема работы библиотеки libdomain

Libdomain разработана при грантовой поддержке Фонда содействия инновациям. В планах компании «Базальт СПО» — дальнейшее развитие библиотеки и расширение её функциональных возможностей.

В этом году дата-центры в Азии пользуются особенным спросом — инвесторы и операторы ориентируются на рост ИИ-технологий в обозримом будущем. Впрочем, как сообщает Datacenter Knowledge, компании и связанную с ЦОД инфраструктуру не только покупают, но и нередко выставляют на продажу.

Последней по времени, вероятно, может считаться продажа австралийского оператора iseek, принадлежащего британской Amber Infrastructure Group, желающей получить за бизнес AU$400 млн ($264 млн) — в распоряжении оператора имеется пять дата-центров. Крупнейшей пока считается проходящая на том же континенте сделка по продаже ЦОД-бизнеса Airtrunk, принадлежащего Канадскому совету по пенсионным инвестициям в государственном секторе и Macquarie Group. Этот бизнес оценивается в AU$15 млрд ($9,9 млрд).

Вынужденно проявляет активность и китайская сталелитейная компания Shagang, владеющая компанией GlobalSwitch и намеренная продать её на фоне потери государственных контрактов по политическим причинам. На актив уже имеются претенденты — австралийская Next DC и частная инвестиционная группа EQT.

За пределами Австралии тоже кипит деловая активность. Singtel и её партнёр KKR приобретают миноритарный пакет в ведущей в Юго-Восточной Азии, Индии и Европе сингапурской компании STT GDC. Наконец, NTT намерена приобрести 49 % в филиппинском бизнесе компании PLDT. По имеющимся данным, речь идёт о $750 млн, а сделку планируют завершить во II половине текущего года.

Источник изображения: Finan Akbar/unsplash.com

Общая же сумма уже завершённых сделок в Азиатско-Тихоокеанском регионе (включая Японию) в этом году достигла $840,47 млн, по данным LSEG, это больше половины общемировых продаж в соответствующем сегменте. Когда сделки по приобретению активов вроде AirTrunk и PLDT завершатся, рекорд прошлого года в $3,45 млрд будет обновлён. По оценкам экспертов, предложение так и будет ограничено, а инвесторы сохранят высокий интерес к таким активам.

По словам CBRE, активность в разных регионах несколько отличается. Так, в Индонезии и Малайзии предпочитают строить новые кампусы, а не приобретать старые. В Японии постройкой ЦОД занялись KDDI и SoftBank. На прошлой неделе KDDI уже объявила, что построит крупнейший в Азии дата-центр с оборудованием NVIDIA. В SoftBank заявили, что подписали меморандум о взаимопонимании с Sharp, касающийся части площадки последней, там планируется построить и открыть в будущем году ИИ-ЦОД площадью 750 тыс. м² и ёмкостью 150 МВт.

Холдинг «Росэлектроника» госкорпорации «Ростех» создал, как утверждается, самый компактный вычислительный модуль на отечественном процессоре «Эльбрус-2С3». Размеры изделия с обозначением МП21 (ТЕГР.467144.004) составляют всего 95 × 95 мм. Новинка может эксплуатироваться в суровых условиях, в частности, в составе бортовой авиационной техники.

Чип «Эльбрус-2С3» имеет два ядра МЦСТ «Эльбрус» общего назначения и 6-ядерный ускоритель 3D-графики. Объём кеша L2 составляет 2 Мбайт в расчёте на ядро. Возможна работа с оперативной памятью DDR4-2400 ECC. Реализована поддержка PCI Express 3.1, SATA-3, двух сетевых интерфейсов 1/2.5GbE и иных распространённых шин. Процессор совместим с контроллером периферийных интерфейсов «КПИ-2».

Источник изображения: ИНЭУМ им. Брука

Модуль МП21 в формате Com Express Type 6 Compact разработан специалистами ИНЭУМ им. Брука в составе «Росэлектроники». Тактовая частота установленного процессора «Эльбрус-2С3» составляет не менее 1,6 ГГц, а объём ОЗУ равен 8 Гбайт (ECC, один канал; опционально 4 Гбайт). Возможна установка SSD вместимостью от 60 до 480 Гбайт. Масса без опциональной теплораспределительной пластины — приблизительно 100 г.

Могут быть задействованы два интерфейса HDMI (разрешение до 4096 × 2160 точек; 60 Гц) и двухканальный LVDS (до 4096 × 2160 пикселей; 30 Гц). Упомянуто аппаратное ускорение DirectX 10, OpenGL 3.2, OpenGL ES 3, Vulkan 1.0, OpenCL 1.2, OpenVX 1.x. Возможно кодирование и декодирование материалов VP9, H.264, H.265, VC1, MJPEG.

Прочие характеристики включают два канала 1GbE, два порта SATA-3, восемь портов USB 2.0, четыре порта USB 3.0, два порта UART (уровня LVTTL), интерфейсы SPI, I2C, SMBus и пр. Питание осуществляется от источника постоянного тока 12 В. Новинка, по заявлениям разработчиков, имеет энергопотребление около 40 Вт. Диапазон рабочих температур простирается от -40 до +55 °C. Среди совместимых плат-носителей указаны БПИ (ЛЯЮИ.469535.150) и ТКПА (ЛЯЮИ.469535.147).

Отмечается, что МП21 — это полностью российская разработка, способная заменить иностранные аналоги. Устройство прошло весь цикл испытаний и готово к серийному производству. «В настоящее время это самое миниатюрное решение на базе процессора "Эльбрус-2С3". Его массогабаритные характеристики значительно повышают вариативность его использования», — отметил первый заместитель генерального директора ИНЭУМ им. Брука.

Президент РФ внёс изменения в указ «О дополнительных мерах по обеспечению информационной безопасности РФ» от 1 мая 2022 года. Согласно новому постановлению, с 1 января 2025 года государственным структурам, госкорпорациям и субъектам критической информационной инфраструктуры (КИИ) запрещается использовать услуги и сервисы информационной безопасности (ИБ), предоставляемые недружественными государствами.

Внесённая в указ поправка дополняет запрет на использование средств киберзащиты из недружественных стран: организациям, на которые распространяется документ, с 2025 года также запрещается использовать в своей IT-инфраструктуре системы защиты информации, странами происхождения которых являются иностранные государства, совершающие в отношении РФ, российских юридических или физических лиц недружественные действия, либо производителями которых являются компании, находящиеся под юрисдикцией таких иностранных государств, прямо или косвенно подконтрольные им либо аффилированные с ними.

Источник изображения: pikisuperstar / freepik.com

Помимо прочего предложенные президентом изменения содержат ряд уточнений, касающихся мер по оптимизации контроля и мониторинга за деятельностью аккредитованных центров ГосСОПКА. Ожидается, что внесённые в указ «О дополнительных мерах по обеспечению информационной безопасности РФ» дополнения будут способствовать повышению киберустойчивости экономики государства и технологической независимости отрасли кибербезопасности.

В настоящий момент на государственном уровне прорабатывается также вопрос по созданию отдельного ведомства, которое будет заниматься централизованным управлением, координированием и решением задач в сфере ИБ. Некоторые представители индустрии говорят о необходимости создания подобной госструктуры, поскольку сейчас вопросами кибербезопасности занимаются сразу несколько ведомств.