По словам президента Microsoft в Японии Мики Цусаки (Miki Tsusaka), страна стала одним из лидеров по внедрению новых ИИ-инструментов и имеет потенциал для ускорения как экономики в целом, так и технологического сектора. Цифровизация страны получила ускорение ещё во время пандемии при переходе многих сотрудников на работу из дома. Как передаёт Bloomberg, Цусака уверена, что Япония наверстала прежнее отставание от других держав.

Топ-менеджер Microsoft уверена, что ускорение продолжится, поскольку технологии дают новые возможности — даже с относительно небольшим стареющим населением ИИ способен придать стране значительный импульс развития. В Microsoft утверждают, что компания заинтересована в образовании большего количества женщин в стране. Кроме того, в ближайшие два года компания намерена инвестировать в масштабирование своих местных ИИ-ресурсов $2,9 млрд.

Источник изображения: Yu Kato/unsplash.com

Объявление о новых инвестициях года подняло цену акций коммунальных и некоторых других компаний страны на фоне ожиданий роста спроса на энергию. Кроме того, вероятный повышенный спрос способствовал лоббированию перезапуска крупнейшей АЭС. В мае сообщалось, что Япония намерена значительно нарастить генерацию электричества в ответ на рост спроса на ИИ и чипы.

Кибербезопасность названа ещё одним ключевым приоритетом, поскольку без неё невозможно использовать ИИ. Microsoft тесно сотрудничает с японскими властями в соответствующей сфере на национальном и местном уровнях, а также с локальными бизнес-структурами.

По словам Цусаки, все были поражены, когда появился интернет, а смартфон сегодня буквально является частью нашего тела — но появление ИИ стало научно-технической революцией, результаты которой превзошли все эти технологии.

Облачный гигант Microsoft намерен инвестировать €6,69 млрд ($7,16 млрд) в постройку в северо-восточном испанском регионе Арагон новых дата-центров. Reuters сообщает, что эта область Испании становится одним из ключевых вычислительных хабов на территории Европы.

По данным региональных властей, американский инвестор подал заявку на получение разрешения на строительство дата-центров вблизи испанской Сарагосы — ранее о вероятном возведении новых ЦОД недалеко от города уже сообщали местные СМИ. Как сообщают представители местного самоуправления, реализация проекта растянется на 10 лет. Ранее Microsoft анонсировала инвестиции в ЦОД на $2,1 млрд., а на днях был запущен первый облачный регион Azure в Мадриде.

Вероятно, Microsoft намерена угнаться за главным конкурентом — AWS, также имеющей планы на Арагон. Только в прошлом месяце облачное подразделение Amazon объявило о намерении вложить в строительство ЦОД в регионе €15,7 млрд в течение 10 лет. В AWS утверждают, что ЦОД компании будут полностью питаться за счёт возобновляемой энергии, благо в провинции постоянно дуют сильные ветры.

Источник изображения: Gerard Albanell / Unsplash

Сарагоса считается пятым по величине городом Испании и давно стала крупным логистическим и транспортным хабом, удачно расположенным между Мадридом и Барселоной, крупнейшими городскими агломерациями страны. Кроме того, город находится в самом центре коридора, связывающего Пиренейский полуостров с Францией и другими странами Европы.

По прогнозам IDC, новая облачная и ИИ-инфраструктура в Испании пополнит ВВП страны на €10,7 млрд и будет способствовать появлению 77 тыс. новых рабочих мест в 2024–2030 гг.

Финансовый директор AMD Жан Ху (Jean Hu) в ходе конференции для инвесторов Nasdaq в Лондоне сообщила о том, что решения для ЦОД остаются для компании основным источником прибыли, несмотря на бум ИИ. По её словам, для многих рабочих нагрузок ключевым аппаратным ресурсом являются ядра CPU.

Ху отметила, что в I четверти 2024 года направление продуктов для дата-центров демонстрировало значительно более высокие темпы роста, нежели другие сегменты бизнеса AMD. Вместе с тем были отмечены некоторые сложности в области встраиваемых продуктов. «Основным драйвером повышения валовой прибыли по-прежнему остаются ЦОД, и я думаю, что в следующем году будет наблюдаться аналогичная картина», — подчеркнула Жан Ху.

Источник изображения: AMD

Вместе с тем финдиректор AMD признаёт, что ИИ является «горячей темой». На этом фоне Ху рассказала о разработках компании в соответствующей сфере. Она напомнила, что на выставке Computex 2024 дебютировали чипы для ноутбуков Ryzen AI 300 с NPU, а также настольные процессоры Ryzen 9000. На серверный сегмент ориентированы мощные ускорители Instinct MI325X и MI350X. Отмечается, что изделие MI350X, продажи которого начнутся в 2025 году, будет конкурировать с NVIDIA Blackwell B200. А в 2026-м AMD выпустит ускоритель Instinct MI400 в качестве конкурента будущим решениям NVIDIA Rubin. При этом NVIDIA продаёт ускорители миллионами, а AMD и Intel в сумме смогли продать и 100 тыс. шт. в 2023 году.

Что касается сегмента традиционных серверов (без средств ИИ), то финансовый директор AMD указала на его сокращение по итогам 2023 года. Ху сказала, что данный сектор остаётся «довольно смешанным». В области серверных процессоров компания укрепляет позиции благодаря своим чипам EPYC, в том числе поколения Siena. По словам Ху, доля AMD в соответствующей области в I квартале 2024 года достигла 33 %. Новейшие серверные платформы AMD позволяют предприятиям уменьшить количество серверов на 40 % при сохранении прежнего уровня производительности.

Разработчик ИИ-суперчипов Cerebras Systems анонсировал сотрудничество с Dell. Вместе компании займутся созданием передовых вычислительных инфраструктур для генеративного ИИ. В рамках сотрудничества будут создаваться масштабируемые решения для ИИ-суперкомпьютеров Cerebras с платформами Dell на базе процессоров AMD EPYC Genoa.

Источник изображения: Cerebras

По словам участников проекта, новые технологические решения дадут возможность обучать модели, на порядки более крупные, чем те, что есть на данный момент. В частности, будут задействованы системы Dell PowerEdge R6615 на базе AMD EPYC 9354P, которые предоставят потоковый доступ к 82 Тбайт памяти — для обучения моделей практически любого размера.

Совместные платформы Cerebras и Dell будут включать ИИ-системы и суперкомпьютеры. Также будет предложена тренировка ИИ-моделей и иные сервисы поддержки машинного обучения. Как утверждают в самой Cerebras, сотрудничество с Dell станет поворотной точкой, открывающие каналы глобальной дистрибуции. Компании предоставят ИИ-оборудование, ПО и экспертизу, что позволит заказчикам упростить и ускорить внедрении современных ИИ-технологий, попутно снизив TCO.

В марте Cerebras представила новейшие суперчипы Cerebras WSE-3, а в мае появилась новость, что совместно с Core42 из ОАЭ компания создаст суперкомпьютер Condor Galaxy 3 (CG-3) со 172,8 млн ИИ-ядер.

Инвесторы делают ставки на то, что сиднейская Goodman Group в этом году продолжит стремительно расти. Bloomberg сообщает, ожидания экспертов обусловлены выгодным географическим расположением её активов и мощным потоком финансовых ресурсов, которые обеспечат существенное развитие бизнеса компании в сфере ЦОД для ИИ.

В этом году акции REIT-траста Goodman, инвестирующего в недвижимость, выросли на 40 % — это лучший показатель в рейтинге Bloomberg World REIT Index. В портфеле компании множество объектов соответствующего профиля, от Сиднея до Гонконга, Лос-Анджелеса и Франкфурта. Более того, компания активно переоборудует в хранилища данных и принадлежащие ей склады. По мнению отраслевых экспертов, Goodman владеет буквально неоценимыми активами поблизости от ключевых регионов деловой активности.

Источник изображения: Googdman Group

Показатели Goodman отражают то, как высоко инвесторы всего мира оценивают возможности заработка на ИИ, даже на рынках вроде Австралии, где доминируют глобальные игроки из числа добывающих компаний и банков. В прошлом месяце траст улучшил прогноз роста по итогам фискального года, который закончится 30 июня, с 11 % до 13 %. Предполагается, что этому помог растущий спрос на инфраструктуру для цифровой экономики. В Goodman уверены, что бухгалтерский баланс компании обеспечит ей успех даже на фоне продолжающейся высокой волатильности на мировом рынке недвижимости.

При этом эксперты Bloomberg Intelligence уверены, что поворот бизнеса Goodman от традиционного рынка индустриальной недвижимости не просто «трюк с ИИ» — компания может сохранить рост выручки благодаря перепрофилированию существующих активов и развитию новых проектов для удовлетворения мировых требований к обработке данных. Впрочем, оценки биржевых показателей компании вызывают некоторую озабоченность аналитиков, хотя пока беспокоиться не о чем, поскольку у компании имеется большой потенциал роста.

По мере того как будут вводиться в эксплуатацию всё новые энергетические резервы Goodman, будет расти и потенциал дальнейшего развития в сравнении с конкурентами. В Citigroup считают, что результаты работы компании могут превзойти прогнозы аналитиков. В феврале 2024 года сама Goodman сообщала, что обладает возможностями строительства ЦОД на десятки миллиардов долларов в ближайшие 7–10 лет.

Производитель потребительской электроники ASUS уже давно работает на рынке серверов и ЦОД. Пока он занимает на нём не очень большую долю, но как сообщил ресурсу The Register старший вице-президент ASUS Джеки Сюй (Jackie Hsu), высокопроизводительных вычислений (HPC) и серверов стал для компании «областью большого роста».

Сюй рассказал, что ASUS участвовала в строительстве на Тайване суперкомпьютера Taiwania 2 производительностью 9 Пфлопс, занявшего в рейтинге TOP500 двадцатую позицию после дебюта в 2018 году. А в прошлом году ASUS выиграла тендер на участие в создании суперкомпьютера Taiwania 4.

Сюй сообщил, что ASUS построила ЦОД для Taiwania 4. Причём PUE новой площадки составляет 1,17, что является неплохим показателем для любого подобного объекта, а тем более для Тайваня, отличающегося климатом с высокими температурой и влажностью.

Источник изображения: ASUS

Также ASUS участвовала в ряде проектов в области ИИ, включая разработку собственной большой языковой модели (LLM) Formosa Foundation со 176 млрд параметров. Модель была обучена на наборах данных на местном языке для генерации текста с традиционной китайской семантикой.

Благодаря накопленному опыту ASUS начала предлагать услуги на рынке ИИ. Компания уже заключила несколько контрактов, в рамках которых она проектирует и создаёт мощные системы для работы с ИИ, предлагая большую часть программного и аппаратного стека, необходимого для обработки ИИ-нагрузок. Гендиректор NVIDIA Дженсен Хуанг (Jensen Huang) назвал ASUS в числе компаний, с кем NVIDIA будет сотрудничать в работе над созданием так называемых фабрик ИИ.

На Computex 2024 компания представила новые серии серверов ASUS RS700-E12 и RS720-E12 с процессорами Intel Xeon 6, разработанные специально для обработки высокопроизводительных рабочих нагрузок, а также серверы хранения семейства VS320D, предназначенные для использования в составе инфраструктур SAN для работы с базами данных, системами виртуализации и пр. Также ASUS представила ИИ-систему ESC AI POD на базе суперускорителей NVIDIA GB200 NVL72.

Согласно исследованию юридической фирмы Linklaters, 2023-й стал вторым по величине годом за последнее десятилетие в плане объёма инвестиций в ЦОД. Затраты в соответствующем сегменте оцениваются в $36 млрд. Увеличение расходов объясняется быстрым расширением инфраструктуры дата-центров на фоне стремительного развития ИИ и НРС.

Отмечается, что крупнейшим рынком ЦОД остаётся Северная Америка. В 2023-м на этот регион пришлось 62 % всех капиталовложений, что эквивалентно приблизительно $22,3 млрд.

Источник изображения: Linklaters

Вместе с тем растёт активность в области дата-центров в Европе. Доля инвестиций в этом регионе поднялась с 6 % в 2022 году до 20 % в 2023-м. Таким образом, в европейские ЦОД за прошедший год было инвестировано около $7,2 млрд. Кроме того, в Европе устойчиво растёт объём сделок на рынке дата-центров.

В исследовании говорится, что секьюритизация, обеспеченная активами (ABS), становится привлекательным вариантом финансирования проектов ЦОД. Такая модель обеспечивает более экономически эффективные способы рефинансирования существующей банковской задолженности. В 2023 году только в США на ABS-сделки пришлось примерно $5,4 млрд.

Говорится также, что в течение первых пяти месяцев 2024 года глобальные инвестиции в области дата-центров достигли $22 млрд. Из них 69 %, или приблизительно $15,2 млрд вложено в Северной Америке, а 29 %, или почти $6,4 млрд, — в Европе.

На Computex 2024 AMD анонсировала новое поколение серверных процессоров EPYC Turin на базе архитектуры Zen 5. При этом компания продемонстрировала слайды, из которых следует, что новые решения серьёзно опережают процессоры Intel Xeon. Так, 128-ядерный Turin сравнивается с 64-ядерным Xeon Platinum 8592+ (Emerald Rapids). AMD говорит о 2,5–5,4-кратном превосходстве, однако Intel опровергает полученные результаты и достаточно подробно разбирает вопрос тестирования в своём блоге.

Конечно, превосходство AMD в чисто количественных показателях очевидно, но в сложных вычислительных задачах, к которым относятся HPC- и ИИ-сценарии, не меньшую, а то и большую роль может играть оптимизация ПО. Intel отмечает, что AMD не привела в своём анонсе конкретных сведений о версиях и настройках ПО, и, вероятнее всего, отказалась от различных расширений. Но, например, Intel Extension for PyTorch (IPEX) позволяет добиться более чем пятикратного прироста производительности по сравнению с «чистой» версией PyTorch.

Для системы с двумя Xeon Platinum 8592+ применение IPEX позволяет поднять производительность инференса в режиме INT4 с чат-ботом на базе Llama2-7B со 127 до 686 запросов в секунду при заданной задержке не более 50 мс. Для своей 256-ядерной платформы на базе Turin AMD говорит про 671 запрос — как видно, с оптимизацией результаты получаются вполне сопоставимыми.

Источник: AMD

И потенциал для дальнейшего роста у Xeon есть: Intel сообщает, что при отключении функции Sub-NUMA Clustering результат может достигать 740 запросов. К сожалению, для других тестов компания диаграмм не опубликовала, хотя и там оптимизация позволяет добиться увеличения производительности в 1,2–2,3 раза. Этого уже не хватает, чтобы бороться с платформой Turin, которая, помимо превосходства в числе ядер, использует и более мощную 12-канальную подсистему памяти.

Источник: Intel

Следует отметить, что Intel не сказала последнего слова: Xeon Platinum 8592+ уже не нов, а в ближайшем будущем AMD Turin придётся столкнуться с Xeon 6 с большим числом ядер. Пока эти чипы доступны лишь в исполнении с энергоэффективными ядрами, но уже в III квартале появятся и 128-ядерные Granite Rapids с производительными P-ядрами и 12-канальной памятью.

Источник: Intel

Тем не менее, тема затронута достаточно фундаментальная: свои плюсы имеет как чисто количественный подход, которого придерживается AMD, так и подход Intel, позволяющий добиться высоких результатов при тщательной оптимизации под более комплексную архитектуру. Нельзя сказать, что результаты AMD являются мошенничеством, хотя случай и не первый — согласно тестам компании, ускоритель Instinct MI300X серьёзно опередил NVIDIA H100, но при этом AMD точно так же «забыла» про оптимизированный фреймворк TensorRT-LLM. Правда, в тот раз «честь мундира» отстоять удалось и с оптимизациями NVIDIA.

Sapeon и Rebellions, два южнокорейский участника альянса AI Platform Alliance, сформированного в прошлом году с целью ускорения внедрения передовых решений в области ИИ, объявили о планах по объединению усилий, чтобы ускорить работу и добиться больших масштабов бизнеса.

Компания Sapeon предлагает чип X330, предназначенный для инференса и обслуживания больших языковых моделей (LLM), а также основанные на этом чипе серверы. В свою очередь, Rebellions разработала NPU ATOM для систем компьютерного зрения и использования с чат-ботами на базе ИИ. Оба производителя участвуют в программе по импортозамещению ИИ-ускорителей, CPU и иных чипов.

Сейчас Южная Корея стремится добиться технологической независимости от зарубежных поставщиков оборудования и ПО. Речь, в первую очередь, об NVIDIA. Ускорители последней в своё время не достались местному IT-гиганту Naver, который временно был вынужден заменить их процессорами Intel Xeon, а впоследствии вместе с Samsung создал собственные ИИ-чипы Mach-1.

Источник изображения: Rebellions

Инициатором слияния Sapeon и Rebellions выступила SK hynix, которая вместе с SK Telecom является акционером Sapeon. В своём заявлении она отметила, эти компании согласились на слияние, поскольку, по их мнению, это позволит создать компанию, способную оказать конкуренцию другим участникам глобального рынка ИИ.

Как отметил The Register, время сейчас имеет решающее значение для Sapeon и Rebellions, поскольку следующие два или три года воспринимаются как «золотое время» для создания компаний, способных стать крупными игроками в области ИИ. Поэтому предполагается провести слияние в кратчайшие сроки с завершением сделки в III квартале и запуском объединённой компании до конца 2024 года.

Источник изображения: Sapeon

В свою очередь, SK hynix планирует оказать помощь объединенной компании в разработке ИИ-полупроводников. Sapeon была выделена SK Telecom в отдельную компанию в 2016 году. Rebellions была создана всего четыре года назад при поддержке прямого конкурента SK Telecom в лице KT Corp., но уже договорилась с Samsung о поставке ей ИИ-чипов, которые будут производиться компанией Chaebol с использованием 4-нм процесса с интеграцией HBM3e.

Компания «Базальт СПО» сообщила о доступности профессиональной аудитории открытой библиотеки libdomain, предназначенной для управления доменной IT-инфраструктурой на базе Samba, FreeIPA, Active Directory, OpenLDAP и реализации проектов по импортозамещению ПО в российских организациях.

Разработчики могут использовать libdomain вместо написания API под каждую службу каталогов. В составе библиотеки представлен модуль, который автоматически распознает, с какой именно службой каталогов происходит взаимодействие, и трансформирует запросы приложений в подходящий формат.

Библиотека выпущена под лицензией GNU GPLv2, включена в независимый открытый репозиторий проекта «Сизиф» и в 11 программную платформу (p11), являющуюся основой для разработки новых версий операционных Linux-систем семейства «Альт» и широкого спектра других программных продуктов — от софта для встроенных и мобильных устройств до программных решений для серверов предприятий, дата-центров и облачных окружений.

Схема работы библиотеки libdomain

Libdomain разработана при грантовой поддержке Фонда содействия инновациям. В планах компании «Базальт СПО» — дальнейшее развитие библиотеки и расширение её функциональных возможностей.