Правительство Бразилии планирует провести модернизацию суперкомпьютера Santos Dumont (SDumont), установленного в Национальной лаборатории научных вычислений (LNCC) в Петрополисе (Petrópolis), в рамках программы Brazilian Artificial Intelligence Plan (BPIA, Бразильский план развития ИИ), пишет ресурс The Next Platform. Страна намерена получить ИИ-суперкомпьютер, который войдёт в пятёрку самых производительных в мире. С его помощью предполагается обучать собственные ИИ-модели.

Как сообщает ресурс The Dannemann Siemsen Institute (IDS), проект BPIA, получивший название «ИИ на благо всех», направлен на то, чтобы вывести Бразилию в мировые лидеры в области ИИ-технологий. Он был разработан в сотрудничестве с частным сектором и другими учреждениями для определения целей и руководящих принципов развития и применения ИИ в различных областях, включая здравоохранение, образование, общественную безопасность и энергетику.

Инвестиции BPIA будет получать от частного сектора, Национального фонда научно-технологического развития (FNDCT), организации Finep (Financiadora de Estudos e Projetos) Министерства науки, технологий и инноваций (MCTI), и Национального банка экономического и социального развития (BNDES). Всего на реализацию BPIA в 2025–2028 гг. будет направлено R$23 млрд ($4,2 млрд).

Источник изображения: LNCC

Программа BPIA направлена на модернизацию государственных услуг, предоставляемых населению, с помощью ИИ. План включает два основных этапа: так называемые «Меры немедленного воздействия» и «Меры структурирования». Основная доля инвестиций будет направлена на реализацию «Мер немедленного воздействия», включающих 31 инициативу, которые уже реализуются или будут запущены в ближайшее время для решения конкретных проблем в таких приоритетных областях, как здравоохранение, сельское хозяйство, окружающая среда, промышленность, торговля и сфера услуг, образование, социальное развитие и управление государственными услугами.

На модернизацию Santos Dumont Бразилии будет выделено порядка R$1,8 млрд ($322 млн), что позволит вчетверо увеличить вычислительные мощности. Основным поставщиком останется Eviden (Atos), которая и развернула Santos Dumont в 2015 году. Его производительность на тот момент составляла 1,1 Пфлопс. В 2019 году эта система была модернизирована, благодаря чему её производительность выросла до 1,5 Пфлопс. Последний апгрейд были завершён в июле этого года, производительность суперкомпьютера выросла до 18,85 Пфлопс (FP64).

В настоящее время Santos Dumont состоит из пяти модулей. Первый включает 62 блейд-сервера BullSequana XH3145-H: два 48-ядерных Intel Xeon 9468 (Sapphire Rapids Max) + четыре NVIDIA H100. Второй отсек содержит 20 «лезвий» BullSequana XH3420 с тремя узлами, каждый из которых оснащён парой 96-ядерных процессоров AMD EPYC 9684X (Genoa-X). Третий модуль состоит из 36 узлов BullSequana XH3515-H на базе NVIDIA Quad GH200. Четвёртый включает шесть «лезвий» по три узла с парой AMD Instinct MI300A APU. Наконец, пятый модуль состоит из четырёх узлов с NVIDIA Grace Superchip.

Знаковое соглашение о поставке в Объединённые Арабские Эмираты (ОАЭ) передовых ИИ-чипов NVIDIA может закончиться буквально ничем. Сделка встретила внутреннее сопротивление в администрации президента США из-за угроз национальной безопасности Соединённых Штатов, которые она, предположительно, несёт, сообщает The Wall Street Journal (WSJ).

По информации издания, ссылающегося на источники, якобы знакомые с ситуацией, хотя в мае Трамп поддержал соглашение о поставках, некоторые представители президентской администрации затягивают выполнение обязательств. Основная причина — опасения, что Китай может окольными путями получить доступ к передовым американским технологиям.

В эпицентре спора — базирующаяся в Абу-Даби компания G42, работающая с ИИ-проектами. Она должна была получить порядка 20 % чипов от общего числа, предусмотренного в соглашении. Ожидается, что Министерство торговли США не одобрит поставки G42. Компанию уже ловили на взаимодействии с Китаем, но в прошлом году она в рамках сделки с Microsoft якобы заключила с США неофициальное соглашение, в рамках которого полностью откажется от сотрудничества с КНР и избавится от китайских продуктов в своей инфраструктуре. При этом G42 участвует в создании крупнейшего ИИ-кластера OpenAI.

Источник изображения: 86 media/unspalsh.com

По данным WSJ, официальные лица обсуждали возможность исключения G42 из сделки по поставке ускорителей, но это может вызвать недовольство чиновников из ОАЭ, поскольку компания считается неотъемлемой частью местного проекта по развитию искусственного интеллекта. Хотя реализация сделки приостановлена, стороны сохраняют оптимизм. В Министерстве торговли США выразили уверенность, что соглашение в конце концов будет достигнуто, а представители ОАЭ называют его «крупной победой обеих стран».

Впрочем, руководство технологических компаний разочаровано задержками, раскол наметился и среди политиков США. Некоторые из них опасаются, что китайские конкуренты вроде Huawei могут поставить в ОАЭ собственные ускорители, если сделка сорвётся. В условиях запрета на поставки ускорителей NVIDIA G42 активно инвестировала в другие компании. Из-за этого Cerebras до сих пор не может выйти IPO и всё ещё пытается убедить регуляторов США, что связи G42 с КНР в далёком прошлом.

Информация появилась вскоре после того, как NVIDIA заявила разрешении администрации Трампа продавать ослабленные ускорители H20 в Китай на фоне ослабления торговой напряжённости между Вашингтоном и Пекином. В самой КНР креативно подходят к решению проблемы дефицита ИИ-ускорителей NVIDIA — местные компании пользуются американскими облачными сервисами при помощи фирм-однодневок и посредников, коль скоро прямой доступ к американским ускорителям им запрещён.

OpenAI воспользуется услугами Google Cloud для обработки своих ИИ-нагрузок, сообщает Silicon Angle. Не так давно в OpenAI признали, что компании не хватает мощностей для работы ChatGPT и других продуктов. Google Cloud поддержит бизнес OpenAI в США, Великобритании, Нидерландах, Норвегии и Японии.

Сделка косвенно свидетельствует о нарастающих разногласиях OpenAI и Microsoft. Ранее первая пользовалась исключительно Microsoft Azure для доступа к ИИ-ускорителям. В 2024 году Microsoft объявила, что считает OpenAI конкурентом, хотя и остаётся одним из ключевых спонсоров компании, вложившим в неё миллиарды долларов. Microsoft предлагает собственные ИИ-сервисы, часть которых основана на решениях OpenAI. Эти решения во многом конкурируют с предлагаемыми OpenAI.

В январе Microsoft объявила, что компания больше не будет эксклюзивным облачным поставщиком OpenAI, но сохранит право им стать в приоритетном порядке при выборе из нескольких кандидатов, если партнёру будут нужны дополнительные вычислительные ресурсы. При этом компания по-прежнему обладает исключительными правами на API OpenAI.

Источник изображения: Daniel Páscoa/unsplash.com

Это дало OpenAI возможность найти облачные мощности, превышающие возможности Microsoft. В список поставщиков облачной инфраструктуры входят Microsoft, Oracle и CoreWeave, а теперь и Google. Для Google Cloud это большая победа, поскольку сервис не настолько крупный как AWS или Azure. При этом Google тоже конкурирует с OpenAI, а бот Gemini часто рассматривается как альтернатива ChatGPT. Впрочем, Google Cloud расширяет свой ИИ-бизнес. Например, она стала поставщиком стартапа Anthropic, который активно поддерживается AWS.

В 2024 году OpenAI объявила о партнёрстве с Oracle Cloud Infrastructure для доступа к дополнительным ускорителям. Заявление сделано вскоре после того, как Oracle объявила о партнёрстве с Microsoft для запуска Azure AI в своём облаке, в частности, для поддержки OpenAI. Затем обе компании поддержали инициативу Stargate, предусматривающую создание ИИ-мощностей в США на $500 млрд в ближайшие пять лет. В марте OpenAI объявила о пятилетнем соглашении c CoreWeave на $12 млрд.

ИИ-стартап xAI Илона Маска (Elon Musk) ведёт переговоры об аренде мощностей ЦОД в Саудовской Аравии. Это часть стратегии по расширению инфраструктуры компании в регионах, предлагающих дешёвую электроэнергию и «политическую лояльность», сообщает Bloomberg.

По данным источников издания, компания ведёт предварительные переговоры с саудовской Humain, способной дать xAI несколько гигаватт, а также ещё одной компанией, строящей объект всего на 200 МВт, который будет доступен уже в ближайшее время. В обоих случаях xAI будет только арендовать мощности для работы со своими ресурсоёмкими ИИ-моделями. Представители самих компаний ситуацию не комментируют. Проект Humain может быть связан с предыдущими инвестициями Саудовской Аравии в xAI, страна и её власти прилагают большие усилия для укрепления связей с предприятиями Илона Маска.

Источник изображения: Damir Babacic/unsplash.com

В течение следующих пяти лет Humain намерена построить в Саудовской Аравии несколько ИИ ЦОД мощностью до 500 МВт, которые получат сотни тысяч передовых ускорителей NVIDIA. Компания финансируется Государственным инвестиционным фондом Саудовской Аравии (Saudi’s Public Investment Fund), но ещё не приступила к строительству значительной части инфраструктуры, которую собиралась представить клиентам. Поэтом соглашение с xAI имеет смысл в долгосрочной перспективе.

Источник изображения: BloombergNEF

По данным источников, Маск ищет регионы с дешёвой электроэнергией и обилием капитала. Задача особенно актуальна на фоне обострения политической и коммерческой напряжённости непосредственно в США, где Маск вступил в конфликт с президентом и регуляторами. xAI уже построила огромный ЦОД в Мемфисе, а также анонсировал строительство второго ЦОД поблизости. Не так давно xAI закрыла раунд финансирования на сумму $10 млрд — за счёт акционерного капитала и заёмных средств. На прошлой неделе Маск сообщил, что у стартапа «много капитала», но механизмы его распределения ещё формируются.

xAI также рассматривает возможность строительства ИИ ЦОД в ОАЭ и уже связывалась с G42. В самой G42 информацию не комментируют. Пока что G42 и OpenAI намерены построить в ОАЭ крупнейший ИИ ЦОД проекта Stargate. Источники сообщают, что xAI также рассматривала возможность строительства ЦОД в африканских странах, где есть доступ к недорогой энергии и ниже эксплуатационные расходы. Впрочем, как утверждает один из источников, доступность государственных инвестиций в Саудовской Аравии и возможность страны закупать передовые ИИ-ускорители делают её более привлекательным вариантом для xAI.

Согласно последнему отчёту Zayo, ёмкость приобретаемых дата-центрами каналов связи выросла между 2020 по 2024 гг. почти на 330 %. Это обусловлено развитием бизнеса гиперскейлеров и рынка ИИ, сообщает Datacenter Knowledge. Отчёт основан на данных о закупках более 1,8 тыс. клиентов Zayo и опросе 16 руководителей бизнесов. Zayo является Tier-1-оператором и владеет почти 200 тыс. км ВОЛС.

В 2024 году 62 % всех закупок пропускной способности пришлось всего на 10 покупателей. В 2020–2024 гг. на долю гиперскейлеров пришлось 57 % развёртываний тёмного волокна Zayo в мегаполисах и 41 % крупных сделок с покупкой от 1 Тбит/с. Общий объём закупок за этот период более чем удвоился, достигнув 42,4 Тбит/с. С 2023 по 2024 гг. закупки тёмного волокна в мегаполисах выросли на 268 %, а для дальней связи — на 53 %.

За тот же период закупки волокон в городских сетях выросли более чем на 600 %. Что касается крупнейшей сделки в этом сегменте, рост год к году составил и вовсе 2300 %. Кроме того, в 2024 году неназванный гиперскейлер приобрёл сразу 864 магистральных волокна. Основным катализатором происходящего стало бурное развитие ИИ. Zayo сообщила о связанных с ИИ сделках на сумму более $1 млрд в секторе дальнемагистральной оптоволоконной связи, но на подходе сделки ещё на $3 млрд.

Источник изображения: JJ Ying/unsplash.com

В Zayo утверждают, что сейчас основной проблемой ИИ ЦОД является доступность энергии, поэтому многие операторы вынужденно рассматривают «вторичные» рынки или строительство собственных генерирующих мощностей. Впрочем, для ЦОД в независимости от локации всё равно нужные хорошие каналы связи. Гиперскейлеры всё чаще отказываются от аренды в пользу покупки тёмного волокна. Это позволяет напрямую управлять масштабированием сети, минимизировать задержки и снижать эксплуатационные расходы.

Покупая такое волокно оптом, компании обеспечивают себе «резервы» на ключевых рынках, благодаря чему можно быстро нарастить пропускную способность без помощи телеком-провайдеров. Некоторые разворачивают и маршруты, параллельные маршрутам обычных телеком-компаний, для устойчивой связи между ИИ-кластерами. По мнению Dell'Oro Group, это меняет саму топологию сетей и усиливает спрос на ёмкие соединения как в традиционных хабах ЦОД, так и на новых перспективных рынках.

Источник изображения: Marcus L/unsplash.com

ИИ меняет требования к физическим каналам связи — не только из-за взрывного увеличения объёмов данных, но и из-за перехода к распределённым вычислениям, гибридным подключениям и ускоренному развитию периферийных сетей. А из-за ограничений по доступной мощности, например, невозможно строить действительно колоссальные ИИ ЦОД. Приходится объединять несколько объектов. Так, в Мемфисе (Memphis, Теннесси), спрос на пропускную способность с 0,3 Тбит/с в 2023 году до 13,2 Тбит/с в 2024 году, +4400 % год к году. К слову, именно здесь расположен ИИ-суперкомпьютер xAI Colossus.

Вероятно, ситуация будет менять и по мере дальнейшего развития ИИ. Как минимум в следующие два-три года только для создания инфраструктуры ИИ и подключения всех дата-центров потребуется огромная пропускная способность. Впрочем, это только часть общей картины, ведь теперь гиперскейлеры контролируют и большинство подводных интернет-кабелей мира.

Yandex B2B Tech объявила о выходе новой версии СУБД YDB, в которой добавлен векторный поиск. Он позволяет искать не по ключевым словам, а по смыслу. Благодаря возможности устанавливать неочевидные связи между объектами с его помощью можно искать по разнородным данным — текстам, картинкам, видеороликам и аудиофайлам, невзирая на имеющиеся ошибки в текстах и опечатки. Векторный поиск доступен в облаке, а также локально по модели on-premises.

Как сообщает Yandex B2B Tech, векторная технология обеспечивает представление данных, по которым ведётся поиск, в виде числовых векторов (эмбеддингов). Сравнивая векторы, можно определить семантическую близость соответствующих им объектов. Новая технология будет, в первую очередь, востребована у компаний в сфере ИИ. В частности, с её помощью можно повысить точность рекомендаций товаров или качество ответов ИИ-ассистента.

Источник изображения: Yandex B2B Tech

Технический директор YDB, отметил, что сейчас ИИ-ассистентов стремятся внедрить практически во всех отраслях. Технология компании позволяет создавать ассистентов на архитектуре RAG (Retrieval-Augmented Generation) без дообучения — когда ответ большой языковой модели (LLM) дополняется данными из собственных баз знаний. С помощью векторного поиска можно находить в базах необходимую информацию и добавлять её в ответы LLM.

ИИ-ассистент компании «Алиса» уже использует новую технологию. Пользователи версии «Алиса Про» могут попросить её учитывать при составлении ответов свои предпочтения и интересы. В этом случае «Алиса» будет подстраиваться под конкретного пользователя и вести диалог в персонализированной манере.

Согласно пресс-релизу, в YDB доступны две версии векторного поиска: точный и приближённый. Точный поиск обеспечивает наилучший результат, но при этом для него требуются сложные вычисления, если данных много. В случае приближённого поиска можно искать по миллиардам векторов за десятки-сотни миллисекунд — даже если корпус векторов не помещается в оперативную память. Такую возможность в мире предоставляют лишь несколько компаний, говорит «Яндекс».

Сообщается, что векторный поиск для YDB развивается при поддержке созданного «Яндексом» Фонда технологических инициатив (YATF). В 2025 году он выделил на новаторские проекты внутри компании 330 млн руб.

Разработчик экосистемы инфраструктурного ПО для Enterprise-бизнеса Orion soft представил новую версию защищённой системы виртуализации zVirt. В релизе 4.4 реализованы функциональные модули, расширяющие возможности по управлению ИТ-инфраструктурой: zVirt Containers для управления Kubernetes-кластерами, zVirt Metrics для мониторинга и аналитики инфраструктуры, zVirt DC Manager для управления распределенными инсталляциями виртуализации из единого интерфейса.

О возможностях модулей команда zVirt расскажет на вебинаре 17 июля в 11:00, зарегистрироваться можно по ссылке.

Модуль zVirt Containers обладает функциональностью, аналогичной решению VMware Tanzu. Он позволяет «из единого окна» управлять контейнерами и виртуальными машинами. Kubernetes-кластеры запускаются внутри изолированных SDN-сетей, что обеспечивает высокий уровень защищенности. Развёртывание происходит автоматически прямо из интерфейса zVirt или по REST API.

«Модуль Containers создан на базе глубокой интеграции наших платформ виртуализации zVirt и контейнеризации Novа Container Platform. На российском рынке классической серверной виртуализации сейчас нет аналога этой функциональности. zVirt Containers будет особенно полезен заказчикам, у которых в инфраструктуре преобладает серверная виртуализация, а Kubernetes внедрен как одна из частей ИТ-ландшафта, а также тем, кто только начал работать с Kubernetes, но уже получает приложения в контейнерах. Решение позволит построить работу с контейнерами силами инженеров виртуализации, без “перекраивания” инфраструктуры и формирования отдельной команды Kubernetes-специалистов», — рассказывает Максим Морарь, Chief Product Officer Orion soft.

Модуль zVirt Metrics — это инструмент для мониторинга данных из распределённых инсталляций виртуализации. Для анализа доступны 140 метрик, данные о которых визуализируются на удобных дашбордах. Модуль позволит компаниям автоматизировать процесс сбора данных для аналитики, своевременно обнаруживать проблемы в инсталляциях, выявлять периоды неэффективного использования ресурсов и оптимизировать их распределение.

Модуль zVirt DC Manager предназначен для управления крупными инсталляциями виртуализации zVirt. Он создан на основе глубокой интеграции с платформой для управления виртуальной и облачной ИТ-инфраструктурой Cloudlink, которая входит в экосистему Orion soft. zVirt DC Manager даёт заказчикам возможность разделять инфраструктуру на логические сущности, папки и проекты, настраивать ролевой доступ пользователей к ресурсам и ресурсные квоты, создавать сложные виртуальные сервисы, которые пользователи смогут заказывать через портал самообслуживания. Модуль также содержит встроенное хранилище секретов StarVault и включает все функции zVirt Metrics.

Среди других обновлений zVirt 4.4: шаблон для Zabbix с преднастроенными правилами обнаружения, сервис Prometheus Exporter для ускоренной выдачи метрик во внешние системы мониторинга. В новой версии также улучшен механизм DR на уровне гипервизора и в 7 раз увеличена скорость репликации.

«Заместив классическую виртуализацию, многие Enterprise-компании продолжают развивать ИТ-инфраструктуру: внедряют контейнеризацию, присматриваются к построению полноценного частного облака, масштабируют объёмы инсталляций. У заказчиков появляется все больше комплексных задач, которые можно эффективнее всего решить, объединив возможности разного ПО в едином контуре. Поэтому мы идём по пути экосистемы глубоко интегрированных решений, в основе которой лежит виртуализация zVirt как база ИТ-инфраструктуры», — дополняет Максим Березин, директор по развитию бизнеса Orion soft.

AMD объявила о планах возобновить поставки ускорителей Instinct MI308 в Китай, разработанных с учётом ограничений США специально для этой страны, после чего акции компании выросли почти на 7 %. «Министерство торговли США недавно сообщило нам, что заявки на получение лицензий на экспорт продукции MI308 в Китай будут переданы на рассмотрение», — сообщили в AMD изданию The Register. «Мы планируем возобновить поставки по мере одобрения лицензий. Мы приветствуем прогресс, достигнутый администрацией Трампа в продвижении торговых переговоров, и её приверженность лидерству США в области ИИ», — подчеркнули в компании.

Днём ранее стало известно, что власти США подтвердили готовность дать добро NVIDIA на возобновление отгрузок ускорителей H20 в Китай. Они тоже были созданы с учётом экспортных ограничений Министерства торговли США для этого рынка, но после очередного витка роста напряжённости между Вашингтоном и Пекином администрация США установила запрет на их поставку. Сейчас компания подаёт заявки на получение необходимых экспортных лицензий, которые гарантированно будут одобрены, после чего вновь начнёт поставки.

Источник изображения: AMD

По данным NVIDIA, из-за экспортных ограничений на поставки H20 в Китай, лишние расходы в I квартале 2026 финансового года составили $4,5 млрд. Также было недополучено $2,5 млрд выручки, хотя ранее ожидалось, что потери составят $5,5 млрд. В свою очередь, AMD сообщила в апреле, что из-за ограничений США её потери в 2024 финансовом году составят около $800 млн из-за складских расходов, закупочных обязательств и связанных с ними созданными резервами.

Послабления для NVIDIA были предоставлены после встречи на прошлой неделе основателя и гендиректора NVIDIA Дженсена Хуанга (Jensen Huang) с Дональдом Трампом и американскими политиками, в ходе которой ему удалось их убедить в отсутствии угрозы для США поставок этих чипов. Возобновление поставок ускорителей в Китай является отступлением от курса администрации, которая неоднократно утверждала, что ограничения на поставки чипов не подлежат обсуждению, сообщил Bloomberg.

Президент США Дональд Трамп (Donald Trump) объявил о частных инвестициях в Пенсильвании на сумму более $90 млрд, которые связаны с ИИ, технологиями и энергетикой, сообщает The Verge. Пенсильвания лидирует по добыче газа в стране, а сам Трамп неоднократно призывал «бурить и бурить», чтобы спасти энергетику США, и поддержал угольный сектор ради удовлетворения спроса ИИ ЦОД на электричество.

BlackStone вложит $25 млрд в развитие ЦОД и энергетической инфраструктуры на северо-востоке Пенсильвании, а First Energy потратит $15 млрд. Enbridge планирует инвестировать $1 млрд в расширение газопроводов в Пенсильванию, Equinor потратит $1,6 млрд на увеличение добычи природного газа в штате и его доставку для гибкой генерации энергии для дата-центров. Capital Power заявила, что потратит на модернизацию «газового объекта» в штате $3 млрд в течение 10 лет.

Google намерена инвестировать $25 млрд в строительство ЦОД и ИИ-инфраструктуры в следующие два года в регион PJM (Pennsylvania-New Jersey-Maryland), фактически объединяющий 13 штатов и Вашингтон (округ Колумбия). Кроме того, планируется заключить 20-летний контракт на $3 млрд с Brookfield Energy для развития гидроэнергетики. Кроме того, в апреле сообщалось, что в Пенсильвании построят газовую электростанцию мощностью 4,5 ГВт для ИИ ЦОД на месте заброшенной угольной.

CoreWeave объявила о планах инвестировать $6 млрд в ИИ ЦОД в штате. По данным Bloomberg, речь идёт о запуске в Ланкастере (Lancaster) кампуса мощностью 100 МВт в 2026 году с возможным масштабированием до 300 МВт. Примечательно, что объявление сделано после того, как власти Пенсильвании пригрозили отключить штат от сети PJM Interconnection из-за высокого спроса со стороны ИИ ЦОД в соседних штатах. Пенсильвания является нетто-экспортёром электроэнергии и, по данным BAI Group, обеспечивает до четверти энергоснабжения штатов на востоке США и Среднем Западе.

Источник изображения: Addy Mae/unsplash.com

Amazon упомянула планы вложить $20 млрд в расширение инфраструктуры облачных вычислений и продвижения ИИ-инноваций в Пенсильвании. Ранее AWS уже получила 650 га для постройки 15 ЦОД в Пенсильвании недалеко от АЭС, но столкнулась с некоторыми проблемами, которые теперь решает.

Anthropic потратит $1 млн в течение трёх лет на поддержку программы обучения кибербезопасности, а также $1 млн за три года на исследования в области энергетики в Университете Карнеги-Меллона. Meta✴ же анонсировала партнёрство для поддержки стартапов в сельской местности Пенсильвании на сумму $2,5 млн, а также поддержку обучение представителей малого бизнеса.

Компания Broadcom анонсировала чип-коммутатор Tomahawk Ultra, специально разработанный для кластеров НРС и платформ ИИ. Новинка, как ожидается, составит конкуренцию InfiniBand в традиционных суперкомпьютерах, NVLink в стоечных решениях вроде NVIDIA GB200 NVL72, а также Ultra Accelerator Link (UALink) в масштабируемых системах ИИ в дата-центрах.

Решение Tomahawk Ultra разработано в рамках инициативы Broadcom Scaling Up Ethernet (SUE). Утверждается, что эта технология будет поддерживать масштабируемые системы с не менее чем 1024 ускорителями ИИ. Для сравнения, NVIDIA заявляет, что её коммутационная система NVLink 5/6 позволяет объединить до 576 ускорителей в одном домене.

Broadcom подчёркивает, что чип Tomahawk Ultra разработан с нуля специально для удовлетворения потребностей высоконагруженных НРС-сред и ИИ-кластеров. Новинка обеспечивает коммутационную способность 51,2 Тбит/с при размере пакетов 64 байта. Задержка составляет 250 нс, что значительно меньше, чем у коммутаторов с более высокой пропускной способностью. А общая задержка при общении XPU между собой составляет не более 400 нс. Поддерживается обработка до 77 млрд пакетов в секунду.

Источник изображений: Broadcom

Основная часть трафика, передаваемого через коммутаторы Ethernet, состоит из пакетов большего размера. Поэтому при проектировании сетевого оборудования внимание уделяется прежде всего увеличению размера пакетов для оптимизации пропускной способности. Вместе с тем обмен пакетами небольшого размера широко распространен в платформах НРС/ИИ: представленная новинка Broadcom нацелена именно на такие среды.

Чип-коммутатор Tomahawk Ultra (семейство BCM78920) поддерживают 64 порта 800GbE, 128 портов 400GbE или 256 портов 200GbE. Изделие использует блоки Peregrine 106.25G PAM4 SerDes. Решение совместимо по выводам с Broadcom Tomahawk 5 (TH5). Поддерживаются функции, предназначенные для масштабируемых нагрузок ИИ и HPC, включая Link Layer Retry (LLR), Credit-based Flow Control (CBFC) и AI Fabric Headers (AFH). Кроме того, непосредственно в ASIC реализована поддержка коллективных операций вроде AllReduce and AllGather.

Используются измененные заголовки Ethernet, размер которых уменьшен с 46 до 10 байт: это позволяет оптимизировать общее соотношение размера заголовка к полезной нагрузке. Упомянута совместимость с современными топологиями сетей HPC, такими как Mesh, Torus и Dragonfly. Кроме того, заявлена совместимость с Ultra Ethernet (UEC). Поставки Tomahawk Ultra уже начались.