Аналитическая компания SemiAnalysis опубликовала результаты исследования, длившегося пять месяцев и выявившего большие проблемы в ПО AMD для работы с ИИ, из-за чего на данном этапе невозможно в полной мере раскрыть имеющийся у ускорителей AMD Instinct MI300X потенциал. Проще говоря, из-за забагованности ПО AMD не может на равных соперничать с лидером рынка ИИ-чипов NVIDIA. При этом примерно три четверти сотрудников последней заняты именно разработкой софта.

Как сообщает SemiAnalysis, из-за обилия ошибок в ПО обучение ИИ-моделей с помощью ускорителей AMD практически невозможно без значительной отладки и существенных трудозатрат. Более того, масштабирование процесса обучения как в рамках одного узла, так и на несколько узлов показало ещё более существенное отставание решения AMD. И пока AMD занимается обеспечением базового качества и простоты использования ускорителей, NVIDIA всё дальше уходит в отрыв, добавляя новые функции, библиотеки и повышая производительность своих решений, отметили исследователи.

Источник изображений: SemiAnalysis

На бумаге чип AMD Instinct MI300X выглядит впечатляюще с FP16-производительностью 1307 Тфлопс и 192 Гбайт памяти HBM3 в сравнении с 989 Тфлопс и 80 Гбайт памяти у NVIDIA H100. К тому же чипы AMD предлагают более низкую общую стоимость владения (TCO) благодаря более низким ценам и использованию более дешёвого интерконнекта на базе Ethernet. Но проблемы с софтом сводят это преимущество на нет и не находят реализации на практике. При этом исследователи отметили, что в NVIDIA H200 объём памяти составляет 141 Гбайт, что означает сокращение разрыва с чипами AMD по этому параметру.

Кроме того, внутренняя шина xGMI лишь формально обеспечивает пропускную способность 448 Гбайт/с для связки из восьми ускорителей MI300X. Фактически же P2P-общение между парой ускорителей ограничено 64 Гбайт/с, тогда как для объединения H100 используется NVSwitch, что позволяет любому ускорителю общаться с другим ускорителем на скорости 450 Гбайт/с. А включённый по умолчанию механизм NVLink SHARP делает часть коллективных операций непосредственно внутри коммутатора, снижая объём передаваемых данных.

Как отметили в SemiAnalysis, сравнение спецификаций чипов двух компаний похоже на «сравнение камер, когда просто сверяют количество мегапикселей», и AMD просто «играет с числами», не обеспечивая достаточной производительности в реальных задачах. Чтобы получить пригодные для аналитики результаты тестов, специалистам SemiAnalysis пришлось работать напрямую с инженерами AMD над исправлением многочисленных ошибок, в то время как системы на базе NVIDIA работали сразу «из коробки», без необходимости в дополнительной многочасовой отладке и самостоятельной сборке ПО.

В качестве показательного примера SemiAnalysis рассказала о случае, когда Tensorwave, крупнейшему провайдеру облачных вычислений на базе ускорителей AMD, пришлось предоставить целой команде специалистов AMD из разных отделов доступ к оборудованию с её же ускорителями, чтобы те устранили проблемы с софтом. Обучение с использованием FP8 в принципе не было возможно без вмешательства инженеров AMD. Со стороны NVIDIA был выделен только один инженер, за помощью к которому фактически не пришлось обращаться.

У AMD есть лишь один выход — вложить значительные средства в разработку и тестирование ПО, считают в SemiAnalysis. Аналитики также предложили выделить тысячи чипов MI300X для автоматизированного тестирования, как это делает NVIDIA, и упростить подготовку окружения, одновременно внедряя лучшие настройки по умолчанию. Проблемы с ПО — основная причина, почему AMD не хотела показывать результаты бенчмарка MLPerf и не давала такой возможности другим.

В SemiAnalysis отметили, что AMD предстоит немало сделать, чтобы устранить выявленные проблемы. Без серьёзных улучшений своего ПО AMD рискует еще больше отстать от NVIDIA, готовящей к выпуску чипы Blackwell следующего поколения. Для финальных тестов Instinct использовался специально подготовленный инженерами AMD набор ПО, который станет доступен обычным пользователям лишь через один-два квартала. Речь не идёт о Microsoft или Meta✴, которые самостоятельно пишут ПО для Instinct. Один из автором исследования уже провёл встречу с главой AMD Лизой Су (Lisa Su), которая пообещала приложить все усилия для исправления ситуации.

Стриминговый гигант Netflix подал в понедельник иск к Broadcom в окружной суд США по Северному округу Калифорнии с обвинением принадлежащего ей дочернего предприятия VMware в нарушении пяти патентов, связанных с работой виртуальных машин («патент 424», «патент 707», «патент 891», «патент 893» и «патент 122»).

Как сообщает SiliconANGLE, три из этих патентов касаются использования CPU в виртуальных машинах, а два — запуска по крайней мере одной виртуальной машины с использованием балансировщика нагрузки. Согласно иску, нарушения патентов были допущены в VMware vSphere Foundation, VMware Cloud Foundation, VMware Cloud on AWS и облачных решениях, предлагаемых Microsoft, Google, Oracle, IBM и Alibaba.

В частности, в вышеуказанных продуктах, по словам Netflix, допущены нарушения «патента 424». Netflix заявил, что VMware умышленно нарушает авторские права с 2012 года, когда она узнала об этом патенте. «Патент 424 был процитирован экспертом Бюро по патентам и товарным знакам США при отклонении заявки VMware, которая в конечном итоге была оформлена как патент США № 8 650 564», — указал Netflix в иске.

Источник изображения: Broadcom

Учитывая осведомлённость VMware об этом патенте, Netflix утверждает, что Broadcom и VMware занимались «умышленным нарушением», и попросила суд обязать Broadcom возместить убытки, размер которых в иске не указан.

Патентная война Netflix и Broadcom началась в 2018 году, когда Broadcom подала в суд на Netflix, обвинив его в нарушении своих патентов на технологию потокового видео. Дела были возбуждены в Калифорнии, Германии и Нидерландах. Судебное разбирательство по иску Netflix запланировано на июнь 2025 года.

ИИ-кластер xAI Colossus получил «второе дыхание». Энергоснабжающая компания Tennessee Valley Authority (TVA) решила выделить ему 150 МВт мощностей. Это значительно расширяет возможности вычислительного центра, сообщает TechRadar. В частности, теперь можно запитать от энергосети все 100 тыс. ИИ-ускорителей NVIDIA H100.

Ранее такая возможность ставилась под вопрос из-за энергетических ограничений. Местные компании выражали озабоченность тем, как огромное эгнергопотребление скажется на электросети Теннесси. Когда xAI впервые запустила кластер в июле 2024 года, ему было доступно лишь 8 МВт. Поэтом временно для питания задействовали генераторы, дополненные энергохранилищами Tesla Megapack. Летом местная коммунальная компания Memphis Light, Gas & Water (MLGW) обновила имевшуюся подстанцию, чтобы обеспечить xAI подачу 50 МВт. А xAI обязалась построить за $24 млн собственную подстанцию на 150 МВт.

Суперкомпьютеру Colossus для эксплуатации всех 100 тыс. ускорителей одновременно требуется около 155 МВт. MLGW и TVA пришлось убеждать местных жителей, рост спроса на энергию со стороны xAI не повлияет на надёжность электроснабжения в районе Мемфиса. По словам MLGW, 150 МВт всё ещё находятся ниже допустимого предела прогнозируемой пиковой нагрузки компании. Предпринимаются меры по обеспечения закупок электричества у TVA, если это будет необходимо.

Источник изображения: Wine Down With Pour Choices/unsplash.com

Местные экоактивисты и жители уже жалуются, что совет директоров TVA одобрил запрос xAI на энергию, не изучив последствия такого решения для жителей. Не исключено, что решение негативно скажется на ценах для физических лиц, хотя именно их интересы должны были бы быть в приоритете. В начале декабря сообщалось, что xAI получила ещё $6 млрд инвестиций и приступила к расширению Colossus до 1 млн ускорителей.

VK объявила о запуске инициативы OpenVK для публикации ПО с открытым кодом, которая «будет способствовать обмену знаний и опытом между профессионалами ИТ-отрасли», стимулируя развитие сообщества разработчиков благодаря предоставлению доступа к передовым технологиям и инструментам. Главные направления OpenVK: ИТ-системы и продукты, инструменты и библиотеки для разработчиков, а также ИИ-модели.

Уже сейчас на OpenVK доступны платформа Tarantool для создания высоконагруженных приложений, система визуализации данных для мониторинга StatsHouse, дизайн-система VKUI для создания удобных пользовательских интерфейсов, инструмент для патчинга байт‑кода Android‑приложений ByteWeaver, ИИ-модели и библиотеки для их создания и т.д. В их числе есть и модель для синтеза речи EmoSpeech, которая позволяет генерировать эмоциональную и естественную речь.

Источник изображения: Sigmund / Unsplash

Согласно пресс-релизу, ресурс будет регулярно пополняться новыми продуктами, которые также принесут пользу сообществу разработчиков решений с открытым кодом. «Открытый исходный код — основной драйвер развития IT во всём мире. Без него нейросети, быстрые базы данных и современный интернет могли бы не появиться», — отметила VK, одна из первых компаний в России, которые открыли исходный код собственных проектов.

«Мы понимаем, что надо не только брать из open source, но и отдавать. Поэтому мы хотим делиться функциональными инструментами и разработками, которые были созданы внутри VK и принесут реальную пользу сообществу», — подчеркнула VK.

Администрация действующего президента США Джо Байдена (Joe Biden) намерена внести в чёрный список компанию из КНР, якобы разработавшую и заказавшую у TSMC чипы, использовавшиеся в ИИ-решениях Huawei. Последняя применяла их в ускорителях Ascend 910B, сообщает Reuters.

Речь идёт о китайской Sophgo, дочерней структуры поставщика оборудования для майнинга Bitmain. Это последняя в списке компаний, которые США намерены наказать за помощь Huawei. Сейчас она находится на очереди для включения в «чёрный список» Entity List, куда отправляются компании, например, угрожающие национальной безопасности или внешнеполитическим интересам Соединённых Штатов. В этом месяце Министерство торговли США уже внесло в чёрный список ряд других компаний, посчитав их частью «теневой сети» китайского техногиганта.

Представители американских властей ситуацию не комментируют, а Sophgo ещё в октябре заявляла, что никогда не была прямо или косвенно вовлечена в дела с Huawei. Согласно открытым данным, компания является поставщиком китайских органов власти и государственных компаний вроде China Telecom. Также её ИИ-чипы закупались государственными университетами для разработки ИИ-инструментов и полицией для совершенствования систем видеонаблюдения.

Источник изображения: Huawei

Компания TechInsights разобрала ИИ-ускоритель Huawei 910B и помимо прочего обнаружила в нём чип производства TSMC, а тот уже донёс сведения до Министерства торговли США. После того как выяснилось, что собственно разработкой занималась Sophgo, TSMC прекратила её поставки. С Huawei сотрудничество TSMC прекратилось ещё в 2020 году.

В TSMC отказываются комментировать результаты расследования, но, по данным Reuters, 11 ноября США просто приказали компании прекратить поставки в Китай передовых чипов, выполненных в соответствии с техпроцессом до 7 нм включительно — те модели, которые можно использовать для ИИ. В октябре Huawei объявила, что не выпускала никаких чипов с помощью TSMC с 2020 года и отказалась комментировать последние новости.

Ускоритель компании Ascend 910B, выпущенный в 2022 году, считается её самым передовым вариантом. В начале 2025 года Huawei намерена начать выпуск чипов модели Ascend 910C, конкурента NVIDIA H100. В феврале сообщалось, что Sophgo договорилась с российской Softlogic о поставках последней тензорных ИИ-процессоров.

Группа компаний «Солар» (входит в «Ростелеком») сообщила о завершении сделки по покупке 51 % доли компании «ЭЛВИС-ПЛЮС», входящей в список 20 крупнейших интеграторов ИБ и специализирующейся на оказании услуг госсектору. В 2020 году ГК «Солар» приобрела 49 % акций АО «ЭЛВИС-ПЛЮС». Теперь доля её владения активами ИБ-интегратора составляет 100 %.

Сумма сделки не раскрывается. По оценкам аналитиков, её стоимость составляет 300–500 млн руб. Как указано в пресс-релизе, сделка направлена на усиление команды «Солара» инженерами с экспертизой в области разработки продуктов и интеграции решений на рынке ИБ в условиях серьёзного дефицита ИБ-специалистов. Кроме того, сделка позволит повысить продажи «ЭЛВИС-ПЛЮС» и дополнить предлагаемый ассортимент решениями «Солара».

Источник изображения: ГК «Солар»

Основные направления деятельности «ЭЛВИС-ПЛЮС» — системная интеграция на рынке ИБ, сервисы информационной безопасности, разработка и поставка собственного ПАК «ЗАСТАВА» для защиты каналов связи и межсетевого экранирования. «ЭЛВИС-ПЛЮС» — разработчик технологии «Базовый Доверенный Модуль» (БДМ), соответствующей требованиям российских регуляторов в области защиты информации и современным мировым стандартам. В числе клиентов «ЭЛВИС-ПЛЮС» — крупные корпоративные и государственные компании и организации, такие как ФНС, ЦБ РФ, ДИТ РОИВ (Москва, Санкт-Петербург, Казань). В 2023 году выручка «ЭЛВИС-ПЛЮС» составила 998 млн руб. Штат компании по состоянию на октябрь 2024 года насчитывает 178 человек.

Это четвёртое приобретение для «Солара» в 2024 году. В этом году она стала владельцем 100 % аудитора кибербезопасности Digital Security, получила контрольный пакет (51 %) в SA-решении «Secure-T» и купила венчурные доли разработчика решений контейнерной безопасности Luntry. Ранее «Солар» приобрела 100 % долю компании «НТБ», разработчика ПО для управления привилегированным доступом (PAM), а также объявила о создании совместного предприятия Солар-ТЗИ с Центром безопасности информации, имеющим лицензии для работы с гостайной. Инвестиционная программа «Солара» с бюджетом 22 млрд руб. рассчитана на период до конца 2025 года. В октябре «Солар» объявила о создании специального венчурного фонда объёмом 1,1 млрд руб. для поддержки стартапов в сфере кибербезопасности.

В 2024 году затраты госструктур на создание ЦОД в России составили приблизительно 60 млрд руб. Примерно столько же израсходовано на строительство коммерческих дата-центров. Таким образом, госсектор занял половину соответствующего рынка, сообщает газета «Ведомости». В частности, госструктуры переводят свою инфраструктуру из коммерческих ЦОД в ведомственные. Кроме того, ведётся активное расширение мощностей как на федеральном, так и на региональном уровне.

В 2024 году в Южном административном округе Москвы запущен дата-центр «Росатома» «Москва-2» с уровнем надёжности Tier IV. Кроме того, введены в эксплуатацию федеральный ЦОД МВД РФ, единый ЦОД Минприроды и пр. Вместе с тем собственные дата-центры продолжают создавать крупные компании, включая «Ростелеком». В частности, «РТК-ЦОД» («Ростелеком — Центры обработки данных») развернул четвёртую и пятую очереди проекта ЦОД «Москва V» общим объёмом 1024 стойки.

Источник изображения: Taylor Vick / Unsplash

О росте интереса к строительству корпоративных площадок заявили в компаниях «Атомдата» (ЦОД-подразделение «Росэнергоатом»), Wildberries, «Газпром», «Сбер», «Т-Банк» и «Северсталь». Корпорациям не хватает вычислительных мощностей, в связи с чем им приходится строить дополнительные объекты. При этом «Сбер», как отмечается, уже не может обходиться 40-МВт дата-центрами и хочет строить объекты мощностью от 200 МВт.

В целом, спрос на услуги ЦОД в России продолжают быстро расти, что связано в том числе с уходом зарубежных облачных провайдеров и быстрым развитием сектора ИИ. По оценкам iKS-Consulting, в 2024-м в РФ введено около 12 тыс. новых стойко-мест на коммерческих площадках. Однако существуют и сдерживающие факторы. Один из них — повышение ключевой ставки Банка России: из-за этого значительно увеличиваются затраты на обслуживание займов для строительства дата-центров и обновление оборудования в ЦОД старше пяти лет.

Кроме того, существуют проблемы с поиском территорий для строительства ЦОД большой мощности. Если в 2015 году средняя мощность на стойку составляла 5 кВт, то сейчас показатель достигает 7–7,5 кВт. При этом почти весь объём ресурсов ЦОД сконцентрирован в столичном регионе и стойко-мест не хватает.

Энергопотребление дата-центров переживает настоящий бум в США. По словам учёных, отрасль ждёт дальнейший рост спроса на электричество. По данным Datacenter Dynamics, в подготовленном Министерством энергетики США (DOE) докладе указывается, что в 2023 году на ЦОД пришлось 4,4 % энергопотребления страны.

Более того, в подготовленном для Конгресса США докладе указывается, что к 2028 году этот показатель может вырасти до 12 %, а по самым скромным прогнозам — до 6,7 %. Отчёт, составленный Национальной лабораторией Лоуренса в Беркли (LBNL), отталкивается от аналогичных документов 2007 и 2016 годов.

Исследователи выяснили, что энергопотребление дата-центров было довольно стабильным в 2014–2016 гг. — приблизительно 60 ТВт∙ч в год. С началом использования ИИ-серверов в 2018 году потребление отрасли выросло до 76 ТВт∙ч, 1,9 % от общего энергопотребления США. С ростом количества ЦОД в стране выросло и потребление — в 2023 году оно составило 176 ТВт∙ч, 4,4 % от всего объёма потребления электроэнергии в стране. По оценкам экспертов, в 2028 году оно вырастет до 325–580 ТВт∙ч.

Источник изображения: American Public Power Association/unsplash.com

Совокупный годовой темп прироста в 2014–2018 гг. составил около 7 %, в 2018–2023 гг. он увеличился до 18 %, а в 2023–2028 гг., вероятно, составит 13–27 %. Впрочем, в самой LBNL признают, что данные могут быть не вполне корректными из-за «отсутствия прозрачности» в секторе. Более того, энергопотребление ЦОД в 2018 году оказалось выше, чем прогнозировала сама лаборатория — тогда не удалось предсказать рост количества ИИ-серверов.

Как заявляется в отчёте, недавний стремительный рост общего количества серверов привёл росту энергопотребления ЦОД с 2017 по 2023 гг. более чем вдвое, а рост использования более производительных ИИ-серверов может привести к дальнейшему ускоренному росту энергопотребления до конца десятилетия. Также сообщается, что в следующие десятилетия ожидается рост электроэнергии в целом из-за внедрения электромобилей, локализации производства с сопутствующей электрификацией предприятий и др.

В докладе предупреждают, что новые исследования указывают на возможный рост потребления ЦОД выше прогнозируемого. Стоит отметить, что в некоторых странах уже сейчас доля потребления ЦОД значительно больше. Например, в Ирландии она уже превысила 21 % от общего показателя государства. Впрочем, в мировом масштабе энергопотребление дата-центров всё равно останется очень небольшим даже на фоне роста ИИ, но распределение по регионам и странам по-прежнему останется неравномерным.

Источник изображения: LBNL

Что касается использования воды, в 2014 году ЦОД потребили 21,2 млрд л чистой воды, а в 2023 году — уже 66 млрд, причём 84 % затрат придётся на гиперскейлеров. В 2028 году, как ожидается, только им потребуется 60–124 млрд л.

В начале года сообщалось, что потребление электроэнергии дата-центрами в США должно достигнуть 35 ГВт уже к концу текущего десятилетия, почти удвоившись в сравнении с показателями 2022 года. Из-за бума ИИ-технологий спрос на ЦОД высок на мировых рынках, но одной из ключевых проблем стала нехватка электричества — спрос на него на рынках ЦОД зачастую превышает предложение. В результате, например, в США спрос на ИИ и дефицит ёмкости уже взвинтили цены на аренду дата-центров, а на днях Регулятор NERC: ИИ представляет угрозу для североамериканской электросети.

Силовой кабель Greenlink Interconnector, связывающий Великобританию и Ирландию, впервые передал энергию после трёх лет строительства, сообщает Datacenter Dynamics. Протяжённость HVDC-кабеля составляет около 190 км, он разработан и произведён Sumitomo Electric. Номинально кабель рассчитан на передачу 500 МВт.

Высоковольтный кабель постоянного тока будет передавать энергию между разработанными и построенными Siemens Energy подстанциями Great Island в графстве Уэксфорд (принадлежит ирландскому государственному оператору EirGrid) и Pembroke (принадлежит британской National Grid), расположенной в Пембрукшире, Уэльс. Кабелю ещё предстоит пройти некоторые тесты, а ввод в эксплуатацию ожидается в начале 2025 года.

Проект Greenlink реализуется Greenlink Interconnector Limited, принадлежащей Partners Group. Это первая в Европе силовая линия, финансируемая за счёт частных средств. Предполагается, что реализация проекта позволит укрепить энергетическую безопасность обеих стран и поддержать интеграцию низкоуглеродных источников энергии.

Весьма развитый в стране сектор ЦОД не может справиться с дефицитом энергии. В 2023 году на дата-центры приходилось более 21 % всего энергопотребления страны, тогда как в 2015 году речь шла всего о 15 %. В Дублине с 2022 года действует мораторий на строительство новых ЦОД и, как ожидается, EirGrid продлит его до 2028 года. Это уже ставит под угрозу статус страны в роли хаба ЦОД.

Источник изображения: Greenlink

Сегодня Ирландия активно инвестирует в сектор возобновляемой энергетики, страна намерена получать 80 % энергии из возобновляемых источников в 2030 году. Впрочем, без крупных инвестиций в электросети и прочую инфраструктуру, она рискует не добиться этой цели вовремя. Уже сообщалось, что AWS, Google и Microsoft готовы сами строить ЛЭП, чтобы не лишиться дата-центров в Дублине.

По оценкам EirGrid, нужно не менее €3 млрд ($3,1 млрд) на модернизацию сети и организацию новых генерирующих мощностей. Впрочем, проблемы с электросетями продолжают мешать развитию возобновляемой энергетики. Недавний доклад Wind Energy Ireland показал, что 14 % электричества, полученного с помощью ветряной энергии в этом году, было потеряно из-за проблем с сетями электропередачи.

Источник изображения: Sumitomo Electric

Строительство энергетических интерконнекторов позволит Ирландии экспортировать возобновляемую энергию, избегая ограничений местной энергосети. Местное правительство уже планирует построить ещё четыре интерконнектора с Францией, Испанией, Бельгией и Нидерландами.

Компания International Data Corporation (IDC) подвела итоги исследования мирового рынка сетевого оборудования корпоративного класса в III квартале уходящего года. Продажи Ethernet-коммутаторов и маршрутизаторов сократились в годовом исчислении.

В сегменте коммутаторов выручка в период с июля по сентябрь включительно составила $10,8 млрд. Это на 7,9 % меньше по сравнению с III четвертью 2023 года. В секторе решений для дата-центров выручка поднялась на 18,0 % в годовом исчислении, в секторе решений для прочих корпоративных заказчиков, напротив, сократилась на 24,7 %. Аналитики отмечают, что спрос на ЦОД-оборудование подпитывается внедрением ИИ-приложений, которые создают высокую нагрузку на каналы передачи данных.

Объём реализации коммутаторов стандартов 200/400GbE для дата-центров увеличился в денежном выражении на 126,3 % по отношению к III кварталу 2023 года. В сегменте коммутаторов, не связанных с ЦОД, продажи устройств 1GbE рухнули на 25,6 % в годовом исчислении.

Источник изображения: IDC

С географической точки зрения в США общий рынок коммутаторов Ethernet сократился на 6,5 % год к году. В Западной Европе падение составило 11,9 %, в Центральной и Восточной Европе — 17,8 %. В Азиатско-Тихоокеанском регионе, за исключением Японии и Китая, отмечено снижение на 8,7 % в годовом исчислении. В КНР продажи остались примерно на прошлогоднем уровне. В список крупнейших мировых поставщиков коммутаторов Ethernet входят Cisco, Arista Networks, Huawei, HPE и H3C с долями соответственно 37,2 %, 13,6 %, 9,7 %, 5,3 % и 4,1 %.

Продажи маршрутизаторов в III квартале 2024 года сократились на 17,4 % по сравнению с 2023-м — до $3,1 млрд. На поставщиков услуг пришлось 70,8 % от общего объёма рынка, а падение год к году составило 22,3 %. Корпоративный сегмент обеспечил 29,2 % продаж с падением на 2,4 %.