Компания Beelink, по сообщению ресурса NAS Compares, готовит сетевое хранилище небольшого форм-фактора ME Pro, построенное на аппаратной платформе Intel. Устройство поддерживает гибридные конфигурации на основе SSD и HDD. При этом пользователи могут установить собственную ОС с учётом своих предпочтений и выполняемых задач.

Новинка может комплектоваться чипом Intel Processor N95 поколения Alder Lake-N или Intel Processor N150 семейства Twin Lake. Эти изделия содержат четыре ядра без поддержки многопоточности и интегрированный графический контроллер. В первом случае максимальная частота составляет 3,4 ГГц, показатель TDP — 15 Вт, во втором — 3,6 ГГц и 6 Вт. Объём оперативной памяти LPDDR5 равен 12 Гбайт и 16 Гбайт соответственно.

Хранилище выполнено в корпусе с габаритами 165,91 × 121 × 115,95 мм, который разделён на две секции. В верхней находятся два лотка для накопителей LFF/SFF с интерфейсом SATA; поддерживается горячая замена. Нижняя часть отведена под материнскую плату Предусмотрены три коннектора М.2 для SSD (NVMe): один с интерфейсом PCIe 3.0 x2 для ОС (может применяться твердотельный модуль вместимостью 512 Гбайт или 1 Тбайт) и два с интерфейсом PCIe 3.0 x1 для кеша, виртуальных машин и пр.

Источник изображений: Beelink

NAS располагает сетевыми портами 5GbE (контроллер Realtek RTL8126) и 2.5GbE (Intel i226V) с разъёмами RJ45, портами USB 3.2, USB 2.0 (×2) и USB Type-C, интерфейсом HDMI с поддержкой видео в формате 4K (до 60 Гц). Имеется также комбинированный адаптер Wi-Fi / Bluetooth 5.4 в виде модуля M.2 2230 (MediaTek MT7920). Продажи Beelink ME Pro начнутся в текущем месяце.

По данным отраслевых источников, NVIDIA сообщила клиентам в Китае, что уже рассматрвиает возможность нарастить производство ИИ-ускорителей H200. По данным Reuters, объёмы заказов уже превышают доступный сегодня уровень производства. Ранее сообщалось, что руководство США рассматривает разрешение поставок H200 в КНР, а в минувший вторник президент страны объявил о том, что этот вопрос решён положительно. При этом власти будут получать комиссию в 25 % с продаж ускорителей в Китай.

Спрос на современные ИИ-чипы в Китае столь высок, что NVIDIA допускает расширение их производства. В самой NVIDIA прокомментировали слух, заявив, что управляют цепочкой поставок таким образом, чтобы продажи авторизованным клиентам в Китае не повлияли на способность поставлять продукцию покупателям из США. Пока чипов H200 производится очень немного, поскольку NVIDIA сосредоточилась на выпуске передовых ускорителей Blackwell, а также будущего семейства — Rubin.

Крупные китайские компании, включая Alibaba и ByteDance уже связались с NVIDIA на днях по поводу закупок H200 и, как утверждается, заинтересованы в размещении крупных заказов. Впрочем, пока неопределённость сохраняется, поскольку закупки H200 не одобрили в самом Китае. По словам источников, в прошлую среду китайские чиновники провели ряд экстренных совещаний для обсуждения вопроса и принятия решения о том, стоит ли в принципе разрешать поставки H200.

Источник изображения: bruce mars/unsplash.com

H200 поступили в массовое производство в 2024 году и являются самыми быстрыми ускорителями NVIDIA поколения Hopper. Высокий спрос на H200 в Китае обусловлен тем, что это самый производительный чип, который будет доступен китайскому бизнесу на данный момент. Он приблизительно вшестеро производительнее «урезанной» модели H20.

Решение США принято на фоне стремления Китая активно развивать собственную полупроводниковую индустрию для ИИ-проектов. Поскольку продукция, сопоставимая с H200 в продаже пока отсутствует, в Китае уже возникли опасения, что выход американских чипов на локальный рынок может затормозить развитие местной отрасли. По мнению некоторых китайских экспертов, вычислительная мощность H200 в два-три раза выше, чем у самых передовых чипов из КНР — многие поставщики облачных услуг и корпоративные клиенты активно размещают заказы и лоббируют ослабление ограничений. При этом отмечается, что спрос в Китае в любом случае превышает возможности местного производства.

По сведениям источников, в ходе экстренных совещаний предлагалось разрешить покупать каждый ускоритель H200 только при условии покупки определённого количества чипов китайского производства. При этом у китайских IT-гигантов теоретически остаётся запасной вариант — размещение H200 в собственных ЦОД за пределами Китая. Они и так обучают модели в дата-центрах вне КНР, пусть и не своих. Для NVIDIA же наращивать производственные мощности тоже непросто, поскольку она занята наладкой массового производства Rubin и конкурирует за мощности TSMC с компаниями уровня Google.

Broadcom после публикации результатов за IV квартал и 2025 финансовый год в целом, завершившийся 2 ноября, столкнулась с самым значительным падением своих акций за последние 10 месяцев в связи с тем, что её прогноз продаж не оправдал ожиданий инвесторов.

Сообщение генерального директора Broadcom Хока Тана (Hock Tan) об имеющемся портфеле заказов на продукцию для ИИ-инфраструктур на сумму $73 млрд, которая будет отгружена в течение следующих шести кварталов, явно разочаровало некоторых инвесторов, хотя Тан уточнил, что эти цифры являются «минимальными». «Мы ожидаем гораздо большего по мере поступления новых заказов на отгрузку в течение следующих шести кварталов, — сказал он. — Таким образом, наш срок выполнения заказа, в зависимости от конкретного продукта, может составлять от шести месяцев до года».

Несмотря на то, что результаты за квартал и прогнозы Broadcom превзошли оценки Уолл-стрит, акции компании упали на торгах в Нью-Йорке в пятницу на 12 %, что стало самым большим падением в течение дня с конца января, пишет Bloomberg. Но даже с учётом этого падения её акции выросли более чем на 57 % за год (по данным Reuters). Акции ещё одного участника ИИ-рынка, Oracle, упали в пятницу на 4 % на фоне новостей о переносе сроков завершения строительства некоторых ЦОД, предназначенных для сервисов OpenAI. Это произошло вслед за обвалом на 11 % после публикации отчёта о результатах за последний финансовый квартал.

Источник изображений: Broadcom

ИИ стал движущей силой фондового рынка и экономики в целом в этом году, поэтому любые негативные настроения на ИИ-рынке могут иметь далеко идущие последствия, отметил CNBC. В минувшую пятницу индекс Nasdaq упал примерно на 1,4 %, а S&P 500 снизился почти на 1 %, причём сильнее всего пострадали компании, тесно связанные с ИИ-инфраструктурой.

Тан раскрыл имя нового клиента, о котором он сообщил в ходе отчёта за предыдущий квартал. Им оказался стартап Anthropic, от которого в IV квартале поступил заказ на $11 млрд на разработку кастомного ИИ-чипа после сделки на $10 млрд в III квартале. Тан также рассказал о подписании Broadcom ещё одного контракта на разработку XPU на $1 млрд, снова сразу не назвав имя заказчика.

Broadcom сообщила о росте выручки год к году на 28 % за отчётный квартал, до $18,02 млрд в основном за счёт увеличения продаж ИИ-чипов на 74 %, что превысило среднюю оценку аналитиков, опрошенных LSEG, в $17,49 млрд. Скорректированная прибыль (Non-GAAP) на разводнённую акцию составила $1,95, что тоже превысило среднюю оценку экспертов в $1,86. Чистая прибыль (GAAP) равняется $8,52 млрд или $1,74 на разводнённую акцию. Тан сообщил, что выручка от продаж ИИ-полупроводников удвоится в I финансовом квартале по сравнению с прошлым годом и составит $8,2 млрд, благодаря кастомным ИИ-ускорителям и коммутаторам Ethernet для ИИ-инфраструктуры.

Кирстен Спирс (Kirsten Spears), финансовый директор Broadcom, указала в пресс-релизе, что в 2025 финансовом году скорректированная EBITDA выросла на 35 % год к году, до рекордных $43,0 млрд, а свободный денежный поток составил $26,9 млрд. Она предупредила, что «валовая маржа будет ниже» для некоторых ИИ-систем Broadcom, поскольку компании придётся закупать больше комплектующих для производства. Следует отметить, что снижение рентабельности, по крайней мере в краткосрочной перспективе, является одним из главных поводов для беспокойства инвесторов. «Сейчас планы многих по расходам кажутся настолько масштабными, что паниковать преждевременно», — считает, в свою очередь, Бен Рейтцес (Ben Reitzes), аналитик Melius Research.

Выручка группы полупроводниковых решений Semiconductor Solutions достигла $11,07 млрд, увеличившись на 35 % по сравнению с аналогичным периодом прошлого года. $6,7 млрд из этой суммы пришлись на ИИ-продукты. Менее чем за три года выручка Broadcom от аппаратного обеспечения для ИИ-инфраструктуры выросла в 10 раз.

Бизнес по разработке инфраструктурного ПО принёс компании $6,94 млрд (рост год к году на 19 %). Тан сообщил, что большая часть этого роста связана с продажами решений VMware, которые, по его словам, обеспечат двузначный рост до 2026 года. Это является замедлением по сравнению с 26-% ростом в годовом исчислении, зафиксированным в 2025 финансовом году, отметил The Register. Однако рентабельность подразделения ПО выросла на 6 п.п. до 78 %, что отражает завершение процесса интеграции VMware в Broadcom.

Что касается итогов за весь 2025 финансовый год, то выручка Broadcom составила $63,89 млрд (рост год к году на 24 %), чистая прибыль (GAAP) — $23,13 млрд (рост — 292 %), чистая прибыль на акцию — $4,77 (рост — 288 %).

Тан прогнозирует, что полупроводниковый бизнес обеспечит Broadcom быстрый рост, и сообщил, что в I квартале 2026 финансового года компания ожидает получить выручку $19,1 млрд, что на 28 % больше, чем в предыдущем году. Хотя многие рассчитывали на сделку с OpenAI после объявления в октябре о новом клиенте, Тан развеял эти надежды, заявив инвесторам: «Мы не ожидаем многого в 2026 году».

Broadcom также воздержалась от предоставления годового прогноза выручки от ИИ-продукции — Тан заявил, что это «постоянно меняющаяся цель». «Мне сложно точно определить, как будет выглядеть 2026 год», — сказал он. — Поэтому я бы предпочёл не давать вам никаких прогнозов».

Вместе с тем он отметил, что прогнозы охлаждения спроса на ИИ-оборудования не сбудутся, сославшись на продолжающееся поступление заказов. «Мы никогда не видели таких объёмов заказов, как за последние три месяца», — сказал Тан инвесторам, добавив, что портфель заказов компании может вырасти ещё больше. Он отмахнулся от предупреждений инвесторов о возможных ограничениях в цепочке поставок, заявив, что Broadcom может получить необходимые мощности TSMC, уклонившись также от вопроса о влиянии стоимости оперативной памяти и указав на новый завод в Сингапуре как на источник необходимых мощностей по упаковке и сборке для удовлетворения спроса.

Также гендиректор Broadcom выразил мнение, что время кремниевой фотоники ещё не наступило. Он заявил, что прежде, чем эта технология станет необходимой, должны пройти две волны инноваций. Первая — масштабирование интерконнектов на основе меди для стоечных систем. Вторая — подключаемая оптика — технология, объединяющая электронные и фотонные устройства.

Microsoft поделилась планами расширения инфраструктуры на территории США на фоне стремительного роста спроса на облачные и ИИ-сервисы. Компания напомнила о создании площадок Fairwater в Висконсине и Атланте. Также появится облачный регион East US 3 в агломерации «Большой Атланты» в начале 2027 года. Дополнительно планируется раширить пять действующих регионов ЦОД по всей территории Соединённых Штатов.

Сеть дата-центров в границах «Большой Атланты» уже использует одни из наиболее передовых ИИ-суперкомпьютеров в мире, но в начале 2027 года сеть ЦОД в Атланте расширится, чтобы поддержать интенсивные рабочие нагрузки региона East US 3. Регион разработают с фокусом на поддержку самых ресурсоёмких задач, включая ИИ-нагрузки. Регион получит несколько зон доступности (AZ), т.е. несколько ЦОД, расположенных на некотором расстоянии друг от друга (обычно до 100 км), оснащённых независимыми источниками питания, сетевой инфраструктурой и системами охлаждения.

East US 3 проектируется с учётом обязательств Microsoft, связанных с сокращением углеродных выбросов, водопотребления, утилизацией отходов и устойчивым развитием. При строительстве East US 3 уделяется первостепенное внимание сохранению и восстановлению воды. Регион планируется сертифицировать по стандарту LEED Gold.

Источник изображения: Microsoft

Сейчас у компании в США есть регионов шесть регионов ЦОД с несколькими зонами доступности. Планируется добавить новые зоны к ряду других регионов. В 2026 году East US 2 в Вирджинии и South Central US в Техасе, где есть по три зоны доступности, получат новые AZ. Также компания добавит ещё несколько AZ на территори США: в начале 2026 года — к US Gov Arizona, к концу 2026 года — в North Central US, а в начале 2027 года — к West Central US.

Microsoft, по её собственным сдлвам, имеет больше облачных регионов, чем любой другой облачный бизнес. Всего инфраструктура Microsoft включает более 70 регионов, 400 ЦОД, более 595 тыс. км подводных и наземных ВОЛС, а также более 190 периферийных точек присутствия.

В октябре 2025 года сообщалось, что Microsoft не хватает ЦОД и серверов в США, причём не только для ИИ. Впрочем, компания развернула для OpenAI первый в мире ИИ-кластер на базе суперускорителей NVIDIA GB300 NVL72. Сейчас она запустила второй «самый передовой» ИИ ЦОД в мире Fairwater в дополнение к первому проекту. В ноябре появилась информация, что компания потратит более $60 млрд на аренду ИИ-мощностей у неооблаков. Всего капитальные затраты на ИИ ЦОД должны составить $80 млрд (и до $120 млрд в 2026 финансовом году).

Компания International Data Corporation (IDC) обнародовала результаты исследования мирового рынка серверов в III квартале уходящего года. Продажи в денежном выражении достигли рекордных $112,4 млрд: это на 61,1 % больше по сравнению с аналогичным периодом прошлого года, когда отгрузки оценивались в $69,79 млрд. При этом продажи СХД показали минимальный рост год к году.

Квартальная выручка от продаж серверов с архитектурой x86 увеличилась на 32,8 % — до $76,3 млрд. Системы с процессорами на других архитектурах принесли производителям $36,2 млрд, показав рост на 192,7 % в годовом исчислении. Более половины от общего объёма отрасли обеспечили серверы, оборудованные ускорителями: на фоне стремительного внедрения ИИ поставки таких машин в денежном выражении поднялись на 49,4 % по сравнению с III четвертью 2024 года.

Источник изображения: IDC

С географической точки зрения самые высокие темпы роста продемонстрировали США — плюс 79,1 % в годовом исчислении: этому способствовало увеличение продаж ИИ-серверов на 105,5 %. Канада показала прибавку в размере 69,8 %. В Китае зафиксировано увеличение поставок в денежном выражении на 37,6 %: при этом на КНР пришлась почти пятая часть квартальной выручки в мировом масштабе. В Азиатско-Тихоокеанском регионе (без учёта Китая и Японии) рост составил 37,4 %, в регионе ЕМЕА (Европа, Ближний Восток и Африка) — 31,0 %, в Японии — 28,1 %. В Латинской Америке продажи поднялись на 4,1 %.

Рейтинг ведущих поставщиков серверов по итогам III квартала 2025 года возглавляет Dell Technologies с выручкой в размере $9,3 млрд и долей 8,3 %. На втором месте располагается Supermicro с $4,5 млрд и 4,0 %, а замыкает тройку IEIT Systems с $4,14 млрд и 3,7 %. На четвёртой и пятой строках находятся Lenovo и НРЕ, у которых выручка составила соответственно $4,0 млрд и $3,4 млрд, а рыночная доля — 3,6 % и 3,0 %. При этом у всех перечисленных компаний доли сократились по сравнению с III кварталом 2024 года.

По данным International Data Corporation (IDC), продажи систем хранения данных (СХД) корпоративного класса в мировом масштабе достигли $7,97 млрд по итогам III квартала текущего года. Это на 2,1 % больше по сравнению с тем же периодом 2024-го, когда объём рынка оценивался в $7,81 млрд. Наибольший рост выручки год к году показали Pure Storage (+15,5 %), Huawei (+9,5 %) и NetApp (+2,8 %), а Dell Technologies (-4,9 %) и HPE (-7,5 %) показали падение

Положительная динамика показана благодаря поставкам массивов All-Flash: их продажи в годовом исчислении увеличились в деньгах на 17,6 %. Связано это с растущим спросом на высокопроизводительные системы, ориентированные на ресурсоёмкие задачи в области ИИ. Вместе с тем спрос на гибридные СХД и на решения на базе HDD уменьшился по отношению к III четверти 2024 года на 9,8 % и 6,3 % соответственно.

Источник изображения: Pure Storage

В ценовом разрезе доминируют системы среднего класса стоимостью от $25 тыс. до $250 тыс. На такие продукты пришлось 67,5 % продаж, а их поставки увеличились год к году на 8,1 % в денежном исчислении. С другой стороны, спрос на СХД верхнего ценового диапазона (дороже $250 тыс.) снизился на 9,0 %, тогда как продажи изделий начального уровня (дешевле $25 тыс.) упали на 8,0 %.

Источник изображения: IDC

С географической точки зрения самый высокий рост отмечен в Японии, Канаде и регионе EMEA (Европа, Ближний Восток и Африка) — на 14,4 %, 12,6 % и 10,5 % соответственно. В Китае продажи поднялись на 9,5 % по отношению к III кварталу прошлого года, в Азиатско-Тихоокеанском регионе (без учёта КНР и Японии) — на 8,6 %. В Латинской Америке произошло снижение на 0,9 %, тогда как в США рынок сократился на 9,9 %.

Лидером сектора является Dell Technologies с выручкой в размере $1,81 млрд и долей в 22,7 %. На втором месте располагается Huawei с $953,02 млн и 12,0 %, а замыкает тройку NetApp с $750,16 млн и 9,4%. Четвёртая строка в рейтинге досталась Pure Storage, продажи которой составили $539,22 млн, рыночная доля — 6,8 %. На пятой позиции находится НРЕ с $450,23 млн и 5,6 %. Все прочие отраслевые игроки вместе взятые получили $3,47 млрд, заняв 43,5 %.

Cisco Systems, один из лидеров ИТ-индустрии во времена разрастания пузыря доткомов на фоне эйфории инвесторов от потенциальных возможностей интернета и доступности венчурного капитала, вновь вернулась к былым показателям, отчасти благодаря ИИ-буму, пишет Bloomberg.

В минувшую среду акции Cisco Systems выросли на 0,9 % до $80,25, наконец превысив максимум, достигнутый более чем 25 лет назад. Уровень акций компаний на 27 марта 2000 года рассматривается многими экспертами как пик пузыря доткомов, он же был пиковым уровнем индекса Nasdaq 100 до конца 2015 года.

По словам Деки Малларки (Dec Mullarkey), управляющего директора SLC Management, это является своего рода напоминанием о том, как долго может проходить восстановление после кризиса. Например, японскому фондовому рынку потребовались десятилетия, чтобы оправиться от пузыря конца 1980-х годов: «Как только вы теряете доверие инвесторов в результате болезненной распродажи, им могут потребоваться годы, чтобы прийти в себя».

Рост акций в среду был частью более широкого ралли американских фондовых индексов после того, как Федеральная резервная система (ФРС) США снизила процентные ставки на третьем заседании подряд. Индекс S&P 500 вырос на 0,7 %, в то время как индекс Nasdaq 100 прибавил 0,4 %.

Источник изображения: Cisco

Сейчас инвесторы и специалисты по рыночным прогнозам проводят параллели между сегодняшним ралли, возглавляемым «Великолепной семеркой», и прошлым, когда оно достигло рекордного уровня в конце 1990-х годов, а Cisco была одним из т.н. «Четырёх всадников биржи Nasdaq» наряду с Microsoft, Intel и Dell, которые привлекли огромный интерес инвесторов.

За два года, предшествовавших достижению рекордного показателя в 2000 году акции Cisco взлетели почти на 600 % и рыночная стоимость компании превысила $500 млрд. После того, как пузырь доткомов лопнул, Cisco потеряла около 90 % своей стоимости, которая в конце 2002 года упала до отметки в $60 млрд. С тех пор акции Cisco выросли более чем на 800 %, но рыночная капитализация компании остается более чем на 40 % ниже её пикового уровня эры доткомов.

Малларки считает рост акций является «признаком уверенности» в Cisco, хотя сейчас к ней больше подходит определение «коммунальной» компании, а не новаторской. Нынешний рост акций Cisco был обусловлен высоким прогнозом компании по выручке, сообщившей в прошлом месяце, что объём продаж в текущем финансовом году, который заканчивается в июле, достигнет $61 млрд, что выше ожиданий Уолл-стрит и примерно на 1$ млрд больше прежнего прогноза.

Это добавило оптимизма инвесторам в отношении того, что расходы на ИИ-инфраструктуру помогут ускорить рост компании в ближайшие годы. Вместе с тем многие аналитики на Уолл-стрит по-прежнему скептически относятся к тому, что более широкий бум расходов на ИИ-инфраструктуру может продолжаться такими же высокими темпами длительное время.

Если энергоснабжение организовано неэффективно, на обеспечение работы ИИ-ускорителя мощностью 700 Вт может понадобиться и 1700 Вт. Решить это проблему поможет стартап PowerLattice, который миниатюризировал и переупаковал высоковольтные регуляторы, сообщает IEEE Spectrum. В компании утверждают, что её новые чиплеты позволяют снизить реальное энергопотребление наполовину, удвоив таким образом производительность на ватт. Чиплеты можно разместить максимально близко к вычислительным кристаллам.

Традиционные системы питания ИИ-чипов преобразуют переменный ток из сети в постоянный, а затем понижают напряжение до уровня, подходящего ускорителям (порядка 1 В). При значительном падении напряжения сила тока на финальном участке пути к чипу резко возрастает для сохранения нужного уровня мощности. Именно здесь и происходят существенные энергопотери и тепловыделение, которые можно снизить, разместив питающую электронику как можно ближе к потребителю — на расстоянии в несколько миллиметров, а не сантиметров, т.е. буквально внутри чипа.

Источник изображения: PowerLattice

PowerLattice упаковала все необходимые компоненты в один чиплет размеров с пару ластиков, которые ставятся на карандаши. Чиплеты располагаются под подложкой корпуса вычислительного чипа. Одной из ключевых задач было уменьшение индукторов, помогающих поддерживать стабильное выходное напряжение. Пришлось применять специальный магнитный сплав, позволяющий очень эффективно использовать пространство, работая на высоких частотах, в сто раз выше, чем при использовании традиционного варианта. Уникальность решения в том, что сплав сохраняет лучшие магнитные свойства на высоких частотах, чем сопоставимые материалы.

Утверждается, что полученные чиплеты более чем в 20 раз компактнее по площади, чем современные стабилизаторы. При этом толщина каждого из них составляет всего 100 мкм, что сопоставимо с толщиной волоса. Такие чиплеты действительно можно размещать очень близко к кристаллам процессора. При этом заказчики могут использовать несколько чиплетов в зависимости от прожорливости и требований конкретных чипов. Энергорасход можно снизить на 50 %, обещает компания, но эксперты пока сомневаются в этом — для достижения такого уровня экономии нужно динамическое управление электропитанием в режиме реального времени в зависимости от текущей нагрузки, что с решением PowerLattice может быть недостижимо.

Источник изображения: PowerLattice

Сейчас PowerLattice тестирует свой продукт на надёжность, а первые клиенты получат чиплеты приблизительно через два года. Intel тоже работает над модулем Fully Integrated Voltage Regulator, которая тоже помогает решить похожие проблемы. В самом стартапе Intel в качестве конкурента не рассматривается, поскольку подход у компаний разный, кроме того, Intel вряд ли будет предлагать свои решения конкурирующим производителям чипов.

Эксперты утверждают, что ещё 10 лет назад у компании не было шансов на успех, поскольку поставщики процессоров давали гарантию на них только при покупке их же модулей питания. Например, Qualcomm продавала свои чипсеты только вкупе с чипами управления питанием её же производства. Однако сейчас всё чаще практикуется гетерогенный подход, когда заказчики комбинируют компоненты разных компаний для оптимизации своих систем. Хотя поставщики уровня Intel и Qualcomm, вероятно, будут иметь фору при работе с крупными клиентами, более мелкие разработчики чипов и ИИ-инфраструктуры, возможно, будут искать альтернативные модули управления электропитанием.

NVIDIA разрабатывает новое открытое ПО, благодаря которому операторы ЦОД смогут получать более подробные данные о тепловом состоянии и иных параметрах работы ИИ-ускорителей. Предполагается, что это поможет решать проблемы, связанные с перегревом оборудования и его надёжностью, увеличив его срок службы и производительность. NVIDIA отдельно подчёркивает, что телеметрия собирается только в режиме чтения без слежки за оборудованием, а в ПО нет «аварийных выключателей» и бэкдоров. Да и в целом использование новинки опционально.

ПО обеспечивает операторам ЦОД доступ к мониторингу потребления энергии, загрузки, пропускной способности памяти и других ключевых параметров в масштабах всего парка ускорителей. Это помогает выявлять на ранних стадиях риски и проблемные компоненты и условия работы, отслеживать использование ИИ-ускорителей, их конфигурации и ошибки. Детализированная телеметрия становится всё важнее для планирования и управления масштабными инфраструктурами, говорит компания. ПО позволит:

• отслеживать скачки энергопотребления, чтобы избежать превышение энергетических бюджетов, максимизируя производительность на ватт;
• отслеживать загрузку, пропускную способность памяти и состояние интерконнектов во всём парке оборудования;
• заблаговременно выявлять локальные перегревы и проблемы с воздушным потоком, чтобы избежать троттлинга и преждевременного старения компонентов;
• проверять единообразие конфигураций ПО и настроек для воспроизводимости результатов и надёжности работы;
• обнаруживать ошибки и аномалии, заблаговременно идентифицировать выходящие из строя компоненты.

Источник изображения: NVIDIA

Такой мониторинг особенно важен на фоне недавнего отчёта учёных Принстонского университета, в котором сообщается, что интенсивные тепловые и электрические нагрузки способны сократить срок службы ИИ-чипов до года-двух, хотя обычно предполагается, что они способны стабильно проработать до трёх лет. Современные ускорители потребляют 700 Вт и более, а высокоплотные системы — от 6 кВт. Из-за этого формируются зоны перегрева, происходят колебания энергопотребления и растёт риск деградации интерконнектов в высокоплотных стойках.

Телеметрия, позволяющая оценить потребление энергии в реальном времени, состояние интерконнектов, систем воздушного охлаждения и др. позволяет перейти от реактивного мониторинга к проактивному проектированию. Рабочие нагрузки можно размещать с учётом теплового режима, быстрее внедрять СЖО или гибридные системы охлаждения, оптимизировать работу сетей с уменьшением тепловыделения.

Также ПО может помочь операторам ЦОД выявлять скрытые ошибки, вызванные несоответствием версий прошивки или драйверов. Благодаря этому можно повысить общую стабильность парка ускорителей. Кроме того, без задержек передаваемые данные об ошибках и состоянии компонентов могут значительно сократить среднее время восстановления работы и упростить анализ причин сбоев. Соответствующие данные могут влиять на решения о тратах на инфраструктуру и стратегию её развития на уровне предприятия.

Источник изображения: NVIDIA

Как заявляют в Gartner, современный ИИ представляет собой «энергоёмкого и сильно нагревающегося монстра», разрушающего экономику и принципы работы ЦОД. В результате, предприятиям нужны специальные инструменты мониторинга и управления для того, чтобы ситуация не вышла из-под контроля. В ближайшие годы использование подобных решений, вероятно, станет обязательным. Кроме того, прозрачность на уровне всего парка оборудования становится необходимой для обоснования роста бюджетов на ИИ-инфраструктуру.

По словам экспертов, такие программные инструменты позволяют оптимизировать капитальные и операционные затраты на ЦОД и инфраструктуру, запланированные на ближайшие годы. «Каждый доллар и каждый ватт» должны быть учтены при эффективном использовании ресурсов.

В связи с прекращением поставок в Россию ускорителей NVIDIA, ограничениями на загрузку драйверов и отсутствием их техподдержки Институт искусственного интеллекта МФТИ провёл исследование рынка альтернативных ускорителей, включая продукты китайских производителей Moore Threads и MetaX с целью оценки их способности обеспечить полный цикл работы современных ИИ-моделей.

Исследование включало анализ архитектурных особенностей ускорителей, драйверов, совместимости с фреймворками и тестирование под нагрузкой при работе с LLM, инференсом, задачами компьютерного зрения и распределённых вычислений. Проведена оценка скорости и воспроизводимости вычислений, устойчивости при росте нагрузки и стабильности поведения моделей на разных типах ускорителей.

Исследователи пришли к выводу, что ускорители Moore Threads s4000 и MetaX C500 могут применяться в широком спектре сценариев, обеспечивая стабильный запуск популярных LLM, корректную работу современных фреймворков, предсказуемую производительность и устойчивость работы при длительных нагрузках. В отдельных типах вычислений альтернативные ускорители не уступали или даже обгоняли NVIDIA A100.

Особое внимание было уделено возможности работы альтернативных ускорителей в составе вычислительных узлов и кластеров. Разработанный стек ПО позволяет эффективно распределять ресурсы, объединять мощности для работы с крупными моделями и создавать кластерные конфигурации, сообщили в МФТИ. В МФТИ планируют и дальше тестировать новые поколения ускорителей, расширив перечень поддерживаемых моделей, а также намерены подготовить отраслевые рекомендации для создания автономной ИИ-инфраструктуры.

Источник изображения: Walter Frehner / Unsplash

На основе исследования в МФТИ был создан Центр компетенций по решениям, не зависящим от NVIDIA, который объединяет лучшие инженерные практики, методики тестирования, оптимизированные конфигурации и опыт взаимодействия с поставщиками. Он будет оказывать помощь компаниям в подборе оборудования, проведении нагрузочного тестирования под конкретные задачи, настройке вычислительных цепочек, а также может сопровождать платформы в процессе эксплуатации.