Малайзия объявила, что намерена выяснить, не реэкспортировались ли чипы, связанные с подразделением сингапурской облачной компании Megaspeed, на фоне скандала в NVIDIA вновь привлекшей к себе внимание. Заявление малайзийских властей было сделано после того, как один из американских сенаторов предположил, что компанию могли использовать для обхода экспортных ограничений на поставку американских полупроводников в Китай, сообщает Reuters.

Сингапурская Megaspeed оказалась в центре внимания после того, как в СМИ появились публикации о связях одного из её топ-менеджеров Элис Хуанг (Alice Huang) и главой NVIDIA Дженсеном Хуангом (Jensen Huang), ныне бывшим. Власти США обвиняют Элис Хуанг в шпионаже в пользу КНР, хотя Китай обвинения отрицает. Megaspeed заявляет на своём сайте, что «чрезвычайно серьёзно» относится к требованиям американского законодательства.

Министерство инвестиций, торговли и промышленности Малайзии тем временем сообщило, что местное подразделение Megaspeed — компания Speedmatrix импортировала серверы и ИИ-чипы в качестве арендатора ЦОД. Власти отмечают, что официальные визиты на объекты компании проводились в рамках регулярного мониторинга отрасли. Также было заявлено, что совместно с малайзийской таможней выясняется, не реэкспортировались ли чипы Megaspeed и если такое было, то не нарушали ли такие поставки требования законодательства.

Источник изображения: alea Film/unsplash.com

Малайзия ввела экспортный контроль за перемещением высокопроизводительных американских ИИ-чипов в июле 2025 года. Для реэкспорта необходимо получить специальное разрешение, а предоставление таможне ложных данных о подобных товарах считается правонарушением. Министерство заявило, что тесно взаимодействует с американскими и сингапурскими властями и рассматривает возможность ужесточения мер контроля экспорта.

Хотя министерство подчеркнуло, что не отвечает за обеспечение соблюдения мер экспортного контроля, введённых другими странами, все компании, действующие на её территории, должны учитывать подобные ограничения при ведении международных дел. По словам премьер-министра страны, Малайзия готова сотрудничать в ведении любых расследований, хотя просьб о содействии со стороны Сингапура и США пока не поступало.

При этом подчёркивается, что пока нет доказательств того, что связанные с Megaspeed ИИ-чипы вывозились за пределы страны, нет. Вместе с тем ещё в апреле Bridge Data Centres выгнала из своих ЦОД Megaspeed. Оператор ЦОД пошёл на разрыв отношений с Megaspeed после того, как США инициировали расследование относительно структуры собственности компании, желая выяснить, не занималась ли она организацией доступа к передовым ИИ-чипам NVIDIA для Китая в нарушение американских экспортных ограничений.

После того, как генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) покинул свой пост из-за разразившегося шпионского скандала и пошатнувшейся репутации из-за внебрачных связей, акции компании резко упали, вызвав потрясения в технологическом секторе и волнения на мировых рынках, пишет The New York Times.

На фоне усиливающейся распродажи аналитики массово понизили рейтинги акций NVIDIA. В частности, понизили рейтинг аналитики Bernstein, существенно снизив целевую цену её акций. Аналитики RBC Capital Markets также значительно ухудшили прогноз по акциям компании, указав на отсутствие официального плана преемственности на посту генерального директора. «Остается открытым вопрос: найдётся ли человек, способный повторить уникальное сочетание качеств господина Хуанга — его техническое видение, талант к созданию экосистем и способность выступать в роли глобального лица революции в области искусственного интеллекта?» — отметили они.

На открытии торгов в четверг акции NVIDIA подешевели на 14 %, продолжив снижение, из-за которого только за текущий месяц рыночная стоимость компании сократилась более чем на $1 трлн. В общей сложности с пиковых значений, достигнутых в начале октября, акции упали на 27 %. К концу утра котировки начали восстанавливаться, отыграв большую часть потерь.

Источник изображения: NVIDIA

Смена руководства NVIDIA — временным гендиректором назначена финансовый директор Колетт Кресс (Colette Kress) — создала для инвесторов ситуацию неопределённости вокруг одного из главных символов ИИ-бума, а также породила вопросы о том, как проблемы компании могут повлиять на экономику в целом.

В четверг наиболее заметное падение акций затронуло облачных провайдеров, состоящих в стратегическом партнёрстве с NVIDIA: бумаги CoreWeave подешевели почти на 8 %, а акции Nebius — почти на 17 %. Акции Marvell Technology опустились на 2,5 %, акции компании Oracle, расширяющей сотрудничество с NVIDIA в области поставок ИИ-чипов, подешевели на 1,2 %. Напротив, акции конкурентов NVIDIA продемонстрировали рост: ценные бумаги AMD прибавили почти 3 %, а Broadcom — более 4 %.

Динамика акций производителей чипов оказалась разнонаправленной: индекс полупроводниковых компаний Philadelphia SE Semiconductor снизился на 0,9 % (ранее падение достигало 3,7 %). Американский фондовый рынок в целом, поначалу находившийся под давлением из-за проблем NVIDIA, во второй половине дня в четверг продемонстрировал небольшой рост: индекс S&P 500 поднялся на 0,2 %, а технологический индекс Nasdaq — на 0,1%.

Трудности NVIDIA отразились и на мировых рынках. Акции тайваньской компании TSMC, производящей чипы NVIDIA, упали почти на 2 %. В то же время южнокорейская Samsung, конкурирующая с NVIDIA в ряде направлений, прибавила 1 %. Акции крупнейшей технологической компании Европы — нидерландской ASML — подешевели менее чем на 1 %.

Подешевели и акции производителя систем хранения данных SanDisk, а также компаний Micron Technology и SK hynix, выпускающих чипы памяти. Акции Intel упали на 2 % — NVIDIA является одним из её инвесторов. На фоне рыночных потрясений, произошедших на прошлой неделе, NVIDIA уступила Apple звание крупнейшей публичной компании в мире.

NVIDIA объявила об отставке основателя и гендиректора компании Дженсена Хуанга (Jensen Huang). Также он был выведен из состава совета директоров компании. Решение об этом было принято на сегодняшнем заседании совета директоров, в который входит 11 независимых участников. Решение вступает в силу немедленно.

На время поиска кандидатуры на пост генерального директора руководство компанией перешло к Колетт Кресс (Colette Kress), занимающей в настоящее время должность исполнительного вице-президента и финансового директора NVIDIA. При этом она продолжит выполнять свои текущие обязанности — вплоть до назначения постоянного преемника.

Совет директоров также назначил Харви К. Джонса (Harvey C. Jones) первым в истории председателем совета директоров. Джонс — предприниматель, руководитель в сфере технологий и активный венчурный инвестор. Сообщается, что он занимал посты генерального директора и исполнительного председателя совета директоров компании Synopsys. Совет директоров уже начал поиск кандидата на должность генерального директора и будет рассматривать как внутренних, так и внешних претендентов.

Источник изображения: NVIDIA

Также совет директоров и вся компания выразили благодарность Дженсену за его неоценимый вклад как в деятельность компании, так и в развитие всей отрасли. Причиной отставки Дженсена Хуанга стал разразившийся шпионский скандал, сопровождающийся публикациями о его внебрачных связях, что привело к значительному падению акций NVIDIA.

Совет директоров компании NVIDIA собрался 11 ноября для решения о возможном увольнении главы компании Дженсена Хуанга (Jensen Huang). Полупроводниковый гигант пытается справиться с последствиями шпионского скандала, сопровождающегося публикациями о внебрачных связях бессменного генерального директора NVIDIA, сообщает Reuters.

Ещё в воскресенье совет директоров выразил доверие Хуангу и команде его руководителей, но теперь бизнесмен может быть отстранён от управления компанией согласно её внутренним правилам большинством голосов директоров вне зависимости от наличия оснований. В совете NVIDIA 11 директоров и все, кроме самого Хуанга, могут считаться независимыми.

Только за 9–10 ноября акции значительно упали, а капитализация потеряла на фоне коллективного иска к компании и Хуангу более $400 млрд на фоне слухов о возможном увольнении бизнесмена. По данным Reuters, если тенденция сохранится, потери могут составить уже около $600 млрд с момента объявления о расследовании отношений генерального директора с Элис Хуанг (Alice Huang) — возможно, китайской шпионкой и одним из топ-менеджеров сингапурской компании Megaspeed, вероятно, участвовавшей в контрабанде подсанкционных полупроводников в Китай.

Новость о том, что спецслужбы США расследуют её причастность к организации поставок, повлекло за собой цепочку событий, в результате которых совет директоров инициировал собственное расследование, а законотворцы стали добиваться ужесточения правил экспорта чипов в Китай.

Источник изображения: The Climate Reality Project/unsplash.com

По словам представителя Minotaur Capital, владеющей акциями NVIDIA, рынок начинает рассматривать сценарий, при котором компания может остаться без своего основателя, причём риск назван «наиболее вероятным». В результате ухода Хуанга может возникнуть «вакуум власти» в NVIDIA — Хуанг создал компанию и развивал её более 30 лет. Теперь компания играет ключевую роль в противостоянии США и Китая на рынке ИИ, а также в глобальном буме ИИ в целом.

У 63-летнего Хуанга нет очевидного преемника, зато ему принадлежит 3,6 % акций компании, а в его прямом подчинении имеются десятки её руководителей, поэтому он до сих пор в значительной степени сохраняет контроль над бизнесом. Издание Bloomberg сообщало в среду, что совет директоров NVIDIA уже работает со сторонней компанией для поиска потенциальных руководителей на замену Хуангу. Среди претендентов называют финансового директора Колетт Кресс (Colette Kress), которая занимает свой пост более 10 лет, Иэна Бака (Ian Buck), курирующего бизнес компании в сфере ЦОД.

Кризис руководства разразился за несколько дней до финансового отчёта компании и оглашения её планов на будущее — отчёт должен выйти 17 ноября. Ранее The New York Times сообщала, что у Хуанга была внебрачная связь и в самой компании — с Кимберли Пауэлл (Kimberly Powell), вице-президентом по направлению здравоохранения. Сам Хуанг отказался комментировать слух.

На фоне скандала снизились фьючерсы на американские акции. Фьючерсы на индекс Nasdaq упали на 1 % 11 ноября, на дополнительных торгах на 2 % подешевели и акции Micron, акции CoreWeave — на 6 %, а акции конкурентов AMD и Broadcom подорожали на 4 % и 3 % соответственно. В Азии акции Samsung Electronics выросли 12 ноября на 1 %, а SK Hynix упали на 2 %. По словам инвесторов и аналитиков, в ближайшей перспективе спрос на чипы NVIDIA вряд ли упадёт, но может пострадать более широкий круг компаний, поддерживаемых NVIDIA, в первую очередь строящих дата-центры для размещения чипов компании.

По словам президента США Дональда Трампа (Donald Trump), он разговаривал с Хуангом в понедельник, и глава NVIDIA сообщил, что не знал о том, что женщина, с которой его связывают, была шпионкой. Тем временем бизнесмену может грозить вызов для дачи показаний перед Конгрессом США. В среду издание Axios сообщало со ссылкой на китайские источники, что министр торговли США Говард Лютник (Howard Lutnick) затормозил реализацию планов Трампа по ужесточению мер против компаний, подозреваемых в перепродаже чипов NVIDIA в Китай, хотя сам министр не ответил на запрос журналистов.

SpaceX ведёт разработку собственной стоечной системы на платформе NVIDIA Vera Rubin NVL72 — её отличительной особенностью является отказ от традиционных кабельных соединений в пользу массивной 84-слойной печатной платы, сообщает Tom’s Hardware. Одна из возможных целей такого решения — использование системы в орбитальных ЦОД.

Система с кодовым именем Kessel включает 36 CPU Vera, 72 GPU Rubin, девять лотков с коммутаторами NVLink и принципиально иную архитектура интерконнекта. Компания Илона Маска (Elon Musk) закупает оборудование напрямую у NVIDIA, но прочие компоненты она приобретает самостоятельно, обеспечивая себе более полный контроль над цепочкой поставок аппаратного обеспечения.

Система Kessel сохранила базовую конфигурацию NVIDIA Vera Rubin NVL72 с 72 GPU, распределёнными по 18 вычислительным модулям с девятью коммутаторами NVLink. В отличие от стандартного решения NVIDIA, где используются внутренние кабельные блоки NVLink, SpaceX намерена размещать вычислительные и коммутационные модули «спина к спине» вокруг пассивной центральной печатной платы. Такая архитектура напоминает уменьшенную версию системы NVIDIA Kyber с 576 ИИ-ускорителями в 144 узлах, где для соединения вместо кабелей также используется печатная плата. Есть версия, что данная конструкция предназначается как для наземного, так и для орбитального применения.

Источник изображения: nvidia.com

84-слойная печатная плата является самой характерной особенностью Kessel — она изготавливается с использованием медных ламинатов марки M10 со сверхнизким уровнем потери сигнала. Для сравнения, архитектура NVIDIA Kyber предусматривает объединительную 156-слойную плату на основе ламинатов M9. Сокращение количества слоёв почти вдвое способно существенно упростить процесс производства и повысить выход годных изделий, но применение более совершенных медных ламинатов грозит ростом затрат на материалы. В любом случае, изготовить 84-слойную печатную плату чрезвычайно сложно.

Переход на использование платы в качестве интерконнекта может упростить сборку системы благодаря исключению множества высокоскоростных кабельных соединений, но едва ли поможет снизить производственные затраты. Для сравнения, современные серверные материнские платы высокого класса обычно содержат от 15 до 20 слоёв; в отладочных серверных платах их число превышает 20, чтобы практически полностью исключить проблемы с передачей электрических сигналов, обусловленные конструкцией самой платы.

Серьёзным препятствием при производстве 84-слойных плат может стать низкий выход годных изделий: достаточно дефекта лишь на одном из слоёв, чтобы непригодной стала вся плата. Таким образом, экономическая целесообразность проекта Kessel будет зависеть от того, смогут ли сэкономленные за счёт самостоятельной закупки компонентов и отказа от кабелей средства компенсировать расходы на создание такой сложной объединительной платы.

Kessel также знаменует собой отход от традиционной для NVIDIA модели поставок на системном уровне — в рамках поколения Vera Rubin она предлагает готовые вычислительные модули и серверные стойки. SpaceX, по имеющимся данным, намерена закупать ИИ-ускорители, CPU, коммутаторы и сетевое оборудование напрямую у NVIDIA, а остальные компоненты — у сторонних поставщиков. С таким подходом она сама сможет выбирать производителей печатных плат, поставщиком компонентов и производственных партнёров, оптимизировать оборудование нужды собственной инфраструктуры, что особенно важно с учётом перспективы орбитальных ЦОД — возможно, это будет способствовать снижению расходов за счёт отказа от посредников. При этом компания берёт на себя больше ответственности за проектирование системы, её проверку, качество производства и управление цепочками поставок — это всё более характерная для гиперскейлеров стратегия.

Для NVIDIA не всё так однозначно. С одной стороны, прямые продажи CPU и GPU грозят снижением выручки от реализации готовых печатных плат; с другой, и прочие крупные клиенты могут принять решение создавать собственные системы на базе технологий NVIDIA. В итоге технологии NVIDIA будут применяться чаще — и это важно, потому что гиперскейлеры сейчас всё активнее внедряют собственные чипы. Но сначала проект Kessel должен обернуться успехом и предложить явные преимущества по сравнению с системами NVIDIA.

Ранее Илон Маск заявил, что NVIDIA стала эксклюзивным партнёром SpaceX — единственным поставщиком ускорителей для ЦОД компании. Две компании уже не первый месяц ведут разработку оптимизированной для орбитальных условиях версии системы NVIDIA Vera Rubin NVL72.

Акционеры NVIDIA подали коллективный иск против компании и её главы Дженсена Хуанга (Jensen Huang), обвинив их в том, что те обманули инвесторов, не раскрыв данные о романтических отношениях генерального директора с женщиной, предположительно работающей на китайскую разведку, сообщает Datacenter Dynamics. На этом фоне капитализация компании стремительно снизилась.

Иск подан в федеральный суд Калифорнии на фоне падения акций компании на 4 % в понедельник, 9 ноября — после того, как Хуанг фактически подтвердил данные о романе в обращении к клиентам и сотрудникам, хотя обошёлся иносказаниями. В результате, по данным YChart, капитализация NVIDIA упала приблизительно на $193 млрд по итогам торгов 9 ноября, а к концу 10 ноября — $429 млрд.

Иск возглавил Марк Кирстенмахер (Mark Kistenmacher), представляющий интересы инвесторов, купивших акции между 9 октября 2025 года и 8 ноября 2026 года. Какой компенсации требуют истцы, пока не раскрывается. После публикации в The New York Times, Хуанг фактически признал факт супружеской измены. Женщина Элис Хуанг (Alice Huang) была руководителем облачной сингапурской компании Megaspeed, уже внесённой США в чёрный список за вероятную контрабанду чипов в Китай.

Источник изображения: NVIDIA

В прошлом году американские спецслужбы, следившие за Megaspeed и Элис Хуанг, обнаружили связь последней с главой NVIDIA. По данным американских властей, женщина пыталась получить от Хуанга информацию и доступ к чипам NVIDIA. При этом Megaspeed, купившая оборудование компании на $2 млрд, отрицает причастность к контрабанде. После первоначальной публикации Хуанг назвал историю «беспочвенными спекуляциями» и заявил, что отношения с Элис Хуанг были связаны исключительно с деятельностью Megaspeed и носили «совершенно нормальный» характер.

Неделю спустя он фактически признал факт романтических отношений с Элис, но не прокомментировал данные о вероятном шпионаже. 8 ноября совет директоров объявил о начале независимого расследования в свете публикаций о том, что основатель и генеральный директор стал объектом внимания иностранной разведки. В компании подчёркивали, что данных о том, что национальная безопасность США или конфиденциальные данные NVIDIA оказались под угрозой, нет.

Президент США уже заявил, что ФБР занимается расследованием отношений Хуанга с возможной шпионкой. В КНР назвали предположения о причастности Пекина к шпионской операции «безосновательными» и «не более чем попыткой очернить Китай». Всего с начала октября компания потеряла около $1,8 трлн капитализации, после скандала с Хуангом падение акций ускорилось.

Компания NVIDIA долгое время удерживает лидерство на рынке чипов для искусственного интеллекта. Её ускорители — лучшие в своём классе, но самым значимым преимуществом является программный интерфейс CUDA, пишет The Motley Fool.

В течение многих лет разработчики создавали фреймворки на базе CUDA для архитектуры NVIDIA, что, по факту, привязало многих провайдеров ЦОД к использованию чипов именно этого производителя. Но Alphabet, Meta✴ Platforms и Oracle могут пошатнуть серьезное конкурентное преимущество NVIDIA благодаря ряду новых разработок.

В прошлом месяце Alphabet представила — технологический стек TorchTPU с открытым исходным кодом, который позволяет запускать рабочие нагрузки PyTorch на собственных тензорных процессорах (TPU), требуя при этом лишь минимальных правок в коде. Компания Amazon также анонсировала собственную программную среду TorchNeuron, обеспечивающую поддержку кода PyTorch на своих чипах Trainium. Meta✴ наладила сотрудничество с обеими компаниями, чтобы получить возможность использовать альтернативные ускорители и не зависеть исключительно от продукции NVIDIA.

Следует отметить, что то, что PyTorch теперь можно легко запустить на TPU от Alphabet или чипах Trainium, ещё не означает, что производительность будет такой же высокой, как на GPU NVIDIA, поскольку PyTorch оптимизирован для работы с CUDA и оборудованием NVIDIA. Тем не менее последние достижения открывают путь для дальнейшей оптимизации и упрощают перенос кода, а конкурирующие чипы в будущем могут стать гораздо более производительными. А, например, у китайских компаний выбора вообще нет, поэтому они или адаптируют чипы под CUDA, или целиком отказываются от программной экосистемы NVIDIA.

Источник изображения: NVIDIA

В начале этого года Alphabet начала продавать системы на базе TPU сторонним компаниям, а недавно пресдставила ускорители TPU 8tx для корпоративного использования. Кроме того, с 2027 года TPU станут доступны в облаке Oracle Cloud Infrastructure (OCI). Это позволит клиентам Oracle перенести часть рабочих нагрузок на TPU — что может обеспечить более высокую производительность, более выгодные цены (или и то, и другое) по сравнению с GPU NVIDIA. Более того, это даёт шанс воспользоваться TPU тем разработчикам, которые «привязаны» к Oracle из-за размещения своих баз данных в OCI. Amazon теперь тоже готова продавать Trainium сторонним ЦОД.

Появившаяся у провайдеров возможность получать высокую отдачу от инвестиций, используя альтернативные ускорители для ИИ-задач ещё больше ослабляет позиции NVIDIA. Ситуация для NVIDIA осложняется еще и тем, что благодаря развитию платформы PyTorch специализированные чипы — например, от Alphabet или Amazon — становятся всё более эффективными и востребованными. Доминирование NVIDIA в сегменте оборудования для ЦОД слабнет, и последние события указывают на то, что её отрыв от конкурентов может быть не таким значимым, как полагали некоторые инвесторы, подытожил ресурс Fool.com.

Компании NVIDIA, Rebellions и SK Telecom объявили о сотрудничестве с целью развития суверенной инфраструктуры ИИ в Южной Корее. Инициативу поддерживает Министерство науки и информационно-коммуникационных технологий страны (MSIT).

Речь идёт об использовании модульной архитектуры NVIDIA MGX для создания ИИ-систем, а также технологии NVIDIA NVLink Fusion, которая позволяет использовать фирменный интерконнект NVLink для подключения ускорителей, разработанных сторонними компаниями. В данном случае будут задействованы ИИ-решения Rebel R200, разработанные специалистами южнокорейской Rebellions. Эти изделия спроектированы специально для выполнения вычислений с низкой задержкой и небольшим энергопотреблением: они подходят для работы с передовыми ИИ-моделями, включая нейросети с архитектурой Mixture-of-Experts (MoE) с несколькими триллионами параметров.

Южнокорейский оператор SK Telecom в рамках партнёрства развернёт MGX-стойки с ускорителями Rebel R200 и картами NVIDIA в своём дата-центре для задач ИИ. Компании намерены разработать схему дезагрегированного инференса, перенося различные этапы генерации ИИ-ответа на ту аппаратную часть, которая лучше всего подходит для этого. В частности, для предварительного заполнения будут использоваться GPU NVIDIA, а для декодирования — Rebel R200. Такой подход позволит повысить общую производительность и оптимизировать энергопотребление.

Источник изображения: NVIDIA

SK Telecom планирует интегрировать новую инфраструктуру с общедоступными сервисами, в том числе в рамках государственного проекта «Искусственный интеллект для всех». При этом будут использоваться собственные ИИ-модели, адаптированные к корейскому языку и региональным отраслям промышленности.

Нужно отметить, что к альянсу NVLink Fusion уже присоединились многие другие известные компании. В их число входят Qualcomm, Arm, d-Matrix, Marvell, Amazon, Fujitsu, Ayar, SiFive, Intel и MediaTek.

Около 600 тыс. ИИ-ускорителей NVIDIA H200 хранятся в Гонконге, ожидая начала поставок на территорию материкового Китая. По словам источников, знакомых с вопросом, Пекин пока не одобрил крупномасштабный импорт несмотря на высокий спрос со стороны китайских технологических компаний, сообщает Reuters. Власти информацию не комментируют.

Количество скопившихся чипов отражает нежелание Пекина усиливать зависимость от американских технологий. В то же время китайским компаниям очень нужны решения NVIDIA для обеспечения растущего спроса на ИИ-вычисления. В последние месяцы Китай уже разрешил импорт в страну некоторых ускорителей, по имеющимся данным некоторые ключевые китайские интернет-компании уже приобрели приблизительно по 10 тыс. ускорителей NVIDIA H200. По словам трёх источников, небольшое количество чипов было поставлено через посредников и «непрямыми» маршрутами, хотя сколько именно, достоверно неизвестно.

Источник изображения: Henry Lai/unsplash.com

Экспортные ограничения, принятые в США в 2022 году, должны были затруднить доступ Китая к передовым чипам NVIDIA и оборудованию для производства передовых полупроводников. Поскольку официальные каналы поставок ограничены, китайские покупатели обращаются к посредникам и активно прибегают к «непрямым» поставкам (в том числе контрабандой), что ведёт к росту цен на ускорители на «неофициальном» рынке.

Так, по данным Reuters, к концу октября ИИ-сервер с восемью H200 предлагался на территории материкового Китая за ¥6 млн ($900 тыс.), приблизительно втрое дороже, чем годом ранее. Серверы на основе более новых ускорителей NVIDIA Blackwell, в отношении которых действуют экспортные ограничения США, стоили более ¥20 млн.

Модель H200 оказалась в центре внимания на фоне противостояния Вашингтона и Пекина. США запрещали экспорт ускорителей этой модели в Китай до тех пор, пока в прошлом году президент США не дал NVIDIA разрешения на их поставки одобренным властями США китайским компаниям. Однако Пекин наложил собственные ограничения на импорт H200, не желая усугублять зависимость от американских технологий. В июле сообщалось, что китайские власти предписывали компаниям, включая Alibaba, ByteDance и DeepSeek, получать разрешения на покупку ограниченных количеств H200 для обучения ИИ-моделей.

Сообщалось, что всего была одобрена покупка менее 200 тыс. чипов, поскольку Пекин хочет, чтобы китайские компании покупали для инференса чипы местного производства. В октябре сообщалось, что ByteDance, Alibaba и Tencent заказали более 3 млн экземпляров NVIDIA RTX Pro 5500 — это менее производительные ускорители, допущенные к экспорту, совокупная официальная стоимость превысила $35 млрд.

Компания Supermicro в партнёрстве с IBM и NVIDIA анонсировала специализированную аппаратно-программную платформу, предназначенную для работы с KV-кешем. Система позволяет значительно сократить время, необходимое ИИ-моделям для начала генерации ответа по запросу пользователя.

Аппаратной основой платформы служат серверы хранения Supermicro Petascale класса All-Flash. Такие устройства выполнены в форм-факторе 1U на процессоре AMD EPYC Turin (до 96 ядер). Поддерживается до 9 Тбайт DDR5-4400 в виде 24 модулей. Упомянуто применение сетевых технологий NVIDIA Spectrum-X. Питание обеспечивают два блока мощностью 1600 Вт с резервированием и сертификатом 80 Plus Titanium.

Во фронтальной части узлов хранения расположены 16 отсеков для накопителей E3.S 1T с интерфейсом PCIe 5.0 x4 (NVMe). Кроме того, есть два внутренних коннектора M.2 M-key 2280/22110 для SSD с интерфейсами PCIe 3.0 x2 и PCIe 3.0 x4. Предусмотрены два слота PCIe 5.0 x16 для карт FHHL и два разъёма OCP 3.0 (PCIe 5.0 x16). Устройство оборудовано сетевым портом управления 1GbE (RJ45), коннектором D-Sub и четырьмя портами USB 3.0 Type-A (по два спереди и сзади). Используется воздушное охлаждение с восемью вентиляторами диаметром 40 мм.

Программная часть включает софт IBM Storage Scale, а также фреймворк NVIDIA Dynamo. В тестах новой платформы на модели со 120 млрд параметров при длине промпта в 130 тыс. токенов время до выдачи первого ответа оказалось в 56 раз меньше по сравнению с обычными системами. Кроме того, при увеличении длины запроса с 30 тыс. до 130 тыс. токенов задержка поднялась всего на 0,377 с.

Источник изображения: Supermicro