По мере того, как генеративный ИИ становится всё популярнее, растёт и дефицит вычислительных ресурсов, что создаёт значимые барьеры для новичков, желающих заняться бизнесом в этой сфере. Как сообщает DigiTimes, проблему, возможно, помогут решить облачные игровые сервисы, располагающие огромным числом высокопроизводительных ускорителей, которые можно использовать для ИИ-проектов.

Например, тайваньское подразделение японского сервис-провайдера Ubitus располагает десятками тысяч ускорителей — столько имеют немногие бизнесы в IT-отрасли. По мнению некоторых экспертов, облачные игровые сервисы скоро могут принять участие в разработках, связанных с генеративным ИИ. По классификации SemiAnalysis IT-компании делились на две группы: «богатые» ускорителями и «бедные». В первую группу входят немногочисленные компании, владеющие более 20 тыс. ускорителей A100 или H100, например, Google, Anthropic, X, Meta✴, Inflection и OpenAI, причём у некоторых есть и более 100 тыс. ускорителей.

Изображение: NVIDIA

В первой половине ноября 2023 года Ubitus объявила о сотрудничестве с Национальным университетом Тайваня в области ИИ-вычислений — компания, возможно, является крупнейшим на острове оператором ускорителей, изначально предназначенных для облачных игровых проектов. Фактически излишки ресурсов уже направляются на работу с большими языковыми моделями (LLM), в частности, на китайском языке. По некоторым данным, IT-гиганты вроде Google уже предлагали компании рассмотреть возможность участия в развитии ИИ-отрасли на Тайване.

При этом тайваньские эксперты подчёркивают, что для облачных игр обычно применяют флагманские GPU серии RTX — они гораздо менее производительны в ИИ-задачах, но и на порядок дешевле специализированных ускорителей. Впрочем, в Ubitus утверждают, что преимущественно используют ускорители именно такого типа, включая H100, A100 и L40S в PCIe-исполнении.

Компания NVIDIA в ходе выставки Computex 2023 представила HPC-комплексы Taipei-1 и Israel-1. Первый из названных суперкомпьютеров ориентирован на решение сложных задач в области ИИ и промышленных метавселенных, а второй будет выступать в качестве испытательного полигона для тестирования новых решений.

Основа Taipei-1 — 64 системы NVIDIA DGX H100. Это полностью оптимизированная аппаратная и программная платформа, включающая поддержку новых программных решений NVIDIA для ИИ. Конфигурация узлов включает восемь ускорителей H100, два DPU BlueField-3 и 2 Тбайт памяти.

Кроме того, в состав Taipei-1 войдут 64 системы NVIDIA OVX , которые предназначены для построения крупномасштабных цифровых двойников. Клиентам будет доступен облачный сервис DGX Cloud, а софт NVIDIA Base Command поможет в мониторинге рабочих нагрузок.

Ведущие тайваньские образовательные и научно-исследовательские институты одними из первых получат доступ к Taipei-1 для развития здравоохранения, больших языковых моделей (LLM), климатологии, робототехники, интеллектуального производства и промышленных проектов. Использовать мощности суперкомпьютера, в частности, планирует Национальный тайваньский университет.

Изображение: NVIDIA

В свою очередь, комплекс Israel-1 станет самым мощным ИИ-суперкомпьютером в Израиле. Машина объединит 256 серверов Dell PowerEdge XE9680 на основе NVIDIA HGX H100. В общей сложности будут задействованы 2560 изделий BlueField-3 DPU и 80 коммутаторов Spectrum-4. Общее пиковое быстродействие системы составит 130 Пфлопс, а производительность на ИИ-операциях — до 8 Эфлопс.

Любопытно, что на выставке также удалось обнаружить упоминание пока что не анонсированной машины Taiwania 4, о которой писали зарубежные СМИ. В частности, говорится, что система получит 44 узла со 144-ядерными Arm-чипами Grace, которые будут объединены интеконнектом NVIDIA Quantum-2 InfiniBand NDR. Созданием суперкомпьютера займётся ASUS, а расположится он в тайваньском Национальном центре высокопроизводительных вычислений (NCHC).

В обрыве подводных интернет-кабелей, связывающих тайваньские острова, как сообщает Datacenter Dynamics, виноваты суда. Между тем в ремонте также нуждаются четыре из пяти подводных ВОЛС, обеспечивающих подключение к интернету Вьетнама.

Говорится, что кабель Taiwan-Matsu No. 2, соединяющий главный остров Тайвань и острова Мацзу, был перерезан китайским рыболовным судном. Такую информацию распространила Национальная комиссия по коммуникациям страны (NCC). Вторая подводная линия, Taiwan-Matsu No. 3, была перебита неопознанным грузовым судном.

Chunghwa Telecom, тайваньская телекоммуникационная компания, которая эксплуатирует один из кабелей, принесла извинения за обрыв и сообщила, что организовала ремонтные работы в максимально сжатые сроки. При этом пропускная способность линий была увеличена с 2,2 до 3,8 Гбит/с. Планируется также прокладка двух новых подводных кабелей, которые на этот раз будут заглублены на полтора метра, а не просто проложены по морскому дну.

Источник: TeleGeography

Учитывая постоянную и растущую напряжённость между Тайванем и Китаем, есть опасения, что ситуация с подводными кабелями только ухудшит отношения между сторонами. В этой связи Тайвань уже занялся вопросами обеспечения безопасности подводной кабельной инфраструктуры, соединяющей страну с интернетом.

Что касается вьетнамских кабелей, то причина их повреждения пока не установлена. Из пяти линий только одна — SeaMeWe-3 (SMW3) — работает в полную силу. Ещё две, Asia-Africa Europe 1 (AAE-1) и Intra Asia (IA), испытывают проблемы. Две другие, Asia-America Gateway (AAG) и Asia Pacific Gateway (APG), полностью отключены. На этом фоне планируется прокладка двух–трёх новых кабелей в ближайшие пять лет.

Нужно отметить, что за последние пять лет подводные ВОЛС разрывались более 20 раз. Для защиты подводных оптоволоконных и силовых кабелей Великобритания приобрела специальный корабль. Вопросами защиты подводных интернет-кабелей также занимается Норвегия.

Компания Zoom Video Communications, специализирующаяся на средствах для организации видеоконференцсвязи, начала эксплуатацию облачного ЦОД на Тайване. Как сообщает DigiTimes, открытие данной площадки поможет поддерживать качество и надёжность предоставляемых услуг на высоком уровне. Отмечается, что Zoom стала первой американской компанией, прошедшей сторонний аудит под надзором Тайваньского альянса безопасности мобильных приложений (МАСА).

Zoom выполнила два основных требования к зарубежным поставщикам программного обеспечения для видеоконференций, определённых властями Тайваня в 2020 году. Это, в частности, наличие серверов на территории страны, а также прохождение проверок на кибербезопасность, проведённых третьей стороной. Мобильные приложения Zoom для Android и iOS прошли тесты Центра технологий связи на соответствие стандартам, используемым на Тайване.

Источник изображения: Zoom

Нужно отметить, что надёжность и конфиденциальность решений Zoom были поставлены под сомнение правительством Тайваня ещё в 2020 году. Тогда компания была упомянута в бюллетене безопасности, касающемся платформ для организации конференций, популярность которых резко возросла в связи с пандемией COVID-19.

Аналитики DigiTimes Research подсчитали, что в 2022 году тайваньские производители серверного оборудования получили выручку в размере NT$2,12 трлн (около $69,6 млрд), что на 16 % больше показателя за предыдущий год. При этом поставки в штучном выражении поднялись только на 6,1 %. Такая картина, по мнению специалистов, объясняется тем, что на рынке востребованы мощные решения для задач HPC и ИИ.

Кроме того, крупные американские операторы ЦОД закупают высокопроизводительное оборудование, включая сетевые устройства и СХД, для облачных платформ. В 2023 году, согласно прогнозам аналитиков, выручка тайваньских поставщиков серверного оборудования поднимется на 6,4 %. Отгрузки продуктов в штучном выражении могут вырасти на 4 %.

Источник изображения: Foxconn

Выручка Wistron Group (Wistron и Wiwynn) в серверном сегменте в 2022-м достигла NT$537 млрд ($17,6 млрд), подскочив на 29% в годовом исчислении. После слабого 2021 года Wiwynn смогла значительно нарастить поставки. Так, эта компания по итогам 2022 года может показать увеличение выручки на 48 %, а отгрузок в штучном исчислении — на 27 %. В этом во многом помогли заказы со стороны Microsoft и Meta✴.

Выручка Foxconn от поставок серверного оборудования в 2022 году поднялась на 12 % — до NT$860 ($28,2 млрд). Такому результату способствовали заказы от Amazon и Microsoft. Если рассматривать сегмент серверных материнских плат, то в глобальном масштабе лидирует Inventec с долей около 21 % в штучном исчислении. Но этот показатель несколько снизился по сравнению с 2021-м из-за ограничений в связи с пандемией COVID-19.

Торговая война между США и Китаем, декарбонизация и геополитические факторы, как сообщает ресурс DigiTimes, провоцируют частичный перенос производственных линий серверов из Китая на Тайвань, в Юго-Восточную Азию и Северную Америку. По тем же причинам, отмечает Network World со ссылкой на данные аналитиков TrendForce, наблюдается трансформация каналов поставок. Впрочем, процесс этот начался не сегодня.

По оценкам DigiTimes Research, в 2022 году почти 60 % серверов в глобальном масштабе были произведены в Китае. Однако до начала торговой войны этот показатель был значительно выше — около 70–80 %. Более того, согласно прогнозам аналитиков, доля КНР в мировом производстве серверов может упасть до 35 % к 2024 году. Вместе с тем увеличится выпуск продукции в Юго-Восточной Азии и Северной Америке. В 2022 году, по подсчётам, в Северной Америке было произведено менее 10 % от общего объёма серверов. К 2024-му доля может подняться до 15–20 %.

«Основные покупатели серверов, такие как Amazon, Microsoft, Google и Meta✴, имеют самый большой рынок сбыта в Северной Америке, и поэтому разумно перенести некоторые производственные линии в этот регион, а также в Мексику», — говорят эксперты. Inventec и Quanta Computer уже перевели часть своих мощностей на Тайвань. Quanta Computer и Wiwynn также решили перенести некоторые производственные линии в Таиланд и Малайзию соответственно. Foxconn изучает возможность производства серверов во Вьетнаме. Вьетнам приглянулся и производителям сетевого оборудования.

Фото: Lenovo

По подсчётам TrendForce, на тайваньских ODM-производителей сейчас приходится около 90 % глобальных поставок материнских плат для серверов. Исключение составляет Supermicro, у которой, помимо тайваньского предприятия, есть завод во Фримонте (Калифорния, США). В сложившейся ситуации, как отмечается, многие компании пересматривают свои бизнес-модели. Так, AWS, Google, Meta✴ и Microsoft в качестве меры предосторожности рассматривают возможность использования производственных линий серверов за пределами Тайваня.