TrendForce отметила в своём новом исследовании, что в связи с резким ростом популярности приложений генеративного ИИ ведущие провайдеры облачных решений, включая Microsoft, Google, AWS, а также китайские технологические гиганты, такие как Baidu и ByteDance, значительно увеличили приобретение ИИ-серверов, необходимых для обучения и оптимизации ИИ-моделей.

Ажиотаж вокруг генеративного ИИ стал стимулом для разработки более мощных ИИ-серверов и роста этого сегмента рынка. Как полагают аналитики TrendForce, производители будут расширять использование в ИИ-системах передовых технологий, применяя мощные ускорители вычислений и высокопроизводительную память HBM в сочетании с современными методами упаковки чипов. Согласно прогнозу TrendForce, в течение 2023–2024 гг. вырастет спрос на HBM, а также на 30–40 % увеличатся мощности для выпуска чипов с использованием передовых методов упаковки.

Источник изображения: NVIDIA

TrendForce отметила, что для повышения вычислительной эффективности ИИ-серверов и увеличения пропускной способности памяти ведущие производители ИИ-микросхем, включая NVIDIA, AMD и Intel, наращивают использование HBM. В настоящее время у чипов NVIDIA A100/H100 имеется 80 Гбайт памяти HBM2e/HBM3. В суперчипе GH200 Grace Hopper используется ускоритель NVIDIA H100 с 96 Гбайт памяти HBM3.

В чипах серии AMD Instinct MI300 тоже используется память HBM3: у версии MI300A её ёмкость составляет 128 Гбайт, а у более продвинутой версии MI300X — 192 Гбайт. Также ожидается, что Google в рамках расширения ИИ-инфраструктуры начнёт в конце 2023 года в партнёрстве с Broadcom производство обновлённых тензорных чипов TPU, тоже с использованием памяти HBM.

Источник изображения: AMD

Согласно прогнозу TrendForce, в 2023 году будет выпущено ИИ-ускорителей с общим объёмом памяти HBM в пределах 290 млн Гбайт, что означает рост год к году на 60 %. В 2024 рост объёмов выпуска памяти HBM составит 30 % или более. Также будет расти спрос на передовые технологии упаковки чипов для сферы ИИ и высокопроизводительных вычислений (HPC). При этом преобладающим методом для ИИ-чипов будет Chip on Wafer on Substrate (CoWoS) от TSMC, позволяющий разместить на одной подложке до 12 стеков памяти HBM.

По оценкам TrendForce, с начала 2023 года спрос на CoWoS вырос почти на 50 % на фоне роста популярности ускорителей NVIDIA A100 и H100. Ожидается, что к концу года ежемесячный выпуск TSMC чипов с применением CoWoS вырастет до 12 тыс. Во второй половине 2023 года возможности заказа выпуска чипов с применением CoWoS будут ограничены в связи с растущим спросом на ИИ-чипы со стороны AMD, Google и других компаний.

Высокий спрос на использование CoWoS сохранится до 2024 года с прогнозируемым ростом производственных мощностей по упаковке этим методом на 30–40 % с учётом готовности соответствующего оборудования. Аналитики TrendForce не исключают возможности использования NVIDIA альтернативных технологий упаковки для производства ускорителей в случае сохранения высокого спроса на системы ИИ. Речь идёт о разработках компаний Samsung и Amkor.

Несмотря на растущую популярность генеративного ИИ, который многие компании стремятся интегрировать в существующие приложения и платформы, увеличение поставок ИИ-серверов будет ограниченным, заявил старший аналитик DIGITIMES Research Джим Сяо (Jim Hsiao).

В настоящее время все отрасли стремятся интегрировать генеративный ИИ в свои рабочие процессы, но особенно активно этим занимаются финансовые и медиа-компании. По словам Сяо, благодаря значительным возможностям генеративного ИИ в сборе данных и создании контента некоторые СМИ уже начали использовать ИИ-системы для написания материалов, в то время как финансовая индустрия использует их для анализа данных при прогнозе изменений на рынке, сказал Сяо, добавив, что Bloomberg использует ИИ в работе своего медиа- и финансового бизнеса.

Источник изображения: Hitesh Choudhary/unsplash.com

Сяо отметил, что растущий спрос на ИИ-серверы выгоден для ИТ-рынка. Многие компании, изначально планировавшие сократить капиталовложения в отрасль в этом году на фоне экономического спада, вызванного инфляцией и общей политической обстановкой, в конечном итоге решили сохранить свои бюджеты для покупки ИИ-серверов. Из-за дороговизны ИИ-серверов, чья стоимость в среднем более чем в 20 раз превышают стоимость обычных серверов, их можно приобрести гораздо меньше при том же бюджете. Это может привести к замедлению роста их поставок в общем объёме серверов в следующие несколько кварталов, утверждает аналитик.

Источник: DIGITIMES Research

Он сообщил, что одной из задач облачных провайдеров стало усиление промт-инжиниринга (инженирии подсказок), поскольку этот механизм играет важную роль в раскрытии потенциала генериративного ИИ. Такие решения обычно обучаются в рамках малых ИИ-моделей, а полученные результаты позже передаются в крупную систему ИИ для получения более качественных ответов, пояснил Сяо. Microsoft продвигает для промт-инжиниринга Azure OpenAI, в то время как Google предлагает Bard, добавил он.

Несмотря на растущую конкуренцию между NVIDIA и AMD, связанную с резким всплеском интереса к ИИ-решениям, рынок ЦОД в целом замедлился, а это способно навредить обеим компаниям. Как сообщает DigiTimes, корпорации, использующие продукцию обоих производителей, вынуждены экономить.

По данным MarketWatch, акции NVIDIA выросли примерно на 190 % с начала текущего года, а ценные бумаги AMD взлетели на 100 % за тот же период. Тем не менее, по мнению аналитиков Bank of America, рыночные ожидания могли превысить основные показатели. Эксперты считают, что общие капитальные затраты облачных провайдеров вырастут не на 4,7 % год к году, как ожидалось ранее, а лишь на 2,5 %. В Bank of America сообщают, что облачные провайдеры могут увеличить цикл обновления обычных CPU с традиционных 3-4 лет до 5-6 лет.

Как считает аналитик DigiTimes Research Джим Сяо (Jim Hsiao), несмотря на ажиотаж, связанный с ChatGPT и сходными технологиями, мировые поставки серверов в I квартале 2023 года упали, рост квартала к кварталу может составить с мая по июнь 3,9 %. Он также подчеркнул, что поставки североамериканским сервис-провайдерам были ниже, чем ожидалось, но именно они обеспечат рост поставок ИИ-серверов во II квартале. Однако их вклад в общий рынок будет ограничен из-за высоких цен.

Источник изображения: Bloomberg

Тем временем Gartner прогнозирует, что мировые траты на системы для ЦОД вырастут в 2023 году на 3,3 % (году к году), тогда как за предыдущий период рост составли внушительные 11,1 % в прошлом году. Несмотря на экономические трудности, влияющие на траты, связанные с облачной инфраструктурой, ключевые гиперскейлеры наращивали капитальные затраты, а в Microsoft подтвердили, что компания продолжит наращивать расходы благодаря инвестициям в ИИ-инфраструктуру Azure.

Компания ABI Research, по сообщению некоммерческой организации PCI Special Interest Group (PCI-SIG), прогнозирует стремительный рост продаж оборудования с поддержкой интерфейса PCIe. Говорится, что технология будет востребована во многих сегментах, включая ЦОД, периферийные устройства, телекоммуникационные платформы, ИИ, умные автомобили, мобильные и носимые устройства.

В частности, как сообщается, объём целевого рынка PCI Express в период с 2022 по 2027 год будет демонстрировать показатель CAGR (среднегодовой темп роста в сложных процентах) на уровне 14 %. В результате, к концу рассматриваемого периода он достигнет объёма около $10 млрд.

Источник изображения: PCI-SIG

Автомобильные и сетевые периферийные устройства продемонстрируют самые высокие темпы роста. В данных секторах объём целевого рынка и значение CAGR до 2027 года покажет прибавку на уровне 53 % и 38 % соответственно. В сегменте автомобильной промышленности внедрение PCIe поможет объединить электрические и электронные системы. В случае дата-центров преимуществами использования PCI Express названы энергоэффективность, безопасность и период окупаемости.

Функция низкого энергопотребления (L0p) спецификации PCIe 6.0 будет основной движущей силой развития рынка, поскольку энергоэффективность становится центральной стратегией для пользователей, уделяющих больше внимания устойчивости и снижению эксплуатационных расходов. Вместе с тем растёт пропускная способность PCI Express: в случае стандарта PCI Express 7.0 скорость передачи данных достигнет 512 Гбайт/c к 2025 году.

Компания TrendForce опубликовала прогноз по глобальному рынку серверов для решения ИИ-задач на ближайшие годы. Аналитики полагают, что спрос на такие системы будет стремительно расти, что объясняется развитием больших языковых моделей (LLM), внедрением передовых сервисов генеративного ИИ и решением других ресурсоёмких задач с применением нейросетей.

Статистика TrendForce учитывает отгрузки ИИ-серверов, оборудованных GPU, FPGA или ASIC. По оценкам, в 2022 году суммарный объём поставок таких машин составил приблизительно 855 тыс. штук, поднявшись в годовом исчислении на 8,5 %. В 2023-м, как ожидается, продажи достигнут примерно 1,2 млн единиц. Если этот прогноз оправдается, рост по отношению к прошлому году составит 38,4%.

В 2024 году, считают эксперты TrendForce, отрасль покажет прибавку на уровне 27,1 % — до 1,5 млн штук. В 2025 и 2026 годах прогнозируется увеличение продаж на 26,0 % и 25,0 % соответственно — до 1,9 млн и 2,4 млн единиц. Таким образом, в период с 2022-го по 2026 год величина CAGR (среднегодовой темп роста в сложных процентах) ожидается на уровне 22,0 %.

Источник изображения: pixabay.com

Исследование TrendForce показывает, что ускорители разработки NVIDIA в настоящее время доминируют на рынке ИИ-серверов с долей около 60–70%. Далее идут специализированные чипы ASIC, на которые приходится более 20 %. Успех NVIDIA, по мнению аналитиков, объясняется несколькими факторами. В частности, такие изделия как A100 и A800 пользуются высоким спросом и у американских, и у китайских провайдеров. В дальнейшем ожидается рост востребованности более новых ускорителей H100 и H800.

Кроме того, NVIDIA реализует гибкую ценовую политику, предлагая значительные скидки крупным заказчикам. В то же время наблюдается заметный рост спроса на облачные серверы ИИ, оснащённые 4–8 GPU, и периферийные ИИ-системы с 2–4 GPU. На этом фоне TrendForce прогнозирует, что ежегодный рост поставок ИИ-серверов на базе A100 и H100 составит около 50 %.

Компания CBRE, специализирующаяся на операциях с недвижимостью, прогнозирует в 2023 году рекордный рост освоения мощностей ЦОД на рынках, включающих Франкфурт, Лондон, Амстердам, Париж и Дублин (т.н. FLAPD). По данным DataCenter Dynamics, в компании предполагают, что прирост за год составит почти 500 МВт.

Примечательно, что I квартал 2023 года оказался чрезвычайно спокойным в этом отношении, в эксплуатацию на данных рынках были введены мощности всего на 2,9 МВт, самый низкий показатель за более чем 10 лет, а освоено в тот же период только 28 МВт, из которых 17 МВт — неназванным гиперскейлером в Лондоне. Значительную часть ожидаемых 480 МВт, по прогнозам CBRE, заберут гиперскейлеры, а больше половины мощностей придётся на Франкфурт и Лондон.

Источник изображения: Robert Bye/unsplash.com

Операторы на рынках FLAPD обеспечивают дополнительные мощности для удовлетворения спроса, в результате в текущем году ожидается и беспрецедентный рост ёмкости, большая часть которой будет выделяться по предварительным договорам индивидуальным клиентам из технологического сектора. С учётом спроса ожидается ввод в эксплуатацию в этом году ёмкости 524 МВт, многие проекты, например, до конца года завершат в Париже, Лондоне и Франкфурте (например, второй ЦОД Maincubes).

Особенный всплеск активности ожидается в Лондоне. Reef Group предложила строительство кампуса на 600 МВт ещё в ноябре прошлого года, Vantage работает над строительством 48-МВт кампуса, а Global Switch получила разрешение на строительство ЦОД на 3,1 МВт.

В докладе CBRE не отмечен фактический мораторий на строительство новых ЦОД в Дублине — в столице Ирландии ограничили подобную деятельность в связи с ограниченными возможностями электросетей. Ранее сообщалось, что вместо этого операторы переключаются на другие регионы — в декабре 2022 года было анонсировано строительство 21 ЦОД в населённых пунктах неподалёку от Дублина.

Российский рынок сетевой безопасности в 2025 году увеличится до 100 млрд руб. и больше, около 60 % придется на решения NGFW (next generation fireWall, межсетевой экран нового поколения). Об этом рассказал управляющий директор, директор по продуктам Positive Technologies Денис Кораблев на форуме Positive Hack Days.

По итогам 2022 года Денис Кораблев оценивает рынок сетевой безопасности в 60 млрд руб. Руководитель отдела продвижения продуктов компании «Код безопасности» Павел Коростелев полагает, что такой объем рынка оценивается только в ценах заказчиков, а в ценах вендоров – только в 30 млрд руб.

По данным «Кода безопасности», на долю сегмента NGFW приходится 20 млрд руб. С учетом того, что в 2022 году российские NGFW-разработчики реализовали продукции на 5 млрд руб., объем рынка, который занимали ушедшие иностранные вендоры таких решений, составлял 15 млрд руб. По итогам 2023 года объем продаж NGFW-производителей составит около 10 млрд руб.

Такие прогнозы участники рынка связывают с требованиями правительства РФ по переводу к 2025 году критической информационной инфраструктуры (КИИ) на преимущественное использование российского ПО. Кроме того, российский рынок NGFW разбит на отдельные сегменты, в некоторых из них уже есть качественные отечественные решения.

Как заявлял директор департамента обеспечения кибербезопасности Минцифры Владимир Бенгин на CISO-FORUM 2023, отсутствие российского NGFW — одна из главных проблем на рынке средств защиты информации. По мнению Павла Коростелева, нехватка отечественного межсетевого экрана нового поколения связана с тем, что «нет конкретных специфических требований под конкретные специфические пожелания отдельных специфических заказчиков». Кроме того, заказчик ставит жесткий срок установки, но сам в итоге не готов в этот срок быстро поменять свою инфраструктуру.

По словам управляющего директора, директора по продуктам Positive Technologies Дениса Кораблева, пока клиенты только делают осторожные шаги, планируют пилотирование NGFW.

Аналитическая компания Trendforce опубликовала прогноз по глобальным поставкам серверов в этом году, которые, как ожидается, сократятся на 2,85 % в годовом исчислении до 13,835 млн единиц.

Компания отметила, что на фоне сокращения закупок серверов четырьмя крупными провайдерами облачных услуг, OEM-производители, такие, как Dell и HPE, уменьшили свои прогнозы годовых объёмов поставок в сравнении с прошлым годом на 15 % и 12% соответственно. Кроме того, на рынок серверов влияют ограничения на поставки оборудования в Китай, связанные с геополитическими и экономическими проблемами.

TrendForce сообщила, что рынок серверов в первом полугодии развивается по пессимистическому сценарию: поставки в первом квартале сократились на 15,9 % по сравнению с предыдущим кварталом, что объясняется межсезоньем и корректировкой запасов конечными пользователями. Ожидания значительного увеличения поставок во втором квартале не оправдались, и в итоге рост в квартальном исчислении составит всего 9,23 %.

На поставки серверов оказывали влияние снижение объёмов отгрузки OEM-производителями, пониженный внутренний спрос в Китае и постоянные корректировки запасов в цепочке поставок. Необходимость соблюдения экологических стандартов (ESG) также вынуждают операторов ЦОД продлевать жизненный цикл серверов и сокращать объёмы закупок. Кроме того, OEM-производители продлевают период поддержки старых платформ, поскольку компании стремятся сокращать капзатраты, что ещё больше увеличивает нагрузку на рынок, отметила TrendForce.

В этом году на фоне ажиотажа вокруг ИИ-чат-ботов выросли поставки серверов ИИ, в том числе, благодаря инвестициям таких компаний как Microsoft и Google. TrendForce ожидает высокие темпы роста поставок серверов для ИИ в 2023 году — выше 10 %. Вместе с тем особого влияния на рынок серверов это не окажет, так как на ИИ-серверы в настоящее время приходится относительно небольшая часть (<10 %) от общего объёма поставок.

Источник изображения: Trendforce

Сроки восстановления рынка серверов зависят от темпов сокращения запасов у компаний. С учётом текущих оценок это может произойти уже в конце 2023 года или в первой половине 2024 года.

Темпы истощения запасов оборудования также повлияют на график внедрения новых платформ и могут отразиться на стремлении поставщиков перейти на DDR5 и снизить цены. Учитывая состояние рынка, TrendForce не исключает возможности дальнейшего пересмотра прогноза поставок серверов в сторону понижения.

Некоторые эксперты считают, что жизненный цикл жёстких накопителей подходит к концу. В их числе Шон Розмарин (Shawn Rosemarin), вице-президент по исследованиям и разработкам в подразделении по работе с клиентами (Customer Engineering) компании Pure Storage, заявивший, что после 2028 года жёсткие диски больше продаваться не будут из-за их плохой энергоэффективности и ограниченности применения, а также снижения стоимости флеш-накопителей.

Розмарин подчеркнул, что главным фактором падения конкурентоспособности жёстких дисков по сравнению с SSD станет высокий расход электроэнергии, а не снижение стоимости SSD или появление DFM ёмкостью 300 Тбайт собственной разработки Pure. Он отметил, что даже новейшие технологии магнитной записи с энергетической поддержкой, позволяющие значительно увеличить плотность записи, не спасут ситуацию.

Фото: Pixabay/FilipFilipovic

Производители HDD придерживаются другого мнения. Ещё в 2021 году Seagate заявила, что SSD не станут убийцами жёстких дисков. Мнения VAST и Infinidat по этому поводу заметно отличаются. Если VAST считает, что низкий уровень IOPS приведёт к ограничению использования ёмких HDD в хранилищах данных петабайтного масштаба, то Infidat отвечает, что это «должно быть шутка». Согласно оценкам Gartner, к 2026 году на долю SSD придётся 35 % от общего объёма поставок накопителей корпоративного класса (в Эбайт), что это делает маловероятным прогноз Розмарина.

«3 % мирового энергопотребления приходится на ЦОД, — приводит слова гендиректора Pure Розмарин. — Примерно треть от этого приходится на хранение. Почти всё это — HDD. Если отказаться от HDD и перейти на флеш-память, мы сможем, по сути, снизить энергопотребление на 80–90 %, увеличив плотность [хранения] на порядок в условиях, когда цены на NAND продолжают падать. Становится очевидным, что HDD уходят в прошлое».

Изображение: Pure Storage

Розмарин также отметил проблемы с поставками электроэнергии, доступность которой придётся учитывать при создании или расширении ЦОД — компаниям придётся выбирать между энергоэффективными SSD или ёмкими HDD. Скачок в развитии ИИ-технологий увеличил потребность в хранилищах, добавил Розмарин, что, по его словам, усугубляет проблему с точки зрения того, сколько данных смогут хранить провайдеры в связи с грядущим повышением спроса на электроэнергию.

Следует отметить, что Pure Storage является конкурентом производителей жёстких дисков, поэтому заявление её топ-менеджера необходимо оценивать с учётом этого факта. На данный момент массового перехода на флеш-память не наблюдается — ни один из гиперскейлеров пока не объявил о таком шаге. «Если же кто-то из них это сделает, то это будет сигналом того, что Pure Storage не одинока в своём убеждении », — пишет Blocks & Files.

Исследование, проведённое компанией IDC, говорит о том, что во II полугодии 2022 года росту расходов на вычислительные ресурсы и СХД в корпоративном сегменте способствовали средства управления структурированными данными. На данную сферу пришлось 9,1 %, или $7,6 млрд, от общего объёма глобального рынка IT-инфраструктур. Рост по отношению ко второй половине 2021-го зафиксирован на уровне 6,5 %.

В секторе неструктурированных баз данных зафиксирован наибольший рост в годовом исчислении в плане затрат на оборудование — 36,7 %, а итоговый результат составил $2,4 млрд. В сегменте управления персоналом расходы поднялись на 35,4 %, достигнув $2,7 млрд.

Источник изображения: IDC

В 2022 году категория «управление данными» оставалась самой крупной с точки зрения затрат на вычислительные платформы и СХД: объём в денежном выражении достиг $41,4 млрд. Показатель CAGR (среднегодовой темп роста в сложных процентах) до 2027 года прогнозируется на уровне 8,3 %: таким образом, к концу рассматриваемого периода расходы здесь могут подняться до $61,7 млрд. Основная часть роста в этой категории будет приходиться на наиболее быстрорастущие рабочие нагрузки, связанные с неструктурированными данные и задачами ИИ.

Управление данными также будет оставаться крупнейшим направлением расходов на IT-инфраструктуру как в публичных, так и в частных облачных средах. В первом случае показатель CAGR ожидается в размере 14,1 %, а затраты к 2027 году достигнут $26,6 млрд. В области выделенных облаков значение CAGR прогнозируется на отметке 4,9 %, расходы — $35,2 млрд в 2027-м.

Технические приложения будут самой быстрорастущей категорией для вычислительной инфраструктуры и СХД как в публичных, так и в выделенных средах с показателем CAGR соответственно 15,7 % и 5,8 %. Совокупные расходы здесь достигнут $12,0 млрд в 2027 году.