Венчурная компания Menlo Ventures опубликовала результаты исследования «Состояние генеративного ИИ на предприятиях». Чтобы получить представление о текущем уровне внедрения генеративного ИИ в корпоративном сегменте, исследователи опросили более 450 руководителей предприятий в США и Европе. Несмотря на шумиху вокруг данной технологи, исследование показало, что корпоративные инвестиции в генеративный ИИ по-прежнему малы по сравнению с другими категориями ПО.

По оценкам Menlo Ventures, инвестиции предприятий в генеративный ИИ в 2023 году составят $2,5 млрд, что гораздо меньше расходов предприятий на традиционный ИИ ($70 млрд) и облачное ПО ($400 млрд). Следует отметить, что ИИ не является чем-то новым для предприятий, которые использовали традиционные технологии ИИ (компьютерное зрение, глубокое обучение и т. д.) задолго до появления генеративного ИИ.

Источник изображений: Menlo Ventures

Половина участников опроса до 2023 года внедрила ту или иную форму ИИ, например, в продукты для клиентов или в системы внутренней автоматизации. Но запуск ChatGPT стал поворотным моментом: стратегия развития ИИ внезапно стала горячей темой среди руководителей, а принятие технологии возросло. Исследование показало, что после пяти лет застоя:

• Количество предприятий, использующих ту или иную форму ИИ, выросло на 7 % (с 48 % в 2022 году до 55 % в 2023 году).
• За тот же период расходы на ИИ внутри предприятий выросли в среднем на 8 %, тогда как общие расходы предприятий выросли всего на 5 %.

Инвестиции в генеративный ИИ способствовали увеличению расходов на ИИ вообще. При это 80 % респондентов сообщили о покупке стороннего ПО для генеративного ИИ вместо попыток самостоятельно создать такие решения. Говоря об опыте внедрения новых революционных технологий, аналитики отметили, что за первое десятилетие своего существования облако достигло 30 % расходов на корпоративное ПО; уровень проникновения интернета за тот же период достиг 45 %, а мобильной связи — 80 %.

В 2023 году предприятия потратили около $2,5 млрд на генеративный ИИ, что способствовало развитию таких инструментов, как GitHub Copilot и Hugging Face (оба заработали десятки миллионов долларов). Но рынок всё ещё находится в зачаточном состоянии и корпоративные инвестиции в генеративный ИИ по-прежнему составляют менее 1 % всех расходов на облако. Что важно, популярность генеративного ИИ также стимулировала спрос на классические платформы для работы с данными, такие как Dataiku и Databricks.

В настоящее время больше всего средств на генеративный ИИ тратят продуктовые и инженерные отделы. Причём они тратят больше (4,7 % всех расходов на технологии), чем все остальные отделы вместе взятые (3,5 %). При создании собственных систем ИИ предприятия вкладывают значительные средства в персонал и технологии, поручая традиционным разработчикам и специалистам по обработке данных создавать внутреннюю инфраструктуру, а некоторые нанимают дополнительных специалистов (ML-инженеров, исследователей и т. д.). Предприятия также вкладывают значительные средства в сторонние решения, составляющие основу современного стека ИИ.

Как ожидают исследователи, по мере того как решения будут развиваться и приносить большую ценность, инвестиции в генеративный ИИ будут увеличиваться во всех подразделениях компаний. Тем не менее, согласно прогнозу Menlo Ventures, несмотря на ажиотаж, внедрение генеративного ИИ на предприятиях будет носить умеренный характер, как и раннее внедрение облачных технологий. Многие стартапы первой волны все еще пытаются дифференцироваться, что затрудняет завоевание позиций на рынке.

Menlo Ventures прогнозирует, что рынок продолжит отдавать предпочтение игрокам, которые внедряют ИИ в существующие продукты. В борьбе за долю рынка генеративного ИИ существующие игроки быстро перешли к «стратегии встроенного ИИ». Исследователи ожидают, что их существующее преимущество сохранится в течение следующих нескольких лет, пока не станут преобладать новые и более мощные подходы вроде автономных агентов и многоэтапного размышления. Кроме того, Menlo Ventures полагает, что мощные контекстно-зависимые рабочие процессы с большим объёмом данных станут ключом к внедрению генеративного ИИ на предприятии.

Аналитики Menlo Ventures определили три области, которые имеют огромный потенциал для развития стартапов:

• Вертикальный ИИ. В отраслевых приложениях ИИ позволит переосмыслить взаимодействие человека и машины, став движущей силой сквозной автоматизации, а не просто «вторым пилотом» или платформой для совместной работы.
• Горизонтальный ИИ. Горизонтальные решения популярны, поскольку их можно использовать в разных отраслях и подразделениях, повышая эффективность рабочих процессов. ИИ всё более развивает способности рассуждать, сотрудничать, общаться, обучаться и прогнозировать, так что инструменты следующего поколения не только позволят машинам дополнять или автоматизировать рутинные задачи, но и взять на себя работу, которую раньше могли выполнять только люди.
• Современный стек ИИ. Новые возможности требуют новых инструментов для создания приложений LLM, включая базы данных, обслуживающую инфраструктуру, оркестрацию данных и процессов. Хотя современный стек ИИ всё ещё развивается, он привлекает большую долю корпоративных инвестиций, что делает его крупнейшим сегментом в области генеративного ИИ.

Корпорация Microsoft начала переговоры с некоммерческой торговой ассоциацией поставщиков облачных услуг в Европе (CISPE) с целью урегулирования спора, связанного с предполагаемым нарушением антимонопольного законодательства. Речь идёт о правилах лицензирования продуктов Microsoft.

Ещё весной 2022 года на редмондского гиганта поступили жалобы в антиконкурентном поведении. Провайдеры облачных услуг обвиняют Microsoft в том, что она взимает с клиентов разную плату за применение своих продуктов, в частности, Office — в зависимости от того, в каком облаке они используют софт — в Microsoft Azure или на конкурирующих платформах. Впоследствии Еврокомиссия начала сбор фактов, свидетельствующих о том, что Microsoft действительно ведёт антиконкурентную деятельность. Сама корпорация начала предпринимать меры по решению проблемы: это ряд обязательств, определяющих подход компании к ведению бизнеса в Европе.

Источник изображения: Microsoft

Между тем 11 января 2024 года вступил в силу Европейский закон о данных (EU Data Act), упрощающий переход клиентов облачных платформ к конкурирующим провайдерам. Тем не менее, спор Microsoft с участниками рынка остаётся открытым. Начатые переговоры с CISPE могут помочь сторонам найти общий язык и избавить Microsoft от возможных судебных разбирательств. Пикантность ситуации в том, что в CISPE входят не только локальные игроки, но и прямой конкурент Azure в лице AWS.

Подробности о переговорах не раскрываются, но отмечается, что CISPE намерена добиться «существенного прогресса» в споре в I квартале 2024 года. Отмечается, что любые средства правовой защиты и решения должны применяться во всём секторе и быть доступными для всех клиентов облачных платформ в Европе. Кроме того, любые достигнутые соглашения подлежат проверке и мониторингу со стороны третьих сторон. Представитель Microsoft заявил, что компания продолжает «конструктивно работать с CISPE для решения проблем, поднятых европейскими облачными провайдерами». Вместе с тем пока переговоры находятся на ранней стадии.

Стоит добавить, что ранее Google направила в антимонопольный орган Великобритании жалобу против Microsoft, заявив, что политика корпорации ставит в невыгодное положение других облачных поставщиков. При этом сама Google полностью отменила плату за перенос данных её клиентов, которые переходят к другому облачному провайдеру или хотят использовать собственную вычислительную инфраструктуру. Amazon поддержала претензии Google. А летом 2023 года крупнейшие облачные провайдеры успели нажаловаться друга на друга не только в Европе, но и в США.

Компания TrendFocus, по сообщению ресурса StorageNewsletter, подвела итоги исследования мирового рынка HDD в IV квартале 2023 года. Суммарная вместимость отгруженных за трёхмесячный период дисков достигла 214,45 Эбайт, что на 9 % больше в квартальном исчислении. Вместе с тем поставки в штуках сократились на 0,6 % квартал к кварталу — до 28,85 млн ед.

Seagate остаётся крупнейшим игроком рынка с долей приблизительно 40,0 %. В последней четверти 2023-го компания реализовала 11,54 млн HDD. Суммарная вместимость этих устройств поднялась по сравнению с III кварталом 2023-го на 6 % — до 95,13 Эбайт, тогда как средняя ёмкость возросла на 11 %, составив 8,24 Тбайт. В сегменте Nearline-накопителей Seagate увеличила продажи на 8 % в штуках — до 4,53 млн шт., а общая вместимость таких решений поднялась на 14 % — до 70,98 Эбайт. Спрос на производительные HDD корпоративного уровня показал прибавку около 8 % — до 0,76 млн шт.

Источник изображения: Seagate

На втором месте в рейтинге крупнейших поставщиков HDD находится Western Digital с 10,81 млн реализованных за квартал устройств и долей в 37,5 %. Суммарная ёмкость дисков в квартальном исчислении поднялась на 14 %, составив 90,42 Эбайт, а средняя вместимость равна 8,36 Тбайт. Western Digital сообщила о росте спроса на Nearline-изделия на 20 % — до 3,90 млн единиц, в то время как общая ёмкость таких HDD подскочила квартал к кварталу на 22,5 % — до 66,61 Эбайт.

Замыкает тройку Toshiba, которая продала 6,5 млн дисков, заняв 22,5 % мирового рынка. Суммарный объём отгруженных за квартал устройств составил 28,90 Эбайт. Средняя ёмкость HDD поднялась на 1 % по сравнению с предыдущим кварталом — до 4,45 Тбайт. В Nearline-секторе зафиксировано увеличение поставок на 7 % — до 1,50 млн шт., а общая вместимость таких HDD выросла на 2 %, достигнув 18,90 Эбайт.

Российский IT-производитель С3 Solutions объявил о заключении договора о долгосрочном сотрудничестве с «Ростелеком-ЦОД» — сервис-провайдером полного цикла с одной из крупнейших в России геораспределённых сетей коммерческих дата-центров, которая объединяет 22 площадки.

Отмечается, что ранее компании взаимодействовали на проектной основе. По условиям нового соглашения, C3 Solutions становится официальным поставщиком инженерной инфраструктуры для «Ростелеком-ЦОД». Речь, в частности, идёт о монтажных стойках, блоках распределения питания (с мониторингом и без), стойках с ограждением, оборудовании для холодных коридоров, аксессуарах и пр.

Источник изображения: С3 Solutions

Заключение договора с С3 Solutions является частью масштабной программы «Ростелеком-ЦОД» по импортозамещению. Оператор предъявляет жёсткие требования к качеству оборудования и срокам поставки (4–6 недель вместо 8). Кроме того, оговорена возможность быстрой установки и подключения шкафов в машинном зале, что предполагает ряд конструкторских особенностей поставляемых решений. В конкурсе по поставкам оборудования для «Ростелеком-ЦОД» участвовали три отечественных производителя.

Vultr, крупнейший в мире частный облачный провайдер, анонсировал создание собственной сети доставки контента, разработанной для поддержания работы современных нагруженных сервисов. Платформа получила название Vultr CDN: она построена на базе глобальной инфраструктуры Vultr, охватывающей шесть континентов.

Система, как утверждается, использует сложные интеллектуальные функции распределения контента, оптимизируя операции и гарантируя высокую экономическую эффективность. Стоимость услуг составляет от $10/мес. за каждый регион (1 Тбайт трафика входит в стоимость), что, по заявлениям Vultr, является самой низкой ценой в отрасли.

Источник изображения: Vultr

Благодаря полной интеграции с Vultr Cloud Compute платформа CDN автоматически и интеллектуально масштабируется, оптимизируя параметры для каждой конкретной задачи и приложения. Облачная платформа, охватывающая 32 локации по всему миру, обеспечивает низкую задержку и высокую скорость доставки контента независимо от того, где находится пользователь. Утверждается, что Vultr CDN соответствует ведущим отраслевым стандартам безопасности: предусмотрены средства защиты в том числе от DDoS-атак.

Реализована бесшовная интеграция с популярными платформами CMS, а также с объектным хранилищем Vultr. В целом, как отмечает Vultr, новая CDN-платформа меняет правила игры на рынке сетей доставки контента. Глобальный охват, производительность и высокая экономическая эффективность позволяют поддерживать современные масштабируемые приложения с минимальными затратами.

По оценкам ResearchAndMarkets, в 2022 году объём мирового CDN-рынка составил приблизительно $6,7 млрд. К 2030-му, согласно прогнозам аналитиков, этот показатель может достичь $30,5 млрд. Между тем некоторые компании отказываются от развития собственных CDN-сервисов. Так, американская телекоммуникационная фирма Lumen Technologies решила продать соответствующие клиентские контракты провайдеру Akamai Technologies. А ранее Akamai приобрела около 100 клиентов CDN у Stackpath. При этом сама компания постепенно становится облачным провайдером.

На следующей неделе Cisco Systems Inc. объявит о сокращении персонала в рамках реструктуризации, призванной перенаправить усилия на достижение результатов в более перспективных направлениях. Об этом стало известно агентству Reuters от ряда информированных источников. О реструктуризации и сопутствующих сокращениях будет объявлено или в ходе квартального отчёта 14 февраля или за день-два до этого.

Согласно данным, указанным на веб-сайте компании, по состоянию на 2023 финансовый год общая численность её персонала составляла 84 900 человек. Ранее компания уволила 4100 сотрудников, или около 5 % своей рабочей силы, в ходе реструктуризации, объявленной в ноябре 2022 года.

Источник изображения: Cisco

В ноябре прошлого года компания вопреки ожиданиям аналитиков сообщила о прогнозируемом падении выручки на 6,6 % и небольшом снижении скорректированной прибыли на акцию вместо роста во II финансовом квартале, который закончился 28 января 2024 года. Более слабый прогноз компания объяснила замедлением темпов роста заказов на продукцию в предыдущие месяцы, главным образом со стороны облачных провайдеров и других крупных клиентов, сокративших закупки. Сообщается, что они ещё не внедрили продукты, купленные в 2023 году.

В ходе последнего квартального отчёта генеральный директор Чак Роббинс (Chuck Robbins) сообщил инвесторам, что компания работает над «расширением возможностей в быстрорастущих областях». Одним из шагов в этом направлении он назвал приобретение компании Splunk за $28 млрд, которое позволит сделать мощный рывок в области ПО и анализа данных на основе ИИ.

Ещё одной областью роста Роббинс назвал рынок инфраструктуры ИИ, особенно сетевого оборудования Ethernet. По его словам, по состоянию на ноябрь 2023 года объём заказов клиентов Cisco на такую инфраструктуру мог превысить $1 млрд. Роббинс сообщил тогда, что компания работает над эталонными решениями, которые объединят её сетевое оборудование с разработанными партнёрами ускорителями и СХД. На днях Cisco и NVIDIA объявили о расширении сотрудничества.

Добавим, что во II квартале компания прогнозировала скорректированную прибыль в размере от $0,82 до $0,84 на акцию при выручке от $12,6 до $12,8 млрд. В целом в 2024 финансовом году Cisco прогнозирует объём продаж на уровне от $53,8 до $55 млрд (снижение с ожидавшихся ранее $57–58,2 млрд).

Поскольку NVIDIA со своим проектом Grace явно метит в мир высокопроизводительных многоядерных процессоров, результаты тестирования новых чипов представляют существенный интерес для всех, кто интересуется решениями подобного класса. Ресурс Phoronix опубликовал результаты проведённого тестирования NVIDIA GH200, причём в составе рабочей станции. Это, напомним, гибридное решение, включающее в себя 72-ядерный Arm-процессор и ускоритель H100.

Сборка также включает в себя 480 Гбайт памяти LPDDR5 для процессорной части, а ускоритель располагает собственной высокоскоростной памятью HBM3e объёмом 96 Гбайт или 144 Гбайт. Связаны CPU и GPU высокоскоростной шиной NVLink-C2C с пропускной способностью 900 Гбайт/с. С периферийными устройствами GH200 может общаться посредством четырёх комплексов PCIe 5.0 по 16 линий каждый, а со стороны ускорителя имеется 18 линий NVLink 4 (900 Гбайт/с совокупно).

Фото: GPTshop.ai

Систему на тестирование предоставил магазин GPTshop.ai, позиционирующий решения на базе GH200 в качестве «настольных суперкомпьютеров». Рабочая станция в башенном корпусе включает в себя модуль GH200 на плате QCT и два блока питания мощностью 2000 Ватт, твердотельные накопители и сетевые карты NVIDIA ConnectX/Bluefield — по желанию заказчика. Стоимость стартует с отметки €47,4 тыс.

Фото: GPTshop.ai

В качестве ОС может использоваться любой дистрибутив Linux с поддержкой AArch64. В Phoronix использовали Ubuntu 23.10 с ядром версии 6.5 и стоковым компилятором GCC 13. В сравнении приняли участия системы на базе Intel Xeon Emerald Rapids, AMD EPYC и Ampere Altra Max.

Источник: Phoronix

В зависимости от сценария система на базе GH200 выступила с переменным успехом, но в среднем производительность процессорной части оказалась примерно на уровне 64-ядерных x86-процессоров — Xeon Platinum 8592+ или EPYC 9554. А 128-ядерный Altra Max M128-30 решение от NVIDIA уверенно обгоняет за счёт и более совершенной архитектуры, и более производительной подсистемы памяти.

Источник: Phoronix

К сожалению, вопрос энергоэффективности пока остался непроясненным, поскольку система не предоставляет интерфейсов RAPL/PowerCap/HWMON в Linux и точных метрик потребления получить невозможно, доступно лишь примерное значение потребления системы в целом через IPMI.

Потенциал у GH200, определённо, есть, хотя временами и сказывается недостаточная оптимизация программного обеспечения под архитектуру AArch64. Конкуренции двухпроцессорным решениям Intel или AMD GH200 не составляет, однако в распоряжении NVIDIA имеется и 144-ядерный вариант Grace Superchip. Тестирование такой системы уже значится в планах Phoronix.

Компания Apacer, сообщила о доступности, как утверждается, первых в мире модулей оперативной памяти стандарта DDR5, компоненты которых полностью не содержат свинца. Изделия превосходят требования действующей директивы защиты окружающей среды RoHS, принятой Европейским союзом.

Отмечается, что обычные модули ОЗУ, представленные на рынке, содержат свинец в своих резисторных элементах. Вместе с тем во всём миру принимаются всё более жёсткие экологические нормы, требующие в том числе отказа от применения этого тяжёлого металла.

Источник изображения: Apacer

Чтобы решить указанную проблему, компания Apacer после длительного периода исследований и разработок успешно создала полностью бессвинцовые модули памяти с резисторными компонентами нового типа. Эти решения в полной мере соответствуют стандартам RoHS без потери производительности.

В семействе представлены модули (ECC) UDIMM, (ECC) SO-DIMM и RDIMM стандарта DDR5-4800/5600. Напряжение питания во всех случаях равно 1,1 В; диапазон рабочих температур простирается от 0 до +85 °C. Изделия UDIMM и SO-DIMM доступны в вариантах ёмкостью 8, 16 и 32 Гбайт, а ECC UDIMM и ECC SO-DIMM — 16 и 32 Гбайт. В случае RDIMM объём варьируется от 16 до 128 Гбайт. В качестве сфер применения модулей названы оборона, автоматизация производства, здравоохранение, Интернет вещей, серверы, сетевое оборудование и пр.

Некоммерческая организация Standard Performance Evaluation Corporation (SPEC), по сообщению ServeTheHome, по сути, аннулировала более 2000 результатов своего бенчмарка SPEC CPU 2017 для процессоров Intel. Причина заключается в специальной оптимизации для целочисленных вычислений, что теперь считается недопустимым.

Установлено, что компилятор Intel oneAPI DPC++ фактически «обманывает» стандарты SPEC с помощью целевой оптимизации. Во многих результатах SPEC CPU 2017 в разделе «Примечания для компилятора» появилось уведомление о неточности данных.

Источник: SPEC

«SPEC пришла к выводу, что компилятор, использованный для получения этого результата, выполнял компиляцию, которая искусственно завышает производительность тестов 523.xalancbmk_r/623.xalancbmk_s, используя предварительное знание кода и набора данных», — сказано в сообщении.

Отмечается, что SPEC больше не будет публиковать результаты, полученные с использованием указанной оптимизации. В тесте производительности, на который нацелена эта оптимизация компилятора, результат может увеличиться более чем на 50 %. Таким образом, можно добиться повышения общего результата на несколько процентов. С другой стороны, оптимизация имеет узкую применимость: например, 623.xalancbmk_s — это только один из десяти тестов в наборе.

Оптимизация влияет на платформу Intel oneAPI версий с 2022.0 по 2023.0, тогда как более новые модификации, в частности, 2023.2.3 проблеме не подвержены. Кроме того, оптимизация не распространяется на процессоры AMD.

Американская компания Cloudflare в ходе оглашения финансовых показателей за последнюю четверть и 2023 год в целом сообщила об увеличении срока эксплуатации своего серверного оборудования на один год. Ожидается, что это позволит экономить миллионы долларов.

Традиционно серверы в ЦОД служат от трёх до пяти лет, после чего осуществляется их обновление. Однако в связи с экономическими сложностями и высоким уровнем инфляции многие гиперскейлеры, такие как AWS, Google, Meta✴ и Microsoft, вынуждены увеличивать жизненный цикл своего оборудования. А облачный провайдер Scaleway установил своеобразный рекорд, подняв этот показатель до 10 лет.

Источник изображения: Cloudflare

Теперь об аналогичной инициативе объявил финансовый директор Cloudflare Томас Сейферт (Thomas Seifert). По его словам, компания пришла к выводу, что постоянное развитие аппаратных технологий и усовершенствование архитектуры дата-центров повысили эффективность эксплуатации оборудования, в результате чего предполагаемый срок его полезного использования увеличится с четырёх до пяти лет. По оценкам, только в 2024-м это позволит сэкономить около $20 млн.

Сообщается, что в IV квартале 2023 года Cloudflare получила выручку в размере $362,5 млн, что на 32 % больше результата годичной давности. За год в целом выручка достигла $1,3 млрд, показав прибавку на уровне 33 % по сравнению с 2022-м. Вместе с тем компания продолжает нести убытки: квартальные потери зафиксированы в размере $27,9 млн, годовые — $183,9 млн. Для сравнения: годом ранее эти значения равнялись соответственно $45,9 млн и $193,4 млн.

В I квартале 2024 года компания рассчитывает получить выручку в размере от $372,5 млн до $373,5 млн, тогда как за год эта цифра прогнозируется в диапазоне от $1,648 млрд до $1,652 млрд.