Согласно данным Goldman Sachs, технологические компании планируют потратить в ближайшие годы около $1 трлн на развёртывание ИИ-технологий, включая инвестиции в ЦОД, чипы, энергетику и другую связанную инфраструктуру. Однако значительные расходы на ИИ-технологии до сих пор не принесли ничего «помимо сообщений о повышении эффективности» среди разработчиков, считают аналитики. Чего не скажешь о NVIDIA, оказавшейся главным бенефициаром бума ИИ.

Общение аналитиков Goldman Sachs с рядом экспертов показало, что мнения по поводу дальнейшего развития ИИ-рынка разделились. В частности, Дарон Аджемоглу (Daron Acemoglu), профессор Массачусетского технологического института (MIT) занял в значительной степени скептическую позицию по поводу результатов притока капитала. Он считает, что ИИ будет выполнять менее 5 % всех задач.

Источник изображений: Goldman Sachs

По словам учёного, за этот период ИИ повысит эффективность существующих производственных процессов благодаря автоматизации определённых задач или повышению продуктивности работников, выполняющих эти задачи. Он добавил, что оценка эффективности ИИ в более короткой перспективе зависит от количества производственных процессов, на которые технология повлияет, и от того, насколько вырастет производительность или сократятся затраты за этот период времени.

Аджемоглу не думает, что в ближайшем будущем ИИ сможет повлиять на «огромное» количество задач, отметив, что большинство действий, выполняемых людьми в настоящее время, таких как производство или добыча полезных ископаемых, «многогранны и требуют взаимодействия в реальном мире». Учёный ожидает, что в ближайшие годы ИИ окажет наибольшее влияние на «чисто умственные задачи», и и оно не будет «огромным».

Согласно прогнозу Аджемоглу, ИИ позволит увеличить производительность труда в США всего на 0,5 % и поддержит общий экономический рост на 0,9 % в течение следующего десятилетия. Также Аджемоглу не считает, что планы технологических компаний по значительному увеличению объёма данных и вычислительной мощности, которые они подключают к моделям ИИ, приведут к более быстрому улучшению этих систем.

«Включение вдвое большего объёма данных с Reddit в следующую версию GPT может улучшить способность предсказывать следующее слово во время неформального разговора, но это не обязательно повысит качество обслуживания клиентов — способность службы поддержки помочь устранить проблемы», — сказал он. Качество данных также имеет решающее значение, при этом не ясно, откуда именно можно будет получать высококачественную информацию и насколько велика будет её доступность, в том числе в финансовом отношении. Он также предупредил, что нынешняя архитектура ИИ «может иметь ограничения».

В Goldman Sachs нет единого мнения относительно расходов на ИИ. Некоторые из аналитиков утверждают, что технология ещё не доказала способность решать сложные задачи, необходимые для оправдания повышенных расходов. Они также заявили, что не ожидают, что затраты на ИИ когда-либо снизятся до такой степени, что компании смогут экономически эффективно автоматизировать большую часть задач, подразумевая. Развитие ИИ, которое привела к росту индекса S&P 500 в этом году, «вряд ли сохранится».

Вместе с тем ряд аналитиков Goldman Sachs с оптимизмом смотрит в будущее, прогнозируя, что ИИ позволит оптимизировать 25 % всех рабочих процессов. Они считают нынешний рост капитальных затрат «более многообещающим», чем предыдущие циклы расходов, поскольку «лидируют действующие игроки с низкой стоимостью капитала и массивными сетями дистрибуции и клиентской базой». Согласно прогнозу этих аналитиков, ИИ позволит повысить производительность труда в США на 9 %, а экономическая активность в стране совокупно вырастет на 6,1 % в течение следующего десятилетия.

В целом в Goldman Sachs пришли к выводу, что «ИИ ещё есть место для развития, либо потому, что ИИ начинает выполнять свои обещания, либо потому, что (финансовые) пузыри лопаются очень долго». Иными словами, аналитики Goldman Sachs не исключают, что ИИ может в итоге оказаться финансовым пузырём. Ранее к похожим выводам пришли в венчурном фонде Sequoia Capital.

Американское министерство энергетики (DOE) намерено инвестировать $100 млн в проекты, предусматривающие применение батарей без использования лития. По данным Datacenter Dynamics, оно уже выпустило т.н. «уведомление о намерениях», предусматривающих финансирование нескольких демонстрационных энергопроектов, акцентирующих внимание на «нелитиевых» технологиях, решениях со временем разрядки 10+ часов и стационарных энергохранилищах.

Подобные системы могут стать важным элементом перехода на возобновляемые источники энергии для дата-центров и сетевых поставщиков электроэнергии, поскольку смогут помогать захватывать и сохранять солнечную или ветряную энергию и отдавать её по мере необходимости, в том числе ночью или в штиль. Кроме того, подобные технологии можно будет использовать для подпитки энергосетей в случае экстренной необходимости.

В DOE считают, что США понадобится ещё 700–900 «зелёных» ГВт для того, чтобы страна добилась нулевых выбросов к 2050 году. При этом нынешние сети уже включают кратковременные хранилища энергии, но рост мощностей возобновляемых источников может привести к ужесточению требований к системам хранения. Системы длительного хранения энергии (LDES), по мнению чиновников, должны сыграть ключевую роль в создании энергетических резервов, необходимых для обеспечения стабильности работы энергосетей.

Источник изображения: Federico Beccari/unsplash.com

За финансирование отвечает Управление по демонстрации экологически чистой энергии (Office of Clean Energy Demonstrations, OCED). Предполагается поддержать от 3 до 15 проектов, которые получат $5–20 млн. Но должны найтись и частные соинвесторы, готовые вложить в каждый выбранный проект аналогичную сумму. Предполагается, что гранты помогут в развитии технологий, позволят довести опытные разработки до промышленной реализации, поспособствуют проведению практических испытаний и развитию цепочек поставок. При этом отобраны будут проекты, которые наиболее близки к стадии коммерциализации.

Промышленные аккумуляторы без лития, которые подходят для резервного питания крупных объектов, уже существуют. Недавно американский стартап Unigrid привлёк $12 млн для разработки найтрий-ионных АКБ. А ZincFive и FDK создают никель-цинковые батареи.

Стартап Phaidra, разрабатывающий ИИ-решения для оптимизации работы дата-центров и крупных промышленных предприятий, провёл новый раунд финансирования, в ходе которого на развитие привлечено $12 млн. Деньги будут направлены на исследования и разработки, а также на расширение рыночного присутствия.

Фирма Phaidra основана в 2019 году Джимом Гао (Jim Gao), Ведавьясом Паннеершелвамом (Vedavyas Panneershelvam) и Кэти Хоффман (Katie Hoffman) — выходцами из Google, Deepmind и Trane соответственно. Гао занимает пост генерального директора. Сейчас Phaidra получает основную часть выручки от подписок на свои решения.

ИИ-платформа Phaidra используется в качестве надстройки для системы управления зданием BMS или диспетчерской системы SCADA. Решение Phaidra анализирует показания датчиков в режиме реального времени, определяет оптимальную стратегию работы средств охлаждения и генерирует необходимые управляющие инструкции. Платформа обучается на исторических данных телеметрии конкретного объекта и накапливает опыт непосредственно во время работы, что с течением времени позволяет дополнительно повышать эффективность.

Источник изображения: Phaidra

Средства управления на основе ИИ, работающие круглосуточно и без перерывов, исключают человеческий фактор, говорят разработчики. В результате, снижаются риски простоя, повышаются энергетическая эффективность и производительность, уменьшаются выбросы вредных газов в атмосферу.

Новый раунд финансирования возглавила Index Ventures. На сегодняшний день стартап привлёк в общей сложности $60,5 млн. В число прежних инвесторов входят Callab Fund, Helena (возглавляла раунд Series A), Flying Fish Partners, Character, S32, Ahren и GSFutures. Поученные деньги помогут ускорить разработку продуктов и расширить штат, который сейчас включает около 100 сотрудников.

Несмотря на масштабные инвестиции крупных технологических компаний в инфраструктуру ИИ ни одна из них не может пока похвастаться значительной отдачей от своих вложений в это направление, пишет ресурс Tom's Hardware со ссылкой на заметку венчурного фонда Sequoia Capital.

Если компания OpenAI, использующая инфраструктуру Microsoft Azure, смогла за короткое время существенно увеличить доходы с $1,6 млрд в конце 2023 года до $3,4 млрд в 2024 году, то другие ИИ-стартапы пока только пытаются подобраться к отметке в $100 млн.

В то время, как NVIDIA заработала в прошлом году $47,5 млрд на поставках оборудования для ЦОД, в основном ИИ-ускорителей, её основные клиенты, такие как AWS, Google, Meta✴, Microsoft и т.д., вложившие немалые средства в развёртывание ИИ-инфраструктуры, пока имеют более скромные доходы от этого направления. По данным NVIDIA, половина её доходов от поставок для ЦОД поступает от крупных провайдеров облачных услуг — поставки только Microsoft принесли ей около 22 % выручки в IV квартале 2024 финансового года.

Источник изображения: Hennie Stander / Unsplash

По мнению Дэвида Кана (David Cahn), аналитика Sequoia Capital, ситуация начинает приобретать сходство с финансовым пузырём. Согласно его подсчётам, компаниям ИИ-отрасли необходимо иметь доход около $600 млрд в год, чтобы оправдать расходы на свою ИИ-инфраструктуру.

К таким выводам Кан пришёл, выполнив несложные расчёты. Он удвоил прогноз текущих доходов NVIDIA, чтобы покрыть общие затраты на ИИ ЦОД, половина которых приходится на ускорители, остальное — на энергию, здания и резервные генераторы. Полученный результат он снова удвоил, чтобы обеспечить 50 % валовой прибыли для конечных потребителей ИИ-сервисов таких компаний, как AWS или Microsoft Azure, которые тоже не должны остаться внакладе.

Даже если Google, Microsoft, Apple и Meta✴ будут ежегодно получать по $10 млрд дохода от использования ИИ, а такие компании, как Oracle, ByteDance, Alibaba, Tencent, X и Tesla — по $5 млрд, останется ещё $500 млрд затрат, которые нужно перекрыть. Кан предложил снизить ожидания быстрой прибыли от достижений в области ИИ и заняться внедрением устойчивых инноваций и созданием ценных для конечных пользователей решений. В противном случае образовавшийся пузырь на сотни миллиардов долларов может лопнуть, что приведёт к негативным последствиям для рынка.

Китайская телекоммуникационная компания China Mobile объявила об официальном запуске в Пекине «интеллектуального вычислительного центра» — дата-центра площадью 57 тыс. м², оснащённого серверами с 4 тыс. ИИ-ускорителей общей производительностью 1 Эфлопс (точность вычислений здесь и далее не указывается). Треть установленных в дата-центре ускорителей (33 %) — местного производства, сообщил ресурс China Daily.

China Mobile также сообщила, что разместила у местных компаний заказ на поставку оборудования для своих «интеллектуальных вычислительных центров» на сумму $2,6 млрд. В общей сложности China Mobile закупит в период с 2024 по 2025 год 8054 единиц оборудования для своих для ЦОД, включая 7994 ИИ-сервера вместе со вспомогательным оборудованием, а также 60 коммутаторов, сообщил ресурс Data Center Dynamics.

Источник изображения: China Mobile

В числе победителей тендера — Wuhan Guangxun Technology, Kunlun Technology, Huakun Zhenyu, Boyd Computer, Powerleader и Yangtze Computing. Kunlun Technology поставляет ИИ-серверы и периферийное оборудование, Huakun Zhenyu выпускает серверы на базе Arm-процессоров Huawei Kunpeng и ИИ-ускорителей Huawei Ascend, а Powerleader специализируется на выпуске серверов и ПК для корпоративного сегмента.

Ранее China Mobile сообщила, что построила крупнейший ЦОД в Хух-Хото (Внутренняя Монголия, Китай), оснащённый 20 тыс. ИИ-ускорителями общей производительностью 670 Тфлопс. В дальнейшем компания планирует построить ЦОД в Харбине (Harbin) на северо-востоке Китая и Гуйяне (Guiyang) на юге страны. Сейчас у China Mobile есть 12 «интеллектуальных» ЦОД в КНР, общая производительность которых составляет 17 Эфлопс.

NVIDIA заявила, что инвестиции в покупку её ускорителей весьма выгодны, передаёт ресурс HPCwire. По словам NVIDIA, компании, строящие огромные ЦОД, получат большую прибыль в течение четырёх-пяти лет их эксплуатации. Заказчики готовы платить миллиарды долларов, чтобы не отстать в ИИ-гонке.

«Каждый доллар, вложенный провайдером облачных услуг в ускорители, вернётся пятью долларами через четыре года», — заявил Иэн Бак (Ian Buck), вице-президент HPC-подразделения NVIDIA на конференции BofA Securities 2024 Global Technology Conference. Он отметил, что использование ускорителей для инференса несёт ещё больше выгоды, позволяя получить уже семь долларов за тот же период.

Как сообщается, инференс ИИ-моделей Llama, Mistral и Gemma становится всё масштабнее. Для удобства NVIDIA упаковывает открытые ИИ-модели в оптимизированные и готовые к запуску контейнеры NIM. Компания отметила, что её новейшие ускорители Blackwell оптимизированы для инференса. Они, в частности, поддерживают типы данных FP4/FP6, что повышает энергоэффективность оборудования при выполнении рабочих нагрузок ИИ с низкой интенсивностью.

Источник изображений: NVIDIA

Провайдеры облачных услуг планируют строительство ЦОД на пару лет вперёд и хотят иметь представление о том, какими будут ускорители в обозримом будущем. Бак отметил, что провайдерам важно знать, как будут выглядеть ЦОД с серверами на базе чипов Blackwell и чем они будут отличаться от дата-центров на Hopper. Скоро на смену Blackwell придут ускорители Rubin. Их выпуск начнётся в 2026 году, так что гиперскейлерам уже можно готовиться к обновлению дата-центров.

Как ожидается, чипы Blackwell, первые партии которых будут поставлены к концу года, будут в дефиците. «С каждым новым технологическим переходом возникает… сочетание проблем спроса и предложения», — отметил Бак. По его словам, операторы ЦОД постепенно отказываются от инфраструктуры на базе CPU, освобождая место под большее количество ускорителей. Ускорители Hopper пока остаются в ЦОД и всё ещё будут основными «рабочими лошадками» для ИИ, но вот решения на базе архитектур Ampere и Volta уже перепродаются.

Microsoft и Google сделали ставку на ИИ и сейчас работают над более функциональными большими языковыми моделями, причём Microsoft (и OpenAI) в значительной степени полагается на ускорители NVIDIA, тогда как Google опирается на TPU собственной разработки для использования в своей ИИ-инфраструктуре. Пока что самая крупная модель насчитывает порядка 1,8 трлн параметров, но по словам Бака, это только начало. В дальнейшем появятся модели с триллионами параметров, вокруг которой будут построены более мелкие и более специализированные модели. Так, свежая GPT-модель (вероятно, речь о GPT-4o) включает 16 отдельных нейросетей.

NVIDIA уже адаптирует свои ускорители к архитектуре Mixture of Experts (MoE, набор экспертов), где процесс обработки запроса пользователя делится между несколькими специализированными «экспертными» нейросетями. GB200 NVL72, по словам Бака, идеально подходит для MoE благодаря множеству ускорителей связанных быстрым интерконнектом, каждый из которых может обрабатывать часть запроса и быстро делится ответом с другими.

Российская производственная компания «Систэм Электрик» (Systême Electric, ранее Schneider Electric в России) объявила о выходе семейства продуктов для мониторинга и автоматизации инфраструктуры ЦОД, которое включает устройство мониторинга параметров окружающей среды SystemeBotz, решение для контроля доступа в ИТ-стойку SystemeBotzAC, а также ПО для централизованного мониторинга DCGuard. Решения являются полноценной заменой аналогичной продукции APC. Новинки будут доступны для проведения опытно-промышленной эксплуатации на объектах клиентов до 31 октября 2024.

SystemeBotz представляет собой масштабируемую систему активного мониторинга, призванную обеспечить защиту помещений, технологического и ИТ-оборудования от различных факторов риска. Это типовое решение сетевого мониторинга серверных комнат, узлов связи и ЦОД, которое устанавливается в стойку и позволяет подключить без надобности в предварительной настройке различные типы датчиков Systême Electric: температуры и влажности, точечных и ленточных протечек, положения двери, дыма и пожара, наличия напряжения, датчики типа «сухой контакт».

Источник изображения: «Систэм Электрик»

SystemeBotzAC — система контроля и управления доступом, разработанная для защиты стоек, позволяющая в режиме реального времени выполнять мониторинг факторов риска физического воздействия и несанкционированного доступа к ИТ-инфраструктуре. Система включает датчики положения дверей, ручки стоек со встроенными считывателями карт, коммуникационные блоков для передачи параметров, блоки питания и IP-камеры. Все компоненты системы совместимы с серверными шкафами Systême Electric, а также некоторыми стойками других производителей.

Программная платформа верхнего уровня DCGuard в режиме реального времени собирает, хранит и визуализирует параметры работы инженерной инфраструктуры объекта, оповещая пользователя об инцидентах и аварийных событиях. DCGuard обеспечивает сбор данных по промышленным протоколам для однофазных и трёхфазных ИБП, рядных и периметральных кондиционеров, PDU) устройств мониторинга параметров окружающей среды, систем холодоснабжения (чиллеров, драйкуллеров, частотно-регулируемых приводов и др.), систем мониторинга батарей, дизель-генераторных установок, а также распределительных щитов.

В 2023 году треть российских компаний (33 %) увеличили ИТ-бюджет, большей частью инвестировав в найм IT-специалистов и обновление ПО и лицензий, указано в исследовании State of DevOps Russia, проведённом компанией «Экспресс 42» при участии Deckhouse, Yandex Cloud, Head Hunter, AvitoTech, Т-Банк, JUG Ru Group и OTUS.

В опросе приняли участие более 4 тыс. ИТ-специалистов из российских компаний, чья деятельность связана с разработкой, тестированием и эксплуатацией ПО. Почти половина участников опроса (44 %) сообщила, что их компании стали чаще применять технологии ИИ для оптимизации работы ПО и DevOps-процессов.

В частности, разработчики применяют алгоритмы машинного обучения для автоматизации тестирования кода, выявления аномалий в данных, управления конфигурациями систем и инцидентами. При этом 47 % участников опроса отметили, что использование ИИ-технологий позволило повысить эффективность работы.

Источник изображения: Yandex Cloud

Использование облачных платформ позволяет не только оптимизировать разработку с ПО, но и повысить соответствие требованиям регулятора в области информационной безопасности — так считает половина респондентов. Также 41 % опрошенных отметили повышение прозрачности работы с данными при использовании облачных платформ.

Компания МЦСТ, занимающаяся разработкой российских процессоров «Эльбрус», объявила об открытии исходного кода компонентов дистрибутива «Эльбрус Линукс». Они обеспечивают поддержку архитектуры «Эльбрус» и могут использоваться сторонними разработчиками при реализации собственных проектов.

В частности, опубликованы исходники ядра Linux версии 5.10.* и библиотеки glibc с поддержкой платформы «Эльбрус». Кроме того, доступен набор патчей для оригинальных исходных текстов прикладных пакетов дистрибутива «Эльбрус Линукс». Программный код и патчи приведены к такому виду, в котором ими можно пользоваться без доступа к внутренним ресурсам и инструментарию МЦСТ.

Источник изображения: МЦСТ

Отмечается, что компоненты публикуются «как есть» — без гарантии пригодности для сборки сторонними сборочными системами и без гарантии совместимости патчей с иными версиями оригинальных исходных текстов, кроме тех, для которых они разработаны. Исходники рассчитаны на целевую аудиторию, обладающую достаточной технической квалификацией для самостоятельной сборки программ.

Одновременно компания МЦСТ сообщила о запуске веб-портала dev.mcst.ru для разработчиков ПО на платформе «Эльбрус». На этой площадке размещены полезные ссылки на тематические ресурсы, руководство по эффективному программированию на платформе «Эльбрус», исходники и пр.

В дальнейшем база исходного кода компонентов для архитектуры «Эльбрус» будет обновляться и пополняться. В частности, будут появляться дополнительные пакеты, портированные на платформу. Плюс к этому готовятся различные средства разработки.

ИИ-стартап Character.AI провёл переговоры с несколькими IT-гигантами, передаёт The Information. По слухам, компания обсуждала возможности сотрудничества с Google, Meta✴ и контролируемой Илоном Маском (Elon Musk) xAI.

Основанная бывшими сотрудниками Google компания уже привлекла $150 млн на создание чат-ботов, имитирующих поведение героев аниме, игр и др. На прошлой неделе компания представила функцию Character Call, обеспечивающую голосовое общение с ИИ-аватарами, готовыми ответить на запрос пользователя. Предполагается, что это добавит популярности сервисам компании.

Если бы стартапу удалось заключить сделку с одним из крупных игроков вроде Google или xAI, он получил бы доступ к огромным вычислительным ресурсам, а в ответ поделился бы интеллектуальной собственностью, связанной со своими передовыми разработками. По сведениям The Information, компания обсуждала заключение аналогичной сделки о совместном участии в исследованиях и с Meta✴ Platforms.

Источник изображения: Character.AI

Пока потенциальные участники сделки, включая Character.AI, не ответили на запросы журналистов. Некоторые эксперты полагают, что у компании слишком мало собственных вычислительных ресурсов, поэтому ей неизбежно пришлось бы прибегнуть к помощи игроков покрупнее. В индустрии это уже привычная практика. Так, Alibaba Cloud предлагает стартапам ИИ-мощности в обмен на долю в компании, а различные программы поддержки начинающих компаний в области ИИ нередко предполагают «выплаты» именно облачными ресурсами, а не живыми деньгами.

UPD 03.08.2024: Google наняла основателей Character.AI и лицензировала ИИ-модели компании.