Создание и обучение мощных ИИ-моделей может обходиться компаниям в сотни миллионов и миллиарды долларов в год. Например, OpenAI в 2024-м намерена потратить на эти цели до $7 млрд. Основная часть затрат приходится на аппаратные ресурсы, включая дорогостоящие ускорители NVIDIA. Но, как сообщает Fortune, существует ещё одна важная статья расходов, которая зачастую упускается из виду — необходимость качественной маркировки данных. Между тем именно эта работа требует всё больших финансовых вложений.

Разметка (или маркировка) — процесс идентификации необработанных данных (изображений, текстовых файлов, видео и пр.) и добавления одной или нескольких значимых и информативных меток для обеспечения контекста. Это необходимо для того, чтобы ИИ-модель могла обучаться на таких массивах информации. Разметка данных требуется для различных сценариев использования, включая машинное зрение, обработку естественного языка и распознавание речи.

Разметка уже давно используется, например, при разработке ИИ-моделей для беспилотных автомобилей. Камера фиксирует изображения людей, уличных знаков, транспортных средств и светофоров, а комментаторы-люди помечают снимки такими тегами, как «пешеход», «грузовик» или «знак остановки». Это трудоёмкий и кропотливый процесс, который отнимает много времени и требует значительных финансовых вложений. После выпуска ChatGPT в 2022 году OpenAI подверглась широкой критике за аутсорсинг такой работы: компания наняла кенийских работников менее чем за $2/час.

Источник изображения: Max Panamá / Unsplash

Нынешние универсальные большие языковые модели (LLM) проходят обучение с подкреплением на основе отзывов (RLHF). В ходе процедуры люди предоставляют качественную обратную связь или ранжируют то, что генерирует ИИ-модель. Такой подход приводит к значительному увеличению затрат. Ещё одна причина роста расходов при маркировке данных — желание компаний включить в процесс обучения корпоративную информацию, такую как сведения о клиентах или внутренние корпоративные документы.

Кроме того, маркировка данных экспертного уровня в таких областях, как юриспруденция, финансы и здравоохранение требует привлечения высококвалифицированных специалистов, оплата труда которых стоит весьма дорого. Поэтому некоторые разработчики перекладывают задачи по разметке данных на сторонние компании, например, Scale AI, которая недавно получила финансирование в размере $1 млрд.

Алекс Ратнер (Alex Ratner), генеральный директор стартапа по маркировке данных Snorkel AI, говорит, что корпоративные клиенты могут тратить миллионы долларов на маркировку и обработку информации. Такие операции в некоторых случаях отнимают до 80% времени и бюджета на ИИ. Причём для сохранения актуальности со временем данные должны периодически дополняться и обрабатываться заново.

Таким образом, разметка, наряду с необходимостью применения дорогостоящего оборудования, становится одной из основных статей расходов при обучении ИИ-моделей. Некоторые компании снижают затраты, используя синтетические данные — то есть данные, сгенерированные самим ИИ. Последние инновации в области ИИ сделали генерацию синтетических данных эффективной и быстрой, что в ряде случаев позволяет отказаться от применения массивов реальной информации. Однако в некоторых случаях это грозит «самоповторами».

Государственный инвестор Mubadala Investment Co. из Объединённых Арабских Эмиратов вложит средства в лондонского строителя и оператора ЦОД Yondr Group. По данным Bloomberg, это новейшая инвестиция одного из фондов национального благосостояния ОАЭ в сектор, который должен выиграть от стремительно растущего спроса на облачные сервисы и ИИ-технологии.

Фонд, ресурсы которого составляют $302 млрд, объявил, что его инвестиции будут способствовать росту Yondr Group, с общей зарезервированной ёмкостью 878 МВт. Подробности сделки не раскрываются, но ранееуже подписал ряд сделок, связанных с рынком ЦОД, в том числе об инвестициях в американскую Aligned Data Centers и сингапурскую Princeton Digital Group (PDG). По мнению экспертов Mubadala Investment, средние темпы прироста глобального совокупного спроса на ЦОД составят 11 % до 2032 года.

Источник изображения: Nick Fewings/unsplash.com

Операторы ЦОД довольно давно стали объектом внимания со стороны богатых инфраструктурных инвестиционных фондов. Только в текущем году в сектор инвестировано более $20 млрд. В своём регионе ОАЭ и Саудовская Аравия намерены стать ИИ-хабами в рамках попыток диверсифицировать экономику, пока полагающуюся преимущественно на продажи нефти. В результате началась гонка для строительства на Ближнем Востоке дорогих ЦОД для поддержки технологического развития.

Mubadala Investment вкладывает деньги и в другие проекты, связанные с передовыми технологиями дата-центров. В прошлом году появилась информация о том, что фонд инвестировал в разработчика систем жидкостного охлаждения CoolIT, одного из ключевых игроков рынка СЖО для ЦОД и суперкомпьютеров.

Microsoft изменила принцип формирования отчётности своих бизнес-подразделений, в связи с чем часть доходов от поиска и новостной рекламы теперь отражается в финансовых результатах подразделения облачных вычислений Azure. Microsoft объяснила изменения стремлением дать инвесторам более чёткое представление о вкладе ИИ в работу компании, пишет Reuters.

Вместе с тем доходы от услуг ИИ и речевых технологий, которые предлагает подразделение Nuance, теперь будут относиться к сегменту Productivity and Business Processes (офисные приложения Office и Office 365, Dynamics CRM) вместо сегмента Intelligent Cloud, включающего облачные сервисы, а также Enterprise Services, Windows Server и SQL Server.

Источник изображения: Pixabay

В компании сообщили, что изменения позволят привести структуру отчётности в соответствие с тем, как управляется её бизнес. Компания уже откорректировала показатели выручки по подразделениям за последний финансовый год и пересмотрела свой прогноз на квартал с июля по сентябрь. Microsoft — одна из немногих крупных технологических компаний, которая отдельно сообщает о вкладе ИИ в своей выручке, поскольку большинство компаний ещё не увидели большого прироста от инвестиций в ИИ.

В прошлом месяце компания сообщила, что ИИ обеспечил большее влияние на рост показателей Azure в последнем квартале, несмотря на общее замедление бизнеса. Также Microsoft ожидает ускорение роста показателей Azure во II половине 2025 финансового года. Согласно обновлённому прогнозу, в I квартале 2025 финансового года подразделение Intelligent Cloud получит выручку в пределах от $23,80 млрд до $24,10 млрд по сравнению с предыдущим прогнозам в размере $28,6–$28,9 млрд. Ожидаемый доход подразделения Productivity and Business Processes в I квартале находится в диапазоне от $27,75 до $28,05 млрд по сравнению с предыдущим прогнозом в пределах от $20,3 до $20,6 млрд.

Согласно данным нового аудита, общая стоимость внедрения городским советом британского Бирмингема ERP-системы Oracle с сопутствующим ПО достигнет к апрелю 2026 года £216,5 млн ($280,4 млн). По сведениям The Register, крупнейший в Европе муниципалитет в своё время выбрал единую платформу для управления финансами, HR, закупок, управления цепочками поставок и т.п. для замены системы SAP, введённой в эксплуатацию в 1997 году и проработавшей до апреля 2022-го.

С внедрением новой ERP городской совет столкнулся с многочисленными трудностями. Первичное внедрение довести до ума так и не удалось, поэтому было принято решение заново модифицировать «коробочную» версию продукта. Стоимость проекта Oracle выросла с первоначальных £19 млн до £131 млн, включая повторное внедрение ПО того же вендора. Ранее власти уже задумывались, не стоит ли вовсе избавиться от ERP Oracle.

Источник изображения: Lulu Black/unsplash.com

Однако последний доклад агентства Audit Reform Lab на базе Университета Шеффилда говорит, что общая стоимость проекта фактически составит £216,5 млн, поскольку городской совет рассчитывал по итогам внедрения ERP сэкономить £69 млн в 2023–2024 гг. В докладе упоминается, что за время сотрудничества с Oracle утеряны и многие знания и приёмы обработки финансовых и иных документов — простых решений проблемы не существует и совет ежемесячно тратит всё больше средств на поддержание работоспособности, в том числе оплачивая обработку документов вручную.

О проблемах с внедрением больше года (04.2022–05.2023) ничего не сообщалось членам совета и широкой общественности, что сделало город фактическим банкротом. В документе содержится призыв к публичному расследованию финансовых проблем после того, как появились новости об иске к правительству города на £760 млн, связанном с неравной оплатой труда. При этом отсутствие доступа к полноценной финансовой отчётности и невозможность выявить случаи мошенничества на протяжении полутора лет только усугубляют ситуацию. В докладе допускают, что иск обнародован преждевременно, а сумма требований, вероятно, преувеличена, но в то же время роль ERP Oracle в этом деле, наоборот, занижена.

Подчёркивается, что дальнейшие расследования должны выяснить, почему сбои в работе системы Oracle преуменьшались городскими топ-менеджерами и имеет ли место простое упорство и некомпетентность или, возможно, есть какие-то другие причины. В ответ глава Бирмингемского городского совета Джон Коттон (John Cotton) заявил, что власти должны взять на себя ответственность за лавину ошибок, но отметил, что эти ошибки «не делались в вакууме» — в стране долговременный кризис органов местного самоуправления, вину за который он возложил на предыдущее правительстве консерваторов.

Компания Grafana Labs, специализирующаяся на решениях для мониторинга IT-инфраструктуры, сообщила о проведении очередного раунда финансирования: на развитие привлечено $270 млн в рамках расширенной программы Series D. При этом стартап получил оценку на уровне $6 млрд.

Grafana Labs, базирующаяся в Нью-Йорке, является создателем Grafana Cloud — популярной платформы с открытым исходным кодом для IT-мониторинга. Система собирает телеметрию и данные из многочисленных источников в составе инфраструктуры клиента, анализирует информацию и отображает её в виде диаграмм, графиков и таблиц.

Источник изображения: Grafana Labs

Платформа помогает отслеживать закономерности и тенденции, а также выявлять возможные технические проблемы ещё до того, как они приведут к серьёзным последствиям. При обнаружении потенциального сбоя генерируется предупреждение, которое отправляется профильному специалисту. Grafana Labs постоянно расширяет возможности своей системы. В частности, появилась функция Adaptive Metrics, которая помогает снижать затраты на облачную инфраструктуру путём анализа потребления ресурсов на основе ИИ-алгоритмов.

Сообщается, что новый раунд финансирования осуществлён под предводительством Lightspeed Venture Partners с участием всех существующих инвесторов, включая GIC, Sequoia Capital, Coatue, Lead Edge Capital, J.P. Morgan и K5 Global. Кроме того, в программе принял участие CapitalG — частный инвестиционный фонд Alphabet. Средства пойдут на ускорение разработки продуктов, а также возможные слияния и поглощения, направленные на укрепление рыночного положения.

Grafana Labs также отмечает, что база платящих клиентов компании расширяется: за последний год она превысила 5000 заказчиков. В их число входят Citigroup, Salesforce, Dell Technologies, ASOS и Microsoft.

Спрос на CPU-мощности в ключевых китайских облаках Alibaba Cloud и Tencent Cloud выровнялся и теперь клиентов больше интересуют ИИ-ускорители, сообщает The Register. Рост спроса на предложения, связанные с ИИ, зарегистрировала и Lenovo.

На прошлой неделе Alibaba и Tencent опубликовали квартальную отчётность, выручка Alibaba Cloud выросла год к году на 6 % до $3,7 млрд. Tencent не раскрывает показатели гиперскейл-сегмента, но отмечает рост спроса на облачные сервисы, благодаря чему квартальные показатели подразделения Business Services выросли год к году на «десятки процентов».

Представитель Tencent объявил инвесторам, что бизнес по аренде ИИ-ускорителей переживает настоящий бум. Впрочем, абсолютные показатели достаточно скромные в сравнении с американским рынком, поскольку у КНР меньше хорошо финансируемых ИИ-стартапов. По некоторым данным, местные стартапы часто располагают $1–$2 млрд, тогда как в США объём инвестиций может достигать и $10–$90 млрд. Tencent в любом случае не теряет клиентов даже на фоне замещения CPU на GPU.

В Alibaba сообщают, что спрос на ИИ-продукты и связанные технологии очень большой, причём он всё ещё далёк от удовлетворения. Для Alibaba Cloud во II половине 2024 года прогнозируется двузначный рост в процентах и большая часть выручки придётся на ИИ-продукты. При этом в Alibaba констатируют, что спрос на традиционные вычисления в облаке на базе классических процессоров ограничен, большая часть роста связана именно с ИИ-продуктами на основе ускорителей.

Источник изображения: Growtika/unsplash.com

В Lenovo тоже сообщили, что в подразделении Infrastructure Solutions Group (ISG) зарегистрирован рекордный рост выручки до $3,2 млрд — это на 65 % выше год к году, частично благодаря спросу на ИИ-решения, причём и на базе обычных серверов, и на базе систем с ИИ-ускорителями. Инвесторам объявили, что оживлённые вложения в ИИ-инфраструктуру и улучшение поставок ускорителей помогут компании вырасти.

Пока же ISG отчиталась о квартальных убытках в объёме $37 млн. Впрочем, это лучше, чем $60,4 млн убытков в аналогичном квартале прошлого года и $97 млн в прошлом квартале. В ходе отчёта экспертов заинтересовало, почему рост выручки на 65 % не привёл к прибыльности соответствующего бизнеса. В самой компании обещают дальнейшую оптимизацию бизнеса в соответствии с требованиями эры гибридных и ИИ-вычислений. Другими словами, не исключены увольнения и/или сокращение продуктовых линеек.

Alibaba Group Holding Limited сообщила финансовые результаты II квартала 2024 года, закончившегося 30 июня. Выручка компании выросла год к году на 4 % до ¥243,2 млрд ($33,5 млрд). Чистая прибыль (GAAP) составила ¥24,0 млрд ($3,3 млрд) или ¥1,24 ($0,17) на акцию, что на 27 % и 26 % меньше по сравнению с прошлым годом соответственно, в основном из-за снижения доходов от операций и обесценивания инвестиций.

Скорректированная чистая прибыль (Non-GAAP) за квартал составила ¥40,7 млрд ($5,6 млрд), что на 9 % меньше результата за II квартал 2023 года. Скорректированная разводнённая прибыль на акцию (Non-GAAP) составила ¥2,05 ($0,28) — снижение год к году на 5 %.

Источник изображений: Alibaba

Облачное подразделение Cloud Intelligence Group увеличило выручку на 6 % — с ¥25,1 млрд во II квартале 2023 года до ¥26, 5 млрд ($3,7 млрд) в отчётном. EBITA подразделения облачных вычислений выросла на 155 % в годовом исчислении до ¥2,3 млрд ($322,15 млн). Было отмечено, что в основном рост показателей был достигнут благодаря ИИ-услугам.

Гендиректор Alibaba Эдди Ву (Eddie Wu) сообщил, что во II половине 2024 года Alibaba Cloud покажет двузначный рост в процентах, причём большая его часть будет обеспечена за счёт решений ИИ. «Среди наших клиентов наблюдается очень, очень высокий спрос на ИИ и продукты, связанные с ИИ», — отметил он, добавив, что «спрос всё ещё далёк от удовлетворения». Ву сообщил, что, если рассматривать отрасль в целом, спрос на традиционные облачные вычисления на базе CPU относительно ограничен, и большая часть роста сейчас достигается благодаря разработке продуктов ИИ на базе GPU/ускорителей.

Гендиректор подчеркнул, что во II квартале рост выручки от реализации продуктов, связанных с ИИ, исчислялся трёхзначными числами в процентах. Он сообщил, что фирменные большие языковые модели (LLM) Alibaba получают всё более широкое распространение. В этом году Alibaba Cloud также выступила в качестве основного поставщика облачных услуг для Олимпийских игр, предоставив облачные вычисления и ИИ-услуги для Olympic Broadcasting Services (OBS).

Ву сообщил, что компания продолжит инвестировать в ИИ высокими темпами «в течение следующих нескольких кварталов». В этом году Alibaba снизила стоимость своих облачных сервисов, причём в некоторых случаях снижение для китайских клиентов составило 55 %, что позволило ей вернуть клиентов, ушедших ранее к конкурентам, таким как Tencent, JD.com и Baidu.

Компания Selectel опубликовала консолидированные финансовые результаты по МСФО за первое полугодие 2024 года. Выручка выросла на 26 % год к году до 6,1 млрд руб. Большую часть выручки (86 % общего дохода) компании принесли облачные инфраструктурных сервисы — 5,2 млрд руб. (рост 29 %).

Частные облака на базе выделенных серверов принесли компании в первом полугодии 2024 года 56 % всей выручки или 3,4 млрд руб., показав рост 18 %. Публичные и частные облака получили 1,8 млрд руб. выручки (рост — 53 %), услуги дата-центров принесли компании 0,5 млрд руб. (рост — 5 %), прочие услуги — 0,3 млрд руб. (рост — 24 %).

Чистая прибыль Selectel выросла на 21 % год к году до рекордного показателя в 1,8 млрд руб., рентабельность по чистой прибыли сохранилась на уровне около 30 %. Скорректированная EBITDA выросла на 25 % до 3,5 млрд руб., рентабельность по скорректированной EBITDA по-прежнему остаётся на высоком уровне в 58 %.

Количество клиентов увеличилось год к году примерно на 1,7 тыс. до 24,8 тыс. Порядка 60 % пользователей сервисов Selectel приходится на IT, ретейл и медиа. Активно наращивали темпы использования облаков такие направления, как девелопмент (в 1,6 раза год к году), ретейл (в 1,5 раза) и финансы (в 1,4 раза).

Выручка была равномерно распределена между крупными, средними и малыми клиентами. Наибольший темп роста был зафиксирован у крупных клиентов — 44 % год к году. Долговая нагрузка остается на комфортном уровне. Показатель «чистый долг/скорр. EBITDA LTM» составил 1,5х на 30 июня 2024 года по сравнению с 1,4х на конец 2023 года.

Капитальные затраты в I полугодии 2024 года составили 2,3 млрд руб., в том числе 1,6 млрд руб. были вложены в серверное оборудование (четырёхкратный рост), 0,6 млрд руб. — в развитие инфраструктуры ЦОД (увеличение в три раза).

Американский поставщик сетевого оборудования корпоративного класса Cisco сообщил результаты IV квартала и всего 2024 финансового года, завершившегося 27 июля. У компании третий квартал подряд наблюдается падение выручки, сократившейся за последний квартал год к году на 10 % до $13,6 млрд, вместе с тем превысив консенсус-прогноз аналитиков, опрошенных LSEG, в размере $13,54 млрд.

Чистая прибыль компании на акцию (GAAP) составила $2,2 млрд или $0,54 на акцию (падение год к году на 45 и 44 % соответственно), скорректированная чистая прибыль (non-GAAP) составила $3,5 млрд или $0,87 на акцию (падение год к году на 25 и 24 % соответственно). Согласно консенсус-прогнозу аналитиков, опрошенных LSEG, скорректированная чистая прибыль (non-GAAP) на акцию должна была составить $0,85.

Источник изображения: Cisco

В отчётном квартале выручка от сетевых решений упала на 28 % до $6,8 млрд. Подразделение Security принесло выручку в размере $1,8 млрд (рост 81 %), выручка подразделения Collaboration осталась на прошлогоднем уровне, составив $1 млрд. У Observability этот показатель составил $248 млн (рост 41 %). Приобретённая ранее компания Splunk добавила $960 млн выручки. Без её учёта выручка подразделений Security и Observability выросла на 6 % и 12 % соответственно. Выручка от реализации различных продуктов упала в минувшем квартале на 15 % до $9,9 млрд, доход от сервисов повысился на 6 % до $3,8 млрд. Также отмечено, что объём заказов вырос на 14 %.

За 2024 финансовый год выручка Cisco составила $53,8 млрд (падение по сравнению с предыдущим финансовым годом на 6 %). Прибыль на акцию (GAAP) упала на 17 % до $2,54, скорректированная прибыль на акцию (Non-GAAP) снизилась на 4 % до $3,73.

В I квартале 2025 финансового года компания прогнозирует выручку в пределах от $13,65 до $13,85 млрд. Согласно консенсус-прогнозу аналитиков, опрошенных LSEG, выручка составит $13,7 млрд. Прогнозируемая прибыль на акцию (GAAP) находится в диапазоне $0,35–$0,42, скорректированная прибыль на акцию (Non-GAAP) — в диапазоне $0,86–$0,88. Прогноз Cisco на 2025 финансовый год по выручке равен $55,0 – $56,2 млрд, по прибыли на акцию (GAAP) — $1,93 – $2,05, по скорректированной прибыли на акцию (Non-GAAP) — $3,52 – $3,58.

Как и ожидалось, компания объявила о сокращении персонала, уже втором за этот год. В документе, направленном в Комиссию по ценным бумагам и биржам США (SEC), что сокращение составит 7 % штата. С учётом того, что штат Cisco составляет около 85 000 человек, в этот раз предполагается уволить 6000 сотрудников. Ранее в этом году компания сократила около 4000 человек.

При этом главный финансовый директор Ричард Херрен (Jonathan Davidson) указал в квартальном отчёте, что увольнения «не связаны с экономией средств», а обусловлены намеченной реструктуризацией. «Это гораздо больше касается поиска эффективности в масштабах компании, чтобы мы могли направить больше ресурсов, чем в прошлом году, в самые быстрорастущие области внутри компании. Которые больше ориентированы на ИИ, облака и кибербезопасность», — заявил Херрен.

Ожидается, что доналоговые расходы, связанные с реструктуризацией, включая выплаты в связи с увольнениями, составят около $1 млрд — примерно $700–$800 млн из них приходится на I квартал 2025 года, остальная часть будет израсходована в течение финансового года. В рамках реструктуризации компания объединила подразделения по сетевым технологиям, безопасности и совместной работе в одну структуру, которую возглавит Джиту Патель (Jeetu Pate) в качестве исполнительного вице-президента и директора по продуктам. Текущий руководитель Cisco Networking Джонатан Дэвидсон (Jonathan Davidson) перейдёт на должность консультанта генерального директора.

Команда Эдинбургского университета активно лоббирует выделение учреждению £800 млн ($1,02 млрд) для строительства суперкомпьютера экзафлопсного класса. Ранее новое британское правительство фактически отказалось продолжать реализацию некогда уже одобренного проекта, ссылаясь на дефицит бюджета.

Ожидалось, что страна выделит почти миллиард долларов на строительство передового суперкомпьютера, причём изначально речь шла об использовании отечественных компонентов. В октябре 2023 года было объявлено, что именно Эдинбург станет пристанищем первой в Великобритании вычислительной машины экзафлопсного уровня. Суперкомпьютер должен был заработать уже в 2025 году. Университет даже успел потратить £31 млн ($38 млн) на строительство нового крыла Advanced Computing Facility.

Источник изображения: Adam Wilson/unsplash.com

Однако в начале августа 2024 года британское правительство объявило, что не будет выделять £1,3 млрд ($1,66 млрд) на ранее одобренные технологические и ИИ-проекты. На тот момент представитель Министерства науки, инноваций и технологий (Department for Science, Innovation, and Technology) заявил, что властям приходится принимать «трудные и необходимые» решения.

По данным СМИ, вице-канцлер Эдинбургского университета сэр Питер Мэтисон (Peter Mathieson) пытается лично лоббировать среди министров выделение средств на обещанный суперкомпьютер. В письме сотрудникам университета он отметил, что диалог с Министерством науки, инноваций и технологий продолжится и будет взаимодействовать с академическими и промышленными кругами для возобновления инвестиций. По словам учёного, университет десятки лет был лидером в HPC-сфере Великобритании и до сих пор остаётся центром реализации суперкомпьютерных и ИИ-проектов.

Если средства всё-таки удастся выбить у британских чиновников и система заработает, она будет в 50 раз производительнее нынешней системы ARCHER2. Тем временем в материковой Европе ведётся активная работа над собственными проектами. В частности, начались работы по строительству суперкомпьютера экзафлопсного уровня класса Jupiter на Arm-чипах и ускорителях NVIDIA. Впрочем, весной этого года Великобритания вновь присоединилась к EuroHPC, так что со временем страна сможет поучаствовать в европейских HPC-проектах.