Разработчик ИИ-ускорителей SambaNova объявил о завершении первого этапа раунда финансирования серии F, в рамках которого привлекла $1 млрд с оценкой её рыночной стоимости в $11 млрд. Раунд финансирования возглавила General Atlantic, при этом значительные инвестиции поступили от Seligman Ventures, T. Rowe Price Associates и Capital Group. Предыдущий раунд серии E с привлечением $350 млн инвестиций SambaNova провела в феврале этого года, вскоре после неудавшейся сделки с Intel.

В число новых и существующих инвесторов входят A&E Investment, Assam Ventures, Battery Ventures, фонды и счета под управлением BlackRock, Cambium Capital, Intel Capital, Kabila Capital, QFO Capital, Qatar Investment Authority (QIA), Vista Equity Partners и Volantis. Родриго Лян (Rodrigo Liang, на фото), генеральный директор и соучредитель SambaNova, сообщил TechCrunch, что в ближайшие несколько недель присоединятся ещё несколько инвесторов, и, вероятно, завершится второй этап раунда финансирования.

Источник изображения: SambaNova

Привлечённые средства компания направит на расширение мощностей, ускорение инноваций в продуктах и масштабирование развёртывания. SambaNova сообщила, что будет и дальше развивать клиентские программы и продолжать инвестировать в чипы, системы, ПО и полнофункциональную ИИ-инфраструктуру.

Также SambaNova объявила, что JPMorgan Chase выбрала SN40 и SN50 для ИИ-инференса в локальной среде. «Мы рады развернуть архитектуру RDU от SambaNova и с нетерпением ждем возможности протестировать её скорость и безопасность для локального выполнения задач в наших требовательных корпоративных рабочих ИИ-нагрузках», — сообщили в JPMorgan Chase.

IBM обновила семейство мейнфреймов IBM z17 и LinuxONE Rockhopper 5, впервые предложив компактные конфигурации для монтажа в стандартную стойку, а также готовые одностоечные системы. По словам компании, новинки разработаны для решения нескольких взаимосвязанных проблем предприятий различных размеров: необходимости запуска конфиденциальных, ресурсоёмких рабочих ИИ-нагрузок на локальных серверах в соответствии со строгими нормативными требованиями, а также необходимости сокращения затрат на электроэнергию и экономии площади ЦОД.

Новые конфигурации z17 и LinuxONE 5 поддерживают до 82 ядер и 18 Тбайт RAM в двух процессорных узлах и трёх IO-узлах. Это даёт примерно на 20 % больше по количеству ядер и на 12 % больше памяти, чем у прошлых сопоставимых систем. Однопроцессорная платформа IBM z17 ME2 поддерживает полноскоростные конфигурации z/OS и предлагает на 10 % большую пропускную способность на ядро, чем у IBM z16 A02. Все системы оснащены восьмиядерными процессорами Telum II (4,8 ГГц) со встроенным ИИ-ускорителем и DPU, которые можно дополнить ИИ-ускорителями Spyre (до 24 шт.).

Источник изображений: IBM

Одностоечный вариант IBM z17 MER2 представляет собой полностью готовое к развёртыванию решение IBM с интеллектуальными блоками распределения питания (iPDU). Конфигурация z17 ME2 поставляется в виде комплекса узлов общей высотой 18U. Фактически в MER2 ещё есть свободное место, куда можно установить другое оборудование, поскольку внутри фирменная стойка содержит ME2-узлы. Аналогичные аппаратные конфигурации и у новых IBM LinuxONE Rockhopper 5 (ML2 и MLR), но эти системы рассчитаны только на Linux-окружение: RHEL, SUSE и Ubuntu.

По словам IBM, платформа LinuxONE Rockhopper 5 может выполнять рабочую нагрузку, эквивалентную 23 серверам x86 аналогичного размера. Она ориентирована на обработку транзакций и ИИ-задачи, позволяя снизить энергопотребление до 83 % по сравнению со стандартными серверами. При выполнении задач обработки онлайн-транзакций с использованием ИИ или OLTP-задач на Red Hat OpenShift новые системы обеспечат тот же объём работы, что и стандартная конфигурация x86, имея при этом в четыре раза меньше ядер.

IBM также представила LinuxONE 5 Express — свой самый доступный мейнфрейм, который в базовом варианте включает по одному узлу CPU и IO (18 ядер и 672 Гбайт RAM). Модель представляет собой предварительно сконфигурированную и недорогую систему ($165 тыс. без учёта налогов) для небольших предприятий, предназначенную для интеграции с существующими x86-серверами без необходимости модернизации систем охлаждения или электропитания. Система может стать первым шагом для потенциальных клиентов, желающих войти в экосистему LinuxONE.

Это направление уже обеспечивает заметную часть роста выручки IBM, поскольку LinuxONE в большей степени ориентирован на современных клиентов. И IBM стремится подпитывать этот рост, упрощая привлечение новых заказчиков. Фиксированная цена призвана упростить процесс принятия решения для потенциальных клиентов и обеспечить им более плавный вход в экосистему LinuxONE, поскольку традиционно IBM рассчитывает конфигурацию и цену мейнфреймов индивидуально для каждого заказчика в соответствии с его рабочими нагрузками.

Сочетание ряда факторов должно сделать платформы IBM в компактном форм-факторе очень привлекательным предложением для предприятий, заявил Хольгер Мюллер (Holger Mueller) из Constellation Research. К ним относятся необходимость размещения приложений поближе к данным для снижения задержки, требования к размещению данных в регулируемых отраслях, а также необходимость развёртывания ИИ локально по соображениям соответствия нормативным требованиям. А Gartner даже отмечает, что пользователям VMware дешевле перейти на мейнфреймы IBM, чем приобрести новые лицензии у Broadcom.

Некоторые программные функции мейнфреймов также были расширены. Так, IBM заявила, что защита с помощью постквантовой криптографии теперь является стандартной для систем z17 и LinuxONE Rockhopper 5, а Crypto Discovery & Inventory позволяет отделу ИБ видеть, что было зашифровано в масштабах всего предприятия. Кроме того, IBM анонсировала пакет Infrastructure Management for Z and LinuxONE, который упрощает развёртывание, оркестрацию, автоматизацию и мониторинг рабочих нагрузок, в том числе посредством Terraform (IaaC). Платформа предоставляет унифицированный интерфейс с простым визуальным отображением IO-топологий и конфигурацией, что позволит решить проблему нехватки специалистов.

Как сообщает Network World, развёртывание мейнфреймов для внедрения ИИ в обработку транзакций не является временным решением: 75 % руководителей считают, что приложения на базе мейнфреймов останутся центральным элементом цифровой трансформации, а 60 % считают, что платформы на базе мейнфреймов необходимы для внедрения инноваций в области ИИ. В Fujitsu же хотят окончательно распрощаться с мейнфреймами к 2035 году, заменив их квантовыми или ИИ-суперкомпьютерами.

«Лаборатория Касперского» выпустила новую версию брандмауэра Kaspersky NGFW 1.2. Релиз получил множество улучшений, направленных на повышение производительности и отказоустойчивости решения, развитие механизмов защиты и обнаружения угроз, а также расширение поддержки корпоративных сетевых сценариев.

Представленный российским разработчиком продукт относится к классу межсетевых экранов нового поколения (Next-Generation Firewall, NGFW) и поддерживает интеграцию с другими решениями «Лаборатории Касперского» в рамках экосистемного подхода. Программный комплекс обеспечивает защиту корпоративной сети от сетевых угроз и вредоносного ПО, а также управление доступом к веб‑ресурсам. Kaspersky NGFW предназначен для средних и крупных компаний (1000 и более устройств) с сетевой инфраструктурой любой сложности и нагруженности, в том числе попадающих под регуляторную политику в области информационной безопасности. Решение актуально для организаций из государственного и финансового секторов, розничной торговли и других сфер деятельности. Продукт доступен для приобретения как в виртуальном исполнении, так и в составе фирменных программно-аппаратных комплексов KX (Kaspersky Extension).

Пользовательский интерфейс Kaspersky NGFW (здесь и далее источник изображений — «Лаборатория Касперского» / kaspersky.ru)

Одной из ключевых возможностей обновлённого решения стала поддержка виртуальных контекстов (Virtual Security System, VSS), позволяющая запускать на одном физическом NGFW несколько независимых логических копий продукта, у каждой из которых свои политики безопасности, таблицы маршрутизации и другие настройки. В дополнение к этому Kaspersky NGFW версии 1.2 получил средства маршрутизации на основе политик (policy-based routing), инструменты управления конфигурациями политик (commit-based config) и функцию настройки IP SLA tracking для статической маршрутизации, с помощью которой IT-администраторы могут организовать отказоустойчивое подключение одновременно к нескольким провайдерам и управлять распределением трафика между ними.

Семейство сетевых аппаратных платформ, разработанных специально для решения Kaspersky NGFW

С релизом Kaspersky NGFW 1.2 продукт получил защиту от IP Spoofing и возможность объединения филиалов и распределённых площадок через защищённые IPsec-туннели поверх интернета. В продукте стали доступны дополнительные параметры для мониторинга состояния кластера и BGP- и OSPF-соседств через базовый протокол Simple Network Management Protocol (SNMP). Также была расширена поддержка правил межсетевого экранирования для использования в крупных средах — до 100 000. Число сигнатур в IDPS-движке увеличилось до более 9000.

Kaspersky NGFW включён в реестр российского программного обеспечения и ПАК Минцифры России. Также продукт прошёл сертификацию ФСТЭК России по требованиям к многофункциональным межсетевым экранам уровня сети 4 класса защиты.

Компания Amazon вышла на рынок ценных бумаг, предложив облигации на $25 млрд. Привлечённые средства потратят на развитие ИИ-инфраструктуры и погашение долгов. Предложение разбито на восемь частей, речь идёт о старших необеспеченных облигациях со сроками погашения от 3 до 40 лет, сообщает Silicon Angle. Для большинства из них назначена фиксированная процентная ставка, хотя в некоторых случаях предусмотрена и плавающая.

Спрос на ценные бумаги оказался чрезвычайно высоким. Объём заявок на покупку во вторник почти достиг $62 млрд, поэтому банки снизили предлагаемую дополнительную доходность (spread), из-за чего объём заявок упал до $41 млрд, что всё равно оказалось приблизительно в 1,6 раза больше объёма размещения. Amazon объявила, что больше занимать средства в этом году не намерена.

Организаторы размещения — Barclays, Goldman Sachs Group, JPMorgan Chase и Morgan Stanley. В этом году Amazon уже продала облигации на сумму около $54 млрд в США и Европе, а также выпустила бумаги на $10 млрд в Канаде. Она продолжает привлекать новые средства, поскольку её расходы пока выше генерируемого денежного потока.

Источник изображения: Jakub Żerdzicki/unsplash.com

Инвестиционный бюджет компании постоянно растёт. В текущем году Amazon рассчитывает на $200 млрд расходов, намного больше, чем $131 млрд в 2025 году. В основном средства пошли на дата-центры, чипы и оборудование для AWS. При этом компания утверждает, что спрос на ИИ-вычисления растёт быстрее, чем она успевает вводить в строй новые мощности. Но и деньги она начинает зарабатывать на этих инвестициях быстрее, чем успевает строить ИИ-инфраструктуру.

Другие техногиганты также прибегают к привлечению заёмных средств. Alphabet, Microsoft и Meta✴ активно действуют на рынках долгового и акционерного капитала для наращивания своей ИИ-инфраструктуры. Совокупно американские IT-гиганты потратят на ИИ в текущем году более $700 млрд. Сложнее всего ситуация пока у Oracle. Для Amazon важнейшим остаётся вопрос сохранения спроса на ИИ. Выручка AWS в последнем квартале выросла на 28 %. Более $10 млрд должны принести в этом году чипы Trainium и Graviton.

Хотя конкуренция со стороны неооблачных компаний растёт, AWS остаётся крупнейшим облачным провайдером в мире. По статистике Synergy Research, на долю техногиганта приходится 28 % доля. Для сравнения — Microsoft занимает второе место, занимая долю в 21 %, а Google — 14 %. Только в IV квартале мощности компании выросли на 1,2 ГВт.

Российский разработчик и производитель модульных дата-центров «ДАТАРК» и Агентство по привлечению инвестиций Свердловской области подписали соглашение о сотрудничестве.

В рамках соглашения инвестиции «ДАТАРК» в производство модульных центров обработки данных составят более 35 млн руб. Это позволит компании внедрить лазерную сварку, роботизировать ряд операций, а также запустить покрасочно-сушильную камеру, благодаря которой время подготовки модульных ЦОД сократится в разы. Агентство по привлечению инвестиций Свердловской области в свою очередь будет оказывать информационную, консультационную и экспертную поддержку, в том числе будет участвовать в организации совместных мероприятий и разработке инициатив по приоритетным направлениям деятельности компании.

Источник изображения: «ДАТАРК» / datark.ru

«ДАТАРК» является ведущим разработчиком и производителем модульных дата-центров, занимая более 20 % российского рынка. За 10 лет компания реализовала более 150 проектов в РФ и за рубежом, в том числе для задач ИИ и HPC. В 2026 году, в связи с ростом спроса на продукцию, предприятие на 40 % увеличило производственные мощности. Теперь оно может выпускать до 50 модулей в год.

Компания TensorWave закрыла раунд финансирования серии B, в рамках которого привлекла $350 млн при оценке $1,55 млрд. Средства намерена направить на расширение облачной ИИ-инфраструктуры, сообщает Storage Review. Анонсированный в июне раунд возглавляли Magnetar и AMD Ventures, с участием уже действующих инвесторов, включая Maverick Silicon, Nexus Venture Partners и Western Frontier.

Деньги направят на создание кластеров нового поколения, оптимизированных для выполнения ИИ-задач, включая требующие много памяти ИИ-нагрузки — обучение ИИ, высокопроизводительный инференс и работу с ИИ-приложениями. Кластеры будут построены на базе ИИ-ускорителей AMD Instinct MI355X. Компания заявила, что расширение бизнеса должно помочь удовлетворить растущий спрос на ИИ-вычисления. По словам компании, она предлагает альтернативу вертикально-интегрированным облачным платформам (NVIDIA) — открытую экосистему на базе решений AMD. Облако TensorWave уже используется ИИ-разработчиками, включая Fireworks AI и Luna AI для поддержки промышленной эксплуатации ИИ-моделей и выполнения масштабных ИИ-задач.

Инвестиции компания рассчитывает использовать для ускоренного развёртывания Instinct MI355X в новых ЦОД на территории Северной Америки. Руководство TensorWave полагает, что расширение доступа к инфраструктуре ускорителей с большими объёмами памяти позволит ускорить вывод ИИ-проектов в эксплуатацию и поддерживать работу всё больших ИИ-моделей и выполнение всё более ресурсоёмких нагрузок.

Источник изображения: Ruthson Zimmerman/unsplash.com

Весной 2024 года стартап провёл раунд финансирования на условиях SAFE (simple agreements for future equity), в результате которого привлёк $43 млн на оснащение основного ЦОД ускорителями Instinct MI300X и подготовку к внедрению моделей следующего поколения. В ноябре того же года появилась информация, что TECfusions сформирует для ИИ-облака TensorWave масштабную инфраструктуру ЦОД.

После раунда финансирования серии A в мае 2025 года компания TensorWave отчиталась о значительном расширении инфраструктуры. Сейчас она управляет основанным на решениях AMD кластером, состоящим из 8192 ИИ-ускорителей AMD Instinct MI325X, это один из крупнейших ИИ-кластеров на основе AMD в Северной Америке. Также компания законтрактовала более 2 ГВт мощностей ЦОД для расширения сервисов для корпоративных клиентов и бизнесов, ориентированных на ИИ-технологии.

Она не только намерена расширять ИИ-инфраструктуру, но и продолжит расширение штаб-квартиры в Лас-Вегасе. В частности, планируется наём специалистов в сфере инженерных разработок, инфраструктуры, эксплуатации ИИ, продаж и сопровождения клиентов. TensorWave сообщает, что особенности следующей фазы развития ИИ будут определяться наличием достаточного объёма вычислительных мощностей для перехода от экспериментов к промышленной эксплуатации.

В компании уверены, что по мере того, как будут расти модели и усложняться рабочие нагрузки, предприятиям будет необходима ИИ-инфраструктура с большими объёмами памяти, высокой производительностью и возможностью гибкого масштабирования, но без привязки к единственной экосистеме.

KT (ранее Korea Telecom) представила инвестиционную программу стоимостью ₩18 трлн ($11,8 млрд), направленную на укрепление кибербезопасности, создание сетей нового поколения, ИИ ЦОД и инфраструктуры подводных кабелей. Это шаг на пути превращения KT в т.н. AX Platform Company — компанию, предоставляющую платформу для трансформации бизнесов с помощью ИИ, сообщает Converge! Digest.

В частности, стратегия предусматривает вливание ₩12 трлн в кибербезопасность, IT-системы и сетевую инфраструктуру в ближайшие три года, ещё ₩6 трлн — в ИИ-инфраструктуру в течение пяти лет. Предполагается, что программа KT укрепит ключевые направления бизнеса компании, параллельно превращая Южную Корею в азиатский хаб, обеспечивающий ИИ-инфраструктуру и международный обмен данными.

₩5 трлн предполагается направить на создание 1 ГВт мощностей ИИ ЦОД в ближайшие пять лет. KT рассчитывает построить распределённую архитектуру, объединяющую ключевые ИИ ЦОД с периферийными площадками, находящимися рядом с промышленными объектами. Подобная инфраструктура предназначена для процессов, где важны малые задержки, включая «физический» ИИ, автономные системы, промышленность и медицину. Также ₩8 трлн направят на создание в течение трёх лет сетевой инфраструктуры, в т.ч. сетей нового поколения, спутниковой связи, интерконнектов ЦОД и разработку 6G.

Источник изображения: Mathew Schwartz/unsplash.com

Ещё ₩1 трлн компания инвестирует в обеспечение пропускной способности межгосударственных подводных кабелей на уровне 90 Тбит/с, на реализацию проекта отводится пять лет. Это часть стратегии KT по обеспечению передачи растущего международного трафика, привлечению инвестиций в ИИ-инфраструктуру в Южной Корее и превращения страны в азиатский центр AX-коммуникаций (Asian AX Connectivity Hub).

Также компания намеревается расширить корпоративный ИИ-бизнес с помощью отраслевых платформ, создание «фабрики токенов» (Token Factory), в которой объединятся возможность выбора моделей, управление использованием ИИ и биллинговые возможности KT, цифровые финансовые сервисы на базе стейблкоинов, а также инфраструктуру ИИ ЦОД KT.

Новые инвестиции также выведут KT в число ключевых азиатских операторов, активно развивающих ИИ-инфраструктуру наряду с классическими телеком-сервисами. Сейчас Южная Корея напрямую конкурирует с Японией, Сингапуром, Малайзией и прочими региональными игроками за инвестиции в объекты гиперскейл-уровня и ИИ ЦОД. В конце июня сообщалось, что Южная Корея инвестирует почти $3 трлн в полупроводники и ИИ для ускорения технологического развития страны.

Компания DataHub пришла к соглашению с Hosted AI о совместном запуске ИИ-облака в Непале. Новая компания получила название YetiCloud.ai и обеспечит доступ к системам искусственного интеллекта для местного бизнеса, стартапов, разработчиков и др., сообщает Datacenter Dynamics.

DataHub объявила, что совместно с партнёром обеспечит весь спектр услуг, от обучения и дообучения ИИ-моделей до инференса и хостинга ИИ-приложений. Также будет доступна помощь во внедрении корпоративных ИИ-систем. Ожидается, что YetiCloud.ai будет способствовать цифровым инновациям в Непале.

Hosted AI предоставит платформу для оптимизации и оркестрации неооблачного сервиса, использующего ИИ-ускорители NVIDIA. Хостинг платформы организован на мощностях DataHub. По словам представителя компании, пока речь идёт всего лишь о 12 ИИ-ускорителях, но в ближайшие месяцы должны появиться новые. Пока применяются ускорители NVIDIA RTX6000 Pro Blackwell, H100 и L40S, но по мере роста спроса планируется добавить и модели NVIDIA H200.

Источник изображения: Raimond Klavins/unsplash.com

По данным Hosted AI, электросеть Непала на 95 % снабжается электричеством ГЭС, причём в прошлом году страна недосчиталась его продаж приблизительно на $192 млн в сезон муссонов, поскольку на избыточную электроэнергию не нашлось покупателей. YetiCloud.ai позволит найти применение этой «невостребованной» энергии для суверенных вычислений. Впервые местные бизнес-структуры смогут арендовать серьёзные ИИ-мощности в Непале, действующие в рамках национального законодательства и оплачиваемые в местной валюте.

DataHub выступает оператором дата-центров в Непале с 2012 года, её объекты находятся в Катманду (Катманду) и Бутвале (Butwal). В целом рынок ЦОД Непала всё ещё не очень велик, в стране насчитывается всего девять дата-центров. В мае текущего года непальская Bichuten Data Vault сообщила о намерении построить два ЦОД общей мощностью 5 МВт.

Компания Biostar анонсировала индустриальный компьютер небольшого форм-фактора EdgeComp MS-NAT4000, предназначенный для решения ИИ-задач на периферии сети. Устройство может применяться, например, для организации интеллектуального видеонаблюдения, обработки данных от датчиков в реальном времени, автоматизации операций и пр.

В основу новинки положена аппаратная платформа NVIDIA Jetson Thor T4000. Это решение объединяет CPU с 12 ядрами Arm Neoverse-V3AE (до 2,6 ГГц) и 1536-ядерный GPU на архитектуре Blackwell (до 1,57 ГГц). Заявленная ИИ-производительность достигает 1200 Тфлопс (FP4—Sparse). В оснащение входят 64 Гбайт памяти LPDDR5X.

Источник изображений: Biostar

Накопители могут быть подключены к двум портам SATA-3 и разъёму M.2 Key M 2260/2280 (PCIe 5.0 x4). Кроме того, есть коннектор M.2 Key B 3042/3052 (USB 3.2) для сотового модема 4G/5G и слот M.2 Key E 2230 (PCIe 5.0 x1 + USB 2.0) для комбинированного адаптера Wi-Fi/Bluetooth. Реализованы два сетевых порта 5GbE (RJ45) и один порт QSFP28 (4 × 25GbE).

Для подключения мониторов служат интерфейсы HDMI (3840 × 2160; 60 Гц) и DP 1.4a. Предусмотрены четыре порта USB 3.1 Type-A и порт USB Type-C, два последовательных порта, а также 3,5-мм аудиогнёзда. Питание подаётся через сетевой адаптер мощностью 240 Вт (24 В / 10 A). Габариты составляют 192 × 154 × 80 мм, масса — 1,79 кг. Диапазон рабочих температур простирается от 0 до +50 °C. Говорится о поддержке программного пакета JetPack 7.1 (Linux Kernel 6.8 и Ubuntu 24.04). Кроме того, упомянут модуль TPM 2.0 для обеспечения безопасности.

Meta✴ полностью перестроила своё хранилище для ИИ, чтобы предотвратить простой ускорителей. Как сообщает SDxCentral, система, лежащая в основе её операций с ИИ, позволила кратно сократить время, необходимое исследователям для перемещения обучающих данных ИИ между регионами. Согласно опубликованным аналитическим выкладкам, скорость работы имеющихся СХД не поспевала за растущими вычислительными мощностями GPU, которые примерно утраивались каждые два года.

Стремясь устранить этот разрыв и обеспечить поддержку кластеров хранения данных, охватывающих все продукты Meta✴, включая Meta✴ AI, Reality Labs, платформы социальных сетей и потребности потенциальных облачных клиентов, специалисты компании перестроили слой хранения BLOB-объектов (Binary Large Object), работающий поверх её глобальной многопользовательской СХД Tectonic, обслуживающей экзабайты данных.

Загрузка данных на два GPU (Источник изображений: Meta✴)

Компания отметила, что хотя устаревшая архитектура BLOB-хранилищ Meta✴ вполне подходила для веб-приложений, таких как Facebook✴ и Instagram✴, для обучения ИИ она оказалась неэффективной. У неё было слишком много слоёв сервисов, и она должна была выполнять множественные запросы к метаданным на нескольких уровнях, прежде чем определить путь к файлу и его фактическое местоположение в хранилище, что увеличивало задержку и отражалось на производительности.

Прежний алгоритм обработки запросов для API getObject

Перестройка СХД была основана на трёх ключевых изменениях. Во-первых, разрозненная система метаданных была объединена в единую схему, поддерживаемую ZippyDB, что позволило сделать практически мгновенным поиск путей. Во-вторых, были убраны прослойки, не позволявшие передавать байты напрямую с серверов хранения (fat client), что повысило энергоэффективность и снизило задержку. В-третьих, был осуществлён переход от глобальной модели развёртывания к региональной, в рамках которой хранилище данных размещается рядом с GPU, которые в нём действительно нуждаются. Всё это позволило свести к нулю накладные расходы при работе с Tectonic, уложиться в бюджет по энергопотреблению и упростить архитектуру хранения. Более того, Meta✴ задействовала свободную память GPU для распределённого кеша «горячих» данных.

Новый алгоритм обработки запросов для API getObject

Команда воспользовалась опытом разработки Owl — системой дистрибуции больших объектов, которая сочетает децентрализованную P2P-плоскость данных с централизованной плоскостью управления. Специалисты интегрировали логику однорангового обмена из Owl SDK на уровне клиента, что снизило частоту запросов GPU к хранилищу. Также был добавлен отдельный кеш метаданных, который возвращает адреса часто запрашиваемых файлов за 1–2 мс. Это позволило справляться с пиками обращений, например, когда GPU одновременно запрашивают одни и те же «горячие» веса модели, а также улучшить задержку, поскольку данные берутся из памяти, а не с диска.

Эволюция архитектуры загрузки данных

В финальной версии стека хранилища BLOB-объектов были приняты меры к устранению узких мест, таких как пики исходящего трафика, которые в конечном итоге приводили к перегрузке и таймаутам, а также к остановке работы GPU. В частности, было добавлено ПО для динамического управления параллельным доступом на поведения приложений. При высокой нагрузке система автоматически уменьшает количество доступных приложению запросов.

Также в Meta✴ решили проблему доставки данных исследователям. Поскольку вычислительные мощности были разбросаны по регионам, сотрудникам регулярно приходилось часами ждать, пока наборы данных будут скопированы и отправлены в конкретный регион мира, где будет выполняться их задача обучения. Для этого была создана многоуровневая система кеширования. RAM и SSD на GPU-хостах выступают в качестве самого быстрого слоя, которые получают данные от региональных флеш-хранилищ BLOB-объектов, куда, в свою очередь, данные попадают из глобальных озёр данных на базе HDD.

Для ускорения используется механизм предвыборки, который заранее загружает данные, которые исследователь собирается использовать. Эта схема уже позволила значительно сократить время загрузки во всех рабочих нагрузках Meta✴. В среднем время загрузки сократилось со 150 мин. до всего 10 мин. (сокращение на 93 %). Meta✴ зафиксировала максимальное сокращение времени загрузки с 89 ч. до всего 182 мин.