Правительство Кении объявило в ходе саммита CPO28 о выделении $4,48 млрд на «зелёные» гопроекты, в число которых входят строительство крупного кампуса ЦОД и освоение новых источников энергии. Как сообщает кенийское издание The Star, соответствующие сделки анонсировали на прошлой неделе на фоне запуска инициативы Africa Green Industrialisation Initiative (AGII).

Так, власти намерены сотрудничать с городом Конза и компанией KenGen над разработкой цифровых технологий с использованием «зелёной» энергии из геотермальных источников. В частности, будет направлено порядка $1,5 млрд на строительство кампуса ЦОД EcoCloud ёмкостью 200 МВт. Конза отвечает за создание необходимой инфраструктуры, а совместно с KenGen город намерен привлечь новых инвесторов. На это властями выделено $600 млн.

Заодно Кения будет сотрудничать с Индонезией и городом Масдар над строительством геотермальной станции мощностью 300 МВт. Будут использоваться опыт и преимущества обеих стран с последующей передачей технологий, строительством новых мощностей, оптимизацией законодательства и др. Объём изначальных инвестиций составит $1 млрд. Дополнительно Кения зарезервировала $200 млн на займы для проектов в области «чистой» энергетики в других странах.

Источник изображения: Thomas Bennie/unsplash.com

Кроме того, совместно с Globeleq будет разрабатываться геотермальный проект мощностью 35 МВт близ вулканического кратера Мененгаи. Этот проект обойдётся в $110 млн, а на его реализацию выделено два года. Ещё одна сделка на $800 млн предполагает строительство в районе геотермального поля Пака в Кении электростанции мощностью 200 МВт компаниями GDC и AMEA Power. Компании за свой счёт оценят возможности площадки и целесообразность реализации данного проекта.

Дополнительно страна будет сотрудничать с компанией Fortescue над проектом производства «зелёного» аммиака, что повысит уровень её энергетической безопасности и снизит зависимость от импорта, а заодно позволит выпускать удобрения. Fortescue возьмёт на себя обучение и повышение квалификации рабочих. Общая стоимость сделки — $1,5 млрд. Наконец, United Green и Kenya Development Corporation разработают агропроект в районе озера Виктория, который предусматривает обработку 15 тыс. га земли с помощью «умных» технологий и с высоким уровнем поглощения углерода. Он обойдётся в $270 млн.

Dell и AMD объявили о расширении портфеля решений Dell Generative AI Solutions с целью ускорения обработки сложных рабочих нагрузок и предоставления компаниям больше возможностей для развёртывания приложений генеративного ИИ. Новые решения включают серверы Dell PowerEdge XE9680 с ускорителями AMD Instinct MI300X. Сервер будет оснащён восемью ускорителями, что даст общую ёмкость HBM3 1,5 Тбайт и FP16-производительность более 10 Пфлопс.

Использование PowerEdge XE9680 с MI300X позволит компаниям сократить занимаемую площадь в ЦОД, снизить совокупную стоимость владения и получить конкурентное преимущество, говорит Dell. Для масштабирования нагрузок компания предлагет Ethernet-фабрику с 400G-коммутаторами PowerSwitch Z9664F-ON. PowerEdge XE9680 поставляется с приложением Dell OpenManage Enterprise для администрирования и мониторинга систем. Также сообщается, что сервер обеспечивает высокую защищённость данных благодаря интегрированной киберзащите и использованию концепции Zero Trust.

Источник изображения: Dell

Dell также пополнила платформу Dell Generative AI Solutions решением Dell Validated Design for Generative AI with AMD, которое упрощает надёжное развёртывание генеративного ИИ. Его выход ожидается в следующем году с ИИ-платформами на базе AMD ROCm и открытых больших языковых моделей (LLM). Dell PowerEdge XE9680 с ускорителями AMD Instinct MI300X и Dell Validated Design for Generative AI with AMD появится на рынке в I половине 2024 года.

Компания Google анонсировала свой самый высокопроизводительный ускоритель для задач ИИ — Cloud TPU v5p. По сравнению с изделием предыдущего поколения TPU v4 обеспечивается приблизительно 1,7-кратный пророст быстродействия на операциях BF16. Впрочем, для Google важнее то, что она наряду с AWS является одной из немногих, кто при разработке ИИ не зависит от дефицитных ускорителей NVIDIA. К этому же стремится сейчас и Microsoft.

Решение Cloud TPU v5p оснащено 95 Гбайт памяти HBM с пропускной способностью 2765 Гбайт/с. Для сравнения: конфигурация TPU v4 включает 32 Гбайт памяти HBM с пропускной способностью 1228 Гбайт/с.

Источник изображений: Google

Кластер на базе Cloud TPU v5p может содержать до 8960 чипов, объединённых высокоскоростным интерконнектом со скоростью передачи данных до 4800 Гбит/с на чип. В случае TPU v4 эти значения составляют соответственно 4096 чипов и 2400 Гбит/с. Что касается производительности, то у Cloud TPU v5p она достигает 459 Тфлопс (BF16) против 275 Тфлопс у TPU v4. На операциях INT8 новинка демонстрирует результат до 918 TOPS.

В августе нынешнего года Google представила ИИ-ускоритель TPU v5e, созданный для обеспечения наилучшего соотношения стоимости и эффективности. Это изделие с 16 Гбайт памяти HBM (820 Гбит/с) показывает быстродействие 197 Тфлопс и 394 TOPS на операциях BF16 и INT8 соответственно. При этом решение обеспечивает относительную производительность на доллар на уровне $1,2 в пересчёте на чип в час. У TPU v4 значение равно $3,22, а у новейшего Cloud TPU v5p — $4,2 (во всех случаях оценка выполнена на модели GPT-3 со 175 млрд параметров).

По заявлениям Google, чип Cloud TPU v5p может обучать большие языковые модели в 2,8 раза быстрее по сравнению с TPU v4. Более того, благодаря SparseCores второго поколения скорость обучения моделей embedding-dense увеличивается приблизительно в 1,9 раза.

На базе TPU и GPU компания предоставляет готовый программно-аппаратный стек AI Hypercomputer для комплексной работы с ИИ. Система объединяет различные аппаратные ресурсы, включая различные типы хранилищ и оптический интерконнект Jupiter, сервисы GCE и GKE, популярные фреймворки AX, TensorFlow и PyTorch, что позволяет быстро и эффективно заниматься обучением современных моделей, а также организовать инференс.

Компания CoreWeave, предоставляющая облачные услуги для решения ИИ-задач, сообщила о привлечении дополнительных инвестиций в размере $642 млн. Программу финансирование возглавляет Fidelity Management  &  Research Company при участии Investment Management Corporation of Ontario (IMCO), Jane Street, J. P. Morgan Asset Management, Nat Friedman  &  Daniel Gross, Goanna Capital, Zoom Ventures и др.

CoreWeave, основанная в 2017 году, начинала свой бизнес с майнинга криптовалют, а затем сосредоточила внимание на вычислениях общего назначения и хостинге проектов генеративного ИИ. Затем компания переориентировалась на предоставление специализированных облачных ИИ-решений. Именно это направление CoreWeave активно развивает в настоящее время.

Источник изображения: CoreWeave

В качестве аппаратной основы облачных сервисов CoreWeave выступают ускорители NVIDIA. В августе нынешнего года CoreWeave объявила о привлечении $2,3 млрд долгового финансирования под залог ускорителей NVIDIA. Причём полученные средства компания направит на закупку дополнительного аппаратного обеспечения той же NVIDIA. В апреле 2023-го CoreWeave получила $221 млн в рамках инвестиционной программы Series B, а позднее закрыла раунд финансирования ещё на $200 млн.

«Индустрия искусственного интеллекта находится на переломном этапе, и CoreWeave сыграла ключевую роль в её развитии, предоставив клиентам дифференцированную инфраструктуру», — сказал Майкл Интратор (Michael Intrator), соучредитель и генеральный директор компании.

CoreWeave, по её собственным заявлениям, интегрирует передовые ускорители, сетевые технологии и средства хранения данных в наиболее дифференцированную инфраструктуру ИИ. Компания обеспечивает облачный доступ к изделиям NVIDIA H100, а также A100, A40 и RTX A6000.

Компания GigaIO объявила о заключении соглашения по созданию инфраструктуры для специализированного ИИ-облака TensorNODE, которое создаётся провайдером TensorWave. В составе платформы будут применяться ускорители AMD Instinct MI300X, оснащённые 192 Гбайт памяти HBM3.

Основой TensorNODE послужат мини-кластеры SuperNODE, дебютировавшие летом уходящего года. Особенность этого решения заключается в том, что оно позволяет связать воедино 32 и даже 64 ускорителя посредством распределённого интерконнекта на базе PCI Express.

TensorWave будет использовать FabreX для формирования пулов памяти петабайтного масштаба. На первом этапе в начале 2024 года платформа TensorNODE объединит до 5760 ускорителей Instinct MI300X в одном домене. Таким образом, при решении сложных задач можно будет получить доступ более чем к 1 Пбайт памяти с любого узла. Это, как отмечается, позволит обрабатывать даже самые ресурсоёмкие нагрузки в рекордно короткие сроки.

Источник изображения: GigaIO

В течение следующего года планируется развернуть несколько систем TensorNODE. Архитектура GigaIO обеспечит улучшенную гибкость по сравнению с традиционными решениями: инфраструктуру можно будет оптимизировать «на лету» для удовлетворения как текущих, так и будущих потребностей в области ИИ и больших языковых моделей (LLM).

Отмечается, что TensorNODE полностью базируется на ключевых компонентах AMD. Помимо ускорителей Instinct MI300X, это процессоры EPYC Genoa. Облако TensorWave обеспечит снижение энергозатрат и общей стоимости владения благодаря исключению из конфигурации избыточных серверов и связанного с ними сетевого оборудования.

Компания iKS-Consulting опубликовала результаты исследования рынка коммерческих ЦОД в России. В нём отмечено, что пессимистические прогнозы экспертов подтвердились лишь частично, и отрасль ЦОД в России в 2022 году не снизила обороты, а прирастила число введенных стойко-мест на 10,8 % год к году. На конец исследуемого периода число стойко-мест в России составило 58,3 тыс. По итогам 2023 года ожидается прирост на 20,9 % — до 70,1 тыс. стойко-мест.

После ухода из страны ведущих западных брендов и введения санкций привычную систему поставок оборудования через дистрибьюторов заменила система параллельного импорта с переходом на оборудование российских и китайских производителей, что привело к увеличению сроков поставок и необходимости вносить изменения в проекты. Вместе с тем сократились зарубежные инвестиции в строительство ЦОД, цикл возврата которых составляет до 10 лет, что привело к проблемам с поиском финансирования.

Динамика роста числа стойко-мест в РФ, тыс. ед. (Источник здесь и далее: iKS-Consulting)

«Несмотря на обозначенные проблемы, игроки рынка продолжают строить новые ЦОД», — отметили в iKS-Consulting. В 2023 году аналитики ожидают вывод на рынок колокации большого количества новых стойко-мест, в первую очередь рассчитанных на крупных клиентов — есть даже выделенные операторские залы на несколько сотен стойко-мест. Благодаря этому, как полагают в iKS-Consulting, в Московском регионе на ближайшие годы будет ликвидирован дефицит стойко-мест, наблюдавшийся последние годы.

Абсолютный прирост числа стойко-мест в ЦОД РФ (тыс. шт.)

В исследовании также отмечено, что последние пять лет продолжается рост концентрации рынка с резким увеличением доли лидеров в 2020 году после слияния двух крупнейших российских коммерческих дата-центров – «Ростелеком-ЦОД» и DataLine. Этому также способствует более динамичный рост крупных дата-центров по сравнению с увеличением рынка ЦОД. В 2020–2022 гг. наблюдался рост количества слияний и поглощений.

Доля ТОП-5 ЦОД на российском рынке (по количеству стойко-мест), %

iKS-Consulting отмечает выход рынка коммерческих ЦОД в России на стадию зрелости и его рост в денежном выражении на 25 % на фоне всеобщей цифровизации. Аналитики также отметили рост интереса к рынку коммерческих ЦОД со стороны инвесторов, представляющих технопарки, девелоперские компании, предприятия промышленности и энергетики и обладающих компетенциями в определённых аспектах, связанных со спецификой своей деятельности и касающихся строительства ЦОД.

Вместе с тем наблюдается нехватка высококвалифицированного персонала и команд по строительству и управлению ЦОД. Активное строительство новых дата-центров привело к дефициту опытных строителей и организаций, специализирующихся на проектировании, возведении и оснащении дата-центров, в связи чем высококлассные специалисты могут переходить из одного ЦОД в другой. Впрочем, рост рынка это не останавливает.

Динамика подведённой электрической мощности коммерческих ЦОД в России

По количеству введённых в эксплуатацию стойко-мест по-прежнему безусловным лидером является группа компаний «Ростелеком»/«РТК-ЦОД», на долю которой к концу 2022 года приходилось 15640 стойко-мест. При выполнении заявленных планов на конец 2023 года оператором будет введено 21,4 тыс. стойко-мест. На втором месте по результатам 2022 года была компания DataPro c долей 10,5 % (6131 стойко-место). Замыкала тройку лидеров компания IXcellerate с долей 9,3% (5443 стойко-места), но благодаря вводу новой площадки MOS 5 на территории южного кампуса она может в конце 2023 года выйти на вторую позицию.

Лидеры по подведенной электрической мощности, 2023 г., МВА

В 2021–2022 гг. аналитиками было отмечено резкое увеличение мощности благодаря открытию новых кампусов компаний IXcellerate, DataPro и других. В 2018–2020 гг. мощность коммерческих ЦОД увеличивалась на 40–55 МВт в год, но в ближайшие два–три года подведённая мощность будет увеличиваться на 110–130 МВт ежегодно. Лидерами по подведённой мощности являются дата-центры «Ростелеком-ЦОД» и IXcellerate с суммарной долей на рынке по этому показателю около 43%. На пятёрку лидеров, также включающую 3data, DataPro и МТС, приходится 62 % рынка.

На протяжении последних двух лет правительством РФ было подготовлено несколько инициатив, связанных с поддержкой развития ЦОД. Как передаёт iKS-Consulting, участники рынка полагают, что реализация комплекса мер поддержки отрасли стимулирует внутренний спрос на инфраструктуру хранения и обработки данных и повысит инвестиционную привлекательность отрасли. При этом они надеются, что государство не будет усиливать регулирование отрасли, чтобы она и далее развивалась по рыночным законам.

В Институте математики имени С.Л. Соболева Сибирского отделения Российской академии наук (ИМ СО РАН) в Новосибирске появился новый суперкомпьютер, который планируется применять для разработки перспективных технологий, анализа данных, выполнения научных исследований и пр.

Установку и тестирование системы выполнили специалисты группы компаний РСК. Отмечается, что монтажные и пуско-наладочные работы осуществлены в сжатые сроки — за 3,5 недели. На создание комплекса предоставлен грант в рамках федеральной инициативы «Развитие инфраструктуры для научных исследований и подготовки кадров» Национального проекта «Наука и университеты».

В основу суперкомпьютера положена платформа «РСК Торнадо» с жидкостным охлаждением. Задействованы вычислительные узлы, оснащённые двумя процессорами Intel Xeon Ice Lake-SP (38 ядер; базовая частота 2,4 ГГц). Производительность кластера в текущей конфигурации составляет 54,4 Тфлопс. Система, как заявляет РСК, позволит сотрудникам института решать сложные исследовательские задачи в области математики, физики, биологии и пр.

Источник изображения: РСК

В дальнейшем запланированы несколько этапов модернизации комплекса. Так, в ближайшей перспективе будут установлены более 12 вычислительных узлов и узел с GPU-ускорителями. В результате, в 2024 году производительность поднимется на 89 Тфлопс, превысив 140 Тфлопс. Суммарная потребляемая мощность машины составит примерно 41 кВт. До 2025 года планируется повышение быстродействия суперкомпьютера до 234,4 Тфлопс.

«У нас появилась возможность решать задачи невероятной сложности, моделировать объёмные процессы и предсказывать поведение сложных математических систем. Ресурсы этого вычислительного комплекса будут использоваться для разработки новых технологий, анализа данных и в образовательных целях, например, мы сможем обучать студентов и молодых учёных современным методам проведения исследований и работы с данными», — отметил и.о. директора ИМ СО РАН Андрей Миронов.

Корпорация Google в рамках сложившейся геополитической обстановки, по сообщению ресурса ComNews, предложила российским операторам связи альтернативный способ сохранения качественного доступа к своим сервисам, включая YouTube. Речь идёт об организации прямого стыка в Москве или Санкт-Петербурге вместо применения кеширующих серверов Google Global Cache (GGC).

Системы GGC — это специальные программно-аппаратные комплексы, которые размешаются на площадках локальных операторов и используются для кеширования тех или иных материалов, в частности, видео с YouTube. Таким образом, популярный контент загружается с основных серверов Google только при первом запросе, а в дальнейшем распространяется с помощью GGC. Это ускоряет доступ к материалам для региональных пользователей и снижает нагрузку на сетевые каналы.

Источник изображения: pixabay.com

По оценке ComNews Research, в начале 2022-го на сетях российских операторов были установлены около 700 серверов GGC, тогда как к концу 2023 года их количество сократилось примерно до 450. Связано это с износом и моральным устареванием оборудования. Кроме того, ещё в мае 2022 года Google начала отключать некоторые узлы GGC в России.

Участники рынка отмечают, что Google уже год не поставляет в Россию новые GGC-серверы, а трафик продолжает расти. Поэтому рано или поздно данная система может полностью прекратить работу в РФ. На этом фоне, как ожидается, вырастет популярность отечественных CDN-сервисов. Вместе с тем, полагают эксперты, организация прямых стыков с системами Google в Москве и Санкт-Петербурге поможет операторам избежать части проблем с доставкой контента в центральной части РФ, но не решит её для клиентов из других регионов страны.

Компания Yotta Data Services объявила о заключении соглашения о сотрудничестве, в рамках которого планируется развёртывание облачной инфраструктуры Shakti Cloud — самой высокопроизводительной в Индии платформы для задач ИИ на основе GPU.

По условиям договора, Yotta закупит крупную партию ускорителей NVIDIA H100. К январю 2024 года планируется ввести в эксплуатацию 4096 ускорителей. Ещё 16 384 ускорителя войдут в состав Shakti Cloud к июню наступающего года. А к концу 2025-го инфраструктура Yotta будет насчитывать 32 768 ускорителей.

Yotta развернёт первый кластер из 16 384 ускорителей на площадке NM1 — это крупнейший в Азии дата-центр класса Tier IV, расположенный в Нави-Мумбаи на западном побережье индийского штата Махараштра. Затем Yotta создаст кластер аналогичного масштаба в D1 — своём новейшем ЦОД гиперскейл-уровня в Грейтер-Нойде недалеко от Дели. Проектная мощность Shakti Cloud составит 16 Эфлопс на операциях ИИ.

Источник изображения: NVIDIA

На базе облака Yotta Shakti Cloud клиентам будут предоставляться различные услуги PaaS. Заказчики смогут обучать большие языковые модели (LLM), запускать ресурсоёмкие ИИ-задачи и другие рабочие нагрузки. Ожидается, что платформа поможет удовлетворить растущий спрос на услуги НРС со стороны исследовательских лабораторий, корпоративных пользователей и стартапов.

Кроме того, Yotta намерена использовать решения NVIDIA InfiniBand для формирования GPU-кластеров, предназначенных для поддержания масштабных проектов, связанных с инференсом, обучением крупных ИИ-моделей и пр. В целом, партнёрство с NVIDIA поможет Индии укрепить позиции на стремительно растущем мировом рынке ИИ.

В рамках масштабных инициатив, связанных с цифровизацией общества, Индия рассчитывает построить суверенную ИИ-инфраструктуру. Как сообщает Datacenter Knowledge, местные власти уверены в необходимости самостоятельного прогресса в данной сфере. По словам министра электроники Раджива Чандрасекара (Rajeev Chandrasekhar), стране необходим собственный независимый ИИ.

Власти не готовы довольствоваться ИИ-экосистемой, управляемой Google, Meta✴, а также некоторыми индийскими стартапами и компаниями. Индия будет принимать участие в американских и европейских инициативах, параллельно разрабатывая собственную стратегию. В правительстве рассчитывают использовать новые технологии для социально-экономического развития. Идею в ходе недавнего визита в Индию поддержал глава IBM Арвинд Кришна (Arvind Krishna), который заявил, что каждая страна должна иметь определённый суверенитет в сфере ИИ, включая собственные большие языковые модели (LLM).

Источник изображения: Sylwia Bartyzel/unsplash.com

Индия уже начала принимать меры по развитию собственных инициатив. Так, Министерство электроники и информационных технологий намерено предоставлять обезличенные данные из правительственных баз стартапам и научным организациям. Предполагается, что это будет способствовать совершенствованию системы управления и развитию экосистемы стартапов. Также рассматривается возможность получать по запросу массивы обезличенных данных и у IT-гигантов вроде Google и Meta✴.

В последние годы Индия уделяет большое внимание строительству собственной цифровой инфраструктуры. В частности, она реализует крупные проекты т.н. «цифровой общественной инфраструктуры» (DPI) — вроде Aadhaar и Unified Payment Interface (UPI), вызывающие интерес далеко за пределами государства. Например, Aadhaar предполагает биометрическую идентификацию всех граждан Индии, а UPI представляет собой популярную платёжную платформу.

Недавно Индия запустила и глобальный репозиторий Global Digital Public Infrastructure Repository (GDPIR) для объединения ресурсов и идей стран «большой двадцатки» G20 в области проектирования и создания DPI. Репозиторий объединяет программные решения и различные находки. Полученные решения и данные страна в числе прочего намерена использовать для создания «домашнего» ИИ, что поможет ей снизить зависимость от глобальных техногигантов.