Oracle и NVIDIA объявили о расширении сотрудничества для предоставления суверенного ИИ клиентам по всему миру — программно-аппаратные решения обеих компаний позволят правительствам и предприятиями формировать ИИ-фабрики, говорится в пресс-релизе. Облачные сервисы Oracle используют ряд платформ NVIDIA, включая аппаратную инфраструктуру и программную платформу NVIDIA AI Enterprise, в том числе недавно анонсированные микросервисы вывода NVIDIA NIM.

Такие ИИ-фабрики позволят развернуть облачные сервисы, работающие локально и размещённые в безопасных кампусах на территории страны или организации. Сочетание полнофункциональной ИИ-платформы NVIDIA с корпоративным ИИ-инструментами Oracle, которые можно развернуть в выделенном регионе OCI, позволит получить современное ИИ-решение с повышенным уровенем контроля, защиты и безопасности. По словам Oracle, компания является единственным гиперскейлером, способным предоставлять ИИ-решения и полноценные облачные услуги локально и в любом месте.

Oracle также задействует чипы NVIDIA Blackwell (GB200 и B200) в OCI Supercluster и OCI Compute. OCI Supercluster станет значительно быстрее благодаря новым bare metal-инстансам, RDMA-сети со сверхмалой задержкой и высокопроизводительному хранилищу. В OCI появятся и сервисы NVIDIA NIM и CUDA-X, а также NVIDIA NeMo Retriever.

Источник изображения: NVIDIA

Наконец, в DGX Cloud on OCI станут доступны инстансы на базе суперускорителей GB200 NVL72 для работы с LLM с триллионами параметров. Полный кластер DGX Cloud будет включать более 20 тыс. ускорителей GB200, интерконнект NVLink 5 и сеть NVIDIA InfiniBand XDR.

Компания Oracle развернёт облачный регион в Марокко. По данным Datacenter Dynamics, проект будет реализован при сотрудничестве с оператором ЦОД N+One, облачная инфраструктура гиперскейлера разместится в одном из дата-центров компании. Всего Oracle намерена увеличить свой парк ЦОД на 100 шт.

Oracle открыла свой первый облачный регион в Африке (Йоханнесбург, Южная Африка) в 2022 году, а в феврале 2024 анонсировала планы создания региона в Найроби (Кении). Проект в Марокко пока не отображается в списке ожидаемых локаций на сайте самой компании. Тем не менее, он уже утверждён. Сотрудничество с N+One даёт Oracle определённый «иммунитет» — размещение облака на мощностях компании обеспечит IT-гиганту соблюдение марокканских требований к суверенитету данных.

Источник изображения: Philipp Klausner/unsplash.com

Как заявляют в N+One, соглашение позволит обеспечить безопасность информации и достичь соответствия местным правовым нормам, включая т.н. Закон № 05-20, определяющий требования к информационным системам, их защите и уровню обслуживания. В компании добавляют, что сотрудничество с Oracle стало гарантией уверенности в будущем и драйвером роста N+One.

Недавно N+One анонсировала планы по расширению двух ЦОД в провинциях Нуасер и Сеттат, ёмкость которых к концу года вырастет на 2 МВт. Всего в Марокко у компании будет уже 8 МВт ёмкостей. В дальнейшем N+One намерена построить три дата-центра в Дакаре (Сенегал), также рассматривается возможность строительства ЦОД в Нигерии. В 2023 году африканская частная инвестиционная компания African Infrastructure Investment Managers (AIIM) выделила N+One $90 млн на расширение кампусов.

Корпорация Oracle отчиталась о работе в III четверти 2024 финансового года, которая была закрыта 29 февраля. Общая выручка составила приблизительно $13,3 млрд, что на 7 % превышает показатель годичной давности. Чистая прибыль при этом достигла $2,4 млрд, продемонстрировав рост на 27 % год к году.

В облачном сегменте (платформы IaaS и SaaS) квартальная выручка составила $5,1 млрд: это на четверть больше по сравнению с III кварталом 2023 финансового года. По направлению IaaS зафиксирован рост продаж на 49 % — до $1,8 млрд. В сегменте SaaS показана выручка на уровне $3,3 млрд, что соответствует росту на 14 %.

Если рассматривать сегмент облачных сервисов и лицензионной поддержки, то в нём квартальная выручка составила $10,0 млрд, поднявшись на 12 %. Аппаратные решения принесли $754 млн: продажи снизились на 7 % год к году. Различные сервисы обеспечили поступления в размере $1,3 млрд, что на 5 % меньше результата годичной давности.

Источник изображения: Oracle

Генеральный директор Oracle Сафра Кац (Safra Catz) сообщила, что в течение закрытого квартала подразделение облачных инфраструктур заключило ряд крупных контрактов. По её словам, спрос на ИИ-услуги превышает доступные ресурсы, несмотря на то что корпорация активно развивает сеть дата-центров и наращивает мощности существующих площадок. Oracle, в частности, планирует создать до 100 новых ЦОД.

Госпожа Кац подчеркнула, что зарождающийся бизнес компании в сегменте генеративного ИИ «будет находиться в фазе гиперроста в обозримой перспективе». Ранее компания также говорила о сотрудничестве с Microsoft Azure по 20 дата-центрам, а теперь редмондский гигант добавил к этому соглашению ещё три ЦОД. Microsoft арендует у Oracle ИИ-мощности, а Oracle размещает свои программные и аппаратные решения в ЦОД Azure. Теперь же компании расширили своё сотрудничество в облачной сфере, а Oracle даже заявила, что строит один из крупнейших в мире ЦОД для ИИ.

Говорится также, что Oracle перевела основную часть клиентов Cerner на свою облачную платформу. Напомним, эту IT-компанию, специализирующуюся на решениях для сферы здравоохранения, Oracle приобрела в 2022 году за $28,3 млрд. В ближайшее время Oracle начнёт предоставлять клиентам Cerner специализированные облачные сервисы Ambulatory Clinic Cloud Application Suite.

Корпорация Oracle, по сообщению The Register, создаёт две новые специализированные команды, которые, как ожидается, помогут ускорить развитие облачных сервисов и повысить эффективность управления инфраструктурой. Будущие подразделения фигурируют под названиями Oracle Cloud Infrastructure (OCI) Delivery Engineering и Oracle Cloud Infrastructure Data Org.

О планах Oracle по формированию дополнительных групп стало известно из объявлений о поиске соответствующих специалистов. Подразделение OCI Delivery Engineering будет отвечать за решение различных вопросов, связанных с развёртыванием и эксплуатацией дата-центров, включая весь жизненный цикл оборудования — от планирования, проектирования и поставки до вывода из эксплуатации. При этом сейчас Oracle предпочитает арендовать сторонние площадки, а не строить свои собственные дата-центры.

Источник изображения: Oracle

Главная задача OCI Delivery Engineering заключается в развитии облачной инфраструктуры как в существующих регионах присутствия Oracle, так и в новых. Команда займётся созданием сервисов и инструментов для ускорения наращивания вычислительных ресурсов и сетевых мощностей. Корпорация намерена внедрять инновационные решения, одновременно выполняя интеграцию с существующими системами. В общей сложности открыты более 30 вакансий в Индии и США.

Вторая формируемая группа — OCI Data Org — будет отвечать за создание специализированной платформы внутри облачной инфраструктуры для предоставления масштабных хранилищ данных, озёр данных и решений бизнес-аналитики. Говорится также о работе над распределённой многопользовательской архитектурой.

Генеральный директор Oracle Сафра Кац (Safra Catz) ранее заявляла, что для инфраструктуры OCI прогнозируется стремительный рост, а единственным сдерживающим фактором являются возможности компании по оперативному развёртыванию новых ЦОД и их вводу в эксплуатацию.

Корпорация Oracle и телекоммуникационная компания Du, по сообщению ресурса Datacenter Dynamics, подписали соглашение о партнёрстве с целью создания в ОАЭ суверенной облачной платформы. Ожидается, что новый сервис будет функционировать в соответствии с требованиями по обработке данных, которые действуют на территории названного государства.

Du, ранее известная как Emirates Integrated Telecommunication Company, управляет или ведёт деятельность в пяти дата-центрах в ОАЭ, два из которых открылись в 2021 году. Это площадки Dubai Silicon Oasis, Meydan Dubai, IMPZ Equinix, Kizad Abu Dhabi и Masdar City Abu Dhabi.

Источник изображения: Oracle

В свою очередь, Oracle оперирует двумя облачными регионами в ОАЭ. Это расположенная в Дубае площадка UAE East, которая была запущена в сентябре 2020 года. Второй регион — UAE Central в Абу-Даби, начавший обслуживать клиентов в ноябре 2021 года. У Oracle также есть облачные регионы в соседней Саудовской Аравии.

Отмечается, что суверенное облако в ОАЭ предоставит партнёрам и клиентам большую свободу выбора в плане создания, развёртывания и использования облачных сервисов. Речь идёт в том числе о заказчиках из государственного сектора.

Нужно отметить, что в сентябре 2023 года о планах по созданию суверенного облака в ОАЭ объявила корпорация Microsoft. Партнёром в рамках данного проекта выступает компания G42, предположительно тесно связанная со спецслужбами государства. Вместе с тем Oracle в июне 2023-го запустила суверенную облачную платформу EU Sovereign Cloud, предназначенную специально для Европейского союза. По заявлениям Oracle, создание суверенных облаков также заказали семь государств, включая Японию, Италию, Саудовскую Аравию, Бангладеш и Новую Зеландию.

Oracle Corp. представила облачный сервис Oracle Cloud Infrastructure Generative AI (OCI Generative AI). Как сообщает пресс-служба компании, многочисленные инновации позволяют крупным компаниям применять новейшие достижения в сфере генеративного искусственного интеллекта для обучения собственных языковых моделей. Сервис позиционируется, как альтернатива решениям Azure OpenAI компании Microsoft.

Сервис представляет собой решение, позволяющее бизнесам использовать большие языковые модели (LLM) вроде открытой Llama 2 или решения Cohere Inc., интегрируя их с существующими системами и данными клиентов. Благодаря этому последние смогут автоматизировать многие из процессов, выполнявшихся вручную. Сервис OCI Generative AI поддерживает более 100 языков и обеспечивает оптимизированное управление кластерами ускорителей.

В Oracle уверены, что предлагаемые LLM помогут в генерации текстов, составлении резюме материалов и выполнении прочих задач, причём их можно будет интегрировать с уже существующими разработками. Корпоративные пользователи смогут безопасно дообучать модель на своих данных — пока проводится бета-тестирование с опцией тонкой настройки для получения ответов с учётом контекста. Сервис интегрируется с пакетом облачных бизнес-приложений Oracle, включая Oracle Enterprise Resource Planning, Human Capital Management, Supply Chain Management и Customer Experiences.

Источник изображения: Growtika/unsplash.com

Также будут расширены возможности платформы OCI Data Science, где в следующем месяце появится бета-версия функции AI Quick Actions, обеспечивающей доступ к различным моделям с открытым кодом без необходимости программирования. Это позволит клиентам строить, тренировать и внедрять LLM на основе открытого кода, а также управлять ими. В целом, Oracle ориентирована на предоставление готовых ИИ-сервисов и функций, взаимодействующих друг с другом для помощи клиентам в решении бизнес-задач.

Oracle признаёт, что в сфере ИИ отстаёт от Microsoft, Google и Amazon, но возможность интеграции ИИ с ERP, HCM, SCM и CX-приложениями делает новые решения более привлекательными. При этом, по словам компании, у неё есть сразу несколько важных преимуществ перед конкурентами. Во-первых, производительная облачная СУБД, которой пользуются даже Microsoft и NVIDIA. Во-вторых, широкие инвестиции в облако, на что уходит до половины свободного денежного потока компании. В-третьих, решения Oracle для бизнеса обеспечивают уникальный опыт работы с ИИ, который не могут предложить конкуренты, сконцентрированные на PaaS и IaaS.

Запуск новой службы должен помочь Oracle привлечь корпоративных клиентов. Кроме того, компания прилагает усилия для того, чтобы стать ключевым инфраструктурным игроком, обеспечивая доступ к передовым ускорителям NVIDIA. В декабре сообщалось, что компания построит 100 новых облачных ЦОД по всему миру. OCI Generative AI уже доступен в нескольких регионах Oracle Cloud, но может быть развёрнут и локально в рамках Dedicated Region.

Генеральный директор корпорации Oracle Сафра Кац (Safra Catz), по сообщению ресурса Datacenter Dynamics, рассказала о планах по строительству в Израиле своего второго облачного дата-центра. Речь идёт о создании защищённой площадки, которая расположится глубоко под землёй.

Первый облачный ЦОД компании расположен в бункере площадью 14 тыс. м². Объект, построенный компанией Bynet Data Communications, занимает четыре этажа и находится на глубине 50 м — под 17-этажным зданием и пятью уровнями парковки в иерусалимском технологическом центре Хар-Хотзвим в Иерусалиме.

Новый израильский дата-центр Oracle будет размещён под землёй на глубине, эквивалентной 9-этажному зданию. Это позволит защитить его от возможных угроз. Подробности о проекте нового ЦОД не раскрываются. Отмечается лишь, что его открытие планируется «в скором времени». Кроме того, Кац сообщила, что Oracle удвоит свои инвестиции в Израиле.

Источник изображения: Oracle

Подземные дата-центры довольно распространены в Израиле. Такое размещение является необходимостью, призванной обеспечить безопасность и непрерывность обслуживания клиентов в условиях продолжающейся политической напряжённости в регионе. Облачные регионы в Израиле есть и у других ведущих провайдеров. Так, Google объявила о запуске такого региона в Тель-Авиве в конце 2022 года. В прошлом году свои площадки запустили Amazon Web Services (AWS) и Microsoft Azure.

Oracle представила инстансы Ampere A2 следующего поколения на базе 192-ядерных Arm-процессоро AmpereOne, которые станут доступны для клиентов компании позднее в этом году. Как сообщает Oracle, новые инстансы обеспечивают на 44 % лучшее соотношение цены и производительности по сравнению с предложениями на архитектуре x86 и идеально подходят для ИИ-инференса, работы с базами данных, веб-сервисами, рабочих нагрузок транскодирования мультимедиа и поддержки среды выполнения для таких языков, как GO и Java.

Инстансы OCI Ampere A2 предлагают до 320 ядер в случае bare metal и до 156 ядер в рамках одной виртуальной машины. Обладая большим объёмом приватного кеша, стабильной рабочей частотой, однопоточными ядрами и новыми функциями управления памятью, инстансы нового поколения позволяют обеспечить ещё более предсказуемую производительность за счёт снижения влияния внешних помех, как происходит в случае SMT, и одновременно предлагают безопасную микроархитектуру для многопользовательских облачных сред.

Источник изображений: Ampere

«То, что происходит с OCI и Ampere, является отражением значительных перемен, происходящих в нашей отрасли, — сказала гендиректор Ampere Рене Джеймс (Renee James). — Времена использования мощности в качестве показателя производительности переходят в эру высокопроизводительных вычислений с низким энергопотреблением. Такие клиенты, как 8X8 и другие, признают, что существует необходимость снизить затраты на инфраструктуру и в то же время сократить выбросы углекислого газа без ущерба для производительности. В нашу эру компьютеров с ИИ новая сила — это меньшая мощность».

Клэй Магоуирк (Clay Magouyrk), исполнительный вице-президент Oracle Cloud Infrastructure Development, сообщил, что в связи с быстрым ростом Oracle подошла к пределам доступной мощности, и для дальнейшего масштабирования облака ей необходим рост эффективности в дополнение к производительности: «Вот почему мы используем Ampere для всего: от базы данных Oracle до приложений Fusion, а теперь и для всех наших сервисов OCI. С развитием ИИ-обработки этот сдвиг в вычислениях стал ещё более важным. Ampere — это решение OCI для устойчивого облака».

СУБД Oracle Database полностью поддерживается процессорами Ampere. Кроме того, все сервисы OCI, число которых исчисляется сотнями, теперь тоже работают на CPU Ampere. Конечные клиенты могут перенести все свои рабочие нагрузки на платформу Ampere, в том числе задачи инференса, которые поддерживаются библиотеками AI Optimizer от Ampere.

NVIDIA запустила сервис ИИ-супервычислений DGX Cloud, предоставляющий предприятиям доступ к инфраструктуре и программному обеспечению, необходимым для обучения передовых моделей для генеративного ИИ и других приложений.

DGX Cloud предлагает выделенные ИИ-кластеры NVIDIA DGX в сочетании с фирменным набором ПО NVIDIA. С его помощью предприятие сможет получить доступ к облачному ИИ-суперкомпьютеру, используя веб-браузер и без надобности в приобретении, развёртывании и управлении собственной HPC-инфраструктурой. Правда, удовольствие это всё равно не из дешёвых — стоимость инстансов DGX Cloud начинается от $36 999/мес., причём деньги получает в первую очередь сама NVIDIA. Для сравнения — полностью укомплектованная система DGX A100 в Microsoft Azure обойдётся примерно в $20 тыс.

Облачные кластеры DGX предлагаются предприятиям на условиях ежемесячной аренды, что гарантирует им возможность быстро масштабировать разработку больших рабочих нагрузок. «DGX Cloud предоставляет клиентам мгновенный доступ к супервычислениям NVIDIA AI в облаках глобального масштаба», — сообщил Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA.

Источник изображения: NVIDIA

Развёртыванием инфраструктуры DGX Cloud компания NVIDIA будет заниматься в сотрудничестве с ведущими поставщиками облачных услуг. Первым среди них стала платформа Oracle Cloud Infrastructure (OCI), предлагающая суперкластер (SuperCluster) с объединёнными RDMA-сетью (в том числе на базе BlueField-3 и Connect-X7) системами DGX (bare metal), которые дополняет высокопроизводительное локальное и блочное хранилище. Cуперкластер может включать до 32 768 ускорителей, но этот рекорд был поставлен с использованием DGX A100, а вот предложение DGX H100 пока что ограничено. В следующем квартале похожее решение появится в Microsoft Azure, а потом в Google Cloud и у других провайдеров.

Источник изображения: NVIDIA

Первыми пользователями DGX Cloud стали Amgen, одна из ведущих мировых биотехнологических компаний, лидер рынка страховых технологий CCC Intelligent Solutions (CCC) и провайдер цифровых бизнес-платформ ServiceNow. «Мощные вычислительные и многоузловые возможности DGX Cloud позволили нам в 3 раза ускорить обучение белковых LLM с помощью BioNeMo и до 100 раз ускорить анализ после обучения с помощью NVIDIA RAPIDS по сравнению с альтернативными платформами», — сообщил представитель Amgen.

Для управления нагрузками в DGX Cloud предлагается NVIDIA Base Command. Также DGX Cloud включает в себя набор инструментов NVIDIA AI Enterprise для создания и запуска моделей, который предоставляет комплексные фреймворки и предварительно обученные модели для ускорения обработки данных и оптимизации разработки и развёртывания ИИ. DGX Cloud предоставляет поддержку экспертов NVIDIA на всех этапах разработки ИИ. Клиенты смогут напрямую работать со специалистами NVIDIA, чтобы оптимизировать свои модели и быстро решать задачи разработки с учётом сценариев отраслевого использования.

Во вторник, 19 июля, в ЦОД Google Cloud Platform (GCP) в Лондоне произошёл сбой в системе охлаждения, в связи с чем несколько сервисов компании временно вышло из строя. В лондонском регионе облака Oracle тоже возникли проблемы с охлаждением оборудования ЦОД. Сбои произошли из-за рекордной жары в Великобритании — температура превысила +40°C. Некоторые операторы дата-центров были вынуждены принять нестандартные меры, начав обрызгивать водой внешние модули систем кондиционирования, установленные на крыше.

Отключение ряда сервисов Google произошло в 18:13 по местному времени (20:13 мск). В журнале статуса оборудования сбой описан как «связанный с охлаждением». Google заявила, что сбой затронул лишь небольшое количество клиентов. В частности, отключение коснулось сервисов Persistent Disk и Autoscaling. Хотя Google утверждает, что сбой продолжался до 22:00 BST (24:00 мск), в означенное время всё ещё поступали жалобы на ошибки в работе Persistent Disk.

Изображение: pixabay.com / Gam-Ol

С подобными проблемами в Лондоне столкнулась и облачная служба Oracle. Проблемы с перегревом у неё начались примерно в 17:00 по местному времени (19:00 мск). Oracle ранее арендовала ресурсы в ЦОД Equinix в лондонском кампусе Слау, но сейчас не раскрывает местонахождение своих мощностей. «В результате несезонных температур в регионе возникла проблема с частью инфраструктуры охлаждения в центре обработки данных на юге Великобритании (в Лондоне), — говорится в сообщении компании. — Это привело к тому, что часть нашей сервисной инфраструктуры пришлось отключить, чтобы предотвратить неконтролируемые сбои оборудования».