Компания International Data Corporation (IDC) опубликовала первый прогноз по глобальному рынку суверенных облаков. Аналитики полагают, что отрасль в ближайшие годы будет устойчиво расти, что объясняется необходимостью защиты данных, обеспечения национальной безопасности и пр.

Концепция суверенного облака предполагает ряд дополнительных требований к размещению, хранению и обработке информации. В зависимости от вариантов развёртывания области аренды в суверенном облаке могут быть ограничены конкретной компанией, географическим регионом и пр. Заказчик может выбрать для хранения данных собственный ЦОД. Для суверенных облаков может потребоваться соблюдение устанавливаемых конкретным клиентом нормативных ограничений, а также  дополнительных стандартов безопасности.

Источник изображения: IDC

IDC в своём отчёте оценивает расходы по трём основным направлениям. Это суверенитет данных (учитывает, как информация собирается, классифицируется, обрабатывается, хранится и защищается), технический суверенитет (цифровая инфраструктура, расположенная в суверенной среде) и операционный суверенитет (решения, обеспечивающие прозрачность контроля над облачными операциями).

По оценкам, в 2022 году объём глобального рынка суверенных облаков составил приблизительно $79,4 млрд. В 2023-м этот показатель превысит $103 млрд. В дальнейшем ожидается величина CAGR (среднегодовой темп роста в сложных процентах) на уровне 26,6 %. Если этот прогноз оправдается, в 2027 году затраты в рассматриваемом сегменте достигнут $258,5 млрд.

NVIDIA представила сервис NeMo Retriever, позволяет компаниям дополнять данные для чат-ботов, ИИ-помощников и похожих инструментов специализированными сведениями — для получения более точных ответов на запросы. Сервис стал частью облачного семейства инструментов NVIDIA NeMo, позволяющих создавать, настраивать и внедрять модели генеративного ИИ.

RAG (Retrieval Augmented Generation), метод улучшения производительности больших языковых моделей (LLM), позволяет повысить точность и безопасность ИИ-инструментов благодаря заполнению пробелов в «знаниях» языковых моделей с помощью сведений из внешних источников. Обучение каждой модели — чрезвычайно ресурсоёмкий процесс — обычно осуществляется довольно редко, а то и вовсе единожды. При этом до следующего обновления модель не имеет доступа к полной и актуальной информации, что может привести к неточностям, ошибкам и т.н. галлюцинациям.

Источник изображения: Faisal Mehmood / Pixabay

NeMo Retriever позволяет быстро дополнить LLM свежими сведениями в виде баз данных, HTML-страниц, PDF-файлов, изображений, видео и т.п. Другими словами, базовая модель с добавлением специализированных материалов станет заметно эрудированнее и «сообразительнее». При этом данные могут храниться где угодно — как в облаках, так и на собственных серверах компаний. Технология чрезвычайно полезна, поскольку обеспечивает сотрудникам компании работу с полезными данными, закрытыми для широкой публики, при этом пользуясь всеми преимуществами ИИ.

Источник изображения: NVIDIA

В отличие от открытых RAG-инструментов, NVIDIA, по данным самой компании, предлагает готовое к коммерческому использованию решение для доступных на рынке ИИ-моделей, уже оптимизированных для RAG и имеющих поддержку, а также регулярно получающих обновления безопасности. Другими словами, корпоративные клиенты могут брать готовые ИИ-модели и дополнять их собственными данными без отдельной ресурсоёмкой тренировки.

NeMo Retriever позволит добавить соответствующие возможности универсальной облачной платформе NVIDIA AI Enterprise, предназначенной для оптимизации разработки ИИ-приложений. Регистрация разработчиков для раннего доступа к NeMo Retriever уже началась. Cadence Design Systems, Dropbox, SAP SE и ServiceNow уже работают с NVIDIA над внедрением RAG в свои внутренние ИИ-инструменты.

Amazon объявила о предстоящем запуске независимого облака для Европы под названием AWS European Sovereign Cloud, предназначенного для госпредприятий, а также компаний из отраслей с жёсткими нормами регулирования оборота и конфиденциальности данных.

Сервис разработан в соответствии с требованиями ЕС к локализации данных и нормативными документам, касающимися регулирования его деятельности. Новая структура будет физически и логически отделена от существующих регионов, но вместе с тем предоставляет клиентам уже знакомую функциональность облака AWS. Контроль над операциями и поддержкой AWS European Sovereign Cloud будут осуществлять только те сотрудники, которые проживают в ЕС.

Источник изображения: Pixabay

Заказчики также смогут использовать другие сервисы, такие как AWS Outposts или выделенные локальные зоны AWS, для развёртывания своей европейской облачной инфраструктуры. Amazon сообщила что, AWS European Sovereign Cloud будет иметь несколько зон доступности с географически разнесённоё инфраструктурой. Первый регион появится в Германии.

Ранее о запуске суверенного облачного сервиса EU Sovereign Cloud, предназначенного для Европейского союза (ЕС), объявила Oracle. В 2022 году Microsoft запустила сервис Cloud for Sovereignty, нацеленный на госсектор в ЕС, а Google Cloud предоставляет аналогичные решения в партнёрстве с местными игроками, например, T-Systems и Thales. Примечательно, что ранее AWS называла суверенное облако «маркетинговым термином больше, чем что-либо ещё».

Компания OpenAI продолжает расширять номенклатуру решений на основе ChatGPT. Как сообщает Silicon Angle, теперь в её портфолио появилась версия ChatGPT Enterprise, обеспечивающая корпоративным пользователям дополнительную функциональность и усиленную защиту, а в будущем появится ещё и версия ChatGPT Business.

Речь идёт о решении, целевой аудиторией которого являются крупные организации и бизнес-структуры. ChatGPT Enterprise построен на основе расширенной версии большой языковой модели (LLM) GPT-4 и вдвое быстрее стандартного варианта при выдаче ответов.

Источник изображения: OpenAI

Одной из главных отличительных функций ChatGPT Enterprise является безлимитный доступ к инструменту Advanced Data Analysis. Ранее он был известен, как Code Interpreter и позволяет, например, осуществлять математические вычисления, визуализировать результаты или, например, менять форматы файлов обычными языковыми командами. В компании уже работают над усовершенствованной версией Advanced Data Analysis, а также намерены добавить боту и другие инструменты для анализа информации, маркетинга и поддержки клиентов.

При этом разработчики увеличили максимальный объём запроса до 32 тыс. токенов за раз. Дополнительно предусматривается расширение набора данных, которые сможет использовать ChatGPT Enterprise для обучения. Например, в обозримом будущем станет возможны безопасное подключение к боту приложений, которые уже используются компаниями.

Источник изображения: OpenAI

Поскольку целевая аудитория ChatGPT Enterprise уделяет особое внимание защите своих данных, новый ИИ-бот соответствует стандарту кибербезопасности SOC 2, предусматривающему шифрование данных пользователей при передаче. Дополнительно защититься помогает консоль управления, интегрированная в интерфейс ChatGPT Enterprise. Например, с её помощью можно будет централизованно управлять аккаунтами сотрудников компаний и отслеживать их работу с чат-ботом.

OpenAI сообщила, что ChatGPT Enterprise уже используется в тестовом режиме некоторыми компаниями, включая Canva Pty Ltd и Klarna Bank AB, а в ближайшие недели разработчик постарается привлечь как можно больше клиентов. Пока достоверно неизвестно, когда именно станут общедоступными анонсированные функции. Дополнительно в будущем планируется представить и ещё одну платную версию — ChatGPT Business для «команд любых размеров».

Продукты OpenAI уже довольно активно используются корпоративными клиентами при содействии партнёров компании. Например, доступ к ChatGPT ещё в марте появился в облачной службе Microsoft Azure OpenAI Service.

Облачная площадка Amazon Web Services (AWS) объявила о запуске новой услуги — так называемых выделенных локальных зон (Dedicated Local Zones). Платформа ориентирована на клиентов, которым необходимо хранить конфиденциальные данные и развёртывать приложения в физически отдельной инфраструктуре, предназначенной исключительно для их использования.

Выделенные локальные зоны AWS создаются на указанной заказчиком площадке или в определённом дата-центре в соответствии с предъявляемыми нормативными требованиями. Они полностью управляются специалистами AWS, предлагая те же преимущества, что и обычные локальные зоны, такие как масштабируемость, оплата по факту использования и дополнительные функции безопасности.

Клиенты могут развернуть несколько выделенных локальных зон для обеспечения устойчивости. Стоимость сервиса, как сообщается, зависит от местоположения ЦОД, необходимых услуг и функций. Служба Dedicated Local Zones ориентирована прежде всего на государственные организации и компании, которые работают с закрытой информацией.

Источник изображения: Amazon

Выделенные локальные зоны используют систему AWS Nitro. Доступны такие сервисы, как Amazon EC2, Amazon Virtual Private Cloud (Amazon VPC), Amazon Elastic Block Store (Amazon EBS), Elastic Load Balancing (ELB), Amazon Elastic Container Service (Amazon ECS), Amazon Elastic Kubernetes Service (Amazon EKS) и AWS Direct Connect. Используется ли для этого инфраструктура AWS Outposts, не уточняется.

Компания «Яндекс» перенесёт серверы, обслуживающие yandex.kz на территорию Казахстана, сообщает ТАСС. За несколько дней до этого прошла рабочая встреча представителей «Яндекса» и Министерства цифрового развития, инноваций и аэрокосмической промышленности (МЦРИАП), а также Комитета по информационной безопасности. В МЦРИАП сообщили о достигнутой договорённости относительно разработки плана по защите персональных данных жителей Казахстана.

«В рамках стремления к укреплению партнёрства и национальных цифровых ресурсов “Яндекс” подтвердил готовность продолжить работы по переносу на территорию страны серверов, обслуживающих домен yandex.kz — так уже ранее было сделано для сервиса “Яндекс Go”», — отмечено в сообщении ведомства. План будет включать мероприятия по переносу обработки персональных данных граждан Республики Казахстан на серверы, расположенные на территории страны.

В начале августа ненадолго была приостановлена работа yandex.kz, что, как выяснилось, было связано с нарушением правил — ресурс работал на серверах за пределами Казахстана. В МЦРИАП сообщили об обращении «Яндекса» с просьбой продлить сроки переноса домена yandex.kz на территорию республики. В министерстве отметили, что приостановка доступа к сервисам «Яндекса» была вызвана тем, что компания не предоставила ответа на запрос от 25 июля — задачи полностью заблокировать её интернет-ресурсы не было.

Oracle объявила о запуске облачного сервиса EU Sovereign Cloud, предназначенного для Европейского союза (ЕС). Новый сервис призван обеспечить организациям ЕС больший контроль над выполнением требований к конфиденциальности и суверенности данных. Oracle подчеркнула, что новый сервис расположен в ЕС, поддерживается персоналом из ЕС и управляется принадлежащими Oracle юридическими лицами, зарегистрированными в ЕС.

В EU Sovereign Cloud используется облачная архитектура, физически и логически отделённая от коммерческих и государственных облачных регионов Oracle, в том числе в Европе. В настоящее время платформа включает два облачных региона (по три зоны в кажлом) — во Франкфурте (Германия) на базе ЦОД Equinix и в Мадриде (Испания) на базе ЦОД Digital Realty. Компания заявила, что деятельность регионов ведётся в соответствии с правилами и рекомендациями ЕС, которые ограничивают передачу данных за пределы ЕС, например, в соответствии с постановлением Европейского суда и решениями Европейского совета по защите данных.

Источник изображения: Oracle

Следует отметить, что Microsoft запустила в 2022 году сервис Cloud for Sovereignty, нацеленный на госсектор в ЕС. Google предлагает подобные услуги через партнёрства с местными игроками, такими как T-Sytems Deutsche Telekom в Германии, Thales во Франции и Proximus в Бельгии и Люксембурге. AWS же называет суверенное облако «маркетинговым термином больше, чем что-либо ещё», подразумевая, что существующие средства контроля уже обеспечивают конфиденциальность и защиту данных в соответствии с законодательством ЕС. Вместе с тем ранее AWS выступила с заявлением о цифровом суверенитете, закрепив свои обязательства в отношении защиты данных клиентов в Европе.

Стартап FedML, по информации ресурса SiliconANGLE, закрыл раунд начального финансирования, в ходе которого было привлечено $6 млн. Ведущим инвестором стал Camford Capital, в раунде также приняли участие Plug and Play Ventures, AimTop Ventures, Acequia Capital и LDV Partners.

Своей целью FedML называет формирование экосистемы, которая удовлетворит потребности корпоративных пользователей в кастомизированных ИИ-моделях. Отмечается, что многие компании хотят обучать или оптимизировать системы ИИ на своих собственных данных. Это позволит применять модели для выполнения конкретных задач, таких как автоматизация бизнеса, обслуживание клиентов, дизайн продуктов и пр. Но такие данные могут быть сильно разрознены или являться конфиденциальными, что затрудняет использование облачных сервисов.

Источник изображения: pixabay.com / geralt

Чтобы решить эту проблему, FedML создала платформу федеративного и коллаборативного обучения моделей, которая позволяет работать с данными что в облаке, что на периферии — без необходимости перемещать эти сведения куда-либо ещё. FedML называет такой подход «обучением без обмена» (learning without sharing).

Привлечённые средства стартап направит на объединение компаний и разработчиков для обучения, развёртывания и настройки моделей в рамках своей платформы. FedML полагает, что совместный подход поможет решить проблемы высокой стоимости и сложности крупномасштабных ИИ-моделей. Компания уже создала экосистему MLOps, привлёкшую более 1900 пользователей, которые предоставили свыше 3500 периферийных узлов и обучили более 6500 моделей.

Видеосервис TikTok сообщил в конце прошлой недели, что «изменил место хранения пользовательских данных в США по умолчанию» на платформу Oracle и что «100% пользовательского трафика в США направляется в Oracle Cloud Infrastructure» после длившихся более года переговоров двух компаний.

Решение направлено на устранение опасений властей США по поводу того, что связи социальной сети с Китаем могут представлять угрозу для национальной безопасности страны. Объявление о переносе данных совпало (и вряд ли случайно) с публикацией итогов расследования ресурса BuzzFeed, которое показало, что сотрудники TikTok в Китае на постоянной основе получали доступ к персональным данным пользователей TikTok в США как минимум в период с сентября 2021 года по январь 2022 года.

После этого TikTok сообщил, что все личные данные пользователей из США, включая номера телефонов, даты рождения и черновики видео, теперь хранятся на серверах облака Oracle. Принадлежащий китайской компании ByteDance видеосервис также сообщил, что предложил Oracle заняться разработкой протоколов управления данными, которые помогут в защите конфиденциальной информации.

Источник изображения: Pixabay

По словам TikTok, резервные копии пользовательских данных TikTok из США по-прежнему хранятся на собственных серверах TikTok в Виргинии и Сингапуре, но в конечном итоге они будут удалены в рамках продолжающегося перехода на платформу Oracle. Сроки запланированного удаления копий пока неизвестны. Однако BuzzFeed сообщает, что сотрудники ByteDance в Пекине по-прежнему будут иметь доступ к публичным данным пользователей из США, включая видео, комментарии и профили, что позволит им делать выводы об интересах американцев.

Напомним, что в августе 2020 года власти США выступили с угрозой запретить TikTok в США, сославшись на опасения, что правительство Китая будет использовать данные, собранные TikTok, для слежки за гражданами США. К сентябрю ими был подготовлен контракт, в рамках которого компания ByteDance, материнская компания TikTok, должна была продать миноритарную долю в видеосервисе двум американским компаниям, Oracle и Walmart, при этом Oracle брала на себя хранение данных TikTok в США.

В итоге сделка была заключена, но воспользовавшись приходом к власти нового президента, ByteDance выторговала себе возможность не продавать долю в TikTok, а лишь перевести данные на хранение в облаке Oracle. Для Oracle обслуживание более чем 100 млн пользователей TikTok в США является возможностью приблизиться к конкурентам Amazon и Microsoft, взявшим под свой контроль более половины рынка.

При этом для самой ByteDance сотрудничество с Oracle, похоже, не является оптимальным вариантом. В прошлом году компания стала вторым по величине арендатором ЦОД в США (суммарно 92 МВт), хотя по сравнению с 2020 годом (134 МВт) объём арендованных мощностей снизился. Ранее компания отказалась от услуг Alibaba Cloud за пределами Китая, что заметно повлияло на выручку последней. А в конце прошлого года ByteDance взялась за развитие собственной облачной платформы Volcano Engine.