Материалы по тегу: software

19.03.2024 [03:18], Владимир Мироненко

Всё своё ношу с собой: Nvidia представила контейнеры NIM для быстрого развёртывания оптимизированных ИИ-моделей

Компания Nvidia представила микросервис NIM, входящий в платформу Nvidia AI Enterprise 5.0 и предназначенный для оптимизации запуска различных популярных моделей ИИ от Nvidia и её партнёров. Nvidia NIM позволяет развёртывать ИИ-модели в различных инфраструктурах: от локальных рабочих станций до облаков.

Предварительно созданные контейнеры и Helm Chart'ы с оптимизированными моделями тщательно проверяются и тестируются на различных аппаратных платформах Nvidia, у поставщиков облачных услуг и на дистрибутивах Kubernetes. Это обеспечивает поддержку всех сред с ускорителями Nvidia и гарантирует, что компании смогут развёртывать свои приложения генеративного ИИ где угодно, сохраняя полный контроль над своими приложениями и данными, которые они обрабатывают. Разработчики могут получить доступ к моделям посредством стандартизированных API, что упрощает разработку и обновление приложений.

 Источник изображений: NVIDIA

Источник изображений: NVIDIA

NIM также может использоваться для оптимизации исполнения специализированных решений, поскольку не только использует Nvidia CUDA, но и предлагает адаптацию для различных областей, таких как большие языковые модели (LLM), визуальные модели (VLM), а также модели речи, изображений, видео, 3D, разработки лекарств, медицинской визуализации и т.д. NIM использует оптимизированные механизмы инференса для каждой модели и конфигурации оборудования, обеспечивая наилучшую задержку и пропускную способность и позволяя более просто и быстро масштабироваться по мере роста нагрузок.

В то же время NIM позволяет дообучить и настроить модели на собственных данных, поскольку можно не только воспользоваться облачными API Nvidia для доступа к готовым моделями, но и самостоятельно развернуть NIM в Kubernetes-средах у крупных облачных провайдеров или локально, что сокращает время разработки, сложность и стоимость подобных проектов и позволяет интегрировать NIM в существующие приложения без необходимости глубокой настройки или специальных знаний.

Постоянный URL: http://servernews.ru/1101874
19.03.2024 [02:16], Владимир Мироненко

Nvidia AI Enterprise 5.0 предложит ИИ-микросервисы, которые ускорят развёртывание ИИ

Nvidia представила свежую версию платформы для работы с ИИ-приложениями Nvidia AI Enterprise 5.0, которая включает микросервисы на базе загружаемых программных контейнеров для быстрого развёртывания приложений генеративного ИИ. Nvidia отметила, что уже микросервисы адаптируются ведущими поставщиками ПО и платформ кибербезопасности, а все функции AI Enterprise 5.0 вскоре будут доступны в облачных маркетплейсах AWS, Google Cloud, Microsoft Azure и Oracle Cloud.

Микросервисы позиционируются компанией как эффективный инструмент для создания разработчиками современных корпоративных приложений в глобальном масштабе. Работая прямо в браузере, разработчики могут используют для создания приложений облачные API. Nvidia AI Enterprise 5.0 теперь включает предназначенные для развёртывания моделей ИИ микросервисы NIM и микросервисы CUDA-X. Сюда входит и Nvidia cuOpt, ИИ-микросервис для задачи логистики, который позволяет значительно ускорить оптимизации маршрута и расширить возможности динамического принятия решений, снижая затраты, экономя время и позволяя сократить выбросы CO2.

 Источник изображения: Nvidia

Источник изображения: Nvidia

NIM оптимизирует инференс-нагрузки для различных популярных моделей ИИ от Nvidia и партнёров. Используя ПО Nvidia для инференса, включая Triton Inference Server, TensorRT и TensorRT-LLM, NIM позволяет сократить развёртывание моделей с недель до минут и вместе с тем обеспечивает безопасность и управляемость в соответствии с отраслевыми стандартами, а также совместимость с инструментами управления корпоративного уровня. В настоящее время компания работает над расширением возможностей AI Enterprise.

С выходом версии Nvidia AI Enterprise 5.0 платформа получила ряд дополнений. В частности, она теперь включает Nvidia AI Workbench, набор инструментов для разработчиков, обеспечивающих быструю загрузку, настройку и запуск проектов генеративного ИИ. ПО теперь общедоступно и поддерживается Nvidia. Nvidia AI Enterprise 5.0 также теперь поддерживает платформу Red Hat OpenStack. Кроме того, в Nvidia AI Enterprise 5.0 расширена поддержка широкого спектра новейших ускорителей Nvidia, сетевого оборудования и ПО для виртуализации.

Постоянный URL: http://servernews.ru/1101867
19.03.2024 [01:40], Сергей Карасёв

NVIDIA запустила облачную платформу Quantum Cloud для квантово-классического моделирования

Компания NVIDIA объявила о запуске платформы облачных микросервисов Quantum Cloud, которая поможет учёным и разработчикам проводить исследования в сфере квантовых вычислений для различных областей, включая химию, биологию и материаловедение.

В основу Quantum Cloud легла NVIDIA CUDA Quantum — открытая платформа, предназначенная для интеграции и программирования CPU, GPU и квантовых процессоров (QPU). Она даёт возможность выполнять сложные симуляции квантовых схем.

На базе микросервисов Quantum Cloud пользователи смогут непосредственно в облаке создавать и тестировать новые квантовые алгоритмы и приложения. Это могут быть, в частности, гибридные квантово-классические системы. Утверждается, что Quantum Cloud обладает развитыми возможностями и поддерживает интеграцию стороннего ПО для ускорения научных исследований.

 Источник изображения: NVIDIA

Источник изображения: NVIDIA

В состав Quantum Cloud входит компонент Generative Quantum Eigensolver, разработанный в сотрудничестве с Университетом Торонто: он использует большие языковые модели (LLM), позволяющие квантовому компьютеру быстрее находить энергию основного состояния молекулы. Интеграция решений израильского стартапа Classiq помогает исследователям создавать большие и сложные квантовые программы, а также проводить глубокий анализ квантовых схем. В свою очередь, инструмент QC Ware Promethium решает сложные задачи квантовой химии, такие как молекулярное моделирование.

«Квантовые системы представляют собой следующий революционный рубеж в сфере вычислений. Quantum Cloud устраняет барьеры на пути изучения этой преобразующей технологии и позволяет любому учёному в мире использовать возможности квантовых вычислений и воплощать свои идеи в реальность», — говорит Тим Коста (Tim Costa), руководитель NVIDIA по направлению HPC и квантовых вычислений.

Постоянный URL: http://servernews.ru/1101847
19.03.2024 [01:37], Сергей Карасёв

NVIDIA и Siemens внедрят генеративный ИИ в промышленное проектирование и производство

Компании NVIDIA и Siemens сообщили о расширении сотрудничества с целью внедрения иммерсивной визуализации и генеративного ИИ в промышленное проектирование и производство. В частности, Siemens интегрирует новый программный интерфейс NVIDIA Omniverse Cloud API в свою платформу Xcelerator.

Напомним, Omniverse Cloud представляет собой комплексный пакет облачных сервисов, позволяющих проектировать, публиковать, эксплуатировать и тестировать приложения метавселенной вне зависимости от местонахождения. В свою очередь, Xcelerator — интегрированный пакет ПО и сервисов для разработки приложений.

NVIDIA и Siemens совмещают платформы Omniverse и Xcelerator, выводя промышленную автоматизацию на новый уровень. Партнёры объединяют обширную промышленную экосистему Xcelerator и физически точный механизм создания виртуального мира в реальном времени с поддержкой ИИ. Это позволяет создавать точные реалистичные цифровые двойники.

В рамках сотрудничества Siemens, в частности, интегрирует NVIDIA Omniverse Cloud API в состав Teamcenter X (входит в Xcelerator). Облачная система Teamcenter X предоставляет пользователям безопасный доступ к данным управления жизненным циклом изделия (PLM) из любой точки мира, с любого устройства и в любое время. Благодаря использованию API Omniverse могут быть ускорены различные рабочие процессы при создании цифровых двойников, такие как изменение условий освещения, применение тех или иных материалов и пр.

 Источник изображения: NVIDIA

Источник изображения: NVIDIA

Отмечается, что традиционно компании в значительной степени полагались на физические прототипы при реализации крупномасштабных промышленных проектов. Такой подход является дорогостоящим, ограничивает инновации и замедляет время выхода решений на рынок. Совместная инициатива Siemens и NVIDIA позволяет устранить указанные препятствия путём создания фотореалистичных цифровых двойников, учитывающих физику реального мира. Это означает, что такие компании, как HD Hyundai (занимается судостроением, тяжёлым оборудованием и машиностроением), могут унифицировать и визуализировать сложные инженерные проекты непосредственно в Teamcenter X.

В частности, API USD Query позволяет пользователям Teamcenter X перемещаться и взаимодействовать с физически точными объектами, тогда как API USD Notify обеспечивает автоматическое обновление дизайна и сцен в режиме реального времени. В дальнейшем Siemens планирует внедрить технологии NVIDIA и в другие продукты Xcelerator.

Постоянный URL: http://servernews.ru/1101887
19.03.2024 [01:06], Сергей Карасёв

SAP и NVIDIA ускорят внедрение генеративного ИИ в корпоративные приложения

Компании NVIDIA и SAP объявили о расширении сотрудничества с целью ускорения внедрения генеративного ИИ в корпоративном секторе. Стороны намерены совместно развивать платформу SAP Business AI, включая масштабируемые приложения, специфичные для бизнес-сферы.

Речь, в частности, идёт об облачных решениях SAP. Кроме того, будут развиваться функции генеративного ИИ в составе помощника Joule, который был представлен осенью прошлого года. Его планируется интегрировать практически во все программные продукты SAP для упрощения процесса работы и оптимизации выполнения различных задач.

Отмечается, что ИИ-помощник Joule следующего поколения может быть развёрнут на площадке гиперскейлеров или в собственном облаке SAP. Он поможет клиентам раскрыть потенциал своего бизнеса, автоматизируя трудоёмкие задачи и быстро анализируя критически важные корпоративные данные. Кроме того, генеративный ИИ поможет ABAP-разработчикам.

 Источник изображения: pixabay.com

Источник изображения: pixabay.com

В рамках партнёрства SAP будет использовать инструменты NVIDIA для точной настройки больших языковых моделей (LLM) для конкретных сценариев развёртывания. SAP и NVIDIA планируют представить новые интегрированные ИИ-возможности к концу 2024 года. Они затронут такие продукты, как SAP Datasphere, SAP Business Technology Platform (SAP BTP) и пр. SAP планирует задействовать облачный ИИ-сервис NVIDIA DGX Cloud AI, программное обеспечение NVIDIA AI Enterprise и базовые модели NVIDIA.

В целом, SAP и NVIDIA изучают более 20 вариантов использования генеративного ИИ, в том числе для упрощения и улучшения цифровой трансформации. Это, в частности, автоматизация планирования ресурсов предприятия с помощью интеллектуального сопоставления счетов в SAP S/4HANA Cloud, улучшение сценариев использования ресурсов с помощью SAP SuccessFactors и др.

Постоянный URL: http://servernews.ru/1101886
16.03.2024 [21:51], Сергей Карасёв

Глава Broadcom: изменения в политике VMware вызывают беспокойство у клиентов и партнёров

Генеральный директор Broadcom Хок Тан (Hock Tan), по сообщению The Register, дал комментарии по поводу новой политики, реализуемой в отношении бизнеса VMware. Напомним, этого разработчика средств виртуализации Broadcom приобрела в ноябре 2023 года: сумма сделки составила $69 млрд.

После завершения слияния структура VMware изменена с формированием четырёх ключевых подразделений. Broadcom отменила бессрочные лицензии, перевела все продукты на подписную схему, а ассортимент подвергся радикальному сокращению. В частности, прекращено распространение бесплатных версий гипервизора vSphere ESXi 7.x/8.x. Параллельно упразднены скидки и изменён подход к взаимодействию с партнёрами. Всё это породило недовольство со стороны ряда клиентов, некоторые из которых начали изучать возможность перехода на альтернативные решения.

 Источник изображения: Broadcom

Источник изображения: Broadcom

Господин Тан заявляет, что изменения направлены на ускорение инноваций, более эффективное удовлетворение потребностей клиентов и упрощение бизнес-операций. Кроме того, как ожидается, новая политика поможет повысить прибыль и расширить возможности партнёров. Вместе с тем глава Broadcom признаёт, что столь значительная трансформация вызвала беспокойство у клиентов.

«Хотя предстоит ещё много работы, мы добились существенного прогресса, создав ведущую в мире компанию в области инфраструктурных технологий. С момента завершения сделки мы действовали решительно, чтобы повысить ценность для заказчиков. Конечно, мы понимаем, что такой объём изменений по понятным причинам вызвал некоторое беспокойство среди наших клиентов и партнёров», — отметил Тан.

Broadcom разделила все продукты на два направления: VMware Cloud Foundation (VCF) и VMware vSphere Foundation (VVF). Господин Тан говорит о преимуществах использования такого подхода, обещая выделить $1 млрд на исследования и разработки и подчёркивая, что Broadcom вдвое снизила цену подписки. Прашант Шеной (Prashanth Shenoy), вице-президент по маркетингу облачных платформ, инфраструктуры и продуктов VCF, также заявлял, что клиенты, использующие комплексное решение VCF, смогут сэкономить до половины затрат. Однако для тех клиентов, которые использовали только vSphere, расходы, напротив, увеличатся.

Постоянный URL: http://servernews.ru/1101827
15.03.2024 [23:15], Владимир Мироненко

Amazon и Microsoft заблокируют 20 марта облачные сервисы для клиентов из России

Microsoft разослала клиентам в России уведомление о том, что 20 марта прекратит подписки «на определённое программное обеспечение для управления или проектирования (включая облачные решения) для организаций, зарегистрированных в России», сообщила в своём Telegram-канале вице-президент по инвестициям Softline Елена Волотовская. По факту это может означать полное отключение доступа к облачным решениям, отметила она, добавив, что аналогичные уведомления получили российские клиенты Amazon.

 Источник: t.me/volotovskayaelena

Источник: t.me/volotovskayaelena

В письме Microsoft сообщается, что решение было принято в связи со вступлением с 20 марта в силу санкций ЕС в отношении России. «Microsoft должна прекратить действие этих подписок к 20 марта 2024 года, до будущих указаний ЕС, которые изменят это решение, или общего или специального разрешения от регулирующих органов ЕС. После 20 марта 2024 года вы не сможете получить доступ к этим продуктам или услугам Microsoft, а также к любым данным, хранящимся в них», — указано в документе.

 Источник изображения: ГК Softline

Источник изображения: ГК Softline

В связи с этим компания Softline рекомендовала российским компаниям, которые до сих пор пользуются услугами этих компаний, в оперативном порядке сделать резервное копирование данных со всех облачных сервисов Microsoft, Amazon и Google, в т.ч. на местах пользователя. Компания также создала информационный канал, где заказчики иностранных облачных решений смогут найти ответы и оперативно проконсультироваться по проблемам, которые могут возникнуть с 20 марта 2024 года.

Некоторые другие игроки оперативно отреагировали на сложившуюся ситуацию. Так, в TrueConf сообщили о решении открыть горячую линию и начать предоставлять бесплатные лицензии на сервер ВКС и корпоративный мессенджер TrueConf Server всем организациям, срочно ищущим замену решениям Microsoft Teams и Skype for Business. Похожее предложение есть и у DION.

UPD 16.03.2024: появились уточнения относительно того, что будет заблокировано Microsoft — Azure (в том числе Azure Stack) и все компоненты Microsoft 365. Кроме того, возможна деактивация развёрнутых локально Microsoft Office, SQL Server, BizTalk Server, System Center, Visual Studio. Windows Server и клиентские Windows, вероятно, затронуты не будут.

Постоянный URL: http://servernews.ru/1101812
15.03.2024 [16:42], Андрей Крупин

Sitronics Group представила новый релиз платформы виртуализации

Компания Sitronics Group сообщила о выпуске обновлённой платформы виртуализации собственной разработки.

Созданный Sitronics Group программный комплекс построен на базе гипервизора KVM, включает единую среду доступа, а также инструменты для создания и управления виртуальными машинами, хранилищем и сетями. Решение поддерживает работу с различными гостевыми операционными системами, оснащено средствами мониторинга производительности и состояния виртуальных машин, а также их компонентов. Платформа зарегистрирована в реестре российского программного обеспечения и полностью подходит для задач импортозамещения.

 Источник изображения: sitronics.com

Источник изображения: sitronics.com

В обновлённой версии продукта переработаны ролевая модель доступа и управления системой, пользовательский интерфейс, добавлена возможность создания и управления виртуальными сетями в режиме распределённого виртуального коммутатора. Благодаря последней функции IT-администраторы могут получать, распределять, добавлять или выводить входящие порты хостов, создавать и распределять виртуальную сеть между виртуальными машинами, сохранять и управлять конфигурациями сетей, подсетей, групп портов, адресов и маршрутизаторов, назначать и настраивать виртуальные коммутаторы в рамках отдельных вычислительных кластеров, чтобы создать отказоустойчивое сетевое соединение для виртуальных машин и хранилищ.

Ещё одним нововведением стала возможность гибкого управления снимками системы, включая их объединение, копирование и удаление. Данный инструментарий позволяет управлять состоянием виртуальных машин в определённой временной точке не только с помощью встроенных средств резервного копирования.

Постоянный URL: http://servernews.ru/1101787
15.03.2024 [16:22], Руслан Авдеев

Oracle Cloud запустит облачный регион в Марокко

Компания Oracle развернёт облачный регион в Марокко. По данным Datacenter Dynamics, проект будет реализован при сотрудничестве с оператором ЦОД N+One, облачная инфраструктура гиперскейлера разместится в одном из дата-центров компании. Всего Oracle намерена увеличить свой парк ЦОД на 100 шт.

Oracle открыла свой первый облачный регион в Африке (Йоханнесбург, Южная Африка) в 2022 году, а в феврале 2024 анонсировала планы создания региона в Найроби (Кении). Проект в Марокко пока не отображается в списке ожидаемых локаций на сайте самой компании. Тем не менее, он уже утверждён. Сотрудничество с N+One даёт Oracle определённый «иммунитет» — размещение облака на мощностях компании обеспечит IT-гиганту соблюдение марокканских требований к суверенитету данных.

 Источник изображения: Philipp Klausner/unsplash.com

Источник изображения: Philipp Klausner/unsplash.com

Как заявляют в N+One, соглашение позволит обеспечить безопасность информации и достичь соответствия местным правовым нормам, включая т.н. Закон № 05-20, определяющий требования к информационным системам, их защите и уровню обслуживания. В компании добавляют, что сотрудничество с Oracle стало гарантией уверенности в будущем и драйвером роста N+One.

Недавно N+One анонсировала планы по расширению двух ЦОД в провинциях Нуасер и Сеттат, ёмкость которых к концу года вырастет на 2 МВт. Всего в Марокко у компании будет уже 8 МВт ёмкостей. В дальнейшем N+One намерена построить три дата-центра в Дакаре (Сенегал), также рассматривается возможность строительства ЦОД в Нигерии. В 2023 году африканская частная инвестиционная компания African Infrastructure Investment Managers (AIIM) выделила N+One $90 млн на расширение кампусов.

Постоянный URL: http://servernews.ru/1101783
15.03.2024 [08:35], Сергей Карасёв

TrueConf представила технологию распределённых видеоконференций для снижения нагрузки на аппаратные ресурсы и каналы связи

Российская компания TrueConf анонсировала технологию «распределённых конференций», которая, как утверждается, на сегодняшний день не имеет аналогов на рынке. Система даёт возможность значительно снизить нагрузку на сетевые каналы и CPU серверов в инфраструктуре организаций, а также увеличить количество активных участников виртуальных встреч.

Технология позволяет распределять нагрузку между серверами видеоконференцсвязи (ВКС) заказчиков. Система выполнена на базе автономного транспортного протокола, разработанного специалистами TrueConf. Сумма инвестиций в проект превысила 100 млн руб.

Технология станет доступна пользователям TrueConf Enterprise 1.6. Эта платформа подходит для крупных компаний с большим количеством филиалов и сотрудников. Обычно TrueConf Enterprise объединяет несколько географически распределённых автономных ВКС-систем, каждая из которых обеспечивает сотрудников мессенджером, видеоконференцсвязью и инструментами для совместной работы. При этом возможно бесшовное взаимодействие с помощью корпоративной адресной книги.

 Источник изображения: TrueConf

Источник изображения: TrueConf

При организации конференции, в которой принимают участие пользователи нескольких автономных систем TrueConf, все абоненты подключаются напрямую к системе организатора. В результате, создаётся большая нагрузка на сетевой канал и сервер, на котором развёрнута ВКС-система инициатора виртуальной встречи. С новой технологией распределённых видеоконференций нагрузка распределяется между всеми задействованными ВКС-серверами.

Теперь абоненты автоматически подключаются к тем системам, на которых они авторизованы, а обмен данными происходит только между ВКС-системами. Таким образом, сокращается потребность в ресурсах, а нагрузка на каналы связи между филиалами может быть снижена в 10 раз. Например, при одновременном участии 2500 сотрудников в параллельно идущих конференциях нагрузка на каналы связи в обычном режиме могла бы достигать примерно 2 Гбит/c. Технология распределённых конференций в таком случае позволяет уменьшить показатель до 250 Мбит/с. Число активных участников конференций при этом может составлять 2000 и более.

Постоянный URL: http://servernews.ru/1101733
Система Orphus