Корпорация Intel обнародовала результаты тестирования ускорителя Habana Gaudi2 в бенчмарке GPT-J (входит в MLPerf Inference v3.1), основанном на большой языковой модели (LLM) с 6 млрд параметров. Полученные данные говорят о том, что это изделие может стать альтернативой решению NVIDIA H100 на ИИ-рынке.

В частности, в тесте GPT-J ускоритель H100 демонстрирует сравнительно небольшое преимущество в плане производительности по сравнению с Gaudi2 — ×1,09 в серверном режиме и ×1,28 в оффлайн-режиме. При этом Gaudi2 превосходит ускоритель NVIDIA A100 в 2,4 раза в режиме server и в 2 раза в оффлайн-режиме.

Кроме того, решение Intel опережает H100 на моделях BridgeTower. Этот тест обучен на 4 млн изображений. Говорится, что точность Visual Question Answering (VQAv2) достигает 78,73 %. При масштабировании модель имеет ещё более высокую точность — 81,15 %, превосходя модели, обученные на гораздо более крупных наборах данных.

Источник изображений: Intel

Тест GPT-J говорит о конкурентоспособности Habana Gaudi2. При онлайн-обработке запросов этот ускоритель достигает производительности 78,58 выборки в секунду, а в автономном режиме — 84,08 выборки в секунду. Для сравнения: у NVIDIA H100 эти показатели равны соответственно 85,57 и 107,33 выборки в секунду.

В дальнейшем Intel планирует повышать производительность и расширять охват моделей в тестах MLPerf посредством регулярных обновлений программного обеспечения. Но Intel всё равно остаётся в догоняющих — NVIDIA подготовила открытый и бесплатный инструмент TensorRT-LLM, который не только вдвое ускоряет исполнение LLM на H100, но и даёт некоторый прирост производительности и на старых ускорителях.

Компания «Интеллектуальная безопасность» сообщила о выпуске нового релиза актуальной на сегодняшний день версии платформы Security Vision 5.

Security Vision позволяет роботизировать до 95 % программно-технических функций оператора информационной безопасности. Разработанные на базе платформы продукты обеспечивают решение таких задач, как:

• создание единого ситуационного центра кибербезопасности;
• выявление атак и инцидентов кибербезопасности на ранних стадиях за счёт анализа событий, поступающих от различных средств защиты информации;
• консолидация оперативной информации и её анализ в реальном времени для расследования инцидентов кибербезопасности и принятия управленческих решений;
• сокращение времени реагирования за счёт автоматизации ключевых процедур и сценариев реагирования, роботизации функций оператора информационной безопасности;
• автоматическое обеспечение контроля соответствия требованиям регуляторов, национальным и международным стандартам.

При подготовке к выпуску нового релиза Security Vision 5 особое внимание разработчиками было уделено разделению возможностей пользователей и настройкам ролевой модели. Были улучшены инструменты выгрузки данных из системы, добавлены средства динамического изменения контента, упрощена доступность данных об отдельных объектах и рабочих процессах, а также расширены возможности визуализации, аналитики и интеграции платформы со сторонними решениями при помощи коннекторов.

Платформа Security Vision зарегистрирована в реестре отечественного ПО как рекомендованная для закупки российскими компаниями и государственными структурами.

Провайдер LinxCloud в партнёрстве с компанией SharxDC объявил о запуске сервиса по построению частной облачной инфраструктуры «под ключ» на базе отечественной платформы виртуализации SharxBase. Услуга, как ожидается, заинтересует государственных заказчиков, крупные промышленные предприятия, банки, страховые организации и пр.

Гиперконвергентная платформа SharxBase реализована с применением открытого гипервизора KVM. SharxBase внесена в реестр отечественного ПО и имеет действующий сертификат ФСТЭК. Партнёрство позволит компании SharxDC расширить клиентскую базу. В свою очередь, LinxCloud сможет проектировать и запускать частные облака с применением отечественных решений в соответствии с актуальными запросами крупного бизнеса.

Источник изображения: Linxdatacenter

В рамках сервиса LinxCloud по созданию частного облака заказчики получат защищенные виртуализированные вычислительные мощности на полностью изолированном от других пользователей оборудовании. Предусмотрена панель самообслуживания с возможностью квотирования и мониторинга потребляемых ресурсов. Услуга предоставляется на базе дата-центра Linx с подключением всех необходимых каналов связи. При необходимости может быть организован выделенный канал с инфраструктурой заказчика. Возможно размещение облака непосредственно на площадке заказчика.

Некоммерческое партнёрство разработчиков программного обеспечения «Руссофт» сообщает о том, что инвестиционная активность в сфере разработки софта в России значительно снизилась в связи со сложившейся геополитической обстановкой и неопределённостью дальнейшего развития рынков.

По итогам 2022 года, согласно результатам ежегодного исследования, вложения на рынке ПО в РФ оказались на уровне 120 млрд руб. — это на 48,5 % меньше по сравнению с результатом за предыдущий год. В долларовом исчислении инвестиции сократились на 44,5 % — до $1,75 млрд.

Источник изображения: «Руссофт»

Вместе с тем доля внешних инвестиций возросла с 26,4 % до 51,3 %, хотя в абсолютном выражении объём такого финансирования остался неизменным — 61 млрд руб. (в долларовом выражении он увеличился на 8,2 %, до $890 млн). Потребность в инвестициях в индустрию ПО в 2022 году была удовлетворена на 63,4 %, что несколько больше, чем годом ранее, когда показатель равнялся 58 %.

В исследовании говорится, что в прошлом году в целом произошло существенное сокращение объёма и привлечения инвестиций, а также потребности в них. Но нужно учитывать, что это сокращение зафиксировано после мощного подъёма инвестиционной активности в 2021-м, когда общий объём вложений в софтверной индустрии составил 232 млрд руб. ($3,15 млрд). Это в 2,4 раза больше, чем в 2020 году. На внешние источники финансирования в 2021 году приходилось 26,4 %, тогда как годом ранее было зафиксировано значение на уровне 22 %. В абсолютных величинах такие источники обеспечили в 2021 году 61 млрд руб. вложений ($0,83 млрд), что в 2,9 раз больше, чем в 2020-м.

Согласно прогнозам, потребность в инвестициях по итогам 2023 года увеличится в 1,7 раза (на 71 %), но её удастся удовлетворить только на 49,5 %. По оценкам, общий объём инвестиций в годовом исчислении может увеличиться на 32 %, а объём внешнего финансирования — на 56 %.

В период до 2030 года российский рынок биллинговых систем (ПО для тарификации, учёта движения средств на счёте пользователя и выставления счета за оказание услуг), обрушившийся в два раза в 2022 году, вырастет более чем в 3 раза — с 4,7 млрд до 14,4 млрд руб., сообщили «Ведомости» со ссылкой на исследование Strategy Partners. Среднегодовой темп роста рынка до 2030 г. составит 22,4 %, прогнозирует аналитическая компания.

В исследовании учитывался спрос на биллинговые системы операторов связи, хостинга, облачных провайдеров, банков и финансовых организаций, а также электронной коммерции. Отмечается, что в России внедрено большое количество решений собственной разработки и узких нишевых решений, которые совокупно составляют около 85–90 % рынка. Согласно Strategy Partners, в прошлом году спрос на биллинг сместился в сторону open source решений, а у отечественных компаний доля рынка увеличилась с 42 % в 2022 г. до 59 % в 2023 г.

Фото: Ömer Haktan Bulut / Unsplash

Опрошенные «Ведомостями» эксперты отмечают несколько особенностей рынка. Так, автоматизированные банковские системы (АБС) в основном опираются на отечественное ПО, которое практически исключительно базируется на платформах Oracle. В числе крупнейших поставщиков АБС называют ЦФТ, «Диасофт», R-Style, «Форс» и «Инверсию». Иностранные АБС в крупнейших банках не прижились. Последние либо выкупили исходные коды для создания собственного решения, либо выбрали отечественные продукты.

Экперты ожидают, что рост рынка биллинга во многом обеспечит развитие отечественной облачной инфраструктуры. В этом сегменте распространены Onyma, BillManager и самописные системы. По словам представителя ДРТ (бывшая Deloitte), компании телеком-сектора являются одними из ключевых пользователей биллинговых систем. Многие из них сейчас развивают направления, связанные с облачными вычислениями, отметил он.

Компания iBase Technology представила одноплатный компьютер IB838, предназначенный для создания систем промышленной автоматизации, встраиваемых устройств, автомобильных компьютеров и пр. В основу новинки положена аппаратная платформа Intel Alder Lake-N (Core i3).

Решение имеет габариты 102 × 147 мм. Предусмотрен один слот SO-DIMM для модуля оперативной памяти DDR5 ёмкостью до 16 Гбайт. Имеются порт SATA-3 для накопителя, разъёмы M.2 E-key и B-key.

Источник изображения: iBase Technology

В оснащение входит двухпортовый сетевой контроллер Intel I226V стандарта 2.5GbE. Аудиоподсистема выполнена на кодеке ALC888S. Есть три порта USB 3.2 Type-A и один порт USB 3.2 Type-C, два гнезда RJ-45 для сетевых кабелей, интерфейс DP и последовательный порт. Через разъёмы на плате можно задействовать два интерфейса USB 2.0 и три последовательных порта.

Одноплатный компьютер может эксплуатироваться в температурном диапазоне от 0 до +60 °C. Опционально допускается установка модуля 5G. Реализованы средства обеспечения безопасности fTPM (Firmware-based Trusted Platform Module). Напряжение питания может варьироваться в диапазоне от 9 до 36 В.

Компания «МегаФон» объявила о регистрации своего представительства в Кыргызской Республике. Как сообщает пресс-служба оператора, работа бишкекского офиса начнётся уже в следующем месяце. Основной акцент будет сделан на предоставлении услуг корпоративным и государственным клиентам. До конца текущего года в стране планируется старт нескольких пилотных проектов, в том числе в социальной сфере и промышленности.

В компании подчеркнули, что «МегаФон» имеет опыт реализации проектов за пределами России, включая помощь крупным предприятиям и городским властям. «МегаФон» уже участвовал в цифровизации промышленного сектора, структур ЖКХ, социального сектора, медицины, ресурсодобывающей отрасли и транспортной инфраструктуры с использованием разнопрофильных телеком-технологий, от фиксированного интернета до частных сетей LTE и NB-IoT в соответствии с существующими отраслевыми стандартами.

Источник изображения: "МегаФон"

В частности, удобным решением для заказчиков регионального уровня является платформа «МегаФон Экология», прошедшая испытания в нескольких российских городах и, например, применяемая в проектах экомониторинга «Безопасный город». Также компания предожит создание безопасных частных сетей LTE на промышленных объектах, которые позволяют внедрять системы Интернета вещей и задействовать цифровую радиосвязь «МегаФон Транкинг», дополнительно поддерживающую и цифровую геолокацию пользователей и объектов.

Объем российского рынка ЦОД в 2022 году составил 89,1 млрд руб., что на 28,1 % больше в сравнении с 2021 годом. Об этом рассказал ведущий консультант iKS-Consulting Станислав Мирин.

Количество стойко-мест в коммерческих дата-центрах России по итогам 2022 года составило 58,3 тыс. (прирост год к году 10,8 %), а по итогам 2023 года, согласно прогнозам, достигнет 70,3 тыс. (прирост 20,7 %). Ожидается, что в Москве к концу полугодия будет уже 53,3 тыс. стойко-мест (42,3 тыс. годом ранее), в Петербурге — 7,78 тыс. (7,24 тыс. годом ранее), а в регионах — 9,2 тыс. (8,71 тыс. годом ранее).

На первое место среди сервисов, предоставляемых дата-центрами, вышли облака (55 %, рост на 4 % в сравнении с годом ранее), а традиционная услуга колокации, наоборот, показала падение с 44 % по итогам 2021 года до 40 %. Об этом говорят и участники рынка. Так, в Selectel в 2022 году спрос на облачные услуги в Новосибирске вырос более чем в два раза по сравнению с предыдущим годом. Вместе с тем отмечается, что рынок всё больше концентрируется в руках наиболее крупных игроков. Абсолютным лидером по количеству стойко-мест является РТК-ЦОД/Ростелеком, который крупнее двух своих последователей в лице IXcellerate и DataPro вместе взятых.

Источник: iKS-Consulting

Драйверами российского рынка ЦОД iKS-Consulting называет переход на цифровые сервисы, рост объема хранимых и обрабатываемых данных. Также на развитие рынка влияют рост импортозамещения цифровых услуг и количества интернет-пользователей. Среди факторов, сдерживающих развитие, iKS-Consulting называет необходимость поддержки муниципальных властей. Участники рынка отмечают, что частично такая поддержка уже предоставляется. Так, в апреле 2023 года Совет по инвестициям Новосибирской области включил проект Alias Group (развивает инфраструктуру ЦОД в регионах в партнерстве с 3Data) по строительству дата-центра в число перспективных для региона и выделил под него земельный участок.

Молодая компания Axelera AI B.V. сообщила о начале поставок платформы Metis AI, разработанной специально для ускорения ИИ-задач на периферии. Стартап, основанный в 2021 году, получил финансирование на сумму более $50 млн. Чип Axelera основан на открытой архитектуре RISC-V. В базовом варианте платформа Metis AI обеспечивает производительность до 39,3 TOPS. Увеличив тактовую частоту, быстродействие можно довести до 48,16 TOPS.

Изделие предлагается в различных вариантах исполнения, включая карты расширения PCIe (FHHL), модули М.2 2280 и полноценные системы для задач машинного зрения. В частности, карты PCIe AI Edge доступны в версиях с одним и несколькими чипами с общей производительностью до 856 TOPS. Утверждается, что платформа Metis AI обладает высокой энергетической эффективностью — это важно при организации ИИ-вычислений на периферии.

Источник изображений: Axelera AI B.V.

Изделия Metis AI используют чипы Axelera Metis AIPU, содержащие четыре ядра для in-memory вычислений. Объём SRAM-кеша L1 составляет 16 Мбайт, кеша L2 — 32 Мбайт. Диапазон рабочих температур простирается от -40 до +85 °C. Гарантирована совместимость с Ubuntu 20.04/22.04 и Yocto. Разработчикам доступен набор инструментов Voyager SDK и фирменный компилятор TVM, который включает в себя средства оптимизации.

Модуль Axelera M.2 в формате 2280 наделён 512 Мбайт памяти LPDDR4x и одним чипом Axelera Metis AIPU. Энергоэффективность достигает 15 TOPS в расчёте на 1 Вт. Задействовано пассивное охлаждение; интерфейс подключения — PCIe 3.0 х4. Цена составляет €150.

В свою очередь, карты Axelera PCIe AI Edge доступны в версиях с одним (+1 Гбайт набортной RAM) и четырьмя чипами Axelera Metis AIPU: в первом случае быстродействие достигает 214 TOPS (INT8), во втором — 856 TOPS. Устройства выполнены в виде однослотовых карт с интерфейсом PCIe 3.0 х4 и PCIe 3.0 х16. Применена система активного охлаждения с вентилятором. Цена составляет около €200 и €500 соответственно.

Стартап Enfabrica, специализирующийся на разработке инфраструктурных решений в сфере ИИ, по сообщению ресурса SiliconAngle, провёл крупный раунд финансирования Series B и привлёк $125 млн. Enfabrica, основанная в 2020 году, вышла из режима скрытности в начале 2023-го на фоне ИИ-бума. Раунд Series B проводится под руководством Atreides Management с участием Sutter Hill Ventures, IAG Capital Partners, Liberty Global Ventures, NVIDIA, Valor Equity Partners и Alumni Ventures.

Стартап заявляет, что его технологии могут помочь в решении критически важных проблем ввода-вывода и масштабирования памяти, которые становятся все более актуальными по мере стремительного роста размера ИИ-моделей. Enfabrica предлагает CXL-платформу Accelerated Compute Fabric (ACF) на базе ASIC собственной разработки. Платформа позволяет напрямую подключать другу к другу любую комбинацию GPU, CPU, DDR5 CXL и SSD, а также предоставляет 800GbE-интерконнект.

Источник изображения: Enfabrica

Утверждается, что заказчики могут сократить затраты на вычисления до 50 % при работе с большими языковыми моделями (LLM) и до 75 % в случае рекомендательных систем на основе машинного обучения. В целом, заказчикам обещаны двукратное увеличение производительности на доллар, повышение пропускной способности в 10 раз по сравнению со стандартными сетевыми картами и четырёхкратное улучшение производительности на ватт затрачиваемой энергии.