Dell объявила о расширении портфеля решений Dell Generative AI Solutions с целью поддержки компаний в трансформации методов работы с генеративным искусственным интеллектом (ИИ). Первоначально в разработанном совместно с NVIDIA решении Dell Validated Design for Generative AI основное внимание уделялось обучению ИИ, но теперь продукт также поддерживает тюнинг моделей и инференс. Это, в частности, означает, что у клиентов есть возможность развёртывать модели в собственных ЦОД, передаёт StorageReview.

Dell Validated Design for Generative AI with NVIDIA for Model Customization предлагает предварительно обученные модели, которые извлекают знания из данных компания без необходимости создания моделей с нуля и обеспечивают безопасность информации. Благодаря масштабируемой схеме тюнинга у организаций теперь есть множество способов адаптировать модели генеративного ИИ для выполнения конкретных задач с использованием своих собственных данных.

Изображения: Dell (via StorageReview)

Инфраструктура базируется на GPU-серверах Dell PowerEdge XE9680 и PowerEdge XE8640 с ускорителями NVIDIA, стеком NVIDIA AI Enterprise и фирменным ПО Dell. Компания позиционирует это как идеальное решение для компаний, которые хотят создавать генеративные ИИ-модели, сохраняя при этом безопасность своих данных на собственных серверах. Для хранения данных предлагаются различные конфигурации Dell PowerScale и Dell ObjectScale. Доступ к этой инфраструктуре также возможен по подписке в рамках Dell APEX.

Dell также расширила портфолио профессиональных сервисов. Так, появились сервисы по подготовке данных (Data preparation Services), разработанные специально для предоставления клиентам тщательно подготовленных, очищенных и корректно отформатированных наборов данных. А с помощью сервисов по внедрению (Dell Implementation Services) для компании в короткие сроки создадут полностью готовую платформу генеративного ИИ, оптимизированную для инференса и подстройки моделей.

Dell также предлагает новые образовательные сервисы (Education Services) для клиентов, которые хотят обучить своих сотрудников современным ИИ-технологиям. Наконец, было объявлено о партнёрстве Dell и Starburst, в рамках которого Dell интегрирует платформы PowerEdge и СХД с аналитическим ПО Starburst, чтобы помочь клиентам создать централизованное хранилище данных и легче извлекать необходимую информацию из своих данных.

Энди Турай (Andy Thurai), вице-президент и главный аналитик Constellation Research, сообщил в интервью SiliconANGLE, что наиболее мощные LLM, такие как GPT-4, обучаются в специально созданных облачных окружениях из-за их огромных размеров и требований к ресурсам. Вместе с тем некоторые компания ищут способы обучения своих собственных, гораздо меньших по размеру LLM в локальных средах. Турай отметил, что Dell потребуется время, чтобы добиться каких-либо успехов в «локализации» генеративного ИИ, поскольку настройка инфраструктуры, перемещение подгтовка данных — занятие не для слабонервных.

Как сообщается, решение Dell Validated Design for Generative AI with NVIDIA for Model Customization будет доступно глобально позже в октябре. Профессиональные сервисы появятся тогда же, но только в некоторых странах. А решение Dell для озера данных на базе Starburst станет глобально доступно в I половине 2024 года. Фактически новые решения Dell являются развитием совместной с NVIDIA инициативы Project Helix.

Британская компания NexGen Cloud, по сообщению ресурса Datacenter Dynamics, намерена инвестировать $1 млрд в проект AI Supercloud: речь идёт о развёртывании так называемого ИИ-супероблака в Европе. Создание платформы начнётся в текущем месяце. NexGen Cloud уже оформила заказы на оборудование на сумму приблизительно $576 млн. В полностью завершённом виде система объединит 20 тыс. ускорителей NVIDIA H100.

Завершение создания платформы запланировано на июнь 2024 года. Доступ к системе будет предоставляться через гиперстек NexGen Cloud. Ресурсы AI Supercloud будут доступны предприятиям и государственным заказчикам, которые должны оставаться в европейской юрисдикции. Предполагается, что супероблако позволит клиентам решать ресурсоёмкие задачи ИИ, оставаясь конкурентоспособными на глобальном рынке.

Источник изображения: NVIDIA

Проект финансируется благодаря партнёрству NexGen Cloud и Moore and Moore Investments Group (MMI) за счёт средств частных инвесторов. Отмечается, что NexGen Cloud является участником партнёрской сети NVIDIA. Компания, основанная в 2020 году, предоставляет услуги по модели «инфраструктура как сервис» (IaaS): заказчикам предлагаются высокопроизводительные решения для облачных вычислений на базе GPU.

Компания 6Estates, сингапурский провайдер ИИ-решений для корпоративных заказчиков, объявила о развёртывании первой системы NVIDIA DGX BasePOD на основе DGX H100. Кластер будет применяться для решения ресурсоёмких задач в области ИИ.

Фирма 6Estates, созданная на базе Национального университета Сингапура и Университета Цинхуа, специализируется на предоставлении предприятиям решений, использующих LLM. Кроме того, 6Estates является участником программы NVIDIA Inception по поддержке стартапов в области ИИ.

DGX BasePOD — это референсная архитектура, которая объединяет вычислительные мощности, сетевые инструменты, СХД, необходимое ПО и другие компоненты в интегрированную ИИ-инфраструктуру на основе NVIDIA DGX. 6Estates планирует использовать BasePOD на базе DGX H100 для своего нового предложения Model Solutions, которое даёт предприятиям возможность создавать персонализированные LLM и приложения для конкретных задач. Кроме того, 6Estates получит доступ к комплексному пакету фреймворков и ИИ-инструментов NVIDIA AI Enterprise.

Источник изображения: 6Estates

Используя DGX H100, 6Estates существенно сократит время обучения моделей и обеспечит более быстрое предоставление услуг Model Solutions корпоративным клиентам. Кластер также будет поддерживать существующие решения 6Estates в области ИИ, в частности, специализированную платформу, которая автоматизирует обработку и анализ неструктурированных документов без шаблонов, а также автоматизирует рабочие процессы для кредиторов и торговых компаний.

Компания Tachyum, разработавшая, по её утверждению, новый тип универсальных процессоров, сочетающих в себе свойства CPU, GPU и TPU заявила о первом крупном заказе на поставку этих чипов, известных под именем Prodigy. Процессоры будут использованы для создания HPC/ИИ-системы производительностью более 50 Эфлопс (точность не указана), а в ИИ-задачах и вовсе обещаны 8 Зфлопс.

Благодаря характеристикам Prodigy, новая система в 25 раз превзойдёт быстрейшие современные суперкомпьютеры, вошедшие в строй в этом году, а в области ИИ сможет использовать модели, превосходящие ChatGPT4 по сложности в 25 тыс. раз. Столь серьёзный прирост производительности, по словам разработчиков, обещает прорывы во многих научных и технических отраслях. Детали контракта, к сожалению, не разглашаются. Известно лишь, что компания-заказчик располагается в США.

Источник изображений здесь и далее: Tachyum

Как сказано в официальном пресс-релизе Tachyum, человеческий мозг состоит из примерно 100 млрд нейронов и 200 триллионов синаптических связей межу ними. Если принять одно такое соединение за несколько байт, полная имитация мозга потребует 100 Тбайт памяти. Компания говорит о системе с сотнями петабайт DRAM, что заведомо превзойдёт возможности мозга.

Начало работ над новым суперкомпьютером запланировано на 2024 год, в строй машина должна войти уже в 2025 году. Вот некоторые из её технических характеристик:

• 8 Зфлопс при обучении больших языковых моделей (LLM);
• 16 Зфлопс при обработке видео и изображений;
• Возможность вместить более 100 тыс. моделей PALM2 (530 млрд параметров) или 25 тыс. моделей ChatGPT4 (1,7 трлн параметров);
• Модернизируемая подсистема памяти объёмом сотни петабайт и флеш-хранилище объёмом порядка экзабайт;
• Четырёхпроцессорные узлы с водяным охлаждением и 400G-интерконнектом (RoCE) и возможностью модернизации до 800G.

В программной части предполагается использование нового типа данных Tachyum AI (TAI), обещающего выдающуюся эффективность именно в обработке видео и LLM. А универсальная природа процессора Prodigy должна сделать ЦОД на его основе более простым и требующим меньше разнообразного оборудования, что должно положительно сказаться как на стоимости постройки, так и на эксплуатационных расходах.

Напомним, что не так давно Tachyum объявила об изменении характеристик Prodigy: количество ядер было увеличено со 128 до 192, объём кеша вырос соответственно со 128 до 192 Мбайт. Были расширены также коммуникационные средства чипа: число трансиверов SerDes подросло с 64 до 96. Площадь кристалла при использовании 5-нм техпроцесса должна составить 600 мм².

Однако есть одно существенное «но»: несмотря на внушительные цифры производительности и заявления Tachyum, процессоры Prodigy существуют только на бумаге и в виде эмулируемой с помощью FPGA платформы с небольшим количеством ядер. Похоже, с их воплощением в кремний имеются проблемы. Остаётся надеяться, что они будут успешно решаться: демонстрация первых образцов Prodigy всё ещё запланирована на 2023 год.

Компания «Анлимитед Продакшен» сообщила о сертификации Федеральной службой по техническому и экспортному контролю программного комплекса eXpress по четвёртому уровню доверия.

Платформа eXpress представляет собой инструмент для коммуникаций в корпоративной среде. Решение поддерживает видеоконференции, обмен сообщениями и файлами, работу с электронной почтой, документами, календарём и различными встроенными сервисами. Программный комплекс поддерживает интеграцию с 70+ сторонними системами, такими как Active Directory, DLP, SIEM, а также содержит средства защиты данных и контроля доступа пользователей к конфиденциальной информации.

Источник изображения: express.ms

Четвёртый уровень сертификации ФСТЭК России является самым высоким уровнем доверия, предъявляемым к средствам защиты информации в информационных системах, не предназначенных для обработки сведений, составляющих государственную тайну.

Сертификат четвёртого уровня доверия допускает применение коммуникационной платформы eXpress на объектах критической информационной инфраструктуры первой категории, в автоматизированных системах управления технологическими и производственными процессами (АСУ ТП), государственных информационных системах первого класса защищённости и информационных системах персональных данных при обеспечении первого уровня защищённости обрабатываемой информации.

ИТ-интегратор «Систематика» (входит в «Национальную компьютерную корпорацию», НКК) разработал российскую аналитическую систему мониторинга бизнес-процессов предприятий класса process mining — Optimining. Финансирование проекта осуществлялось в рамках федерального проекта «Цифровые технологии» нацпрограммы «Цифровая экономика РФ».

Optimining — решение класса process mining для анализа и усовершенствования процессов. Система обеспечивает получение знаний о структуре и поведении процессов из журналов событий, создаваемых информационными системами. Решение предлагает набор инструментов для проведения глубокого анализа процесса и мониторинга процесса в режиме реального времени.

Источник изображения: gcs.ru

В 2021 году «Систематика» прошла конкурсный отбор проектов по разработке российских решений в сфере информационных технологий, организованном Российским фондом развития информационных технологий (РФРИТ). В мае 2022 года стороны подписали соглашение о предоставлении гранта. Летом 2023 года Федеральная служба по интеллектуальной собственности выдала свидетельство о государственной регистрации программы для ЭВМ Optimining.

До конца 2023 года «Систематика» намерена внести систему в Реестр отечественного ПО. В 2023–2025 гг. будут расширены функциональные возможности по настройке визуализации виджетов, включены поиск областей оптимизации процессов, симуляция работы шага процесса на базе исторических данных при различных настройках доступных ресурсов. Сейчас запущены несколько пилотных проектов по внедрению решения в компаниях.

Российская компания «Систэм Электрик» (Systeme Electric), созданная на базе российских и белорусских активов французской Schneider Electric, объявила о промежуточных результатах реализации инвестиционной программы по модернизации и повышению эффективности промышленных процессов на заводе «Потенциал» в Козьмодемьянске (Республика Марий Эл), где производится электроустановочная продукция.

В рамках соглашения об инвестиционном сотрудничестве, заключённом гендиректором «Систэм Электрик» Алексеем Кашаевым и главой Республики Марий Эл Юрием Зайцевым на Петербургском международном экономическом форуме в 2023 году, компания выделит до 2025 года на развитие завода 1,5 млрд руб.

Источник изображений: «Систэм Электрик»

В частности, на заводе уже запустили первый лазерный комплекс прецизионной гравировки, марки и резки, позволивший полностью автоматизировать маркировку деталей. В штамповочном цехе ввели в эксплуатацию новое оборудование для подготовки материалов, которое обеспечит высокую точность изготовления деталей, и запустили производство метчиков. В литьевом цехе новые автоматы помогут избежать царапин и дефектов на деталях. Также было обновлено оборудование на покрасочно-плёночном участке.

Кроме того, осуществлены запуск новой подстанция на 10 кВ с полной заменой наружных кабелей, ввод новых насосных станций, модернизация лаборатории технических испытаний. Также к концу 2023 года на заводе появится новый транспортный цех с очистными сооружениями для рециркуляции и экономии воды и закончится ремонт ряда производственных зданий.

Выполненные в рамках намеченной программы работы позволят увеличить объёмы, повысить качество и надёжность выпускаемой на заводе «Потенциал» электроустановочной продукции. Для обеспечения растущей потребности в квалицированных кадрах завод поддерживает учебные заведения, в том числе и через систему грантов. Помимо завода «Потенциал», в «Систэм Электрик» (Systeme Electric) входят «ЭлектроМоноблок» в Коммунаре, НТЦ «Механотроника» из Санкт-Петербурга, столичный «Инженерно-сервисный центр» и казанский «Центр инноваций».

В стремлении поддержать проект национальной программы «Цифровая образовательная среда», ООО «Базальт СПО», занимающаяся разработкой российских операционных систем на базе Linux, объявила о проведении промоакции для образовательных учреждений, в рамках которой предусмотрены поставки платформ «Альт Виртуализация» и «Альт СП». Подчёркивается, что ПО распространяется на льготных условиях, а поставленные решения получат бессрочные лицензии.

Всего, по данным разработчика, за минувшую пятилетку компания поставила около 165 тыс. лицензий в образовательные организации системы образования: более 65 тыс. в школы и ещё порядка 9 тыс. в ВУЗы. Пик спроса пришёлся на 2022–2023 гг., когда было поставлено более 127 тыс. лицензий. Все направления деятельности компании в образовательном секторе объединяются в рамках проекта «Альт Академия».

Изображение: «Базальт СПО»

Промоакция продлится до 31 декабря 2025 года. Поставка «Альт Виртуализация» и «Альт СП» будет осуществляться в:

• государственные и муниципальные дошкольные и общеобразовательные организации;
• организации дополнительного образования для дошкольников и школьников, получивших лицензию на ведение образовательной деятельности;
• организации высшего и профессионального образования — как государственные, так и муниципальные;
• имеющие лицензию на образовательную деятельность организации дополнительного профессионального образования;
• библиотеки.

При этом ОС «Альт Образование», «Альт Рабочая станция» и «Альт Сервер» будут поставлять образовательным организациям по академическим лицензиям с базовой технической поддержкой на 12 мес. Приобретать их смогут государственные и муниципальные образовательные организации, включая дошкольные, общеобразовательные, профессиональные, высшего образования, а также дополнительного и дополнительного профессионального образования.

Как заявил недавно на конференции Code Conference технический директор Microsoft Кевин Скотт (Kevin Scott), приобрести ускорители компании NVIDIA для ИИ и HPC-вычислений уже не так сложно, как ещё несколько месяцев назад. По данным портала Tom’s Hardware, проблема доступности и поставок активно решается производителем.

По словам того же Скотта, ещё не так давно спрос намного превышал предложение всех производителей ускорителей. Хотя дефицит ещё не исчез, ситуация улучшается буквально с каждой неделей. В последнее время драйвером огромного спроса на ускорители были техногиганты, включая Microsoft, активно осваивающие рынок ИИ-продуктов, в том числе для сторонних клиентов. Для тренировки больших языковых моделей (LLM), обычно используются ускорители именно NVIDIA, в результате чего спрос на них в 2023 году стремительно взлетел, а рост стоимости акций «зелёных» с начала года составил 190 %.

Источник изображения: NVIDIA

В ходе недавнего отчёта о доходах NVIDIA сообщила о намерении повысить объёмы поставок в следующем году. Параллельно появилась информация о том, что трафик одного из самых популярных чат-ботов, ChatGPT от OpenAI, существенно падал в течение трёх месяцев подряд. OpenAI использует облачную платформу Microsoft Azure, так что нагрузка на неё в последнее время не столь велика. По словам Скотта, занимающегося в числе прочего и распределением ресурсов, эта задача в последние кварталы была чрезвычайно трудной, но теперь выполнять свои обязанности стало намного легче.

Скотт не стал комментировать слухи о том, что Microsoft якобы разрабатывает собственные ИИ-чипы, но подтвердил, что компания прилагает немалые усилия в работе над полупроводниковыми проектами и инвестировала в них немало средств. При этом он признал, что в последние годы NVIDIA остаётся ведущим партнёром Microsoft в ИИ-секторе, но подчеркнул, что компания будет выбирать наилучшие решения для своих систем, какое бы происхождение они ни имели.

В январе 2024 года в Зеленограде будет развёрнуто контрактное производство базовых станций компании «Смартком»: их планируется изготавливать на мощностях «АЛТ мастер». Об этом сообщает CNews, ссылаясь на заявления заместителя директора «АЛТ мастер» Александра Беликова.

Отмечается, что оборудование «Смарткома» стандартов 4G-LTE/LTE-Advanced и 5G-NR уже получило сертификат соответствия требованиям технического регламента ЕАЭС. Комплекс NGC-W4251 состоит из модуля обработки основной полосы (тип NGС-BB), модуля коммутации, системы передачи данных и управления базовой станции (тип NGС-CC), а также из удалённого радиомодуля (тип NGC-RU).

Организация производства отечественных базовых станций необходима в свете сложившейся геополитической обстановки: зарубежные поставщики прекратили поставки телекоммуникационного оборудования в Россию, из-за чего инвестиции российских операторов связи в инфраструктуру резко сократились. В стране сформировался дефицит оборудования. По оценкам, в 2022 году российские операторы сократили количество установок новых базовых станций на 60 % по сравнению с 2021-м.

Источник изображения: pixabay.com

Отмечается, что в начале 2024 года на мощностях «АЛТ мастер» планируется изготовить опытную партию базовых станций из 50 единиц. О каком именно стандарте идёт речь не уточняется, но, вероятнее всего, это будут 4G-комплексы. Договор о намерении сборки оборудования уже подписан, и «Смартком» закупает необходимые комплектующие. О том, когда эти решения поступят на коммерческий рынок, ничего не сообщается.