Компании Accelsius и OptiCool объявили о стратегическом партнёрстве, целью которого является создание инновационных СЖО для дата-центров. Предполагается, что внедрение таких систем поможет повысить энергоэффективность ЦОД, ориентированных на ресурсоёмкие задачи ИИ.

Accelsius является разработчиком двухфазных систем NeuCool, которые используют технологию прямого жидкостного охлаждения Direct-To-Chip (DTC). В свою очередь, OptiCool занимается поставками решений для отвода тепла. Стороны намерены использовать в своих системах диэлектрическую жидкость.

Источник изображения: Opticool

Отмечается, что исторически в однофазных СЖО использовалась вода. Вместе с тем Accelsius и OptiCool отмечают «значительный рост интереса клиентов» к инфраструктурам охлаждения, которые не требуют применения воды в первичном контуре. Такой подход исключает любое потенциальное повреждение серверов и IT-оборудования в результате утечек. Для дата-центров, ориентированных на задачи ИИ и НРС, это означает «защиту инвестиций на миллионы долларов», говорят компании.

Источник изображения: Opticool

Партнёры намерены предлагать клиентам двухфазные СЖО типа DTC с активным отводом тепла через заднюю дверцу. Эти системы будут адаптироваться под потребности заказчиков, одновременно исключая риск повреждения оборудования водой. Отмечается, что в системах OptiCool используется R134a — нетоксичный синтетический хладагент.

«Это сотрудничество имеет большое значение для индустрии ЦОД, поскольку нацелено на удовлетворение растущего спроса на эффективные и устойчивые решения. Объединив наш опыт, мы можем создать комплексную систему охлаждения, отвечающую меняющимся потребностям рынка», — говорит генеральный директор OptiCool.

Частота и серьёзность сбоев в ЦОД постепенно снижается относительно общей ёмкости объектов. Тем не менее, сообщает The Register, нарушения работы могут очень дорого обойтись операторам и их клиентам, а проблемы с электропитанием ведут к особенно серьёзным последствиям.

Ёмкость дата-центров постоянно увеличивается, так что общее количество инцидентов тоже растёт, но по данным Uptime Institute, частота и тяжесть происшествий увеличивается относительно медленными темпами. И хотя их стало больше в абсолютном значении, темпы прироста заметно упали в последние годы. На то имеется ряд причин, включая тот факт, что многие организации стали интенсивно вкладываться в обеспечение надёжности работы оборудования. Среди других причин называются переход клиентов в облака и внедрение новых технологий для соответствия требованиям регуляторов.

Источник изображения: Uptime Institute

Однако Uptime Institute предупреждает, что данные о перебоях могут оказаться не вполне точными, потому что операторы зачастую не желают раскрывать информацию об инцидентах из-за возможного репутационного ущерба, так что сведения приходится собирать из открытых источников. В докладе Annual Outage Analysis 2024 констатируется, что 55 % опрошенных представителей операторов подтвердили, что в последние три года в их ЦОД были перебои. С другой стороны, годом ранее речь шла о 60 %, а в 2021 году — о 69 %. В то же время только 10 % сбоев за последний год оценили как «серьёзные» или «тяжёлые», тогда как двумя годами ранее таковых было на 14 п.п. больше.

54 % респондентов отметили, что самые значимые происшествия в их компаниях обошлись более чем $100 тыс., а 16 % — более $1 млн. Главной причиной называлась проблема с системой распределения энергии на местах, в докладе эта тема отмечается в 52 % инцидентов. Исследователи говорят, что переход на более «динамичные» электросети с возобновляемыми источниками энергии сделал сети питания менее надёжными. При этом в ряде случаев ИБП/генераторы не смогли корректно отреагировать на отказ сети. Например, ровно это вызвало перебои с сервисами Microsoft Azure в Европе в 2023 году.

Источник изображения: Uptime Institute

Вторая из ключевых причин сбоев — поломка или недостаточная производительность охлаждающего оборудования. Эксперты отметили, что количество проблем со сторонними сервисами выросло с 2020 года вдвое — на них приходится порядка 10 % сбоев в 2023 году. Это связано с ростром популярности облачных сервисов, в том числе SaaS, услуг хостинга и колокации.

Во многих случаях играют роль человеческие ошибки — на них приходится от ⅔ до ⅘ всех инцидентов. Виной некорректное соблюдение процедур по обслуживанию оборудования или некорректность самих процедур. Например, в прошлом году на Нью-йоркской фондовой бирже (NYSE) сотрудник не смог корректно восстановить работу систем после сбоя во вспомогательном ЦОД, что привело к неверному ценообразованию на следующий день. Предполагается, что количество сбоев можно будет уменьшить благодаря более интенсивным тренировкам персонала и аудиту вероятных слабых мест.

Источник изображения: Uptime Institute

По данным Uptime Institute, каждый год случается 10–20 крупных отказов оборудования ЦОД в мире, что ведёт к серьёзным финансовым потерям и перебоям в обслуживании клиентов, а во многих случаях и к репутационным издержкам. В любом случае недавно в Uptime Institute сообщали, что в ближайшие годы затраты на строительство и обслуживание дата-центров будут только расти.

Компания Lambda Labs объявила о привлечении финансирования в размере $500 млн для расширения своей облачной «платформы по требованию», которая предназначена для решения задач в области ИИ и машинного обучения. Программу возглавила Macquarie Group при участии Фонда промышленного развития (IDF).

Стартап Lambda Labs был основан в 2012 году. Он предоставляет услуги облачных ИИ-вычислений с использованием собственных систем на базе ускорителей NVIDIA и чипов AMD и Intel. Фирма сдаёт в аренду места в дата-центрах в Сан-Франциско (Калифорния) и Аллене (Техас). Компания также продаёт настольные рабочие станции на базе GPU.

Источник изображения: Lambda Labs

В феврале нынешнего года Lambda Labs сообщила о проведении инвестиционного раунда Series C на сумму в $320 млн. Как теперь стало известно, компания получила финансовую поддержку «специального назначения» обхёмом $500 млн для развития облачной ИИ-инфраструктуры. Речь идёт о внедрении «десятков тысяч» ускорителей.

Подход к предоставлению вычислительных ресурсов, который использует Lambda Labs, как отмечается, даёт возможность обслуживать тысячи клиентов без необходимости заключения долгосрочных контрактов. Таким образом, поддерживаются инновации в области ИИ, генеративных сервисов и больших языковых моделей (LLM). Lambda Labs также поддерживает платформу NVIDIA AI Enterprise, предоставляя полный набор решений для разработчиков генеративного ИИ.

Компания Hailo анонсировала специализированный модуль Hailo-10, предназначенный для обслуживания генеративного ИИ. Этот ускоритель с высокой энергетической эффективностью может быть установлен, например, в рабочую станцию или edge-систему.

Изделие выполнено в форм-факторе M.2 Key M 2242/2280 с интерфейсом PCIe 3.0 х4. В оснащение входят чип Hailo-10H и 8 Гбайт памяти LPDDR4. Говорится о совместимости с компьютерами, оснащёнными CPU на архитектурах x86 и Aarch64 (Arm64). Заявлена поддержка Windows 11, а также ИИ-фреймворков TensorFlow, TensorFlow Lite, Keras, PyTorch и ONNX.

Источник изображения: Hailo

Как отмечает Hailo, новинка обеспечивает ИИ-производительность до 40 TOPS. Типовое энергопотребление составляет менее 3,5 Вт. Утверждается, что ИИ-модуль поддерживает нагрузки, связанные с инференсом, в режиме реального времени. Например, при работе с большой языковой моделью Llama2-7B достигается скорость до 10 токенов в секунду (TPS). При использовании Stable Diffusion 2.1 возможна генерация одного изображения на основе текста менее чем за 5 с.

Применение Hailo-10 позволяет перенести определённые ИИ-нагрузки из облака или дата-центра на периферию. Это снижает задержки и даёт возможность решать задачи в офлайновом режиме. Изначально новинка будет позиционироваться для применения в сферах ПК и автомобильных информационно-развлекательных комплексов для обеспечения работы чат-ботов, средств автопилотирования, персональных помощников и систем с голосовым управлением.

Поставки образцов Hailo-10 будут организованы во II квартале 2024 года. В ассортименте компании также присутствует ускоритель Hailo-8 в формате M.2: он обеспечивает производительность до 26 TOPS и при этом имеет энергоэффективность 3 TOPS/Вт.

По сообщению ресурса CNX-Software, в продаже появилась плата CWWK CW-J6-NAS, предназначенная для построения сетевых хранилищ данных. Решение выполнено в форм-факторе Mini-ITX с габаритами 170 × 170 мм, а в основу положена платформа Intel Elkhart Lake. Примечательно, что на официальном сайте CWWK страница продукта была доступна некоторое время назад, но потом пропала.

В зависимости от модификации задействован процессор Celeron J6412 (до 2,6 ГГц) или Celeron J6413 (до 3,0 ГГц). Эти 10-Вт чипы содержат четыре вычислительных ядра (SMT нет) и ускоритель Intel UHD Graphics. Доступны два слота для модулей DDR4-2400/2666/3200 SO-DIMM суммарным объёмом до 64 Гбайт.

Источник изображения: CNX-Software

Плата располагает шестью портами SATA-3 для подключения накопителей (пять реализованы на контроллере JMB585) и двумя коннекторами M.2 2280 NVMe. Предусмотрены три сетевых порта 2.5GbE RJ-45, два из которых используют чип Intel i226-V, а третий — RTL8125BG. Кроме того, имеется консольный порт с разъёмом RJ-45.

Новинка оборудована четырьмя интерфейсами USB 2.0, двумя — USB 3.0, колодкой GPIO и колодкой USB 2.0, двумя 4-контактными коннекторами для подключения вентиляторов охлаждения, а также стандартными разъёмами питания ATX (24+4). Среди прочего упомянуты аудиогнездо на 3,5 мм, интерфейсы HDMI и DP 1.4a с поддержкой видео в формате 4K@60 и разъём PCIe х1, в который может быть установлена, например, дополнительная сетевая карта. Цена CWWK NAS варьируется от $175 до $200.

Стартап в области ИИ Cohere объявил о запуске новой большой языковой модели Command R+, предназначенной для поддержки реальных корпоративных бизнес-процессов и сценариев использования.

Command R+ представляет собой самую мощную и масштабируемую на сегодняшний день LLM Cohere, которая пополнила серию моделей R, ориентированных на баланс точности и эффективности при низкой стоимости использования. Она опирается на наиболее сильные стороны вышедшей в прошлом месяце менее мощной модели Command R, говорит разработчик. Компании могут адаптировать Command R+ с использованием собственных данных, она оптимизирована для RAG. По словам Cohere, это позволяет Command R+ предоставлять высокоточные ответы и значительно снижает вероятность галлюцинаций.

Источник изображений: Cohere

Как утверждает Cohere, Command R+ превосходит аналогичные модели как по стоимости, более низкой чем у конкурентов, так и масштабируемости в отношении решения корпоративных задач документооборота по ключевым «критически важным для бизнеса возможностям». Новая модель поддерживает корпоративные варианты использования, такие как категоризация, автоматизация использования инструментов документооборота, анализ данных и многое другое. Клиенты могут также использовать её для написания маркетинговых текстов.

Подобно Command R, новая модель имеет контекстное окно на 128 тыс. токенов. Этого вполне достаточно для обработки больших объёмов документации. Также сообщается о поддержке более 10 языков, включая английский, французский, испанский, итальянский, немецкий, португальский, японский, корейский, арабский и китайский.

Что немаловажно, Command R+ и семейство LLM R могут выступать в качестве основного аналитического центра для принятия решений при автоматизации бизнес-процессов. В сочетании с инструментами Cohere она может автоматически обновлять задачи, действия и записи по управлению взаимоотношениями с клиентами, помогать в обслуживании последних, выполнять заказы и другие обязанности, обещают авторы.

Модель Command R+ поддерживает многоэтапное использование инструментов при выполнении сложных задач. Модель способна анализировать проблемы, возникающие при выходе конкретного инструмента из строя или ошибке, корректировать ходы и способы решения задачи. Такой подход позволяет повысить вероятность успешного решения задачи.

Cohere также объявила о расширении сотрудничества с Microsoft с целью ускорения внедрения ИИ на предприятиях. Благодаря этому разработчики и предприятия могут получить доступ к Command R+ в Microsoft Azure. В ближайшие недели новая модель станет доступна в Oracle Cloud Infrastructure и других облачных платформах. В настоящий момент разработчики могут опробовать новую модель в демонстрационной среде Cohere и протестировать её в чате.

Компания «Инфосистемы Джет» объявила об открытии центра компетенций SAP Basis: отечественные специалисты помогут в поддержке продуктов немецкой корпорации SAP, которая покинула российский рынок в связи со сложившейся геополитической обстановкой.

По оценкам экспертов «Инфосистем Джет», на сегодняшний день более половины крупных организаций в России всё ещё используют продукты SAP. А опрос, проведённый группой компаний IBS, показал, что только около 28 % предприятий в РФ в сфере крупного бизнеса отказались от ERP-систем SAP и перешли на импортонезависимые решения. Сама SAP в марте 2024 года закрыла российским пользователям доступ к своим облачным сервисам.

«Инфосистемы Джет» открыли направление работы с SAP в 2008 году: в частности, более 15 лет компания предоставляет услуги сервисной поддержки и IT-аутсорсинга заказчикам в разных секторах экономики. Отмечается, что в сформировавшейся обстановке российский бизнес сталкивается с трудностями при поддержке существующей инфраструктуры на базе платформ SAP. Центр компетенций SAP Basis как раз и призван решить соответствующие проблемы.

Источник изображения: SAP

Центр предоставляет услуги по обслуживанию SAP-систем согласно стандартам SAP PCoE (Partner Center of Expertise). Отмечается, что накопленная экспертиза и большая команда специалистов «Инфосистем Джет» позволяют обеспечить гарантированное качество на уровне производителя. При этом продукты немецкого поставщика поддерживаются в их технологичном окружении.

«Несмотря на уход SAP с российского рынка, большинство крупных компаний в промышленности и ретейле продолжают использовать решения вендора в своём IT-ландшафте. Мы знаем, что сокращение простоя даже на 10 минут значительно снижает потери заказчика. Поэтому работаем проактивно: детально анализируем каждый ландшафт, взаимосвязи, находим и предлагаем оптимальную конфигурацию под каждую систему. Это позволяет не только качественно сократить время простоя, но и снизить требования к IT-инфраструктуре, а значит, сократить затраты», — говорит Сергей Хаюров, директор центра компетенций SAP Basis.

В 2023 году, по оценкам J’son & Partners Consulting, объём российского рынка корпоративных коммуникаций составил приблизительно 81 млрд руб. Ожидается, что к 2028-му затраты удвоятся и достигнут 164,2 млрд руб. Таким образом, показатель CAGR (среднегодовой темп роста в сложных процентах) в течение рассматриваемого периода окажется на уровне 15 %.

Аналитики учитывают поставки решений для корпоративной телефонии, видеоконференцсвязи (ВКС), а также корпоративных мессенджеров и почтовых систем. J’son & Partners прогнозирует, что на фоне сложившейся геополитической обстановки продажи отечественных продуктов для корпоративных коммуникаций поднимутся с 37 млрд руб. в 2023 году до 149 млрд руб. в 2028-м. Значение CAGR ожидается около 33 %. Если прогноз оправдается, доля российских решений (ПО и оборудование) вырастет с 45 % в 2023 году до 91 % в 2028-м.

Источник изображения: J’son & Partners Consulting

В исследовании сказано, что продажи отечественных систем ВКС, включая ПО и оборудование, увеличатся до 44,5 млрд руб. в 2028 году по сравнению с 9,8 млрд руб. в 2023-м, что соответствует величине CAGR в 35 %. Спрос на средства корпоративной телефонии (виртуальные АТС на серверах, софт, IP-телефоны и др.) поднимутся за этот период с 20,2 млрд до 56,1 млрд руб. со значением CAGR в 23 %.

В сегменте корпоративных мессенджеров продажи продуктов достигнут 28,2 млрд руб. в 2028 году по сравнению с 2,8 млрд руб. в 2023-м (величина CAGR составит 59 %). В секторе корпоративных почтовых решений (почтовые серверы в инфраструктуре заказчика и др.) ожидается величина CAGR на уровне 40 %, а продажи вырастут с 3,9 млрд руб. до 20,9 млрд руб.

В тройку лидеров рынка отечественных систем ВКС входят такие компании, как IVA Technologies, Vinteo и TrueConf. Вместе с тем такие поставщики, как Cisco Systems, Microsoft и Avaya, покинули рынок РФ.

Brookfield объединяет операторов дата-центров Cyxtera и Evoque под новым брендом Centersquare. Datacenter Dynamics напоминает, что первого оператора инвестиционная компания приобрела только в прошлом году с расчётом на дальнейшее слияние.

Cyxtera подала заявление в соответствии с главой 11 кодекса США о банкротствах ещё в июне 2023 года, а в ноябре было объявлено о поглощении компании инвестиционным холдингом Brookfield Infrastructure Partners — сделка, включающая арендованные ЦОД, обошлась инвесторам в $775 млн. В январе её закрыли, внеся все необходимые поправки в существовавшие договорённости. Уже тогда Brookfield объявила о намерении влить компанию в Evoque. В январе глава Cyxtera Нельсон Фонсека (Nelson Fonseca) оставил свой пост и теперь является президентом сегмента ЦОД в Cirion Technologies — принадлежащей Stonepeak инфраструктурной компании, купленной у Lumen в 2022 году.

Источник изображения: Scott Graham/unsplash.com

Новый бизнес располагает объектами ёмкостью 400 МВт на 17 рынках, общей площадью 176,5 тыс. м². Он не связан с инвестиционной CenterSquare Investment, недавно вложившей средства в Aligned Data Centers. Утверждается, что потенциально новая компания может увеличить ёмкость ещё на 200 МВт. Объединённую структуру возглавил руководитель Evoque Спенсер Малли (Spencer Mullee). По его словам, речь идёт не просто о смене названия. После слияния клиентам будут доступны преимущества обеих компаний, улучшатся гибкость и надёжность благодаря объединённому опыту команды двух операторов.

Утверждается, что превращение отдельных компаний в Centersquare будет «постепенным, хорошо сдирижированным процессом», который завершится к лету 2024 года. В портфеле Brookfield уже имеются DCI Data Centers в Азиатско-Тихоокеанском регионе, Data4 в Европе, а также Compass Data Centers в Северной Америке и другие компании. Brookfield основала Evoque в 2019 году, купив ЦОД и колокейшн-активы AT&T.

В реестре радиоэлектронной продукции Минпромторга появился первый отечественный сервер для работы ИИ с поддержкой подключения нескольких ускорителей — Delta Sprut от ООО «Дельта компьютерс» (Delta Computers), позволяющий подключить до 16 ускорителей, пишет ресурс «Ведомости». С его помощью можно выполнять «тяжёлые» технические задачи, включая связанные с обучением генеративных ИИ-моделей, распознаванием и синтезом речи, работой цифровых ассистентов или распознаванием лиц в видеопотоке.

Delta Sprut включили в реестр 22 февраля 2024 года. До этого в перечне были только серверы с возможностью подключения одного ускорителя для выполнения более простых задач, таких как рендеринг фото- и видеоизображений. Следует отметить, что несмотря на включение в отечественный реестр, серверы Delta используют иностранные ускорители — в стране аналогов пока нет.

Источник изображения: Delta Computers

В России разработкой серверов с возможностью подключения ускорителей также занимаются компании «Тринити» и Yadro, но это более простые и маломощные устройства, сообщил лидер по ИИ и управлению данными ФКУ «Гостех» Михаил Федоров. По его мнению, в числе потребителей модуля Delta Computers могут быть госструктуры, поскольку он технически аттестован для использования федеральными и региональными органами власти. Также его можно использовать на «ГосТехе» при построении информсистем.

По словам представителя «ГосТеха», платформа пока не использует серверы с поддержкой ускорителей. В свою очередь, директор НОЦФНС России и МГТУ им. Н. Э. Баумана, эксперт рынка НТИ TechNet Алексей Бородулин отметил, что для дальнейшего развития «ГосТеха» потребуется большое количество ускорителей для решения высоконагруженных задач и распараллеливания вычислительных процессов. С 1 января 2024 г. на платформу «ГосТеха» перевели не только федеральные, но и региональные ведомства, в связи с чем назрела необходимость увеличения вычислительных мощностей.