Компания NeuReality на конференции по высокопроизводительным вычислениям SC23 представила полностью интегрированное решение NR1 AI Inference, предназначенное для ИИ-платформ. Изделие спроектировано специально для ускорения инференса и снижения нагрузки на аппаратные ресурсы.

Утверждается, что благодаря использованию технологий NeuReality операторы крупных дата-центров могут на 90 % сократить затраты на выполнение операций ИИ. При этом производительность по сравнению с традиционными системами на основе CPU больше на порядок. Впрочем, конкретные цифры не приводятся.

Источник изображений: NeuReality

В продуктовое семейство NeuReality входит решение NR1, которое разработчик называет «сервером на чипе» со встроенным нейросетевым движком. По заявлениям NeuReality, это первый в мире «сетевой адресуемый процессор» — NAPU (Network Addressable Processing Unit). Этот специализированный чип, ориентированный на задачи инференса, обладает возможностями виртуализации и сетевыми функциями.

Изделие NR1 является основой вычислительного модуля NR1-M AI Inference Module, выполненного в виде полноразмерной двухслотовой карты расширения PCIe. Модуль может подключаться к внешнему ускорителю глубокого обучения (DLA). Наконец, анонсирован сервер NR1-S AI Inference Appliance, который оснащается картами NR1-M AI Inference Module. NeuReality отмечает, что данная система позволяет снизить стоимость и энергопотребление почти в 50 раз на операциях инференса по сравнению со стандартными платформами.

Компания One Stop Systems (OSS) на конференции по высокопроизводительным вычислениям SC23 представила сервер Gen 5 AI Transportable, предназначенный для решения задач ИИ и машинного обучения на периферии. Устройство, рассчитанное на монтаж в стойку, выполнено в корпусе уменьшенной глубины.

Новинка соответствует американским военным стандартам в плане устойчивости к ударам, вибрации, диапазону рабочих температур и пр. Сервер может применяться в составе мобильных дата-центров, на борту грузовиков, самолётов и подводных лодок.

Возможна установка четырёх ускорителей NVIDIA H100 и до 16 NVMe SSD суммарной вместимостью до 1 Пбайт. Говорится о поддержке до 35 одновременных ИИ-нагрузок. Кроме того, могут применяться сетевые решения стандарта 400 Гбит/с. При необходимости можно подключить NAS-хранилище в усиленном исполнении.

Источник изображения: OSS

Для сервера доступны различные варианты охлаждения: воздушное, автономное жидкостное или внешний теплообменник с жидкостным контуром. Поддерживаются различные варианты организации питания с переменным и постоянным током для использования на суше, в воздухе и море.

При использовании СЖО ускорители H100, по всей видимости, комплектуются водоблоком EK-Pro NVIDIA H100 GPU WB. Реализована фирменная архитектура Open Split-Flow: она обеспечивает высокую эффективность охлаждения даже при небольшой скорости потока жидкости, что позволяет применять не слишком мощные помпы или помпы, работающие с невысокой скоростью. Микроканалы, фрезерованные на станке с ЧПУ, обладают минимальным гидравлическим сопротивлением потоку. Водоблок имеет однослотовое исполнение.

Источник изображения: EKWB

Предусмотрено проприетарное ПО U-BMC (Unified Baseboard Management Controller) для динамического управления скоростью вентиляторов, мониторинга системы и пр. Сервер подходит для монтажа в большинство 19″ стоек.

ВТБ анонсировал программно-аппаратный комплекс (ПАК) «Куб импортозамещения», использующий исключительно российские технологии. Система предназначена для построения IT-инфраструктур разного масштаба. Решение состоит из импортозамещённых компонентов как на уровне инфраструктуры, так и на уровне ПО. В настоящее время ПАК составляет основу ИТ-ландшафта ВТБ, сообщает компания.

Аппаратная составляющая «Куба импортозамещения» использует серверы российской компании YADRO и телеком-оборудование Бифорком Тек. В основу программной части легла отечественная ОС Astra Linux. Кроме того, применяется платформа VTB.Cloud, которая обеспечивает облачные мощности для развёртывания виртуальных машин, количество которых может составлять от 3,5 до 5 тыс. (на базе одного «куба»).

В ВТБ отмечают, что на основе ПАК функционирует более 70 % систем банка, а в 2024 году этот показатель планируется поднять практически до 100 %. Кроме того, ВТБ довел долю расходов на отечественный софт до 75 % в общем объёме расходов на ПО. Отмечается, что банк продолжает работу по миграции своих информационных систем из дата-центров предыдущего поколения на новые площадки. Замещён уже пятый по счёту ЦОД, а до конца 2024 года планируется заместить ещё два нецелевых дата-центра.

Источник изображения: YADRO

«На пути к обеспечению технологического суверенитета мы научились не только заменять одни решения другими, но и создавать принципиально новое. Одним из таких решений стал "Куб импортозамещения". Нам удалось создать универсальный блок для строительства и почти неограниченного масштабирования ИТ-инфраструктуры под потребности бизнеса. Мы готовы делиться накопленным опытом и помогать в распространении таких комплексов на российском рынке», — сообщил представитель компании.

«Яндекс» и группа компаний «Ланит» объявили о выходе из совместного с Gigabyte предприятия по производству серверов под торговой маркой OpenYard: свои доли они продадут частным инвесторам. Информации об ориентировочной сумме сделки на данный момент нет.

Напомним, «Яндекс», «Ланит», ВТБ и тайваньская Gigabyte летом 2021 года сообщили о намерении построить в Рязани завод по выпуску серверов и другого оборудования корпоративного класса. На нём планировалось производить технику под маркой OpenYard. Первоначальные инвестиции составили 1 млрд руб.

Весной нынешнего года появилась информация, что строительство предприятия завершено — оно располагается на территории индустриального парка «Рязанский». При этом пусконаладочные работы на тот момент сделаны не были. Летом же стало известно, что планы в отношении завода поменялись в связи со сложившейся геополитической обстановкой. Тогда говорилось, что «Яндекс» и «Ланит» решили выйти из проекта.

Теперь компании подтвердили эти сведения, заявив о продаже своих долей. После осуществления сделки «Яндекс» сосредоточится на развитии своих ключевых технологий и бизнесов. «Ланит» продолжит заниматься интеграторским бизнесом, разработкой и внедрением ПО, дистрибуцией и развитием собственных продуктов.

Источник изображения: OpenYard

До объявления об этой сделке «Яндексу» и ООО «Ланит Венчурс» принадлежали по 50 % структуры ООО «Центр открытых разработок». По данным ЕГРЮЛ, с 25 октября 2023 года доля «Ланит Венчурс» перешла компании «Цифровые Технологии» Дмитрия Казанского. Предприятие под Рязанью сохранит за собой производство, права на технологические разработки, команду сотрудников и бренд OpenYard.

Компания Supermicro сообщила о начале поставок первых в отрасли серверов на базе суперчипа NVIDIA GH200 Grace Hopper, предназначенных для поддержания ресурсоёмких нагрузок ИИ. Дебютировали стоечные решения в форм-факторах 1U и 2U с воздушным и жидкостным охлаждением.

Серверы используют модульную платформу NVIDIA MGX, которая специально разработана для упрощения создания ИИ-систем. Разработчики на этапе проектирования выбирают базовую архитектуру для шасси, после чего добавляются CPU, GPU и DPU в той или иной конфигурации для решения определённых задач.

В общей сложности выпущены шесть систем (см. характеристики в таблицах ниже). Все они допускают установку накопителей стандарта E1.S с возможностью горячей замены и SSD формата M.2. Есть слоты PCIe 5.0 x16 с поддержкой NVIDIA BlueField-3 и ConnectX-7. Питание обеспечивают два или три блока мощностью 2000 или 2700 Вт.

Источник изображений: Supermicro

В список анонсированных серверов входят:

• ARS-111GL-NHR — 1U, 1 × GH200 Grace Hopper, воздушное охлаждение;
• ARS-111GL-NHR-LCC — 1U, 1 × GH200 Grace Hopper, жидкостное охлаждение;
• ARS-111GL-DHNR-LCC — 1U, 2 × GH200 Grace Hopper, 2 узла, жидкостное охлаждение;
• ARS-121L-DNR — 1U, 2 × Grace CPU в каждом из двух узлов, воздушное охлаждение;
• ARS-221GL-NR — 2U, 1 × Grace CPU, воздушное охлаждение;
• SYS-221GE-NR — 2U, 2 × Intel Xeon Sapphire Rapids, до 4 × NVIDIA H100, воздушное охлаждение.

Supermicro отмечает, что заказчики могут использовать новые серверы в комплексе с софтом NVIDIA, включая NVIDIA AI Enterprise, для решения разнообразных задач в области генеративного ИИ, компьютерного зрения, речевых приложений и машинного обучения. А набор NVIDIA HPC SDK содержит компиляторы, библиотеки и программные инструменты, необходимые для организации высокопроизводительных вычислений.

Российским банкам, по сообщению газеты «Коммерсантъ», в сложившейся геополитической обстановке удалось импортозаместить более половины оборудования, включая серверы и решения для дата-центров. Однако в некоторых случаях, как отмечается, эти изменения носят лишь формальный характер.

Программу импортозамещения реализуют прежде всего крупные банки: у них доля отечественной техники достигает 60 %. В то же время организации второго и третьего уровней серьезно отстают. В частности, банки среднего размера импортозаместили примерно 40 % оборудования, а небольшие кредитные организации — только 15 %. Последние планируют закупки в рамках импортозамещения инфраструктуры на IV квартал 2023 года или на 2024 год.

Источник изображения: Ростелеком-ЦОД

По оценкам, доля отечественных серверов и техники для ЦОД в сегменте крупных банков достигла 70 %, у организаций среднего размера — 45 %. Небольшие финансовые структуры только начинают реализацию соответствующих инициатив с показателем на уровне 20 %. Сетевое оборудование крупные банки импортозаместили на 60 %, средние — на 35 %, небольшие — на 15 %.

Однако, говорят участники рынка, в случае рабочих станций в большинстве случаев устройства «стали российскими путем перевинчивания шильдиков». По сути, это китайская продукция с российскими наклейками и отечественной маркировкой. Такие системы могут создаваться в РФ методом «отвёрточной сборки». Что касается серверов и сетевого оборудования, то его купить по запчастям и собрать в России довольно проблематично, поскольку существует большой риск несовместимости.

Компания Giga Computing, подразделение корпоративных продуктов Gigabyte Technology, анонсировала серверы семейства R-Series, оснащённые процессорами AmpereOne с архитектурой Arm (до 192 ядер Arm с частотой до 3,0 ГГц, 8 каналов DDR5, 128 линий PCIe 5.0, TDP до 400 Вт).

Дебютировали четыре сервера: R163-P32 и R183-P92 в форм-факторе 1U, а также R263-P33 и R283-P93 типоразмера 2U. Все они поддерживают работу с ОС RHEL 9.0, Fedora 36, Oracle 9.0, Ubuntu 22.04 и Debian 11.

Источник изображений: Giga Computing

Модель R163-P32 рассчитана на установку одного чипа AmpereOne в исполнении LGA 5964. Есть 16 слотов для модулей оперативной памяти DDR5-4800 ёмкостью до 512 Гбайт каждый, 12 отсеков для SFF-накопителей NVMe/SATA/SAS, коннектор M.2 (PCIe 5.0 x4), два разъёма PCIe 5.0 x16 для карт FHHL, слот OCP 3.0 (PCIe 5.0 x16), сетевой контроллер 1GbE (Intel I210-AT) и выделенный сетевой порт управления 1GbE. Питание обеспечивают два блока мощностью 1300 Вт с сертификатом 80 Plus Platinum.

Версия R183-P92, в свою очередь, поддерживает два процессора AmpereOne. Этот сервер располагает 32 слотами для модулей DDR5-4800, двумя слотами OCP 3.0 (PCIe 5.0 x16) и двумя сетевыми портами 1GbE на базе Intel I350-AM2. Применены два блока питания на 2000 Вт с сертификатом 80 Plus Platinum. Прочие характеристики унаследованы у предыдущей версии.

Решение R263-P33 под один чип AmpereOne снабжено 16 слотами для модулей оперативной памяти DDR5-4800, четырьмя отсеками для SFF/LFF-накопителей NVMe/SATA/SAS, восемью отсеками для SFF/LFF-устройств SATA/SAS, коннектором M.2 (PCIe 5.0 x4), тремя разъёмами PCIe 5.0 x16 для карт FHHL, одним слотом PCIe 5.0 x8, двумя слотами OCP 3.0 (PCIe 5.0 x16), сетевым контроллером 1GbE (Intel I210-AT) и выделенным сетевым портом управления 1GbE. Установлены два блока мощностью 2400 Вт с сертификатом 80 Plus Platinum.

Сервер R283-P93 позволяет задействовать два процессора AmpereOne и 32 модуля DDR5-4800. Есть четыре слота PCIe 5.0 x16 для карт FHHL и два слота PCIe 5.0 x16 для карт LP, а также два порта 1GbE на базе Intel I350-AM2. Мощность каждого из двух блоков питания с сертификатом 80 Plus Platinum — 2700 Вт. Другие характеристики аналогичны модели R263-P33.

Dell Technologies на мероприятии для инвесторов сообщила о том, что её приоритетным направлением развития бизнеса является продажа оборудования для дата-центров. Компания ожидает, что серверы, а не ПК, станут основным драйвером роста в обозримом будущем, что объясняется бумом ИИ-технологий.

Dell прогнозирует, что рынок ПК выйдет из кризиса, а продажи в данном сегменте будут увеличиваться приблизительно на 2,5 % в год в течение нескольких следующих лет. Вместе с тем в серверном сегменте ожидается рост выручки на 7 % в год — это практически в два раза превышает прогноз, сделанный в 2021-м.

Источник изображения: Dell

Как отметил главный операционный директор Dell Джефф Кларк (Jeff Clarke), стремительное развитие ИИ-рынка приведёт к увеличению общих расходов на технологии. Наряду с серверами, оснащёнными ИИ-ускорителями, растёт потребность в хранилищах данных большой вместимости. Ещё в августе Dell заявляла, что у неё имеются заказы на поставку серверного оборудования на общую сумму около $2 млрд. Однако компания, как и другие участники рынка, сталкивается с нехваткой определённых компонентов. По словам Кларка, спрос опережает предложение.

Dell не отказывается от продажи ПК — это по-прежнему бизнес с оборотом примерно $58 млрд в год, приносящий более половины выручки компании. Но потенциал роста в данном сегменте не столь высок, как на серверном рынке. В компании также сообщили, что скорректированная прибыль на акцию, согласно прогнозам, будет увеличиваться как минимум на 8 % в год, а более 80 % свободного денежного потока планируется использовать для выкупа акций или выплаты дивидендов.

Для заказа, по сообщению ресурса CNX-Software, доступно устройство Palmshell NeXT H2: это микросервер на платформе AMD, который также предлагается в виде одноплатного компьютера для разработчиков. Цена начинается приблизительно с $200.

В основу положен процессор Ryzen Embedded R1505G (два ядра; четыре потока; 2,4–3,3 ГГц; 25 Вт). Для модулей оперативной памяти DDR4-2400 предусмотрены два слота SO-DIMM: опционально предлагаются модификации с 8 и 16 Гбайт ОЗУ.

Источник изображений: CNX-Software

Система может быть укомплектована SSD типоразмера M.2 2280 с интерфейсом PCIe 3.0 (NVMe) вместимостью 256 или 512 Гбайт. Есть два порта SATA-3 и слот для карты microSD. В арсенале новинки — два сетевых порта 10GbE SFP+ и порт 2.5GbE RJ45, а также коннектор M.2 B-key 3042 для модема 4G/5G. Дополнительно может быть добавлен комбинированный адаптер Intel AX210NGW (Wi-Fi 6E / Bluetooth 5.2) в виде модуля M.2 E-Key 2230.

Предусмотрены два разъёма HDMI с поддержкой видео 4Kp60, интерфейс eDP (только у одноплатного компьютера), по два порта USB 3.1 Gen2 и USB 2.0. Система охлаждения включает медный радиатор и PWM-вентилятор со скоростью вращения до 3000 об/мин. Питание подаётся через DC-разъём (12–19 В).

В тыльной части сервера предусмотрены гнёзда для шести внешних антенн. Говорится о совместимости с широким набором ОС, включая Ubuntu, Arch Linux, Fedora, Debian, OpenWrt, Windows, pfSense и ROS.

Компания TYAN, подразделение MiTAC Computing Technology Corporation, представила новые продукты с поддержкой процессоров AMD EPYC 8004 Siena. В частности, дебютировали односокетная материнская плата Tomcat CX S8040 и сервер Transport CX GC73A B8046 типоразмера 1U.

Плата Tomcat CX S8040 выполнена в формате ATX с размерами 305 × 243,8 мм. Допускается установка процессоров в исполнении Socket SP6 с показателем TDP до 225 Вт. Есть восемь слотов для модулей оперативной памяти DDR5-4800/3600 и четыре порта SATA-3.

Новинка располагает четырьмя слотами PCIe 5.0 x16 и двумя разъёмами M.2 22110/2280 (NVMe). Кроме того, предусмотрены по два коннектора MCIO 8x и MCIO 4x, по два сетевых порта 10GbE и 1GbE, порт управления 1GbE, коннектор D-Sub и последовательный порт. Диапазон рабочих температур простирается от +10 до +35 °C.

В свою очередь, сервер Transport CX GC73A B8046 имеет габариты 730 × 438,5 × 43,6 мм. Он несёт на борту материнскую плату S8046GM с возможностью установки одного чипа в исполнении Socket SP6 (до 225 Вт). Доступны 12 слотов для модулей RDIMM DDR5-4800. Во фронтальной части расположены 12 отсеков для SFF-накопителей.

Есть слоты расширения FH/HL и FH/FL с поддержкой PCIe 5.0 x16, сетевой адаптер Realtek RTL8211F стандарта 1GbE, контроллер Aspeed AST2600, два порта USB 3.2 Gen.1 и порт USB 2.0. Питание обеспечивают два блока мощностью 1300 Вт с сертификатом 80 Plus Titanium.