Компания ASUS намерена организовать выпуск компьютеров небольшого форм-фактора NUC для коммерческой и промышленной отраслей. Об этом, как сообщает The Register, рассказал Джеки Сюй (Jackie Hsu), старший вице-президент и соруководитель бизнес-групп Open Platform и AIoT в составе ASUS.

Напомним, ASUS закрыла сделку по поглощению подразделения Intel NUC в начале октября 2023 года. Говорится, что новое подразделение ASUS NUC будет решать задачи по разработке и поставке эффективных устройств для периферийных вычислений и комплексных AIoT-решений для индустриального применения и встраиваемых систем.

Источник изображения: ASUS

Для коммерческих заказчиков ASUS намерена создавать специализированные устройства с требуемым набором портов ввода/вывода. Такие изделия могут комплектоваться кастомизированными платами, формат которых отличается от стандартных 4″ × 4″. Но в любом случае, как подчеркнул Джеки Сюй, компьютеры будут заключены в компактный корпус. ASUS полагает, что системы NUC могут заинтересовать поставщиков облачных услуг. Такие компьютеры планируется создавать с учётом условий их эксплуатации.

«Добавление семейства устройств Intel NUC в ассортимент ASUS откроет новые возможности для разработки и исследований в области ИИ и Интернета вещей для применения в трёх ключевых сегментах: это промышленные, коммерческие и полупрофессиональные устройства», — сказал господин Сюй.

ASUS лицензировала не только аппаратные, но и программные разработки Intel. В результате, новое бизнес-подразделение ASUS NUC продолжит научно-технические исследования, а также организацию логистики и технической поддержки, охватывая сферы программирования и разработки ИИ, обеспечения государственных органов, корпораций, предприятий малого и среднего бизнеса, а также областей edge-вычислений и промышленных приложений.

Компания «Базальт СПО», занимающаяся разработкой российских ОС на базе Linux, Некоммерческое партнёрство разработчиков программного обеспечения «Руссофт» и Палата Индо-Российского технологического сотрудничества (CIRTC) подписали меморандум о взаимопонимании в рамках инициативы Российско-Индийской группы по особым интересам (RISING).

Стороны намерены сотрудничать по нескольким направлениям. Одно из них — создание суверенной и безопасной индийской ОС на основе решений с открытым исходным кодом. В рамках данного проекта планируется поддержка независимого репозитория и технологий для обеспечения производства защищенных дистрибутивов.

Кроме того, участники инициативы изучат жизненный цикл безопасной разработки; оценят существующие и потенциальные угрозы и уязвимости; разработают план совместных инициатив Индии и России по построению всеобъемлющей и суверенной инфраструктуры безопасной разработки; выработают рекомендации по политикам обеспечения кибербезопасности.

Источник изображения: «Базальт СПО»

Отмечается, что индийские партнёры заинтересованы в инструментах и технологиях «Базальт СПО». Стороны намерены проводить исследования в области архитектуры кибербезопасности. Будет также выработан план совместных инициатив Индии и России по созданию суверенной инфраструктуры безопасной разработки.

«Объединив опыт и компетенции "Базальт СПО" в области технологий с одной стороны, и возможности индийских компаний по разработке программных продуктов с другой, мы сможем создавать инновационные решения не только для Индии и России, но и других стран», — отметил Сергей Трандин, генеральный директор «Базальт СПО».

Консорциум PICMG (PC Industrial Computer Manufacturers Group) опубликовал спецификацию COM-HPC 1.2 для встраиваемых модулей формата COM-HPC Mini с размерами 95 × 70 мм. Такие решения могут использоваться для создания дронов, автономных мобильных роботов, edge-устройств и пр.

Модули COM-HPC Mini могут оснащаться различными процессорами — с архитектурой х86 или Arm. В качестве примера приводится изделие с чипом Intel Core i7-1370PRE поколения Raptor Lake-P (6P + 8E; 20 потоков инструкций; до 4,8 ГГц; 28 Вт).

Источник изображения: PICMG

Спецификацией предусмотрено использование 400-контактной колодки, которая позволяет задействовать следующие интерфейсы:  2 × SATA, 1 × eDP, 2 × DDI, 2 × 10GbE, 8 × SuperSpeed (USB4/ThunderBolt, USB 3.2, DDI), 8 × USB 2.0, 16 × PCIe (PCIe 4.0 или PCIe 5.0). Кроме того, упомянута поддержка Boot SPI, eSPI, UART, CAN и пр. Память в соответствии со спецификацией должна быть впаяна непосредственно на плату для обеспечения надёжности.

Напряжение питания может варьироваться в диапазоне от 8 до 20 В, мощность — до 107 Вт. Разработчики смогут выпускать модули с диапазоном рабочих температур от 0 до +60 °C для коммерческого применения и от -40 до +85 °C для промышленного использования. Толщина изделий COM-HPC Mini с учётом радиатора охлаждения составляет до 15 мм. 

Стандарт COM-HPC также описывает типоразмеры модулей с габаритами от 95 × 120 мм (размер A) до 160 × 120 мм (размер C) и более крупные серверные типы D и E (160 × 160 и 200 × 160 мм соответственно).

Компания NVIDIA, по сообщению ресурса The Information, ведёт переговоры об аренде площадей у одного из операторов ЦОД, но о ком именно идёт речь, не сообщается. Предполагается, что площадка будет использоваться для поддержания работы собственного облачного сервиса DGX Cloud, предназначенного для обучения передовых моделей для генеративного ИИ.

О доступности облака DGX Cloud компания NVIDIA объявила в июле нынешнего года. Тогда сообщалось, что соответствующая вычислительная инфраструктура достанется в первую очередь США и Великобритании. Стоимость доступа к DGX Cloud начинается с $36 999 в месяц. Говорилось, что NVIDIA намерена продвигать DGX Cloud в партнёрстве с ведущими гиперскейлерами. Первым сервис появился в облаке Oracle Cloud Infrastructure (OCI), на очереди Microsoft Azure, Google Cloud Platform и другие. Большая часть выручки в этом случае достаётся именно NVIDIA, а не облакам.

Источник изображения: NVIDIA

Теперь же, судя по всему, NVIDIA решила частично отказаться от услуг облачных провайдеров и развернуть DGX Cloud на арендованных ЦОД-площадях. Впрочем, как отмечается, переговоры всё ещё находятся на начальной стадии, а поэтому говорить о том, что NVIDIA сама превратится в гиперскейлера, преждевременно. При этом компания неоднократно упрекали в том, что в последнее время она более благосклонна к небольшим и специализированным облачным провайдерам, которые не пытаются создавать собственные ИИ-ускорители, могущие составить прямую конкуренцию продуктам NVIDIA.

Китайская компания Yingren Technology (InnoGrit), по сообщению ресурса Tom's Hardware, организовала массовое производство первого в стране контроллера PCIe 5.0, предназначенного для создания SSD корпоративного класса. Изделие получило обозначение YR S900. Новинка представляет собой четырехканальный контроллер SSD, основанный на архитектуре RISC-V.

Выбор RISC-V объясняется в том числе напряжёнными отношениями между США и КНР: в данном случае на изделие не смогут распространяться экспортные ограничения. О типе применённой технологии производства ничего не сообщается. Известно, что контроллер обеспечивает полную поддержку протокола NVMe 2.0. Заявленная скорость последовательного чтения достигает 14 Гбайт/с, последовательной записи — 12 Гбайт/с. Показатель IOPS при произвольных чтении и записи составляет до 3,5 и 2,5 млн соответственно. Контроллер может применяться в 16- и 18-канальной конфигурации.

Источник изображения: Yingren Technology

YR S900 наделён процессором ECC третьего поколения для оптимизации кодирования и декодирования 4K LDPC. По заявлению компании, использование решения вместе с новой гибридной адаптивной функцией коррекции ошибок ECC позволяет поднять производительность памяти TLC и QLC NAND. А при работе с Kioxia XL-Flash показана задержка произвольного чтения 4K на уровне 10 мкс. Среди прочего упомянута поддержка FDP (Flexible Data Placement), SR-IOV, CMB (Controller Memory Buffer), а также различных алгоритмов шифрования.

Организация Raspberry Pi Foundation представила одноплатный компьютер Raspberry Pi 5, который гораздо производительнее предшественника, хотя и дороже его. Первоначально предназначенный для любителей и преподавателей, Raspberry Pi с годами превратился в довольно производительный компьютер, способный, несмотря на свои миниатюрные размеры, справляться со множеством рабочих нагрузок, сохраняя при этом возможности расширения.

Raspberry Pi 5 построен на 16-нм процессоре Broadcom BCM2712 с четырьмя 64-бит ядрами Arm Cortex-A76 (2,4 ГГц), обеспечивающим увеличение производительности компьютера в 2–3 раза по сравнению с Raspberry Pi 4. Имеющийся графический ускоритель VideoCore VII с частотой 800 МГц, поддержкой стандартов OpenGL ES 3.1 и Vulkan 1.2 и open source драйверами Igalia Mesa обеспечивает одновременный вывод изображения через порты HDMI на два 4K-монитора с частотой обновления 60 Гц. Мультимедийная подсистема также включает аппаратный декодер 4K60p HEVC и ISP собственной разработки.

Источник изображений: raspberrypi.com

Компания отметила, что Raspberry Pi 5 — первый полноразмерный Raspberry Pi, в котором используется специальный чип RP1 собственной разработки. Он играет роль южного моста, куда вынесены некоторые IO-интерфейсы. RP1 предлагает по паре USB 2.0 и 3.0, 1GbE-контроллер, пару MIPI-трансиверов по четыре линии каждый, а также 3,3-В GPIO, включая стандартные низкоскоростные интерфейсы вроде UART, SPI, I2C, I2S и PWM. К BCM2712 контроллер подключается посредством четырёх линий PCIe 2.0, а ещё одна линия от основной SoC доступна для подключения периферии, например, NVMe SSD в форм-факторе M.2 2230/2242 (нужна плата-адаптер).

На начальном этапе компьютер предлагается с 4 или 8 Гбайт оперативной памяти LPDDR4X-4267. Слот для карт памяти поддерживает высокоскоростной режим SDR104 (UHS-I). Ещё одно улучшение — поддержка часов реального времени, для питания которых необходима отдельная батарея. Коммуникационные возможности Raspberry Pi 5 включают адаптеры беспроводной связи Bluetooth 5.0 (BLE) и Wi-Fi 5 (2,4/5 ГГц), гигабитный порт Ethernet (RJ-45).

Есть также два порта USB 3.0, два USB 2.0 Type-B и один порт USB Type-C (для подключения питания). Кроме того, сохранён стандартный 40-контактный разъём GPIO, а также появилась кнопка включения/выключения питания, которой не было у предшественника. Вместе с тем, у Raspberry Pi 5 нет комбинированного 3,5-мм разъёма для вывода аналогового аудио и композитного видео, отсутствие которого объясняется нехваткой свободного места на плате.

Raspberry Pi 5 в целом энергоэффективнее предшественника. Однако из-за более высокой производительности пиковое энергопотребление при максимальных нагрузках увеличивается примерно до 12 Вт по сравнению с 8 Вт у Raspberry Pi 4. Поэтому при использовании стандартного адаптера питания USB-C 5 В, 3 А (15 Вт) с Raspberry Pi 5 по умолчанию ограничивает отдаваемый USB-портам ток до 600 мА, чтобы гарантировать достаточный запас для поддержки пиковых нагрузок.

Для желающих использовать мощные периферийные устройства, такие как HDD/SSD, сохраняя при этом запас для пиковых рабочих нагрузок, предлагается 25-Вт блок питания стоимостью $12. Если Raspberry Pi 5 обнаруживает этот источник питания, предельная сила тока для USB увеличивается до 1,6 А, обеспечивая по 5 Вт дополнительной мощности USB-устройствам и самому ПК. Пользователи также могут изменить ограничение силы тока, указав более высокое значение.

Компания также предлагает дополнительные аксессуары к компьютеру. В их числе — обновлённый корпус Raspberry Pi 5 по цене $10, оснащённый встроенным вентилятором производительностью 2,79 (макс.) кубических футов в минуту (0,08 м³/мин) с гидродинамическими подшипниками, который подключается к четырехконтактному разъёму JST на Raspberry Pi 5 для обеспечения охлаждения с контролируемой температурой. Воздух всасывается через щель под крышкой, проходит через радиатор и выводится через отверстия разъёмов и вентиляционные отверстия в основании.

Для охлаждения платы без корпуса можно добавить кулер за $5. Он крепится к плате через два новых монтажных отверстия и подключается к тому же четырехконтактному разъёму JST, что и корпусной вентилятор. При этом при пиковых нагрузках SoC может нагреваться до 80 °C, так что в некоторых сценариях применения новинки понадобится или кулер, или корпус с вентилятором.

Источник: Phoronix

Цена Raspberry Pi 5 немного выросла по сравнению с предшественником — $60 за версию с 4 Гбайт ОЗУ и $80 за 8-Гбайт версию. Рост связан с небольшим увеличением себестоимости производства и общим ростом цен на компоненты, за исключением SDRAM. В продажу плата поступит в октябре. Тогда же состоится релиз Raspberry Pi OS на базе Debian Bookworm. Ресурс Phoronix уже провёл первые тесты новинки, которые показали, что она действительно примерно втрое быстрее Raspberry Pi 4, поэтому небольшое повышение стоимости более чем оправдано.

Oracle представила инстансы Ampere A2 следующего поколения на базе 192-ядерных Arm-процессоро AmpereOne, которые станут доступны для клиентов компании позднее в этом году. Как сообщает Oracle, новые инстансы обеспечивают на 44 % лучшее соотношение цены и производительности по сравнению с предложениями на архитектуре x86 и идеально подходят для ИИ-инференса, работы с базами данных, веб-сервисами, рабочих нагрузок транскодирования мультимедиа и поддержки среды выполнения для таких языков, как GO и Java.

Инстансы OCI Ampere A2 предлагают до 320 ядер в случае bare metal и до 156 ядер в рамках одной виртуальной машины. Обладая большим объёмом приватного кеша, стабильной рабочей частотой, однопоточными ядрами и новыми функциями управления памятью, инстансы нового поколения позволяют обеспечить ещё более предсказуемую производительность за счёт снижения влияния внешних помех, как происходит в случае SMT, и одновременно предлагают безопасную микроархитектуру для многопользовательских облачных сред.

Источник изображений: Ampere

«То, что происходит с OCI и Ampere, является отражением значительных перемен, происходящих в нашей отрасли, — сказала гендиректор Ampere Рене Джеймс (Renee James). — Времена использования мощности в качестве показателя производительности переходят в эру высокопроизводительных вычислений с низким энергопотреблением. Такие клиенты, как 8X8 и другие, признают, что существует необходимость снизить затраты на инфраструктуру и в то же время сократить выбросы углекислого газа без ущерба для производительности. В нашу эру компьютеров с ИИ новая сила — это меньшая мощность».

Клэй Магоуирк (Clay Magouyrk), исполнительный вице-президент Oracle Cloud Infrastructure Development, сообщил, что в связи с быстрым ростом Oracle подошла к пределам доступной мощности, и для дальнейшего масштабирования облака ей необходим рост эффективности в дополнение к производительности: «Вот почему мы используем Ampere для всего: от базы данных Oracle до приложений Fusion, а теперь и для всех наших сервисов OCI. С развитием ИИ-обработки этот сдвиг в вычислениях стал ещё более важным. Ampere — это решение OCI для устойчивого облака».

СУБД Oracle Database полностью поддерживается процессорами Ampere. Кроме того, все сервисы OCI, число которых исчисляется сотнями, теперь тоже работают на CPU Ampere. Конечные клиенты могут перенести все свои рабочие нагрузки на платформу Ampere, в том числе задачи инференса, которые поддерживаются библиотеками AI Optimizer от Ampere.

Современные твердотельные накопители хороши всем, но сами принципы, на которых строится NAND-память, наделяют их конечным ресурсом перезаписи, что в некоторых сценариях весьма критично. Специально для таких сценариев предназначен новый SSD Solidigm D7-P5810, анонсированный буквально на днях.

Большая часть современных SSD использует многослойную память 3D TLC NAND, а в погоне за ёмкостью и плотностью упаковки данных практическими всеми производителями NAND-устройств и самих SSD активно осваиваются технологии QLC и PLC, с четырьмя и пятью битами на ячейку, соответственно.

Но это означает пониженный ресурс записи и для использования в качестве устройств strorage class memory (SCM) такие SSD подходят не лучшим образом. Новый Solidigm D7-P5810, однако, использует 144-слойную память 3D NAND в режиме SLC, с одним битом на ячейку. За исключением экзотических технологий, вроде MRAM или почившего в бозе Optane это самый надёжный на сегодня вариант энергонезависимой памяти.

Источник изображений здесь и далее: Solidigm

Именно использование SLC-памяти позволяет компании-производителю заявлять для P5810 общий ресурс записи в 73 Пбайт и 50 полных перезаписей в день в течение пятилетнего гарантийного срока. Наработка на отказ заявлена на уровне 2 млн часов, а показатель UBER не превышает 1 сектор на 10¹⁷ бит. Ёмкость при этом не слишком высока, что характерно для всех SLC-устройств: новинка представлена в вариантах 800 Гбайт и 1,6 Тбайт (появится в первой половине 2024 года).

Solidigm D7-P5810 использует форм-фактор U.2 с интерфейсом NVMe (PCI Express 4.0 x4), что позволяет ему развивать линейные скорости 6400 и 4000 Мбайт/с при чтении и записи соответственно. На случайных операциях при максимальной глубине запроса накопитель обеспечивает 865 тысяч IOPS при чтении и 495 тысяч IOPS при записи. Латентность при этом находится в пределах 10–15 мкс, при случайном чтении она не превышает 53 мкс.

Solidigm D7-P5810 в сравнении с соперниками. Конкурент A — Micron XTR, конкурент B — Kioxia FL6. Источник: Solidigm

Устройство достаточно экономично: в активном состоянии новый SSD потребляет не более 12 Вт, а в режиме простоя — не более 5 Вт. В качестве сценариев использования Solidigm называет кеширование в системах на базе QLC NAND, также он отлично подойдет для HPC-систем или систем сбора данных и логов.

Правда, новый накопитель не уникален: на рынке ему придётся конкурировать с Kioxia FL6 или Micron XTR, также использующими SLC 3D NAND. Оба конкурента имеют варианты с большей ёмкостью (3,2 Тбайт у Kioxia, 1,92 Тбайт у Micron), но заметно уступают Solidigm D7-P5810 в производительности на случайных операциях записи.

Бум больших языковых моделей (LLM) неизбежно порождает появление на рынке нового специализированного класса процессоров и ускорителей — и нередко такие решения оказываются эффективнее традиционного подхода с применением GPU. Компания SambaNova Systems, разработчик таких ускорителей и систем на их основе, представила новое, третье поколение ИИ-процессоров под названием SN40L.

Осенью 2022 года компания представила чип SN30 на базе уникальной тайловой архитектуры с программным управлением, уже тогда вполне осознавая тенденцию к увеличению объёмов данных в нейросетях: чип получил 640 Мбайт SRAM-кеша и комплектовался оперативной памятью объёмом 1 Тбайт.

Источник изображений здесь и далее: SambaNova (via EE Times)

Эта наработка легла и в основу новейшего SN40L. Благодаря переходу от 7-нм техпроцесса TSMC к более совершенному 5-нм разработчикам удалось нарастить количество ядер до 1040, но их архитектура осталась прежней. Впрочем, с учётом реконфигурируемости недостатком это не является.

Чип SN40L состоит из двух больших чиплетов, на которые приходится 520 Мбайт SRAM-кеша, 1,5 Тбайт DDR5 DRAM, а также 64 Гбайт высокоскоростной HBM3. Последняя была добавлена в SN40L в качестве буфера между сверхбыстрой SRAM и относительно медленной DDR. Это должно улучшить показатели чипа при работе в режиме LLM-инференса. Для эффективного использования HBM3 программный стек SambaNova был соответствующим образом доработан.

Тайловая архитектура SambaNova состоит из вычислительных тайлов PCU, SRAM-тайлов PMU, управляющей логики и меш-интерконнекта

По сведениям SambaNova, восьмипроцессорная система на базе SN40L сможет запускать и обслуживать ИИ-модель поистине титанических «габаритов» — с 5 трлн параметров и глубиной запроса более 256к. В описываемой модели речь идёт о наборе экспертных моделей с LLM Llama-2 в качестве своеобразного дирижёра этого оркестра. Архитектура с традиционными GPU потребовала бы для запуска этой же модели 24 сервера с 8 ускорителями каждый; впрочем, модель ускорителей не уточняется.

Как и прежде, сторонним клиентам чипы SN40L и отдельные вычислительные узлы на их основе поставляться не будут. Компания продолжит использовать модель Dataflow-as-a-Service (DaaS) — расширяемую платформу ИИ-сервисов по подписке, включающей в себя услуги по установке оборудования, вводу его в строй и управлению в рамках сервиса. Однако SN40L появится в рамках этой услуги позднее, а дебютирует он в составе облачной службы SambaNova Suite.

На заре СЖО действительно существовали и предлагались совершенно разные конфигурации водоблоков, но постепенно восторжествовала единственная вариация — микроканальная. Совершенство достигнуто? Компания Fabric8Labs считает, что нет, и таким системам есть куда расти, но только при отказе от традиционных технологий изготовления водоблоков и радиаторов охлаждения. Свое видение будущего СЖО она продемонстрировала на конференции Hot Chips 2023.

Источник изображений здесь и далее: Fabric8Labs via ServeTheHome

Микроканальная конструкция довольно проста и реализуется классическими методами механической ообработки, которая способна обеспечить ширину каналов и толщину рёбер на уровне 100 мкм. У прямых каналов, впрочем, существует свой предел производительности теплоотвода, накладываемый самой физикой процесса.

Рост же тепловыделения современных процессоров отнюдь не собирается останавливаться: уже в порядке вещей теплопакеты в районе боле 300 Ватт, а для сложных ускорителей и того больше. Fabric8Labs считает, что за счёт применения более сложных канальных структур эффективность теплосъёма можно существенно повысить.

Формирование таких структур предполагается методом аддитивной печати. Классические методы такой печати в металлургии имеют довольно высокую себестоимость и требуют недёшевых компонентов, а сам техпроцесс имеет много стадий, достаточно энергоёмок и далеко не всегда позволяет получить достаточно гладкие поверхности.

Компания Fabric8Labs предлагает уникальную электрохимическую печать, не требующую применения дорогостоящих порошков, а вместо этого использующую дешёвые соли металлов. Техпроцесс в этом случае состоит всего из двух частей: направленного электроосаждения и промывки. По себестоимости такой метод существенно превосходит любые другие методы металлической 3D-печати.

Печать Fabric8Labs позволяет получать на выходе сложные гироидные структуры (TPMS), лучше омываемые теплоносителем. Как показывают проведённые компанией эксперименты, водоблоки с такой структурой могут быть на 35 % эффективнее классических микроканальных.

Также представляет интерес возможность печати нерегулярных структур, имеющих оптимальную производительность для разных чиплетов процессора с разными тепловыми характеристиками. При разработке таких структур возможно использование методов оптимизации с помощью генеративного ИИ.

Благодаря своей дешевизне и относительной простоте, методы, предлагаемые Fabric8Labs, выглядят весьма перспективно. В настоящее время технология находится в экспериментальной фазе, но компания рассматривает возможность строительства первой фабрики уже в 2024 году в Сан-Диего (США), а также открыта для сотрудничества с другими производителями систем охлаждения, если предлагаемая технология вызовет интерес крупных заказчиков.