Портал Phoronix обратил внимание на необычный патч, заметно повышающий производительность Raspberry Pi 5. Инженеры Igalia в результате экспериментов с эмуляцией NUMA на UMA-системах с чипами ARM64 (AArch64) добились повышения эффективности использования памяти. Так, простой патч для ядра Linux позволил улучшить результаты в Geekbench на 6 % в однопоточном режиме и на целых 18 % — в многопоточном.

Авторы патча пишут, что разделение RAM на несколько независимых блоков с последующим попеременными доступом (interleaving) позволяет контроллеру в Broadcom BCM2712 более полно использовать параллелизм на уровне физической организации чипов памяти (parallelism in physical memory chip organisation). Почему так происходит, авторы не уточняют, но, вероятно, это связано с особенностями организации кеша в SoC.

Источник изображения: Raspberry Pi

16-нм SoC BCM2712 включает четыре ядра Cortex-A76 (2,4 ГГц), каждому из которых полагается по 64 Кбайт кеша для инструкций и данных и 512 Кбайт L2-кеша. Объём общего L3-кеша составляет 2 Мбайт. Встроенный 32-бит контроллер памяти предлагает LPDRR4x-интерфейс, теоретическая пропускная способность которого достигает 17 Гбайт/с. Важно отметить, что этот чип не создавался эксклюзивно для Raspberry Pi — он был выбран среди актуальных массовых решений Broadcom из-за удачного сочетания цены, производительности и доступности.

Патч добавляет в Kconfig новую опцию, а для активации эмуляции NUMA (Non-uniform memory access) нужно передать соответствующий параметр при загрузке ядра. Дальнейшая работы осуществляется с помощью стандартной утилиты numactl.

Компания OpenAI, создатель чат-бота ChatGPT, объявила о заключении соглашения о поглощении стартапа Rockset — разработчика специализированной СУБД, которая пригодится в работе с ИИ. Информации об ориентировочной стоимости сделки нет. Rockset была учреждена около восьми лет назад выходцами из Facebook✴.

Основателями Rockset являются Венкат Венкатарамани (Venkat Venkataramani) и Дхруба Бортакур (Dhruba Borthakur), занимающие должности генерального и технического директоров соответственно. В ходе «посевной» программы было привлечено $3 млн. Затем были осуществлены раунды Series A, В и В Extended на $18,5 млн, $40 млн и $37 млн соответственно. Кроме того, выполнено долговое финансирование на $7 млн. Таким образом, в общей сложности Rockset получила на развитие $105,5 млн.

Источник изображения: Rockset

Инструменты Rockset, как утверждается, позволяют пользователям, разработчикам и предприятиям лучше использовать имеющиеся данные и получать доступ к информации в реальном времени. В результате может быть повышена эффективность ИИ-приложений. Rockset также ведёт разработки в области векторных баз данных, которые обычно используются для поддержки векторного поиска — визуального, семантического и мультимодального. Такие базы помогают ускорить разработку продуктов на базе ИИ и упростить эксплуатацию соответствующих рабочих нагрузок.

В рамках сделки Rockset станет частью OpenAI, а решения стартапа будут интегрированы в системы OpenAI. Существующие клиенты Rockset в краткосрочной перспективе не ощутят существенных изменений.

По мере экспансии 5G-технологий в мире, расширяется и сфера применения связи пятого поколения — технология посягает на области, в которых прежде всегда доминировали Wi-Fi и иные беспроводные решения. Как сообщает IEEE, в Великобритании Vodafone представит в этом месяце частную базовую 5G-станцию на основе Raspberry Pi, сравнимую по габаритам с домашним роутером.

Компания объединила усилия с британской Lime Microsystems для выпуска на краудфандинговой основе наборов 5G-станций стоимостью от $800 до $12 тыс. Прототип одной из 5G-микросот демонстрировался в феврале 2023 года. Он полностью совместим со спецификациями OpenRAN и может формировать как частные 5G-сети, так и исполнять роль шлюза к публичной сети Vodafone.

В компании уверены, что многие захотят получить свою маленькую частную 5G-сеть. Пока предполагается использование в основном компаниями и организациями, хотя в проекте смогут участвовать даже отдельные эксперты. Так, коммерческие компании могут повысить защиту беспроводной сети, поскольку для подключения требуется SIM-карта, а не просто пароль как в случае Wi-Fi. Но можно наоборот упростить доступ. В качестве примера в Vodafone привели пекарню с собственной 5G-сетью, для подключения к которой достаточно просто войти в здание.

Источник изображения: Lime Microsystems

По словам компании, частные 5G-сети незаменимы в случае чрезвычайных ситуаций и спасательных операций. Например, беспилотник с 5G-станцией сможет летать над зоной бедствия. Любой гаджет с совместимой SIM-картой будет регистрироваться в такой сети, передавая уникальную информацию для идентификации и позволяя не только найти пострадавших, но и получить о них дополнительные сведения. Наконец, 5G предлагает более низкую задержку, а в случае высоконагруженных сетей может быть до десяти раз быстрее Wi-Fi.

В самих частных 5G-сетях нет ничего нового. Например, Amazon предлагает сервис AWS Private 5G, а Verizon — и вовсе довольно компактное решение размером с фургон. Правда, до субкомпактных базовых станций на основе Raspberry Pi им очень далеко.

Оборудование для мощнейшего ИИ-суперкомпьютера компании xAI, курируемой Илоном Маском (Elon Musk), как сообщает Datacenter Dynamics, будут поставлять Dell и Supermicro. Речь идёт о серверах, оборудованных высокопроизводительными ускорителями NVIDIA. После анонса акции обеих компаний выросли в цене.

Напомним, что xAI реализует проект по созданию самого мощного в мире вычислительного комплекса, ориентированного на задачи ИИ. Строительство суперкомпьютера будет осуществляться в несколько этапов. Так, в ближайшее время должна быть запущена система, содержащая 100 тыс. ускорителей NVIDIA H100. А летом 2025 года планируется ввести в эксплуатацию кластер из 300 тыс. новейших ускорителей NVIDIA B200.

О том, что участие в масштабном проекте xAI принимает корпорация Dell, сообщил её генеральный директор Майкл Делл (Michael Dell). Эти сведения подтвердил и сам Маск: по его словам, Dell «соберёт половину стоек, которые войдут в состав суперкомпьютера». За строительство оставшейся части системы будет отвечать Supermicro.

По имеющейся информации, огромный дата-центр xAI, прозванный «ИИ-гигафабрикой», расположится в окрестностях Мемфиса (штат Теннесси). О том, в какой пропорции работы по строительству машины будут распределены между Dell и Supermicro, на данный момент нет. Стоимость проекта оценивается в миллиарды долларов.

Фото: Michael Dell

xAI в настоящее время арендует около 16 тыс. ускорителей NVIDIA H100 в облаке Oracle Cloud, а также использует веб-сервисы Amazon и свободные мощности на ЦОД-площадках X/Twitter. В мае 2024 года стартап осуществил раунд финансирования Series B, в ходе которого было привлечено $6 млрд. В результате, рыночная стоимость xAI достигла $24 млрд. Создаваемый суперкомпьютер будет использоваться в том числе для поддержания работы чат-бота xAI Grok следующего поколения.

В ассортименте Orange Pi, по сообщению ресурса CNX Software, появился одноплатный компьютер под названием KunPeng Pro на аппаратной платформе Huawei. Новинка, использующая Linux-дистрибутив openEuler, предназначена для решения различных задач, связанных с ИИ.

В основу решения положен неназванный Arm-процессор Kunpeng с четырьмя ядрами и встроенным ИИ-движком, обеспечивающим производительность до 8 TOPS. Объём памяти LPDDR4X может составлять 8 или 16 Гбайт.

Оснащение включает чип SPI-флеш ёмкостью 32 Мбайт, модуль eMMC вместимостью 32, 64, 128 или 256 Гбайт, а также слот microSD. Дополнительно может быть установлен SSD формата M.2 2280 с интерфейсом SATA/NVMe. Есть контроллер 1GbE, адаптеры Wi-Fi 5 и Bluetooth 4.2. Размеры составляют 107 × 68 мм, масса — 82 г.

Источник изображения: Orange Pi

Одноплатный компьютер располагает двумя коннекторами HDMI 2.0 с поддержкой видео до 4Kp60, двумя портами USB 3.0 Type-A, 3,5-мм аудиогнездом, гнездом RJ-45 для сетевого кабеля, а также двумя портами USB Type-C, один из которых служит для подачи питания (до 65 Вт). Присутствуют также интерфейсы MIPI DSI (2 линии) и 2 × MIPI CSI, 40-контактная колодка GPIO (UART, I2C, SPI, I2S, PWM), коннекторы для вентилятора охлаждения и батарейки. Приобрести Orange Pi KunPeng Pro можно по ориентировочной цене от $173.

Нужно отметить, что ранее команда Orange Pi анонсировала другой одноплатный компьютер с процессором Huawei — модель AIPro. Это решение получило чип Ascend с четырьмя 64-битными ядрами и ИИ-ускорителем с быстродействием до 8/20 TOPS на операциях INT8 (FP16).

VMware, поглощённая Broadcom в результате сделки на $69 млрд, переподписала OEM-соглашения с тремя ключевыми поставщиками оборудования: Dell, HPE и Lenovo. Это, в частности, позволит им и дальше продавать гиперконвергентные системы и серверы с предустановленным стеком ПО VMware.

Сообщивший об этом ресурс The Register утверждает, что это большое достижение для VMware, поскольку гиперконвергентная инфраструктура, сочетающая в себе вычислительные мощности, СХД и сетевую виртуализацию, являются популярным способом комплектации ИТ-продуктов для корпоративного сегмента, и теперь к их продаже присоединились три крупнейших производителя соответствующего оборудования. Все три компании имеют значительную клиентскую базу, поэтому сделка с VMware тоже пойдёт им на пользу.

Ранее Dell сообщила Комиссии по ценным бумагам и биржам США (SEC), что с 25 января перестали работать дистрибуторские соглашения, заключённые с VMware, когда та входила в состав Dell. В свою очередь, Broadcom объявила в феврале, что уравнивает правила игры для OEM-партнёров VMware, включая Dell, HPE, Lenovo и т.д.

Источник изображения: VMware

После заключения нового соглашения с VMware компания Dell опубликовала заявление, в котором заявила: «Новое соглашение основано на более чем 20-летнем сотрудничестве Dell и VMware и позволяет компаниям продолжать предоставлять совместно разработанные решения, которые помогают организациям внедрять современные приложения и оптимизировать свои ЦОД». В заявлении указано, что сделка охватывает HCI-платформы Dell VxRail и Dell vSAN Ready Nodes, серверы Dell PowerEdge и системы Dell PowerFlex.

Подписание новых соглашений произошло спустя после того, как Intel и AMD анонсировали новые линейки серверных процессоров. Виртуализация только выигрывает от многоядерности, поскольку позволяет обеспечить ещё большую консолидацию мощностей. По мнению The Register, это хорошая новость для Broadcom, которая изменила политику лицензирования продуктов VMware, что многие связали с повышением цен, хотя чипмейкер утверждает, что на самом деле новое предложение является более выгодными для клиентов.

Microsoft снова прибегнет к помощи Oracle для того, чтобы помочь OpenAI расширить вычислительные мощности. По данным The Register, компания арендует ИИ-мощности у Oracle Cloud Infrastructure (OCI). Microsoft уже вложила в OpenAI огромные средства и, по некоторым данным, владеет почти половиной компании, но, похоже, ресурсов Azure не хватает для того, чтобы ИИ-стартап смог свободно расти.

В ходе последнего квартального отчёта Oracle заявлялось, что компания скоро построит «очень-очень большой дата-центр», около половины которого будет использовать Microsoft. Предполагается, что в нём будет использовано немало ускорителей NVIDIA с СЖО, предназначенных в первую очередь для обучения ИИ-моделей. ИИ-инфраструктура Oracle второго поколения будет существенно производительней первого и спрос на неё будет велик, говорит Oracle.

Так, OCI Supercluster сможет объединить до 64 тыс. суперускорителей NVIDIA Blackwell GB200 посредством RDMA-интерконнекта с ультранизкой задержкой и получит высокопроизводительные хранилища. Суперкластером помимо Microsoft будут пользоваться Adept, Modal, MosaicML, NVIDIA, Reka, Suno, Together AI, Twelve Labs и xAI — Илон Маск (Elon Musk) уже объявил о готовности потратить $10 млрд на облачные серверы Oracle. При этом Oracle предлагает собственный сервис OCI Generative AI, который является конкурентом Azure OpenAI.

Источник изображения: Pawel Nolbert/unsplash.com

Первые слухи о взаимном использовании облачных ресурсов Microsoft и Oracle появились год назад. Впоследствии Microsoft действительно арендовала ускорители NVIDIA у Oracle. Кроме того, компании стали значительно ближе к другу к другу — Oracle разместила свои комплексы Exadata в Azure. Аналогичное решение вскоре появится и в Google Cloud Platform — сервис последней Cross-Cloud Interconnect будет доступен в 11 облачных регионах OCI, а до конца 2024 года должен стартовать проект Oracle Database@Google Cloud.

В последнем квартале быстрее всего у Oracle росла выручка от облачных сервисов лицензионной поддержки. В компании заявляют о крупнейших контрактах в истории на фоне спроса на обучение ИИ-моделей и рекордных уровнях продаж сервисов OCI. При этом клиенты переходят от разовых закупок на многолетнее облачное обслуживание, чего Oracle и добивалась. Обязательства компании (RPO) уже достигли $98 млрд.

В ближайшем будущем Oracle будет наращивать производительность ИИ-инфраструктуры, чтобы клиенты могли пользоваться актуальными моделями, и строить всё больше крупных дата-центров. Ёмкость некоторых ЦОД приблизится к 1 ГВт. По слухам, Microsoft и OpenAI в марте 2024 года изучали возможность строительства кампуса на 5 ГВт за $100 млрд. Кроме того, как считается, Microsoft является одним из крупнейших заказчиков CoreWeave. Прямо сейчас Microsoft стремительно наращивает ёмкость своих ЦОД и ежемесячно вводит в строй по пять ИИ-суперкомпьютеров.

Участники проекта AlmaLinux объявили о расширении перечня поддерживаемых одноплатных компьютеров Raspberry Pi. Теперь этот дистрибутив можно использовать в том числе с Raspberry Pi 5.

AlmaLinux фактически заполняет пробел, оставшийся после прекращения выпуска стабильных версий CentOS Linux. Поддержка этой ОС прекратилась в конце 2021 года, а не в 2029-м, как ожидалось. Место CentOS заняла CentOS Stream, вечная бета-версия RHEL. В сложившейся ситуации компания CloudLinux анонсировала Lenix — альтернативу привычной CentOS. В дальнейшем проект Lenix был переименован в AlmaLinux.

Источник изображения: Raspberry Pi

Отмечается, что, помимо Raspberry Pi 5, платформа AlmaLinux может использоваться на одноплатных компьютерах Raspberry Pi 4 Model B, Raspberry Pi 400, Raspberry Pi 3 Model B+ и Raspberry Pi 3 Model A+. При этом 32-битные варианты Raspberry Pi (ARMv6/ARMv7) и оригинальная модификация Raspberry Pi 3 (без символа «+» в обозначении) не поддерживаются. Образы AlmaLinux для Raspberry Pi доступны для загрузки в официальном репозитории, а также на зеркалах.

Нужно отметить, что будучи автономной, полностью бесплатной ОС, система AlmaLinux получает ежегодную финансовую помощь в размере $1 млн от CloudLinux и поддержку более чем 25 других спонсоров.

Компания OpenAI, активно усиливающая свои ИИ-системы, по слухам, намерена закупать в «огромных объёмах» энергию для своих ЦОД у разработчика термоядерных проектов — компании Helion. По данным Datacenter Dynamics, в последнюю инвестировал $375 млн сам глава OpenAI Сэм Альтман (Sam Altman), который является председателем совета директоров Helion, а также другие крупные игроки IT-рынка.

Термоядерная энергия в перспективе обеспечит практически неограниченные поставки дешёвого «чистого» электричества, но, несмотря на потраченные на её разработку огромные средства, никаких коммерческих решений в этой сфере пока не существует. В Helion заверяют, что её термоядерная электростанция заработает уже в 2028 году. Она, как ожидается, будет использовать гелий-3. Другие компании в основном полагаются в своих разработках на тритий.

Источник изображения: Helion

Microsoft заключила с Helion соглашение о покупке «чистой» энергии ещё в прошлом году — это первый в своём роде контракт, связанной с термоядерным синтезом. В рамках сделки Helion будет поставлять Microsoft до 50 МВт безуглеродной энергии. Параллельно Microsoft является инвестором OpenAI, компании работают вместе над ИИ-ЦОД Stargate на 5 ГВт. Проект обойдётся в $100 млрд и будет запущен уже в 2028 году.

Ранее Альтман уже заявлял, что новые энерготехнологии вроде термоядерного синтеза будут необходимы ИИ-инфраструктуре из-за больших потребностей наиболее передовых систем. Альтман заявил, что справиться с возникающими задачами без качественного прорыва невозможно и добавил, что необходим термоядерный синтез или комбинация чрезвычайно дешёвых солнечных элементов с энергохранилищами — в огромных масштабах.

ИИ-стартап xAI, курируемый Илоном Маском (Elon Musk), намерен построить гигантский дата-центр с самым производительным в мире ИИ-суперкомпьютером. По данным Datacenter Dynamics, ЦОД разместится в окрестностях Мемфиса (штат Теннесси), а пока ожидает одобрения властей.

В обозримом будущем компания должна получить сотни тысяч ускорителей для обучения новых моделей, в частности, чат-бота Grok, предлагаемого, например, по подписке в социальной сети X (Twitter). Ранее в Сеть утекла информация, что NVIDIA передаст xAI чипы, изначально предназначавшиеся для Tesla — Маск весьма вольно распоряжается активами подконтрольных ему бизнесов, часто вызывая недовольство инвесторов.

Пока проект ожидает окончательного разрешения от местного бизнес-инкубатора Memphis Shelby County Economic Development Growth Engine (EDGE), а также муниципальных и федеральных властей. Впрочем, гораздо важнее дождаться одобрения энергетической компании Tennessee Valley Authority (TVA). Реализация проекта сулит появление высокооплачиваемых рабочих мест и увеличение доходов штата, что поможет поддерживать и модернизировать местную инфраструктуру.

Источник изображения: Heidi Kaden/unsplash.com

Муниципальные власти уже назвали проект «крупнейшей мультимиллиардной инвестицией в истории Мемфиса, а Маск окрестил ЦОД «гигафабрикой для вычислений» по аналогии с Tesla Gigafactory. По данным местных СМИ, приглянувшаяся Маску площадка принадлежит инвесткомпании Phoenix Investors, сотрудничающей с xAI и местными властями. Ранее объект управлялся компанией Electrolux.

Неизвестно, насколько масштабной будет первая фаза проекта и сколько средств на неё потратят. Ранее Маск заявлял, что xAI развернёт в ближайшие месяцы 100 тыс. ускорителей NVIDIA H100, а кластер из ещё 300 тыс. B200 введут в эксплуатацию следующим летом. Считается, что xAI арендует около 16 тыс. H100 у Oracle Cloud, также компания пользуется услугами AWS и свободными мощностями X (Twitter).