ИИ-стартап Илона Маска (Elon Musk) xAI отказался от планов по расширению сотрудничества с Oracle. Как пишет The Wall Street Journal, во вторник миллиардер сообщил в соцсети X, что xAI прекратил переговоры с облачным провайдером о сделке на $10 млрд по поводу расширения аренды вычислительных мощностей, поскольку стартап сам построит «самый мощный кластер для обучения [ИИ-моделей] в мире с большим запасом».

Сообщивший ранее о срыве сделки ресурс The Information рассказал, что многолетнее соглашение об аренде у Oracle запланированного к строительству суперкомпьютера на чипах NVIDIA уже было на стадии подписания, но переговоры зашли в тупик из-за того, что Маска не устроили сроки строительства, предложенные Oracle. Oracle же заявила об отсутствии доступа к адекватному источнику энергии для работы ИИ-суперкомпьютера в выбранном xAI регионе.

Источник изображения: xAI

В итоге Маск заявил, что «самый мощный суперкомпьютер в мире» будет построен стартапом в Мемфисе (штат Теннесси, США) и начнёт работу осенью 2025 года. Ранее Маск сообщил, что в течение следующих нескольких месяцев xAI развернёт кластер из 100 тыс. ускорителей NVIDIA H100 с жидкостным охлаждением, а летом следующего года запустит ещё один кластер из 300 тыс. ускорителей NVIDIA B200.

Как отметил ресурс Data Center Dynamics, xAI уже арендует у Oracle около 16 тыс. ускорителей NVIDIA, что делает его одним из крупнейших клиентов провайдера облачных услуг. Стартап также использует для работы сервисы AWS и резервные мощности в ЦОД соцсети X (Twitter). Oracle также предоставляет свою ИИ-инфраструктуру Microsoft и OpenAI.

В ассортименте Orange Pi, по сообщению ресурса CNX Software, появился вычислительный модуль CM5, представляющий собой аналог Raspberry Pi CM4. Новинка может применяться для создания различных устройств под управлением Orange Pi OS (Arch), Ubuntu, Debian и Android 12.

В основу изделия положен процессор Rockchip RK3588S (против Broadcom BCM2711 у Raspberry Pi CM4). Чип объединяет восемь ядер: квартеты Cortex-A76 и Cortex-A55 с тактовой частотой до 2,4 и 1,8 ГГц соответственно. Есть графический ускоритель Arm Mali-G610 MP4 и нейропроцессорный блок (NPU) с производительностью до 6 TOPS. Поддерживается декодирование видеоматериалов 8Kp60 H.265, VP9, AVS2, 8Kp30 H.264 AVC/MVC, 4Kp60 AV1, 1080p60 MPEG-2/-1, VC-1, VP8.

Источник изображений: CNX Software

Модуль может комплектоваться 2, 4, 8 или 16 Гбайт памяти LPDDR4x, а также флеш-накопителем eMMC вместимостью 32, 64, 128 или 256 Гбайт. Реализована поддержка следующих интерфейсов: 2 × SATA (один совмещён с USB 3.0, другой — с PCIe 2.0), SD, HDMI 2.1 или eDP 1.3, MIPI DSI (4 линии и 2 линии), MIPI CSI (4 линии), USB 2.0 (×3), USB 3.0 Type-C (DP 1.4 Alt Mode), 1GbE, PCIe 2.0 x1 (×2), SDIO 3.0 (например, для Wi-Fi 5 и Bluetooth 5.0), I2S, PDM, SPDIF, UART, I2C, SPI, PWM, GPIO. Размеры составляют 55 × 40 × 1,6 мм, масса — 12 г.

Кроме того, предусмотрены три 100-контактных коннектора для подключения к вспомогательной интерфейсной плате. Она оборудована слотом microSD, разъёмом HDMI 2.1, портом 1GbE RJ-45 и двумя портами 2.5GbE RJ-45 (контроллер Realtek RTL8125BG PCIe), разъёмами USB 3.0 и USB 2.0 и пр. Габариты — 90 × 66 мм, масса — 57,5 г. Питание (5 В / 5 A) подаётся через коннектор USB Type-C.

Цена Orange Pi CM5 варьируется от $20 до $120 в зависимости от объёма оперативной памяти (в конфигурации с флеш-чипом eMMC вместимостью 32 Гбайт).

Компания MSI представила очередной мини-компьютер размером с ладонь — MS-C918. Новинка рассчитана на применение в офисе, для обеспечения работы цифровых вывесок, конференц-систем и др.

Новинка оснащена четырёхъядерным процессором Intel N100, до 4 Гбайт оперативной памяти LPDDR5 и 128 Гбайт постоянной eMMC с предустановленной ОС Windows 11 IoT Enterprise. Мини-ПК получил да порта HDMI 2.0, включая один с поддержкой HDMI CEC, гигабитным Ethernet-интерфейсом, Wi-Fi 6E и Bluetooth 5.2, а также тремя портами USB 3.2/2.0.

Источник изображения: MSI

Спецификации:

• SoC: Intel N100 (Alder Lake-N): 4C/4T, до 3,4 ГГц, кеш 6 Мбайт, 24 EU Intel UHD (до 750 МГц), TDP 6 Вт;
• ОЗУ: до 4 Гбайт LPDDR5-4800 (один канал);
• ПЗУ: eMMC до 128 Гбайт; слот MicroSD с поддержкой карт до 2 Тбайт;
• Видео: 2х HDMI 2.0 (до 4К@60);
• Аудио: 3,5-мм аудиовыход, вывод цифрового аудио через HDMI;
• Сеть: 1GbE RJ45 (Realtek RTL8111H-CG), Wi-Fi 6E и Bluetooth 5.2;
• USB: 2 × USB 3.2 (10 Гбит/с), 1 × USB 2.0;
• Безопасность: модуль fTPM 2.0;
• Прочее: кнопка включения, LED-индикатор питания, слот для кенсингтонского замка, защитный таймер;
• Питание: 18 В DC;
• Габариты: 80 × 80 × 36 мм (высота 40,7 мм с учётом резиновых ножек);
• Масса: 290 г;
• Условия работы: t° от 0 до +40°C, отн. влажность 10–90 % без обр. конденсата;

Источник изображения: MSI

Возможен монтаж с помощью VESA-креплений. По умолчанию компьютер оснащается 64-бит Windows 11 IoT Enterprise версии 22H2 с поддержкой в течение минимум 10 лет. В самой компании характеризуют мини-ПК как «небольшую промышленную коробочку», хотя на работу в действительно жёстких промышленных средах и за пределами помещений она не рассчитана.

ИИ-стартап Character.AI провёл переговоры с несколькими IT-гигантами, передаёт The Information. По слухам, компания обсуждала возможности сотрудничества с Google, Meta✴ и контролируемой Илоном Маском (Elon Musk) xAI.

Основанная бывшими сотрудниками Google компания уже привлекла $150 млн на создание чат-ботов, имитирующих поведение героев аниме, игр и др. На прошлой неделе компания представила функцию Character Call, обеспечивающую голосовое общение с ИИ-аватарами, готовыми ответить на запрос пользователя. Предполагается, что это добавит популярности сервисам компании.

Если бы стартапу удалось заключить сделку с одним из крупных игроков вроде Google или xAI, он получил бы доступ к огромным вычислительным ресурсам, а в ответ поделился бы интеллектуальной собственностью, связанной со своими передовыми разработками. По сведениям The Information, компания обсуждала заключение аналогичной сделки о совместном участии в исследованиях и с Meta✴ Platforms.

Источник изображения: Character.AI

Пока потенциальные участники сделки, включая Character.AI, не ответили на запросы журналистов. Некоторые эксперты полагают, что у компании слишком мало собственных вычислительных ресурсов, поэтому ей неизбежно пришлось бы прибегнуть к помощи игроков покрупнее. В индустрии это уже привычная практика. Так, Alibaba Cloud предлагает стартапам ИИ-мощности в обмен на долю в компании, а различные программы поддержки начинающих компаний в области ИИ нередко предполагают «выплаты» именно облачными ресурсами, а не живыми деньгами.

UPD 03.08.2024: Google наняла основателей Character.AI и лицензировала ИИ-модели компании.

Компания OpenAI, по сообщению ресурса Datacenter Dynamics, наняла еще одного бывшего сотрудника Tesla и Google для развития своей вычислительной инфраструктуры. Несмотря на использование облака Microsoft Azure, OpenAI развивает собственное направление ЦОД, в связи с чем расширяет штат специалистов в соответствующей области.

В OpenAI перешел Реза Хиабани (Reza Khiabani), который ранее в течение почти двух лет работал в Tesla в качестве инженера-теплотехника. Он, в частности, помогал в создании системы охлаждения для ИИ-суперкомпьютера Dojo, для которого планируется построить специальный дата-центр. Однако с реализацией проекта возникли сложности.

До прихода в Tesla Хиабани проработал почти девять лет в Google, из которых основную часть времени выполнял обязанности технического менеджера, архитектора тепловых систем и технического руководителя команды по разработке СЖО для ИИ-ускорителей семейства Cloud TPU. Он курировал проектирование ЦОД, тепловой дизайн TPU и «разработку машстабных систем жидкостного охлаждения».

Источник изображения: Google

В OpenAI Хиабани войдёт в техническую команду. Чем именно ему предстоит заниматься, не уточняется. Но можно предположить, что его работа снова будет связана с решениями СЖО для дата-центров, ориентированных на ресурсоёмкие приложения ИИ.

OpenAI активно нанимает бывших специалистов Tesla и Google. В частности, ранее ИИ-компания назначила бывшего руководителя Google TPU Ричарда Хо (Richard Ho) главой отдела аппаратного обеспечения. В OpenAI также перешли ветеран Google Тодд Андервуд (Todd Underwood) и старший инженер-программист команды Tesla Dojo Клайв Чан (Clive Chan).

Компания InspireSemi объявила о разработке чипа Thunderbird на открытой архитектуре RISC-V для ИИ-нагрузок. Это изделие легло в основу специализированной карты расширения с интерфейсом PCIe, которая, как утверждается, подходит для решения широкого спектра задач.

Чип Thunderbird содержит 1536 кастомизированных 64-битных суперскалярных ядер RISC-V, а также высокопроизводительную память SRAM. Говорится о наличии ячеистой сети с малой задержкой для меж- и внутричиповых соединений. Кроме того, предусмотрены блоки ускорения определённых алгоритмов шифрования.

Источник изображения: InspireSemi

Идея заключается в том, чтобы объединить универсальность и возможности программирования традиционных CPU с высокой степенью параллелизма GPU. Изделие ориентировано на НРС-приложения, но при этом поддерживает исполнение программ общего назначения. InspireSemi называет новинку «суперкомпьютерным кластером на кристалле». Точно так же назвала свои ИИ-ускорители Esperanto Technologies. Именно её чипы ET-SoC-1, по-видимому, впервые объединили более 1 тыс. ядер RISC-V. Впрочем, сама Esperanto позиционировала их как гибкие и энергоэффективные решения для инференса.

В случае Thunderbird четыре могут быть объединены на одной карте PCIe, что в сумме даёт 6144 ядра RISC-V. Более того, заявлена возможность масштабирования до 256 чипов, связанных с помощью высокоскоростных трансиверов. Таким образом, количество ядер может быть доведено до 393 216.

Чип обеспечивает производительность до 24 Тфлопс (FP64) при энергетической эффективность 50 Гфлопс/Вт. Для сравнения: NVIDIA A100 обладает быстродействием 19,5 Тфлопс (FP64), а NVIDIA H100 — 67 Тфлопс (FP64). Суперскалярные ядра поддерживают векторные и тензорные операции и форматы данных с плавающей запятой смешанной точности. Однако о совместимости с Linux ничего не говорится. Среди возможных областей применения названы ИИ, НРС, графовый анализ, блокчейн, вычислительная гидродинамика, сложное моделирование в области энергетики, изменений климата и пр.

На этой неделе китайский производитель процессоров Loongson не только представил новые 64-ядерные серверные процессоры 3C6000 на базе собственной архитектуры LoongArch, но и выложил свежий список ПО, портированного на данную архитектуру. В нём оказалась и продукция Lenovo, обратил внимание ресурс The Register.

Всего новый список включает 53 разработчика ПО и 105 продуктов. В случае Lenovo упомянуты три серверных решения семейства Wentian: облачная платформа WxCloud 3.0, HCI-платформа WxStack 8.0 и платформа виртуализации WxSphere 8.0. В случае последней говорится, что это решение подходит для импортозамещения VMware.

Естественно, все эти решения ориентированы на китайский рынок, где под давлением американских санкций происходит переход на отечественные программные и аппаратные платформы, местами в принудительном порядке. Для западных рынков Lenovo всё так же предлагает решения VMware.

Источник изображения: Lenovo

Что касается Loongson, то её решения хотя и отстают по возможностям и производительности от продукции AMD и Intel, находят всё большее применение в Китае, который всеми силами стремиться добиться независимости от западных технологий. Например, ранее компания сообщила, что её процессоры появились в СХД местного вендора Chuji, которые предлагает HDD- и SSD-хранилища в различных форм-факторах.

Портал Phoronix обратил внимание на необычный патч, заметно повышающий производительность Raspberry Pi 5. Инженеры Igalia в результате экспериментов с эмуляцией NUMA на UMA-системах с чипами ARM64 (AArch64) добились повышения эффективности использования памяти. Так, простой патч для ядра Linux позволил улучшить результаты в Geekbench на 6 % в однопоточном режиме и на целых 18 % — в многопоточном.

Авторы патча пишут, что разделение RAM на несколько независимых блоков с последующим попеременными доступом (interleaving) позволяет контроллеру в Broadcom BCM2712 более полно использовать параллелизм на уровне физической организации чипов памяти (parallelism in physical memory chip organisation). Почему так происходит, авторы не уточняют, но, вероятно, это связано с особенностями организации кеша в SoC.

Источник изображения: Raspberry Pi

16-нм SoC BCM2712 включает четыре ядра Cortex-A76 (2,4 ГГц), каждому из которых полагается по 64 Кбайт кеша для инструкций и данных и 512 Кбайт L2-кеша. Объём общего L3-кеша составляет 2 Мбайт. Встроенный 32-бит контроллер памяти предлагает LPDRR4x-интерфейс, теоретическая пропускная способность которого достигает 17 Гбайт/с. Важно отметить, что этот чип не создавался эксклюзивно для Raspberry Pi — он был выбран среди актуальных массовых решений Broadcom из-за удачного сочетания цены, производительности и доступности.

Патч добавляет в Kconfig новую опцию, а для активации эмуляции NUMA (Non-uniform memory access) нужно передать соответствующий параметр при загрузке ядра. Дальнейшая работы осуществляется с помощью стандартной утилиты numactl.

Компания OpenAI, создатель чат-бота ChatGPT, объявила о заключении соглашения о поглощении стартапа Rockset — разработчика специализированной СУБД, которая пригодится в работе с ИИ. Информации об ориентировочной стоимости сделки нет. Rockset была учреждена около восьми лет назад выходцами из Facebook✴.

Основателями Rockset являются Венкат Венкатарамани (Venkat Venkataramani) и Дхруба Бортакур (Dhruba Borthakur), занимающие должности генерального и технического директоров соответственно. В ходе «посевной» программы было привлечено $3 млн. Затем были осуществлены раунды Series A, В и В Extended на $18,5 млн, $40 млн и $37 млн соответственно. Кроме того, выполнено долговое финансирование на $7 млн. Таким образом, в общей сложности Rockset получила на развитие $105,5 млн.

Источник изображения: Rockset

Инструменты Rockset, как утверждается, позволяют пользователям, разработчикам и предприятиям лучше использовать имеющиеся данные и получать доступ к информации в реальном времени. В результате может быть повышена эффективность ИИ-приложений. Rockset также ведёт разработки в области векторных баз данных, которые обычно используются для поддержки векторного поиска — визуального, семантического и мультимодального. Такие базы помогают ускорить разработку продуктов на базе ИИ и упростить эксплуатацию соответствующих рабочих нагрузок.

В рамках сделки Rockset станет частью OpenAI, а решения стартапа будут интегрированы в системы OpenAI. Существующие клиенты Rockset в краткосрочной перспективе не ощутят существенных изменений.

По мере экспансии 5G-технологий в мире, расширяется и сфера применения связи пятого поколения — технология посягает на области, в которых прежде всегда доминировали Wi-Fi и иные беспроводные решения. Как сообщает IEEE, в Великобритании Vodafone представит в этом месяце частную базовую 5G-станцию на основе Raspberry Pi, сравнимую по габаритам с домашним роутером.

Компания объединила усилия с британской Lime Microsystems для выпуска на краудфандинговой основе наборов 5G-станций стоимостью от $800 до $12 тыс. Прототип одной из 5G-микросот демонстрировался в феврале 2023 года. Он полностью совместим со спецификациями OpenRAN и может формировать как частные 5G-сети, так и исполнять роль шлюза к публичной сети Vodafone.

В компании уверены, что многие захотят получить свою маленькую частную 5G-сеть. Пока предполагается использование в основном компаниями и организациями, хотя в проекте смогут участвовать даже отдельные эксперты. Так, коммерческие компании могут повысить защиту беспроводной сети, поскольку для подключения требуется SIM-карта, а не просто пароль как в случае Wi-Fi. Но можно наоборот упростить доступ. В качестве примера в Vodafone привели пекарню с собственной 5G-сетью, для подключения к которой достаточно просто войти в здание.

Источник изображения: Lime Microsystems

По словам компании, частные 5G-сети незаменимы в случае чрезвычайных ситуаций и спасательных операций. Например, беспилотник с 5G-станцией сможет летать над зоной бедствия. Любой гаджет с совместимой SIM-картой будет регистрироваться в такой сети, передавая уникальную информацию для идентификации и позволяя не только найти пострадавших, но и получить о них дополнительные сведения. Наконец, 5G предлагает более низкую задержку, а в случае высоконагруженных сетей может быть до десяти раз быстрее Wi-Fi.

В самих частных 5G-сетях нет ничего нового. Например, Amazon предлагает сервис AWS Private 5G, а Verizon — и вовсе довольно компактное решение размером с фургон. Правда, до субкомпактных базовых станций на основе Raspberry Pi им очень далеко.