Нидерландский стартап Axelera AI B.V., специализирующийся на разработке ИИ-ускорителей, анонсировал решение Titania — высокопроизводительный, энергоэффективный и масштабируемый чиплет для задач инференса.

Полностью технические характеристики изделия пока не раскрываются. Известно, что Titania использует проприетарную модель вычислений в памяти Digital In-Memory Computing (D-IMC). Этот подход, как заявляет Axelera AI, обеспечивает ИИ-производительность свыше 50 TOPS на ядро (эквивалентная точность FP32) и энергоэффективность на уровне 15 TOPS на 1 Вт затрачиваемой энергии.

Решение Titania базируется на открытой архитектуре RISC-V. Несколько чиплетов могут быть объединены в виде модуля SiP (System-in-Package). Использование D-IMC обеспечивает практически линейную масштабируемость производительности без значительного увеличения затрат на питание и охлаждение. В качестве потенциальных областей применения Titania названы НРС-платформы, корпоративные дата-центры, робототехника, автомобилестроение и пр.

Источник изображения: Axelera AI

Одновременно с анонсом Titania стартап Axelera AI объявил о привлечении до €61,6 млн от EuroHPC JU в рамках проекта Digital Autonomy with RISC-V for Europe (DARE). Компания Axelera AI будет поддерживать EuroHPC в области разработки суперкомпьютерной экосистемы мирового класса в Европе. В частности, стартап планирует расширять свои научно-исследовательские и опытно-конструкторские подразделения в Нидерландах, Италии и Бельгии. Отмечается также, что основанная в 2021 году компания Axelera AI за три года существования получила инвестиции на общую сумму более $200 млн.

Выпускающий ИИ-чипы для периферийных вычислений стартап Axelera AI объявил о партнёрстве с Arduino, предлагающей открытые платформы с микроконтроллерами и SoC. Предполагается, что это поможет компаниям, выполняющим ИИ-задачи на периферии, сообщает Silicon Angle.

Axelera предлагает платформы Metis AI Platform, включающие до четырёх чипов Axelera Metis AIPU с суммарной производительностью до 856 TOPS (INT8). По словам компании, её платформа не только весьма производительна, но и чрезвычайно энергоэффективна в сравнении с традиционными чипами, благодаря чему она отлично подходит для периферийных устройств. Это особенно важно с учётом намерения использовать их в составе устройств, которые могут работать от аккумуляторов.

Что касается Arduino, то это известный производитель компактных вычислительных платформ. Кроме того, компания предлагает облачное ПО для управления своими устройствами, сбора и визуализации собранных данных. По словам Axelera, сотрудничество откроет доступ к ИИ-возможностям всем 33 млн пользователей продуктов Arduino.

Источник изображения: Axelera

Чипы Axelera будут полностью интегрированы с решениями Arduino, от «железа» до ПО. Первое совместное решение на базе Arduino Portenta X8 и ускорителей Metis компании покажут на CES 2025. Новинка продемонстрирует возможности офлайн-работы предобученной большой языковой модели для промышленного мониторинга, анализирующей данные сенсоров температуры, влажности, качества воздуха и др. в режиме реального времени.

Нидерландский ИИ-стартап Axelera AI B.V., выпускающий ИИ-ускорители для инференса, объявил о привлечении $68 млн на расширение бизнеса. По данным Silicon Angle, в общей сложности общий объём финансирования достиг $120 млн.

В числе ключевых инвесторов, участвовавших в раунде серии B, названы Invest-NL Deep Tech Fund, The European Innovation Council Fund, the Innovation Industries Strategic Partners Fund и Samsung Catalyst Fund. Приняли участие и прежние инвесторы, включая Verve Ventures, Innovation Industries, Fractionelera и итальянский суверенный фонд CDP Venture Capital SGR.

Источник изображения: Axelera AI

По словам Axelera AI, ИИ-индустрия имеет потенциал, чтобы трансформировать многие отрасли экономики, но для того, чтобы полноценно использовать возможности ИИ, компаниям и организациям нужны высокопроизводительные, относительно недорогие и энергоэффективные решения. Основанная в 2021 году Axelera AI занимается созданием именно таких ИИ-ускорителей, ориентированных в первую очередь на периферийные вычисления.

Флагманским продуктом стартапа является платформа Metis AI Platform, включающая до четырёх чипов Axelera Metis AIPU с суммарной производительностью до 856 TOPS (INT8). Платформа не только весьма производительна, но и чрезвычайно энергоэффективна в сравнении с традиционными чипами, благодаря чему она отлично подходит для периферийных устройств, говорят создатели.

В компании сообщили, что направят полученные средства на расширение портфолио. Будут созданы новые решения как для периферийных вычислений, так и для облачных ЦОД, которые смогут удовлетворить нужды систем генеративного ИИ, больших языковых моделей (LLM) и мультимодальных моделей. В компании утверждают, что новые продукты будут стоять за ЦОД петафлопсного и экзафлопсного класса. По оценкам Omdia, это богатый и перспективный рынок.

Молодая компания Axelera AI B.V. сообщила о начале поставок платформы Metis AI, разработанной специально для ускорения ИИ-задач на периферии. Стартап, основанный в 2021 году, получил финансирование на сумму более $50 млн. Чип Axelera основан на открытой архитектуре RISC-V. В базовом варианте платформа Metis AI обеспечивает производительность до 39,3 TOPS. Увеличив тактовую частоту, быстродействие можно довести до 48,16 TOPS.

Изделие предлагается в различных вариантах исполнения, включая карты расширения PCIe (FHHL), модули М.2 2280 и полноценные системы для задач машинного зрения. В частности, карты PCIe AI Edge доступны в версиях с одним и несколькими чипами с общей производительностью до 856 TOPS. Утверждается, что платформа Metis AI обладает высокой энергетической эффективностью — это важно при организации ИИ-вычислений на периферии.

Источник изображений: Axelera AI B.V.

Изделия Metis AI используют чипы Axelera Metis AIPU, содержащие четыре ядра для in-memory вычислений. Объём SRAM-кеша L1 составляет 16 Мбайт, кеша L2 — 32 Мбайт. Диапазон рабочих температур простирается от -40 до +85 °C. Гарантирована совместимость с Ubuntu 20.04/22.04 и Yocto. Разработчикам доступен набор инструментов Voyager SDK и фирменный компилятор TVM, который включает в себя средства оптимизации.

Модуль Axelera M.2 в формате 2280 наделён 512 Мбайт памяти LPDDR4x и одним чипом Axelera Metis AIPU. Энергоэффективность достигает 15 TOPS в расчёте на 1 Вт. Задействовано пассивное охлаждение; интерфейс подключения — PCIe 3.0 х4. Цена составляет €150.

В свою очередь, карты Axelera PCIe AI Edge доступны в версиях с одним (+1 Гбайт набортной RAM) и четырьмя чипами Axelera Metis AIPU: в первом случае быстродействие достигает 214 TOPS (INT8), во втором — 856 TOPS. Устройства выполнены в виде однослотовых карт с интерфейсом PCIe 3.0 х4 и PCIe 3.0 х16. Применена система активного охлаждения с вентилятором. Цена составляет около €200 и €500 соответственно.