Компания Hailo Technologies, специализирующаяся на разработке ИИ-чипов, сообщила о проведении инвестиционного раунда Series C, в ходе которого на развитие получено $120 млн. Таким образом, на сегодняшний день стартап привлёк в общей сложности более $340 млн.

Фирма Hailo была основана в Израиле в 2017 году. Представительства расположены в США, Европе, Японии, Южной Корее, Китае и на Тайване. Компания поставляет свои ИИ-решения более чем 300 клиентам по всему миру.

Источник изображения: Hailo

Стартап проектирует ИИ-ускорители, которые позволяют перенести определённые нагрузки из облака или ЦОД на периферию: это сокращает задержки и снижает зависимость от пропускной способности интернет-соединения. Недавно дебютировало ИИ-решение Hailo-10 в виде модуля M.2 2242/2280, которое обеспечивает производительность до 40 TOPS. При этом энергопотребление на типовых задачах составляет менее 3,5 Вт.

В раунде C приняли участие существующие и новые инвесторы. Это, в частности, семья Зисапель (Zisapel), Гиль Агмон (Gil Agmon), Альфред Акиров (Alfred Akirov), DCLBA, Vasuki, OurCrowd, Talcar, Comasco, Automotive Equipment (AEV) и Poalim Equity. Полученные средства будут направлены на укрепление рыночного положения и развитие продуктового семейства. «Закрытие нового раунда финансирования позволит нам создать основу для долгосрочного роста. Вместе с выпуском ИИ-ускорителя Hailo-10 это поможет во внедрении классического и генеративного ИИ на периферии», — говорит глава Hailo.

Компания Hailo анонсировала специализированный модуль Hailo-10, предназначенный для обслуживания генеративного ИИ. Этот ускоритель с высокой энергетической эффективностью может быть установлен, например, в рабочую станцию или edge-систему.

Изделие выполнено в форм-факторе M.2 Key M 2242/2280 с интерфейсом PCIe 3.0 х4. В оснащение входят чип Hailo-10H и 8 Гбайт памяти LPDDR4. Говорится о совместимости с компьютерами, оснащёнными CPU на архитектурах x86 и Aarch64 (Arm64). Заявлена поддержка Windows 11, а также ИИ-фреймворков TensorFlow, TensorFlow Lite, Keras, PyTorch и ONNX.

Источник изображения: Hailo

Как отмечает Hailo, новинка обеспечивает ИИ-производительность до 40 TOPS. Типовое энергопотребление составляет менее 3,5 Вт. Утверждается, что ИИ-модуль поддерживает нагрузки, связанные с инференсом, в режиме реального времени. Например, при работе с большой языковой моделью Llama2-7B достигается скорость до 10 токенов в секунду (TPS). При использовании Stable Diffusion 2.1 возможна генерация одного изображения на основе текста менее чем за 5 с.

Применение Hailo-10 позволяет перенести определённые ИИ-нагрузки из облака или дата-центра на периферию. Это снижает задержки и даёт возможность решать задачи в офлайновом режиме. Изначально новинка будет позиционироваться для применения в сферах ПК и автомобильных информационно-развлекательных комплексов для обеспечения работы чат-ботов, средств автопилотирования, персональных помощников и систем с голосовым управлением.

Поставки образцов Hailo-10 будут организованы во II квартале 2024 года. В ассортименте компании также присутствует ускоритель Hailo-8 в формате M.2: он обеспечивает производительность до 26 TOPS и при этом имеет энергоэффективность 3 TOPS/Вт.

Стартап Hailo Technologies, разработчик ИИ-чипов, анонсировал изделие начального уровня Hailo-8L, а также семейство ускорителей Hailo-8 Century, выполненных в виде карт расширения с интерфейсом PCle х16.

Чип Hailo-8L предназначен для работы с приложениями, которым не требуется слишком высокое ИИ-быстродействие. Он обеспечивает производительность на уровне 13 TOPS. Выделяется простота интеграции с оборудованием; изделию не требуется внешняя память. Стандартное энергопотребление составляет 1,5 Вт.

Источник изображения: Hailo Technologies

Низкопрофильные карты Hailo-8 Century в зависимости от варианта исполнения имеют половинную или полную длину. Они несут на борту от 2 до 16 чипов Hailo-8, что обеспечивает быстродействие от 52 до 208 TOPS. Энергопотребление при этом варьируется от 10 до 65 Вт. Говорится, что ускорители Hailo-8 Century предоставляют лучшую в своём классе энергетическую эффективность с показателем 400 FPS/Вт в ResNet50.

Стоимость Century начинается с $249 за версию с быстродействием 52 TOPS. Гарантирована совместимость с Linux и Windows, а также с фреймворками Tensorflow (Lite), Keras, Pytorch и ONNX. Все представленные изделия имеют широкий диапазон рабочих температур — от -40 до +85 °C. Решения уже доступны для предварительного заказа.

Компания SolidRun анонсировала компактный индустриальный компьютер Bedrock R7000, предназначенный для решения ИИ-задач на периферии. Новинка получила модульную конструкцию с пассивным охлаждением. В основу положена аппаратная платформа AMD, дополненная ускорителями Hailo.

Устройство оснащено процессором Ryzen 7840HS (8 ядер; 16 потоков; 3,8–5,1 ГГц; 35–54 Вт) с графическим блоком Radeon 780M. Также есть вариант с Ryzen 7840U. В зависимости от модификации устанавливаются до трёх ИИ-ускорителей Hailo-8 M.2, каждый из которых обеспечивает производительность до 26 TOPS. Примечательно, что встроенная в процессор функция AMD Ryzen AI (10 TOPS), похоже, не задействована.

Компьютер может нести на борту до 64 Гбайт оперативной памяти DDR5 ECC и до трёх SSD формата М.2 2280 (NVMe; PCIe 4.0 x4). В оснащение входят контроллер Wi-Fi 6E (Intel AX210), двухпортовый сетевой адаптер 2.5GbE (Intel I226) и модем 4G/5G (Quectel). Есть четыре порта USB 3.2, интерфейс HDMI 2.1, три разъёма DP 2.1.

Источник изображений: SolidRun

Габариты основного модуля составляют 29 × 160 × 130 мм. С обеих сторон могут быть закреплены радиаторы охлаждения: в этом случае толщина увеличивается до 45 или 73 мм. Диапазон рабочих температур простирается от -40 до +85 °C. Компьютер может монтироваться на стену, DIN-рейку или использоваться в «настольном» режиме. Говорится о совместимости с ОС Windows 10/11/IoT и Linux.

Компания QNAP Systems объявила о заключении соглашения о сотрудничестве с Hailo, разработчиком ИИ-ускорителей. В рамках партнёрства QNAP будет использовать в своих NAS для видеонаблюдения передовые решения Hailo для распознавания лиц и подсчёта посетителей.

Речь идёт о применении ИИ-модуля для периферийных вычислений Hailo-8 в формате M.2. Процессор Hailo-8 обеспечивает производительность до 26 TOPS и при этом имеет энергоэффективность 3 TOPS/Вт. В рамках сотрудничества ИИ-технология Hailo будет интегрирована с QNAP QVR Face, интеллектуальным решением для распознавания лиц, а также с инструментом для подсчёта количества людей QVR Human.

Источник изображения: QNAP Systems

Отмечается, что совместное решение QNAP и Hailo централизует ИИ-вычисления на сервере наблюдения, что позволяет значительно сэкономить на облачных вычислениях или покупке большого количества дорогих ИИ-камер. Заказчики могут добавить модуль ускорения Hailo-8 M.2 к серверу видеонаблюдения QNAP, чтобы повысить производительность ИИ-операций и реализовать высокоэффективное интеллектуальное видеонаблюдение с сокращением эксплуатационных расходов до 50 %.

NAS-устройства QNAP для видеонаблюдения совместимы с более чем 6700 IP-камер от 190 известных брендов. Применяя системы QNAP с модулем Hailo-8 M.2, клиенты получат гибкость обслуживания с возможностью масштабирования и смогут максимизировать свои инвестиции. Партнёры предоставят доступные решения для наблюдения с использованием ИИ для широкого круга заказчиков, включая офисы, производства, магазины, жилые здания и пр.

Hailo, производитель микросхем для систем искусственного интеллекта (ИИ), выпустила новые высокопроизводительные модули в форм-факторах M.2 и mini PCIe для расширения возможностей периферийных систем.

Источник изображений: Hailo

Модули на базе процессора Hailo-8 можно подключать к различным периферийным устройствам, что позволяет использовать возможности ИИ в умных домах, розничной торговле и промышленности.

Модули Hailo легко интегрируются в стандартные платформы, такие как TensorFlow и ONNX, что позволяет значительно упростить использование новинок в комплексных решениях. Заказчики могут оперативно перенести свои решения с нейронными сетями на модули Hailo-8.

Спрос на высокопроизводительные периферийные устройства постоянно растет, поэтому безвентиляторные модули Hailo-8 будут востребованы, например, в видеоаналитике, либо для подключения большого количества внешних датчиков для сбора и обработки информации в режиме реального времени. Процессор Hailo-8 способен обеспечить 26 TOPS, при этом имеет энергоэффективность 3 TOPS/Вт.

Модуль Hailo-8 M.2 уже интегрирован в следующее поколение Foxconn BOXiedge (24-ядерный мини сервер, который потребляет всего 30 Вт, при этом обладает неплохими показателями производительности). Наличие готового продукта позволит ускорить внедрение новых модулей в периферийные вычисления и значительно упростить этот процесс для конечного заказчика.