Бум машинного обучения продолжается. Мы уже рассказывали читателям о тензорном процессоре Groq с производительностью порядка 1 Петаопс.
По мнению разработчиков, их детище имеет самую эффективную архитектуру на сегодняшнем рынке. Для таких заявлений есть основания — Groq удалось занять первое место при исполнении ResNet-50 v2.
ResNet-50 — сложная свёрточная нейронная сеть, обученная при помощи свыше миллиона изображений, взятых из базы данных ImageNet. Глубина сети составляет 50 слоёв, она способна классифицировать объекты по 1000 различных категорий, точность распознавания составляет около 93%.
Ускоритель на базе Groq смог развить пиковую производительность на уровне 21700 распознаваний в секунду, что превосходит показатели любых других коммерческих нейроархитектур. Он оказался более чем в два раза быстрее, нежели решения на базе графических процессоров.
Groq уступил лишь специализированному закрытому ASIC Alibaba HanGuang, который нельзя купить
Следует отметить, что производительность Groq была высокой и при малом размере серии изображений. Даже при распознавании единственной картинки за раз чип демонстрировал практически пиковую скорость, а задержки не превышали 0,05 миллисекунды.
Если на длинных сериях он превосходил GPU примерно в 2,5 раза, то на коротких отрыв увеличился до 17 раз, что является очень впечатляющим показателем. Особенно с учётом скромной базоврй тактовой частоты Groq, которая составляет всего 900 МГц.
Groq состоит практически только из вычислительных ядер
Напоминаем, что архитектура Groq довольно уникальна: разработчики этого процессора решили отказаться от многих традиционных блоков, таких как кеши, планировщики заданий и т.п., что позволило пустить весь сэкономленный транзисторный лимит на вычислительные ядра.
Задачи по предварительной обработке, такие как параллелизация, были возложены на компилятор. В итоге то, что в своё время погубило IA64, стало решающим фактором победы для Groq. Массовые поставки новинки намечены её создателями на середину текущего года.
Источник:
