Южнокорейский стартап Rebellions представила на днях план развития своих ИИ-ускорителей. Как сообщает Business Korea, компания ускорит выпуск ИИ-чипов нового поколения, которые получат 4-нм модули памяти HBM3e производства Samsung. Samsung же будет отвечать за объединение чипов и HBM в одной упаковке.

Изначально к концу 2024 года планировалось наладить выпуск продукта Rebel Single с одним модулем памяти, но потом было решено выпустить гораздо более производительный вариант Rebel Quad с четырьмя 12-слойными (12-Hi) модулями HBM3e суммарной ёмкостью 144 Гбайт, тоже к концу текущего года. Новинка придёт на смену ускорителю ATOM, который оснащён всего лишь 16 Гбайт GDDR6.

Использование ёмкой и быстрой HBM3e-памяти считается одним из главных преимуществ Rebel Quad, по этому показателю новинки сравнимы с последними ускорители NVIDIA семейства Blackwell. При этом обещано, что новинки будут значительно энергоэффективнее решений NVIDIA и даже ускорителей Groq. Это по-прежнему серверные ускорители для обработки LLM вроде ChatGPT, но подойдут ли они для обучения ИИ-моделей, пока не уточняется.

Источник изображения: Rebellions

Сейчас Rebellions ориентируется на поставки комплексных ИИ-решений «стоечного уровня». В рамках концепуии Rebellion Scalable Design (RDS) будет предложены программно-аппаратные комплексы, которые позволят органично взаимодействовать многочисленным ускорителями и серверам с максимальной производительностью и энергоэффективностью. Речь идёт о решении, теоретически способном конкурировать с NVIDIA CUDA.

Wa’ed Ventures, венчурное подразделение саудовского нефтегазового и химического гиганта Aramco, по сообщению Datacenter Dynamics, инвестировало $15 млн в южнокорейский стартап Rebellions, занимающийся разработкой ИИ-чипов для машинного зрения, чат-ботов и больших языковых моделей (LLM).

Компания Rebellions основана в 2020 году. Она создаёт специализированные решения для инференса, которые обеспечивают энергоэффективность и высокую производительность при небольших задержках. В 2023-м Rebellions освоила массовое производство чипов ATOM, способных, как утверждается, конкурировать с NVIDIA A100 в некоторых задачах. Изделия ATOM предназначены для обработки LLM в дата-центрах.

Источник изображения: Rebellions

В январе нынешнего года Rebellions осуществила раунд финансирования Series B, в ходе которого на развитие было привлечено $124 млн. Инвестиционную программу возглавил оператор KT при участии kt cloud, Shinhan Venture Investment, KDB (Корейский банк развития), Noh& Partners, KB Securities, KB Investment, SV Investment, Mirae Asset Venture Investment, IMM Investment, KT Investment, Seoul Techno Holdings, SDB Investment и ряда других инвесторов.

А в июне 2024-го стартап Rebellions объявил о слиянии с разработчиком ИИ-чипов Sapeon Korea, который был выделен из SK Telecom в 2016 году. Rebellions также сотрудничает с Samsung Electronics в рамках проекта по созданию ускорителя для генеративного ИИ.

Сообщается, что Wa’ed Ventures присоединилась к раунду финансирования Series B. Соучредитель и генеральный директор Rebellions Сонхён Пак (Sunghyun Park) отметил, что инвестиции будут направлены на создание высокопроизводительных и энергоэффективных ЦОД для задач ИИ в Королевстве Саудовская Аравия. Таким образом, Rebellions стала первым корейским стартапом, получившим стратегическое финансирование от Aramco Wa'ed Ventures. В общей сложности на текущий момент компания привлекла более $215 млн финансирования.

Sapeon и Rebellions, два южнокорейский участника альянса AI Platform Alliance, сформированного в прошлом году с целью ускорения внедрения передовых решений в области ИИ, объявили о планах по объединению усилий, чтобы ускорить работу и добиться больших масштабов бизнеса.

Компания Sapeon предлагает чип X330, предназначенный для инференса и обслуживания больших языковых моделей (LLM), а также основанные на этом чипе серверы. В свою очередь, Rebellions разработала NPU ATOM для систем компьютерного зрения и использования с чат-ботами на базе ИИ. Оба производителя участвуют в программе по импортозамещению ИИ-ускорителей, CPU и иных чипов.

Сейчас Южная Корея стремится добиться технологической независимости от зарубежных поставщиков оборудования и ПО. Речь, в первую очередь, об NVIDIA. Ускорители последней в своё время не достались местному IT-гиганту Naver, который временно был вынужден заменить их процессорами Intel Xeon, а впоследствии вместе с Samsung создал собственные ИИ-чипы Mach-1.

Источник изображения: Rebellions

Инициатором слияния Sapeon и Rebellions выступила SK hynix, которая вместе с SK Telecom является акционером Sapeon. В своём заявлении она отметила, эти компании согласились на слияние, поскольку, по их мнению, это позволит создать компанию, способную оказать конкуренцию другим участникам глобального рынка ИИ.

Как отметил The Register, время сейчас имеет решающее значение для Sapeon и Rebellions, поскольку следующие два или три года воспринимаются как «золотое время» для создания компаний, способных стать крупными игроками в области ИИ. Поэтому предполагается провести слияние в кратчайшие сроки с завершением сделки в III квартале и запуском объединённой компании до конца 2024 года.

Источник изображения: Sapeon

В свою очередь, SK hynix планирует оказать помощь объединенной компании в разработке ИИ-полупроводников. Sapeon была выделена SK Telecom в отдельную компанию в 2016 году. Rebellions была создана всего четыре года назад при поддержке прямого конкурента SK Telecom в лице KT Corp., но уже договорилась с Samsung о поставке ей ИИ-чипов, которые будут производиться компанией Chaebol с использованием 4-нм процесса с интеграцией HBM3e.

Стартап Rebellions из Южной Кореи, разрабатывающий специализированные чипы для ИИ-задач, сообщил о проведении раунда финансирования Series B, в ходе которого на дальнейшее развитие привлечено $124 млн. В результате, оценочная стоимость компании достигла $658 млн.

Фирма Rebellions создаёт решения для машинного зрения, чат-ботов и больших языковых моделей (LLM). В ассортименте компании — чипы Ion и Atom, оптимизированные для ИИ-приложений. Первый создан по 7-нм техпроцессу TSMC. Он обеспечивает пиковую производительность FP16 на уровне 4 Тфлопс, а на операциях INT8 и INT4 быстродействие достигает 16 и 32 TOPS соответственно.

Источник изображения: Rebellions

В свою очередь, изделие Atom, основанное на 5-нм технологии, предназначено для обработки LLM, содержащих до 7 млрд параметров. Производительность на операциях FP16 достигает 32 Тфлопс, INT8 — 128 TOPS. Решение включает 16 Гбайт памяти GDDR6 и использует интерфейс PCIe 5.0.

Отмечается, что раунд финансирования Series B возглавил KT, второй по величине оператор мобильной связи в Южной Корее. Кроме того, средства предоставили kt cloud, Shinhan Venture Investment, Koreyla Capital, DGDV, KDB (Корейский банк развития), Noh& Partners, KB Securities, KB Investment, SV Investment, Mirae Asset Venture Investment, Mirae Asset Capital, IMM Investment, KT Investment, Seoul Techno Holdings, Oasis PE, Gyeongnam Venture Investment и SDB Investment.

Таким образом, в общей сложности Rebellions на сегодняшний день получила более $200 млн финансирования, что является рекордным показателем среди стартапов в области полупроводниковых изделий в Южной Корее. Деньги пойдут на расширение штата, укрепление положения на внутреннем и международном рынках, а также на разработку ИИ-чипа следующего поколения под названием Rebel, который создаётся совместно с Samsung.

Южная Корея объявила о намерении получить собственные процессоры и ускорители ещё в 2021 году. В число разработчиков вошёл и стартап Rebellions, который, как передаёт Reuters, анонсировал новый ИИ-чип ATOM, способный конкурировать с NVIDIA A100 в ряде задач. С учётом огромной популярности ИИ-решений желание обладать собственными ускорителями для задач подобного класса выглядит вполне оправданно.

Правительство Южной Кореи намеревается вложить в ИИ-отрасль более $800 млн, и к 2030 году добиться, чтобы 80 % ИИ-чипов в местных ЦОД были представлены отечественными решениями. В настоящее время основным производителем ИИ-ускорителей является NVIDIA, на чью долю, согласно аналитикам Jefferies, приходится около 86 % всего рынка, и до нынешнего момента аналогов у Южной Кореи не было. Появление ATOM должно изменить эту ситуацию.

Плата с чипом Rebellions ATOM. Источник изображения: Rebellions/REUTERS

Данный чип изначально проектировался с прицелом для машинного зрения и для чат-ботов. Благодаря достаточно узкой специализации, его удалось сделать достаточно экономичным: согласно имеющимся данным, потребление ATOM составляет 20 % от аналогичного показателя NVIDIA A100. Сведений о внутреннем устройстве ATOM пока нет. Судя по снимку, решение достаточно мощное, поскольку плата ускорителя оснащена двумя разъёмами питания: 6+8.

Проект Rebellions включает в себя сотрудничество с крупным южнокорейским телеком-провайдером, компанией KT Corp, а также с дочерней структурой SK Telecom, компанией Sapeon Korea, который тоже выпускает ИИ-ускорители. В настоящее время объём инвестиций составляет $96 млн, из которых четверть приходится на долю KT Corp. Ещё примерно $7,8 млн получено в виде гранта от правительства Южной Кореи. За производство чипа отвечает Samsung Electronics.