NVIDIA объявила о серии совместных проектов с SoftBank, направленных на ускорение суверенных инициатив Японии в области ИИ, которые также обеспечат возможность получения дохода от ИИ для поставщиков телекоммуникационных услуг по всему миру.

В выступлении на саммите NVIDIA AI Summit Japan генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) объявил, что SoftBank создаёт самый мощный в Японии ИИ-суперкомпьютер с использованием платформы NVIDIA DGX SuperPOD B200 и интерконнекта Quantum-2 InfiniBand. Эта система станет первой в мире, которая получит системы DGX B200. Она будет использоваться компанией для разработки генеративного ИИ и развития других бизнес-решений, а также для предоставления вычислительных услуг университетам, научно-исследовательским институтам и предприятиям в стране. Суперкомпьютер идеально подойдёт для разработки больших языковых моделей (LLM), говорится в пресс-релизе.

Пока что на звание самого мощного ИИ-суперкомьютера Японии претендует система ABCI 3.0 на базе NVIDIA H200. Впрочем, Softbank не сидит сложа руки и планирует построить ещё один суперкомпьютер, на этот раз на базе суперускорителей GB200 NVL72. Они же будут использоваться в проекте Sharp, KDDI и Supermicro по созданию «крупнейшего в Азии» ИИ ЦОД.

Источник изображения: NVIDIA

Также в ходе саммита было объявлено, что SoftBank, используя платформу ускоренных вычислений NVIDIA AI Aerial, успешно запустил первую в мире телекоммуникационную сеть, объединяющую возможности ИИ и 5G. В ходе испытаний, проведенных в префектуре Канагава, SoftBank продемонстрировала, что решение AI-RAN достигло производительности 5G операторского класса, используя ресурсы ускорителя для одновременной обработки сетевого трафика и инференса.

Отмечается, что мобильные сети традиционно рассчитаны на обработку пиковых нагрузок и в среднем задействуют только треть аппаратных ресурсов, что позволяет монетизировать оставшиеся две трети путём предоставления ИИ-сервисов. NVIDIA и SoftBank также сообщили, что с помощью ПО NVIDIA AI Enterprise японская компания будет создавать локализованные безопасные ИИ-сервисы.

Японская SoftBank, уже владеющая британским разработчиком процессоров Arm, приобрела британскую же компанию Craphcore, занятую разработкой ИИ-ускорителей. По данным The Register, сумма потенциальной сделки не называется, но по некоторым оценкам она составит $600 млн — для сравнения, Graphcore привлекла $700 млн в ходе всех раундов финансирования.

Graphcore официально объявила о сделке в четверг, а её глава Найджел Тун (Nigel Toon) публично одобрил её, подчеркнув, что спрос на ИИ-вычисления сейчас высок и продолжает расти, а SoftBank является тем партнёром для Graphcore, который поможет «изменить ландшафт» ИИ-технологий. Штаб-квартира компании по-прежнему останется в Бристоле.

Ключевые активы компании — ИИ-ускорители Intelligence Processing Units (IPU), а также стек ПО. Хотя вычислительные системы BOW POD16 оказались производительнее NVIDIA DGX A100, процветания в компании не дождались и рассматривали продажу ещё в феврале 2024 года.

Источник изображения: Graphcore

Несмотря на первоначальный успех, бизнес не смог стать прибыльным. В 2022 году выручка составила всего $2,7 млн — на 46 % меньше год к году, операционные расходы составили $206,8 млн. После этого начались увольнения — по словам представителей компании, необходимые для того, чтобы удержать бизнес на плаву. Более того, компания даже стала получать иски.

Сотрудничество с китайскими бизнесами могло бы вывести Graphcore из тупика, но США ограничили продажи высокопроизводительных ускорителей в КНР. Тем временем NVIDIA закрепила своё влияние на рынке решений для генеративных ИИ-систем. Тун прогнозирует, что SoftBank, наконец, даст возможность Graphcore составить конкуренцию лидерам отрасли.

Источник изображения: Graphcore

По словам SoftBank Investment Advisers, новое поколение полупроводников и вычислительных систем имеет чрезвычайное значение для работ над т.н. «общим искусственным интеллектом» (AGI), поэтому SoftBank рада сотрудничать с Graphcore. При этом в SoftBank не акцентируют внимание на том, что компания уже является владельцем контрольного пакета акций британской Arm, на решениях которой строятся многие современные полупроводники. Последняя имеет собственные амбиции и намерена представить альтернативу решениям NVIDIA.

Graphcore предлагает ещё одну альтернативу и уже имеет готовое техническое решение. С учётом финансовых ресурсов SoftBank и связей с Arm, компания, возможно, получит второе дыхание для нового старта. Другими словами, сектор ИИ-инфраструктуры сможет стать более конкурентным, что в любом случае пойдёт на благо покупателей.

Японская компания SoftBank Group Corp. ведёт переговоры о приобретении переживающего финансовые проблемы британского Graphcore Ltd., разработчика ИИ-ускорителей IPU, сообщил Bloomberg со ссылкой на информированные источники. По их словам, переговоры длятся уже несколько месяцев, но финансовые условия всё ещё не определены и нет никаких гарантий, что будет достигнуто окончательное соглашение.

В сентябре 2023 года Financial Times сообщала, что SoftBank сделала предварительное предложение о покупке Graphcore, которое стартап отклонил. SoftBank имеет контрольный пакет акций в другом британском разработчике микросхем, Arm Holdings, объявившем в феврале о хороших перспективах расширения своего бизнеса на рынке ИИ-чипов. С тех пор акции Arm выросли примерно на 40 %.

Источник изображения: Graphcore

Основанная в 2016 году компания Graphcore из Бристоля представила в 2020 году серверные ИИ-ускорители IPU (Intelligence Processing Unit). По словам Graphcore, её чипам вполне под силу составить конкуренцию NVIDIA. В числе её инвесторов такие компании, как Samsung Electronics, Bosch и Sequoia Capital. После раунда финансирования в 2020 году стоимость Graphcore оценивалась в $2,8 млрд. Но с тех пор британской компании так и не удалось набрать необходимые обороты и сейчас она активно ищет финансирование, чтобы остаться на плаву на фоне роста убытков из-за сокращения продаж.

Как сообщил в феврале ресурс Bloomberg News, переговоры начались в тот время, когда основатель SoftBank Масаёси Сон (Masayoshi Son) решил запустить собственный проект в сфере ИИ стоимостью до $100 млрд, чтобы бросить вызов NVIDIA. SoftBank притормозила инвестиции в технологический сектор в 2022 году, но в конце 2023 года решила вернуться к заключению новых сделок, делая ставку на ИИ. Масаёси Сон представил это как стратегию, ориентированную на бизнес Arm.

Компания SoftBank протестировала в Руанде технологию, позволяющую обеспечить 5G-связью пользователей смартфонов без классических базовых станций. Как сообщает компания, были задействованы стратосферные беспилотники (HAPS) с питанием от солнечных элементов.

Проект реализован совместно с местными властями и стартовал 24 сентября 2023 года. Компании успешно протестировали работу 5G-оборудования в стратосфере, коммуникационное оборудование выводилось на высоту до 16,9 км, где оно испытывалось в течение 73 минут. В ходе испытаний состоялся 5G-видеозвонок с помощью сервиса Zoom с площадки в Руанде участникам команды SoftBank в Японии.

Источник изображения: SoftBank

В компании утверждают, что это первый в мире публично анонсированный 5G-звонок с использованием стратосферной HAPS-платформы. Полёт с муляжом соответствующего оборудования состоялся ещё в июне, а меморандум о взаимопонимании стороны подписали в 2020 году. В SoftBank утверждают, что результаты испытаний превзошли все ожидания, а новые технологии помогут преодолеть цифровое неравенство. В дальнейшем совместно с властями Руанды будет рассматриваться возможность коммерческого применения.

Платформы HAPS, включая беспилотники различных типов и надувные шары, потенциально позволяют обеспечить связь в сельской местности и удалённых от цивилизации районах без больших затрат на установку базовых станций, запуск спутников и/или использование специальных приёмников. Относительно недорогие беспилотники потенциально способны обеспечивать связь месяцами на больших площадях без существенных затрат.

Источник изображения: SoftBank/Business Wire

После эксперимента SoftBank и власти Руанды намерены продолжить исследование потенциала HAPS и коммерческого применения технологий не только в Руанде, но и других регионах Африки, не имеющих стабильного подключения к Сети. Сегодня SoftBank находится в процессе поглощения HAPSMobile, в 2017 году основанной совместно с американской AeroVironment. После поглощения SoftBank продолжит развитие платформ HAPS.

SoftBank инвестирует и в другие компании, занимающиеся разработкой и выпуском высотного оборудования, в том числе спутников для низкой околоземной и геосинхронной орбит и даже аэростатов. Ранее SoftBank инвестировала в проект Google Loon, предусматривавший использование воздушных шаров с телеком-оборудованием. В сфере HAPS активно ведут разработки и другие компании: BAE, Airbus, Avealto, Stratospheric Platforms, Sceye и Mira Aerospace, которая тоже осуществила успешный тестовый полёт своей HAPS-платформы в Руанде (UPD: судя по всему, Mira Aerospace и была партнёром Softbank в проведённом тесте).

Японская холдинговая компания SoftBank, работающая в области телекоммуникаций, маркетинга и финансов, сообщила о намерении создать специализированный вычислительный комплекс для поддержания приложений генеративного ИИ. В проект будет инвестировано приблизительно ¥20 млрд — около $140 млн.

Предполагается, что после ввода в эксплуатацию система станет самым высокопроизводительным японским суперкомпьютером для задач генеративного ИИ. Говорится, что в составе комплекса будут применяться ускорители NVIDIA. Весной 2023 года сообщалось, что SoftBank и NVIDIA создадут платформу для генеративного ИИ и сервисов 5G/6G. Тогда отмечалось, что основой серверов послужит суперчип GH200 Grace Hopper. SoftBank изучает возможность внедрения приложений 5G для автономного вождения, ИИ-производств, дополненной и виртуальной реальности, компьютерного зрения и цифровых двойников.

Источник изображения: pixabay.com

Как теперь стало известно, после введения в эксплуатацию нового суперкомпьютера SoftBank увеличит количество параметров своей большой языковой модели (LLM) с 1 млрд до 60 млрд. Для сравнения: у GPT-3 — 175 млрд параметров.

В июне Масаёси Сон (Masayoshi Son), председатель и главный исполнительный директор SoftBank, объявил о стратегии увеличения инвестиций в разработку ИИ и связанных с этим приложений. Ожидается, что генеративный ИИ SoftBank будет коммерциализирован в течение двух лет.

Компании NVIDIA и SoftBank в рамках выставки Computex 2023 объявили о совместной работе над передовой платформой для генеративного ИИ и приложений 5G/6G. Проект предусматривает формирование дата-центров нового поколения с высокими показателями производительности и энергетической эффективности.

Платформа будет использовать новую эталонную архитектуру NVIDIA MGX, предназначенную для быстрого создания ИИ-систем на базе CPU, GPU и DPU. Основой серверов послужит суперчип GH200 Grace Hopper, уже запущенный в массовое производство.

Новые ЦОД обеспечат более эффективное использование площадей. Говорится о низких задержках и значительной экономии электроэнергии по сравнению с традиционными дата-центрами. SoftBank изучает возможность создания приложений 5G для автономного вождения, ИИ-производств, дополненной и виртуальной реальности, компьютерного зрения и цифровых двойников.

Источник изображения: NVIDIA

Говорится, что GH200 Grace Hopper и BlueField-3 DPU ускорят программно-определяемые сети 5G vRAN, а также приложения для генеративного ИИ. При этом коммутаторы NVIDIA Spectrum Ethernet совместно с BlueField-3 обеспечат высокоточную синхронизацию передачи данных для 5G. Партнёры отмечают, что специализированные 1U-серверы на базе MGX позволят организовывать 5G-сети с самой высокой в отрасли пропускной способностью нисходящей линии — 36 Гбит/с.

Благодаря софту NVIDIA Aerial для высокопроизводительных программно-определяемых облачных сетей 5G новые решения позволят операторам динамически распределять вычислительные ресурсы и дадут 2,5-кратный выигрыш в энергоэффективности по сравнению с конкурирующими продуктами.

В ходе отчёта за III квартал 2022 финансового года SoftBank отдельно отметила, что доля принадлежащей ей Arm на облачном рынке выросла до 5 %. Рост на фоне других сегментов — c 90 % в 2016 году до 95 % в 2021 году на мобильном рынке, с 30 % до 63 % в области IoT и с 10 % до 24 % в автоиндустрии — не кажется таким значительным, но начался он практически с нуля. Всего по итогам квартала Arm выручила $746 млн (+28 % год к году).

Arm отметила сотрудничество с «большой тройкой» облаков в лице Amazon, Google и Microsoft. Правда, подход у этих компаний разный. AWS давно развивает собственные процессоры серии Graviton. В конце 2021 года компания анонсировала уже третье поколение этих CPU, а в прошлом году более специализированную модель Graviton3E. AWS активно продвигает эти процессоры, а также переводит на них всё большее число публичных и внутренних сервисов и служб. Но занимается она этим исключительно ради достижения большей независимости от сторонних поставщиков и снижения расходов.

Источник: Arm

В облаках Google и Microsoft, равно как и на площадках Baidu, Equinix, Oracle, Hetzner, Tencent и др., прописались процессоры Altra от Ampere Computing. Ушедший год для последней вообще был очень успешен, поскольку помимо экспансии на облачный рынок компанию признали и производители серверов первого эшелона. Чуть особняком стоят Huawei и Alibaba, которые тоже используют в своих облачных платформах процессоры собственной разработки, HiSilicon Kunpeng и T-Head Yitian.

Аналитики DigiTimes Research ожидают, что в 2024 году доля Arm на серверном рынке в целом вырастет до 10 %. При этом сама Arm, похоже, рада не всем новичкам в этом сегменте — в прошлом году компания подала иск к Qualcomm, пожелавшей задействовать наработки поглощённой ею Nuvia для возврата на серверный рынок. А путь на этот рынок для Arm-платформ был очень долгим и непростым.