Компания Coherent, выпускающая лазеры, оптические компоненты, полупроводники для ИИ-систем и 6″ пластины из фосфида индия (InP), начала строительство расширенного производственного корпуса в Шермане (Sherman, Техас). В церемонии открытия принял участие глава NVIDIA Дженсен Хуанг (Jensen Huang) и генеральный директор Coherent Джим Андерсон (Jim Anderson). Хуанг назвал Coherent жизненно важной компанией для будущего США.

Новая фабрика позволит нарастить производство пластин из фосфида индия — ключевого компонента систем передачи данных между чипами, серверами и ЦОД, формирующего современный оптический «каркас» ИИ-инфраструктуры. Coherent заявила, что полученный в рамках CHIPS Act грант поможет профинансирвоать расширение производства. Ранее $17 млн было выделено в рамках техасской программы CHIPS и от локального фонда Sherman Economic Development Corporation. Импульс придаёт и обязательство NVIDIA организовать создание ИИ-инфраструктуры в США на сумму до $500 млрд.

Полупроводники на основе фосфида индия или арсенида галлия лежат в основе высокоскоростных сетей, необходимых для современных ИИ-систем, таких как NVIDIA Vera Rubin Ultra NVL576. InP-лазеры используются в оптических модулях Coherent, устанавливаемых в сетевые коммутаторы NVIDIA. Те же модули применяются в коммутаторах NVIDIA Spectrum-X и Quantum-X с интегрированной оптикой (CPO), для которых Coherent поставляет внешние лазерные модули.

Источник изображения: NVIDIA

NVIDIA и Coherent сотрудничают почти 20 лет. В марте они заключили многолетнее стратегическое соглашение, в рамках которого NVIDIA инвестирует $2 млрд в Coherent для поддержки разработок и исследований, а также организации производства на территории США. Кроме того, NVIDIA обязалась закупать у Cohere передовые лазерные и оптические сетевые продукты. Ранее она также заключила крупное соглашение с поставщиком оптоволокна Corning, который тоже расширит производство на территории США.

Завод в Шермане занимается выпуском не одного конкретного продукта, а производством всевозможных лазеров, трансиверов, подключаемых оптических модулей и др., обеспечивающих передачу данных в экосистеме NVIDIA. Переход на современные 6″ пластины из фосфида индия позволит приблизительно вчетверо увеличить выход продукции. Большинство других поставщиков до сих пор использует только 3″–4″ пластины.

Британский стартап Oriole Networks сообщил о запуске первой в мире масштабируемой ИИ-сети, основанной исключительно на фотонных технологиях, в лаборатории Scaling Inference Lab, финансируемой агентством ARIA. Система сочетает в себе сетевую платформу PRISM от Oriole с ускорителями AMD Instinct и процессорами AMD EPYC. Это первое применение технологии компании, более широкое распространение которой в отрасли запланировано на 2027 год.

PRISM — это оптическая сетевая платформа (OCS) для ИИ-кластеров. PRISM полностью исключает необходимость в традиционных коммутаторах в ЦОД, заменяя их оптическими цепями с наносекундной коммутацией, что снижает энергопотребление ядра сети на 81 %. Благодаря возможности прямой передачи фотонов от чипа к чипу, время простоя GPU снижается с нынешних 60 % до менее чем 1 %. По словам компании, такой подход позволяет минимизировать потребность в охлаждении, тем самым резко сокращая потребление воды. Что также важно, PRISM не привязана к какому-либо одному производителю чипов, обеспечивая возможность достижения производительности на уровне всей системы без необходимости использования проприетарных стеков.

Лаборатория Scaling Inference Lab представляет собой испытательный полигон стоимостью £50 млн ($68 млн), финансируемый правительством Великобритании через Агентство перспективных исследований и изобретений (ARIA) для решения проблем, связанных с узкими местами в крупномасштабной обработке ИИ-данных. ARIA было создано на основании парламентского акта и финансируется Министерством науки, инноваций и технологий Великобритании (DSIT). Лаборатория Scaling Inference Lab размещается на платформе CommonAI и предназначена для тестирования и оптимизации ИИ-систем в реальных условиях.

Источник изображения: Oriole Networks

Oriole сотрудничает с AMD более года. Компания, основанная в 2023 году на базе подразделения Университетского колледжа Лондона (University College London), заявила, что её технология прошла путь от исследований до производства всего за три года. «Год назад мы доказывали физику; сегодня мы доказываем бизнес. Наше сотрудничество с AMD перешло от концепции к внедрению системы на порядок большего размера, и данные подтверждают, что это уже приводит к быстрому росту производительности», — сообщил Джеймс Риган (James Regan), генеральный директор Oriole.

Как отметил ресурс TNW, развёртывание сети на фотонных технологиях компанией Oriole реально, но оно ещё не работает в масштабе кластеров уровня Google, которая уже несколько лет использует оптические коммутаторы Apollo. Запуск в 2027 году определит, сможет ли PRISM пережить переход от лабораторных условий к производственным площадкам компаний. Именно на этом переходе терпят неудачу большинство стартапов, занимающихся разработкой оборудования. По данным SiliconANGLE, на сегодняшний день Oriole привлекла около $35 млн инвестиций, в последнем раунде — $22 млн. В число её инвесторов входят Plural UK Management, UCL Technology Fund, Clean Growth Fund, XTX Ventures и Dorilton Ventures.

В следующие пять лет AMD рассчитывает инвестировать в усиление ИИ-экосистемы Великобритании до £2 млрд ($2,7 млрд), создав новую инфраструктуру, программы совместных исследований и подготовки кадров. По словам представителя техногиганта, новая стратегия согласуется с правительственным проектом AI Opportunities Action Plan и стратегией AI Hardware Strategy, с основным акцентом на суверенные ИИ-возможности, научные вычисления и передовые исследования, сообщает Converge! Digest.

Ключевой компонент инициативы — расширение вычислительной ИИ-инфраструктуры. AMD и Dell Technologies поддерживают две новые суперкомпьютерные системы в Кембриджском университете. Суперкомпьютер Zenith AI, финансирование которого осуществляется Министерством науки, инноваций и технологий (DSIT) и структурой UK Research and Innovation (UKRI), строится как платформа для использования ИИ в науке. Система Sunrise создаётся совместно с Управлением по атомной энергии Великобритании для поддержки исследований в сфере термоядерных технологий. Оба суперкомпьютера будут использовать ускорители AMD Instinct, процессоры EPYC и ПО AMD для решения задач в сфере здравоохранения, климатологии, материаловедения, разработки научных ИИ-моделей и др.

Также AMD анонсировала исследовательские партнёрства с Имперским колледжем Лондона и компанией Oriole Networks. В первом случае взаимодействие сосредоточено на вычислительных дисциплинах, здравоохранении, моделировании климата, ИИ-оптимизации, обработке значительных объёмов данных и др.

В то же время AMD и Oriole Networks принимают участие в проекте Scaling Inference Lab британского агентства ARIA (Advanced Research and Invention Agency). Проект стоимостью £50 млн направлен на устранение ряда проблем современной ИИ-инфраструктуры. Он объединяет фотонную сетевую архитектуру PRISM компании Oriole, ускорители AMD Instinct, а также процессоры EPYC для оценки новых подходов к масштабированию задач ИИ-инференса с меньшей задержкой и повышенной энергоэффективностью.

Источник изображения: Robert Bye/unsplash.com

По словам Converge!, лондонский стартап Oriole Networks намерен преодолеть традиционные ограничения классических ИИ-кластеров. Если в стандартных сетях на основе InfiniBand или Ethernet многократные преобразования оптического сигнала в электрический и обратно создают дополнительные задержки, то архитектура PRISM (Photonic Routing Infrastructure for Scalable Models) заменяет активные электронные коммутаторы «пассивным» оптическим ядром маршрутизации. Прямые оптические соединения узлов позволяют сократить время простоя GPU, связанное с ожиданием обмена данными, что мешает масштабным ИИ-нагрузкам.

PRISM обеспечивает обработку динамического ИИ-трафика без использования электрических буферов пакетов данных. Многомерная коммутация каналов позволяет перенастраивать соединения в режиме реального времени и оптимизировать сеть под интенсивный обмен данными, характерный для больших языковых моделей. Кроме того, Oriole утверждает, что её технология позволяет объединять до миллиона оконечных устройств. В конечном счёте сокращение энергопотребления сетевого ядра может составить до 81 %.

Ключевым элементом архитектуры PRISM является независимость от конкретного типа используемых процессоров и ускорителей. Вместо использования проприетарных интерконнектов, «привязывающих» операторов к определённой аппаратной платформе, Oriole разделяет транспортный и вычислительный уровни инфраструктуры. Компания заявляет, что её технологии интегрируются в существующие стеки ПО через стандартные драйверы PCIe и специализированные библиотеки ускорения вроде NCCL для NVIDIA или RCCL для AMD.

Благодаря этому можно поддерживать разные аппаратные платформы без трансформации базовых ИИ-фреймворков. Будущее внедрение технологии в рамках ARIA Scaling Inference Lab станет значимой проверкой её жизнеспособности для отрасли и продемонстрирует, способны ли полностью фотонные сети гарантировать предсказуемую производительность и обеспечивать открытость проприетарных вычислительных систем в промышленных масштабах.

Разработчик многослойных оптических дисков Folio Photonics успешно завершил раунд финансирования серии A, в рамках которого привлёк $8 млн инвестиций, сообщил ресурс Blocks & Files. В числе инвесторов — Material Impact и The O.H.I.O. Fund, а также JumpStart Ventures, Pavey Investments, Refinery Ventures и JobsOhio Ventures Fund.

В 2019 году Folio Photonics провела посевной раунд, сумев привлечь $8 млн. Альфа-версия оптического дисковода была разработана в 2024 году, а бета-версия второго поколения была представлена в прошлом году. В феврале этого года компания привлекла ещё $2,56 млрд в рамках посевного раунда. Теперь разработка продвинулась достаточно далеко, чтобы убедить инвесторов вложить средства в её дальнейшее развитие в рамках первого полноценного раунда финансирования.

Источник изображений: Folio Photonics

Полученные средства компания планирует направить на ускорение перехода от разработки технологий к коммерциализации, в том числе на расширение инженерной и операционной команд в Огайо, где находится её штаб-квартира. Также компания планирует активизировать взаимодействие с крупными партнёрами-гиперскейлерами, обеспечить коммерциализацию платформы архивного хранения и слоя знаний, а также масштабировать подготовку к производству и расширить стратегические отраслевые партнёрства. Накопитель и носители информации разработаны с учётом возможности интеграции с существующими производственными экосистемами, что позволит ускорить коммерциализацию решения, запланированную на 2027 год.

Разрабатываемые Folio Photonics оптические диски содержат до 32 слоёв при стоимости хранения от $3/Тбайт данных. Данные хранятся в точках нанофотонной оптической среды в виде флуоресцентных сигналов, генерируемых лазерными импульсами. Диски класса WORM (Write Once, Read Many) с поддержкой чтения без возможности изменения или удаления данных могут хранить информацию от 50 до 100 лет. Оптические диски Folio Photonics первого поколения могут вмещать от 1 до 2 Тбайт данных, при этом несколько дисков можно устанавливать в один картридж. Компания запатентовала базовую технологию и три года назад привлекла специалистов к разработке собственного оптического дисковода.

В Folio считают, что компания сможет изменить текущий рынок архивирования данных, объём которого, по прогнозам, превысит $12 млрд к 2028 году, благодаря превосходству её решения по экономической эффективности и скорости по сравнению с ленточными накопителями. Ожидается, что ИИ будет генерировать огромные объёмы данных, которые необходимо будет архивировать, что значительно увеличит рынок архивирования в будущем. Folio называет это инфраструктурой уровня знаний для эпохи ИИ — фундаментальной инфраструктурой, которая хранит данные, на основе которых обучаются ИИ-модели.

Генеральный директор Стивен Сантамария (Steven Santamaria) отметил, что сейчас генерируется больше данных, чем существующая инфраструктура может вместить. «Сегодня существует большой и растущий потенциальный рынок традиционного архивного хранения — и мы намерены занять на нем лидирующие позиции. Но ещё большая возможность заключается в том, что будет дальше: слой знаний, который потребуется искусственному интеллекту. Старые данные — это будущая интеллектуальная информация. GPU генерируют интеллектуальную информацию — Folio сохраняет её», — заявил он.

Помимо Folio Photonics также занимаются разработкой решений в сфере архивного хранения данных такие компании, как Archiflix, Biomemory, Cerabyte, Ewigbyte, Holomem, Microsoft (Project Silica), Optera, Piql, SPhotonix и Optera.

Компания MediaTek показала оптический интерконнект нового поколения, построенный на основе микроскопических светодиодов (MicroLED). Решение ориентировано на дата-центры для ресурсоёмких нагрузок ИИ с высокой интенсивностью обмена информацией.

MediaTek отмечает, что в современных ЦОД при построении сетей разработчики вынуждены идти на компромисс между дальностью действия, энергопотреблением и надёжностью. В частности, традиционные медные соединения обеспечивают высокую энергоэффективность, однако имеют ограниченную длину (обычно менее двух метров). В свою очередь, оптические подключения на базе лазеров предлагают значительную дальность действия, но потребляют гораздо больше энергии и подвержены сбоям.

Новая конструкция активных кабелей MicroLED, как утверждается, позволяет устранить перечисленные недостатки. Вместо использования каналов с высокой пропускной способностью, как в случае стандартного оптического интерконнекта, технология предполагает разделение потока данных на сотни параллельных линий с меньшей скоростью передачи информации. В результате достигаются высокая плотность полосы пропускания, небольшие задержки и улучшенная энергоэффективность.

Источник изображения: MediaTek

В ходе мероприятия Computex 2026 компания MediaTek продемонстрировала оптические компоненты на основе MicroLED в виде СРО-изделий (Co-Packaged Optics) со скоростью передачи данных до 400 Гбит/с на одно волокно. Отмечается, что у этих решений энергопотребление на 50 % ниже, чем у обычных активных оптических кабелей на базе VCSEL (поверхностно-излучающий лазер с вертикальным резонатором). Кроме того, «стараниями» NVIDIA на рынке лазеров для оптических сетей наблюдается дефицит.

MicroLED-интерконнект разрабатывается в партнёрстве с подразделением Microsoft Research в рамках проекта MOSAIC. В перспективе MediaTek намерена создать изделия с пропускной способностью 800 Гбит/с, 1,6 Тбит/с и 3,2 Тбит/с. Технология предусматривает интеграцию излучателей MicroLED непосредственно в КМОП-трансиверы. При этом заявлено сохранение совместимости с существующей инфраструктурой ЦОД.

Сбербанк представил универсальный оптический вычислитель, созданный для реальных задач ИИ. В его основе лежит фотонная интегральная схема, разработанная специалистами компании, пишет ТАСС. По словам компании, данная разработка является первой в России и одной из первых в мире.

Как сообщили в «Сбере», в задачах ИИ устройства фотоники обеспечивают принципиально новый уровень скорости и энергоэффективности. «Уже первый прототип способен выполнять более 1 млрд операций матричного умножения в секунду, и мы видим путь к увеличению частоты оптических операций до 10 ГГц и более. Само умножение в оптике происходит за доли наносекунды; при этом энергопотребление оптического ядра более чем на 30 % ниже электронных аналогов», — отметили в компании.

Источник изображения: Paul Hanaoka/unsplash.com

Также сообщается, что чип выполняет самую энергозатратную часть вычислений в ИИ — умножение матриц, на которое приходится основная нагрузка при обучении и работе LLM. В компании отметили, что переход на фотонику — один из реальных способов справиться с ростом энергопотребления ЦОД и выстроить более эффективную и масштабируемую вычислительную инфраструктуру. К тому же для страны преимущество использования оптических чипов заключается в том, что их производство локализуется проще, чем электронных.

Ayar Labs присоединилась к экосистеме NVIDIA NVLink Fusion. Технология Co-Packaged Optics (CPO), предлагаемая компанией, позиционируется как решение для подключения будущих стоечных ИИ-систем на основе масштабируемой гетерогенной вычислительной архитектуры NVIDIA, сообщает Converge! Digest.

Новый шаг объединяет технологию оптических интерконнектов Ayar Labs с оптическими и SerDes-технологиями NVIDIA. Это позволит крупным компаниям и разработчикам ИИ-систем интегрировать оптические соединения в ИИ-инфраструктуру на базе NVLink Fusion. ИИ-кластерам нового поколения необходимо обеспечить эффективную передачу огромных объёмов информации по мере увеличения гетерогенности систем и количества используемых ускорителей.

Обычные интерконнекты практически достигли предела в контексте плотности пропускной способности, дальности действия, задержек и энергопотребления. Ayar Labs пытается преодолеть эти ограничения, интегрируя оптические модули с вычислительными. Это позволит нарастить как пропускную способность, так и дальность действия, одновременно снизив потребление электроэнергии.

Источник изображения: Ayar Labs

В рамках партнёрства с NVIDIA компания Ayar Labs намерена сотрудничать с клиентами и партнёрами по экосистеме, чтобы поддержать развёртывание своих CPO-решений в архитектурах на основе NVLink Fusion. Такая платформа позволяет интегрировать специализированные процессоры и ИИ-ускорители в стоечные системы NVIDIA, сохраняя совместимость с более широкой экосистемой NVLink. Благодаря оптической связи архитекторы систем получат ещё один вариант для проектирования крупных ИИ-фабрик.

Объявление последовало за раундом финансирования серии E, в котором Ayar Labs, с 2015 года занимающаяся оптическими IO-технологиями для ИИ и HPC, привлекла $500 млн. В раунде приняла участие и компания NVIDIA. По словам Converge!, речь идёт о новой вехе для рынка CPO-технологий, поскольку этот шаг Ayar Labs приближает массовое внедрение таких решений в ИИ-инфраструктуру.

Технология CPO годами рассматривалась как преемник подключаемых оптических модулей с высоким энергопотреблением и медных интерконнектов, и именно сегодня кластеры ИИ-ускорителей достигли такой производительности, что CPO становится всё более привлекательным вариантом для ИИ-систем. Решение NVIDIA включить Ayar Labs в экосистему NVLink Fusion свидетельствует о признании в отрасли ИИ того факта, что будущие системы могут потребовать использования оптики не только между стойками, но и внутри них.

NVIDIA NVLink Fusion позволяет создавать кастомные ИИ-платформы со сторонними чипами и другими компонентами. Ранее NVIDIA заключила соглашения в отношении NVLink с Arm, AWS, Fujitsu, Intel, Marvell, MediaTek и SiFive.

Компания Lightmatter, специализирующаяся на фотонных вычислениях и интерконнекте, анонсировала сетевую карту Guide DR на основе лазера (Laser Network Interface Card, LNIC), предназначенную для масштабирования инфраструктур нового поколения с технологией CPO (Co-Packaged Optics — интегрированная оптика).

Новинка спроектирована специально для организации оптического интерконнекта с высокой пропускной способностью, в том числе на базе собственного решения Lightmatter Passage L200. Карта ориентирована прежде всего на дата-центры, поддерживающие ресурсоёмкие приложения ИИ с интенсивным обменом данными.

Guide DR соответствует стандарту OCP NIC 3.0. Разработчик утверждает, что это изделие обеспечивает повышение плотности оптической мощности в четыре раза по сравнению с обычными модулями малого форм-фактора ELSFP (External Laser Small Form Factor Pluggable). Совокупная пропускная способность CPO или NPO достигает 51,2 Тбит/с.

Источник изображения: Lightmatter

Для новинки предусмотрено применение жидкостного охлаждения. При этом четыре карты Guide DR могут быть объединены в одном коммутационном блоке типоразмера 1U, что обеспечит суммарную скорость передачи данных до 204,8 Тбит/с. В целом, как отмечается, Guide DR позволяет решить проблему недостаточной масштабируемости оптики путём переноса источника света с внешней части коммутационного оборудования внутрь корпуса. Среди преимуществ предложенного решения названы модульная конструкция, высокая надёжность и производительность. Пробные поставки Guide DR LNIC компания Lightmatter планирует организовать в IV квартале нынешнего года.

По прогнозам Goldman Sachs, рынок оптических сетевых решений для ИИ-инфраструктуры увеличится до $154 млрд на фоне роста спроса со стороны облачных гиперскейлеров и ИИ-кластеров, сообщает блог IEEE ComSoc. Техногиганты стремятся эффективно объединить как можно больше чипов, что приведёт к росту рынка волоконно-оптических соединений в ИИ ЦОД в девять раз. В Goldman Sachs отмечают, что показатели ИИ-систем теперь зависят не только от производительности GPU и HBM, но и от того, насколько быстро данные передаются между чипами и стойками.

Аналитики подчёркивают, что именно оптические сетевые решения «разблокируют» вычислительные мощности, с чем уже не особенно эффективно справляются медные интерконнекты. В докладе рынок делится на решения для вертикального (scale-up) и горизонтального (scale-out) масштабирования. Примечательно, что на первые, как ожидается, придётся около $106 млрд из $154 млрд, т.е. 69 % рынка. Рынок оптических интерфейсов CPO составит порядка $91 млрд (59 %), т.е. большая часть затрат пойдёт на сети внутри ИИ-кластеров.

По прогнозам Goldman Sachs, при переходе от систем NVIDIA GB300 NVL72 к Rubin Ultra NVL576 рост долларового содержания на вычислительную единицу вырастет в 16 раз в сегменте scale-out и в 45 раз — в сегменте scale-up. Рост связан с увеличением спроса на подключаемые оптические модули, оптические «движки», медные кабели и др. Рынок подключаемых оптических модулей и оптических «движков» вырастет в 13 раз при переходе от scale-out (как в случае GB300 NVL72/Oberon) к scale-up (Rubin Ultra NVL576/Kyber) в расчёте на вычислительную единицу.

Источник изображения: Goldman Sachs

Рынок подключаемых оптических модулей в сегменте scale-out вырастет в 10 раз на вычислительную единицу при переходе с GB300 NVL72 на Rubin Ultra NVL576, даже при проникновении CPO на уровне 29 %. Количество оптических модулей (в эквиваленте 1.6TbE) в одной вычислительной единице увеличится с 216 шт. в GB300 NVL72 до приблизительно 2,5 тыс. в Rubin Ultra NVL576. Банк прогнозирует, что долларовое содержание на вычислительную единицу в сегментах scale-up и scale-out увеличится в 20 раз с $315 тыс. в GB300 NVL72 до $9,4 млн в Rubin Ultra NVL576.

При этом прогнозируется, что за полный жизненный цикл продукта будет поставлено 48 тыс. стоек GB300 NVL72 и 16,5 тыс. систем Rubin Ultra NVL576. Совокупный адресуемый рынок (TAM) для вертикальных и горизонтальных решений вырастет в 9 раз, с $15 млрд в случае с GB300 NVL72 (преимущественно в 2026 году) до $154 млрд для Rubin Ultra NVL576 (в основном в 2028 году).

Источник изображения: Goldman Sachs

Одним из ключевых выводов является то, что ИИ-кластеры становятся всё более насыщенными на разных уровнях стека оптическими системами, а не только на уровне подключения между стойками. Более всего от ситуации выиграют поставщики, способные снизить энергопотребление, повысить плотность и упростить упаковку для сверхскоростных интерконнектов.

Чаще всего в числе основных бенефициаров упоминаются Coherent, Lumentum и Fabrinet, занятых в индустрии производства оптических компонентов и модулей, которое растёт вместе со спросом на ИИ-интерконнекты. Наилучшие перспективы у производителей специализированных оптических решений, а не у игроков более широкого профиля, включая Ciena, Nokia/Infinera, Cisco/Acacia, ADVA или Calix.

В целом в Goldman Sachs считают, что оптические решения более не являются вспомогательным элементом инфраструктуры и становятся ключевым фактором для масштабирования инвестиций в ИИ. В результате инвесторы всё активнее интересуются производителями оптических компонентов, кремниевой фотоники, трансиверов и смежных технологий упаковки и пр. Ключевой вывод — по мере развития ИИ-кластеров сетевая инфраструктура становится одним из главных потенциальных ограничений, а оптика — наиболее вероятным решением этой проблемы.

Британский ИИ-стартап Lumai анонсировал семейство серверов для инференса Lumai Iris с использованием оптических вычислений, предназначенное для исполнения в реальном времени больших языковых моделей (LLM) с миллиардами параметров. Семейство Lumai Iris включает серверы Nova, Aura и Tetra. Lumai Iris Nova уже доступен для оценки гиперскейлерами, неооблачными платформами, предприятиями и исследовательскими институтами.

Lumai заявил, что использование Lumai Iris позволяет ускорить выполнение задач инференса, используя свет вместо кремниевой обработки. Оптическая вычислительная система Lumai обеспечивает более быстрый инференс, более высокую эффективность выполнения и до 90 % меньшее энергопотребление по сравнению с традиционными архитектурами, при этом являясь более экологичными по сравнению с традиционными системами на базе GPU. Впрочем, технические детали оптических ИИ-ускорителей пока не раскрыты.

Источник изображений: Lumai

Компания отметила, что спрос на вычисления для ИИ смещается от обучения моделей к крупномасштабному инференсу, когда модели используются в реальных приложениях. По мере роста объёмов вычислительных задач ЦОД сталкиваются с жёсткими ограничениями по энергопотреблению и масштабируемости, с которыми традиционные кремниевые архитектуры с трудом справляются. Компания заявила, что семейство Iris призвано решить проблемы с энергопотреблением и стоимостью ИИ-инфраструктуры за счёт повышения производительности на киловатт.

Традиционные кремниевые архитектуры сталкиваются с фундаментальными физическими ограничениями в масштабируемости, энергопотреблении и тепловой эффективности. Каждое новое поколение кремниевых чипов предлагает небольшие улучшения, но при этом требует значительно больше энергии и средств для масштабирования. «По мере перехода отрасли в эру инференса мы одновременно пересекаем порог посткремниевой эры, — сказал Сяньсинь Го (Xianxin Guo), генеральный директор и соучредитель Lumai. — Переходя от электронно-фотонной вычислительной парадигмы к фотонной, Lumai может обеспечить увеличение производительности на порядок при значительной экономии энергии».

Lumai отметила, что оптические вычисления позволяют значительно повысить эффективность выполнения обработки ИИ-нагрузок. Технология оптических вычислений Lumai, разработанная на основе исследований в Оксфордском университете, использует свет в трёхмерном среде, тогда как обычные чипы «живут» в 2D. Благодаря использованию массового пространственного параллелизма, миллионы операций выполняются одновременно, обеспечивая низкую стоимость и высокую пропускную способность токенов при выполнении ресурсоёмких вычислительных задач.

Технология Lumai также показала свою эффективность на этапе предварительного заполнения дезагрегированных архитектур инференса, обрабатывая токены с максимальной эффективностью и масштабированием. Iris Nova выполняет инференс в реальном времени моделей Llama 8B и 70B с помощью гибридного процессора. Его гибридная архитектура сочетает цифровую обработку для управления системой и ПО с оптическим тензорным движком для основных математических операций. Такой подход обеспечивает бесшовную интеграцию серверов в ЦОД.