Технологии искусственного интеллекта (ИИ) сегодня бурно развиваются и требуют всё более серьёзных вычислительных мощностей. Но наряду с наращиванием этих мощностей растут требования и к сетевой подсистеме, поэтому крупные компании и исследовательские организации ищут всё новые способы оптимизации инфраструктуры.

Компания Meta✴ в сотрудничестве с Массачусетским технологическим институтом (MIT) и рядом прочих исследовательских организаций опубликовала данные любопытного эксперимента, в котором ИИ-кластер мог менять топологию своего интерконнекта с помощью механической «роборуки».

Система получила название TopoOpt, поскольку вычислительные узлы в ней использовали полностью оптическую сеть с оптической же патч-панелью. Эта сеть объединяла 12 вычислительных узлов ASUS ESC4000A-E10, каждый из которых был оснащён ускорителем NVIDIA A100, сетевыми адаптерами HPE и Mellanox ConnectX-5 (100 Гбит/с) с оптическими трансиверами.

Источник здесь и далее: USENIX

Наиболее интересное устройство в эксперименте — оптическая патч-панель Telescent, оснащённая механическим манипулятором, способным производить перекоммутацию на лету. Эта «роборука» работала под управлением специализированного ПО, целью которого ставилось нахождение оптимальной сетевой топологии и сегментации сети применительно к различным задачам машинного обучения.

Система с перекоммутируемой оптической сетью не требует энергоёмких высокоскоростных коммутаторов и обеспечивает ряд других преимуществ

Такая роботизированная патч-панель не столь расторопна, как оптические коммутаторы Google с микрозеркальной механикой, но стоит впятеро дешевле и имеет больше портов. Опубликованные экспериментальные данные уверенно свидетельствуют о том, что топология «толстого дерева» (fat tree), использующая несколько слоёв коммутаторов, не оптимальна и даже избыточна для ряда нейросетевых задач.

К тому же перекоммутируемая оптическая сеть без традиционных высокоскоростных коммутаторов требует меньше оборудования, а значит, может быть не только быстрее сети fat tree в ряде ИИ-задач, но и существенно дешевле в развёртывании и поддержании в рабочем состоянии — как минимум за счёт отсутствия затрат на питание множества коммутаторов.

Как сообщает «ВКонтакте», теперь веб-сервисы организаций открываются внутри чат-бота: для оформления услуги пользователю не нужно покидать мессенджер, переходить в другие приложения или копировать ссылку для просмотра внешних ресурсов. Официальные чат-боты компаний будут помечены специальным баннером.

Компании могут в чат-боте проводить авторизацию клиентов, отправлять транзакционные уведомления, оказывать персональную поддержку. Для использования некоторых чат-ботов пользователи должны включить двухфакторную аутентификацию: это обеспечит дополнительную защиту. Бизнес же может внедрить собственные алгоритмы и этапы проверки авторизационных данных при пользовании чат-ботом.

Источник: «ВКонтакте»

«ВКонтакте» также усовершенствовала API для чат-ботов. Компании могут интегрировать в свои чат-боты уведомления с кнопками действий. Пользователь, открывая уведомление от бота, может в один клик оформить заявку, запросить статус заказа или совершить любое предложенное действие, не тратя время на поиск нужной команды. Как уверяют в компании, эти нововведения будут полезны в таких отраслях, как ритейл, страхование, электронная коммерция, маркетплейсы.