Стартап Inflection AI и корпорация Intel объявили о сотрудничестве с целью ускорения внедрения ИИ в корпоративном секторе. В рамках партнёрства состоялся анонс Inflection for Enterprise — первой в отрасли ИИ-системы корпоративного класса на базе ускорителей Intel Gaudi3 и облака Intel Tiber AI Cloud (AI Cloud).

Inflection AI основана в 2022 году Мустафой Сулейманом (Mustafa Suleyman), одним из основателей Google DeepMind, а также Ридом Хоффманом (Reid Hoffman), одним из учредителей LinkedIn. Стартап специализируется на технологиях генеративного ИИ. В середине 2023 года Inflection AI получила на развитие $1,3 млрд: в число инвесторов вошли Microsoft и NVIDIA.

Inflection for Enterprise объединяет Gaudi3 с большой языковой моделью (LLM) Inflection 3.0. Утверждается, что это ПО при использовании на аппаратной платформе Intel демонстрирует вдвое более высокую экономическую эффективность по сравнению с некоторыми конкурирующими изделиями. Заказчики получат LLM, настроенную в соответствии с их пожеланиями. Для удовлетворения потребностей каждого конкретного клиента применяется обучение с подкреплением на основе отзывов людей (RLHF). При этом используются данные, предоставленные самим заказчиком.

Источник изображения: Intel

Отмечается, что облако AI Cloud упрощает создание, тестирование и развёртывание ИИ-приложений в единой среде, ускоряя время выхода продуктов на рынок. Тонко настроенные ИИ-модели доступны исключительно клиенту и не передаются в третьи руки. На первом этапе системы Inflection for Enterprise будут предлагаться через облако AI Cloud. В I квартале 2025 года планируется организовать поставки программно-аппаратных комплексов.

Компания Huawei анонсировала системы хранения данных OceanStor Dorado следующего поколения (V7), относящиеся к классу All-Flash. В семейство вошли модели high-end-класса OceanStor Dorado 8000/18000, решения среднего уровня OceanStor Dorado 5000/6000, а также версия начального уровня OceanStor Dorado 3000.

В основу СХД положена полностью взаимосвязанная архитектура SmartMatrix 4.0 типа «активный — активный», которая обеспечивает стабильную работу систем даже в случае отказа семи из восьми контроллеров. Реализована поддержка протоколов FC, iSCSI, NFS, CIFS, FC-NVMe, NVMe over RoCE, NDMP, S3, NFS over RDMA.

Источник изображения: Huawei

По заявлениям Huawei, решение Dorado 18000 обеспечивает в три раза большую производительность по сравнению с массивами предыдущего поколения, чему способствует разгрузка CPU на аппаратном уровне. В частности, применяются карты SmartNIC на базе DPU для разделения потоков данных и управления. Модернизированный интеллектуальный алгоритм взаимодействия FlashLink между контроллерами и DPU обеспечивает более 100 млн IOPS и «чрезвычайно низкую задержку в 0,03 мс» в системе, насчитывающей до 32 контроллеров. СХД обеспечивают гарантированную доступность данных на уровне 99,9999 %. Кроме того, реализована защита от программ-вымогателей с эффективностью до 99,99 %.

Заявлена совместимость между разными СХД на уровне поколений. Это означает, что в одном кластере могут быть задействованы системы V7, ранее выпущенные V6 и будущие V8. Максимальная общая вместимость достигает 500 Пбайт. Интегрированная непрерывная защита данных на уровне ввода-вывода гарантирует, что информация может быть восстановлена в любой момент времени.

Компания AAEON анонсировала шлюз SRG-CM4, ориентированный на рынок Интернета вещей (IoT). Основой новинки служит вычислительный модуль Raspberry Pi Compute Module 4 (CM4), а в качестве программной платформы может применяться Raspberry Pi OS или Debian 11.

Устройство несёт на борту процессор Broadcom BCM2711 с четырьмя ядрами Cortex-A72 (Armv8), работающими на частоте 1,5 ГГц. Объём оперативной памяти LPDDR4 варьируется от 1 до 8 Гбайт. Возможна установка опционального чипа eMMC 5.1 вместимостью 8, 16 или 32 Гбайт.

Источник изображения: AAEON

Устройство выполнено в корпусе с габаритами 105 × 104,4 × 41 мм, а масса составляет 490 г. В оснащение входят два сетевых порта 1GbE с разъёмами RJ-45; дополнительно могут быть добавлены контроллеры Wi-Fi и Bluetooth. Диапазон рабочих температур простирается от -20 до +70 °C. В верхней части корпуса располагается радиатор охлаждения. Допускается монтаж на стену или DIN-рейку. За безопасность отвечает модуль TPM 2.0 (опционально).

Шлюз располагает двумя портами USB 2.0 и одним разъёмом USB 2.0 OTG, двумя портами RS-232/422/485, опциональным портом RS-485 с изоляцией. Имеется интерфейс HDMI 1.4 с возможностью вывода изображения в формате 4K со скоростью 30 к/с. Предусмотрен также слот microSD. Питание в диапазоне 9–36 В подаётся через двухконтактный коннектор Phoenix. Энергопотребление находится на уровне 12,6 Вт. Заявленный показатель MTBF (средняя наработка на отказ) достигает 1,3 млн часов.

В Сети появилась информация о том, что глава OpenAI Сэм Альтман (Sam Altman) пытается убедить президента США Джо Байдена (Joe Biden) в необходимости строительства большой сети ИИ ЦОД. Bloomberg сообщает, что каждый из этих дата-центров будет потреблять до 5 ГВт, как планируемый ЦОД Stargate. Предполагается, что такое строительство необходимо для обеспечения национальной безопасности США.

Предложение, изложенное в документе, попавшем в руки журналистам Bloomberg, подчёркивает достоинства строительства нескольких таких ЦОД на территории Соединённых Штатов. Информация появилась спустя всего несколько недель после того, как Альтман и другие лидеры технологической отрасли посетили Белый Дом для обсуждения вопросов развития ИИ-технологий и инфраструктуры.

Журналисты цитируют представителей Constellation Energy, сообщивших, что Альтман может планировать возведение 5–7 подобных мегацентров, но пока готов начать с одного. Впрочем, строительство даже единственного объекта будет весьма сложной задачей, поскольку каждый ЦОД на 5 ГВт потребует, по-видимому, подключения к АЭС или крупным ГЭС. В результате в США придётся реализовать гигантские энергопроекты.

Источник изображения: Glenov Brankovic/unsplash.com

Так, ГЭС Grand Coulee в штате Вашингтон имеет мощность 6,8 ГВт, а атомные электростанции в Джорджии (Alvin W. Vogtle) и Аризоне (Palo Verde) обеспечивают 4,6 и 3,9 ГВт соответственно. Согласно докладу CBRE, вышедшему в конце прошлого месяца, уже отмечается нехватка энергии, препятствующая своевременному вводу объектов в эксплуатацию. При этом Министерство энергетики США действительно рассматривает массовый ввод в строй новых реакторов на старых угольных и атомных электростанциях.

С учётом высокого спроса, облачные провайдеры уже принимают экстренные меры для обеспечения своих объектов энергией. Microsoft заключила PPA на 20 лет с Constellation Energy для возвращения в строй 837-МВт реактора АЭС Three Mile Island. Ранее в этом году AWS заключила соглашение с Talen Energy, владеющей и управляющей АЭС Susquehanna. Amazon приобрела у компании ЦОД Cumulus за $650 млн, получив доступ к 960 МВт, а Oracle планирует ЦОД на малых модульных реакторах (SMR). Сам Альтман поддерживает стартапы в области ядерной (Oklo), термоядерной (Helion) и солнечной (Exowatt) энергетики.

В любом случае останется проблема получения огромного количества ускорителей для дата-центров. Если средний показатель PUE будет на уровне 1.1, то объект на 5 ГВт будет поддерживать до 35 тыс. суперускорителей NVIDIA Blackwell NVL72 или приблизительно 2,5 млн чипов Blackwell. Для сравнения, в 2023 году, по данным Uptime Institute, NVIDIA поставил всего около 600 тыс. ускорителей H100, а в этом вероятны поставки 1,5–2 млн ускорителей. При этом далеко не факт, что TSMC сможет справиться с выполнением заказа NVIDIA, особенно с учётом ограничений технологий упаковки CoWoS.

Конечно, Альтман часто выдвигал полуфантастические идеи. Ранее в этом году сообщалось, что он предложил проект сети производств чипов на $7 трлн для удовлетворения аппетитов своего бизнеса. Впрочем, выступая на мероприятии Foundry компании Intel в феврале он напомнил, что не всё, что написано в интернет — правда. Другими словами, план Альтмана, который он пытается продвигать в администрации, возможно, лишь попытка заставить правительство задуматься о долгосрочных инвестициях в ИИ.

Сбербанк приступил к внедрению отечественной платформы виртуализации рабочих мест Termidesk компании «УВЕОН — облачные технологии» (входит в состав ПАО «Группа Астра»), что позволит полностью отказаться от решений Citrix, сообщается на сайте ПАО «Группа Астра». Благодаря запуску Termidesk будет создан сервис виртуальных рабочих мест для более чем 150 тыс. сотрудников кредитного учреждения.

Источник изображения: astragroup.ru

Согласно пресс-релизу, платформа Termidesk была выбрана благодаря поддержке 100 тыс. и более пользовательских подключений, а также наличию собственного протокола доступа Tera, который оптимизирует подключения даже на слабых каналах связи. В числе преимуществ Termidesk также указаны компонент «Агрегатор», значительно упрощающий управление системой, высокая отказоустойчивость архитектуры и простота перехода на новое решение для конечных пользователей.

Старший вице-президент, руководитель блока «Технологий» Сбербанка отметил, что решение от «Группы Астра» отвечает всем требованиям Сбербанка. По его словам, перевод большинства сотрудников банка на эту платформу должен завершиться в начале 2025 года.

Исследование, проведённое учёными Калифорнийского университета в Риверсайде показало, что использование ИИ-технологий для экологии обходится очень дорого. The Washington Post сообщает, что ИИ ЦОД требуют очень много питьевой воды и энергии, даже когда просто генерируют только текст. Дата-центры давно считаются довольно «жадными» до воды и электричества, причём наличие ЦОД поблизости крайне негативно влияет и на счета за коммунальные услуги обычных граждан.

Конкретные затраты воды и энергии отличаются от штата к штату и зависят от близости их источников к дата-центру. Так, более низкое водопотребление напрямую зависит от стоимости энергии. Если в Техасе на подготовку электронного письма из 100 слов с помощью GPT-4 потребуется 235 мл, то в Вашингтоне — уже 1408 мл. Ранее те же исследователи выяснили, что диалог из 20–50 вопросов к ChatGPT на базе GPT-3 требуется 0,5 литра, а обучение GPT-3 обошлось в 320 тыс. литров. А на обучение Meta✴ Llama-3 потребовалось уже 22 млн литров.

На первый взгляд кажется, что это не очень много, но пользователи редко ограничиваются написанием одного письма или другого материала в неделю или даже в день. Кроме того, при работе с изображениями и другим контентом расход, скорее всего, ещё выше. Если один из десяти работающих американцев использует GPT-4 раз в неделю в течение года (52 запроса от 17 млн человек), энергозатраты составляют 121 517 МВт∙ч. Примерно столько же потребляют все домохозяйства Вашингтона (Округ Колумбия, 672 тыс. человек) в течение двадцати дней. На практике же целевая аудитория GPT-4 применяет модель несопоставимо активнее.

Источник изображения: Joseph Corl/unsplash.com

Представители OpenAI, Meta✴, Google и Microsoft неоднократно говорили о важности снижения экологической нагрузки своего бизнеса, но кардинальных шагов никто из них пока не совершил. Представитель Microsoft сообщил, что компания будет работать над методами охлаждения ЦОД, которые позволят полностью избавиться от потребления воды. Речь, например, об использовании воздушных систем охлаждения в сухой Аризоне. В августе сообщалось как об использовании Microsoft СЖО, так и систем на основе более прогрессивных технологий микрогидродинамики. Параллельно растут и углеродные выбросы той же Microsoft, связанные с развитием её ИИ-систем.

По мнению многих экспертов, прибыль безусловно находится в приоритете в сравнении с климатическими целями, поставленными компаниями в прошлом, поэтому стоит подождать конкретных улучшений. Ранее сообщалось, что в «столице ЦОД», штате Вирджиния, дата-центры потребляют огромное количество воды, а развитие ИИ ухудшает ситуацию.

Конечно, проблема актуальна не только для США. Например, в прошлом году британская коммунальная компания Thames Water пригрозила операторам ЦОД урезать подачу воды или поднять цены, если те не сократят расход этого важного ресурса. Весной 2024 года появились данные о том, что потребление воды китайскими дата-центрами удвоится к 2030 году.

Turing Pi 2.5 представляет собой четырёхузловую плату формата Mini-ITX со встроенным 1GbE-коммутатором. Плата поддерживает вычислительные модули Turing RK1, Raspberry Pi CM4 и NVIDIA Jetson с коннектором SO-DIMM, которые можно комбинировать. Решение компактно, бесшумно и энергоэффективно. Оно подходит для создания домашних лабораторий, хостинга, работы с облачными стеками (например, Kubernetes или Docker Swarm), а также для запуска ИИ-приложений.

Плата оснащена встроенным BMC на базе чипа Allwinner T113-S3 с 256 Мбайт флеш-памяти. BMC предоставляет возможности удалённого управления, причём узлы остаются активными при перезагрузке BMC. Также имеется встроенный преобразователь UART↔USB-C для отладки, кнопка FEL для быстрого восстановления после неудачных обновлений прошивки, четырёхконтактный разъем с ШИМ для управления корпусным вентилятором и часы реального времени с питанием от батареи CR2032.

Источник изображений: Turing Machines

Плата оснащена слотом microSD, двумя портами SATA-3, а также четырьмя портами M.2 2260/2280 M-Key для подключения NVMe SSD. Доступно четыре порта USB 3.0 (два Type-A + колодка для ещё двух) и один USB 2.0. Встроенный L2-коммутатор с поддержкой VLAN подключён к каждому модулю, а на заднюю панель от него выведены два порта RJ45. Отдельно отмечается, что теперь каждая плата имеет собственный MAC-адрес.

Два слота Mini PCIe, подведённые к узлам № 1 и № 2, позволяют модулям RK1 и Jetson использовать адаптеры Wi-Fi, Bluetooth или 4G/5G (есть слот для SIM-карты), в том числе по USB. Внутренний USB-концентратор позволяет одновременно подключаться к хранилищу всех модулей в режиме MSD (Mass Storage Device), а для заливки образов на модули есть отдельный порт USB-C. Также имеется интерфейс DSI для дисплеев и 40-контактная площадка GPIO, совместимая с Raspberry Pi. Есть и восьмиконтактные разъёмы для I²C-подключения экранов, кнопок, динамиков и т.д.

К первому узлу подведены порт HDMI 4K и один из портов USB Type-A (детали не уточняются), что позволяет использовать его в качестве настольного компьютера, подключив клавиатуру, мышь и монитор. Питается плата от стандартного разъёма ATX 24, а общее энергопотребление системы не превышает 80 Вт. Стоит новинка $279.

Для платы предлагается корпус Turing Pi mini-ITX (240 × 240 × 100 мм) стоимостью $149. Корпус выполнен из алюминия и совместим с платами Turing Pi 2 и 2.5. Он оснащён магнитными крышками для упрощения замены модулей и аксессуаров, поддерживает установку до трёх SFF-накопителей, одного 120-мм вентилятора и блоков питания Flex ATX PSU или Pico PSU с внешним адаптером. На корпусе есть LED-индикатор, кнопка питания, два порта USB Type-A, а также отверстия для внешних антенн.

Компания International Data Corporation (IDC) обнародовала результаты исследования глобального рынка оборудования корпоративного класса для беспроводных локальных сетей (WLAN). Во II квартале 2024 года затраты составили $2,3 млрд, что практически на четверть — на 22,8 % — меньше по сравнению с результатом годичной давности.

Говорится, что во II половине 2022-го и I половине 2023 года на рассматриваемом рынке наблюдались повышенные темпы роста, обусловленные выполнением заказов, накопившихся в период пандемии COVID-19. Однако затем по мере восстановления работы производств и цепочек поставок отрасль вернулась к нормальному состоянию.

Источник изображения: IDC

Во II четверти текущего года около 30,0 % продаж в денежном выражении пришлось на точки доступа Dependent Access Point стандарта Wi-Fi 6E. Для сравнения, годом ранее такие решения обеспечили 14,3 % выручки. Постепенно начинают набирать популярность устройства стандарта Wi-Fi 7 с 2,8 % продаж. Львиную долю в оставшемся объёме выручки принесли продукты Wi-Fi 6.

Падение спроса зафиксировано во всех регионах. Так, в США продажи корпоративного WLAN-оборудования в годовом исчислении сократились на 30,6 %, в Западной Европе — на 22,3 %, в Центральной и Восточной Европе — на 21,5 %. В Азиатско-Тихоокеанском регионе (исключая Японию и Китай) зафиксировано снижение на 16,2 %, в КНР — на 9,8 %.

Крупнейшими производителями WLAN-решений по итогам II четверти 2024 года стали Cisco (39,6 %, или $922 млн), HPE Aruba Networking (14,8 %), Huawei (9,6 %), Ubiquiti (8,1 %) и Juniper Networks (5,1 %).

Китайский оператор China Mobile официально активировал подводный кабель Peace, проложенный между Сингапуром и Францией. По данным Datacenter Dynamics, в посте LinkedIn компания объявила, что кабель протяжённостью 15000 км заработал целиком — это уже третья цифровая магистраль China Mobile, связывающая Азию с Европой после кабелей AAE-1 и SeaMeWe-5.

Кабель имеет 13 посадочных станций в 12 странах, благодаря чему Сингапур связан не только с Европой, но и странами Азии и Африки. Строительство сингапурского участка началось в декабре прошлого года, а завершено в июле 2024-го.

Кабель Peace производства Huawei впервые заработал в 2022 году, связав Марсель (Франция) с Египтом. В 2022 год были построены ответвления в Пакистан и Кению. В феврале 2024 года заработало ответвление в Тунис — совместно с местным подразделением Ooredoo. В том же месяце кабель протянули и на Мальдивы.

Peace управляется гонконгской телеком-компанией PCCW Global и обеспечивает пропускную способность до 96 Тбит/с для сегмента Египет-Пакистан и 192 Тбит/с для средиземноморского сегмента от Египта до Франции. Ёмкость сингапурского фрагмента неизвестна.

Источник изображения: China Mobile International

Сегодня в сингапурском порту Туас имеются посадочные станции для кабелей Indigo-West, IGG System, SeaMeWe-3, SeaMeWe-4, SeaMeWe-5 и Southeast Asia-Japan. В ближайшие три года заработают и другие кабели, включая MIST, INSICA, Asia Direct Cable, Apricot и Bifrost.

В ассортименте Banana Pi, по сообщению ресурса CNX Software, появился вычислительный модуль BPI-CM5 Pro, предназначенный для построения устройств с ИИ-функциями. Новинка, выполненная на аппаратной платформе Rockchip, представляет собой альтернативу Raspberry Pi CM4.

Изделие имеет размеры 55 × 40 мм. Применён процессор RK3576, который содержит по четыре ядра Cortex-A72 (2,2 ГГц) и Cortex-A53 (1,8 ГГц), а также графический блок Arm Mali-G52 MC3 с поддержкой OpenGL ES 1.1/2.0/3.2, OpenCL 2.0 и Vulkan 1.1. Встроенный нейропроцессорный узел обладает ИИ-производительностью до 6 TOPS (INT8) и поддержкой INT4/INT8/INT16/BF16/TF32. Объём оперативной памяти LPDDR5 может составлять 8 или 16 Гбайт.

Источник изображений: Banana Pi

Модуль Banana Pi BPI-CM5 Pro располагает флеш-чипом eMMC вместимостью 32, 64 или 128 Гбайт. На базе контроллера Synaptics SYN43752 реализована поддержка Wi-Fi 6 и Bluetooth 5.3. Диапазон рабочих температур простирается от 0 до +80 °C.

Новинка может монтироваться на плату CM5-IO. Она наделена разъёмом M.2 M-key (PCIe), слотом microSD, коннектором HDMI (до 8K @ 60 Гц), интерфейсами MIPI DSI (4 линии) и MIPI CSI (2 и 4 линии), сетевым портом 1GbE (RJ-45) с опциональной поддержкой PoE, четырьмя портами USB 3.0 Type-A, разъёмом USB Type-C и 40-контактной колодкой GPIO. Размеры составляют 100 × 80 × 29 мм.

Модуль Banana Pi BPI-CM5 Pro стоит около $100 в модификации с 8 Гбайт ОЗУ и чипом eMMC вместимостью 64 Гбайт. Комплект с платой CM5-IO обойдётся примерно в $140.