Материалы по тегу: ии

10.01.2025 [08:20], Руслан Авдеев

Siemens: спрос на энергию со стороны ИИ ЦОД нормализуется, но «зелёных» источников всё равно на всех не хватит

По словам представителя Siemens Маттиаса Ребеллиуса (Matthias Rebellius), ИИ ЦОД не могут полагаться только на «зелёные» источники для удовлетворения своего спроса на электричество. Им придётся прибегнуть к помощи поставщиков других типов электроэнергии, сообщает The Wall Street Journal.

Несмотря на то, что крупнейшие гиперскейлеры заключают долгосрочные соглашения о покупке возобновляемой энергии, Ребеллиус заявил, что это не решение для энергетических запросов сектора. По его словам, мир нуждается в новом плане по быстрому наращиванию генерирующих мощностей в короткие сроки.

В 2024 году гиперскейлеры активно уделяли внимание атомной энергетике в качестве низкоуглеродной альтернативы ископаемому топливу. AWS и Microsoft заключили соглашения о выкупе энергии у крупных атомных электростанций. Кроме того, Equinix, AWS и Google подписали контракты питание от малых модульных реакторов (SMR). Впрочем, коммерческих SMR пока не существует, а внедрять их начнут не раньше 2030-х гг. При этом традиционная атомная энергетика доступна далеко не везде и не всем, поэтому она не сможет удовлетворить спрос на электричество в ближайшем будущем.

 Источник изображения: American Public Power Association/unsplash.com

Источник изображения: American Public Power Association/unsplash.com

В Siemens считают, что рост спроса на энергию в связи с развитием ИИ неизбежно нормализуется после текущей фазы быстрого роста. Ребеллиус утверждает, что ежегодного прироста на уровне 50 % ждать не придётся, хотя Siemens и другие компании всё же ожидают со стороны дата-центров двузначного роста в процентном выражении на энергии, что, впрочем, всё равно вдвое выше, чем на обычном инфраструктурном рынке.

Чтобы удовлетворить спрос, энергетические компании в США используют все доступные источники энергии, а некоторые из них анонсировали, что отложат закрытие электростанций на ископаемом топливе или перезапустят уже закрытые в связи с беспрецедентным спросом. Некоторые операторы уже объявили, что в «ультракороткой перспективе» дата-центры могут полагаться на энергию газовых электростанций из-за высочайшего спроса на электричество. Это послужит своеобразным «мостиком» при переходе на низкоуглеродные источники энергии.

Ранее в докладе S&P Global сообщалось, что спрос на природный газ для обеспечения энергией дата-центров в США может вырасти до 85 млн или даже 170 млн м3 в день для обеспечения потребностей ИИ. Кроме того, не так давно сообщалось о намерении запустить на территории старых атомных и классических электростанций в США новые реакторы.

Постоянный URL: http://servernews.ru/1116485
10.01.2025 [01:20], Руслан Авдеев

США упростят подключение ИИ ЦОД к геотермальным источникам энергии

Уходящее в ближайшие дни правительство США намерено упростить получение разрешений на работу с геотермальной энергией. Новая инициатива будет реализована в рамках более общей программы поддержки ИИ ЦОД, сообщает Bloomberg.

Приказ будет одним из последних, подписанных действующим президентом США Джо Байденом (Joe Biden) до того, как тот оставит должность. Ожидается, что документ будет опубликован на следующей неделе. Новые меры в числе прочего предусматривают упрощение процесса строительства дата-центров на федеральных землях, а также ускорение выдачи разрешений для реализации геотермальных и атомных проектов.

Министерство внутренних дел США выделит зоны приоритетного развития геотермальной энергетики, а Министерство обороны и Министерство энергетики определят площадки, принадлежащие федеральным ведомствам, где можно будет построить крупные дата-центры. Расположенные на федеральных землях объекты должны соответствовать особым стандартам и нормам кибербезопасности, на них будут распространяться ограничения на иностранное финансирование. Кроме того, участвующим в проектах бизнесам придётся выделить часть вычислительных ресурсов на национальные исследования в области ИИ.

 Источник изображения: Job Savelsberg/unsplash.com

Источник изображения: Job Savelsberg/unsplash.com

В последнее время уходящая администрация США буквально фонтанирует всевозможными приказами. Не исключено, что после прихода нового президента Дональда Трампа (Donald Trump), часть из них может быть отменена. Впрочем, вряд ли это касается сектора ЦОД. Администрация Трампа дала понять, что развитие дата-центров останется в приоритете — это вопрос обеспечения национальной безопасности. Будущие власти обещают предоставить ИИ ЦОД все доступные виды энергии.

Некоторые гиперскейлеры уже подписали с геотермальными электростанциями соглашения на поставку энергии для их ЦОД. В августе 2024 года Meta✴ анонсировала 150-МВт сделку со стартапом Sage Geosystems. Первая фаза проекта должна завершиться введением объектов в эксплуатацию в 2027 году. Ранее Google договорилась о сотрудничестве с Fervo Energy и NV Energy о покупке более 100 МВт геотермальной энергии в Неваде, а Microsoft подписала связанные с геотермальной энергетикой соглашения о покупке энергии (PPA) в Новой Зеландии с Contact Energy, а также развивает геотермальный проект в Кении.

Постоянный URL: http://servernews.ru/1116493
10.01.2025 [01:09], Владимир Мироненко

Tencent потеряла $35 млрд капитализации после попадания в чёрный список Пентагона

Министерство обороны США объявило в начале недели о включении ИТ-гиганта Tencent, производителя аккумуляторов CATL и ещё целого ряда компаний из КНР в чёрный список, также известный как «список раздела 1260H». В него Пентагон с 2021 года добавляет компании, которые, по его мнению, помогают модернизировать армию Китая, пишет Fortune.com.

Черный список Пентагона не налагает никаких конкретных санкций на включённые в него компании, кроме запрета предоставлять услуги армии США. Тем не менее аналитики Morningstar предупреждают, что попадание в него может привести к «репутационному ущербу» и отказу других компаний от сотрудничества с Tencent и CATL. В этот список уже попали Huawei, чипмейкеры SMIC и YMTC, а также производитель дронов DJI.

Акции Tencent на бирже в Гонконге упали во вторник на 7,3 %, в связи чем компания потеряла около HK$275 млрд (порядка $35,4 млрд) рыночной стоимости. Акции CATL, зарегистрированные в Шэньчжэне, закрылись со снижением на 2,8 %, что привело к потере ¥32,2 млрд (около $4,4 млрд) рыночной стоимости. Представитель Tencent назвал включение фирмы в чёрный список «явной ошибкой» и отметил, что это не окажет никакого влияния на её бизнес. «Мы не военная компания и не поставщик [армии]… Тем не менее мы будем работать с Министерством обороны, чтобы устранить любые недоразумения», — заявил он.

 Источник изображения: Tencent

Источник изображения: Tencent

Министерство иностранных дел Китая выступило с критикой этого решения. «Китай всегда решительно выступал против обобщения американской стороной концепции национальной безопасности, создания различных дискриминационных списков, необоснованного подавления китайских предприятий и сдерживания развития Китая», — заявил журналистам пресс-секретарь Го Цзякунь (Guo Jiakun).

Morningstar считает, что у Tencent «хорошие шансы» отменить включение в «чёрный» список через суд, ссылаясь на то, что её бизнес-модель в основном нацелена на сегменты социальных сетей и видеоигр. Так, китайскому производителю телефонов Xiaomi, включённому в чёрный список в конце работы первой администрации Трампа, которая запретила инвестиции США в компанию, удалось доказать в суде, что это было «незаконным и неконституционным». И спустя четыре месяца Министерство обороны США исключило Xiaomi из списка. И таких примеров можно привести несколько.

Министерство обороны США отметило, что компании, включённые в список, имеют право потребовать пересмотра решения. Пентагон уже исключил несколько компаний из чёрного списка, включая Beijing Megvii Technology Co., China Marine Information Electronics Co., China Railway Construction Corp., China State Construction Group Co., China Telecommunications Corp. и ShenZhen Consys Science & Technology Co.

Постоянный URL: http://servernews.ru/1116524
09.01.2025 [12:43], Руслан Авдеев

DeepGreenX и Sente Ventures направят $25 млрд на развитие «зелёных» ЦОД

Южнокорейская DeepGreenX заключила рамочное соглашение с Sente Ventures для создания новой стратегической инвестиционной программы сроком на пять лет на сумму $25 млрд. Инвестициями смогут воспользоваться компании, предлагающие решения в области производства «чистой» энергии, виртуальных энергосетей, энергохранилищ, микрореакторной энергетики и инфраструктуры ЦОД, сообщает Datacenter Dynamics.

В рамках нового партнёрства создано совместное предприятие DXG-Hues. DXG-Hues сформирует два фонда по $5 млрд каждый для проектов в сфере «зелёной» энергетики, ИИ и вычислительных мощностей в США, Европе и странах Юго-Восточной Азии.

Планируется использовать программу привлечения клиентов, ориентированных на устойчивое развитие, и внедрение передовых решений для платформы DeepGreenX, предназначенной для монетизации данных на основе ИИ-алгоритмов. В DeepGreenX рассчитывают, что программа откроет новые возможности для компаний и проектов, связанных с «зелёной» энергетикой.

 Источник изображения: DeepGreenX

Источник изображения: DeepGreenX

Сеульская DeepGreenX, основанная в 2020 году, действует в 20 странах, занимаясь торговлей углеродными кредитами, сертификацией «зелёной» энергии и управлением активами для секторов ЦОД и технологий в целом. Sente Ventures — венчурный инвестор из Чикаго, специализирующийся на снижении инвестиционных рисков в низкоуглеродные технологии. Компания действует в 24 странах.

Азиатский банк развития и инвестиций (Asia Development and Investment Bank, ADIB) объявил в ноябре о стратегических вложениях в DeepGreenX. В частности, компания получит $140 млрд на инжиниринг, закупки, строительство и управление данными. При этом банк получит 36 % акций компании.

Впрочем, слишком много «зелёной» энергии — тоже не всегда хорошо: в прошлом году Нидерланды приняли новые нормы работы энергосетей, страдающих от эпизодических перегрузок в результате многочисленных подключений частных электростанций на возобновляемой энергии.

Постоянный URL: http://servernews.ru/1116472
09.01.2025 [12:27], Руслан Авдеев

Microsoft инвестирует $3 млрд в ИИ и облачные вычисления в Индии

Компания Microsoft намерена инвестировать порядка $3 млрд в расширение ИИ и облачных мощностей в Индии. Об инвестициях объявил 7 января в Бангалоре глава компании Сатья Наделла (Satya Nadella) в ходе поездки Microsoft AI Tour, сообщает Datacenter Dynamics.

По его словам, ИИ не существует сам по себе, он требует полного вычислительного стека. Глава Microsoft добавил, что инфраструктура должна быть высочайшим приоритетом, компания внедряет инновации на каждом её уровне. Анонс инвестиций последовал за встречей Наделлы с премьер-министром Индии. 6 января последний сообщил в соцсети X, что в восторге от визита гендиректора Microsoft и рад узнать об амбициозных планах экспансии и инвестиций компании в стране.

Microsoft уже располагает несколькими облачными регионами в Индии, а всего в мире у неё есть более 60 облачных регионов и 300 дата-центров. В рамках инициативы ADVANTA(I)GE INDIA компания планирует к 2030 году обучить навыкам работы с ИИ в стране 10 млн человек.

 Источник изображения: Yadu Krishnan K S/unsplash.com

Источник изображения: Yadu Krishnan K S/unsplash.com

В 2015 году компания открыла в Индии три облачных региона Azure: в Пуне (Центральная Индия), Ченнаи (Южная Индия), а также Мумбаи (Западная Индия). С тех пор компания отключила регион в Мумбаи, который, возможно, будет превращён в регион резервного доступа. В 2024 году компания приобрела участок на 6,5 га в пригороде Пуна для строительства нового ЦОД. Также компания приобрела 20 га в Хайдарабаде.

Недавно компания сообщила, что намерена потратить $80 млрд на строительство ИИ ЦОД в 2025 финансовом году, речь идёт о значительном росте в сравнении с годом ранее. Более половины инвестиций придётся на Соединённые Штаты.

Постоянный URL: http://servernews.ru/1116478
08.01.2025 [22:50], Владимир Мироненко

NVIDIA и партнёры запустили полномасштабное производство серверов на базе Blackwell

NVIDIA и её партнёры запустили полномасштабное производство систем с ускорителями Blackwell, заявил глава компании Дженсен Хуанг (Jensen Huang): «Каждый поставщик облачных услуг теперь имеет работающие системы». Первой компанией, которая начала поставки серверов на базе Blackwell, стала Dell. Отдельные провайдеры облачных услуг ещё в середине ноября прошлого года стали обладателями её платформ, передаёт Tom's Hardware.

На данный момент, по словам NVIDIA, круг поставщиков заметно расширился. Их предложения включают системы на базе Blackwell в более чем 200 различных конфигурациях. «Есть системы от примерно 15 производителей с 200 различными наименованиями в 200 различных конфигурациях, — сказал Хуанг. — Есть с жидкостным охлаждением, воздушным охлаждением, с чипами x86, с NVIDIA Grace, NVL36×2, NVL72. Целый ряд различных типов систем, которые подойдут практически к любому ЦОД в мире».

 Источник изображения: NVIDIA

Источник изображения: NVIDIA

Он отметил, что такие системы производятся на 45 заводах, что говорит о том, насколько активно отрасль переходит на выпуск систем с ИИ. Blackwell от Nvidia значительно увеличивают производительность вычислений для приложений ИИ и HPC по сравнению с чипами поколения Hopper, но при этом потребляют значительно больше энергии, что предъявляет повышенные требования к мощности ЦОД и его системам охлаждения. Если стойка на базе Hopper потребляет 40 кВт, то суперускоритель GB200 NVL72 потребляет порядка 120 кВт или даже больше.

Постоянный URL: http://servernews.ru/1116432
08.01.2025 [16:09], Руслан Авдеев

Дубайская DAMAC инвестирует $20 млрд в строительство дата-центров в США

Дональд Трамп (Donald Trump) объявил о намерении дубайского девелопера элитной недвижимости DAMAC вложить $20 млрд в строительство ЦОД в Соединённых Штатах, сообщает The Register. В какие сроки будет истрачена указанная сумма, не сообщается, но сам Трамп говорит об «очень коротком промежутке времени». Для сравнения — одна только Microsoft намерена в 2025 финансовом году потратить более $40 млрд на ИИ ЦОД в США.

В DAMAC напомнили о своих достижениях — компания уже построила 45 тыс. объектов элитной недвижимости по всему миру и намерена построить ещё 45 тыс. в 20 странах. Кроме того, компания инвестирует в ЦОД в 10 странах, в частности, в Таиланде. Не исключается, что в строительство ЦОД для ИИ и гиперскейлеров будет вложено даже больше $20 млрд, «если позволят обстоятельства». Основателем DAMAC является Хусейн Саджвани (Hussain Sajwani), близкий друг Трампа.

Трамп ожидает, что инвестиции поддержат создание крупных дата-центров на Среднем Западе и Юге. По словам будущего президента, первую фазу проекта реализуют в Техасе и Аризоне, Оклахоме, Луизиане, Огайо, Иллинойсе, Мичигане и Индиане. Политик добавил, что желающие инвестировать $1 млрд и более будут проходить природоохранные проверки по ускоренному сценарию, поэтому не попадут в «трясину экологических норм».

 Источник изображения: Gab Audiovisuel/unspalsh.com

Источник изображения: Gab Audiovisuel/unspalsh.com

Однако воздействие ЦОД на окружающую среду уже вызывает опасения. Недавно в Google заявили, что с 2019 года выбросы её ЦОД выросли на 48 %. В первую очередь это результат развития ИИ-технологий — так, ИИ-запросы в поиске требуют в 10 раз больше энергии, чем традиционные. По некоторым оценкам, мировой спрос ЦОД на энергию может удвоиться к 2026 году. Сейчас в США работают более 5 тыс. ЦОД и до 2030 года их число будет расти в среднем на 9 % в год.

Регулятор NTIA сообщает, что американские ЦОД потребляли более 4 % электричества в США в 2022 году, а к 2030 году этот показатель вырастет до 9 %, причём доля ИИ ЦОД стремительно растёт. National Parks Conservation Association (NPCA) отмечает, что всё больше зелёных зон переводят в категорию индустриальных. Группы экоактивистов и даже сотрудников гиперскейлеров тоже не вполне разделяют энтузиазм строителей.

Есть и ещё один нюанс. Так, Citizens Action Coalition of Indiana (CACI) подсчитали, что выделенная дата-центрам энергия обеспечила бы больше рабочих мест, если бы ей нашли применение в других отраслях. Так, по их данным на 1 МВт ЦОД создаётся 0,26 рабочих мест, а в других отраслях — на два порядка больше. Тем временем OpenAI продвигает строительство в стране сети 5-ГВт ЦОД, каждый из которых, как ожидается, позволит создать 40 тыс. рабочих мест. Кроме того, каждый такой ЦОД обеспечит вклад буквально в десятки миллиардов долларов в ВВП штатов.

Постоянный URL: http://servernews.ru/1116416
07.01.2025 [23:17], Руслан Авдеев

От искры до пожара: дата-центры вредят энергоснабжению жилых домов в США, а с ИИ ЦОД всё станет только хуже

Появились новые свидетельства того, что ИИ ЦОД негативно влияют на поставки электроэнергии в обычные дома. Это увеличивает риски пожаров и порчи бытовой техники, сообщает Bloomberg со ссылкой на данные исследований Whisker Labs и DC Byte.

Исследования показали, что распространение ИИ ЦОД приводит к большим нагрузкам на электросети США и влияет на качество поставок энергии миллионам обычных пользователей, особенно в регионах с высокой концентрацией ЦОД вроде Вирджинии. Крупные дата-центры приводят к появлению гармонических колебаний в электросети, периодических искажений частоты и напряжения. Для обычных потребителей это означает увеличение риска произвольного искрения, что может привести даже к пожару. По словам Whisker Labs, всё более частое проявление подобных гармоник является ранним признаком надвигающихся неприятностей. Исследования показали, что более трёх четвертей зарегистрированных проблем в электросетях США отмечены в пределах 80 км от крупных дата-центров. При этом новые объекты часто примыкают к крупным городам.

 Источник изображения: Dina Lydia/unsplash.com

Источник изображения: Dina Lydia/unsplash.com

Анализ Bloomberg на основе данных Whisker Labs, собранных с 1 млн сенсоров в домах, показал устойчивую связь между близостью к ЦОД и наличию опасных гармонических колебаний. Более половины домохозяйств, где отмечалось наихудшее качество подаваемой энергии, расположены в пределах 30 км от значимых кампусов ЦОД. В наиболее неблагоприятных в этом отношении районах живут более 3,7 млн человек.

Хуже всего приходится жителям Северной Вирджинии, где находится самое крупное скопление ЦОД в мире, которые вместе потребляют почти 3 ГВт. Если в среднем по стране только 1,7 % сенсоров хотя бы раз в месяц фиксируют превышение допустимых отклонений в электросети, то в округе Лаудон (Loudoun) этот показатель в четыре и более раз выше, а в округе Принс-Уильямс (Prince William) в пике проблемы фиксируют уже 12,9 % сенсоров.

Предполагается, что проблемы будут расти по мере того, как крупные дата-центры будут подключаться к энергосети. Особенно важно, по мнению учёных, учесть воздействие ИИ ЦОД, поскольку именно они создают наибольшую нагрузку. Новые ЦОД можно возвести всего за год-два, но развитие электросетей не поспевает за их строительством. В последние годы спрос на энергию был довольно стабильным, однако в следующие пять лет он, как ожидается, вырастет почти на 16 %, что без значимых инвестиций в инфраструктуру только ухудшит положение обычных пользователей.

 Источник изображения: Bloomberg/Whisker Labs/DC Byte

Источник изображения: Bloomberg/Whisker Labs/DC Byte

Министерство энергетики США намерено вложить $2 млрд в 38 энергопроектов в 42 штатах для повышения надёжности сетей. Но средств требуется намного больше. В Rystad Energy предупреждают, что до 2030 года необходимо инвестировать в энергетическую инфраструктуру $3,1 трлн, чтобы содействовать интеграции возобновляемых источников энергии и подключения к сети крупных потребителей. Кроме того, на качестве снабжения домохозяйств может оказать влияние массовое внедрение электромобилей и даже такое благое дело, как наращивание солнечной и другой возобновляемой энергетики.

В декабре 2024 года сообщалось, что В 2028 году на дата-центры США может прийтись уже 12 % энергопотребления всей страны. Тем временем Соединённые Штаты готовят план строительства гигаваттных ИИ ЦОД и электростанций на федеральных землях, а старые атомные и угольные электростанции США смогут получить новые ядерные реакторы на 269 ГВт.

Постоянный URL: http://servernews.ru/1116351
07.01.2025 [16:10], Владимир Мироненко

NVIDIA представила «персональный ИИ-суперкомпьютер» Project DIGITS на базе гибридного ускорителя GB10

Компания NVIDIA представила «персональный ИИ-суперкомпьютер» Project DIGITS — это самая компактная аппаратная платформа на базе суперчипов Grace Blackwell. Разработанная для исследователей ИИ, специалистов по данным и студентов система поставляется с полным набором ПО для создания, тюнинга и инференса ИИ-моделей. Это позволяет локально создавать и дорабатывать модели, а затем разворачивать их в облаке или ЦОД. Project DIGITS будет доступен в мае по цене от $3000.

Project DIGITS оснащён чипом GB10 с FP4-производительностью до 1 Пфлопс, разработанным в партнёрстве с MediaTek. GB10 включает ускоритель Blackwell, подключённый посредством NVLink-C2C к 20-ядерному Arm-процессору Grace, 128 Гбайт унифицированной когерентной памяти LPDDR5x и 4-Тбайт NVMe SSD. В оснащение также входит адаптеры Wi-Fi, Bluetooth и Ethernet (RJ45). На задней стенке есть видеовыход HDMI и четыре разъёма USB-C.

По словам компании, Project DIGITS позволит запускать модели размером до 200 млрд параметров, а при объединении двух таких систем посредством NIC ConnectX (два порта SFP28) возможен запуск моделей с 405 млрд параметров.

 Источник изображений: NVIDIA

Источник изображений: NVIDIA

Работает новинка под управлением NVIDIA DGX OS — специализированной сборки Ubuntu Linux, оптимизированной для работы с ИИ-нагрузками. Пользователи Project DIGITS получат доступ к обширной библиотеке ПО NVIDIA AI, включая комплекты для разработки ПО, инструменты оркестрации, фреймворки и модели, доступные в каталоге NVIDIA NGC и на портале NVIDIA Developer. Разработчики смогут настраивать модели с помощью фреймворка NVIDIA NeMo, использовать в работе с данными библиотеки NVIDIA RAPIDS и задействовать популярные программные платформы, включая PyTorch, Python и Jupyter notebooks.

Для создания агентских приложений AI можно будет использовать NVIDIA Blueprints и микросервисы NVIDIA NIM, доступные для исследований, разработки и тестирования в рамках программы NVIDIA Developer Program. Благодаря единой архитектуре Grace Blackwell предприятия и индивидуальные исследователи смогут прототипировать, настраивать и тестировать ИИ-модели на локальных системах Project DIGITS с последующим развёртыванием в NVIDIA DGX Cloud, облачных инстансах или собственной инфраструктуре ЦОД.

Постоянный URL: http://servernews.ru/1116349
06.01.2025 [19:00], Владимир Мироненко

Qualcomm представила энергоэффективные ИИ-микросерверы AI On-Prem Appliance Solution

Qualcomm Technologies анонсировала Qualcomm AI On-Prem Appliance Solution — компактное энергоэффективное аппаратное решение для локальной обработки рабочих нагрузок инференса и компьютерного зрения. Также компания представила готовый к использованию набор ИИ-приложений, библиотек, моделей и агентов Qualcomm Cloud AI Inference Suite, способный работать и на периферии, в облаках.

Согласно пресс-релизу, сочетание новых продуктов позволяет малым и средним предприятиям и промышленным организациям запускать кастомные и готовые приложения ИИ на своих объектах, включая рабочие нагрузки генеративного ИИ. Qualcomm отметила, что инференс на собственных мощностях позволит значительно снизить эксплуатационные расходы и общую совокупную стоимость владения (TCO) по сравнению с арендой сторонней ИИ-инфраструктуры.

 Источник изображений: Qualcomm

Источник изображений: Qualcomm

С помощью AI On-Prem Appliance Solution совместно с AI Inference Suite клиенты смогут использовать генеративный ИИ на базе собственных данных, точно настроенные модели и технологическую инфраструктуру для автоматизации процессов и приложений практически в любой среде, например, в розничных магазинах, ресторанах, торговых точках, дилерских центрах, больницах, на заводах и в цехах, где рабочие процессы хорошо отлажены, повторяемы и готовы к автоматизации.

«Решения AI On-Prem Appliance Solution и Cloud AI Inference Suite меняют TCO ИИ, позволяя обрабатывать рабочие нагрузки генеративного ИИ не в облаке, а локально», — заявила компания, подчеркнув, что AI On-Prem Appliance Solution позволяет значительно снизить эксплуатационные расходы на приложения ИИ для корпоративных и промышленных нужд в самых разных областях. Кроме того, локальное развёртывание обеспечивает защиту от утечек чувствительных данных.

Платформа Qualcomm AI On-Prem Appliance Solution работает на базе семейства ускорителей Qualcomm Cloud AI. Сообщается, что новинка поддерживает широкий спектр возможностей, в том числе:

  • Масштабируемость — от одного настольного устройства до кластера, монтируемого на стену;
  • Обслуживание множества локальных ИИ-служб, включая готовые голосовые агенты в коробке, малые (SLM) и большие языковой модели (LLM), мультимодальные модели (LMM), RAG, ИИ-агент, платформы автоматизации ИИ и т.п.;
  • Поддержка широкого спектра моделей генеративного ИИ, обработки естественного языка и компьютерного зрения;
  • Потоковая ИИ-обработка изображений и видео с камер для приложений компьютерного зрения, ориентированных на безопасность, защиту и мониторинг.

В свою очередь Qualcomm Cloud AI Inference Suite предлагает полный набор инструментов и библиотек для разработки или переноса приложений генеративного ИИ на AI On-Prem Appliance Solution или другие платформы на базе ускорителей Qualcomm Cloud AI. Набор предлагая множество API для управления пользователями и администрирования, для работы чатов, для генерации изображений, аудио и видео. Заявлена совместимость с API OpenAI и поддержка RAG. Кроме того, доступна интеграция с популярными моделями генеративного ИИ и фреймворками. Возможно развёртывание с использованием Kubernetes и bare metal.

Постоянный URL: http://servernews.ru/1116283

✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»;