Китайская компания Moore Threads, по сообщению ресурса VideoCardz, анонсировала специализированный ускоритель MTT S4000 для приложений ИИ и работы с большими языковыми моделями (LLM). Решение выполнено в виде двухслотовой карты расширения с интерфейсом PCIe 5.0 х16.

В основу изделия положена архитектура MUSA третьего поколения, подробности о которой не раскрываются. Есть 48 Гбайт памяти GDDR6 с пропускной способностью до 768 Гбайт/с. Реализована технология MTLink 1.0, которая позволяет объединять в одной системе несколько ИИ-ускорителей.

Источник изображений: Moore Threads

Как утверждает Moore Threads, новинка обладает производительностью до 25 Тфлопс на операциях FP32, до 50 Тфлопс на операциях TF32, до 100 Тфлопс на операциях FP16/BF16 и 200 TOPS на операциях INT8. Для сравнения: ИИ-ускоритель предыдущего поколения MTT S3000 несёт на борту 32 Гбайт памяти и обеспечивает пиковую производительность FP32 на уровне 15,2 Тфлопс. Таким образом, размер памяти увеличен на 50 %, тогда как быстродействие FP32 поднялось на 64 %.

Изделие MTT S4000 оснащено пассивным охлаждением. Предусмотрены четыре разъёма DisplayPort, что позволяет подключать мониторы. Заявлена возможность одновременной обработки до 96 видеопотоков в формате 1080p. Сопутствующие инструменты разработки USIFY позволяют полноценно использовать программное обеспечение NVIDIA на базе CUDA.

Ускорители Moore Threads MTT S4000 будут поставляться по отдельности и в составе систем Kuae, аналогичных NVIDIA DGX. Платформа Kuae MCCX D800 содержит восемь карт; возможно объединение таких серверов в кластеры. Говорится о поддержке различных LLM, таких как LLaMA, GLM, Aquila, Baichuan, GPT, Bloom, Yuyan объёмом до 130 млрд параметров.

Первые 1000 ускорителей MTT S4000 лягут в основу нового китайского кластера для ИИ-задач. Moore Threads отмечает, что китайский исследовательский институт Чжиюань посредством кластера с 1000 ускорителей смог обучить модель с 70 млрд параметров за 33 дня, тогда как для 130 млрд параметров потребуется 56 суток.

Компания Lightmatter, занимающаяся разработкой продуктов на основе кремниевой фотоники, по сообщению ресурса SiliconANGLE, расширила раунд финансирования серии C: на развитие дополнительно привлечено $155 млн. При этом капитализация стартапа превысила $1 млрд.

Lightmatter специализируется на создании фотонных ИИ-ускорителей и иных решений. Компания, в частности, разработала оптический интерконнект Passage, который, как утверждается, обеспечивает до 100 раз более высокую пропускную способность по сравнению с традиционными системами.

Источник изображения: Lightmatter

Стартап предоставляет полный набор аппаратных и программных решений на основе фотоники, которые позволяют повысить производительность и энергоэффективность при выполнении ресурсоёмких вычислительных задач, связанных с ИИ. В арсенале Lightmatter — серверная архитектура Envise, объединяющая стандартные электронные компоненты и элементы на базе фотоники. Компания также предоставляет софт Idiom для взаимодействия со стандартными платформами глубокого обучения.

В мае 2023-го Lightmatter привлекла в рамках серии C $154 млн. Нынешний раунд на $155 млн возглавили GV, венчурное подразделение Alphabet, и Viking Global Investors. В результате, общая сумма привлеченных средств превысила $420 млн, а капитализация стартапа выросла до $1,2 млрд. Lightmatter удвоила численность персонала, доведя её примерно до 150 сотрудников.

Amazon Web Services (AWS) намерена пойти на экстренные меры, реорганизовав отдел продаж, который насчитывают порядка 60 тыс. человек. Как сообщает Silicon Angle, в компании предполагают, что это поможет исправить ухудшившиеся показатели на рынке облачных сервисов — на фоне того, что Google Cloud и Microsoft только укрепили свои позиции в этой сфере.

По последним данным, глава облачного подразделения Amazon по продажам и маркетингу Мэтт Гарман (Matt Garman) планирует объединить разные команды специалистов по продажам, разработавших «конфликтующие торговые стратегии». Изменится и механика назначения технических сотрудников для помощи клиентам. Последние уже жаловались на качество сервиса.

Хотя AWS пока остаётся доминирующим игроком на рынке IaaS, на компанию негативно влияет замедление роста. Компания не смогла преуспеть минимум в двух ключевых сегментах, связанных со стартапами и малым бизнесом. По мнению экспертов, в 2023 году поставленных целей достичь вряд ли удастся.

Источник изображения: LYCS Architecture/unsplash.com

Более того, обнародованные самой AWS данные свидетельствуют о том, что компания, хотя и является крупнейшим игроком на рынке, не в состоянии придерживаться темпов роста, характерных для двух главных конкурентов — Google и Microsoft. Впрочем, сравнивать результаты непросто, поскольку компании отчитываются по-разному. Тем не менее, AWS отчиталась о росте выручки на 12 % в III квартале, в то время как выручка Microsoft Azure году к году увеличилась на 29 %, а Google Cloud — на 22 %.

По данным Business Insider, это не единственная проблема AWS, поскольку сотрудники обеспокоены текучкой кадров среди топ-менеджмента компании в последние пару лет. Выросло и количество увольняющихся менеджеров уровнями ниже, причём многие причиной увольнения называют «выгорание» — после серии увольнений в 2023 году нагрузка на оставшихся сотрудников увеличилась.

Команды AWS, занимающиеся продажами и маркетингом, уже пережили в этом году крупные реорганизации — уволили сотрудников с «дублирующихся» позиций, а региональным управленцам дали больше полномочий при принятии решений. Тогда в AWS тоже заявляли, что реструктуризация отдела продаж должна пойти на пользу клиентам.

ASRock Industrial представила компьютеры небольшого форм-фактора NUC Ultra 100 Box и NUCS Ultra 100 Box, предназначенные для edge-приложений, индустриальных задач и пр. В основу устройств легла аппаратная платформа Intel Core Ultra Meteor Lake, дебютировавшая в декабре 2023 года.

Представлены четыре мини-ПК: NUCS Box-155H, NUCS Box-125H, NUC Box-155H и NUC Box-125H. Версии с индексом 155H несут на борту процессор Core Ultra 7 155H с 16 ядрами (6P+8E+2LPE; 22 потока; до 4,8 ГГц), а модели с обозначением 125H получили чип Core Ultra 5 125H с 14 ядрами (4P+8E+2LPE; 18 потоков; до 4,5 ГГц).

Все новинки поддерживают до 96 Гбайт оперативной памяти DDR5-5600 в виде двух модулей SO-DIMM. Есть адаптеры Wi-Fi 6E и Bluetooth 5.3, а также по одному слоту M.2 2280 PCIe 4.0 x4 и M.2 2242 PCIe 4.0 x1.

Источник изображений: ASRock

Размеры компьютеров NUC Ultra 100 Box составляют 117,5 × 110 × 49 мм. Внутри предусмотрено место для SFF-накопителя с интерфейсом SATA-3. В оснащение входят сетевые контроллеры Intel I226LM и Intel I226V стандарта 2.5GbE, по одному порту Thunderbolt 4 и USB 3.2 Gen2 Type-C (DisplayPort Alt Mode), три порта USB 3.2 Gen2 Type-A, два разъёма HDMI 2.1 и аудиогнездо на 3,5 мм.

Версии NUCS Ultra 100 Box имеют габариты 117,5 × 110 × 38 мм и при этом не располагают отсеком для SFF-накопителя. Оснащение включает контроллер Intel I226LM стандарта 2.5GbE, по одному порту Thunderbolt 4 и USB 3.2 Gen2 Type-C (DisplayPort Alt Mode), четыре порта USB 3.2 Gen2 Type-A, два интерфейса HDMI 2.1 и 3,5-мм аудиогнездо. Все устройства весят около 1 кг. 

Компания VirtualZ Computing Corp. представила инструменты для решения проблемы, с которой сталкиваются организации при попытке интеграции данных мейнфреймов IBM со своими облачными приложениями.

Зачастую данные мейнфреймов представлены в устаревших проприетарных форматах, плохо совместимых с современными облачными системами. Также безопасной и эффективной передаче данных с мейнфрейма в облачные сервисы могут препятствовать ограничения пропускной способности сети и проблемы с подключением. При этом, согласно IBM, мейнфреймы по-прежнему обрабатывают критически важные транзакции в ⅔ компаний из списка Fortune 100, 45 из 50 крупнейших банков мира, 8 из 10 крупнейших страховщиков, ⅘ крупнейших авиакомпаний и 8 из 10 крупнейших ретейлеров.

Источник изображений: VirtualZ Computing

Чтобы избежать сбоев при передаче, компании обычно переносят информацию в пакетном режиме. Этот трудоёмкий процесс может отъесть до 40 % ёмкости мейнфрейма. Также уходит немало времени на извлечение/преобразование/загрузку (ETL) данных в другое хранилище. Как следствие, в облачных приложениях часто используются производственные данные двухдневной давности или старше.

Как утверждает VirtualZ, предприятия тратят миллионы долларов на написание пользовательского кода для извлечения, преобразования и репликации копий данных из мейнфреймов в гибридное облако или распределённое хранилище. При этом в процессе может возникнуть неразбериха с дублированием данных и контролем версий, а также проблемы синхронизации. Все продукты компании устраняют необходимость в пакетных процедурах ETL за счёт преобразования данных «на лету».

Разработанное VirtualZ ПО Lozen позволяет гибридным облачным приложениям, SaaS, распределённым и пользовательским приложениям получать доступ для чтения и записи данных мейнфреймов в режиме реального времени без их копирования или перемещения. Решение не полагается на обходные пути, такие как эмуляция терминала, а напрямую подключается к хранилищам данных мейнфреймов на уровне приложения. При этом все облачные приложения обмениваются данными приложениями мейнфреймов на равных правах.

Компания сообщила, что на установку Lozen требуются считанные минуты, а само ПО сопроцессор zIIP, который обрабатывает рабочие нагрузки за пределами центрального процессора для повышения производительности и снижения затрат, поскольку не облагается лицензионными сборами.

Второй продукт компании, под названием Zaac, выполняет операцию, обратную функции Lozen. Решение предоставляет приложениям мейнфреймов доступ для чтения и записи в режиме реального времени внешних данных в гибридных облаках, внешнем физическом хранилище и приложениях SaaS. Третий продукт, PropelZ, позволяет создавать одноразовую копию данных мейнфрейма для случаев использования, не требующих доступа в режиме реального времени или доступа для чтения и записи.

ПО VirtualZ способно преобразовывать данные в формате EBCDIC в широко используемый ASCII и другие форматы. Решения также доступны для Micro Focus Open Enterprise Server, Anypoint Studio от MuleSoft Inc. и любой интеграционной платформы, поддерживающей спецификацию OpenAPI. Заявлена поддержка NFS и S3.

Китайская компания Montage Technology, по сообщению ресурса Tom's Hardware, анонсировала процессоры Jintide 5-го поколения для местного рынка. По сути, это новейшие серверные чипы Intel Xeon Emerald Rapids с незначительно изменённой маркировкой и модифицированным набором поддерживаемых технологий.

В 2016 году Intel организовала партнёрский проект с китайским университетом Цинхуа и Montage Technology Global Holdings, Ltd. для создания продуктов, ориентированных на рынок серверов и ЦОД в КНР. В рамках сотрудничества поставляются чипы Jintide на базе Xeon разных семейств. В начале 2023 года компании представили серию процессоров Jintide на базе Sapphire Rapids.

В серию Jintide 5-го поколения на момент анонса вошли пять моделей: C8558P, C6548Y+, C5520+, C6542Y и C4514Y. Фактически это китайские варианты процессоров Xeon Platinum 8558P, Xeon Gold 6548Y+, Xeon Gold 5520+, Xeon Gold 6542Y и Xeon Silver 4514Y. Число вычислительных ядер составляет от 16 до 48; во всех случаях поддерживается технология многопоточности. Показатель TDP варьируется от 150 до 350 Вт (см. характеристики ниже).

Источник изображения: Montage Technology

Чипы Jintide получили дополнительные средства мониторинга и аппаратного шифрования: это технологии PrC (Pre-check) и DSC (Dynamic Security Check). От оригинальных Xeon Emerald Rapids унаследованы такие возможности, как поддержка восьми каналов памяти DDR5-5600 суммарным объёмом до 4 Тбайт и 80 линий PCIe 5.0. Изделия Jintide могут применяться в двухпроцессорных серверах.

Источник изображения: Tom's Hardware

На данный момент семейство Jintide 5-го поколения ограничено перечисленными моделями, и не до конца ясно, собирается ли Montage Technology выпускать другие версии. Напомним, в серии Xeon Emerald Rapids доступны процессоры с количеством ядер до 64.

Российская компания «АТБ электроника» анонсировала компьютеры небольшого форм-фактора на аппаратной платформе Rockchip, предназначенные для использования на промышленных и инфраструктурных объектах. Устройства созданы в рамках программы импортозамещения с учётом действующих в России регуляторных требований.

Изделия, выполненные в компактном корпусе, будут предлагаться в различных исполнениях. В частности, предусмотрены варианты со стандартным и расширенным температурными диапазонами: от 0 до +75 °C и от -40 до +75 °C соответственно.

В новинках задействован процессор RK3568. Он содержит четыре вычислительных ядра Arm Cortex-A55 с тактовой частотой до 2,0 ГГц и графический блок Arm Mali-G52. Объём оперативной памяти не раскрывается.

Источник изображений: «АТБ электроника»

Мини-компьютеры доступны в «настольном» формате и в модификациях для монтажа на DIN-рейку. В первом случае устройства могут применяться в качестве тонкого клиента, криптошлюза, для управления интерактивной панелью и пр. Версии с креплением на DIN-рейку в зависимости от набора интерфейсов могут играть роль криптошлюза, системы для управления инженерными конструкциями, решения для сбора/передачи данных.

Все модели оснащены интерфейсами HDMI, USB (×2) и Ethernet (×2), а также адаптерами Wi-Fi и Bluetooth. Есть два разъёма Mini-PCIe для подключения различных модулей, например, LTE-модемов. В случае устройств с монтажом на DIN-рейку предусмотрены версии с четырьмя гальванически развязанными интерфейсами RS485, а также с дополнительными цифровыми входами/выходами.

Отмечается, что мини-компьютеры полностью разработаны и произведены в компании «АТБ Электроника». Образцы прошли внутреннее тестирование.

Предоставляющая клиентам ИИ-инфраструктуру компания CoreWeave купила тысячи серверов Dell PowerEdge XE9680 для своих облачных сервисов. Как сообщает Datacenter Dynamics, некоторые из систем получат ускорители NVIDIA H100 для выполнения ИИ-задач и предоставления клиентам доступа к решениям генеративного ИИ.

Серверы также будут выполнять задачи, связанные с машинным обучением, рендерингом визуальных эффектов и крупномасштабными симуляциями. В CoreWeave заявляют, что именно ИИ стал драйвером спроса на облачные HPC-решения. В компании уверены, что кастомная современная инфраструктура компании обеспечивает наилучшую производительность, а взаимодействие с Dell позволит эффективнее выполнять задачи.

Вышеназванные серверы имеют два процессора Intel Xeon Sapphire Rapids. Они могут оснащаться платами NVIDIA HGX с восемью ускорителями A100 или H100 и восемью NVMe SSD общей ёмкостью до 122,88 Тбайт. Любопытно, что для CoreWeave, похоже, сделано исключение, поскольку обычным заказчикам серверы Dell с ускорителями NVIDIA приходится ждать долгие месяцы.

Источник изображения: Dell

2023 год выдался довольно хлопотным для CoreWeave. Поскольку компания одной из первых получила доступ к передовым ускорителям NVIDIA H100, она потратила немало времени на привлечение средств для их покупки и внедрения. Кроме того, она сотрудничала с Vast Data и DDN над созданием систем хранения данных, а в июне подписала многомиллиардное соглашение с Microsoft.

В декабре компания привлекла $642 млн, продав миноритарный пакет своих акций, а в августе, например, и вовсе дошло до весьма комичной ситуации, когда компания получила более $2 млрд в долг под залог ускорителей NVIDIA для покупки новых ускорителей NVIDIA — всё для удовлетворения растущего спроса на облачные ИИ-услуги.

Роскомнадзор (РКН) отклонил 72 заявки на вступление в реестр провайдеров хостинга. Причина — подача бланков с недостаточной или недостоверной информацией. В течение пяти рабочих дней компании должны исправить ошибки, иначе последует запрет на легальное оказание услуг. Об это сообщает РБК.

По данным ведомства, к 18 декабря 2023 года 346 компаний зарегистрировали личные кабинеты, 290 из них подали уведомления на включение в реестр, но лишь у 14 участников рынка заявления были оформлены корректно. По 204 заявкам проверка продолжается.

Фото: Scott Rodgerson / Unsplash

Среди компаний, которым РКН отказал в регистрации в реестре, оказались Rusonyx и RUVDS. Их представители пояснили, что ошибки возникли из-за технических проблем на стороне РКН: часть полей, ранее отмеченных как необязательные для заполнения, уже после отправки заявки стали числиться «обязательными». Также хостеры жалуются на недоработку системы, к примеру, одно лицо не может представлять несколько компаний. Кроме того, ведомство требует указать используемые системы защиты информации (сертифицированные программно-аппаратные комплексы с шифрованием), а они есть не у всех.

Летом Госдума приняла поправки в законы «Об информации, информационных технологиях и о защите информации» и «О связи», которые ввели регулирование деятельности хостинг-провайдеров. К примеру, те, кто не попадет в реестр провайдеров хостинга, станут в России незаконными операторами и не смогут легально оказывать услуги. Реестр с 1 декабря 2023 года формирует РКН.

Роскомнадзор (РКН) оштрафовал 11 иностранных хостинг-провайдеров за нарушение российского «закона о приземлении»: Amazon Web Services (AWS), Bluehost, DigitalOcean, DreamHost, GoDaddy, Hetzner, HostGator, Ionos, Kamatera, Network Solutions и WPEngine. Об этом сообщают «Известия».

Согласно закону ч.2 ст.13.49 КоАП РФ «О неисполнении обязанностей, предусмотренных законом о деятельности иностранных лиц в сети интернет», иностранные хостинг-провайдеры обязаны открыть на территории России представительство, поместить форму обратной связи для граждан РФ и зарегистрировать личный кабинет на сайте РКН.

Источник изображения: Edward Lich / Pixabay

В случае неисполнения иностранным компаниям грозит взимание от 1/15 до 1/10 совокупного размера выручки за календарный год. Также РКН может блокировать иностранных хостинг-провайдеров, запретить рекламу, поисковую выдачу, ограничить платежи и переводы денежных средств, замедлить трафик. Собственно говоря, ранее Роскомнадзор уже устанавливал запрет на поисковую выдачу сайтов этих иностранных хостинг-провайдеров.

Кроме того, в России вступил в силу закон, согласно которому к 1 февраля 2024 года провайдеры хостинга должны быть включены в реестр провайдеров, иначе им будет запрещено оказывать услуги хостинга на территории России. По данным ресурса «Домены России», в ноябре 2023 года у отечественных хостингов зарегистрировано более 2,2 млн доменов, у Германии — более 76 тыс., у США — более 39 тыс., у Франции — более 22 тыс.