В Южной Корее готовятся создать крупный кластер ЦОД ёмкостью 1 ГВт — кампус будет построен в провинции Канвондо (Gangwon ). По данным Datacenter Dynamics, площадка расположена близ населённых пунктов Каннын и Донхэ на востоке страны и потенциально сможет вместить до 50 объектов ёмкостью 20 МВт каждый.

Это будет уже второй кампус такой ёмкости, строительство которого запланировано в Южной Корее. В прошлом году власти анонсировали создание крупного комплекса, включающего до 25 ЦОД по 45 МВт, в провинции Южная Чолла (South Jeolla). Эти дата-центры будут строиться поэтапно до 2037 года, первая фаза предусматривает возведение пяти объектов и подстанции мощностью 300 МВт к 2027 году.

Источник изображения: Daniel Bernard/unsplash.com

Как сообщают отраслевые источники, корейское Министерство торговли, промышленности и энергетики (Ministry of Trade, Industry, and Energy) поддержало проект и поможет использовать энергию, генерируемую кластером электростанций региона. В провинции находятся несколько угольных и атомных электростанций, но у них есть проблемы с транспортировкой энергии на дальние расстояния и другие ограничения.

По словам одного из источников, на восточном побережье страны имеются проблемы с малой энергоёмкостью местной инфраструктуры. Прямые продажи близлежащим ЦОД позволят электростанциям экономить около 20 % ежегодных эксплуатационных расходов. К счастью, недавно принятые законы теперь позволяют напрямую продавать энергию местным потребителям.

Правительство намерено организовать строительство ЦОД на уже существующих промышленных площадках, а также на неиспользуемой земле. Дополнительно правительство инвестирует в два ЦОД, предназначенных для поддержки разработки ИИ-чипов. Эти дата-центры будут способствовать росту новых отраслей.

Компания Supermicro представила на выставке мобильной индустрии MWC 2024 в Барселоне (Испания) новые серверы для телекоммуникационной отрасли, 5G-инфраструктур, задач ИИ и периферийных вычислений. Дебютировали модели с процессорами AMD EPYC 8004 Siena, Intel Xeon Emerald Rapids и с суперчипами NVIDIA GH200 Grace Hopper.

В частности, анонсирована стоечная система ARS-111GL-NHR высокой плотности в форм-факторе 1U на базе GH200. Устройство наделено двумя слотами PCIe 5.0 x16, восемью фронтальными отсеками для накопителей E1.S NVMe и двумя коннекторами для модулей M.2 NVMe. Сервер предназначен для работы с генеративным ИИ и большими языковыми моделями (LLM).

На периферийные 5G-платформы ориентировано решение SYS-211E ультрамалой глубины — 298,8 мм. Модель рассчитана на один процессор Xeon Emerald Rapids в исполнении LGA-4677. Есть восемь слотов для модулей DDR5-5600 общей ёмкостью до 2 Тбайт и до шести слотов PCIe 5.0 в различных конфигурациях для карт расширения. Модификация SYS-211E-FRDN13P для сетей Open RAN предлагает 12 портов 25GbE и поддерживает технологию Intel vRAN Boost.

Ещё одна новинка — сервер AS-1115S-FWTRT формата 1U с возможностью установки одного процессора EPYC 8004 Siena (до 64 ядер). Реализована поддержка до 576 Гбайт памяти DDR5-4800 (шесть слотов), двух портов 10GbE, двух слотов PCIe 5.0 x16 FHFL и одного слота PCIe 5.0 x16. Решение предназначено для edge-приложений.

Представлены также многоузловая платформа SYS-211SE-31D/A и система высокой плотности SYS-221HE: обе модели выполнены в формате 2U на процессорах Xeon Emerald Rapids. Второй из этих серверов допускает монтаж до трёх двухслотовых ускорителей NVIDIA H100, A10, L40S, A40 или A2. Наконец, анонсирован сервер AS-1115SV типоразмера 1U с поддержкой процессоров EPYC 8004 Siena, 576 Гбайт памяти DDR5, трёх слотов PCIe 5.0 x16 и 10 накопителей SFF.

Китайская компания CWWK, по сообщению ресурса Liliputing, анонсировала необычный компактный компьютер Magic Computer, на основе которого могут создаваться различные сетевые устройства, оборудование для Интернета вещей, системы хранения и пр. В основу положена аппаратная платформа Intel Alder Lake-N.

Изделие имеет оригинальное исполнение. По сути, это одноплатный компьютер, который закреплен в нижней области радиатора охлаждения, одновременно выполняющего функции подставки. Такая конструкция повышает эффективность отвода тепла, но оставляет саму плату незащищённой от внешних воздействий.

Источник изображения: Liliputing

Доступны модификации с разными процессорами Alder Lake-N, а максимальная конфигурация включает чип Core i3-N305 (8 ядер; 8 потоков; до 3,8 ГГц; 15 Вт). Объём оперативной памяти DDR5-4800/5200/5600 может достигать 32 Гбайт (один слот SO-DIMM). Есть коннектор M.2 (PCIe 3.0 x1) для накопителя формата 2242/2280 (NVMe), два порта SATA-3 и слот microSD. Кроме того, присутствует разъём PCIe x8 (PCIe 3.0 x4) для подключения различных карт расширения, например, сетевого адаптера.

Источник изображения: AliExpress/CWWK Store

Устройство располагает двумя коннекторами HDMI 1.4, интерфейсами DisplayPort 1.4 и USB Type-C (DisplayPort Alt mode), двумя сетевыми портами 2.5GbE RJ-45 на базе Intel i226-V, четырьмя портами USB 2.0. Через разъёмы на плате можно задействовать дополнительные интерфейсы, включая последовательный порт.

Питание (12–19 В) подаётся через DC-разъём (5,5/2,5 мм) или 4-контактный коннектор. Габариты мини-компьютера составляют 144 × 100 × 48 мм. Диапазон рабочих температур — от 0 до +70 °C. Цена начинается с $214 за barebone-систему и достигает $520 за вариант с 32 Гбайт ОЗУ и SSD вместимостью 2 Тбайт.

Компания Micron Technology объявила о начале массового производства передовой памяти HBM3E. Речь идёт об изделиях ёмкостью 24 Гбайт, предназначенных для ИИ-ускорителей NVIDIA H200, которые появятся на коммерческом рынке во II квартале нынешнего года.

Чипы Micron HBM3E выполнены в виде 8-ярусного стека. Заявленная скорость передачи данных превышает 9,2 Гбит/с на контакт, а общая пропускную способность сборки превосходит 1,2 Тбайт/с. Вместе с тем, как утверждается, изделия потребляют примерно на 30 % меньше энергии по сравнению с решениями конкурентов.

Источник изображения: Videocardz / Micron

Micron подчёркивает, что чипы HBM3E объёмом 24 Гбайт позволяют дата-центрам беспрепятственно масштабировать различные ИИ-нагрузки — от обучения сложных нейронных сетей до ускорения инференса. Изделия выполнены по технологии 1β (1-бета) — самому передовому техпроцессу компании. Кроме того, применены другие современные методики упаковки чипов, включая усовершенствованную технологию сквозных соединений TSV (Through-Silicon Via).

Micron также сообщила, что уже в марте нынешнего года начнёт распространять образцы 12-ярусных чипов HBM3E ёмкостью 36 Гбайт. Они, как и изделия на 24 Гбайт, обеспечат пропускную способность свыше 1,2 Тбайт/с при высокой энергетической эффективности.

Компания ASRock Rack продемонстрировала сервер MECAI-GH200: это, как утверждается, самая компактная в мире система, оснащённая гибридным суперчипом NVIDIA GH200 Grace Hopper с 72-ядерным Arm-процессором NVIDIA Grace и ускорителем NVIDIA H100 с 96 Гбайт памяти HBM3.

Новинка выполнена в 2U-корпусе небольшой глубины. Доступны два посадочных места для накопителей формата E1.S (PCIe 5.0 х4), два коннектора для модулей М.2 (PCIe 5.0 х4) и два слота для карт расширения FHFL с интерфейсом PCIe 5.0 х16.

Питание обеспечивают два блока мощностью 1600 Вт. Глубина MECAI-GH200 составляет 450 мм. Сервер предназначен для решения ИИ-задач на периферии. Прочие характеристики сервера пока не раскрываются.

«В ASRock Rack мы стремимся обеспечить возможность повсеместного использования ИИ. Для достижения этой цели мы создаём надёжные серверные решения в различных форм-факторах и для различных сценариев», — говорит вице-президент компании Хантер Чен (Hunter Chen).

ASRock Rack также представила на выставке MWC 2024 новые barebone-системы и материнские платы для процессоров Intel, AMD и Ampere. Например, впервые демонстрируется плата SIENAD8UD-2L2Q с поддержкой чипов AMD EPYC 8004 Siena и двумя сетевыми портами 25GbE SFP28.

Стартап Groq сообщил о значительных достижениях в области инференса с использованием ускорителя LPU, разработанного для запуска больших языковых моделей (LLM), таких как GPT, Llama и Mistral. Groq LPU имеет один массивно-параллельный тензорный процессор TSP, который обеспечивает производительность до 750 TOPS INT8 и до 188 Тфлопс FP16. LPU Groq оснащён локальной SRAM объемом 230 Мбайт с пропускной способностью 80 Тбайт/с.

Как сообщает компания, при запуске модели Mixtral 8x7B ускоритель LPU обеспечил скорость инференса 480 токенов в секунду, что является одним из ведущих показателей инференса в отрасли. В таких моделях, как Llama 2 70B с длиной контекста 4096 токенов, Groq может обеспечить скорость инференса 300 токенов/с, тогда как в меньшей модели Llama 2 7B с 2048 токенами контекста скорость инференса составляет 750 токенов/с.

Изображение: Groq

Согласно рейтингу бенчмарка LLMPerf, LPU Groq превосходит результаты систем облачных провайдеров на базе традиционных ИИ-ускорителей в деле запуска LLM Llama в конфигурациях от 7 до 70 млрд параметров. Groq лидирует по скорости инференса и занимает второе место по показателю задержки.

Источник: The Ray Team

Для сравнения, бесплатный чат-бот ChatGPT на базе GPT-3.5 обеспечивает обработку около 40 токенов/с. Текущие LLM с открытым исходным кодом, такие как Mixtral 8x7B, могут превосходить GPT 3.5 в большинстве тестов, и теперь могут работать со скоростью почти 500 токенов/с.

Источник: The Ray Team

Опубликованные данные наглядно подтверждают, что предлагаемый Groq ускоритель LPU Groq значительно превосходит системы для инференса, предлагаемые NVIDIA, AMD и Intel, говорит компания. Groq не раскрывает имена своих заказчиков, но в настоящее время её ИИ-решения используются, например, Аргоннской национальной лабораторией Министерства энергетики США.

Крупный оператор дата-центров Equinix Inc. намерен в ближайшую пятилетку вложить $390 млн в строительство ЦОД в Африке и расширение там своего присутствия в целом. По данным Bloomberg, в первую очередь интерес для бизнеса Equinix представляет Южная Африка и запад континента, но компания готова рассмотреть и перспективы работы на его востоке.

Equinix уже проводит исследования возможностей вложить средства в строительство новых или покупку готовых площадок. При этом компания намерена выделять средства на строительство на тех рынках, где Equinix уже присутствует, поскольку выход на дополнительные рынки пока не предусмотрен. В компании заявили, что нуждаются в ключевых хабах на континенте — таких же, какие уже есть у Equinix в Европе.

Источник изображения: Justin Lane/unsplash.com

В последние годы IT-гигант вроде Amazon, Microsoft и Huawei активно инвестируют в дата-центры на территории Африки по мере роста там спроса на цифровую инфраструктуру. Пока на континент приходится всего 1 % общемировой ёмкости ЦОД, что обеспечивает потенциальным инвесторам большие перспективы роста. При этом существуют и определённые риски вроде отсутствия надёжных источников энергии и даже частые кражи компонентов инфраструктуры.

Вместе с тем, в Африке немало молодого и технически подкованного населения с растущими запросами на доступ к качественным онлайн-сервисам. Такая комбинация является весьма многообещающей для индустрии ЦОД, хотя начинать здесь работу приходится во многом с нуля. Та же Equinix начала в Африке бизнес всего два года назад, купив за $320 млн компанию MainOne Cable Co. с тремя готовыми дата-центрами в Нигерии, Гане и Кот-д'Ивуаре. На момент покупки у MainOne имелся недостроенный дата-центр в Нигерии, заработавший в 2022 году.

При выходе на новые рынки Equinix обычно предпочитает покупать уже готовые бизнесы, хотя в некоторых случаях, как это было в Южной Африке, компания в своё время решила заняться строительством собственных ЦОД. Свой первый ЦОД на континенте Equinix анонсировала в декабре 2022 года. Согласно проекту, объект обеспечит ёмкость в 4 МВт в ходе первой фазы и до 20 МВт и 9290 м² колокейшн-пространства к моменту полного ввода объекта в эксплуатацию. Запуск запланирован на 2024 год.

Спрос на колокейшн-пространства в дата-центрах Европы превышает предложение. В докладе экспертов по недвижимости компании CBRE, говорится, что даже большого количества новых строящихся объектов регионе будет не хватать для полного удовлетворения потребностей клиентов.

В CBRE заявляют, что второй раз за последние пять лет объём аренды в Европе превысил площади введённых в эксплуатацию новых объектов. Согласно данным доклада за IV квартал 2023 года, на 14 крупнейших рынках Европы в 2023 году был освоен 601 МВт, тогда как новых объектов ввели в эксплуатацию за тот же период лишь на 561 МВт.

Как потребление, так и предложение увеличились даже в сравнении с 2022 годом — год к году рост составил для каждого из направлений 10 % и 2 % соответственно. Один из источников дисбаланса — рынки FLAPD (Франкфурт, Лондон, Амстердам, Париж и Дублин), где только в последней четверти прошлого года было освоено 252 МВт, что на 41 % выше в сравнении с предыдущим кварталом (179 МВт). Основной рост пришёлся на Дублин, Лондон и Париж.

Источник изображения: Pedro Lastra/unsplash.com

Как заявляют в CBRE, одним из ключевых факторов роста стала потребность гиперскейлеров во всё больших объектах, оптимизированных под их специфические запросы. Средний размер новых «оптовых» объектов в Европе за последние два года чрезвычайно вырос и спрос будет увеличиваться и дальше. Новые стройки станут вести по всей Европе, в том числе, конечно, в городах кластера FLAPD.

Источник: CBRE

Ранее появилась новость о намерении Global Switch построить новый ЦОД в Лондоне — пятиуровневый объект London South ёмкостью 40 МВт и площадью 27 тыс. м². А в этом месяце Mercury передала Digital Realty в Париже 19-МВт ЦОД PAR9 с 12 залами. В CBRE считают, что спрос в Европе только увеличится из-за роста сегмента ИИ, поскольку многие организации намерены повысить эффективность своих операций с помощью систем ИИ и машинного обучения. Главной проблемой остаётся нехватка электроэнергии и подходящих для внедрения ИИ дата-центров в Европе.

Корпорация Intel на выставке MWC 2024 анонсировала новые аппаратные платформы, предназначенные для развёртывания ИИ-приложений на периферии. Предварительно представлены процессоры серий Xeon Sierra Forest и Xeon Granite Rapids-D, фактический выход которых на рынок состоится во второй половине нынешнего года и 2025 году соответственно.

Известно, что изделия Xeon Sierra Forest получат энергоэффективные E-ядра, количество которых будет достигать 288. Утверждается, что производительность в пересчёте на стойку окажется в 2,7 раза выше, чем у аналогичной платформы 2021 года — какой именно, не уточняется.

Процессоры Sierra Forest получат обновлённую версию системы Intel Infrastructure Power Manager, которая позволяет использовать встроенную телеметрию для снижения энергопотребления без ухудшения ключевых показателей производительности благодаря управлению состоянием отдельных ядер. Заявленная экономия энергии может достигать 30 %.

В свою очередь, чипы Xeon Granite Rapids-D предназначены для применения в периферийном оборудовании, а также в СХД. Эти процессоры в настоящее время проходят испытания в лабораториях таких компаний, как Samsung Electronics и Ericsson. Кроме того, Intel сотрудничает с Dell Technologies, НРЕ, Lenovo, Red Hat и другими партнёрами в рамках подготовки процессоров к выводу на коммерческий рынок.

Решения Xeon Sierra Forest и Xeon Granite Rapids будут использовать технологию vRAN Boost. Она упрощает развёртывание виртуализированных сетей радиодоступа (vRAN), что позволяет ускорить создание мобильных инфраструктур 4G/5G. Корпорация Intel предлагает комплект vRAN AI Development Kit, который предназначен для создания, обучения, оптимизации и внедрения моделей ИИ в области vRAN на серверах общего назначения. Идея состоит в том, что корпоративные клиенты смогут использовать существующую сетевую архитектуру vRAN для поддержки новых рабочих нагрузок ИИ.

В целом, чипы новых семейств помогут реализовать концепцию «ИИ повсюду» с целью модернизации сетей 5G, периферийной и корпоративной инфраструктур. Интерес к новым процессорам проявили BT Group, KDDI и SK Telecom.

Компания BrainChip, по сообщению ресурса CNX-Software, начала приём заказов на компьютер небольшого форм-фактора Akida Edge AI Box, разработанный в партнёрстве с VVDN Technologies. Новинка предназначена для выполнения ИИ-задач на периферии.

В основу положен процессор NXP i.MX 8M Plus Quad с четырьмя ядрами Arm Cortex-A53, функционирующими на тактовой частоте до 1,8 ГГц. В состав чипа входят графические блоки Vivante GC7000UL 3D GPU и Vivante GC520L 2D GPU, а также модуль NPU с производительностью до 2,3 TOPS.

В оснащение мини-ПК включены два нейроморфных чипа BrainChip Akida AKD1000 (интерфейс PCIe) с ядром реального времени Arm Cortex-M4 с тактовой частотой 300 МГц. Они предназначены для ускорения операций, связанных с ИИ и машинным обучением. Объём оперативной памяти LPDDR4 составляет 4 Гбайт. Есть флеш-модуль eMMC вместимостью 32 Гбайт, слот для карты microSD, адаптер Wi-Fi 5 (802.11n/ac; 2,4 и 5 ГГц) и двухпортовый сетевой контроллер 1GbE.

Источник изображения: BrainChip

Возможно кодирование и декодирование видеоматериалов в формате 1080p60 (H.265 и H.264). Предусмотрены разъёмы USB 3.0 Type-A и USB 2.0 Micro-B. Габариты составляют 110 × 110 × 56 мм. Диапазон рабочих температур — от 0 до +50 °C. Применяется программная платформа на базе ядра Linux 6.1. Компьютер предлагается по ориентировочной цене $800.