По прогнозам национальной энергетической компании Великобритании National Grid, спрос на электроэнергию со стороны британских дата-центров в ближайшие десять лет вырастет в шесть раз. Bloomberg сообщает, что в компании обосновали столь значимое увеличение потребления тем, что ИИ-индустрия требует всё больше энергии.

В результате предсказуемо поднимется нагрузка на электросети страны, вынужденной передавать в огромных объёмах энергию, например, с ветрогенераторов в Шотландии к ЦОД в окрестностях Лондона. При этом национальная сеть подвержена повышенным нагрузкам из-за ускоренной электрификации систем домашнего отопления, транспорта и промышленности.

Источник изображения: D Z/unsplash.com

Предполагается, что последующий рост в ключевых сферах вроде ИИ и квантовых вычислений потребует строительства более масштабной и способной выдерживать интенсивные нагрузки инфраструктуры. То же потребуется и от других стран, ищущих возможности расширить ёмкость энергосетей. Как считают в Международном энергетическом агентстве (IEA), уже в следующие три года мировой спрос на энергию со стороны ЦОД, включая сферы ИИ и криптовалют, может вырасти более чем вдвое.

В Великобритании National Grid рассматривает возможность создания ультравысоковольтной сети 800 кВ, вдвое более ёмкой, чем уже существующая. Она обеспечит передачу больших объёмов электроэнергии по стране, связывая крупные генерирующие объекты с площадками, потребляющими много электричества. Это будет означать отказ от текущей системы индивидуальных проектов подключения, каждый из которых требует отдельных разрешений властей и создания инфраструктуры.

Предлагается вложить в новые сети £112 млрд ($142 млрд) для обеспечения стране пути к сокращению вредных выбросов до нуля. Хотя в Министерстве энергетики признают, что это «чрезвычайно дорого», необходимость строительства такой сети считается властями «задачей №1». Проект тем более важен, поскольку Великобритания намерена вложить ещё £500 млн в ИИ-вычисления и квантовые проекты.

Совет по науке и технологиям Великобритании (STFC), по сообщению The Register, заключил с Lenovo соглашение о создании нового НРС-комплекса, ориентированного на решение задач в области ИИ. Речь идёт о суперкомпьютере с жидкостным охлаждением, производительность которого составит приблизительно 44,7 Пфлопс (точность вычислений не уточняется).

Система будет смонтирована в принадлежащем STFC Вычислительном центре имени Хартри в Дарсбери (графство Чешир). Ожидается, что по быстродействию новый комплекс примерно в 10 раз превзойдёт нынешнюю НРС-систему центра под названием Scafell Pike.

Источник изображения: Lenovo

В основу суперкомпьютера лягут серверы Lenovo ThinkSystem с технологией прямого водяного охлаждения (DWC) Neptune. Применение СЖО, как ожидается, поможет снизить потребление энергии примерно на 40 % по сравнению с воздушным охлаждением и дополнительно повысить производительность на 10 %.

Технические характеристики будущего суперкомпьютера не раскрываются, но известно, что он будет использовать узлы с ускорителями на базе GPU. Технология Neptune, в частности, применяется в серверах ThinkSystem SD650-N V3, которые комплектуются процессорами Intel Xeon Emerald Rapids и ускорителями NVIDIA HGX H100 (SXM).

Ожидается, что новый суперкомпьютер, который пока не получил имя, будет применяться для решения сложных задач, связанных с ИИ. Это моделирование погоды и глобальных изменений климата, инициативы в области чистой энергетики, разработка передовых лекарственных препаратов, новые материалы, автомобильные технологии и пр. Система Lenovo станет частью программы Национального центра цифровых инноваций Хартри (HNCDI) стоимостью около $265 млн, которая предполагает поддержку предприятий и организаций государственного сектора, внедряющих средства ИИ.

Компания NVIDIA опубликовала новые, ещё более впечатляющие результаты в области работы с большими языковыми моделями (LLM) в бенчмарке MLPerf Inference 4.0. За прошедшие полгода и без того высокие результаты, демонстрируемые архитектурой Hopper в инференс-сценариях, удалось улучшить практически втрое. Столь внушительный результат достигнут благодаря как аппаратным улучшениям в ускорителях H200, так и программным оптимизациям.

Генеративный ИИ буквально взорвал индустрию: за последние десять лет вычислительная мощность, затрачиваемая на обучение нейросетей, выросла на шесть порядков, а LLM с триллионом параметров уже не являются чем-то необычным. Однако и инференс подобных моделей тоже является непростой задачей, к которой NVIDIA подходит комплексно, используя, по её же собственным словам, «многомерную оптимизацию».

Источник изображений: NVIDIA

Одним из ключевых инструментов является TensorRT-LLM, включающий в себя компилятор и прочие средства разработки, учитывающие архитектуру ускорителей компании. Благодаря ему удалось почти втрое повысить производительность инференса GPT-J на ускорителях H100 всего за полгода. Такой прирост достигнут благодаря оптимизации очередей на лету (inflight sequence batching), применению страничного KV-кеша (paged KV cache), тензорному параллелизма (распределение весов по ускорителям), FP8-квантизации и использованию нового ядра XQA (XQA kernel).

В случае ускорителей H200, использующих ту же архитектуру Hopper, что и H100, важную роль играет память: 141 Гбайт HBM3e (4,8 Тбайт/с) против 80 Гбайт HBM3 (3,35 Тбайт/с). Такой объём позволяет разместить модель уровня Llama 2 70B целиком в локальной памяти. В тесте MLPerf Llama 2 70B ускорители H200 на 28 % производительнее H100 при том же теплопакете 700 Вт, а увеличение теплопакета до 1000 Вт (так делают некоторые вендоры в своих MGX-платформах) даёт ещё 11–14 % прироста, а итоговая разница с H100 в этом тесте может доходить до 45 %.

В специальном разделе новой версии MLPerf NVIDIA продемонстрировала несколько любопытных техник дальнейшей оптимизации: «структурированную разреженность» (structured sparsity), позволяющую поднять производительность в тесте Llama 2 на 33 %, «обрезку» (pruning), упрощающую ИИ-модель и позволяющую повысить скорость инференса ещё на 40 %, а также DeepCache, упрощающую вычисления для Stable Diffusion XL и дающую до 74 % прироста производительности.

На сегодня платформа на базе модулей H200, по словам NVIDIA, является самой быстрой инференс-платформой среди доступных. Результатами GH200 компания похвасталась ещё в прошлом раунде, а вот показатели ускорителей Blackwell она не предоставила. Впрочем, не все считают результаты MLPerf показательными. Например, Groq принципиально не участвует в этом бенчмарке.

В настоящее время крупные российские технологические компании рассматривают возможность приобретения российских разработчиков операционных систем, пишет «Коммерсантъ» со ссылкой на источники на ИТ-рынке. По мнению экспертов, эта тенденция связана со стремлением крупных холдингов выстраивать собственные экосистемы IT-продуктов, которые будут неполными без собственной ОС.

По словам источников «Коммерсантъ», в настоящее время идут переговоры по поводу приобретения «Базальт СПО», «Группа Астра», «Ред Софт» и НТЦ ИТ РОСА крупными игроками, в число которых входят VK, «Ростелеком», «Росатом» и МТС. Впрочем, «Ростелекому» уже принадлежит разработчик мобильной ОС «Аврора», а представитель компании ещё в прошлом году отмечал, что на российском рынке есть множество сходных или дублирующихся продуктов. У «Сбера» также есть собственный дистрибутив SberLinux. НПО «РусБИТех» (ОС Astra Linux и пр.) и «Ред Софт» (ОС «РЕД ОС» и пр.) с недавних пор находятся под санкциями США.

Изображение: Lukas / Unsplash

По мнению создателя венчурного фонда «Стриго Кэпитал», для разработчиков ПО вхождение в состав крупной компании несёт только плюсы, поскольку означает доступ к финансированию. Эксперт предположил, что в связи с ростом выручки стоимость «Базальт СПО» может составить 5–8 млрд руб., «Ред Софта» — 9–12 млрд руб. После ухода западных вендоров выручка российских разработчиков ПО резко выросла, что объясняется повышением цен в связи со слабой конкуренцией.

Глава НП «Руссофт» объясняет растущую заинтересованность крупных российских IT-холдингов к покупке компаний-разработчиков ОС с импортозамещением, появлением новых обязательств для критической информационной инфраструктуры (КИИ) по переходу на российские решения, а также планами компаний по выпуску собственной электроники. «Сейчас многие организации планируют локализовать производство электроники, от ноутбуков до серверов, добавлять туда российское ПО и поставлять в госкомпании в виде программно-аппаратных комплексов», — сообщил эксперт.

Компания «Электрорешения», производящая электротехническое оборудование под маркой EKF, представила источники бесперебойного питания (ИБП) серии E-Power SW900G4-33, ориентированные на использование в том числе в составе критических инфраструктур. Это могут быть дата-центры, промышленные объекты, медицинские учреждения и пр.

В семейство вошли модели двойного преобразования мощностью 40, 60, 80, 100, 120, 160 и 200 кВт. Возможна параллельная работа до четырёх ИБП, что, как отмечается, обеспечивает надёжную защиту критических нагрузок.

Источник изображения: EKF

ИБП получили трёхуровневый инвертор и 5″ информационный дисплей с поддержкой сенсорного управления. В системе охлаждения применяются вентиляторы с регулируемой скоростью вращения. Предусмотрены интерфейсы RS232, USB и RS485, а также два слота для установки внешних карт, включая адаптеры Wi-Fi и модули GPRS.

Устройства обеспечивают защиту от различных проблем, которые могут наблюдаться в электрической сети: это пониженное или повышенное напряжение, искажения формы напряжения и помехи, кратковременные провалы или скачки напряжения, высоковольтные импульсы. Среди преимуществ новинок названы большой срок службы, простота обслуживания, широкие возможности мониторинга, а также интуитивно понятный интерфейс.

Обычно земля рядом с атомными электростанциями считается далеко не самым востребованным активом, но в последнее время ситуация начала стремительно меняться. По данным The Register, на фоне бума ИИ-технологий ей заинтересовались операторы дата-центров, желающие обеспечить свои новые объекты стабильными поставками энергии.

Все ЦОД потребляют довольно много электричества, но по мере развития чрезвычайно ресурсоёмких систем генеративного ИИ атомная энергетика для ЦОД стала особенно востребованной среди гиперскейлеров. Хотя технически атомная энергия не считается возобновляемой, она почти не даёт углеродных выбросов и поставляется бесперебойно.

Источник изображения: Ajay Pal Singh Atwal/unsplash.com

Более года стартап NE Edge борется за право построить пару ЦОД для ИИ-проектов у 2-ГВт АЭС Милстоун (Millstone Nuclear Power Plant) в Коннектикуте (США). Компания выделила $1,6 млрд на строительство коммутационной станции и дата-центров, общей площадью около 112 тыс. м². Примерно такую же сумму она потратит на серверы. Однако у компании возникли проблемы с одобрением проекта, поскольку местные жители опасаются, что его реализация негативно скажется на цене электроэнергии, поскольку объекты NE Edge, вероятно, будут потреблять 13 % всего электричества, вырабатываемого АЭС.

В компании утверждают, что прямое подключение к АЭС позволит договориться о ценах, позволяющих обеспечить жизнеспособность такого энергоёмкого объекта. Кроме того, дополнительные средства выделят расположенному рядом городу Уотерфорду. Платежи составят более $1 млрд в течение последующих 30 лет. В начале года городской совет отказал в разрешении на строительство из-за отсутствия необходимой информации, но до сих пор нет достоверных данных, в каких сведениях он нуждается.

Пока NE Energy борется за получение разрешения на строительство, прочие операторы уже реализуют собственные амбиции в этой сфере. Так, AWS приобрела «атомные» ЦОД Cumulus Data за $650 млн. Кампус расположен вблизи АЭС мощностью 2,5 ГВт на северо-востоке Пенсильвании. AWS получит до 960 МВт для питания ЦОД. Microsoft тоже активно изучает возможность использования АЭС, но делает ставку на малые модульные реакторы (SMR). В числе прочих строительство SMR для ЦОД изучают Standard Power, Green Energy Partners и Bahnhof.

Компания «Аэродиск» анонсировала системы хранения данных серии Engine AQ, построенные на аппаратной платформе «Аквариуса». Изделия подходят для широкого круга задач, таких как виртуализация, базы данных, видеонаблюдение и высоконагруженные приложения корпоративного класса.

В семейство вошли СХД среднего уровня Engine AQ 440/450/460 на базе Aquarius FS440/FS450/FS46. Они оснащаются процессорами Intel Xeon, а объём оперативной памяти в стандартной конфигурации составляет 256 Гбайт. Первая из названных систем выполнена в формате 4U с двумя контроллерами в едином корпусе. Допускается установка 24 накопителей SFF/LFF с интерфейсом SAS.

Модификация FS450 использует шасси 2U+2U с двумя отдельно стоящими контроллерами: применяются дисковые модули расширения с общим количеством накопителей до 608 в расчёте на систему. Форм-фактор дисковых полок — 2U (12 × LFF/SFF), 2U (24 × SFF), 4U (24 × LFF/SFF), 4U (60 × LFF) и 4U (72 × LFF). Наконец, система FS46 получила исполнение 4U с двумя контроллерами в едином корпусе. Предусмотрены отсеки для 24 накопителей SFF/LFF с интерфейсом SAS.

Источник изображения: «Аэродиск»

Говорится, что одной из ключевых особенностей СХД серии Engine AQ является возможность репликации данных, что значительно повышает надёжность хранения информации. Кроме того, поддерживается организация метрокластера, обеспечивающего бесперебойную работу и доступность данных в распределённых вычислительных средах.

«Новая СХД представляет собой идеальное решение для организаций, стремящихся максимизировать производительность и надёжность своих информационных систем с возможностью гибкой настройки под специфические бизнес-потребности», — говорится в сообщении «Аэродиска».

Возможна организация All-Flash массивов исключительно на основе SSD. Архитектура обеспечивает дублирование всех компонентов СХД, что позволяет организовать доступность данных на уровне 99,999 %. В перспективе планируется выпуск СХД начального уровня Engine AQ «Лайт» для предприятий малого и среднего бизнеса.

Компания «Интеллектуальная безопасность» сообщила о выпуске нового релиза актуальной на сегодняшний день версии платформы Security Vision 5. Обновления коснулись всех входящих в состав программного комплекса компонентов.

Security Vision позволяет роботизировать до 95 % программно-технических функций оператора информационной безопасности. Представленные в составе платформы продукты обеспечивают решение таких задач, как:

• создание единого ситуационного центра кибербезопасности;
• выявление атак и инцидентов кибербезопасности на ранних стадиях за счёт анализа событий, поступающих от различных средств защиты информации;
• консолидация оперативной информации и её анализ в реальном времени для расследования инцидентов кибербезопасности и принятия управленческих решений;
• сокращение времени реагирования за счёт автоматизации ключевых процедур и сценариев реагирования, роботизации функций оператора информационной безопасности;
• автоматическое обеспечение контроля соответствия требованиям регуляторов, национальным и международным стандартам.

В новом релизе Security Vision 5 разработчиками было уделено особое внимание формированию и изменениям организационной IT-структуры: ускорена работа с большими объёмами данных учётных записей и организаций в режиме Multitenancy, для переменчивых периметров реализована оперативная адаптация моделей доступа для новых или перемещаемых ролей. В дополнение к этому была оптимизирована работа с данными разных форматов и их преобразование, средства импорта и экспорта получили новые функции, включая гранулярную настройку возможностей пользователей и запуск группы действий. Доработкам также подверглись средства визуализации данных и API программного комплекса.

Платформа Security Vision зарегистрирована в реестре отечественного ПО и сертифицирована ФСТЭК России по 4 уровню доверия. Решение может использоваться в значимых объектах критической информационной инфраструктуры 1 категории, в государственных информационных системах 1 класса защищённости, в информационных системах общего пользования II класса, в информационных системах персональных данных при необходимости обеспечения 1 уровня защищённости, в автоматизированных системах управления производственными и технологическими процессами 1 класса защищённости.

Компания Samsung Electronics поставит в этом году ведущей южнокорейской интернет-компании Naver Corp. ИИ-ускорители Mach-1 следующего поколения собственной разработки. Сумма контракта составит до ₩1 трлн (около $752 млн), сообщил ресурс KED Global со ссылкой на отраслевые источники. Это позволит Naver значительно сократить зависимость от поставок ускорителей NVIDIA.

В октябре прошлого года Naver вынужденно стала использовать процессоры Intel Xeon вместо ускорителей NVIDIA. Смена оборудования Naver происходит на фоне роста недовольства технологических компаний увеличением цен на ускорители NVIDIA и их глобальной нехваткой. По словам Samsung, Mach-1 был разработан для поддержки Transformer-моделей и позволяет выполнять инференс больших языковых моделей (LLM) даже с маломощной памятью вместо энергоёмкой HBM, что делает его в восемь раз энергоэффективнее традиционных ускорителей на базе GPU. При этом Mach 1 на порядок дешевле чипов NVIDIA.

По словам источников, бизнес-подразделение Samsung System LSI и Naver находятся в заключительной стадии переговоров о поставке 150–200 тыс. ИИ-ускорителей Mach-1, цена которых может составить ₩5 млн ($3756) за штуку. Цены и точный объём поставок пока не согласованы. Сообщается, что Naver будет использовать Mach-1 для инференса вместо ускорителей NVIDIA в картографическом сервисе AI Naver Place. Naver готова покупать эти чипы и в дальнейшем, если первая партия покажет «хорошую производительность», отметили источники, по словам которых Samsung также ведёт переговоры о поставках Mach-1 с Microsoft и Meta✴.

Источник изображения: Samsung

Для Samsung сделка с Naver важна с точки зрения конкуренции с SK hynix, доминирующей в сегменте памяти HBM, спрос на которую в связи с популярностью генеративного ИИ резко вырос. Samsung сообщила о разработке первой в отрасли памяти HBM3E 12-Hi, массовое производство которой начнётся в I половине этого года. Кроме того, SK Group поддерживает разработку ИИ-ускорителей Sapeon, а Samsung сотрудничает с Rebellions. По оценкам Omdia, глобальный рынок ИИ-ускорителей вырастет с $6 млрд в 2023 году до $143 млрд к 2030 году.

В своё время технология 3D NAND немало способствовала росту плотности записи и повышению ёмкости SSD. DigiTimes сообщает, что обычные жёсткие диски, в последнее время всё чаще заменяемые твердотельными альтернативами, могут получить второе дыхание благодаря развитию генеративного ИИ и внедрению техники термомагнитной записи (HAMR). Разработка Seagate Technology, по некоторым оценкам, способна дать ежегодный рост плотности записи HDD на уровне 20 %.

По данным японского исследовательского института Techno System Research (TSR), мировые поставки HDD достигли пика в 2010 году, составив 650 млн единиц. С тех пор поставки поступательно уменьшались, в 2023 году упав до 120 млн единиц — более 500 млн «потерянных» HDD заменили SSD. Правда, суммарная ёмкость жёстких дисков продолжает расти, несмотря на снижение отгрузок в штуках.

Фото: Jandira Sonnendeck / Unsplash

Вместе с тем HDD всё ещё выгоднее SSD по соотношению цена/ёмкость, особенно для накопителей nearline-класса. По данным Nikkei, в 2023 году у HDD цена за гигабайт составляла $0,013, а SSD большой ёмкости — на уровне $0,123/Гбайт, т.е. в 9,5 раз больше, чем HDD. По оценкам IDC, для хранения данных генеративного ИИ потребуется средний ежегодный прирост ёмкости накопителей на уровне около 20 %. Если компания ограничена в средствах, она предпочтёт HDD именно из-за более выгодного соотношения цена и ёмкости. Есть и ещё один фактор — сегодня на строительство каждого ЦОД уходит $1–1,5 млрд, а затраты на электроэнергию составляют $10–100 млн ежегодно.

Однако технология PMR актуальна только для жёстких дисков относительно небольшой ёмкости, а более прогрессивные ePMR от Western Digital (WD) и FC-MAMR от Toshiba показывают ежегодный рост плотности примерно на 8 %, пишет DigiTimes. В 2021 году Toshiba предложила технологию MAS-MAMR, позволяющую поднять максимальную ёмкость HDD до 30 Тбайт и дополнительно снизить энергопотребление в пересчёте на Тбайт, что позволило бы модернизировать уже действующие дата-центры.

Seagate же готова начать производство HAMR HDD ёмкостью более 30 Тбайт, в 2025 году она намерена выпустить HDD на 40 Тбайт, а в 2027–2028 гг. ёмкость её накопителей превысит 50 Тбайт. В результате у жёстких дисков действительно откроется второе дыхание к концу десятилетия. Впрочем, Pure Storage прогнозирует, что к этому моменту жёсткие диски, напротив, будут полностью вытеснены SSD благодаря энергоэффективности последних. А спрос на ИИ только подстегнёт замену. Не будут испытывать проблем, похоже, только LTO-библиотеки.