Компании Google и Hugging Face объявили о новом стратегическом партнёрстве, которое позволит разработчикам использовать облачную инфраструктуру Google Cloud для всех сервисов Hugging Face. Инициатива нацелена на ускорение разработки приложений генеративного ИИ и инструментов машинного обучения.

По условиям соглашения, Google Cloud становится стратегическим облачным партнёром Hugging Face, предоставляя ресурсы для обучения моделей и инференса. Разработчики смогут использовать ИИ-инфраструктуру Google Cloud, включая CPU, тензорные процессоры (TPU) и GPU, для обучения и обслуживания открытых моделей, а также для создания новых приложений генеративного ИИ.

В частности, клиенты получат возможность обучать и настраивать модели Hugging Face с применением Vertex AI — комплексной ИИ-платформы Google Cloud. Разработчики смогут применять фирменные ИИ-ускорители Cloud TPU v5e. В будущем появится поддержка инстансов GCE A3 на базе NVIDIA H100. Говорится о поддержке развёртываний Google Kubernetes Engine (GKE). Для управления и выставления счетов на платформе Hugging Face может использоваться сервис Google Cloud Marketplace.

Источник изображения: pixabay.com

Hugging Face, основанная в 2016 году, разрабатывает инструменты для создания приложений с использованием машинного обучения. В частности, она предлагает библиотеку Transformers для работы с ИИ-моделями. Ранее Hugging Face заключила соглашение о сотрудничестве с Dell: стороны помогут корпоративным клиентам в создании, настройке и использовании собственных систем на базе генеративного ИИ.

Тайваньское подразделение корпорации Intel и Научно-исследовательский институт промышленных технологий Тайваня (ITRI) сообщили об открытии совместной лаборатории по сертификации систем охлаждения для HPC-платформ. Новая структура получила название ITRI-Intel.

О планах по запуску лаборатории стороны объявили в конце 2023 года. Тогда говорилось, что Intel расширяет сотрудничество с тайваньскими партнёрами с целью разработки и вывода на рынок передовых систем охлаждения для дата-центров, включая ЦОД, ориентированные на задачи ИИ.

По данным Международного энергетического агентства (IEA), в 2022 году потребление энергии дата-центрами по всему миру колебалось от 0,9 % до 1,3 % от общих энергозатрат. При этом выбросы углекислого газа в сегменте ЦОД составили 0,3 % от глобального объёма. Ожидается, что внедрение новых технологий, включая системы иммерсионного (погружного) охлаждения, поможет поднять энергоэффективность дата-центров и сократить выбросы СО₂ в соответствующем сегменте на 45 %.

Источник изображения: ITRI-Intel

Лаборатория ITRI-Intel будет предлагать комплексные услуги по сертификации технологий охлаждения НРС-систем на соответствие международным стандартам. Это, в частности, тестирование свойств материалов, оценка совместимости с серверными компонентами и анализ жизненного цикла. Отмечается также, что ITRI разрабатывает однофазную технологию погружного охлаждения с очень низким энергопотреблением. При этом не используются фторированные растворители (PFAS), которые, как считается, могут оказывать негативное влияние на здоровье людей.

Облачная платформа Amazon Web Services (AWS), по сообщению ресурса Datacenter Dynamics, займётся реализацией крупного проекта по строительству сети дата-центров в округе Мадисон (Миссисипи, США). Инициатива получила название «Проект Атлас» (Project Atlas). Суммарные затраты оцениваются в $10 млрд.

«Проект Атлас» уже одобрен на законодательном уровне, причём власти утвердили ряд стимулирующих мер. Это, в частности, 100 % освобождение от корпоративного подоходного налога на 10 лет, а также налоговые льготы на продажи и любые инвестиции, сделанные в течение 12 месяцев после завершения проекта. Amazon также получит возврат в размере 3,15 % от затрат на строительство и полное освобождение от налога на продажи и использование оборудования.

Более того, компания получит 30-летнее освобождение от налогов при условии, что будет ежегодно инвестировать в регионе как минимум $500 млн и открывать по 50 дополнительных рабочих мест. В результате Amazon начнёт платить подоходный налог через 10 лет, а все налоговые льготы прекратят своё действие только в 2057 году.

Изображение: AWS

Согласно обнародованным данным, инвестиции Amazon предусматривают создание ряда кампусов ЦОД в двух промышленных зонах округа Мэдисон, что позволит сформировать не менее 1 тыс. рабочих мест. Эти дата-центры займут в общей сложности площадь около 688 га. Ожидается, что в проект будут вовлечены 6–7 тыс. строителей. Завершить работы планируется к 2027 году.

Питанием новые объекты обеспечит энергетическая компания Entergy Mississippi. Для этого будут развёрнуты дополнительные солнечные фермы в Хиндсе, Вашингтоне и Таллахатчи. Ожидается, что Entergy Mississippi вложит в эти площадки от $2 до $3 млрд. Amazon утверждает, что с 2010 года она инвестировала $2,3 млрд в проекты, включающие пять солнечных ферм и ветряную электростанцию в Миссисипи.

Изображение: AWS

Кроме того, Amazon пообещала создать различные обучающие программы, в том числе бесплатные, в области сетевых инфраструктур, дата-центров и облаков для старшеклассников, студентов и преподавателей местных образовательных организаций.

Корпорация Meta✴, по сообщению Bloomberg, построит в Индиане (США) один из своих первых дата-центров, специально спроектированных для генеративного ИИ. Ожидается, что затраты на реализацию этого масштабного проекта составят приблизительно $800 млн. Об инициативе объявили губернатор штата Индиана и руководители Meta✴.

ЦОД расположится в центре River Ridge в Джефферсонвилле, заняв площадь около 65 тыс. м². Планируется, что объект будет получать питание исключительно от возобновляемых источников энергии. Дата-центр будет оснащён стойками высокой плотности. Говорится о применении собственных чипов и сторонних ускорителей. Серверы и сетевые компоненты будут использовать одну и ту же физическую инфраструктуру. Жидкостное охлаждение планируется реализовать по схеме Direct-to-chip.

Источник изображения: pixabay.com

В процесс строительства ЦОД будут вовлечены около 1250 инженеров и рабочих. Запустить объект в эксплуатацию компания Meta✴ намерена к 2026 году. Он же даст работу примерно сотне высокооплачиваемых специалистов. По условиям соглашения с властями штата, Meta✴ получит 35-летнее освобождение от налога с продаж в Индиане. Причём этот срок может быть увеличен, если компания решит и дальше развивать свои кампусы ЦОД в регионе.

Компания 3data сообщила о завершении плановых работ по увеличению общей энергоёмкости дата-центра «Э2», расположенного на шоссе Энтузиастов, благодаря чему подведённая к нему мощность была увеличена на 300 кВт или на 25% и теперь составляет 1,4 МВт.

Являясь одним из крупнейших ЦОД 3data, дата-центр «Э2» был введён в коммерческую эксплуатацию в 2019 году. Дата-центр уровня Tier III имеет три этажа с машинными залами общей вместимостью 225 стойко-мест. Здесь, в частности, развёрнут кластер облачной платформы RCloud by 3data. «Э2» в течение нескольких лет был полностью законтрактован клиентами, но благодаря увеличению общей энергоёмкости у компании появилась возможность предоставить дополнительные мощности существующим заказчикам, а также обеспечить размещение инфраструктуры для новых клиентов.

Источник изображения: 3data

«У нас крупнейшая сеть дата-центров в стране по количеству ЦОД и нам необходимо не только строить новые площадки, но и развивать действующие. Заказчикам часто требуется масштабирование, и мы не можем не учитывать это в наших планах. На “Э2” наблюдается повышенный спрос, поэтому наши технические специалисты проделали большую работу по обеспечению новых мощностей на объекте», — сообщил гендиректор сети дата-центров 3data.

Объём энергии, потребляемой дата-центрами, в результате роста криптовалют и ИИ-систем может увеличится более чем вдвое за три года. С соответствующим прогнозом выступило Международное энергетическое агентство (IEA). Тем не менее, рост потребления компенсируется появлением новых источников энергии.

Как сообщает агентство, сегодня в мире насчитывается более 8 тыс. ЦОД, 33 % из которых находятся в США, 16 % в Европе и около 10 % в Китае. В 2022 году их суммарное потребление составило около 460 ТВт∙ч, а в 2026 году оно может превысить уже 1000 ТВт∙ч. В США за этот период потребление вырастет с 200 ТВт∙ч (4 % от общего энергопотребления страны) до почти 260 ТВт∙ч в 2026 году (6 %). Основными драйверами роста станут развитие сетей 5G, облачных сервисов и налоговые льготы для операторов ЦОД.

В Китае, по оценкам госорганов, потребление ЦОД должно удвоиться до 400 ТВт∙ч к 2030 году в сравнении с 2020 годом. IEA же прогнозирует, что уже к 2026 году потребление вырастет до 300 ТВт∙ч, а драйверами роста станут 5G и IoT. Наконец, в Евросоюзе потребление в 2022 году было немногим ниже 100 ТВт∙ч (около 4 %), там на тот момент было 1240 ЦОД. Большинство кампусов приходится на рынки FLAPD (Франкфурт, Лондон, Амстердам, Париж, Дублина), но планируется строительство и новых объектов. В 2026 году энергопотребление в секторе должно вырасти почти до 150 ТВт∙ч.

Источник изображения: IEA

Например, по оценкам IEA, уже к 2026 году в Ирландии, ставшей одним из важнейшим хабов для ЦОД, последние будут потреблять 32 % всей электроэнергии в стране — 82 дата-центра здесь уже функционируют, 14 строятся и возведение ещё 40 утверждается. В 2022 году речь шла лишь о 17 % энергопотребления страны. При этом энергетический кризис в стране так и не закончился.

Источник изображения: IEA

Быстрая интеграция ИИ во многих секторах экономики увеличивает общее потребление энергии ЦОД. Например, поисковики могут столкнуться с ростом потребления в 10 раз в случае тотального внедрения ИИ. С учётом кратной разницы в использовании электричества при запросах в обычном поисковике и обращений к LLM вроде ChatGPT, эксперты предполагают, что только поиск с помощью ИИ потребует 10 ТВт∙ч ежегодно. ИИ-индустрия в целом, как ожидается, в 2026 году будет потреблять минимум на порядок больше энергии, чем в 2023 году.

Что касается криптовалют, то в 2022 году на них пришлось около 110 ТВт∙ч (0,4 % от мирового энергопотребления). За базовый вариант берётся прогноз, при котором потребление в этом секторе к 2026 году вырастет более чем на 40 % до 160 ТВт∙ч. При этом скорость развития отрасли ещё предстоит уточнить.

Источник изображения: IEA

Всего к 2026 году потребление электричества вырастет лишь на 3,4 %. Впрочем, рост не должен вызвать острого дефицита — его компенсируют за счёт источников возобновляемой энергии вроде ветряных, солнечных и гидроэлектростанций. Кроме того, большая ставка делается на рост «мирного атома». Уже к 2026 году на источники энергии с низкими выбросами придётся почти половина мирового производства электричества, для сравнения — в 2023 году речь шла о менее 40 %. В целом рост энергопотребления будет меньше, чем рост генерации возобновляемой энергии.

Источник изображения: Bloomberg/IEA

По словам главы IEA Фатиха Бироля (Fatih Birol), сегодня энергетический сектор производит углекислого газа больше, чем любая другая сфера экономики, поэтому быстрый рост возобновляемой и атомной энергетики в ближайшие три года не может не обнадёживать. В то же время должна уменьшиться глобальная интенсивность выбросов, связанных с выработкой энергии. Ожидается, что она в среднем будет падать до 2026 года по 3,5 % ежегодно. Для Евросоюза этот показатель составит и вовсе 13 % в год.

69 % писем в корпоративной почте в 2023 году были фишингом, спамом или фродом, сообщили «Ведомости» со ссылкой на исследование Bi.Zone CESP. Согласно исследованию, каждое 137-е письмо относилось к фишинговым, а главный акцент мошенники сделали на сферу транспорта и логистики, где каждое 88‑е письмо — фишинговое.

Рост количества фишинговых сообщений подтвердили в центре МТС RED SOC, по данным которого рост количества фишинговых писем в 2023 г. составил около 57 % — с 9,5 млн в 2022 году до более 15 млн штук. Пик мошеннических рассылок в 2023 году пришёлся на май, июнь и декабрь, отметили в ГК «Солар». По данным Bi.Zone, лидировали по темпу роста фишинговых атак сфера транспорта и логистики.

В 2023 году по-прежнему в фишинговых рассылках преобладали программы-шифровальщики, сообщили в МТС RED SOC, отметив, что шифровальщиков догоняет шпионское ПО, предназначенное для сбора данных об инфраструктуре компании и кражи учётных данных пользователей. По данным F.A.C.C.T. (бывшая Group IB), наиболее часто среди вредоносных программам в письмах в 2023 году встречалась шпионская программа AgentTesla.

Источник изображения: Pixabay

F.A.C.C.T., как передают «Ведомости», также отметила резкий рост попыток обхода антиспам-решений с помощью омоглифов — графически одинаковых или похожих друг на друга знаков во вредоносных рассылках. В III квартале 2023 года таких писем было в 11 раз больше, чем в аналогичном периоде 2022 года. Самыми популярными подменными буквами у мошенников были Е, О, С, А.

По данным Bi.Zone, доля писем с вредоносным контентом выросла в 2,4 раза год к году. Лидирует промышленный сектор, в котором удельный вес таких писем выше среднего показателя по другим отраслям почти вшестеро. При этом фишинговые письма всё чаще содержат не само вредоносное вложение, а ссылку на него. Как отметили исследователи, мошенники чаще всего использовали ВПО, распространяющееся по модели MaaS (malware‑as‑a‑service).

В то же время доля спуфинг-атак, в которых злоумышленник подделывает адрес отправителя, сократилась по сравнению с 2022 годом в 1,5 раза, сообщила Bi.Zone. Причём мошенники вместо поддельных e-mail-адресов чаще использовали взломанные легитимные учётные записи. В 2023 г. в рамках массовых кибератак на российский корпоративный сегмент мошенники рассылали около 300 000 электронных писем в день.

Топ отраслей по доле нелегитимных писем в корпоративном трафике:

• промышленность — 74 %;
• транспорт и логистика — 72 %;
• строительство и недвижимость — 70 %;
• профессиональные услуги — 70 %.

Согласно прогнозу компании, рост вредоносной активности будет продолжаться — будет расти качество фишинговых атак и будут использоваться более сложные механизмы обмана. Фишинг будет и дальше одним из самых популярных векторов кибератак, так как люди — наиболее уязвимое звено компании, а уровень осведомлённости об угрозах относительно низкий, отметил представитель ГК «Солар».

«Ростелеком Контакт-центр», дочерняя структура «Ростелекома», объявил о внедрении большой языковой модели (LLM) в свою систему речевой аналитики. Ожидается, что ИИ-технологии помогут улучшить взаимодействие с клиентами и повысить эффективность обработки их обращений.

В проекте участвует компания 3iTech — российский поставщик ИИ-решений для бизнеса. Модель 3iTechLLM ляжет в основу чат-ботов «Ростелекома», что, по заявлениям компании, сделает общение с роботом максимально похожим на разговор с человеком.

Благодаря применению ИИ система речевой аналитики сможет автоматически оценивать звонки клиентов по чек-листам, хорошо понимать естественный язык и налету давать советы оператору. Кроме того, LLM позволит снизить нагрузку на обычных сотрудников, освободив их от формальных сценариев разговоров с клиентами. Это должно поднять качество обслуживания и обеспечить более высокий уровень комфорта для клиентов при решении тех или иных вопросов. ИИ также сможет более точно переадресовывать обращения профильным специалистам, если проблема не может быть решена автоматизированным способом.

Источник изображения: pixabay.com

«Обращения клиентов теперь будут обрабатываться ещё более точно, но не менее человечно. Кроме того, прозрачность процессов даёт возможность для принятия оперативных бизнес-решений нашими заказчиками и партнёрами», — говорит генеральный директор «Ростелеком Контакт-центра».

Отмечается, что применение LLM позволит частично решить проблему дефицита сотрудников контакт-центров. В 3iTech сообщили, что среди клиентов компании есть и другие операторы. В течение 2024 года 3iTech намерена вложить в исследования и разработки, связанные с LLM, около 100 млн руб.

Компания ASRock Rack анонсировала материнскую плату W680 WS типоразмера ATX, предназначенную для построения рабочих станций на платформе Intel Raptor Lake. В основу положен набор логики Intel W680: возможна установка одного чипа Core 13/14-го поколения в исполнении LGA 1700 с показателем TDP до 125 Вт.

Новинка располагает четырьмя слотами для модулей оперативной памяти DDR5-4400 ECC/non-ECC UDIMM суммарным объёмом до 128 Гбайт. В общей сложности доступны 14 портов SATA-3 (имеется дополнительный SATA-контроллер ASM1061) с возможностью формирования массивов RAID 0/1/5/10. Кроме того, могут быть установлены два SSD стандарта М.2 2280/2260/2242 с интерфейсом PCIe 4.0 x4.

Источник изображения: ASRock Rack

Для карт расширения предусмотрены по одному слоту PCIe 5.0 x16 и PCIe 5.0 x8, а также два слота PCIe 4.0 x4. В оснащение входят четырёхпортовый сетевой контроллер 1GbE (Intel i210). Интерфейсный блок содержит четыре гнезда RJ-45 для сетевых кабелей, по одному разъёму HDMI, DisplayPort и D-Sub для вывода изображения, последовательный порт, два порта USB 3.2 Gen1 Type-A, гнёзда для наушников и микрофона, разъём SPDIF.

Диапазон рабочих температур — от +10 до +35 °C. Плата имеет размеры 305 × 244 мм. Заявлена совместимость с Windows 10/11, RedHat Enterprise Linux Server 8.5, CentOs 8.5, SUSE SLES 1502 и Ubuntu 21.10.

Amazon утверждает, что в 2023 году компания стала крупнейшим корпоративным покупателем возобновляемой энергии в мире и инвестировала в более 100 новых проектов, связанных с ветряными и солнечными электростанциями. Как сообщает пресс-служба Amazon, IT-гигант заключил за год больше соглашений о покупке энергии (PPA), чем любой другой бизнес с 2020 года.

В своё время компания объявила о намерении добиться нулевых выбросов в атмосферу к 2040 году, но её нередко критикуют за недостаточную прозрачность отчётности, связанной с «зелёной» повесткой. На сегодня Amazon утверждает, что поддержала более 500 ветряных и солнечных проектов по всему миру. Когда все из них будут введены в эксплуатацию, то станут поставлять свыше 77 тыс. ГВт∙ч «чистой» энергии ежегодно — такого объёма, например, достаточно, чтобы удовлетворить потребности 7,2 млн домохозяйств США.

Источник изображения: Amazon

В числе новых инициатив Amazon за последние 12 месяцев — проект, в результате которого загрязнённую территорию старой угольной шахты в Мэриленде (США) перепрофилировали в солнечную электростанцию. Дополнительно компания поддержала свой первый проект по генерации возобновляемой энергии в Южной Корее, а также реализовала 10 похожих схем в Техасе. Все они уже прямо или косвенно снабжают ЦОД, офисы и другие объекты Amazon и поставляют чистую энергию в местные электросети. Кроме того, только в 2022 году экологические схемы Amazon обеспечили поддержку занятости, эквивалентной 39 тыс. рабочих мест.

В AWS уже заявили, что ещё в прошлом году более 90 % её операций выполнялись за счёт «зелёной» энергии и компания намерена оптимизировать производство и потребление таким образом, чтобы добиться 100 % использования возобновляемой энергии к 2025 году. При этом многие эксперты скептически относятся к энергетическим инициативам компании. В отличие от соперников вроде Microsoft Azure и Google Cloud, AWS не предлагают клиентам выбора ЦОД в зависимости от уровня выбросов. Более того, компания не публикует PUE своих объектов.

Эффективность PPA в качестве инструмента сокращения выбросов тоже остаётся под вопросом. Как сообщает Datacenter Dynamics, опубликованное в прошлом году исследование лаборатории ZERO Lab Принстонского университета свидетельствует, что покупка «зелёной» энергии в больших объёмах ведёт к непредвиденным последствиям. Поскольку PPA предусматривает закупку энергии без привязки к региону, генерация вредных выбросов просто смещается, а производство чистой энергии не развивается.

Исследователи считают, что закупки должны осуществляться с учётом времени генерации «зелёной» энергии, с почасовым сопоставлением потребления и производства. Некоторые игроки вроде Google и Microsoft уже заключили соглашения с соответствующими условиями, но в Amazon такие меры всё ещё не приняты.