Компания Google анонсировала свой самый высокопроизводительный ускоритель для задач ИИ — Cloud TPU v5p. По сравнению с изделием предыдущего поколения TPU v4 обеспечивается приблизительно 1,7-кратный пророст быстродействия на операциях BF16. Впрочем, для Google важнее то, что она наряду с AWS является одной из немногих, кто при разработке ИИ не зависит от дефицитных ускорителей NVIDIA. К этому же стремится сейчас и Microsoft.

Решение Cloud TPU v5p оснащено 95 Гбайт памяти HBM с пропускной способностью 2765 Гбайт/с. Для сравнения: конфигурация TPU v4 включает 32 Гбайт памяти HBM с пропускной способностью 1228 Гбайт/с.

Источник изображений: Google

Кластер на базе Cloud TPU v5p может содержать до 8960 чипов, объединённых высокоскоростным интерконнектом со скоростью передачи данных до 4800 Гбит/с на чип. В случае TPU v4 эти значения составляют соответственно 4096 чипов и 2400 Гбит/с. Что касается производительности, то у Cloud TPU v5p она достигает 459 Тфлопс (BF16) против 275 Тфлопс у TPU v4. На операциях INT8 новинка демонстрирует результат до 918 TOPS.

В августе нынешнего года Google представила ИИ-ускоритель TPU v5e, созданный для обеспечения наилучшего соотношения стоимости и эффективности. Это изделие с 16 Гбайт памяти HBM (820 Гбит/с) показывает быстродействие 197 Тфлопс и 394 TOPS на операциях BF16 и INT8 соответственно. При этом решение обеспечивает относительную производительность на доллар на уровне $1,2 в пересчёте на чип в час. У TPU v4 значение равно $3,22, а у новейшего Cloud TPU v5p — $4,2 (во всех случаях оценка выполнена на модели GPT-3 со 175 млрд параметров).

По заявлениям Google, чип Cloud TPU v5p может обучать большие языковые модели в 2,8 раза быстрее по сравнению с TPU v4. Более того, благодаря SparseCores второго поколения скорость обучения моделей embedding-dense увеличивается приблизительно в 1,9 раза.

На базе TPU и GPU компания предоставляет готовый программно-аппаратный стек AI Hypercomputer для комплексной работы с ИИ. Система объединяет различные аппаратные ресурсы, включая различные типы хранилищ и оптический интерконнект Jupiter, сервисы GCE и GKE, популярные фреймворки AX, TensorFlow и PyTorch, что позволяет быстро и эффективно заниматься обучением современных моделей, а также организовать инференс.

Корпорация Google в рамках сложившейся геополитической обстановки, по сообщению ресурса ComNews, предложила российским операторам связи альтернативный способ сохранения качественного доступа к своим сервисам, включая YouTube. Речь идёт об организации прямого стыка в Москве или Санкт-Петербурге вместо применения кеширующих серверов Google Global Cache (GGC).

Системы GGC — это специальные программно-аппаратные комплексы, которые размешаются на площадках локальных операторов и используются для кеширования тех или иных материалов, в частности, видео с YouTube. Таким образом, популярный контент загружается с основных серверов Google только при первом запросе, а в дальнейшем распространяется с помощью GGC. Это ускоряет доступ к материалам для региональных пользователей и снижает нагрузку на сетевые каналы.

Источник изображения: pixabay.com

По оценке ComNews Research, в начале 2022-го на сетях российских операторов были установлены около 700 серверов GGC, тогда как к концу 2023 года их количество сократилось примерно до 450. Связано это с износом и моральным устареванием оборудования. Кроме того, ещё в мае 2022 года Google начала отключать некоторые узлы GGC в России.

Участники рынка отмечают, что Google уже год не поставляет в Россию новые GGC-серверы, а трафик продолжает расти. Поэтому рано или поздно данная система может полностью прекратить работу в РФ. На этом фоне, как ожидается, вырастет популярность отечественных CDN-сервисов. Вместе с тем, полагают эксперты, организация прямых стыков с системами Google в Москве и Санкт-Петербурге поможет операторам избежать части проблем с доставкой контента в центральной части РФ, но не решит её для клиентов из других регионов страны.

Google пожинает первые плоды уникального геотермального проекта, реализуемого совместно с компанией Fervo Energy в Неваде. Как сообщается в блоге Google, техногигант стал на шаг ближе к декарбонизации своего бизнеса.

К 2030 году Google планирует добиться нулевого углеродного выброса при энергоснабжении ЦОД и офисных кампусов компании. Два года назад Google заключила со стартапом Fervo соглашение о совместной разработке проекта геотермальной электростанции, предусматривавшего поставку 5 МВт. ИИ-решения Google должна были оптимизировать работу станции.

Заработавшая электростанция поставляет около 3,5 МВт в местные энергосети, в том числе обслуживающие и ЦОД компании. Google и Fervo подписывают соглашения о покупке энергии (PPA) — полученное электричество не обязательно поступает именно в ЦОД Google, но это помогает изменить общий баланс энергии в сетях в пользу безуглеродных источников.

Источник изображения: Google

Как заявляют в Министерстве энергетики США, к 2050 году геотермальные источники смогут выдавать до 120 ГВт или 16 % от общих потребностей страны в электричестве. При этом во многих регионах это оптимальное решение для получения «чистой» энергии, поскольку доступ к другим возобновляемым источникам ограничен — такое, например, характерно для Азиатско-Тихоокеанского региона. При этом геотермальную энергию используют относительно редко, а коммерческое применение соответствующим технологиям можно найти только в местностях где до подземного тепла весьма легко добраться.

В отличие от обычных геотермальных электростанций, Fervo применяет технологии горизонтального бурения скважин, ранее характерные только для нефтегазовой промышленности. Это позволяет добраться до источников тепла, прежде недоступных. Fervo пробурила две скважины и разместила оптоволоконные кабели, позволяющие получать данные о температуре и других характеристиках системы в режиме реального времени. Благодаря новым технологиям геотермальная электростанция занимает меньше места, чем другие проекты такого типа.

Также Google анонсировала сотрудничество с некоммерческой организацией Project InnerSpace, которая намерена ускорить внедрение электростанций такого типа. Участвуют в таких природоохранных инициативах и другие техногиганты. Например, Microsoft ещё в мае заключила соглашение о закупке 51 МВт геотермальной энергии в Новой Зеландии. Есть и примеры прямого использования энергии из таких источников дата-центрами. В Кении начато строительство ЦОД Ecocloud Data Centre на геотермальном поле, электричество будет получать как сам объект, так и другие предприятия.

Мэр Шийенского (Skien) муниципалитета Норвегии опроверг слухи о непомерном энергопотреблении строящегося кампуса ЦОД Google. Как сообщает Datacenter Dynamics, ранее в местных СМИ появились сведения, что компания якобы подала заявку на получение 860 МВт — это около 5 % от энергопотребления всей страны.

Фактически же запрос на 860 МВт был сделан местной сетевой энергокомпанией Statnett исходя из потребностей на протяжении ближайших 20 лет. На долю Google придётся лишь часть выделяемых мощностей. Последняя уже получила 100 МВт и ожидает одобрения выделения ещё 20 МВт на первом этапе строительства. На втором этапе компания рассчитывает получить ещё 120 МВт к 2030 году. Формальный анонс ЦОД состоялся в октябре 2022 года, хотя компания приобрела 200 га ещё в 2019 году.

Источник изображения: Michael Fousert/unsplash.com

По словам местных властей, подготовительные работы на площадке уже ведутся, хотя конкретных сроков завершения строительства никто не называет. Известно, что к строительству привлекли местных консультантов и подрядчиков. Google финансирует основную часть расходов на силовую инфраструктуру, а также занимается вопросами водоснабжения и водоотвода, ливневой канализацией и прокладкой ВОЛС.

В Норвегии аккуратно относятся к распределению доступной электроэнергии. В конце июля оператору Green Mountain разрешили строительство кампуса ЦОД для TikTok, но такое решение вызвало вопросы у норвежских политиков — ставится под сомнение целесообразность выделения электроэнергии для «видео с котами» в условиях её нехватки для других проектов, в том числе оборонного характера.

IT-гиганты Amazon, Google и Microsoft намерены инвестировать $8,46 млрд в строительство в Таиланде дополнительной инфраструктуры ЦОД. Как сообщает Datacenter Dynamics, представители местных властей уже сообщили, что каждый из большой тройки гиперскейлеров потратит приблизительно по $2,85 млрд.

При этом в отдельном заявлении представитель местного правительства сообщил, что Amazon Web Services (AWS) намерена построить в течение 15 лет кампус, на который в общей сложности потратит порядка $5 млрд. Более детальная информация о местах строительства, спецификациях и сроках реализации проектов пока не разглашаются. Власти уверены в том, что инвестиции техногигантов повысят уровень конкурентоспособности страны.

Google ещё в августе 2022 года анонсировала создание облачного региона в Таиланде, а Amazon выступила с аналогичным анонсом в октябре того же года и уже в декабре запустила локальную зону в Бангкоке. Microsoft и Oracle не говорили о планах по созданию собственных облачных регионов, но в этом году тайские власти предложили Microsoft построить в стране новый дата-центр.

Источник изображения: Andreas Brücker/unsplash.com

Перспективы развития ЦОД в регионе действительно есть. Как сообщает Daily Host News, совокупный среднегодовой темп роста рынка ЦОД между 2019 и 2028 гг. составит около 25 %. В стране, имеющей более 48 млн пользователей интернета, имеется и большой спрос на цифровую инфраструктуру. Интерес к рынку проявляют как американские, так и китайские провайдеры облачных сервисов.

У Tencent имеется две зоны доступности в Бангкоке, а Alibaba «открыла для себя» тайскую столицу в мае 2022 года. В ответ на стремление Таиланда стать хабом для ЦОД, в рынок уже вложили средства многочисленные инвесторы, от IT-корпораций до частных инвестиционных компаний, пенсионных и инфраструктурных фондов и иных структур, располагающих средствами для вложения на перспективу. Ранее власти стали предлагать налоговые льготы операторам новых ЦОД.

Историческое общество острова Сент-Дэвид на Бермудах обратилось к Google с просьбой не строить посадочную станцию для подводного интернет-кабеля Nuvem в парке «Бухта Энни». Как сообщает Datacenter Dynamics, здесь находится военный мемориал, посвящённый событиям Второй мировой войны.

Именно на острове Сент-Дэвид, как ожидается, будет размещена одна из посадочных станций кабеля, который со временем свяжет Португалию, Бермуды и США. Местный регулятор выделил два места для таких станций, которые уже используются пятью кабельными системами: Сент-Дэвид и Девоншир. Однако для Nuvem требуется новая, намного более крупная станция. Представитель Google заявляет, что место для возведения объекта всё ещё обсуждается, хотя Сент-Дэвид является ключевой зоной интересов компании.

Фото: Mona Jain / Unsplash

Принадлежащая местным властям компания Bermuda Land Development Corporation предложила план строительства, предполагающий сохранение парка «Бухта Энни», но президент исторического общества считает, что такая концепция несовместима с возведением станции для кабеля. Он заявляет, что сейчас ведутся работы по расширению парка «Бухта Энни», благодаря чему посетителям должны открыться новые потрясающие виды, которые были недоступны жителям с 1941 года.

Мемориалы различного рода нередко становятся препятствием при строительстве инфраструктуры. В июне на Гуаме недалеко от места строительства посадочной станции и ЦОД обнаружили древние захоронения местных жителей, а в декабре прошлого года в центре скандала оказалась Microsoft, построившая дата-центр на месте исторического кладбища.

UPD 15.11.2023: Google сообщила, что не собирается ничего строить в «Бухте Энни», сославшись на недопонимание. Кабель по подземным коллекторам будет протянут вглубь острова. Компания уже присмотрело место, где можно было бы возвести посадочную станцию площадью 4645 м².

Компания Google сделала очередной шаг к созданию дата-центра Teros в Уругвае. По данным Datacenter Dynamics, она подала заявку на получение разрешений на строительство от местных природоохранных регуляторов и подтвердила журналистам, что второй в Латинской Америке ЦОД компании действительно появится. Власти заявили, что сам факт анонса ЦОД ставит страну в привилегированную позицию, позволяющую привлечь инвестиции в динамичный и растущий IT-рынок.

В мае 2021 года Google приобрела 30 га в уругвайской зоне свободной торговли Parque de las Ciencias для строительства дата-центра, а изначально планы строительства были анонсированы ещё в 2020 году. Некоторый прогресс наметился в недавнем прошлом, когда компания представила доклад об оценке воздействия на окружающую среду и проектную документацию для получения предварительного разрешения от местных регуляторов-экологов.

Источник изображения: Parque de las Ciencias

Строительство Ц ОД поставили под вопрос в июле 2023 года из-за сильных засух в Уругвае, поскольку объект будет потреблять до 7,6 млн л питьевой воды ежедневно. Правительство и Google долго вели переговоры о выделении ресурсов для охлаждения кампуса. В итоге компания пересмотрела размеры ЦОД в меньшую сторону и решила использовать систему воздушного охлаждения. Строительство должно начаться в марте 2024 года. Попутно Google работает над прокладкой подводного кабеля Firmina, связывающего США с Аргентиной, Бразилией и Уругваем.

Стартап CentML, специализирующийся на технологиях машинного обучения, объявил о завершении начального раунда финансирования и привлечении на развитие дополнительно $27 млн. Деньги будут направлены в том числе на расширение штата и ускорение разработки продуктов.

Компания CentML с численностью персонала около 30 человек была основана в 2022 году. Её соучредителем и генеральным директором является Геннадий Пехименко (Gennady Pekhimenko). В 2016 году он получил докторскую степень на факультете компьютерных наук Университета Карнеги-Меллона. Кроме того, Пехименко является доцентом кафедры компьютерных наук Университета Торонто.

CentML разрабатывает программные инструменты для снижения стоимости и повышения производительности при работе с масштабными ML-моделями. Платформа выявляет узкие места в процессе обучения, а также прогнозирует общее время и стоимость внедрения ИИ-решений. Клиенты могут настраивать алгоритмы, выявлять неэффективные методы и получать доступ к аналитике в реальном времени.

Источник изображения: CentML

Утверждается, что система CentML работает без ущерба для точности работы модели, при этом инженерам «практически не требуются усилия по внедрению». «Обучение моделей ИИ становится всё дороже. Благодаря технологии оптимизации CentML мы можем сократить расходы до 80 % без ущерба для скорости и точности», — заявляет Пехименко.

Закрытый раунд финансирования на $27 млн проведён под предводительством Gradient Ventures, венчурного фонда Google, ориентированного на ИИ. Кроме того, средства предоставили Radical Ventures, NVIDIA, Deloitte Ventures и Thomson Reuters Ventures. Таким образом, на сегодняшний день компания CentML получила от инвесторов $30,5 млн.

Компания отмечает, что для одного из своих клиентов она оптимизировала модель Llama 2 так, что она стала работать в три раза быстрее на ускорителях предыдущего поколения (NVIDIA A10), а затраты сократились на 60 %. В целом, платформа CentML даёт возможность повысить скорость инференса и обучения до восьми раз по сравнению с существующими решениями.

Похожее решение предлагает и MosaicML. При этом обучение больших языковых моделей возможно на ускорителях AMD Instinct MI250 без модификации кода. И в том, и в другом случае появляется возможность сэкономить, в том числе отказавшись от дефицитных ускорителей NVIDIA последнего поколения.

Google анонсировала проект South Pacific Connect, в рамках которого компания проложит два транстихоокеанских подводных кабеля — Honomoana и Tabua. Как сообщается в блоге компании, это поможет повысить надёжность и устойчивость связи в регионе. В проекте примут участие Fiji International Telecommunications, Управление почт и телекоммуникаций Французской Полинезии, а также APTelecom, Vocus Group, местные власти и другие компании.

Прокладка кабелей позволит связать новыми каналами не только Австралию и США, но также Фиджи и Французскую Полинезию, с дополнительными ответвлениями на другие островные объекты. Фактически в Тихоокеанском регионе создаётся целая сеть, имеющая ответвления для подключения других стран и территорий Океании — это один из первых проектов такого рода в регионе, часто страдающем от природных катаклизмов.

Honomoana станет информационной магистралью для Австралии и США со станцией во Французской Полинезии. Tabua свяжет Австралию, США и Фиджи. Кроме того, будут созданы посадочные станции для прямой связи Фиджи и Французской Полинезии. Комплекс принятых мер повысит надёжность и ёмкость каналов, а также снизит время задержки сигнала. Ожидается, что прокладка новых кабельных маршрутов окажет благоприятное влияние на качество связи не только в регионе, но и в мире.

Источник изображения: Google

Также сообщается, что система кабелей предусматривает создание трёх посадочных станций в Австралии, что также укрепит связи континента с миром и Соединёнными Штатами в частности. Google намерена развивать кабельные сети и в Атлантике. В конце сентября компания анонсировала прокладку кабеля Nuvem, который свяжет Соединённые Штаты, Бермуды и Португалию, а в 2022 году запустила кабельную систему Grace Hopper.

Холдинг Alphabet, материнская структура Google, опубликовал отчёт о работе в III четверти текущего финансового года, которая была закрыта 30 сентября. Выручка за трёхмесячный период достигла $76,69 млрд, что примерно на 11 % больше прошлогоднего результата в $69,09 млрд.

По итогам квартала получена чистая прибыль в размере $19,69 млрд. Для сравнения: годом ранее показатель равнялся $13,91 млрд. Таким образом, рост составил около 40 %. Прибыль в пересчёте на одну ценную бумагу в годовом исчислении поднялась с $1,06 до $1,55.

Продолжается активное развитие облачного бизнеса Google Cloud. В него входят инфраструктурные и платформенные сервисы, средства совместной работы и другие инструменты для корпоративных заказчиков. Выручка в данном сегменте за год поднялась с $6,87 млрд до $8,41 млрд. Темпы роста зафиксированы на отметке 22 %, что вдвое превосходит значение для бизнеса Alphabet в целом. По направлению Google Cloud в III квартале 2023-го показана операционная прибыль в размере $266 млн, тогда как годом ранее это подразделение понесло операционные убытки около $440 млн.

Источник изображения: Google Cloud

В последние годы Alphabet вкладывает значительные средства в свой бизнес облачных вычислений, пытаясь догнать основных конкурентов в лице Amazon Web Services (AWS) и Microsoft Azure. На фоне роста интереса к генеративному ИИ облачный бизнес становится ещё более важным, поскольку многие корпоративные клиенты переносят в облако свои самые значительные вычислительные нагрузки. Вместе с тем по итогам квартала подразделение Google Cloud не оправдало ожидания сторонних аналитиков, которые прогнозировали выручку на уровне $8,64 млрд. В компании это связывают с сокращением затрат со стороны клиентов на фоне кризиса и сложной макроэкономической обстановки.

Отмечается также, что Google добилась значительной экономии средств благодаря увеличению срока службы оборудования. Компания повысила расчётный период эксплуатации серверов с четырёх до шести лет, а ряда сетевых устройств — с пяти до шести лет. В результате, за первые девять месяцев 2023 года Google сократила расходы на $2,9 млрд и увеличила чистую прибыль на $2,3 млрд.

Сроки использования оборудования увеличивают и другие операторы дата-центров и облачных платформ. В 2022 году на такие меры пошла Microsoft, тогда как Amazon сообщила о намерении создать специальную фабрику по восстановлению и переработке своего серверного оборудования. А облачный провайдер Scaleway и вовсе довёл срок эксплуатации серверов до 10 лет.