Материалы по тегу: aws

09.06.2023 [15:03], Сергей Карасёв

AWS создала загадочный сервер Snowblade в интересах военных

Облачная платформа AWS объявила о доступности специализированного сервера Snowblade, разработанного для проекта Joint Warfighting Cloud Capability (JWCC) Министерства обороны США (DoD). Система обладает повышенной надёжностью и может эксплуатироваться в экстремальных условиях. Характеристики сервера не раскрываются. Но сообщается, что он позволяет использовать до 208 vCPU.

Устройство выполнено в форм-факторе 5U с шириной в половину стандартной стойки. Новинка соответствует стандарту MIL-STD-810H, что означает устойчивость к перепадам температур, вибрации, ударам, а также воздействию влаги и пыли. Утверждается, что Snowblade имеет самую высокую плотность компоновки среди всех систем AWS Snow. Решение рассчитано на выполнение ресурсоёмких задач в условиях ограниченного пространства.

 Источник изображения: AWS

Источник изображения: AWS

Сервер Snowblade может использоваться на периферии. Он позволяет работать с рядом облачных сервисов AWS, включая Amazon EC2, AWS IAM, AWS CloudTrail, AWS IoT Greengrass, AWS Deep Learning AMIs, Amazon Sagemaker Neo и AWS DataSync. Отмечается, что система доступна только в регионе AWS GovCloud (US-West), а заказать новинку можно исключительно в рамках программы JWCC.

Постоянный URL: http://servernews.ru/1088156
02.06.2023 [15:04], Сергей Карасёв

Глава ЦОД-подразделения AWS неожиданно подал в отставку

Глава отдела проектирования, строительства и эксплуатации дата-центров AWS Крис Вондерхар (Chris Vonderhaar), по сообщению GeekWire, внезапно покинул облачную платформу. Причины такого решения не раскрываются, но Amazon уже подтвердила уход Вондерхара, который проработал в компании в общей сложности почти 13 лет.

Вондерхаар присоединился к Amazon в 2010 году. В течение последних четырёх с половиной лет он занимал пост вице-президента сети ЦОД AWS. Помимо развития собственно инфраструктуры дата-центров, он курировал инициативы облачного гиганта в области устойчивого развития, включая инвестиции в возобновляемые источники энергии. Вондерхаар также отвечал за установление партнёрских отношений с коммунальными службами по всему миру.

 Источник изображения: AWS

Источник изображения: AWS

Отмечается, что в течение последнего года работы Вондерхара облачная платформа AWS объявила о ряде крупных проектов в сфере ЦОД. В частности, стало известно, что компания вложит $35 млрд в расширение мощностей дата-центров в Вирджинии (США). А недавно появилась информация, что AWS потратит почти $13 млрд на развитие дата-центров в Индии.

Новая облачная инфраструктура, которую намеревается развернуть AWS, расширит и без того разветвлённую сеть дата-центров компании. AWS управляет 99 зонами доступности в 31 регионе по всему миру. При этом облачный гигант публично объявил о планах построить ещё 15 зон доступности.

В апреле 2022 года Amazon сообщила о намерении инвестировать в 37 новых ветровых и солнечных проектов по всему миру. На сегодняшний день компания поддержала более 300 подобных инициатив. Ожидается, что такие системы будут иметь мощность 15,7 ГВт, которая частично пойдёт на питание дата-центров AWS.

Постоянный URL: http://servernews.ru/1087783
21.05.2023 [14:17], Сергей Карасёв

AWS вложит почти $13 млрд в расширение облачной инфраструктуры в Индии

Облачная платформа Amazon Web Services (AWS), по сообщению NetworkWorld, намерена до 2030 года инвестировать приблизительно $12,7 млрд в развитие инфраструктуры в Индии. Таким образом, общие вложения AWS в индийские облака достигнут $16,4 млрд к концу текущего десятилетия.

Инициатива, по заявлениям Amazon, добавит примерно $23,3 млрд к ВВП Индии к 2030-му. На протяжении семи ближайших лет компания ежегодно будет предоставлять в этой стране около 131,7 тыс. рабочих мест. В частности, потребуются строители, инженеры, специалисты в области телекоммуникаций и обслуживающий персонал.

 Источник изображения: AWS

Источник изображения: AWS

Первый облачный регион AWS в Индии был открыт в 2016 году в Мумбаи: площадка получила название Asia Pacific (Mumbai). Инвестиции в развитие облачного бизнеса в стране уже достигли $3,7 млрд. В конце прошлого года у AWS появился второй индийский облачный регион Asia Pacific — он развёрнут в Хайдарабаде и имеет три зоны доступности.

AWS утверждает, что с 2017 года обучила в Индии более 4 млн человек с помощью различных программ, в том числе AWS Skill Builder и AWS re/Start. Получив знания в сфере облачных технологий, многие специалисты затем смогли получить работу в таких компаниях, как Accenture, Capgemini, CloudKinetics, Cloudreach, Cognizant, Hays Group, Mphasis и Unilever.

Клиентами AWS в Индии являются Министерство электроники и информационных технологий, Aarogyasri Health Care Trust, Ashok Leyland, Axis Bank, HDFC Life, Havmor, Qube Cinema, Narayana Nethralaya, BankBazaar, HirePro, M2P и Yubi.

В глобальном масштабе AWS оперирует 96 зонами доступности в 30 географических регионах и планирует запустить ещё 15 зон. Кроме того, будут добавлены пять новых регионов — в Австралии, Канаде, Израиле, Таиланде и Новой Зеландии.

Постоянный URL: http://servernews.ru/1087070
11.05.2023 [15:09], Сергей Карасёв

AWS запустила инстансы EC2 I4g на базе собственных CPU Graviton2 и Nitro SSD

Облачная платформа AWS объявила о запуске инстансов EC2 I4g, оптимизированных для хранения данных. В основу положены процессоры AWS Graviton2 и NVMe-накопители AWS Nitro SSD. Утверждается, что по сравнению с другими инстансами, нацеленными на хранение информации, решения I4g обеспечивают прирост производительности до 15 %.

В зависимости от конфигурации (см. таблицу ниже) заказчикам предоставляются от 2 до 64 vCPU и от 468 Гбайт до 15 Тбайт SSD-хранилища. Заявленная пропускная способность сетевого подключения варьируется от 10 Гбит/с до 37,5 Гбит/с, пропусканая способность EBS — от 40 до 80 Гбит/с.

 Источник изображения: Amazon

Источник изображения: Amazon

Amazon отмечает, что инстансы на базе Graviton2 поддерживают широкий спектр вычислительных нагрузок: универсальные, с повышаемой производительностью, оптимизированные для вычислений, памяти и хранения, а также ускоренные. Утверждается, что инстансы на базе Graviton2 — лучшее решение по соотношению цены и быстродействия для рабочих нагрузок в EC2.

SSD в составе EC2 I4g выдают показатель IOPS при произвольном чтении данных до 1 млн, при произвольной записи — до 800 тыс. Скорость последовательного чтения достигает 8000 Мбайт/с, скорость последовательной записи — 5600 Мбайт/с. Инстансы EC2 I4g уже доступны для клиентов в США и Европе.

Постоянный URL: http://servernews.ru/1086541
01.05.2023 [18:19], Владимир Мироненко

У AWS упали темпы роста выручки и прибыль из-за сокращения потребления услуг клиентами

Облачный провайдер Amazon Web Services (AWS) подвёл итоги I квартала 2023 года, закончившегося 31 марта. По сравнению с аналогичным периодом прошлого года выручка облачного подразделения Amazon выросла на 16 % до $21,4 млрд, однако прибыль упала в годовом исчислении с $6,5 млрд в I квартале 2022 года до $5,1 млрд в текущем отчётном периоде.

Финансовый директор AWS Брайан Олсавски (Brian Olsavsky) отметил, что темпы роста выручки заметно снизились по сравнению с I кварталом 2022 года, когда рост выручки был равен 37 % в годовом исчислении. На показателях компании отражается сокращение потребления услуг клиентами на фоне продолжающейся макроэкономической неопределённости. «Как и ожидалось, клиенты продолжают оценивать способы оптимизации своих облачных расходов в ответ на эти сложные экономические условия в первом квартале», — сказал он.

 Источник изображения: AWS

Источник изображения: AWS

Гендиректор Amazon Энди Джасси (Andy Jassy) отметил, что существует разница между намерением клиентов сократить расходы и оптимизацией затрат. «[Клиенты] говорят нам, что в основном это оптимизация затрат по сравнению с их сокращением, что является интересным отличием, поскольку они утверждают, что оптимизируют затраты, чтобы перераспределить эти ресурсы для нового опыта работы», — сообщил он.

Впрочем, AWS тоже предпринимает меры по оптимизации расходов, включая сокращение рабочих мест в рамках продолжающейся кампании по сокращению штата Amazon. В целом, выручка Amazon за минувший квартал выросла на 9 % в годовом исчислении, достигнув $127,4 млрд, а прибыль увеличилась до $4,8 млрд с $3,7 млрд в I квартале 2022 года.

Постоянный URL: http://servernews.ru/1085974
27.04.2023 [16:46], Сергей Карасёв

Amazon начала сокращение штата облачного подразделения AWS

Компания Amazon, по сообщению ресурса Bloomberg, приступила ко второму раунду массовых увольнений. На этот раз сокращение штата затронет и облачное подразделение AWS — это самый прибыльный бизнес технологического гиганта, но и он столкнулся с трудностями из-за сложившейся макроэкономической ситуации и кризиса.

В январе нынешнего года Amazon объявила об увольнении приблизительно 18 тыс. человек, что стало крупнейшим сокращением рабочих мест в истории компании. В марте появилась информация, что работы лишатся ещё примерно 9 тыс. сотрудников — из Twitch, AWS, отделов рекламы и кадров.

 Источник изображения: AWS

Источник изображения: AWS

И вот теперь стало известно о второй фазе увольнений. Уведомления о сокращении компания начала рассылать в корпоративной сети 26 апреля 2023 года. Пострадают, в частности, работники подразделений AWS в США, Канаде и Коста-Рике. Сокращения в регионах за пределами Северной Америки будут проводиться в соответствии с местным законодательством.

Говорится, что увольнения уже затронули некоторые команды, так или иначе связанные с AWS. Это, в частности, рекрутеры и сотрудники группы Just Walk Out. При этом сокращения сильнее всего ударили по кадровым отделам компании, её разросшейся розничной группе и отделам устройств.

Отмечается, что по состоянию на конец декабря 2022 года в Amazon работали около 1,54 млн человек по всему миру. Но их подавляющее большинство — это сотрудники с почасовой оплатой, которые упаковывают и отгружают товары на складах. Сама же компания заявила, что её штат насчитывает примерно 350 тыс. корпоративных сотрудников.

Постоянный URL: http://servernews.ru/1085810
14.04.2023 [01:03], Владимир Мироненко

AWS объявила о доступности EC2-инстансов Inf2 на базе фирменных ИИ-ускорителей Inferentia2

AWS объявила об общедоступности недорогих и высокопроизводительных инференс-инстансов Amazon EC2 Inf2 для генеративного ИИ. Новинки используют фирменные ИИ-ускорители Inferentia2. Как утверждает AWS, это самый экономичный и энергоэффективный вариант запуска моделей генеративного ИИ, таких как GPT-J или Open Pre-Trained Transformer (OPT).

По сравнению с инстансами Amazon EC2 Inf1 инстансы Inf2 обеспечивают до 4 раз более высокую пропускную способность и до 10 раз меньшую задержку (в таких же пределах ускорители Inferentia2 превосходят Inferentia). В настоящее время доступно четыре варианта инстансов Inf2, имеющих до 12 ускорителей AWS Inferentia2 со 192 vCPU, связанных интерконнектом NeuronLink v2. Их совокупная вычислительная мощность достигает 2,3 Пфлопс (BF16 или FP16).

 Источник изображений: AWS

Источник изображений: AWS

Инстансы Inf2 предлагают до 384 Гбайт общей памяти, по 32 Гбайт памяти HBM у каждого чипе Inferentia2, и общую пропускную способность памяти (ПСП) 9,8 Тбайт/с. Такая ПСП особенно важна для для исполнения больших языковых моделей (LLM). А поскольку чипы AWS Inferentia2 специально созданы для ИИ-нагрузок DL, инстансы Inf2 показывают не менее чем на 50 % лучшее соотношение производительности на Ватт по сравнению с другими сопоставимыми EC2-инстансами.

Как и ускоритель AWS Trainium, AWS Inferentia2 имеет два блока NeuronCore-v2, стеки HBM и выделенные механизмы коллективных вычислений для распараллеливания нагрузки на нескольких ускорителях. NeuronCore-v2 включает аппаратные движки для скалярных, векторных и тензорных (матричных) вычислений, а также 512-бит блок GPSIMD, блоки DSP, SRAM и некоторые другие узкоспециализированные движки. Ускоритель поддерживает выполнение кастомных обработчиков (C/C++, PyTorch).

AWS Inferentia2 поддерживает широкий спектр типов данных, включая FP32, TF32, BF16, FP16 и UINT8, позволяя выбрать наиболее подходящий тип данных для своих рабочих нагрузок. Он также поддерживает новый настраиваемый тип данных FP8 (cFP8), который особенно актуален для больших моделей. По словам компании, такие гибкость и реконфигурируемость чипа позволяют добиться максимальной эффективности выполнения ИИ-нагрузок.

Постоянный URL: http://servernews.ru/1085052
12.04.2023 [00:00], Владимир Мироненко

Облака стремятся в космос: Amazon, Google и Microsoft развивают спутниковые сервисы, но каждая по-своему

Спутниковые проекты, позволяющие передавать и обрабатывать солидные объёмы данных, уже давно привлекают внимание гигантов облачных вычислений, включая Amazon, Microsoft и Google, заинтересованных в выходе на рынок космических услуг, пишет DIGITIMES Research.

Согласно классификации DIGITIMES Research, публичные облака сейчас предлагают три типа услуг: базовые облачные сервисы, наземные станции с облачными сервисами и облачные сервисы, основанные на собственной спутниковой сети. Спутниковая экосистема включает сами спутники, наземные станции и приёмники. Спутники используются для выполнения различных задач, включая наблюдение Земли, передачу сигналов и обеспечение связи. Наземные станции отвечают за управление спутниками, передачу и обработку данных, в том числе потоковых.

Amazon, Microsoft и Google уже внедряют доступ к наземным станциям по модели как-услуга (GSaaS). Прямое подключение позволит спутниковым операторам сэкономить на узлах передачи данных и собственной наземной инфраструктуре, а облакам поможет внедрить новые сервисы на границе сети. Однако подход у провайдеров разнится. Например, Google Cloud Platform (GCP) фокусируется на обработке данных и геосервисах, интегрированных с целым рядом облачных услуг. А Amazon Web Services (AWS) и Microsoft Azure инвестируют в наземную инфраструктуру, в которой заинтересованы спутниковые компании.

 Источник изображения: DIGITIMES

Источник изображения: DIGITIMES

Особняком стоит спутниковый проект Project Kuiper, разрабатываемый собственными силами Amazon с целью снижения TCO и вертикальной интеграции с инфраструктурой AWS. Собственная спутниковая система позволит не только развивать услуги спутниковой широкополосной связи и IoT, но и будет служить основой для комплексных решений, задействуюших ресурсы других подразделений Amazon. Кроме того, компания намерена инвестировать $10 млрд в развитие сети наземных станций. По оценкам DIGITIMES Research, развёртывание экосистемы сопряжено с риском, поэтому Amazon будет осмотрительна.

DIGITIMES Research отмечает, что основное отличие Microsoft Azure от AWS в данном контексте заключается в открытости экосистемы. AWS представляет собой более «закрытую» среду. К тому же AWS сотрудничает с такими стартапами, как Maxar, BlackSky, Capella и D-Orbit, а не с традиционными спутниковыми игроками и операторами наземных станций. Вместе с тем компания сталкивается с большими проблемами при расширении своего рынка из-за конкуренции с существующими спутниковыми компаниями, предоставляя при этом только базовые облачные услуги.

 Изображение: Microsoft Azure

Изображение: Microsoft Azure

В отличие от Amazon, Microsoft имеет платформу и экосистему для подключения к облаку компаний из различных отраслей, и Microsoft готова к сотрудничеству с другими спутниковыми компаниями. Сервис Azure Orbital предлагает обширную экосистему партнёрских возможностей, которая привлекает и SES с Viasat, и SpaceX. DIGITIMES Research предупреждает, что по мере увеличения экосистемы становится всё более сложным поддержание её стабильного роста экосистемы и синергии сотрудничества, и в перспективе Azure Orbital станет серьёзной проблемой для Microsoft.

По оценкам DIGITIMES Research, у AWS самые высокие потенциальные преимущества и риски в области спутниковых систем, в то время как у GCP самые стабильные потенциальные преимущества и самые низкие риски. Azure же занимает промежуточное положение — умеренные риски и умеренные преимущества на рынке.

Постоянный URL: http://servernews.ru/1084837
07.04.2023 [19:49], Владимир Мироненко

Bloomberg создала собственную ИИ-модель BloombergGPT, которая меньше ChatGPT, но эффективнее при использовании в финансовых операциях

Финансовая фирма Bloomberg решила доказать, что существуют более разумные способы тонкой настройки ИИ-приложений, не имеющих проблем с соблюдением принципов этики или с безопасностью, с которыми сталкиваются при использовании, например, ChatGPT.

Bloomberg выпустила собственную большую языковую модель BloombergGPT с 50 млрд параметров, предназначенную для финансовых приложений. Она меньше ChatGPT, основанной на усовершенствованной версии GPT-3 со 175 млрд параметров. Но, как утверждают исследователи из Bloomberg и Johns Hopkins, малые модели — то что нужно для предметно-ориентированных приложений. Bloomberg заявила, что не будет открывать BloombergGPT из-за риска утечки конфиденциальных данных, например, из базы FINPILE, использовавшейся для обучения.

 Источник изображения: Pixabay

Источник изображения: Pixabay

По словам исследователей, BloombergGPT функционально схожа с ChatGPT, но предлагает большую точность, чем сопоставимые модели с бо́льшим количеством параметров. Они также утверждают, что общие модели не могут заменить предметно-ориентированные. Малые модели отличаются большей точностью результатов и могут обучаться значительно быстрее, чем универсальные модели, такие как GPT-3. К тому же для них требуется меньше вычислительных ресурсов.

Bloomberg потратила около 1,3 млн GPU-часов на обучение BloombergGPT на ускорителях NVIDIA A100 в облаке AWS. Обучение проводилось на 64 кластерах ускорителей, в каждом из которых было по восемь A100 (40 Гбайт), объединённых NVswitch. Для связи использовались 400G-подключения посредством AWS Elastic Fabric и NVIDIA GPUDirect Storage, а для хранения данных была задействована распределённая параллельная файловая система Lustre с поддержкой скорости чтения и записи до 1000 Мбайт/с.

 Источник: Bloomberg

Источник: Bloomberg

Общего объёма памяти всех ускорителей оказалось недостаточно, поэтому Bloomberg произвела оптимизацию для обучения модели: разбиение на отдельные этапы, использование вычислений смешанной точности (BF16/FP32) и т.д. «После экспериментов с различными технологиями мы достигли [производительности] в среднем 102 Тфлопс, а каждый этап тренировки занимал 32,5 с»,сообщили исследователи.

Bloomberg задействовала чуть больше половины (54 %) имеющегося у неё набора данных — 363 млрд документов (с 2007 года) из внутренней базы данных Bloomberg. Остальные 345 млрд документов были получены из общедоступных пресс-релизов, новостей Bloomberg, публичных документов и даже Википедии. Документы получили название «токен». Исследователи стремились, чтобы обучающие последовательности имели длину 2048 токенов, чтобы поддерживать максимально высокий уровень использования ускорителей.

Постоянный URL: http://servernews.ru/1084721
06.04.2023 [19:26], Владимир Мироненко

Британский регулятор готов начать антимонопольное расследование деятельности Amazon и Microsoft на облачном рынке

По всей видимости, в Великобритании вскоре откроют полномасштабное антимонопольное расследованием деятельности Amazon и Microsoft, поскольку британский регулятор в секторе телекоммуникаций Office of Communications (Ofcom) обвинил их облачные сервисы в злоупотреблении своим доминирующим положением на рынке, чтобы помешать добросовестной конкуренции.

Ofcom выразил обеспокоенность действиями американских технологических фирм и сообщил о имеющихся доказательствах того, что пользователи сталкиваются с проблемами при попытке сменить провайдера или воспользоваться услугами нескольких провайдеров. Как сообщает Bloomberg, в октябре прошлого года Ofcom начал расследование деятельности AWS, Microsoft Azure и Google Cloud Platform. Регулятор опасается, что пользуясь своим доминирующим положением, они могут ограничивать инновации и рост рынка облачных сервисов.

 Изображение: Microsoft Azure

Изображение: Microsoft Azure

В настоящее время на долю американских гиперскейлеров приходится ⅘ дохода британского рынка публичных облаков, который, по оценкам Ofcom, составляет £15 млрд ($18,7 млрд). Amazon Web Services (AWS) и Microsoft Azure имеют совокупную долю на облачном рынке Великобритании от 60 до 70 %, в то время как у ближайшего конкурента Google доля составляет от 5 до 10 %. В период с 2018 по 2021 год доля остальных облачных провайдеров упала с 30 до 19 %. В Европе в целом доля местных облачных провайдеров под давлением «большой тройки» американских гиперскейлеров за период 2017–2021 гг. сократилась с 27 % до менее чем 16 %.

По мнению Ofcom, такой уровень доминирования на рынке потенциально может затруднить более мелким облачным провайдерам конкуренцию с лидерами рынка, что способствует дальнейшей консолидации доходов и доли рынка у крупных игроков. Ofcom указал на три пункта, вызывающие особую озабоченность: высокие комиссионные сборы, технические ограничения на совместимость между сервисами и гарантированные дисконты.

 Источник: Synergy Research Group

Источник: Synergy Research Group

Причастные к вопросу компании и другие заинтересованные стороны должны до 17 мая предоставить Ofcom свои предложения. Ofcom готов обратиться в Управление по конкуренции и рынкам Великобритании (CMA), чтобы то провело исследование рынка облачной инфраструктуры. «Мы готовы провести исследование рынка в этой области, если Ofcom решит, что это необходимо после завершения процесса консультаций», — заявил представитель CMA.

Следует отметить, что деятельность Microsoft на рынке облачных сервисов уже вызвала вопросы у Еврокомиссии, к которой поступили жалобы французской компании OVH и двух других облачных провайдеров. Предпринятые Microsoft шаги в ответ на жалобы конкурентов в ЕС посчитали недостаточными. Ранее Google уже обвинила Microsoft в неконкурентном поведении на европейском облачном рынке.

Постоянный URL: http://servernews.ru/1084665
Система Orphus