Материалы по тегу: amazon

10.04.2024 [20:49], Руслан Авдеев

ИИ подождёт: AWS ввела лимиты на облачные ресурсы в Ирландии из-за дефицита энергии

Энергетический кризис в Ирландии, во многом связанный с концентрацией большого числа ЦОД в окрестностях Дублина, может привести к тому, что Amazon Web Services (AWS) начнёт рационировать предоставляемые клиентам облачные ресурсы, передаёт The Register. Некоторые пользователи жалуются на то, что им уже начали ограничивать облачные ресурсы в регионе eu-west-1. В частности, речь идёт об GPU-инстансах, необходимых для ИИ-вычислений.

В случае возникновения проблем в AWS Europe предлагают перенести нагрузки в другие европейские регионы, например, в Швецию. AWS подчёркивает, что Ирландия остаётся ядром мировой инфраструктуры компании, поэтому она в любом случае продолжит обслуживание клиентов в этом регионе. Представители национальной энергетической компании EirGrid прямо заявили, что могут время от времени требовать у крупных потребителей ограничить энергопотребление, чтобы избежать проблем во всей сети. Впрочем, обращались ли с такими просьбами к гиперскейлерам, в компании не уточняли.

Уклончивость вполне объяснима, поскольку ЦОД вносят огромный вклад в экономику Ирландии. Сейчас в стране насчитывается более 80 дата-центров, включая объекты крупнейших операторов вроде AWS, Microsoft и Google, заодно создающих и многочисленные рабочие места, платящих налоги и обеспечивающих стране доходы. Ещё полтора десятка объектов находятся на стадии строительства, а около 40 ждут разрешения властей. При этом политика властей уже привела к закрытию некоторых ЦОД.

 Источник изображения: Heri Susilo/unsplash.com

Источник изображения: Heri Susilo/unsplash.com

Местные СМИ отмечают, что роль ЦОД в ирландской экономике весьма спорная. В 2021–2022 гг. энергопотребление ЦОД выросло почти на треть, достигнув 18 % от всех расходов электричества в стране. Более того, Международное энергетическое агентство (International Energy Agency, IEA) утверждает, что без регулирования доля ЦОД может вырасти до 32 % к 2026 году. По оценкам EirGrid этот показатель будет держаться на уровне «всего» 25,7 %, что тоже очень немало.

Проблема связана не только с AWS и Ирландией. Энергетические ограничения могут коснуться в будущем Европы и других регионов. По данным IDC, уже ходят слухи об энергетических квотах для клиентов Microsoft Azure, способных повлиять на их бизнесы. Операторы ряда ЦОД уже столкнулись с нехваткой энергии, и расширить её поставки в соответствии со спросом будет довольно трудно. По мнению экспертов, это — одна из причин того, что большинство европейских организаций не спешат закрывать собственные ЦОД и переходить в публичные облака, поскольку те не смогут удовлетворить спрос на мощности десятилетиями.

 Источник изображения: Ilse Orsel/unsplash.com

Источник изображения: Ilse Orsel/unsplash.com

В прошлом году сообщалось, что европейским операторам ЦОД всё труднее обеспечить надёжное и экономически целесообразное энергоснабжение, а в прошлом месяце глава британской энергокомпании National Grid предупредил, что в следующие 10 лет потребление электричества ЦОД в стране может вырасти на 500 %. Один из экспертов, пожелавший остаться анонимным, подчеркнул, что Ирландия, Нидерланды и Сингапур уже опустошили свои энергетические резервы.

А в Северной Вирджинии (США) новым дата-центрам, например, попросту не хватает ЛЭП. Операторы идут на отчаянные меры для обеспечения своего бизнеса энергией. Например, AWS недавно купила кампус в Пенсильвании, расположенный вблизи АЭС. Атомными проектами вообще активно интересуются многие операторы дата-центров, включая Microsoft. Пока что в Ирландии и Amazon, и Microsoft вынуждены довольствоваться временными решениями.

Постоянный URL: http://servernews.ru/1103045
04.04.2024 [17:37], Руслан Авдеев

AWS намерена уволить сотни сотрудников различных подразделений

Компания Amazon Web Services (AWS) намерена избавиться от сотен своих сотрудников, включая тех, кто работает в отделе продаж, занимается обучением или трудится в сфере обеспечения розничной торговли. По данным Silicon Angle, IT-гигант уже подтвердил сам факт сокращения штата, не сообщая о точном числе увольняемых.

В прошлом году родительская Amazon.com уже провела два раунда масштабных увольнений, последний из которых, состоявшийся в марте 2024 года, также затронул и AWS и привёл к увольнению 9 тыс. человек. Теперь речь идёт о сокращениях в отделах продаж, маркетинга и глобального обслуживания Amazon, часть увольняемых сотрудников занимается продажами в интересах AWS. Другие занимаются обучением и сертификацией клиентов.

Речь идёт лишь о части плана по крупной реорганизации подразделения. В частности, клиенты будут или заниматься самообучением, или получать соответствующие услуги у партнёров компании. Кроме того, на решение о сокращении повлиял факт дублирования некоторых ролей в структурах IT-гиганта. По словам старшего вице-президента Мэтта Гармана (Matt Garman), такие решения даются нелегко, но компания ведёт деятельность в быстро меняющейся отрасли и ей приходится всегда оставаться «проворной».

 Источник изображения:  Magnet.me/unsplash.com

Источник изображения: Magnet.me/unsplash.com

Сокращения предположительно коснутся и т.н. группы Physical Stores Technology — подразделения, разрабатывающего технологии для розничных магазинов Amazon. Ожидается, что некоторые члены группы покинут свои места. Новость появилась вскоре после того, как Amazon объявила о свёртывании проекта Just Walk Out по бесконтактной оплате в своих магазинах Fresh. Система, дебютировавшая в 2016 году, должна была различать, какие продукты покупатели берут со стеллажей и автоматически добавлять их в счёт, автоматически оплачиваемый на выходе без малейшего вмешательства персонала.

По слухам, на смену компания планирует внедрить умные тележки Dash Carts, представленные в 2020 году. Они тоже позволят избежать очередей, а встроенные сенсоры будут определять, какой добавляют товар покупатели и даже взвешивать его, если это необходимо. В компании заявляют, что благодаря использованным системам идентификации и расчётов в крупноформатных магазинах Amazon Fresh компания многому научилась и получила хорошую обратную связь. IT-гигант расширяет систему идентификации и расчётов для своих небольших магазинов 1P, а также сторонних торговых точек партнёров.

Попавшие под сокращение в США сотрудники получат 60-дневное выходное пособие, а также помощь в трудоустройстве и другую поддержку. Параллельно ищутся «внутренние возможности» для тех, кого затронула реорганизация — облачный гигант, чья выручка выросла в прошлом квартале год к году на 13 %, имеет тысячи свободных вакансий.

Постоянный URL: http://servernews.ru/1102771
03.04.2024 [16:37], Руслан Авдеев

В 2023 году AWS управляла более чем 3,5 млн кв. м ЦОД и офисов

Компания Amazon Web Services (AWS) в 2023 году управляла 3,549 млн м2 площадей дата-центров и офисов. По данным Datacenter Dynamics, такие цифры приводятся в форме годового отчёта K-10, предоставленной компанией государственным регуляторам США.

Всего в прошлом году AWS владела 1,651 млн м2 площадей, а ещё порядка 1,899 м2 арендовала. Это на 14 % больше, чем в 2022 году, в котором, в свою очередь, отмечался рост на 28 % в сравнении с 2021 годом. Что касается 2021 года, то тот выдался просто рекордным. Тогдс компания распоряжалась 2,425 млн м2 площадей, на 44 % больше, чем в 2020 году (около 1,682 м2).

 Источник изображения: charlesdeluvio/unsplash.com

Источник изображения: charlesdeluvio/unsplash.com

В отчётности не раскрывается, какая часть площадей приходится на помещения, предназначенные непосредственно для IT-оборудования и инфраструктуры, а сколько — на дополнительные строения иного назначения. Тем не менее речь в любом случае не идёт, например, о штаб-квартирах компании. Кроме того, в расчёт не принимаются изменения в плотности ЦОД. Теоретически AWS способна значительно увеличить вычислительные мощности, не расширяя площадей, хотя это и требует внедрения новых технологий.

Сегодня компания управляет 105 зонами доступности в 33 регионах, ещё больше появится в обозримом будущем. Местоположение ЦОД не раскрывается, как и имена партнёрлв-«оптовиков», с которыми сотрудничает компания. Datacenter Dynamics напоминает, что лишь в 2018 году сервис WikiLeaks раскрыл местоположение ЦОД Amazon по состоянию на 2015 год. Компания намерена потратить как минимум $148 млрд в следующие десять лет на инфраструктуру дата-центров, как расширяя существующие площадки, так и строя новые кампусы по всему миру.

Постоянный URL: http://servernews.ru/1102688
29.03.2024 [01:29], Владимир Мироненко

Amazon потратит почти $150 млрд на расширение ЦОД, чтобы стать лидером в области ИИ

В ближайшие 15 лет Amazon планирует потратить $148 млрд на дата-центры, что позволит ей справиться с ожидаемым взрывным ростом спроса на приложения ИИ и другие цифровые сервисы, пишет Bloomberg. В прошлом году темпы роста выручки AWS упали до рекордно низкого уровня, поскольку клиенты стремились сократить расходы и откладывали реализацию проектов модернизации. Сейчас их расходы снова начинают расти, и Amazon готовит на будущее землю под расширение ЦОД и договаривается о поставках электроэнергии.

Планируемые затраты Amazon на ЦОД превышают обязательства Microsoft и Google (холдинг Alphabet), хотя ни одна из компаний не раскрывает расходы, связанные с ЦОД, так последовательно, как Amazon, отметил Bloomberg. «Мы значительно расширяем мощности, — сообщил Кевин Миллер (Kevin Miller), вице-президент AWS, курирующий дата-центры компании. — Я думаю, это просто даёт нам возможность стать ближе к клиентам».

Компания планирует расширить существующие ЦОД в Северной Вирджинии и Орегоне, а также развиваться в новых регионах, в том числе в Миссисипи, Саудовской Аравии и Малайзии. Эти усилия в основном направлены на удовлетворение растущего спроса на корпоративные сервисы, такие как хранение файлов и базы данных. Вместе с тем эти мощности наряду с передовыми ускорителями призваны обеспечить огромную вычислительную мощность, необходимую для ожидаемого бума генеративного ИИ.

 Источник изображения: aboutamazon.com

Источник изображения: aboutamazon.com

Развивая свои собственные ИИ-инструменты, чтобы конкурировать с ChatGPT компании OpenAI, и сотрудничая с другими компаниями для обеспечения поддержки ИИ-сервисов на своих серверах, Amazon рассчитывает заработать десятки миллиардов долларов.

В последние годы Amazon была крупнейшим в мире корпоративным покупателем возобновляемой энергии, что является частью её обязательства обеспечить к 2025 году всю деятельность возобновляемой электроэнергией. Но эту цель реализовать не так уж и просто из-за несоответствия между спросом и предложением, которое вносит неразбериху в раздробленную энергосистему США.

Миллер заявил, что компания продолжает оценивать проекты в сфере экологически чистой энергетики, включая использование аккумуляторных батарей и ядерную энергетику, которые позволят заменить электростанции, работающие на ископаемом топливе. Он пообещал найти способ «удовлетворить потребность в энергии благодаря возобновляемой, безуглеродной энергетике».

Постоянный URL: http://servernews.ru/1102447
15.03.2024 [23:15], Владимир Мироненко

Amazon и Microsoft заблокируют 20 марта облачные сервисы для клиентов из России

Microsoft разослала клиентам в России уведомление о том, что 20 марта прекратит подписки «на определённое программное обеспечение для управления или проектирования (включая облачные решения) для организаций, зарегистрированных в России», сообщила в своём Telegram-канале вице-президент по инвестициям Softline Елена Волотовская. По факту это может означать полное отключение доступа к облачным решениям, отметила она, добавив, что аналогичные уведомления получили российские клиенты Amazon.

 Источник: t.me/volotovskayaelena

Источник: t.me/volotovskayaelena

В письме Microsoft сообщается, что решение было принято в связи со вступлением с 20 марта в силу санкций ЕС в отношении России. «Microsoft должна прекратить действие этих подписок к 20 марта 2024 года, до будущих указаний ЕС, которые изменят это решение, или общего или специального разрешения от регулирующих органов ЕС. После 20 марта 2024 года вы не сможете получить доступ к этим продуктам или услугам Microsoft, а также к любым данным, хранящимся в них», — указано в документе.

 Источник изображения: ГК Softline

Источник изображения: ГК Softline

В связи с этим компания Softline рекомендовала российским компаниям, которые до сих пор пользуются услугами этих компаний, в оперативном порядке сделать резервное копирование данных со всех облачных сервисов Microsoft, Amazon и Google, в т.ч. на местах пользователя. Компания также создала информационный канал, где заказчики иностранных облачных решений смогут найти ответы и оперативно проконсультироваться по проблемам, которые могут возникнуть с 20 марта 2024 года.

Некоторые другие игроки оперативно отреагировали на сложившуюся ситуацию. Так, в TrueConf сообщили о решении открыть горячую линию и начать предоставлять бесплатные лицензии на сервер ВКС и корпоративный мессенджер TrueConf Server всем организациям, срочно ищущим замену решениям Microsoft Teams и Skype for Business. Похожее предложение есть и у DION.

UPD 16.03.2024: появились уточнения относительно того, что будет заблокировано Microsoft — Azure (в том числе Azure Stack) и все компоненты Microsoft 365. Кроме того, возможна деактивация развёрнутых локально Microsoft Office, SQL Server, BizTalk Server, System Center, Visual Studio. Windows Server и клиентские Windows, вероятно, затронуты не будут.

Постоянный URL: http://servernews.ru/1101812
05.02.2024 [18:08], Владимир Мироненко

AWS увеличила квартальную выручку до $24,2 млрд, оправдав ожидания Уолл-стрит

Компания Amazon.com, Inc. объявила результаты IV квартала и 2023 года в целом, завершившегося 31 декабря 2023 года, которые оказались выше прогнозов экспертов Уолл-стрит. Выручка облачного подразделения Amazon Web Services (AWS) за отчётный квартал выросла год к году на 13 % до $24,2 млрд, что совпало с прогнозом аналитиков StreetAccount. Два предыдущих квартала выручка увеличивалась на 12 %.

Умеренное ускорение «оставляет некоторые сомнения относительно того, сможет ли облачное подразделение противостоять конкурентам», — цитирует ресурс Bloomberg заявление Скай Канавес (Sky Canaves), старшего аналитика Insider Intelligence. Также следует отметить, что год назад квартальная выручка AWS выросла на 20 %.

 Источник изображения: AWS

Источник изображения: AWS

В свою очередь, финансовый директор Amazon Брайан Олсавски (Brian Olsavsky) выразил оптимизм по поводу перспектив роста AWS в течение года. «Мы начинаем видеть, что клиенты сокращают свою работу по оптимизации затрат и переводят обсуждение в сторону возобновления миграции в облако, которую они, возможно, отложили в прошлом году», — сказал Олсавски, добавив, что существует большой интерес к продуктам генеративного ИИ облачного подразделения.

Гендиректор Amazon Энди Ясси (Andy Jassy) заявил в ходе телефонной конференции с аналитиками, что сервисы генеративного ИИ остаются «относительно небольшим» бизнесом, но компания считает, что они могут приносить «десятки миллиардов долларов» дохода в течение следующих нескольких лет.

 Источник изображения: AWS

Источник изображения: AWS

Операционная прибыль AWS за IV квартал составила $7,2 млрд, в то время как годом ранее этот показатель был равен $5,2 млрд. В целом за 2023 год выручка AWS составила $90,8 млрд (рост 13 % год к году), операционная прибыль — $24,6 млрд ($22,8 млрд в 2022 году). При этом подразделение сбавило темпы роста и уступило долю глобального рынка Microsoft Azure и Google Cloud.

В числе достижений в минувшем году AWS назвала запуск суверенного облака для Европы, расширение сотрудничества с Amgen в разработке технологий генеративного ИИ, а также заключение соглашений по поводу статуса предпочтительного провайдера облачных сервисов с рядом компаний, включая автопроизводителя SAIC MOTOR, телекоммуникационную компанию Axiata Group Berhad и производителя электромобилей BYD.

 Источник изображения: AWS

Источник изображения: AWS

Что касается результатов Amazon в целом, что в IV квартале компания получила выручку в размере $170,0 млрд (рост 14 %). За год выручка составила $574,8 млрд (рост 12 %). Операционная прибыль за квартал выросла до $13,2 млрд с $2,7 млрд годом ранее, за год показатель составил $36,9 млрд ($12,2 млрд в 2022 году). Чистая прибыль выросла в IV квартале до $10,6 млрд или $1,0 на разводнённую акцию с $0,3 млрд или $0,003 на разводнённую акцию годом ранее. За год чистая прибыль компании составила $30,4 млрд или $2,90 на разводнённую акцию по сравнению с $2,7 млрд убытков или $0,27 на разводнённую акцию в 2022 году.

В текущем квартале Amazon планирует получить выручку в размере $138–$143,5 млрд (рост 8–13 %) и операционную прибыль в пределах от $8 до $12 млрд. Аналитики, опрошенные LSEG (ранее Refinitiv), ожидают выручку в размере 141,2 млрд. В свою очередь, по данным опроса аналитиков ресурсом Bloomberg, прогноз по выручке равен $142 млрд, по операционной прибыли — $9,12 млрд.

Постоянный URL: http://servernews.ru/1099812
23.01.2024 [14:30], Руслан Авдеев

Amazon претендует на звание крупнейшего покупателя возобновляемой энергии в 2023 году

Amazon утверждает, что в 2023 году компания стала крупнейшим корпоративным покупателем возобновляемой энергии в мире и инвестировала в более 100 новых проектов, связанных с ветряными и солнечными электростанциями. Как сообщает пресс-служба Amazon, IT-гигант заключил за год больше соглашений о покупке энергии (PPA), чем любой другой бизнес с 2020 года.

В своё время компания объявила о намерении добиться нулевых выбросов в атмосферу к 2040 году, но её нередко критикуют за недостаточную прозрачность отчётности, связанной с «зелёной» повесткой. На сегодня Amazon утверждает, что поддержала более 500 ветряных и солнечных проектов по всему миру. Когда все из них будут введены в эксплуатацию, то станут поставлять свыше 77 тыс. ГВт∙ч «чистой» энергии ежегодно — такого объёма, например, достаточно, чтобы удовлетворить потребности 7,2 млн домохозяйств США.

 Источник изображения: Amazon

Источник изображения: Amazon

В числе новых инициатив Amazon за последние 12 месяцев — проект, в результате которого загрязнённую территорию старой угольной шахты в Мэриленде (США) перепрофилировали в солнечную электростанцию. Дополнительно компания поддержала свой первый проект по генерации возобновляемой энергии в Южной Корее, а также реализовала 10 похожих схем в Техасе. Все они уже прямо или косвенно снабжают ЦОД, офисы и другие объекты Amazon и поставляют чистую энергию в местные электросети. Кроме того, только в 2022 году экологические схемы Amazon обеспечили поддержку занятости, эквивалентной 39 тыс. рабочих мест.

В AWS уже заявили, что ещё в прошлом году более 90 % её операций выполнялись за счёт «зелёной» энергии и компания намерена оптимизировать производство и потребление таким образом, чтобы добиться 100 % использования возобновляемой энергии к 2025 году. При этом многие эксперты скептически относятся к энергетическим инициативам компании. В отличие от соперников вроде Microsoft Azure и Google Cloud, AWS не предлагают клиентам выбора ЦОД в зависимости от уровня выбросов. Более того, компания не публикует PUE своих объектов.

Эффективность PPA в качестве инструмента сокращения выбросов тоже остаётся под вопросом. Как сообщает Datacenter Dynamics, опубликованное в прошлом году исследование лаборатории ZERO Lab Принстонского университета свидетельствует, что покупка «зелёной» энергии в больших объёмах ведёт к непредвиденным последствиям. Поскольку PPA предусматривает закупку энергии без привязки к региону, генерация вредных выбросов просто смещается, а производство чистой энергии не развивается.

Исследователи считают, что закупки должны осуществляться с учётом времени генерации «зелёной» энергии, с почасовым сопоставлением потребления и производства. Некоторые игроки вроде Google и Microsoft уже заключили соглашения с соответствующими условиями, но в Amazon такие меры всё ещё не приняты.

Постоянный URL: http://servernews.ru/1099146
09.12.2023 [00:23], Владимир Мироненко

Не за себя радеем: Amazon поддержала Google, обвинив Microsoft в антиконкурентном поведении на облачном рынке Великобритании

Amazon присоединилась к Google, обвинившей Microsoft в антиконкурентном поведении на облачном рынке Великобритании и направившей письмо по этому поводу в Управление по защите конкуренции и рынкам (Competition and Markets Authority, CMA) Великобритании. В своём письме от 23 ноября 2023 года, опубликованном на днях на сайте CMA, Amazon отметила, что используемые Microsoft методы лицензирования ограничивают выбор клиентов и усложняют переход к другим провайдерам.

«Например, Microsoft изменила условия лицензирования в 2019 году и ещё раз в 2022 году, чтобы затруднить клиентам запуск некоторых популярных программных предложений в Google Cloud, AWS и Alibaba Cloud, — отметила Amazon. — Чтобы использовать многие программные продукты Microsoft с продуктами этих поставщиков облачных услуг, клиент должен приобрести отдельную лицензию, даже если у него уже есть это ПО. Это часто делает для клиента финансово невыгодным выбирать другого поставщика, кроме Microsoft».

 Фото: Walkerssk / Pixabay

Фото: Walkerssk / Pixabay

5 октября CMA начало официальное расследование в отношении индустрии облачных вычислений в Великобритании по предложению Ofcom, регулятора телекоммуникаций страны, выразившего обеспокоенность по поводу доминирования Amazon и Microsoft на облачном рынке. Согласно данным Ofcom, в 2022 году совокупная доля Amazon Web Services (AWS) и Microsoft на облачном рынке Великобритании составляла 70–80 %, в то время как доля Google, их ближайшего конкурента, была 5–10 %.

 Фото: AWS

Фото: AWS

Глава CMA Сара Карделл (Sarah Cardell) заявила, что это рынок объёмом £7,5 млрд, который лежит в основе целого ряда онлайн-сервисов — от социальных сетей до ИИ. «Многие предприятия теперь полностью полагаются на облачные сервисы, что делает необходимой эффективную конкуренцию на этом рынке», — отметила она. Google утверждает, что практика лицензирования Microsoft не оставляет клиентам «никакой экономически разумной альтернативы, кроме использования Azure в качестве поставщика облачных услуг».

В августе прошлого года Microsoft обновила условия соглашений об облачном лицензировании, однако конкуренты не увидели в них существенных изменений. Вице-президент Google Cloud Амит Завери (Amit Zavery) сообщил в интервью агентству Reuters, что обновлённое лицензирование Microsoft привело к увеличению затрат для клиентов, которые хотели бы использовать сервисы Google или AWS вместо Azure. Завери также отметил, что AWS не представляет таких же антиконкурентных рисков, как Microsoft, несмотря на большую долю облачного рынка, поскольку у неё нет таких лицензионных ограничений.

Постоянный URL: http://servernews.ru/1097216
01.12.2023 [15:52], Руслан Авдеев

AWS представила корпоративную систему биометрической идентификации Amazon One Enterprise — через 3 года после дебюта Amazon One для магазинов

AWS представила корпоративную версию системы биометрической идентификации Amazon One Enterprise. Новый сервис основан на решении Amazon One, которое появилось в 2020 году. Оно используется для биометрических платежей в собственных магазинах Amazon, не имеющих кассиров. Посетители Amazon Go могут привязать данные банковской карты к информации об отпечатке ладони.

Хотя технология, как это обычно бывает с такими решениями, вызвала опасения среди правозащитников и политиков в связи с возможной утечкой данных, компания продолжила внедрять её, предлагая клиентам различные льготы. Сервис уже появился во всех магазинах сети Whole Foods, принадлежащей Amazon, в США. Также компания заключила соглашения и со сторонними ретейлерами.

 Источник изображения: Amazon

Источник изображения: Amazon

Проект Amazon One Enterprise стал закономерным развитием предыдущей инициативы. Несмотря на повсеместный переход на удалённую работу, многие компании всё ещё хотят видеть своих сотрудников в офисах хотя бы время от времени. Amazon One Enterprise обеспечивает бесконтактную идентификацию для доступа на такие объекты. Более того, технологию можно использовать и для всевозможного ПО с разграничением доступа, например, для защиты доступа к кадровой или финансовой информации.

 Источник изображения: Amazon

Источник изображения: Amazon

Заказчикам предлагается на выбор два вида устройств: отдельный модуль, который можно разместить где угодно, и турникет. Возможно совместное использование биометрической идентификации с традиционными средствами, т.е. карточками, PIN-кодами и паролями. AWS подчёркивает, что Amazon One Enterprise отличается от решений для магазинов уровнем обеспечения безопасности. В частности, коллекция отпечатков ладоней сохраняется в облаке AWS отдельно для каждой компании. С помощью точно такого же устройства пользователь может удалить свои данные, а если в течение двух лет он не проявлял никакой активности, данные будут удалены автоматически.

Постоянный URL: http://servernews.ru/1096795
30.11.2023 [15:09], Владимир Мироненко

Amazon SageMaker HyperPod обеспечит бесперебойное обучение базовых моделей

Amazon Web Services представила сервис Amazon SageMaker HyperPod для обучения и точной настройки больших языковых моделей (LLM). Новинка обеспечивает распределённое обучение для больших обучающих кластеров ИИ, оптимизированное использование вычислительных ресурсов, памяти и сетевых ресурсов кластера, а также гибкую среду обучения, исключающую перерывы.

Базовые модели ИИ (FM, foundation model) зачастую слишком сложны, поэтому их обучение приходится проводить на нескольких ускорителях, что является технически сложной задачей, требует узкоспециализированных навыков и может занять недели или месяцы в зависимости от количества задействованного оборудования. При этом возрастает вероятность сбоев, таких как единичный отказ ускорителя.

 Изображение: AWS

Изображение: AWS

Эти сбои могут нарушить весь процесс обучения и потребовать ручного вмешательства для выявления, изоляции, отладки, устранения неполадок и восстановления после них, что ещё больше задержит процесс обучения. Для бесперебойного обучения модели разработчики должны постоянно сохранять прогресс обучения с помощью контрольных точек, что ещё больше увеличивает временные затраты и отдаляет вывод решения на рынок.

SageMaker HyperPod обеспечивает доступ к ИИ-кластерам по требованию. Разработчики могут подготовить кластер с помощью комбинации команд и простых сценариев, что значительно быстрее, чем настройка инфраструктуры вручную. По словам AWS, SageMaker HyperPod может сократить время, необходимое для обучения базовых моделей, более чем на треть.

 Изображение: AWS

Изображение: AWS

HyperPod предварительно сконфигурирован с использованием распределённых обучающих библиотек SageMaker, которые позволяют автоматически распределять учебные нагрузки между тысячами ускорителей. SageMaker также разделяет данные, на которых обучается модель, на более мелкие и более управляемые части.

Hyperpod гарантирует непрерывность обучения моделей и периодическое создание контрольных точек. Когда во время обучения происходит аппаратный сбой, SageMaker HyperPod автоматически обнаруживает его, восстанавливает или заменяет неисправный инстанс и возобновляет обучение с последней контрольной точки, устраняя необходимость в ручном управлении этим процессом и позволяя проводить обучение в распределённой среде без сбоев в течение длительного времени.

 Изображение: AWS

Изображение: AWS

Вместе с тем клиенты с повышенными требованиями имеют возможность использовать собственный распределённый код для обучения. AWS также предоставляет возможность оснастить ИИ-кластер другими программными компонентами, такими как инструменты отладки.

SageMaker HyperPod уже доступен в облачных регионах AWS в Огайо, Северной Вирджинии, Орегоне, Сингапуре, Сиднее, Токио, Франкфурте, Ирландии и Стокгольме.

Постоянный URL: http://servernews.ru/1096743
Система Orphus