На основе долгосрочного соглашения «ХОСТКЕЙ» разместил оборудование в дата-центре Digita, который располагается рядом с интернет-хабом в Radiokatu. Это обеспечивает прямое подключение к ведущим операторам связи и поставщикам сетевых услуг.

Дата-центр Digita соответствуют самым строгим критериям безопасности и надежности Tier III. Все арендованные «ХОСТКЕЙ» стойки подключены к двум независимым защищенным вводам по 16 А на стойку. Система охлаждения ЦОД интегрирована с системой центрального отопления Хельсинки, и вырабатываемое тепло используется для обогрева помещений. Контроль температурного режима в машинных залах осуществляется непрерывно. Гарантированное энергоснабжение достигается за счет использования связки ИБП + дизельные генераторы + топливохранилище.

Изображение: «ХОСТКЕЙ»

Дата-центр Digita расположен рядом с крупнейшим в Финляндии центром передачи данных и обеспечивает отличную связанность со всем миром. ЦОД находится недалеко от точки обмена трафиком FICIX Internet Exchange Point (IXP), к которой подключены все основные местные и международные операторы связи.

Андрей Шевченко, генеральный директор «ХОСТКЕЙ»: «Мы рады предложить новые возможности нашим клиентам для развития их бизнеса в Европе. В новом дата-центре в Хельсинки установлено оборудование «ХОСТКЕЙ», которое предоставляет весь спектр наших услуг — от простой аренды серверов до реализации частных кластеров и облачных решений. Мы глубоко признательны нашим клиентам и партнерам за участие в опросе и выбор новой площадки в Финляндии. Мы ценим каждый голос и всегда учитываем мнение наших клиентов, так как открытый диалог является важным фактором продуктивного сотрудничества».

На этапе запуска в новом дата-центре «ХОСТКЕЙ» предлагает:

• широкий ассортимент выделенных серверов с быстрой сдачей: от начального уровня до высокопроизводительных решений на базе новейших процессоров Intel Xeon, AMD Ryzen и AMD EPYC;
• высокопроизводительные VPS-серверы и хранилища данных.

Услуги можно оплатить с помощью российских банковских карт, в том числе карт системы МИР, а также посредством других платежных систем, доступных на территории РФ.

«ХОСТКЕЙ» планирует развивать площадку в Финляндии и расширять свое присутствие не только в Европе, но и в других регионах.

В условиях санкционного давления на российский IT-сектор многие компании, которым необходимо развивать и обслуживать свою инфраструктуру в европейских дата-центрах, сталкиваются с трудностями, которые в первую очередь связаны с приобретением оборудования, получением гарантийного обслуживания и арендой стоек в зарубежных дата-центрах.

Но на российском рынке появилась уникальная услуга от компании ООО «Сервер в Аренду» (работает под брендом «ХОСТКЕЙ»), которая позволяет российским компаниям заключать договор на покупку, доставку, монтаж и обслуживание серверного и сетевого оборудование за рубли. Договоры на услуги заключаются с российской компанией, которая с помощью своего европейского партнера закупает оборудование на европейском же рынке. Оборудование поставляется в соответствии со спецификацией клиента.

Источник изображения: «ХОСТКЕЙ»

Это предложение может заинтересовать российские компании, ориентированные на международный рынок, или команды, работающие в удаленном режиме и находящиеся в разных регионах. Также эта услуга актуальна для компаний, которым необходимо хранить данные в европейской юрисдикции.

Приобретенное оборудование поставляется напрямую на площадку заказчика или может быть консолидировано на складе «ХОСТКЕЙ» в Западной Европе. При этом в рамках контракта с российским лицом «ХОСТКЕЙ» берёт на себя ответственность за выполнение монтажа, модернизации и дальнейшее обслуживание оборудования, а также оперативно решает вопросы в случае нештатных ситуаций. Впрочем, «ХОСТКЕЙ» может выполнить и демонтаж, и вывоз списанного оборудования.

Российские клиенты международного хостинг-провайдера HOSTKEY могут сохранить и масштабировать свою IT-инфраструктуру в дата-центрах на территории Нидерландов и США, оплачивая услуги хостинга в рублях. Также компания продолжит заключать договоры с новыми клиентами из России — как юридическими, так и физическими лицами.

Как сообщили в HOSTKEY, для российских резидентов доступна оплата услуг хостинга в зарубежных дата-центрах в рублях на счет российской компании — банковскими картами, в том числе платежной системы «Мир», банковскими переводами и другими способами, доступными на территории России. Это решает проблемы с оплатой услуг в Европе и США, вызванные ограничением валютных транзакций и блокировкой международных платежных систем.

HOSTKEY предлагает услуги по аренде выделенных и виртуальных серверов в дата-центрах класса Tier III в Нидерландах и США. Также клиенты HOSTKEY могут разместить собственное оборудование в европейском дата-центре: от одного юнита до нескольких стоек. Помимо аренды серверных площадей, клиентам HOSTKEY доступна комплексная услуга remote smart hands, позволяющая развернуть и обслуживать IT-инфраструктуру в лучших дата-центрах Нидерландов. В условиях ограничений на заграничные поездки это возможно без физического присутствия технических специалистов клиента на площадках.

Инженеры HOSTKEY обеспечивают подбор, закупку, доставку, монтаж и запуск серверного оборудования, а также дальнейшую поддержку, оперативное устранение нештатных ситуаций, плановую модернизацию и ремонт. По необходимости предоставляются услуги по демонтажу, утилизации или продаже б/у оборудования. Все работы могут быть произведены удалённо, на основании согласованных технических заданий и спецификаций, под контролем клиента в режиме реального времени с помощью видеостримов.

«Многие российские компании с распределённой инфраструктурой, к сожалению, сейчас испытывают трудности с оплатой услуг хостинга в зарубежных дата-центрах. Обслуживание удалённого оборудования также серьёзно осложнено. HOSTKEY предлагает российскому бизнесу решение этих проблем. Наши клиенты по-прежнему могут арендовать серверы в европейских и американских дата-центрах, при этом оплачивая услуги в рублях на основании договора, заключённого с российской компанией. В период пандемии мы накопили огромный опыт по удалённому налаживанию IT-инфраструктуры для компаний из разных точек мира, и сейчас мы масштабируем этот опыт для поддержки российского бизнеса. Мы гарантируем бесперебойность сервисов и надёжность бизнес-процессов для всех наших клиентов вне зависимости от их локации», — сообщил Андрей Шевченко, генеральный директор хостинг-провайдера HOSTKEY в России.

Арендуйте серверы в Нидерландах и США с оплатой в рублях. Принимаем к оплате банковские карты российских банков, в том числе и карты МИР и банковские переводы. Договор с российской компанией (ООО).

Если вам нужно разместить несколько серверов в Западной Европе, смело заказывайте услугу Colocation в крупном дата-центре. Это очень выгодно, просто и безопасно, а эти «вредные» советы помогут гарантированно угробить иностранный бизнес или навредить карьере.

Изображения: HOSTKEY

Купите сервер в РФ и отправьте его в Западную Европу

Ожидания: Можно отправить сервер курьерской службой из России в Западную Европу за 100 евро. Через неделю он уже будет работать в стойке.

Реальность: Сложно законно перевезти б/у сервер в Западную Европу. У него другие таможенные коды, неизвестные стоимость и происхождение, а для вывоза, возможно, потребуется разрешение от ФСБ и Минобороны. Брокеры за такое не возьмутся, или это будет стоить дорого. Отправление от частного лица также стоит недёшево и имеет все шансы застрять на таможне. Вариант поездки на Запад в спальнике грузовика и прочие нелегальные способы мы не рассматриваем.

Даже если удастся легально перевезти сервер в Западную Европу, там его нужно растаможить и заплатить местный НДС (VAT). В ЕС эта процедура проще, чем в России, но ставка может достигать 30%. Счета придут в ЦОД, куда едет сервер, но если таможня затруднится с оценкой, она предложит получателю растаможить груз через сертифицированных брокеров и нанять оценщика.

Как правильно? Оборудование лучше покупать там, где вы собираетесь его использовать.

Компания HOSTKEY выстроила надёжные партнёрские связи с крупными поставщиками на европейском рынке — AMD, Dell, Gigabyte, Supermicro, Asus и другими. Она быстро закупает оборудование даже в условиях дефицита и общемировых логистических проблем, а значит гарантирует своим клиентам быстрое масштабирование ИТ-инфраструктуры в предсказуемые сроки. Интересно? Напишите в HOSTKEY, и в ней обсудят ваши требования.

Покупайте noname-«железо» у китайских продавцов и бывшее в употреблении оборудование на eBay

Ожидания: Если не хочется переплачивать за бренд, можно купить недорогое «железо» и собрать сервер самому или взять бывший в употреблении с истекшей гарантией. Если нет разницы в вычислительной мощности, зачем платить больше?

Реальность: Это возможно, если вы готовы отправить в западный ЦОД собственных специалистов или выдвинуться лично с набором запчастей в багажнике. В противном случае обслуживание дешёвого «железа» влетит в копеечку: возникнут проблемы совместимости или бывшие в употреблении устройства начнут часто ломаться (их ресурс уже израсходован) и в итоге обойдутся дороже новых.

За обслуживание придётся платить, при этом вам могут ответить: «Мы все сделали, ничего не получилось, вот счёт на €300». И так 10 раз! Если хотите, чтобы все получилось, лучше брать брендовое оборудование с гарантией. Крупные вендоры не случайно включают в ограниченную гарантию обслуживание по месту установки, они учитывают процессы работы ЦОДа. Если что-то сломалось, инженер авторизованного сервисного партнёра приедет для диагностики на следующий день. Именно поэтому многие заказчики выводят из эксплуатации рабочее оборудование, когда продление гарантии нецелесообразно.

Как правильно? Приобретайте новое оборудование известных брендов с гарантийным обслуживанием по месту установки.

Не заключайте сервисные контракты — это пустая трата денег

Ожидания: При покупке нового оборудования достаточно входящей в стоимость ограниченной гарантии. Если что-то случится, производитель бесплатно отремонтирует устройство. К тому же всегда можно вызвать сервисников за отдельную плату, они с радостью приедут.

Реальность: Ограниченная гарантия позволяет рассчитывать на обслуживание серверов и некоторого сетевого оборудования по месту установки, но не включает пусконаладочные работы и не обязывает партнёрские сервисные центры вендора держать комплектующие для замены. Ставить «железо» в стойку нужно самостоятельно, а ремонт может затянуться на несколько дней или недель (партнёру придётся заказывать ЗИП у вендора). Многие компании покупают «железо» ведущих производителей и дополнительно расширенную гарантию с инсталляцией и подменным фондом. Это позволяет сэкономить на обслуживании инженерами дата-центра (которое, напомним, может и вовсе не осуществляться).

Сервис по требованию может оказаться ненадёжным: если нет гарантии по деньгам, нет гарантии и по скорости реакции внешнего подрядчика — иногда выезд откладывается на неделю. Лучше заключить договор с абонентской платой (€50–100/мес. за машину), но здесь снова придётся внимательно читать бумаги, поскольку дополнительные услуги подрядчиков обходятся дороже услуг дата-центров. Например, выезд в нерабочее время обычно не входит в абонплату и может стоить €300–350/час, включая и время на дорогу.

Как правильно? Покупайте расширенную гарантию на оборудование и/или заключайте длительные сервисные контракты со сторонними подрядчиками.

Не задумывайтесь о логистических проблемах.

Ожидания: Можно купить серверы и привезти их в западный дата-центр, заплатив относительно небольшую сумму за установку в стойки. Со старым «железом» проблем тем более не возникнет: его легко продать на eBay.

Реальность: На практике в западном дата-центре вам предложат самостоятельно разгружать фуру (которую ещё нужно найти и как-то загрузить), потому что их специалисты этим не занимаются даже за отдельную плату. Руководство площадки не хочет нести ответственность за сохранность оборудования и боится обвинений в соучастии, если «железо» было получено незаконным путём. Отчасти поэтому в Западной Европе предпочитают брендовое «железо» и сервисные контракты с вендором на его установку.

С утилизацией сложностей возникнет ещё больше, потому что ваши серверы с истекшей гарантией вендору неинтересны и западный ЦОД тоже не станет ими заниматься. Демонтаж, упаковка и отправка — проблема клиента, которая выливается в существенные затраты. Куда вывозить оборудование, где его хранить и как продавать, находясь в другой стране, — непонятно. Отправить в Россию можно, но это почти нереальная процедура для б/у серверов.

Как правильно? Выход один — прибегнуть к услугам внешних подрядчиков. Иногда дешевле оставить им оборудование бесплатно, чем пытаться вывезти его и продать.

HOSTKEY предлагает комплексную услугу по покупке оборудования на европейском рынке со значительными скидками, организует доставку, хранение комплектующих на собственном складе в Амстердаме, услуги по установке, демонтажу, продажи и утилизации. Более подробно про услугу «Remote Smart Hands» можно найти здесь.

Выбирайте ЦОД покрупнее, они надёжнее

Ожидания: Нам сразу ответят, и площадка Tier III на 5000 стоек выделит персонального менеджера для организации размещения стойки или нескольких серверов.

Реальность: Крупные западные дата-центры работают с заказами от 30–50 стоек, они даже не ответят на ваш запрос. Такие площадки только предоставляют стойки с PDU, подают на них электропитание и выписывают пропуска через систему электронных заявок. Решать вопросы с подключением к интернету, кроссировками и всем остальным они не станут. Если на сайте написано, что это carrier neutral datacenter, это означает, что ЦОД сетевыми услугами не занимается вообще и все эти вопросы в его зону ответственности не входят.

Размещением единичных серверов обычно занимаются местные компании и местные инженеры. Обслуживание серверов и стоек силами ЦОДа не предполагается. Если клиент из России, многие не станут с ним связываться из-за возможных репутационных рисков или проблем с нарушением санкционного законодательства. Обычно они просто не отвечают на запросы.

Как правильно? Стоит выбирать площадку или хостера, исходя из количества оборудования, которое вы собираетесь разместить.

HOSTKEY обеспечит размещение серверов и сетевого оборудования (юниты и аренда серверных стоек) в дата-центрах класса TIER III в Нидерландах и в Москве, организует переезд и бесшовную миграцию.

Не связывайтесь с мелкими хостерами.

Ожидания: Относительно небольшие хостеры перепродают клиентам арендованные в крупных коммерческих дата-центрах стойки. Нет никакого смысла им переплачивать, лучше обратиться к гигантам напрямую и получить ту же самую услугу дешевле.

Реальность: Мелким хостер-посредник может показаться только в сравнении с лидерами рынка, а по масштабам его целевой аудитории это крупный бизнес. Такие компании имеют собственный обученный персонал, арендуют большие площади на длительный срок и получают недоступные розничным клиентам скидки (см. выше про минимальный объем в 30–50 стоек). К тому же небольшие хостеры создают добавочную ценность для клиентов благодаря знанию местных условий и услуг, которые не оказывают крупные западноевропейские дата-центры.

Доставка, монтаж и обслуживание оборудования, а также его демонтаж, упаковка и отправка — если нанимать разовых подрядчиков, все это обойдётся недёшево. Выгоднее заключить постоянный контракт с небольшим хостером и не думать, кто поедет перезагружать зависший сервер или где взять подменную машину на случай ремонта. Гиганты работают по принципу «вас много, я одна», а небольшие хостеры ценят каждого клиента. К тому же дата-центры обычно не предоставляют сетевую связность, и эту услугу приходится заказывать у многочисленных операторов в самом ЦОДе.

Как правильно? Пользуйтесь услугами хостинговой компании: в этом случае вы можете ожидать, что в стоимость стойки уже включён пакет с трафиком и сервисом.

Если вы оплатили услугу Colocation, не думайте про обслуживание оборудования

Ожидания: Российские дата-центры часто сами устанавливают и даже обслуживают размещённое в арендуемых стойках оборудование. Скорее всего, сотрудники поддержки не станут настраивать софт, но нажать кнопку Reset, подключить новый диск или поставить модуль памяти не откажутся.

Причин тому масса. Не последняя — пропускная система, из-за которой мелким (с крупными другая ситуация) клиентам непросто попасть на площадку. Ваших специалистов могут не пустить в машинный зал, предложив вынести серверы для обслуживания в специальную комнату. Разумеется, в клиентоориентированной Западной Европе все должно быть ещё лучше: за €50 там сделают вообще всё.

Реальность: Если вы покупаете услугу Colocation в Западной Европе, заниматься оборудованием придётся самостоятельно, начиная с его установки в стойку. Вам сделают все кроссировки, обеспечат бесперебойное электропитание и прочую инженерную инфраструктуру, но в дежурной смене дата-центра не будет разбирающихся в серверах и сетевом оборудовании специалистов. Часто она представлена одним охранником, который следит за сигнализацией и регистрирует посетителей.

Везде есть соглашения об ограничении ответственности: клиент может, скажем, попросить заменить диск в сервере, а потом будет предъявлять претензии из-за поломки корпоративной базы данных. Чтобы не иметь проблем, многие дата-центры предпочитают не связываться с этим.

Colocation в Западной Европе — это склад для включённых серверов с самообслуживанием, куда проходят по карте-пропуску и делают всё сами. Инженеры заказчика имеют круглосуточный доступ в машинный зал, но с точки зрения площадки сервер или стойка — просто нагрузка, которая потребляет электричество и выделяет тепло. Её физическое наличие в стойке, а также настройка и конфигурирование — проблема клиента. Только если ЦОД сильно удалён от центральных городов, операторы оказывают больше услуг, иначе желающих с ним работать найдётся мало.

Как правильно? Стоит заключить сервисный контракт со сторонним подрядчиком или обратиться к небольшому хостеру. Крупным заказчикам стоит подумать о собственном обособленном подразделении (западноевропейском филиале компании).

Почему так происходит? Зарплаты персонала ЦОДа на Западе высокие, налоги большие. Чтобы поддерживать цены на рыночном уровне, компании-операторы стараются минимизировать количество персонала на площадке. Чтобы стать сотрудником крупного ЦОДа, надо иметь соответствующее профильное образование и сертификацию, а это стоит денег. Сотрудник-специалист не будет заниматься всем подряд, у него много собственных дел, а все переработки должны быть зафиксированы и оплачены, к тому же без прямого приказа руководства они часто запрещены.

Команда инженеров и системных администраторов HOSTKEY обслуживает серверы в любом дата-центре в Нидерландах. Специалисты компании круглосуточно на связи и максимально быстро решают неотложные проблемы, а также проводят плановые работы по обслуживанию серверов и сети по заданию заказчиков.

Никогда не читайте договор и соглашение об уровне услуг (SLA), подписывайте бумаги не глядя

Ожидания: В России мы часто не вчитываемся в содержание типовых договоров и не указываем в них важные нюансы, предпочитая строить неформальные отношения с партнёрами на основе устных договорённостей, понятий и Гражданского кодекса. И западные дата-центры наверняка работают без лишнего формализма и бюрократии.

Реальность: В части бюрократии ваши ожидания оправдаются, но контракт для западных европейцев незыблем. Составляется он подробно, и если какая-то услуга в документ не включена, значит, она не оказывается. Даже если проблема решается за минуту нажатием одной кнопки, вам ответят: «Мы этим не занимаемся, приезжайте сами».

Другой вариант — вам дают список услуг, которые оплачивается отдельно. Цены на обслуживание оборудования начинаются от €50/час в дневное время и от €150 — в ночное, а работы нужно заказывать и оплачивать где-то за неделю. На волне пандемии цены выросли, так что соглашения и прайс-листы стоит изучать очень внимательно. Например, €300–€500/час за обслуживание сетевого оборудования — далеко не максимум.

Как правильно? Нужно внимательно изучить все условия контракта, а также прайс-лист площадки и провайдеров услуг.

Планируйте работы с оборудованием на вечер или выходные.

Ожидания: Клиенты российских ЦОДов привыкли проводить серьёзные модификации размещённой на арендуемых площадях инфраструктуры в неурочное время. В Западной Европе наверняка можно делать то же самое с привлечением местного персонала.

Реальность: Во многих западноевропейских странах строгое трудовое законодательство, и принудительные переработки там запрещены. Эти вопросы контролируются государством, а любые нарушения выливаются для работодателя в серьёзные проблемы. Инженер может бросить ваш сервер в 18:00 и уйти домой или остаться по своей воле, если это предусмотрено контрактом, и с существенной доплатой. Это не касается дежурных смен в дата-центрах, но их возможности, как мы уже выяснили, ограниченны.

Как правильно? Если вы собрались поставить оборудование в иностранной юрисдикции, стоит изучить особенности местного трудового законодательства.

Команда инженеров и системных администраторов HOSTKEY обслуживает серверы в любом дата-центре в Нидерландах. Специалисты компании круглосуточно на связи и максимально быстро решаю неотложные проблемы, а также проводя плановые работы по обслуживанию серверов и сети по заданию заказчиков. Они могут проводить видео-стримы работ для полного контроля со стороны заказчика.

Если поддержка отказывается решить вопрос, смело обращайтесь к руководству площадки.

Ожидания: Если что-то сломается ночью или на выходных, а поддержка откажется оперативно решить вопрос, можно связаться с руководством дата-центра, и нам оперативно все починят. Лучше всего написать в Facebook* или Twitter.

Реальность: В Европе это не работает. Руководство площадки не станет общаться с клиентами напрямую, потому что существует чёткий механизм эскалации проблем. Обойти его на неформальных договорённостях не получится.

Как правильно? Даже не пробуйте решить вопросы неформально.

Служба технической поддержки HOSTKEY работает круглосуточно и отвечает на обращения клиентов в течение 15 минут. Специалисты поддержки говорят на русском и английском языках, а с ключевыми клиентами работает выделенный менеджер. В ней принимают обращения как через систему тикетов и e-mail, так и через WhatsApp, Telegram и Facebook*.

Заключайте договор на максимально возможный срок, чтобы получить хорошую скидку.

Ожидания: Если западноевропейская площадка предлагает большие скидки за длительный договор с гарантированной оплатой, лучше брать по максимуму. Договор всегда можно расторгнуть.

Реальность: Мы уже писали, что контракт в Европе незыблем. Расторгнуть его досрочно практически невозможно, разве что по обоюдному соглашению сторон и с огромной неустойкой. Если вы арендовали стойку на пять лет с существенной скидкой, окажется дешевле оплачивать ненужную услугу до истечения этого срока.

Как правильно? Не гонитесь за большими скидками, заключайте контракт, исходя из реальных потребностей. Транслируйте условия договоров своим клиентам. Однако здесь есть и плюс: контракт действует в обе стороны, и если вы не нарушаете условия договора, то арендодатель не сможет вас выселить. Если он попробует это сделать, обратитесь в суд и получите хорошую компенсацию.

Кейс HOSTKEY: «Однажды мы подписали не глядя контракт на доступ в Интернет с сетевой компанией, а качество услуг оказалось неудовлетворительным — связанность с Восточной Европой не подошла клиенту, и он не смог использовать канал. Формально провайдер условий SLA не нарушил, всё пингуется. В итоге нам пришлось платить в течение года, хотя фактически услугой мы не пользовались».

Прочитав и подписав договор, не бойтесь сюрпризов.

Ожидания: В Западной Европе отношения с площадкой регулируются суровым законодательством, договором, SLA и прочими документами, а значит, подводных камней быть не может. Здесь не принято обманывать.

Реальность: В основном это так, но есть нюансы. Установка какой-нибудь премиум-кроссировки может стоить €50, а вы об этом даже не задумаетесь. Обычно информация есть в прайс-листах, но изучить их во всех деталях нереально. Или площадка может отказаться что-то делать, потому что она так не работает: этим обычно грешат крупные компании. В России тоже такое случается, но у мелких заказчиков есть какие-то рычаги воздействия на поставщика услуг. В Западной Европе все иначе: если не устраивает, то делайте сами, или вот цена за эту услугу. Не нравится? Не берите.

Как правильно? От этого не застрахован ни один клиент. Внимательно изучайте документы и помните, что цель площадки — извлечение прибыли, а не благотворительность. Задавайте вопросы, вычитывайте всё до буквы. Если договор идет по оферте, подумайте, что предпринять, если ЦОД в одностороннем порядке ее изменит и вам внезапно надо будет платить в два раза больше. Если подписываете контракт, смотрите, чтобы он не ссылался на внешние документы, которые подрядчик может сам менять как захочет и когда захочет.

Кейс HOSTKEY: «Мы однажды так потеряли €30 тыс.: в договоре было написано, что перерасход трафика свыше квоты стоит €5/Гбайт (а не за 1 Тбайт, как мы ожидали). Не обратили внимания, а потом стало поздно — так часто бывает с сетевым трафиком в западноевропейских дата-центрах, особенно на длительных контрактах. Есть проблемы и с арендой стоек: даже профессионалу может быть не до конца понятно, сколько именно он заплатит за стойку с 5 кВт электричества — электропитание могут посчитать отдельно».

Бонус: не слушайте чужих советов

Если без шуток, то надеемся, что эти советы помогут вам быстро и без потерь разобраться в тонкостях услуг Colocation в Западной Европе. Если у вы хотите разместить ваше оборудование в дата-центре класса TIER III в Амстердаме или TIER IV в Москве, или у вас есть необходимость в обслуживании вашей серверной инфраструктуры в Нидерландах, свяжитесь с Hostkey, и вам предоставят коммерческое предложение в течение 3–5 рабочих дней.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Хостинг-провайдер HOSTKEY начал внедрение инновационной системы охлаждения серверов на базе контурных теплопередающих трубок Теркон. Пилотный проект по развёртыванию новой технологии проводится на в московском дата-центре Data Pro I, где HOSTKEY арендует мощности для размещения серверов клиентов и собственной инфраструктуры.

В новой системе охлаждения тепло отводится от оборудования специальными тепловыми трубками — терконами. Терконы — инновационная разработка российской компании Теркон-КТТ. Это контурные тепловые трубы для передачи тепла, охлаждения и термостабилизации. Терконы крепятся к процессору и иным тепловыделяющим элементам сервера, а конденсатор терконов — к теплообменной шине. От них тепло отводится на внешний теплообменник.

Фото: HOSTKEY/Теркон-КТТ

В трубках теркон тепло отводится за счёт фазового перехода теплоносителя из жидкости в пар и капиллярной пористой структуры, которая работает как насос. Движение пара и жидкости в них осуществляется по раздельным гладкостенным трубопроводам. Благодаря капиллярному давлению теркон прокачивает потоки жидкости и пара при любой ориентации в поле тяжести на значительное расстояние без затрат электроэнергии.

Такой способ теплоотвода показывает заметно большую эффективность, чем стандартный — охлаждение воздухом с помощью вентиляторов. В трубках теркон нет механических подвижных частей, это обеспечивает долгий срок службы и сводит до минимума износ и вероятность поломки. Использование эффективной системы охлаждения на базе терконов позволяет размещать больше мощных серверов с комплектующими последних поколений на той же площади за счёт повышения допустимой нагрузки на одну серверную стойку.

Так, при проектировании ЦОД закладывается средняя мощность стойки на уровне 5–7 кВт. При превышении этого порога появляется серьёзная угроза перегрева как оборудования в стойке, так и в целом в машинном зале. Такой подход накладывают ограничения как на класс используемого оборудования, так и на плотность его размещения в стойках. Использование процессоров с высоким энергопотреблением диктует дополнительные требования к системе охлаждение. Низкая эффективность воздушного охлаждения и высокое тепловыделение приводят к необходимости изменения форм-фактора радиаторов и изменению высоты сервера с 1U до 2U, что уменьшает максимально возможное количество установленного оборудования в стойку.

Использование охлаждения на базе трубок теркон позволяет повысить мощность ИТ-нагрузки до 25 кВт, так как тепло с процессоров не рассеивается в машинном зале, а отводится за его периметр, а отказ от громоздких радиаторов даёт возможность разместить в стойках больше серверов и повысить эффективность использования площадей в ЦОД.

После внедрения системы охлаждения HOSTKEY сможет обеспечить клиентам новые выгодные условия по аренде серверных стоек, высочайшую надёжность и безотказность сервиса, а также предложить новые продукты с оборудованием последних поколений.

«По результатам пилотного проекта мы можем с уверенностью сказать, что внедрение системы охлаждения Теркон помогает ощутимо снизить стоимость эксплуатации ИТ-инфраструктуры, — комментирует генеральный директор HOSTKEY в России Андрей Шевченко. — Благодаря повышению плотности серверов мы можем разместить больше оборудования наших клиентов на той же площади без потери качества и снижения уровня сервиса. Кроме того, сокращаются издержки и на охлаждение оборудования, и на питание самих серверов. Мы оцениваем пилотный проект как очень успешный и планируем масштабировать его на другие наши площадки в дата-центрах. Что, в свою очередь, даст нам возможность предложить более выгодные условия аренды мощных серверов нашим клиентам».

«Мы приветствуем внедрение инновационной технологии, разработанной российскими изобретателями, в ИТ-инфраструктуру международного хостинг-провайдера HOSTKEY, — говорит генеральный директор компании Теркон-КТТ Аркадий Иванов. — Уверен, что это только начало плодотворного сотрудничества, которое будет способствовать как росту бизнеса нашего партнёра, так и популяризации российских инновационных разработок на международных рынках».

Массовый (и часто вынужденный) перевод проектов на «удалёнку», организация распределённых команд и продуктивной работы из любой точки мира — болезненная задача для всех использующих производительное оборудование и ресурсоёмкий софт. Домой их по ряду причин не перенесёшь, а вот организовать качественный удалённый доступ из любого места без лишних затрат всё-таки можно. Рассказываем о первом проверенном нами способе комфортной «удалёнки» практически с любого устройства.

Изображения: Hostkey

В чём проблема, док?

Рядовому сотруднику достаточно подключения к удалённому рабочему столу по протоколу RDP или доступа к корпоративным ресурсам с собственного ноутбука, и здесь у айтишников возникают только сложности с обеспечением безопасности. Если специалисту нужны использующие 3D-ускорение ресурсоёмкие приложения, это проблема совершенно другого уровня.

Информационное моделирование зданий (BIM), разные виды проектирования (CAD, CAM и т. д.), геологическое моделирование, связанные с рендерингом задачи, работа с нейросетями и даже создание приложений — серьёзные расчеты невозможны без графических процессоров, а для доступа к производительной рабочей станции или серверу обычного Remote Desktop зачастую не хватает. Установить оборудование на дому, как правило, невозможно: слишком много препятствий, вроде отсутствия в помещении необходимой инженерной инфраструктуры или недостаточно высокой пропускной способности каналов передачи данных (информация для обработки обычно хранится внутри корпоративной инфраструктуры).

При этом в офисах под такие задачи часто используют рабочие станции с игровыми картами NVIDIA, что не позволяет задействовать для «удалёнки» популярные корпоративные решения.

Недостатки коммерческих решений

Задача обеспечить работу из дома на производительной станции обычно решается с помощью специальных продуктов (Citrix, Horizon) и аппаратных средств, вроде карт и ПО Teradici.

Такие варианты подходят далеко не всем по причине:

• существенной стоимости подписки/лицензий;
• высокой сложности ПО, которое не сможет установить необученный администратор;
• серьёзных требований к клиентскому устройству;
• ограничений в использовании, т. е. упомянутые решения не работают с игровыми картами: там совместимость начинается от линейки NVIDIA Quadro, которая стоит далеко не у всех пользователей в офисных рабочих станциях.

Как мы уже говорили, в офисах более популярны машины с игровыми картами NVIDIA. Ориентируясь на них, мы проверили более удобный и доступный вариант. О нём и расскажем.

Бесплатная альтернатива

Связанные с удалённым использованием графического процессора задачи решает Moonlight. Этот бесплатный программный продукт с открытым исходным кодом использует протокол NVIDIA GameStream. Он связывает сервер и клиентское устройство и обеспечивает мгновенное удалённое взаимодействие сотрудников с офисными настольными компьютерами и рабочими станциями из любого места.

Попробовать Moonlight для удалённой работы стоит, если вы заняты:

• BIM, CAD, CAM и другими видами проектирования;
• проектированием и обучением нейросетей, включая data science;
• фармакологическими и медицинскими исследованиями;
• рендерингом;
• разработкой ПО.

Два основных достоинства Moonlight:

• кросс-платформенность — клиентские приложения работают на Windows, MacOS, Linux и Android;
• универсальность — в отличие от NVIDIA Shield, Moonlight не имеет жёсткой привязки к решениям одного производителя — совместимый видеоадаптер и софт панели управления NVIDIA должны быть установлены на сервере, а для клиента годится видеокарта любого производителя.

Другие преимущества Moonlight:

• низкая задержка подключения и возможность получить на устройстве-клиенте до 60 к/с;
• возможность передачи изображения с разрешением до 4К;
• простота использования.

Особенности установки Moonlight

Подробно процесс инсталляции описан в репозитории разработчика на GitHub, а мы остановимся на его ключевых и неочевидных моментах. Чтобы развернуть ПО, нужно пройти несколько больших этапов на клиенте (локальном устройстве пользователя) и сервере или рабочей станции (хосте). Но для начала стоит разобраться с архитектурой Moonlight:

Теперь обратим внимание на важные моменты

Первый: на хосте обязательно должны быть установлены видеокарта NVIDIA с поддержкой панели управления NVIDIA (начиная с GeForce GTX 650 и старше), Moonlight Internet Hosting Tool и приложение панели управления NVIDIA. На клиентском устройстве нужно только приложение Moonlight.

Второй момент: в панели следует настроить работу NVIDIA Shield. Для этого достаточно перейти в параметры приложения, выставить переключатель в положение «включено» (зеленый) и добавить путь к утилите mstsc.exe: «C:windowssystem32mstsc.exe».

Эта настройка предоставляет удалённый доступ к рабочему столу через Moonlight. При первом подключении к серверу необходимо ввести пароль для панели управления NVIDIA (он высветится в клиенте Moonlight).

Пароль будет запомнен для IP-адреса сервера. Moonlight использует следующие порты:

• TCP 47984, 47989, 48010;
• UDP 47998, 47999, 48000, 48002, 48010.

Третий момент: для удаленного управления сервером не следует использовать протокол RDP, так как он не позволяет настраивать NVIDIA Shield. Для доступа к рабочему столу вам потребуется другой клиент:

• UltraVNC
• Anydesk
• TeamViewer

Стабильность и комфорт работы с Moonlight зависит от качества интернет-соединения. Разработчики рекомендуют использовать программу при скорости исходящего потока от клиентского устройства пользователя к серверу не менее 5 Мбит/с. Обычно для этого клиенту требуется кабельное подключение к Интернету.

При этом на рекомендуемой скорости, как показали тесты, стабильное изображение можно получить только в разрешении 800 × 600. А на модеме с DOCSIS/DSL 6M удалось увидеть нормальную картинку в 3D с разрешением 1024 × 768. На практике выяснилось, что для HD и 4К нужно Интернет-подключение со скоростью не ниже 100 Мбит/с и аналогичное же подключение со стороны сервера/рабочей станции.

Moonlight позволяет проводить гибкую настройку качества передачи изображения с хоста на локальное устройство пользователя:

Четвёртый важный момент: по умолчанию битрейт устанавливается в зависимости от скорости интернет-соединения. Чем оно лучше, тем выше качество изображения и меньше задержка.

Для выбора необходимого битрейта можно использовать следующую таблицу:

И пятый: на качество работы с Moonlight также влияет задержка самого интернет-соединения. Она может определяться расстоянием между сервером и клиентом, топологией сети, уровнем загрузки каналов, сбоями в работе оборудования и иными причинами. В процессе нашего тестирования задержка не превышала 80 мс, что соответствует необходимому для комфортного гейминга и работы с ресурсоемким ПО показателю.

Для корректной работы Moonlight на сервере к GPU должен быть подключен монитор или вставлена HDMI/DisplayPort-заглушка, иначе разрешение не поднимется выше базовых 800 × 600.

Проверили на практике: примеры работы Moonlight

Для иллюстрации работы программного обеспечения мы провели несколько тестов:

• просмотр видео Big Buck Bunny 4K@60;
• просмотр и рендер сцены The Junk Shop в Blender;
• игра в Hellblade Senua's Sacrifice с максимальными настройками графики.

Мы решили воспроизвести рабочую ситуацию и в офисе HOSTKEY запустили тесты на машине со следующими характеристиками:

• ОС: Microsoft Windows Server 2019 Standard;
• Процессор: Intel Xeon E3-1230 v6, 3,5 ГГц;
• Видеокарта: NVIDIA GeForce GTX 1080 Ti (11 Гбайт);
• Оперативная память: 16 Гбайт.

При запуске Moonlight на клиенте была получена стабильная трансляция с разрешением 3840 × 2160 и 60 FPS при битрейте в 80 Мбит/с. Отклик приложений был плавным и практически не отличался от управления непосредственно на том устройстве, на котором установлено программное обеспечение. Здесь можно посмотреть записи трансляций:

• Видео Big Buck Bunny
• Blender
• Hellblade Senua's Sacrifice

Итак, проблема дистанционной работы с ресурсоёмкими приложениями оказалась решаемой, причём Moonlight — это далеко не единственный способ обеспечить себе комфортный рабочий процесс вдали от офиса. В следующих постах мы расскажем о других вариантах полноценного удалённого доступа к ПО и оборудованию для рендеринга, проектирования и обучения нейросетей.

Изучите подробную инструкцию по использованию Moonlight на серверах HOSTKEY и арендуйте готовый GPU-сервер с моментальным развёртыванием или сервер индивидуальной конфигурации с профессиональными картами NVIDIA RTX 4000/5000/A6000. Эти решения идеальны для удалённого доступа к высоконагруженным приложениям из любой точки мира.

Нидерландский хостинг-провайдер HOSTKEY заключил соглашение об аренде серверных стоек в дата-центре класса TIER III с западноевропейской компанией euNetworks. Новые ресурсы HOSTKEY использует для размещения серверов клиентов (colocation), развития частных и гибридных облачных решений, а также расширения собственной IT-инфраструктуры, в том числе - выделенных серверов для сдачи в аренду клиентам.

Изображение: HOSTKEY

Благодаря запуску проекта в euNetworks клиенты HOSTKEY получили доступ к хостингу в одном из лучших европейских ЦОД вне зависимости от размера их бизнеса: от размещения одного сервера для малого бизнеса и частных лиц до аренды стоек с расширенным пакетом услуг по поддержке IT-инфраструктуры для крупных проектов.

В рамках долгосрочного контракта HOSTKEY арендовал выделенный коридор из серверных стоек в дата-центре euNetworks, расположенном в Амстердаме. Инфраструктура дата-центра соответствует классу надежности Tier III по международной классификации Uptime Institute , что гарантирует отказоустойчивость на уровне 99,982%.

Изображение: euNetworks

Дата-центр euNetworks расположен на юге Амстердама в хорошей транспортной доступности — 30 минут езды до аэропорта и 15 минут до центра города. Все системы охлаждения и электропитания стоек ЦОД имеют резервирование по схеме N+1. На каждую стойку подается 2 независимых защищенных ввода через 32А PDU. ЦОД гарантирует физическую защиту размещенного оборудования и строгий контроль доступа в машинные залы. Противопожарная безопасность обеспечивается системами газового пожаротушения и раннего предупреждения о задымлении. На площадке постоянно присутствуют дежурная смена и охрана ЦОД. Серверы находятся под защитой от DDoS атак с возможностью расширения спектра защиты под потребности клиентов.

Мощности HOSTKEY напрямую подключены к сетям передачи данных euNetworks, связывающим ведущих мировых операторов связи и точки обмена трафиком AMS-IX, NL-IX, Speed-IX, Data-IX и Global-IX через магистральные оптоволоконные каналы высокой пропускной способности. Наличие одного из центральных узлов связи и обмена трафиком непосредственно в ЦОД гарантирует клиентам HOSTKEY бесперебойную доступность услуг и высокие скорости доступа.

Клиенты HOSTKEY, разместившие серверы в ЦОД euNetworks, также могут получить расширенный сервисный пакет в рамках комплексной услуги remote smart hands. Инженерны HOSTKEY обеспечивают полный цикл поддержки IT-инфраструктуры. Предоставляются консультации по подбору, настройке и покупке оборудования на европейском рынке со значительными скидками, развертывание сетевой инфраструктуры, логистические и складские услуги, работы по техподдержке, модернизации серверов, устранению аварий, ремонту и демонтажу оборудования с последующей утилизацией или продажей. Большой опыт HOSTKEY на европейском и российском рынках обеспечивает клиентам компании значительную экономию при покупке оборудования, сжатые сроки запуска проектов и сокращение издержек на технический персонал.

«Аренда серверных площадей в амстердамском дата-центре — только начало стратегического партнерства с euNetworks, — комментирует генеральный директор HOSTKEY Йерун де Би (Jeroen de Bie). — Сотрудничество с надежным международным партнером, владеющим крупнейшей сетью ЦОД в Европе, дает HOSTKEY возможность продолжить активный рост, развитие новых продуктов и услуг и позволит масштабировать бизнес не только в Нидерландах, но и в других европейских IT-хабах».

HOSTKEY B.V. — международный хостинг-провайдер с головным офисом в Нидерландах, более 10 лет оказывающий услуги по аренде серверов, размещению оборудования клиентов (colocation) и комплекс консалтинговых и профессиональных услуг по поддержке оборудования (remote smart hands) на базе дата-центров в Нидерландах, США и России. Компания предоставляет серверную инфраструктуру для запуска частных облачных решений. Все площадки HOSTKEY связаны между собой каналами связи с высокой пропускной способностью, что обеспечивает возможность построения геораспределенных решений и проектов.

euNetworks — ведущий западноевропейский поставщик услуг центров обработки данных и облачных услуг с головным офисом в Лондоне. Сеть euNetworks, включающая 17 крупных оптоволоконных сетей с высокой пропускной способностью, связывает основные IT-кластеры Европы. euNetworks управляет 27 центрами обработки данных (в Лондоне, Дублине, Амстердаме, Париже, Франкфурте, Кельне, Дюссельдорфе, Мюнхене, Гамбурге, Берлине, Вене, Милане и Мадриде и др.). Является лидером рынка средств связи для центров обработки данных, напрямую соединяя более 450 ЦОД в Европе, создавая идеальную среду для операторов связи и интернет-провайдеров для интеграции в их крупные инфраструктурные решения.

На смену устаревшей серии GTX10 и дефицитной RTX30 пришли наследницы серии Quadro — GPU NVIDIA RTX A4000 и А5000 на базе текущей архитектуры Ampere, которые были анонсированы в апреле 2021 года. Инженеры HOSTKEY сравнили эффективность использования новых ускорителей в GPU-серверах на различных типах нагрузок.

Ampere использует 8-нм техпроцесс от Samsung и поддерживает высокоскоростную память HBM2 и GDDR6(X). GDDR6X является шестым поколением памяти DDR SDRAM и может достигать скорости до 21 Гбит/с. В А5000 и А4000 NVIDIA использует ядра RT 2-го поколения и тензорные ядра 3-го поколения, позволяющие обеспечить двукратный прирост производительности по сравнению со старыми ядрами Turing. Новинки используют стандарт PCIe 4.0, что позволяет убрать узкие места при обмене данными с GPU.

В Ampere используется новая версия CUDA 8+. На чипе теперь есть два потоковых мультипроцессора, что обеспечивает значительный рост производительности FP32-вычислений по сравнению с картами на базе Turing. Старшие GPU A5000 и выше поддерживают NVLink 3.0 для попарного объединения карт, что это приводит к кратному увеличению производительности.

Технические характеристики видеокарт NVIDIA RTX A4000 и RTX A5000, RTX 3090, Quadro RTX 4000

На новых картах куда больше памяти, это позволяет эффективно работать с нейросетями и изображениями. Другим существенным отличием RTX A4000 и RTX A5000 является аппаратное ускорение размытия движения, позволяющее значительно сократить время и затраты на при рендеринге.

В старших картах от RTX A5000 есть поддержка vGPU и NVIDIA RTX vWS, что позволяет обеспечить совместное использование вычислительных ресурсов и виртуальных GPU несколькими пользователями. В среднем новые видеокарты NVIDIA обгоняют по производительности старую линейку Quadro в 1,5–2 раза и потребляют меньше электричества.

Тестирование HOSTKEY

Инженеры компании HOSTKEY провели собственное тестирование профессиональных видеокарт NVIDIA RTX A5000 и A4000 и сравнили их с RTX 3090 и Quadro RTX 4000 — представителем предыдущего поколения профессиональных видеокарт компании NVIDIA. Для тестов использовалась система следующей конфигурации:

• Процессор OctaCore Intel Xeon E-2288G, 3,5 ГГц
• 32 Гбайт DDR4-3200 ECC DDR4 SDRAM 1600 МГц
• Samsung SSD 980 PRO 1Tбайт (1000 GB, PCI-E 4.0 x4)
• Серверная материнская плата ASUS P11C-I Series (1 PCI-E x16, 1 M.2, 2 DDR4 DIMM, 2x Gigabit LAN + IPMI)
• Microsoft Windows 10 Professional 64-бит.

Tест V-Ray GPU RT

Тест V-Ray GPU CUDA

Тесты V-Ray GPU CUDA и RTX позволяют измерить относительную производительность GPU при рендеринге. GPU RTX A4000 и RTX A5000 значительно превосходят по производительности Quadro RTX 4000 и GeForce GTX 1080 Ti (тест V-Ray GPU RTX на этой карте провести невозможно, т.к. она не поддерживает технологию RTX), но уступают RTX 3090, что объясняется высокой пропускной способностью памяти (936,2 Гбайт/с против 768 Гбайт/с у RTX A5000) и количеством потоковых процессоров (10496 против 8192 у RTX A5000).

«Собаки против кошек»

Для сравнения производительности GPU для нейросетей был использован набор данных «Собаки против кошек» — тест анализирует содержимое фотографии и различает изображена на фото кошка или собака. Все необходимые исходные данные находятся здесь. Также этот тест был выполнен на разных GPU в различных облачных сервисах. Получены следующие результаты:

Полный цикл обучения

Полный цикл обучения тесовой нейросети занял от 5 до 30 мин. Результат NVIDIA RTX A5000 и A4000 составил 07:30 и 9:10 минут соответственно. Быстрее единичных NVIDIA RTX A5000 и A4000 работал только GPU-сервер с восемью картами GeForce RTX 2080Ti и с энергопотреблением около 2 кВт·ч. Видеокарты Tesla V100 прошлого поколения доступны в сервисах Google Cloud Compute Engine, Microsoft Azure и Amazon Web Services и показали наилучший результат из протестированных там карт.

Сколько стоит обучить нейросеть в разных местах?

На графике представлена стоимость обучения модели с использованием различных сервисов для следующих конфигураций:

• AWS — AWS p3.2xlarge
• Google Cloud — GCP Compute Engine
• Microsoft Azure — Tesla V100
• HOSTKEY — RTX А4000, RTX A5000

Заключение

Новые профессиональные видеокарты NVIDIA RTX A5000 и A4000 являются оптимальным решением для использования в GPU-серверах и позволяют выполнять сложные вычисления, производя быструю обработку больших массивов данных. Переход на новую архитектуру Ampere позволил значительно увеличить производительность новых профессиональных видеокарт NVIDIA. Улучшенные тензорные ядра и ядра RT значительно улучшают качество и возможности трассировки лучей в реальном времени.

Объем памяти в 16 Гбайт у NVIDIA RTX A4000 и 24 Гбайт у RTX A5000 позволяет обрабатывать большие массивы данных, а мост NVLink для A5000 объединяет две карты в одну, что даёт доступ уже к 48 Гбайт высокопроизводительной памяти. Что важно, лицензия на драйверы NVIDIA для профессиональных GPU (в отличие от игровых видеокарт) никак не ограничивает их использование в центрах обработки данных.

HOSTKEY рекомендует использовать современные выделенные и виртуальные GPU-серверы для рендеринга, транскодинга видео, обучения нейросетей и обработки данных уже обученными сетями. Если есть стабильный большой объем данных для обработки, аренда выделенных GPU-серверов может на порядок повысить скорость их обработки за те же деньги или позволит существенно сократить затраты на формирование собственной инфраструктуры.

Пока что HOSTKEY предоставляет GPU-серверы на базе помесячной оплаты, но в ближайшее время все эти машины будут доступны и в режиме почасовой оплаты с полной автоматизацией их предоставления клиенту при заказе через API. Кроме того, новые серверы с профессиональными картами RTX A5000 и A4000 доступны теперь не только в Нидерландах, но и в Москве.

HOSTKEY — динамично развивающийся хостинг-провайдер, который более 10 лет оказывает услуги по размещению и аренде серверов, проектированию и внедрению частных облаков, лизингу и обслуживанию оборудования. HOSTKEY предоставляет серверы в аренду в дата-центрах категории TIER III в Европе, США и России, а также оказывает услуги проектирования, запуска и поддержки приватных облаков, поддержки серверов в любых дата-центрах в Нидерландах. Компания работает как с корпоративными клиентами, так и с частными лицами.

В начале сентября 2020 г. компания NVIDIA впервые представила графические карты семейства GeForce RTX 3000 на базе архитектуры RTX второго поколения — Ampere. NVIDIA нарушила свою традицию, когда новые поколения карт продавались дороже своих предшественников, а это значит, что стоимость тренировки модели оставалась примерно на одном уровне.

В этот раз NVIDIA установила стоимость новых и более популярных карт на уровне стоимости карт предыдущего поколения в момент начала их продаж. Для разработчиков ИИ-приложений это событие стало действительно важным — по сути, карты RTX 3000 открывают доступ к производительности, сравнимой с Titan RTX, но с гораздо более приятным ценником. Теперь у разработчиков data science появилась возможность тренировать модели быстрее без увеличения затрат.

Флагманские карты новой серии GeForce RTX 3090 получили 10 496 ядер NVIDIA CUDA с тактовой частотой 1,44 ГГц (ускорение до 1,71 ГГц), 328 тензорных ядер третьего поколения и 24 Гбайт 384-битной графической памяти GDDR6X. Еще более доступная по цене GeForce RTX 3080 обладает 8 704 ядрами CUDA с теми же тактовыми частотами, 272 тензорными ядрами и 10 Гбайт 320-битной памяти GDDR6X. Несмотря на дефицит новых видеокарт (NVIDIA даже была вынуждена приносить извинения рынку за образовавшуюся нехватку карт на старте продаж), уже в начале октября GPU-серверы появились в линейке продуктов у хостинг-провайдеров.

Нидерландский провайдер HOSTKEY одним из первых в Европе протестировал и представил GPU-серверы на базе новых карт GIGABYTE RTX3090/3080 TURBO. С 26 октября конфигурации на базе RTX 3090/Xeon E-2288G и RTX 3080/AMD Ryzen 9 3900X стали доступны всем клиентам HOSTKEY в дата-центрах в Нидерландах и Москве.

NVIDIA RTX 3000: золотая середина?

Карты RTX3090/3080 позиционируются производителем как более производительное решение на замену карт серии RTX 2000 с предыдущей архитектурой Turing. И, конечно, серверы с новыми картами значительно производительнее, чем доступные «народные» GPU-серверы на базе видеокарт GTX1080 (Ti), которые тоже пригодны для работы с нейросетями и прочими задачами машинного обучения (хотя и с оговорками), но при этом доступны по совсем уж «демократичным» ценам.

«Над» серией NVIDIA RTX 3000 располагаются все мощные решения на базе карт класса A100/A40 (Ampere) с тензорными ядрами третьего поколения числом до 432, Titan RTX/T4 (Turing) с тензорными ядрами второго поколения в количестве до 576, и V100 (Volta) с 640 тензорными ядрами первого поколения. Ценники на эти мощные карты, равно как и на аренду GPU-серверов с ними, значительно превышают предложения с RTX 3000, поэтому особенно интересно оценить на практике разрыв в производительности в задачах AI/ML.

Практические исследования

Face Reenactment

Одной из рабочих задач для оперативного тестирования GPU-серверов на основе новых карт RTX 3090 и RTX 3080 был выбран процесс Face Reenactment для нейросети U-Net+ResNet с пространственно-адаптивной нормализацией SPADE и patch-дискриминатором. В качестве фреймворка использовался Facebook* PyTorch версии 1.6 со встроенным автоматическим режимом Automated mixed precision (AMP), а также режимом флага torch.backend.cudnn.benchmark = True.

Для сравнения этот же тест был запущен на GPU-сервере с картой GeForce GTX 1080 Ti, но уже без AMP, который только замедлил бы процесс, а также на машине с картой Titan RTX. Для чистоты эксперимента следует упомянуть, что в этом тестировании с картой Titan RTX использовалась система на процессоре Intel Core i9-10920X, в то время как остальные GPU-серверы со всеми остальными картами работали на Xeon E-2288G.

Безусловно, сравнение при классификации важно производить на одинаковых процессорах, поскольку именно они зачастую являются «бутылочным горлышком», ограничивающим производительность системы. Так что доля скептицизма в отношении погрешности результатов тестирования GPU в данном случае вполне уместна. Мы получили следующие результаты:

Минимальная разница между результатами RTX 3090 и Titan RTX выглядит особенно впечатляюще, если вспомнить об огромном ценовом разрыве между этими решениями. В следующем тестировании RTX 3090 заслуживает, как минимум, полноценного глубокого сравнения с GPU-сервером на базе одной и двух карт RTX 2080. Отставание RTX 3080 от RTX 3090 вполне объяснимо значительной разницей в объеме памяти — 10 Гбайт против 24 ГБ, на соответственное двух- и трехкратное отставание GTX 1080 Ti также наложила свой отпечаток разница в архитектурах.

Если же посмотреть на эти результаты с практической точки зрения, то есть в плане оценки финансовых расходов на обучение модели в случае аренды GPU-сервера, то чаша весов окончательно склоняется в пользу выбора системы с RTX 3090 — именно эта карта обеспечит наилучший использование бюджета как при недельном, так и при месячном тарифных планах.

Обучение GAN

Во второй тестовой задаче, которая заключалась в тренировке генеративно-состязательной нейронной сети (Generative Adversarial Network, GAN) с пакетом PyTorch, было интересно не только сравнить производительность карт различных поколений, но также отследить влияние состояния флага torch.backends.cudnn.benchmark на финальные результаты. При обучении GAN-архитектуры включение флага в положение True дает прирост производительности, но при этом может пострадать воспроизводимость результатов (Reproducibility).

Полученные результаты еще раз доказывают, что карта RTX 3090 с ее 24 Гбайт памяти GDDR6X представляет собой лучший выбор для решения тяжелых задач по обработке изображений. Как по производительности (выигрыш на 65% по сравнению с RTX 3080), так и по затратам на тренинг модели при аренде GPU-сервера в пересчёте на стоимость тренировки.

RTX 3080 значительно обошла по производительности GTX 1080 Ti, причём с любой установкой флага и несмотря на примерный паритет объема памяти. Однако следует помнить, что при обучении GAN-архитектуры включение флага torch.backends.cudnn.benchmark=True дает прирост производительности, но при этом может пострадать воспроизводимость результатов. причем,

Так что аренда более доступного GPU-сервера с картами GTX 1080 Ti при некоторых условиях может быть вполне разумным выбором — или, как минимум, сравнима по бюджету на тренинги моделей с RTX 3080. К сожалению, на прогон этой сетки через Titan RTX времени уже не оставалось, но с большой вероятностью картина в этом случае осталась бы аналогичной.

Обучение и инференс в vision-задачах

В следующей тестовой задаче по тренингу сетей в vision-задачах производительность видеокарт RTX 3090 и RTX 3080 сравнивалась с возможностями мощнейшего (и все еще очень дорогого) «ветерана» Tesla V100 с 16 Гбайт памяти HBM2. Было протестировано пять классификационных моделей для обнаружения объектов со следующими тренинговыми установками: model forward + mean (no loss) + backward.

Тестовые задания запускались с применением последней версии фреймворка NVIDIA PyTorch (20.09-py3 от 24 октября). К сожалению, эта версия не собрана под архитектуру Ampere, поэтому для полноценной поддержки видеокарт RTX 3000 пришлось использовать PyTorch версии nightly build, а именно 1.8.0.dev20201017+cu110. У серии RTX 3000 также есть некоторые проблемы с torch.jit, но вопрос полностью снимается при сборке PyTorch под конкретную карту. Во всех тестах PyTorch использовался с автоматическим скриптом Mixed Precision, с включенным по умолчанию флагом torch.backend.cudnn.benchmark = True.

Стоит упомянуть некоторые нюансы этого сравнения. В частности, была задействована не самая быстрая V100, которая работала внутри виртуальной машины. Из-за этого могли возникнуть некоторые потери, которые, вполне возможно, можно было бы оптимизировать при лучшей настройке. Помимо этого, в процессе тестирования не была задействована вся доступная VRAM, что позволило бы придать расчетам дополнительное ускорение.

Classification Training

Задача обучения сложных моделей нейросетей является профильным заданием для GPU-серверов на картах NVIDIA, позволяя порой на порядки сократить время тренировки алгоритмов глубокого обучения.

В условиях запуска задачи для получения результатов бенчмарка пересылка обнаружения объектов производилась без NMS, а пересылка для обучения не включала сопоставления целей. Иными словами, на практике скорость обучения с большой вероятностью замедлится на 10-20%, а скорость вывода снизится примерно на 20-30%.

Classification Inference

В данном случае инференс — это процесс получения предсказаний посредством прогона изображений через заранее обученную нейронную сеть, который вполне подходит для развертывания на удаленном GPU-сервере.

В целом можно говорить о том, что в заданиях тренировки и инференса сетей в Vision-задачах карта RTX 3090 медленнее Tesla V100 в среднем всего на 15-20%, и это очень впечатляюще — особенно с учетом разницы в цене.

Показателен и тот факт, что отставание RTX 3080 от RTX 3090 относительно невелико — по крайней мере, значительно меньше, чем при выполнении других задач. На практике это означает, что даже со сравнительно небольшим бюджетом, выделенным на аренду GPU-сервера на базе RTX 3080, можно добиться достаточно высокой производительности лишь с небольшим увеличением затрат времени на обработку данных.

Detection Training

Тестирование RetinNet c ResNet50FPN для обнаружения объектов производилось с указанными выше параметрами PyTorch (20.09-py3 от 24 октября), с флагом torch.backend.cudnn.benchmark=True и с тренинговыми установками model forward + mean (no loss) + backward.

Detection Inference

Здесь отставание карт серии RTX30 уже минимально, что говорит о несомненных преимуществах новой архитектуры Ampere для решения подобных задач. Карта RTX 3090 показала себя просто великолепно.

Сравнительно небольшое отставание бюджетной карты говорит о том, что благодаря отличному соотношению цена/возможности RTX 3080 может стать желанным выбором для решения задач прототипирования с экономичным бюджетом. По завершению создания прототипа модель можно масштабировать, развернув, например, на GPU-серверах с картами RTX 3090.

Заключение

По итогам тестирования новых графических решений семейства GeForce RTX 3000 можно с уверенностью утверждать, что компания NVIDIA блестяще справилась с задачей выпуска доступных видеокарт с тензорными ядрами, достаточно производительными для быстрых ИИ-вычислений. В некоторых задачах обучения сетей, таких как работа с разреженными сетями (Sparse network), преимущества архитектуры Ampere над поколением RTX20 позволяют добиться ускорения процесса в два раза.

Преимущества использования GPU-серверов с картами GeForce RTX 3090 особенно очевидны в задачах, где обучение моделей связано с повышенными требованиями к объему памяти — при анализе медицинских снимков, современном моделировании компьютерного зрения и везде, где есть необходимость обработки очень крупных изображений — например, при работе с GAN-архитектурами.

В то же время RTX 3080 с ее 10 Гбайт графической памяти вполне подойдет для работы с задачами глубокого машинного обучения, поскольку для изучения основ большинства архитектур вполне достаточно уменьшить размер сетей или использовать на входе изображения меньшего размера, а затем при необходимости масштабировать модель до необходимых параметров на более мощных GPU-серверах.

С учетом того, что память HBM, применяемая в картах класса A100, вряд ли существенно подешевеет в ближайшее время, можно сказать, что карты RTX 3090 / RTX 3080 являются вполне эффективной инвестицией на несколько ближайших лет.

Нидерландский хостинг-провайдер HOSTKEY предлагает широкий ассортимент GPU-серверов в дата-центрах в Нидерландах и в Москве на основе как GPU последнего поколения RTX3080 и RTX3090, так и на основе карт предыдущих поколений RTX2080Ti и GTX1080Ti/1080. Компания предлагает как готовые к работе серверы, так и серверы с индивидуальными конфигурациями, которые идеально отвечают потребностям заказчика. Компания благодарит Эмиля Закирова и Александра Широносова за помощь в проведении тестов.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Компания HOSTKEY сообщила о доступности для аренды в Москве и Нидерландах серверов с новейшими ускорителями NVIDIA GeForce RTX 3080 и RTX 3090.

Согласно внутренним тестам компании, новые конфигурации машин с RTX 3080 и RTX 3090 в задачах, связанных с машинным обучением, быстрее систем с RTX 2080 Ti (GPU прошлого поколения) до 30% и 40% соответственно.

Доступные для заказа конфигурации в Нидерландах:

• NVIDIA GeForce RTX 3090 / Intel Xeon E-2288G (8 ядер 3,7 ГГц) / 32 Гбайт RAM / 480 Гбайт SSD — €249/мес.
• 2 × NVIDIA GeForce RTX 3090 / Intel Xeon E-2288G (8 ядер 3,7 ГГц) / 64 Гбайт RAM / 960 Гбайт SSD — €415/мес.
• 4 × NVIDIA GeForce RTX 3090 / Intel Xeon E-2288G (8 ядер 3,7 ГГц) / 128 Гбайт RAM / 960 Гбайт SSD — €729/мес.

Срок сдачи — до 10 рабочих дней.

Доступная для заказа конфигурация в Москве:

• NVIDIA GeForce RTX 3080 / AMD Ryzen 9 3900 (12 ядерр 3,7 ГГц) / 32 Гбайт RAM / 480 Гбайт SSD — €199/мес.

Срок сдачи — 1 рабочий день.

Конфигурации могут быть изменены под потребности заказчика. Если для вашего проекта требуется больший объем оперативной памяти или дискового пространства, свяжитесь с отделом продаж.

Компания предупреждает, что из-за высокого спроса на новые серверы и в связи с дефицитом новых карт на рынке первая поставка новых серверов будет быстро распродана. Не упустите момент одним из первых оценить возможности новых карт!