Материалы по тегу: microsoft

16.11.2023 [02:43], Алексей Степин

Microsoft представила 128-ядерый Arm-процессор Cobalt 100 и ИИ-ускоритель Maia 100 собственной разработки

Гиперскейлеры ради снижения совокупной стоимости владения (TCO) и зависимости от сторонних вендоров готовы вкладываться в разработку уникальных чипов, изначально оптимизированных под их нужды и инфраструктуру. К небольшому кругу компаний, решившихся на такой шаг, присоединилась Microsoft, анонсировавшая Arm-процессор Azure Cobalt 100 и ИИ-ускоритель Azure Maia 100.

 Изображения: Microsoft

Изображения: Microsoft

Первопроходцем в этой области стала AWS, которая разве что память своими силами не разрабатывает. У AWS уже есть три с половиной поколения Arm-процессоров Graviton и сразу два вида ИИ-ускорителей: Trainium для обучения и Inferentia2 для инференса. Крупный китайский провайдер Alibaba Cloud также разработал и внедрил Arm-процессоры Yitian и ускорители Hanguang. Что интересно, в обоих случаях процессоры оказывались во многих аспектах наиболее передовыми. Наконец, у Google есть уже пятое поколение ИИ-ускорителей TPU.

Microsoft заявила, что оба новых чипа уже производятся на мощностях TSMC с использованием «последнего техпроцесса» и займут свои места в ЦОД Microsoft в начале следующего года. Как минимум, в случае с Maia 100 речь идёт о 5-нм техпроцессе, вероятно, 4N. В настоящее время Microsoft Azure находится в начальной стадии развёртывания инфраструктуры на базе новых чипов, которая будет использоваться для Microsoft Copilot, Azure OpenAI и других сервисов. Например, Bing до сих пор во много полагается на FPGA, а вся ИИ-инфраструктура Microsoft крайне сложна.

Microsoft приводит очень мало технических данных о своих новинках, но известно, что Azure Cobalt 100 имеет 128 ядер Armv9 Neoverse N2 (Perseus) и основан на платформе Arm Neoverse Compute Subsystem (CSS). По словам компании, процессоры Cobalt 100 до +40 % производительнее имеющихся в инфраструктуре Azure Arm-чипов, они используются для обеспечения работы служб Microsoft Teams и Azure SQL. Oracle, вложившаяся в своё время в Ampere Comptuing, уже перевела все свои облачные сервисы на Arm.

Чип Maia 100 (Athena) изначально спроектирован под задачи облачного обучения ИИ и инференса в сценариях с использованием моделей OpenAI, Bing, GitHub Copilot и ChatGPT в инфраструктуре Azure. Чип содержит 105 млрд транзисторов, что больше, нежели у NVIDIA H100 (80 млрд) и ставит Maia 100 на один уровень с Ponte Vecchio (~100 млрд). Для Maia организован кастомный интерконнект на базе Ethernet — каждый ускоритель располагает 4,8-Тбит/с каналом для связи с другими ускорителями, что должно обеспечить максимально эффективное масштабирование.

Сами Maia 100 используют СЖО с теплообменниками прямого контакта. Поскольку нынешние ЦОД Microsoft проектировались без учёта использования мощных СЖО, стойку пришлось сделать более широкой, дабы разместить рядом с сотней плат с чипами Maia 100 серверами и большой радиатор. Этот дизайн компания создавала вместе с Meta, которая испытывает аналогичные проблемы с текущими ЦОД. Такие стойки в настоящее время проходят термические испытания в лаборатории Microsoft в Редмонде, штат Вашингтон.

В дополнение к Cobalt и Maia анонсирована широкая доступность услуги Azure Boost на базе DPU MANA, берущего на себя управление всеми функциями виртуализации на манер AWS Nitro, хотя и не целиком — часть ядер хоста всё равно используется для обслуживания гипервизора. DPU предлагает 200GbE-подключение и доступ к удалённому хранилищу на скорости до 12,5 Гбайт/с и до 650 тыс. IOPS.

Microsoft не собирается останавливаться на достигнутом: вводя в строй инфраструктуру на базе новых чипов Cobalt и Maia первого поколения, компания уже ведёт активную разработку чипов второго поколения. Впрочем, совсем отказываться от партнёрства с другими вендорами Microsoft не намерена. Компания анонсировала первые инстансы с ускорителями AMD Instinct MI300X, а в следующем году появятся инстансы с NVIDIA H200.

Постоянный URL: http://servernews.ru/1096037
25.10.2023 [14:40], Руслан Авдеев

Microsoft потратит $3,2 млрд на развитие ЦОД для облачной и ИИ-инфраструктуры в Австралии

Компания Microsoft намерена осуществить крупнейшее за 40 лет для своих программ в Австралии вложение. Как сообщает Bloomberg, компания намерена в течение двух лет потратить $3,2 млрд на расширение сети ЦОД для облачных вычислений и реализации ИИ-проектов.

Новые инвестиции помогут Microsoft обеспечить рост количества ЦОД в Канберре, Сиднее и Мельбурне на почти в полтора раза — с 20 до 29 дата-центров. Дополнительно в штате Новый Южный Уэльс будет открыт образовательный центр Microsoft Datacenter Academy. Также предусмотрено сотрудничество со спецслужбами страны по вопросам обеспечения кибербезопасности.

Объявление о новых инвестициях состоялось через день посоле того, как премьер-министр Австралии Энтони Альбанезе (Anthony Albanese) прилетел в США с четырёхдневным официальным визитом, в рамках которого предусмотрена и встреча с президентом США Джо Байденом (Joe Biden). Ожидается, что основной темой обсуждений станут поставки критически важных полезных ископаемых и технические инновации.

 Источник изображения: Joey Csunyo/unsplash.com

Источник изображения: Joey Csunyo/unsplash.com

В рамках второго этапа соглашения AUKUS, подписанного в 2021 году, страны договорились о более тесном технологическом сотрудничестве — США, Великобритания и Австралия будут делиться критически важными сведениями, включая данные о квантовых вычислениях и искусственном интеллекте.

Впрочем, в своём стремлении развивать ЦОД в Австралии Microsoft далеко не одинока и даже не является рекордсменом. Ещё весной 2023 года появилась информация, что AWS к 2027 году вложит $8,9 млрд в свои дата-центры на территории страны.

Постоянный URL: http://servernews.ru/1094973
25.10.2023 [11:50], Сергей Карасёв

Квартальная выручка облачного подразделения Microsoft выросла почти на 20 %, превысив $24 млрд

Корпорация Microsoft отрапортовала о работе в I четверти 2024 финансового года, которая была закрыта 30 сентября. Общая выручка редмондского гиганта достигла $56,5 млрд, что примерно на 13 % больше прошлогоднего результата, составлявшего около $50,1 млрд.

Квартальная операционная прибыль в годовом исчислении увеличилась на 25 % — с $21,5 млрд до $26,9 млрд, тогда как чистая прибыль поднялась на 27 % — с $17,6 млрд до $22,3 млрд. Прибыль в пересчёте на одну ценную бумагу оказалась на уровне $2,99 против $2,35 годом ранее (плюс 27 %).

 Источник изображения: Microsoft

Источник изображения: Microsoft

Microsoft продолжает активно развивать облачное направление. В подразделении Intelligent Cloud, которое, помимо облачных сервисов, включает Enterprise Services, Windows Server и SQL Server, выручка по итогам I квартала 2024 финансового года достигла $24,3 млрд. Это на 19 % больше результата за аналогичный период предыдущего финансового года, когда показатель равнялся $20,3 млрд. Денежные поступления от серверных продуктов и облачных услуг поднялись на 21 % год к году благодаря росту доходов от Azure и других сервисов на 29 %.

По направлению Productivity and Business Processes (офисные приложения Office и Office 365, Dynamics CRM) выручка за трёхмесячный период достигла $18,6 млрд против $16,5 млрд годом ранее (прибавка на уровне 13 %). Выручка от коммерческих продуктов Office и облачных сервисов поднялась на 15 % благодаря росту денежных потоков от Office 365 на 18 %. Выручка от потребительских продуктов Office и облачных сервисов показала прибавку в 3 %, а число подписчиков Microsoft 365 Consumer достигло 76,7 млн.

Постоянный URL: http://servernews.ru/1094952
18.10.2023 [20:15], Владимир Мироненко

Корпоративные потребители в России не спешат отказываться от ПО Microsoft и продолжают закупать его обходными путями или занимаются пиратством

По итогам I половины 2023 года продажи цифровых копий Windows в России упали почти на 80 %, пишет «Коммерсантъ» со ссылкой на крупных интеграторов и дистрибуторов. Однако источники ресурса на IT-рынке говорят, что на самом деле российские корпоративные потребители продолжают закупки лицензий на ПО Microsoft через посредников в СНГ. Также замедляет внедрение российских решений на корпоративной инфраструктуре и у частных заказчиков пиратство софта, резко выросшее на фоне санкций.

В марте 2022 года президент РФ подписал указ №166, согласно которому субъекты критической информационной инфраструктуры (КИИ; банки, телеком-компании, ТЭК и др.) с 31 марта 2022 года обязаны прекратить закупки зарубежного ПО, а с 2023-го — остановить его использование. Однако корпоративные заказчики не обязаны переходить на отечественные решения, поэтому они продолжают закупать обходным путём лицензии на ПО от Microsoft. Доля решений IT-гиганта у частных российских компаний достигает 80–90 %.

 Источник здесь и далее: Strategy Partners (via «Коммерсантъ»)

Источник здесь и далее: Strategy Partners (via «Коммерсантъ»)

В частности, глава «МойОфис» сообщил, что доля клиентов, которые продолжают пользоваться продуктами Microsoft, составляет от 70 до 90 % рынка, в то время как «МойОфис» вместе с другими российскими разработчики офисного ПО занимают лишь 16 % рынка. Однако компании стремительно наращивают продажи — чистая прибыль ООО «Новые облачные технологии» («МойОфис») выросла год к году на 295,6%, у «Алми Партнёр» (AlterOffice, AlterOS) выручка увеличилась за 2022 год на 165,1 %.

Крупнейшие разработчики российских ОС также сообщили о рекордных выручках в 2022 году. Так, согласно данным «СПАРК-Интерфакса» и официальным заявлениям компаний, у «Русбитех-Астра» (ОС Astra Linux) выручка выросла в 2,5 раза год к году до 5,39 млрд руб., чистая прибыль — в 2,8 раза до 3 млрд руб. У «Базальт СПО» (ОС «Альт») эти показатели увеличились на 173 и 418 % соответственно, а у «Ред Софт» (ОС «Ред») — на 122 и 95 %.

Постоянный URL: http://servernews.ru/1094641
15.10.2023 [14:41], Руслан Авдеев

Роботам — ЦОД: новая команда Microsoft займётся автоматизацией дата-центров и внедрением в них робототехники

Microsoft планирует создать целую команду для исследований, связанных с автоматизацией ЦОД и разработкой роботов для их обслуживания. Как сообщает Datacenter Dynamics, компания ищет управляющего, специализирующегося на аппаратной автоматизации и являющегося экспертом по робототехнике.

В описании вакансии указывается, что новый управляющий сыграет ключевую роль, определяющую будущее работы ЦОД. Успешный кандидат будет отвечать за управление средой, в которой будут «процветать инновации». При этом работа команды должна будет соответствовать более общим организационным целям компании и стандартам качества с соблюдением дедлайнов.

 Источник изображения: kalhh/pixabay.com

Источник изображения: kalhh/pixabay.com

Новость появилась через месяц после сбоя Microsoft Azure в Австралии, в котором частично винят плохую автоматизацию. Сбой в энергоснабжении привёл к сбоям в охлаждении. Поскольку на объекте оказалось недостаточно персонала для перезагрузки оборудования, автоматика отключила серверы для их защиты от перегрева. Если бы системой была предусмотрена перезагрузка охлаждающих модулей, этого удалось бы избежать. Позже в Microsoft заявили, что рассматривают оптимизацию автоматики.

Ожидается, что следующую волну автоматизации и роботизации возглавят гиперскейлеры. При этом, как отмечают в Google, несмотря на схожесть ЦОД со складами, где роботы используются уже давно, применение робототехники на объектах IT-инфраструктуры намного сложнее, чем в других отраслях. Компания уже использует роборуку для помощи в утилизации жёстких дисков, но считает, что добавление машин в здания с традиционным персоналом чревато повышением травмоопасности.

У Meta с 2019 года имеется собственное подразделение Site Engineering Robotics Team для создания робототехники, призванной автоматизировать и масштабировать ряд операций в ЦОД. Судя по имеющимся вакансиям, команда всё ещё действует и ищет людей, способных разрабатывать архитектуру роботизированных систем, включая робоманипуляторы, а также готовых возглавить интеграцию манипуляторов в мобильные роботизированные платформы. Компания уже экспериментировала с механическим манипулятором для перекоммутации сети.

 Источник изображения: geralt/pixabay.com

Источник изображения: geralt/pixabay.com

Amazon предпочитает не распространяться о собственных проектах в этой сфере, но десятилетиями инвестирует в разработку роботов для электронной коммерции и скупает другие компании в этой сфере. Компания уже внедрила более 750 тыс. роботов на торговых складах. При этом некоторые данные свидетельствуют о том, что склады с роботами опаснее для людей, чем те, на которых автоматизация преимущественно отсутствует.

Особого внимания заслуживают робособаки — как минимум Digital Realty, Novva, Oracle, и Scala тестировали их применение для патрулирования ЦОД для видеонаблюдения и сбора данных с помощью сенсоров. Впрочем, изучаются и другие форм-факторы — японская NTT представила простой мобильный торс с руками, который используется уже в 15 ЦОД, и работает над другими моделями. При этом одни планируют использовать роботов только для мониторинга, тогда как другие намерены хотя бы частично заменить ими персонал.

Роботы могут быть полезными в разных типах ЦОД, включая малые дата-центры для периферийных вычислений, не имеющие постоянного персонала. В будущем, вероятно, робототехника будет активно применяться и на крупных объектах, где роботы и автоматика полностью заменят людей. Впрочем, тогда ЦОД будут подвергаться ещё большей критике, поскольку перестанут создавать даже рабочие места в местностях, где их будут строить.

Постоянный URL: http://servernews.ru/1094493
08.10.2023 [17:08], Владимир Мироненко

OpenAI и Microsoft заняты созданием собственных ИИ-чипов, чтобы уменьшить зависимость от NVIDIA

Компания OpenAI, создавшая чат-бот на базе искусственного интеллекта ChatGPT, изучает возможность выпуска собственных ИИ-чипов, сообщает Reuters. По словам источников агентства, изучение этого вопроса продвинулось настолько далеко, что OpenAI даже провела оценку возможности покупки одного из производителей чипов, имя которого выяснить не удалось. На фоне бума ИИ на рынке наблюдается нехватка специализированных ускорителей, в первую очередь NVIDIA.

Как утверждают источники, в прошлом году OpenAI рассматривала ряд вариантов решения этой проблемы, включая разработку собственного ИИ-чипа, более тесное сотрудничество с другими производителями ИИ-чипов, в том числе, NVIDIA, а также расширение круга поставщиков ускорителей. Впрочем, даже если OpenAI приобретёт производителя чипов, на создание ИИ-ускорителя уйдёт несколько лет, в течение которых она всё равно будет зависеть от сторонних поставщиков, таких как NVIDIA и AMD.

 Фото: Laura Ockel / Unsplash

Фото: Laura Ockel / Unsplash

Гендиректор Open AI Сэм Альтман (Sam Altman), назвавший приобретение большего количества ИИ-чипов главным приоритетом, публично жаловался на нехватку ускорителей вычислений на рынке, порядка 80 % которого контролирует NVIDIA. Помимо нехватки чипов Альтман назвал ещё одну проблему, имеющуюся у компании — высокие затраты на эксплуатацию аппаратного обеспечения, необходимого для реализации проектов и продуктов компании. Microsoft, которой принадлежит 49 % OpenAI, повторяет те же тезисы и ищет более экономичные альтернативы GPT-4.

С 2020 года OpenAI использует для разработки ИИ-решений мощный суперкомпьютер, построенный Microsoft на базе 10 тыс. ускорителей NVIDIA. Работа ChatGPT обходится компании в немалую сумму. Согласно данным аналитика Bernstein Стейси Расгон (Stacy Rasgon), затраты на выполнение каждого запроса составляют примерно $0,04. Даже при росте количества запросов до десятых долей от объёма поисковых запросов Google, для запуска чат-бота потребуется потратить $48 млрд на первичную закупку ИИ-чипов, а для дальнейшего поддержания работы придётся тратить на ускорители ещё по $16 млрд ежегодно.

 Фото: Maxence Pira / Unsplash

Фото: Maxence Pira / Unsplash

В случае выпуска собственных чипов OpenAI пополнит небольшую группу крупных IT-игроков вроде Google и Amazon, которые стремятся взять под свой контроль разработку «кремния», лежащего в основе их бизнеса. OpenAI пока не решила, готова ли она тратить сотни миллионов долларов в год на создание чипа без каких либо гарантий на успех. Например, Meta при разработке ASIC столкнулась с проблемами, из-за которых пришлось отказаться от дальнейшей работы над некоторыми ИИ-чипами, а выход первого ИИ-ускорителя MTIA задержался на два года. Из-за этого, в частности, Meta была вынуждена приостановить строительство ряда своих дата-центров, чтобы адаптировать их для размещения ускорителей NVIDIA.

По данным The Information, Microsoft тоже разрабатывает собственный ИИ-чип, а OpenAI тестирует его. Впервые об ИИ-ускорителях Athena, которые компания якобы разрабатывала с 2019 года, стало известно в апреле этого года. Они должны помочь Microsoft снизить зависимость от продукции NVIDIA, дефицит которых компания признала угрозой бизнесу. Ранее Microsoft, по слухам, подписала соглашения с CoreWeave и Lambda Labs, а также обсуждала с Oracle совместное использования ускорителей NVIDIA. Причина кроется в политике NVIDIA, которая, как считается, гораздо охотнее продаёт «железо» малым провайдерам, которые не пытаются создавать собственные ИИ-чипы, т.е. не опасны для бизнеса «зелёных».

Постоянный URL: http://servernews.ru/1094141
05.10.2023 [21:53], Руслан Авдеев

Microsoft заменила дизель-генераторы на аккумуляторы в одном из шведских ЦОД

Компания Microsoft начала внедрять новые технологии резервного питания ЦОД в Швеции. Как сообщает DatacenterDynamics, теперь в одном из местных дата-центров техногиганта вместо дизель-генераторов применяется аккумуляторное энергохранилище BESS (battery energy storage system) компании Saft. Последняя является дочерней структурой TotalEnergies, а система BESS — это результат сделки 2021 года с Microsoft, намеренной отказаться от дизелей к 2030 году.

Система BESS состоит из восьми аккумуляторных контейнеров ёмкостью 4 МВт·ч каждый, объединённых в 4 группы. Суммарная ёмкость составляет 16 МВт·ч — этого достаточно для резервного питания ЦОД до 80 минут с пиковым потреблением 24 МВт. На внедрение аккумуляторного хранилища ушло более 16 месяцев, оно заменит неназванное число дизель-генераторов. Также известно, что система поддерживает быстрый «холодный старт», позволяя немедленно восстановить подачу электричества в случае его отключения.

Хотя местоположение ЦОД с новым оборудованием пока не раскрывается, с момента открытия в ноябре 2020 года облачного региона Azure в Швеции, в стране появились три ЦОД. Кампус в Стаффансторпе стал объектом критики из-за применения дизель-генераторов. Впрочем, в самой Microsoft утверждают, что общественное давление не являлось определяющим фактором при выборе типа энергохранилища. Ещё в 2021 году компания пообещала со временем полностью избавиться от дизелей на своих объектах по всему миру в рамках плана по достижению «углеродной нейтральности», а в мае 2022 года отдельно пообещала использовать генераторы только для тестовых запусков и в случае отключения магистрального электроснабжения.

 Источник изображения: Saft

Источник изображения: Saft

Власти Швеции утверждают, что энергосистема страны очень стабильна, поэтому применять генераторы вряд ли имеет смысл. Тем не менее, когда первый облачный регион Azure открылся в стране в конце 2021 года, все три объекта получили резервное питание именно от дизель-генераторов, хотя некоторые из них и использовали экологичное топливо, как минимум на 50 % состоящее из возобновляемого горючего. Это мало помогло Microsoft, поскольку планы использования дизелей в Стаффансторпе встретили острую критику общественности.

Дело дошло до того, что в 2022 году компания запросила увеличение парка дизель-генераторовна 70 МВт, но отозвала заявку из-за последовавших протестов. Впрочем, в Microsoft утверждают, что на самом деле расширение резервных мощностей в городе отменили из-за увеличения спроса на облачные сервисы компании и безопасные хранилища данных, которым необходим более крупный ЦОД, чем тот, что планировался в Стаффансторпе. Здесь расширение ЦОД тоже планируется, но будет осуществляться только с расчётом на уже имеющиеся здесь резервные источники питания.

В Microsoft подчёркивают, что поиск альтернатив дизелям является важной частью стратегии по достижению отрицательных углеродных показателей к 2030 году. Более того, к 2050 году компания рассчитывает изъять из атмосферы весь углекислый газ, который она буквально выпустила в небо с момента основания в 1975 году.

Постоянный URL: http://servernews.ru/1094066
03.10.2023 [17:09], Руслан Авдеев

Microsoft: приобрести ИИ-ускорители NVIDIA становится всё проще и проще

Как заявил недавно на конференции Code Conference технический директор Microsoft Кевин Скотт (Kevin Scott), приобрести ускорители компании NVIDIA для ИИ и HPC-вычислений уже не так сложно, как ещё несколько месяцев назад. По данным портала Tom’s Hardware, проблема доступности и поставок активно решается производителем.

По словам того же Скотта, ещё не так давно спрос намного превышал предложение всех производителей ускорителей. Хотя дефицит ещё не исчез, ситуация улучшается буквально с каждой неделей. В последнее время драйвером огромного спроса на ускорители были техногиганты, включая Microsoft, активно осваивающие рынок ИИ-продуктов, в том числе для сторонних клиентов. Для тренировки больших языковых моделей (LLM), обычно используются ускорители именно NVIDIA, в результате чего спрос на них в 2023 году стремительно взлетел, а рост стоимости акций «зелёных» с начала года составил 190 %.

 Источник изображения: NVIDIA

Источник изображения: NVIDIA

В ходе недавнего отчёта о доходах NVIDIA сообщила о намерении повысить объёмы поставок в следующем году. Параллельно появилась информация о том, что трафик одного из самых популярных чат-ботов, ChatGPT от OpenAI, существенно падал в течение трёх месяцев подряд. OpenAI использует облачную платформу Microsoft Azure, так что нагрузка на неё в последнее время не столь велика. По словам Скотта, занимающегося в числе прочего и распределением ресурсов, эта задача в последние кварталы была чрезвычайно трудной, но теперь выполнять свои обязанности стало намного легче.

Скотт не стал комментировать слухи о том, что Microsoft якобы разрабатывает собственные ИИ-чипы, но подтвердил, что компания прилагает немалые усилия в работе над полупроводниковыми проектами и инвестировала в них немало средств. При этом он признал, что в последние годы NVIDIA остаётся ведущим партнёром Microsoft в ИИ-секторе, но подчеркнул, что компания будет выбирать наилучшие решения для своих систем, какое бы происхождение они ни имели.

Постоянный URL: http://servernews.ru/1093927
03.10.2023 [08:53], Андрей Крупин

Microsoft прекратит поддержку Windows Server 2012 и 2012 R2 10 октября

10 октября 2023 года официально завершается расширенная поддержка серверных операционных систем Windows Server 2012 и Windows Server 2012 R2. Об этом свидетельствует информация, опубликованная на сайте Microsoft.

Прекращение поддержки означает, что для упомянутых программных платформ перестанут выпускаться патчи и обновления безопасности, что может существенно повысить риски, связанные с защитой и надёжностью корпоративных IT-инфраструктур. Для обеспечения стабильного и бесперебойного функционирования серверных площадок компания рекомендует своим заказчикам произвести обновление ОС до актуальных версий.

 Источник изображения: microsoft.com

Источник изображения: microsoft.com

Специально для организаций, до сих пор использующих Windows Server 2012 и 2012 R2 в своей IT-инфраструктуре, Microsoft будет в течение трёх лет предлагать платные обновления в рамках программы Extended Security Updates (ESU). В качестве альтернативы компания предлагает клиентам произвести миграцию устаревших систем в облачное окружение Azure, в котором сервис ESU будет предоставляться без дополнительной платы. Более подробную информацию о миграции на новые серверные ОС можно найти на сайте learn.microsoft.com/windows-server.

Релиз Windows Server 2012 состоялся в сентябре 2012 года. Особенностями ОС стали новый пользовательский интерфейс Modern UI, усовершенствованный гипервизор Hyper-V 3.0, технология виртуализации сетевой инфраструктуры Extensible Switch, функция объединения сетевых адаптеров NIC Teaming, средства централизованного управления большим числом систем хранения данных посредством объединения накопителей в единый виртуальный пул (механизм Storage Spaces) и организации дополнительных сетевых путей между клиентом и сервером (технология SMB Multichannel), а также прочие инновационные на тот момент решения.

Постоянный URL: http://servernews.ru/1093906
01.10.2023 [20:55], Руслан Авдеев

Microsoft ищет более дешёвые в эксплуатации и простые альтернативы языковым моделям OpenAI

Хотя Microsoft принадлежит 49 % OpenAI, занимающейся разработкой популярных и производительных языковых моделей вроде GPT-4, интересы компаний не всегда совпадают. Как сообщает Silicon Angle, Bing Chat Enterprise первой и ChatGPT Enterprise второй, по сути, конкурируют за одну и ту же целевую аудиторию. Кроме того, Microsoft, стремящаяся внедрить ИИ почти во все свои программные продукты, готовит новые, более простые и менее ресурсоёмкие модели, чем GPT-4.

По данным источников в OpenAI, в Microsoft обеспокоены высокой стоимостью эксплуатации передовых ИИ-моделей. Microsoft пытается встроить ИИ во многие продукты, включая Copilot для Windows на базе GPT-4. С учётом того, что пользователей Windows в мире больше 1 млрд, в компании опасаются, что повсеместное распространение ИИ-инструментов приведёт к неконтролируемому росту расходов. По некоторым данным, компания уже поручила части из своих 1,5 тыс. сотрудников ИИ-департамента заняться более экономичными альтернативами — пусть даже они будут не столь «сообразительными».

 Источник изображения: Microsoft

Источник изображения: Microsoft

Хотя реализация соответствующих проектов всё ещё находится на ранних стадиях, уже появилась информация, что компания начала внутренние тесты моделей собственной разработки. В частности, «творческий» и «точный» режимы Bing Chat опираются на GPT-4, тогда как «сбалансированный» использует новые модели Prometheus и Turing. Последняя может отвечать только на простые вопросы, а более каверзные она всё равно вынуждена передавать на обработку творению OpenAI.

Для программистов у Microsoft есть модель Phi-1 с 1,3 млрд параметров, которая может эффективно генерировать код, но в остальном отстаёт от GPT-4. Ещё одной альтернативой стала разработанная Microsoft модель Orca на основе Meta Llama-2, принадлежащей Meta. По некоторым данным, Orca близка по возможностям к моделям OpenAI, но компактнее и требует значительно меньше ресурсов.

Считается, что подразделение Microsoft использует около 2 тыс. ускорителей NVIDIA, большинство из которых сегодня и применяется для тренировки более эффективных моделей, имеющих узкую специализацию в отличие от многопрофильной GPT-4. Если раньше состязание на рынке шло за создание ИИ с наибольшими возможностями, то теперь одним из важнейших факторов становится стоимость разработки и обслуживания таких инструментов.

Постоянный URL: http://servernews.ru/1093831

Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»;

Система Orphus