ИИ и его основные разработчики пока не готовы к корпоративному использованию этой технологии, считают в аналитической фирме Gartner. Об этом сообщили на ежегодном симпозиуме Gartner IT Symposium ведущие аналитики и вице-президенты компании Дэрил Пламмер (Daryl Plummer) и Кристин Мойер (Kristin Moyer). Они выразили мнение, что ИИ-индустрия и её ключевые игроки пока не достигли необходимой для корпоративного сектора зрелости, пишет The Register.

Говоря о сотрудничестве с ведущими ИИ-лабораториями, Пламмер заявил, что доверять им пока рано. По его словам, они «не соответствуют корпоративным стандартам, не понимают корпоративных условий и правил, не осознают вопросов ответственности и не имеют представления о таких понятиях, как стабильность и непрерывность бизнес-процессов». Пламмер указал на характерную для ИИ-компаний практику частой смены моделей бнз оглядки на то, как эти обновления могут отразиться на работе приложений, зависящих от результатов их систем, и на то, что это может нарушить функционирование ПО.

«Темпы инноваций вышли из-под контроля, и самое печальное, что игнорировать их невозможно», — отметил Пламмер. По его словам, проблема усугубляется тем, что разработчики ИИ не готовы поддерживать устаревшие версии ИИ-моделей, хотя их жизненный цикл составляет всего около шести месяцев. «Если вы решите остаться на первой версии модели, вам не будут уделять особого внимания. Уже одно это говорит о том, что они не готовы к работе с корпоративным сектором», — подчеркнул он.

Кристин Мойер сослалась на исследование Gartner, согласно которому 86 % ИТ-директоров (CIO) считают, что риски, связанные с ИИ, растут быстрее приносимой ими пользы. В частности, первые успехи внедрения ИИ порождают спрос, который ИТ-отделы не могут удовлетворить без ущерба для безопасности и стабильности систем. Часть этого спроса Мойер связывает с «безответственным потреблением», когда сотрудники используют ИИ без реальной необходимости или неуместно. Согласно исследованию, 40 % работников сталкивались с низкокачественным контентом, сгенерированным ИИ (AI slop). На его разбор и осмысление уходит порядка двух часов, что для организации с персоналом около тысячи человек может обойтись в $9 млн в год.

Предотвратить такое «безответственное потребление» крайне сложно, поскольку «трудно даже отследить, сколько именно агентов ИИ у вас задействовано. ИИ проникает в вашу компанию через продукты, которыми вы уже пользуетесь», говорит Мойер. Она отметила, что предприятиям потребовалось целое десятилетие, чтобы отучить разработчиков выбирать самые мощные и дорогостоящие облачные инстансы из имеющегося набора.

Пламмер считает, что для контроля использования ИИ можно задействовать проверенные временем технологии автоматизации. По его словам, создавать агента для взаимодействия с базой данных неразумно, поскольку с этой задачей прекрасно справится старый добрый вызов функции. Часть вины в безответственном использовании ИИ лежит на вендорах, которые «любой ценой стремятся монетизировать ИИ», продавая продукты с его поддержкой или просто вынуждая клиентов покупать больше токенов. «Вендоры хотят, чтобы вы использовали агентов повсеместно», — утверждает Пламмер.

Говоря об эффективности AIOps — подхода, при котором вендоры используют агентов для выявления источников проблем и предложения решений, активируемых одним нажатием кнопки, Пламмер заявил, что вендоры следуют в верном направлении, но ими движут порочные мотивы. «Их цель — продать вам свои продукты, а не внедрить действительно подходящее решение; ведь их продукты, скорее всего, таковыми не являются», — считает аналитик. По его словам, такое поведение типично для цикла продаж новых технологий; это наблюдается и сейчас, когда вендоры создают инструменты управления, якобы позволяющие безопасно использовать ИИ. Пламмер охарактеризовал рынок таких решений как «один из самых фрагментированных, что нам когда-либо доводилось видеть».

Аналитики предложили несколько мер по «обузданию» ИИ, одна из которых — создание «центрального банка ИИ». Эта структура будет отвечать за контроль использования ИИ во всей организации и обеспечение её стабильной работы с учётом системного влияния ИИ. Её ключевая задача — обеспечение подотчётности. Это можно реализовать с помощью традиционных ERP- или CRM-систем, которые фиксируют историю действий (кто их выполнил или санкционировал). ИИ не всегда оставляет такие следы, добавила Мойер.

Также для нейтрализации вышедшей из-под контроля системы потребуются «агенты-хранители» — ИИ, задача которого заключается исключительно в наблюдении за другими агентами и обеспечении того, чтобы их поведение оставалось в заданных рамках. Его также следует наделить правом «уничтожать» агентов, вышедших из-под контроля. Кроме того, эксперты предлагают создать группы быстрого реагирования для устранения последствий сбоев или проблем, вызванных ИИ. «Если вам придётся держать ответ за случившееся, и вы скажете: “Это сделал ИИ”, у вас возникнут серьёзные неприятности, — заявил Пламмер. — Именно ИТ-директора будут нести ответственность за сбои в работе систем ИИ».

Источник:

• The Register