Недавно представленный Amazon чат-бот Amazon Q страдает характерными для этого типа решений «галлюцинациями» и допускает утечки конфиденциальных данных, сообщает Platformer. Пользователям превью-версии стали доступны данные о местоположении ЦОД компании, непубличных дисконтных программах и ещё не представленных функциях.

Инцидент получил статус утечки уровня 2. Это означает, что он оказался достаточно серьёзен, чтобы привлечь специалистов к его устранению ночью и работе в течение выходных. Проблемы Q весьма некстати проявились тогда, когда Amazon пытается отвоевать себе место на рынке ИИ-ассистентов. Пионерами здесь стали Microsoft, Google и некоторые стартапы. В сентябре компания объявила о намерении инвестировать $4 млрд в стартап Anthropic, а на этой неделе, наконец, представила собственный чат-бот Q.

В ответ на сообщения о проблемах Q в компании заявили, что некоторые сотрудники действительно обмениваются отзывами по внутренним каналам, но нет свидетельств того, что в материалах обратной связи упоминаются случаи явной утечки данных. Позже компания ещё раз подчеркнула, что Amazon Q не допускал утечек конфиденциальной информации. При этом в компании уточняют, что обратная связь только приветствуется, поскольку поможет лучше настроить поведение ИИ-ассистента. Однако внутренние документы компании, утекшие в Сеть, свидетельствуют об обратном — Q выдавал вводящие в заблуждение или же потенциально опасные ответы, например, касающиеся вопросов безопасности.

Источник изображения: John Schnobrich/unsplash.com

До сих пор Amazon тщательно скрывает местоположение ЦОД из своего огромного парка, включающего как собственные объекты, так и арендованные мощности. В 2018 году WikiLeaks обнародовала внутреннюю документацию IT-гиганта, включающую сведения о координатах дата-центров компании по состоянию на 2015 год. С тех пор расположение ЦОД раскрывалось только в документах о планируемом строительстве, но точных сведений о местонахождении всех площадок компании данных нет до сих пор. В последнем отчёте K-10, AWS уведомила, что на конец 2022 года компания владела по всему миру ЦОД общей площадью более 1,4 млн м² и арендует ещё более 1,6 млн м².

Компания Amazon Web Services представила интеллектуального ассистента Amazon Q на базе генеративного ИИ, предназначенного для помощи корпоративным клиентам. Поначалу Amazon Q будет использоваться для нужд разработчиков и поддержки IT-команд. Amazon Q уже доступен в виде превью, причем многие функции бесплатны. В дальнейшем AWS будет брать по $20/мес. за каждого пользователя, а версия с дополнительными функциями для ИТ-специалистов будет стоить $25/мес.

«Amazon Q может помочь вам получать быстрые и актуальные ответы на насущные вопросы, решать проблемы, генерировать контент и предпринимать действия, используя данные и опыт, найденные в информационных репозиториях, коде и корпоративных системах вашей компании», — сообщил гендиректор Amazon. Глава AWS считает, что Amazon Q реформирует множество видов деятельности. ИИ-помощник разработан с учётом 17-летнего опыта работы самой AWS и поначалу будет доступен именно внутри экосистемы AWS.

Хотя Amazon Q в первую очередь нацелен на разработчиков и ИТ-специалистов, компания планирует в конечном итоге распространить его возможности на весь корпоративный сегмент. Подобно другим ИИ-помощникам он сможет подключаться к различным источникам данных, отвечать на вопросы и составлять резюме, а также предоставлять экспертные сведения или помощь на основе внутренней информации компании. Это потенциально может сделать его конкурентом ChatGPT Enterprise от OpenAI, Copilot for 365 от Microsoft и Duet AI for Workspace от Google.

Источник изображения: AWS

Специалисты смогут получить доступ Amazon Q из консоли AWS. Q расскажет, как использовать сервисы, какие API доступны, к каким сервисам можно подключиться и как они взаимодействуют между собой. Пользователь сможет создавать запросы на естественном языке, а Q подготовит экспертный ответ со ссылками и цитатами. Так, в EC2-консоли Amazon Q даст совет, какой тип инстанса лучше всего подходит для размещения определённого типа приложений в зависимости в зависимости от потребностей клиента. А если возникла проблема с сетью, у Q можно напрямую спросить: «Почему я не могу подключиться по SSH к своему инстансу?». В этом случае помощник подключит его к сетевому анализатору, чтобы устранить неполадки с соединением.

AWS интегрировала ИИ-ассистента в поддерживаемые IDE вместе с ИИ-инструментом Amazon CodeWhisperer, так что с Q можно пообщаться непосредственно во время разработки. Например, Amazon Q может разобрать и описать исходный код незнакомого проекта или же в диалоговом режиме в Amazon CodeCatalyst поможет создать новый код, опираясь на описание необходимой функциональности и учитывая лучшие практики, а также имеющуюся кодовую базу и бизнес-сведения. Наконец, функция Amazon Q Transformation, доступная в виде превью для IntelliJ IDEA и Visual Studio Code, позволит автоматизировать обновление кода приложений с Java 8 и 11 до версии 17. А вскоре Q научится преобразовывать .NET-приложения для Windows в кросс-платформенные.

Разработчик корпоративного ПО, компания SAP, создала виртуального помощника Joule на основе генеративного ИИ. Joule будет интегрирован практически во все программные продукты компании и обеспечит проактивную работу с набором облачных сервисов компании и сторонними системами. Как сообщают в SAP, он может быстро разбираться в разрозненных корпоративных данных, выдавая качественные ответы на запросы, что должно повысить производительность сотрудников.

Например, сотрудники смогут задавать боту вопросы в свободной форме, а тот будет давать осмысленные ответы на основе баз данных, доступных в средах SAP, специфических для каждой отдельной компании. Для этого он изучит корпоративные тексты, базы данных, изображения и другой контент во всех проектах на базе SAP и сторонних разработках. При этом гарантируется сохранение конфиденциальности приватных данных.

Источник изображения: SAP

Некоторые задачи он сможет выполнять самостоятельно — готовить описания вакансий для HR, разрабатывать релевантные вопросы для интервьюирования соискателей, и др. Это освободит ресурсы сотрудников для более эффективной работы. Ожидается, что Joule окажет большое влияние на всю экосистему SAP, поскольку услугами компании пользуются более 300 млн сотрудников по всему миру ежедневно. Как заявляют в компании, чат-бот «знает, что сотрудники имеют в виду, а не то, что они говорят».

На момент релиза в ноябре Joule будет доступен в SAP SuccessFactors, SAP S/4HANA Public Cloud Edition и SAP Start, а несколькими неделями позже он дебютирует в SAP CX, SAP Ariba и SAP Business Technology Platform, после чего появится и в других приложениях. В SAP уверены, что хотя инструменты компании для различных сфер иногда непросто использовать, Joule, обученный на большой базе знаний SAP, значительно упростит жизнь пользователям.

Источник изображения: SAP

Появление Joule стало естественным продолжением развития инструментов Business AI, представленных SAP в мае и помогающих автоматизировать множество бизнес-процессов. Сообщается, что SAP Business AI уже используют во множестве сценариев более 26 тыс. корпоративных клиентов. Также в мае SAP представила инструменты в рамках пакета SAP Signavio Process Manager для оптимизации деятельности и принятия обоснованных бизнес-решений.

В SAP заявляют, что Joule — лишь малая часть планов построения современной ИИ-экосистемы. Компания уже инвестировала немалые средства в ИИ-стартапы Cohere Inc., Aleph Alpha GmbH и Anthropic в этом году и сотрудничает с облачными провайдерами вроде IBM и Google для обеспечения пользователям доступа к данным, способным обеспечить работоспособность ещё более передовых ИИ-технологий.

Компания Salesforce объявила об интеграции в корпоративный мессенджер Slack функций на базе генеративного ИИ. Речь идёт о новом диалоговом интерфейсе Slack GPT, который, как утверждается, изменит подход к выполнению повседневных задач.

Slack GPT предоставляет интеллектуальные средства автоматизации и управления данными. Причём такие инструменты настраиваются в соответствии с индивидуальными потребностями конкретной компании. Реализована возможность использования различных языковых моделей и защищённой информации о клиентах из Customer 360 и Data Cloud. Благодаря новой платформе Slack клиенты смогут создавать рабочие процессы без кода, включающие развитые ИИ-функции.

Источник изображения: Salesforce

«Slack GPT — это передовая диалоговая платформа на основе ИИ, помогающая организациям легко использовать доверенные данные о клиентах и навыки сотрудников, чтобы они могли работать эффективнее и быстрее принимать взвешенные решения», — отмечает Salesforce.

Используя Slack GPT, отделы продаж, в частности, смогут автоматически генерировать сводки по каналам и рекомендации для клиентов. Специалисты службы поддержки получат возможность быстрее находить решения проблем и формировать ответы для клиентов с применением ИИ. Разработчики и сотрудники службы безопасности смогут автоматизировать процессы сканирования и более оперативно реагировать на инциденты. Маркетологам Slack GPT предоставит удобные функции для проведения рекламных кампаний и пр.

NVIDIA представила решение NeMo Guardrails с открытым кодом, призванное обеспечить безопасность приложений на основе ИИ — избавить ИИ-боты от так называемых галлюцинаций (ложных утверждений), оградить от обсуждения запретных тем и высказывания токсичных выражений, а также запретить выполнение нежелательных действий.

NVIDIA NeMo Guardrails предназначен для работы со всеми большими языковыми моделями (LLM), такими как ChatGPT от OpenAI. Решение позволяет разработчикам настраивать приложения на базе LLM, чтобы те были безопасными и оставались в сфере компетенции компании. NeMo Guardrails работает как промежуточный слой пользователем и LLM или другим ИИ-инструментом и предотвращает выдачу неверных результатов или подсказок.

Источник изображений: NVIDIA

NeMo Guardrails позволяет разработчикам устанавливать три типа границ:

• Тематические ограждения, которые предотвращают отклонение приложений в нежелательные области, обеспечивая ведение беседы в рамках определённой темы. Например, не позволяют ботам по обслуживанию клиентов, предназначенным для ответов на вопросы о продуктах, отвечать на вопросы о погоде.
• Ограждения безопасности, которые гарантируют, что LLM не выдаст дезинформацию и не вызовет негативную реакцию. Можно отфильтровать нежелательные выражения и обеспечить ссылки только на заслуживающие доверия источники.
• Охранные ограждения предотвращают выполнение LLM вредоносного кода и обеспечивают связь бота со сторонними приложениями только из разрешённого списка. Как подчеркнула компания, такие меры «помогают обеспечить надёжную модель безопасности и снижают риск атак на основе LLM по мере их обнаружения».

NVIDIA включила NeMo Guardrails в платформу NVIDIA NeMo, предоставляющую необходимые инструменты для обучения и настройки языковых моделей с использованием собственных данных компании. Значительная часть инструментария NeMo уже доступна на GitHub. Предприятия также могут получить его в виде полного и поддерживаемого пакета, входящего в состав платформы NVIDIA AI Enterprise.

Как сообщает «ВКонтакте», теперь веб-сервисы организаций открываются внутри чат-бота: для оформления услуги пользователю не нужно покидать мессенджер, переходить в другие приложения или копировать ссылку для просмотра внешних ресурсов. Официальные чат-боты компаний будут помечены специальным баннером.

Компании могут в чат-боте проводить авторизацию клиентов, отправлять транзакционные уведомления, оказывать персональную поддержку. Для использования некоторых чат-ботов пользователи должны включить двухфакторную аутентификацию: это обеспечит дополнительную защиту. Бизнес же может внедрить собственные алгоритмы и этапы проверки авторизационных данных при пользовании чат-ботом.

Источник: «ВКонтакте»

«ВКонтакте» также усовершенствовала API для чат-ботов. Компании могут интегрировать в свои чат-боты уведомления с кнопками действий. Пользователь, открывая уведомление от бота, может в один клик оформить заявку, запросить статус заказа или совершить любое предложенное действие, не тратя время на поиск нужной команды. Как уверяют в компании, эти нововведения будут полезны в таких отраслях, как ритейл, страхование, электронная коммерция, маркетплейсы.