Meta✴ исправила методику обучения ИИ после скандала с неуместными разговорами с подростками

Meta✴ откорректировала методику обучения ИИ-чат-бота Meta✴ AI, сосредоточив внимание на обеспечении безопасности подростков. Изменения были внесены после публикаций в СМИ об отсутствии у нейросети механизмов предотвращения обсуждения с несовершеннолетними неуместных тем, связанных с самоповреждением, самоубийством, расстройствами пищевого поведения и т. д.

Источник изображения: Chad Madden/unsplash.com

Ранее в этом месяце стало известно о внутреннем документе Meta✴, согласно которому чат-боту компании разрешалось вести «чувственные» разговоры с несовершеннолетними пользователями. Комментируя публикацию, Meta✴ заявила, что формулировки были «ошибочными и не соответствующими правилам» и были удалены.

На днях газета The Washington Post опубликовала результаты исследования, согласно которым Meta✴ AI обладает способностью «направлять подростковые аккаунты к самоубийству, самоповреждению и расстройствам пищевого поведения».

Представитель Meta✴ Стефани Отвей (Stephanie Otway) сообщила ресурсу Engadget, что компания усиливает меры защиты, предотвращающие обсуждение подобных тем при взаимодействии чат-ботов с несовершеннолетними. По её словам, «защитные барьеры» были заложены при обучении ИИ изначально, а по мере роста сообщества и развития технологий компания их усиливает. «Продолжая совершенствовать наши системы, мы добавляем новые “защитные барьеры” в качестве дополнительной меры предосторожности: обучаем наши ИИ не взаимодействовать с подростками на эти темы, а направлять их к экспертным ресурсам, а также ограничиваем доступ подростков к определённой группе ИИ-персонажей», — заявила Отвей.

Помимо обновления методики обучения нейросети, компания также ограничит доступ подростков к некоторым ИИ-персонажам, которые могут вести непристойные разговоры, и предложит им виртуальных собеседников, способствующих развитию творчества и образованности.

По словам Отвей, меры защиты будут и дальше совершенствоваться. «Эти обновления уже находятся в разработке, и мы продолжим адаптировать наш подход, чтобы обеспечить подросткам безопасный и соответствующий их возрасту опыт взаимодействия с ИИ», — отметила она, уточнив, что новые меры будут внедрены в течение следующих нескольких недель и распространятся на все англоязычные страны.

Вопросы по поводу политики Meta✴ в области ИИ также возникли у законодателей и других официальных лиц. Сенатор Джош Хоули (Josh Hawley) недавно сообщил компании о планах начать расследование её деятельности в этой сфере. Генеральный прокурор Техаса Кен Пакстон (Ken Paxton) также заявил о намерении провести расследование в отношении Meta✴ на предмет предполагаемого введения детей в заблуждение её чат-ботом в вопросах психического здоровья.