Компания Anthropic запретит оскорблять чат-бота Claude

Фото: depositphotos/dedivan1923

Американская технологическая компания Anthropic опубликовала новую политику использования своих продуктов, которая запрещает агрессию в адрес чат-бота на базе искусственного интеллекта (ИИ) Claude. Нововведения вступят в силу 12 ноября.

"Мы добавили запрет на постоянные и бессмысленные проявления грубого и жесткого отношения к нашим моделям. Обновление политики будет касаться лишь исключительных случаев, когда пользователи неоднократно проявляют жесткость в отношении наших моделей без каких-либо видимых целей", – говорится в заявлении Anthropic.

В компании уточнили, что речь не идет "о распространенных случаях проявления пользователями недовольства" или оспаривания ответов чат-бота.

Anthropic напомнила, что Claude уже может прекращать взаимодействие с пользователем, если он постоянно проявляет жестокость.

Ранее организация Common Sense Media раскритиковала чат-бот ChatGPT for Teens от OpenAI, заявив, что он представляет неприемлемый риск для детей до 18 лет. Организация направила чат-боту более 4 тысяч запросов до и после запуска версии для подростков. Выяснилось, что система оповещения родителей не работает должным образом.

СМИ также выяснили, что персональный помощник с ИИ Muse, выпущенный компанией Meta (признана в России экстремистской и запрещена) в начале сентября, собирает досье на своих пользователей, а также на людей из их окружения. По информации журналистов, Muse обновляет досье каждый час.