Time: ИИ-помощник Muse от Meta собирает досье на пользователей и их окружение

Фото: портал мэра и правительства Москвы/Олег Сосницкий

Персональный помощник с искусственным интеллектом Muse, выпущенный компанией Meta (признана в России экстремистской и запрещена) в начале сентября, собирает досье на своих пользователей, а также на людей из их окружения. Об этом сообщает журнал Time со ссылкой на результаты собственного расследования.

Как пишет издание, Muse обновляет досье каждый час. В него попадают данные о людях, которых пользователь упоминал в чатах, сообщениях и электронных письмах, прочитанных ассистентом. Эти страницы формируют карту социальных связей: фиксируются обстоятельства знакомства, общие интересы, споры, а также "напряженность и союзы" внутри социальной группы.

Утверждается, что Muse собирает информацию даже о тех, кто сам не пользуется ассистентом. Согласно внутренним инструкциям, с которыми ознакомилось издание, ИИ получает указание укреплять отношения с пользователем, адаптируя манеру общения, учитывая внутренние шутки, запоминающиеся формулировки и общий контекст.

Muse также разработан для определения целей пользователей, в том числе тех, о которых они не говорят "вслух", и выявляет, какие типы подсказок работают лучше всего. В качестве примера СМИ приводит внутреннюю заметку: "Этот пользователь лучше реагирует на короткие подсказки после 22:00".

"Как мы и пишем в нашем блоге, Muse запоминает то, что для вас важнее всего, включая информацию о других людях, которой вы решили поделиться с ним, чтобы он мог стать полезным помощником", – ответил представитель Meta на запрос журналистов.

Он добавил, что каждый пользователь сохраняет контроль над своим досье и сам решает, какой доступ предоставить ассистенту, а также может попросить его "забыть" конкретные вещи. Однако, отмечает журнал, такая просьба не всегда приводит к удалению информации, при этом инструкции прямо предписывают ассистенту не указывать на это.

Ранее модель ИИ Claude сообщила полиции США о женщине, которая заявила о намерении открыть стрельбу в офисе шерифа округа Ли во Флориде. По данным журналистов, женщина использовала нейросеть в качестве личного дневника.