Фото: портал мэра и правительства Москвы/Максим Денисов
Боты с технологией искусственного интеллекта могут не только помогать пользователям в повседневных задачах, но и анализировать их интересы, поведение, а также стиль общения. Об этом рассказали в УБК МВД России.
Специалисты Стэнфордского института ИИ утверждают, что нейросети обучаются через диалоги с пользователями, отметили в ведомстве. При этом точно неизвестно, какая конкретно информация остается в их памяти.
В МВД добавили, что ИИ может определять интересы человека, смотря на темы запросов. После изучения рода деятельности пользователя, его финансового положения, состояния здоровья нейросеть предлагает подходящие ему занятия или задачи.
Подробно изучается и стиль общения. ИИ смотрит на лексику, количество ошибок, длину сообщений, после чего определяет уровень образования человека. Важны для нейросети аспекты поведения: скорость отправки сообщений, критичность. Обращается внимание и на эмоциональную сторону. Фиксируются раздражение, тревога, спешка. Таким образом искусственный интеллект проверяет, насколько собеседник уязвим в стрессовых ситуациях.
Правоохранители отметили, что для нейросети важен, прежде всего, контекст: график работы, город проживания. Это дает ИИ возможность составить социальный портрет без изучения личных данных. В ведомстве рекомендовали не сообщать искусственному интеллекту то, что не хочется оставлять в цифровом следе навсегда. Не следует и выставлять детали, по которым потом можно будет идентифицировать пользователя.
Ранее в МВД
рассказали, что мошенники начали использовать нейросети для создания текстового, визуального или аудиовизуального контента, при помощи которого от лица близких людей убеждают жертву переводить им деньги или раскрывать персональные данные. В основе большинства таких схем лежит способность генеративных моделей создавать правдоподобный контент.