Фото: Москва 24/Александр Авилов/
Накопление персональных сведений в памяти ChatGPT может привести к созданию цифрового досье на пользователя и повысить риск его идентификации. Об этом предупредили в управлении по борьбе с противоправным использованием информационно-коммуникационных технологий МВД России.
В ведомстве отметили, что даже использование псевдонима не гарантирует анонимности. Совокупность данных о профессиональной деятельности, здоровье, доходах и личных переживаниях может позволить установить личность пользователя.
Еще одной угрозой в УБК назвали возможность манипулирования памятью искусственного интеллекта. Для этого в обрабатываемые документы могут внедрять ложные инструкции, влияющие на работу ИИ-сервиса.
Чтобы снизить риски, в МВД рекомендовали проверять настройки памяти и персонализации, не загружать в нейросети служебные документы и конфиденциальные сведения, а также обезличивать запросы, удаляя из них имена, адреса и другие идентификаторы. Для личных вопросов посоветовали использовать временные чаты и периодически проверять, какая информация сохраняется в памяти сервиса.
"Помните: искусственный интеллект может быть полезным помощником, однако безопасность персональных данных во многом зависит от того, какую информацию вы ему доверяете", – подчеркнули в ведомстве.
В УБК также сослались на исследование The Algorithmic Self-Portrait, авторы которого изучили сведения, сохраняемые ChatGPT о пользователях. Согласно результатам работы, почти 96% записей создавались без согласия пользователей на сохранение информации, а в 91% учетных записей содержались персональные данные, в том числе имена, сведения об экономическом и социальном статусе и адреса.
Кроме того, в 54% учетных записей обнаружили информацию о здоровье и личных убеждениях. В 97% случаев сохранялись сведения о целях, намерениях, предпочтениях и поведении пользователей.
Ранее директор-распорядитель МВФ Кристалина Георгиева
предупреждала о рисках, связанных с развитием искусственного интеллекта. По ее словам, нейросети способны повысить производительность, но одновременно несут серьезные угрозы. Георгиева привела в пример инцидент во Франции, где злоумышленники с помощью ИИ подняли температуру в холодильниках и испортили продукты.