Форма поиска по сайту

В МВД РФ предупредили об уязвимостях при неправильной настройке ИИ-агентов

Фото: портал мэра и правительства Москвы/Дарья Мясина/

ИИ-агенты способны самостоятельно работать с файлами, браузером, почтой и онлайн-сервисами, а ошибки в их конфигурации создают дополнительные уязвимости, сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД РФ.

В ведомстве посоветовали заранее ограничить возможности помощника по работе с файлами: предоставить доступ лишь к выбранным папкам, а не ко всему диску. Помимо этого, следует запретить посещение неизвестных ресурсов и передачу им информации.

Еще одна мера – подтверждение действий. Отправка писем, удаление файлов, покупки и платежи должны выполняться только с согласия пользователя.

"Ограничьте подключенные инструменты: отключите ненужные плагины, интеграции и доступ к командной строке", – рекомендовали в киберполиции.

Кроме того, в управлении посоветовали проверять активные разрешения и токены доступа, отзывая те, которыми человек больше не пользуется.

В качестве дополнительной меры специалисты предлагают использовать средства изоляции. Благодаря им ИИ-агенты могут работать в отдельной виртуальной среде с ограниченным прямым доступом к системе и аккаунтам пользователя.

"Безопасность ИИ-агента зависит не только от самой нейросети, но и от того, насколько грамотно ограничены ее полномочия", – заключили в УБК.

Ранее в МВД заявили, что мошенники все активнее прибегают к искусственному интеллекту для обмана граждан, создавая дипфейки, имитируя голоса и подменяя видеоизображения. Отдельную опасность представляет возможность использовать эти технологии для обхода систем идентификации и биометрической аутентификации.

Злоумышленники могут подделывать изображения, видеозаписи и голосовые сообщения, создавая впечатление, будто с человеком связывается его родственник, руководитель или представитель организации.