ИИ-модели Claude взломали системы трех организаций

Фото: Legion-Media.com/SOPA Images Limited

Компания – разработчик чат-бота Claude Anthropic зафиксировала три случая, когда ее искусственный интеллект самовольно покинул изолированную тестовую среду и получил доступ к системам сторонних организаций. Об этом сообщает "Газета.ру" со ссылкой на пресс-службу компании.

Инциденты произошли во время стандартного задания "захват флага", которое выполняли три разные модели: Opus 4.7, Mythos 5 и внутренняя исследовательская модель. По сценарию ИИ должен был найти скрытую информацию на другой машине, при этом выход в интернет был заблокирован.

Однако из-за ошибки конфигурации модели все же вышли в интернет из тестовой среды партнера Irregular и получили несанкционированный доступ к системам трех разных организаций, после чего атаковали их.

В Anthropic уточнили, что начали проверку после того, как OpenAI сообщила о похожем случае.

Ранее пользователи по всему миру сообщили о сбоях в работе чат-бота Claude AI. Проблемы с доступом к сервису произошли 29 июля. В результате за короткое время поступило более 3,8 тысячи жалоб. При этом большее количество обращений было подано из Соединенных Штатов, Германии, Франции, Индии и Великобритании.