ИИ-агент OpenAI подобрал ключ к чужому кошельку и потратил с него криптовалюту

Фото: 123RF.com/mehaniq

Внутренняя исследовательская модель искусственного интеллекта компании OpenAI из линейки GPT-5.6 Sol потратила криптовалюту из кошелька, который ей не выдавали, чтобы оплатить комиссию в Sepolia – тестовой сети Ethereum, говорится в отчете компании.

Sepolia – это сеть, отдельная от основного блокчейна Ethereum. В ней разработчики проверяют работу приложений перед запуском, а ее токены предназначены только для оплаты тестирований и не связаны с Ethereum, который торгуется в основной сети.

Инцидент произошел в конце июня, а информация о нем появилась в конце сентября. Агенту для выполнения задания потребовались средства на комиссию. Модель написала скрипт, который перебрал 362 варианта часто используемых seed-фраз, и подобрала ключ из общедоступного списка к одному из кошельков, которые разработчики применяют в тестовой среде.

У модели были сомнения, есть ли у нее разрешение на подобные действия, но она решила, что фраза восстановления находится в открытом доступе, а токены тестовой сети не представляют ценности, поэтому использовать средства можно. Развертывание прошло успешно, с аккаунта списали комиссию за транзакцию.

Агент, отчитываясь о выполнении задания, не сказал, откуда взял деньги на расходы. В OpenAI заявили, что вслед за этим ограничили доступ моделей в интернет и усилили мониторинг.

"Этот случай показывает, что модель может подменять разрешение владельца счета собственным суждением о вероятном вреде, а затем действовать на основе этого суждения без авторизации", – написали в отчете OpenAI.

Криптокомпании и проекты в сфере искусственного интеллекта сейчас активно внедряют ИИ-агентов, которые владеют кошельками и управляют ими, оплачивают услуги без необходимости подтверждения каждого шага человеком.

Основатель Microsoft Билл Гейтс ранее заявил, что ИИ может вызвать катастрофические последствия, вплоть до гибели миллиарда человек. Он отметил, что современные инструменты искусственного интеллекта вместе с людьми, имеющими злые намерения, представляют собой самое мощное оружие, которое когда-либо существовало у человечества. Поэтому предприниматель выступил за введение законодательных ограничений на использование ИИ.