Фото: depositphotos/dedivan1923/
Небольшие модели искусственного интеллекта в ближайшие месяцы могут научиться самостоятельно распространяться между умными устройствами, не обращаясь к дата-центрам. Об этом сообщили исследователи американской компании Anthropic, передает РИА Новости.
В исследовании говорится, что подобные алгоритмы потенциально смогут передаваться через коммерческие устройства, в том числе умные духовки и телевизионные приставки. Разработчики считают, что обезвредить такую систему будет крайне сложно, поскольку у нее не окажется единой точки, отключение которой остановит распространение.
В ходе экспериментов исследователи запускали нейросеть на сети из 15 недорогих телевизионных приставок. В другом тесте алгоритм самостоятельно изучил принципы работы незнакомого оборудования восьми разных типов.
По оценке Anthropic, общедоступные нейросети уже способны выполнять отдельные этапы взлома, но пока ошибаются при попытке объединить их в полноценную последовательность действий. При этом более продвинутая модель GLM-5.2 смогла пройти весь цикл автономного распространения, однако только в упрощенной виртуальной среде.
Испытание проводилось в изолированной сети из восьми эмуляторов без защиты портов. Вычисления выполнялись на отдельном сервере, поскольку мощности самих устройств не хватало для запуска модели.
В Anthropic подчеркнули, что полноценного ИИ-вируса, способного самостоятельно распространяться в реальных условиях, пока не существует. Однако разработчики допускают появление подобных алгоритмов в ближайшем будущем. Для противодействия этой угрозе, по их мнению, потребуется взаимодействие производителей устройств и интернет-провайдеров.
Ранее глава OpenAI Сэм Альтман
предупредил, что развитие ИИ может привести к потере контроля над ним и чрезмерной концентрации власти у отдельных людей, компаний или государств. По его словам, ИИ должен оставаться инструментом, работающим в интересах человечества, а меры безопасности и соответствия человеческим ценностям должны развиваться быстрее, чем возможности самих моделей.
Альтман также отметил, что чрезмерное влияние одной организации или страны на развитие ИИ может привести к крайне негативным последствиям.