Фото: портал мэра и правительства Москвы/Дарья Мясина/
Развитие искусственного интеллекта со временем может стать сложнее для контроля со стороны человека, поэтому следить за технологиями ИИ должна другая модель. Об этом в беседе с РИА Новости рассказал глава Российской академии наук, ученый в области микро- и наноэлектроники Геннадий Красников.
По его словам, полностью остановить развитие искусственного интеллекта невозможно. Для повышения безопасности Красников предложил создавать системы, в которых одна модель контролирует другую, а при необходимости подключать к этому процессу третью.
Глава РАН также отметил необходимость внимательно изучать уязвимости фреймворков, на основе которых создаются языковые модели. По его мнению, нужны правила, которые будут регулировать разработку методов машинного обучения и прикладных моделей для ИИ.
Красников назвал языковые модели основой искусственного интеллекта и отметил их значение для создания суверенных технологий. В этом направлении, по его словам, предпочтение следует отдавать решениям отечественных компаний.
При этом для прикладных задач нужны более точные специализированные модели. В частности, при разработке лекарств от тяжелых заболеваний, отметил академик, их следует обучать на больших массивах данных.
"Они должны быть на порядок точнее, чем языковые модели для этих задач", – сказал Красников.
По словам главы РАН, для таких задач Россия может создавать собственные модели или использовать зарубежные. При этом главным требованием к ним должна быть доверенность: системы должны быть защищенными и выдавать корректные результаты.
Ранее в публичном пространстве активно обсуждались риски, связанные с развитием ИИ. В частности, двое сотрудников компании Anthropic
заявляли, что в течение 10 лет вероятность уничтожения человечества искусственным интеллектом может составить 10%. Неутешительный прогноз
поддержали американский миллиардер Илон Маск, которому принадлежит xAI, и глава OpenAI Сэм Альтман.