Фото: ТАСС/пресс-служба президента РФ/Вячеслав Прокофьев/
Зампред Совбеза РФ Дмитрий Медведев усомнился в том, что стремительное развитие технологий в XXI веке будет способствовать дальнейшему процветанию человечества. Такое мнение он выразил в интервью журналу
"Эксперт".
Политик напомнил, что все предыдущие великие технологические прорывы неизменно приводили к значительному увеличению производительности труда, экономическому росту и существенному улучшению качества жизни людей. Однако он задался вопросом, сохранится ли такая тенденция в оставшейся части текущего века.
"Есть большие сомнения, ведь перед нами стоят цивилизационные вызовы, требующие не просто выверенных научно-технологических решений, но и элементарной исторической мудрости, а также взвешенного этического подхода", – подчеркнул зампред Совбеза.
Вместе с тем Медведев подтвердил, что технологический прогресс и инновации приносят комфорт и удобства, но обратил внимание и на опасности, способные радикально изменить будущее человечества.
В частности, зампред Совбеза РФ предположил, что искусственный интеллект (ИИ) в будущем сможет научиться принимать самостоятельные решения, которые не будут следовать законам робототехники фантаста Айзека Азимова, предусматривающим защиту людей.
"ИИ, достигший уровня суперинтеллекта, вовсе не обязан руководствоваться тремя пресловутыми правилами робототехники Айзека Азимова, поскольку своим происхождением будет обязан не человеку, а самому себе", – пояснил он.
В таком контексте, по мнению политика, передача нейросети управления крупными производствами с использованием критических технологий может привести к глобальным рискам, которые будут серьезнее, чем угроза хакеров. Причем схожие мнения выражали не только политики, но и бизнесмены, сделал акцент Медведев.
"И речь не только об опасных производствах, которые могут причинить необратимый вред человечеству и нашей планете. В разряд высокорисковых могут попасть и, казалось бы, совсем безобидные виды экономической деятельности вроде аграрных технологий и производства продуктов питания", – заключил зампред Совбеза.
Опасения по поводу ИИ
выражал также первый зампред комиссии Общественной палаты России по общественной экспертизе законопроектов и иных нормативных актов Александр Асафов. Представитель ОП отмечал, что нейросеть может быть опасна из-за риска внешнего вмешательства, особенно при использовании зарубежной продукции. Более того, он указывал на когнитивные угрозы, связанные с развлекательным использованием ИИ.