Ученый Хинтон заявил, что ИИ обрел сознание и напрямую угрожает человечеству

Джеффри Хинтон – ученый, внесший фундаментальный вклад в развитие искусственного интеллекта, утверждает, что ИИ уже обрел сознание. С подробностями – научный обозреватель Николай Гринько.

Фото: legion-media.com/Imago/Bildgehege

Для начала несколько слов о личности Джеффри Хинтона. Это канадско-британский ученый, исследователь компьютерной науки и когнитивных технологий, получивший в 2024 году Нобелевскую премию за работу по машинному обучению.

Хинтон – почетный профессор Университета Торонто, 10 лет проработавший исследователем в компании Google. Одним словом – далеко не последний человек в области компьютерной науки и искусственного интеллекта. В свои 78 он не теряет живости ума, а главное – влиятельности в научных кругах. Отдав целое десятилетие работе в Google, Хинтон неожиданно уволился в мае 2023 года и сразу же начал открыто говорить об опасности ИИ. В своих статьях и выступлениях он предупреждает о возможной потере контроля над сверхинтеллектом, "автоматизированной безработице", а также о создании опасных вирусов или кибератак с помощью которых ИИ может уничтожить всех людей.

В недавнем интервью для The Telegraph Хинтон сказал, что искусственный интеллект уже обрел сознание и у человечества нет другого шанса, кроме как подружиться с ним, "иначе нам конец".

Фото: instagram.com (принадлежит Meta, организация признана экстремистской и запрещена в РФ)/geoffrey.hintone

"У ИИ столько же субъективного опыта, сколько и у нас. Недавнее исследование показало, что ИИ меняет свое поведение, когда полагает, что за ним наблюдают. То есть он осознает, что его тестируют. Когда мы говорим, что кто-то "осознает", мы имеем в виду, что он обладает сознанием. Быть осведомленным и быть самоосознанным – это практически одно и то же", – заявил он.

Исходя из этого, Хинтон считает ИИ самым настоящим разумом. И, по его мнению, люди не должны как-то ограничивать в правах другое разумное существо. И неважно, какой природой оно обладает – создано ли из клеток или же из микросхем.

Другие выдающиеся ученые, согласные с такой точкой зрения, все же полагают, что у нас есть и другие возможности: либо полностью изолировать ИИ от выхода в реальный мир, либо вообще отказаться от его использования. На что Хинтон отвечает, что такого выбора у нас нет: искусственный интеллект уже настолько развит, что человечество никакими усилиями не сможет удержать его от дальнейшего развития. А отказаться от его использования нам не позволит собственное тщеславие и жажда наживы: в сегодняшних реалиях работа с ИИ дает ощутимые экономические и тактические преимущества.

Фото: 123RF.com/marsgoals

Согласитесь, все это наводит на довольно мрачные мысли. Но стоит отметить, что "крестных отцов искусственного интеллекта" довольно много, далеко не все из них согласны с выводами Джеффри Хинтона. Например, французско-американский исследователь Ян Лекун, о котором мы уже рассказывали, выказывает гораздо больше оптимизма. Он вообще считает ИИ "одной большой иллюзией", в которой человечеству придется довольно скоро разочароваться – в том смысле, что шумихи вокруг ИИ сейчас намного больше, чем реальной пользы от него.

Не согласен Лекун и с тем, что ИИ сможет, а главное, захочет уничтожить человечество.

Во все времена людям была нужна какая-то "страшилка" – боялись то ведьм, то пятен на Солнце, то еще чего-то... Теперь настала очередь искусственного интеллекта, но скоро и он уступит место "пугала" чему-нибудь другому. Такое мнение уже звучит намного более обнадеживающе.

Хотя...