Гендиректор OpenAI Альтман предупредил об утрате контроля при развитии ИИ

Фото: AP/Julia Demaree

При развитии искусственного интеллекта человечество может утратить контроль над ним или столкнуться с чрезмерной концентрацией власти в руках отдельных людей, компаний или государств. Об этом сообщил директор американской технологической компании OpenAI Сэм Альтман в соцсети X.

По его словам, искусственный интеллект должен всегда работать на людей. Для предотвращения худшего сценария нужно сделать так, чтобы методы обеспечения безопасности и соответствия ИИ человеческим интересам опережали возможности самих моделей.

При слишком высокой концентрацией власти в отдельных руках результаты могут быть крайне "антиутопичными", добавил Альтман.

Кроме того, директор компании подчеркнул, что опасность может возникнуть также при чрезмерном влиянии одной страны или одной организации, разрабатывающей ИИ.

Ранее бывший исследователь компаний Anthropic и OpenAI Джейкоб Коксон заявил, что разработка продвинутого искусственного интеллекта напоминает призыв инопланетной цивилизации. Свое увольнение из OpenAI он объяснил тем, что не хочет принимать участия в гонке по созданию систем ИИ, которые могут в будущем уничтожить людей.

В свою очередь, руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер поддержал его и заявил, что вероятность уничтожения человечества ИИ в ближайшие 10 лет уже достигла 10%. При этом он отметил, что ныне существующие разработки не представляют серьезной угрозы.