В OpenAI заявили, что преимущества ИИ оправдывают сопутствующие риски

Фото: 123RF.com/rarrarorro

Преимущества развития искусственного интеллекта перевешивают риски, связанные с этой технологией. Об этом заявил изданию Politico глава американской компании OpenAI Сэм Альтман.

По словам Альтмана, обществу придется принять некоторые негативные последствия, которые могут сопровождать развитие ИИ. Он отметил, что это необходимо ради преимуществ технологии и людей, которые в дальнейшем будут ею управлять.

Ранее Альтман предупреждал, что развитие искусственного интеллекта может привести к потере человечеством контроля над технологией и чрезмерной концентрации власти у отдельных людей, компаний или государств. Он подчеркивал, что ИИ должен работать в интересах людей, а системы безопасности и соответствия человеческим интересам должны развиваться быстрее самих моделей.

Также руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер оценил в 10% вероятность уничтожения человечества искусственным интеллектом в ближайшие 10 лет. Он связал опасения с возможным появлением "суперинтеллектов", способных самостоятельно совершенствоваться, и отметил, что их развитие происходит быстрее, чем предполагалось. При этом нынешние разработки, по его словам, серьезной угрозы не представляют.