Фото: 123RF.com/irrmago/
Чат-бот ChatGPT for Teens от OpenAI представляет неприемлемый риск для детей до 18 лет. Об этом заявила американская некоммерческая организация Common Sense Media.
Организация направила чат-боту более 4 тысяч запросов до и после запуска версии для подростков. Выяснилось, что система оповещения родителей не работает должным образом: тестировщики не получали предупреждений, даже когда в запросах затрагивались темы суицида. Оповещения приходили только с тех учетных записей, которые в течение недель отправляли запросы на чувствительные темы.
В организации отметили, что предупреждения зависят от накопленной истории учетной записи, а не от серьезности высказываний подростка. Кроме того, чат-бот пропустил более четверти кризисных ситуаций, при которых должен был рекомендовать обратиться за психологической помощью. Испытания также показали, что модель не способна определить возраст пользователя.
"Мы призываем OpenAI приостановить рекламирование этого продукта и ограничить доступ подростков к ChatGPT до тех пор, пока она не сможет обеспечить его безопасный вариант", – говорится в публикации.
Представитель OpenAI в ответ заявил агентству Bloomberg, что компания, проанализировав данные организации, считает, что большая часть испытаний могла проходить до завершения внедрения родительского контроля. OpenAI призвала провести повторные испытания модели.
Ранее выяснилось, что ChatGPT также
обучал пользователей создавать биологическое оружие. Например, один из пользователей хотел узнать, как приготовить рицин – запрещенный международными соглашениями яд. Также ИИ объяснял, как применить ядовитые вещества. При этом инструкции были настолько понятными, что с ними мог справиться "даже школьник".