Фото: 123RF.com/mehaniq/
Жительница Канады подала иск против компании OpenAI и ее гендиректора Сэма Альтмана, обвинив чат-бот в склонении дочери к суициду. Об этом пишет Reuters.
В иске, направленном в суд Сан-Франциско, Кристи Каррье утверждает, что ее дочь Алиса более десяти раз рассказывала ChatGPT о мыслях о суициде.
Девушка начала пользоваться чат-ботом в 2023 году. Через год она уже обсуждала с нейросетью свои переживания. Постепенно общение становилось все более личным: Алиса раскрывала все больше деталей, а ChatGPT отвечал в манере, характерной для друга или психолога.
Диалоги продолжались вплоть до ее смерти, но алгоритмы безопасности ни разу не пометили беседы для проверки человеком и не прервали их.
Ранее в Китае родители
доверились советам нейросети и едва не погубили младенца. ИИ-помощник порекомендовал кормить малыша, заболевшего желтухой, по 60 миллилитров молока за раз. Родители неукоснительно следовали этой инструкции и отвергали советы родственников увеличить порцию.
В итоге младенец неделю постоянно кричал от голода, быстро уставал и почти не набирал вес, пока на плановом осмотре врач не объяснил, что здоровый месячный ребенок должен выпивать не менее 80–100 миллилитров за одно кормление.