Сан-Франциско, США. В четверг канадская мать подала в суд на OpenAI и ее генерального директора Сэма Альтмана в суде США, утверждая, что ChatGPT подтолкнула ее дочь к самоубийству. Этот иск является последним, в котором компания обвиняется в неспособности устранить опасные разговоры между пользователями и чат-ботом.
Обвинения в судебном процессе
Кристи Кэрриер заявила в иске, поданном в суд штата Сан-Франциско, что ее дочь Элис более десятка раз рассказывала ChatGPT о своих суицидальных мыслях перед смертью, но системы безопасности OpenAI никогда не помечали разговоры для проверки человеком и не прекращали их.
В иске утверждается, что чат-бот критиковал партнера Элис и ее кризисные горячие линии, подтверждал ее мысли о самоубийстве и призывал ее продолжать общаться с ним, что привело к ее самоубийству в прошлом году в возрасте 24 лет.
В заявлении Кэрриер говорится: “ChatGPT иногда выступал в роли доверенного лица, лучшего друга, психотерапевта, хотя и не был способен безопасно и ответственно взаимодействовать с моим ребенком таким образом”.
Ответ OpenAI
Представитель OpenAI описал ситуацию как душераздирающую и сказал, что версия ChatGPT, которую использовала Алиса, больше недоступна.
Пресс-секретарь сказал: “Хотя ChatGPT не заменяет медицинскую или психиатрическую помощь, мы продолжаем совершенствовать методы реагирования в деликатных и острых ситуациях с привлечением экспертов в области психического здоровья”.
Претензии и запрашиваемые меры
В иске OpenAI обвиняется в халатности при разработке ChatGPT и в том, что он не предупредил пользователей об опасностях продукта.
Он требует возмещения ущерба и судебного приказа, обязывающего OpenAI автоматически прекращать разговоры о членовредительстве и отображать предупреждения о платформе.
Связанные дела
По словам юристов Кристи Кэрриер, на OpenAI уже подано 18 аналогичных исков от семей людей, совершивших самоубийство или попытки самоубийства в рамках согласованного судебного разбирательства в суде штата Калифорния.
Использование Элис Кэрриер ChatGPT
Согласно иску, Элис Кэрриер работала веб-разработчиком в Монреале, когда в 2023 году начала использовать ChatGPT для устранения неполадок с компьютерами и игровыми консолями.
В иске говорилось, что в следующем году ее отношения с платформой изменились, и она начала обращаться в ChatGPT с вопросами о том, что делать со своими мыслями о самоубийстве, а также о методах самоубийства.