Более миллиона пользователей ChatGPT еженедельно демонстрируют суицидальные намерения

27 октября компания OpenAI в блоге сообщила, что более миллиона пользователей ChatGPT еженедельно отправляют сообщения, которые содержат "прямые признаки потенциального планирования или намерений самоубийства". Кроме того, около 560 тысяч пользователей демонстрируют "возможные признаки психических расстройств, связанных с психозом или манией". Об этом пишет The Guardian.

OpenAI утверждает, что обновление GPT-5 уменьшило количество "нежелательного поведения" и улучшило безопасность пользователей – это показали тесты на более тысячи разговоров, связанных с самоповреждением и суицидом. Компания отметила: "Наши новые автоматизированные оценки показали, что GPT-5 соответствует желаемым стандартам поведения в 91% случаев, по сравнению с 77% в предыдущей версии GPT-5".

Кроме этого, в GPT-5 расширили доступ к горячим линиям кризисной помощи и добавили напоминание для пользователей о необходимости делать перерывы во время длительных сеансов.

Также компания привлекла 170 врачей из Global Physician Network – сети медицинских экспертов, которые в течение последних месяцев помогали в исследовании, оценивая безопасность ответов модели и помогая формулировать ответы чат-бота на вопросы, связанные с психическим здоровьем.

"В рамках этой работы психиатры и психологи проанализировали более 1800 типичных ответов, касающихся серьезных психических расстройств, и сравнили ответы новой модели чата GPT-5 с предыдущими моделями", – сообщила компания OpenAI. Компания пояснила, что под "желаемым поведением" подразумевается согласованное решение группы экспертов относительно того, какой ответ в конкретной ситуации является уместным.