OpenAI: понад мільйон користувачів ChatGPT щотижня демонструють суїцидальні наміри

27 жовтня компанія OpenAI у блозі повідомила, що понад мільйон користувачів ChatGPT щотижня надсилають повідомлення, які містять "прямі ознаки потенційного планування чи намірів самогубства". Крім того, близько 560 тисяч користувачів демонструють "можливі ознаки психічних розладів, пов'язаних із психозом або манією". Про це пише The Guardian.

OpenAI стверджує, що оновлення GPT-5 зменшило кількість "небажаної поведінки" й покращило безпеку користувачів – це показали тести на понад тисячі розмов, пов’язаних із самопошкодженням і суїцидом. Компанія зазначила: "Наші нові автоматизовані оцінки показали, що GPT-5 відповідає бажаним стандартам поведінки у 91% випадків, порівняно з 77% у попередньої версії GPT-5".

Крім цього, у GPT-5 розширили доступ до гарячих ліній кризової допомоги та додали нагадування для користувачів про необхідність робити перерви під час тривалих сеансів.

Також компанія залучила 170 лікарів із Global Physician Network – мережі медичних експертів, які протягом останніх місяців допомагали в дослідженні, оцінюючи безпечність відповідей моделі та допомагаючи формулювати відповіді чат-бота на запитання, пов’язані з психічним здоров’ям.

"У рамках цієї роботи психіатри та психологи проаналізували понад 1800 типових відповідей, що стосуються серйозних психічних розладів, і порівняли відповіді нової моделі чату GPT-5 з попередніми моделями", – повідомила компанія OpenAI. Компанія пояснила, що під "бажаною поведінкою" мається на увазі узгоджене рішення групи експертів щодо того, яка відповідь у конкретній ситуації є доречною.