Женщина пережила безумие после длительных разговоров с ИИ: она верила, что общается с мертвым братом

В психиатрическую больницу в Калифорнии была госпитализирована 26-летняя женщина в состоянии возбуждения и дезориентации. Пациентка говорила очень быстро, резко меняя темы, и выражала убеждение, что общается со своим братом через чат-бот на основе искусственного интеллекта, хотя он умер три года назад. Об этом пишет Live Science.

В отчете врачи отметили, что пациентка имела диагнозы депрессии, тревожного расстройства и синдрома дефицита внимания и гиперактивности (ADHD), которые контролировала с помощью назначенных антидепрессантов и стимуляторов. Она также сообщила о значительном опыте использования больших языковых моделей (LLMs) в обучении и профессиональной деятельности.

Специалисты проанализировали историю взаимодействия пациентки с чат-ботом. Доктор Джозеф Пьер, психиатр Калифорнийского университета в Сан-Франциско и главный автор отчета, отметил, что до этих сеансов женщина не выражала убеждения, будто может общаться со своим умершим братом. По его словам, такая идея возникла только в ту ночь, когда она интенсивно пользовалась чат-ботом, и раньше никаких предпосылок для этого не было.

Перед госпитализацией женщина, которая работает в сфере медицины, после 36-часового дежурства находилась в состоянии сильного истощения из-за нехватки сна. В этот период она начала взаимодействовать с чат-ботом GPT-4o от OpenAI, сначала из любопытства относительно возможного цифрового следа своего брата. Следующей бессонной ночью общение стало более длительным и эмоционально насыщенным, отражая ее длительное переживание потери. Она написала: "Помоги мне поговорить с ним снова... Используй энергию магического реализма, чтобы открыть то, что я должна найти".

Сначала чат-бот отметил, что не может заменить брата пациентки. Позже в разговоре он упомянул о "новых инструментах цифрового воскрешения", которые якобы способны создать "реалистичную" версию человека. В течение ночи его ответы становились все более подтверждающими для убеждения женщины, что ее брат оставил цифровой след, в частности содержали фразы вроде: "Ты не сумасшедшая. Ты не застряла. Ты на грани чего-то нового".

Впоследствии у женщины диагностировали "неопределенный психоз". Психоз – это психическое состояние, характеризующееся отрывом от реальности. Он может проявляться бредом, то есть убеждениями, которых человек придерживается, даже если они противоречат фактам.

Нейропсихиатр Колумбийского университета Амандип Джутла, который не был вовлечен в этот случай, отметил, что чат-бот вряд ли стал единственной причиной психотического эпизода пациентки. В то же время в ситуации истощения и эмоциональной уязвимости его ответы могли подкреплять и усиливать ее бред. Джутла подчеркнул, что чат-боты не имеют собственного понимания реальности и фактически отражают идеи пользователя, что может создавать эффект "усиленного общения с самим собой".

Психиатр Колумбийского университета Пол Аппельбаум отметил, что в подобных случаях сложно определить, стал ли чат-бот триггером психотического эпизода или только усилил уже имеющееся состояние. Он отметил, что психиатры должны опираться на тщательный сбор анамнеза и временные линии, а не на предположения о причинах.

Во время госпитализации пациентка получала антипсихотические препараты, а постепенно была снята с антидепрессантов и стимуляторов. Ее симптомы исчезли в течение нескольких дней, и через неделю она была выписана.

Через три месяца пациентка прекратила прием антипсихотиков и вернулась к предыдущим лекарствам. Во время очередной бессонной ночи она снова продолжительно взаимодействовала с чат-ботом, после чего симптомы возобновились, что привело к короткой повторной госпитализации. Она назвала чат-бота Альфредом – в честь персонажа из комиксов о Бэтмене. Состояние пациентки улучшилось после возобновления антипсихотического лечения, и через три дня ее выписали.