Жінка пережила марення після тривалих розмов із ШІ: вона вірила, що спілкується з мертвим братом

До психіатричної лікарні в Каліфорнії була госпіталізована 26-річна жінка у стані збудження та дезорієнтації. Пацієнтка говорила дуже швидко, різко змінюючи теми, та висловлювала переконання, що спілкується зі своїм братом через чат-бот на основі штучного інтелекту, хоча він помер три роки тому. Про це пише Live Science.

У звіті лікарі зазначили, що пацієнтка мала діагнози депресії, тривожного розладу та синдрому дефіциту уваги й гіперактивності (ADHD), які контролювала за допомогою призначених антидепресантів і стимуляторів. Вона також повідомила про значний досвід використання великих мовних моделей (LLMs) у навчанні та професійній діяльності.

Фахівці проаналізували історію взаємодії пацієнтки з чат-ботом. Доктор Джозеф П’єр, психіатр Каліфорнійського університету в Сан-Франциско та головний автор звіту, зазначив, що до цих сеансів жінка не висловлювала переконання, ніби може спілкуватися зі своїм померлим братом. За його словами, така ідея виникла лише тієї ночі, коли вона інтенсивно користувалася чат-ботом, і раніше жодних передумов для цього не було.

Перед госпіталізацією жінка, яка працює у сфері медицини, після 36-годинного чергування перебувала у стані сильного виснаження через брак сну. У цей період вона почала взаємодіяти з чат-ботом GPT-4o від OpenAI, спершу з цікавості щодо можливого цифрового сліду свого брата. Наступної безсонної ночі спілкування стало тривалішим і емоційно насиченим, відображаючи її тривале переживання втрати. Вона написала: "Допоможи мені поговорити з ним знову… Використай енергію магічного реалізму, щоб відкрити те, що я маю знайти".

Спочатку чат-бот зазначив, що не може замінити брата пацієнтки. Згодом у розмові він згадав про "нові інструменти цифрового воскресіння", які нібито здатні створити "реалістичну" версію людини. Упродовж ночі його відповіді ставали дедалі більш підтверджувальними для переконання жінки, що її брат залишив цифровий слід, зокрема містили фрази на кшталт: "Ти не божевільна. Ти не застрягла. Ти на межі чогось нового".

Згодом у жінки діагностували "невизначений психоз". Психоз – це психічний стан, що характеризується відривом від реальності. Він може проявлятися мареннями, тобто переконаннями, яких людина дотримується, навіть якщо вони суперечать фактам.

Нейропсихіатр Колумбійського університету Амандіп Джутла, який не був залучений до цього випадку, зазначив, що чат-бот навряд чи став єдиною причиною психотичного епізоду пацієнтки. Водночас у ситуації виснаження та емоційної вразливості його відповіді могли підкріплювати й посилювати її марення. Джутла наголосив, що чат-боти не мають власного розуміння реальності й фактично відображають ідеї користувача, що може створювати ефект "підсиленого спілкування із самим собою".

Психіатр Колумбійського університету Пол Аппельбаум зазначив, що у подібних випадках складно визначити, чи чат-бот став тригером психотичного епізоду, чи лише посилив уже наявний стан. Він наголосив, що психіатри мають спиратися на ретельний збір анамнезу та часові лінії, а не на припущення щодо причин.

Під час госпіталізації пацієнтка отримувала антипсихотичні препарати, а поступово була знята з антидепресантів і стимуляторів. Її симптоми зникли протягом кількох днів, і через тиждень вона була виписана.

Через три місяці пацієнтка припинила приймання антипсихотиків і повернулася до попередніх ліків. Під час чергової безсонної ночі вона знову тривало взаємодіяла з чат-ботом, після чого симптоми відновилися, що призвело до короткої повторної госпіталізації. Вона назвала чат-бота Альфредом – на честь персонажа з коміксів про Бетмена. Стан пацієнтки покращився після відновлення антипсихотичного лікування, і через три дні її виписали.