Бромід замість солі: порада від ChatGPT призвела до галюцинацій та параної

60-річний чоловік перед зміною раціону проконсультувався з ChatGPT. Через три місяці дотримання нової дієти він опинився у відділенні невідкладної допомоги з психіатричними симптомами – параноєю та галюцинаціями. Постраждалий запевняв, що його отруює сусід та намагався втекти з лікарні. Про це пише Live Science.

Виявилося, що 60-річний пацієнт страждав на бромізм – стан, спричинений тривалим впливом хімічної сполуки броміду або спорідненого з ним брому. У цьому випадку джерелом інтоксикації став натрій бромід, який чоловік придбав онлайн.

Чоловік поділився, що перед цим випадком читав матеріал про негативні наслідки надмірного споживання кухонної солі, відомої як натрій хлорид. "Він здивувався, що знайшов лише матеріали про зменшення кількості натрію в раціоні, а не хлориду", – йдеться у звіті лікарів. "Натхненний своїм досвідом вивчення нутріціології у коледжі, він вирішив провести особистий експеримент і виключити хлорид зі свого раціону".

Пацієнт звернувся до ChatGPT (версія неуточнена. – Ред.) та повідомив, що ШІ нібито, написав, що хлорид можна замінити бромідом, тож він повністю замінив сіль на натрій бромід. Автори зауважили, що така заміна є допустимою у контексті використання броміду натрію для очищення, але не для споживання в їжу.

Щоб змоделювати ситуацію, лікарі пацієнта спробували запитати ChatGPT 3.5, чим можна замінити хлорид, і теж отримали відповідь, у якій згадувався бромід. Модель зазначила, що "контекст має значення", але не дала конкретного медичного попередження і не уточнила, з якою метою ставиться запитання – "як це зробив би медичний фахівець", написали автори.

Через три місяці споживання броміду натрію замість солі чоловік звернувся до відділення невідкладної допомоги, вважаючи, що сусід його отруює. Аналізи показали накопичення вуглекислого газу в крові та підвищення лужності (зменшення кислотності).

Лікарі також зафіксували підвищений рівень хлориду в крові за нормального рівня натрію. Однак додаткове обстеження показало, що це був випадок, коли лабораторний тест на хлорид дав хибний результат через високу концентрацію броміду в крові, яка заважала точному вимірюванню. Згодом лікарі встановили діагноз – бромізм.

У лікарні, під час моніторингу електролітів, чоловік відчував сильну спрагу, але водночас боявся пити запропоновану воду. На наступний день його параноя посилилася, з’явилися галюцинації, і він спробував утекти, через що був поміщений у примусове психіатричне відділення та почав отримувати антипсихотичний препарат.

Після введення рідини та електролітів стан чоловіка стабілізувався, а його психічний стан покращився завдяки лікуванню. Постраждалий розповів лікарям про використання ChatGPT, а також згадав про інші симптоми, що з’явилися останнім часом: акне, дрібні червоні висипання (можлива реакція гіперчутливості на бромід), безсоння, втому, порушення координації та сильну спрагу, що додатково підтверджувало його діагноз.

Протягом трьох тижнів антипсихотик поступово скасувати, після чого його виписали. На контрольному огляді через два тижні він залишався у стабільному стані.

Live Science звернулося до OpenAI, розробника ChatGPT, за коментарем. Представник компанії зауважив, що, згідно з умовами про надання послуг, сервіс не призначений для діагностики чи лікування захворювань. Зокрема, додав, що отримані результати не слід сприймати як єдине джерело перевіреної інформації чи як заміну професійної консультації.

У XIX і XX століттях бромід широко застосовувався у рецептурних і безрецептурних препаратах – зокрема, як седативний засіб, протисудомний препарат і снодійне. Згодом стало очевидно, що хронічний вплив, наприклад, унаслідок зловживання такими ліками, спричиняє бромізм.