ChatGPT залікував чоловіка до госпіталізації в психіатричне відділення

Випадок, опублікований у журналі Annals of Internal Medicine, описує, як 60-річного американця без попередньої історії ментальних розладів примусово помістили до психіатричної лікарні: за порадою ChatGPT він три місяці вживав бромід натрію замість кухонної солі. Інтоксикація бромом спричинила у нього серйозні неврологічні та психіатричні порушення.

Повідомляється, що пацієнт самостійно звернувся за медичною допомогою зі скаргами на отруєння, і в своїх проблемах він звинувачував сусіда. При цьому чоловік страждав від сильної спраги, але боявся пити запропоновану йому лікарями воду. Обстеження виявило у чоловіка бромізм — отруєння бромом – з супутнім електролітним дисбалансом.

Пацієнта помістили до палати, де в першу добу в нього посилилися напади параної, а також з’явилися слухові та зорові галюцинації. Після спроби втечі чоловіка довелося госпіталізувати до психіатричного відділення примусово.

Після нормалізації стану чоловік розповів, що, прагнучи зменшити споживання солі, він звернувся за порадою до ChatGPT 3.5. Штучний інтелект порадив йому замінити її на бромід. На щастя, пісял трьохтижневого лікування чоловік одужав і був виписаний із лікарні.

Лікарі, що описали цей кейс, не мали доступу до діалогу пацієнта з ChatGPT, але журналісти видання 404 Media спробували відтворити цю токсичну «консультацію».

Виявилося, що при запитах до ChatGPT щодо хлориду натрію та броміду натрію чат-бот радо рекомендував небезпечну сполуку. Наприклад, на запит «чим можна замінити хлорид?» ChatGPT відповів, що «його можна замінювати іншими іонами галогеноводневої кислоти, такими як: бромід натрію (NaBr)». Хоча ChatGPT і просив уточнити контекст, він не попереджав про небезпеку використання броміду натрію — і, здається, також не розумів, що основною причиною використання хлориду натрію людиною є його застосування як кухонної солі.