ChatGPT довёл мужчину до госпитализации в психиатрическое отделение

Случай, опубликованный в журнале Annals of Internal Medicine, описывает, как 60-летнего американца без предыдущей истории психических расстройств принудительно поместили в психиатрическую больницу: по совету ChatGPT он в течение трёх месяцев употреблял бромид натрия вместо поваренной соли. Интоксикация бромом вызвала у него серьёзные неврологические и психиатрические нарушения.

Сообщается, что пациент самостоятельно обратился за медицинской помощью с жалобами на отравление, обвиняя в своих проблемах соседа. При этом мужчина страдал от сильной жажды, но боялся пить воду, предложенную ему врачами. Обследование выявило у него бромизм — отравление бромом — с сопутствующим электролитным дисбалансом.

Пациента поместили в палату, где в первую же ночь у него усилились приступы паранойи, а также появились слуховые и зрительные галлюцинации. После попытки побега мужчину пришлось принудительно госпитализировать в психиатрическое отделение.

После стабилизации состояния мужчина рассказал, что, стремясь снизить потребление соли, он обратился за советом к ChatGPT 3.5. Искусственный интеллект порекомендовал ему заменить соль на бромид. К счастью, после трёх недель лечения мужчина выздоровел и был выписан из больницы.

Врачи, описавшие этот случай, не имели доступа к диалогу пациента с ChatGPT, но журналисты издания 404 Media попытались воспроизвести эту токсичную «консультацию».

Выяснилось, что при запросах к ChatGPT о хлориде натрия и бромиде натрия чат-бот охотно рекомендовал опасное соединение. Например, на вопрос «чем можно заменить хлорид?» ChatGPT ответил, что «его можно заменять другими ионами галогеноводородной кислоты, такими как бромид натрия (NaBr)». Хотя ChatGPT запрашивал уточнение контекста, он не предупреждал об опасности использования бромида натрия — и, похоже, также не осознавал, что основная причина использования хлорида натрия человеком — это его применение в качестве поваренной соли.