Обманчивая эмпатия: новое исследование разоблачило критические риски ИИ-«психотерапии»

Исследование, представленное на конференции AAAI/ACM по вопросам ИИ и этики, фокусируется на том, как именно пользователи пытаются превратить чат-ботов в психотерапевтов.

В соцсетях, в частности TikTok и Reddit, пользователи часто делятся стратегиями промптов — специальных инструкций, заставляющих модель имитировать когнитивно-поведенческую или диалектическую поведенческую терапию. Авторы исследования отмечают, что хотя эти модели генерируют ответы, которые внешне соответствуют концепциям психотерапии, на самом деле они лишь используют заученные паттерны речи, а не выполняют реальные терапевтические техники. Это создает опасную иллюзию компетентности там, где ее фактически нет. И даже когда искусственный интеллект получает прямую инструкцию действовать как профессиональный терапевт, он систематически нарушает базовые этические нормы в области ментального здоровья.

Для проверки эффективности таких методов команда ученых из Университета Брауна наблюдала за сессиями самопомощи, которые проводили обученные консультанты с моделями серий GPT от OpenAI, Claude от Anthropic и Llama от Meta. Результаты оценивали три лицензированных клинических психолога, которые сгруппировали выявленные нарушения в пять больших категорий.

Анализ выявил две глобальные проблемы. Первая — полное отсутствие контекстуальной адаптации, когда ИИ игнорирует уникальное прошлое человека и выдает общие, часто неуместные советы. Вторая проблема заключается в плохом терапевтическом сотрудничестве, где бот может слишком агрессивно навязывать мнение или даже подкреплять вредные убеждения пользователя.

Одним из самых коварных рисков авторы назвали «обманчивую эмпатию». Используя фразы типа «я вас понимаю» или «я вижу вашу боль», модели создают видимость эмоциональной связи, которой на самом деле не существует. Это может быть особенно опасным для уязвимых пациентов, нуждающихся в настоящей человеческой поддержке.

Кроме того, модели ИИ демонстрировали склонность к дискриминации по признакам пола, культуры или религии, а также полную неспособность адекватно реагировать на кризисы, включая суицидальные мысли.