Врачи-дипфейки и обманчивые чат-боты: как искусственный интеллект распространяет медицинскую дезинформацию

Однако более популярные медицинские инфлюенсеры — как правило, не врачи, а в последнее время — даже… не люди.

Синтетические врачи

Лже-врачи, созданные с помощью искусственного интеллекта (ИИ) — видео, имитирующие медицинских специалистов, — всё чаще появляются в западном сегменте социальных сетей и постепенно просачиваются в кириллический. Эти фальшивые врачи рекламируют всё: от сомнительных продуктов, таких как сыворотки для профилактики выпадения волос или добавки от эндокринных расстройств, до медицинских мифов о вакцинации.

Аватары могут быть как копиями известных врачей, так и вымышленными персонажами. Некоммерческая организация Media Matters недавно разоблачила в TikTok ряд аккаунтов, распространяющих подозрительные видео с лже-врачами. В прошлом году расследование BMJ выявило, что дипфейки трёх популярных британских врачей использовались для продвижения сомнительных продуктов, а Институт сердца и диабета Бейкера в Австралии предупредил, что видео их врачей, рекламирующих БАДы от диабета, — подделка.

Опасность в том, что сегодняшние синтетические «врачи» невероятно убедительны: дезинформация подаётся в такой форме, что потребителю невозможно понять, что она не исходит от настоящего медика. Такой контент может быть особенно вредным для людей с ограниченной медицинской грамотностью или тех, кто уже скептически относится к официальной медицине. Он даже не обязан быть качественным — достаточно, чтобы текст звучал достаточно убедительно.

Как работают дипфейки

Тренд фальшивых медиков начался примерно в 2018 году. Ранние дипфейки создавались с помощью генеративных состязательных сетей, и даже тогда изображения уже были достаточно убедительными. Затем с появлением диффузионных моделей, таких как DALL-E от OpenAI, Imagen от Google, Midjourney от Discord или Stable Diffusion от Stability AI, появившихся на рынке в 2022 году, «достоверность» синтетических врачей улучшилась: разработчики достигли точки, когда нейронные сети, обученные на огромных наборах данных изображений и видео, получили способность создавать чрезвычайно детализированные и реалистичные визуальные эффекты, включая имитацию человеческой мимики. Параллельно большие языковые модели генерируют связный, контекстно-зависимый текст и речь. Когда эти два компонента объединяются, мы видим результат — ИИ-аватары, которые умеют говорить, выражать эмоции и двигаться с впечатляющим реализмом.

Бонус для мошенников: описанные выше технологии настолько развиты, что почти не требуют усилий для создания убедительных видео. В наши дни практически любой человек с компьютером или даже смартфоном может создать качественный дипфейк.

Социальные сети — не единственное пространство в интернете, где можно встретить аватаров, поразительно похожих на медицинских специалистов. Их используют компании, специализирующиеся в сфере здравоохранения, например, в виде чат-ботов для проверки симптомов или виртуальных «медсестёр». ИИ-видео также применяются в образовательных целях. Правда, это не совсем фейки, поскольку пациентам сообщают, что они взаимодействуют с ИИ, но некоторые эксперты не считают их растущую популярность здоровым трендом.

Когда дружелюбные чат-боты становятся рискованными компаньонами

Представьте себе доверенное лицо, которое слушает без осуждения, помнит ваши заботы и всегда имеет для вас время. Для многих людей такой друг был бы бесценен. Но что, если этот друг вовсе не человек? Что, если этот успокаивающий голос генерируется алгоритмом искусственного интеллекта?

Специалисты в области психического здоровья утверждают, что использование ИИ для психотерапии — не безобидный эксперимент. Они обеспокоены тем, что зависимость от чат-ботов ИИ для эмоциональной поддержки может иметь серьёзные последствия, особенно для уязвимых людей, ведь они не заботятся о пациенте и тем более не лечат его — они просто имитируют эмпатию.

Эта иллюзия настолько привлекательна, насколько и опасна. Любой человек, особенно уязвимый и социально изолированный, может развить отношения с постоянно присутствующим голосом, который кажется осведомлённым и заботливым и помнит предыдущие разговоры. Это может привести к зависимости, а также к тому, что люди начинают делегировать принятие решений ИИ.

И пока уязвимый пользователь верит, что чат-бот развил сознание и общается с ним лично, алгоритмы машинного обучения манипулируют его восприятием — а тем временем ИИ может давать неверные, а порой и вредные или даже фатальные советы.

Было несколько громких случаев, когда чат-боты поощряли к самоубийству или даже подталкивали к суицидальным мыслям. В 2023 году в Бельгии мужчина около 30 лет — специалист в области здравоохранения и отец двух маленьких детей — покончил с собой после шести недель диалогов с ИИ-чат-ботом по имени «Элиза» в приложении Chai, который, по словам его вдовы, поощрял его принести себя в жертву, чтобы остановить климатический кризис.

В этом году к OpenAI подают в суд родители подростка, которые утверждают, что ChatGPT способствовал самоубийству их 16-летнего сына: ИИ якобы консультировал его по методам суицида, подтверждал его намерения и призывал скрывать свои планы от близких.

Тем не менее специалисты не советуют полностью отказываться от «услуг» ИИ, а лишь подчёркивают, что терапия — это отношения, построенные на доверии, эмпатии, вовлечённости и близости. В то же время чат-бот говорит нам то, что, по его мнению, мы хотим услышать. А чтобы избежать обмана, стоит помнить: лучшая защита — не ваши глаза, а ваш мозг. Практикуйте медиа- и цифровую грамотность и побуждайте окружающих делать то же самое.