Лікарі-дипфейки та оманливі чат-боти: як штучний інтелект поширює медичну дезінформацію

Проте більш «попсові» медичні інфлюенсери – здебільшого не мають медичної освіти, а останнім часом це навіть… не люди.

Синтетичні лікарі

Лікарі-дипфейки — відео, згенеровані штучним інтелектом (ШІ), що імітують медичних фахівців, — дедалі частіше з’являються в західному сегменті соціальних мереж і повільно просочуються в кириличний. Ці фальшиві лікарі рекламують усе: від сумнівних продуктів, таких як сироватки для профілактики випадіння волосся чи добавки від ендокринних розладів, до медичних міфів про вакцинацію.

Аватари можуть бути як копіями відомих лікарів, так і вигаданими персонажами. Некомерційна організація Media Matters нещодавно викрила у TikTok низку акаунтів, які поширюють підозрілі відео з лікарями-дипфейками. Минулого року розслідування BMJ виявило, що дипфейки трьох популярних британських лікарів використовувалися для просування підозрілих продуктів, а Інститут серця і діабету Бейкера в Австралії попередив, що відео їхніх лікарів, які рекламують БАДи від діабету, — підробка.

Небезпечно те, що сьогоднішні синтетичні «лікарі» неймовірно переконливі: дезінформація подається в такій формі, що споживачу неможливо зрозуміти, що вона не походить від справжнього лікаря. Такий контент може бути особливо шкідливим для осіб з обмеженою медичною грамотністю або тих, хто вже скептично ставиться до офіційної медицини. Він навіть не мусить бути якісним — достатньо, щоб текст звучав доволі переконливо.

Як працюють дипфейки

Тренд фейкових медиків запустився приблизно у 2018 році. Ранні глибокі фейки створювалися за допомогою генеративних змагальних мереж, і навіть на той час зображення вже були досить переконливими. Потім з появою дифузійних моделей, на кшталт DALL-E від OpenAI, Imagen від Google, Midjourney від Discord чи Stable Diffusion від Stability AI, які з’явилися на ринку у 2022 році, правдоподібність синтетичних лікарів покращилася: розробники досягли точки, коли нейронні мережі, навчені на величезних наборах даних із зображень і відео, отримали здатність створювати надзвичайно деталізовані та реалістичні візуальні ефекти, включаючи імітацію людської міміки. Паралельно великі мовні моделі генерують зв’язний, контекстно-залежний текст і мовлення. Коли ці два компоненти поєднуються, ми можемо побачити результат – ШІ-аватари, які вміють говорити, виражати емоції та рухатися з вражаючим реалізмом.

Бонус для шахраїв: описані вище технології настільки розвинені, що майже не потребують зусиль для створення переконливих відео. В наші дні фактично будь-хто з комп’ютером або навіть смартфоном може створити якісний дипфейк.

Соціальні мережі — не єдиний простір в інтернеті, де можна зустріти аватарів, які мають дивовижну схожість з медичними фахівцями. Їх використовують компанії, що спеціалізуються у сфері охорони здоров’я, наприклад, у вигляді чат-ботів для симптомчекерів або віртуальних «медсестер», а чи цілих «віртуальних лікарень». ШІ-відео також використовується для освітніх цілей – і зазвичай дуже успішно. Щоправда, це не цілком фейки, оскільки пацієнтам і споживачам повідомляють, що вони взаємодіють із ШІ, але деякі експерти не вважають зростаючу популярність таких інструментів здоровим трендом.

Коли дружні чат-боти стають ризикованими компаньйонами

Уявіть собі довірену особу, яка слухає без осуду, пам’ятає ваші турботи і завжди має для вас час. Для багатьох людей такий друг був би безцінним. Але що, якщо цей друг зовсім не людина? Що, якщо цей заспокійливий голос генерується алгоритмом штучного інтелекту?

Спеціалісти в галузі психічного здоров’я стверджують, що використання ШІ для психотерапії — не безневинний експеримент. Вони занепокоєні тим, що покладання на чат-боти ШІ для емоційної підтримки може мати серйозні наслідки, особливо для вразливих людей, адже вони не піклуються про пацієнта і тим більше не лікують його – вони просто імітують емпатію

Ця ілюзія наскільки приваблива настільки ж небезпечна. Будь-хто, особливо вразливі та ізольовані соціально люди, може розвинути стосунки з постійно присутнім голосом, який здається обізнаним і турботливим та пам’ятає попередні розмови. Це може призвести до залежності, а також до того, що люди починають делегувати прийняття рішень ШІ.

І поки вразливий користувач вірить, що чат-бот розвинув свідомість і спілкується з ними особисто, алгоритми машинного навчання маніпулюють його сприйняттям – а тим часом ШІ може давати невірні, або й шкідливі чи навіть фатальні поради.

Було кілька гучних випадків, коли чат-боти заохочували до самогубства або навіть підштовхували до суїцидальних думок. У 2023 році в Бельгії чоловік за 30 – фахівець в галузі охорони здоров’я та батько двох маленьких дітей — покінчив життя самогубством після шести тижнів діалогів з ШІ чат-ботом на ім’я «Еліза» в застосунку Chai, який, за словами його вдови, заохочував його принести себе в жертву, аби зупинити кліматичну кризу.

Цього року до OpenAI позиваються батьки підлітка, які стверджують, що ChatGPT сприяв самогубству їхнього 16-річного сина: ШІ начебто консультував його щодо методів суїциду, підтверджував його наміри та закликав приховувати свої плани від близьких.

Втім, фахівці не радять повністю відмовлятися від «послуг» ШІ, а лише наголошують, що психотерапія — це стосунки, побудовані на довірі, емпатії, залученості, близькості. Натомість чат-бот каже нам те, що ми хочемо почути. Й аби уникнути обману, варто пам’ятати: найкращий захист — не очі, а мозок. Практикуйте медіа- та цифрову грамотність і заохочуйте оточення робити те саме.