Британские юристы бьют тревогу из-за пробелов в регулировании медицинского применения искусственного интеллекта

Прежде всего, пациенты, которым нанесла вред ошибочная медицинская система с искусственным интеллектом, могут остаться без должной защиты в суде. Проблема приобретает реальный драматизм: по действующему законодательству пациент, пострадавший из-за некорректного решения системы ИИ, вынужден судиться непосредственно с производителем продукта — часто иностранным и хорошо обеспеченным ресурсами. Такие дела чрезвычайно сложные, длительные и, соответственно, дорогие. В то же время врач, который воспользовался ошибочным инструментом ИИ, рискует взять на себя всю тяжесть юридической ответственности — даже если действовал в соответствии с клиническими стандартами. Именно это явление в англоязычном правовом дискурсе уже получило название «liability sink» — «сток ответственности».

Отдельно стоит вопрос безопасности. Прошлогоднее исследование показало, что прогностические модели ИИ, применяемые при принятии клинических решений, могут ухудшать результаты лечения для отдельных групп пациентов. И этот эффект способен к самовоспроизведению: система прогнозирует неблагоприятный исход, поведение врача под влиянием прогноза меняется, и результат действительно ухудшается.

Реакция регуляторов Великобритании пока отстает от темпов внедрения технологий. MHRA в настоящее время анализирует ответы на запрос доказательств от 2025 года, направленный в рамках работы Национальной комиссии по регулированию ИИ в здравоохранении. Параллельно Комиссия по праву пересматривает применение Закона о защите потребителей к цифровым продуктам, а соответствующая рабочая группа готовит проект правовой позиции относительно ответственности за вред, причиненный ИИ.

Предварительный вывод: медицинский персонал, использующий инструменты ИИ — в частности системы анализа медицинских изображений, — сохраняет неизменную обязанность должной заботы о пациенте независимо от участия алгоритма в принятии решения.

Для клинической практики это означает одно: до оформления четкой правовой рамки ответственность за решения, ассистированные ИИ, де-факто остается на медицинском работнике.