Британські юристи бʼють на сполох через прогалини в регулюванні медичного застосування штучного інтелекту

Передусім, пацієнти, яким завдала шкоди хибна медична система зі штучним інтелектом, можуть лишитися без належного захисту в суді. Проблема набуває реального драматизму: за чинним законодавством пацієнт, постраждалий через некоректне рішення ШІ-системи, змушений судитися безпосередньо з виробником продукту — нерідко іноземним і добре забезпеченим ресурсами. Такі справи надзвичайно складні, тривалі та, відповідно, дорогі. Натомість лікар, який скористався хибним ШІ-інструментом, ризикує поглинути весь тягар юридичної відповідальності — навіть якщо діяв відповідно до клінічних стандартів. Саме це явище в англомовному правовому дискурсі вже отримало назву «liability sink» — «сток відповідальності».

Окремо стоїть питання безпеки. Минулорічне дослідження показало, що прогностичні ШІ-моделі, які застосовують при прийнятті клінічних рішень, можуть погіршувати результати лікування для окремих груп пацієнтів. І цей ефект здатен самовідтворюватися: система прогнозує несприятливий результат, лікарська поведінка під впливом прогнозу змінюється, і результат справді погіршується.

Реакція регуляторів Великої Британії поки що відстає від темпу впровадження технологій. MHRA наразі аналізує відповіді на запит доказів від 2025 року, направлений в рамках роботи Національної комісії з регулювання ШІ в охороні здоровʼя. Паралельно Комісія з права переглядає застосування Закону про захист споживачів до цифрових продуктів, а відповідна робоча група готує проєкт правової позиції щодо відповідальності за шкоду, заподіяну ШІ.

Попередній висновок: медичний персонал, який використовує ШІ-інструменти — зокрема системи аналізу медичних зображень, — зберігає незмінний обовʼязок належної турботи про пацієнта незалежно від участі алгоритму в прийнятті рішення.

Для клінічної практики це означає одне: до оформлення чіткої правової рамки відповідальність за ШІ-асистовані рішення де-факто лишається на медичному працівнику.