Кто несёт ответственность за ИИ в клинике?

Компания Американской медицинской ассоциации (AMA) представила новый фреймворк ответственности за ошибки клинического ИИ, уточнив, кто несёт последствия при неудачах технологий в медицине. В документе подчёркивается, что ответственность должна распределяться в зависимости от способности контролировать риск, а не быть равномерной. Это касается разработчиков, организаций и врачей.

AMA заявила, что существующие правовые рамки не решают вопросов ответственности при повреждениях, вызванных ИИ, и могут привести к тому, что врачи будут нести риски, которые не могут контролировать. Врачи, по её мнению, несут ответственность за клиническое суждение, которое они могут реально применить, учитывая ограничения системы и доступную информацию в момент принятия решения.

Чем это отличается от того, как было до сих пор, так это тем, что теперь чётко обозначено, что врач не может быть обвинён за ошибку, если он действовал в рамках известных ограничений и не имел возможности проверить систему. Ассоциация подчёркивает, что медицинское заключение не может заменить надёжные данные, правильный дизайн системы или условия, при которых обзор становится осмысленным.

Для клиники это значит, что при внедрении ИИ-инструментов необходимо документировать, кто и за что отвечает — разработчик, IT-поддержка, руководство или врач. Также убедитесь, что в карточке клиники и на сайте чётко указано, какие технологии используются, с какими ограничениями, и кто отвечает за их работу.