Новый закон Калифорнии запрещает использование ИИ для отклонения заявлений на страховые выплаты.

Законопроект SB 1120 предписывает, чтобы человеческое суждение оставалось центральным фактором при принятии решений о страховых выплатах.

В прошлом году в Калифорнии было отклонено около четверти всех заявлений на выплату медицинской страховки. Ситуация отразилась на всей территории США и вызвала широкий общественный резонанс. Медицинские компании подверглись обвинениям в том, что их решения зачастую лишены таких нормальных человеческих эмоций, как сочувствие и эмпатия.

Теперь новый закон штата должен поставить точку в этой истории, гарантируя, что точка зрения человека не будет исключаться из таких решений. Отказы в страховых выплатах исключительно на основе алгоритмов искусственного интеллекта будут под запретом.

В сентябре прошлого года губернатор Гэвин Ньюсом подписал законопроект Сената 1120 — «Physicians Make Decisions Act» (англ. «Закон о принятии решений врачами»). Законопроект появился на фоне общественного недовольства системой медицинского страхования в США. Громкое убийство руководителя UnitedHealthcare Брайана Томпсона в декабре 2024 года вызвало волну реакций, в том числе и гнев общественности. Незадолго до этого, в ноябре 2023 года, судебный процесс против UnitedHealthcare выдвинул компании обвинение по факту неправомерного использования ИИ при принятии решений о страховых выплатах. 

По данным California Nurses Association, за 2024 год в штате было отклонено примерно 26% заявлений о страховых выплатах. Это лишь один из многих факторов, на которые обращает внимание основной автор закона — сенатор штата Джош Беккер.

«Только в 2021 году данные (по всей стране) показали, что компании медицинского страхования отклонили более 49 миллионов заявлений на выплаты», — отмечает Беккер, ссылаясь на информацию Kaiser Family Foundation. «При этом клиенты подали апелляции менее чем по 0,2% из них».

Стоит отметить, что закон SB 1120 не запрещает любое использование технологий ИИ. Он предписывает, чтобы суждение человека играло основную роль при принятии решений о страховых выплатах. Инструменты ИИ также не могут быть использованы для отказа, задержки или изменения медицинских услуг, которые врачи назначают обязательными.

«Алгоритм не способен полностью учесть такие факторы, как уникальная история болезни или особые потребности пациента. Поэтому его неправильное использование может привести к плачевным последствиям. Искусственный интеллект обладает огромным потенциалом для улучшения качества оказания медицинской помощи, но он ни в коем случае не должен заменять опыт и оценки живых врачей», — говорит Беккер. «Новый закон гарантирует: в основе решений, касающихся здравоохранения, будет сохранен человеческий надзор. Это в свою очередь гарантирует доступ калифорнийцев к качественной помощи».

Департамент здравоохранения Калифорнии будет контролировать исполнение закона, проверять показатели отказов и обеспечивать прозрачность таких процедур. Закон также устанавливает строгие сроки: стандартные случаи требуют решения в течение пяти рабочих дней, срочные случаи — в течение 72 часов, а процессы оценивания после проведенного лечения — в течение 30 дней.

Согласно законопроекту SB 1120, государственные регулирующие органы имеют право по своему усмотрению штрафовать страховые компании и определять суммы, положенные за нарушения сроков или ненадлежащее использование искусственного интеллекта.

Эрин Меллон, представитель California Medical Association, которая является одним из авторов законопроекта, подчеркнула важность защиты отношений между врачом и пациентом.

«Искусственный интеллект имеет потенциал для улучшения ухода за пациентами, но он не должен вредить этим отношениям или вовсе их вытеснять», — отметила Меллон. «Недавние отчеты освещают случаи, когда автоматика ошибочно отказывала пациентам в доступе к необходимой медицинской помощи. Врачи в целом поддерживают применение ИИ в здравоохранении. Но это при условии, что он помогает уходу за больным и учитывает особенности как врачей, так и пациентов».

Паула Вольфсон, менеджер Avenidas Care Partners, некоммерческой организации, помогающей пожилым людям, рассказала о трудностях, с которыми сталкиваются ее клиенты при отказе в страховых выплатах.

«Это прежде всего огромный стресс для клиентов», — говорит Вольфсон. «Со мной связываются целые семьи, которые нуждаются, но не могут получить доступ к необходимым медицинским услугам».

Вольфсон приветствует активный подход Калифорнии к регулированию ИИ в здравоохранении.

«У меня появляется капля надежды на то, что политики привнесут здравый смысл и благоразумие в эти решения», — сказала она.

Сенатор Джош Беккер отмечает, что подход Калифорнии привлекает внимание всей Америки.

«Сейчас 19 штатов рассматривают аналогичные законы», — сказал Беккер. «С нами даже связывались несколько офисов Конгресса, рассматривающих федеральное законодательство. Наш приоритет — помощь калифорнийцам, но установление общенациональной тенденции не менее важно».

Оригинальная статья