Медсёстры Kaiser Permanente пожаловались на слежку ИИ, вредящую уходу за пациентами

Семь нынешних и бывших медсёстр Kaiser Permanente, отвечающих на звонки консультационной и триажной линии, рассказали изданию CalMatters, что слежка на рабочем месте всё сильнее мешает им заботиться о пациентах. По их словам, тех, кто проводит на звонке с пациентом больше 15 минут, регулярно критикует руководство или вызывает на разбор результатов работы: время звонка входит в ежемесячную оценку эффективности. Помимо учёта длительности звонков, Kaiser использует программы, ежедневно прогнозирующие, работает ли сотрудник недостаточно продуктивно или медленно отвечает на звонки. Отдельные ИИ-системы применялись и для оценки эмпатии и тона голоса медсёстр.

Это выяснилось накануне переговоров: в этом месяце Калифорнийская ассоциация медсестёр (California Nurses Association, CNA) начинает согласовывать с Kaiser новый контракт, и ИИ, вероятно, станет одним из ключевых вопросов. В марте медсёстры Kaiser уже проводили однодневную забастовку против ИИ, а осенью прошлого года пикетировали компанию по тому же поводу. CNA ведёт переговоры от имени 25 000 медсёстр, включая 1000 сотрудников call-центров. Параллельно законодатели Калифорнии рассматривают несколько законопроектов о регулировании ИИ на рабочем месте, включая один, который должен защитить от преследования врачей и медсёстр, отменяющих автоматические рекомендации по лечению.

Kaiser заявила, что применяет технологии с заботой о безопасности пациентов и не использует «среднее время обработки звонка» (average handle time) для оценки работы сотрудников. Kaiser Permanente, крупнейший частный работодатель Калифорнии, оказывающий медицинские услуги более чем 9 млн человек в штате и ещё 3 млн жителей других штатов, поэтому подход компании к использованию ИИ для управления персоналом может задать важный прецедент для всей отрасли.

Ракель Альварес Санчес, консультационная медсестра Kaiser в городе Вальехо с 2010 года, рассказала, как приняла звонок от пациента с суицидальными намерениями: разговор занял больше часа, потому что пришлось ждать приезда полиции, прежде чем повесить трубку. Она старалась поддержать человека, хотя понимала, что такой долгий звонок собьёт её средние показатели на недели вперёд и может привести к вопросам от руководства. Санчес, профсоюзный представитель, сопровождала коллег на разборах результатов, где выяснялось, что медсестра сделала всё правильно, кроме того, что провела на линии больше 15 минут. По её словам, она не видела, чтобы за это увольняли, но опасается, что постоянное давление вынуждает медсёстр увольняться или уходить на пенсию раньше срока. «Единственное объяснение, которое я вижу, это делается ради прибыли», сказала она.

Другая медсестра, пожелавшая остаться анонимной из страха перед местью со стороны руководства, описала звонок с пожилой женщиной, только что получившей диагноз неизлечимого рака. Сначала медсестра решила, что пациентка думает о самоубийстве, но быстро поняла, что та просто в шоке и ей нужно с кем-то поговорить. Медсестра хотела проявить сочувствие, но остановила себя из страха, что это ударит по её месячной оценке эффективности и приведёт к выговору от менеджера: «Мне пришлось спросить себя: меня накажут за то, что я отступлю от сценария или скажу больше, чем положено?»

Представитель Kaiser Винсент Стауп заявил CalMatters, что компания не использует среднее время обработки звонка для оценки работы операторов и что все инструменты в call-центрах проходят проверку людьми, а сама компания применяет ИИ ответственно, с человеческим контролем и заботой о безопасности, приватности и равенстве пациентов, но отказался раскрывать детали внутренних технологических систем «по соображениям безопасности».

Насколько ограничение времени звонков влияет на пациентов, неясно: медсёстры не могут проследить судьбу пациента после звонка, а запрос CalMatters в Департамент по регулируемому медицинскому обслуживанию Калифорнии (DMHC) в 2024 году не выявил жалоб пациентов, связанных именно с длительностью звонков. Тем не менее медсёстры настаивают, что риск для безопасности и качества ухода реален. Адвокат по защите прав пациентов Мишель Рамос из Consumer Watchdog отметила, что многие пациенты Kaiser начинают путь с консультационной линии, а жалобы, которые она получает позже, часто берут начало именно там. По её словам, у Kaiser давняя репутация компании, которая «управляет деньгами больше, чем заботой», что в итоге вредит пациентам, Рамос напомнила, что Kaiser заплатила рекордный штраф в 50 млн долларов по итогам расследования DMHC, установившего, что компания затягивала визиты к специалистам по психическому здоровью сверх установленных законом сроков и слишком часто направляла пациентов на групповую, а не индивидуальную терапию; также Kaiser урегулировала претензии Министерства труда США по итогам расследований служб помощи при зависимостях и психическом здоровье.

По словам медсёстр, от них требуют укладываться в 15 минут даже в случаях, объективно требующих больше времени: у пациентов с несколькими симптомами и хроническими заболеваниями, у новых родителей, нуждающихся в консультации, у людей, которым нужно развёрнутое медицинское разъяснение, и у тех, кто в шоке от тяжёлого диагноза. Звонки с участием переводчиков часто занимают от 30 минут, около четырёх из десяти жителей Калифорнии говорят на языке, отличном от английского, и половина из них плохо владеет английским. «Отведённого Kaiser времени иногда просто не хватает, чтобы это было безопасно», сказала одна из медсёстр, пожелавшая остаться анонимной. «Людям можно навредить», добавила Шарлотт Капулонг, проработавшая в call-центрах для медсёстр 22 года и участвовавшая в организации протеста против ИИ-инструмента оценки тона голоса. По её словам, медсёстры чувствовали себя затравленными на разборах, даже если выполнили всю работу правильно, кроме укладывания в 15 минут: «Вы же не в Comcast звоните. Мы имеем дело с человеческими жизнями».

Летом 2024 года Kaiser начала тестировать ИИ-инструмент, оценивающий эмпатию и тон голоса медсёстр и пациентов во время звонков. В ответ медсёстры собрали подписи под петицией за право на приватность пациентов, большую прозрачность и право медсёстр на профессиональное суждение, под тем же лозунгом, что использовался на протестах у больниц Сан-Франциско: «Доверяйте медсёстрам, а не ИИ». Тестирование ИИ завершилось в ноябре 2024 года, но представителям профсоюза сообщили, что руководство может вернуть программу в будущем. Одна из медсёстр отметила, что «ИИ не понимал нашу работу и постоянно оценивал нас неправильно». Представитель Kaiser отказался отвечать на вопросы об этом инструменте.

Директор программы UC Berkeley Labor Center по технологиям и труду Аннетт Бернхардт предупреждает, что алгоритмическое управление превращает людей в «роботов из плоти», по аналогии с жалобами сотрудника склада Amazon, о которых ранее писала CalMatters. Исследование 2023 года по call-центрам в четырёх развитых странах показало, что использование ИИ для управления и мониторинга сокращает время между звонками и повышает эмоциональное истощение сотрудников, почти половина опрошенных заявили, что ИИ-инструменты делают их работу более стрессовой. Более раннее исследование тех же авторов, Вирджинии Доллгаст (Корнеллский университет) и Шона О'Брэйди (Университет Макмастера), показало, что мониторинг эффективности ведёт к росту эмоционального выгорания. По данным опроса 2024 года Национального союза медсестёр (National Nurses United), почти половина из более чем 2000 опрошенных медсёстр сообщили, что их работодатель использует алгоритмические системы для анализа медицинских карт пациентов.

Ключевые факты

Семь медсёстр Kaiser Permanente рассказали CalMatters, что ИИ и слежка (время звонка, прогноз продуктивности, оценка эмпатии и тона голоса) заставляют их сокращать общение с пациентами под угрозой разбора эффективности.
Калифорнийская ассоциация медсестёр (CNA) начинает переговоры с Kaiser о новом контракте для 25 000 медсёстр, включая 1000 сотрудников call-центров, ИИ станет ключевым пунктом; ранее в марте прошла однодневная забастовка против ИИ.
Kaiser отрицает использование среднего времени обработки звонка для оценки эффективности, но медсёстры описывают конкретные случаи (звонок с суицидальным пациентом, звонок с онкобольной), когда боялись выговора за долгий разговор.
Kaiser, крупнейший частный работодатель Калифорнии (9 млн пациентов в штате, ещё 3 млн в других штатах), уже платила штраф 50 млн долларов за задержки психиатрической помощи; законодатели штата рассматривают билли о защите медработников, отменяющих рекомендации ИИ.
Академические исследования call-центров в четырёх странах и опрос Национального союза медсестёр показывают, что алгоритмический мониторинг повышает стресс и эмоциональное выгорание сотрудников в разных отраслях.

Почему это важно

Kaiser Permanente, крупнейший частный работодатель Калифорнии, обслуживающий более 9 млн человек в штате и ещё 3 млн в других штатах. То, как компания применяет ИИ для управления персоналом call-центров, может задать прецедент для всей отрасли здравоохранения и показать, как индустрия балансирует между экономией на автоматизации и живым человеческим участием в уходе за пациентами.

Кому это важно

Прежде всего медсёстрам call-центров Kaiser, 25 000 членам профсоюза CNA, включая 1000 операторов линии консультаций и триажа, для которых ИИ станет темой предстоящих переговоров по контракту. Важно это и для пациентов, чья безопасность зависит от качества и продолжительности звонков, а также для законодателей Калифорнии, рассматривающих билли о защите медработников от преследования за отмену рекомендаций ИИ.

Как это применить

Материал не описывает продукт, а фиксирует конфликт вокруг практики: CNA использует переговоры по контракту и забастовки/пикеты как рычаг против расширения ИИ-слежки; медсёстры организуют петиции («Доверяйте медсёстрам, а не ИИ»); регуляторы Калифорнии готовят законодательную защиту для медработников, отступающих от автоматических рекомендаций. Это ориентир для других профсоюзов и работодателей здравоохранения, вводящих схожие системы мониторинга.

Можно ли доверять

Материал, журналистское расследование CalMatters, основанное на интервью с семью нынешними и бывшими медсёстрами Kaiser (часть, анонимно, из страха перед местью), а также на официальном комментарии представителя Kaiser, который отрицает использование среднего времени звонка для оценки эффективности. Издание также ссылается на запрос по Закону о доступе к публичным данным в регулятор DMHC за 2024 год, который не выявил формальных жалоб пациентов, напрямую связанных с длительностью звонков, сама CalMatters честно указывает на этот нюанс, не подгоняя факты под тезис медсестёр.

Риски и подводные камни

Главный риск, угроза безопасности пациентов: медсёстры описывают случаи с суицидальными пациентами и людьми, только что получившими тяжёлый диагноз, когда сокращение времени звонка или страх дисциплинарных мер мешали оказать полноценную помощь; отдельная проблема, звонки с переводчиками, которым объективно нужно больше 15 минут. Для самих медсёстр риск, эмоциональное выгорание и текучка кадров, что подтверждают академические исследования алгоритмического мониторинга call-центров в разных странах и отраслях.

«Людям можно навредить. Вы же не в Comcast звоните. Мы имеем дело с человеческими жизнями.»

— Шарлотт Капулонг, медсестра call-центра Kaiser Permanente