Медсёстры HCA Healthcare жалуются на ИИ-график Timpani от Palantir

Издание WIRED рассказывает о конфликте медсестёр с ИИ-инструментом составления графиков Timpani. Его с 2023 года внедряет HCA Healthcare, крупнейшая сеть больниц США, примерно в 130 из своих 190 учреждений. Систему HCA разработала совместно с Palantir на платформе Palantir Foundry; название отсылает к ударному инструменту, задающему ритм. Timpani использует алгоритмические прогнозы числа пациентов и потребности в персонале, чтобы автоматически строить графики смен.

Эмбер Ретцлофф, 34 года, медсестра реанимации во Флориде, профсоюзный лидер National Nurses United с десятилетним стажем, за последние четыре месяца запросила 50 конкретных 12-часовых смен. По её словам, больше чем в половине случаев программа ставила её на другие смены, нередко на три дня подряд, что выматывало её морально. По её подсчётам, инструмент учитывает её пожелания заметно хуже, чем менеджеры, составлявшие график вручную. Ретцлофф вспоминает недавние смены, когда все четверо коллег были младшими сотрудниками: единственной опытной медсестрой была она, и ей приходилось откладывать помощь самым тяжёлым пациентам, чтобы вести новичков через более простые случаи. «Никто не доволен Timpani», говорит она; то же в интервью WIRED сказали пятеро медсестёр из других учреждений.

Медсёстры, говорившие с WIRED, утверждают, что Timpani потенциально вредит пациентам: команды оказываются недоукомплектованными, несбалансированными и измотанными. По их словам, при минимальном надзоре инструмент регулярно назначает слишком мало сотрудников или недостаточно опытных ветеранов, особенно по воскресеньям, и часто игнорирует пожелания о распределении смен, ночной и выходной работе и конкретных выходных днях. Раньше менеджеры составляли график вручную и, как правило, заранее советовались с медсёстрами, когда отклоняли их запросы. Теперь, по рассказам медсестёр, предупреждают позже, а временных переводов в другие команды стало больше. Они также полагают (это не измеренные данные), что коллеги чаще берут отгулы.

По данным HCA, в среднем Timpani ставит медсестёр на 1 процент запрошенных ими выходных (так называемых «красных дней»). Ли Баркер, сотрудник сестринского персонала HCA в Миссури, говорит, что раньше такое на их объекте было немыслимо, а меньше чем через год после появления Timpani практически каждому назначали смену на день, который должен был быть выходным. Баркер пришлось отложить давно запланированный визит к врачу из-за хронического заболевания, потому что не удавалось обменять назначенный «красный день»: «Такое чувство, будто нас добивают, когда мы и так на дне». Раньше часть местных менеджеров могла править график; теперь, по словам медсестёр, спорные смены нужно отправлять в централизованную команду в штаб-квартире HCA в Нашвилле, которая рассматривает обращения без прямого общения и без возможности объяснить ситуацию. Если отказ, остаётся обмен сменами, но шансы, по оценке Баркер и Ретцлофф, около 50 процентов.

Представитель HCA Харлоу Сумерфорд заявил, что окончательные решения о графике принимают руководители сестринских служб, а не Timpani, а утверждения, будто инструмент «создан, чтобы сокращать персонал в ущерб уходу за пациентами», искажают картину. Цель HCA, по его словам, обеспечить подходящих по навыкам и опыту сотрудников и при этом учитывать пожелания коллег; компания продолжает дорабатывать систему по отзывам медсестёр. Главный по инновациям в HCA Майкл Шлоссер в статье, опубликованной в июле этого года, писал, что Timpani резко сократила время, которое менеджеры тратят на составление графиков, снизила зависимость от дорогих контрактных медсестёр и повысила удержание персонала; свыше 98 процентов графиков, по его данным, содержат сочетание навыков и опыта.

Баркер, профсоюзный лидер National Nurses United в психиатрическом центре HCA, утверждает, что из-за Timpani уволились несколько коллег, а число травм на работе выросло за первые 12 месяцев использования инструмента. Профсоюз этого центра, около 500 медсестёр, подал жалобу: HCA, по их мнению, недостаточно учитывает пожелания по графику. Дело, вероятно, уйдёт в арбитраж. Национальный профсоюз, представляющий около 10 тысяч из 100 тысяч медсестёр HCA, говорит, что компания отклонила его запросы о предоставлении информации о технологии. В июле бывший менеджер HCA по данным Анжелик Рассел подала иск: она утверждает, что её уволили в отместку за вопросы о Timpani, и обвиняет HCA в регулярном удалении данных, на которых строятся графики, что не давало проверить качество работы системы и, по её утверждению, могло нарушать несколько законов о здравоохранении. HCA пока официально не ответила в суде, Рассел от комментариев отказалась.

В статье приведён и смежный случай: сеть радиологических центров Rayus Radiology получала жалобы на ошибки записи после внедрения инструмента, тоже построенного на Palantir Foundry, по внутренним документам, которые видел WIRED. Программа заполняет поля записи по назначениям врачей, но в ряде случаев привязывала заявки к не тем пациентам, указывала несоответствующие исследования или выдумывала личные данные пациентов. Представитель Rayus Кит Крэнсер ответил, что общие характеристики не отражают процессы компании и что технологии нужны, чтобы поддерживать, а не заменять человеческое суждение и надзор. Представитель Palantir отказался комментировать под своим именем; компания описывает своё ПО как средство более удобного представления информации и подчёркивает, что за данные, правила и решения отвечают клиенты.

Ключевые факты

• HCA Healthcare с 2023 года внедряет ИИ-планировщик Timpani, созданный вместе с Palantir, примерно в 130 из 190 учреждений.
• Медсёстры утверждают, что инструмент игнорирует пожелания по сменам, недоукомплектовывает команды и потенциально вредит пациентам; Эмбер Ретцлофф говорит, что больше чем в половине случаев её ставили не на запрошенные ею 50 смен.
• По данным HCA, Timpani в среднем ставит медсестёр на 1 процент запрошенных выходных; в HCA заявляют, что окончательные решения принимают руководители сестринских служб.
• Профсоюз около 500 медсестёр психиатрического центра HCA подал жалобу, дело, вероятно, пойдёт в арбитраж; бывший менеджер HCA по данным Анжелик Рассел подала иск об увольнении в отместку за вопросы о Timpani.
• Отдельный случай: в Rayus Radiology инструмент на Palantir Foundry путал пациентов и выдумывал данные в записях, компания говорит, что технологии лишь поддерживают человека.

Почему это важно

Это один из немногих публичных случаев, когда ИИ-система управляет не клиентами, а самими сотрудниками больницы, и последствия, по словам медсестёр, касаются безопасности пациентов. Масштаб немаленький: HCA крупнейшая сеть больниц США, Timpani работает примерно в 130 из 190 её учреждений. Фон для истории, рост Palantir: продажи компании почти удвоились до почти 2 миллиардов долларов за квартал, а медицина стала особенно охотным клиентом из-за роста расходов и нехватки персонала. Cleveland Clinic связывает с ПО Palantir рост пропускной способности, а в Великобритании Palantir получила контракт с Национальной службой здравоохранения на 440 миллионов долларов, который медсёстры и активисты требуют отменить из-за опасений за приватность и безопасность.

Кому это важно

Прежде всего медицинским работникам и профсоюзам, а также руководителям больниц, которые внедряют автоматическое планирование. Тем, кто выбирает ИИ-инструменты для управления персоналом в любой отрасли, история показывает, как формальная эффективность (меньше часов у менеджеров, меньше контрактных сотрудников) может расходиться с ощущением людей, которым приходится жить по такому графику. Интересна она и разработчикам корпоративных платформ вроде Palantir Foundry: компания подчёркивает, что ответственность за данные, правила и решения лежит на клиентах.

Как это применить

Прямых инструкций в материале нет, но из него следуют практические вопросы к любому внедрению ИИ-планирования. Остаётся ли у людей реальная возможность вмешаться: в HCA, по словам медсестёр, местные менеджеры сначала могли править график, а теперь обращения идут в централизованную команду в Нашвилле без прямого общения. Как измеряется успех: HCA приводит долю «красных дней» (1 процент) и долю графиков со смесью навыков (свыше 98 процентов), а медсёстры говорят о сменах без опытных коллег и об обмене сменами с шансом успеха около 50 процентов. Есть ли доступ к данным для проверки: по иску Рассел, данные, на которых строятся графики, регулярно удалялись, что мешало аудиту, а профсоюз сообщает, что его запросы об информации отклонены.

Можно ли доверять

Это репортаж WIRED, основанный на интервью с медсёстрами (Ретцлофф и ещё пятью из других учреждений), на комментариях HCA, Rayus и Palantir и на внутренних документах Rayus. Ключевые обвинения исходят от самих медсестёр, часть которых профсоюзные лидеры, то есть заинтересованная сторона; один собеседник из Техаса говорил анонимно из страха мести. Независимого аудита или проверенных данных о том, что пациентам реально причинён вред, в материале нет: говорится о «потенциальном» вреде. Цифра в 1 процент красных дней взята у HCA, а независимой оценки частоты отклонений пожеланий, кроме подсчёта самой Ретцлофф, нет. Утверждения Рассел взяты из её иска, и на момент публикации HCA ещё не ответила в суде. История Rayus отдельная: источник не говорит, что там используется Timpani или что HCA пользуется инструментом Rayus; их объединяет только платформа Palantir Foundry.

Риски и подводные камни

Если жалобы медсестёр верны, риски лежат на двух уровнях: безопасность пациентов (мало опытных сотрудников на смене, задержка помощи самым тяжёлым) и условия труда (подряд идущие смены, усталость, сложности с обменом). Баркер дополнительно утверждает, что выросло число травм и уволились несколько коллег; цифр в источнике нет. Есть и риск доверия: HCA заявляет, что решения принимают люди, но медсёстры описывают процесс обжалования как закрытый. С другой стороны, это позиция одной стороны конфликта, а HCA указывает на экономию времени менеджеров, сокращение расходов на контрактных сотрудников и рост удержания. Исход пока неясен: жалоба профсоюза, вероятно, пойдёт в арбитраж, дата и результат не названы, а иск Рассел ещё не рассмотрен. Источник также не сообщает, что HCA собирается отказаться от Timpani; компания говорит, что продолжает улучшать систему по отзывам медсестёр.

«Мы подменяем клиническое суждение и человеческую, межличностную часть медицины приложением.»

— Эмбер Ретцлофф, медсестра реанимации во Флориде, лидер профсоюза National Nurses United