Meta приостановила программу отслеживания сотрудников после утечки данных
Meta запустила инструмент Model Compatibility Initiative в апреле этого года для сотрудников в США. Программа собирала биометрические данные о поведении пользователя на компьютере: движения мыши, клики, нажатия клавиш и содержимое экрана. Официально Meta оправдывала это необходимостью обучить ИИ-системы работать с программным обеспечением так же, как люди. Сотрудники активно протестовали против программы из-за серьезных опасений по поводу приватности и безопасности. Вначале退出 был невозможен, но после протестов компания позволила ограниченный отказ.
18 июня произошла серьезная ошибка: базы данных с собранной информацией были доступны любому сотруднику компании. Инженер Meta отправил внутреннее уведомление об этом. Хотя IT-команда зафиксировала проблему и закрыла доступ за четыре часа, первоначальное решение не сработало полностью, и потребовалась дополнительная блокировка. Руководство Meta даже предварительно оповестило журналистов Wired о паузе программы, прежде чем объявить об этом собственным сотрудникам.
Вице-президент Meta по исследованиям ИИ Стефан Касриэль объявил, что MCI будет переделано, и компания вернет его только когда будет уверена в эффективности защиты данных. При этом Meta отметила, что уже собрала достаточно данных для оценки долгосрочной ценности инструмента. Бывший сотрудник, который активно возражал против программы, назвал произошедшее 'беспорядком', который сотрудники ожидали, и обвинил руководство в создании авторитарной среды, где голос работников не уважается.
Ключевые факты
- Meta собирала данные о движениях мыши, кликах, нажатиях клавиш и содержимом экрана сотрудников через инструмент MCI якобы для обучения ИИ
- 18 июня все базы данных MCI оказались доступны любому сотруднику компании из-за ошибки в конфигурации безопасности
- Компания закрыла доступ за 4 часа, но потребовалась дополнительная блокировка после того, как первое решение не сработало
- Сотрудники активно протестовали против программы с момента её запуска из-за опасений по приватности и безопасности
- Meta сказала, что переработает программу и включит её только при условии полной уверенности в защите данных
Почему это важно
Инцидент демонстрирует фундаментальное противоречие между желанием компаний собирать биометрические данные и их способностью безопасно это делать. Когда сотрудники возражали против программы, руководство проигнорировало их беспокойство, и именно то, что сотрудники предвидели, произошло. Это показывает, что корпоративная разведка о поведении работников несет серьезные риски не только для приватности, но и для этики трудовых отношений.
Кому это важно
Работникам Meta и других крупных технологических компаний, которые рискуют попасть под похожие программы мониторинга. Также это касается сообщества ИИ-разработчиков, которые рассчитывают на то, что такие инструменты помогут обучить агентов. Наконец, это актуально для регуляторов, которые начинают рассматривать корпоративный мониторинг.
Как это применить
Если вы разработчик ИИ: помните, что сбор поведенческих данных требует исключительных мер безопасности, а не просто 'privacy-by-design'. Если вы работаете в компании, внедряющей подобные программы: требуйте полной прозрачности о том, какие данные собираются и как они защищены. Если вы руководитель: слушайте работников, когда они выражают опасения по безопасности - они часто предвидят именно те проблемы, которые потом происходят.
Можно ли доверять
Информация идет из официального заявления Meta и отчета Wired с прямыми цитатами руководителей компании и сотрудников. Компания подтвердила факт, но попыталась фреймировать это как успешный риск-менеджмент. Стоит быть скептичным к утверждению, что 'никаких данных не было неправомерно открыто': если база была доступна всем сотрудникам, данные точно просмотрели.
Риски и подводные камни
Meta может переработать инструмент и включить его в менее заметной форме. Программа была разработана якобы для обучения ИИ, но такой мониторинг может использоваться и для контроля работоспособности. Сотрудники, которые протестовали, теперь находятся в уязвимой позиции - компания знает, кто был против программы. Риск в том, что другие компании просто станут осторожнее с утечками, но не пересмотрят саму идею собирать такие данные.
«When workers raised concerns, leadership doubled down and failed to acknowledge the risks workers raised about the safety and privacy of worker and customer data. Leadership has clearly created an authoritarian environment where workers are no longer respected or heard.»
— бывший сотрудник Meta, участвовавший в протестах против MCI