Flock ограничила слежку офицеров, но оставила лазейки

Flock, компания, управляющая в США сетью примерно из 120 000 автоматических камер распознавания автомобильных номеров. В прошлый четверг компания объявила об изменениях в платформе, призванных не допустить использования системы для незаконных или неправомерных целей, включая слежку за людьми.

Поводом стало расследование The Washington Post, которое выявило 50 случаев, когда офицеры полиции злоупотребляли системами Flock и её конкурентов, чаще всего чтобы преследовать и запугивать женщин. Одна женщина из Висконсина заявила, что её бывший парень-полицейский искал её автомобиль по камерам 179 раз. Другую женщину преследовал начальник местной полиции, и пожаловаться ей было некому.

В ответ Flock ввела практики, которые должны подтверждать, что у офицера есть законное основание для каждого поиска: программа помечает подозрительные по паттерну запросы, а перед поиском теперь нужно ввести номер уголовного дела. Но у этой меры большая лазейка: как подтвердила Flock изданию MIT Technology Review, компания не проверяет подлинность введённых номеров дел, так что офицер может ввести любой произвольный номер, так же, как офицеры уже обходили другие защитные меры компании, вводя её в заблуждение.

Новые правила не затрагивают более широкую претензию правозащитных и групп по защите приватности: они считают, что Flock превращает инструмент, который продавался как средство раскрытия преступлений, в сеть массовой слежки. Это уже вызвало ответную реакцию, некоторые города расторгают контракты с компанией, а некоторые штаты пытаются принять законы, ограничивающие или запрещающие камеры распознавания номеров.

Автор материала указывает: главный вопрос не в том, помогают ли камеры Flock раскрывать преступления, а в том, какую именно систему борьбы с преступностью выбрала строить компания. Сеть работает так, как работает, из-за серии решений, что за данные собирать, кто может их искать, как долго хранить и насколько широко делиться ими между ведомствами. Именно эти решения задают условия сделки между безопасностью и гражданскими свободами.

Автор предлагает альтернативные варианты дизайна системы. Например, вместо непроверяемых номеров дел можно требовать номера, которые сверяются с реальными записями полицейского департамента, это более навязчивая интеграция, зато куда более надёжная защита с полезным следом для аудита. Для поиска пропавших без вести и похищенных, сценария, на который Flock ссылается чаще всего, можно ограничить доступ к общенациональной сети только случаями с активным экстренным оповещением (аналогом Amber Alert). Наконец, по собственным данным Flock, 90% поисков по системе происходят в течение недели после инцидента, это говорит, что хранить и передавать данные имеет смысл ровно столько, сколько это реально полезно для раскрытия преступлений. Flock недавно изменила рекомендованный срок хранения данных на семь дней, но на практике полицейские ведомства могут хранить данные сколько угодно, это лишь рекомендация, не обязательное правило.

Чед Марлоу, старший юрисконсульт американского Союза защиты гражданских свобод (ACLU), полушутя заметил автору материала, что самый приемлемый по его меркам контракт с Flock, тот, который так и не подписан, и подчеркнул: реальные ограничения на слежку задаются не новыми правилами Flock, а новыми законами. Гендиректор Flock Гарретт Лэнгли в свою очередь заявил, что у него, «вероятно, всегда будет иной взгляд на вещи, чем у ACLU».

Сужение охвата системы угрожало бы всей бизнес-модели Flock, в основе которой лежит недавняя оценка компании в $8 млрд: она опирается именно на превращение отдельных камер в единую общенациональную сеть, которая собирает большой объём данных и даёт полицейским департаментам современный способ анализировать не только собственные данные, но и данные других ведомств. Камеры для считывания номеров существуют с 1990-х годов и изначально использовались для платных дорог и штрафов, Flock построила на этой технологии принципиально иной, сетевой продукт.

Автор заключает: давление на Flock может вскоре усилиться. Города уже расторгают контракты с компанией, одни переходят к конкурентам, другие берут паузу, чтобы жители решили, как именно они хотят использовать эту технологию, и написали для полиции новые правила. Итогом может стать то, что сами сообщества будут определять условия сделки: как технологии помогают раскрывать преступления и сколько слежки людям придётся принять взамен.

Ключевые факты

Flock управляет сетью примерно из 120 000 камер распознавания номеров в США; новое требование вводить номер уголовного дела перед поиском не подкреплено проверкой, компания сама подтвердила, что не сверяет введённые номера с реальными делами.
The Washington Post нашла 50 случаев злоупотребления системами Flock и её конкурентов офицерами полиции, часто для слежки за женщинами: экс-бойфренд-полицейский из Висконсина искал автомобиль бывшей девушки 179 раз, другую женщину преследовал начальник полиции, и пожаловаться на него было некому.
Растущий отпор уже привёл к тому, что часть городов расторгает контракты с Flock, а некоторые штаты готовят законы об ограничении или запрете камер распознавания номеров.
По собственным данным Flock, 90% поисков по системе происходит в течение недели после инцидента, но рекомендованный компанией срок хранения данных, только семь дней и не обязателен: на практике ведомства могут хранить данные сколько угодно.
Юрисконсульт ACLU Чед Марлоу настаивает, что реальные ограничения слежки должны задавать законы, а не правила самой Flock; гендиректор Flock Гарретт Лэнгли говорит, что у него «вероятно, всегда будет иной взгляд на вещи, чем у ACLU».

Почему это важно

Flock, не локальный эксперимент, а фактически общенациональная сеть слежки за автомобилями: около 120 000 камер, данные из которых доступны полицейским по всей стране. Новые меры против злоупотреблений выглядят как ответ на реальные случаи слежки за женщинами, но ключевая защита (номер уголовного дела) не проверяется, это показывает разницу между декларативным самоограничением компании и работающей защитой.

Кому это важно

Городским и муниципальным властям, которые решают, продлевать ли контракт с Flock; законодателям штатов, готовящим правила для камер распознавания номеров; правозащитным организациям вроде ACLU; полицейским департаментам, пользователям системы; и жителям городов, чьи перемещения попадают в базу Flock.

Как это применить

Материал прямо предлагает три альтернативных решения для дизайна подобных систем: сверять номера дел с реальными записями департамента вместо неконтролируемого поля ввода; ограничивать доступ к общенациональной базе только активными экстренными случаями вроде Amber Alert; и приводить срок хранения данных в соответствие с их реальной полезностью, раз 90% поисков идёт в течение недели, столько и есть смысл хранить.

Можно ли доверять

Это авторский аналитический материал из еженедельной AI-рассылки MIT Technology Review «The Algorithm»; имя автора в источнике не указано. Текст опирается на конкретное расследование The Washington Post, прямое подтверждение самой Flock (об отсутствии проверки номеров дел) и цитаты обеих сторон, ACLU и гендиректора Flock. При этом предложенные варианты передизайна системы, собственный тезис автора, а не консенсус индустрии или регуляторов.

Риски и подводные камни

Главная лазейка, непроверяемые номера дел, остаётся открытой и после обновления. Рекомендация по хранению данных необязательна, и ведомства могут хранить их сколько угодно. Источник не называет число расторгнутых контрактов, конкретные штаты с законопроектами или сроки, в которые Flock может быть вынуждена измениться, масштаб отката неясен. При этом бизнес-модель Flock и её недавняя оценка в $8 млрд опираются именно на широкий обмен данными между ведомствами, так что сужение охвата системы противоречит коммерческим интересам компании, то есть добровольное ужесточение правил маловероятно без внешних законов.

«Самый приемлемый по моим меркам контракт с Flock, тот, который так и не подписан.»

— Чед Марлоу, старший юрисконсульт ACLU