EFF: DraftKings с помощью ИИ находит проигрывающих игроков и возвращает их рекламой
Электронный фронтир (EFF) в своей публикации пишет, что букмекерская компания DraftKings использует ИИ, чтобы находить клиентов, которые с наибольшей вероятностью сделают проигрышные ставки и откликнутся на рекламу азартных игр. Описание практики EFF берёт из материала New York Times: по этим данным, DraftKings обучает модель машинного обучения на записях о ставках своих клиентов, чтобы выявлять проигрывающих игроков.
Дальше, как пишет EFF, найденным клиентам отправляют таргетированную рекламу, которая должна вернуть их на сайт и заставить сделать новые ставки, такие, которые, по мнению DraftKings, тоже окажутся проигрышными. EFF объясняет мотив: именно проигрывающие пользователи приносят компании деньги, поэтому их выгодно удерживать. По оценке EFF, под действие модели с высокой вероятностью попадают и «проблемные игроки», так EFF называет людей, которые раз за разом играют, несмотря на вред для себя, своих финансов и отношений. Возвращая их на платформу рекламными предложениями, DraftKings, по словам EFF, наживается на их уязвимости вместо того, чтобы снижать их риски.
EFF подчёркивает, что вредная поведенческая реклама не нова, но ИИ усиливает её вред. Такая реклама стимулирует собирать огромные объёмы данных; с ИИ данных нужно ещё больше, чтобы обучать и уточнять модели. По словам EFF, ИИ работает как «чёрный ящик»: разработчики редко могут предсказать, какие именно данные окажутся для модели самыми полезными, и потому собирают всё больше. Кроме того, ИИ позволяет гораздо быстрее обрабатывать огромные массивы данных.
Отдельный довод EFF, связь рекламных данных со слежкой. По утверждению EFF, данные, собранные для показа таргетированной рекламы, продают страховым компаниям, банкам и правоохранительным органам штатов и федерального уровня, например Таможенной и пограничной службе США (CBP). Иммиграционная и таможенная полиция США (ICE) в начале этого года опубликовала запрос информации (Request for Information), в котором говорится, что ведомство «стремится лучше понять, как коммерческие поставщики Big Data и рекламных технологий в отрасли могут напрямую поддерживать расследовательскую деятельность».
По оценке EFF, DraftKings, судя по всему, использует только собственные данные (first party data), то есть то, что компания собирает сама у своих пользователей, и не докупает данные у третьих сторон. EFF делает из этого вывод: меры, ограничивающие только передачу и продажу данных третьим лицам, не остановят такую хищническую рекламу. Нужно, чтобы законодатели запретили онлайн-поведенческую рекламу целиком: если нельзя отправлять персонализированные объявления, у компаний будет меньше стимулов собирать поведенческие данные. В конце EFF отсылает читателей к своим материалам по защите данных, в частности к проекту Surveillance Self Defense.
Ключевые факты
- По данным New York Times, на которые ссылается EFF, DraftKings обучает модель машинного обучения на записях о ставках клиентов, чтобы находить проигрывающих игроков.
- Найденным клиентам отправляют таргетированную рекламу, чтобы вернуть их на сайт для новых ставок, которые, по мнению компании, будут проигрышными; EFF считает, что под действие модели с высокой вероятностью попадают и «проблемные игроки».
- EFF утверждает, что ИИ усиливает вред поведенческой рекламы: требует больше данных, работает как «чёрный ящик» и быстрее обрабатывает огромные массивы.
- DraftKings, по мнению EFF, судя по всему, использует только собственные данные (first party data), поэтому ограничения на продажу данных третьим лицам недостаточны, EFF призывает запретить поведенческую рекламу целиком.
- Цифр, отзыва самой DraftKings и упоминаний конкретных законов или действий регуляторов в тексте EFF нет.
Почему это важно
Случай показывает, как ИИ применяют для удержания самых уязвимых клиентов. По описанию EFF, модель ищет не просто активных игроков, а тех, кто чаще проигрывает, потому что именно они приносят компании деньги. EFF использует этот пример как аргумент в давнем споре: по её мнению, любая поведенческая реклама вредна, а ИИ лишь усиливает этот вред.
Кому это важно
Пользователям сервисов ставок и других приложений, которые собирают данные о поведении; специалистам по приватности и регулированию рекламы; тем, кто разрабатывает модели персонализации и решает, какие данные о людях собирать и для чего их использовать.
Как это применить
Сама публикация практических правил не даёт, но EFF отсылает к своим материалам: проекту Surveillance Self Defense и советам, как защитить себя в мобильных приложениях и на сайтах. Для тех, кто строит рекламные модели, вывод EFF таков: чем меньше собирается поведенческих данных, тем меньше повода использовать их против пользователей.
Можно ли доверять
Это позиционный текст организации, которая давно выступает за запрет поведенческой рекламы, а не нейтральный разбор. Описание практики DraftKings EFF берёт из New York Times; дата и автор того материала в тексте не названы. Комментария DraftKings в публикации нет. Утверждение о том, что компания использует только собственные данные, EFF сама подаёт с оговоркой «судя по всему». Оценка, что среди адресатов рекламы окажутся «проблемные игроки», вывод EFF, а не подтверждённый факт с цифрами.
Риски и подводные камни
В публикации нет цифр: сколько клиентов попало под таргетинг, какова доля проигрывающих, как устроена модель. Тезис о продаже рекламных данных страховщикам, банкам и силовым структурам относится к индустрии в целом; EFF не пишет, что DraftKings передаёт свои данные ICE, CBP или кому-либо ещё. Призыв запретить поведенческую рекламу, позиция EFF, не закон и не решение регулятора; о конкретных законах или реакции регуляторов в тексте не сказано.
«стремится лучше понять, как коммерческие поставщики Big Data и рекламных технологий в отрасли могут напрямую поддерживать расследовательскую деятельность»
— запрос информации ICE, как его цитирует EFF