OriginBlame точно находит данные для удаления из ИИ-моделей

Когда автор данных требует убрать свой контент из обучающего датасета ИИ-модели, тренирующая сторона сталкивается с практическим разрывом: алгоритмам машинного забывания (unlearning) нужен точный список исходных записей на удаление, но ни один инструмент провенанса (отслеживания происхождения данных) не умел определить, какие именно записи в датасете принадлежат конкретному автору. Существующие системы провенанса работают на уровне файла или целого датасета, значит, удаление данных одного человека означало заодно стирание данных множества других людей.

Исследователи представили OriginBlame, систему провенанса данных на уровне отдельных записей и даже токенов внутри них. Система прослеживает авторство через весь конвейер обработки данных, от исходного источника до финального обучающего набора, и по детерминированным запросам превращает запрос на удаление в точный список записей, принадлежащих конкретному автору.

На тестовом наборе из 219 555 страниц Википедии провенанс на уровне записей устранил проблему избыточного удаления: если раньше при удалении по датасету стиралось в среднем в 101 раз больше данных, чем требовалось, то с OriginBlame, только в 1,3 раза больше, то есть почти точно. Интеграция системы в конвейеры обработки данных добавляет 1,3-4,0% накладных расходов по пропускной способности при использовании HuggingFace Datasets и 2,1-19,0%, при использовании Datatrove (замеры на данных Википедии). На модели с 1,7 млрд параметров использование точечных списков на удаление, построенных через провенанс, улучшило качество машинного забывания на 42% по сравнению со случайно выбранными наборами данных для удаления.

Ключевые факты

Проблема: у компаний, обучающих ИИ, не было инструмента для точного определения, какие записи датасета принадлежат конкретному автору при запросе на удаление данных
OriginBlame, система провенанса на уровне отдельных записей и токенов, отслеживает авторство через весь конвейер обработки данных
Тест на 219 555 страницах Википедии: избыточное удаление данных снижено со 101x до 1,3x
Накладные расходы на производительность конвейера: 1,3-4,0% при HuggingFace Datasets и 2,1-19,0% при Datatrove
На модели с 1,7 млрд параметров точечные наборы на удаление улучшили качество машинного забывания на 42% против случайного выбора

Почему это важно

Право на удаление персональных данных требует от компаний, обучающих ИИ-модели, убирать данные конкретного человека по запросу. Алгоритмам машинного забывания (unlearning) для этого нужен точный список исходных записей, но провенанс раньше отслеживался только на уровне файла или целого датасета, удалить данные одного автора означало заодно стереть данные множества других людей: по замерам авторов, в среднем в 101 раз больше, чем нужно. OriginBlame впервые прослеживает авторство на уровне отдельной записи и токена, устраняя эту проблему избыточного стирания.

Кому это важно

Компаниям и лабораториям, обучающим ИИ-модели на больших массивах веб-данных (в духе Википедии) и обязанным отвечать на запросы об удалении данных; инженерам, которые строят конвейеры подготовки данных на HuggingFace Datasets или Datatrove; исследователям машинного забывания, которым нужны точные наборы данных для тестирования и применения таких алгоритмов; юристам и комплаенс-специалистам, отвечающим за соблюдение права на удаление данных.

Как это применить

OriginBlame встраивается в конвейер обработки данных и помечает записи (и отдельные токены внутри них) метаданными об авторстве по мере прохождения через все этапы пайплайна, от исходного источника до финального обучающего набора. Когда поступает запрос на удаление, система детерминированным запросом превращает его в точный список записей, принадлежащих автору. Интеграция стоит недорого по производительности: 1,3-4,0% накладных расходов при HuggingFace Datasets и 2,1-19,0% при Datatrove на данных Википедии.

Можно ли доверять

Результаты подкреплены экспериментом на реальном большом массиве, 219 555 страниц Википедии, и оценкой на модели с 1,7 млрд параметров, где точечные наборы на удаление улучшили качество забывания на 42% по сравнению со случайным выбором. Ограничение: это препринт на arXiv, не прошедший рецензирование, а название системы в тексте статьи закрыто плейсхолдером («ob»), похоже на анонимизацию для двойного слепого рецензирования, то есть авторы статьи пока не раскрыты.

Риски и подводные камни

Показатели получены только на данных Википедии, насколько метод масштабируется на разнородные веб-данные, изображения или код, пока не проверено. Накладные расходы по пропускной способности растут почти до 19% на некоторых конвейерах, что может быть заметно на промышленных объёмах данных. Внедрение требует переделки существующих пайплайнов подготовки данных под новую систему меток авторства, что для действующих production-систем, задача не тривиальная.