Википедия против нейросетей: как волонтёры чистят статьи от ИИ

IEEE Spectrum опубликовал интервью с Эллией Лебле (Ellia Lebleu), входящей в число основателей WikiProject AI Cleanup, волонтёрского проекта, запущенного в 2023 году, чтобы находить и удалять из Википедии сгенерированные материалы, нарушающие правила сайта. Лебле учится в аспирантуре по ИИ в центре Inria при Университете Ренна (Франция).

Проблему заметили около декабря 2023 года: несколько редакторов в Discord Википедии обнаружили странные статьи с одинаковыми приметами. В них повторялись обороты вроде «stands as a testament» и «rich cultural heritage», встречались заключительные разделы и разделы «Why is this important?». Для ChatGPT 2023, начала 2024 года это было типично, а для Википедии нехарактерно и легко заметно. Тогда Лебле предложила создать официальный проект.

К 2025 году признаки ИИ-текста стали тоньше и структурнее: нейросети любят «правило трёх», отрицательные параллелизмы и другие речевые конструкции, которые по отдельности ничего не доказывают, но значимы в совокупности. Смотрят и за пределы статьи: если кто-то пишет пять статей по несколько тысяч слов за пять минут, есть основания подозревать ИИ.

Отдельная проблема, ссылки на источники. Полностью выдуманные ссылки теперь встречаются гораздо реже благодаря retrieval-augmented generation (генерации с подбором источников), которая позволяет ИИ находить реальные материалы. Чаще нейросеть находит настоящий источник, но полностью искажает его содержание; такие ссылки, не подтверждающие написанного, по словам Лебле, «крайне распространены».

На английской Википедии недавно запретили редакторам использовать большие языковые модели для создания статей. Чтобы оценить долю ИИ-контента, Лебле работает с компанией Pangram, занимающейся детекцией ИИ. Лебле проверила инструмент на материалах Википедии до появления ChatGPT и не нашла ложных срабатываний, поэтому его результаты считает очень консервативной нижней границей. В конце 2025 года Pangram пометил как сгенерированные «возможно, 20 процентов» новых статей и черновиков, в начале 2026 года, 15-16 процентов. Причина снижения неизвестна: либо подействовали новые правила, либо модели стали мощнее, а Pangram не успел адаптироваться.

ИИ используют и против ИИ. Другой редактор Википедии сделал ИИ-проверку источников: она просматривает источники на странице и сверяет их с утверждениями. Поскольку это тоже модель, безошибочности нет, но для массовой отсечки очевидных случаев это, по словам Лебле, хороший первый шаг. Фонд Викимедиа разрабатывает инструмент Paste Check, который может помечать текст, вставленный напрямую из некоторых ИИ-чат-ботов. Лебле также приводит пример: Claude иногда отвечает «I can’t write a Wikipedia article; it would go against Wikipedia’s policies» («Я не могу написать статью для Википедии: это противоречит правилам Википедии»). Если бы так отказывались все крупные ИИ-компании, проблема не исчезла бы, остаются модели с открытыми весами, которые можно подправить в обход ограничений, но это помогло бы с теми, кто пользуется коммерческими моделями и плохо знаком с технологией.

Работает ли запрет, пока рано судить. Лебле видит возможные эффекты, отказы моделей и заметное небольшое снижение доли ИИ-контента, но не знает, вызвано ли оно улучшением моделей или тем, что новички узнают правила. Подавляющее большинство ИИ-контента присылают начинающие редакторы, поэтому правило сделали заметным в приветственных сообщениях, справке по редактированию и советах.

На вопрос, что будет, если ИИ научится писать по-настоящему надёжные статьи, Лебле отвечает: правило принимали из практических соображений (поток ИИ-текстов, нет хороших инструментов), но потом оно приобрело философское измерение. Википедию называют «последним хорошим местом в интернете», и свобода от ИИ-«слопа» стала частью её идентичности. Даже ИИ-компании находят интересным чисто человеческий корпус текстов для обучения моделей. Вместе с тем Лебле допускает, что Википедия могла бы сохранить статус корпуса, написанного людьми, и одновременно предложить вариант с помощью ИИ.

Об угрозе «Google Zero» (будущем, где сайты не получают трафик из поисковика): Википедию часто цитируют в ИИ-обзорах Google, но пользователь видит лишь ИИ-ответ и может не знать, что это живой проект, который можно править. Фонд Викимедиа работает над системой атрибуции, которая даст пользователям ИИ больше сведений о цитируемой статье: когда её правили, насколько она полна, есть ли пометки редакторов о проблемах, возможно, и призыв к действию. В будущем читатели, по предположению Лебле, смогут вносить правки даже через ИИ-модели. Лебле видит сильную симбиотическую связь Википедии и ИИ, не ждёт исчезновения Википедии, но допускает, что она сильно изменится.

Ключевые факты

• WikiProject AI Cleanup, волонтёрский проект, запущенный в 2023 году для поиска и удаления из Википедии ИИ-материалов, нарушающих правила; первые признаки, клише вроде «stands as a testament» и «rich cultural heritage».
• По оценке Лебле с помощью Pangram, в конце 2025 года ИИ-текстом были «возможно, 20 процентов» новых статей и черновиков, в начале 2026-го, 15-16%; Лебле считает это консервативной нижней границей и не знает причину снижения.
• Опаснее всего стали ссылки, которые существуют, но не подтверждают написанного: выдуманные источники встречаются реже благодаря retrieval-augmented generation.
• Против ИИ применяют ИИ: проверка источников от другого редактора и разрабатываемый фондом Викимедиа Paste Check, который помечает текст, вставленный из некоторых чат-ботов.
• Действует ли запрет английской Википедии на генерацию статей языковыми моделями, пока рано судить; большую часть ИИ-контента присылают новички.

Почему это важно

Википедия, один из главных источников для людей и для самих нейросетей, и в интервью описано, как её редакторы на практике справляются с потоком машинных текстов. Лебле отмечает, что признаки ИИ-письма стали тоньше, а фальшивые или не подтверждающие текст ссылки превратились в серьёзную проблему. Вопрос выходит за рамки гигиены: свобода от ИИ-«слопа» стала частью идентичности Википедии, а чисто человеческий корпус ценен, в том числе для обучения ИИ.

Кому это важно

Редакторам и модераторам открытых проектов и сообществ, которым приходится отличать машинные тексты от человеческих. Авторам и исследователям, чьи материалы цитируют ИИ-сервисы, а также разработчикам таких сервисов: Лебле говорит о роли отказов моделей и атрибуции источников. Читателям Википедии, которые всё чаще видят её только внутри ИИ-ответов.

Как это применить

Из интервью следуют практические приёмы. Искать не отдельные клише, а накопление структурных признаков: «правило трёх», отрицательные параллелизмы, разделы-выводы. Смотреть на поведение автора: пять статей по несколько тысяч слов за пять минут вызывают подозрение. Проверять не только наличие ссылки, но и то, подтверждает ли источник утверждение; для массовой отсечки очевидных случаев Лебле называет хорошим первым шагом ИИ-проверку источников. Для новичков правило стоит делать заметным в приветственных сообщениях и справке.

Можно ли доверять

Это интервью с участником-основателем проекта, опубликованное в IEEE Spectrum; оценки и прогнозы принадлежат самой Лебле, а не независимому исследованию. Доля ИИ-контента получена с помощью Pangram, методология и объёмы выборки не раскрываются; Лебле сообщает, что не нашла ложных срабатываний на материалах до ChatGPT. Цифры 20% и 15-16% относятся к новым статьям и черновикам, а не ко всей Википедии, а связь снижения с новыми правилами Лебле прямо называет неизвестной.

Риски и подводные камни

Детектор может не успевать за улучшением моделей, поэтому снижение доли пойманного ИИ-текста не обязательно означает снижение самого ИИ-контента. Инструмент проверки источников сам является моделью и может ошибаться. Отказы коммерческих моделей не решают проблему полностью: остаются модели с открытыми весами, которые можно подправить в обход ограничений. Наконец, Лебле признаёт открытым вопрос, как быть, если ИИ научится писать надёжные статьи: запрет, принятый из практических соображений, теперь стал вопросом идентичности.

«Вчера ИИ нужно было вычищать. Сегодня он, инструмент, который помогает нам в этой чистке. Завтра он станет воздухом, которым мы дышим.»

— Эллия Лебле, WikiProject AI Cleanup, интервью IEEE Spectrum