Рецензенты рассказали, как ИИ-халтура захватила научные статьи: 68% присланных работ, с фейковыми ссылками или соавторами

Два рецензента, ведущие блог geospatialml.com (в посте они называют себя Калеб и Айзек), подвели итог сезона рецензирования этим летом: на двоих они разобрали 22 статьи для NeurIPS, WACV и геопространственного воркшопа TerraBytes при ECCV. 15 из 22 (68%) содержали полностью выдуманные ссылки, поддельные списки соавторов у реальных статей и/или текст, явно написанный языковой моделью, с галлюцинированным наукообразным жаргоном и бессвязными формулировками.

Худший случай, по словам Айзека: две статьи процитировали реальные работы, авторов которых он знает лично, но в списке литературы настоящих соавторов заменили на вымышленных исследователей с похожими именами, достаточно похожими, чтобы проскочить при беглом просмотре. Пример из разбора Калеба: подлинные авторы известной работы SatMAE, Yezhen Cong, Samar Khanna и Chenlin Meng (arXiv:2207.08051), в присланной статье превратились в "Yuyang Cong, Saurabh Khanna и Chen Meng". Айзек рекомендовал отклонить обе статьи и сообщил об этом организаторам напрямую, тем не менее обе были приняты для устных докладов с условием просто исправить галлюцинированные ссылки. Отдельно Калеб описал статью для NeurIPS на 53 страницы, почти целиком состоящую из галлюцинированного жаргона (разбирать список литературы в ней не было смысла), и вторую, на 40 страниц, тоже с выдуманными ссылками.

Авторы поста подкрепляют личный опыт независимыми исследованиями масштаба проблемы. Анализ Nature (апрель) нашёл десятки тысяч публикаций 2025 года, которые, вероятно, содержат недействительные ИИ-сгенерированные ссылки. Аудит Zhao et al. по arXiv, bioRxiv, SSRN и PubMed Central оценил число галлюцинированных цитат в 2025 году примерно в 146 900, рассеянных по множеству статей, а не сосредоточенных у немногих недобросовестных авторов, чаще всего у начинающих исследователей и небольших команд; при этом 85,3% таких галлюцинаций пережили переход препринта в опубликованную версию, рецензирование их не отловило. Аудит The Lancet по 2,5 млн биомедицинских статей показал шестикратный рост доли работ с хотя бы одной выдуманной ссылкой за два года: с 1 из 2828 статей в 2023 году до 1 из 458 в 2025-м и 1 из 277 в начале 2026-го. Ансари (2026) разобрал 100 галлюцинированных цитат из статей, реально опубликованных на NeurIPS 2025, каждую из них пропустили от трёх до пяти экспертных рецензентов, и 53 такие статьи (около 1% принятых работ) сегодня остаются в материалах конференции.

Проблема работает и в обратную сторону: рецензии тоже пишет ИИ. Компания Pangram (делает детектор ИИ-текста) проанализировала рецензии ICLR 2026 и обнаружила, что 21% из них (15 899 штук) полностью сгенерированы ИИ, а более чем в половине есть хоть какое-то участие ИИ. Gartenberg et al. (2026) зафиксировали 42%-й всплеск подач в журнал Organization Science после появления ChatGPT и то, что свыше 30% рецензий теперь в той или иной степени используют ИИ. Организаторы ICML 2026 спрятали в поданных статьях ловушки против промпт-инъекций и поймали 795 рецензий (около 1% от всех) от 506 уникальных рецензентов, которым правилами конференции запрещалось использовать языковые модели. Более того, ИИ-рецензентов можно обмануть напрямую: Ли и соавторы (2026) показали, что состязательно переписанные аннотации статей повышают оценки от ИИ-рецензента "без изменения самой научной сути и содержания статьи и даже без знания того, какая модель рецензирует"; самая сильная атака срабатывала примерно в 38% случаев, поднимая итоговую оценку приёмки на +1,31 балла из 10 для рецензента на базе Gemini 3 Flash и на +0,88 балла для GPT 5.4 Mini.

В ответ на поток "ИИ-слопа" Айзек написал инструмент bib-audit, автоматически проверяющий список литературы статьи, и теперь оба рецензента в первую очередь просматривают библиографию сразу после аннотации. Среди прочих признаков ИИ-текста они называют характерные обороты вроде "дело не в X, а в Y", обилие жирного шрифта и тире, излишне плотные и трудные для восприятия предложения, преувеличение результатов, а также несовпадение чисел в тексте с цифрами в таблицах, авторы правят эксперименты, но забывают обновить текст. При этом оба рецензента сами ежедневно пользуются Claude для черновиков и части литературного обзора, но подчёркивают, что весь вывод модели затем вычитывают, проверяют и переписывают вручную.

Ключевые факты

• 15 из 22 статей (68%), которые двое рецензентов разобрали летом для NeurIPS, WACV и воркшопа TerraBytes при ECCV, содержали выдуманные ссылки, поддельных соавторов или явно ИИ-сгенерированный текст.
• Две статьи, где реальных соавторов известных работ (например, SatMAE) заменили похожими вымышленными именами, всё равно приняли для устных докладов, с условием просто исправить ссылки.
• Независимые аудиты подтверждают масштаб: Nature нашла десятки тысяч публикаций 2025 года с вероятно недействительными ИИ-ссылками; Zhao et al. насчитали около 146 900 галлюцинированных цитат за 2025 год, 85,3% из которых пережили переход в опубликованную версию; The Lancet зафиксировал шестикратный рост доли статей с выдуманными ссылками за два года (с 1 из 2828 в 2023-м до 1 из 458 в 2025-м, а к началу 2026-го, уже 1 из 277).
• Проблема двусторонняя: Pangram нашла, что 21% рецензий ICLR 2026 (15 899 штук) полностью написаны ИИ; на ICML 2026 поймали 795 рецензий от рецензентов, которым запретили использовать ИИ; исследование Ли и соавторов показало, что переписанные аннотации обманывают ИИ-рецензентов: самая сильная атака срабатывала примерно в 38% попыток, поднимая оценку приёмки на 0,88, 1,31 балла из 10.
• Авторы поста выпустили инструмент bib-audit для проверки списков литературы и перечислили типичные признаки текста, написанного ИИ, включая несовпадение чисел в тексте и в таблицах.

Почему это важно

Пост документирует не единичный случай, а системную проблему: две трети статей, случайно попавших на рецензию двум людям этим летом, несли следы фабрикации или генерации ИИ. Это подтверждается независимо, крупными аудитами Nature, Zhao et al., The Lancet и Ансари, которые показывают быстрый (кратный за два-три года) рост доли научных работ с галлюцинированными ссылками и то, что процесс рецензирования эти подделки в большинстве случаев не отлавливает.

Кому это важно

Это касается исследователей, которые подают и рецензируют статьи на конференции вроде NeurIPS, WACV, ICLR и ICML, редакции научных журналов вроде The Lancet и Organization Science, а также организаторов конференций, которым приходится решать, как реагировать на статьи с фабрикацией, как показывает случай с подменёнными соавторами, сегодня их зачастую просто принимают с условием косметической правки.

Как это применить

Авторы поста выпустили инструмент bib-audit, автоматически проверяющий список литературы статьи на выдуманные ссылки, и рекомендуют рецензентам в первую очередь просматривать библиографию сразу после аннотации. Названные ими признаки ИИ-текста, характерные обороты ("дело не в X, а в Y"), обилие жирного шрифта и тире, излишне плотные предложения, преувеличение результатов и несовпадение чисел в тексте с таблицами, можно использовать как чек-лист при собственном рецензировании или редактуре.

Можно ли доверять

Материал написан от первого лица двумя практикующими рецензентами на основе их собственного опыта этим летом, с конкретными числами и разбором отдельных случаев (включая точное сопоставление настоящих и подменённых имён авторов SatMAE). Личный опыт подкреплён ссылками на независимые количественные исследования, анализ Nature, аудит Zhao et al., аудит The Lancet и работу Ансари по NeurIPS 2025, что повышает доверие к масштабу описанной проблемы.

Риски и подводные камни

Главный тревожный момент, то, что статьи с фабрикацией (подменённые имена реальных соавторов) прошли рецензирование и были приняты для устных докладов, получив лишь требование исправить ссылки постфактум, то есть контроль качества здесь дал сбой не на этапе выявления, а на этапе реакции. Отдельный риск, обратная сторона проблемы: рецензии тоже всё чаще пишет ИИ, а исследования показывают, что ИИ-рецензентов можно обмануть переписыванием аннотации, не меняя саму науку в статье, то есть возникает гонка манипуляций с обеих сторон процесса рецензирования.

«Обе статьи приняли для устных докладов с условием просто исправить галлюцинированные ссылки…»

— Айзек, соавтор поста