ИИтог

Eurogamer: фан-вики с выдуманными фактами, похоже созданные нейросетью, вытесняют настоящие

разноеРедакция ИИтогHacker News🔥54Рейтинг ИИтог54Влияние30Новизна40Релевантность65Неожиданность35Участники10Достоверность75
Eurogamer: фан-вики с выдуманными фактами, похоже созданные нейросетью, вытесняют настоящие

Автор Eurogamer рассказывает, как наткнулся на проблему. Готовя материал про Nighthawks, он по привычке загуглил базовые сведения о персонажах-спутниках и открыл первый результат, «Nighthawks Wiki». Сайт оказался не вики: вместо правок любым посетителем он лишь предлагал присылать «исправления» по почте. На нём были факты, которые не похожи на невинные ошибки фанатов: несуществующие спутники и навыки, а также не относящиеся к делу сведения о фильме 1981 года и картине Эдварда Хоппера с тем же названием, которые указывались в «источниках» даже там, где к странице не имели отношения. Автор оговаривается, что не любит обвинять кого-то в использовании генеративного ИИ, поскольку его признаки трудно определить. Но его заинтересовали частота и плотность явно выдуманных фактов, и он проследил домен до сервиса создания сайтов Spaceship, который среди прочего предлагает «AI Website builder» (ИИ-конструктор сайтов). Письмо на адрес с этого «вики» вернулось.

Быстрый поиск нашёл много похожих сайтов: часть из них действительно редактируется как вики, часть лишь называет себя так. Обычно они нацелены на инди-игры без огромной аудитории, те, за помощью по которым люди обращаются в поиск и не находят живого сообщества.

С этим хорошо знаком Тим Бендер (Tim Bender), гендиректор издателя Hooded Horse. В отличие от большинства издателей, Hooded Horse сама создаёт вики для своих игр, наполняя их вместе с фанатами. Но в последнее время компании приходится «играть в кротов» (whack-a-mole) с ИИ-сайтами, которые конкурируют в поисковой выдаче и дают неверную информацию. Один из таких сайтов появился по игре Corsair Cove, но оказался частью разрозненной коллекции более чем из 20 игр на сайте GameDB; создатель, как пишет автор, признал, что делал её с помощью генеративного ИИ. По словам Бендера, генеративный ИИ позволяет коммерческим предприятиям массово плодить такие страницы и заваливать поисковую выдачу, чтобы забирать трафик. Письмо на публичный адрес GameDB вернулось с ошибкой «удалённый сервер неправильно настроен». Бендер говорит, что игроки, попавшие на такие сайты, пишут издателю в недоумении.

В эту коллекцию входит и вики по 100-игроковому шутеру Wardogs, одна как минимум из пяти, которые, по словам FlamingMojo из Independent Game Wiki Network, появились в первые дни после выхода игры в сентябре. Он добавляет, что страдают и волонтёры: «Это бьёт по нашей репутации: игроков ввели в заблуждение, а мы ещё не создали или не обновили нужную страницу, и они вообще уходят из вики».

Фан-вики и без того спорная часть игровой культуры. Рынок доминируется хостингами вроде Fandom, которые сами внедряли ИИ-функции, а потом были вынуждены их откатить из-за неточностей и непопулярности. Многие сообщества уходят с таких платформ, но независимым вики трудно пробиться в поиске Google под давлением крупных площадок. Денег на вики фанаты почти не зарабатывают: либо отдают рекламу крупным платформам, либо сами платят за хостинг. FlamingMojo, например, платит из своего кармана за Dune: Awakening Community Wiki и не показывает там рекламу. Парадоксально, но именно низкая прибыльность делает ИИ-версии опаснее. По словам Бендера, рекламных денег немного, но «немного всё же будет, и этого достаточно», а раз порог входа низкий, можно просто залить поиск горой контента. Он также предупреждает, что про некоторые такие сайты неизвестно, какие данные они собирают. По меньшей мере в одном случае ИИ-сайт предлагал скачать дополнительную программу с платной подпиской; в сети её оценивали плохо, а антивирус автора пометил сайт как «потенциально небезопасный». Ни один из сайтов, с которыми автор пытался связаться, не ответил.

У независимых вики есть и вторая нагрузка: ИИ-скрейперы шлют огромный трафик, что может влиять на стабильность сайтов. Публично доступные внутренние данные Dune: Awakening Community Wiki показывают 7 млн запросов от ИИ-краулеров за 30 дней, из них 5 млн, от одной только Meta. Другие скрейперы FlamingMojo может приструнить файлами, направляющими их на реальные страницы, но краулер Meta, по его словам, «долбит каждую страницу по несколько раз в секунду», не соблюдая «никаких разумных лимитов». Малые вики страдают сильнее: у их администраторов нет вычислительных мощностей на всплески посещаемости. FlamingMojo говорит, что серверные расходы выросли в три-десять раз, и тоже связывает это с генеративным ИИ. Привлечь волонтёров непросто, хотя Dune: Awakening Community Wiki справилась с помощью геймификации вкладов вместе с разработчиком, который выдаёт внутриигровые награды.

Бендер считает, что это лишь часть более широкой борьбы: генеративные инструменты позволяют недобросовестным игрокам заваливать сеть и вытеснять хорошую информацию, в которую люди вложили время. Выход, по словам FlamingMojo, в сообществе: «Много людей вкладывают понемногу и чувствуют общую причастность».

Ключевые факты

  • Автор Eurogamer нашёл «Nighthawks Wiki», которая не была вики (правки только по почте) и содержала несуществующих спутников и навыки; домен ведёт к сервису Spaceship с «AI Website builder», но прямых доказательств использования ИИ у этого сайта нет.
  • Коллекция GameDB более чем из 20 игр, как пишет автор, создана с помощью генеративного ИИ по признанию её создателя; по Wardogs появилось не менее пяти таких вики.
  • Тим Бендер из Hooded Horse: низкий порог входа позволяет массово заливать выдачу ради небольшой рекламной выручки, а часть сайтов может собирать данные; в одном случае сайт предлагал скачать платную программу, которую антивирус автора счёл «потенциально небезопасной».
  • Dune: Awakening Community Wiki получила 7 млн запросов от ИИ-краулеров за 30 дней, 5 млн из них, от Meta; FlamingMojo называет рост серверных расходов независимых вики от трёх до десяти раз.
  • Выход, по словам FlamingMojo, в сообществе; автор отдельно приводит опыт геймификации вкладов с внутриигровыми наградами.

Почему это важно

Фан-вики, один из главных источников практических сведений об играх, особенно инди, у которых нет большого сообщества. Если в поиск вместо них попадают сайты с выдуманными фактами, игроки получают неверную помощь и уходят, а настоящие вики теряют репутацию и аудиторию. Бендер видит в этом частный случай более широкой проблемы: генеративные инструменты позволяют недобросовестным авторам вытеснять информацию, в которую люди вложили время.

Кому это важно

Прежде всего игрокам, которые ищут справку по играм, и волонтёрам, поддерживающим независимые вики. Также издателям и разработчикам, которые, как Hooded Horse, создают вики для своих игр вместе с фанатами, и администраторам небольших сайтов, на которые давят ИИ-краулеры. Тем, кто следит за засорением интернета ИИ-контентом, сюжет даёт конкретные примеры.

Как это применить

Статья не даёт инструкций, но из неё следуют ориентиры. Признаки сомнительной «вики»: правки только по почте, несуществующие предметы и навыки, посторонние «источники» вроде фильма с таким же названием. Для сообществ автор приводит опыт Dune: Awakening Community Wiki, геймификацию вкладов с внутриигровыми наградами от разработчика. Для администраторов: по словам FlamingMojo, часть скрейперов можно направить на реальные страницы специальными файлами, но краулер Meta, как он утверждает, лимиты игнорирует.

Можно ли доверять

Материал, расследование журналиста Eurogamer, но автор в тексте не назван. Центральные утверждения о выдумках основаны на его собственных наблюдениях и словах Бендера и FlamingMojo. Что Nighthawks Wiki сделана генеративным ИИ, не доказано: автор только проследил домен до Spaceship и описал похожие на выдумку факты. О GameDB автор лишь передаёт, что создатель признал использование ИИ; прямой цитаты нет. Сайты, с которыми автор пытался связаться, не ответили. Комментариев Meta, Fandom и Spaceship нет. Данные о 7 млн запросов взяты из публичных внутренних данных одной вики, а рост расходов в три-десять раз, оценка FlamingMojo.

Риски и подводные камни

Источник не оценивает общее число затронутых вики и долю трафика, перехваченного фальшивыми сайтами, так что масштаб неизвестен. Нагрузка от краулеров показана на примере одной вики. В тексте нет утверждения, что Meta действует намеренно или зачем собирает данные. Сайт, предлагавший платную программу, не связан в источнике с конкретными названными вики. Для читателя риск практический: перейти на сайт, который собирает данные или подсовывает ненужное ПО.

«Мы переживаем ИИ-засорение благодаря сообществу.»

— FlamingMojo, участник Independent Game Wiki Network

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.