Писателей обвиняют в ИИ: Workings и Blindproof обещают «бумажный след», но хватит ли

Писателей обвиняют в ИИ: Workings и Blindproof обещают «бумажный след», но хватит ли

WIRED рассказывает, как авторы пытаются защититься от обвинений в использовании нейросетей. Поводом стал скандал вокруг хоррор-романа Shy Girl: в марте, после массовых предположений в соцсетях, что книга в основном написана ИИ, и статьи в Times издательская группа Hachette отменила готовившийся тираж в США и сняла роман с продажи в Великобритании, где он уже вышел. Детектор Pangram, который WIRED называет надёжным, но далеко не безошибочным, оценил около 78 процентов текста как сгенерированные ИИ. Автор книги Мия Баллард отрицает использование ИИ: по её словам, за правки с помощью ИИ в ранее самиздатовской версии отвечал редактор. Она также заявила, что добивается юридической защиты. С тех пор под подозрение попали ещё несколько авторов художественной прозы: один после победы в конкурсе рассказов, другой после того, как издатели предлагали миллионы за его криминальный роман. Оба обвинения отвергают.

Новелистка Андреа Бартц, ведущая истица в коллективном иске против Anthropic (компания в прошлом году согласилась выплатить 1,5 млрд долларов, крупнейшее урегулирование по авторскому праву в истории США), сразу почувствовала, что скандал может привести к «потенциальной охоте на ведьм». По её словам, обвинить в использовании ИИ теперь может кто угодно кого угодно, а «единого признанного стандарта» доказательства человеческого авторства нет.

Разработчики новых сервисов, Workings, Blindproof, Wintertext, Human Ink и ObraVera, обещают отслеживать и документировать процесс письма, иногда шифруя и снабжая уникальными кодами сам текст или ритм набора, чтобы получить запись об авторстве (полностью человеческом или с помощью ИИ). Идея не только в «бумажном следе» на случай подозрений в применении языковой модели, но и в подтверждении происхождения текста, например когда его без указания авторства включили в обучающие наборы. Глава Authors Guild Мэри Расенберджер говорит, что гильдия не может рекомендовать какой-то один из инструментов, но хочет, чтобы авторы знали о них как о своего рода страховочной сетке. Многие компании сами обращались в гильдию, предлагая услуги, уточняет Умаир Кази, директор гильдии по политике и защите интересов. При этом Расенберджер называет необходимость проходить через это «оскорбительной» и «бременем» и считает, что сохранять подтверждения авторов обязывать не следует. Она также предупреждает о климате недоверия и излишней уверенности в детекторах ИИ: Pangram заявляет о «лучшей в отрасли» доле ложных срабатываний 0,01 процента на художественных текстах, но гильдия, по словам Расенберджер, слышала о многих случаях, когда авторский текст человека детектор помечал как ИИ.

Инструменты слежения за письмом тоже не безупречны. Макс Спиро, сооснователь и гендиректор Pangram, отмечает, что их продукт отслеживает написание в Google Docs и многим пользователям помогает, но такие инструменты не универсальны: можно вручную перепечатать текст ИИ или воспользоваться автонабором. Кроме того, писатель редко просто садится и печатает книгу целиком: он работает с несколькими файлами, пересылает черновики, диктует голосовые заметки, и не всё это фиксируется. Брэди Риджуэй, технический основатель ObraVera, говорит, что платформа создана скорее для отслеживания повторного использования материалов, сохранённых в базе зарегистрированным пользователем (временная метка и криптографический хеш): если текст «всплывёт» где-то не там, можно показать, что слова созданы в такое-то время таким-то человеком. Но использовал ли автор ИИ, он декларирует сам, и программа не может проверить, правда ли это.

Джейн Фридман, автор и эксперт по издательскому бизнесу, в рассылке The Bottom Line предположила, что эпоха ИИ-скандалов, вероятно, будет недолгой благодаря улучшению Pangram и подобных детекторов, а авторы уже увидели, чем рискуют, выдавая ИИ-текст за свой. По её словам WIRED, агенты и издатели вряд ли внедрят проверку человеческого авторства, которая «стоит лишних денег или времени»; добиться общего стандарта будет как «собирать кошек в стадо», ведь издательская отрасль медленно принимает новые технологии, особенно созданные чужаками. Мешают и логистика встраивания в производственные процессы, и риск «поддельной или подделанной» сертификации. Авторы могут быть готовы платить за спокойствие, но не смогут быть уверены, что агенты и издатели примут подтверждение от конкретного приложения.

В итоге писатели остаются один на один с проблемой. Бартц встревожена рвением читателей: по её словам, она слышала, как на Goodreads массово занижали оценки книге только потому, что незнакомцу она показалась похожей на ИИ, а некоторые читатели заявляют, что не будут читать ничего изданного после 2022 года. Её собственная книга Delete Your Account (выйдет в 2027 году) высмеивает генеративный ИИ: героиня, писательница в творческом кризисе, просит чат-бот имитировать любимый триллер и оказывается в ловушке внутри этой истории. Бартц признаёт, что в книге есть фрагменты, намеренно звучащие как тексты языковых моделей, и не знает, что делать, если детектор пометит их как написанные ИИ.

Ключевые факты

  • После скандала с романом Shy Girl (Hachette отменила тираж в США и сняла книгу в Великобритании в марте) появились сервисы Workings, Blindproof, Wintertext, Human Ink и ObraVera, фиксирующие процесс письма как «бумажный след» авторства.
  • Authors Guild не рекомендует ни один из инструментов, но считает их страховочной сеткой, и при этом возражает против обязательности такой защиты.
  • Глава Pangram Макс Спиро признаёт, что такие инструменты не универсальны: можно перепечатать текст ИИ вручную или использовать автонабор; ObraVera не проверяет, правдива ли декларация автора об ИИ.
  • Pangram заявляет о 0,01 процента ложных срабатываний на художественных текстах, но гильдия слышала о случаях, когда человеческий текст помечали как ИИ.
  • Джейн Фридман считает, что издатели и агенты вряд ли примут решение, требующее лишних денег или времени, и что общего стандарта добиться будет трудно.

Почему это важно

Обвинение в использовании ИИ теперь может стоить автору издательского контракта: в случае Shy Girl Hachette отменила тираж в США и сняла роман в Великобритании. Единого признанного способа доказать человеческое авторство нет, а детекторы, по данным гильдии, дают ложные срабатывания. Поэтому сервисы «бумажного следа» возникли как попытка закрыть эту брешь, но материал показывает, что и они не решают проблему целиком.

Кому это важно

Прежде всего писателям и литературным агентам, издателям и редакторам, а также читателям, которые всё чаще сами оценивают книги на предмет «похоже на ИИ». Тема касается и разработчиков детекторов и сервисов фиксации авторства: многие из них уже обращаются в Authors Guild со своими предложениями.

Как это применить

Authors Guild не рекомендует конкретный инструмент, но хочет, чтобы авторы знали о существовании таких сервисов как о страховке. Они фиксируют процесс письма, иногда шифруя текст или ритм набора; Pangram, например, предлагает продукт для отслеживания письма в Google Docs. Цены, число пользователей и показатели внедрения в материале не приводятся. Важно помнить: записи подтверждают, когда и кто создал слова, но не доказывают, что ИИ не использовался.

Можно ли доверять

Материал, репортаж WIRED с цитатами автора Бартц, руководителей Authors Guild и Pangram, основателя ObraVera и эксперта Фридман. Цифра 78 процентов, это оценка детектора Pangram, а не установленный факт о книге; показатель 0,01 процента ложных срабатываний, заявление самой Pangram. Результат юридических действий Баллард в источнике не указан.

Риски и подводные камни

Инструменты можно обойти: вручную перепечатать текст ИИ или воспользоваться автонабором. Не весь реальный процесс письма (несколько файлов, пересылка черновиков, голосовые заметки) попадает в запись. ObraVera лишь фиксирует декларацию автора и не может проверить её правдивость. Фридман добавляет, что издатели вряд ли согласятся на лишние расходы и сроки, а сертификацию могут подделать. Кроме того, Расенберджер видит риск климата недоверия и чрезмерной веры в детекторы, а Бартц, вал обвинений со стороны читателей, например массовое занижение оценок на Goodreads.

«Если что-то из этого стоит лишних денег или времени, забудьте об этом.»

— Джейн Фридман, автор и эксперт по издательскому бизнесу, о том, примут ли издатели и агенты проверку человеческого авторства