Могут ли авторы защититься от обвинений в использовании ИИ с помощью сервисов, фиксирующих историю текста? Достаточно ли этого?

Скандалы и обвинения

Андреа Барц — автор пяти триллеров, опубликованных с 2019 года. Она стала автором бестселлеров The New York Times, её произведения заинтересовали Netflix и Hulu, а книжный клуб Риз Уизерспун рекомендовал её книгу. Барц также была главной истицей в коллективном иске против Anthropic: компанию обвинили в скачивании миллионов защищённых авторским правом книг с пиратских сайтов для обучения моделей. В прошлом году Anthropic согласилась выплатить 1,5 млрд долларов — это крупнейшее в истории США соглашение об урегулировании спора об авторских правах.

Пока писатели пытались защитить свои произведения от использования для обучения ИИ, возникла другая проблема: авторов стали подозревать в том, что они сами поручают написание книг искусственному интеллекту.

В марте после обсуждений в соцсетях и публикации The New York Times издательство Hachette Book Group отменило запланированный выпуск романа ужасов Shy Girl в США и прекратило его издание в Великобритании, где книга уже вышла. Детектор ИИ Pangram оценил долю текста, созданного ИИ, примерно в 78%. Сервис считает этот показатель одним из лучших в отрасли, но признаёт, что детекторы не безошибочны.

Автор романа Миа Баллард отрицает, что использовала ИИ для его написания. По её словам, ИИ помогал редактору вносить изменения в ранее опубликованную за её счёт версию книги. Баллард также заявила, что намерена обратиться в суд. После этой истории подозрения возникли ещё к нескольким авторам художественной литературы: один получил премию за рассказ, а за криминальный роман другого издатели предлагали миллионы. Оба автора отвергли обвинения.

Барц считает, что обвинения наносят ущерб уже самим фактом своего появления. На фоне скандала с Shy Girl она опасалась, что возможность использования ИИ приведёт к охоте на ведьм: обвинить можно будет практически любого. По её словам, у авторов пока нет общепринятого способа доказать, что произведение написано человеком.

Что фиксируют сервисы

На этот пробел рассчитывают новые инструменты — Workings, Blindproof, Wintertext, Human Ink и ObraVera. Они записывают ход работы над текстом; некоторые шифруют материалы или создают цифровые отпечатки текста и ритма набора. Такие записи могут помочь подтвердить происхождение текста — независимо от того, написан ли он человеком полностью или с помощью ИИ. Они также могут пригодиться, если текст без указания автора попадёт в обучающие данные ИИ.

Мэри Разенбергер, генеральный директор Authors Guild — профессиональной организации, которая занимается свободой слова и защитой авторских прав, — говорит, что организация не может рекомендовать один сервис вместо другого. При этом она хочет, чтобы писатели знали о существовании таких инструментов как о своего рода страховке. По словам Умайра Кази, директора Authors Guild по вопросам политики и защиты интересов, многие компании предлагали организации свои услуги.

Разенбергер считает унизительным и обременительным требование к авторам собирать доказательства своего авторства. По её мнению, сохранять такие записи не должно быть обязательным. Она также отмечает, что писатели дорожат собственным голосом, воображением и творчеством, поэтому ИИ-тексты, по её оценке, встречаются в издательском деле реже, чем можно подумать. Разенбергер рассказывает, что редакторы художественной литературы и литературного нон-фикшена говорили ей: они почти не видят текстов, созданных ИИ, и заметили бы их.

При этом Разенбергер беспокоит атмосфера недоверия: она призывает читателей не обвинять других авторов без достаточных оснований, поскольку это вредит литературному сообществу. Она также предупреждает о чрезмерной вере в детекторы. Pangram заявляет, что при проверке творческих текстов уровень ложных срабатываний составляет 0,01%, но в Authors Guild, по словам Разенбергер, слышали о случаях, когда написанные людьми тексты получали от сервиса отметку о создании ИИ. На результат могут влиять разные особенности текста.

Даже программы, которые записывают процесс работы, не дают полной защиты: методы обхода и исправления уязвимостей постоянно меняются. Макс Сперо, сооснователь и генеральный директор Pangram, говорит, что сервис компании фиксирует работу в Google Docs и многие пользователи считают его полезным. Но, по его словам, созданный ИИ текст можно перепечатать вручную или вводить в документ автоматически. Кроме того, авторы работают с несколькими файлами, обмениваются черновиками и записывают голосовые заметки на ходу — такие действия программы могут не сохранить.

Подтверждение авторства не доказывает участие человека

Некоторые сервисы больше подходят для подтверждения происхождения текста и защиты авторских прав, чем для установления того, кто именно его написал. Технический основатель ObraVera Брэди Риджуэй говорит, что сервис создаёт криптографические отпечатки особенностей текста и голосовых записей. Зарегистрированный пользователь может сохранить материал в базе, а позже искать совпадения, если его текст появится в другом месте или кто-то присвоит его себе. Временная метка и криптографический хеш позволяют связать текст с человеком и временем его создания.

Однако сам пользователь должен указать, применял ли он ИИ. Риджуэй приводит в пример майский скандал вокруг писателя, которого обвинили в том, что он выиграл премию Commonwealth Short Story Prize с рассказом, созданным ИИ. По его словам, никто не сомневался, что рассказ подал именно этот писатель. Сервис мог бы подтвердить лишь то, что в определённый день зарегистрированный пользователь заявил, что текст написан человеком или создан без помощи ИИ, — но не проверить правдивость заявления.

Джейн Фридман, писательница и эксперт по издательскому бизнесу, считает, что вводить системы проверки человеческого авторства может быть непрактично, а скандалы вокруг ИИ со временем могут потерять актуальность. В своей отраслевой рассылке The Bottom Line она написала, что детекторы, включая Pangram, улучшаются, а авторы уже видели последствия попыток выдать текст ИИ за собственный.

В разговоре с WIRED Фридман предположила, что агенты и издатели вряд ли станут внедрять проверку, если она потребует дополнительных денег или времени. Ещё одно препятствие — отсутствие общего стандарта: издательскую отрасль, по её оценке, сложно объединить вокруг новых технологий, особенно разработанных сторонними компаниями.

Даже если издатели договорятся о системе подтверждения авторства, останутся сложности с её встраиванием в существующие процессы и риск поддельных или изменённых сертификатов. Фридман считает, что дополнительные расходы или задержки сделают такую систему непривлекательной. Писатели могут платить за спокойствие, но не смогут быть уверены, что агенты и издатели примут подтверждение из любого приложения.

Подозрения затрагивают и будущие книги

Пока общего решения нет, авторам приходится защищаться самим. Барц обеспокоена тем, как резко читатели реагируют на возможность обмана с помощью ИИ. Она слышала о случаях, когда пользователи Goodreads массово ставили книге плохие оценки после подозрений одного читателя. Некоторые, по её словам, заявляли, что не будут читать книги, вышедшие после 2022 года, чтобы избежать текстов с генеративным ИИ. Барц опасается, что такой подход может повредить всей издательской отрасли.

В книге Барц Delete Your Account, выход которой запланирован на 2027 год, тема генеративного ИИ станет центральной. Главная героиня — писательница, столкнувшаяся с творческим кризисом. Она выбирает опасный короткий путь и просит чат-бота подражать её любимому триллеру, после чего оказывается внутри исходной истории и сталкивается со смертельной угрозой.

Барц опасается, что сама сатира на ИИ может вызвать подозрения. В книге есть придуманные ею стенограммы и намеренно похожие на тексты ИИ рекламные материалы вымышленной компании. Она не знает, как будет защищаться, если детекторы отметят эти фрагменты как сгенерированные ИИ.

По оценке Dataist, инструменты фиксации авторского процесса могут подтвердить время создания текста и его связь с конкретным пользователем, но не доказать, что тот обошёлся без ИИ. Пока издатели не договорились о едином стандарте и не готовы тратить ресурсы на проверку, такие сервисы остаются индивидуальной мерой защиты — и не гарантируют, что обвинений удастся избежать.