Ваша следующая любимая книга может получить знак «органическая»

Как Books by People проверяет книги

В среду Books by People объявила, что получила разрешение Ведомства интеллектуальной собственности Великобритании распространять знак, подтверждающий авторство человека. Соосновательница компании Эсме Деннис объяснила WIRED, что читатели вправе выбирать книги, созданные ИИ, но тем, кто хочет читать написанное человеком, должна быть доступна такая возможность.

Предыдущие схемы маркировки, например Human Authored, работали на доверии: автор сам подтверждал, что не использовал ИИ при создании книги. Books by People хочет подкрепить такую отметку дополнительной проверкой. Компания просит автора заявить об авторстве, прогоняет рукопись через собственную программу и вручную изучает ранние черновики и материалы исследования, которые предоставляют автор и редактор. Их проверяют на признаки человеческой работы.

Организация оценивает, насколько убедительно документы показывают, что книгу написал человек и что она создавалась обычным способом — через черновики и последующие правки, говорит Деннис.

Издатели будут платить Books by People фиксированный членский взнос и отдельно — за каждую книгу, которую направят на проверку. К проекту уже присоединились пять издательств. Стартап ожидает, что первая книга с отметкой появится до конца года.

Скандалы с ИИ-книгами

В этом году издательскую индустрию потрясла череда скандалов из-за подозрений в использовании авторами ИИ. Литературный агент отменил сделку по книге, стоимость которой, как сообщалось, составляла 2 миллиона долларов. Издатель убрал роман с полок, а читатели заявили, что рассказ, получивший литературную премию, был создан ИИ.

По словам представителей отрасли, писатели и издатели не обязательно боятся, что ИИ их заменит: они считают, что в итоге мало кто захочет читать книги, созданные машиной.

Писатель-фантаст Тед Чан, по новелле которого «История твоей жизни» 1998 года сняли фильм «Прибытие», получивший премию «Оскар», сравнил чтение машинного текста с наблюдением за лентой, с которой падают готовые вещи. Если знать, как они появились, говорит он, трудно эмоционально привязаться к тому, что оказалось у вас в руках. Понимание того, как создано произведение, невозможно отделить от впечатления от него.

Однако повторяющиеся скандалы могут подорвать доверие к негласному правилу издательского дела: каждая книга на полке написана реальным человеком, который не прибегал к плагиату.

Сэм Джордисон, содиректор независимого издательства Galley Beggar Press, которое намерено использовать знак Books by People, напомнил, что издатели, авторы и читатели всегда строили отношения на доверии, а случаи его нарушения были редкими. По его словам, сама мысль прочитать текст ИИ, выдаваемый за человеческий, вызывает отвращение и кажется обманом.

На этом фоне идею сертифицировать книги, написанные людьми, поддержали разные авторы и редакторы. В заявлении в поддержку Books by People бывший генеральный директор Penguin Random House Маркус Доле назвал человеческое повествование «жизненной силой нашей отрасли».

Риск ошибочного обвинения

Издателям может быть важно показать приверженность «органической литературе», но повсеместное использование ИИ-детекторов несёт для авторов риск: ложное срабатывание способно испортить репутацию.

Том Уэст, генеральный директор Publishers’ Licensing Services — организации, которая помогает издателям совместно лицензировать произведения для третьих лиц, — призвал не допустить «охоты на ведьм». По его словам, многое будет зависеть от деталей того, как устроят проверку.

Стартап Pangram из Нью-Йорка, ставший одним из лидеров в области выявления текстов, созданных ИИ, утверждает, что точность его системы составляет 99,7 процента. Авторы, однако, сомневаются в надёжности этого подхода, который сам основан на ИИ.

В сентябре начинающий автор Джерри Фаладе, чей агент, как сообщалось, отозвал предложение о книжной сделке на 2 миллиона долларов, заявил, что программа приняла его нигерийский диалект за признак использования ИИ. По оценке Pangram, книга на 97 процентов была создана ИИ. В недавнем эссе Фаладе написал, что на книгу могут уйти месяцы и даже годы, а программе для выявления ИИ достаточно двух минут, чтобы разрушить дело всей жизни. Pangram не ответила на просьбу о комментарии.

Некоторые также предостерегают от привычки подвергать авторов чрезмерной проверке. По их мнению, маркировка устроена наоборот: платформы и издатели должны сообщать, если материал создан ИИ, а не доказывать, что его написал человек. Уэст считает, что авторов постоянно расспрашивают о происхождении их идей и текстов, и этому нужно сопротивляться. По умолчанию книга должна считаться написанной человеком.

Проверка документов вместо гонки детекторов

Ведомство интеллектуальной собственности одобрило не только знак Books by People, но и саму процедуру проверки. Она отличается от ориентированного на технологии подхода Pangram: компания уделяет больше внимания документам и переписке, в которых ищет признаки человеческой работы.

Деннис не стала бы называть этот процесс выявлением ИИ. В Books by People рано поняли, объяснила она, что не смогут поддерживать гонку с ИИ-моделями, которые постоянно улучшаются.

Если компания не уверена, говорит ли конкретное свидетельство об использовании ИИ, она утверждает, что принимает решение в пользу автора. Деннис добавила, что при открытой и проверенной процедуре организация может гарантировать только то, что книга прошла проверку. Основной принцип Books by People — не допускать несправедливых обвинений писателей.

Некоторые авторы считают, что главное — любыми способами закрепить приверженность издателей литературе, написанной людьми, как обязательный стандарт отрасли, даже если методы контроля несовершенны.

Чан сравнил такую позицию с правилами университетов против списывания: политика «не жульничать» важна, даже если идеального способа её обеспечить нет. По его словам, это заявление о ценностях.