Книжные издательства всё чаще тайком используют ИИ — сотрудники бунтуют

Редакторы считают, что случаи с авторами, которых обвиняли в использовании ИИ для написания книг, — например, роман ужасов Hachette «Shy Girl» и криминальный триллер Macmillan «Call Me, I’ll Hide the Body», — лишь верхушка айсберга. Один редактор рассказал, что в каждом подразделении есть история об уважаемом авторе, чью книгу отменили из-за очевидного использования ИИ, но новость об этом не попала в прессу.

Как ИИ внедряют в HarperCollins

Несколько месяцев назад старшие руководители HarperCollins купили лицензии Claude у Anthropic, но быстро поняли, что не знают, как их внедрить, рассказал нынешний сотрудник. Десяткам младших и старших сотрудников предложили — фактически поставили перед фактом — стать «ИИ-чемпионами». На ежемесячных встречах с коллегами из разных отделов они должны были искать способы применения ИИ.

Этой весной на одной из таких встреч сотрудники HarperCollins высказались о юридических, этических и экологических последствиях ИИ. Ведущий, по словам участника встречи, назвал их возражения «ценой ведения бизнеса». Вскоре в новом разделе об ИИ на внутреннем портале HarperCollins появилась формулировка: хотя ИИ влияет на окружающую среду, его вклад невелик по сравнению с общим цифровым углеродным следом большинства людей.

Некоторых сотрудников эти встречи встревожили. Один из них сказал, что почувствовал себя оскорблённым: сотрудники годами приводили убедительные доводы в пользу достойной оплаты, а деньги компания потратила на программы, которыми большинство не хочет пользоваться. В 2023 году средняя начальная зарплата сотрудников издательств «большой пятёрки» и Scholastic в Нью-Йорке составляла 47 583 доллара. По словам сотрудников, HarperCollins также приобрела лицензии ChatGPT и Jasper — платформы с ИИ-агентами, которая обещает выполнять маркетинговые процессы от начала до конца.

Как рассказал один сотрудник, как минимум одно подразделение HarperCollins с момента получения лицензий активно использует ИИ, в том числе для создания маркетинговых видео. Но работники HarperCollins, Simon & Schuster и Hachette говорят, что одно из самых частых применений больших языковых моделей — подготовка рекламных текстов.

Читатели встречают такие тексты на Amazon и Goodreads, на задних обложках книг, а ещё их используют, чтобы предлагать книги продавцам, журналистам, авторам контента и критикам. Один специалист по рекламе из издательства «большой пятёрки» считает использование ИИ для таких текстов недальновидным: у специалистов есть обязанность честно работать с читателями и представителями СМИ, у которых, по его мнению, мало терпения к предложениям, написанным ИИ.

Мег Рид, издательница независимого Hub City Press, считает, что для «большой пятёрки» маркетинговые и рекламные тексты от больших языковых моделей, к сожалению, почти неизбежны. По её словам, здесь, вероятно, сильнее разойдутся подходы крупных издательств, ищущих способы повысить эффективность, и небольших издательств, для которых важны люди, участвующие в работе.

Ранее в этом году литературные агенты начали подозревать, что некоторые редакторы из издательств «большой пятёрки» используют ИИ для написания отказов. Агенты сравнивали письма от одних и тех же редакторов по разным книгам и замечали типичные для текстов ИИ конструкции — например, «не это, а то» и правило трёх. Сотрудники Simon & Schuster, HarperCollins и Hachette сообщили WIRED, что считают подозрения агентов обоснованными.

Представитель Hachette заявил, что компания поддерживает применение ИИ для рабочих задач, если оно помогает книгам авторов находить больше читателей, но не одобряет творческое использование ИИ, в том числе переписку с авторами и партнёрами.

Вибке Грутйен, директор по глобальному маркетингу и коммуникациям Simon & Schuster, сообщила, что сотрудникам разных отделов доступны ограниченное число корпоративных ИИ-инструментов, но пользоваться ими не обязательно. По её словам, компания запрещает инструменты ИИ, которые не прошли проверку и не получили одобрение. Цель, заявила Грутйен, — освободить сотрудникам больше времени для сосредоточенной и творческой работы вместе с авторами и в их интересах.

HarperCollins не ответила на запрос о комментарии.

ИИ для писем и обложек

Несколько месяцев назад сотрудники Simon & Schuster участвовали в семинаре с представителями OpenAI. Один из участников рассказал, что ведущий семинара не понимал, чем занимаются сотрудники издательства. При этом среди предложенных способов использования ChatGPT в книжной отрасли было написание писем литературным агентам. По словам работников, такой практикой всё чаще пользуются редакторы HarperCollins и Hachette.

В мае 2024 года Simon & Schuster устроила среди сотрудников конкурс на лучшие варианты применения ИИ. Победителю полагались 10 000 долларов, а двум финалистам — по 5 000 долларов. Позже компания стала меньше продвигать ИИ после жалоб сотрудников на общих собраниях, рассказал один из них. По словам нескольких работников, ИИ также используют при создании обложек. Некоторые зарубежные издательства, чьи книги распространяет Simon & Schuster, открыто указывают применение ИИ, когда публикуют эскизы.

Все опрошенные литературные агенты опасаются, что издательства могут загружать в большие языковые модели отрывки рукописей, чтобы писать отказы или рекламные описания. Один агент, пожелавший остаться анонимным из-за риска для карьеры, рассказал, что в договоры добавили пункты, запрещающие передавать материалы авторов большим языковым моделям. Изначально это должно было защитить авторов от технологических компаний, но запрет распространяется и на издательство, которое покупает и выпускает книгу.

Если модель не замкнута на отдельную систему, она может передать неопубликованный текст автора в языковую модель. В отличие от общедоступных сервисов вроде Google Gemini и ChatGPT, замкнутая модель работает на отдельном компьютере или в сети без связи с облачными серверами компании-разработчика. По словам источника в HarperCollins, несколько редакторов спрашивали руководителей, можно ли загрузить полную рукопись в открытую модель. Юридический отдел компании запретил это делать.

Сотрудники Hachette также ждут, что политика компании в области ИИ может измениться при новом директоре по информационным технологиям Карле Хиксоне. Ранее он был техническим директором SRMG — поддерживаемой государством Саудовской Аравии компании, которая публично заявляла о приверженности ИИ-агентам.

Урезанные команды и надзор за работой

Некоторые сотрудники издательств «большой пятёрки» говорят, что неохотно пробуют большие языковые модели, потому что руководство сократило их команды и втрое увеличило нагрузку. Один сотрудник описал ситуацию так: крупные отделы сократились до пяти-шести человек, а книг на каждого стало вдвое или втрое больше. Он не винит коллег, которые ищут короткие пути, но считает, что ответственность лежит на компании, которая навязывает их сотрудникам под угрозой отстать от конкурентов.

Всего за несколько недель до публикации среди сотрудников Simon & Schuster распространилась информация, что компания проводит эксперимент с Skan AI — по-видимому, по настоянию KKR, инвестиционной фирмы, купившей издательство в 2023 году. На сайте Skan AI сказано, что её продукт помогает руководителям сокращать расходы, выбирать, что автоматизировать, и выполнять требования совета директоров по преобразованию компании.

В ответ сотрудники Simon & Schuster начали собирать подписи под открытым письмом генеральному директору Грегу Грили. Они выразили «решительное несогласие» и потребовали пообещать, что Skan AI или аналогичные программы не будут использоваться в рабочих процессах компании ни сейчас, ни в будущем. Помимо возможностей наблюдения за сотрудниками, многих беспокоили инструменты Skan AI для поиска задач, которые можно автоматизировать: они, опасались работники, могут применить для слежки за ними и их замены.

Открытое письмо упомянули в рассылке Book Gossip журнала New York 6 октября. В тот же день Грили разослал сотрудникам служебную записку: компания изучала продукт Blueprint от Skan AI, но ещё не решила, будет ли применять его или другие инструменты для наблюдения за продуктивностью и анализа рабочих процессов. По словам Грили, до того как сотрудники сообщили ему о своих опасениях накануне, он не видел материалов об этой предварительной оценке. Сервис Pangram, ставший одним из основных инструментов для выявления текстов ИИ, показывает, что по крайней мере часть записки Грили могла быть написана с помощью ИИ.

Переводы и позиция руководства

Почти два года назад генеральный директор HarperCollins Брайан Мюррей заявил на конференции UBS Global Media and Communications Conference, что для книжных издательств ИИ открывает больше возможностей, чем создаёт рисков. Он предположил, что в будущем ИИ поможет HarperCollins увеличить число переводных книг и аудиокниг. С тех пор несколько редакторов замечали на ежегодных книжных ярмарках во Франкфурте и Лондоне рукописи, переведённые большими языковыми моделями и снабжённые отметками об использовании ИИ. На этих ярмарках американские издатели покупают у зарубежных литературных агентств права на публикацию и перевод книг.

В августе Майкл Рейнольдс, исполнительный издатель независимого нью-йоркского издательства Europa Editions, выступил перед книготорговцами на конференции New Voices New Rooms в Балтиморе. Он рассказал, что его вдохновляют возможности ИИ в переводе, и, по словам слушателей, выглядел озадаченным критикой этой технологии. Europa Editions и без того вызывает споры в литературной среде: на обложках её книг не указывают имена переводчиков-людей — пока ещё людей.

Дэн Синикин, автор книги «Big Fiction: How Conglomeration Changed the Publishing Industry and American Literature», считает, что руководители издательств «большой пятёрки» больше похожи на руководителей других крупных американских компаний, чем на работающих у них редакторов, специалистов по рекламе и переводчиков. По его словам, руководство постоянно ищет способы увеличить прибыль и сейчас проверяет, что ему сойдёт с рук, прежде чем сотрудники взбунтуются.

Большинство опрошенных специалистов хотят, чтобы издательства как минимум установили понятные правила использования ИИ и раскрывали, где и когда его применяют. Эмма Дрис, агентство Triangle House Literary, ранее работавшая редактором в HarperCollins и Penguin Random House, считает, что издательства должны ясно сообщать, какие инструменты используют и в каких случаях. Нынешний сотрудник HarperCollins рассказал, что руководство не объяснило, что говорить об этом авторам и агентам, — вероятно, потому, что такое разъяснение вызвало бы бурю негодования.

Дрис добавила, что, если полностью запретить эти инструменты нельзя — хотя сама она предпочла бы именно это, — всем следует чаще обсуждать их применение.