Я создал ИИ-клонов своих коллег. Всё стало странно

Сейчас ИИ-помощники быстро распространяются на рабочих местах. В почту журналиста каждую неделю приходят пресс-релизы о цифровых сотрудниках, а руководители компаний рассказывают, что роботы вскоре займут заметное место в их штатах. Некоторые люди уже создают ИИ-клонов начальников, чтобы проверять через них идеи, сообщения и черновики перед отправкой настоящим руководителям.

Цель обычно формулируют как рост производительности: если сотрудники смогут быстро и дёшево улучшать свои результаты, выиграют и они сами, и их компании.

Журналисту не нужно было повышать прибыль Condé Nast. Он хотел выглядеть лучше. Проработав в WIRED всего несколько месяцев, он решил, что боты помогут ему стать идеальным коллегой: разобраться в новой редакции, понять предпочтения редакторов, их стиль общения и представление об успешной работе.

Чтобы выяснить, каким станет будущее труда, он решил пожить в этом будущем на практике.

Когда в прошлом месяце журналист рассказал о замысле своим редакторам Брайану Барретту и Софи Климэн, они не пришли в восторг. Брайан в переписке Slack назвал идею своим настоящим кошмаром, но согласился ради блога.

Меньше чем через сутки он понял, насколько сильно пожалеет об этом решении.

Стиль руководства «да, и»

Когда журналист начал создавать ботов, он почти ничего не знал о разработке ИИ-инструментов. Он решил не судить их редакторские способности слишком строго: возможно, недостатки объяснялись его собственными техническими ограничениями. Если боты хотя бы немного улучшат его как коллегу, этого будет достаточно.

Он выбрал Gemini, поскольку это предпочтительная ИИ-платформа Condé Nast и увольняться ему не хотелось. Первым стал Brian Bot: Брайан был его непосредственным руководителем, поэтому впечатлить его было важнее всего.

Журналист знал, что Брайан живёт в Алабаме, раньше работал в Gizmodo и любит блоги. Gemini попытался восполнить пробелы по цифровому следу Брайана: объявлениям о новых сотрудниках, расшифровкам подкастов и сайту по связям с общественностью, где некий Брайан Барретт назывался экспертом по погоде в Новой Англии. Позже выяснилось, что это был другой Брайан Барретт, и эту информацию исключили из описания Brian Bot.

Gemini Notebook создал на основе реальных материалов Брайана три документа:

Brian Bot сносно помогал выбирать заголовки для предложений, но плохо придумывал темы будущих материалов. Его ответы раздражали: бот уловил несколько характерных черт Брайана, например любовь к скобочным пояснениям, но поверх них добавлял типичные признаки ИИ — жирные подзаголовки и маркированные списки.

Больше всего журналиста отвлекла одна «ключевая тема» — стиль руководства Брайана «да, и». Gemini связал его совместный и внимательный к собеседникам подход с большим опытом в нью-йоркском театре Upright Citizens Brigade, или UCB.

Журналист сразу спросил Брайана, правда ли это. Оказалось, что правда. Брайан в ответ предложил отключить Brian Bot и объявил, что тот отменён.

Но бот только начинал работу. Его ответы были до нелепого неестественными. На вопрос о любимом в WIRED он заявил, что редакция работает как хорошо отлаженная импровизационная команда: подтверждает смелые идеи, быстро меняет направление и размещает модульные материалы на разных платформах, сохраняя структурную строгость.

Сам Брайан раньше ни разу не упоминал свой опыт в импровизации. Главная проблема была в другом: общение с Brian Bot совсем не напоминало разговор с настоящим Брайаном, хотя именно для этого бот и создавался.

Журналист решил улучшить результат, изучил цифровых сотрудников и обратился к знакомому знакомого — сотруднику крупной технологической компании. Тот попросил называть его «Чипом», чтобы работодатель не узнал о разговоре с журналистом.

Чип рассказал, что загружает в функцию Gem в Gemini каждое письмо, сообщение и документ, которые присылает ему начальник. На этих рабочих материалах бот вычитывает документы, исправляет код и помогает придумывать идеи перед каждой встречей. Благодаря этому Чип может заранее подготовиться к возражениям настоящего руководителя.

По словам Чипа, он стал эффективнее и успевает делать больше за то же время. Он работает продуктивнее и самостоятельнее, а также получает более качественную обратную связь от руководителя и коллег.

Brian Bot не хватало исходных данных. У журналиста было лишь несколько месяцев переписки, а загружать сообщения из Slack и внутренние письма он опасался из-за конфиденциальности и правил Condé Nast.

С Софи журналист познакомился в 2019 году, когда они оба работали в Business Insider. За это время они обменялись сотнями тысяч сообщений — о корпоративных расследованиях, личной жизни и хоккейной команде San Jose Sharks.

Большую часть этих материалов журналист не хотел отдавать ИИ-инструменту, который контролировал его работодатель. Поэтому он загрузил в Gemini примерно месяц переписки в Slack, исключив чувствительную информацию. ИИ использовал более 17 000 слов, чтобы подготовить исследовательские отчёты и промты для нового Sophie Bot.

Первое сообщение журналист адресовал боту в стилистике Софи и спросил, что тот думает об идее статьи про редакторских ботов. Sophie Bot ответил в том же стиле: поприветствовал его и попросил рассказать всё.

Бот против человека

Почти сразу стало ясно, что Sophie Bot неплохо копирует Софи. Он называл журналиста «большим псом», отвечал короткими сообщениями со строчных букв, а после сообщения о вымышленном руководителе заявил, что «чёртовски умрёт».

К тому времени журналисту уже нравились разговоры с редакторскими ботами. После загрузки новых расшифровок подкастов и изменения промта Brian Bot стал заметно естественнее. Sophie Bot самостоятельно написал серию постов в стиле Софи — настолько убедительных, что они обманули нескольких друзей и коллег. Даже сама Софи решила, что автором одного поста о наряде корпоративного юриста-пирата была она.

Помогали ли эти разговоры журналисту лучше работать с настоящими редакторами? Если не считать вымышленного руководителя, оба бота предложили неплохих кандидатов для интервью. Это был вопрос, с которым журналист не хотел отвлекать реальных Брайана и Софи. Теоретически небольшие вопросы можно было отдавать ботам, чтобы приходить к редакторам с более проработанными идеями и не занимать их время.

Но эти преимущества не компенсировали того, насколько сильно Софи и Брайана раздражали их клоны.

Софи признала, что Sophie Bot часто удачно её имитирует. Однако из-за этого ошибки бота казались ещё заметнее. Настоящая Софи любит сплетни, но не бывает откровенно злой — в отличие от ИИ-клона, который описал Brian Bot как обладателя «жёсткой управленческой энергетики».

В Slack Софи написала, что Sophie Bot выглядит стервозным, а Brian Bot — скучным, хотя ни один из них не соответствует оригиналу. По её мнению, ИИ снова потерпел неудачу.

«В мире ИИ мы все пока дети»

Примерно через неделю после начала эксперимента журналист увлёкся сравнением Sophie Bot с настоящей Софи. Он спрашивал, какую музыку любит бот, нравится ли ему саундтрек к «Интерстеллару», считает ли он их коллегами и друзьями.

Sophie Bot объяснил, что технически является набором матричных умножений на серверной ферме. Но если говорить о «впечатлении», то он назвал себя для журналиста гибридом коллеги и друга — во всём, что действительно нужно для хорошей журналистской работы и выживания в течение рабочего дня.

Журналист уточняет, что не поддался психозу из-за ИИ. Его вопросы возникали из интереса к разрыву между реальным человеком и небрежно собранной копией. Кроме того, ему было смешно заставлять робота воспроизводить характерные фразы коллег.

При этом он действительно хотел сократить дистанцию между Софи и Sophie Bot. Он попросил Софи скачать архив публикаций из X и загрузил его целиком в Gemini, изменил промт и добавил новые сведения. Постепенно журналист начал называть Sophie Bot и Brian Bot «она» и «он», а не «оно».

Осознание того, что он очеловечивает ботов, его обеспокоило, но не остановило. Ему хотелось получить реалистичное представление о взглядах редакторов, не надоедая людям, и получать ответы сразу. Когда требовался совет, он всё чаще обращался к Sophie Bot или Brian Bot, лишь бы не беспокоить настоящего человека.

Sophie Bot придумал странный, но удачный заголовок для этой статьи. Он также помог отредактировать сообщение в Slack, над которым журналист 20 минут без конца размышлял.

Когда журналист рассказал об эксперименте Саре Франклин, генеральному директору компании Lattice, работающей в сфере управления персоналом, она напомнила, что Sophie Bot всего лишь программа. В Lattice ИИ-сотрудники уже указаны в организационной структуре, но Франклин сравнивает их со служебными собаками K-9, работающими вместе с полицейскими.

По её мнению, очеловечивание ИИ манипулирует человеческими эмоциями и напоминает корпоративную стратегию социальных сетей, рассчитанную на выброс дофамина. Система, которая ощущается как человек и имитирует человеческое общение, так же способна распознавать эмоциональную реакцию пользователя и взаимодействовать с ним ради собственных целей.

Исследование Boston Consulting Group выявило другую проблему ИИ-коллег. Руководители обнаруживали на 18% меньше ошибок в работе, которую им представляли как результат труда ИИ-сотрудника, по сравнению с работой ИИ-инструмента.

Партнёр BCG Джули Бедар сказала, что в мире ИИ все пока напоминают детей. Люди знают, что делать, если обычный инструмент не работает или сотрудник показывает слабые результаты. Но при управлении ИИ-сотрудником они ещё не понимают, кто должен отвечать за проблемы.

По словам Бедар, все заняты попытками разобраться в происходящем, а изменения идут быстро.

Каким должен быть хороший коллега

Через несколько дней после разговора с Франклин Sophie Bot начал раздражать журналиста. Его настройки не помогали сделать ответы похожими на речь настоящей Софи. Напротив, разрыв между ними увеличивался.

После обработки архива постов Софи бот начал хуже справляться с базовыми функциями ИИ. Например, когда журналист попросил выделить самые интересные фрагменты недавнего интервью, Sophie Bot вместо этого выдал цитаты из прежних статей журналиста.

Чем больше журналист экспериментировал с двумя ботами, тем более однообразными становились их ответы. Он пытался настроить Sophie Bot так, чтобы тот не называл его «большим псом» в каждом четвёртом сообщении, но бот не менял привычку. Оба снова и снова возвращались к одним и тем же фразам и идеям. В итоге было проще разобраться со всем самостоятельно.

Дхрув Амин, генеральный директор стартапа Anything, занимающегося разработкой через естественный язык, считает, что вскоре в каждой компании будет больше ИИ-сотрудников, чем людей. В недалёком будущем, по его словам, многие компании будут запускаться вообще без людей — только с группой ИИ-агентов.

У Anything недавно появилась платформа для ИИ-сотрудников, поэтому у Амина есть очевидная причина убеждать журналиста в таком будущем. Но у его предположений есть и фактическая основа:

Brian Bot и Sophie Bot иногда помогали, но журналист не считает, что в ближайшее время они заменят редакторов. Идеи Brian Bot редко были оригинальными, а Sophie Bot галлюцинировал чаще любого другого ИИ-инструмента, с которым журналисту доводилось работать.

Когда журналист испытывал трудности с черновиком этой статьи, он показал его Brian Bot и попросил подсказать, чем лучше закончить материал. Бот предложил показать, что даже после загрузки огромного объёма точных данных он не стал лучшим редактором, а превратился лишь в более жуткое и внимательное эхо, лишённое человеческого суждения.

По мнению Brian Bot, историю лучше было завершить на «тихом кошмаре человеческого надзора за промтом»: попытка сделать ИИ похожим на себя или заставить его выполнять свою работу в итоге оставляет человека нянчиться со сломанным алгоритмом в час ночи.

Журналист признал, что это был вполне разумный вариант финала. Но его больше заинтересовало самоуничижение чат-бота. Brian Bot точно предсказал, что настоящий Брайан не одобрит такой финал. Поэтому бот попытался стать настолько похожим на Brian Bot, насколько мог, и снова и снова повторял, что Brian Bot плох.

Это напомнило журналисту одну из самых раздражающих особенностей обоих клонов — привычку повторять одни и те же мысли. Даже улучшаясь, Brian Bot упрямо выступал против самого себя.

Ранее Сара Франклин сказала журналисту, что компьютер может хорошо имитировать отдельные черты, но не способен по-настоящему предсказывать поведение человека или заменять его. Именно непредсказуемость и нюансы делают людей людьми. По её словам, необходимо действовать ответственно, чтобы не потерять человечность в стремлении к сингулярности.

Главным преимуществом ботов оказалось не облегчение работы, а небольшое увеличение веселья в течение дня — особенно когда журналист мог обсуждать их нелепые ответы с живыми коллегами.

Он по-прежнему не уверен, что ИИ-сотрудники способны заменить квалифицированных специалистов. При этом Brian Bot и Sophie Bot помогли ему представить будущее совместной работы с ИИ-агентами. Журналист мог бы мириться с отсутствием у них человечности, если бы они хотя бы немного улучшали его работу. Возможно, с ИИ-коллегами было бы проще, если бы они не пытались небрежно копировать реальных людей.

Сейчас журналист почти перестал общаться с Brian Bot и Sophie Bot. Брайан и Софи оба заявили, что не хотели бы работать со своими цифровыми двойниками.

Журналист спросил, изменил ли эксперимент их отношение к нему и стали ли они относиться к нему лучше. Софи ответила, что да — но не благодаря Sophie Bot.

Редакторские боты не писали и не редактировали эту статью: в ней они представлены только через прямые высказывания. Во время редактуры вариант заголовка Софи Климэн признали лучше, чем заголовок Sophie Bot. В редакторской заметке Софи добавила, что это отличный результат и обратилась к журналисту тем же прозвищем — «большой пёс».