Не обманывайтесь: ИИ, который должен был экономить наше время, делает ровно обратное

Обратная сторона удобства

Ещё одно утро — и снова лавина писем. Даже после безжалостной чистки в почтовом ящике автора остаётся больше 7 000 сообщений. В последнее время она всё чаще вспоминает теорию Квентина Криспа о домашней уборке: зачем стараться, если через четыре года перестаёшь замечать накопившуюся пыль? Пустой почтовый ящик всё равно быстро заполнится снова.

Когда-то электронная почта должна была сэкономить часы, уходившие на встречи, звонки и работу у копировального аппарата. Вместо этого люди тратят время, удаляя сообщения, которые отправители не стали бы передавать по телефону, но теперь могут за секунду разослать всей своей базе. Возможность быстро связаться со всем миром обернулась тем, что весь мир так же легко может связаться с вами.

В этом и заключается проблема для планов правительства: оно надеется недорого преобразить государственный аппарат с помощью ИИ, сэкономив время и миллиарды фунтов бюджетных средств. Пока рано делать окончательные выводы, но ИИ, похоже, не ускоряет предоставление государственных услуг, а затрудняет его. Одна из причин — граждане сами используют эти инструменты в общении с государством.

На прошлой неделе бывший госслужащий Сэм Фридман написал в Substack, что после появления ChatGPT правительства разных стран сталкиваются с необычным ростом жалоб, запросов и ответов, направляемых регулирующим органам и государственным ведомствам.

Похожая ситуация складывается в судах. По сообщениям, число дел в трудовых трибуналах Англии, Шотландии и Уэльса за год выросло на 39%, отчасти потому, что истцы составляют заявления с помощью ИИ. Магистраты и судьи также получают множество дел от людей, не способных оплатить юриста: те используют ChatGPT для подготовки аргументов, которые часто оказываются бессвязными.

Разбирать всё это приходится людям. Даже если обвиняемый ссылается на несуществующие судебные прецеденты, за его словами всё ещё может скрываться реальная жалоба.

Специальные советники в Уайтхолле жалуются, что ведомства захлёбываются в созданных ИИ запросах о доступе к информации. Изначально эта система должна была помогать отдельным гражданам. Письмами, написанными с помощью ИИ, завалены и офисы депутатов: каждое нужно прочитать человеку, чтобы не пропустить важное обращение избирателя.

Сколько времени пройдёт, прежде чем публичные консультации по изменению законов настолько заполнятся машинным текстом, что перестанут показывать, чего на самом деле хочет страна? Есть тонкая грань между благородной целью упростить людям общение с далёким от них государством и такой лёгкостью обращений, которая превращает их в неуправляемый поток бессмысленных сообщений.

Когда автоматизируют обе стороны

Очевидный ответ на поток ИИ-текста — поручить другим ИИ-инструментам выявлять его и сортировать. Но это не всегда подходит, когда речь идёт о людях, которым может быть нужна помощь. Если избиратель использует ИИ, чтобы выразить свою мысль более изысканным языком в письме депутату, он всё равно вправе рассчитывать на личный ответ от человека.

Работодатели, решившие поручить ИИ отбор заявок на вакансии, теперь пожинают последствия собственного решения. Недовольные соискатели тоже автоматизировали свою часть процесса и рассылают заявки повсюду, вместо того чтобы сосредоточиться на вакансиях, которые им действительно интересны. В результате обеим сторонам всё сложнее найти нужное среди огромного количества неподходящего.

Риск остановки рабочих процессов, вероятно, вырастет, если общество начнёт массово использовать ИИ-агентов — именно на такие масштабы надеются крупные технологические компании. Первые пользователи могут экономить с их помощью время и силы. Но обходные пути перестают быть быстрыми, когда ими пользуются все, и могут сами превратиться в узкие места.

Так происходит и с автомобилями: поездка на машине намного быстрее путешествия верхом, кроме часов пик в городах, когда слишком много людей одновременно пытаются сократить время в пути. В 2018 году дневная скорость движения транспорта в центре Лондона составляла в среднем чуть больше 7 миль в час — примерно столько же, сколько развивает рысцой пони.

Исторически люди находили способы справляться с проблемами, которые сами и создали. Для электронной почты появились спам-фильтры, для ограничения автомобильного движения в городах — плата за въезд. Со временем общество, возможно, поймёт, какие ограничения стоит вернуть в систему, чтобы приспособиться к последствиям использования ИИ.

Пока же полезно помнить: обещанная экономия благодаря ИИ может оказаться преувеличенной. Больше — не всегда лучше, а быстрее и проще — не всегда удобнее. Время, сэкономленное в одной части государственных служб, часто возникает дополнительной нагрузкой в другой. Пусть начнётся игра «бей крота».

— Габи Хинслифф — обозреватель The Guardian.