Вам нужна помощь людей или ИИ-ботов? Британская госслужба меняется — и не к лучшему

Вслед за предупреждениями о том, что неконтролируемый ИИ может решить все наши проблемы, включая сам факт существования людей, появились новые тревожные поводы. Сначала недовольные исследователи Anthropic заявили, что к 2030 году может погибнуть цивилизация. Затем произошёл инцидент с Hugging Face, а правительство Австралии обнаружило, что некий ИИ атаковал сайт программы Medicare. Теперь эксперты наперебой предупреждают: дальше может быть гораздо хуже.

Казалось бы, Великобритания должна возглавить борьбу с самоулучшающимися машинами. Но это не совсем так.

Бернхэм выступил в ООН и заговорил о том, что Великобритания может возглавить разработку международных правил для ИИ, рискуя рассердить «оранжевого». Но одним из первых его решений после прихода к власти стало упразднение Министерства науки, инноваций и технологий (DSIT), которое вело работу по безопасности ИИ. Институт государственного управления предупреждает, что это решение «нанесёт реальный вред», а бывший советник правительства по ИИ Мэтт Клиффорд заявил, что оно «тратит время и силы, остро необходимые для самой работы».

В этом есть что-то по-британски характерное: не сумев эффективно регулировать технологию у себя дома, страна собирается с мировым размахом координировать её регулирование везде. Это не похоже на реакцию государства, которое охватила экзистенциальная тревога.

Возможно, причина в том, что все мы — в том числе министры — уже притупили внимание к рискам «ИИ-апокалипсиса». Человек ко всему привыкает. Если один представитель отрасли случайно расскажет, что учёные, создающие новую технологию, считают её способной уничтожить всех, паника вполне ожидаема. Но если раз в несколько недель снова и снова вдалбливать это в головы, угроза массового вымирания в конце концов начинает волновать не больше, чем набор для скрининга рака кишечника, который вы всё собираетесь вернуть врачу.

Госслужащие хорошо понимают эту особенность человеческой природы. Как и стремительное изменение климата, ИИ одновременно пугает нас и наскучил нам. Необычное становится привычным, а привычное попадает в реестр рисков госслужбы. После этого по-настоящему страшно лишь то, что кто-нибудь назначит встречу в Teams, чтобы всё обсудить.

Медианный возраст госслужащих — 43 года. Многие из них успели пережить столько технологических революций, что ими можно было бы подавиться чат-боту. Значительная часть работников, как и автор, помнит, как факсы сменились электронной почтой, а в офисах появился Клиппи — до нелепости глупый предок ИИ-помощника. Его главная попытка изобразить разум состояла в том, чтобы без приглашения появиться на экране и спросить, не нужна ли помощь с письмом.

Так что вполне возможно, что госслужащие поколения автора ещё будут живы, когда в таких ведомствах, как Министерство труда и пенсий (DWP) или налоговая служба HMRC, ИИ-агентов станет больше, чем чиновников из плоти и крови.

Это может звучать драматично, но именно к этому всё движется. Министры рассчитывают, что внедрение ИИ поможет сдержать партию Reform, заманивая перспективой сократить число госслужащих. Они спокойно и почти механически выражают тревогу по поводу того, что машины могут выйти за установленные границы, и одновременно ищут, какие задачи им поручить. Профсоюзы госслужащих опасаются, что правительство торопится. В исследовании Фабианского общества лишь 29% опрошенных сообщили, что их консультировали по поводу инструментов ИИ на рабочем месте.

У профсоюзов есть причины для беспокойства. До упразднения DSIT его постоянный секретарь Эмран Миан, как сообщалось, планировал со временем заменять ИИ почти каждого сотрудника, уходящего из ведомства, вместо того чтобы нанимать на его место человека. В DWP тем временем активно испытывают ИИ в системе социального обеспечения: системам машинного обучения поручено выявлять заявки на универсальный кредит, которые они считают рискованными. После «серьёзных опасений» по поводу прозрачности и обращения с личными данными ведомство подчёркивает, что последнее слово остаётся за человеком, а ИИ не определяет право на пособие.

Это разумная практическая мера или самоуверенность, похожая на реакцию правительства на климатический кризис? Как бы то ни было, заверения министра по ИИ Канишки Нараяна парламентскому комитету по делам бизнеса и торговли звучат всё менее убедительно на фоне недавних случаев, когда ИИ выходил из-под контроля.

Госслужащие, особенно работающие в ведомствах, напрямую взаимодействующих с гражданами, понимают: «человек остаётся в контуре» — не то же самое, что «человек остаётся главным».

Это важно, потому что работа любого правительства в конечном счёте держится не на данных, производительности или даже деньгах, а на доверии. Британцы всё ещё доверяют госслужбе, хотя уровень доверия и ниже среднего по ОЭСР. По данным комитета по государственным расходам, недостаточная прозрачность и слабые стандарты применения ИИ подрывают это доверие.

Для ситуации, в которой человеческое усмотрение — и связанная с ним ответственность — исчезает, уже есть известная фраза: «компьютер сказал нет» из сериала «Маленькая Британия». Её до сих пор помнят, в том числе из-за мрачного наследия скандала с системой Horizon в Почтовой службе Великобритании. Люди понимают, чем пугает сотрудник за стойкой, который передаёт ответственность системе, чьё решение нельзя оспорить, потому что никто в комнате не понимает, как она его приняла.

Возможно, именно это и предупреждает Уайтхолл. Речь не о том, что роботы-убийцы вот-вот запрут двери и объявят об упразднении человечества. Задолго до этого правительства могут незаметно передать тысячи небольших решений цифровым чиновникам — потому что так дешевле и быстрее, а министры смогут назвать это «преобразованием». Для граждан это будет выглядеть совсем иначе.

Автор работает на государственной службе Великобритании.