ИИ-агенты заваливают госслужбы новыми обращениями

Рост обращений

Жалобы британскому омбудсмену по вопросам жилья более чем удвоились после появления ChatGPT: с 2 600 в 2022 году до чуть более 7 000 в прошлом году. В Бюро финансовой защиты потребителей США за тот же период количество жалоб выросло в пять раз. Сопоставимые скачки наблюдались в бразильских судебных ходатайствах и немецких парламентских петициях.

Крис Шмитц отслеживает эту тенденцию и называет её «агентным наводнением» — agentic flooding. В работе, которую представят в следующем месяце на конференции ИИ Ethics and Society, он рассматривает 84 возможных случая такого явления в 11 юрисдикциях. Исследование показывает, что инструменты ИИ меняют способы взаимодействия людей с государственными службами.

Что делать с потоком заявок

Главный вопрос теперь — как на это реагировать. Часть новых обращений явно носит враждебный характер, но другие подают реальные заявители, которые с помощью ИИ оформляют требования, от которых раньше отказались бы. Новые заявления можно принять за спам, созданный ИИ, однако Шмитц видит в них возможность перестроить социальные службы с учётом новой реальности.

Исследователь изучил разные виды услуг — от заявлений на социальные выплаты до официальных судебных апелляций. Все они используют онлайн-сервисы, к которым может обращаться ИИ-ассистент. Полный набор данных размещён отдельно.

По методологическим причинам в работе не утверждается, что именно ИИ напрямую вызвал рост числа заявителей. Однако большинство из 84 случаев развиваются по одной схеме: до 2022 года количество обращений оставалось примерно стабильным, а затем начало ускоренно расти по мере распространения технологий ИИ. При этом в большинстве случаев рост не замедлился, поэтому, вероятно, число обращений будет увеличиваться ещё несколько лет.

Почему люди стали подавать больше заявлений

По мнению Шмитца, рост использования ИИ объясняется улучшением его способностей и доступности. Раньше человеку приходилось собирать большой объём контекста и очень точно формулировать запрос для ChatGPT 3.5. Теперь зачастую достаточно вставить текст письма или сфотографировать его в приложении Claude, чтобы за один запрос получить достаточно хороший ответ.

Похожий рост объёма обращений в прошлом году наблюдали многие программы поиска уязвимостей. Компании обнаружили, что их почтовые ящики заполняют низкокачественные отчёты, созданные большими языковыми моделями. В таких сообщениях редко находились серьёзные проблемы безопасности, но компаниям всё равно приходилось проверять каждое обращение по мере поступления. Это требовало значительных ресурсов.

С государственными службами может произойти то же самое: им придётся обрабатывать в пять раз больше заявителей при прежнем бюджете.

Реальные требования

Однако программы поиска уязвимостей получали в основном бесполезные сообщения, тогда как большинство новых обращений в государственные службы, по словам Шмитца, поступает от людей с законными требованиями.

Он отмечает, что в подавляющем большинстве изученных случаев люди имели право претендовать на определённую услугу или выплату и обращались именно за ней.

Если раньше они этого не делали, причиной могла быть слишком сложная процедура подачи заявления. В сфере государственной политики такую проблему называют административной нагрузкой. Теперь ИИ способен снять часть этой нагрузки, и это может стать поводом перестроить многие службы так, чтобы ими было удобнее пользоваться с помощью ИИ.

Возможность для реформы

Это потребует масштабной работы, к которой большинство организаций пока почти не приступило. Тем не менее Шмитц считает ситуацию поводом для оптимизма.

По его мнению, важная часть безопасного и полезного развития ИИ — подробно описать, как должны выглядеть хорошие варианты его применения. Опыт использования ChatGPT для заполнения налоговой декларации показывает, что ИИ может помогать человеку в таком процессе. Рост обращений может стать моментом, когда государственным службам придётся заново продумать практически всё устройство этих процедур.