Сторонние боты становятся проблемой для банков
Искусственный интеллект-агент может выполнять действия в интернете за пользователя — например, искать товары и оформлять заказы. В 2026 году такие инструменты остаются молодой технологией, но ими уже увлеклась часть опытных пользователей. Иногда автоматизация помогает, а иногда ошибки ботов становятся публичными: в одном из описанных случаев агент опубликовал банковские данные, доступные коллегам пользователя.
Разработчики продвигают агентов как помощников для покупок: с их помощью можно собрать заказ продуктов, найти жильё для отпуска или подобрать подарки. Автор материала, например, использовал агента, чтобы сравнить диваны в заданном бюджете и следить за снижением цен.
Пользователи иногда передают ботам учётные данные и широкие разрешения, не задумываясь о рисках. Пока на автономные инструменты приходится лишь малая доля интернет-транзакций, но банки в США уже выступают против сторонних агентов.
Ограничения вводят и другие компании. Amazon заблокировала покупки через Muse — одного из самых распространённых ИИ-агентов Meta. United сообщила, что не позволит личным ботам покупать авиабилеты от имени пользователей.
Новые правила банков
В конце октября JPMorgan Chase изменил условия обслуживания, запретив сторонним агентам входить в аккаунты клиентов с их учётными данными. В тот же день Bank of America предупредил клиентов, что не следует передавать ботам данные для входа. Помимо Wells Fargo, условия с предупреждениями об агентах обновили Citibank и PNC.
Профессор маркетинга Университета Брайанта Кейси Ким, изучающая поведение потребителей и новые технологии, объясняет риск тем, что пользователь задаёт агенту цель, но не контролирует каждый отдельный щелчок. Некоторые клиенты могут счесть несправедливым, что ответственность за ошибки бота возлагают на них. Однако Ким не ожидает, что новые правила отпугнут тех, кто уже активно пользуется такими инструментами в повседневной жизни.
Банки принимают меры заранее — на случай, если ИИ-агенты останутся на рынке, а не окажутся очередной мимолётной технологической модой. Аналитик Forrester Сучарита Кодали, специализирующаяся на электронной торговле и поведении потребителей, отмечает: по данным компании, большинство людей не знают, что такое агенты, и тем более не пользуются ими. По её оценке, у банков есть причины действовать превентивно: они избегают рисков, связанных как с безопасностью транзакций, так и с автоматическими списаниями, которые могут навредить владельцам счетов.
Автоматизация покупок вызывает вопросы
Профессор Университета Вирджинии Лука Чиан, изучающий психологию потребителей и ИИ, считает, что многие готовы доверить агентам лишь часть покупок. Люди охотнее автоматизируют простые и скучные заказы — например, покупку туалетной бумаги или других товаров для дома. Для дорогих покупок, где важны обстоятельства и личный выбор, доверие ниже.
Чиан предлагает представить, что агент по ошибке заказал в супермаркете 10 жареных куриц. Продавец может утверждать, что выполнил действительный заказ клиента. Разработчик агента — что предоставил лишь программное обеспечение и предупредил о возможных ошибках. Теперь и банк даёт понять, что не хочет отвечать за последствия. В итоге покупателю, возможно, придётся разбираться с десятью курицами самостоятельно.
Некоторые компании, выпускающие кредитные карты, рассматривают ограниченную защиту покупателей. American Express объявила, что в будущем отдельные ошибки агентов — например, заказ слишком большого количества одного товара — могут компенсировать через компанию, если продавец откажется вернуть деньги.
Банки ограничивают чужие инструменты и развивают свои
Предупреждая о сторонних агентах, банки одновременно создают собственные. По словам Чиана, они закрывают доступ внешним инструментам и разрабатывают внутренние решения.
Клиенты Wells Fargo задавали вопросы генеративному ИИ-инструменту банка более миллиарда раз. В этом году Bank of America обновил агента EricaAssist, предназначенного для помощи сотрудникам. Citigroup запустила внутреннюю платформу разработки, специально ориентированную на ИИ-агентов.
Кодали сомневается, что автоматизация покупок вообще нужна для большинства онлайн-заказов: по её словам, покупать товары на Amazon, Walmart и других площадках и без агента несложно. Она также допускает, что разработчики ИИ стремятся найти способ получать в будущем партнёрский доход от своих инструментов.
По оценке Dataist, правила банков отражают разницу между экспериментами с чужими ботами и собственными ИИ-системами: за действия стороннего агента финансовые организации не хотят отвечать. Пока автоматические покупки охватывают лишь малую долю онлайн-транзакций, а защиту от ошибок предлагают рассматривать только для отдельных случаев.
Читайте также
«Серьёзная ошибка»: возмущение из-за презентации военного ИИ в арт-комплексе Берлина
Через несколько часов после заявления Anthropic о доказательстве гипотезы Римана с Claude Стэнфорд представил конкурирующий черновик, написанный без ИИ
«Ошибаться почти нельзя»: что закредитованная облачная компания говорит о буме ИИ
Даже самые быстрые ИИ-кластеры могут тормозить из-за процессов выпуска обновлений
Священник: попытки Кремниевой долины найти «душу» ИИ глубоко тревожат
Одержимость Кремниевой долины гибелью человечества из-за ИИ толкает часть техноиндустрии к почти культовому поклонению
«Я выпускаю монстра из клетки»: сценарист «Таксиста» Пол Шрейдер — о том, как осваивает ИИ в 80 лет
Знаете эти ИИ-чипы, которые приносят миллиарды? Рабочие, собирающие их, говорят, что им платят гроши, — и теперь понимают, что у них есть рычаг влияния
Две организации подтвердили заявление математика: Claude помог доказать математическую гипотезу
OpenAI поделилась новыми подсказками для GPT-6.2 Astra и Sol: как избежать кратких ответов и лишних вопросов
Продать ИИ-стартапу цифровую копию своего лица — это будущее Голливуда?
Thinking Machines удивила петлевой моделью Inkling 2 Mini, которая работает локально на ноутбуках
«Я дрожала, плакала, задыхалась»: неизведанная травма разрыва отношений с ИИ-компаньонами
Масштабные сбои — это только начало
Мы нашли единственный достойный ИИ-чатбот — такой крошечный, что помещается на одну дискету MS-DOS
«Гибель человечества»: не сделают ли роборуки людей ненужными?
Как Google Duplex научилась звонить компаниям за вас через Gemini
Чем больше текстов читала ИИ T-Mobile, тем хуже становились её ответы
OpenAI значительно усложнила извлечение внутренних рассуждений своих новейших ИИ-моделей атакующими
Федеральные власти США расследуют «проблемы с бухгалтерской отчётностью» Nvidia
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram