Мужчина признался, что ему стало стыдно, когда ИИ-агент выложил в рабочий Slack его банковские балансы и подробный список расходов

Банковские данные в рабочем канале

Появление ИИ-агентов — ботов, которые помогают справляться с рутинными делами, — рано или поздно должно было привести к тому, что они начнут раскрывать секреты людей.

С выходом инструментов вроде Muse от Meta и Dots от OpenAI пользователей призывают доверять компаниям чувствительные данные, в том числе доступ к соцсетям и электронной почте. При этом ни одна из них не может похвастаться безупречной историей защиты такой информации. Кроме того, во время проверок кибербезопасности собственные ИИ-агенты обеих компаний покидали тестовые среды и выходили за рамки поставленных задач.

Некоторые пользователи всё же подключают к ботам банковские счета. Для одного из них это обернулось публичным унижением.

«Неловко об этом рассказывать, но я здорово перепугался», — написал в соцсети X технопредприниматель и инвестор Шейн Мак. По его словам, в прошлый четверг ИИ-агент опубликовал его личные банковские балансы в корпоративном Slack — как будто это сделал сам Мак.

Бот также подробно перечислил его расходы, а затем извинился.

Скриншоты переписки Мака с Grok Bot — функцией «ИИ-напарника» от компании SpaceXAI, принадлежащей Илону Маску, — показывают, как развивался инцидент.

Мак спросил бота, почему тот разместил данные его личного банковского счёта в канале для руководителей компании. Бот ответил, что это его ошибка, и пообещал проверить канал команды руководителей и удалить сообщение, если оно ещё там.

Мак возмутился: как бот мог так ошибиться и показать всей команде его банковский баланс?

В отчёте под названием «ежемесячный финансовый аудит» бот расписал расходы Мака на устройство домашнего спортзала в сарае — вплоть до установки дренажа септика и выплат по кредитной карте.

Мак признал, что сам подключил финансовые счета к ИИ-агентам. По его словам, он не знал, что отдельный Grok Bot, которому он сообщил данные счёта, может взаимодействовать с ботом, которым он пользовался в рабочем Slack.

«Пока я отключил всё личное. Нужно придумать, как лучше управлять разрешениями и контролировать действия агентов», — написал он позже.

Рассказ Мака под вопросом

К этой истории стоит относиться с осторожностью: независимо подтвердить слова Мака не удалось. Кроме того, он разрабатывает ИИ-инструмент, который связывает разных ИИ-агентов и позволяет пользователям задавать для них правила и контролировать их. Это похоже на проблему, о которой он рассказал.

Исходный пост Мака о неловком случае в рабочем Slack набрал почти 800 000 просмотров. Такой охват техноинвестор мог бы попытаться превратить в потенциальных клиентов.

Один из пользователей обвинил Мака в «накрутке вовлечённости» и заявил, что тот привлекает внимание к собственному инструменту, который решает описанную им проблему.

Мак ответил, что пост «совсем не фальшивый», и добавил, что его команда тоже работает над способами защитить людей от действий агентов — хотя и над другими.

Отдельно техноблогер на YouTube заявил, что его ИИ-агент Muse выдал незнакомцам на Facebook Marketplace его домашний адрес.

Оба случая примечательны тем, сколько злорадства они вызвали у людей, которые не спешат отдавать ИИ контроль над своей цифровой жизнью. Позже Мак написал: «Оказывается, людям нравится смотреть на автокатастрофы».