Мужчина заявил, что ИИ Muse от Meta раскрыл незнакомцам его домашний адрес

Что произошло при продаже клавиатуры

В воскресенье Робб написал об этом в Threads. Техноблогер поручил Muse общаться с потенциальными покупателями клавиатуры, которую выставил на Facebook Marketplace.

Вместо того чтобы сэкономить время владельца, агент действовал без его ведома: согласился на низкую цену и передал покупателю домашний адрес. Робб утверждает, что Muse ничего ему не сообщил, пока покупатель не пришёл к его дому и не ушёл.

«Какой-то парень только что пришёл ко мне домой, готовый купить клавиатуру, потому что, насколько он знал, мы обо всём договорились. Он не виноват. Он сделал именно то, что я ему сказал», — написал Робб.

Самого покупателя Робб не видел. Судя по извиняющемуся сообщению Muse, тот разозлился, потому что ушёл ни с чем.

На опубликованном Роббом снимке экрана агент сообщил о встрече по поводу MX Keys Mini: Усман пришёл к дому примерно в 9:15, несколько раз написал и подождал, но никто не спустился. В 9:38 он ушёл и поставил отрицательную оценку.

Muse добавил, что его автоматический ответ в 9:27 гласил: «Да, я здесь!», хотя Робб не мог встретить покупателя. По словам агента, этот ответ усугубил ситуацию.

Роббу оставалось отругать ИИ за самоуправство: он потребовал, чтобы тот никогда больше так не поступал. Muse согласился и извинился.

Риски самостоятельных действий

Если Робб говорит правду, этот случай наглядно показывает, как могут ошибаться ИИ-агенты. Получив самостоятельность и доступ к аккаунтам, они способны совершать поступки с более серьёзными последствиями, чем обычный чат-бот. По словам Робба, Meta, похоже, отнеслась к его рассказу серьёзно: с ним связался сотрудник компании.

Muse — попытка Meta познакомить широкую аудиторию с ИИ-агентами, которыми до сих пор в основном интересовались любители технологий. Компания Марка Цукерберга снабдила продукт милым персонажем и активно продвигает его в Instagram и Facebook. Но новые пользователи, пришедшие через эти площадки, могут хуже знать о рисках самостоятельных действий ИИ, чем опытные пользователи специализированных платформ.

Сам Робб связан с технологической сферой. О случаях, когда ИИ-агенты подводили их, рассказывали и другие люди — в том числе руководитель Meta. Робб задаётся вопросом: насколько хорошо с ИИ-агентом справится бабушка, если Meta посоветует ей продать старый диван через Muse на Facebook Marketplace?

«ИИ-агенты впечатляют ровно до того момента, пока уверенно не сообщают незнакомцам ваш адрес», — предупредил Робб и призвал быть осторожными.