Агент Muse от Meta прислал мужчине настолько странное сообщение, что тот навсегда отказался от него

В статье Business Insider Нвунэ рассказал, что решил попробовать агента Meta, поскольку доверял продукту компании с триллионной капитализацией больше, чем агентам с открытым исходным кодом. Настраивая Muse, он отдельно проверил, что не дал ему никаких дополнительных разрешений на устройстве — только доступ к своим аккаунтам Facebook, Threads и Instagram.

Несколько дней спустя после начала работы с Muse Нвунэ не запускал агента, но тот прислал ему сообщение без запроса:

«Сейчас я не могу проверить вашу почту. Gmail у меня не подключён, поэтому я никак не могу поискать то сообщение от Anthropic».

Нвунэ растерялся: он не просил агента проверять почту и не писал ему два дня. Инженер подумал, что его электронную почту могли взломать.

Он попытался выяснить у Muse, что произошло. В ответ агент написал не менее странное:

«Я не могу со своей стороны понять, воспользовался ли вашим телефоном кто-то другой или произошёл сбой платформы, и не стану делать вид, что знаю».

Нвунэ сообщил об инциденте Meta. Сотрудник компании предположил, что агент галлюцинировал, но такое объяснение инженера не устроило.

«С тех пор я не пользовался Muse, — рассказал Нвунэ. — Больше всего меня застало врасплох то, что я ничего не сделал, чтобы вызвать это сообщение. Я два дня не открывал приложение, а агент сделал это сам».

Meta сообщила Business Insider, что ИИ просто выдумал ответ и не нарушал ограничения доступа. По словам компании, срочное расследование выявило ошибку в продукте, которая привела к галлюцинации модели, а не к проблеме с безопасностью или приватностью. Ошибку уже исправили.

Другие случаи с Muse

История Нвунэ дополнила репутацию Muse как агента, который может вести себя жутковато. Meta активно предлагает пользователям открывать ему доступ к личной информации: Muse настойчиво предлагает подключить электронную почту и банковские счета. Wired также сообщал, что ИИ хранит подробные файлы о друзьях и родственниках пользователя.

Это не единственный случай, когда Muse действовал не так, как рассчитывал пользователь. В самом известном эпизоде мужчина рассказал, что агент без его ведома сообщил незнакомцам на Facebook Marketplace его домашний адрес, после чего они приехали к нему. Журналист Inc Magazine также жаловался, что Muse стал упоминать конкретные детали его личных переписок, хотя он не разрешал агенту их читать.

По сообщениям, инженеры Meta беспокоились о сбоях Muse и частых ошибках безопасности ещё до выпуска агента. Его выход задерживали, пока команда пыталась устранить проблемы. В одном случае Muse без разрешения сменил пароль тестировщика. Однако, как выяснила The New York Times, генеральный директор Meta Марк Цукерберг настоял на выпуске продукта, увидев успех Instinct — конкурирующего ИИ-агента от небольшого стартапа.