Новый ИИ-агент Meta Muse может стать самым жутким из когда-либо выпущенных

Для ИИ обязательно быть полезным? Разве пугающее поведение не доказывает его полезность?

Именно слово «пугающий» всё чаще используют, говоря о новом ИИ-ассистенте Meta — Muse. Вы могли заметить его в Instagram или Facebook: Meta активно продвигает инструмент как ИИ-агента для обычных пользователей, которые могут не знать, что такое OpenClaw или Instinct.

Чтобы начать пользоваться Muse, его нужно установить на устройство и подключить к электронной почте, банковским счетам и другим данным. После этого ассистент получает задачу и, по словам Meta, «продолжает работать, пока вы занимаетесь своими делами». По мере общения с пользователем Muse формирует «подобранную долговременную память», чтобы предлагать больше рекомендаций и эффективнее автоматизировать задачи.

Но настоящая проблема связана с конфиденциальностью. Многие пользователи, проверявшие Muse, рассказали, что их встревожило количество найденных ассистентом сведений и то, насколько подробно он отслеживал их привычки.

Джейсон Эйтен из журнала Inc написал, что Muse начал упоминать конкретные детали из сообщений, которые он отправлял через Apple Messages. При этом Эйтен не разрешал ассистенту просматривать переписку. Когда он спросил Muse, откуда взялись эти сведения, тот ответил, что следил за уведомлениями, чтобы восстановить историю сообщений. Ассистент извинился, но не смог или не захотел ясно объяснить, как именно получил доступ к этим данным.

Дэвид Синглтон, сотрудник Meta Superintelligence Labs, ответил Эйтену, что Muse на самом деле не сканировал уведомления. Однако его объяснение ситуацию не прояснило. По словам Синглтона, если пользователь даёт разрешение, Muse синхронизирует данные из Messages и запрашивает полный доступ к диску, чтобы искать файлы. Из этого следовало, что у Эйтена могли быть включены такие разрешения.

Эйтен настаивает, что не предоставлял Muse ни одного из необходимых доступов. Он также сообщил, что Meta не ответила ему, каким образом ассистент получил эти сведения.

Если этого недостаточно, чтобы назвать Muse пугающим, Рис Роджерс из Wired описал, как во время тестирования ассистент постепенно переходил к всё более личным рекомендациям.

На следующий день после того, как Роджерс написал о желании накопить на дорогой отпуск, Muse предложил подключить трекер сбережений к реальному банковскому балансу — для этого требовалось всего несколько нажатий и синхронизация данных с его текущего и сберегательного счетов.

На этом рекомендации не закончились. Muse также предложил:

Роджерс пришёл к выводу, что каждое предложение Muse стало выглядеть как предлог заставить его загрузить в систему ещё больше личных данных, доступных Meta.

Такое вторжение выглядит смелым даже для Meta. Компании, создающие ИИ, обычно стараются не допускать впечатления, будто их технологии слишком назойливы. В случае Muse пользователю предлагают передать ассистенту водительское удостоверение и банковскую информацию.