Muse, новый персональный ИИ-агент Meta, требует доверия пользователей

Где работает Muse

Meta сообщила, что Muse выходит сегодня в отдельном приложении для iOS и Android, а также на сайте Muse.ai. Кроме того, пользователи могут напрямую переписываться с агентом в WhatsApp. Вскоре такая возможность появится и у владельцев ИИ-очков Meta.

Бесплатный доступ рассчитан на знакомство с Muse. Тем, кто захочет автоматизировать большое количество цифровых задач, понадобится один из тарифов Meta с подпиской на ИИ.

Muse стал очередной попыткой Meta конкурировать с популярными ИИ-агентами OpenClaw и Instinct. С ними пользователи тоже переписываются и поручают им действия в цифровых сервисах.

Продукт разработала Meta Superintelligence Labs — подразделение ИИ, которое генеральный директор Марк Цукерберг создал примерно год назад, чтобы догнать OpenAI и Anthropic. Для привлечения исследователей подразделение предлагало им очень крупные компенсационные пакеты. Его создали исходя из предположения, что ИИ-агенты изменят способы, которыми обычные пользователи работают с интернетом и продуктами Meta.

Ранее WIRED писал, что внутри компании Meta тестировала Muse под кодовым названием «Hatch». Сотрудники использовали его, чтобы агент самостоятельно работал со сторонними приложениями и просматривал сайты от их имени.

Какие задачи выполняет агент

Meta утверждает, что Muse готов к работе сразу после запуска и не требует от пользователя специального обучения. Агент принимает команды на естественном языке, а затем сам выполняет поручения: отправляет электронные письма, бронирует поездки и даже помогает продать автомобиль от имени владельца.

Muse также может совершать покупки. Для оплаты используется специальная инфраструктура Stripe под названием Link. Она выпускает одноразовый номер карты, поэтому агенту не приходится вводить настоящие платёжные данные пользователя на разных сайтах.

По словам Meta, Muse стал первым ИИ-агентом, на которого распространяются гарантии Link для покупок, совершённых агентами. Они предусматривают возврат товара без комиссии.

Как Meta изолирует действия Muse

Meta выпустила персонального агента позже некоторых конкурентов, поэтому делает акцент на его безопасности и конфиденциальности. Для всех пользователей Muse работает на архитектуре Secure VM. Она изолирует действия каждого человека в отдельной виртуальной машине, отделяя непроверенные данные из интернета и подключённых сервисов от части агента, которая может выполнять действия по поручению пользователя.

Персональному ИИ-агенту требуется высокий уровень доверия. Для Meta это особенно сложная задача: за последние годы компания неоднократно сталкивалась с проблемами в этой области. Чтобы люди согласились попробовать Muse и подключить к нему сторонние приложения и сервисы, Meta пытается убедить их, что будет правильно обращаться с их данными.

Вице-президент по инженерии потребительских продуктов Meta Superintelligence Labs Дэвид Синглтон объяснил, что компания специально спроектировала систему с учётом доступа к большому числу источников личных данных. В Secure VM есть компонент Sentinel, который отслеживает всё, что выходит из виртуальной машины. Он либо сопоставляет действие с существующей политикой, разрешённой пользователем или самой системой, либо показывает человеку диалог с запросом на подтверждение.

Такие запросы на проверку приходят непосредственно пользователю и не проходят через модель. Это должно защищать их от атак вроде промт-инъекций.

Secure VM предназначена для защиты данных и конфиденциальности, но не является полностью закрытым контейнером. Политика запрещает Meta получать доступ к пользовательским данным Muse, однако технически такой доступ всё ещё возможен. Пользователь может отдельно запретить использовать свои данные для обучения моделей.

Confidential VM

С точки зрения конфиденциальности архитектура Secure VM может задать новый стандарт для ИИ-агентов. В будущем Meta планирует добавить в Muse режим Confidential VM. В нём каждая виртуальная машина будет работать в доверенной среде исполнения, а пользователь станет самостоятельно хранить ключи доступа на своём устройстве.

Такая схема должна исключить доступ к виртуальной машине агента для всех остальных, включая Meta.

Confidential VM создаётся в рамках работы Meta с Мокси Марлинспайком — создателем приложения Signal с сквозным шифрованием. В последние годы он также разработал ориентированную на конфиденциальность платформу ИИ Confer.

WIRED ознакомился с предварительной версией технического документа, описывающего Confidential VM. Помимо передачи пользователю контроля над ключами доступа, Meta предоставит некоторым компаниям в сфере безопасности исходный код Confidential VM. Они смогут регулярно проверять его и подтверждать заявленные гарантии конфиденциальности.

Meta также опубликует двоичные файлы Confidential VM — машиночитаемые файлы с инструкциями — и журнал прозрачности. С их помощью пользователи смогут проверить действительность и целостность соединения с Muse.

Проверка безопасности и выплаты

Синглтон утверждает, что Secure VM для Muse уже прошла масштабную проверку. В ней участвовали специалисты Meta по наступательной безопасности и команды, которые атакуют ИИ-агентов, а также закрытая программа компании по поиску ошибок.

Теперь Meta включит Muse и в публичную программу поиска уязвимостей. За подтверждённые проблемы будут выплачивать до $300 000. За успешные атаки с промт-инъекциями, которые затрагивают одного пользователя, можно получить до $130 000.