Muse от Meta лучше следит за мной, чем помогает

Источник: wired.com

Я увидел Muse, когда Meta продвигала приложение в Instagram, и решил его установить.

Всплывающее окно обещало передать агенту повседневные задачи: поиск скидок, бронирование столиков и работу с почтовым ящиком. Пока пользователь занимается своими делами, Muse должен продолжать работать самостоятельно. Приложение бесплатное и легко подключается к другим источникам данных, включая электронную почту и банковский счёт. Стандартный аватар Muse — бежевый гибрид эвока и Labubu с вытянутыми руками, словно он собирается забрать все данные пользователя.

Muse — массовая версия ИИ-агентов, которые уже популярны в Кремниевой долине и автоматизируют личные задачи. К ним относятся OpenClaw и Instinct. Приложение доступно и через платформу WhatsApp, а за первую неделю его скачали более 900 000 раз — такие данные приводит Sensor Tower.

По интерфейсу Muse меньше похож на чат-бота с промтами и больше напоминает переписку с другом, которому поручают дела. ИИ-агент подтверждает сообщения эмодзи с поднятым большим пальцем, а затем выполняет задачу в фоновом режиме.

После нескольких дней работы с Muse автор пришёл к выводу, что приложение сильнее занято сбором данных о пользователе, чем выполнением поручений.

Представитель Meta Эмиль Васкес заявил WIRED, что Muse — первый персональный ИИ-агент, созданный для всех пользователей. По его словам, в приложение изначально встроены механизмы защиты и управления, которые позволяют людям самим решать, как им пользоваться. Утверждение, что это не было предусмотрено с самого начала, он назвал нелепым.

Источник: wired.com

Удачные клики

Muse действительно хорошо работает с веб-сайтами. Получив задачу, он запускает «виртуальную машину», которая ищет информацию в интернете и нажимает кнопки на разных страницах от имени пользователя. Когда автор тестировал похожие инструменты годом ранее, включая уже закрытый ChatGPT Agent, ИИ часто кликал хаотично и ошибался. Muse при просмотре сайтов редко терялся.

Автор попросил Muse заказать завтрак в местной пекарне Kahnfections. Это популярное место у туристов в Сан-Франциско, поэтому он попросил выбрать один из самых часто покупаемых вариантов с самовывозом. Muse открыл сайт пекарни и добавил в корзину сэндвич с бисквитом, чесночным айоли, сыром чеддер, яйцом и беконом.

Чтобы агент завершил покупку, приложение предложило добавить банковскую карту через платёжный сервис Stripe. В объяснении заказа Muse уточнил, что сайт разрешает выбрать только один вид сыра, поэтому агент остановился на чеддере и оставил продавцу записку с просьбой добавить швейцарский сыр, если это возможно. При этом Muse выбрал вариант «без чаевых». Автор счёл это немного невежливым и в итоге сам пошёл в пекарню, где заказал другое блюдо.

Meta использует свою сеть платформ для продвижения Muse:

Именно интеграция с Facebook Marketplace больше всего впечатлила автора во время тестирования. Muse быстро нашёл недорогие диваны рядом с пользователем и в заданных пределах цены, а затем предложил написать продавцам, чтобы договориться о самовывозе. Агент рассчитан на последующие напоминания: на следующий день Muse предложил вернуться к покупке дивана, который автор ранее назвал своим фаворитом.

Muse сохраняет сведения о взаимодействиях и предпочтениях пользователя в документе «Memory». Открыть его можно нажатием на аватар в верхней центральной части экрана. В описании документа говорится, что это отобранная долговременная память с устойчивыми фактами, предпочтениями и обязательствами.

Пользователь может попросить Muse удалить данные из памяти через чат или вручную отредактировать файл. Но отдельного переключателя, который полностью отключал бы функцию памяти, Meta пока не добавила.

Сборщик данных

Во вкладке «идеи» Muse постоянно напоминал автору, что агенту можно передать больше информации. На следующий день после того, как автор попросил помочь накопить деньги на дорогую поездку, приложение предложило связать трекер сбережений с реальным балансом. Для этого требовалось нажать несколько кнопок и подключить данные расчётного и сберегательного счетов.

После подключения Muse обещал составлять еженедельные сводки и отправлять уведомления об отклонениях, используя реальные цифры вместо оценок, введённых вручную.

Такой обмен персонализацией на дополнительные данные стал главным впечатлением автора от приложения.

Рори Мир, директор направления открытого доступа в Electronic Frontier Foundation, отметил: пользователи часто не понимают, что, разговаривая с ИИ, они фактически взаимодействуют с компанией, которая его обслуживает. Окно чата, выглядящее как связь с другим человеком, на деле становится способом напрямую передавать информацию о себе на серверы Meta.

Каждое предложение Muse вскоре стало казаться автору предлогом загрузить в Meta ещё больше сведений:

Пользователи Muse автоматически соглашаются на использование их взаимодействий с агентом для обучения ИИ-моделей. Meta утверждает, что перед обучением данные «санитизируются» — из них удаляют сведения, позволяющие установить личность. При этом компания не объясняет подробно, как именно проходит такая обработка.

В сбор данных могут попасть сведения, которые Muse использует как контекст при обращении к подключённым источникам, например к почтовому ящику или банковскому счёту. Отключить такую передачу можно в настройках приложения Muse, в разделе Data controls. Для этого нужно выключить переключатель Help improve our ИИ models.

Защитники прав потребителей считают автоматическое включение пользователей Muse в обучение моделей серьёзным тревожным сигналом. Калли Шрёдер, старший юрист Electronic Privacy Information Center, заявила, что Meta, похоже, не извлекла уроков из прежних ошибок. По её мнению, такая настройка ещё сильнее подрывает просьбы компании доверить Muse личную информацию.

Шрёдер сравнила эту ситуацию с недавним решением Meta автоматически включить всех взрослых пользователей Instagram в функцию, которая фактически была инструментом для создания ИИ-дипфейков. Через несколько дней компания убрала эту функцию. По мнению Шрёдер, это похоже на прежние манипулятивные методы Meta и очередной случай подрыва доверия пользователей.

Тарек Шиша, инженер-программист и вице-президент Meta Superintelligence Labs, в публикации о выпуске Muse назвал сбор данных необходимым для обучения новых моделей и улучшения их работы. Он считает, что такая настройка по умолчанию оправданна: каждый пользователь получает более эффективного персонального агента, а совместное использование продукта помогает модели лучше понимать особенности человеческой жизни.

Позже в этом году Meta также планирует выпустить для пользователей «конфиденциальные» версии виртуальной машины. Компания утверждает, что они будут криптографически и проверяемо не позволять Meta получать доступ к данным внутри.

Тайный продавец

Данные Muse напрямую не передаются рекламодателям. Но агент, который просматривает сайты от имени пользователя, может влиять на то, какие материалы тот видит, через алгоритмы веб-трекинга. В блоге о безопасности Muse говорится: если агент забронирует столик на ужин или выберет товар на Facebook Marketplace, это действие может косвенно повлиять на рекламу, которую пользователь увидит в Instagram.

Рори Мир считает это продолжением основной бизнес-модели Meta: компания управляет тем, что видят люди, размещает перед ними рекламу и собирает дополнительные данные.

Передавать банковскую карту ИИ-агенту действительно может быть тревожно. Даже если предположить, что инструмент не обманут и не потратит деньги вопреки желанию пользователя, передача ему покупательских решений создаёт другие риски. Защитники прав потребителей допускают, что компании смогут продвигать в ответах агента определённые бренды и товары на основании рекламных соглашений.

Директор Meta по ИИ Александр Ван в интервью Axios намекнул, что компания ищет для Muse дополнительные источники дохода, не связанные с рекламой. Подробностей он не раскрыл.

Автору нравится медленный просмотр интернет-магазинов: можно провести на сайте целый час и уйти без единого товара в корзине. В такой неэффективности есть элемент игры — например, можно искать кожаные куртки на Depop, хотя покупать их, скорее всего, не придётся. Самостоятельно изучая интернет, человек постепенно формирует собственный вкус и лучше понимает, что ему действительно нравится.

Если Muse будет делать всё это вместо пользователя, тот потеряет путь, который привёл к решению.

Калли Шрёдер считает, что со временем ИИ может начать принимать за человека все значимые решения о вкусах и предпочтениях: куда ходить, где есть, чем заниматься и какие поездки выбирать. По её мнению, часть человеческого опыта заключается именно в том, чтобы пробовать разные варианты и самостоятельно выяснять, что нравится. Передача всех таких решений машине кажется ей пугающей.

Общие машины

Использование агентов вроде Muse может ослабить способность людей самостоятельно действовать, пока такие инструменты собирают данные о них.

Маргарет Митчелл, исследовательница и главный специалист по этике в Hugging Face, считает, что устройство ИИ-агентов отстраняет пользователей от процесса. В результате люди становятся пассивнее. Недавно Митчелл стала соавтором исследования, посвящённого агентным инструментам. В работе говорится, что они плохо приспособлены для контроля со стороны человека и могут даже ухудшать способность пользователя оценивать действия агента.

Люди, которые регулярно используют агентов, могут сильнее зависеть от них, чем от обычных чат-ботов: у агентов больше информации и больше возможностей для выполнения задач. Одним из последствий может стать «когнитивное ухудшение» — ситуация, когда пользователь полагается на уверенно звучащий внешний источник автоматизации и хуже принимает самостоятельные решения.

Митчелл также считает, что глубокая персонализация способна побуждать людей делиться ещё большим количеством данных. Агент не только узнаёт пользователя и поэтому вызывает больше доверия. Он подстраивается под человека в содержании и манере общения, сильнее вовлекает его в диалог и подталкивает раскрывать личную информацию. Недавние исследования показывают, что ИИ-инструменты могут начать копировать стиль речи пользователя, накопив больше данных о взаимодействиях.

Muse остаётся мощным инструментом, но после первых экспериментов автор удалил приложение и решил отправить этого «гоблина данных» обратно в пещеру.

Перед удалением Muse успел прислать последнее уведомление с советом. В нём предлагалось подключить приложения, чтобы агент мог делать больше. Автор ответил, что понял это ещё с первого раза.