Бывший топ-менеджер Meta назвал ИИ-агента Muse «безумным» риском для приватности

Какие данные получает Muse

Muse может просматривать личные сообщения за несколько лет и извлекать сведения из почтового ящика — от старых писем бывшим партнёрам до номеров паспортов. Пользователи также передают ему доступ к хранилищам паролей. Стамос назвал такую практику совершенно безумной.

Интерес к ИИ-помощникам, которые самостоятельно выполняют повседневные задачи, растёт и за пределами Meta. Стартап Instinct основал 23-летний научный сотрудник; несколько месяцев спустя компания привлекла $1 млрд в сентябрьском раунде финансирования.

Почему агенты создают проблемы для банков

Финансовым компаниям становится труднее отличать настоящих пользователей от их ИИ-ботов и подозрительной активности. Чтобы действовать от имени человека, агенты обходят защитные механизмы. Стамос отметил, что Instinct сумела обойти ряд автоматических систем обнаружения ботов, что, по его оценке, отчасти объясняет высокую стоимость компании.

«Это не украденные учётные данные, но очевидно, что взаимодействие ведут боты», — сказал Стамос в подкасте Алекса Канторовица Big Technology Podcast.

Meta заявляет, что Muse работает в виртуальной машине, изолированной от агентов других пользователей. При этом компания предупреждает: автоматические системы несовершенны, и советует проверять действия Muse и предоставлять только тот доступ, который пользователь готов ей открыть.

Уязвимости и случаи раскрытия данных

В сентябре исследователи безопасности обнаружили уязвимости, которые могли дать злоумышленникам доступ к чувствительным личным данным. После этого Meta усилила защиту. В прошлом месяце исследователи нашли и другие способы раскрыть такую информацию: риск возникает, когда пользователи делятся перепиской через веб-ссылки.

Техноблогер Мэтт Робб также утверждал, что Muse сообщал незнакомцам его домашний адрес и отправлял их к нему домой через его аккаунт Facebook Marketplace.

По оценке Dataist, Muse требует доступа к данным, которые позволяют агенту действовать от имени пользователя, но одновременно создают риски для его приватности. Изоляция виртуальной машины не устраняет их: Meta сама признаёт несовершенство автоматических систем, а исследователи уже находили уязвимости.