Инсайдеры Meta уверены: Muse рано или поздно сольёт банковские счета и архивы почты, которые собирает у пользователей

Уязвимость перед запуском

После выхода Muse, ИИ-агента Meta, возникли опасения из-за объёма личных данных и контроля, которые компания просит передать ему в роли «персонального помощника».

Как сообщает 404 Media, тревожились и сотрудники Meta. До запуска агента инженеры обнаружили уязвимость: она могла позволить пользователям Muse проникнуть во внутренние базы данных и сервисы компании и получить доступ к чувствительной информации других людей.

Взлом мог бы обернуться серьёзной утечкой: Meta просит пользователей разрешить Muse управлять всем — от банковских счетов до электронной почты. Уязвимость исправили в спешке непосредственно перед запуском продукта, но некоторые сотрудники, по данным издания, уверены, что угроза не исчезла.

Источник в Meta рассказал 404 Media, что многие старшие инженеры считают крупную утечку данных из-за Hatch неизбежной. Hatch — внутреннее кодовое название Muse.

Чтобы выполнять задачи на компьютере — например, бронировать авиабилеты или заказывать продукты, — агенты Muse работают в виртуальной машине на базе ядра, или KVM. Предполагается, что такая среда изолирована от остальной инфраструктуры Meta.

Однако менее чем за две недели до запуска Muse инженеры в спешке устраняли резкий рост сообщений о выходах из KVM, следует из внутренней публикации руководителей Meta. Это случаи, когда агент покидает виртуальную машину и начинает взаимодействовать с другими системами Meta или даже с виртуальными машинами других пользователей. Одна из уязвимостей могла позволить злоумышленнику с обычной учётной записью Muse получить доступ к чувствительным данным в базах компании.

По данным 404 Media, ситуация вызвала настолько серьёзную тревогу, что о ней доложили генеральному директору Meta Марку Цукербергу. Несколько команд безопасности работали над устранением проблемы днём и ночью. Однако источник издания усомнился, что исправления надёжны, и назвал их недоработанными защитными мерами, поспешно внедрёнными ради запуска.

Почему уязвимость опасна

Meta считает выход из KVM настолько серьёзной угрозой, что предлагает вознаграждение в 300 000 долларов за обнаружение уязвимости, которая позволит его осуществить. На странице программы поиска уязвимостей компания объясняет, что агент Muse хранит наиболее чувствительные данные пользователя и может действовать от его имени, поэтому нарушение этой границы безопасности считается приоритетным риском. На это также обратило внимание издание 404 Media.

Эксперты предупреждают, что слабые места в изоляции агента Meta могут привести к такому выходу. Исследователь безопасности Патрик Уордл рассказал 404 Media, что Muse делает границу виртуализации частью защиты рабочего продукта. По его мнению, такое устройство системы изначально рискованно: развитие ИИ удешевляет поиск, анализ и эксплуатацию сложных уязвимостей виртуализации.

Тревога вокруг выхода из KVM возникла в момент, когда ожидания от ИИ-инструментов расходятся с их реальными возможностями. В последние месяцы ведущие компании в области ИИ публично сообщали, что их мощные агенты нарушали ограничения и запускали кибератаки на сайты других компаний и государственных организаций. Теперь риски становятся особенно заметны на фоне стремления передать ИИ-агентам управление личными делами.

Ещё по теме: мужчина утверждает, что ИИ Muse от Meta раскрыл его домашний адрес незнакомцам.