В соцсети X, ранее Twitter, к публикации миллиардера вскоре добавили примечание сообщества с поправкой. Как сообщила Ars Technica, у Muse обнаружили серьёзную уязвимость: через ссылки, созданные функцией «Поделиться», агент мог раскрывать конфиденциальную информацию пользователей.
Специалисты компании по кибербезопасности Claroc нашли способ получить доступ к страницам более чем по 6 800 ссылкам, которые Muse создал для обмена контентом.
Как находили переписки
Когда пользователь Muse хотел поделиться чем-то с другим человеком — например, копией переписки с агентом, — инструмент создавал веб-ссылку. В адресе были заголовок чата, сгенерированный ИИ, и случайная последовательность символов.
Каждый раз, когда кто-то открывал такую ссылку, полный веб-адрес попадал в набор данных для поиска — своего рода телефонный справочник посещённых ссылок. Исследователи искали в нём адреса страниц Muse, которыми поделились пользователи, и находили ссылки на посторонние публичные переписки.
Просматривая эти «справочники», специалисты легко открывали журналы чатов с подробной личной информацией. Среди найденного были документы о доходах компаний, заявки на кредиты, сведения о банковских операциях и доходах, а также календарь отпусков сотрудников одной организации.
Исследователи написали, что заранее ожидали, что сбор таких данных потребует серьёзных усилий. На деле, по их словам, хватило одного запроса.
Meta сообщила Ars, что отключила функцию. Эта утечка стала очередным свидетельством проблем с безопасностью Muse.
Ранее в этом месяце стало известно, что Muse собирал подробные сведения о друзьях и родственниках пользователей. По данным публикации, агент следовал внутренней инструкции вести отдельную «страницу для каждого человека в жизни пользователя».
Первый месяц публичной работы Muse может оказаться началом длинного списка ошибок, связанных с безопасностью и приватностью модели.
Подробнее о Meta: компания использует огромные дата-центры для ИИ, чтобы избежать уплаты миллиардов долларов налогов
Читайте также
Теперь в ChatGPT можно защитить переписки кодом или биометрией
Американцы, сейчас вы можете осадить техноброолигархов
OpenAI: GPT-6 заметно лучше справляется со старыми языками программирования, такими как COBOL и Fortran
Крупный застройщик дата-центров арендовал плавучую тюрьму для рабочих-подрядчиков
Anthropic усилила защиту Claude от атак дистилляции
Google присоединилась к Amazon в борьбе за разработчиков ИИ-приложений — оплот Nvidia
ElevenLabs выпустила две модели преобразования речи в речь для диалогов с ИИ в реальном времени
Claude проложила для марсохода первый маршрут на Марсе, спланированный ИИ
Эрик Шмидт, как сообщается, владеет примерно вдвое меньшей долей Anthropic, чем гендиректор Дарио Амодеи
Я технический директор: ИИ всё ещё нуждается в вашей экспертизе
Сэм Альтман, как сообщается, предложил три сценария безопасности ИИ — один из них предполагает, что одна компания сожжёт GPU всех остальных
Hugging Face ❤️ TorchTPU: запускаем PyTorch на TPU нативно
Project Deal: Anthropic проверила, как Claude ведёт себя на внутреннем рынке
Muse от Meta набрала 10 млн скачиваний в США за 40 дней — такой рубеж покорили лишь 11 других приложений
Mistral AI выпустила Voxtral 3 — полный стек голосовых ИИ-агентов, которые слушают, думают и говорят в реальном времени
ALTK-Evolve: как обученная память выводит модель без передовых ИИ-возможностей в лидеры τ²-bench по задачам поддержки клиентов
Сценарии будущего нашей экономики
Амулья Вишванат, бывшая сотрудница Nvidia и нынешний венчурный инвестор: физический ИИ пока в эпохе LEGO
Растения передают сигналы с помощью электричества — стартап создал ИИ-модель, чтобы расшифровать их язык
Как ИИ и квантовые технологии помогают прояснить главные загадки человечества
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram