Интернет для обучения агентов
Агентам, которые работают с сайтами, нужно уметь ориентироваться в открытом интернете и противостоять веб-атакам. Испытания в ограниченной среде дают лишь часть нужного опыта. Кроме того, модель может распознать проверку и вести себя иначе, чем при обычной работе. Но и выпускать неподготовленных агентов в открытый интернет рискованно.
Для этого команда Chrome и создала Mirror Dimension — разнообразную, но изолированную веб-среду под полным контролем Google. Впервые компания описала её в публикации в блоге. Внутри есть сайты и платформы, включая социальные сети, магазины и банковские панели. Они воспроизводят устройство и свойства настоящих веб-сервисов: агентам нужно выполнять задания в Chrome так же, как на обычных сайтах. Во время испытаний они также сталкиваются со скрытыми атаками через промты, проверяющими защиту.
Чарльз Цянь, инженер-программист команды безопасности ИИ в Chrome, объяснил, что заранее предсказать всё, с чем встретится агент, невозможно, а веб-среда враждебна. Пользователь может задать любой промт на любом сайте, поэтому проверять нужно широкий спектр ситуаций. По словам Цяня, агенты начинают лучше оценивать, какая информация действительно нужна для задания и когда следует остановиться и запросить подтверждение у пользователя.
Как собрали среду
Создать Mirror Dimension было отдельной задачей: среда должна была быстро стать достаточно большой и разнообразной, чтобы передавать масштаб настоящего интернета. Команда Chrome задействовала множество ИИ-агентов для разработки сайтов и веб-приложений. Специальный инструмент координировал их работу над реалистичными сервисами и потоками данных — вплоть до ввода промокодов в интернет-магазинах и наполнения страниц социальных сетей.
Чтобы агенты могли работать именно в настоящем Chrome, исследователям пришлось обходить отдельные механизмы браузера. Это было необходимо для точного обучения: Chrome содержит множество проверок и защит, мешающих работе в искусственно созданной среде. Например, команда создавала поддельные веб-сертификаты, чтобы проходить проверки подлинности и обеспечить агентам обычный опыт работы в браузере.
Google подчёркивает, что такие обходы не сработали бы против обычных пользователей Chrome в открытом интернете. Они стали возможны благодаря привилегированному доступу исследователей: компания контролировала всю среду и сеть.
Испытываемые агенты-помощники для работы с сайтами, по словам исследователей, безвредны и не обладают возможностями для кибератак. Google планирует сделать Mirror Dimension доступной другим командам компании, чтобы больше исследователей могли тестировать системы в безопасной контролируемой среде.
Даг Тёрнер, директор по разработке в Google, рассказал, что компания делится подходом, чтобы его могли рассмотреть и внутренние, и внешние команды. Он назвал нынешнюю работу первым шагом и отметил, что Google продолжит вкладываться в этот способ обучения моделей. По мере усложнения моделей среду, по его словам, тоже придётся делать всё реалистичнее.
По оценке Dataist, Mirror Dimension позволяет испытывать браузерных агентов на сложных сценариях, не выпуская их в открытый интернет. Пока Google говорит о доступе для команд внутри компании и продолжении работы над средой; о более широком запуске не сообщается.
Читайте также
Исследователь Anthropic: после выхода компании на биржу почти все люди могут навсегда потерять возможность найти работу
Anthropic бьёт в колокол на Nasdaq: торги начинаются после рекордного IPO — деловая хроника в реальном времени
Собственные исследователи OpenAI теперь ценят свои ИИ-инструменты выше, чем почти половину коллег
Superhuman внедряет своего ассистента Go повсюду
Музыкальная индустрия Австралии отвергла предложение освободить музыкантов от сбора данных для обучения ИИ, назвав его попыткой «разделяй и властвуй»
Pangram счёл 99% отмеченного премией романа перуанского автора текстом ИИ, но издательство его поддержало
Nvidia заинтриговала, не подав обычный отчёт в SEC
Модели Anthropic, OpenAI и Google без труда назначали медиков, журналистов и сдающихся солдат целями дронов-камикадзе
Snapchat разрешила создавать AR-линзы с помощью ИИ-ассистентов вроде Claude Code и Cursor
Продавить ненужные никому дата-центры и надеяться, что пузырь ИИ не лопнет: таков план Британии по росту экономики
OCR-модели оцифровывают миллион страниц дешевле $130: за 18 месяцев цены упали в пять раз
Если технарям приходится увольняться, чтобы бить тревогу, пора беспокоиться
Mistral догоняет конкурентов с Vibe Desktop, пока те уже управляют целыми операционными системами
Более половины электроэнергии крупнейших дата-центров США дают газ и уголь
Сатья Наделла объяснил, зачем предложил 60 тысячам сотрудников Microsoft уйти из компании
Hugging Face направляет запросы к моделям через OpenRouter, выбирая лучшие цену или скорость
На фоне опасений из-за кибератак с ИИ Сатья Наделла предупредил: многие объекты критической инфраструктуры нельзя защитить обновлениями
Google выпустила Gemini 4 Neon: кодит на уровне Opus 5.5, а токены API на 25% дешевле
Четверо школьников из Мэриленда подали в суд после того, как ИИ принял пакет Doritos за оружие
Война за ИИ-чипы в США набирает обороты самым нелепым образом
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram