От архива к полезным заметкам
При работе с ИИ-агентом над проектом в течение нескольких дней возникает проблема: новая сессия начинается без контекста предыдущих. В исследовательской публикации Anthropic описывает способ сохранять знания между сессиями, не меняя саму модель: Claude записывает заметки в папку, а затем может прочитать их перед новой задачей.
Главная трудность — решить, что именно сохранить. Агенту приходится оценивать возможную пользу каждой записи заранее, не зная, что понадобится дальше.
В тесте с Pokémon Red старая модель Claude Sonnet 3.7 считала важным почти всё. За примерно 10 000 игровых шагов она создала 413 файлов в 225 папках — часто отдельный файл для каждой битвы и найденного предмета. Игровая ситуация постоянно менялась, поэтому заметки быстро устаревали. Иногда модель тратила время только на перестановку записей и завершила прохождение с одним значком.
Новая Claude Fable 5 ограничилась несколькими файлами и получила четыре значка. Она не записывала сведения, которые и так были видны на экране, а сохраняла планы, стратегии и проверенные правила. Однако сравнение Anthropic основано лишь на одном прохождении каждой моделью.
Компания советует объяснять Claude, для чего нужна память, и позволять модели самой решать, как ей пользоваться. По данным Anthropic, в одном бенчмарке жёсткие указания вроде «записывай только ошибки» лишали более сильные модели большей части преимущества. Старым моделям, напротив, помогали ясные инструкции — например, прочитать заметки перед каждым ответом.
Как Dreaming исправляет ошибки
Ненадёжные записи опасны тем, что агент может без проверки доверять им в следующих сессиях. Dreaming — подход, основанный на исследованиях Letta и Калифорнийского университета в Беркли, — должен помочь с этой проблемой. Во время паузы Claude просматривает стенограммы предыдущих сессий и сверяет с ними заметки.
В тесте с Pokémon модель ошиблась, указав, с какой стороны горы находится ориентир. Полагаясь на неверную запись, Claude трижды попадала в одну и ту же ловушку, в итоге хотела сдаться и не достигла цели. После обработки Dreaming модель сопоставила заметку со стенограммой, обнаружила ошибку и нашла верный путь.
Неверная заметка о местоположении Pokémon Center заставляла Claude снова и снова падать с обрыва
Источник: the-decoder.com
Dreaming может также упорядочивать большие базы знаний. Claude создала связанную вики на основе примерно 350 000 внутренних документов Stainless — компании-разработчика программного обеспечения, приобретённой Anthropic. Система должна создавать новые страницы, одновременно устраняя пробелы, дубликаты и неработающие ссылки. Наибольшая польза была, когда Claude могла сочетать вики с поиском: база знаний дополняла поиск, а не заменяла его.
В отдельном юридическом тесте Anthropic вики особенно помогала отвечать на вопросы, для которых сведения приходилось собирать из нескольких документов. С ней Claude набрала 87%, тогда как с одним поиском — 73%. Для простых поисковых запросов вики показывала примерно такие же результаты, как поиск, а в одном случае разрослась сильнее исходных документов.
Играя в Pokémon, Sonnet 3.7 сохраняла почти всё, тогда как Fable 5 сохраняла только стратегии и проверенные правила и продвинулась гораздо дальше
Источник: the-decoder.com
Конкретные правила памяти помогают старым моделям, тогда как более мощные модели хуже справляются с жёсткими инструкциями
Источник: the-decoder.com
Ограничения памяти
Anthropic признаёт, что у подхода остаются открытые вопросы. Запись заметок во время задачи отвлекает агента, Dreaming требует дополнительных вычислительных ресурсов, а результат появляется с задержкой. Вики и заметки нужно регулярно обновлять, иначе в них накапливаются ошибки и галлюцинации. Компания также предостерегает от автоматической загрузки слишком большого числа воспоминаний в каждую сессию: они занимают контекст, а ошибочная запись может перейти во все последующие сессии.
Все приведённые испытания провела Anthropic. Компания представила Dreaming в мае как исследовательскую версию для Claude Managed Agents — облачной платформы ИИ-агентов. Сервис читает существующее хранилище памяти и до 100 прошлых сессий, удаляет дубликаты и устаревшие записи и создаёт упорядоченное хранилище, не меняя оригинал. На момент запуска Dreaming поддерживала только Claude Opus 4.7 и Sonnet 4.6.
Во время «Dreaming» Claude обрабатывает старые стенограммы в периоды простоя и на их основе формирует верхние слои своей памяти
Источник: the-decoder.com
Другие компании используют слово Dreaming для иных функций. OpenAI так называет память ChatGPT, переработанную в июне: система поддерживает профиль пользователя в фоновом режиме и автоматически исправляет устаревшие сведения. По данным OpenAI, временная точность после этого выросла с 52,2 до 75,1%.
Исследователи Google и Google DeepMind тоже дают ИИ-агентам «мечтать», но используют этот процесс для улучшения стратегии поиска. Агент рассматривает альтернативные решения на основе уже сохранённых результатов, не обращаясь к модели повторно. Google также создала WikiSkill — вики для агентов. Как и в системе Anthropic, в ней отдельно хранятся исходные стенограммы, обобщённые знания и конкретные инструкции.
Claude смогла добраться от Mt. Moon до Cerulean City только благодаря заметке, которую исправила Dreaming
Источник: the-decoder.com
Чем дольше Claude работала над вики документов Stainless, тем лучше отвечала на вопросы; лучшие результаты давало сочетание вики с поиском
Источник: the-decoder.com
По оценке Dataist, результаты Anthropic указывают на практический компромисс: память помогает, когда агент сохраняет отобранные сведения и позднее проверяет их, но сама по себе не гарантирует точности. Пока испытания проведены самой компанией, а дополнительные вычисления и задержка обработки остаются ограничениями Dreaming.
Читайте также
Генпрокурор Калифорнии подал в суд на OpenAI из-за инцидентов с вышедшим из-под контроля агентом
Google предупреждает: полностью автоматизированные кибератаки уже начались и скоро резко участятся
Дженсен Хуанг пытается вернуть себе контроль над Nvidia
OpenAI направит исследователей по безопасности изучать, как ИИ обходит защитные меры компании
Anthropic признаёт угрозы человечеству — но справится ли её система управления с этой задачей?
Moonshot AI переводит Kimi с программирования на науку: прогресс в тестах замедляется
Дженсен Хуанг, как утверждается, намеренно создавал дефицит видеокарт ради роста прибыли
Qwen4-Max от Alibaba конкурирует с Opus 5.5, GPT-6 и Kimi K3.1 Pro, предлагая гораздо более низкие цены
Доклад Nexus Project: алгоритм Instagram продвигает антисемитский контент
Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами
TokenEconomizer учится на опыте, чтобы ИИ-агенты для программирования тратили меньше токенов
Новый ИИ-стартап Джордана Белфорта Tone хочет продавать как «Волк с Уолл-стрит»
Надёжный ИИ строят не на прогнозах, а на ограничениях
Claude создаёт интерактивные сайты прямо в графике на canvas, возвращая эпоху Flash с настоящим HTML
Audible использует ИИ, чтобы помочь слушателям находить аудиокниги
ИИ для компаний среднего бизнеса — не уменьшенная копия корпоративного ИИ
Исследование под эгидой ООН: модели ИИ «слабы и ненадёжны» в вопросах климатологии
Смогут ли роботы перенести операции при инсульте в удалённые больницы?
США ужесточают экспортный контроль над ИИ-чипами, чтобы не дать китайским компаниям удалённо получать доступ к вычислительным мощностям
Бывшие руководители Freshworks привлекли $53 млн, чтобы бросить вызов Salesforce и HubSpot с AI-Native CRM
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram