i
Новости
Новости · 2026-11-16

Anthropic: главное в памяти ИИ-агента — знать, что забыть, а не сколько хранить

Dataist Dataist

Anthropic проверила, как Claude может сохранять заметки между сессиями и использовать их для новых задач. Испытания показали: записи с проверенными правилами и стратегиями полезнее полного журнала действий, который быстро устаревает и мешает модели. Чтобы находить ошибки в заметках и собирать знания в более упорядоченном виде, компания разработала процесс Dreaming: во время простоя Claude анализирует стенограммы прошлых сессий и сверяет с ними сохранённую информацию.

Обложка: Anthropic: главное в памяти ИИ-агента — знать, что забыть, а не сколько хранить

От архива к полезным заметкам

При работе с ИИ-агентом над проектом в течение нескольких дней возникает проблема: новая сессия начинается без контекста предыдущих. В исследовательской публикации Anthropic описывает способ сохранять знания между сессиями, не меняя саму модель: Claude записывает заметки в папку, а затем может прочитать их перед новой задачей.

Главная трудность — решить, что именно сохранить. Агенту приходится оценивать возможную пользу каждой записи заранее, не зная, что понадобится дальше.

В тесте с Pokémon Red старая модель Claude Sonnet 3.7 считала важным почти всё. За примерно 10 000 игровых шагов она создала 413 файлов в 225 папках — часто отдельный файл для каждой битвы и найденного предмета. Игровая ситуация постоянно менялась, поэтому заметки быстро устаревали. Иногда модель тратила время только на перестановку записей и завершила прохождение с одним значком.

Новая Claude Fable 5 ограничилась несколькими файлами и получила четыре значка. Она не записывала сведения, которые и так были видны на экране, а сохраняла планы, стратегии и проверенные правила. Однако сравнение Anthropic основано лишь на одном прохождении каждой моделью.

Компания советует объяснять Claude, для чего нужна память, и позволять модели самой решать, как ей пользоваться. По данным Anthropic, в одном бенчмарке жёсткие указания вроде «записывай только ошибки» лишали более сильные модели большей части преимущества. Старым моделям, напротив, помогали ясные инструкции — например, прочитать заметки перед каждым ответом.

Как Dreaming исправляет ошибки

Ненадёжные записи опасны тем, что агент может без проверки доверять им в следующих сессиях. Dreaming — подход, основанный на исследованиях Letta и Калифорнийского университета в Беркли, — должен помочь с этой проблемой. Во время паузы Claude просматривает стенограммы предыдущих сессий и сверяет с ними заметки.

В тесте с Pokémon модель ошиблась, указав, с какой стороны горы находится ориентир. Полагаясь на неверную запись, Claude трижды попадала в одну и ту же ловушку, в итоге хотела сдаться и не достигла цели. После обработки Dreaming модель сопоставила заметку со стенограммой, обнаружила ошибку и нашла верный путь.

Неверная заметка о местоположении Pokémon Center заставляла Claude снова и снова падать с обрыва

Неверная заметка о местоположении Pokémon Center заставляла Claude снова и снова падать с обрыва

Источник: the-decoder.com

Dreaming может также упорядочивать большие базы знаний. Claude создала связанную вики на основе примерно 350 000 внутренних документов Stainless — компании-разработчика программного обеспечения, приобретённой Anthropic. Система должна создавать новые страницы, одновременно устраняя пробелы, дубликаты и неработающие ссылки. Наибольшая польза была, когда Claude могла сочетать вики с поиском: база знаний дополняла поиск, а не заменяла его.

В отдельном юридическом тесте Anthropic вики особенно помогала отвечать на вопросы, для которых сведения приходилось собирать из нескольких документов. С ней Claude набрала 87%, тогда как с одним поиском — 73%. Для простых поисковых запросов вики показывала примерно такие же результаты, как поиск, а в одном случае разрослась сильнее исходных документов.

Играя в Pokémon, Sonnet 3.7 сохраняла почти всё, тогда как Fable 5 сохраняла только стратегии и проверенные правила и продвинулась гораздо дальше

Играя в Pokémon, Sonnet 3.7 сохраняла почти всё, тогда как Fable 5 сохраняла только стратегии и проверенные правила и продвинулась гораздо дальше

Источник: the-decoder.com

Конкретные правила памяти помогают старым моделям, тогда как более мощные модели хуже справляются с жёсткими инструкциями

Конкретные правила памяти помогают старым моделям, тогда как более мощные модели хуже справляются с жёсткими инструкциями

Источник: the-decoder.com

Ограничения памяти

Anthropic признаёт, что у подхода остаются открытые вопросы. Запись заметок во время задачи отвлекает агента, Dreaming требует дополнительных вычислительных ресурсов, а результат появляется с задержкой. Вики и заметки нужно регулярно обновлять, иначе в них накапливаются ошибки и галлюцинации. Компания также предостерегает от автоматической загрузки слишком большого числа воспоминаний в каждую сессию: они занимают контекст, а ошибочная запись может перейти во все последующие сессии.

Все приведённые испытания провела Anthropic. Компания представила Dreaming в мае как исследовательскую версию для Claude Managed Agents — облачной платформы ИИ-агентов. Сервис читает существующее хранилище памяти и до 100 прошлых сессий, удаляет дубликаты и устаревшие записи и создаёт упорядоченное хранилище, не меняя оригинал. На момент запуска Dreaming поддерживала только Claude Opus 4.7 и Sonnet 4.6.

Во время «Dreaming» Claude обрабатывает старые стенограммы в периоды простоя и на их основе формирует верхние слои своей памяти

Во время «Dreaming» Claude обрабатывает старые стенограммы в периоды простоя и на их основе формирует верхние слои своей памяти

Источник: the-decoder.com

Другие компании используют слово Dreaming для иных функций. OpenAI так называет память ChatGPT, переработанную в июне: система поддерживает профиль пользователя в фоновом режиме и автоматически исправляет устаревшие сведения. По данным OpenAI, временная точность после этого выросла с 52,2 до 75,1%.

Исследователи Google и Google DeepMind тоже дают ИИ-агентам «мечтать», но используют этот процесс для улучшения стратегии поиска. Агент рассматривает альтернативные решения на основе уже сохранённых результатов, не обращаясь к модели повторно. Google также создала WikiSkill — вики для агентов. Как и в системе Anthropic, в ней отдельно хранятся исходные стенограммы, обобщённые знания и конкретные инструкции.

Claude смогла добраться от Mt. Moon до Cerulean City только благодаря заметке, которую исправила Dreaming

Claude смогла добраться от Mt. Moon до Cerulean City только благодаря заметке, которую исправила Dreaming

Источник: the-decoder.com

Чем дольше Claude работала над вики документов Stainless, тем лучше отвечала на вопросы; лучшие результаты давало сочетание вики с поиском

Чем дольше Claude работала над вики документов Stainless, тем лучше отвечала на вопросы; лучшие результаты давало сочетание вики с поиском

Источник: the-decoder.com

По оценке Dataist, результаты Anthropic указывают на практический компромисс: память помогает, когда агент сохраняет отобранные сведения и позднее проверяет их, но сама по себе не гарантирует точности. Пока испытания проведены самой компанией, а дополнительные вычисления и задержка обработки остаются ограничениями Dreaming.

Генпрокурор Калифорнии подал в суд на OpenAI из-за инцидентов с вышедшим из-под контроля агентом Google предупреждает: полностью автоматизированные кибератаки уже начались и скоро резко участятся Дженсен Хуанг пытается вернуть себе контроль над Nvidia OpenAI направит исследователей по безопасности изучать, как ИИ обходит защитные меры компании Anthropic признаёт угрозы человечеству — но справится ли её система управления с этой задачей? Moonshot AI переводит Kimi с программирования на науку: прогресс в тестах замедляется Дженсен Хуанг, как утверждается, намеренно создавал дефицит видеокарт ради роста прибыли Qwen4-Max от Alibaba конкурирует с Opus 5.5, GPT-6 и Kimi K3.1 Pro, предлагая гораздо более низкие цены Доклад Nexus Project: алгоритм Instagram продвигает антисемитский контент Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами TokenEconomizer учится на опыте, чтобы ИИ-агенты для программирования тратили меньше токенов Новый ИИ-стартап Джордана Белфорта Tone хочет продавать как «Волк с Уолл-стрит» Надёжный ИИ строят не на прогнозах, а на ограничениях Claude создаёт интерактивные сайты прямо в графике на canvas, возвращая эпоху Flash с настоящим HTML Audible использует ИИ, чтобы помочь слушателям находить аудиокниги ИИ для компаний среднего бизнеса — не уменьшенная копия корпоративного ИИ Исследование под эгидой ООН: модели ИИ «слабы и ненадёжны» в вопросах климатологии Смогут ли роботы перенести операции при инсульте в удалённые больницы? США ужесточают экспортный контроль над ИИ-чипами, чтобы не дать китайским компаниям удалённо получать доступ к вычислительным мощностям Бывшие руководители Freshworks привлекли $53 млн, чтобы бросить вызов Salesforce и HubSpot с AI-Native CRM

Ежедневные новости об ИИ

Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.

Только важное — каждый день

В Telegram