Почему ИИ-агенты не помнят собственную жизнь — и как агенту Софье дали автобиографию, мотивацию и долгосрочную память

Сегодня ИИ-агенты умеют планировать, вызывать инструменты, выполнять цепочки действий и даже работать в мультиагентной системе. Но у большинства таких решений есть неприятная особенность: они по сути реактивны. Агент может отлично отвечать в моменте но после развёртывания редко меняет собственные привычки, не пересматривает стратегии и почти не меняет сам себя. Если окружение меняется, появляются новые интерфейсы, правила или цели — агент часто каждый раз решает задачу как в первый раз.

Авторы работы «Sophia: A Persistent Agent Framework of Artificial Life» предлагают посмотреть на проблему шире. Они говорят: у нас есть быстрый слой навыков (условно Система-1) и более медленный слой рассуждения и планирования (Система-2). Но не хватает третьего уровня — мета-уровня, который будет отвечать за долговременную связность поведения, самопроверку, автобиографическую память и внутреннюю мотивацию. То есть за то, что делает систему не просто исполнителем, а чем-то ближе к «живой» сущности.

Система-3 следит за самим мышлением

Главная идея статьи — ввести Систему-3. Это не ещё один промт и не "Yet Another RAG", а управленческий контур, который постоянно наблюдает за тем, как агент думает и действует, и вмешивается, когда нужно: меняет приоритеты, ставит новые цели, сохраняет опыт и следит за целостностью собственного «я».

Авторы опираются на несколько психологических конструкций и переводят их на инженерный язык. Важны четыре опоры: метакогниция (самопроверка и рефлексия), теория разума (модель другого — пользователя или партнёра), внутренняя мотивация (любопытство, стремление к мастерству), эпизодическая память (события и опыт во времени, а не просто факты).

Софья: обёртка поверх любого LLM-стека

Софья в статье описана как "устойчивый" (persistent) агент — фреймворк, который можно накинуть поверх связки Системы-1/2. Если упрощать, Система-1 отвечает за восприятие и действия (инструменты, внешняя среда), Система-2 — за рассуждение и планирование, а Система-3 — за управление тем, когда и как всё это запускать, что считать успехом и чему учиться дальше.

Технически Софья собирается из четырёх механизмов.

• Первый — процесс контролируемого поиска мыслей. Агент генерирует варианты мыслительных процессов, но затем прогоняет их через «аудит»: самокритику, проверки и отбор того, что стоит сохранить как полезный опыт. Важный акцент: сохраняется не всё подряд, а более «качественные» цепочки рассуждения, которые можно переиспользовать и не повторять лишние шаги.
• Второй — модуль памяти, который удерживает нарративную идентичность: что происходило, какие цели ставились, что получилось, где агент ошибался. Идея в том, чтобы агент не распадался на отдельные сессии, а мог продолжать линию поведения и обучения.
• Третий — модель пользователя и модель себя. Первая помогает учитывать убеждения и предпочтения пользователя (и корректнее взаимодействовать). Вторая фиксирует, что агент умеет и чего не умеет, какие у него принципы и текущее состояние — чтобы пробелы автоматически превращались в учебные цели.
• Четвёртый — гибридная награда: смесь внешней обратной связи (успех выполнения, стоимость, задержки) и внутренних драйвов вроде любопытства и стремления к связности. Так агент может не только гнаться за немедленным успехом, но и инвестировать в будущую компетентность.

Что получилось в итоге

Авторы подчёркивают, что работа во многом концептуальная, но показывают компактный инженерный прототип и длительное развёртывание в динамичной web-среде. В таком сетапе Софья не ждёт постоянных указаний, а сама инициирует внутренне мотивированные задачи: находит, что стоит улучшить, ставит цель и проходит цикл действий с записью опыта.

По цифрам заявлено два заметных эффекта. Во-первых, в повторяющихся операциях агент снижает число шагов рассуждения примерно на 80% — то есть начинает решать похожие задачи более экономно, используя накопленные «хорошие» траектории и не раздувая цепочки рассуждений. Во-вторых, для сложных задач успешность повышается примерно на 40%: мета-уровень помогает лучше справляться там, где статический агент теряется в длинном поиске или неудачно составленных планах.

Зачем нам всё это

Сильная сторона исследования — попытка собрать «долгоживущего» агента из понятных инженерных блоков, которые поддерживают непрерывность: память, самоидентификация, модель пользователя, внутренние стимулы и регулярную проверку качества мыслительных процессов. В таком виде Система-3 становится способом связать краткосрочные действия с долгосрочным «выживанием» агента в меняющемся мире.

При этом важно помнить: заявленные результаты получены в прототипе и в ограниченной среде, а сама архитектура содержит много степеней свободы — от того, как именно устроен аудит мыслей, до того, как измеряется внутренняя мотивация. Но как первый инженерный подход к устойчивым персонализированным агентам выглядит убедительно.