Инженерия контекста: как научить ИИ-агента понимать ситуацию
Инструкции и данные, сборка контекста под задачу, состояние, память и правила забывания
Разберём, как собирать контекст под конкретную задачу и почему хороший промт не компенсирует устаревшие, неполные или неверные данные. Рассмотрим, чем состояние процесса отличается от долговременной памяти, зачем агенту уметь забывать и как выбирать данные, необходимые для текущего решения.
Что сделать и на основании чего
Промт и контекст отвечают на разные вопросы.
Можно выверить промт до последнего слова и всё равно получить плохой результат. Промт говорит модели, что нужно сделать. Контекст — на основании какой информации это сделать.
Возьмём задачу «Оцени риск клиента». Инструкция понятна, но без истории операций, договора и внутренних критериев риска модели не на что опереться.
Здесь под промтом мы понимаем прежде всего инструкцию, а под контекстом — данные для её выполнения. Технически инструкции тоже входят в контекст модели. Поэтому инженерия контекста охватывает всё, что модель получает на текущем шаге: инструкции, описания инструментов, историю и внешние данные.
«Оцени риск клиента».
Без данных такая инструкция почти бесполезна.
Управляет поведением модели.
История операций, договор, последние транзакции, внутренние критерии риска.
Управляет информационной средой, в которой модель принимает решение.
Подвести может любой из двух слоёв. Даже хороший промт не спасёт, если данные устарели, неполны или просто неверны. Бывает и наоборот: модели можно дать тысячу страниц документов и не объяснить, какую задачу она должна решить.
задача и данные
Работа над промтом помогает задать поведение модели, а инженерия контекста — обеспечить её информацией для выполнения задачи.
В бизнесе улучшение контекста может дать больше, чем переход на более мощную модель. Если данные неполны или неверны, более сильная модель тоже может прийти к ошибочному выводу.
Контекст собирают под задачу
Чтобы агент принял хорошее решение, сначала нужно собрать ему правильную картину ситуации.
Нужную информацию подбирают под конкретную задачу. Например, агент получил обращение клиента. Сам вопрос берут из сообщения, карточку клиента — из CRM, статус заказа — из системы заказов, договор — из базы документов, а нужную историю — из прошлых коммуникаций.
Перед вызовом модели система отбирает нужные сведения из этих источников и объединяет их. Это и есть сборка контекста.
Набор информации всегда зависит от задачи. Финансовому агенту важны транзакции и показатели, агенту поддержки — история обращений и текущий заказ. Даже один и тот же агент в разных ситуациях может получать разный контекст.
Пайплайн сборки контекста
Сборку контекста удобно организовать как отдельный пайплайн — последовательность обработки данных перед вызовом модели.
В таком пайплайне можно выделить шесть шагов: определить нужные данные, найти их, проверить актуальность и полноту, привести к понятному формату, убрать лишнее и собрать всё в компактный пакет.
В работающем агенте сборка контекста повторяется: после ответа инструмента, уточнения пользователя или изменения состояния задачи для следующего вызова модели может потребоваться другой набор данных. Часть информации готовят заранее, а недостающие сведения агент получает через инструменты по ходу работы.
Состояние и память
Хорошая память ИИ-агента — не та, в которой хранится всё.
Чтобы управлять памятью, важно различать состояние текущей задачи, контекст сессии и долговременную память.
Состояние описывает текущую задачу: какие шаги уже выполнены, какие данные получены, какое решение принято и чего система сейчас ждёт. Например, агент сформировал договор, отправил его на согласование и ждёт подтверждения. Это состояние конкретного процесса.
В краткосрочном контексте сессии находятся текущий диалог и результаты недавних действий. Долговременная память сохраняет сведения, полезные в разных взаимодействиях. При этом состояние незавершённой задачи тоже может храниться между сессиями — например, пока агент ждёт согласования.
Скажем, предпочтительный формат отчёта может пригодиться и через месяц. А идентификатор завершённой операции обычно не нужен в контексте новых задач. Его сохраняют в истории операций, откуда при необходимости можно получить снова.
Умение забывать
Проектировать забывание не менее важно, чем запоминание.
Если запоминать всё подряд, память быстро превращается в склад устаревших и противоречивых данных.
Состояние нужно для продолжения текущей задачи, а долговременная память — для сведений, которые пригодятся в будущих взаимодействиях. Для памяти задают правила обновления и удаления устаревших записей. При сокращении контекста сохраняют важные решения, причины отказов, ограничения и незавершённые действия.
Убрать данные из текущего контекста не значит удалить их из системы. Историю действий и исходные документы сохраняют по правилам хранения, а модели передают только то, что нужно сейчас.
Больше данных — не значит лучше
Больше данных не всегда означает более качественный ответ.
У компании могут быть миллионы сообщений и тысячи документов. Если передавать модели слишком много данных, могут вырасти стоимость и время ответа, а важная информация — потеряться в шуме.
Поэтому данные для контекста нужно отбирать. Система учитывает их связь с задачей, актуальность, надёжность источника и приоритет.
Например, если нужно определить действующие условия договора, его подписанная версия обычно важнее двадцати старых писем с обсуждением черновиков.
В них обсуждались предыдущие версии договора.
Их много, но они описывают то, что уже изменилось.
Один документ — свежий и уже подписанный.
Именно он отражает текущие договорённости.
У моделей есть ограничение на объём контекста, и отбор данных помогает в него уложиться. Но дело не только в размере: даже при очень большом контекстном окне проблема качества информации остаётся. Устаревшие, противоречивые и нерелевантные данные всё равно могут ухудшать решение.
Что важно запомнить
Промт и контекст — разные слои
Промт говорит, что сделать, контекст — на основании какой информации. Надёжному агенту нужны оба.
Качество данных важно для любой модели
Улучшение контекста может дать больше, чем смена модели. Даже сильная модель может ошибиться, если исходные данные неполны или неверны.
Контекст собирают под задачу
Нужные сведения из сообщения, CRM, системы заказов, документов и прошлых коммуникаций объединяют перед вызовом модели. По ходу задачи контекст обновляют.
Сборка — отдельный пайплайн
Определить нужные данные, найти их, проверить качество, привести к формату, убрать лишнее и собрать пакет для следующего вызова модели.
Память должна уметь забывать
Состояние хранит ход текущей задачи, долговременная память — сведения для будущих взаимодействий. Устаревшие записи обновляют или удаляют; историю операций хранят отдельно.
Минимально достаточный набор
Контекст выбирают по релевантности, свежести, надёжности источника и приоритету. Устаревшие, противоречивые и нерелевантные данные могут ухудшить решение даже при большом контекстном окне.
Она даёт минимально достаточный набор качественных данных для текущего решения.
Читайте также
Всё обучение
Как понять, что ИИ-агент действительно стал лучше
Инженерия обвязки: что делает ИИ-агента управляемым и надёжным
Почему идеальный промт не спасает плохого агента
Как данные движутся по ИИ-воркфлоу
ИИ-операции и инструменты: как решение модели становится действием
Архитектура ИИ-агента: от LLM-функции до графа навыков
ИИ-платформа: как собрать агентов в единую систему
Где процессу нужен ИИ-агент, а где хватит правила
Что нужно, чтобы ИИ-автоматизация реально заработала
Как превратить человеческое мышление в работающего ИИ-агента
AI-First компания: какая работа остаётся человеку в мире ИИ-агентов
Как перестроить процесс под ИИ-агентов и не потерять контроль
Как найти точки автоматизации с максимальной отдачей
Как увидеть бизнес-процесс таким, какой он есть на самом деле
Как провести рентген бизнеса и извлечь знания экспертов
Как выбрать правильный процесс для автоматизации
От механизации до ИИ-агентов: как эволюционировала автоматизация
Бизнес как система процессов: как потоки данных создают ценность
AI-First-компания: новые роли и новая оргструктура
AgentOps: шесть шагов от идеи до работающего ИИ-агента
ИИ-стратегия: три уровня внедрения ИИ-агентов в бизнес
Готова ли ваша компания к ИИ-трансформации?
Три трансформации, которые полностью изменили бизнес
Где ИИ-агенты создают бизнесу максимум ценности
Пять уровней эволюции ИИ-агентов
Кто такой ИИ-агент и почему он меняет устройство компании
Что такое AI-First-компания и как она работает
Дальше — практика
Материал основан на третьей лекции курса по автоматизации бизнес-процессов с ИИ-агентами.
В следующей статье — инженерия обвязки: почему модель — только двигатель, а не весь автомобиль, чем обвязка агента отличается от ИИ-платформы, из каких механизмов она складывается и как права доступа, проверки, трассировка, контрольные точки и восстановление помогают управлять выполнением задач.
От диагностики бизнеса
— до работающего агента.