Как превратить человеческое мышление в работающего ИИ-агента

Экспертную интуицию нельзя автоматизировать целиком, но её можно разобрать на части. Разбираем, как решение эксперта раскладывается на когнитивные функции, почему один большой промт проигрывает набору из шести измеримых навыков, какие связи превращают набор навыков в граф и как под структуру задачи выбирают способ рассуждения агента.

От решения эксперта к функции агента

Не пытайтесь автоматизировать эксперта целиком. Выделяйте отдельные функции его мышления.

Здесь методология делает главный переход. Начинали с бизнеса, в нём отыскали процессы, в процессах — отдельные операции, а в операциях — развилки, где выбирается маршрут. Теперь решение эксперта предстоит перевести в форму, которую агент способен исполнить.

В ответ на просьбу описать критерии эксперты часто говорят одно и то же: решение принимается по опыту, тут просто чувствуешь. Но за этим «чувствуешь» почти всегда стоят четыре различимых элемента. Вход — данные, которые получает система. Логика — критерии, правила, модели или эвристики, на которых держится выбор. Выход — результат, который должен появиться. Метрика качества — способ понять, что функция отработала хорошо.

Проще всего это видно на конкретной операции. Возьмём решение «принять или отклонить заявку» и разложим его по тем же четырём элементам.

Агент — набор навыков, а не один промт

Интеллект агента проектируют как набор функций, а не как одну большую инструкцию.

Разобранные функции превращаются в отдельные измеримые навыки. Первый разбирает входящую заявку. Второй ищет в данных пропуски и противоречия. Третий относит кейс к категории. Четвёртый взвешивает риск. Пятый готовит текст ответа. Шестой отвечает на вопрос, звать ли человека.

Чтобы навык можно было передать в разработку, у него заполняют паспорт из пяти полей. Последнее поле важнее, чем кажется: если навык ничего не оставляет после себя, его результат негде проверить.

Где искать ошибку, когда агент ошибся

Модульность окупается в первый же разбор сбоя. Когда агент выдал неверный результат, вопрос звучит не «как переписать промт», а «какой именно навык отработал не так». Вариантов обычно четыре, и они проверяются по очереди.

Как навыки связываются в граф

Отдельные навыки агентом ещё не становятся. Всё решает то, как они соединены.

Видов связей три, и каждый нужен ради своего. Последовательные выстраивают конвейер: разбор заявки, затем проверка, затем категория, затем решение и текст ответа — то, что вернул один навык, поступает на вход соседнему. Параллельные запускают несколько навыков разом: как только кейс пришёл, система одновременно смотрит полноту данных, взвешивает риск и поднимает историю клиента. Обратные заносят в процесс то, что выяснилось позже: человек поправил результат, клиент дослал недостающее, сработала проверка качества — и нужный участок стартует заново.

Сигнал обратной связи не пропадает и не остаётся в переписке — он идёт в одно из четырёх мест. Куда именно, решают заранее: от этого зависит, станет ли поправка разовой или изменит поведение агента навсегда.

Так и складывается граф навыков — функциональное устройство агента. На нём читаются модули, маршруты данных, развилки, проверки и переходы к человеку. Когда подобных графов в компании накапливается много, её саму уместно рассматривать как сеть когнитивных функций — человеческих и машинных вперемешку.

Как агент рассуждает внутри навыка

Разным задачам нужны разные способы рассуждения.

Простой работе с очевидным ответом хватает прямого ответа. Если решение нужно объяснить, его раскладывают на шаги. Если важно рассмотреть альтернативы — строят несколько веток, оценивают их и при необходимости возвращаются назад. А когда промежуточных выводов много и их приходится объединять между собой, ветки сходятся в граф с обратными связями.

Соблазн взять схему посложнее велик, но каждый лишний виток стоит времени ответа и денег. Поэтому за усложнение берутся ровно тогда, когда оно окупается заметной прибавкой хотя бы по одному из трёх направлений.

В сумме архитектура агента отвечает всего на два вопроса. И пока на оба нет ответа, обсуждать модель рано.

Что важно запомнить