ИИ-агенты могут располагать точными данными — и всё равно принимать неверные бизнес-решения

Одного поиска по имени клиента и общей сумме недостаточно. Агенту важно знать, сколько у клиента заказов на продажу, насколько он доволен, как часто задерживались его поставки и с какого завода отправляли товары. Чтобы рассуждать с учётом этих связей, агенту нужен граф знаний.

Что значит понимать бизнес

Любая задача в компании входит в какой-либо процесс: это может быть платёж, заказ, отправка груза или оформление нового сотрудника. Контекст процесса подсказывает агенту, на каком этапе находится задача, что ей предшествовало и что должно произойти дальше. Исключения зависят от людей, которые ведут процессы: они могут одобрить или задержать работу на основании суждений, не отражённых в корпоративных системах.

По словам Орена, не всякая ситуация точно укладывается в формальные этапы процесса. Агенту нужно распознать исключение, понять, как с ним работать, и добавить понятный контекст к ответу или действию.

По мере работы границы задачи могут расширяться. Вопрос о клиенте и связанных с ним маркетинговых кампаниях и скидках может перейти к срокам доставки — это уже сфера управления цепочками поставок, — а затем к платежам, которыми занимается финансовый отдел.

Ценность появляется, когда компания объединяет всё в карту бизнеса с помощью графа знаний и онтологии, объясняет Орен. Именно от этого контекста зависит интеллект ИИ.

Почему графов знаний и онтологий недостаточно

Граф знаний может связать все счета компании, но агент всё равно получит противоречивые сигналы, если разные подразделения по-разному понимают слово «счёт». Для одного отдела это платёж клиента, для другого — компенсация командировочных расходов, для третьего — счёт поставщика. Онтология устраняет неоднозначность: задаёт терминам единое значение и помогает сохранить его в разных системах и источниках данных.

В глобальных компаниях со штатом в сотни тысяч человек записи должны быть связаны между собой и «говорить на одном языке», отмечает Орен. Онтология задаёт общее значение для всех данных.

SAP Business AI Platform (BAIP) предназначена для работы с данными и бизнес-контекстом в управляемой среде. Её граф знаний описывает связи между клиентами, поставщиками, активами, товарами, организационными структурами и бизнес-процессами. Этот контекст можно повторно использовать в разных агентах.

Однако общего значения данных агенту недостаточно. Платформа должна также передавать операционный контекст, который определяет, как выполнять задачу: соглашения об уровне обслуживания и условия оплаты, налоговые правила и требования безопасности, региональные ограничения, правила анонимизации данных и другие условия.

Зачем агентам модели для бизнес-данных

Есть и более низкоуровневая проблема. Значительная часть корпоративных данных реляционная и транзакционная: она хранится в таблицах, а не в виде естественного языка. Универсальные языковые модели изначально не создавались специально для работы с такой структурой.

SAP разрабатывает табличные базовые модели, в том числе RPT-1.6 (Relational Pre-trained Transformer) и TabPFN-3.5 Plus от Prior Labs — передовой лаборатории ИИ SAP. Эти модели рассчитаны на прямую работу со структурированными бизнес-данными, включая пропущенные значения, смешанные типы данных и поля с большим числом уникальных значений. Возможность оркестрации табличных моделей в ИИ Core отвечает за выбор контекста и доступ к данным во время выполнения, чтобы прогнозы можно было включать в рабочие процессы.

По словам Орена, данные внутри бизнеса по своей сути реляционные и транзакционные, поэтому нужны модели, которые изначально понимают такую структуру.

Как меняется контроль, когда агенты действуют

Риски возрастают, когда агент переходит от ответов на вопросы к действиям. Неверный ответ можно проверить или проигнорировать. Ошибочно заблокированный платёж, отклонённый заказ или присвоенная отметка кредитного риска могут сразу повлиять на поставщика, клиента или бизнес-процесс.

Орен подчёркивает, что ответ агента всегда нужно проверять. Понимание бизнеса даёт ИИ больше знаний, но одновременно задаёт ему границы. Вместе с контекстом агент получает сведения о правилах, требованиях безопасности и других обстоятельствах, важных для решения.

Эти ограничения особенно важны, когда компании внедряют агентов в разных системах и подразделениях. На BAIP агенты работают под отдельными учётными записями с ограниченными правами. Система аудита фиксирует, кто выполнил действие, какими полномочиями располагал и что именно сделал. Возможности ИИ проходят этические проверки и оценку рисков, а агентов проверяют по каждой функции отдельно — на соответствие региональным правилам, законам о конфиденциальности и нормативным требованиям.

При этом бизнес-правила должны учитывать исключения. Орен приводит пример с «отложенным документом» — так в SAP называют ситуацию, когда документ временно не продвигается дальше. После корпоративного мероприятия контролёру может понадобиться распределить счета за кейтеринг между несколькими бюджетами. Если контролёр отсутствует, агент, отслеживающий процесс, может принять задержку за серьёзное нарушение сроков. Но с более полным контекстом он распознает, что ответственный сотрудник в отпуске или в отпуске по уходу за ребёнком, и учтёт задержку как исключение, а не как сбой процесса.

Четыре уровня корпоративного ИИ

Орен описывает корпоративную архитектуру ИИ как четыре уровня:

Платформа играет ключевую роль в понимании бизнеса. Если связи, определения и контекст процессов хранятся на её уровне, а не внутри отдельных приложений, их можно повторно использовать в разных агентах. Финансовому агенту и агенту для управления цепочками поставок не нужно независимо разбираться, что означают клиент, поставщик или операция: оба могут опираться на общее представление о бизнесе. На этом же уровне должны работать механизмы управления, чтобы действия агентов оставались отслеживаемыми по мере их внедрения.

SAP соотносит свои продукты с этими уровнями: от табличных базовых моделей и BAIP до Joule Agents для разных подразделений, включая финансы и управление цепочками поставок. Но, по словам Орена, модели и агенты не могут понимать бизнес самостоятельно. Им необходимы бизнес-контекст, графы знаний, семантика и управление. Моделям важно разбираться в структуре бизнес-данных, агентам — в связях, определениях и процессах, а платформе — обеспечивать соблюдение правил и ограничений использования контекста.

Орен считает, что преимущество SAP связано с контекстом, графом знаний и семантикой, которые охватывают данные SAP и другие источники. По его мнению, они нужны любой компании, которая хочет создавать корпоративные приложения и масштабировать их.