Интеллект в реальном времени: модели временных рядов IBM в Confluent

Старая экономика решений

Раньше компании строили отдельную специализированную модель для каждого ряда данных и тратили на это месяцы работы экспертов. Поэтому моделировали только несколько сотен рядов, которые напрямую влияли на прибыль, а для остальных закладывали запасы, дополнительные мощности и допуски. Решение принимали уже после того, как подходящее для него время прошло, а стоимость этой неопределённости возникала заново в каждом цикле.

Модель-основа временных рядов обучается один раз на большом наборе разнородных сигналов и умеет обобщать знания на ряд, которого раньше не видела. Ей достаточно передать окно измерений, чтобы получить прогноз, оценить отклонение от нормы, найти похожие участки истории и подобрать настройки под заданную цель. Использовать такие модели смогут специалисты предметной области — планировщики спроса, аналитики мошенничества и инженеры технологических процессов. IBM также разрабатывает функции, которые превращают прогнозирование, поиск аномалий, оптимизацию и смысловой анализ в готовые возможности, а не в отдельные проекты.

Источник: huggingface.co

Пример на производственной линии

На шоколадной фабрике температура, скорость и производительность темперирующей линии измеряются каждые несколько секунд и сравниваются с фиксированными порогами. Модель-основа может:

Для этого не нужна отдельная команда специалистов по данным. Одну и ту же модель можно развернуть на всех линиях всех заводов.

Источник: huggingface.co

IBM сначала проверила модели в собственных продуктах и операционных процессах, а затем вместе с партнёрами по разработке — в цементной, сталелитейной, целлюлозно-бумажной, пищевой и телекоммуникационной отраслях. По данным компании, каждый дополнительный процент точности может приносить миллионы, производительность увеличивается в 5–10 раз, а задачи, которые раньше ждали специалистов, переходят к экспертам, принимающим решения на местах.

Теперь к этим результатам добавляется контекст реального времени. IBM предоставляет передовые модели, обученные понимать поведение сигналов, и более 44 млн загрузок, связанных с ними. Confluent поставляет актуальное состояние бизнеса и доступ к системам, которые выполняют действия. Модели работают в потоковом режиме, размещаются в Confluent Cloud и вызываются из Flink.

Доступ открывается в Confluent Cloud на AWS. Следом выйдет Confluent Platform — с теми же моделями и возможностями для локальных и гибридных сред.

Месяцы, которые обычно уходили на подключение модели к рабочей системе, можно сэкономить: Granite анализирует сигнал, Confluent добавляет контекст, обеспечивает управление данными и доставляет результат во все зависимые системы.

Почему важны секунды

Ценность сигнала уменьшается со временем. Если сегодня заметить, что насос начал работать нестабильно, это ещё заявка на техническое обслуживание. Через неделю тот же сигнал может означать уже остановку оборудования.

Источник: huggingface.co

Прогнозирование и поиск аномалий требуют состояния: следующее значение имеет смысл только в контексте недавней истории, а аномалия определяется относительно постоянно обновляемого представления о норме. Flink хранит это состояние отдельно для каждого ряда и делает его отказоустойчивым. Поэтому модель получает нужную историю без отдельного хранилища и без обращения к базе данных при каждом вызове.

Платформа потоковой обработки данных Confluent непрерывно передаёт, связывает, обрабатывает и контролирует данные реального времени. Она собирает текущие сигналы бизнеса, которые модели IBM Granite Time Series используют для:

Источник: huggingface.co

Confluent Cloud, облачная версия платформы Confluent, поддерживает встроенный инференс. Это позволяет запускать модели IBM Granite Time Series непосредственно внутри Apache Flink® в Confluent, объединяя рабочие процессы данных и машинного обучения и обеспечивая гибкость, безопасность и более эффективную обработку потоков.

Связывая операционные и аналитические системы, Confluent помогает превращать события бизнеса в данные для действий и передаёт модели IBM Granite Time Series прямо в поток. При этом одна модель не может одинаково хорошо обслуживать линию по производству шампуня, карточную сеть и каталог розничных товаров, поэтому IBM и Confluent предлагают набор моделей.

Четыре модели для разных задач

Каждое решение задаёт будущему свой вопрос. Планированию нужен диапазон возможных результатов, торговой системе — максимально точное значение на данных с разной частотой, парку из ста тысяч рядов — приемлемая стоимость, а службе безопасности — быстрое обнаружение отклонения и понимание, что происходило в похожем случае.

В набор входят четыре взаимодополняющие модели-основы временных рядов. Все они доступны в раннем доступе и вызываются через существующие функции Confluent `AI_FORECAST` и `AI_DETECT_ANOMALIES` в Flink SQL. Чтобы сменить модель, достаточно изменить один параметр — перестраивать конвейер данных не нужно.

Источник: huggingface.co

Компактность моделей была осознанным решением. Инференс запускается внутри Confluent Cloud либо на собственных CPU с открытыми весами из репозитория Hugging Face. Отсутствие передачи данных в облако и обратно упрощает архитектуру и снижает расходы. IBM Granite также использует корпоративную платформу управления ИИ IBM, включая сведения о происхождении моделей и прозрачности лицензирования.

Для моделей постепенно добавляются новые функции, чтобы типовые сценарии работали сразу. В этой связке модель перестаёт быть архивом прошлого и начинает помогать оптимизировать решения, которые принимаются прямо сейчас.

Источник: huggingface.co

Все четыре модели сокращают время между событием и пониманием того, что произошло: в потоке оно уменьшается с дней до секунд. Сигнал становится основанием для запуска других ИИ-систем, ИИ-агентов и рабочих процессов, которые расследуют ситуацию, сортируют события по важности и подключают человека, если без него нельзя принять решение. Каждую модель также упаковывают в отдельную функцию, перенося больше работы на платформу.

Прогнозирование спроса

Большая часть прогнозов по-прежнему строится на статистической модели и экспертной интуиции. Специализированное машинное обучение проблему не решило: для каждого ряда нужна отдельная модель, её приходится вручную переобучать, а качество меняется по мере удаления горизонта. В результате планировщики охватывают только несколько наиболее важных рядов, а остальные товары поддерживаются за счёт страхового запаса.

В розничной сети планировщик спроса может направить одну общую модель на весь каталог. Она сразу работает с ранее невиданным рядом, учитывает такие факторы, как погода и рекламные акции, и возвращает распределение вероятностей вместо одной линии прогноза.

Отдельная модель для каждого SKU не требуется. В одном задании можно обрабатывать товар с историей за два года и товар с историей за три месяца, запускать новый продукт без собственных данных — на основе похожих SKU, — а также каждую ночь считать прогнозы для 100 000 SKU на CPU. Тот же подход переносится между категориями и регионами.

Распределение вероятностей превращает уровень обслуживания в понятную политику. Каждый прогноз публикуется в канал и становится основанием для действия, а не отчётом:

Результат измеряется в показателях бизнеса: меньше дефицита и уценок, больше найденных покупателями товаров, защищённая выручка и высвобожденный оборотный капитал, который часто составляет крупнейшую статью в бизнес-кейсе.

Обнаружение аномалий

Поиск аномалий охватывает множество сценариев, а пропущенное отклонение редко обходится дёшево. В финансовом мошенничестве на кону деньги клиента, в безопасности — утечка или взлом, в ИТ — сбой, который первым замечает пользователь. Все эти события вредят бренду и финансовым результатам.

В финансовых организациях злоумышленники подстраиваются под правила, потому что их можно перебрать. Если правила ужесточить, больше честных клиентов получат отказ — вместе с выручкой и доверием. Специализированному машинному обучению при этом не хватает свежих размеченных данных, а ложные тревоги иногда обходятся дороже самого преступления.

В розничном банке руководитель направления по борьбе с мошенничеством может поддерживать отдельное представление о норме для каждой карты и проверять каждый платёж через один вызов `AI_DETECT_ANOMALIES`, пока операция ещё выполняется. Поскольку модель умеет и прогнозировать, она замечает движение к проблеме до самого события.

Карта, которой два года расплачивались за продукты в одних и тех же трёх почтовых индексах, внезапно оплачивает электронный кошелёк за границей в три часа ночи — тревога срабатывает до перевода денег. Честная поездка того же клиента проходит без препятствий.

Защита начинает работать с первого дня: знания, полученные на других данных, переносятся на новые продукты, направления переводов и типы активов даже без размеченных примеров. Модель должна постоянно обновляться, поскольку меняется и противник. Схемы мошенничества и признаки атак перестраиваются ежемесячно, поэтому модель настраивается на собственном потоке банка, переобучается после подтверждения случаев и улучшается непрерывно, а не раз в год.

По мере того как банки и торговые компании переходят к агентным системам, ИИ-агенты начинают инициировать платежи с машинной скоростью. Нормальный ритм операций меняется, объём растёт, и актуальный контекст с оценкой операции прямо в процессе становятся ещё важнее. Каждый результат проверки может запустить следующее действие:

Та же техника подходит везде, где у объекта есть собственный ритм: для задержек ИТ-систем, показателей базовых станций и темперирующей линии из предыдущего примера.

Оптимизация производства

Каждый завод работает на собственной модели процессов, но поддерживать её актуальность сложно. Статистические модели со временем меняются, правила управления удерживают заданную точку, но не улучшают её, а специализированное машинное обучение часто не объясняет свои рекомендации. Поэтому оптимизация остаётся на уровне пилотных проектов, а производство продолжает работать с запасом.

Инженер по имени Andrés отвечает за процесс на заводе шампуня. Его смесительная линия передаёт в Confluent температуру, скорость мешалки, скорость дозирования и вязкость. Модель-основа работает сразу после подключения: месяцы индивидуального моделирования сокращаются до дней, производительность может вырасти до 10 раз, а ручная настройка нужна только там, где этого требует конкретная линия.

Модель учитывает параметры, которыми управляет инженер, и превращает прогноз в симулятор:

Оптимизатор ищет подходящую комбинацию параметров под KPI, который задаёт инженер, соблюдает его ограничения и объясняет рекомендацию. Andrés остаётся инженером-технологом, а не специалистом по моделированию: человек, знающий линию, управляет ею.

Оптимизация не заканчивается после запуска. Она пересчитывается при изменении входных условий: поставщик меняет поверхностно-активное вещество, партия ароматизатора ведёт себя иначе, спрос смещается с бутылки объёмом 400 мл на дорожный формат, а целью квартала становится выпуск, а не энергозатраты.

Инженер заново задаёт цель и ограничения, после чего линия получает следующий подходящий набор параметров, опираясь на наиболее близкие прошлые циклы и способы исправления проблем. В финансовых показателях это может быть значительная сумма: один процент улучшения на предприятии с оборотом в сотни миллионов долларов выражается семизначной суммой. Один производитель продуктов питания начинает с одного процесса, за которым стоят 400 заводов.

Оптимизация производства может стать основой для следующих задач — прогнозирования качества и оценки состояния оборудования. По мере распространения ИИ в производстве, робототехнике и физических системах это будет одним из направлений крупного рынка.

Поиск похожих случаев

Все описанные сценарии сводятся к одному вопросу: встречалось ли такое раньше?

Модели отвечают на него с помощью эмбеддингов — компактных векторов, которые описывают форму временного и частотного окна. Поэтому два похожих эпизода оказываются рядом в пространстве даже при разном масштабе или смещении сигнала.

В потоке каждое окно получает эмбеддинг сразу после появления, а затем сравнивается с прошлыми эпизодами и их результатами. На выходе получается прецедент, а не просто оценка:

Те же эмбеддинги используются для классификации и заполнения пропусков, а также для индексации контекста, который ИИ-агент получает перед действием.

Доступ

IBM и Confluent планируют развивать направление временных рядов через новые архитектуры, источники данных, агентные сценарии и пользовательские интерфейсы. Компании продолжат тестировать решения вместе с партнёрами по разработке и клиентами на реальных корпоративных задачах, связанных с производительностью, точностью и скоростью реакции.

Уже сейчас в раннем доступе в Confluent Cloud доступны прогнозирование и поиск аномалий непосредственно в потоках данных. Для запуска не требуются обучение модели, разработка признаков и специальные знания в области ИИ и машинного обучения. Confluent Cloud станет первым этапом, а Confluent Platform следующим образом перенесёт те же модели и возможности в локальные и гибридные инфраструктуры. Обратная связь с собственных потоков данных должна помогать IBM и Confluent определять дальнейшее развитие моделей.