TimesFM-3: базовая модель для многомерного прогнозирования без дообучения

Диаграмма архитектуры TimesFM-3, иллюстрирующая разбиение временных рядов на патчи, слои трансформера и выход многомерного прогнозирования

Источник: research.google

С момента выхода TimesFM в 2024 году модели для прогнозирования временных рядов начали применять в розничной торговле, финансах, мониторинге систем, промышленности, здравоохранении и естественных науках.

До TimesFM-2.5, выпущенной в сентябре 2025 года, модели Google работали только с одномерными рядами: прогноз строился по истории одного показателя. В реальных задачах на будущее обычно влияют сразу несколько рядов и внешних факторов.

Например, для прогноза продаж мороженого одной истории продаж недостаточно. Модели пригодятся данные о продажах сопутствующих товаров — рожков и сиропов, — посещаемости магазинов, а также известные заранее события: прогноз погоды, акции и праздники.

Что умеет TimesFM-3

TimesFM-3 изначально обучена для многомерного прогнозирования. Она может одновременно предсказывать несколько совместно меняющихся рядов и учитывать зависимости между ними, повышая точность без специального файн-тюнинга под конкретную задачу.

Модель сохраняет архитектуру трансформера только с декодером, использованную в предыдущих версиях. Последовательные значения временного ряда объединяются в блоки по 32 временных шага. Затем для каждого ряда выполняется отдельная нормализация — это помогает работать с показателями, которые отличаются по масштабу.

Для целевого ряда и ковариат из прошлого один токен формируется непосредственно из одного блока. Для ковариат, известных в прошлом и будущем, TimesFM-3 применяет стратегию «заглядывания вперёд»: к текущему блоку добавляются будущие, уже известные значения. Так модель получает доступ к сигналам, которые ещё не наступили, но известны заранее.

После токенизации блоки проходят через входной остаточный блок и поступают в основной набор слоёв трансформера, работающий как двумерная сетка. В нескольких слоях чередуются два механизма внимания: один помогает учитывать временные закономерности, другой — связи между рядами.

Прогноз за один проход

Предыдущие версии TimesFM создавали прогноз по одному блоку за раз. Это увеличивало задержку, накапливало ошибки и требовало больше вычислений.

TimesFM-3 использует стратегию маскирования последовательных блоков и строит весь прогнозируемый горизонт за один прямой проход. К наблюдаемому контексту модель добавляет замаскированные токены будущего участка.

Целевые ряды и ковариаты из прошлого маскируются, поскольку их будущие значения неизвестны. Ковариаты, доступные и в прошлом, и в будущем, остаются видимыми: например, даты праздников или запланированных мероприятий. Чередующиеся слои внимания одновременно заполняют все замаскированные блоки, без последовательного цикла предсказаний.

Для каждого целевого ряда на каждом шаге модель выдаёт девять квантилей — от 10-го до 90-го процентиля. Это позволяет описать неопределённость прогноза в вероятностной форме.

Пример с рекламными акциями

Представим, что сеть магазинов планирует акции на следующий месяц и хочет заранее оценить продажи. Обычная одномерная модель смотрит только на историю продаж и продолжает наблюдаемый недельный цикл. Она не знает, в какие дни запланированы акции.

Многомерный режим TimesFM-3 получает расписание акций как ковариату, известную в прошлом и будущем. По историческим данным модель оценивает связь между акциями и ростом продаж, а затем переносит её на будущие даты.

В результате прогноз показывает примерно 20-процентный рост продаж в каждый день акции. На графике дни с акциями отмечены янтарными блоками в данных ковариаты: синяя линия TimesFM-3 реагирует на них, а красная линия одномерной модели — нет. За месяц это повышает точность прогноза выручки.

Результаты на бенчмарках

TimesFM-3 проверили на трёх общедоступных бенчмарках прогнозирования: Gift-Eval, FEV-Bench и Time. Среди предварительно обученных моделей она получила лучший средний ранг по метрикам точечного и вероятностного прогнозирования на всех трёх наборах.

В сравнении участвовали современные модели, включая поддерживающие многомерный режим Chronos-2 и семейство Toto 2.0, а также предыдущая TimesFM-2.5.

График оценки на бенчмарке, сравнивающий TimesFM-3 с ведущими моделями прогнозирования на бенчмарке GIFT-Eval

Источник: research.google

На графиках TimesFM-3 показана в двух режимах. В одномерном режиме модель работает без ковариат и информации о других рядах, обрабатывая каждый целевой ряд отдельно, как традиционная одномерная модель. Уже в этом режиме она не уступает или превосходит другие сравниваемые модели.

График бенчмарка, показывающий точность прогнозирования TimesFM-3 на многомерных наборах данных FEV-Bench

Источник: research.google

В полном многомерном режиме TimesFM-3 дополнительно использует связи между рядами и доступные ковариаты. Благодаря этому она получает лучший средний ранг по точечным и вероятностным прогнозам на всех трёх бенчмарках.

Сравнительный график времени и эффективности инференса, демонстрирующий скорость и задержку TimesFM-3 на различных горизонтах прогнозирования

Источник: research.google

TimesFM-3 уже доступна на GitHub и Hugging Face. Интеграцию с BigQuery планируют выпустить в ближайшие недели. Пока пользователи могут сразу попробовать TimesFM-2.5 для одномерных задач и познакомиться с командой ИИ.FORECAST в BigQuery — для этого не нужны знания машинного обучения.

Проект создан совместно с Yichen Zhou, Petros Mol, Abhimanyu Das и Samet Oymak.