Исследователи превратили JEPA Яна Лекуна в универсальную модель мира — от физики до биологии

Модели мира предсказывают, как будет меняться система: робот, молекула или здоровье пациента. До сих пор для каждой области обычно требовалась отдельная модель. Команда PhAI Labs вместе с коллегами из Стэнфорда, Оксфорда и Принстона проверяет, можно ли обойтись одним общим принципом.

В статье описана JEPA-Anything — модель на основе предиктивных архитектур совместных эмбеддингов (JEPA). Такие модели не восстанавливают исходные данные, например пиксели, а предсказывают абстрактное представление отсутствующего или будущего состояния, отбрасывая несущественные детали. Авторы считают слабым местом стандартного подхода то, что он сводит прогноз к одному результату: простые закономерности могут заслонять более сложные.

Несколько прогнозов вместо одного

JEPA-Anything делит предсказываемое состояние на несколько частей и поручает каждую отдельному модулю. Дополнительное ограничение заставляет модули улавливать разные стороны данных, а не повторять друг друга. Затем модель объединяет частичные прогнозы в целую картину.

Исследователи не задают заранее, что именно должна означать каждая часть: её роль формируется во время обучения. Для разных областей они меняют только способ подготовки данных.

В отличие от стандартной JEPA, JEPA-Anything разделяет предсказываемое состояние на четыре ортогональных фактора, для каждого из которых используется отдельный предиктор, а затем объединяет их в полное состояние мира

Источник: the-decoder.com

Результаты в динамических задачах и робототехнике

Команда сравнила JEPA-Anything со стандартной JEPA той же архитектуры. Обе модели обучали на одинаковых данных и в одинаковых условиях. Самый заметный выигрыш показали динамические системы: в упрощённой среде Pong с целевыми вмешательствами ошибка прогноза снизилась на 35%. Для сочетаний вмешательств, которых модель не встречала при обучении, ошибка уменьшилась на 13%.

По данным авторов, JEPA-Anything стабильно превосходила базовую модель в десяти тестовых задачах по физике, робототехнике и прогнозированию погоды. В отдельной проверке на уравнении Бюргерса — распространённом бенчмарке гидродинамики — ошибка сократилась почти вдвое. На горизонте в 50 шагов преимущество сохранялось, но уменьшалось примерно до 3%. В симуляциях воды, кварца, ацетаминофена и бензола метод тоже показал лучший результат — даже после 100 шагов.

Для данных об отдельных клетках модель надёжнее определяла их типы. На клинических данных она немного лучше предсказывала более 1 000 возможных событий, связанных с заболеваниями. В задачах с изображениями разница была небольшой. При планировании передвижения симулированных шагающих роботов JEPA-Anything выиграла в двух из трёх сред, а в третьей лучше оказалась стандартная модель.

Наибольший прирост от JEPA-Anything достигается на уравнениях физических потоков, тогда как его преимущество перед стандартной JEPA едва заметно для динамики пикселей

Источник: the-decoder.com

Проверка возможного лечения рака печени

Самое заметное заявление команды касается исследований рака печени. Учёные изучили частичные прогнозы, которые модель усвоила на биологических данных: активности генов, уровнях белков и результатах скринингов CRISPR. Наиболее перспективным вариантом оказалось сочетание IL-18 — сигнальной молекулы, активирующей иммунные клетки, — с блокировкой фермента CD73. Опухоли используют CD73, чтобы подавлять иммунные реакции в окружающих тканях.

Команда проверила сочетание на клетках рака печени, выращенных вместе с иммунными клетками, на органоидах и опухолевых тканях от трёх пациентов, а также на мышах. В органоидах и образцах тканей сочетание уничтожило больше опухолевых клеток, чем один IL-18 или одна блокировка CD73. Т-клетки и естественные киллеры при этом активировались сильнее. Исследование не доказывает, что такое сочетание станет реальным лечением.

Предложенная моделью комбинация IL-18 и блокады CD73 уничтожила больше всего раковых клеток и активировала больше всего иммунных клеток в органоидах и фрагментах опухоли

Источник: the-decoder.com

В другом эксперименте исследователи обучили модель на симулированных орбитах, не сообщая ей физических величин. Выученные закономерности почти точно совпали с третьим законом Кеплера: тела на более крупных орбитах движутся значительно медленнее. Закон связывает частоту обращения с размером орбиты степенью −1,5, а модель получила показатель −1,4991. Команда проверила только один запуск обучения и выбрала тот, где ошибка была наименьшей.

Авторы предупреждают, что чёткое разделение выученных частей ещё не означает, что они отражают реальные причинно-следственные связи. Пока также неясно, когда такая модель станет достаточно надёжной, чтобы помогать планировать эксперименты. В долгосрочной перспективе команда хочет, чтобы ИИ-агенты использовали JEPA-Anything для предложения и ранжирования экспериментов, а затем передавали полученные результаты обратно в модель. Код и модели доступны публично.

Лекун предложил JEPA в 2022 году как альтернативу генеративным моделям. В июне 2025 года Meta выпустила видеомодель V-JEPA 2 на 1,2 млрд параметров: она управляла роботизированными руками в незнакомых условиях без дополнительного обучения. В ноябре 2025 года Лекун и Рэндалл Балестриеро представили LeJEPA — теоретическую основу, призванную сделать обучение стабильным без привычных обходных решений. Сейчас Лекун развивает этот подход в стартапе AMI Labs, который в марте 2026 года привлёк более миллиарда долларов на создание моделей мира.

Google DeepMind уже проверяла в лаборатории гипотезу о раке, созданную ИИ, — в октябре 2025 года. Модель C2S-Scale 27B на основе Gemma предложила препарат силмитасертиб, который должен сделать опухолевые клетки заметнее для иммунной системы. Опыты на моделях человеческих клеток подтвердили прогноз. Мультиагентная система Google DeepMind Co-Scientist теперь планирует эксперименты и управляет лабораторным оборудованием, охватывая часть процесса, который хочет построить команда JEPA-Anything. Однако загружать образцы в аппараты пока должны люди.