Создана универсальная ИИ-модель JEPA-Anything для разных областей науки

Исследователи разработали универсальную ИИ-модель, способную работать в самых разных областях — от физики до биологии

В основе новой модели JEPA-Anything — подход с ортогональной предсказательной факторизацией (OPF). Он раскладывает скрытые целевые параметры на взаимодополняющие факторы, обучает их по отдельным каналам, а затем объединяет в общей схеме прогнозирования. Решение расширяет архитектуру JEPA, предложенную ЛеКуном.

Модель протестировали в семи областях: зрение, биология, клинические траектории, управление, молекулярная динамика, физические поля и погода. В испытаниях проверяли, как система учится представлять данные, предсказывает вмешательства, обобщает информацию за пределами обучающего набора и моделирует долгосрочную динамику.

JEPA-Anything превзошла базовые версии JEPA: улучшила показатели во всех 10 задачах по динамике и снизила ошибку прогнозирования единичного вмешательства в игре Interventional Pong на 34,8 %. Кроме того, она показала наименьшие ошибки (на одном шаге и на 100 шагах) в молекулярном моделировании для четырёх систем. Отдельные предсказания модели получили экспериментальное подтверждение — например, в опытах с клеточными культурами, органоидами и мышами.

Источник: Gen-Verse