Трансформеры: От Прогнозирования к Пониманию Причинности
![Обученная для предсказания следующего шага нейронная сеть на основе архитектуры Transformer, используя запаздывающие наблюдения за временными рядами, способна не только моделировать динамические процессы, но и, посредством анализа релевантности, выявлять лежащую в их основе причинно-следственную структуру, как демонстрируется на примере системы с [latex]N=3[/latex] и окном [latex]L=3[/latex].](https://arxiv.org/html/2601.05647v1/x1.png)
Новое исследование показывает, что архитектура трансформеров, изначально разработанная для обработки последовательностей, обладает неожиданной способностью выявлять причинно-следственные связи в данных временных рядов.






![Традиционные агенты машинного обучения совершенствуются посредством дорогостоящих вычислений и внешней обратной связи, что приводит к значительным задержкам, в то время как данное исследование направлено на выявление превосходных, основанных на данных решений до их фактического выполнения, используя концепцию «скрытых приоритетов, вытекающих из данных» [latex] \implies [/latex] для повышения эффективности и скорости обучения.](https://arxiv.org/html/2601.05930v1/x1.png)