Модель авторегрессии

Представление типа случайного процесса

В статистика, эконометрика и обработка сигналов, авторегрессивная (AR) модель является представлением типа случайного процесса ; как таковой, он используется для описания определенных изменяющихся во времени процессов природы, экономики и т. д. Модель авторегрессии определяет, что выходная переменная линейно зависит от собственных значений и на стохастическом члене (неточно предсказуемый термин); таким образом, модель имеет форму стохастического разностного уравнения (или рекуррентного отношения, которое не следует путать с дифференциальным уравнением). Вместе с моделью скользящего среднего (MA), это частный случай и ключевой компонент более общего авторегрессионного скользящего среднего (ARMA) и интегрированного авторегрессионного скользящего усредненные модели (ARIMA) временного ряда , которые имеют более сложную стохастическую структуру; это также частный случай модели векторной авторегрессии (VAR), которая состоит из более чем одного взаимосвязанного стохастического разностного уравнения для более чем одной развивающейся случайной величины.

В отличие от модели скользящего среднего (MA), авторегрессионная модель не всегда стационарная, поскольку может содержать единичный корень.

• 1 Определение
• 2 Межвременной эффект шоков
• 3 Характеристический полином
• 4 Графики значение процессов AR (p)
• 5 Пример: процесс AR (1)
  • 5.1 Явное среднее / разница форма процесса AR (1)
• 6 Выбор максимального запаздывания
• 7 Расчет параметров AR
  • 7.1 Уравнения Юла - Уокера
  • 7.2 Оценка параметров AR
• 8 Спектр
  • 8.1 AR (0)
  • 8.2 AR (1)
  • 8.3 AR (2)
• 9 Реализации в статистических пакетах
• 10 Импульсная характеристика
• 11 Прогнозирование на n-шаг вперед
• 12 Оценка качества прогнозов
• 13 См. также
• 14 Примечания
• 15 Ссылки
• 16 Внешние ссылки

Обозначение $AR\; (p)\; \{\backslash \; displaystyle\; AR\; (p)\}$указывает авторегрессионную модель порядка p. Модель AR (p) определяется как

$Икс\; t\; =\; c\; +\; \sum \; i\; =\; 1\; p\; \phi \; i\; X\; t\; -\; i\; +\; \epsilon \; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\; =\; c\; +\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\; \}\; \backslash \; varphi\; \_\; \{i\}\; X\_\; \{ti\}\; +\; \backslash \; varepsilon\; \_\; \{t\}\; \backslash ,\}$

где $\phi \; 1,\dots ,\; \phi \; p\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\},\; \backslash \; ldots,\; \backslash \; varphi\; \_\; \{p\}\}$- параметры модели, $c\; \{\backslash \; displaystyle\; c\}$- константа, и $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\}$- это белый шум. Это может быть эквивалентно записано с использованием оператора обратного сдвига B как

$X\; t\; =\; c\; +\; \sum \; i\; =\; 1\; p\; \phi \; i\; B\; i\; X\; t\; +\; \epsilon \; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\; =\; c\; +\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{i\}\; B\; ^\; \{i\}\; X\_\; \{t\}\; +\; \backslash \; varepsilon\; \_\; \{t\}\}$

так, чтобы переместить член суммирования влево и используя полиномиальное обозначение, имеем

$\varphi \; [B]\; X\; t\; =\; c\; +\; \epsilon \; t.\; \{\backslash \; displaystyle\; \backslash \; phi\; [B]\; X\_\; \{t\}\; =\; c\; +\; \backslash \; varepsilon\; \_\; \{t\}\; \backslash ,.\}$

Таким образом, авторегрессионная модель может рассматривать как результат всего- полюса фильтр с бесконечной импульсной характеристикой, входной сигнал которого - белый шум.

Некоторые ограничения параметров необходимы для того, чтобы модель оставалась стационарной в широком смысле. Например, процессы в модели AR (1) с $|\; \phi \; 1\; |\; \ge \; 1\; \{\backslash \; Displaystyle\; |\; \backslash \; varphi\; \_\; \{1\}\; |\; \backslash \; geq\; 1\}$не являются стационарными. В более общем смысле, чтобы модель AR (p) была стационарной в широком смысле, корни многочлена $\Phi \; (z):\; =\; 1\; -\; \sum \; i\; =\; 1\; p\; \phi \; izp\; -\; i\; \{\backslash \; displaystyle\; \backslash \; Phi\; (z):\; =\; \backslash \; textstyle\; 1-\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{i\}\; z\; ^\; \{pi\}\}$должен лежать за пределами единичного круга, т. е., каждый (комплексный) корень $zi\; \{\backslash \; displaystyle\; z\_\; \{i\}\}$должен удовлетворять $|\; z\; i\; |>1\; \{\backslash \; displaystyle\; |\; z\_\; \{i\}\; |>1\}$(см. стр. 88,90).

В процессе AR одноразовый шок влияет на значения эволюционирующей переменной бесконечно далеко в будущее. модель AR (1) $Икс\; T\; знак\; равно\; с\; +\; \phi \; 1\; Икс\; T\; -\; 1\; +\; \epsilon \; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\; =\; c\; +\; \backslash \; varphi\; \_\; \{1\}\; X\_\; \{t-1\}\; +\; \backslash \; varepsilon\; \_\; \{t\; \}\}$. Ненулевое значение для $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\}$при скажем, время t = 1 влияет на $X\; 1\; \{\backslash \; displaystyle\; X\_\; \{1\}\}$на отношение $\epsilon \; 1\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{1\}\}$. Тогда по уравнению AR для $X\; 2\; \{\backslash \; displaystyle\; X\_\; \{\; 2\}\}$в терминах $X\; 1\; \{\backslash \; displaystyle\; X\_\; \{1\}\}$, это влияет на $Икс\; 2\; \{\backslash \; displaystyle\; X\_\; \{2\}\}$на отношение $\phi \; 1\; \epsilon \; 1\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}\; \backslash \; varepsilon\; \_\; \{1\}\}$. Тогда по уравнению AR для $X\; 3\; \{\backslash \; displaystyle\; X\_\; \{3\}\}$в терминах $X\; 2\; \{\backslash \; displaystyle\; X\_\; \{2\}\}$, это влияет на $Икс\; 3\; \{\backslash \; displaystyle\; X\_\; \{3\}\}$на сумму $\phi \; 1\; 2\; \epsilon \; 1\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}\; ^\; \{2\}\; \backslash \; varepsilon\; \_\; \{1\}\}$. Продолжение этого процесса показывает, что эффект $\epsilon \; 1\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{1\}\}$никогда не заканчивается, хотя процесс стационарный, то эффект уменьшается до нуля. в пределе.

Временя каждого шок влияет на значения X бесконечно далеко в будущем их возникновения, на заданное значение X t влиять на шоки, происходящие бесконечно далеко в прошлом. Это также можно увидеть, переписав авторегрессию

$\varphi \; (B)\; X\; t\; =\; \epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; phi\; (B)\; X\_\; \{t\}\; =\; \backslash \; varepsilon\; \_\; \{t\}\; \backslash ,\}$

(где константа термин был опущен, предполагаемая, что переменная была измерена как отклонение от своего среднего) как

$X\; t\; =\; 1\; \varphi \; (B)\; \epsilon \; t.\; \{\backslash \; displaystyle\; X\_\; \{t\}\; =\; \{\backslash \; frac\; \{1\}\; \{\backslash \; phi\; (B)\}\}\; \backslash \; varepsilon\; \_\; \{t\}\; \backslash ,.\}$

Когда полиномиальное деление справа равно полином в операторе обратного сдвига, примененный к $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\}$, имеет бесконечный порядок, то есть бесконечное количество запаздывающих значений $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\; \}$появляется в правой части уравнения.

автокорреляционная функция процесса AR (p) может быть выражена как

$\rho \; (\tau )\; =\; \sum \; k\; =\; 1\; p\; a\; k\; y\; k\; -\; |\; \tau \; |,\; \{\backslash \; displaystyle\; \backslash \; rho\; (\backslash \; tau)\; =\; \backslash \; sum\; \_\; \{k\; =\; 1\}\; ^\; \{p\}\; a\_\; \{k\}\; y\_\; \{k\}\; ^\; \{-\; |\; \backslash \; tau\; |\},\}$

где $yk\; \{\backslash \; displaystyle\; y\_\; \{k\}\}$являются корнями многочлена

$\varphi \; (B)\; =\; 1\; -\; \sum \; k\; =\; 1\; p\; \phi \; k\; B\; k\; \{\backslash \; displaystyle\; \backslash \; phi\; (B)\; =\; 1-\; \backslash \; сумма\; \_\; \{k\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{k\}\; B\; ^\; \{k\}\}$

где B - оператор обратного сдвига, где $\varphi \; (\cdot )\; \{\backslash \; displaystyle\; \backslash \; phi\; (\backslash \; cdot)\}$- функция, определяющая авторегрессию, а где $\phi \; k\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{k\}\}$- коэффициенты авторегрессии.

Автокорреляционная функция процесса AR (p) представляет собой сумму убывающих экспонент.

• Каждый действительный корень вносит свой вклад в автокорреляционную функцию, которая экспоненциально затухает.
• Точно так же каждая пара комплексно-сопряженных корней вносит свой вклад в экспоненциально затухающие колебания.

AR (0); AR (1) с параметром AR 0.3; AR (1) с параметром AR 0.9; AR (2) с строгими AR 0,3 и 0,3; и AR (2) включает AR 0,9 и -0,8

Простейшим AR является AR (0), который не имеет зависимости между членами. Только термин ошибка / инновация / шум вносит вклад в результат процесса, поэтому на рисунке AR (0) соответствует белому шуму.

Для процесса AR (1) с положительным значением $\phi \; \{\backslash \; displaystyle\; \backslash \; varphi\}$, только предыдущий член в процессе и шумовой член вносит вклад в вывод. Если $\phi \; \{\backslash \; displaystyle\; \backslash \; varphi\}$близко к 0, тогда процесс по-прежнему выглядит как белый шум, но по мере приближения $\phi \; \{\backslash \; displaystyle\; \backslash \; varphi\}$1, выходной сигнал получает больший вклад от предыдущего члена по сравнению с шумом. Это приводит к «сглаживанию» или интеграции выходного сигнала, аналогичному фильтру нижних частот.

Для процесса AR (2) два предыдущих члена и шумовой член вносят вклад в вывод. Если оба значения $\phi \; 1\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}\}$и $\phi \; 2\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{2\}\}$положительны, вывод будет напоминать фильтр нижних частот, с уменьшением высокочастотной части шума. Если $\phi \; 1\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}\}$положительно, а $\phi \; 2\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{2\}\}$отрицательно, то процесс способствует смене знака между сроками процесса. Выход колеблется. Это можно сравнить с обнаружением края или изменением направления.

Процесс AR (1) задается следующим образом:

$X\; t\; =\; c\; +\; \phi \; X\; t\; -\; 1\; +\; \epsilon \; t\; \{\backslash \; displaystyle\; X\_\; \{t\; \}\; =\; c\; +\; \backslash \; varphi\; X\_\; \{t-1\}\; +\; \backslash \; varepsilon\; \_\; \{t\}\; \backslash ,\}$

где $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\}$- белый шум с нулевым средним и постоянной дисперсией $\sigma \; \epsilon \; 2\; \{\backslash \; displaystyle\; \backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}\}$. (Примечание: индекс в $\phi \; 1\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}\}$был опущен.) Процесс является стационарным в широком смысле, если , поскольку он получается как выходной сигнал стабильного фильтра, на входе которого используется белый шум. (Если $\phi \; =\; 1\; \{\backslash \; displaystyle\; \backslash \; varphi\; =\; 1\}$, тогда дисперсия $X\; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\}$зависит от запаздывания t, так что дисперсия ряда расходится до бесконечности, когда t стремится к бесконечности, и, следовательно, не является стационарной в широком смысле.) Предполагаемая, что , среднее $E\; \; (X\; t)\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; (X\_\; \{t\})\}$идентично для всех значений t по самому определению стационарности в широком смысле. Если среднее обозначено как $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$, из

$E\; \; (X\; t)\; =\; E\; \; (c)\; +\; \phi \; E\; \; (X\; t\; -\; 1)\; +\; Е\; \; (\epsilon \; T),\; \{\backslash \; Displaystyle\; \backslash \; OperatorName\; \{E\}\; (X\_\; \{t\})\; =\; \backslash \; OperatorName\; \{E\}\; (c)\; +\; \backslash \; varphi\; \backslash \; OperatorName\; \{E\}\; (X\_\; \{t-1\})\; +\; \backslash \; имя\; оператора\; \{E\; \}\; (\backslash \; varepsilon\; \_\; \{t\}),\}$

что

$\mu \; =\; c\; +\; \phi \; \mu \; +\; 0,\; \{\backslash \; displaystyle\; \backslash \; mu\; =\; c\; +\; \backslash \; varphi\; \backslash \; mu\; +0,\}$

и, следовательно,

$\mu \; =\; c\; 1\; -\; \phi .\; \{\backslash \; displaystyle\; \backslash \; mu\; =\; \{\backslash \; frac\; \{c\}\; \{1-\; \backslash \; varphi\}\}.\}$

В частности, если $c\; =\; 0\; \{\backslash \; displaystyle\; c\; =\; 0\}$, то среднее

дисперсия равна

$var\; (X\; t)\; =\; E\; \; (X\; t\; 2)\; -\; \mu \; 2\; =\; \sigma \; \epsilon \; 2\; 1\; -\; \phi \; 2,\; \{\backslash \; displaystyle\; \{\backslash \; textrm\; \{var\}\}\; (X\_\; \{t\})\; =\; \backslash \; operatorname\; \{E\}\; (X\_\; \{t\}\; ^\; \{2\})\; -\; \backslash \; mu\; ^\; \{2\}\; =\; \{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}\; \}\; \{1-\; \backslash \; varphi\; ^\; \{2\}\}\},\}$

где $\sigma \; \epsilon \; \{\backslash \; displaystyle\; \backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\}$- стандартное отклонение $\epsilon \; T\; \{\backslash \; Displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\}$. Это можно показать, заметив, что

$var\; (X\; t)\; =\; \phi \; 2\; var\; (X\; t\; -\; 1)\; +\; \sigma \; \epsilon \; 2,\; \{\backslash \; displaystyle\; \{\backslash \; textrm\; \{var\}\}\; (X\_\; \{t\})\; =\; \backslash \; varphi\; ^\; \{2\}\; \{\backslash \; textrm\; \{var\}\}\; (X\_\; \{t-1\})\; +\; \backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\},\}$

, а, заметив, что указанная выше величина является стабильной фиксированной точкой этой связь.

автоковариация определяется как

$B\; n\; =\; E\; \; (X\; t\; +\; n\; X\; t)\; -\; \mu \; 2\; =\; \sigma \; \epsilon \; 2\; 1\; -\; \phi \; 2\; \phi \; |\; п\; |.\; \{\backslash \; displaystyle\; B\_\; \{n\}\; =\; \backslash \; operatorname\; \{E\}\; (X\_\; \{t\; +\; n\}\; X\_\; \{t\})\; -\; \backslash \; mu\; ^\; \{2\}\; =\; \{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}\}\; \{\; 1-\; \backslash \; varphi\; ^\; \{2\}\}\}\; \backslash ,\; \backslash ,\; \backslash \; varphi\; ^\; \{|\; n\; |\}.\}$

Можно видеть, что функция автоковариации затухает со временем спада (также называемым временем ) от $\tau \; =\; -\; 1\; /\; ln\; \; (\phi )\; \{\backslash \; displaystyle\; \backslash \; tau\; =\; -1\; /\; \backslash \; ln\; (\backslash \; varphi)\}$[чтобы увидеть это, напишите $B\; n\; =\; K\; \phi \; |\; п\; |\; \{\backslash \; displaystyle\; B\_\; \{n\}\; =\; K\; \backslash \; varphi\; ^\; \{|\; n\; |\}\}$где $K\; \{\backslash \; displaystyle\; K\}$не зависит от $n\; \{\backslash \; displaystyle\; n\}$. Тогда заметим, что $\phi \; |\; п\; |\; =\; e\; |\; п\; |\; пер\; \; \phi \; \{\backslash \; Displaystyle\; \backslash \; varphi\; ^\; \{|\; n\; |\}\; =\; e\; ^\; \{|\; п\; |\; \backslash \; ln\; \backslash \; varphi\}\}$и сопоставьте это с законом экспоненциального затухания $e\; -\; n\; /\; \tau \; \{\backslash \; displaystyle\; e\; ^\; \{-\; n\; /\; \backslash \; tau\}\}$].

Функция спектральной плотности представляет собой преобразование Фурье функции автоковариации. В дискретных терминах это будет преобразование Фурье с дискретным временем:

$\Phi \; (\omega )\; =\; 1\; 2\; \pi \; \sum \; n\; =\; -\; \infty \; \infty \; B\; ne\; -\; i\; \omega \; n\; =\; 1\; 2\; \pi \; (\sigma \; \epsilon \; 2\; 1\; +\; \phi \; 2\; -\; 2\; \phi \; cos\; \; (\omega )).\; \{\backslash \; displaystyle\; \backslash \; Phi\; (\backslash \; omega)\; =\; \{\backslash \; frac\; \{1\}\; \{\backslash \; sqrt\; \{2\; \backslash \; pi\}\}\}\; \backslash ,\; \backslash \; sum\; \_\; \{n\; =\; -\; \backslash \; infty\}\; ^\; \{\backslash \; infty\}\; B\_\; \{n\}\; e\; ^\; \{\; -i\; \backslash \; omega\; n\}\; =\; \{\backslash \; frac\; \{1\}\; \{\backslash \; sqrt\; \{2\; \backslash \; pi\}\}\}\; \backslash ,\; \backslash \; left\; (\{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}\}\; \{1+\; \backslash \; varphi\; ^\; \{2\}\; -2\; \backslash \; varphi\; \backslash \; cos\; (\backslash \; omega)\}\}\; \backslash \; right).\}$

Это выражение является периодическим из-за дискретного характера $X\; j\; \{\backslash \; displaystyle\; X\_\; \{j\}\}$, который проявляется как член косинуса в знаменателе. Если предположить, что время выборки ($\Delta \; t\; =\; 1\; \{\backslash \; displaystyle\; \backslash \; Delta\; t\; =\; 1\}$) намного меньше, чем время затухания ($\tau \; \{\backslash \; displaystyle\; \backslash \; tau\}$), то мы можем использовать континуальное приближение к $B\; n\; \{\backslash \; displaystyle\; B\_\; \{n\}\}$:

$B\; (t)\; \approx \; \sigma \; \epsilon \; 2\; 1\; -\; \phi \; 2\; \phi \; |\; т\; |\; \{\backslash \; Displaystyle\; B\; (т)\; \backslash \; приблизительно\; \{\backslash \; гидроразрыва\; \{\backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}\}\; \{1-\; \backslash \; varphi\; ^\; \{2\}\}\}\; \backslash ,\; \backslash ,\; \backslash \; varphi\; ^\; \{|\; t\; |\}\}$

, что дает лоренцев профиль для спектральной плотности:

$\Phi \; (\omega )\; =\; 1\; 2\; \pi \; \sigma \; \epsilon \; 2\; 1\; -\; \phi \; 2\; \gamma \; \pi \; (\gamma \; 2\; +\; \omega \; 2)\; \{\; \backslash \; Displaystyle\; \backslash \; Phi\; (\backslash \; omega)\; =\; \{\backslash \; frac\; \{1\}\; \{\backslash \; sqrt\; \{2\; \backslash \; pi\}\}\}\; \backslash ,\; \{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}\}\; \{1-\; \backslash \; varphi\; ^\; \{\; 2\}\}\}\; \backslash ,\; \{\backslash \; frac\; \{\backslash \; gamma\}\; \{\backslash \; pi\; (\backslash \; gamma\; ^\; \{2\}\; +\; \backslash \; omega\; ^\; \{2\})\}\}\}$

, где $\gamma \; =\; 1\; /\; \tau \; \{\backslash \; displaystyle\; \backslash \; gamma\; =\; 1\; /\; \backslash \; tau\}$- угловая частота, связанная со временем затухания. $\tau \; \{\backslash \; displaystyle\; \backslash \; tau\}$.

Альтернативное выражение для $X\; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\}$можно получить, сначала подставив $c\; +\; \phi \; X\; t\; -\; 2\; +\; \epsilon \; t\; -\; 1\; \{\backslash \; displaystyle\; c\; +\; \backslash \; varphi\; X\_\; \{t-2\}\; +\; \backslash \; varepsilon\; \_\; \{t-1\}\}$для $X\; t\; -\; 1\; \{\backslash \; displaystyle\; X\_\; \{t-1\; \}\}$в определении уравнении. Продолжение этого процесса N раз дает

$X\; t\; =\; c\; \sum \; k\; =\; 0\; N\; -\; 1\; \phi \; k\; +\; \phi \; N\; X\; t\; -\; N\; +\; \sum \; k\; =\; 0\; N\; -\; 1\; \phi \; k\; \epsilon \; t\; -\; k.\; \{\backslash \; Displaystyle\; X\_\; \{T\}\; =\; с\; \backslash \; сумма\; \_\; \{к\; =\; 0\}\; ^\; \{N-1\}\; \backslash \; varphi\; ^\; \{k\}\; +\; \backslash \; varphi\; ^\; \{N\}\; X\_\; \{tN\}\; +\; \backslash \; sum\; \_\; \{k\; =\; 0\}\; ^\; \{N-1\}\; \backslash \; varphi\; ^\; \{k\}\; \backslash \; varepsilon\; \_\; \{tk\}.\}$

Если N приближается к бесконечности, $\phi \; N\; \{\backslash \; displaystyle\; \backslash \; varphi\; ^\; \{N\}\}$подойдет нуль и:

$X\; t\; =\; c\; 1\; -\; \phi \; +\; \sum \; k\; =\; 0\; \infty \; \phi \; k\; \epsilon \; t\; -\; k.\; \{\backslash \; displaystyle\; X\_\; \{t\}\; =\; \{\backslash \; frac\; \{c\}\; \{1-\; \backslash \; varphi\}\}\; +\; \backslash \; sum\; \_\; \{k\; =\; 0\}\; ^\; \{\backslash \; infty\}\; \backslash \; varphi\; ^\; \{k\}\; \backslash \; varepsilon\; \_\; \{tk\}.\}$

Видно, что $X\; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\}$представляет собой белый шум, свёрнутый с $\phi \; k\; \{\backslash \; displaystyle\; \backslash \; varphi\; ^\; \{k\}\}$ядро ​​плюс постоянное среднее. Если белый шум $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\}$является гауссовским процессом, то $X\; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\}$также является гауссовским процессом. В других случаях центральная предельная теорема указывает, что $X\; t\; \{\backslash \; displaystyle\; X\_\; \{t\}\}$будет приблизительно нормально распределиться, когда $\phi \; \{\backslash \; displaystyle\; \backslash \; varphi\}$близок к единице.

Явная форма среднего / разностного процесса AR (1)

Модель AR (1) представляет собой дискретную временную аналогию непрерывного процесса Орнштейна-Уленбека. Поэтому иногда полезно понимать модели AR (1), приведенной в эквивалентной форме. В этой модели AR (1) с параметром формы процесса $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$задается следующим образом:

$X\; t\; +\; 1\; =\; X\; t\; +\; (1\; -\; \theta )\; (\mu \; -\; Икс\; T)\; +\; ϵ\; T\; +\; 1\; \{\backslash \; Displaystyle\; X\_\; \{t\; +\; 1\}\; =\; X\_\; \{t\}\; +\; (1-\; \backslash \; theta)\; (\backslash \; mu\; -X\_\; \{t\})\; +\; \backslash \; epsilon\; \_\; \{t\; +\; 1\}\; \backslash ,\}$, где и $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$- это модельное среднее.

Поместить это в формулу $Икс\; t\; +\; 1\; =\; c\; +\; \varphi \; X\; t\; +\; ϵ\; t\; +\; 1,\; \{\backslash \; displaystyle\; X\_\; \{t\; +\; 1\}\; =\; c\; +\; \backslash \; phi\; X\_\; \{t\}\; \backslash \; +\; \backslash \; epsilon\; \_\; \{\; t\; +\; 1\},\}$, а затем развернуть ряд для $X\; t\; +\; n\; \{\backslash \; displaystyle\; X\_\; \{t\; +\; n\}\}$, можно показать, что:

$Е\; \; (Икс\; T\; +\; N\; |\; Икс\; T)\; знак\; равно\; \mu \; [1\; -\; \theta \; N]\; +\; X\; T\; \theta \; п\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; (X\_\; \{t\; +\; n\}\; |\; X\_\; \{t\})\; =\; \backslash \; mu\; \backslash \; left\; [1-\; \backslash \; theta\; ^\; \{n\}\; \backslash \; right]\; +\; X\_\; \{t\}\; \backslash \; theta\; ^\; \{n\}\}$и

$Var\; \; (X\; t\; +\; n\; |\; X\; t)\; =\; \sigma \; 2\; 1\; -\; \theta \; 2\; N\; 1\; -\; \theta \; 2\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{Var\}\; (X\_\; \{t\; +\; n\}\; |\; X\_\; \{t\})\; =\; \backslash \; sigma\; ^\; \{2\}\; \{\backslash \; frac\; \{1-\; \backslash \; theta\; ^\; \{2n\}\}\; \{1\; -\; \backslash \; theta\; ^\; \{2\}\}\}\}$.

Частичная автокорреляция процесса AR (p) равна нулю ской, не превышающей порядок p, и обеспечивает хорошую модель для корреляции между $X\; 1\; \{\backslash \; displaystyle\; X\_\; \{1\}\}$и $X\; p\; +\; 1\; \{\backslash \; displaystyle\; X\_\; \{p\; +\; 1\}\}$, поэтому соответствующая максимальная задержка - это та, при превышении которой частичная автокорреляция все равны нулю.

Существует множество способов оценки коэффициентов, например, обычная процедура наименьших квадратов или метод моментов (через уравнения Юла - Уокера).

Модель AR (p) задается уравнением

$X\; t\; =\; \sum \; i\; =\; 1\; p\; \phi \; i\; X\; t\; -\; i\; +\; \epsilon \; t.\; \{\backslash \; displaystyle\; X\_\; \{t\}\; =\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{i\}\; X\_\; \{ti\}\; +\; \backslash \; varepsilon\; \_\; \{t\}.\; \backslash ,\}$

Он основан на параметрах $\phi \; я\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{i\}\}$где i = 1,..., p. Между этими функциями процесса существует прямое соответствие, это соответствие может быть инвертировано для определения параметров из автокорреляционной функции (сама получается из ковариаций). Это делается с помощью формулы Юла - Уокера.

Уравнения Юла - Уокера

Уравнения Юла - Уокера, названные в честь Удни Юла и Гилберта Уокера, представленные собой соответствующие системы.

$\gamma \; м\; знак\; равно\; \sum \; К\; знак\; равно\; 1\; п\; \phi \; К\; \gamma \; м\; -\; К\; +\; \sigma \; \epsilon \; 2\; \delta \; м,\; 0,\; \{\backslash \; displaystyle\; \backslash \; gamma\; \_\; \{m\}\; =\; \backslash \; sum\; \_\; \{k\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{k\}\; \backslash \; gamma\; \_\; \{mk\}\; +\; \backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}\; \backslash \; delta\; \_\; \{m,\; 0\},\}$

где m = 0,..., p, что дает p + 1 уравнение. Здесь $\gamma \; m\; \{\backslash \; displaystyle\; \backslash \; gamma\; \_\; \{m\}\}$- автоковариационная функция X t, $\sigma \; \epsilon \; \{\backslash \; displaystyle\; \backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\}$- стандартное а $\delta \; m,\; 0\; \{\backslash \; displaystyle\; \backslash \; delta\; \_\; \{m,\; 0\}\}$- дельта-функция Кронекера.

Временная последняя часть отдельного уравнения отлична от нуля, только если m = 0, система уравнений может быть решена путем представления для m>0 в матричной форме, таким образом получая уравнение

$[\gamma \; 1\; \gamma \; 2\; \gamma \; 3\; ⋮\; \gamma \; p]\; =\; [\gamma \; 0\; \gamma \; -\; 1\; \gamma \; -\; 2\; \dots \; \Gamma \; 1\; \gamma \; 0\; \gamma \; -\; 1\dots \; \gamma \; 2\; \gamma \; 1\; \gamma \; 0\dots \; ⋮\; ⋮\; ⋮\; \ddots \; \gamma \; p\; -\; 1\; \gamma \; p\; -\; 2\; \gamma \; p\; -\; 3\dots ]\; [\phi \; 1\; \phi \; 2\; \phi \; 3\; ⋮\; \phi \; p]\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{bmatrix\}\; \backslash \; gamma\; \_\; \{1\}\; \backslash \backslash \backslash \; gamma\; \_\; \{2\}\; \backslash \backslash \backslash \; gamma\; \_\; \{3\}\; \backslash \; vdots\; \backslash \backslash \backslash \; gamma\; \_\; \{p\}\; \backslash \backslash \backslash \; end\; \{bmatrix\}\}\; =\; \{\backslash \; begin\; \{bmatrix\}\; \}\; \backslash \; gamma\; \_\; \{0\}\; \backslash \; gamma\; \_\; \{-\; 1\}\; \backslash \; gamma\; \_\; \{-\; 2\}\; \backslash \; dots\; \backslash \backslash \backslash \; gamma\; \_\; \{1\}\; \backslash \; gamma\; \_\; \{0\}\; \backslash \; gamma\; \_\; \{-\; 1\}\; \backslash \; dots\; \backslash \backslash \backslash \; gamma\; \_\; \{2\}\; \backslash \; gamma\; \_\; \{1\}\; \backslash \; gamma\; \_\; \{0\}\; \backslash \; dots\; \backslash \backslash \backslash \; vdots\; \backslash \; vdots\; \backslash \; vdots\; \backslash \; ddots\; \backslash \backslash \backslash \; gamma\; \_\; \{p-1\}\; \backslash \; гамма\; \_\; \{p-2\}\; \backslash \; gamma\; \_\; \{p-3\}\; \backslash \; dots\; \backslash \backslash \backslash \; end\; \{bmatrix\}\}\; \{\backslash \; begin\; \{bmatrix\}\; \backslash \; вар\; phi\; \_\; \{1\}\; \backslash \backslash \backslash \; varphi\; \_\; \{2\}\; \backslash \backslash \; \backslash \; varphi\; \_\; \{3\}\; \backslash \backslash \backslash \; vdots\; \backslash \backslash \backslash \; varphi\; \_\; \{p\}\; \backslash \backslash \backslash \; end\; \{bmatrix\}\}\}$

который может быть решен для всех $\{\phi \; m;\; m\; =\; 1,\; 2,\; \cdots ,\; p\}.\; \{\backslash \; Displaystyle\; \backslash \; \{\backslash \; varphi\; \_\; \{м\};\; m\; =\; 1,2,\; \backslash \; cdots,\; p\; \backslash \}.\}$Оставшееся уравнение для m = 0:

$\gamma \; 0\; =\; \sum \; k\; =\; 1\; п\; \phi \; К\; \gamma \; -\; К\; +\; \sigma \; \epsilon \; 2,\; \{\backslash \; Displaystyle\; \backslash \; gamma\; \_\; \{0\}\; =\; \backslash \; sum\; \_\; \{k\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{k\}\; \backslash \; gamma\; \_\; \{-\; k\}\; +\; \backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\},\}$

который, однажды $\{\phi \; m;\; м\; знак\; равно\; 1,\; 2,\; \cdots ,\; п\}\; \{\backslash \; Displaystyle\; \backslash \; \{\backslash \; varphi\; \_\; \{м\};\; m\; =\; 1,2,\; \backslash \; cdots,\; p\; \backslash \}\}$известны, могут быть решены для $\sigma \; \epsilon \; 2.\; \{\backslash \; displaystyle\; \backslash \; sigma\; \_\; \{\backslash \; varepsilon\}\; ^\; \{2\}.\}$

Альтернативная формулировка в терминах автокорреляционная функция. Параметры AR определяются первыми p + 1 элементами $\rho \; (\tau )\; \{\backslash \; displaystyle\; \backslash \; rh\; o\; (\backslash \; tau)\}$автокорреляционная функция. Затем полная автокорреляционная функция может быть получена путем рекурсивного вычисления

$\rho \; (\tau )\; =\; \sum \; k\; =\; 1\; p\; \phi \; k\; \rho \; (k\; -\; \tau )\; \{\backslash \; displaystyle\; \backslash \; rho\; (\backslash \; tau)\; =\; \backslash \; sum\; \_\; \{k\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{k\}\; \backslash \; rho\; (k-\; \backslash \; tau)\}$

Примеры для некоторых процессов AR (p) низкого порядка

• p = 1
  • $\gamma \; 1\; =\; \phi \; 1\; \gamma \; 0\; \{\backslash \; Displaystyle\; \backslash \; gamma\; \_\; \{1\}\; =\; \backslash \; varphi\; \_\; \{1\}\; \backslash \; gamma\; \_\; \{0\}\}$
  • , следовательно, $\rho \; 1\; =\; \gamma \; 1\; /\; \gamma \; 0\; =\; \phi \; 1\; \{\backslash \; displaystyle\; \backslash \; rho\; \_\; \{1\}\; =\; \backslash \; gamma\; \_\; \{1\}\; /\; \backslash \; gamma\; \_\; \{0\}\; =\; \backslash \; varphi\; \_\; \{1\}\}$
• p = 2
  • Уравнения Юла - Уокера для процесса AR (2):

    $\gamma \; 1\; знак\; равно\; \phi \; 1\; \gamma \; 0\; +\; \phi \; 2\; \gamma \; -\; 1\; \{\backslash \; Displaystyle\; \backslash \; gamma\; \_\; \{1\}\; =\; \backslash \; varphi\; \_\; \{1\}\; \backslash \; gamma\; \_\; \{0\}\; +\; \backslash \; varphi\; \_\; \{2\}\; \backslash \; gamma\; \_\; \{-\; 1\}\}$

    $\gamma \; 2\; знак\; равно\; \phi \; 1\; \gamma \; 1\; +\; \phi \; 2\; \gamma \; 0\; \{\backslash \; displaystyle\; \backslash \; gamma\; \_\; \{2\}\; =\; \backslash \; varphi\; \_\; \{1\}\; \backslash \; gamma\; \_\; \{1\}\; +\; \backslash \; varphi\; \_\; \{2\}\; \backslash \; gamma\; \_\; \{0\}\}$

    • Помните, что $\gamma \; -\; k\; =\; \gamma \; k\; \{\backslash \; displaystyle\; \backslash \; gamma\; \_\; \{-\; k\}\; =\; \backslash \; gamma\; \_\; \{k\}\}$
    • Первое использование уравнения дает $\rho \; 1\; =\; \gamma \; 1\; /\; \gamma \; 0\; знак\; равно\; \phi \; 1\; 1\; -\; \phi \; 2\; \{\backslash \; di\; s\; playstyle\; \backslash \; rho\; \_\; \{1\}\; =\; \backslash \; gamma\; \_\; \{1\}\; /\; \backslash \; gamma\; \_\; \{0\}\; =\; \{\backslash \; frac\; \{\backslash \; varphi\; \_\; \{1\}\}\; \{1-\; \backslash \; varphi\; \_\; \{2\}\}\}\}$
    • Используя формулу рекурсии, получаем $\rho \; 2\; =\; \gamma \; 2\; /\; \gamma \; 0\; знак\; равно\; \phi \; 1\; 2\; -\; \phi \; 2\; 2\; +\; \phi \; 2\; 1\; -\; \phi \; 2\; \{\backslash \; displaystyle\; \backslash \; rho\; \_\; \{2\}\; =\; \backslash \; gamma\; \_\; \{2\}\; /\; \backslash \; gamma\; \_\; \{0\}\; =\; \{\backslash \; frac\; \{\backslash \; varphi\; \_\; \{1\}\; ^\; \{2\}\; -\; \backslash \; varphi\; \_\; \{2\}\; ^\; \{2\}\; +\; \backslash \; varphi\; \_\; \{2\}\}\; \{1-\; \backslash \; varphi\; \_\; \{2\}\}\}\}$

Оценка параметров параметров AR

Приведенные выше уравнения (уравнения Юла-Уокера) используют несколько способов оценки параметров модели AR (p) путем теоретических ковариаций оценочных значений. Некоторые из этих вариантов можно описать следующим образом:

• Оценка автоковариаций или автокорреляций. Здесь каждый из этих слагаемых оценивается отдельно с использованием этих общепринятых оценок. Есть разные способы сделать это, и выбор между ними влияет на свойства схемы оценки. Например, отрицательные оценки дисперсии могут быть получены с помощью некоторых вариантов.
• Формулировка в виде задачи регрессии наименьших квадратов, в которой строится обычная задача прогнозирования методом наименьших квадратов на основе прогнозирования значений X t на p предыдущих значений той же серии. Это можно рассматривать как схему прямого прогнозирования. Можно, что нормальные уравнения для этой задачи соответствуют аппроксимации матричной формы уравнений Юла - Уокера, в котором появляется новое появление автоковариантности одного и того же запаздывания, заменяется несколько иной оценкой.
• Формулировка как расширенная форма обычной задачи прогнозирования методом наименьших квадратов. Здесь два набора прогнозных соотношений объединены в единую схему оценки и единый набор нормальных соотношений. Один набор представляет собой набор способов прямого прогнозирования, а другой - соответствующий набор способов обратного прогнозирования, относящихся к обратному представлению модели AR:

$X\; t\; =\; c\; +\; \sum \; i\; =\; 1\; p\; \phi \; i\; X\; t\; -\; i\; +\; \epsilon \; t\; \ast .\; \{\backslash \; displaystyle\; X\_\; \{t\}\; =\; c\; +\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{i\}\; X\_\; \{ti\}\; +\; \backslash \; varepsilon\; \_\; \{t\}\; ^\; \{*\}\; \backslash ,.\}$

Здесь прогнозируемые значения X t будут основаны на будущих значениях того же ряда. Этот способ оценки параметров AR разработан Бургом и называется методом Бурга: Бургом и более поздние авторы назвали эти оценки «оценками максимальными энтропии», но аргументация, лежащая в основе этого, применима к использованию любого набора оцененных параметров AR. По сравнению со схемой оценивания, используются только уравнения прогнозирования, производятся оценки разные автоковариации, и оценки разные свойства устойчивости. Оценки Бург, в частности, связаны с спектральной оценкой максимальной энтропии.

Другие возможные подходы к оценке включают в себя оценку максимальной правдоподобия. Доступны два варианта размера правдоподобия: в одном (в целом эквивалентном схеме наименьших квадратов прямого прогнозирования) рассматриваемая функция правдоподобия соответствует условному распределению более поздних значений в ряду при начальных значениях p в ряду; во втором случае функция правдоподобия соответствующая безусловному распределению всех значений в наблюдаемом ряду. Существующие ряды коротких подходов.

спектральная плотность мощности (PSD) процесса AR (p) с дисперсией шума $V\; ar\; (Z\; t)\; =\; \sigma \; Z\; 2\; \{\backslash \; displaystyle\; \backslash \; mathrm\; \{Var\; \}\; (Z\_\; \{t\})\; =\; \backslash \; sigma\; \_\; \{Z\}\; ^\; \{2\}\}$is

$S\; (f)\; =\; \sigma \; Z\; 2\; |\; 1\; -\; \sum \; k\; =\; 1\; p\; \phi \; k\; e\; -\; i\; 2\; \pi \; f\; k\; |\; 2.\; \{\backslash \; Displaystyle\; S\; (е)\; =\; \{\backslash \; гидроразрыва\; \{\backslash \; sigma\; \_\; \{Z\}\; ^\; \{2\}\}\; \{|\; 1-\; \backslash \; sum\; \_\; \{k\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{k\}\; e\; ^\; \{-\; i2\; \backslash \; pi\; fk\}\; |\; ^\; \{2\}\}\}.\}$

AR (0)

Для белого шума (AR (0))

$S\; (f)\; =\; \sigma \; Z\; 2.\; \{\backslash \; Displaystyle\; S\; (f)\; =\; \backslash \; sigma\; \_\; \{Z\}\; ^\; \{2\}.\}$

AR (1)

Для AR (1)

$S\; (f)\; =\; \sigma \; Z\; 2\; |\; 1\; -\; \phi \; 1\; e\; -\; 2\; \pi \; i\; f\; |\; 2\; знак\; равно\; \sigma \; Z\; 2\; 1\; +\; \phi \; 1\; 2\; -\; 2\; \phi \; 1\; соз\; \; 2\; \pi \; е\; \{\backslash \; Displaystyle\; S\; (f)\; =\; \{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{Z\}\; ^\; \{2\}\}\; \{|\; 1-\; \backslash \; varphi\; \_\; \{1\}\; e\; ^\; \{-\; 2\; \backslash \; pi\; if\}\; |\; ^\; \{2\}\}\}\; =\; \{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{Z\}\; ^\; \{2\}\}\; \{1+\; \backslash \; varphi\; \_\; \{1\}\; ^\; \{2\}\; -2\; \backslash \; varphi\; \_\; \{1\}\; \backslash \; cos\; 2\; \backslash \; pi\; f\}\; \}\}$

• Если $\phi \; 1>0\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}>0\}$есть один спектральный пик при f = 0, часто называемый красный шум. По мере того, как $\phi \; 1\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}\}$становится ближе к 1, появляется более высокая мощность на низких частотах, т. Е. Большие временные задержки.
• Если , существует минимум при f = 0, часто называемый синим шумом, спектру света, все, кроме красного света, будет отфильтровано.

AR (2)

AR (2) процессы можно разделить на три группы в зависимости от характеристик. также действует как фильтр верхних частот, все, кроме синего света, будет отфильтровано. их корней:

$z\; 1,\; z\; 2\; =\; 1\; 2\; (\phi \; 1\; \pm \; \phi \; 1\; 2\; +\; 4\; \phi \; 2)\; \{\backslash \; displaystyle\; z\_\; \{1\},\; z\_\; \{2\}\; =\; \{\backslash \; frac\; \{1\}\; \{2\}\}\; \backslash \; left\; (\backslash \; varphi\; \_\; \{1\}\; \backslash \; pm\; \{\backslash \; sqrt\; \{\backslash \; varphi\; \_\; \{1\}\; ^\; \{2\}\; +4\; \backslash \; varphi\; \_\; \{2\}\}\}\; \backslash \; right)\}$

• Когда , процесс имеет пару комплексно-сопряженных корней, создающих среднечастотный пик при:

$f\; \ast \; =\; 1\; 2\; \pi \; cos\; -\; 1\; \; (\phi \; 1\; (\phi \; 2\; -\; 1)\; 4\; \phi \; 2)\; \{\backslash \; displaystyle\; f\; ^\; \{*\}\; =\; \{\backslash \; frac\; \{1\}\; \{2\; \backslash \; pi\}\}\; \backslash \; cos\; ^\; \{-\; 1\}\; \backslash \; left\; (\{\backslash \; frac\; \{\backslash \; varphi\; \_\; \{1\}\; (\backslash \; varphi\; \_\; \{2\}\; -1)\}\; \{4\; \backslash \; varphi\; \_\; \{2\}\}\}\; \backslash \; right)\}$

В противном случае процесс имеет действительные корни и:

• Когда $\phi \; 1>0\; \{\backslash \; displaystyle\; \backslash \; varphi\; \_\; \{1\}>0\}$он действует как фильтр нижних частот для белого шума со спектральным пиком при $f\; =\; 0\; \{\backslash \; displaystyle\; f\; =\; 0\}$
• Когда он действует как фильтр верхних частот для белого шума со спектральным пиком при $f\; =\; 1/2\; \{\backslash \; displaystyle\; f\; =\; 1/2\}$.

Процесс нестационарен, когда корни находятся вне единичной окружности. Процесс устойчиво, когда корни находятся внутри единого круга или, что эквивалентно, когда коэффициенты находятся в треугольнике $-\; 1\; \le \; \phi \; 2\; \le \; 1\; -\; |\; \phi \; 1\; |\; \{\backslash \; displaystyle\; -1\; \backslash \; leq\; \backslash \; varphi\; \_\; \{2\}\; \backslash \; leq\; 1-\; |\; \backslash \; varphi\; \_\; \{1\}\; |\}$.

Полная функция PSD может быть выражена в вещественной форме как:

$S\; (f)\; =\; \sigma \; Z\; 2\; 1\; +\; \phi \; 1\; 2\; +\; \phi \; 2\; 2-2\; \phi \; 1\; (1\; -\; \phi \; 2)\; соз\; \; (2\; \pi \; е)\; -\; 2\; \phi \; 2\; соз\; \; (4\; \pi \; f)\; \{\backslash \; displaystyle\; S\; (f)\; =\; \{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{Z\}\; ^\; \{2\}\}\; \{1+\; \backslash \; varphi\; \_\; \{\; 1\}\; ^\; \{2\}\; +\; \backslash \; varphi\; \_\; \{2\}\; ^\; \{2\}\; -2\; \backslash \; varphi\; \_\; \{1\}\; (1-\; \backslash \; varphi\; \_\; \{2\})\; \backslash \; cos\; (2\; \backslash \; pi\; f)\; -2\; \backslash \; varphi\; \_\; \{2\; \}\; \backslash \; cos\; (4\; \backslash \; pi\; f)\}\}\}$

• R, статистика пакета включает функцию ar.
• MATLAB Econometrics Toolbox и System Identification Toolbox включает модели авторегрессии
• Matlab и Octave : набор инструментов TSA содержит несколько функций оценки для одно-, многомерных и адаптивные модели авторегрессии.
• PyMC3 : структура байесовской статистики и вероятностного программирования поддерживает режимы авторегрессии с p-лагами.
• bayesloop поддерживает вывод параметров и выбор моделей для процесса AR-1 с изменяющимися во времени параметров.
• Python : реализовать в статистических моделях.

Импульсный отклик системы - это изменение развивающейся в ответ на изменение значений шокового члена за k периодов ранее, как функция от k. Модель AR используется частным случаем модели векторной авторегрессии, здесь используется вычисление импульсной характеристики в векторной авторегрессии # импульсная характеристика.

того, как параметры авторегрессии

$X\; t\; =\; c\; +\; \sum \; i\; =\; 1\; p\; \phi \; i\; X\; t\; -\; i\; +\; \epsilon \; t\; \{\backslash \; displaystyle\; X\_\; \{t\; \}\; =\; c\; +\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{p\}\; \backslash \; varphi\; \_\; \{i\}\; X\_\; \{ti\}\; +\; \backslash \; varepsilon\; \_\; \{t\}\; \backslash ,\}$

были оценены, авторегрессия может быть назначена для прогнозирования произвольное количество периодов в будущем. Сначала используйте t для обозначения первого периода, по которому еще нет данных; замените известные предыдущие значения X ti вместо i = 1,..., p в уравнении авторегрессии при установке члена ошибки $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\}$равно нулю (потому что мы прогнозируем, что X t равно его ожидаемому значению, а ожидаемое значение ненаблюдаемого члена равно нулю). Результатом уравнения авторегрессии прогноз на первый ненаблюдаемый период. Затем используйте t для обозначения следующего периода. опять же, уравнение авторегрессии используется для составления прогноза, с одним отличием: значение X за период до текущего прогнозируемого неизвестно, поэтому вместо него используется его ожидаемое значение - прогнозируемое значение, полученное на предыдущем этапе прогнозирования.. Затем для будущих периодов используется та же процедура, каждый раз с использованием одного прогнозируемого значения в правой части прогнозного уравнения до тех пор, пока предсказанные значения не предсказываются из предыдущих шагов.

Существует четыре неопределенности относительно прогнозов, полученного таким образом: (1) неопределенность относительно того, является ли авторегрессионная модель правильной моделью; (2) неопределенность относительно точности прогнозируемых значений, используемые в качестве запаздывающих значений в правой части уравнения авторегрессии; (3) неопределенность истинных значений коэффициентов авторегрессии; и (4) неопределенность в отношении значения члена $\epsilon \; t\; \{\backslash \; displaystyle\; \backslash \; varepsilon\; \_\; \{t\}\; \backslash ,\}$для прогнозируемого периода. Каждый из трех последних может быть определен количественно и объединен для расчета доверительного интервала для прогнозов на n шагов вперед; доверительный интервал будет становиться интервалом по мере увеличения n из-за использования все большего числа оценочных значений для числа с правой стороны.

Прогностическая эффективность авторегрессионной модели может быть оценена, как только оценка будет выполнена, если используется перекрестная проверка. В этом подходе использовались некоторые из доступных для целей оценки параметров, а некоторые из возможных наблюдений позже в наборе данных были задержаны для тестирования вне выборки. В качестве альтернативы, по прошествии некоторого времени после того, как была проведена оценка параметров, станет доступным больше данных, и прогностическая характеристика может быть оценена с использованием новых данных.

В любом случае есть два аспекта прогнозной производительности, которые могут быть оценены: на один шаг вперед и на n шагов вперед. Для производительности на один шаг вперед оцененные параметры используются в уравнении авторегрессии вместе с наблюдаемыми значениями X для всех периодов, предшествующих прогнозируемому, и выходом уравнения является прогноз на один шаг вперед; эта процедура используется для получения прогнозов для каждого из наблюдений вне выборки. Чтобы оценить качество прогнозов на n шагов вперед, для получения прогнозов используется процедура прогнозирования, описанная в предыдущем разделе.

Учитывая набор прогнозируемых значений и соответствующий набор фактических значений для X для различных периодов времени, общий метод оценки заключается в использовании среднеквадратичной ошибки прогнозирования ; доступны и другие меры (см. прогнозирование # точность прогнозирования ).

Возникает вопрос, как интерпретировать измеренную точность прогноза - например, что такое «высокое» (плохое) или «низкое» (хорошее) значение для среднеквадратичной ошибки прогноза? Есть две возможные точки сравнения. Во-первых, точность прогнозирования альтернативной модели, оцененная при различных допущениях моделирования или различных методах оценки, может использоваться для целей сравнения. Во-вторых, показатель точности вне выборки можно сравнить с той же мерой, вычисленной для точек данных в выборке (которые использовались для оценки параметров), для которых доступно достаточно значений предшествующих данных (то есть отбрасывание первых p данных точки, для которых p предварительных данных недоступны). Поскольку модель была оценена специально для максимального соответствия точкам в выборке, обычно бывает так, что прогностическая эффективность вне выборки будет хуже, чем прогностическая эффективность внутри выборки. Но если качество прогнозирования ухудшается вне выборки на «не очень сильно» (что не поддается точному определению), то прогнозист может быть удовлетворен производительностью.

• Модель скользящего среднего
• Линейное разностное уравнение
• Прогнозирующая аналитика
• Линейное прогнозное кодирование
• Резонанс
• рекурсия Левинсона
• Процесс Орнштейна – Уленбека

• Миллс, Теренс К. (1990). Методы временных рядов для экономистов. Cambridge University Press.
• Персиваль, Дональд Б.; Уолден, Эндрю Т. (1993). Спектральный анализ для физических приложений. Cambridge University Press.
• Pandit, Sudhakar M.; Ву, Шиен-Мин (1983). Временные ряды и системный анализ с приложениями. John Wiley Sons.

• Анализ авторегрессии (AR) от Пола Бурка
• Лекция по эконометрике (тема: модели авторегрессии) на YouTube от Марк Тома