Обобщенный метод моментов

Методика оценки параметров в статистике, особенно в эконометрике

В эконометрике и статистика, обобщенный метод моментов (GMM ) - это общий метод оценки параметров в статистических моделях. Обычно он применяется в контексте полупараметрических моделей, где интересующий параметр является конечномерным, тогда как полная форма функции распределения данных может быть неизвестна, и поэтому оценка максимального правдоподобия не применимо.

Метод требует, чтобы для модели было указано определенное количество моментов. Эти моментные условия являются функциями параметров модели и данных, так что их ожидание равно нулю при истинных значениях параметров. Затем метод GMM минимизирует определенную норму выборочных средних значений моментов, и поэтому его можно рассматривать как частный случай оценки минимального расстояния.

Оценщики GMM известны как непротиворечивые, асимптотически нормальные и эффективные в классе всех оценок, которые не используют никаких дополнительных информация помимо той, что содержится в настоящих условиях. GMM был предложен Ларсом Питером Хансеном в 1982 году как обобщение метода моментов, введенного Карлом Пирсоном в 1894 году. Однако эти оценки математически эквивалентны к тем, которые основаны на «условиях ортогональности» (Sargan, 1958, 1959) или «уравнениях несмещенной оценки» (Huber, 1967; Wang et al., 1997).

• 1 Описание
• 2 Свойства
  • 2.1 Согласованность
  • 2.2 Асимптотическая нормальность
  • 2.3 Эффективность
• 3 Реализация
• 4 J-тест Саргана – Хансена
• 5 Область применения
• 6 Реализации
• 7 См. Также
• 8 Ссылки
• 9 Дополнительная литература

Предположим, что доступные данные состоят из T наблюдений {Y t}t = 1,..., T, где каждое наблюдение Y t является n-мерной многомерной случайной величиной. Мы предполагаем, что данные поступают из некой статистической модели, определенной с точностью до неизвестного параметра θ ∈ Θ. Цель задачи оценки - найти «истинное» значение этого параметра, θ 0, или, по крайней мере, достаточно близкую оценку.

Общее предположение GMM состоит в том, что данные Y t генерируются слабо стационарным эргодическим случайным процессом. (Случай независимых и одинаково распределенных (iid) переменных Y t является частным случаем этого условия.)

Чтобы применить GMM, нам необходимо имеют "моментные условия", то есть нам нужно знать вектор-функцию g (Y, θ) такую, что

$m\; (\theta \; 0)\; \equiv \; E\; \; [g\; (Y\; t,\; \theta \; 0)]\; знак\; равно\; 0,\; \{\backslash \; Displaystyle\; м\; (\backslash \; theta\; \_\; \{0\})\; \backslash \; Equiv\; \backslash \; OperatorName\; \{E\}\; [\backslash ,\; g\; (Y\_\; \{t\},\; \backslash \; theta\; \_\; \{0\})\; \backslash ,]\; =\; 0,\}$

, где E обозначает ожидание, а Y t является общим наблюдением. Более того, функция m (θ) должна отличаться от нуля для θ ≠ θ 0, в противном случае параметр θ не будет идентифицирован в точке- .

Основная идея GMM заключается в замене теоретической математическое ожидание E [⋅] с его эмпирическим аналогом - выборочное среднее:

$m\; ^\; (\theta )\; \equiv \; 1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta )\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{m\}\}\; (\backslash \; theta)\; \backslash \; Equiv\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \backslash \; theta)\}$

, а затем минимизировать норму этого выражения относительно к θ. Минимизирующее значение θ - это наша оценка для θ 0.

. По закону больших чисел, $m\; ^\; (\theta )\; \approx \; E\; \; [g\; (Y\; t,\; \theta )]\; =\; m\; (\theta )\; \{\backslash \; Displaystyle\; \backslash \; scriptstyle\; \{\backslash \; шляпа\; \{м\}\}\; (\backslash \; theta)\; \backslash ,\; \backslash \; ок\; \backslash ;\; \backslash \; OperatorName\; \{E\}\; [g\; (Y\_\; \{t\},\; \backslash \; theta)]\; \backslash ,\; =\; \backslash ,\; m\; (\backslash \; theta)\; \}$для больших значений T, поэтому мы ожидаем, что $m\; ^\; (\theta \; 0)\; \approx \; m\; (\theta \; 0)\; =\; 0\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{m\}\}\; (\backslash \; theta\; \_\; \{0\})\; \backslash ;\; \backslash \; приблизительно\; \backslash ;\; m\; (\backslash \; theta\; \_\; \{0\})\; \backslash ;\; =\; \backslash ;\; 0\}$. Обобщенный метод моментов ищет число $\theta \; ^\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\}$, которое составило бы $m\; ^\; (\theta \; ^)\; \{\backslash \; displaystyle\; \backslash \; стиль\; сценария\; \{\backslash \; hat\; \{m\}\}\; (\backslash ;\; \backslash !\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; \backslash ;\; \backslash !)\}$как можно ближе к нулю. Математически это эквивалентно минимизации определенной нормы $m\; ^\; (\theta )\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{m\}\}\; (\backslash \; theta)\}$(норма m, обозначается как | | m ||, измеряет расстояние между m и нулем). Свойства полученной оценки будут зависеть от конкретного выбора функции нормы, и поэтому теория GMM рассматривает все семейство норм, определяемое как

$\Vert \; m\; ^\; (\theta )\; \Vert \; W\; 2\; =\; m\; ^\; (\theta )\; TW\; m\; ^\; (\theta ),\; \{\backslash \; displaystyle\; \backslash \; |\; \{\backslash \; hat\; \{m\}\}\; (\backslash \; theta)\; \backslash \; |\; \_\; \{W\}\; ^\; \{2\}\; =\; \{\backslash \; hat\; \{m\}\}\; (\backslash \; theta)\; ^\; \{\backslash \; mathsf\; \{\; T\}\}\; \backslash ,\; W\; \{\backslash \; hat\; \{m\}\}\; (\backslash \; theta),\}$

, где W - положительно-определенная матрица весов, а $m\; T\; \{\backslash \; displaystyle\; m\; ^\; \{\; \backslash \; mathsf\; \{T\}\}\}$обозначает транспонирование. На практике весовая матрица W вычисляется на основе доступного набора данных, который будет обозначаться как $W\; ^\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{W\}\}\}$. Таким образом, оценка GMM может быть записана как

$\theta \; ^\; =\; arg\; \; min\; \theta \; \in \; \Theta \; (1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta ))\; TW\; ^\; (1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta ))\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; =\; \backslash \; operatorname\; \{arg\}\; \backslash \; min\; \_\; \{\backslash \; theta\; \backslash \; in\; \backslash \; Theta\}\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \backslash \; theta)\; \{\backslash \; bigg)\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \{\backslash \; hat\; \{W\}\}\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\; \}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \backslash \; theta)\; \{\backslash \; bigg)\}\}$

При подходящих условиях эта оценка непротиворечива, асимптотически нормальный и с правильным выбором матрицы весов $W\; ^\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{W\}\}\}$также асимптотически эффективный.

Согласованность

Согласованность - это статистическое свойство оценщика, указывающее, что, имея достаточное количество наблюдений, оценщик сходится с вероятностью к истинному значению параметра:

$\theta \; ^\; \to \; p\; \theta \; 0\; при\; T\; \to \; \infty .\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; \{\backslash \; xrightarrow\; \{p\}\}\; \backslash \; theta\; \_\; \{0\}\; \backslash \; \{\backslash \; text\; \{as\}\}\; \backslash \; T\; \backslash \; to\; \backslash \; infty.\}$

Достаточные условия для оценки GMM быть последовательными:

1. $W\; ^\; T\; \to \; p\; W,\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{W\}\}\; \_\; \{T\}\; \{\backslash \; xrightarrow\; \{p\}\}\; W,\}$где W положительная полуопределенная матрица,
2. $WE\; \; [g\; (Y\; t,\; \theta )]\; =\; 0\; \{\backslash \; displaystyle\; \backslash ,\; W\; \backslash \; operatorname\; \{E\}\; [\backslash ,\; g\; (Y\_\; \{t\},\; \backslash \; theta)\; \backslash ,\; ]\; =\; 0\}$только для $\theta \; =\; \theta \; 0,\; \{\backslash \; displaystyle\; \backslash ,\; \backslash \; theta\; =\; \backslash \; theta\; \_\; \{0\},\}$
3. пробел возможных параметров $\Theta \; \subset \; R\; К\; \{\backslash \; Displaystyle\; \backslash \; Theta\; \backslash \; subset\; \backslash \; mathbb\; \{R\}\; ^\; \{k\}\}$компактный,
4. $g\; (Y,\; \theta )\; \{\backslash \; displaystyle\; \backslash ,\; g\; (Y,\; \backslash \; theta)\}$непрерывно в каждом θ с вероятностью единица,
5. 

Второе условие здесь (так -названное условие глобальной идентификации ) часто особенно трудно проверить. Существуют более простые необходимые, но недостаточные условия, которые могут использоваться для обнаружения проблемы, не связанной с идентификацией:

• Условие заказа . Размерность моментной функции m (θ) должна быть по крайней мере такой же, как размерность вектора параметров θ.
• Локальная идентификация . Если g (Y, θ) непрерывно дифференцируем в окрестности $\theta \; 0\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{0\}\}$, то матрица $WE\; \; [\nabla \; \theta \; g\; (Y\; t,\; \theta \; 0)]\; \{\backslash \; displaystyle\; W\; \backslash \; operatorname\; \{E\}\; [\backslash \; nabla\; \_\; \{\backslash \; theta\}\; g\; (Y\_\; \{t\},\; \backslash \; theta\; \_\; \{0\})]\}$должен иметь полный ранг столбца.

На практике эконометристы-прикладники часто просто предполагают, что глобальная идентификация верна, не доказывая ее на самом деле.

Асимптотическая нормальность

Асимптотическая нормальность - полезное свойство, поскольку оно позволяет нам построить доверительные интервалы для оценщика и проведите различные тесты. Прежде чем мы сможем сделать утверждение об асимптотическом распределении оценки GMM, нам нужно определить две вспомогательные матрицы:

$G\; =\; E\; \; [\nabla \; \theta \; g\; (Y\; t,\; \theta \; 0)],\; \Omega \; =\; E\; \; [g\; (\; Y\; T,\; \theta \; 0)\; g\; (Y\; t,\; \theta \; 0)\; T]\; \{\backslash \; displaystyle\; G\; =\; \backslash \; operatorname\; \{E\}\; [\backslash ,\; \backslash \; nabla\; \_\; \{\backslash !\; \backslash \; Theta\}\; \backslash ,\; g\; (Y\_\; \{t\},\; \backslash \; theta\; \_\; \{0\})\; \backslash ,],\; \backslash \; qquad\; \backslash \; Omega\; =\; \backslash \; operatorname\; \{E\}\; [\backslash ,\; g\; (Y\_\; \{t\},\; \backslash \; theta\; \_\; \{0\})\; g\; (Y\_\; \{t\},\; \backslash \; theta\; \_\; \{0\})\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash ,]\}$

Тогда при условиях 1–6, перечисленных ниже, оценка GMM будет асимптотически нормальной с предельным распределением :

$T\; (\theta \; ^\; -\; \theta \; 0)\; \to \; d\; N\; [0,\; (GTWG)\; -\; 1\; GTW\; \Omega \; WTG\; (GTWTG)\; -\; 1].\; \{\backslash \; displaystyle\; \{\backslash \; sqrt\; \{T\}\}\; \{\backslash \; big\; (\}\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; -\; \backslash \; theta\; \_\; \{0\}\; \{\backslash \; big)\}\; \backslash \; \{\backslash \; xrightarrow\; \{d\}\}\; \backslash \; \{\backslash \; mathcal\; \{N\}\; \}\; \{\backslash \; big\; [\}\; 0,\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG)\; ^\; \{-\; 1\}\; G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; W\; \backslash \; Omega\; W\; ^\; \{\backslash \; mathsf\; \{T\}\}\; G\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; W\; ^\; \{\backslash \; mathsf\; \{T\}\}\; G)\; ^\; \{-\; 1\}\; \{\backslash \; big]\}.\}$

Условия:

1. $\theta \; ^\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\; \}\}$согласован (см. Предыдущий раздел),
2. Набор возможных параметров $\Theta \; \subset \; R\; k\; \{\backslash \; displaystyle\; \backslash \; Theta\; \backslash \; subset\; \backslash \; mathbb\; \{R\}\; ^\; \{k\}\; \}$является компактным,
3. $g\; (Y,\; \theta )\; \{\backslash \; displaystyle\; \backslash ,\; g\; (Y,\; \backslash \; theta)\}$непрерывно дифференцируемо в некоторой окрестности N из $\theta \; 0\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{0\}\}$с вероятностью один,
4. 
5. 
6. матрица $G\; \prime \; WG\; \{\backslash \; displaystyle\; G\text{'}WG\}$неособая.

Эффективность

Итак о выборе матрицы W мы пока ничего не сказали, за исключением того, что она должна быть положительно полуопределенной. Фактически, любая такая матрица будет давать непротиворечивую и асимптотически нормальную оценку GMM, единственная разница будет в асимптотической дисперсии этой оценки. Можно показать, что выбор

$W\; \propto \; \Omega \; -\; 1\; \{\backslash \; displaystyle\; W\; \backslash \; propto\; \backslash \; \backslash \; Omega\; ^\; \{-\; 1\}\}$

приведет к наиболее эффективной оценке в классе всех асимптотически нормальных оценок. Эффективность в этом случае означает, что такая оценка будет иметь наименьшую возможную дисперсию (мы говорим, что матрица A меньше, чем матрица B, если B – A является положительно полуопределенным).

В этом случае формула для асимптотического распределения оценки GMM упрощается до

$T\; (\theta \; ^\; -\; \theta \; 0)\; \to \; d\; N\; [0,\; (GT\; \Omega \; -\; 1\; G)\; -\; 1]\; \{\backslash \; displaystyle\; \{\backslash \; sqrt\; \{T\}\}\; \{\backslash \; big\; (\}\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; -\; \backslash \; theta\; \_\; \{0\}\; \{\backslash \; big)\}\; \backslash \; \{\backslash \; xrightarrow\; \{d\}\}\; \backslash \; \{\backslash \; mathcal\; \{N\}\}\; \{\; \backslash \; big\; [\}\; 0,\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash ,\; \backslash \; Omega\; ^\; \{-\; 1\}\; G)\; ^\; \{-\; 1\}\; \{\backslash \; big]\}\}$

Доказательство того, что такой выбор весовой матрицы действительно оптимально, часто принимается с небольшими изменениями при установлении эффективности других оценщиков. Как показывает опыт, матрица взвешивания является оптимальной, когда она превращает «формулу сэндвича» для сжатия дисперсии в более простое выражение.

Доказательство . Мы рассмотрим разницу между асимптотической дисперсией с произвольным W и асимптотической дисперсией с $W\; =\; \Omega \; -\; 1\; \{\backslash \; displaystyle\; W\; =\; \backslash \; Omega\; ^\; \{-\; 1\}\}$. Если мы сможем разложить эту разницу на симметричное произведение формы CC 'для некоторой матрицы C, то это будет гарантировать, что эта разница неотрицательно определена, и, следовательно, $W\; =\; \Omega \; -\; 1\; \{\backslash \; displaystyle\; W\; =\; \backslash \; Omega\; ^\; \{-1\}\}$будет оптимальным по определению.
$V\; (W)\; -\; V\; (\Omega \; -\; 1)\; \{\backslash \; displaystyle\; \backslash ,\; V\; (W)\; -V\; (\backslash \; Omega\; ^\; \{-\; 1\})\}$	$=\; (GTWG)\; -\; 1\; GTW\; \Omega \; WG\; (GTWG)\; -\; 1\; -\; (GT\; \Omega \; -\; 1\; G)\; -\; 1\; \{\backslash \; displaystyle\; \backslash ,\; =\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG)\; ^\; \{-\; 1\}\; G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; W\; \backslash \; Omega\; WG\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG)\; ^\; \{-\; 1\}\; -\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; Omega\; ^\; \{-\; 1\}\; G)\; ^\; \{-\; 1\}\}$
	$=\; (GTWG)\; -\; 1\; (GTW\; \Omega \; WG\; -\; GTWG\; (GT\; \Omega \; -\; 1\; G)\; -\; 1\; GTWG)\; (GTWG)\; -\; 1\; \{\backslash \; displaystyle\; \backslash ,\; =\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG)\; ^\; \{-\; 1\}\; \{\backslash \; Big\; (\}\; G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; W\; \backslash \; Omega\; WG-G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; Omega\; ^\; \{-\; 1\}\; G)\; ^\; \{-\; 1\}\; G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG\; \{\backslash \; Big)\}\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG)\; ^\; \{-\; 1\}\}$
	$=\; (GTWG)\; -\; 1\; GTW\; \Omega \; 1/2\; (I\; -\; \Omega \; -\; 1/2\; G\; (GT\; \Omega \; -\; 1\; G)\; -\; 1\; GT\; \Omega \; -\; 1/2)\; \Omega \; 1/2\; WG\; (GTWG)\; -\; 1\; \{\backslash \; displaystyle\; \backslash ,\; =\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG)\; ^\; \{\; -1\}\; G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; W\; \backslash \; Omega\; ^\; \{1/2\}\; \{\backslash \; Big\; (\}\; I-\; \backslash \; Omega\; ^\; \{-\; 1/2\}\; G\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; Omega\; ^\; \{-\; 1\}\; G)\; ^\; \{-\; 1\}\; G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; Omega\; ^\; \{-\; 1/2\}\; \{\backslash \; Big)\}\; \backslash \; Omega\; ^\; \{1/2\}\; WG\; (G\; ^\; \{\backslash \; mathsf\; \{T\}\}\; WG)\; ^\; \{-\; 1\}\}$
	$=\; A\; (I\; -\; B)\; AT,\; \{\backslash \; displaystyle\; \backslash ,\; =\; A\; (IB)\; A\; ^\; \{\backslash \; mathsf\; \{T\}\},\}$
где мы ввели матрицы A и B, чтобы немного si упростить обозначение; I - это единичная матрица. Мы видим, что матрица B здесь симметрична и идемпотентна : $B\; 2\; =\; B\; \{\backslash \; displaystyle\; B\; ^\; \{2\}\; =\; B\}$. Это означает, что I − B также симметричен и идемпотентен: $I\; -\; B\; =\; (I\; -\; B)\; (I\; -\; B)\; T\; \{\backslash \; displaystyle\; IB\; =\; (IB)\; (IB)\; ^\; \{\backslash \; mathsf\; \{T\}\}\}$. Таким образом, мы можем продолжить факторизацию предыдущего выражения как
	$=\; A\; (I\; -\; B)\; (I\; -\; B)\; TAT\; =\; (A\; (I\; -\; B))\; (A\; (I\; -\; B))\; T\; \ge \; 0\; \{\backslash \; displaystyle\; \backslash ,\; =\; A\; (IB)\; (IB)\; ^\; \{\backslash \; mathsf\; \{T\}\}\; A\; ^\; \{\backslash \; mathsf\; \{T\}\}\; =\; \{\backslash \; Big\; (\}\; A\; (IB)\; \{\backslash \; Big)\}\; \{\backslash \; Big\; (\}\; A\; (IB)\; \{\backslash \; Big)\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; geq\; 0\}$

Одна из трудностей с реализацией описанного метода состоит в том, что мы не можем взять W = Ω, потому что по определению матрицы Ω, нам нужно знать значение θ 0, чтобы вычислить эту матрицу, а θ 0 - это именно та величина, которую мы не знаем и пытаемся оценить в первую очередь. В случае, когда Y t является iid, мы можем оценить W как

$W\; ^\; T\; (\theta \; ^)\; =\; (1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta \; ^)\; g\; (Y\; t,\; \theta \; ^)\; T)\; -\; 1.\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{W\}\}\; \_\; \{T\}\; (\{\backslash \; hat\; \{\backslash \; theta\}\})\; =\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{\; T\}\; g\; (Y\_\; \{t\},\; \{\backslash \; hat\; \{\backslash \; theta\}\})\; g\; (Y\_\; \{t\},\; \{\backslash \; hat\; \{\backslash \; theta\}\})\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \{\backslash \; bigg)\}\; ^\; \{-\; 1\}.\}$

Существует несколько подходов для решения этой проблемы, первый из которых является наиболее популярным:

• Двухэтапный допустимый GMM :
  • Шаг 1: Возьмите W = I (единичная матрица ) или другую положительно-определенную матрицу и вычислить предварительную оценку GMM $\theta \; ^\; (1)\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; \_\; \{(1)\}\}$. Эта оценка согласована для θ 0, хотя и неэффективна.
  • Шаг 2: $W\; ^\; T\; (\theta \; ^\; (1))\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{W\}\}\; \_\; \{T\}\; (\{\backslash \; hat\; \{\backslash \; theta\}\}\; \_\; \{(1)\})\}$сходится по вероятности к Ω и, следовательно, если мы вычислим $\theta \; ^\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\}$с этой взвешивающей матрицей оценка будет асимптотически эффективной.
• Итерированной GMM . По сути, та же процедура, что и двухэтапный GMM, за исключением того, что матрица $W\; ^\; T\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{W\}\}\; \_\; \{T\}\}$пересчитывается несколько раз. То есть оценка, полученная на шаге 2, используется для вычисления весовой матрицы для шага 3 и так далее, пока не будет выполнен некоторый критерий сходимости.

  $\theta \; ^\; (i\; +\; 1)\; =\; arg\; \; min\; \theta \; \in \; \Theta \; (1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta ))\; TW\; ^\; T\; (\theta \; ^\; (i))\; (1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta ))\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; \_\; \{(i\; +\; 1)\}\; =\; \backslash \; operatorname\; \{arg\}\; \backslash \; min\; \_\; \{\backslash \; theta\; \backslash \; in\; \backslash \; Theta\}\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \backslash \; theta)\; \{\backslash \; bigg)\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \{\backslash \; hat\; \{W\; \}\}\; \_\; \{T\}\; (\{\backslash \; hat\; \{\backslash \; theta\}\}\; \_\; \{(i)\})\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \backslash \; theta)\; \{\backslash \; bigg)\}\}$

  Асимптотически никакое улучшение не может быть достигнуто с помощью таких итераций, хотя некоторые эксперименты Монте-Карло показывают, что свойства этой оценки с конечной выборкой немного лучше.
• Постоянное обновление GMM (CUGMM или CUE). Оценка $\theta \; ^\; \{\backslash \; displaystyle\; \backslash \; scriptstyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\}$одновременно с оценкой весовой матрицы W:

  $\theta \; ^\; =\; arg\; \; min\; \theta \; \in \; \Theta \; (1\; T\; \sum \; T\; знак\; равно\; 1\; T\; g\; (Y\; t,\; \theta ))\; TW\; ^\; T\; (\theta )\; (1\; T\; \sum \; T\; =\; 1\; T\; g\; (Y\; t,\; \theta ))\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; =\; \backslash \; operatorname\; \{arg\; \}\; \backslash \; min\; \_\; \{\backslash \; theta\; \backslash \; in\; \backslash \; Theta\}\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \backslash \; theta)\; \{\; \backslash \; bigg)\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \{\backslash \; hat\; \{W\}\}\; \_\; \{T\}\; (\backslash \; theta)\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \backslash \; theta)\; \{\backslash \; bigg)\}\}$

  В экспериментах Монте-Карло этот метод продемонстрировал лучшую производительность, чем традиционный двухшаговый GMM: оценка имеет меньшее медианное смещение (хотя более толстые хвосты), а J-тест для переопределения ограничений во многих случаях был более надежным.

Еще одна важная проблема в реализации процедуры минимизации заключается в том, что функция должна искать (возможно, многомерное) пространство параметров Θ и находить значение θ, которое минимизирует целевую функцию. Общих рекомендаций по такой процедуре не существует, это является предметом отдельной области, численная оптимизация.

Когда количество моментов больше, чем размер вектор параметров θ, модель называется переидентифицированной. Сарган (1958) предложил тесты для чрезмерной идентификации ограничений, основанные на оценках инструментальных переменных, которые распределяются в больших выборках как переменные хи-квадрат со степенями свободы, которые зависят от количества чрезмерно идентифицируемых ограничений. Впоследствии Хансен (1982) применил этот тест к математически эквивалентной формулировке оценок GMM. Обратите внимание, однако, что такая статистика может быть отрицательной в эмпирических приложениях, где модели указаны неправильно, и тесты отношения правдоподобия могут дать понимание, поскольку модели оцениваются как при нулевой, так и при альтернативной гипотезе (Bhargava and Sargan, 1983).

Концептуально мы можем проверить, достаточно ли близко $m\; ^\; (\theta \; ^)\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{m\}\}\; (\{\backslash \; hat\; \{\backslash \; theta\}\})\}$до нуля, чтобы предположить, что модель хорошо соответствует данным. Затем метод GMM заменил задачу решения уравнения $m\; ^\; (\theta )\; =\; 0\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{m\}\}\; (\backslash \; theta)\; =\; 0\}$, которое выбирает $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, чтобы точно соответствовать ограничениям, вычислением минимизации. Минимизацию всегда можно выполнить, даже если не существует $\theta \; 0\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{0\}\}$, такое что $m\; (\theta \; 0)\; =\; 0\; \{\backslash \; displaystyle\; m\; (\backslash \; theta\; \_\; \{0\})\; =\; 0\}$. Это то, что делает J-test. J-тест также называется тестом на переопределение ограничений.

Формально мы рассматриваем две гипотезы :

• $H\; 0:\; m\; (\theta \; 0)\; =\; 0\; \{\backslash \; displaystyle\; H\_\; \{0\}:\; \backslash \; m\; (\backslash \; theta\; \_\; \{0\})\; =\; 0\}$(нулевая гипотеза о том, что модель «действительна») и
• $H\; 1:\; m\; (\theta )\; \ne \; 0,\; \forall \; \theta \; \in \; \Theta \; \{\backslash \; displaystyle\; H\_\; \{1\}:\; \backslash \; m\; (\backslash \; theta)\; \backslash \; neq\; 0,\; \backslash \; \backslash \; forall\; \backslash \; theta\; \backslash \; in\; \backslash \; Theta\}$(альтернативная гипотеза, эта модель «недействительна»; данные не подходят для соответствия ограничения)

Согласно гипотезе $H\; 0\; \{\backslash \; displaystyle\; H\_\; \{0\}\}$следующая так называемая J-статистика асимптотически хи-квадрат распределена с k –L степеней свободы. Определим J как:

$J\; \equiv \; T\; \cdot \; (1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta \; ^))\; TW\; ^\; T\; (1\; T\; \sum \; t\; =\; 1\; T\; g\; (Y\; t,\; \theta \; ^))\; \to \; d\; \chi \; К\; -\; \ell \; 2\; \{\backslash \; Displaystyle\; J\; \backslash \; Equiv\; T\; \backslash \; cdot\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \{\; \backslash \; hat\; \{\backslash \; theta\}\})\; \{\backslash \; bigg)\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \{\backslash \; hat\; \{W\}\}\; \_\; \{T\}\; \{\backslash \; bigg\; (\}\; \{\backslash \; frac\; \{1\}\; \{T\}\}\; \backslash \; sum\; \_\; \{t\; =\; 1\}\; ^\; \{T\}\; g\; (Y\_\; \{t\},\; \{\backslash \; hat\; \{\backslash \; theta\}\})\; \{\backslash \; bigg)\}\; \backslash \; \{\backslash \; xrightarrow\; \{d\}\}\; \backslash \; \backslash \; chi\; \_\; \{k-\; \backslash \; ell\}\; ^\; \{\; 2\}\}$под $H\; 0,\; \{\backslash \; displaystyle\; H\_\; \{0\},\}$

где $\theta \; ^\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\}$- оценка GMM параметра $\theta \; 0\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{0\}\}$, k - количество моментов (размерность вектора g), l - число оцениваемых параметров (размерность вектора θ). Матрица $W\; ^\; T\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{W\}\}\; \_\; \{T\}\}$должна сходиться по вероятности к $\Omega \; -\; 1\; \{\backslash \; displaystyle\; \backslash \; Omega\; ^\; \{-\; 1\}\}$, эффективная матрица весов (обратите внимание, что ранее мы требовали только, чтобы W была пропорциональна $\Omega \; -\; 1\; \{\backslash \; displaystyle\; \backslash \; Omega\; ^\; \{-\; 1\}\}$, чтобы оценка была эффективно, однако для проведения J-теста W должно быть точно равно $\Omega \; -\; 1\; \{\backslash \; displaystyle\; \backslash \; Omega\; ^\; \{-\; 1\}\}$, а не просто пропорционально).

Согласно альтернативной гипотезе $H\; 1\; \{\backslash \; displaystyle\; H\_\; \{1\}\}$, J-статистика асимптотически неограничена:

$J\; \to \; p\; \infty \; \{\backslash \; displaystyle\; J\; \backslash \; \{\backslash \; xrightarrow\; \{p\}\}\; \backslash \; \backslash \; infty\}$в $H\; 1\; \{\backslash \; displaystyle\; H\_\; \{1\}\}$

Для проведения теста мы вычисляем значение J на ​​основе данных. Это неотрицательное число. Мы сравниваем его (например) с квантилем 0,95 из $\chi \; k\; -\; \ell \; 2\; \{\backslash \; displaystyle\; \backslash \; chi\; \_\; \{k-\; \backslash \; ell\}\; ^\; \{2\}\}$распределение:

• $H\; 0\; \{\backslash \; displaystyle\; H\_\; \{0\}\}$отклоняется с доверительной вероятностью 95%, если $J>q\; 0,95\; \chi \; k\; -\; \ell \; 2\; \{\backslash \; displaystyle\; J>q\_\; \{0,95\}\; ^\; \{\backslash \; chi\; \_\; \{k-\; \backslash \; ell\}\; ^\; \{2\}\}\}$
• $H\; 0\; \{\backslash \; displaystyle\; H\_\; \{\; 0\}\}$нельзя отклонить с уровнем достоверности 95%, если

Многие другие популярные методы оценки могут быть применены с точки зрения оптимизации GMM:

• Обычные наименьшие квадраты (OLS) эквивалентно GMM с условиями момента:

  $E\; \; [xt\; (yt\; -\; xt\; T\; \beta )]\; =\; 0\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; [\backslash ,\; x\_\; \{t\}\; (y\_\; \{t\}\; -\; x\_\; \{t\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; beta)\; \backslash ,]\; =\; 0\}$

• Взвешенный метод наименьших квадратов (WLS)
  $E\; \; [xt\; (yt\; -\; xt\; T\; \beta )\; /\; \sigma \; 2\; (XT)]\; знак\; равно\; 0\; \{\backslash \; Displaystyle\; \backslash \; OperatorName\; \{E\; \}\; [\backslash ,\; x\_\; \{t\}\; (y\_\; \{t\}\; -x\_\; \{t\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; beta)\; /\; \backslash \; sigma\; ^\; \{2\}\; (x\_\; \{t\})\; \backslash ,]\; =\; 0\}$
• Инструментальные переменные регрессия (IV)
  $E\; \; [zt\; (yt\; -\; xt\; T\; \beta )]\; =\; 0\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; [\backslash ,\; z\_\; \{t\}\; (y\_\; \{t\}\; -x\_\; \{t\}\; ^\; \{\backslash \; mathsf\; \{T\}\}\; \backslash \; beta)\; \backslash ,]\; =\; 0\}$
• Нелинейный метод наименьших квадратов (NLLS):
  $E\; \; [\nabla \; \beta \; g\; (\; xt,\; \beta )\; \cdot \; (yt\; -\; g\; (xt,\; \beta ))]\; знак\; равно\; 0\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; [\backslash ,\; \backslash \; nabla\; \_\; \{\backslash !\; \backslash \; beta\}\; \backslash ,\; g\; (x\_\; \{t\},\; \backslash \; beta)\; \backslash \; cdot\; (y\_\; \{t\}\; -g\; (x\_\; \{t\},\; \backslash \; beta))\; \backslash ,]\; =\; 0\}$
• Оценка максимального правдоподобия (MLE):
  $E\; \; [\nabla \; \theta \; ln\; \; е\; (xt,\; \theta )]\; знак\; равно\; 0\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; [\backslash ,\; \backslash \; nabla\; \_\; \{\backslash !\; \backslash \; Theta\}\; \backslash \; ln\; f\; (x\_\; \{t\},\; \backslash \; theta)\; \backslash ,]\; =\; 0\}$

• викиучебник по программированию на R, Метод моментов
• R
• Stata
• EViews
• SAS
• Gretl

• Метод максимального правдоподобия
• Оценка Ареллано – Бонда

• Huber, P. (1967). Поведение оценок максимального правдоподобия в нестандартных условиях. Труды Пятого симпозиума Беркли по математической статистике и вероятности 1, 221-233.

• Ньюи У., Макфадден Д. (1994). Оценка большой выборки и проверка гипотез, Справочник по эконометрике, глава 36. Elsevier Science.

• Imbens, Guido W. ; Spady, Ричард Х.; Джонсон, Филлип (1998). «Теоретико-информационные подходы к выводу в моделях моментных состояний» (PDF). Econometrica. 66 (2): 333–357. DOI : 10.2307 / 2998561. JSTOR 2998561. CS1 maint: ref = harv (ссылка )

• Сарган, Дж. Д. (1958). Оценка экономических отношений с использованием инструментальных переменных. Econometrica, 26, 393-415.

• Sargan, JD (1959). Оценка взаимосвязей с автокоррелированными остатками с помощью инструментальных переменных. Journal of the Royal Statistical Society B, 21, 91-105.

• Wang, CY, Wang, S., and Carroll, R. (1997). Оценка в выборке на основе выбора с ошибкой измерения и бутстрап-анализом. Journal of Econometrics, 77, 65-86.

• Bhargava, A., and Sargan, JD (1983). Оценка динамических случайных эффектов на основе панельных данных, охватывающих короткие периоды времени. Econometrica, 51, 6, 1635-1659.

• Hayashi, Fumio (2000). Econometrics. Princeton: Princeton University Press. ISBN 0-691-01018-8.
• Хансен, Ларс Питер (2002). «Метод моментов». В Смелсер, штат Нью-Джерси ; Бейтс, ПБ (ред.). Международная энциклопедия Социальные и поведенческие науки. Oxford: Pergamon.
• Hall, Аластер Р. (2005). Обобщенный метод моментов. Продвинутые тексты по эконометрике. Издательство Оксфордского университета. ISBN 0-19-877520-2.
• Faciane, Кирби Адам младший (2006). Статистика для эмпирических и количественных финансов. Статистика для эмпирических и количественных финансов. H.C. Бэрд. ISBN 0-9788208-9-4.
• Специальные выпуски журнала Business and Economic Statistics: vol. 14, вып. 3 и т. 20, нет. 4.