Беспристрастная оценка стандартного отклонения

редактировать

Процедура оценки стандартного отклонения из выборки

В статистике и в конкретная статистическая теория, несмещенная оценка стандартного отклонения - это вычисление на основе статистической выборки оценочного значения стандартного отклонения ( мера статистической дисперсии ) совокупности значений таким образом, чтобы ожидаемое значение вычисления равнялось истинному значению. За исключением некоторых важных ситуаций, описанных ниже, задача не имеет большого отношения к приложениям статистики, поскольку ее потребности устраняются стандартными процедурами, такими как использование тестов значимости и доверительных интервалов, или с помощью байесовского анализа.

Однако для статистической теории он предоставляет примерную проблему в контексте теории оценивания, которую легко сформулировать и для которой результаты не могут быть получены в закрытой форме. Он также предоставляет пример, в котором введение требования объективной оценки может рассматриваться как просто добавление неудобств без реальной выгоды.

Содержание

1 Предпосылки
2 Коррекция смещения
- 2.1 Результаты для нормального распределения
- 2.2 Практическое правило для нормального распределения
- 2.3 Другие распределения
3 Эффект автокорреляции (последовательный корреляция)
- 3.1 Пример смещения в стандартном отклонении
- 3.2 Дисперсия среднего
- 3.3 Оценка стандартного отклонения генеральной совокупности
- 3.4 Оценка стандартного отклонения выборочного среднего
4 См. также
5 Ссылки
6 Внешние ссылки

Предпосылки

В статистике стандартное отклонение совокупности чисел часто оценивается как случайная выборка, составленная из населения. Это стандартное отклонение выборки, которое определяется как

s = ∑ i = 1 n (xi - x ¯) 2 n - 1, {\ displaystyle s = {\ sqrt {\ frac {\ sum _ {i = 1} ^ {n} (x_ {i} - {\ overline {x}}) ^ {2}} {n-1}}},}

{\ displaystyle s = {\ sqrt {\ frac {\ sum _ {i = 1} ^ {n} (x_ {i} - {\ overline {x}}) ^ {2}} {n-1}}},}

где ${x 1, x 2,…, xn} {\ displaystyle \ {x_ {1}, x_ {2}, \ ldots, x_ {n} \}}$ $\ {x_ {1}, x_ {2}, \ ldots, x_ {n} \}$ - это образец (формально реализации из случайной величины X) и $x ¯ {\ displaystyle {\ overline {x}}}$ ${\ overline {x}}$ - это выборочное среднее.

Один из способов увидеть, что это смещенная оценка стандартного отклонения генеральной совокупности должно начинаться с того результата, что s является несмещенной оценкой для дисперсии σ базовой совокупности, если такая дисперсия существует и значения выборки построены самостоятельно с заменой. Квадратный корень - это нелинейная функция, и только линейные функции коммутируют с математическим ожиданием. Поскольку квадратный корень является строго вогнутой функцией, из неравенства Дженсена следует, что квадратный корень из выборочной дисперсии является заниженным.

Использование n - 1 вместо n в формуле для выборочной дисперсии известно как поправка Бесселя, которая исправляет систематическую ошибку при оценке дисперсии генеральной совокупности, и некоторые, но не вся систематическая ошибка в оценке стандартного отклонения населения.

Невозможно найти оценку стандартного отклонения, которая была бы несмещенной для всех распределений генеральной совокупности, так как систематическая ошибка зависит от конкретного распределения. Большая часть следующего относится к оценке, предполагающей нормальное распределение.

Коррекция смещения

Результаты для нормального распределения

Поправочный коэффициент

c 4 {\ displaystyle c_ {4}}

c_4

по сравнению с размером выборки n.

Если случайная величина нормально распределена, существует небольшая поправка для устранения смещения. Чтобы получить поправку, обратите внимание, что для нормально распределенного X, теорема Кохрана означает, что $(n - 1) s 2 / σ 2 {\ displaystyle (n-1) s ^ {2} / \ сигма ^ {2}}$ ${\ displaystyle (n-1) s ^ {2} / \ sigma ^ {2}}$ имеет распределение хи-квадрат с $n - 1 {\ displaystyle n-1}$ $n-1$ степенями свободы и, следовательно, его квадрат корень, $n - 1 s / σ {\ displaystyle {\ sqrt {n-1}} s / \ sigma}$ ${\ displaystyle { \ sqrt {n-1}} s / \ sigma}$ имеет распределение хи с $n - 1 {\ displaystyle n-1}$ $n-1$ степеней свободы. Следовательно, вычисляя математическое ожидание этого последнего выражения и переставляя константы,

E ⁡ [s] = c 4 (n) σ {\ displaystyle \ operatorname {E} [s] = c_ {4} (n) \ sigma}

{\ displaystyle \ operatorname {E} [s] = c_ {4} (n) \ sigma}

где поправочный коэффициент $c 4 (n) {\ displaystyle c_ {4} (n)}$ ${\ displaystyle c_ {4} (n)}$ - это среднее по шкале распределения ци с $n - 1 {\ displaystyle n-1}$ $n-1$ степеней свободы, $μ 1 / n - 1 {\ displaystyle \ mu _ {1} / {\ sqrt {n-1}}}$ ${\ displaystyle \ mu _ {1} / { \ sqrt {n-1}}}$ . Это зависит от размера выборки n и задается следующим образом:

c 4 (n) = 2 n - 1 Γ (n 2) Γ (n - 1 2) = 1 - 1 4 n - 7 32 n 2 - 19 128 n 3 + O (n - 4) {\ displaystyle c_ {4} (n) = {\ sqrt {\ frac {2} {n-1}}} {\ frac {\ Gamma \ left ({\ frac {n} {2}} \ right)} {\ Gamma \ left ({\ frac {n-1} {2}} \ right)}} = 1 - {\ frac {1} {4n}} - { \ frac {7} {32n ^ {2}}} - {\ frac {19} {128n ^ {3}}} + O (n ^ {- 4})}

{\ displaystyle c_ {4} (n) = {\ sqrt {\ frac {2} {n-1}}} {\ frac {\ Gamma \ left ({\ frac {n} {2}} \ right)} {\ Gamma \ left ({\ frac {n-1} {2} } \ right)}} = 1 - {\ frac {1} {4n}} - {\ frac {7} {32n ^ {2}}} - {\ гидроразрыв {19} {128n ^ {3}}} + O (n ^ {- 4})}

где Γ (·) - гамма-функция. Несмещенную оценку σ можно получить, разделив $s {\ displaystyle s}$ $s$ на $c 4 (n) {\ displaystyle c_ {4} (n)}$ ${\ displaystyle c_ {4} (n)}$ . Когда $n {\ displaystyle n}$ $n$ становится большим, оно приближается к 1, и даже для меньших значений поправка незначительна. На рисунке показан график зависимости $c 4 (n) {\ displaystyle c_ {4} (n)}$ ${\ displaystyle c_ {4} (n)}$ от размера выборки. В таблице ниже приведены числовые значения $c 4 (n) {\ displaystyle c_ {4} (n)}$ ${\ displaystyle c_ {4} (n)}$ и алгебраические выражения для некоторых значений $n {\ displaystyle n}$ $n$ ; более полные таблицы можно найти в большинстве учебников по статистическому контролю качества.

Размер выборки	Выражение $c 4 {\ displaystyle c_ {4}}$ $c_4$	Числовое значение
2	$2 π {\ displaystyle {\ sqrt {\ frac {2} {\ pi}}}}$ ${\ sqrt {\ frac {2} {\ pi}}}$	0,7978845608
3	$π 2 {\ displaystyle {\ frac {\ sqrt {\ pi}} {2}}}$ ${\ frac {\ sqrt {\ pi}} {2}}$	0,8862269255
4	$2 2 3 π {\ displaystyle 2 {\ sqrt {\ frac {2} {3 \ pi}}}}$ ${\ displaystyle 2 {\ sqrt {\ frac {2} {3 \ pi}}}}$	0,9213177319
5	$3 4 π 2 {\ displaystyle {\ frac {3 } {4}} {\ sqrt {\ frac {\ pi} {2}}}}$ ${\ displaystyle {\ frac {3} {4}} { \ sqrt {\ frac {\ pi} {2}}}}$	0,9399856030
6	$8 3 2 5 π {\ displaystyle {\ frac {8} {3}} {\ sqrt { \ frac {2} {5 \ pi}}}}$ ${\ displaystyle {\ frac {8} {3}} {\ sqrt {\ frac {2} {5 \ pi}}}}$	0,9515328619
7	$5 3 π 16 {\ displaystyle {\ frac {5 {\ sqrt {3 \ pi}}} {16}}}$ ${\ frac {5 {\ sqrt {3 \ pi}}} {16}}$	0,9593687891
8	$16 5 2 7 π {\ displaystyle {\ frac {16} {5}} {\ sqrt {\ frac {2} {7 \ pi}}}}$ ${\ displaystyle {\ frac {16} {5}} {\ sqrt {\ frac {2} {7 \ pi}}}}$	0,9650304561
9	$35 π 64 { \ displaystyle {\ frac {35 {\ sqrt {\ pi}}} {64}}}$ ${\ frac {35 {\ sqrt {\ pi}}} {64}}$	0,9693106998
10	$128 105 2 π {\ displaystyle {\ frac {128} {105}} { \ sqrt {\ frac {2} {\ pi}}}}$ ${\ displaystyle {\ frac {128} {105}} {\ sqrt {\ frac {2} {\ pi}}}}$	0,9726592741
100		0,9974779761
1000		0,9997497811
10000		0,999974 9978
2k	$2 π (2 k - 1) 2 2 k - 2 (k - 1)! 2 (2 к - 2)! {\ displaystyle {\ sqrt {\ frac {2} {\ pi (2k-1)}}} {\ frac {2 ^ {2k-2} (k-1)! ^ {2}} {(2k-2)!}}}$ ${\ displaystyle {\ sqrt {\ frac {2} {\ pi (2k- 1)}}} {\ frac {2 ^ {2k-2} (k-1)! ^ {2}} {(2k-2)!}}}$
2k + 1	$π k (2 k - 1)! 2 2 к - 1 (к - 1)! 2 {\ displaystyle {\ sqrt {\ frac {\ pi} {k}}} {\ frac {(2k-1)!} {2 ^ {2k-1} (k-1)! ^ {2}}} }$ ${\ displaystyle {\ sqrt {\ frac {\ pi} {k}}} {\ frac {(2k-1)!} {2 ^ {2k-1} (k-1)! ^ {2}}}}$

Важно помнить, что эта поправка дает несмещенную оценку только для нормально и независимо распределенного X. Когда это условие удовлетворяется, другой результат о s, включающем $c 4 (n) {\ displaystyle c_ {4 } (n)}$ ${\ displaystyle c_ {4} (n)}$ означает, что стандартная ошибка для s равна $σ 1 - c 4 2 {\ displaystyle \ sigma {\ sqrt {1-c_ {4} ^ {2}}}}$ $\ sigma {\ sqrt {1 -c_ {4} ^ {2}}}$ , а стандартная ошибка несмещенной оценки составляет $σ c 4 - 2 - 1. {\ displaystyle \ sigma {\ sqrt {c_ {4} ^ {- 2} -1}}.}$ $\ sigma {\ sqrt {c_ {4} ^ {- 2} -1}}.$

Практическое правило для нормального распределения

Если вычисление функции c 4 (n) кажется слишком сложным, есть простое практическое правило, чтобы использовать оценку

σ ^ = 1 n - 1,5 ∑ i = 1 n (xi - x ¯) 2 {\ displaystyle {\ hat { \ sigma}} = {\ sqrt {{\ frac {1} {n-1.5}} \ sum _ {i = 1} ^ {n} (x_ {i} - {\ overline {x}}) ^ {2 }}}}

{\ displaystyle {\ hat {\ sigma}} = {\ sqrt {{\ frac {1} {n-1.5}} \ sum _ {i = 1} ^ {n} (x_ {i} - {\ overline {x}}) ^ {2}}}}

Формула отличается от знакомого выражения для s только тем, что в знаменателе стоит n - 1,5 вместо n - 1. Это выражение является приблизительным; фактически

E ⁡ [σ ^] = σ ⋅ (1 + 1 16 n 2 + 3 16 n 3 + O (n - 4)). {\ displaystyle \ operatorname {E} \ left [{\ hat {\ sigma}} \ right] = \ sigma \ cdot \ left (1 + {\ frac {1} {16n ^ {2}}} + {\ frac {3} {16n ^ {3}}} + O (n ^ {- 4}) \ right).}

{\ displaystyle \ operatorname {E} \ left [{\ hat {\ sigma}} \ right] = \ sigma \ cdot \ left (1 + {\ frac {1} {16n ^ {2}}} + {\ frac {3} {16n ^ {3}}} + O (n ^ {- 4}) \ right).}

Смещение относительно невелико: скажем, для $n = 3 {\ displaystyle n = 3 }$ $n = 3$ он равен 1,3%, а для $n = 9 {\ displaystyle n = 9}$ ${\ displaystyle n = 9}$ смещение уже составляет 0,1%.

Другие распределения

В случаях, когда статистически независимые данные моделируются параметрическим семейством распределений, отличным от нормального распределения, стандартное отклонение совокупности будет, если он существует, зависеть от параметров модели. Один из общих подходов к оценке - максимальное правдоподобие. В качестве альтернативы можно использовать теорему Рао – Блэквелла как путь к нахождению хорошей оценки стандартного отклонения. Ни в том, ни в другом случае полученные оценки обычно не были бы объективными. Теоретически можно получить теоретические поправки, которые приведут к несмещенным оценкам, но, в отличие от поправок для нормального распределения, они обычно будут зависеть от предполагаемых параметров.

Если требуется просто уменьшить систематическую ошибку оцененного стандартного отклонения, а не полностью ее устранить, то доступны два практических подхода, оба в контексте повторной выборки. Это складывание и самозагрузка. Оба могут применяться либо к параметрическим оценкам стандартного отклонения, либо к стандартному отклонению выборки.

Для ненормальных распределений приблизительная (до O (n) членов) формула для несмещенной оценки стандартного отклонения:

σ ^ = 1 n - 1,5 - 1 4 γ 2 ∑ i = 1 n (xi - x ¯) 2, {\ displaystyle {\ hat {\ sigma}} = {\ sqrt {{\ frac {1} {n-1.5 - {\ tfrac {1} {4}} \ gamma _ {2}}} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ right) ^ {2}}},}

{\ displaystyle {\ hat {\ sigma}} = {\ sqrt {{\ frac {1} {n-1.5 - {\ tfrac {1} {4}} \ gamma _ {2}}} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ right) ^ {2} }},}

где γ 2 обозначает популяцию избыточного эксцесса. Избыточный эксцесс для определенных распределений может быть известен заранее или рассчитан на основе данных.

Эффект автокорреляции (последовательная корреляция)

Приведенный выше материал, чтобы еще раз подчеркнуть, применяется только к независимым данным. Однако реальные данные часто не соответствуют этому требованию; это автокорреляция (также известная как последовательная корреляция). В качестве одного примера, последовательные показания измерительного прибора, который включает в себя некоторую форму процесса «сглаживания» (вернее, низкочастотной фильтрации), будут автокоррелированы, поскольку любое конкретное значение вычисляется из некоторой комбинации более ранних и более поздних показаний.

Оценки дисперсии и стандартного отклонения автокоррелированных данных будут смещены. Ожидаемое значение выборочной дисперсии:

E [s 2] = σ 2 [1-2 n - 1 ∑ k = 1 n - 1 (1 - kn) ρ k] {\ displaystyle {\ rm {E} } \ left [s ^ {2} \ right] = \ sigma ^ {2} \ left [1 - {\ frac {2} {n-1}} \ sum _ {k = 1} ^ {n-1} \ left (1 - {\ frac {k} {n}} \ right) \ rho _ {k} \ right]}

{\ displaystyle {\ rm {E}} \ left [s ^ {2} \ right] = \ sigma ^ {2} \ left [1 - {\ frac {2} {n-1}} \ sum _ {k = 1} ^ { n-1} \ left (1 - {\ frac {k} {n}} \ right) \ rho _ {k} \ right]}

где n - размер выборки (количество измерений), а $ρ k {\ displaystyle \ rho _ {k}}$ $\ rho _ {k}$ - функция автокорреляции (ACF) данных. (Обратите внимание, что выражение в скобках - это просто единица минус средняя ожидаемая автокорреляция для показаний.) Если ACF состоит из положительных значений, тогда оценка дисперсии (и ее квадратного корня, стандартного отклонения) будет иметь низкое смещение. То есть фактическая изменчивость данных будет больше, чем указанная нескорректированная дисперсия или расчет стандартного отклонения. Важно понимать, что, если это выражение будет использоваться для исправления смещения, разделив оценку $s 2 {\ displaystyle s ^ {2}}$ $s ^ {2}$ на количество в скобках выше, то ACF должна быть известна аналитически, а не путем оценки на основе данных. Это связано с тем, что оценочная ACF сама будет смещена.

Пример смещения в стандартном отклонении

Чтобы проиллюстрировать величину смещения в стандартном отклонении, рассмотрим набор данных, который состоит из последовательных считываний из прибор, который использует определенный цифровой фильтр, ACF которого, как известно, задается как

ρ k = (1 - α) k {\ displaystyle \ rho _ {k} = (1- \ alpha) ^ {k}}

{\ displaystyle \ rho _ {к} = (1- \ альфа) ^ {k}}

где α - параметр фильтра, принимающий значения от нуля до единицы. Таким образом, ACF положительна и геометрически убывает.

Смещение стандартного отклонения для автокоррелированных данных.

На рисунке показано отношение оцененного стандартного отклонения к его известному значению (которое может быть вычислено аналитически для этого цифрового фильтра) для нескольких настроек α как функции выборки размер n. Изменение α изменяет коэффициент уменьшения дисперсии фильтра, который, как известно, равен

VRR = α 2 - α {\ displaystyle {\ rm {VRR}} = {\ frac {\ alpha} {2- \ alpha}} }

{\ displaystyle {\ rm { VRR}} = {\ frac {\ alpha} {2- \ alpha}}}

, чтобы меньшие значения α приводили к большему уменьшению дисперсии или «сглаживанию». Смещение указано значениями на вертикальной оси, отличными от единицы; то есть, если бы не было смещения, отношение расчетного стандартного отклонения к известному было бы равно единице. Очевидно, что для небольших размеров выборки может быть значительная систематическая ошибка (в два или более раз).

Дисперсия среднего

Часто представляет интерес оценить дисперсию или стандартное отклонение оцененного среднего, а не дисперсию генеральной совокупности. Когда данные автокоррелированы, это оказывает прямое влияние на теоретическую дисперсию выборочного среднего, которая составляет

V ar [x ¯] = σ 2 n [1 + 2 ∑ k = 1 n - 1 (1 - kn) ρ k]. {\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ frac {\ sigma ^ {2}} {n}} \ left [1 + 2 \ sum _ {k = 1} ^ {n-1} {\ left (1 - {\ frac {k} {n}} \ right) \ rho _ {k}} \ right].}

{\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ frac {\ sigma ^ {2}} {n}} \ left [1 + 2 \ sum _ {k = 1} ^ {n-1} {\ left (1 - {\ frac {k} {n}} \ справа) \ rho _ {k}} \ right].}

Дисперсия выборочного среднего может затем можно оценить, подставив оценку σ. Одна такая оценка может быть получена из уравнения для E [s], приведенного выше. Сначала определите следующие константы, снова предполагая, что известна ACF:

γ 1 ≡ 1-2 n - 1 ∑ k = 1 n - 1 (1 - kn) ρ k {\ displaystyle \ гамма _ {1} \ Equiv 1 - {\ frac {2} {n-1}} \ sum _ {k = 1} ^ {n-1} {\ left (1 - {\ frac {k} {n} } \ right)} \ rho _ {k}}

{\ displaystyle \ gamma _ {1} \ Equiv 1 - {\ frac {2} {n-1}} \ sum _ {k = 1} ^ {n-1} {\ left (1 - {\ frac {k } {n}} \ right)} \ rho _ {k}}

γ 2 ≡ 1 + 2 ∑ k = 1 n - 1 (1 - kn) ρ k {\ displaystyle \ gamma _ {2} \ Equiv 1 + 2 \ sum _ {k = 1} ^ {n-1} {\ left (1 - {\ frac {k} {n}} \ right)} \ rho _ {k}}

{\ displaystyle \ gamma _ {2} \ Equiv 1 + 2 \ sum _ { k = 1} ^ {n-1} {\ left (1 - {\ frac {k} {n}} \ right)} \ rho _ {k}}

так, чтобы

E [ s 2] = σ 2 γ 1 ⇒ E [s 2 γ 1] = σ 2 {\ displaystyle {\ rm {E}} \ left [s ^ {2} \ right] = \ sigma ^ {2} \ gamma _ {1} \ Rightarrow {\ rm {E}} \ left [{\ frac {s ^ {2}} {\ gamma _ {1}}} \ right] = \ sigma ^ {2}}

{\ displaystyle {\ rm {E}} \ left [s ^ {2} \ right] = \ sigma ^ {2} \ gamma _ {1} \ Rightarrow {\ rm {E}} \ left [{\ frac {s ^ {2}} {\ gamma _ {1}}} \ right] = \ sigma ^ {2}}

Здесь сказано что ожидаемое значение величины, полученной путем деления наблюдаемой дисперсии выборки на поправочный коэффициент $γ 1 {\ displaystyle \ gamma _ {1}}$ $\ gamma _ {1}$ , дает несмещенную оценку дисперсии. Аналогичным образом, переписав приведенное выше выражение для дисперсии среднего,

V ar [x ¯] = σ 2 n γ 2 {\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ frac {\ sigma ^ {2}} {n}} \ gamma _ {2}}

{\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ frac { \ sigma ^ {2}} {n}} \ gamma _ {2}}

и подставив оценку вместо $σ 2 {\ displaystyle \ sigma ^ {2}}$ $\ sigma ^ {2}$ дает

V ar [x ¯] = E [s 2 γ 1 (γ 2 n)] = E [s 2 n {n - 1 n γ 2 - 1}] {\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ rm {E}} \ left [{\ frac {s ^ {2}} {\ gamma _ {1}}} \ left ({\ frac {\ gamma _ {2}} {n}} \ right) \ right] = {\ rm {E}} \ left [{\ frac {s ^ {2}} {n}} \ left \ {{\ frac {n-1} {{\ frac {n} {\ gamma _ {2}}} - 1}} \ right \} \ right]}

{\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ rm {E}} \ left [{\ frac {s ^ {2}} {\ gamma _ {1}}} \ left ({\ frac {\ gamma _ {2}} {n}} \ right) \ right] = {\ rm {E}} \ left [{\ гидроразрыв {s ^ {2}} {n}} \ left \ {{\ frac {n-1} {{\ frac {n} {\ gamma _ {2 }}} - 1}} \ right \} \ right]}

, который представляет собой объективную оценку дисперсии среднее значение с точки зрения наблюдаемой дисперсии выборки и известных величин. Обратите внимание, что, если автокорреляции $ρ k {\ displaystyle \ rho _ {k}}$ $\ rho _ {k}$ идентичны нулю, это выражение сводится к хорошо известному результату для дисперсии среднего для независимых данных. Эффект оператора ожидания в этих выражениях заключается в том, что равенство выполняется в среднем (т.е. в среднем).

Оценка стандартного отклонения генеральной совокупности

Имея приведенные выше выражения, включающие дисперсию генеральной совокупности и оценку среднего для этой совокупности, казалось бы Логично просто извлечь квадратный корень из этих выражений, чтобы получить несмещенные оценки соответствующих стандартных отклонений. Однако, поскольку ожидания являются интегралами,

E [s] ≠ E [s 2] ≠ σ γ 1 {\ displaystyle {\ rm {E}} [s] \ neq {\ sqrt {{\ rm {E}} \ left [s ^ {2} \ right]}} \ neq \ sigma {\ sqrt {\ gamma _ {1}}}}

{\ displaystyle {\ rm {E}} [ s] \ neq {\ sqrt {{\ rm {E}} \ left [s ^ {2} \ right]}} \ neq \ sigma {\ sqrt {\ gamma _ {1}}}}

Вместо этого предположим, что существует функция θ такая, что несмещенная оценка стандартного отклонения можно записать как

E [s] = σ θ γ 1 ⇒ σ ^ = s θ γ 1 {\ displaystyle {\ rm {E}} [s] = \ sigma \ theta {\ sqrt {\ gamma _ {1}}} \ Rightarrow {\ hat {\ sigma}} = {\ frac {s} {\ theta {\ sqrt {\ gamma _ {1}}}}}}

{\ displaystyle {\ rm {E}} [s] = \ sigma \ theta {\ sqrt {\ gamma _ {1}}} \ Rightarrow {\ hat {\ sigma}} = {\ frac {s} { \ theta {\ sqrt {\ gamma _ {1}}}}}}

и θ зависит от размер выборки n и ACF. В случае данных NID (нормально и независимо распределенных) подкоренное выражение равно единице, а θ - это просто функция c 4, указанная в первом разделе выше. Как и в случае c 4, θ приближается к единице по мере увеличения размера выборки (как и γ 1).

С помощью имитационного моделирования можно продемонстрировать, что игнорирование θ (то есть принятие его за единицу) и использование

E [s] ≈ σ γ 1 ⇒ σ ^ ≈ s γ 1 {\ displaystyle { \ rm {E}} [s] \ приблизительно \ sigma {\ sqrt {\ gamma _ {1}}} \ Rightarrow {\ hat {\ sigma}} \ приблизительно {\ frac {s} {\ sqrt {\ gamma _ {1}}}}}

{\ displaystyle {\ rm {E}} [s] \ приблизительно \ sigma {\ sqrt {\ gamma _ {1}}} \ Rightarrow {\ hat {\ sigma}} \ приблизительно {\ frac {s} {\ sqrt {\ gamma _ {1}}}}}

удаляет все, кроме нескольких процентов смещения, вызванного автокорреляцией, что делает его оценкой с уменьшенным смещением, а не несмещенной оценкой. В практических ситуациях измерения это уменьшение систематической ошибки может быть значительным и полезным, даже если сохраняется относительно небольшая погрешность. Рисунок выше, показывающий пример смещения стандартного отклонения в зависимости от размера выборки, основан на этом приближении; фактическое смещение будет несколько больше, чем указано на этих графиках, поскольку смещение преобразования θ туда не включено.

Оценка стандартного отклонения выборочного среднего

Несмещенная дисперсия среднего в терминах дисперсии генеральной совокупности и ACF определяется как

V ar [x ¯] = σ 2 n γ 2 {\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ frac {\ sigma ^ {2}} {n}} \ gamma _ {2}}

{\ displaystyle {\ rm {Var}} \ left [{\ overline {x}} \ right] = {\ frac { \ sigma ^ {2}} {n}} \ gamma _ {2}}

и поскольку здесь нет ожидаемых значений, в этом случае можно взять квадратный корень, так что

σ x ¯ = σ n γ 2 {\ displaystyle \ sigma _ {\ overline {x}} = {\ frac {\ sigma} {\ sqrt {n}}} {\ sqrt {\ gamma _ {2}}}}

{\ displaystyle \ sigma _ {\ overline {x} } = {\ frac {\ sigma} {\ sqrt {n}}} {\ sqrt {\ gamma _ {2}}}}

Используя выражение для несмещенной оценки выше для σ, оценка стандартного отклонения тогда среднее значение будет

σ ^ x ¯ = s θ n γ 2 γ 1 {\ displaystyle {\ hat {\ sigma}} _ {\ overline {x}} = {\ frac {s} {\ theta {\ sqrt {n}}}} {\ frac {\ sqrt {\ gamma _ {2}}} {\ sqrt {\ gamma _ {1}}}}}

{\ displaystyle {\ hat {\ sigma}} _ {\ overline {x}} = {\ frac {s} {\ theta {\ sqrt {n}}}} {\ frac {\ sqrt {\ gamma _ {2}}} {\ sqrt {\ gamma _ { 1}}}}}

Если данные имеют NID, так что ACF исчезает, это сокращается до

σ ^ x ¯ = sc 4 ​​n {\ displaystyle {\ hat {\ sigma}} _ {\ overline {x}} = {\ frac {s} {c_ {4} {\ sqrt {n}}}}}

{\ displaystyle {\ hat {\ sigma}} _ {\ overline {x}} = {\ frac {s} {c_ {4} {\ sqrt {n}}}}}

При наличии ненулевой ACF, i Наблюдение за функцией θ, как и раньше, приводит к оценке с уменьшенным смещением

σ ^ x ¯ ≈ sn γ 2 γ 1 = snn - 1 n γ 2 - 1 {\ displaystyle {\ hat {\ sigma}} _ {\ overline {x}} \ приблизительно {\ frac {s} {\ sqrt {n}}} {\ frac {\ sqrt {\ gamma _ {2}}} {\ sqrt {\ gamma _ {1}}}} = { \ frac {s} {\ sqrt {n}}} {\ sqrt {\ frac {n-1} {{\ frac {n} {\ gamma _ {2}}} - 1}}}}

{\ displaystyle {\ hat {\ sigma}} _ {\ overline {x}} \ приблизительно {\ frac {s} {\ sqrt {n}}} { \ frac {\ sqrt {\ gamma _ {2}}} {\ sqrt {\ gamma _ {1}}}} = {\ frac {s} {\ sqrt {n}}} {\ sqrt {\ frac {n -1} {{\ frac {n} {\ gamma _ {2}}} - 1}}}}

который снова можно продемонстрировать, что устраняет значительную часть систематической ошибки.

См. Также

Ссылки

Дуглас С. Монтгомери и Джордж К. Рангер, Прикладная статистика и вероятность для Engineers, 3-е издание, Wiley and sons, 2003. (см. Разделы 7–2.2 и 16–5)

Внешние ссылки

A Интерактивная графика Java, показывающая PDF-файл Helmert, из которого получены коэффициенты коррекции смещения.
Демонстрация моделирования Монте-Карло для объективной оценки стандартного отклонения.
http://www.itl.nist.gov/div898/handbook/pmc/section3/pmc32.htm Что такое контрольные диаграммы переменных?

Эта статья включает материалы, являющиеся общественным достоянием, с веб-сайта Национального института стандартов и технологий https://www.nist.gov.