Масштабируемое обратное распределение хи-квадрат

редактировать

Распределение вероятностей Распределение вероятностей

Масштабированное обратное распределение хи-квадрат
Плотность вероятности function
Кумулятивная функция распределения
Параметры	$ν>0 {\ displaystyle \ nu>0 \,}$ $\nu>0 \,$ . $τ 2>0 {\ displaystyle \ tau ^ {2}>0 \, }$ $\tau^2>0 \,$
Поддержка	$x ∈ (0, ∞) {\ displaystyle x \ in (0, \ infty)}$ $x \ in (0, \ infty)$
PDF	$(τ 2 ν / 2) ν / 2 Γ (ν / 2) ехр ⁡ [- ν τ 2 2 Икс] Икс 1 + ν / 2 {\ Displaystyle {\ frac {(\ tau ^ {2} \ nu / 2) ^ {\ nu / 2}} {\ Gamma (\ nu / 2)}} ~ {\ frac {\ exp \ left [{\ frac {- \ nu \ tau ^ {2}} {2x}} \ right]} {x ^ {1+ \ nu / 2}}} }$ $\ frac {(\ tau ^ 2 \ nu / 2) ^ {\ nu / 2}} {\ Gamma (\ nu / 2)} ~ \ frac {\ exp \ left [\ frac {- \ nu \ tau ^ 2} {2 x} \ right ] } {x ^ {1+ \ nu / 2}}$
CDF	$Γ (ν 2, τ 2 ν 2 x) / Γ (ν 2) {\ d isplaystyle \ Gamma \ left ({\ frac {\ nu} {2}}, {\ frac {\ tau ^ {2} \ nu} {2x}} \ right) \ left / \ Gamma \ left ({\ frac { \ nu} {2}} \ right) \ right.}$ $\ Gamma \ left (\ frac {\ nu} {2}, \ frac {\ tau ^ 2 \ nu} {2x} \ right) \ left / \ Gamma \ left (\ frac {\ nu} {2} \ right) \ right.$
Среднее	$ν τ 2 ν - 2 {\ displaystyle {\ frac {\ nu \ tau ^ {2}} {\ nu -2}} }$ $\ frac { \ nu \ tau ^ 2} {\ nu-2}$ для $ν>2 {\ displaystyle \ nu>2 \,}$ $\nu>2 \,$
Mode	$ν τ 2 ν + 2 {\ displaystyle {\ frac {\ nu \ tau ^ { 2}} {\ nu +2}}}$ $\ frac {\ nu \ tau ^ 2} {\ nu + 2}$
Дисперсия	$2 ν 2 τ 4 (ν - 2) 2 (ν - 4) {\ displaystyle {\ frac {2 \ nu ^ {2} \ tau ^ {4}} {(\ nu -2) ^ {2} (\ nu -4)}}}$ $\ frac {2 \ nu ^ 2 \ tau ^ 4} {(\ nu-2) ^ 2 (\ nu-4)}$ для $ν>4 {\ displaystyle \ nu>4 \,}$ $\nu>4 \,$
Асимметрия	$4 ν - 6 2 (ν - 4) {\ displaystyle {\ frac {4} {\ nu -6}} {\ sqrt {2 (\ nu -4)}}}$ $\ frac {4} {\ nu-6} \ sqrt {2 (\ nu-4)}$ для $ν>6 {\ displaystyle \ nu>6 \,}$ $\nu>6 \,$
Пример. эксцесс	$12 (5 ν - 22) (ν - 6) (ν - 8) {\ displaystyle {\ frac {12 (5 \ nu -22)} {(\ nu -6) (\ nu -8) }}}$ $\ frac {12 (5 \ nu -22)} {(\ nu-6) (\ nu-8)}$ для $ν>8 {\ displaystyle \ nu>8 \,}$ $\nu>8 \,$
Энтропия	$ν 2 + ln ⁡ (τ 2 ν 2 Γ (ν 2)) { \ Displaystyle {\ frac {\ nu} {2}} \! + \! \ ln \ left ({\ frac {\ tau ^ {2} \ nu} {2}} \ Gamma \ left ({\ frac {\ nu} {2}} \ right) \ right)}$ $\ frac {\ nu} {2} \! + \! \ ln \ left (\ frac {\ tau ^ 2 \ nu} {2} \ Gamma \ left (\ frac {\ nu} {2} \ right) \ right)$ $- (1 + ν 2) ψ (ν 2) {\ displaystyle \! - \! \ left (1 \! + \! {\ frac {\ nu} {2}} \ right) \ psi \ left ({\ frac {\ nu} {2}} \ right)}$ $\! - \! \ Left (1 \! + \! \ Frac {\ nu} {2} \ right) \ psi \ left (\ frac {\ nu} {2} \ right)$
MGF	$2 Γ (ν 2) (- τ 2 ν t 2) ν 4 К ν 2 (- 2 τ 2 ν t) {\ displaystyle {\ frac {2} {\ Gamma ({\ frac {\ nu} {2}})}} \ left ({\ frac {- \ tau ^ {2} \ nu t} {2}} \ right) ^ {\! \! {\ Frac {\ nu} {4}}} \! \! K _ {\ frac {\ nu} {2}} \ left ({\ sqrt {-2 \ tau ^ {2} \ nu t}} \ right)}$ $\ frac {2 } {\ Gamma (\ frac {\ nu} {2})} \ left (\ frac {- \ tau ^ 2 \ nu t} {2} \ right) ^ {\! \! \ Frac {\ nu} { 4}} \! \! K _ {\ frac {\ nu} {2}} \ left (\ sqrt {-2 \ tau ^ 2 \ nu t} \ right)$
CF	$2 Γ (ν 2) (- i τ 2 ν t 2) ν 4 K ν 2 (- 2 i τ 2 ν T) {\ Displaystyle {\ frac {2} {\ Gamma ({\ frac {\ nu} {2}})}} \ left ({\ frac {-i \ tau ^ {2} \ nu t } {2}} \ right) ^ {\! \! {\ Frac {\ nu} {4}}} \! \! K _ {\ frac {\ nu} {2}} \ left ({\ sqrt {-2i \ tau ^ {2} \ nu t}} \ right)}$ $\ frac {2} {\ Gamma (\ frac {\ nu} {2})} \ left (\ frac {-i \ tau ^ 2 \ nu t } {2} \ right) ^ {\! \! \ Frac {\ nu} {4}} \! \! K _ {\ frac {\ nu} {2}} \ left (\ sqrt {-2i \ tau ^ 2 \ nu t} \ right)$

масштабированное обратное распределение хи-квадрат - это распределение для x = 1 / s, где s - выборочное среднее квадратов. ν независимых нормальных случайных величин, имеющих среднее значение 0 и обратную дисперсию 1 / σ = τ. Таким образом, распределение параметризуется двумя величинами ν и τ, называемыми числом степеней свободы хи-квадрат и параметром масштабирования соответственно.

Это семейство масштабированных распределений обратного хи-квадрат тесно связано с двумя другими семействами распределений: распределением обратного хи-квадрат и обратным гамма-распределением. По сравнению с обратным распределением хи-квадрат масштабированное распределение имеет дополнительный параметр τ, который масштабирует распределение по горизонтали и вертикали, представляя обратную дисперсию исходного базового процесса. Кроме того, масштабированное обратное распределение хи-квадрат представлено как распределение, обратное среднему значению квадратов отклонений ν, а не как обратное значение их суммы. Таким образом, два распределения имеют отношение, что если

X ∼ Scale-inv- χ 2 (ν, τ 2) {\ displaystyle X \ sim {\ t_dv {Scale-inv -}} \ chi ^ {2} (\ ню, \ тау ^ {2})}

X \ sim \ t_dv {Scale-inv -} \ chi ^ 2 (\ nu, \ tau ^ 2)

затем

Икс τ 2 ν ∼ inv- χ 2 (ν) {\ displaystyle {\ frac {X} {\ tau ^ {2} \ nu }} \ sim {\ t_dv {inv -}} \ chi ^ {2} (\ nu)}

\ frac {X} {\ tau ^ 2 \ nu} \ sim \ t_dv {inv -} \ chi ^ 2 (\ nu)

По сравнению с обратным гамма-распределением масштабированное обратное распределение хи-квадрат описывает то же распределение данных, но с использованием другого параметризация, которая может быть более удобной в некоторых обстоятельствах. В частности, если

X ∼ Scale-inv- χ 2 (ν, τ 2) {\ displaystyle X \ sim {\ t_dv {Scale-inv -}} \ chi ^ {2} (\ nu, \ tau ^ { 2})}

X \ sim \ t_dv {Scale-inv -} \ chi ^ 2 (\ nu, \ tau ^ 2)

затем

X ∼ Inv-Gamma (ν 2, ν τ 2 2) {\ displaystyle X \ sim {\ textrm {Inv-Gamma}} \ left ({\ frac { \ nu} {2}}, {\ frac {\ nu \ tau ^ {2}} {2}} \ right)}

X \ sim \ textrm {Inv-Gamma} \ left (\ frac {\ nu} {2}, \ frac {\ nu \ tau ^ 2} {2} \ right)

Любая форма может использоваться для представления максимального распределения энтропии для фиксированный первый обратный момент $(E (1 / X)) {\ displaystyle (E (1 / X))}$ $(E (1 / X))$ и первый логарифмический момент $(E ( ln ⁡ (X)) {\ displaystyle (E (\ ln (X))}$ $(E (\ ln (X))$ .

Масштабированное обратное распределение хи-квадрат также особенно используется в байесовской статистике, что несколько не связано с его использованием в качестве прогнозирующее распределение для x = 1 / с. В частности, масштабированное обратное распределение хи-квадрат можно использовать в качестве сопряженного предшествующего для параметра дисперсии нормального распределения. В этом контексте параметр масштабирования обозначается σ 0, а не τ, и имеет другое толкование. ион. Приложение обычно представлялось с использованием формулировки обратного гамма-распределения ; однако некоторые авторы, в частности, вслед за Gelman et al. (1995/2004) утверждают, что параметризация обратного хи-квадрат более интуитивна.

Содержание

1 Характеристика
2 Оценка параметра
3 Байесовская оценка дисперсии нормального распределения
- 3.1 Использование в качестве информативного априорного значения
- 3.2 Оценка дисперсии, когда среднее значение неизвестно
4 Связанные распределения
5 Ссылки

Характеристика

функция плотности вероятности масштабированного обратного распределения хи-квадрат распространяется на область $x>0 {\ displaystyle x>0}$ $x>0$ и равно

f (x; ν, τ 2) = (τ 2 ν / 2) ν / 2 Γ (ν / 2) exp ⁡ [- ν τ 2 2 x] x 1 + ν / 2 { \ Displaystyle е (х; \ ню, \ тау ^ {2}) = {\ гидроразрыва {(\ тау ^ {2} \ ню / 2) ^ {\ ню / 2}} {\ гамма (\ ню / 2) }} ~ {\ frac {\ exp \ left [{\ frac {- \ nu \ tau ^ {2}} {2x}} \ right]} {x ^ {1+ \ nu / 2}}}}

f (x; \ nu, \ tau ^ 2) = \ frac {(\ tau ^ 2 \ nu / 2) ^ {\ nu / 2}} {\ Gamma (\ nu / 2)} ~ \ frac {\ exp \ left [\ frac {- \ nu \ tau ^ 2} {2 x} \ right]} {x ^ {1+ \ nu / 2}}

где $ν {\ displaystyle \ nu}$ $\ nu$ - параметр степеней свободы, а $τ 2 {\ displaystyle \ tau ^ {2}}$ $\ tau ^ 2$ это масштабный параметр. Кумулятивная функция распределения:

F (x; ν, τ 2) = Γ (ν 2, τ 2 ν 2 x) / Γ (ν 2) {\ displaystyle F (x; \ nu, \ tau ^ {2 }) = \ Gamma \ left ({\ frac {\ nu} {2}}, {\ frac {\ tau ^ {2} \ nu} {2x}} \ right) \ left / \ Gamma \ left ({\ гидроразрыва {\ nu} {2}} \ справа) \ справа.}

F (x; \ nu, \ tau ^ 2) = \ Gamma \ left (\ frac {\ nu} {2}, \ frac { \ tau ^ 2 \ nu} {2x} \ right) \ left / \ Gamma \ left (\ frac {\ nu} {2} \ right) \ right.

= Q (ν 2, τ 2 ν 2 x) {\ displaystyle = Q \ left ({\ frac {\ nu} {2}}, {\ frac {\ tau ^ {2} \ nu} {2x}} \ right)}

= Q \ left (\ frac {\ nu} {2}, \ frac {\ tau ^ 2 \ nu} {2x} \ right)

где $Γ (a, x) {\ displaystyle \ Gamma (a, x)}$ $\ Gamma (a, x)$ - это неполная гамма-функция,, $Γ (x) {\ displaystyle \ Gamma (x)}$ $\ Gamma (x)$ - гамма-функция, и $Q (a, x) {\ displaystyle Q (a, x)}$ $Q (a, x)$ - это регуляризованная гамма-функция. характеристической функцией является

φ (t; ν, τ 2) = {\ displaystyle \ varphi (t; \ nu, \ tau ^ {2}) =}

\ varphi (t; \ nu, \ tau ^ 2) =

2 Γ (ν 2) (- я τ 2 ν T 2) ν 4 К ν 2 (- 2 я τ 2 ν t), {\ displaystyle {\ frac {2} {\ Gamma ({\ frac {\ nu} {2}})}} \ left ({\ frac {-i \ tau ^ {2} \ nu t} {2}} \ right) ^ {\! \! {\ frac {\ nu} {4}}} \! \ ! K _ {\ frac {\ nu} {2}} \ left ({\ sqrt {-2i \ tau ^ {2} \ nu t}} \ right),}

\ frac {2} {\ Gamma (\ frac {\ nu} {2})} \ left (\ frac {-i \ tau ^ 2 \ nu t} {2} \ right) ^ {\! \! \ Frac {\ ню} {4}} \! \! K _ {\ fr ac {\ nu} {2}} \ left (\ sqrt {-2i \ tau ^ 2 \ nu t} \ right),

где $K ν 2 (z) {\ displaystyle K _ {\ frac {\ nu} {2}} (z)}$ $K _ {\ frac {\ nu} {2} } (z)$ - это модифицированная функция Бесселя второго рода.

Оценка параметров

оценка максимального правдоподобия для $τ 2 {\ displaystyle \ tau ^ {2}}$ $\ tau ^ 2$ равна

τ 2 = n / ∑ i = 1 n 1 xi. {\ displaystyle \ tau ^ {2} = n / \ sum _ {i = 1} ^ {n} {\ frac {1} {x_ {i}}}.}

\ tau ^ 2 = n / \ sum_ {i = 1} ^ n \ frac {1} {x_i}.

Оценка максимального правдоподобия $ν 2 {\ displaystyle {\ frac {\ nu} {2}}}$ $\ frac { \ nu} {2}$ можно найти с помощью метода Ньютона по:

ln ⁡ (ν 2) - ψ (ν 2) знак равно ∑ я знак равно 1 N пер ⁡ (xi) - N пер ⁡ (τ 2), {\ displaystyle \ ln \ left ({\ frac {\ nu} {2}} \ right) - \ psi \ left ( {\ frac {\ nu} {2}} \ right) = \ sum _ {i = 1} ^ {n} \ ln \ left (x_ {i} \ right) -n \ ln \ left (\ tau ^ { 2} \ right),}

{\ displaystyle \ ln \ left ({\ frac {\ nu} {2}} \ right) - \ psi \ left ({\ frac {\ nu} {2}} \ right) = \ sum _ {i = 1} ^ {n} \ ln \ left (x_ {i} \ right) -n \ ln \ left (\ tau ^ {2} \ right),}

где $ψ (x) {\ displaystyle \ psi (x)}$ $\ psi (x)$ - это функция дигаммы. Первоначальную оценку можно найти, взяв формулу для среднего и решив ее для $ν. {\ displaystyle \ nu.}$ $\nu.$ Пусть $x ¯ = 1 n ∑ i = 1 nxi {\ displaystyle {\ bar {x}} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} x_ {i}}$ $\ bar {x} = \ frac {1} {n} \ sum_ {i = 1} ^ n x_i$ быть выборочным средним. Тогда начальная оценка для $ν {\ displaystyle \ nu}$ $\ nu$ определяется по формуле

ν 2 = x ¯ x ¯ - τ 2. {\ displaystyle {\ frac {\ nu} {2}} = {\ frac {\ bar {x}} {{\ bar {x}} - \ tau ^ {2}}}.}

\ frac {\ nu} {2} = \ frac {\ bar {x}} {\ bar {x} - \ tau ^ 2}.

Байесовская оценка дисперсия нормального распределения

Масштабированное обратное распределение хи-квадрат имеет второе важное применение в байесовской оценке дисперсии нормального распределения.

Согласно теореме Байеса, апостериорное распределение вероятностей для представляющих интерес величин пропорционально произведению априорного распределения для величин и a функция правдоподобия :

p (σ 2 | D, I) ∝ p (σ 2 | I) p (D | σ 2) {\ displaystyle p (\ sigma ^ {2} | D, I) \ propto p (\ sigma ^ {2} | I) \; p (D | \ sigma ^ {2})}

p (\ sigma ^ 2 | D, I) \ propto p (\ sigma ^ 2 | I) \; p (D | \ sigma ^ 2)

где D представляет данные, а I представляет любую исходную информацию о σ, которая у нас уже может быть.

Самый простой сценарий возникает, если среднее значение μ уже известно; или, альтернативно, если ищется условное распределение σ, для конкретного предполагаемого значения μ.

Тогда член правдоподобия L (σ | D) = p (D | σ) имеет знакомый вид

L (σ 2 | D, μ) = 1 (2 π σ) n exp ⁡ [ - ∑ в (xi - μ) 2 2 σ 2] {\ displaystyle {\ mathcal {L}} (\ sigma ^ {2} | D, \ mu) = {\ frac {1} {\ left ({\ sqrt {2 \ pi}} \ sigma \ right) ^ {n}}} \; \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (x_ {i} - \ mu) ^ { 2}} {2 \ sigma ^ {2}}} \ right]}

\ mathcal {L} (\ sigma ^ 2 | D, \ mu) = \ frac {1} {\ left (\ sqrt {2 \ pi} \ sigma \ right) ^ n} \; \ exp \ left [- \ frac {\ sum_i ^ n (x_i- \ mu) ^ 2} {2 \ sigma ^ 2} \ right]

Объединяя это с инвариантным к изменению масштабом априорным значением p (σ | I) = 1 / σ, что можно утверждать (например, вслед за Джеффрисом ), чтобы быть наименее информативным априорным значением для σ в этой задаче, дает комбинированную апостериорную вероятность

p (σ 2 | D, I, μ) ∝ 1 σ n + 2 exp ⁡ [- ∑ in (xi - μ) 2 2 σ 2] {\ Displaystyle p (\ sigma ^ {2} | D, I, \ mu) \ propto {\ frac {1} {\ sigma ^ {n + 2}}} \; \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (x_ {i} - \ mu) ^ {2}} {2 \ sigma ^ {2}}} \ right]}

p (\ sigma ^ 2 | D, I, \ mu) \ propto \ frac {1} {\ sigma ^ {n +2}} \; \ exp \ left [- \ frac {\ sum_i ^ n (x_i- \ mu) ^ 2} {2 \ sigma ^ 2} \ right]

Это форму можно распознать как масштабированное обратное распределение хи-квадрат с параметрами ν = n и τ = s = (1 / n) Σ (x i -μ)

Гельман и др. отмечают, что повторное появление этого распределения, ранее увиденное в контексте выборки, может показаться замечательным; но с учетом выбора априорного значения "результат неудивителен".

В частности, выбор априорного значения, инвариантного к изменению масштаба для σ, приводит к тому, что вероятность для отношения σ / s имеет ту же форму (независимо от обусловливающей переменной) при условии, что s, как при условном σ:

p (σ 2 s 2 | s 2) = p (σ 2 s 2 | σ 2) {\ displaystyle p ({\ tfrac { \ sigma ^ {2}} {s ^ {2}}} | s ^ {2}) = p ({\ tfrac {\ sigma ^ {2}} {s ^ {2}}} | \ sigma ^ {2 })}

p ( \ tfrac {\ sigma ^ 2} {s ^ 2} | s ^ 2) = p (\ tfrac {\ sigma ^ 2} {s ^ 2} | \ sigma ^ 2)

В случае теории выборки, обусловленной σ, распределение вероятностей для (1 / s) является масштабированным обратным распределением хи-квадрат; и поэтому распределение вероятностей для σ, обусловленное s, с учетом априорного значения, не зависящего от масштаба, также является масштабированным обратным распределением хи-квадрат.

Использовать в качестве информативного априорного значения

Если о возможных значениях σ известно больше, распределение из семейства масштабированных обратных хи-квадрат, например Scale-inv-χ (n 0, s 0) может быть удобной формой для представления менее информативного априорного значения для σ, как если бы из результата n 0 предыдущих наблюдений (хотя n 0 не обязательно должно быть целым числом):

p (σ 2 | I ', μ) ∝ 1 σ n 0 + 2 exp ⁡ [- n 0 s 0 2 2 σ 2] {\ displaystyle p (\ sigma ^ {2} | I ^ {\ prime}, \ mu) \ propto {\ frac {1} {\ sigma ^ {n_ {0} +2}}} \; \ exp \ left [- { \ frac {n_ {0} s_ {0} ^ {2}} {2 \ sigma ^ {2}}} \ right]}

p (\ sigma ^ 2 | I ^ \ prime, \ mu) \ propto \ frac {1} {\ sigma ^ {n_0 + 2}} \; \ exp \ left [- \ frac {n_0 s_0 ^ 2} {2 \ sigma ^ 2} \ right]

Такое априорное значение привело бы к апостериорному распределению

p (σ 2 | D, I ′, μ) ∝ 1 σ N + N 0 + 2 exp ⁡ [- ∑ ns 2 + n 0 s 0 2 2 σ 2] {\ displaystyle p (\ sigma ^ {2} | D, I ^ { \ prime}, \ mu) \ propto {\ frac {1} {\ sigma ^ {n + n_ {0} +2}}} \; \ exp \ left [- {\ frac {\ sum {ns ^ {2 } + n_ {0} s_ {0} ^ {2}}} {2 \ sigma ^ {2}}} \ right]}

p (\ sigma ^ 2 | D, I ^ \ prime, \ mu) \ propto \ frac {1} {\ sigma ^ {n + n_0 + 2}} \; \ exp \ left [- \ frac {\ sum {ns ^ 2 + n_0 s_0 ^ 2}} {2 \ sigma ^ 2} \ right]

, которое само по себе является масштабированным обратным распределением хи-квадрат. Масштабированные обратные распределения хи-квадрат, таким образом, представляют собой удобное сопряженное априорное семейство для оценки σ.

Оценка дисперсии, когда среднее значение неизвестно

Если среднее значение неизвестно, наиболее неинформативным априорным значением, которое может быть принято за него, является, возможно, инвариантный по трансляции априор p (μ | I) ∝ const., что дает следующее совместное апостериорное распределение для μ и σ,

p (μ, σ 2 ∣ D, I) ∝ 1 σ n + 2 exp ⁡ [- ∑ in (xi - μ) 2 2 σ 2 ] = 1 σ N + 2 ехр ⁡ [- ∑ в (xi - x ¯) 2 2 σ 2] ехр ⁡ [- ∑ в (μ - x ¯) 2 2 σ 2] {\ Displaystyle {\ begin {выровнено} p (\ mu, \ sigma ^ {2} \ mid D, I) \ propto {\ frac {1} {\ sigma ^ {n + 2}}} \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (x_ {i} - \ mu) ^ {2}} {2 \ sigma ^ {2}}} \ right] \\ = {\ frac {1} {\ sigma ^ {n +2}}} \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (x_ {i} - {\ bar {x}}) ^ {2}} {2 \ sigma ^ { 2}}} \ right] \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (\ mu - {\ bar {x}}) ^ {2}} {2 \ sigma ^ { 2}}} \ right] \ end {align}}}

\ begin {align} p (\ mu, \ sigma ^ 2 \ mid D, I) \ propto \ frac {1} {\ sigma ^ {n + 2}} \ exp \ left [- \ frac {\ sum_i ^ n (x_i- \ mu) ^ 2} {2 \ sigma ^ 2} \ right] \\ = \ frac {1} {\ sigma ^ {n + 2}} \ exp \ left [- \ frac {\ sum_i ^ n (x_i- \ bar {x}) ^ 2} {2 \ sigma ^ 2} \ right] \ exp \ left [- \ frac {\ sum_i ^ n (\ mu - \ bar {x}) ^ 2} {2 \ sigma ^ 2} \ right] \ end {align}

Маргинальное апостериорное распределение для σ получается из совместного апостериорного распределения путем интегрирования по μ,

p (σ 2 | D, I) ∝ 1 σ n + 2 exp ⁡ [- ∑ in (xi - x ¯) 2 2 σ 2] ∫ - ∞ ∞ exp ⁡ [- ∑ in (μ - x ¯) 2 2 σ 2] d μ = 1 σ n + 2 exp ⁡ [- ∑ in (xi - x ¯) 2 2 σ 2] 2 π σ 2 / N ∝ (σ 2) - (N + 1) / 2 ехр ⁡ [- (n - 1) s 2 2 σ 2] {\ displaystyle {\ begin {align} p (\ sigma ^ {2} | D, I) \; \ propto \; {\ frac {1} {\ sigma ^ {n + 2}}} \; \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (x_ {i} - {\ bar {x}}) ^ {2}} {2 \ sigma ^ {2}}} \ right] \; \ int _ {- \ infty} ^ {\ infty} \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (\ mu - {\ bar {x}}) ^ {2}} {2 \ sigma ^ {2}}} \ right] d \ mu \\ = \; {\ frac {1} {\ sigma ^ {n + 2}}} \; \ exp \ left [- {\ frac {\ sum _ {i} ^ {n} (x_ {i} - {\ bar {x}}) ^ {2}} {2 \ sigma ^ {2}}} \ right] \; {\ sqrt {2 \ pi \ sigma ^ {2} / n}} \\\ propto \; (\ sigma ^ {2}) ^ {- (n + 1) / 2} \; \ exp \ left [- {\ frac {(n-1) s ^ {2}} {2 \ sigma ^ {2}}} \ right] \ end {align}}}

\ begin {align} p (\ sigma ^ 2 | D, I) \; \ propto \; \ frac {1} {\ sigma ^ {n + 2}} \; \ exp \ left [- \ frac {\ sum_i ^ n (x_i- \ bar {x}) ^ 2} {2 \ sigma ^ 2} \ right] \; \ int _ {- \ infty} ^ {\ infty} \ exp \ left [ - \ frac {\ sum_i ^ n (\ mu - \ bar {x}) ^ 2} {2 \ sigma ^ 2} \ right] d \ mu \\ = \; \ frac {1} {\ sigma ^ {n + 2}} \; \ exp \ left [- \ frac {\ sum_i ^ n (x_i- \ bar {x}) ^ 2} {2 \ sigma ^ 2} \ right] \; \ sqrt {2 \ pi \ sigma ^ 2 / n} \\ \ propto \; (\ sigma ^ 2) ^ {- (n + 1) / 2} \; \ exp \ left [- \ frac {(n-1) s ^ 2} {2 \ sigma ^ 2} \ right] \ end {align}

Это снова масштабированное обратное распределение хи-квадрат с параметрами $n - 1 {\ displaystyle \ scriptstyle {n-1} \;}$ $\ scriptstyle {n-1} \;$ и $s 2 = ∑ (xi - x ¯) 2 / (n - 1) {\ displaystyle \ scriptstyle {s ^ {2} = \ sum (x_ {i} - {\ bar {x}}) ^ {2} / (n-1)}}$ $\ scriptstyle {s ^ 2 = \ sum (x_i - \ bar {x}) ^ 2 / (n-1)}$ .

Связанные распределения

Если $X ∼ Масштаб-inv- χ 2 (ν, τ 2) {\ Displaystyle X \ sim {\ t_dv {Scale-inv -}} \ chi ^ {2} (\ nu, \ tau ^ {2})}$ $X \ sim \ t_dv {Scale-inv -} \ chi ^ 2 (\ nu, \ tau ^ 2)$ затем $К Икс ∼ Scale-inv- χ 2 (ν, k τ 2) {\ displaystyle kX \ sim {\ t_dv {Scale-inv -}} \ chi ^ {2} (\ nu, k \ тау ^ {2}) \,}$ $k X \ sim \ t_dv {Scale-inv -} \ chi ^ 2 (\ nu, k \ tau ^ 2) \,$
Если $X ∼ inv- χ 2 (ν) {\ displaystyle X \ sim {\ t_dv {inv -}} \ chi ^ {2} (\ nu) \,}$ $X \ sim \ t_dv {inv -} \ chi ^ 2 (\ nu) \,$ (Обратное распределение хи-квадрат ), то $X ∼ Scale-inv- χ 2 (ν, 1 / ν) {\ displaystyle X \ sim {\ t_dv {Scale-inv-}} \ чи ^ {2} (\ nu, 1 / \ nu) \,}$ $X \ sim \ t_dv {Scale-inv -} \ chi ^ 2 (\ nu, 1 / \ nu) \,$
Если $X ∼ Scale-inv- χ 2 (ν, τ 2) {\ displaystyle X \ sim {\ t_dv {Scale -inv -}} \ chi ^ {2} (\ nu, \ tau ^ {2})}$ $X \ sim \ t_dv {Scale-inv -} \ chi ^ 2 (\ nu, \ tau ^ 2)$ тогда $X τ 2 ν ∼ inv- χ 2 (ν) {\ displaystyle {\ frac {X} {\ tau ^ {2} \ nu}} \ sim {\ t_dv {inv -}} \ chi ^ {2} (\ nu) \,}$ $\ frac {X} {\ tau ^ 2 \ nu} \ sim \ t_dv {inv -} \ chi ^ 2 (\ nu) \,$ (Обратное распределение хи-квадрат )
Если $X ∼ Scale-inv- χ 2 (ν, τ 2) {\ displaystyle X \ sim {\ t_dv {Scale-inv -}} \ chi ^ {2} (\ nu, \ tau ^ {2})}$ $X \ sim \ t_dv {Scale-inv -} \ chi ^ 2 (\ nu, \ tau ^ 2)$ затем $X ∼ Inv-Gamma (ν 2, ν τ 2 2) {\ displaystyle X \ sim {\ textrm {Inv-Gamma}} \ left ({\ frac {\ nu } {2}}, {\ frac {\ nu \ tau ^ {2}} {2}} \ right)}$ $X \ sim \ textrm {Inv-Gamma} \ left (\ frac {\ nu} {2}, \ frac {\ nu \ tau ^ 2} {2} \ right)$ (В распределение стиха-гамма )
Масштабированное обратное распределение хи-квадрат является частным случаем типа 5 распределение Пирсона

Ссылки

Гельман А. и др. (1995), Bayesian Data Analysis, стр. 474–475; также pp 47, 480