Сложенное нормальное распределение

редактировать
распределение вероятностей
Функция плотности вероятности Функция плотности вероятности для сложенного нормального распределения . μ = 1, σ = 1
Кумулятивная функция распределения Кумулятивная функция распределения для нормального распределения на . μ = 1, σ = 1
Параметрыμ ∈ R(местоположение ). σ>0 (масштаб )
Поддержка x ∈ [0, ∞)
PDF 1 σ 2 π e - (x - μ) 2 2 σ 2 + 1 σ 2 π e - (x + μ) 2 2 σ 2 {\ displaystyle {\ frac {1} {\ sigma {\ sqrt {2 \ pi}}}} \, e ^ {- {\ frac {(x- \ mu) ^ {2}} {2 \ sigma ^ {2}}}} + {\ frac {1} {\ sigma {\ sqrt {2 \ pi}}}} \, e ^ {- {\ frac {(x + \ mu) ^ {2}} {2 \ sigma ^ {2}}}}}{\ frac {1} {\ sigma {\ sqrt {2 \ pi}}}} \, e ^ {{- {\ frac {(x- \ mu) ^ {2}} {2 \ sigma ^ {2}}}}} + {\ frac {1} {\ sigma {\ sqrt {2 \ pi}}}} \, e ^ { {- {\ frac {(x + \ mu) ^ {2}} {2 \ s igma ^ {2}}}}}
CDF 1 2 [erf (x + μ σ 2) + erf (x - μ σ 2)] {\ displaystyle {\ frac {1} {2}} \ left [{\ t_dv {erf}} \ left ({\ frac {x + \ mu} {\ sigma {\ sqrt {2}}}} \ right) + {\ t_dv {erf}} \ left ({\ frac {x- \ mu} {\ sigma { \ sqrt {2}}}} \ right) \ right]}{\ frac {1} {2}} \ left [{\ t_dv {erf}} \ left ({\ frac {x + \ mu} {\ sigma {\ sqrt {2}}) }} \ right) + {\ t_dv {erf}} \ left ({\ frac {x- \ mu} {\ sigma {\ sqrt {2}}}} \ right) \ right]
Среднее μ Y = σ 2 π e (- μ 2/2 σ 2) + μ (1-2 Φ (- μ σ)) {\ displaystyle \ mu _ {Y} = \ sigma {\ sqrt {\ tfrac {2} {\ pi}}} \, e ^ {(- \ mu ^ {2} / 2 \ sigma ^ {2}) } + \ mu \ left (1-2 \, \ Phi (- {\ tfrac {\ mu} {\ sigma}}) \ right)}{\ displaystyle \ mu _ {Y} = \ sigma {\ sqrt {\ tfrac {2} {\ pi}}} \, e ^ {(- \ mu ^ {2} / 2 \ sigma ^ {2})} + \ mu \ left (1-2 \, \ Phi (- {\ tfrac {\ mu} {\ sigma}}) \ right)}
Дисперсия σ Y 2 знак равно μ 2 + σ 2 - μ Y 2 {\ Displaystyle \ sigma _ {Y} ^ {2} = \ mu ^ {2} + \ sigma ^ {2} - \ mu _ {Y} ^ {2}}\ sigma _ {Y} ^ {2} = \ mu ^ {2} + \ sigma ^ {2} - \ mu _ {Y} ^ {2 }

сложенное нормальное распределение - это распределение вероятностей, связанное с нормальным распределением. Для нормально распределенной случайной величины X с средним μ и дисперсией σ, случайная величина Y = | X | имеет сложенное нормальное распределение. Такой случай может возникнуть, если записана только величина некоторой переменной, но не ее знак. Распределение называется «свернутым», потому что вероятностная масса слева от x = 0 свернута, принимая абсолютное значение. В физике теплопроводности сложенное нормальное распределение является фундаментальным решением уравнения теплопроводности на полупространстве; это соответствует наличию идеального изолятора на гиперплоскости через начало координат.

Содержание
  • 1 Определения
    • 1.1 Плотность
  • 2 Свойства
    • 2.1 Режим
    • 2.2 Характеристическая функция и другие связанные функции
  • 3 Связанные распределения
  • 4 Статистический вывод
    • 4.1 Оценка параметров
  • 5 См. Также
  • 6 Ссылки
  • 7 Внешние ссылки
Определения

Плотность

функция плотности вероятности (PDF) определяется выражением

f Y (x; μ, σ 2) = 1 2 π σ 2 e - (x - μ) 2 2 σ 2 + 1 2 π σ 2 e - (x + μ) 2 2 σ 2 {\ displaystyle f_ {Y} (x; \ mu, \ sigma ^ {2}) = {\ frac {1} {\ sqrt {2 \ pi \ sigma ^ {2}}}} \, e ^ {- { \ frac {(x- \ mu) ^ {2}} {2 \ sigma ^ {2}}}} + {\ frac {1} {\ sqrt {2 \ pi \ sigma ^ {2}}}} \, e ^ {- {\ frac {(x + \ mu) ^ {2}} {2 \ sigma ^ {2}}}}}{\ displaystyle f_ {Y} (x; \ mu, \ sigma ^ {2}) = {\ frac {1} {\ sqrt {2 \ pi \ sigma ^ {2}}}} \, e ^ {- {\ frac {(x- \ mu) ^ {2}} {2 \ sigma ^ {2}}}} + {\ frac {1} {\ sqrt {2 \ pi \ sigma ^ {2}}}} \, e ^ {- {\ frac {(x + \ mu) ^ {2}} {2 \ sigma ^ {2}}}} }

для x ≥ 0 и 0 для всех остальных. Альтернативная формулировка дается следующим образом:

f (x) = 2 π σ 2 e - (x 2 + μ 2) 2 σ 2 cosh ⁡ (μ x σ 2) {\ displaystyle f \ left (x \ right) = {\ sqrt {\ frac {2} {\ pi \ sigma ^ {2}}}} e ^ {- {\ frac {\ left (x ^ {2} + \ mu ^ {2} \ right)} {2 \ sigma ^ {2}}}} \ cosh {\ left ({\ frac {\ mu x} {\ sigma ^ {2}}} \ right)}}{\ displaystyle f \ left (x \ right) = {\ sqrt {\ frac {2 } {\ pi \ sigma ^ {2}}}} e ^ {- {\ frac {\ left (x ^ {2} + \ mu ^ {2} \ right)} {2 \ sigma ^ {2}}} } \ сп {\ влево ({\ гидроразрыва {\ му х} {\ sigma ^ {2}}} \ вправо)}} ,

где cosh - косинус Гиперболическая функция. Отсюда следует, что кумулятивная функция распределения (CDF) определяется как:

FY (x; μ, σ 2) = 1 2 [erf (x + μ 2 σ 2) + erf (x - μ 2 σ 2)] {\ displaystyle F_ {Y} (x; \ mu, \ sigma ^ {2}) = {\ frac {1} {2}} \ left [{\ t_dv {erf}} \ left ( {\ frac {x + \ mu} {\ sqrt {2 \ sigma ^ {2}}}} \ right) + {\ t_dv {erf}} \ left ({\ frac {x- \ mu} {\ sqrt {2 \ sigma ^ {2}}}} \ right) \ right]}{\ displaystyle F_ {Y} (x; \ mu, \ sigma ^ {2}) = {\ frac {1} {2}} \ left [{\ t_dv {erf}} \ left ({\ frac {x + \ mu} {\ sqrt {2 \ sigma ^ {2}}}}} \ right) + {\ t_dv {erf}} \ left ({\ frac {x- \ mu} {\ sqrt {2 \ sigma ^ {2}}}} \ right) \ right]}

для x ≥ 0, где erf () - это функция ошибок. Это выражение сводится к CDF полунормального распределения, когда μ = 0.

Среднее значение сложенного распределения тогда

μ Y = σ 2 π exp ⁡ (- μ 2 2 σ 2) + μ erf (μ 2 σ 2) {\ displaystyle \ mu _ {Y} = \ sigma {\ sqrt {\ frac {2} {\ pi}}} \, \, \ exp \ left ({\ frac {- \ mu ^ {2}} {2 \ sigma ^ {2}}} \ right) + \ mu \, {\ t_dv {erf}} \ left ({\ frac {\ mu} {\ sqrt {2 \ sigma ^ {2}}}} \ right)}{\ displaystyle \ mu _ {Y} = \ sigma {\ sqrt {\ frac {2} {\ pi}}} \, \, \ exp \ left ({\ frac {- \ mu ^ {2}} {2 \ sigma ^ {2}}} \ right) + \ му \, {\ t_dv {erf}} \ left ({\ frac {\ mu} {\ sqrt {2 \ sigma ^ {2}}}} \ right)}

или

μ Y = 2 π σ e - μ 2 2 σ 2 + μ [1 - 2 Φ (- μ σ)] { \ Displaystyle \ mu _ {Y} = {\ sqrt {\ frac {2} {\ pi}}} \ sigma e ^ {- {\ frac {\ mu ^ {2}} {2 \ sigma ^ {2}} }} + \ mu \ left [1-2 \ Phi \ left (- {\ frac {\ mu} {\ sigma}} \ right) \ right]}{\ displaystyle \ mu _ {Y} = {\ sqrt {\ frac {2} {\ pi}}} \ sigma e ^ {- {\ frac {\ mu ^ {2}} { 2 \ sigma ^ {2}}}} + \ mu \ left [1-2 \ Phi \ left (- {\ frac {\ mu} {\ sigma}} \ right) \ right]}

где Φ {\ displaystyle \ Phi}\ Phi - это функция нормального кумулятивного распределения :

Φ (x) = 1 2 [1 + erf ⁡ (x 2)]. {\ displaystyle \ Phi (x) \; = \; {\ frac {1} {2}} \ left [1+ \ operatorname {erf} \ left ({\ frac {x} {\ sqrt {2}}}) \ right) \ right].}{\ displaystyle \ Phi (x) \; = \; {\ frac {1} {2}} \ left [1+ \ operatorname {erf} \ left ({\ frac {x} {\ sqrt {2}}} \ right) \ right].}

Тогда дисперсия легко выражается через среднее значение:

σ Y 2 = μ 2 + σ 2 - μ Y 2. {\ displaystyle \ sigma _ {Y} ^ {2} = \ mu ^ {2} + \ sigma ^ {2} - \ mu _ {Y} ^ {2}.}\ sigma _ { Y} ^ {2} = \ mu ^ {2} + \ sigma ^ {2} - \ mu _ {Y} ^ {2}.

И среднее (μ), и дисперсию (σ) X в исходном нормальном распределении можно интерпретировать как параметры положения и масштаба Y в сложенном распределении.

Свойства

Режим

Режим распределения - это значение x {\ displaystyle x}х , для которого плотность максимальна. Чтобы найти это значение, мы берем первую производную плотности по x {\ displaystyle x}х и устанавливаем ее равной нулю. К сожалению, закрытой формы нет. Однако мы можем записать производную лучше и в итоге получить нелинейное уравнение

df (x) dx = 0 ⇒ - (x - μ) σ 2 e - 1 2 (x - μ) 2 σ 2 - (Икс + μ) σ 2 е - 1 2 (Икс + μ) 2 σ 2 знак равно 0 {\ Displaystyle {\ frac {df (x)} {dx}} = 0 \ Rightarrow - {\ frac {\ left (x- \ mu \ right)} {\ sigma ^ {2}}} e ^ {- {\ frac {1} {2}} {\ frac {\ left (x- \ mu \ right) ^ {2 }} {\ sigma ^ {2}}}} - {\ frac {\ left (x + \ mu \ right)} {\ sigma ^ {2}}} e ^ {- {\ frac {1} {2}} {\ frac {\ left (x + \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} = 0}{\ displaystyle {\ frac {df (x)} {dx}} = 0 \ Rightarrow - {\ frac {\ left (x- \ mu \ right)} {\ sigma ^ {2} }} e ^ {- {\ frac {1} {2}} {\ frac {\ left (x- \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} - {\ frac { \ left (x + \ mu \ right)} {\ sigma ^ {2}}} e ^ {- {\ frac {1} {2}} {\ frac {\ left (x + \ mu \ right) ^ {2} } {\ sigma ^ {2}}}} = 0}

x [e - 1 2 (x - μ) 2 σ 2 + e - 1 2 (x + μ) 2 σ 2] - μ [e - 1 2 (x - μ) 2 σ 2 - e - 1 2 (x + μ) 2 σ 2] = 0 {\ displaystyle x \ left [ e ^ {- {\ frac {1} {2}} {\ frac {\ left (x- \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} + e ^ {- {\ frac {1} {2}} {\ frac {\ left (x + \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} \ right] - \ mu \ left [e ^ {- { \ frac {1} {2}} {\ frac {\ left (x- \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} - e ^ {- {\ frac {1} { 2}} {\ frac {\ left (x + \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} \ right] = 0}{\ displaystyle x \ left [e ^ {- { \ frac {1} {2}} {\ frac {\ left (x- \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} + e ^ {- {\ frac {1} { 2}} {\ frac {\ left (x + \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} \ right] - \ mu \ left [e ^ {- {\ frac {1} {2}} {\ frac {\ left (x- \ mu \ right) ^ {2}} {\ sigma ^ {2}}}} - e ^ {- {\ frac {1} {2}} {\ гидроразрыв {\ влево (х + \ му \ вправо) ^ {2}} {\ sigma ^ {2}}}} \ right] = 0}

x (1 + e - 2 μ x σ 2) - μ (1 - е - 2 μ x σ 2) знак равно 0 {\ displaystyle x \ left (1 + e ^ {- {\ frac { 2 \ mu x} {\ sigma ^ {2}}} \ right) - \ mu \ left (1-e ^ {- {\ frac {2 \ mu x} {\ sigma ^ {2}}}} \ справа) = 0}{\ Displaystyle х \ влево (1 + е ^ {- {\ fra c {2 \ mu x} {\ sigma ^ {2}}} \ right) - \ mu \ left (1-e ^ {- {\ frac {2 \ mu x} {\ sigma ^ {2}}} } \ right) = 0}

(μ + x) e - 2 μ x σ 2 = μ - x {\ displaystyle \ left (\ mu + x \ right) e ^ {- {\ frac {2 \ mu x} {\ sigma ^ {2}}}} = \ mu -x}{\ displaystyle \ left (\ mu + x \ right) e ^ {- {\ frac {2 \ mu x} {\ sigma ^ {2}}}} = \ mu -x}

x = - σ 2 2 μ журнал ⁡ μ - x μ + x {\ displaystyle x = - {\ frac {\ sigma ^ {2} } {2 \ mu}} \ log {\ frac {\ mu -x} {\ mu + x}}}{\ displaystyle x = - {\ frac {\ sigma ^ {2}} {2 \ mu}} \ log {\ frac {\ mu -x} {\ mu + x}}} .

Цагрис и др. (2014) из численного исследования показал, что когда μ < σ {\displaystyle \mu <\sigma }{\ displaystyle \ mu <\ sigma} , максимум достигается, когда x = 0 {\ displaystyle x = 0}{\ displaystyle x = 0} , и когда μ {\ displaystyle \ mu}{\ displaystyle \ mu} становится больше, чем 3 σ {\ displaystyle 3 \ sigma}{\ displaystyle 3 \ sigma} , максимум приближается к μ {\ displaystyle \ mu}{\ displaystyle \ mu} . Конечно, этого следовало ожидать, поскольку в этом случае свернутая нормаль сходится к нормальному распределению. Чтобы избежать проблем с отрицательными отклонениями, предлагается возведение параметра в степень. В качестве альтернативы вы можете добавить ограничение, например, если оптимизатор выберет отрицательную дисперсию, значение логарифмической вероятности будет NA или что-то очень маленькое.

Характеристическая функция и другие связанные функции

  • Характеристическая функция определяется как

φ x (t) = e - σ 2 t 2 2 + i μ t Φ (μ σ + i σ t) + e - σ 2 T 2 2 - я μ T Φ (- μ σ + я σ T) {\ Displaystyle \ varphi _ {x} \ left (t \ right) = e ^ {{\ frac {- \ sigma ^ {2} t ^ {2}} {2}} + i \ mu t} \ Phi \ left ({\ frac {\ mu} {\ sigma}} + i \ sigma t \ right) + e ^ {- {\ frac { \ sigma ^ {2} t ^ {2}} {2}} - i \ mu t} \ Phi \ left (- {\ frac {\ mu} {\ sigma}} + i \ sigma t \ right)}{ \ displaystyle \ varphi _ {x} \ left (t \ right) = e ^ {{\ frac {- \ sigma ^ {2} t ^ {2}} {2}} + i \ mu t} \ Phi \ left ({\ frac {\ mu} {\ sigma}} + i \ sigma t \ right) + e ^ {- {\ frac {\ sigma ^ {2} t ^ {2}} {2}} - я \ му t} \ Phi \ left (- {\ frac {\ mu} {\ sigma}} + i \ sigma t \ right)} .

  • Производящая функция момента определяется выражением

M x (t) = φ x (- it) = e σ 2 t 2 2 + μ t Φ (μ σ + σ t) + e σ 2 t 2 2 - μ T Φ (- μ σ + σ T) {\ Displaystyle M_ {x} \ left (t \ right) = \ varphi _ {x} \ left (-it \ right) = e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} + \ mu t} \ Phi \ left ({\ frac {\ mu} {\ sigma}} + \ sigma t \ right) + e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} - \ mu t} \ Phi \ left (- {\ frac {\ mu} {\ sigma}} + \ sigma t \ right)}{\ displaystyle M_ {x} \ left (t \ right) = \ varphi _ {x} \ left (-it \ right) = e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} + \ mu t} \ Phi \ left ({\ frac {\ mu} {\ sigma}} + \ sigma t \ right) + e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} - \ mu t} \ Phi \ left (- {\ frac {\ mu} {\ sigma}} + \ sigma t \ right)} .

  • Кумулянтная производящая функция определяется как

K x (t) = log ⁡ M x (t) = (σ 2 t 2 2 + μ t) + log ⁡ {1 - Φ (- μ σ - σ t) + e σ 2 t 2 2 - μ t [1 - Φ (μ σ - σ t)]} {\ Displaystyle K_ {x} \ left (t \ right) = \ log {M_ {x} \ left (t \ right)} = \ left ({\ frac {\ sigma ^ {2} t ^ {2}} {2}} + \ mu t \ right) + \ log {\ left \ lbrace 1- \ Phi \ left (- {\ frac {\ mu} {\ sigma}} - \ sigma t \ справа) + e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} - \ mu t} \ left [1- \ Phi \ left ({\ frac {\ mu} {\ sigma}} - \ sigma t \ right) \ right] \ right \ rbrace}}{\ displaystyle K_ {x} \ left (t \ right) = \ log {M_ {x} \ left (t \ right)} = \ left ({\ frac {\ sigma ^ {2} t ^ {2}) } {2}} + \ mu t \ right) + \ log {\ left \ lbrace 1- \ Phi \ left (- {\ frac {\ mu} {\ sigma}} - \ sigma t \ right) + e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} - \ mu t} \ left [1- \ Phi \ left ({\ frac {\ mu} {\ sigma}} - \ сигма т \ право) \ право] \ право \ rbrace}} .

  • Преобразование Лапласа задается формулой

E (e - tx) = e σ 2 t 2 2 - μ t [1 - Φ (- μ σ + σ t)] + е σ 2 T 2 2 + μ t [1 - Φ (μ σ + σ t)] {\ displaystyle E \ left (e ^ {- tx} \ right) = e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} - \ mu t} \ left [1- \ Phi \ left (- {\ frac {\ mu} {\ sigma}} + \ sigma t \ right) \ right] + e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} + \ mu t} \ left [1- \ Phi \ left ({ \ frac {\ mu} {\ sigma}} + \ sigma t \ right) \ right]}{\ displaystyle E \ left (e ^ {- tx} \ right) = e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} - \ mu t} \ left [1- \ Phi \ left ( - {\ frac {\ mu} {\ sigma}} + \ sigma t \ right) \ right] + e ^ {{\ frac {\ sigma ^ {2} t ^ {2}} {2}} + \ mu t} \ left [1- \ Phi \ left ({\ frac {\ mu} {\ sigma}} + \ sigma t \ right) \ right]} .

  • Преобразование Фурье задается формулой

f ^ (t) = ϕ x (- 2 π t) = e - 4 π 2 σ 2 t 2 2 - i 2 π μ t [1 - Φ (- μ σ - i 2 π σ t)] + e - 4 π 2 σ 2 t 2 2 + i 2 π μ t [1 - Φ (μ σ - я 2 π σ T)] {\ displaystyle {\ hat {f}} \ left (t \ right) = \ phi _ {x} \ left (-2 \ pi t \ right) = е ^ {{\ frac { -4 \ pi ^ {2} \ sigma ^ {2} t ^ {2}} {2}} - i2 \ pi \ mu t} \ left [1- \ Phi \ left (- {\ frac {\ mu} {\ sigma}} - i2 \ pi \ sigma t \ right) \ right] + e ^ {- {\ frac {4 \ pi ^ {2} \ sigma ^ {2} t ^ {2}} {2}} + i2 \ pi \ mu t} \ left [1- \ Phi \ left ({\ frac {\ mu} {\ sigma}} - i2 \ pi \ sigma t \ right) \ right]}{\ displaystyle {\ hat {f}} \ left (t \ right) = \ phi _ {x} \ left (-2 \ pi t \ right) = e ^ {{\ frac {-4 \ pi ^ {2} \ sigma ^ {2} t ^ { 2}} {2}} - i2 \ pi \ mu t} \ left [1- \ Phi \ left (- {\ frac {\ mu} {\ sigma}} - i2 \ pi \ sigma t \ right) \ right ] + e ^ {- {\ frac {4 \ pi ^ {2} \ sigma ^ {2} t ^ {2}} {2}} + i2 \ pi \ mu t} \ left [1- \ Phi \ left ({\ гидроразрыва {\ mu} {\ sigma}} - i2 \ pi \ sigma t \ right) \ right]} .

Связанные распределения
Статистический вывод

Оценка параметров

Есть е несколько способов оценки параметров свернутой нормали. Все они, по сути, являются процедурой оценки максимального правдоподобия, но в некоторых случаях выполняется численная максимизация, в то время как в других случаях выполняется поиск корня уравнения. Логарифмическая вероятность свернутой нормали, когда доступна выборка xi {\ displaystyle x_ {i}}x_ {i} размером n {\ displaystyle n}n, может быть записывается следующим образом

l = - n 2 log ⁡ 2 π σ 2 + ∑ i = 1 n log ⁡ [e - (xi - μ) 2 2 σ 2 + e - (xi + μ) 2 2 σ 2] {\ displaystyle l = - {\ frac {n} {2}} \ log {2 \ pi \ sigma ^ {2}} + \ sum _ {i = 1} ^ {n} \ log {\ left [ e ^ {- {\ frac {\ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}}} + e ^ {- {\ frac {\ left (x_ {i} + \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}}} \ right]}}{ \ displaystyle l = - {\ frac {n} {2}} \ log {2 \ pi \ sigma ^ {2}} + \ sum _ {i = 1} ^ {n} \ log {\ left [e ^ { - {\ frac {\ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}}} + e ^ {- {\ frac {\ left (x_ {i}) + \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}}} \ right]}}

l = - n 2 log ⁡ 2 π σ 2 + ∑ i = 1 n журнал ⁡ [е - (xi - μ) 2 2 σ 2 (1 + e - (xi + μ) 2 2 σ 2 e (xi - μ) 2 2 σ 2)] {\ displaystyle l = - {\ frac { n} {2}} \ log {2 \ pi \ sigma ^ {2}} + \ sum _ {i = 1} ^ {n} \ log {\ left [e ^ {- {\ frac {\ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}}} \ left (1 + e ^ {- {\ frac {\ left (x_ {i} + \ mu \ right)) ^ {2}} {2 \ sigma ^ {2}}}} e ^ {\ frac {\ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}} } \ right) \ right]}}{\ displaystyle l = - {\ frac {n} {2}} \ log {2 \ pi \ sigma ^ {2}} + \ sum _ {i = 1} ^ {n} \ log {\ left [e ^ {- {\ frac {\ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}}} \ left (1 + e ^ {- {\ frac {\ left (x_ {i} + \ mu \ right) ^ {2}} {2 \ sigma ^ {2}) }}} e ^ {\ frac {\ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}} \ right) \ right]}}

l = - n 2 log ⁡ 2 π σ 2 - ∑ i = 1 n (xi - μ) 2 2 σ 2 + ∑ i = 1 n log ⁡ (1 + e - 2 μ xi σ 2) {\ displaystyle l = - {\ frac {n} {2}} \ log {2 \ pi \ sigma ^ {2}} - \ sum _ {i = 1} ^ {n} {\ frac {\ left (x_ {i } - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}} + \ sum _ {i = 1} ^ {n} \ log {\ left (1 + e ^ {- {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}} \ right)}}{\ displaystyle l = - {\ frac {n} {2}} \ log {2 \ pi \ sigma ^ { 2}} - \ sum _ {i = 1} ^ {n} {\ frac {\ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {2}}} + \ sum _ {i = 1} ^ {n} \ log {\ left (1 + e ^ {- {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}} \ right)}}

В R (язык программирования) с использованием пакета Rfast можно получить MLE очень быстро (команда foldnorm.mle). В качестве альтернативы этому распределению подойдет команда optim или nlm. Максимизировать легко, поскольку задействованы два параметра (μ {\ displaystyle \ mu}\ mu и σ 2 {\ displaystyle \ sigma ^ {2}}\ sigma ^ {2} ). Обратите внимание, что как положительные, так и отрицательные значения для μ {\ displaystyle \ mu}\ mu приемлемы, поскольку μ {\ displaystyle \ mu}\ mu принадлежит реальной линии. чисел, следовательно, знак не важен, потому что распределение симметрично относительно него. Следующий код записывается в R

свернутом <- function(y) { ## y is a vector with positive data n <- length(y) ## sample size sy2 <- sum(y^2) sam <- function(para, n, sy2) { me <- para[1] ; se <- exp( para[2]) f <- - n/2 * log(2/pi/se) + n * me^2 / 2 / se + sy2 / 2 / se - sum( log( cosh( me * y/se))) f } mod <- optim( c( mean(y), sd(y)), n = n, sy2 = sy2, sam, control = list(maxit = 2000)) mod <- optim( mod$par, sam, n = n, sy2 = sy2, control = list(maxit = 20000)) result <- c( -mod$value, mod$par[1], exp(mod$par[2])) names(result) <- c("log-likelihood", "mu", "sigma squared") result }

. Частные производные логарифмической вероятности записываются как

∂ l ∂ μ = ∑ i = 1 n (xi - μ) σ 2 - 2 σ 2 ∑ я знак равно 1 nxie - 2 μ xi σ 2 1 + е - 2 μ xi σ 2 {\ displaystyle {\ frac {\ partial l} {\ partial \ mu}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} {\ sigma ^ {2}}} - {\ frac {2} {\ sigma ^ {2}}} \ sum _ {i = 1 } ^ {n} {\ frac {x_ {i} e ^ {\ frac {-2 \ mu x_ {i}} {\ sigma ^ {2}}}} {1 + e ^ {\ frac {-2 \ mu x_ {i}} {\ sigma ^ {2}}}}}}{\ displaystyle {\ frac {\ partial l} {\ partial \ mu}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} {\ sigma ^ {2}}} - {\ frac {2} {\ sigma ^ {2}}} \ sum _ {i = 1} ^ {n} {\ frac {x_ {i} e ^ {\ frac {-2 \ mu x_ {i}} {\ sigma ^ {2}}}} {1 + e ^ { \ frac {-2 \ mu x_ {i}} {\ sigma ^ {2}}}}}}

∂ l ∂ μ = ∑ i = 1 n (xi - μ) σ 2 - 2 σ 2 ∑ i = 1 nxi 1 + e 2 μ xi σ 2 и {\ displaystyle {\ frac {\ partial l} {\ partial \ mu}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} {\ sigma ^ {2}}} - {\ frac {2} {\ sigma ^ {2}}} \ sum _ {i = 1} ^ {n} {\ frac {x_ {i} } {1 + e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} \ \ {\ text {and}}}{\ displaystyle {\ frac {\ partial l} {\ partial \ mu}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} {\ sigma ^ {2}}} - {\ frac {2} {\ sigma ^ {2}}} \ sum _ {i = 1} ^ {n} {\ frac {x_ {i }} {1 + e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} \ \ {\ text {and}}}

∂ l ∂ σ 2 = - n 2 σ 2 + ∑ я знак равно 1 N (xi - μ) 2 2 σ 4 + 2 μ σ 4 ∑ я = 1 nxie - 2 μ xi σ 2 1 + е - 2 μ xi σ 2 {\ displaystyle {\ frac { \ partial l} {\ partial \ sigma ^ {2}}} = - {\ frac {n} {2 \ sigma ^ {2}}} + {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {4}}} + {\ frac {2 \ mu} {\ sigma ^ {4}}} \ sum _ {i = 1} ^ {n} { \ frac {x_ {i} e ^ {- {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} {1 + e ^ {- {\ frac {2 \ mu x_ { i}} {\ sigma ^ {2}}}}}}}{\ displaystyle {\ frac {\ partial l} {\ partial \ sigma ^ {2}}} = - {\ frac {n } {2 \ sigma ^ {2}}} + {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {4}}} + {\ frac {2 \ mu} {\ sigma ^ {4}}} \ sum _ {i = 1} ^ {n} {\ frac {x_ {i} e ^ {- {\ гидроразрыв {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} {1 + e ^ {- {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}} }}}

∂ l ∂ σ 2 = - n 2 σ 2 + ∑ i = 1 n (xi - μ) 2 2 σ 4 + 2 μ σ 4 ∑ я знак равно 1 nxi 1 + е 2 μ xi σ 2 {\ displaystyle {\ frac {\ partial l} {\ partial \ sigma ^ {2}}} = - {\ frac {n} {2 \ sigma ^ {2 }}} + {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {4}}} + { \ frac {2 \ mu} {\ sigma ^ {4}}} \ sum _ {i = 1} ^ {n} {\ frac {x_ {i}} {1 + e ^ {\ frac {2 \ mu x_) {i}} {\ sigma ^ {2}}}}}}{\ displaystyle {\ frac {\ partial l} {\ partial \ sigma ^ {2}}} = - {\ frac {n } {2 \ sigma ^ {2}}} + {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right) ^ {2}} {2 \ sigma ^ {4}}} + {\ frac {2 \ mu} {\ sigma ^ {4}}} \ sum _ {i = 1} ^ {n} {\ frac {x_ {i}} {1 + e ^ {\ гидроразрыва {2 \ mu x_ {i}} {\ sigma ^ {2}}}}}} .

Приравнивая первую частную производную логарифмического правдоподобия нулю, мы получаем хорошее соотношение

∑ i = 1 nxi 1 + e 2 μ xi σ 2 знак равно ∑ я знак равно 1 N (xi - μ) 2 {\ displaystyle \ sum _ {i = 1} ^ {n} {\ frac {x_ {i}} {1 + e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} { 2}}}{\ displaystyle \ sum _ {i = 1} ^ {n} {\ frac {x_ {i}} {1 + e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} {2}}} .

Обратите внимание, что у приведенного выше уравнения есть три решения, одно равное нулю и еще два с противоположным знаком. Подставляя указанное выше уравнение в частную производную логарифма правдоподобия по σ 2 {\ displaystyle \ sigma ^ {2}}{\ displaystyle \ sigma ^ {2}} и приравнивая ее к нулю, мы получаем следующее выражение для дисперсия

σ 2 = ∑ i = 1 n (xi - μ) 2 n + 2 μ ∑ i = 1 n (xi - μ) n = ∑ i = 1 n (xi 2 - μ 2) n = ∑ i Знак равно 1 nxi 2 n - μ 2 {\ displaystyle \ sigma ^ {2} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right) ^ {2 }} {n}} + {\ frac {2 \ mu \ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} {n}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} - \ mu ^ {2} \ right)} {n}} = {\ frac {\ sum _ {i = 1} ^ {n} x_ {i} ^ {2}} {n}} - \ mu ^ {2}}{\ displaystyle \ sigma ^ {2} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ справа) ^ {2}} {n}} + {\ frac {2 \ mu \ sum _ {i = 1} ^ {n} \ left (x_ {i} - \ mu \ right)} {n}} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} - \ mu ^ {2} \ right)} {n}} = {\ frac {\ sum _ {я = 1} ^ {n} x_ {i} ^ {2}} {n}} - \ mu ^ {2}} ,

, которая является той же формулой, что и в нормальном распределении. Основное различие здесь заключается в том, что μ {\ displaystyle \ mu}\ mu и σ 2 {\ displaystyle \ sigma ^ {2}}\ sigma ^ {2} не являются статистически независимыми. Вышеупомянутые отношения могут использоваться для получения оценок максимального правдоподобия эффективным рекурсивным способом. Начнем с начального значения для σ 2 {\ displaystyle \ sigma ^ {2}}\ sigma ^ {2} и находим положительный корень (μ {\ displaystyle \ mu}\ mu ) последнего уравнения. Затем мы получаем обновленное значение σ 2 {\ displaystyle \ sigma ^ {2}}\ sigma ^ {2} . Процедура повторяется до тех пор, пока изменение значения логарифмической вероятности не станет незначительным. Другой более простой и эффективный способ - выполнить алгоритм поиска. Запишем последнее уравнение более элегантно

2 ∑ i = 1 nxi 1 + e 2 μ xi σ 2 - ∑ i = 1 nxi (1 + e 2 μ xi σ 2) 1 + e 2 μ xi σ 2 + N μ знак равно 0 {\ displaystyle 2 \ sum _ {i = 1} ^ {n} {\ frac {x_ {i}} {1 + e ^ {\ frac {2 \ mu x_ {i}} { \ sigma ^ {2}}}}} - \ sum _ {i = 1} ^ {n} {\ frac {x_ {i} \ left (1 + e ^ {\ frac {2 \ mu x_ {i}}) {\ sigma ^ {2}}} \ right)} {1 + e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} + n \ mu = 0}{\ displaystyle 2 \ sum _ {i = 1} ^ {n} {\ frac {x_ { i}} {1 + e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} - \ sum _ {i = 1} ^ {n} {\ frac {x_ { i} \ left (1 + e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}} \ right)} {1 + e ^ {\ frac {2 \ mu x_ {i} } {\ sigma ^ {2}}}}} + n \ mu = 0}

∑ я знак равно 1 nxi (1 - е 2 μ xi σ 2) 1 + e 2 μ xi σ 2 + n μ = 0 {\ displaystyle \ sum _ {i = 1} ^ {n} {\ frac {x_ { i} \ left (1-e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}} \ right)} {1 + e ^ {\ frac {2 \ mu x_ {i} } {\ sigma ^ {2}}}}} + n \ mu = 0}{\ displaystyle \ sum _ {я = 1} ^ {n} {\ frac {x_ {i} \ left (1-e ^ {\ frac {2 \ mu x_ {i}} {\ sigma ^ {2}}} \ right)} {1 + e ^ {\ гидроразрыв {2 \ mu x_ {i}} {\ sigma ^ {2}}}}} + n \ mu = 0} .

Становится ясно, что оптимизация логарифмической вероятности по двум параметрам превратилась в корневой поиск функции. Это, конечно, идентично предыдущему корневому поиску. Цагрис и др. (2014) обнаружили, что у этого уравнения есть три корня для μ {\ displaystyle \ mu}\ mu , т.е. есть три возможных значения μ {\ displaystyle \ mu}\ mu , удовлетворяющие этому уравнению. - μ {\ displaystyle - \ mu}- \ mu и + μ {\ displaystyle + \ mu}{\ displaystyle + \ mu} , которые представляют собой оценки максимального правдоподобия, и 0, что соответствует до минимальной логарифмической вероятности.

См. Также
Ссылки
  • Tsagris, M.; Beneki, C.; Хассани, Х. (2014). «О сложенном нормальном распределении». Математика. 2 (1): 12–28. arXiv : 1402.3559.
  • Леоне ФК, Ноттингем, РБ, Нельсон Л.С. (1961). «Свернутое нормальное распределение». Технометрика. 3 (4): 543–550. DOI : 10.2307 / 1266560. HDL : 2027 / mdp.39015095248541. JSTOR 1266560.
  • Джонсон Н.Л. (1962). «Сложенное нормальное распределение: точность оценки по максимальному правдоподобию». Технометрика. 4 (2): 249–256. doi : 10.2307 / 1266622. JSTOR 1266622.
  • Нельсон Л.С. (1980). «Свернутое нормальное распределение». J Qual Technol. 12 (4): 236–238.
  • Эландт Р.К. (1961). «Сложенное нормальное распределение: два метода оценки параметров по моментам». Технометрика. 3 (4): 551–562. DOI : 10.2307 / 1266561. JSTOR 1266561.
  • Лин ПК (2005). «Применение обобщенного складчато-нормального распределения к мерам возможностей процесса». Int J Adv Manuf Technol. 26 (7–8): 825–830. doi : 10.1007 / s00170-003-2043-x.
  • Psarakis, S.; Панаретос, Дж. (1990). «Свернутое t-распределение». Коммуникации в статистике - теория и методы. 19 (7): 2717–2734.
  • Psarakis, S.; Панаретос, Дж. (2001). «О некоторых двумерных расширениях свернутого нормального и свернутого t-распределений». Журнал прикладной статистической науки. 10 (2): 119–136.
  • Чакраборти, А.К.; Мутуши, К. (2013). «О многомерном сложенном нормальном распределении». Санкхья Б. 75 (1): 1–15.
Внешние ссылки
Последняя правка сделана 2021-05-20 09:59:24
Содержание доступно по лицензии CC BY-SA 3.0 (если не указано иное).
Обратная связь: support@alphapedia.ru
Соглашение
О проекте