Усеченное нормальное распределение

Функция плотности вероятности Функция плотности вероятности для усеченного нормального распределения для различных наборов параметров. Во всех случаях a = −10 и b = 10. Для черного: μ = −8, σ = 2; синий: μ = 0, σ = 2; красный: μ = 9, σ = 10; оранжевый: μ = 0, σ = 10.
Кумулятивная функция распределения Кумулятивная функция распределения для усеченного нормального распределения для различных наборов параметров. Во всех случаях a = −10 и b = 10. Для черного: μ = −8, σ = 2; синий: μ = 0, σ = 2; красный: μ = 9, σ = 10; оранжевый: μ = 0, σ = 10.
Обозначение	$\xi \; =\; x\; -\; \mu \; \sigma ,\; \alpha \; =\; a\; -\; \mu \; \sigma ,\; \beta \; =\; b\; -\; \mu \; \sigma \; \{\backslash \; displaystyle\; \backslash \; xi\; =\; \{\backslash \; frac\; \{x-\; \backslash \; mu\}\; \{\backslash \; sigma\}\},\; \backslash \; \backslash \; alpha\; =\; \{\backslash \; frac\; \{a-\; \backslash \; mu\}\; \{\backslash \; sigma\}\},\; \backslash \; \backslash \; beta\; =\; \{\backslash \; frac\; \{b-\; \backslash \; mu\}\; \{\backslash \; sigma\}\}\}$. $Z\; Знак\; равно\; \Phi \; (\beta )\; -\; \Phi \; (\alpha )\; \{\backslash \; displaystyle\; Z\; =\; \backslash \; Phi\; (\backslash \; beta)\; -\; \backslash \; Phi\; (\backslash \; alpha)\}$
Параметры	μ ∈ R. σ ≥ 0 (но см. определение). a ∈ R - минимальное значение x. b ∈ R - максимальное значение x (b>a)
Поддержка	x ∈ [a, b]
PDF	$f\; (x;\; \mu ,\; \sigma ,\; a,\; b)\; =\; \varphi \; (\xi )\; \sigma \; Z\; \{\backslash \; displaystyle\; f\; (x;\; \backslash \; mu,\; \backslash \; sigma,\; a,\; b)\; =\; \{\; \backslash \; frac\; \{\backslash \; phi\; (\backslash \; xi)\}\; \{\backslash \; sigma\; Z\}\}\; \backslash ,\}$
CDF	$F\; (x;\; \mu ,\; \sigma ,\; a,\; b)\; =\; \Phi \; (\xi )\; -\; \Phi \; (\alpha )\; Z\; \{\; \backslash \; Displaystyle\; F\; (x;\; \backslash \; mu,\; \backslash \; sigma,\; a,\; b)\; =\; \{\backslash \; frac\; \{\backslash \; Phi\; (\backslash \; xi)\; -\; \backslash \; Phi\; (\backslash \; alpha)\}\; \{Z\}\}\}$
Среднее	$\mu \; +\; \varphi \; (\alpha )\; -\; \varphi \; (\beta )\; Z\; \sigma \; \{\backslash \; displaystyle\; \backslash \; mu\; +\; \{\backslash \; frac\; \{\backslash \; phi\; (\backslash \; alpha)\; -\; \backslash \; phi\; (\backslash \; beta)\}\; \{Z\}\}\; \backslash \; sigma\}$
медиана	$\mu \; +\; \Phi \; -\; 1\; (\Phi \; (\alpha )\; +\; \Phi \; (\beta )\; 2)\; \sigma \; \{\backslash \; displaystyle\; \backslash \; mu\; +\; \backslash \; Phi\; ^\; \{-\; 1\}\; \backslash \; left\; (\{\backslash \; frac\; \{\backslash \; Phi\; (\backslash \; alpha)\; +\; \backslash \; Phi\; (\backslash \; beta)\}\; \{2\}\}\; \backslash \; right)\; \backslash \; sigma\}$
Mode
Вариант	$\sigma \; 2\; [1\; +\; \alpha \; \varphi \; (\alpha )\; -\; \beta \; \varphi \; (\beta )\; Z\; -\; (\varphi \; (\alpha )\; -\; \varphi \; (\beta )\; Z)\; 2]\; \{\backslash \; displaystyle\; \backslash \; sigma\; ^\; \{2\}\; \backslash \; left\; [1+\; \{\; \backslash \; frac\; \{\backslash \; alpha\; \backslash \; phi\; (\backslash \; alpha)\; -\; \backslash \; beta\; \backslash \; phi\; (\backslash \; beta)\}\; \{Z\}\}\; -\; \backslash \; left\; (\{\backslash \; frac\; \{\backslash \; phi\; (\backslash \; alpha)\; -\; \backslash \; phi\; (\backslash \; beta)\}\; \{Z\})\; \}\; \backslash \; right)\; ^\; \{2\}\; \backslash \; right]\}$
Энтропия	$ln\; \; (2\; \pi \; e\; \sigma \; Z)\; +\; \alpha \; \varphi \; (\alpha )\; -\; \beta \; \varphi \; (\beta )\; 2\; Z\; \{\backslash \; displaystyle\; \backslash \; ln\; (\{\backslash \; sqrt\; \{2\; \backslash \; pi\; e\}\}\; \backslash \; sigma\; Z)\; +\; \{\backslash \; frac\; \{\backslash \; alpha\; \backslash \; phi\; (\backslash \; alpha)\; -\; \backslash \; beta\; \backslash \; phi\; (\backslash \; beta)\}\; \{2Z\}\}\}$
MGF	$e\; \mu \; t\; +\; \sigma \; 2\; T\; 2/2\; [\Phi \; (\beta \; -\; \sigma \; t)\; -\; \Phi \; (\alpha \; -\; \sigma \; t)\; \Phi \; (\beta )\; -\; \Phi \; (\alpha )]\; \{\backslash \; displaystyle\; e\; ^\; \{\backslash \; mu\; t\; +\; \backslash \; sigma\; ^\; \{2\}\; t\; ^\; \{2\}\; /\; 2\}\; \backslash \; left\; [\{\backslash \; frac\; \{\backslash \; Phi\; (\backslash \; beta\; -\; \backslash \; sigma\; t)\; -\; \backslash \; Phi\; (\backslash \; alpha\; -\; \backslash \; sigma\; t)\}\; \{\backslash \; Phi\; (\backslash \; beta)\; -\; \backslash \; Phi\; (\backslash \; alpha)\}\; \}\; \backslash \; right]\}$

В вероятности и статистике усеченное нормальное распределение является распределением вероятности получен из случайной величины нормально распределенной случайной величины путем ограничения случайной величины снизу или сверху (или обоих). Усеченное нормальное распределение имеет широкое применение в статистике и эконометрике. Например, он используется для моделирования вероятностей двоичных исходов в пробит-модели и для моделирования цензурированных данных в Тобит-модели.

• 1 Определения
• 2 Свойства
  • 2.1 Моменты
    • 2.1.1 Двустороннее усечение
    • 2.1.2 Одностороннее усечение (нижнего хвоста)
    • 2.1.3 Одностороннее усечение (верхнего хвоста)
• 3 Вычислительные методы
  • 3.1 Генерация значений из усеченного нормального распределения
• 4 См. Также
• 5 Примечания
• 6 Ссылки

Предположим, $X\; \{\backslash \; displaystyle\; X\}$имеет нормальное распределение со средним значением $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$и дисперсией $\sigma \; 2\; \{\backslash \; displaystyle\; \backslash \; sigma\; ^\; \{2\}\}$и находится в пределах интервал . Тогда $X\; \{\backslash \; displaystyle\; X\}$с условием от имеет усеченное нормальное распределение.

Его функция плотности вероятности, $f\; \{\backslash \; displaystyle\; f\}$, для $a\; \le \; x\; \le \; b\; \{\backslash \; displaystyle\; a\; \backslash \; leq\; x\; \backslash \; leq\; b\}$, определяется как

$f\; (x;\; \mu ,\; \sigma ,\; a,\; b)\; =\; 1\; \sigma \; \varphi \; (x\; -\; \mu \; \sigma )\; \Phi \; (b\; -\; \mu \; \sigma )\; -\; \Phi \; (a\; -\; \mu \; \sigma )\; \{\backslash \; displaystyle\; f\; (x;\; \backslash \; mu,\; \backslash \; sigma,\; a,\; b)\; =\; \{\backslash \; frac\; \{1\}\; \{\backslash \; sigma\}\}\; \backslash ,\; \{\backslash \; frac\; \{\backslash \; phi\; (\{\backslash \; frac\; \{x-\; \backslash \; mu\})\; \{\backslash \; sigma\}\})\}\; \{\backslash \; Phi\; (\{\backslash \; frac\; \{b-\; \backslash \; mu\}\; \{\backslash \; sigma\}\})\; -\; \backslash \; Phi\; (\{\backslash \; frac\; \{a-\; \backslash \; mu\}\; \{\backslash \; sigma\}\})\}\}\}$

и на $f\; =\; 0\; \{\backslash \; displaystyle\; f\; =\; 0\}$в противном случае.

Здесь

$\varphi \; (\xi )\; =\; 1\; 2\; \pi \; exp\; \; (-\; 1\; 2\; \xi \; 2)\; \{\backslash \; displaystyle\; \backslash \; phi\; (\backslash \; xi)\; =\; \{\backslash \; frac\; \{1\}\; \{\backslash \; sqrt\; \{2\; \backslash \; pi\}\}\}\; \backslash \; exp\; \backslash \; left\; (-\; \{\backslash \; frac\; \{1\}\; \{2\}\}\; \backslash \; xi\; ^\; \{2\}\; \backslash \; right)\}$

- функция плотности вероятности стандартного нормального распределения и $\Phi \; (\cdot )\; \{\backslash \; displaystyle\; \backslash \; Phi\; (\backslash \; cdot)\}$- его кумулятивная функция распределения

$\Phi \; (x)\; =\; 1\; 2\; (1\; +\; erf\; \; (x\; /\; 2)).\; \{\backslash \; displaystyle\; \backslash \; Phi\; (x)\; =\; \{\backslash \; frac\; \{1\}\; \{2\}\}\; \backslash \; left\; (1+\; \backslash \; operatorname\; \{erf\}\; (x\; /\; \{\backslash \; sqrt\; \{2\}\})\; \backslash \; right).\}$

По определению, если $b\; =\; \infty \; \{\backslash \; displaystyle\; b\; =\; \backslash \; infty\}$, то $\Phi \; (b\; -\; \mu \; \sigma )\; =\; 1\; \{\backslash \; displaystyle\; \backslash \; Phi\; \backslash \; left\; (\{\backslash \; tfrac\; \{b-\; \backslash \; mu\}\; \{\backslash \; sigma\}\}\; \backslash \; right)\; =\; 1\}$, и аналогично, если $a\; =\; -\; \infty \; \{\backslash \; displaystyle\; a\; =\; -\; \backslash \; infty\}$, то $\Phi \; (a\; -\; \mu \; \sigma )\; =\; 0\; \{\backslash \; displaystyle\; \backslash \; Phi\; \backslash \; left\; (\{\backslash \; tfrac\; \{a-\; \backslash \; mu\}\; \{\backslash \; sigma\}\}\; \backslash \; right)\; =\; 0\}$.

. Приведенные выше формулы показывают, что когда параметр масштаба $\sigma \; 2\; \{\backslash \; displaystyle\; \backslash \; sigma\; ^\; \{2\}\}$усеченного нормального распределения может принимать отрицательные значения. Параметр $\sigma \; \{\backslash \; displaystyle\; \backslash \; sigma\}$в данном случае является мнимым, но функция $f\; \{\backslash \; displaystyle\; f\}$, тем не менее, действительна, положительна и нормализуема.. Параметр масштаба $\sigma \; 2\; \{\backslash \; displaystyle\; \backslash \; sigma\; ^\; \{2\}\}$канонического нормального распределения должен быть положительным, поскольку в противном случае распределение не было бы нормализуемым. С другой стороны, дважды усеченное нормальное распределение может в принципе иметь отрицательный масштабный параметр (который отличается от дисперсии, см. Сводные формулы), потому что в ограниченной области таких проблем интегрируемости не возникает. В этом случае распределение не может быть интерпретировано как каноническое нормальное условие для , конечно, но все же может быть интерпретировано как распределение максимальной энтропии с первым и вторым моментами в качестве ограничений, и имеет дополнительные своеобразная особенность: он представляет два локальных максимума вместо одного, расположенных в $x\; =\; a\; \{\backslash \; displaystyle\; x\; =\; a\}$и $x\; =\; b\; \{\backslash \; displaystyle\; x\; =\; b\}$.

Усеченная нормаль - это максимальное распределение вероятностей энтропии для фиксированного среднего значения и дисперсии, при этом случайная переменная X должна находиться в интервале [a, b].

Моменты

Если случайная величина была усечена только снизу, некоторая вероятностная масса была смещена в сторону более высоких значений, давая стохастически доминирующее распределение первого порядка и, следовательно, увеличение среднего до значения, превышающего среднее $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$исходного нормального распределения. Аналогично, если случайная величина была усечена только сверху, усеченное распределение имеет среднее значение меньше $\mu .\; \{\backslash \; displaystyle\; \backslash \; mu.\}$

Независимо от того, ограничена ли случайная величина сверху, снизу или и там, и там, усечение представляет собой сокращение с сохранением среднего значения в сочетании с жестким сдвигом, изменяющим среднее значение, и, следовательно, дисперсия усеченного распределения меньше, чем дисперсия $\sigma \; 2\; \{\backslash \; displaystyle\; \backslash \; sigma\; ^\; \{2\}\}$исходного нормального распределения.

Двустороннее усечение

Пусть $\alpha \; =\; (a\; -\; \mu )\; /\; \sigma \; \{\backslash \; displaystyle\; \backslash \; alpha\; =\; (a-\; \backslash \; mu)\; /\; \backslash \; sigma\}$и $\beta \; =\; (b\; -\; \mu )\; /\; \sigma \; \{\backslash \; displaystyle\; \backslash \; beta\; =\; (b-\; \backslash \; mu)\; /\; \backslash \; sigma\}$. Тогда:

и

) Следует проявлять осторожность при численной оценке этих формул, которая может привести к катастрофическому отказу когда интервал $[a,\; b]\; \{\backslash \; displaystyle\; [a,\; b]\}$не включает $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$. Есть лучшие способы их переписывания, позволяющие избежать этой проблемы.

Одностороннее усечение (нижнего хвоста)

В этом случае $\varphi \; (\beta )\; =\; 0,\; \Phi \; (\beta )\; =\; 1,\; \{\; \backslash \; displaystyle\; \backslash ;\; \backslash \; phi\; (\backslash \; beta)\; =\; 0,\; \backslash ;\; \backslash \; Phi\; (\backslash \; beta)\; =\; 1,\}$, затем

$E\; \; (X\; \mid \; X>a)\; =\; \mu \; +\; \sigma \; \varphi \; (\; \alpha )\; /\; Z,\; \{\backslash \; Displaystyle\; \backslash \; OperatorName\; \{E\}\; (X\; \backslash \; середина\; X>а)\; =\; \backslash \; му\; +\; \backslash \; сигма\; \backslash \; фи\; (\backslash \; альфа)\; /\; Z,\; \backslash !\}$

и

$Var\; \; (X\; \mid \; X>a)\; =\; \sigma \; 2\; [1\; +\; \alpha \; \varphi \; (\alpha )\; /\; Z\; -\; (\varphi \; (\alpha )\; /\; Z)\; 2],\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{Var\}\; (X\; \backslash \; mid\; X>a)\; =\; \backslash \; sigma\; ^\; \{2\}\; [1+\; \backslash \; alpha\; \backslash \; phi\; (\backslash \; al\; pha)\; /\; Z\; -\; (\backslash \; phi\; (\backslash \; alpha)\; /\; Z)\; ^\; \{2\}],\}$

где $Z\; =\; 1\; -\; \Phi \; (\alpha ).\; \{\backslash \; displaystyle\; Z\; =\; 1-\; \backslash \; Phi\; (\backslash \; alpha).\}$

Одностороннее усечение (верхнего хвоста)

,

Барр и Шерилл (1999) дают более простое выражение для дисперсии односторонних усечений. Их формула представлена ​​в терминах CDF хи-квадрат, который реализован в стандартных библиотеках программного обеспечения. Бебу и Мэтью (2009) предоставляют формулы для (обобщенных) доверительных интервалов около усеченные моменты.

Рекурсивная формула

Что касается неусеченного случая, существует рекурсивная формула для усеченных моментов.

Многовариантная

Вычислить моменты многомерной усеченной нормали сложнее.

Генерация значений из усеченного нормального распределения

Случайная величина x, определяемая как $x\; =\; \Phi \; -\; 1\; (\Phi \; (\alpha )\; +\; U\; \cdot \; (\Phi \; (\beta )\; -\; \Phi \; (\alpha )))\; \sigma \; +\; \mu \; \{\backslash \; displaystyle\; x\; =\; \backslash \; Phi\; ^\; \{-\; 1\}\; (\backslash \; Phi\; (\backslash \; alpha)\; +\; U\; \backslash \; cdot\; (\backslash \; Phi\; (\backslash \; beta)\; -\; \backslash \; Phi\; (\backslash \; alpha)))\; \backslash \; sigma\; +\; \backslash \; mu\}$с $\Phi \; \{\backslash \; displaystyle\; \backslash \; Phi\}$кумулятивным распределением n функция и $\Phi \; -\; 1\; \{\backslash \; displaystyle\; \backslash \; Phi\; ^\; \{-\; 1\}\}$обратная ей функция, $U\; \{\backslash \; displaystyle\; U\}$равномерное случайное число на $(0,\; 1)\; \{\backslash \; displaystyle\; (0,1)\}$, следует распределению, усеченному до диапазона $(a,\; b)\; \{\backslash \; displaystyle\; (a,\; b)\}$. Это просто метод обратного преобразования для моделирования случайных величин. Хотя этот метод является одним из самых простых, он может либо дать сбой при выборке в хвосте нормального распределения, либо оказаться слишком медленным. Таким образом, на практике приходится искать альтернативные методы моделирования.

Один такой усеченный нормальный генератор (реализованный в Matlab и в R (язык программирования) как trandn.R ) основан на приеме идея отказа из-за Марсальи. Несмотря на несколько неоптимальную степень принятия Марсальи (1964) по сравнению с Робертом (1995), метод Марсальи, как правило, быстрее, потому что он не требует дорогостоящей численной оценки экспоненциальной функции.

Подробнее о моделировании вытяжки из усеченного нормального распределения см. Robert (1995), Lynch (2007), раздел 8.1.3 (страницы 200–206), Devroye (1986). В пакете MSM в R есть функция rtnorm, которая вычисляет отрисовку из усеченной нормали. В пакете truncnorm в R также есть функции для извлечения из усеченной нормали.

Шопен (2011) предложил (arXiv ) алгоритм, вдохновленный алгоритмом Зикгурата Марсальи и Цанга (1984, 2000), который обычно считается самым быстрым гауссовым сэмплером, а также очень близок к алгоритму Аренса (1995). Реализации можно найти в C, C ++, Matlab и Python.

Выборка из многомерного усеченного нормального распределения значительно сложнее. Точное или идеальное моделирование возможно только в случае усечения нормального распределения до области многогранника. В более общих случаях Дэмиен и Уокер (2001) вводят общую методологию выборки усеченных плотностей в рамках выборки Гиббса. Их алгоритм вводит одну скрытую переменную, и в рамках модели выборки Гиббса он более эффективен с точки зрения вычислений, чем алгоритм Роберта (1995).

• Сложенное нормальное распределение
• Полунормальное распределение
• Нормальное распределение
• Выпрямленное распределение Гаусса
• Усеченное распределение
• Распределение PERT

• Грин, Уильям Х. (2003). Эконометрический анализ (5-е изд.). Прентис Холл. ISBN 978-0-13-066189-0.
• Норман Л. Джонсон и Сэмюэл Котц (1970). Непрерывные одномерные распределения-1, глава 13. John Wiley Sons.
• Линч, Скотт (2007). Введение в прикладную байесовскую статистику и оценки для социологов. Нью-Йорк: Спрингер. ISBN 978-1-4419-2434-6.
• Роберт, Кристиан П. (1995). «Моделирование усеченных нормальных переменных». Статистика и вычисления. 5 (2): 121–125. arXiv : 0907.4010. doi : 10.1007 / BF00143942. S2CID 15943491.
• Barr, Donald R.; Шерилл, Э. Тодд (1999). «Среднее значение и дисперсия усеченных нормальных распределений». Американский статистик. 53 (4): 357–361. doi : 10.1080 / 00031305.1999.10474490.
• Бебу, Ионут; Мэтью, Томас (2009). «Доверительные интервалы для ограниченных моментов и усеченных моментов в нормальной и логнормальной моделях». Статистика и вероятностные письма. 79 (3): 375–380. doi : 10.1016 / j.spl.2008.09.006.
• Дэмиен, Пол; Уокер, Стивен Г. (2001). «Выборка усеченной нормальной, бета- и гамма-плотности». Журнал вычислительной и графической статистики. 10 (2): 206–215. doi : 10.1198 / 10618600152627906. S2CID 123156320.
• Николас Шопен, «Быстрое моделирование усеченных гауссовских распределений». Статистика и вычисления 21 (2): 275-288, 2011, doi: 10.1007 / s11222-009-9168-1
• Буркардт, Джон. «Усеченное нормальное распределение» (PDF). Веб-сайт отдела научных вычислений. Государственный университет Флориды. Проверено 15 февраля 2018 г.