Функция генерирования вероятностей

В теории вероятностей, функция генерирования вероятностей для Дискретная случайная величина является представлением степенного ряда (производящей функции ) функции массы вероятности случайной величины. Функции генерации вероятностей часто используются для их краткого описания последовательности вероятностей Pr (X = i) в функции массы вероятностей для случайной величины X, а также для того, чтобы сделать доступной скважину -разработана теория степенных рядов с неотрицательными коэффициентами.

• 1 Определение
  • 1.1 Одномерный случай
  • 1.2 Многомерный случай
• 2 Свойства
  • 2.1 Степенный ряд
  • 2.2 Вероятности и ожидания
  • 2.3 Функции независимых случайных величин
• 3 Примеры
• 4 Понятия, связанные с данным
• 5 Примечания
• 6 Ссылки

Одномерный случай

Если X является дискретной случайной величиной принимая значения в неотрицательных целых числах {0,1,...}, тогда функция, генерирующая вероятность X, определяется как

$G\; (z)\; =\; E\; \; (z\; X)\; =\; \sum \; Икс\; знак\; равно\; 0\; \infty \; п\; (Икс)\; ZX,\; \{\backslash \; Displaystyle\; G\; (z)\; =\; \backslash \; operatorname\; \{E\}\; (z\; ^\; \{X\})\; =\; \backslash \; sum\; \_\; \{x\; =\; 0\}\; ^\; \{\backslash \; infty\}\; p\; (x)\; z\; ^\; \{x\},\}$

где p - функция массы вероятности X. Обратите внимание, что индексированные обозначения G X и p X часто используются для Подчеркните, что они относятся к конкретной случайной величине X и ее распределению. Степенный ряд сходится абсолютно по крайней мере для всех комплексных чисел z с | z | ≤ 1; во многих примерах радиус сходимости больше.

Многомерный случай

Если X = (X 1,..., X d) - дискретная случайная величина, принимающая значения в d -мерная неотрицательная целочисленная решетка {0,1,...}, то функция, производящая вероятность X, определяется как

$G\; (z)\; =\; G\; (z\; 1,\dots ,\; zd)\; Знак\; равно\; Е\; \; (z\; 1\; Икс\; 1\; \cdots \; zd\; Икс\; d)\; знак\; равно\; \sum \; Икс\; 1,\dots ,\; xd\; =\; 0\; \infty \; p\; (x\; 1,\dots ,\; xd)\; z\; 1\; x\; 1\; \cdots \; zdxd,\; \{\backslash \; displaystyle\; G\; (z)\; =\; G\; (\; z\_\; \{1\},\; \backslash \; ldots,\; z\_\; \{d\})\; =\; \backslash \; operatorname\; \{E\}\; \{\backslash \; bigl\; (\}\; z\_\; \{1\}\; ^\; \{X\_\; \{1\}\}\; \backslash \; cdots\; z\_\; \{d\}\; ^\; \{X\_\; \{d\}\}\; \{\backslash \; bigr)\}\; =\; \backslash \; sum\; \_\; \{x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{d\}\; =\; 0\}\; ^\; \{\backslash \; infty\}\; p\; (x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{d\})\; z\_\; \{1\}\; ^\; \{x\_\; \{1\}\}\; \backslash \; cdots\; z\_\; \{d\}\; ^\; \{x\_\; \{d\}\},\}$

где p - функция массы вероятности X. Степенный ряд сходится абсолютно по крайней мере для всех комплексных векторов z = (z 1,..., z d) ∈ ℂ с max {| z 1 |,..., | z d |} ≤ 1.

Силовой ряд

Функции, производящие вероятность, подчиняются всем правилам степенного ряда с неотрицательными коэффициентами. В частности, G (1) = 1, где G (1) = lim z → 1 G (z) снизу, поскольку суммы вероятностей должны составлять единицу. Таким образом, радиус сходимости любой функции, производящей вероятность, должен быть не менее 1 по теореме Абеля для степенных рядов с неотрицательными коэффициентами.

Вероятности и ожидания

Следующие свойства позволяют вывести различные базовые величины, связанные с X:

1. Функция массы вероятности X восстанавливается путем взятия производных от G,

   $p\; (k)\; знак\; равно\; Pr\; \; (X\; =\; k)\; =\; G\; (k)\; (0)\; k!.\; \{\backslash \; displaystyle\; p\; (k)\; =\; \backslash \; operatorname\; \{Pr\}\; (X\; =\; k)\; =\; \{\backslash \; frac\; \{G\; ^\; \{(k)\}\; (0)\}\; \{k!\}\}.\}$

2. Из свойства 1 следует, что если случайные величины X и Y имеют одинаковые функции генерации вероятностей, $GX\; =\; GY\; \{\backslash \; displaystyle\; G\_\; \{X\}\; =\; G\_\; \{Y\}\}$, то $p\; X\; =\; p\; Y\; \{\backslash \; Displaystyle\; p\_\; \{X\}\; =\; p\_\; \{Y\}\}$. То есть, если X и Y имеют одинаковые функции генерации вероятности, то они имеют идентичные распределения.
3. Нормализация функции плотности вероятности может быть выражена в терминах производящей функции как

   $E\; \; [1\; ]\; Знак\; равно\; г\; (1\; -)\; знак\; равно\; \sum \; я\; знак\; равно\; 0\; \infty \; п\; (я)\; =\; 1.\; \{\backslash \; Displaystyle\; \backslash \; OperatorName\; \{E\}\; [1]\; =\; G\; (1\; ^\; \{-\})\; =\; \backslash \; сумма\; \_\; \{я\; =\; 0\}\; ^\; \{\backslash \; infty\}\; p\; (i)\; =\; 1.\}$

   ожидание для $X\; \{\backslash \; displaystyle\; X\}$дается как

   $E\; \; [X]\; =\; G\; \prime \; (1\; -).\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; [X]\; =\; G\; \text{'}(1\; ^\; \{-\}).\}$

   В более общем смысле, факториальный момент k , $E\; \; (X\; (X\; -\; 1)\; \cdots \; (X\; -\; k\; +\; 1))\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; (X\; (X-1)\; \backslash \; cdots\; (X-k\; +\; 1))\}$из X задается как

   $E\; \; [X!\; (X\; -\; k)!\; ]\; =\; Г\; (К)\; (1\; -),\; К\; \ge \; 0.\; \{\backslash \; Displaystyle\; \backslash \; OperatorName\; \{E\}\; \backslash \; left\; [\{\backslash \; frac\; \{X!\}\; \{(Xk)!\}\}\; \backslash \; Right]\; =\; G\; ^\; \{(k)\; \}\; (1\; ^\; \{-\}),\; \backslash \; quad\; k\; \backslash \; geq\; 0.\}$

   Итак, дисперсия X задается как

   $Var\; \; (X)\; =\; G\; ″\; (1\; -)\; +\; G\; \prime \; (1\; -)\; -\; [G\; \prime \; (1\; -)]\; 2.\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{Var\}\; (X)\; =\; G\; \text{'}\text{'}\; (1\; ^\; \{-\})\; +\; G\; \text{'}(1\; ^\; \{-\})\; -\; \backslash \; left\; [G\text{'}\; (1\; ^\; \{-\})\; \backslash \; right]\; ^\; \{\; 2\}.\}$

   Наконец, исходный момент k X задается как

   $E\; \; [X\; k]\; =\; (z\; \partial \; \partial \; z)\; k\; G\; (z)\; |\; z\; =\; 1\; -\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; [X\; ^\; \{k\}]\; =\; \backslash \; left\; (z\; \{\backslash \; frac\; \{\backslash \; partial\}\; \{\backslash \; partial\; z\}\}\; \backslash \; right)\; ^\; \{k\}\; G\; (z)\; \{\backslash \; Большой\; |\}\; \_\; \{z\; =\; 1\; ^\; \{-\}\}\}$

4. $GX\; (et)\; =\; MX\; (t)\; \{\backslash \; displaystyle\; G\_\; \{X\}\; (e\; ^\; \{t\})\; =\; M\_\; \{X\}\; (t)\}$где X - случайная величина, $GX\; (t)\; \{\backslash \; displaystyle\; G\_\; \{X\}\; (t)\}$- функция генерации вероятности (X) и $MX\; (t)\; \{\backslash \; displaystyle\; M\_\; \{X\}\; (t)\}$- функция, генерирующая момент (от X).

Функции независимых случайных величин

Функции генерации вероятностей особенно полезны для работы с функциями от независимых случайных величин. Например:

• Если X 1, X 2,..., X N - последовательность независимых (и не обязательно одинаково распределенных) случайных переменные и

$SN\; =\; \sum \; я\; =\; 1\; N\; ai\; X\; i,\; \{\backslash \; displaystyle\; S\_\; \{N\}\; =\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{N\}\; a\_\; \{i\}\; X\_\; \{i\},\}$

где a i - константы, тогда функция, производящая вероятность, задается как

$GSN\; (z)\; =\; E\; \; (z\; SN)\; =\; E\; \; (z\; \sum \; i\; =\; 1\; N\; ai\; X\; i,)\; =\; GX\; 1\; (za\; 1)\; GX\; 2\; (za\; 2)\; \cdots \; GXN\; (za\; N).\; \{\backslash \; Displaystyle\; G\_\; \{S\_\; \{N\}\}\; (z)\; =\; \backslash \; operatorname\; \{E\}\; (z\; ^\; \{S\_\; \{N\}\})\; =\; \backslash \; operatorname\; \{E\}\; \backslash \; left\; (z\; ^\; \{\backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{N\}\; a\_\; \{i\}\; X\_\; \{i\},\}\; \backslash \; right)\; =\; G\_\; \{X\_\; \{1\}\}\; (z\; ^\; \{a\_\; \{1\}\})\; G\_\; \{X\_\; \{2\}\}\; (z\; ^\; \{a\_\; \{2\}\})\; \backslash \; cdots\; G\_\; \{X\_\; \{N\}\}\; (z\; ^\; \{a\_\; \{N\}\}).\}$

Например, если

$SN\; =\; \sum \; i\; =\; 1\; NX\; i,\; \{\backslash \; displaystyle\; S\_\; \{N\}\; =\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{N\}\; X\_\; \{i\},\}$

тогда функция, производящая вероятность, G SN(z), задается как

$GSN\; (z)\; =\; GX\; 1\; (z)\; GX\; 2\; (z)\; \cdots \; GXN\; (z).\; \{\backslash \; Displaystyle\; G\_\; \{S\_\; \{N\}\}\; (z)\; =\; G\_\; \{X\_\; \{1\}\}\; (z)\; G\_\; \{X\_\; \{2\}\}\; (z)\; \backslash \; cdots\; G\_\; \{X\_\; \{N\}\}\; (z).\}$

Отсюда также следует, что функция, производящая вероятность разности двух независимых случайных величин S = X 1 - X 2is

$GS\; (z)\; =\; GX\; 1\; (z)\; GX\; 2\; (1\; /\; z).\; \{\backslash \; displaystyle\; G\_\; \{S\}\; (z)\; =\; G\_\; \{X\_\; \{1\}\}\; (z)\; G\_\; \{X\_\; \{2\}\}\; (1\; /\; z).\}$

• Предположим, что N также является независимой дискретной случайной величиной, принимающей значения неотрицательных целых чисел с функцией генерирования вероятности G N. Если X 1, X 2,..., X N независимы и одинаково распределены с функцией генерации общей вероятности G X, то

$GSN\; (z)\; =\; GN\; (GX\; (z)).\; \{\backslash \; displaystyle\; G\_\; \{S\_\; \{N\}\}\; (z)\; =\; G\_\; \{N\}\; (G\_\; \{X\}\; (z)).\}$

Это можно увидеть, используя закон общего ожидания, следующим образом:

$GSN\; (z)\; =\; E\; \; (z\; SN)\; =\; E\; \; (z\; \sum \; i\; =\; 1\; NX\; i)\; =\; E\; \; (E\; (z\; \sum \; i\; =\; 1\; NX\; i\; \mid \; N))\; =\; E\; \; ((GX\; (z))\; N)\; =\; GN\; (GX\; (z)).\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{align\}\; G\_\; \{S\_\; \{N\}\}\; (z)\; =\; \backslash \; operatorname\; \{E\}\; (z\; ^\; \{S\_\; \{N\}\})\; =\; \backslash \; operatorname\; \{E\}\; (z\; ^\; \{\backslash \; sum\; \_\; \{\; i\; =\; 1\}\; ^\; \{N\}\; X\_\; \{i\}\})\; \backslash \backslash \; [4pt]\; =\; \backslash \; operatorname\; \{E\}\; \{\backslash \; big\; (\}\; \backslash \; operatorname\; \{E\}\; (z\; ^\; \{\backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{\; N\}\; X\_\; \{i\}\}\; \backslash \; mid\; N)\; \{\backslash \; big)\}\; =\; \backslash \; operatorname\; \{E\}\; \{\backslash \; big\; (\}\; (G\_\; \{X\}\; (z))\; ^\; \{N\}\; \{\backslash \; big)\}\; =\; G\_\; \{N\}\; (G\_\; \{X\}\; (z)).\; \backslash \; End\; \{align\}\}\}$

Последний факт полезен при изучении процессов Гальтона – Ватсона и составных процессов Пуассона.

• Предположим, опять же, N также является независимой дискретной случайной величиной, принимающей значения неотрицательных целых чисел, с функцией генерации вероятности G N и плотностью вероятности $fi\; =\; Pr\; \{N\; =\; i\}\; \{\backslash \; displaystyle\; f\_\; \{i\}\; =\; \backslash \; Pr\; \backslash \; \{N\; =\; i\; \backslash \}\}$. Если X 1, X 2,..., X N являются независимыми, но не одинаково распределенными случайными величинами, где $GX\; i\; \{\backslash \; displaystyle\; G\_\; \{X\_\; \{i\}\}\}$обозначает функцию, генерирующую вероятность $X\; i\; \{\backslash \; displaystyle\; X\_\; \{i\}\}$, тогда

$GSN\; (z)\; =\; \sum \; i\; \ge \; 1\; fi\; \prod \; k\; =\; 1\; i\; GX\; i\; (z).\; \{\backslash \; Displaystyle\; G\_\; \{S\_\; \{N\}\}\; (z)\; =\; \backslash \; sum\; \_\; \{i\; \backslash \; geq\; 1\}\; f\_\; \{i\}\; \backslash \; prod\; \_\; \{k\; =\; 1\}\; ^\; \{i\}\; G\_\; \{X\_\; \{i\}\}\; (z).\; \}$

Для идентично распределенного X i это упрощается до идентичности, указанной ранее. Общий случай иногда полезен для получения разложения S N с помощью производящих функций.

• Функция генерирования вероятностей постоянной случайной величины, т. Е. Одной с Pr (X = c) = 1, это

$G\; (z)\; =\; zc.\; \{\backslash \; displaystyle\; G\; (z)\; =\; z\; ^\; \{c\}.\}$

• Функция генерации вероятности биномиальной случайной величины, количество успешных результатов в n испытаниях с вероятностью p успеха в каждом испытании, равно

$G\; (z)\; =\; [(1\; -\; p)\; +\; pz]\; n.\; \{\backslash \; displaystyle\; G\; (z)\; =\; \backslash \; left\; [(1-p)\; +\; pz\; \backslash \; right]\; ^\; \{n\}.\}$

Обратите внимание, что это n-кратное произведение производящей функции вероятности элемента Бернулли случайная величина с параметром p.

Таким образом, функция, генерирующая вероятность честной монеты, равна

$G\; (z)\; =\; 1/2\; +\; z\; /\; 2.\; \{\backslash \; displaystyle\; G\; (z)\; =\; 1/2\; +\; z\; /\; 2.\}$

• Функция, генерирующая вероятность отрицательной биномиальной случайной величины на {0,1,2...}, количество отказов до r-го успеха с вероятностью успеха в каждом испытании p

$G\; (z)\; =\; (p\; 1\; -\; (1\; -\; p)\; z)\; r.\; \{\backslash \; displaystyle\; G\; (z)\; =\; \backslash \; left\; (\{\backslash \; frac\; \{p\}\; \{1-\; (1-p)\; z\}\}\; \backslash \; right)\; ^\; \{r\}.\}$

(сходимость для ).

Обратите внимание, что это r-кратное произведение функции генерации вероятности геометрической случайной величины с параметром 1 - p на {0,1,2,...}.

• Вероятность Производящая функция случайной величины Пуассона с параметром скорости λ равна

$G\; (z)\; =\; e\; \lambda \; (z\; -\; 1).\; \{\backslash \; displaystyle\; G\; (z)\; =\; e\; ^\; \{\backslash \; lambda\; (z-\; 1)\}.\}$

Функция генерирования вероятности является примером производящей функции последовательности: см. Также формальный степенной ряд. эквивалентно z-преобразованию функции массы вероятности и иногда его называют.

Другие производящие функции случайных величин включают функцию создания момента, характеристическая функция и кумулянтная производящая функция. Производящая функция вероятности также эквивалентна производящей факториальной функции момента, которая поскольку $E\; \; [z\; X]\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{E\}\; \backslash \; left\; [z\; ^\; \{X\}\; \backslash \; right]\}$также можно рассматривать для непрерывных и других случайных величин.

• Johnson, N.L.; Kotz, S.; Кемп, А. (1993) Одномерные дискретные распределения (2-е издание). Вайли. ISBN 0-471-54897-9 (Раздел 1.B9)