Совместное распределение вероятностей

$X\; \{\backslash \; displaystyle\; X\}$$Y\; \{\backslash \; displaystyle\; Y\}$$p\; (X)\; \{\backslash \; displaystyle\; p\; (X)\}$$p\; (Y)\; \{\backslash \; displaystyle\; p\; (Y)\}$ Многие образцы наблюдений (черные) показаны на основе совместного распределения вероятностей. Также показаны предельные плотности.

Для случайных величин $X,\; Y,\dots \; \{\backslash \; displaystyle\; X,\; Y,\; \backslash \; ldots\}$, которые определены на вероятностное пространство, совместное распределение вероятностей для $X,\; Y,\dots \; \{\backslash \; displaystyle\; X,\; Y,\; \backslash \; ldots\}$является вероятностью распределение, которое дает вероятность того, что каждый из $X,\; Y,\dots \; \{\backslash \; displaystyle\; X,\; Y,\; \backslash \; ldots\}$попадает в любой конкретный диапазон или дискретный набор значений, указанных для этой переменной. В случае только двух случайных величин это называется двумерным распределением, но эта концепция обобщается на любое количество случайных величин, давая многомерное распределение .

Совместное распределение вероятностей может быть выражено либо в терминах совместной кумулятивной функции распределения, либо в терминах совместной функции плотности вероятности (в случае непрерывных переменных ) или совместной вероятности функция масс (в случае дискретных переменных). Их, в свою очередь, можно использовать для поиска двух других типов распределений: предельное распределение, дающее вероятности для любой из переменных без ссылки на какие-либо конкретные диапазоны значений для других переменных, и условное распределение вероятностей, дающее вероятности для любого подмножества переменных, обусловленных конкретными значениями остальных переменных.

• 1 Примеры
  • 1.1 Вытягивание из урны
  • 1.2 Подбрасывание монеты
  • 1.3 Катание матрицы
  • 1.4 Пример из реальной жизни:
• 2 Предельное распределение вероятностей
• 3 Соединение кумулятивная функция распределения
• 4 Совместная функция плотности или функция масс
  • 4.1 Дискретный случай
  • 4.2 Непрерывный случай
  • 4.3 Смешанный случай
• 5 Дополнительные свойства
  • 5.1 Совместное распределение для независимых переменных
  • 5.2 Совместное распределение для условно зависимых переменных
  • 5.3 Ковариация
  • 5.4 Корреляция
• 6 Важные именованные распределения
• 7 См. Также
• 8 Ссылки
• 9 Внешние ссылки

Вытягивание из урны

Предположим, что каждая из двух урн содержит в два раза больше красных шаров, чем синих шаров, и не содержит других, и предположим, что из каждой урны случайным образом выбирается один шар, причем два броска не зависят друг от друга. Пусть $A\; \{\backslash \; displaystyle\; A\}$и $B\; \{\backslash \; displaystyle\; B\}$будут дискретными случайными величинами, связанными с результатами розыгрыша из первой и второй урн. соответственно. Вероятность вытащить красный шар из любой из урн составляет 2/3, а вероятность вытащить синий шар - 1/3. Совместное распределение вероятностей можно представить в виде следующей таблицы:

	A=Red	A=Blue	P (B)
B = Red	( 2/3) (2/3) = 4/9	(1/3) (2/3) = 2/9	4/9 + 2/9 = 2/3
B = Синий	(2/3)(1/3)=2/9	(1/3) (1/3) = 1/9	2/9 + 1/9 = 1/3
P (A)	4/9+2/9=2/3	2/9 + 1/9 = 1/3

Каждая из четырех внутренних ячеек показывает вероятность конкретной комбинации результатов двух ничьих; эти вероятности являются совместным распределением. В любой одной ячейке вероятность возникновения конкретной комбинации (поскольку ничьи независимы) является произведением вероятности указанного результата для A и вероятности указанного результата для B. Сумма вероятностей в этих четырех ячейках равна 1, как это всегда верно для вероятностных распределений.

Более того, последняя строка и последний столбец дают предельное распределение вероятностей для A и предельное распределение вероятностей для B соответственно. Например, для A первая из этих ячеек дает сумму вероятностей того, что A будет красным, независимо от того, какая вероятность для B в столбце над ячейкой возникает, как 2/3. Таким образом, предельное распределение вероятностей для $A\; \{\backslash \; displaystyle\; A\}$дает $A\; \{\backslash \; displaystyle\; A\}$безусловные вероятности на $B\; \{\backslash \; displaystyle\; B\; \}$на полях таблицы.

Подбрасывание монет

Рассмотрим подбрасывание двух справедливых монет ; пусть $A\; \{\backslash \; displaystyle\; A\}$и $B\; \{\backslash \; displaystyle\; B\}$будут дискретными случайными величинами, связанными с результатами первого и второго подбрасывания монеты соответственно. Каждый подбрасывание монеты представляет собой испытание Бернулли и имеет распределение Бернулли. Если на монете отображается «орел», то соответствующая случайная величина принимает значение 1, в противном случае - значение 0. Вероятность каждого из этих исходов равна 1/2, поэтому маргинальные (безусловные) функции плотности равны

$P\; (A)\; =\; 1/2\; для\; A\; \in \; \{0,\; 1\};\; \{\backslash \; Displaystyle\; P\; (A)\; =\; 1/2\; \backslash \; quad\; \{\backslash \; text\; \{for\}\}\; \backslash \; quad\; A\; \backslash \; in\; \backslash \; \{0,1\; \backslash \};\}$

$P\; (B)\; =\; 1/2\; для\; B\; \in \; \{0,\; 1\}.\; \{\backslash \; displaystyle\; P\; (B)\; =\; 1/2\; \backslash \; quad\; \{\backslash \; text\; \{for\}\}\; \backslash \; quad\; B\; \backslash \; in\; \backslash \; \{0,1\; \backslash \}.\}$

Совместная функция массы вероятности $A\; \{\backslash \; displaystyle\; A\}$и $B\; \{\backslash \; displaystyle\; B\}$определяет вероятности для каждой пары результатов. Все возможные исходы:

$(A\; =\; 0,\; B\; =\; 0),\; (A\; =\; 0,\; B\; =\; 1),\; (A\; =\; 1,\; B\; =\; 0),\; (A\; =\; 1,\; B\; =\; 1).\; \{\backslash \; displaystyle\; (A\; =\; 0,\; B\; =\; 0),\; (A\; =\; 0,\; B\; =\; 1),\; (A\; =\; 1,\; B\; =\; 0),\; (A\; =\; 1,\; B\; =\; 1).\}$

Поскольку каждый результат равновероятно, что совместная функция массы вероятностей станет

$P\; (A,\; B)\; =\; 1/4\; для\; A,\; B\; \in \; \{0,\; 1\}.\; \{\backslash \; displaystyle\; P\; (A,\; B)\; =\; 1/4\; \backslash \; quad\; \{\backslash \; text\; \{for\}\}\; \backslash \; quad\; A,\; B\; \backslash \; in\; \backslash \; \{0,1\; \backslash \}.\}$

Поскольку подбрасывание монеты независимое, шарнир функция массы вероятности является произведением маргиналов:

$P\; (A,\; B)\; =\; P\; (A)\; P\; (B)\; для\; A,\; B\; \in \; \{0,\; 1\}.\; \{\backslash \; Displaystyle\; P\; (A,\; B)\; =\; P\; (A)\; P\; (B)\; \backslash \; quad\; \{\backslash \; text\; \{for\}\}\; \backslash \; quad\; A,\; B\; \backslash \; in\; \backslash \; \{0,1\; \backslash \}.\}$

Катание кубика

Рассмотрим результат броска кубика и пусть $A\; =\; 1\; \{\backslash \; displaystyle\; A\; =\; 1\}$, если число четное (например, 2, 4 или 6) и $A\; =\; 0\; \{\backslash \; displaystyle\; A\; =\; 0\}$в противном случае. Кроме того, пусть $B\; =\; 1\; \{\backslash \; displaystyle\; B\; =\; 1\}$, если число простое (например, 2, 3 или 5) и $B\; =\; 0\; \{\backslash \; displaystyle\; B\; =\; 0\}$иначе.

	1	2	3	4	5	6
A	0	1	0	1	0	1
B	0	1	1	0	1	0

Тогда совместное распределение $A\; \{\backslash \; displaystyle\; A\}$и $B\; \{\backslash \; displaystyle\; B\}$, выраженное как функция массы вероятности, равно

$P\; (A\; =\; 0,\; B\; =\; 0)\; =\; P\; \{1\}\; =\; 1\; 6,\; P\; (A\; =\; 1,\; B\; =\; 0)\; =\; P\; \{4,\; 6\}\; =\; 2\; 6,\; \{\backslash \; displaystyle\; \backslash \; mathrm\; \{P\}\; (A\; =\; 0,\; B\; =\; 0)\; =\; P\; \backslash \; \{1\; \backslash \}\; =\; \{\backslash \; frac\; \{1\}\; \{6\}\},\; \backslash \; quad\; \backslash \; quad\; \backslash \; mathrm\; \{P\}\; (A\; =\; 1,\; B\; =\; 0)\; =\; P\; \backslash \; \{\; 4,6\; \backslash \}\; =\; \{\backslash \; frac\; \{2\}\; \{6\}\},\}$

$P\; (A\; =\; 0,\; B\; =\; 1)\; =\; P\; \{3,\; 5\}\; =\; 2\; 6,\; P\; (A\; =\; 1,\; B\; =\; 1)\; =\; P\; \{2\}\; =\; 1\; 6.\; \{\backslash \; Displaystyle\; \backslash \; mathrm\; \{P\}\; (A\; =\; 0,\; B\; =\; 1)\; =\; P\; \backslash \; \{3,5\; \backslash \}\; =\; \{\backslash \; frac\; \{2\}\; \{6\}\},\; \backslash \; quad\; \backslash \; quad\; \backslash \; mathrm\; \{P\}\; (A\; =\; 1,\; B\; =\; 1)\; =\; P\; \backslash \; \{2\; \backslash \}\; =\; \{\backslash \; frac\; \{1\}\; \{6\}\}.\}$

Сумма этих вероятностей обязательно равна 1, поскольку вероятность некоторой комбинации $A\; \{\backslash \; displaystyle\; A\}$и $B\; \{\backslash \; displaystyle\; B\}$встречается 1.

Пример из реальной жизни:

Рассмотрим производственное предприятие, которое заполняет пластиковые бутылки со стиральным порошком. Измеряется вес каждой бутылки (Y) и объем содержащегося в ней стирального порошка (X).

Если в случайном эксперименте определяется более одной случайной величины, важно различать совместное распределение вероятностей X и Y и распределение вероятностей каждой переменной в отдельности. Индивидуальное распределение вероятностей случайной величины называется ее предельным распределением вероятностей. В общем, маргинальное распределение вероятностей X может быть определено из совместного распределения вероятностей X и других случайных величин.

Если совместная функция плотности вероятности случайной величины X и Y равна $f\; X,\; Y\; (x,\; y)\; \{\backslash \; displaystyle\; f\_\; \{X,\; Y\}\; (x,\; y)\}$, функция предельной плотности вероятности для X и Y равна:

$f\; X\; (x)\; =\; \int \; f\; XY\; (x,\; y)\; dy\; \{\backslash \; displaystyle\; f\_\; \{X\}\; (x)\; =\; \backslash \; int\; f\_\; \{XY\}\; (\; х,\; у)\; \backslash ;\; dy\}$, $е\; Y\; (y)\; =\; \int \; е\; XY\; (x,\; y)\; dx\; \{\backslash \; displaystyle\; f\_\; \{Y\}\; (y)\; =\; \backslash \; int\; f\_\; \{XY\}\; (x,\; y)\; \backslash ;\; dx\}$

, где первый интеграл берется по всем точкам в диапазоне (X, Y), для которых X = x, а второй интеграл по всем точкам в диапазоне (X, Y), для которых Y = y.

Для пары случайных величин $X,\; Y\; \{\backslash \; displaystyle\; X,\; Y\}$совместная кумулятивная функция распределения (CDF) $FXY\; \{\backslash \; displaystyle\; F\_\; \{XY\}\}$задается как

$FX,\; Y\; (x,\; y)\; =\; P\; \; (X\; \le \; x,\; Y\; \le \; y)\; \{\backslash \; displaystyle\; F\_\; \{X,\; Y\}\; (x,\; y)\; =\; \backslash \; operatorname\; \{P\}\; (X\; \backslash \; leq\; x,\; Y\; \backslash \; leq\; y)\}$

(Eq.1)

где правая часть представляет вероятность, что случайная величина $X\; \{\backslash \; di\; splaystyle\; X\}$принимает значение, меньшее или равное $x\; \{\backslash \; displaystyle\; x\}$и, что $Y\; \{\backslash \; displaystyle\; Y\}$принимает значение, меньшее или равное $y\; \{\backslash \; displaystyle\; y\}$.

для $N\; \{\backslash \; displaystyle\; N\}$случайных величин $X\; 1,\dots ,\; XN\; \{\backslash \; displaystyle\; X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{N\}\}$, объединенный CDF $FX\; 1,\dots ,\; XN\; \{\backslash \; displaystyle\; F\_\; \{X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{N\}\; \}\}$задается как

$FX\; 1,\dots ,\; XN\; (x\; 1,\dots ,\; x\; N)\; =\; P\; \; (X\; 1\; \le \; x\; 1,\dots ,\; XN\; \le \; x\; N)\; \{\backslash \; displaystyle\; F\_\; \{X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{N\}\}\; (x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{N\})\; =\; \backslash \; operatorname\; \{P\}\; (X\_\; \{1\}\; \backslash \; leq\; x\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{N\}\; \backslash \; leq\; x\_\; \{N\})\}$

(Eq.2)

Интерпретация $N\; \{\backslash \; displaystyle\; N\}$случайных величин как случайного вектора $X\; =\; (X\; 1,\dots ,\; XN)\; T\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{X\}\; =\; (X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{N\})\; ^\; \{T\}\}$дает более короткое обозначение:

$FX\; (x)\; =\; P\; \; (X\; 1\; \le \; x\; 1,\dots ,\; XN\; \le \; x\; N)\; \{\backslash \; displaystyle\; F\; \_\; \{\backslash \; mathbf\; \{X\}\}\; (\backslash \; mathbf\; \{x\})\; =\; \backslash \; operatorname\; \{\; P\}\; (X\_\; \{1\}\; \backslash \; leq\; x\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{N\; \}\; \backslash \; leq\; x\_\; \{N\})\}$

Дискретный случай

Совместная вероятностная функция масс двух дискретных случайных переменные $X,\; Y\; \{\backslash \; displaystyle\; X,\; Y\}$:

$p\; X,\; Y\; (x,\; y)\; =\; P\; (X\; =\; xand\; Y\; =\; y)\; \{\backslash \; displaystyle\; p\_\; \{X,\; Y\}\; (x,\; y)\; =\; \backslash \; mathrm\; \{P\}\; (X\; =\; x\; \backslash \; \backslash \; mathrm\; \{and\}\; \backslash \; Y\; =\; y)\}$

(Eq.3)

или записано в терминах условного распределения

$p\; X,\; Y\; (x,\; y)\; =\; P\; (Y\; =\; y\; \mid \; X\; =\; x)\; \cdot \; P\; (X\; =\; x)\; =\; P\; (X\; =\; x\; \mid \; Y\; =\; y)\; \cdot \; P\; (Y\; =\; y)\; \{\; \backslash \; Displaystyle\; p\_\; \{X,\; Y\}\; (x,\; y)\; =\; \backslash \; mathrm\; \{P\}\; (Y\; =\; y\; \backslash \; mid\; X\; =\; x)\; \backslash \; cdot\; \backslash \; mathrm\; \{P\}\; (X\; =\; x)\; =\; \backslash \; mathrm\; \{P\}\; (X\; =\; Икс\; \backslash \; середина\; Y\; =\; Y)\; \backslash \; CDOT\; \backslash \; mathrm\; \{P\}\; (Y\; =\; Y)\}$

где $P\; (Y\; =\; Y\; \mid \; X\; =\; x)\; \{\backslash \; Displaystyle\; \backslash \; mathrm\; \{P\}\; (Y\; =\; y\; \backslash \; mid\; X\; =\; x)\}$- вероятность для $Y\; =\; y\; \{\backslash \; displaystyle\; Y\; =\; y\}$при условии, что $X\; =\; x\; \{\; \backslash \; displaystyle\; X\; =\; x\}$.

Обобщением предыдущего случая с двумя переменными является совместное распределение вероятностей $n\; \{\backslash \; displaystyle\; n\; \backslash ,\}$дискретных случайных величин $X\; 1,\; X\; 2,\dots ,\; X\; n\; \{\backslash \; displaystyle\; X\_\; \{1\},\; X\_\; \{2\},\; \backslash \; dots,\; X\_\; \{n\}\}$который равен:

$p\; X\; 1,\dots ,\; X\; n\; (\; x\; 1,\dots ,\; xn)\; =\; P\; (X\; 1\; =\; x\; 1\; и\dots \; и\; X\; n\; =\; xn)\; \{\backslash \; displaystyle\; p\_\; \{X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{n\}\}\; (x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{n\})\; =\; \backslash \; mathrm\; \{P\}\; (X\_\; \{1\}\; =\; x\_\; \{1\}\; \{\backslash \; text\; \{and\}\}\; \backslash \; dots\; \{\backslash \; text\; \{and\}\}\; X\_\; \{n\}\; =\; x\_\; \{n\})\}$

(Уравнение 4)

или эквивалентно

$p\; X\; 1,\dots ,\; X\; n\; (x\; 1,\dots ,\; xn)\; =\; P\; (X\; 1\; =\; x\; 1)\; \cdot \; P\; (X\; 2\; =\; x\; 2\; \mid \; X\; 1\; =\; x\; 1)\; \cdot \; P\; (X\; 3\; =\; x\; 3\; \mid \; X\; 1\; =\; x\; 1,\; X\; 2\; =\; x\; 2)\dots \; \cdot \; P\; (X\; n\; =\; xn\; \mid \; X\; 1\; =\; x\; 1,\; X\; 2\; =\; x\; 2,\dots ,\; X\; n\; -\; 1\; =\; xn\; -\; 1).\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{align\}\; p\_\; \{X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{n\}\}\; (x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{n\})\; =\; \backslash \; mathrm\; \{P\}\; (X\_\; \{1\}\; =\; x\_\; \{1\})\; \backslash \; cdot\; \backslash \; mathrm\; \{P\}\; (X\_\; \{2\}\; =\; x\_\; \{2\}\; \backslash \; mid\; X\_\; \{1\}\; =\; x\_\; \{1\})\; \backslash \backslash \; \backslash \; cdot\; \backslash \; mathrm\; \{P\}\; (X\_\; \{3\}\; =\; x\_\; \{3\}\; \backslash \; mid\; X\_\; \{1\}\; =\; x\_\; \{1\},\; X\_\; \{2\}\; =\; x\_\; \{2\})\; \backslash \backslash \; \backslash \; dots\; \backslash \backslash \; \backslash \; cdot\; P\; (X\_\; \{n\}\; =\; x\_\; \{n\}\; \backslash \; mid\; X\_\; \{1\}\; =\; x\_\; \{1\},\; X\_\; \{2\}\; =\; x\_\; \{2\},\; \backslash \; dots,\; X\_\; \{n-1\}\; =\; x\_\; \{n-1\}).\; \backslash \; End\; \{align\}\}\}$.

Это удостоверение известно как цепное правило вероятности.

Поскольку это вероятности, мы имеем в случае двух переменных

$\sum \; я\; \sum \; j\; P\; (X\; =\; xi\; и\; Y\; =\; yj)\; =\; 1,\; \{\backslash \; displaystyle\; \backslash \; sum\; \_\; \{i\}\; \backslash \; sum\; \_\; \{j\}\; \backslash \; mathrm\; \{P\}\; (X\; =\; x\_\; \{i\}\; \backslash \; \backslash \; mathrm\; \{and\}\; \backslash \; Y\; =\; y\_\; \{j\})\; =\; 1,\; \backslash ,\}$

, который является обобщением для $n\; \{\backslash \; displaystyle\; n\; \backslash ,\}$дискретные случайные величины $X\; 1,\; X\; 2,\dots ,\; X\; n\; \{\backslash \; displaystyle\; X\_\; \{1\},\; X\_\; \{2\},\; \backslash \; dots,\; X\_\; \{\; n\}\}$до

$\sum \; i\; \sum \; j\dots \; \sum \; k\; P\; (X\; 1\; =\; x\; 1\; i,\; X\; 2\; =\; x\; 2\; j,\dots ,\; X\; n\; =\; xnk)\; =\; 1.\; \{\backslash \; displaystyle\; \backslash \; sum\; \_\; \{i\}\; \backslash \; sum\; \_\; \{j\}\; \backslash \; dots\; \backslash \; sum\; \_\; \{k\}\; \backslash \; mathrm\; \{P\}\; (X\_\; \{1\}\; =\; x\_\; \{1i\},\; X\_\; \{2\}\; =\; x\_\; \{2j\},\; \backslash \; dots,\; X\_\; \{\; n\}\; =\; x\_\; \{nk\})\; =\; 1.\; \backslash ;\}$

Непрерывный случай

совместная вероятность де Функция nsity $f\; X,\; Y\; (x,\; y)\; \{\backslash \; displaystyle\; f\_\; \{X,\; Y\}\; (x,\; y)\}$для двух непрерывных случайных величин определяется как производная совместной кумулятивной функции распределения (см. Eq.1):

$f\; X,\; Y\; (x,\; y)\; =\; \partial \; 2\; FX,\; Y\; (x,\; y)\; \partial \; Икс\; \partial \; Y\; \{\backslash \; Displaystyle\; F\_\; \{X,\; Y\}\; (x,\; y)\; =\; \{\backslash \; frac\; \{\backslash \; partial\; ^\; \{2\}\; F\_\; \{X,\; Y\}\; (x,\; y)\}\; \{\backslash \; partial\; x\; \backslash \; partial\; y\}\}\}$

(уравнение 5)

Это равно:

$f\; X,\; Y\; (x,\; y)\; =\; f\; Y\; \mid \; X\; (y\; \mid \; x)\; f\; X\; (x)\; =\; f\; X\; \mid \; Y\; (x\; \mid \; Y)\; е\; Y\; (y)\; \{\backslash \; displaystyle\; f\_\; \{X,\; Y\}\; (x,\; y)\; =\; f\_\; \{Y\; \backslash \; mid\; X\}\; (y\; \backslash \; mid\; x)\; f\_\; \{X\}\; (x)\; =\; f\_\; \{X\; \backslash \; mid\; Y\; \}\; (x\; \backslash \; mid\; y)\; f\_\; \{Y\}\; (y)\}$

где $f\; Y\; \mid \; X\; (y\; \mid \; x)\; \{\backslash \; displaystyle\; f\_\; \{Y\; \backslash \; mid\; X\}\; (y\; \backslash \; mid\; x)\}$и $f\; X\; \mid \; Y\; (x\; \mid \; y)\; \{\backslash \; displaystyle\; f\_\; \{X\; \backslash \; mid\; Y\}\; (x\; \backslash \; mid\; y)\}$- это условные распределения из $Y\; \{\backslash \; displaystyle\; Y\}$с учетом $X\; =\; x\; \{\backslash \; displaystyle\; X\; =\; x\}$и из $X\; \{\backslash \; displaystyle\; X\}$задано $Y\; =\; y\; \{\backslash \; displaystyle\; Y\; =\; y\}$соответственно, и $f\; X\; (x)\; \{\backslash \; displaystyle\; f\_\; \{X\}\; (x)\}$и $f\; Y\; (y)\; \{\backslash \; displaystyle\; f\_\; \{Y\}\; (y)\}$- это предельные распределения для $X\; \{\backslash \; displaystyle\; X\; \}$и $Y\; \{\backslash \; displaystyle\; Y\}$соответственно.

Определение естественным образом распространяется на более чем две случайные величины:

$f\; X\; 1,\dots ,\; X\; n\; (x\; 1,\dots ,\; xn)\; =\; \partial \; n\; FX\; 1,\dots ,\; X\; n\; (x\; 1,\; \dots ,\; Xn)\; \partial \; x\; 1\dots \; \partial \; xn\; \{\backslash \; displaystyle\; f\_\; \{X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{n\}\}\; (x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{n\})\; =\; \{\backslash \; frac\; \{\backslash \; partial\; ^\; \{n\}\; F\_\; \{X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{n\}\}\; (x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{n\})\}\; \{\backslash \; partial\; x\_\; \{1\}\; \backslash \; ldots\; \backslash \; partial\; x\_\; \{n\}\}\}\; \}$

(Eq.6)

Опять же, поскольку это распределения вероятностей, мы имеем

$\int \; x\; \int \; yf\; X,\; Y\; (x,\; y)\; dydx\; =\; 1\; \{\backslash \; displaystyle\; \backslash \; int\; \_\; \{x\}\; \backslash \; int\; \_\; \{y\}\; f\_\; \{X,\; Y\}\; (x,\; y)\; \backslash ;\; dy\; \backslash ;\; dx\; =\; 1\}$

соответственно

$\int \; x\; 1\dots \; \int \; xnf\; X\; 1,\dots ,\; X\; n\; (x\; 1,\dots ,\; xn)\; dxn\dots \; dx\; 1\; =\; 1\; \{\backslash \; displaystyle\; \backslash \; int\; \_\; \{x\_\; \{1\}\}\; \backslash \; ldots\; \backslash \; int\; \_\; \{x\_\; \{n\}\}\; f\_\; \{X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{n\}\}\; (x\_\; \{\; 1\},\; \backslash \; ldots,\; x\_\; \{n\})\; \backslash ;\; dx\_\; \{n\}\; \backslash \; ldots\; \backslash ;\; dx\_\; \{1\}\; =\; 1\}$

Смешанный случай

«Плотность смешанного стыка» может быть определена, если одна или несколько случайных величин непрерывны, а другие случайные величины дискретны. С одной переменной каждого типа мы имеем

$f\; X,\; Y\; (x,\; y)\; =\; f\; X\; \mid \; Y\; (x\; \mid \; y)\; P\; (Y\; =\; y)\; =\; P\; (Y\; =\; y\; \mid \; X\; =\; x)\; f\; X\; (\; Икс).\; \{\backslash \; Displaystyle\; \{\backslash \; begin\; \{align\}\; f\_\; \{X,\; Y\}\; (x,\; y)\; =\; f\_\; \{X\; \backslash \; mid\; Y\}\; (x\; \backslash \; mid\; y)\; \backslash \; mathrm\; \{P\}\; (Y\; =\; y)\; =\; \backslash \; mathrm\; \{P\}\; (Y\; =\; y\; \backslash \; mid\; X\; =\; x)\; f\_\; \{X\}\; (x).\; \backslash \; End\; \{align\}\}\}$

Один пример ситуации, в которой можно найти непрерывное кумулятивное распределение одной случайной величины и другая случайная переменная, которая является дискретной, возникает, когда кто-то желает использовать логистическую регрессию для прогнозирования вероятности двоичного результата Y, обусловленного значением непрерывно распределенного результата $X\; \{\backslash \; displaystyle\; X\}$. При нахождении кумулятивного распределения этого двоичного результата необходимо использовать "смешанную" плотность соединений, поскольку входные переменные $(X,\; Y)\; \{\backslash \; displaystyle\; (X,\; Y)\}$изначально были определены в таком способ, которым нельзя коллективно присвоить ему ни функцию плотности вероятности, ни функцию массы вероятности. Формально $f\; X,\; Y\; (x,\; y)\; \{\backslash \; displaystyle\; f\_\; \{X,\; Y\}\; (x,\; y)\}$- это функция плотности вероятности $(X,\; Y)\; \{\; \backslash \; displaystyle\; (X,\; Y)\}$относительно показателя продукта на соответствующем поддерживает из $X\; \{\backslash \; displaystyle\; X\}$и $Y\; \{\backslash \; displaystyle\; Y\}$. Затем любое из этих двух разложений можно использовать для восстановления совместной кумулятивной функции распределения:

$F\; X,\; Y\; (x,\; y)\; =\; \sum \; t\; \le \; y\; \int \; s\; =\; -\; \infty \; x\; f\; X,\; Y\; (s,\; t)\; d\; s.\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{align\}\; F\_\; \{X,\; Y\}\; (x,\; y)\; =\; \backslash \; sum\; \backslash \; limits\; \_\; \{t\; \backslash \; leq\; y\}\; \backslash \; int\; \_\; \{s\; =\; -\; \backslash \; infty\}\; ^\; \{x\}\; f\_\; \{X,\; Y\}\; (s,\; t)\; \backslash ;\; ds.\; \backslash \; End\; \{align\}\}\}$

Определение обобщается на смесь произвольного числа дискретных и непрерывных случайных величин.

Совместное распределение для независимых переменных

Обычно две случайные величины $X\; \{\backslash \; displaystyle\; X\}$и $Y\; \{\backslash \; displaystyle\; Y\}$являются независимыми тогда и только тогда, когда совместная кумулятивная функция распределения удовлетворяет

$FX,\; Y\; (x,\; y)\; =\; FX\; (x)\; \cdot \; FY\; (y)\; \{\backslash \; displaystyle\; F\_\; \{X,\; Y\}\; (x,\; y)\; =\; F\_\; \{X\}\; (x)\; \backslash \; cdot\; F\_\; \{Y\}\; (y)\}$

Две дискретные случайные величины $X\; \{\backslash \; displaystyle\; X\}$и $Y\; \{\backslash \; displaystyle\; Y\}$независимы тогда и только тогда, когда совместная функция масс вероятности удовлетворяет

$P\; (X\; =\; x\; и\; Y\; =\; y)\; =\; P\; (X\; =\; Икс)\; \cdot \; п\; (Y\; =\; Y)\; \{\backslash \; Displaystyle\; P\; (X\; =\; х\; \backslash \; \{\backslash \; t\_dv\; \{и\}\}\; \backslash \; Y\; =\; y)\; =\; P\; (X\; =\; x)\; \backslash \; cdot\; P\; (Y\; =\; y)\}$

для все $x\; \{\backslash \; displaystyle\; x\}$и $y\; \{\backslash \; displaystyle\; y\}$.

По мере того как количество независимых случайных событий растет, соответствующее значение совместной вероятности быстро уменьшается до нуля, согласно отрицательный экспоненциальный закон.

Аналогично, две абсолютно непрерывные случайные величины независимы тогда и только тогда, когда

$f\; X,\; Y\; (x,\; y)\; =\; f\; X\; (x)\; \cdot \; f\; Y\; (y)\; \{\backslash \; displaystyle\; f\_\; \{X,\; Y\}\; (x,\; y)\; =\; f\_\; \{X\}\; (x)\; \backslash \; cdot\; f\_\; \{Y\}\; (y)\}$

для всех $x\; \{\backslash \; displaystyle\; x\}$и $y\; \{\backslash \; displaystyle\; y\}$. Это означает, что получение любой информации о значении одной или нескольких случайных величин приводит к условному распределению любой другой переменной, которое идентично ее безусловному (маргинальному) распределению; таким образом, никакая переменная не предоставляет никакой информации ни о какой другой переменной.

Совместное распределение для условно зависимых переменных

Если подмножество $A\; \{\backslash \; displaystyle\; A\}$переменных $X\; 1,\; \cdots ,\; X\; n\; \{\; \backslash \; displaystyle\; X\_\; \{1\},\; \backslash \; cdots,\; X\_\; \{n\}\}$является условно зависимым с учетом другого подмножества $B\; \{\backslash \; displaystyle\; B\}$из них переменных, то функция массы вероятности совместного распределения равна $P\; (X\; 1,\dots ,\; X\; n)\; \{\backslash \; displaystyle\; \backslash \; mathrm\; \{P\}\; (X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{n\})\}$. $P\; (X\; 1,\dots ,\; X\; n)\; \{\backslash \; displaystyle\; \backslash \; mathrm\; \{P\}\; (X\_\; \{1\},\; \backslash \; ldots,\; X\_\; \{n\})\}$равно $P\; (B)\; \cdot \; п\; (A\; \mid \; В)\; \{\backslash \; Displaystyle\; P\; (B)\; \backslash \; cdot\; P\; (A\; \backslash \; mid\; B)\}$. Следовательно, он может быть эффективно представлен распределениями вероятностей более низкой размерности $P\; (B)\; \{\backslash \; displaystyle\; P\; (B)\}$и $P\; (A\; \mid \; B)\; \{\backslash \; displaystyle\; P\; (\; A\; \backslash \; mid\; B)\}$. Такие отношения условной независимости могут быть представлены с помощью байесовской сети или функций копул.

Ковариация

Когда две или более случайные величины определены в вероятностном пространстве, полезно опишите, как они различаются вместе; то есть полезно измерить взаимосвязь между переменными. Распространенной мерой связи между двумя случайными величинами является ковариация. Ковариация - это мера линейной связи между случайными величинами. Если связь между случайными величинами является нелинейной, ковариация может не зависеть от этой связи.

Ковариация между случайной величиной X и Y, обозначенная как cov (X, Y), составляет:

$\sigma \; XY\; =\; E\; [(X\; -\; \mu \; x)\; (Y\; -\; \mu \; y)]\; =\; E\; (XY)\; -\; \mu \; Икс\; \mu \; Y\; \{\backslash \; Displaystyle\; \backslash \; sigma\; \_\; \{XY\}\; =\; E\; [(X-\; \backslash \; mu\; \_\; \{x\})\; (Y-\; \backslash \; mu\; \_\; \{y\})]\; =\; E\; (XY)\; -\; \backslash \; mu\; \_\; \{x\}\; \backslash \; mu\; \_\; \{y\}\}$

Correlation

Существует еще один показатель взаимосвязи между двумя случайными величинами, который часто легче интерпретировать, чем ковариацию.

Корреляция просто масштабирует ковариацию на произведение стандартного отклонения каждой переменной. Следовательно, корреляция - это безразмерная величина, которую можно использовать для сравнения линейных отношений между парами переменных в разных единицах измерения. Если точки в совместном распределении вероятностей X и Y, которые получают положительную вероятность, имеют тенденцию падать вдоль линии положительного (или отрицательного) наклона, ρ XY находится около +1 (или -1). Если ρ XY равно +1 или -1, можно показать, что точки в совместном распределении вероятностей, которые получают положительную вероятность, попадают точно вдоль прямой линии. Две случайные величины с ненулевой корреляцией называются коррелированными. Подобно ковариации, корреляция - это мера линейной связи между случайными величинами.

Корреляция между случайной величиной X и Y, обозначенная как

$\rho \; XY\; =\; cov\; (X,\; Y)\; V\; (X)\; V\; (Y)\; =\; \sigma \; XY\; \sigma \; X\; \sigma \; Y\; \{\backslash \; displaystyle\; \backslash \; rho\; \_\; \{XY\}\; =\; \{\backslash \; frac\; \{cov\; (X,\; Y)\}\; \{\backslash \; sqrt\; \{V\; (X)\; V\; (Y)\}\}\}\; =\; \{\backslash \; frac\; \{\backslash \; sigma\; \_\; \{XY\}\}\; \{\backslash \; sigma\; \_\; \{X\}\; \backslash \; sigma\; \_\; \{Y\}\}\}\}$

Важные именованные распределения

Именованные совместные распределения, которые часто встречаются в статистике, включают многомерное нормальное распределение, многомерное стабильное распределение, полиномиальное распределение, отрицательное полиномиальное распределение, многомерное гипергеометрическое распределение и эллиптическое распределение.

См. также

• Байесовское программирование
• Дерево Чоу – Лю
• Условная вероятность
• Копула (теория вероятностей)
• Теорема распада
• Многомерная статистика
• Статистическая интерференция
• Парное независимое распределение

Ссылки

Внешние ссылки

• , Энциклопедия математики, EMS Press, 2001 [1994]
• , Энциклопедия математики ematics, EMS Press, 2001 [1994]
• Современное введение в вероятность и статистику: понимание, почему и как. Деккинг, Мишель, 1946-. Лондон: Спрингер. 2005. ISBN 978-1-85233-896-1. OCLC 262680588.
• «Функция непрерывной плотности соединения». PlanetMath.
• Mathworld: совместная функция распределения