Байесовское иерархическое моделирование

Байесовское иерархическое моделирование - это статистическая модель, написанная на нескольких уровнях (иерархическая форма), которая оценивает параметры апостериорного распределения с использованием байесовского метода. Подмодели объединяются, образуя иерархическую модель, и теорема Байеса используется для их интеграции с наблюдаемыми данными и учета всей присутствующей неопределенности. Результатом этого интегрирования является апостериорное распределение, также известное как обновленная оценка вероятности, поскольку получают дополнительные свидетельства о предшествующем распределении.

Частотная статистика может давать заключения, кажущиеся несовместимыми с выводами, предлагаемыми байесовской статистикой, из-за байесовского подхода к параметрам как случайных величин и использования субъективной информации при установлении допущений по этим параметрам. Поскольку подходы отвечают на разные вопросы, формальные результаты не являются технически противоречивыми, но два подхода расходятся во мнениях относительно того, какой ответ актуален для конкретных приложений. Байесовцы утверждают, что нельзя игнорировать релевантную информацию, касающуюся принятия решений и обновления убеждений, и что иерархическое моделирование может отменить классические методы в приложениях, где респонденты предоставляют несколько данных наблюдений. Более того, модель оказалась надежной, причем апостериорное распределение менее чувствительно к более гибким иерархическим априорным значениям.

Иерархическое моделирование используется, когда информация доступна на нескольких разных уровнях единиц наблюдения. Иерархическая форма анализа и организации помогает в понимании многопараметрических задач, а также играет важную роль в разработке вычислительных стратегий.

• 1 Философия
• 2 Теорема Байеса
• 3 Возможность обмена
  • 3.1 Конечная взаимозаменяемость
  • 3.2 Бесконечная взаимозаменяемость
• 4 Иерархические модели
  • 4.1 Компоненты
  • 4.2 Структура
  • 4.3 Пример
  • 4.4 Двухступенчатая иерархическая модель
  • 4.5 Трехступенчатая иерархическая модель
• 5 Ссылки

Статистические методы и модели обычно включают несколько параметров, которые можно рассматривать как связанные или связанные таким образом, что проблема подразумевает зависимость совместной вероятностной модели для этих параметров. Индивидуальные степени веры, выраженные в форме вероятностей, сопровождаются неопределенностью. При этом степень веры меняется с течением времени. Как было заявлено профессором Хосе М. Бернардо и профессором Адрианом Ф. Смитом : «Актуальность процесса обучения заключается в эволюции индивидуальных и субъективных представлений о реальности». Эти субъективные вероятности более непосредственно связаны с умом, чем с физическими вероятностями. Следовательно, именно с этой необходимостью обновления убеждений байесовцы сформулировали альтернативную статистическую модель, которая учитывает предшествующее наступление конкретного события.

Предполагаемое возникновение определенного события реальное событие обычно изменяет предпочтения между определенными параметрами. Это делается путем изменения степени убежденности, которую человек связывает с событиями, определяющими варианты.

Предположим, что при исследовании эффективности кардиологического лечения пациенты в больнице имеют вероятность выживания $\theta \; j\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{j\}\}$, вероятность выживания будет обновляться с появлением y, события, при котором создается сомнительная сыворотка, которая, по мнению некоторых, увеличивает выживаемость у кардиологических больных.

Чтобы сделать обновленные утверждения вероятности для $\theta \; j\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{j\}\}$, учитывая наступление события y, мы должны начать с модели, обеспечивающей совместное распределение вероятностей для $\theta \; j\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{j\}\}$и y. Это можно записать как произведение двух распределений, которые часто называют априорным распределением $P\; (\theta )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta)\}$и выборочным распределением $P\; (y\; \mid \; \theta )\; \{\backslash \; displaystyle\; P\; (y\; \backslash \; mid\; \backslash \; theta)\}$соответственно:

$P\; (\theta ,\; y)\; =\; P\; (\theta )\; P\; (y\; \mid \; \theta )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta,\; y)\; =\; P\; (\backslash \; theta)\; P\; (y\; \backslash \; mid\; \backslash \; theta)\}$

Используя основное свойство условной вероятности, апостериорное распределение даст:

$п\; (\theta \; \mid \; Y)\; знак\; равно\; п\; (\theta ,\; y)\; P\; (y)\; =\; P\; (y\; \mid \; \theta )\; P\; (\theta )\; P\; (y)\; \{\backslash \; displaystyle\; P\; (\backslash \; theta\; \backslash \; mid\; y)\; =\; \{\backslash \; frac\; \{\; P\; (\backslash \; theta,\; y)\}\; \{P\; (y)\}\}\; =\; \{\backslash \; frac\; \{P\; (y\; \backslash \; mid\; \backslash \; theta)\; P\; (\backslash \; theta)\}\; \{P\; (y)\}\}\}$

Это уравнение, показывающее Связь между условной вероятностью и отдельными событиями известна как теорема Байеса. Это простое выражение инкапсулирует техническое ядро ​​байесовского вывода, цель которого - включить обновленное убеждение, $P\; (\theta \; \mid \; y)\; \{\backslash \; displaystyle\; P\; (\backslash \; theta\; \backslash \; mid\; y)\}$, в подходящем и решаемом

Обычной отправной точкой статистического анализа является предположение, что n значений $y\; 1,\; y\; 2,\dots ,\; yn\; \{\backslash \; displaystyle\; y\_\; \{1\},\; y\_\; \{2\},\; \backslash \; ldots,\; y\_\; \{n\}\}$можно заменять. Если нет никакой информации, кроме данных y, чтобы отличить любой из $\theta \; j\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{j\}\}$от любых других, а также отсутствие упорядочивания или группировки параметры могут быть заданы, необходимо предположить симметрию между параметрами в их предварительном распределении. Эта симметрия вероятностно представлена ​​взаимозаменяемостью. Как правило, полезно и целесообразно моделировать данные из заменяемого распределения как независимо и одинаково распределенные, учитывая некоторый неизвестный вектор параметров $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, с распределением $P\; (\theta )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta)\}$.

Конечная заменяемость

Для фиксированного числа n множество $y\; 1,\; y\; 2,\dots ,\; yn\; \{\backslash \; displaystyle\; y\_\; \{1\},\; y\_\; \{2\},\; \backslash \; ldots,\; y\_\; \{n\}\}$можно обменивать, если совместная вероятность $P\; (y\; 1,\; y\; 2,\dots ,\; yn)\; \{\backslash \; displaystyle\; P\; (\; y\_\; \{1\},\; y\_\; \{2\},\; \backslash \; ldots,\; y\_\; \{n\})\}$инвариантно относительно перестановок индексов. То есть для каждой перестановки $\pi \; \{\backslash \; displaystyle\; \backslash \; pi\}$или $(\pi \; 1,\; \pi \; 2,\dots ,\; \pi \; n)\; \{\backslash \; displaystyle\; (\backslash \; pi\; \_\; \{1\},\; \backslash \; pi\; \_\; \{2\},\; \backslash \; ldots,\; \backslash \; pi\; \_\; \{n\})\}$из (1, 2,…, n), $P\; (y\; 1,\; y\; 2,\dots ,\; yn)\; =\; P\; (y\; \pi \; 1,\; y\; \pi \; 2,\dots ,\; y\; \pi \; n).\; \{\backslash \; Displaystyle\; P\; (y\_\; \{1\},\; y\_\; \{2\},\; \backslash \; ldots,\; y\_\; \{n\})\; =\; P\; (y\; \_\; \{\backslash \; pi\; \_\; \{1\}\},\; y\; \_\; \{\backslash \; pi\; \_\; \{2\}\},\; \backslash \; ldots,\; y\_\; \{\backslash \; pi\; \_\; \{n\}\}).\}$

Ниже приводится заменяемый, но не независимый и идентичный (iid) пример: Рассмотрим урну с красным и синим шарами внутри, с вероятностью $1\; 2\; \{\backslash \; displaystyle\; \{\backslash \; frac\; \{1\}\; \{2\}\}\}$рисунка. Шары тянутся без замены, т.е. после того, как из n шаров будет вытянут один шар, останется n - 1 шаров для следующего розыгрыша.

$Пусть\; Y\; i\; =\; \{1,\; если\; i-й\; шар\; красный,\; 0\; в\; противном\; случае.\; \{\backslash \; displaystyle\; \{\backslash \; text\; \{Let\}\}\; Y\_\; \{i\}\; =\; \{\backslash \; begin\; \{cases\}\; 1,\; \{\backslash \; text\; \{если\}\}\; i\; \{\backslash \; text\; \{th\; шар\; красный\}\},\; \backslash \backslash \; 0,\; \{\; \backslash \; text\; \{else\}\}.\; \backslash \; end\; \{ases\}\}\}$

Поскольку вероятность выбора красного шара при первом розыгрыше и синего шара при втором розыгрыше равна вероятности выбора синего шара при первом розыгрыше ничья и красный цвет во второй розыгрыше, оба из которых равны 1/2 (т.е. $[P\; (y\; 1\; =\; 1,\; y\; 2\; =\; 0)\; =\; P\; (y\; 1\; =\; 0,\; y\; 2\; =\; 1)\; =\; 1\; 2]\; \{\backslash \; displaystyle\; [P\; (y\_\; \{1\}\; =\; 1,\; y\_\; \{2\}\; =\; 0)\; =\; P\; (y\_\; \{1\}\; =\; 0,\; y\_\; \{2\}\; =\; 1)\; =\; \{\backslash \; frac\; \{1\}\; \{2\}\; \}]\}$), затем $y\; 1\; \{\backslash \; displaystyle\; y\_\; \{1\}\}$и $y\; 2\; \{\backslash \; displaystyle\; y\_\; \{2\}\}$можно обменять.

Но вероятность выбора красного шара при втором розыгрыше, учитывая, что красный шар уже был выбран в первом розыгрыше, равна 0, и не равна вероятности того, что красный шар будет выбран во втором розыгрыше. нарисовать что равно 1/2 (т.е. $[P\; (y\; 2\; =\; 1\; \mid \; y\; 1\; =\; 1)\; =\; 0\; \ne \; P\; (y\; 2\; =\; 1)\; =\; 1\; 2]\; \{\backslash \; displaystyle\; [P\; (y\_\; \{2\}\}\; =\; 1\; \backslash \; mid\; y\_\; \{1\}\; =\; 1)\; =\; 0\; \backslash \; neq\; P\; (y\_\; \{2\}\; =\; 1)\; =\; \{\backslash \; frac\; \{1\}\; \{2\}\}]\}$). Таким образом, $y\; 1\; \{\backslash \; displaystyle\; y\_\; \{1\}\}$и $y\; 2\; \{\backslash \; displaystyle\; y\_\; \{2\}\}$не являются независимыми.

Если $x\; 1,\dots ,\; xn\; \{\backslash \; displaystyle\; x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{n\}\}$независимы и одинаково распределены, то они взаимозаменяемы, но обратное не обязательно верно.

Бесконечная возможность замены

Бесконечная возможность замены - это свойство, при котором каждое конечное подмножество бесконечной последовательности $y\; 1\; \{\backslash \; displaystyle\; y\_\; \{1\}\}$, $y\; 2,\dots \; \{\backslash \; displaystyle\; y\_\; \{2\},\; \backslash \; ldots\}$можно заменять. То есть для любого n последовательность $y\; 1,\; y\; 2,\dots ,\; yn\; \{\backslash \; displaystyle\; y\_\; \{1\},\; y\_\; \{2\},\; \backslash \; ldots,\; y\_\; \{n\}\}$заменяема.

Компоненты

Байесовское иерархическое моделирование использует две важные концепции при выводе апостериорного распределения, а именно:

1. Гиперпараметры : параметры априорное распределение
2. Гиперприоры : распределения гиперпараметров

Предположим, что случайная величина Y следует нормальному распределению с параметром θ как среднее и 1 как дисперсия, что равно $Y\; \mid \; \theta \; \sim \; N\; (\theta ,\; 1)\; \{\backslash \; displaystyle\; Y\; \backslash \; mid\; \backslash \; theta\; \backslash \; sim\; N\; (\backslash \; theta,\; 1)\}$. Отношение тильды $\sim \; \{\backslash \; displaystyle\; \backslash \; sim\}$можно читать как «имеет распределение» или «распространяется как». Предположим также, что параметр $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$имеет распределение, заданное нормальным распределением со средним значением $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$и дисперсия 1, то есть $\theta \; \mid \; \mu \; \sim \; N\; (\mu ,\; 1)\; \{\backslash \; displaystyle\; \backslash \; theta\; \backslash \; mid\; \backslash \; mu\; \backslash \; sim\; N\; (\backslash \; mu,\; 1)\}$. Кроме того, $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$следует другому распределению, заданному, например, стандартным нормальным распределением, $N\; (0,\; 1)\; \{\backslash \; displaystyle\; \{\backslash \; text\; \{N\}\}\; (0,1)\}$. Параметр $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$называется гиперпараметром, а его распределение определяется как $N\; (0,\; 1)\; \{\backslash \; displaystyle\; \{\backslash \; text\; \{N\}\}\; (0,\; 1)\}$- пример гиперприорного распределения. Обозначение распределения Y изменяется при добавлении другого параметра, то есть $Y\; \mid \; \theta ,\; \mu \; \sim \; N\; (\theta ,\; 1)\; \{\backslash \; displaystyle\; Y\; \backslash \; mid\; \backslash \; theta,\; \backslash \; mu\; \backslash \; sim\; N\; (\backslash \; theta,\; 1)\; \}$. Если есть другой этап, скажем, $\mu \; \{\backslash \; displaystyle\; \backslash \; mu\}$следует другому нормальному распределению со средним значением $\beta \; \{\backslash \; displaystyle\; \backslash \; beta\}$и дисперсией $ϵ\; \{\backslash \; displaystyle\; \backslash \; epsilon\}$, что означает $\mu \; \sim \; N\; (\beta ,\; ϵ)\; \{\backslash \; displaystyle\; \backslash \; mu\; \backslash \; sim\; N\; (\backslash \; beta,\; \backslash \; epsilon)\}$, $\{\backslash \; displaystyle\; \{\; \backslash \; t\_dv\; \{\}\}\}$$\beta \; \{\backslash \; displaystyle\; \backslash \; beta\}$и $ϵ\; \{\backslash \; displaystyle\; \backslash \; epsilon\}$также могут называться гиперпараметрами, в то время как их распределения являются гиперприорными. также.

Framework

Пусть $yj\; \{\backslash \; displaystyle\; y\_\; \{j\}\}$будет наблюдением, а $\theta \; j\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{j\}\}$параметр, управляющий процессом генерации данных для $yj\; \{\backslash \; displaystyle\; y\_\; \{j\}\}$. Далее предположим, что параметры $\theta \; 1,\; \theta \; 2,\dots ,\; \theta \; j\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{1\},\; \backslash \; theta\; \_\; \{2\},\; \backslash \; ldots,\; \backslash \; theta\; \_\; \{j\}\}$генерируются обменно из общей популяции, с распределением, регулируемым гиперпараметром $\varphi \; \{\backslash \; displaystyle\; \backslash \; phi\}$.. Байесовская иерархическая модель содержит следующие этапы:

$Этап\; I:\; yj\; \mid \; \theta \; j,\; \varphi \; \sim \; P\; (yj\; \mid \; \theta \; j,\; \varphi )\; \{\backslash \; displaystyle\; \{\backslash \; text\; \{Stage\; I:\}\}\; y\_\; \{j\}\; \backslash \; mid\; \backslash \; theta\; \_\; \{j\},\; \backslash \; phi\; \backslash \; sim\; P\; (y\_\; \{j\}\; \backslash \; mid\; \backslash \; theta\; \_\; \{\; j\},\; \backslash \; phi)\}$

$Этап\; II:\; \theta \; j\; \mid \; \varphi \; \sim \; P\; (\theta \; j\; \mid \; \varphi )\; \{\backslash \; displaystyle\; \{\backslash \; text\; \{Stage\; II:\}\}\; \backslash \; theta\; \_\; \{j\}\; \backslash \; mid\; \backslash \; phi\; \backslash \; sim\; P\; (\backslash \; theta\; \_\; \{j\}\; \backslash \; mid\; \backslash \; phi)\}$

$Стадия\; III:\; \varphi \; \sim \; P\; (\varphi )\; \{\backslash \; displaystyle\; \{\backslash \; text\; \{Стадия\; III:\}\}\; \backslash \; phi\; \backslash \; sim\; P\; (\backslash \; phi)\}$

Вероятность, как видно на этапе I, равна $P\; (yj\; \mid \; \theta \; j,\; \varphi )\; \{\backslash \; displaystyle\; P\; (y\_\; \{j\}\; \backslash \; mid\; \backslash \; theta\; \_\; \{j\},\; \backslash \; phi)\}$, с $P\; (\theta \; j,\; \varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta\; \_\; \{j\},\; \backslash \; phi)\}$в качестве предварительного распределения. Обратите внимание, что вероятность зависит от $\varphi \; \{\backslash \; displaystyle\; \backslash \; phi\}$только через $\theta \; j\; \{\backslash \; displaystyle\; \backslash \; theta\; \_\; \{j\}\}$.

Априорное распределение со стадии I может быть разбивается на:

$P\; (\theta \; j,\; \varphi )\; =\; P\; (\theta \; j\; \mid \; \varphi )\; P\; (\varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta\; \_\; \{j\},\; \backslash \; phi)\; =\; P\; (\backslash \; theta\; \_\; \{j\}\; \backslash \; mid\; \backslash \; phi)\; P\; (\backslash \; phi)\}$[из определения условной вероятности]

С $\varphi \; \{\backslash \; displaystyle\; \backslash \; phi\}$в качестве гиперпараметра с гиперприором распределение, $P\; (\varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; phi)\}$.

Таким образом, апостериорное распределение пропорционально:

$P\; (\varphi ,\; \theta \; j\; \mid \; y)\; \propto \; P\; (yj\; \mid \; \theta \; j,\; \varphi )\; п\; (\theta \; j,\; \varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; phi,\; \backslash \; theta\; \_\; \{j\}\; \backslash \; mid\; y)\; \backslash \; propto\; P\; (y\_\; \{j\}\; \backslash \; mid\; \backslash \; theta\; \_\; \{j\},\; \backslash \; phi)\; P\; (\backslash \; theta\; \_\; \{j\},\; \backslash \; phi)\}$[с использованием теоремы Байеса]

$P\; (\varphi ,\; \theta \; j\; \mid \; y)\; \propto \; P\; (yj\; \mid \; \theta \; j)\; P\; (\theta \; j\; \mid \; \varphi )\; P\; (\varphi )\; \{\backslash \; Displaystyle\; P\; (\backslash \; phi,\; \backslash \; theta\; \_\; \{j\}\; \backslash \; mid\; y)\; \backslash \; propto\; P\; (y\_\; \{j\}\; \backslash \; mid\; \backslash \; theta\; \_\; \{j\})\; P\; (\backslash \; theta\; \_\; \{j\}\; \backslash \; mid\; \backslash \; phi)\; P\; (\backslash \; phi)\}$

Пример

Чтобы проиллюстрировать это, рассмотрим пример: Учитель хочет оценить, насколько хорошо студент сдал SAT. Учитель использует информацию об оценках учащегося в старшей школе и текущем среднем балле (GPA), чтобы сделать оценку. Текущий средний балл студента, обозначенный $Y\; \{\backslash \; displaystyle\; Y\}$, имеет вероятность, заданную некоторой функцией вероятности с параметром $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, то есть $Y\; \mid \; \theta \; \sim \; P\; (Y\; \mid \; \theta )\; \{\backslash \; Displaystyle\; Y\; \backslash \; mid\; \backslash \; theta\; \backslash \; sim\; P\; (Y\; \backslash \; mid\; \backslash \; theta)\}$. Этот параметр $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$- это результат SAT учащегося. Оценка SAT рассматривается как выборка, полученная из общего распределения населения, проиндексированного другим параметром $\varphi \; \{\backslash \; displaystyle\; \backslash \; phi\}$, который является оценкой учащегося в старшей школе (первокурсник, второкурсник, младший или старший). То есть $\theta \; \mid \; \varphi \; \sim \; P\; (\theta \; \mid \; \varphi )\; \{\backslash \; displaystyle\; \backslash \; theta\; \backslash \; mid\; \backslash \; phi\; \backslash \; sim\; P\; (\backslash \; theta\; \backslash \; mid\; \backslash \; phi)\}$. Более того, гиперпараметр $\varphi \; \{\backslash \; displaystyle\; \backslash \; phi\}$следует своему собственному распределению, заданному как $P\; (\varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; phi)\}$, a гиперприор. Чтобы вычислить результат SAT с учетом информации о среднем балле,

$P\; (\theta ,\; \varphi \; \mid \; Y)\; \propto \; P\; (Y\; \mid \; \theta ,\; \varphi )\; P\; (\theta ,\; \varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta,\; \backslash \; phi\; \backslash \; mid\; Y)\; \backslash \; propto\; P\; (Y\; \backslash \; mid\; \backslash \; theta,\; \backslash \; phi)\; P\; (\backslash \; theta,\; \backslash \; phi)\}$

$P\; (\theta ,\; \varphi \; \mid \; Y)\; \propto \; P\; (Y\; \mid \; \theta )\; P\; (\theta \; \mid \; \varphi )\; P\; (\; \varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta,\; \backslash \; phi\; \backslash \; mid\; Y)\; \backslash \; propto\; P\; (Y\; \backslash \; mid\; \backslash \; theta)\; P\; (\backslash \; theta\; \backslash \; mid\; \backslash \; phi)\; P\; (\backslash \; phi)\}$

Вся информация в задаче будет использоваться для решения апостериорного распределения. Вместо решения только с использованием априорного распределения и функции правдоподобия использование гиперприоров дает больше информации для более точных представлений о поведении параметра.

Двухступенчатая иерархическая модель

В В общем, совместное апостериорное распределение интереса в двухэтапных иерархических моделях:

$P\; (\theta ,\; \varphi \; \mid \; Y)\; =\; P\; (Y\; \mid \; \theta ,\; \varphi )\; P\; (\theta ,\; \varphi )\; P\; (Y)\; =\; P\; (Y\; \mid \; \theta )\; п\; (\theta \; \mid \; \varphi )\; п\; (\varphi )\; п\; (Y)\; \{\backslash \; Displaystyle\; P\; (\backslash \; theta,\; \backslash \; phi\; \backslash \; mid\; Y)\; =\; \{P\; (Y\; \backslash \; mid\; \backslash \; theta,\; \backslash \; phi)\; P\; (\backslash \; theta,\; \backslash \; phi)\; \backslash \; над\; P\; (Y)\}\; =\; \{P\; (Y\; \backslash \; mid\; \backslash \; theta)\; P\; (\backslash \; theta\; \backslash \; mid\; \backslash \; phi)\; P\; (\backslash \; phi)\; \backslash \; over\; P\; (Y)\}\}$

$P\; (\theta ,\; \varphi \; \mid \; Y)\; \propto \; п\; (Y\; \mid \; \theta )\; п\; (\theta \; \mid \; \varphi )\; P\; (\varphi )\; \{\backslash \; displaystyle\; P\; (\backslash \; theta,\; \backslash \; phi\; \backslash \; mid\; Y)\; \backslash \; propto\; P\; (Y\; \backslash \; mid\; \backslash \; theta)\; P\; (\backslash \; theta\; \backslash \; mid\; \backslash \; phi)\; P\; (\backslash \; phi)\}$

Трехступенчатая иерархическая модель

Для трехступенчатых иерархических моделей апостериорное распределение задается следующим образом:

$P\; (\theta ,\; \varphi ,\; X\; \mid \; Y)\; =\; П\; (Y\; \mid \; \theta )\; п\; (\theta \; \mid \; \varphi )\; п\; (\varphi \; \mid \; X)\; п\; (X)\; P\; (Y)\; \{\backslash \; displaystyle\; P\; (\backslash \; theta,\; \backslash \; phi,\; X\; \backslash \; mid\; Y)\; =\; \{P\; (Y\; \backslash \; mid\; \backslash \; тета)\; П\; (\backslash \; тета\; \backslash \; середина\; \backslash \; фи)\; Р\; (\backslash \; фи\; \backslash \; mid\; X)\; P\; (X)\; \backslash \; над\; P\; (Y)\}\}$

$P\; (\theta ,\; \varphi ,\; X\; \mid \; Y)\; \propto \; P\; (Y\; \mid \; \theta )\; P\; (\theta \; \mid \; \varphi )\; P\; (\varphi \; \mid \; X)\; P\; (X)\; \{\backslash \; Displaystyle\; Р\; (\backslash \; тета,\; \backslash \; фи,\; Икс\; \backslash \; середина\; Y)\; \backslash \; пропто\; Р\; (Y\; \backslash \; середина\; \backslash \; тета)\; Р\; (\backslash \; тета\; \backslash \; середина\; \backslash \; фи)\; Р\; (\backslash \; фи\; \backslash \; середина\; X)\; Р\; (Х)\}$