Функция правдоподобия

Функция, относящаяся к статистике и теории вероятностей

В статистике, правдоподобие функция (часто называемая просто правдоподобием ) измеряет степень статистической модели выборке данных для заданных значений неизвестных параметров. Он формирует совместное распределение вероятностей, но используется как функция от параметров, таким образом обрабатывая случайные величины как фиксированные на наблюдаемых значениях.

Функция правдоподобия является гиперповерхность, пик которой, если он существует, представляет собой комбинацию параметров модели, которые максимизируют вероятность получения полученной выборки. Процедура получения этих аргументов предела функции правдоподобия известна как оценка размера правдоподобия, которая для удобства вычислений обычно выполняется с использованием натурального логарифма от вероятности, известная как функция функция логарифма правдоподобия . Кроме того, форма и кривизна поверхности правдоподобия изменит информацию об стабильности оценок, функция правдоподобия часто строится как часть статистического анализа.

Случай для использования правдоподобия впервые было сделано Р. А. Фишер, считывающий, что это автономная структура для статистического вывода. Позже Барнард и Бирнбаум возглавили школу, которая защищала принцип правдоподобия, постулируя, что вся соответствующая информация для вывода содержит в функции правдоподобия. Но как в частотной, так и в байесовской статистике функция правдоподобия играет фундаментальную роль.

Содержание

• 1 Определение
  • 1.1 Дискретное распределение вероятностей
    • 1.1.1 Пример
  • 1.2 Непрерывное распределение вероятностей
  • 1.3 В целом
  • 1.4 Функция правдоподобия параметров модели
    • 1.4.1 Вероятность для непрерывных распределений
  • 1.5 Вероятность для смешанных непрерывно-дискретных распределений
  • 1.6 Регулярность
• 2 Отношение правдоподобия и относительное правдоподобие
  • 2.1 Отношение правдоподобия
    • 2.1.1 Различие к использованию шансов
  • 2.2 Функция относительного правдоподобия
    • 2.2.1 Область правдоподобия
• 3 Вероятности, исключающие нежелательные параметры
  • 3.1 Профиль правдоподобия
  • 3.2 Условное правдоподобия
  • 3.3 Предельное правдоподобие
  • 3.4 Частичное правдоподобие
• 4 Продукты правдоподобия
• 5 Логарифмическое правдоподобие
  • 5.1 Уравнения правдоподобия
  • 5.2 Экспоненциальные семейства
    • 5.2.1 Пример: гамма-распределение
• 6 Предпосылки и интерпретация
  • 6. 1 Исторические заметки
  • 6.2 Интерпретация на разных основаниях
    • 6.2.1 Частотная интерпретация
    • 6.2.2 Байесовская интерпретация
    • 6.2.3 Правдоподобная интерпретация
    • 6.2.4 Интерпретация на основе AIC
• 7 См.. также
• 8 Примечания
• 9 Ссылки
• 10 Дополнительная литература
• 11 Ссылки

Определение

Функция правдоподобия определяется обычно по-разному для дискретных и непрерывных распределений вероятностей. Также возможно общее определение, как обсуждается ниже.

Дискретное распределение вероятностей

Пусть $X\; \{\backslash \; displaystyle\; X\}$будет дискретной случайной величиной с функцией массы вероятности $p\; \{\backslash \; displaystyle\; p\}$в зависимости от параметра $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$. Тогда функция

$L\; (\theta \; \mid \; x)\; =\; p\; \theta \; (x)\; =\; P\; \theta \; (X\; =\; x),\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x)\; =\; p\; \_\; \{\backslash \; theta\}\; (x)\; =\; P\; \_\; \{\backslash \; theta\}\; (X\; =\; x),\}$

, рассматриваемый как функция от $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, является функцией правдоподобия, учитывая результат $x\; \{\backslash \; displaystyle\; x\}$случайной величины $X\; \{\backslash \; displaystyle\; X\}$. Иногда вероятность «значения $x\; \{\backslash \; displaystyle\; x\}$из $X\; \{\backslash \; displaystyle\; X\}$для значения параметра $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$"записывается как P (X = x | θ) или P (X = x; θ). $L\; (\theta \; \mid \; x)\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x)\}$не следует путать с $p\; (\theta \; \mid \; x)\; \{\backslash \; displaystyle\; p\; (\backslash \; theta\; \backslash \; mid\; x)\}$; вероятность вероятности того, что потенциально результат $x\; \{\backslash \; displaystyle\; x\}$наблюдается, когда истинное значение равно $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, и, следовательно, он равен плотности вероятности по исходу $x\; \{\backslash \; displaystyle\; x\}$, а не по параметру $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$.

Пример

Рис. 1. Функция правдоподобия ($p\; H\; 2\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\; ^\; \{2\}\}$) для вероятности выпадения монеты один на один (без предварительного знания честности монеты), учитывая, что мы наблюдали HH. Рисунок 2. Функция правдоподобия ($п\; ЧАС\; 2\; (1\; -\; p\; H)\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\; ^\; \{2\}\; (1-p\; \_\; \{\backslash \; text\; \{H\}\})\}$) для вероятности выпадения хедз-ап (без предварительного изучения честности монеты), учитывая, что мы наблюдали HHT.

Рассмотрим простую статистическую модель подбрасывания монеты: единственный параметр $p\; H\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\}$, который выражает «справедливость» монета. Параметр - это вероятность того, что монета упадет орлом («H») при подбрасывании. $p\; H\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\}$может принимать любое значение в диапазоне от 0,0 до 1,0. Для идеально честной монеты, $p\; H\; =\; 0,5\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\; =\; 0,5\}$.

Представьте себе, что дважды подбрасываете честную монету и наблюдаете следующие данные: две головы в два броска («Ч-Х»). Если предположить, что каждый последующий подбрасывание монеты составляет i.i.d., тогда вероятность наблюдения HH составляет

$P\; (HH\; \mid \; p\; H\; =\; 0,5)\; =\; 0,5\; 2\; =\; 0,25.\; \{\backslash \; displaystyle\; P\; (\{\backslash \; text\; \{HH\}\}\; \backslash \; mid\; p\; \_\; \{\backslash \; text\; \{H\}\}\; =\; 0,5)\; =\; 0,5\; ^\; \{2\}\; =\; 0,25.\}$

Следовательно, указанные данные HH, вероятность того, что параметр модели $p\; H\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\}$равен 0,5, равен 0,25. Математически это записывается как

$L\; (p\; H\; =\; 0,5\; \mid \; HH)\; =\; 0,25.\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (p\; \_\; \{\backslash \; text\; \{H\}\}\; =\; 0,5\; \backslash \; mid\; \{\backslash \; text\; \{HH\}\})\; =\; 0,25.\}$

Это не то же самое, что сказать, что вероятность того, что $p\; H\; =\; 0,5\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\; =\; 0,5\}$, учитывая наблюдение HH, составляет 0,25. (Для этого мы могли бы применить теорему Байеса, из которой следует, что апостериорная вероятность измена правдоподобию, умноженному на априорную вероятность.)

Предположим, что монета нечестная, но вместо этого он имеет $п\; Н\; =\; 0,3\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\; =\; 0,3\}$. Тогда вероятность выпадения двух решек равна

$P\; (HH\; \mid \; p\; H\; =\; 0,3)\; =\; 0,3\; 2\; =\; 0,09.\; \{\backslash \; displaystyle\; P\; (\{\backslash \; text\; \{HH\}\}\; \backslash \; mid\; p\; \_\; \{\backslash \; text\; \{H\}\}\; =\; 0,3)\; =\; 0,3\; ^\; \{2\}\; =\; 0,09.\}$

Следовательно,

$L\; (p\; H\; =\; 0,3\; HH)\; =\; 0,09.\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (p\; \_\; \{\backslash \; text\; \{H\}\}\; =\; 0,3\; \backslash \; mid\; \{\backslash \; text\; \{HH\}\})\; =\; 0,09.\}$

В общем, для каждого значения $p\; H\; \{\backslash \; displaystyle\; p\; \_\; \{\backslash \; text\; \{H\}\}\}$, мы можем вычислить соответствующую вероятность. Результат таких вычислений показан на рисунке 1.

На рисунке 1 интеграл правдоподобия по интервалу [0, 1] равенство 1/3. Это иллюстрирует важный аспект вероятностей: вероятность не интегрироваться (или суммироваться) до 1, в отличие от вероятностей.

Непрерывное распределение вероятностей

Пусть $X\; \{\backslash \; displaystyle\; X\}$будет случайной величиной, используя абсолютно непрерывному распределению вероятностей с функцией плотности $f\; \{\backslash \; displaystyle\; f\}$в зависимости от параметра $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$. Тогда функция

$L\; (\theta \; \mid \; x)\; =\; е\; \theta \; (x),\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x)\; =\; f\; \_\; \{\backslash \; theta\}\; (x),\; \backslash ,\}$

, рассматриваемая как функция от $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, является функцией правдоподобия (от $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$с учетом результат $x\; \{\backslash \; displaystyle\; x\}$из $X\; \{\backslash \; displaystyle\; X\}$). Иногда функция плотности для "значения $x\; \{\backslash \; displaystyle\; x\}$из $X\; \{\backslash \; displaystyle\; X\}$для значения параметра $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$"записывается как $f\; (x\; \mid \; \theta )\; \{\backslash \; displaystyle\; f\; (x\; \backslash \; mid\; \backslash \; theta)\}$. $L\; (\theta \; \mid \; x)\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (\; \backslash \; theta\; \backslash \; mid\; x)\}$не следует путать с $f\; (\theta \; \mid \; x)\; \{\backslash \; displaystyle\; f\; (\backslash \; theta\; \backslash \; mid\; x)\}$; вероятность плотности вероятности для конкретного результата $x\; \{\backslash \; displaystyle\; x\}$, когда истинное значение параметра равно $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, и, следовательно, он равенство плотности вероятности по исходу $x\; \{\backslash \; displaystyle\; x\}$, а не по параметру $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$.

В целом

В теории вероятностей функция плотности определяется как производная Радона - Никодима распределения вероятностей относительно доминирующего мера. Функция правдоподобия - это плотность, интерпретируемая как функция свойства (возможно, явления), а не возможности результатов. Это обеспечивает функцию правдоподобия для любой статистической модели со всеми распределенными, будь то дискретное, абсолютно непрерывное, смешанное или что-то еще. (Вероятности сопоставимы, например, для оценки параметров, если они являются производными Радона - Никодима по одной и той же доминирующей мере.)

Вышеупомянутое обсуждение правдоподобия с дискретными вероятностями является частным случаем с использованием счетной мера, которая делает вероятность любого отдельного результата равной плотности вероятности для этого результата.

Если событие отсутствует (нет данных), вероятность и, следовательно, правдоподобие равны 1; любое нетривиальное событие будет иметь меньшую вероятность.

Функция правдоподобия параметризованной модели

Среди множества приложений мы рассматриваем здесь одно, имеющее большое теоретическое и практическое значение. Учитывая параметризованное семейство из функций плотности вероятности (или функций плотности вероятности в случае дискретных распределений)

$x\; \mapsto \; f\; (x\; \mid \; \theta ),\; \{\backslash \; displaystyle\; x\; \backslash \; mapsto\; f\; (x\; \backslash \; mid\; \backslash \; theta),\; \backslash !\}$

где $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$- параметр, функция правдоподобия равно

$\theta \; \mapsto \; е\; (x\; \mid \; \theta ),\; \{\backslash \; displaystyle\; \backslash \; theta\; \backslash \; mapsto\; f\; (x\; \backslash \; mid\; \backslash \; theta),\; \backslash !\}$

записано

$L\; (\theta \; \mid \; x)\; =\; f\; (x\; \mid \; \theta ),\; \{\; \backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x)\; =\; f\; (x\; \backslash \; mid\; \backslash \; theta),\; \backslash !\}$

где $x\; \{\backslash \; displaystyle\; x\}$- наблюдаемый результат эксперимента. Другими словами, когда $f\; (x\; \mid \; \theta )\; \{\backslash \; displaystyle\; f\; (x\; \backslash \; mid\; \backslash \; theta)\}$рассматривается как функция от $x\; \{\backslash \; displaystyle\; x\}$с фиксированным $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$, это функция плотности вероятности, и если рассматривать ее как функцию от $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$с фиксированным $x\; \{\backslash \; displaystyle\; x\}$, это функция правдоподобия.

Это не то же самое, что вероятность того, что эти параметры являются правильными для наблюдаемой выборки. Попытка интерпретировать вероятность гипотезы с учетом вероятных вероятных гипотезы - обычная ошибка с маленькими катастрофическими последствиями. См. Пример ошибки прокурора.

С геометрической точки зрения, если мы рассмотрим $f\; (x\; \mid \; \theta )\; \{\backslash \; displaystyle\; f\; (x\; \backslash \; mid\; \backslash \; theta)\}$как функцию двух чисел, то семейство распределений вероятностей можно рассматривать как семейство кривых, параллельных осей $x\; \{\backslash \; displaystyle\; x\}$, а семейство функций правдоподобия представляет собой ортогональные кривые, параллельные оси $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$- ось.

Вероятности для непрерывных распределений

Использование плотности вероятности при указании функции правдоподобия выше оправдано следующим образом. Учитывая наблюдение $xj\; \{\backslash \; displaystyle\; x\_\; \{j\}\}$, вероятность для интервала $[xj,\; xj\; +\; h]\; \{\backslash \; displaystyle\; [x\_\; \{j\},\; x\_\; \{j\}\; +\; h]\; \}$, где $h>0\; \{\backslash \; displaystyle\; h>0\}$объявляется константой, задается как $L\; (\theta \; \mid \; x\; \in \; [xj,\; xj\; +\; hyle])\; \{math\; L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\; \backslash \; in\; [x\_\; \{j\},\; x\_\; \{j\}\; +\; h])\}$. Обратите внимание, что

$argmax\; \theta \; \; L\; (\theta \; \mid \; x\; \in \; [\; xj,\; xj\; +\; h])\; =\; argmax\; \theta \; \; 1\; час\; L\; (\theta \; \mid \; x\; \in \; [xj,\; xj\; +\; h])\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\; \backslash \; in\; [x\_\; \{j\},\; x\_\; \{j\}\; +\; h])\; =\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; frac\; \{1\}\; \{h\}\}\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\; \backslash \; in\; [x\_\; \{j\},\; x\_\; \{j\}\; +\; h])\}$,

, поскольку $h\; \{\backslash \; displaystyle\; h\}$положительное и постоянное значение. Времена

$argmax\; \theta \; \; 1\; h\; L\; (\theta \; \mid \; x\; \in \; [xj,\; xj\; +\; h])\; =\; argmax\; \theta \; \; 1\; час\; Pr\; (xj\; \le \; x\; \le \; xj\; +\; h\; \mid \; \theta )\; =\; argmax\; \theta \; \; 1\; час\; \int \; x\; jxj\; +\; hf\; (x\; \mid \; \theta )\; dx,\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; frac\; \{1\; \}\; \{h\}\}\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\; \backslash \; in\; [x\_\; \{j\},\; x\_\; \{j\}\; +\; h])\; =\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; frac\; \{1\; \}\; \{h\}\}\; \backslash \; Pr\; (x\_\; \{j\}\; \backslash \; leq\; x\; \backslash \; leq\; x\_\; \{j\}\; +\; h\; \backslash \; mid\; \backslash \; theta)\; =\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; frac\; \{1\}\; \{h\}\}\; \backslash \; int\; \_\; \{x\_\; \{j\}\}\; ^\; \{x\_\; \{j\}\; +\; h\}\; f\; (x\; \backslash \; mid\; \backslash \; theta)\; \backslash ,\; dx,\}$

где $f\; (x\; \mid \; \theta )\; \{\backslash \; displaystyle\; f\; (x\; \backslash \; mid\; \backslash \; theta)\}$- функция плотности вероятности, отсюда следует, что

$argmax\; \theta \; \; L\; (\theta \; \mid \; x\; \in \; [xj,\; xj\; +\; h])\; =\; argmax\; \theta \; \; 1\; час\; \int \; xjxj\; +\; hf\; (Икс\; \mid \; \theta )\; dx\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\; \backslash \; in\; [x\_\; \{j\},\; x\_\; \{j\}\; +\; h])\; =\; \backslash \; имя\; оператора\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; frac\; \{1\}\; \{h\}\}\; \backslash \; int\; \_\; \{x\_\; \{j\}\}\; ^\; \{x\_\; \{j\}\; +\; h\}\; f\; (x\; \backslash \; mid\; \backslash \; theta)\; \backslash ,\; dx\}$.

Первая основная теорема исчисления и Л'Опиталь Правило вместе обеспечивает, что

$lim\; h\; \to \; 0\; +\; 1\; h\; \int \; xjxj\; +\; hf\; (x\; \mid \; \theta )\; dx\; =\; lim\; h\; \to \; 0\; +\; ddh\; \int \; xjxj\; +\; hf\; (x\; \mid \; \theta )\; dxdhdh\; =\; lim\; h\; \to \; 0\; +\; f\; (xj\; +\; h\; \mid \; \theta )\; 1\; =\; f\; (xj\; \mid \; \theta ).\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{align\}\; \backslash \; lim\; \_\; \{h\; \backslash \; to\; 0\; ^\; \{+\}\}\; \{\backslash \; frac\; \{1\}\; \{h\}\}\; \backslash \; int\; \_\; \{x\_\; \{j\}\}\; ^\; \{x\_\; \{j\}\; +\; h\; \}\; f\; (x\; \backslash \; mid\; \backslash \; theta)\; \backslash ,\; dx\; =\; \backslash \; lim\; \_\; \{h\; \backslash \; to\; 0\; ^\; \{+\}\}\; \{\backslash \; frac\; \{\{\backslash \; frac\; \{d\}\; \{dh\}\}\; \backslash \; int\; \_\; \{x\_\; \{j\}\}\; ^\; \{x\_\; \{j\}\; +\; h\}\; f\; (x\; \backslash \; mid\; \backslash \; theta)\; \backslash ,\; dx\}\; \{\backslash \; frac\; \{dh\}\; \{dh\}\}\}\; \backslash \backslash \; [4pt]\; =\; \{\}\; \backslash \; lim\; \_\; \{h\; \backslash \; to\; 0\; ^\; \{\; +\}\}\; \{\backslash \; frac\; \{f\; (x\_\; \{j\}\; +\; h\; \backslash \; mid\; \backslash \; theta)\}\; \{1\}\}\; =\; f\; (x\_\; \{j\}\; \backslash \; mid\; \backslash \; theta).\; \backslash \; end\; \{align\}\}\}$

Тогда

$argmax\; \theta \; \; L\; (\theta \; \mid \; xj)\; =\; argmax\; \theta \; \; [lim\; h\; \to \; 0\; +\; L\; (\theta \; \mid \; x\; \in \; [xj,\; xj\; +\; h])]\; =\; argmax\; \theta \; \; [lim\; h\; \to \; 0\; +\; 1\; h\; xjxj\; +\; hf\; (x\; \theta )\; dx]\; =\; argmax\; \theta \; \; f\; (xj\; \mid \; \theta ).\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{align\}\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\_\; \{j\})\; =\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash theta\}\; \backslash \; left\; [\backslash \; lim\; \_\; \{h\; \backslash \; to\; 0\; ^\; \{+\}\}\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\; \backslash \; in\; [x\_\; \{j\},\; x\_\; \{j\}\; +\; h])\; \backslash \; right]\; \backslash \backslash \; [4pt\; ]\; =\; \{\}\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \backslash \; left\; [\backslash \; lim\; \_\; \{h\; \backslash \; to\; 0\; ^\; \{+\}\}\; \{\backslash \; frac\; \{1\}\; \{h\}\}\; \backslash \; int\; \_\; \{x\_\; \{j\}\}\; ^\; \{x\_\; \{j\}\; +\; h\}\; f\; (x\; \backslash \; mid\; \backslash \; theta)\; \backslash ,\; dx\; \backslash \; right]\; =\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; f\; (x\_\; \{j\}\; \backslash \; mid\; \backslash \; theta).\; \backslash \; end\; \{выровнено\}\}\}$

Следовательно,

$argmax\; \theta \; \; L\; (\theta \; \mid \; xj)\; =\; argmax\; \theta \; \; f\; (xj\; \mid \; \theta ),\; \{\backslash \; displaystyle\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x\_\; \{j\})\; =\; \backslash \; operatorname\; \{argmax\}\; \_\; \{\backslash \; theta\}\; f\; (x\_\; \{j\}\; \backslash \; mid\; \backslash \; theta),\; \backslash !\}$

и таким образом, максимизация плотность вероятности в $xj\; \{\backslash \; displaystyle\; x\_\; \{j\}\}$означает максимизацию вероятности конкретного наблюдения $xj\; \{\backslash \; displaystyle\; x\_\; \{j\}\}$.

Вероятность смешанных непрерывно-дискретных распределений

Вышеизложенное комплексное средство, чтобы можно было рассматривать распределение, как дискретные, так и непрерывные компоненты. Предположим, что состоит из нескольких дискретных вероятностных масс $pk\; \theta \; \{\backslash \; displaystyle\; p\_\; \{k\}\; \backslash \; theta\}$и плотности $f\; (x\; \mid \; \theta )\; \{\backslash \; displaystyle\; f\; (x\; \backslash \; mid\; \backslash \; theta)\}$, где сумма всех $p\; \{\backslash \; displaystyle\; p\}$добавляется к интегралу от $f\; \{\backslash \; displaystyle\; f\}$всегда один. Предполагаемая, что можно отличить наблюдение, соответствует одному из дискретных масс вероятности, от наблюдения, соответствует компоненту плотности, функция правдоподобия для наблюдения непрерывного компонента может быть обработана способом, показанным выше. Для наблюдения от дискретного компонента функция правдоподобия для наблюдения от дискретного компонента

$L\; (\theta \; \mid \; x)\; =\; pk\; (\theta ),\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; theta\; \backslash \; mid\; x)\; =\; p\_\; \{k\}\; (\backslash \; theta),\; \backslash !\}$

где $k\; \{\backslash \; displaystyle\; k\}$- индекс дискретной вероятностной массы, наблюдающимся $x\; \{\backslash \; displaystyle\; x\}$, поскольку максимизация вероятностной массы (или вероятности) в $x\; \{\backslash \; displaystyle\; x\}$сводится к максимизации вероятности конкретного наблюдения.

Тот факт, что функция правдоподобия может быть определенным образом, чтобы включить несоизмеримые вклады (плотность и вероятностная масса), возникает из-за способа, соответствующая функция правдоподобия определяется с точностью до константы пропорциональности., где эта «константа» может изменяться с помощью наблюдения $x\; \{\backslash \; displaystyle\; x\}$, но не с параметром $\theta \; \{\backslash \; displaystyle\; \backslash \; theta\}$.

Условия регулярности

В контексте описания обычно обычно, функция правдоподобия подчиняется определенным условиям, известным как регулярные условия. Эти условия предполагаются в различных доказательствах, включающих функции правдоподобия, и их необходимо проверять в каждом конкретном приложении. Для оценки правдоподобия важно наличие глобальной максимума функции правдоподобия. Согласно теореме об экстремальных значениях, непрерывной функции правдоподобия на компактном пространственных параметрах достаточно для существования оценщика максимального правдоподобия. В то время как предположение о непрерывности обычно выполняется предположение о компактности пространства параметров часто не выполняется, поскольку границы значений параметров неизвестны. В этом случае ключевую роль играет вогнутость функции правдоподобия.

Более конкретно, если функция правдоподобия постоянно непрерывно дифференцируема в k-мерном пространстве параметров $\Theta \; \{\backslash \; displaystyle\; \backslash \; Theta\}$, соответственно, что open подключенное подмножество $R\; k\; \{\backslash \; displaystyle\; \backslash \; mathbb\; \{R\}\; ^\; \{k\}\}$, существует уникальный максимум $\theta \; ^\; \in \; \Theta \; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\; \backslash \; in\; \backslash \; Theta\}$, если

$H\; (\theta )\; =\; \{\partial \; 2\; L\; \partial \; \theta \; я\; \partial \; \theta \; j\}\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{H\}\; (\backslash \; theta)\; =\; \backslash \; left\; \backslash \; \{\{\backslash \; frac\; \{\backslash \; partial\; ^\; \{2\}\; L\}\; \{\backslash \; partial\; \backslash \; theta\; \_\; \{i\}\; \backslash \; partial\; \backslash \; theta\; \_\; \{j\}\}\}\; \backslash \; right\; \backslash \}\}$- отрицательно определенное в каждом $\theta \; \in \; \Theta \; \{\backslash \; displaystyle\; \backslash \; theta\; \backslash \; in\; \backslash \; Theta\}$, для которого градиент $\nabla \; L\; =\; \{\partial \; L\; /\; \partial \; \theta \; я\}\; \{\backslash \; displaystyle\; \backslash \; nabla\; L\; =\; \backslash \; left\; \backslash \; \{\backslash \; partial\; L\; /\; \backslash \; partial\; \backslash \; theta\; \_\; \{i\}\; \backslash \; right\; \backslash \}\}$исчезает, а

$lim\; \theta \; \to \; \partial \; \Theta \; L\; (\theta )\; =\; 0\; \{\backslash \; displaystyle\; \backslash \; lim\; \_\; \{\backslash \; theta\; \backslash \; to\; \backslash \; partial\; \backslash \; Theta\}\; L\; (\backslash \; theta)\; =\; 0\}$, то есть функция правдо подобия приближается к константе на границе пространство, которое может быть бесконечно удаленные точки, если $\Theta \; \{\backslash \; displaystyle\; \backslash \; Theta\}$не ограничено.

Мякеляйнен и др. докажите этот результат, используя теорию Морса, неформально обращаясь к собственности горного перевала. Маскаренас повторяет свое доказательство, используя теорему о горном перевале.

доказательствах непротиворечивости и асимптотической нормальности оценки максимального правдоподобия делаются дополнительные предположения о плотностях вероятностей, которые составляют основу функцииможет быть получен с помощью теоремы Ролля.

Вторая производная, вычисленная как $\theta \; ^\; \{\backslash \; displaystyle\; \{\backslash \; hat\; \{\backslash \; theta\}\}\}$, известная как Fisher информация, определяет кривизну поверхности правдоподобия и, таким образом, указывает на точность оценки.

Экспоненциальные семейства

Логарифм правдоподобия также особенно полезен для экспоненциальных семейств распределений, которые включают множество из общих параметрических распределений вероятностей. Функция распределения вероятностей (и, следовательно, функция правдоподобия) для экспоненциальных семейств включает произведения факторов, включающих возведение в степень. Логарифм такой функции представляет собой сумму произведений, которую снова легче различить, чем исходную функцию.

Экспоненциальное семейство - это семейство, функция плотности вероятности которого имеет вид (для некоторых функций записи $⟨-,\; -⟩\; \{\backslash \; displaystyle\; \backslash \; langle\; -,\; -\; \backslash \; rangle\}$для внутреннего продукта ):

$p\; (x\; \mid \; \theta )\; =\; h\; (x)\; exp\; \; (⟨\eta \; (\theta ),\; T\; (x)⟩\; -\; A\; (\theta )).\; \{\backslash \; displaystyle\; p\; (x\; \backslash \; mid\; \{\backslash \; boldsymbol\; \{\backslash \; theta\}\})\; =\; h\; (x)\; \backslash \; exp\; \{\backslash \; Big\; (\}\; \backslash \; langle\; \{\backslash \; boldsymbol\; \{\backslash \; eta\}\}\; (\{\backslash \; boldsymbol\; \{\backslash \; theta\}\}),\; \backslash \; mathbf\; \{T\}\; (x)\; \backslash \; rangle\; -A\; (\{\backslash \; boldsymbol\; \{\backslash \; theta\}\})\; \{\backslash \; Big)\}.\}$

У каждого из этих терминов есть интерпретация, но просто переход от вероятности к правдоподобию и логарифм дает сумма:

$\ell \; (\theta \; \mid \; x)\; =\; ⟨\eta \; (\theta ),\; T\; (x)⟩\; -\; A\; (\theta )\; +\; log\; \; h\; (x).\; \{\backslash \; displaystyle\; \backslash \; ell\; (\{\backslash \; boldsymbol\; \{\backslash \; theta\}\}\; \backslash \; mid\; x)\; =\; \backslash \; langle\; \{\backslash \; boldsymbol\; \{\backslash \; eta\}\}\; (\{\backslash \; boldsymbol\; \{\backslash \; theta\}\}),\; \backslash \; mathbf\; \{T\}\; (x)\; \backslash \; rangle\; -A\; (\{\backslash \; boldsymbol\; \{\backslash \; theta\}\})\; +\; \backslash \; log\; h\; (x).\}$

$\eta \; (\theta )\; \{\backslash \; displaystyle\; \{\backslash \; boldsymbol\; \{\backslash \; eta\}\}\; (\{\backslash \; boldsymbol\; \{\backslash \; theta\}\; \})\}$и $h\; (x)\; \{\backslash \; displaystyle\; h\; (x)\}$каждый соответствует изменению координат, поэтому в этих координатах, логарифмическая вероятность экспоненциального системе определяется простой формулой:

$\ell \; (\eta \; \mid \; x)\; =\; ⟨\eta ,\; T\; (x)⟩\; -\; A\; (\eta ).\; \{\backslash \; displaystyle\; \backslash \; ell\; (\{\backslash \; boldsymbol\; \{\backslash \; eta\}\}\; \backslash \; mid\; x)\; =\; \backslash \; langle\; \{\backslash \; boldsymbol\; \{\backslash \; eta\}\},\; \backslash \; mathbf\; \{T\}\; (x)\; \backslash \; rangle\; -A\; (\{\backslash \; boldsymbol\; \{\backslash \; eta\}))\}).\}$

На словах логарифмическая вероятность экспоненциального семейства - это внутреннее произведение натурального человека $\eta \; \{\backslash \; displaystyle\; \{\backslash \; boldsymbol\; \{\backslash \; eta\}\}\}$и достаточная статистика $T\; (x)\; \{\backslash \; displaystyle\; \backslash \; mathbf\; \{T\}\; (x)\}$, минус коэффициент нормализации (функция логарифмического разбиения ) $А\; (\eta )\; \{\backslash \; Стиль\; отображения\; А\; (\{\backslash \; boldsymbol\; \{\backslash \; eta\}\})\}$. Так, например, оценка может быть вычислена путем анализа производных от достаточной статистики T и логарифмической функции распределения A.

Пример: гамма-распределение

гамма-распределение представляет собой экспоненциальное семейство с двумя действующими: $\alpha \; \{\backslash \; displaystyle\; \backslash \; alpha\}$и $\beta \; \{\backslash \; displaystyle\; \backslash \; beta\}$. Функция правдоподобия:

$L\; (\alpha ,\; \beta \; \mid \; x)\; =\; \beta \; \alpha \; \Gamma \; (\alpha )\; x\; \alpha \; -\; 1\; e\; -\; \beta \; x.\; \{\backslash \; displaystyle\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; alpha,\; \backslash \; beta\; \backslash \; mid\; x)\; =\; \{\backslash \; frac\; \{\backslash \; beta\; ^\; \{\backslash \; alpha\}\}\; \{\backslash \; Gamma\; (\backslash \; alpha)\}\}\; x\; ^\; \{\backslash \; alpha\; -1\}\; e\; ^\; \{-\; \backslash \; beta\; x\}.\}$

Нахождение оценки правдоподобия $\beta \; \{\backslash \; displaystyle\; \backslash \; beta\}$для одного наблюдаемого значения $x\; \{\backslash \; displaystyle\; x\}$выглядит довольно устрашающе. С его логарифмом работать намного проще:

$log\; \; L\; (\alpha ,\; \beta \; \mid \; x)\; =\; \alpha \; log\; \; \beta \; -\; log\; \; \Gamma \; (\alpha )\; +\; (\alpha \; -\; 1)\; log\; \; x\; -\; \beta \; x.\; \{\backslash \; displaystyle\; \backslash \; log\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; alpha,\; \backslash \; beta\; \backslash \; mid\; x)\; =\; \backslash \; alpha\; \backslash \; log\; \backslash \; beta\; -\; \backslash \; log\; \backslash \; Gamma\; (\backslash \; alpha)\; +\; (\backslash \; alpha\; -1)\; \backslash \; log\; x-\; \backslash \; бета\; х.\; \backslash ,\}$

Чтобы максимизировать логарифмическую вероятность, мы сначала берем частную производную по $\beta \; \{\backslash \; displaystyle\; \backslash \; beta\}$:

$\partial \; log\; \; L\; (\alpha ,\; \beta \; \mid \; x)\; \partial \; \beta \; =\; а\; \beta \; -\; х.\; \{\backslash \; displaystyle\; \{\backslash \; frac\; \{\backslash \; partial\; \backslash \; log\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; alpha,\; \backslash \; beta\; \backslash \; mid\; x)\}\; \{\backslash \; partial\; \backslash \; beta\}\}\; =\; \{\backslash \; frac\; \{\backslash \; alpha\}\; \{\backslash \; beta\}\}\; -\; x.\}$

Если имеется независимых наблюдений $x\; 1,\dots ,\; xn\; \{\backslash \; displaystyle\; x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{n\}\}$, то объединенный журнал -правдоподобие будет суммой индивидуальных правдоподобий, а производная эта сумма будет суммой производной каждой логарифмической правдоподобия:

$\partial \; log\; \; L\; (\alpha ,\; \beta \; \mid \; x\; 1,\dots ,\; xn)\; \partial \; \beta \; =\; \partial \; log\; \; L\; (\alpha ,\; \beta \; \mid \; x\; 1)\; \partial \; \beta \; +\; \cdots \; +\; \partial \; log\; \; L\; (\alpha ,\; \beta \; \mid \; xn)\; \partial \; \beta \; =\; n\; \alpha \; \beta \; -\; i\; =\; 1\; nxi.\; \{\backslash \; displaystyle\; \{\backslash \; begin\; \{align\}\; \{\backslash \; frac\; \{\backslash \; partial\; \backslash \; log\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; alpha,\; \backslash \; beta\; \backslash \; mid\; x\_\; \{1\},\; \backslash \; ldots,\; x\_\; \{n\})\}\; \{\backslash \; partial\; \backslash \; beta\}\}\; \backslash \backslash \; =\; \{\}\; \{\backslash \; frac\; \{\backslash \; partial\; \backslash \; log\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; alpha,\; \backslash \; beta\; \backslash \; mid\; x\_\; \{1\})\}\; \{\backslash \; partial\; \backslash \; beta\}\}\; +\; \backslash \; cdots\; +\; \{\backslash \; frac\; \{\backslash \; partial\; \backslash \; log\; \{\backslash \; mathcal\; \{L\}\}\; (\backslash \; alpha,\; \backslash \; beta\; \backslash \; mid\; x\_\; \{n\})\}\; \{\backslash \; partial\; \backslash \; beta\}\}\; =\; \{\backslash \; frac\; \{n\; \backslash \; alpha\}\; \{\backslash \; beta\}\}\; -\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{n\}\; x\_\; \{i\}.\; \backslash \; end\; \{align\}\}\}$

Чтобы завершить максимизацию для совместной логарифмической вероятности, уравнение устанавливается на ноль и решается для $\beta \; \{\backslash \; displaystyle\; \backslash \; beta\}$:

$\beta \; ^\; =\; \alpha \; x\; ¯.\; \{\backslash \; displaystyle\; \{\backslash \; widehat\; \{\backslash \; beta\}\}\; =\; \{\backslash \; frac\; \{\backslash \; alpha\}\; \{\backslash \; bar\; \{x\}\}\}.\}$

Здесь $\beta \; ^\; \{\backslash \; displaystyle\; \{\backslash \; widehat\; \{\backslash \; beta\}\}\}$обозначает величину правдоподобия, а $x\; ¯\; =\; 1\; n\; \sum \; i\; =\; 1\; nxi\; \{\backslash \; displaystyle\; \backslash \; textstyle\; \{\backslash \; bar\; \{x\}\}\; =\; \{\backslash \; frac\; \{1\}\; \{n\}\}\; \backslash \; sum\; \_\; \{i\; =\; 1\}\; ^\; \{n\}\; x\_\; \{i\}\}$- это выборочное среднее наблюдений.

Предпосылки и интерпретация

Исторические замечания

Термин «вероятность» использовалась на английском языке, по крайней мере, с конца среднеанглийского. Его формальное использование для обозначения функций функции в математической статистике было предложено Рональдом Фишером в двух исследовательских работах, опубликованных в 1921 и 1922 годах. В статье 1921 года было введено то, что сегодня называется "правдоподобный интервал"; в статье 1922 г. был введен термин «метод максимального правдоподобия ». Цитируя Фишера:

[I] в 1922 году я использую термин «вероятность» из-за того факта, что в отношении [фактора] это не вероятность и не подчиняется законам вероятности, в то же время он имеет отношение к проблеме рационального выбора среди факторов [прогноза], аналогичное тому, которое имеет к проблеме предсказания событий в азартных играх.... »

Понятие вероятности не следует путать с вероятностью, как последнул сэр Рональд Фишер

Я подчеркиваю это, потому что, несмотря на то, что я всегда делал акцент на различии между вероятностью и правдоподобием, все еще существует тенденция относиться к вероятности как разновидности вероятности сти. Таким образом, первый результат в том, что существуют две разные меры рациональной веры, подходящие для разных случаев. Зная выборность, мы можем выразить наше неполное знание или ожидание в терминах вероятности; зная выборку, мы можем выразить наше неполное знание совокупности точки зрения правдоподобия.

Изобретение Фишера статистической правдоподобия было реакцией на более раннюю рассуждений, названную обратной вероятностью. Использование им термина «вероятность» закрепило значение этого термина в математической статистике.

А. У. Ф. Эдвардс (1972) установил аксиоматическую основу для использования логарифмических отношений правдоподобия как меры относительной поддержки одной гипотезы по сравнению с другим. Тогда функция поддержки представляет собой натуральный логарифм функции правдоподобия. Оба термина используются в филогенетике, но не были приняты в общем подходе к теме статистических данных.

Интерпретации при разных основаниях

Среди статистиков нет консенсус в основе статистики. В основе были предложены четыре основные парадигмы: частотный подход, байесовский подход, правдоподобие и основанный на AIC. Для каждого из предложенных оснований интерпретация вероятности разной. Четыре интерпретации в подразделах ниже.

Частотная интерпретация

Байесовская интерпретация

В байесовском выводе, хотя можно говорить о вероятности любого предложения или случайной величиной с учетом другая случайная величина: например, вероятность значения или статистической модели (см. предельное правдоподобие ), особенности данные или другие свидетельства, функция правдоподобия остается той же сущности, с дополнительными интерпретациями (i) условной плотности данных, заданных параметров (параметр в этом случае является случайной величиной) и (ii) меры или количества информации, приносимой данными о значении или даже модель. Из-за вероятностной структуры в пространстве или параметров в набор моделей возможно, что параметр или статистическая модель имеет большое значение правдоподобия для заданных данных, но при этом имеет низкую вероятность или наоборот. Это часто имеет место в медицине. Следуя Правилу Байеса, вероятность, рассматриваемая как условная плотность, может быть умножена на априорную вероятность плотность плотности, а нормализована, чтобы получить апостериорную вероятность. В более общем плане вероятность неизвестной величины $X\; \{\backslash \; displaystyle\; X\}$с учетом другой неизвестной величины $Y\; \{\backslash \; displaystyle\; Y\}$пропорциональна вероятности $Y\; \{\backslash \; displaystyle\; Y\}$с учетом $X\; \{\backslash \; displaystyle\; X\}$.

правдоподобная интерпретация

В частотной статистике функция правдоподобия сама по себе является статистикой, который суммирует одну выборку из генеральной совокупности, расчетное значение которой зависит от выбора параметров θ 1... θ p, где p - количество параметров в некоторых уже выбранных статистическая модель. Значение правдоподобия служит показателем качества для выбора используемого параметров, и набор параметров с максимальной вероятностью лучшего с учетом этих данных.

Конкретный расчет правдоподобия - это вероятность того, что ожидаемая выборка будет присвоена, приусловии, что выбранная модель и значения различных параметров θ дают точное приближение частотное распределение популяции, из которой была взята наблюдаемая выборка. С точки зрения максимальной вероятной апостериальной вероятности того, что произошло. Теорема Уилкса количественно определяет эвристическое правило, что разница в логарифме правдоподобия, генерируемого значениями параметров оценки, и логарифмом правдоподобия, генерируемых «истинными» (но неизвестными) значениями совокупности, составляет χ2.

Оценка размера правдоподобия каждой независимой выборки представляет собой отдельную оценку «истинного» набора параметров, описывающего выбранную совокупность. Последовательные оценки из числа независимых выборок вместе с «истинным» набором параметров, спрятанных где-то среди них. Разница в логарифмах правдоподобия предшествующих правдоподобия и правдоподобия соседних наборов сообщений для построения доверительной области на графике, координатами которого являются параметры θ 1... θ p. Область окружает пределы правдоподобия, и все точки (наборы параметров) в этой области отличаются по логарифмической вероятности не более чем на некоторое фиксированное значение. Распределение χ², заданное теоремой Уилкса, преобразует региональные логарифмические различия правдоподобия в «уверенность» в том, что внутри находится «истинный» набор параметров населения. Искусство выбора фиксированной разницы логарифмического правдоподобия состоит в том, чтобы сделать достоверность достаточно высокой, сохраняя при этом приемлемо малую область (узкий диапазон оценок).

По мере того, как наблюдается больше данных, вместо того, чтобы быть независимыми оценками, они могут быть объединены с предыдущими выборками для создания единой объединенной выборки, и эта большая выборка может быть для новой оценки максимального значения правдоподобия. По мере увеличения размера объединенной выборки размер области правдоподобия с той же степенью достоверности уменьшается. В конце концов, либо размер доверительной области очень близок к одной точке, либо была отобрана вся совокупность; в обоих случаях набор предполагаемых параметров по существу совпадает с набором параметров совокупности.

Интерпретация на основе AIC

В парадигме AIC вероятность интерпретируется в контексте теории информации.

См.

• фактор Байеса
• Условная энтропия
• Условная вероятность
• Эмпирическое правдоподобие
• Принцип правдоподобия
• Тест отношения правдоподобия
• Статистика правдоподобия
• Максимальное правдоподобие
• Принцип максимальной энтропии
• Псевдовероятность
• Оценка (статистика)

Примечания

Ссылки

Дополнительная литература

• Аззалини, Адельчи (1996). "Вероятность". Статистический вывод, основанный на правдоподобии. Чепмен и Холл. С. 17–50. ISBN 0-412-60650-X.
• Боос, Деннис Д.; Стефанский, Л. А. (2013). «Построение и оценка правдоподобия». Существенный статистический вывод: теория и методы. Нью-Йорк: Спрингер. С. 27–124. doi : 10.1007 / 978-1-4614-4818-1_2. ISBN 978-1-4614-4817-4.
• Эдвардс, А. У. Ф. (1992) [1972]. Вероятность (Прод ред.). Издательство Университета Джона Хопкинса. ISBN 0-8018-4443-6.
• Кинг, Гэри (1989). «Модель правдоподобия вывода». Объединяющая политическая методология: теория вероятности статистического вывода. Издательство Кембриджского университета. С. 59–94. ISBN 0-521-36697-6.
• Линдси, Дж. К. (1996). "Вероятность". Параметрический статистический вывод. Издательство Оксфордского университета. С. 69–139. ISBN 0-19-852359-9.
• Роде, Чарльз А. (2014). Вводный статистический вывод с функцией правдоподобия. Берлин: Springer. ISBN 978-3-319-10460-7.
• Роял, Ричард (1997). Статистические данные: парадигма вероятности. Лондон: Чепмен и Холл. ISBN 0-412-04411-0.
• Уорд, Майкл Д. ; Алквист, Джон С. (2018). «Функция правдоподобия: более глубокое погружение». Максимальная вероятность социальных наук: стратегии анализа. Издательство Кембриджского университета. С. 21–28. ISBN 978-1-316-63682-4.

Внешние ссылки

Поищите likelihood в Wiktionary, бесплатном словаре.

• Функция правдоподобия в Planetmath
• "Логарифм правдоподобия". Statlect.