Характеристическая функция (теория вероятностей)

редактировать
Характеристическая функция однородной случайной величины U (–1,1). Эта функция является действительной, потому что она соответствует случайной величине, симметричной относительно начала координат; однако характеристические функции обычно могут быть комплексными.

В теории вероятностей и статистике, характеристическая функция любого вещественного случайная величина полностью определяет ее распределение вероятностей. Если случайная величина допускает функцию плотности вероятности, то характеристическая функция представляет собой преобразование Фурье функции плотности вероятности. Таким образом, он обеспечивает альтернативный способ получения аналитических результатов по сравнению с работой напрямую с функциями плотности вероятности или кумулятивными функциями распределения. Особенно простые результаты получены для характеристических функций распределений, определяемых взвешенными суммами случайных величин.

В дополнение к одномерным распределениям, характеристические функции могут быть определены для векторных или матричных случайных величин, а также могут быть расширены на более общие случаи.

Характеристическая функция всегда существует, когда рассматривается как функция действительного аргумента, в отличие от функции создания момента. Существуют связи между поведением характеристической функции распределения и свойствами распределения, такими как наличие моментов и существование функции плотности.

Содержание
  • 1 Введение
  • 2 Определение
  • 3 Обобщения
  • 4 Примеры
  • 5 Свойства
    • 5.1 Непрерывность
    • 5.2 Формулы обращения
    • 5.3 Критерии для характеристических функций
  • 6 Использование
    • 6.1 Основные операции с распределениями
    • 6.2 Моменты
    • 6.3 Анализ данных
    • 6.4 Пример
  • 7 Целые характеристические функции
  • 8 Понятия, связанные с данным
  • 9 См. Также
  • 10 Примечания
  • 11 Ссылки
    • 11.1 Цитаты
    • 11.2 Источники
  • 12 Внешние ссылки
Введение

Характеристическая функция предоставляет альтернативный способ описания случайной величины. Аналогично функции кумулятивного распределения ,

FX (x) = E ⁡ [1 {X ≤ x}] {\ displaystyle F_ {X} (x) = \ operatorname {E} \ left [\ mathbf {1 } _ {\ {X \ leq x \}} \ right]}F_{X}(x)=\operatorname {E} \left[\mathbf {1} _{\{X\leq x\}}\right]

(где 1{X ≤ x} - это индикаторная функция - она ​​равна 1, когда X ≤ x, и ноль в противном случае), который полностью определяет поведение и свойства распределения вероятностей случайной величины X, характеристическая функция,

φ X (t) = E ⁡ [eit X], {\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [e ^ {itX} \ right],}\varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right],

также полностью определяет поведение и свойства распределения вероятностей случайной величины X. Эти два подходы эквивалентны в том смысле, что, зная одну из функций, всегда можно найти другую, но они дают разные идеи для понимания свойств случайной величины. Однако в отдельных случаях могут быть различия в том, могут ли эти функции быть представлены в виде выражений, включающих простые стандартные функции.

Если случайная величина допускает функцию плотности , то характеристической функцией является ее двойственный в том смысле, что каждая из них является преобразованием Фурье другого. Если случайная величина имеет функцию , генерирующую момент MX (t) {\ displaystyle M_ {X} (t)}M_{X}(t), то область определения характеристической функции может быть продолжен на комплексную плоскость, причем

φ X (- it) = MX (t). {\ displaystyle \ varphi _ {X} (- it) = M_ {X} (t).}\varphi _{X}(-it)=M_{X}(t).

Однако обратите внимание, что характеристическая функция распределения всегда существует, даже если функция плотности вероятности или функция создания момента - нет.

Подход характеристической функции особенно полезен при анализе линейных комбинаций независимых случайных величин: в классическом доказательстве центральной предельной теоремы используются характеристические функции и теорема Леви о непрерывности. Другое важное приложение - теория разложимости случайных величин.

Определение

Для скалярной случайной величины X характеристическая функция определяется как ожидаемое значение числа e, где i - мнимая единица, а t ∈ R - аргумент характеристической функции:

{φ X: R → C φ X (t) = E ⁡ [eit X] = ∫ R eitxd FX (x) знак равно ∫ R eitxf X (x) dx = ∫ 0 1 eit QX (p) dp {\ displaystyle {\ begin {cases} \ displaystyle \ varphi _ {X} \!: \ Mathbb {R} \ to \ mathbb {C} \\\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [e ^ {itX} \ right] = \ int _ {\ mathbb {R}} e ^ {itx } \, dF_ {X} (x) = \ int _ {\ mathbb {R}} e ^ {itx} f_ {X} (x) \, dx = \ int _ {0} ^ {1} e ^ { itQ_ {X} (p)} \, dp \ end {ases}}}{\displaystyle {\begin{cases}\displaystyle \varphi _{X}\!:\mathbb {R} \to \mathbb {C} \\\displaystyle \varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right]=\int _{\mathbb {R} }e^{itx}\,dF_{X}(x)=\int _{\mathbb {R} }e^{itx}f_{X}(x)\,dx=\int _{0}^{1}e^{itQ_{X}(p)}\,dp\end{cases}}}

Здесь F X - это кумулятивная функция распределения X, а интеграл представляет собой Риман – Стилтьес род. Если случайная величина X имеет функцию плотности вероятности fX, то характеристической функцией является ее преобразование Фурье с изменением знака в комплексной экспоненте, и последняя формула в скобках действительна. Q X (p) - это обратная кумулятивная функция распределения X, также называемая функцией квантиля X. Это соглашение для констант, появляющихся в определении характеристической функции, отличается от обычного соглашение для преобразования Фурье. Например, некоторые авторы определяют φ X (t) = Ee, что по сути является изменением параметра. В литературе можно встретить и другие обозначения: p ^ {\ displaystyle \ scriptstyle {\ hat {p}}}\scriptstyle {\hat {p}}как характеристическая функция для вероятностной меры p, или f ^ { \ displaystyle \ scriptstyle {\ hat {f}}}\scriptstyle {\hat {f}}как характеристическая функция, соответствующая плотности f.

Обобщения

Понятие характеристических функций обобщается на многомерные случайные величины и более сложные случайные элементы. Аргумент характеристической функции всегда будет принадлежать непрерывному двойственному элементу пространства, в котором случайная величина X принимает свои значения. Для общих случаев такие определения перечислены ниже:

φ X (t) = E ⁡ [exp ⁡ (it TX) ], {\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [\ exp (it ^ {T} \! X) \ right],}{\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp(it^{T}\!X)\right],}
где t T { \ textstyle t ^ {T}}{\textstyle t^{T}}- это транспонирование матрицы t {\ textstyle t}{\textstyle t},
φ X (t) = E ⁡ [exp ⁡ (i tr ⁡ (t TX))], {\ displaystyle \ varphi _ {X} (t) = \ operatorname { E} \ left [\ exp \ left (i \ operatorname {tr} (t ^ {T} \! X) \ right) \ right],}{\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {tr} (t^{T}\!X)\right)\right],}
где tr ⁡ (⋅) {\ textstyle \ operatorname {tr} (\ cdot)}{\textstyle \operatorname {tr} (\cdot)}- оператор трассировки,
φ Икс (T) знак равно Е ⁡ [ехр ⁡ (я Re ⁡ (t ¯ X))], {\ Displaystyle \ varphi _ {X} (т) = \ OperatorName {E} \ left [\ exp \ left (я \ operatorname {Re} \ left ({\ overline {t}} X \ right) \ right) \ right],}{\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {Re} \left({\overline {t}}X\right)\right)\right],}
где t ¯ {\ textstyle {\ overline {t}}}{\textstyle {\overline {t}}}- комплексное сопряжение из t {\ textstyle t}{\textstyle t}и Re ⁡ (z) {\ textstyle \ operatorname {Re} ( z)}{\textstyle \operatorname {Re} (z)}- действительная часть комплексного числа z {\ textstyle z}{\textstyle z},
φ X (t) = E ⁡ [exp ⁡ (i Re ⁡ (t ∗ X))], {\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [\ exp (я \ OperatorName {Re} (t ^ {*} \! X)) \ right],}{\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp(i\operatorname {Re} (t^{*}\!X))\right],}
где t ∗ {\ textstyle t ^ {*}}{\textstyle t^{*}}- сопряженное транспонирование матрицы t {\ textstyle t}{\textstyle t},
  • Если X (s) является случайным процессом, то для всех функций t (s), таких что интеграл ∫ р t (s) X (s) ds {\ textstyle \ int _ {\ mathbb {R}} t (s) X (s) \, \ mathrm {d} s}{\textstyle \int _{\mathbb {R} }t(s)X(s)\,\mathrm {d} s}сходится для почти всех реализаций X
φ X (t) = E ⁡ [exp ⁡ (i ∫ R t (s) X (s) ds)]. {\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [\ exp \ left (i \ int _ {\ mathbf {R}} t (s) X (s) \, ds \ right) \ right].}{\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\int _{\mathbf {R} }t(s)X(s)\,ds\right)\right].}
Примеры
РаспределениеХарактеристическая функция φ (t)
Вырожденная δaeita {\ displaystyle \! \, e ^ {ita}}{\displaystyle \!\,e^{ita}}
Бернулли Берн (p)1 - p + peit {\ displaystyle \! \, 1-p + pe ^ {it}}{\displaystyle \!\, 1-p+pe^{it}}
Биномиальное B (n, p)( 1 - p + peit) n {\ displaystyle \! \, (1-p + pe ^ {it}) ^ {n}}{\displaystyle \!\,(1-p+pe^{it})^{n}}
Отрицательный бином NB (r, p)(1 - п 1 - peit) r {\ displaystyle \, {\ biggl (} {\ frac {1-p} {1-pe ^ {i \, t}}} {\ biggr)} ^ {\! r}}{\displaystyle \,{\biggl (}{\frac {1-p}{1-pe^{i\,t}}}{\biggr)}^{\!r}}
Пуассон Пуа (λ)e λ (eit - 1) {\ displaystyle \! \, E ^ {\ lambda (e ^ {it} -1)}}{\displaystyle \!\,e^{\lambda (e^{it}-1)}}
Равномерное (непрерывное) U (a, b)eitb - eitait (b - a) {\ displaystyle \! \, {\ Frac {e ^ {itb} -e ^ {ita}} {it (ba)}} }{\displaystyle \!\,{\frac {e^{itb}-e^{ita}}{it(b-a)}}}
Равномерное (дискретное) DU (a, b)eait - e (b + 1) it (b - a + 1) (1 - eit) {\ displaystyle {\ frac {e ^ {ait} -e ^ {(b + 1) it}} {(b-a + 1) (1-e ^ {it})}}}{\displaystyle {\frac {e^{ait}-e^{(b+1)it}}{(b-a+1)(1-e^{it})}}}
Лаплас L (μ, b)eit μ 1 + b 2 T 2 {\ Displaystyle \! \, {\ frac {e ^ {it \ mu}} {1 + b ^ {2} t ^ {2}}}}{\displaystyle \!\,{\frac {e^{it\mu }}{1+b^{2}t^{2}}}}
Нормальный N (μ, σ)eit μ - 1 2 σ 2 t 2 {\ displaystyle \! \, e ^ {it \ mu - {\ frac {1} {2}} \ sigma ^ {2} t ^ {2}}}{\displaystyle \!\,e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}}
Хи-квадрат χk(1-2 it) - k / 2 {\ displaystyle \! \, (1-2it) ^ {- k / 2}}{\displaystyle \!\,(1-2it)^{-k/2}}
Коши C (μ, θ)eit μ - θ | т | {\ displaystyle \! \, e ^ {it \ mu - \ theta | t |}}{\displaystyle \!\,e^{it\mu -\theta |t|}}
Гамма Γ (k, θ)(1 - it θ) - k {\ displaystyle \! \, (1-it \ theta) ^ {- k}}{\displaystyle \!\,(1-it\theta)^{-k}}
Экспоненциальная Exp (λ)(1 - it λ - 1) - 1 {\ displaystyle \! \, (1-it \ lambda ^ {- 1}) ^ {- 1}}{\displaystyle \!\,(1-it\lambda ^{-1})^{-1}}
Геометрический Gf (p). (количество отказов)p 1 - eit (1 - p) {\ displaystyle \! \, {\ frac {p} {1-e ^ {it} (1-p)}}}{\displaystyle \!\,{\frac {p}{1-e^{it}(1-p)}}}
Геометрический Gt (p). (количество испытаний)pe - it - (1 - p) {\ displaystyle \! \, {\ Frac {p} {e ^ {- it} - (1-p)}}}{\displaystyle \!\,{\frac {p}{e^{-it}-(1-p)}}}
Многомерный нормальный N(μ, Σ)et T (i μ - 1 2 Σ t) {\ displaystyle e ^ {\ mathbf {t} ^ {\ mathrm {T}} \ left (i {\ boldsymbol {\ mu}} - {\ frac {1} {2}} {\ boldsymbol {\ Sigma}} \ mathbf {t} \ right)}}{\displaystyle e^{\mathbf {t} ^{\mathrm {T} }\left(i{\boldsymbol {\mu }}-{\frac {1}{2}}{\boldsymbol {\Sigma }}\mathbf {t} \right)}}
Многомерный Коши Многопараметрический Коши (μ, Σ)eit T μ - t T Σ t {\ displaystyle \! \, E ^ {i \ mathbf {t} ^ {\ mathrm {T}} {\ boldsymbol {\ mu}} - {\ sqrt {\ mathbf {t} ^ {\ mathrm {T}} {\ boldsymbol {\ Sigma}} \ mathbf {t}}}} }{\displaystyle \!\,e^{i\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\sqrt {\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }}}}

Оберхеттингер (1973) предоставляет обширные таблицы характеристических функций.

Свойства
  • Характеристическая функция Функция вещественнозначной случайной величины всегда существует, поскольку она является интегралом ограниченной непрерывной функции по пространству, мера конечна.
  • Характеристическая функция равномерно непрерывна на всем пространстве
  • Оно не обращается в нуль в области около нуля: φ (0) = 1.
  • Оно ограничено: | φ (t) | ≤ 1.
  • Это эрмитово : φ (−t) = φ (t). В частности, характеристическая функция симметричной (относительно начала координат) случайной величины является действительной и даже.
  • Существует биекция между распределениями вероятностей и характеристическими функциями.. То есть для любых двух случайных величин X 1, X 2 обе имеют одинаковое распределение вероятностей тогда и только тогда, когда φ X 1 = φ X 2 {\ displaystyle \ varphi _ {X_ {1}} = \ varphi _ {X_ {2}}}\varphi _{X_{1}}=\varphi _{X_{2}}.
  • Если случайная величина X имеет моменты до k-го порядка, то характеристическая функция φ X k раз непрерывно дифференцируемо на всей действительной прямой. В этом случае
E ⁡ [X k] = i - k φ X (k) (0). {\ displaystyle \ operatorname {E} [X ^ {k}] = i ^ {- k} \ varphi _ {X} ^ {(k)} (0).}{\displaystyle \operatorname {E} [X^{k}]=i^{-k}\varphi _{X}^{(k)}(0).}
  • Если характеристическая функция φ X имеет k-ю производную в нуле, тогда случайная величина X имеет все моменты до k, если k четное, но только до k - 1, если k нечетное.
φ X (k) ( 0) знак равно ik E ⁡ [Икс К] {\ Displaystyle \ varphi _ {X} ^ {(k)} (0) = я ^ {k} \ OperatorName {E} [X ^ {k}]}\varphi _{X}^{(k)}(0)=i^{k}\operatorname {E} [X^{k}]
  • Если X 1,..., X n - независимые случайные величины, а a 1,..., a n - некоторые константы, то характеристическая функция линейной комбинации X i равна
φ a 1 X 1 + ⋯ + an X n (t) = φ X 1 (a 1 t) Φ X n (муравей). {\ Displaystyle \ varphi _ {a_ {1} X_ {1} + \ cdots + a_ {n} X_ {n}} (t) = \ varphi _ {X_ {1}} (a_ {1} t) \ cdots \ varphi _ {X_ {n}} (a_ {n} t).}\varphi _{a_{1}X_{1}+\cdots +a_{n}X_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\cdots \varphi _{X_{n}}(a_{n}t).
Один конкретный случай - это сумма двух независимых случайных величин X 1 и X 2 в в этом случае
φ X 1 + X 2 (t) = φ X 1 (t) ⋅ φ X 2 (t). {\ displaystyle \ varphi _ {X_ {1} + X_ {2}} (t) = \ varphi _ {X_ {1}} (t) \ cdot \ varphi _ {X_ {2}} (t).}\varphi _{X_{1}+X_{2}}(t)=\varphi _{X_{1}}(t)\cdot \varphi _{X_{2}}(t).
  • Поведение хвоста характеристической функции определяет гладкость соответствующей функции плотности.
  • Пусть случайная величина Y = a X + b {\ displaystyle Y = aX + b}Y = aX + b быть линейным преобразованием случайной величины X {\ displaystyle X}X. Характеристическая функция Y {\ displaystyle Y}Yравна φ Y (t) = eitb φ X (at) {\ displaystyle \ varphi _ {Y} (t) = e ^ {itb} \ varphi _ {X} (at)}{\displaystyle \varphi _{Y}(t)=e^{itb}\varphi _{X}(at)}. Для случайных векторов X {\ displaystyle X}Xи Y = AX + B {\ displaystyle Y = AX + B}{\displaystyle Y=AX+B}(где A - постоянная матрица и B - постоянный вектор), мы имеем φ Y (t) = eit ⊤ B φ X (A ⊤ t) {\ displaystyle \ varphi _ {Y} (t) = e ^ {it ^ {\ top} B } \ varphi _ {X} (A ^ {\ top} t)}{\displaystyle \varphi _{Y}(t)=e^{it^{\top }B}\varphi _{X}(A^{\top }t)}.

Непрерывность

Установленное выше взаимное соответствие между распределениями вероятностей и характеристическими функциями последовательно непрерывно. То есть всякий раз, когда последовательность функций распределения F j (x) сходится (слабо) к некоторому распределению F (x), соответствующая последовательность характеристических функций φ j (t) будет также сходятся, и предел φ (t) будет соответствовать характеристической функции закона F. Более формально это сформулировано как

теорема Леви о непрерывности : Последовательность X j n-переменных случайных величин сходится в распределении к случайной величине X тогда и только тогда, когда последовательность φ Xjсходится поточечно к функции φ, которая является непрерывной в начале координат. Тогда φ является характеристической функцией X.

Эта теорема часто используется для доказательства закона больших чисел и центральной предельной теоремы.

Формулы обращения

Между кумулятивными функциями распределения и характеристическими функциями существует взаимно однозначное соответствие, поэтому можно найти одну из этих функций, если мы знаем другую. Формула в определении характеристической функции позволяет нам вычислить φ, когда мы знаем функцию распределения F (или плотность f). Если, с другой стороны, мы знаем характеристическую функцию φ и хотим найти соответствующую функцию распределения, то можно использовать одну из следующих теорем обращения .

Теорема . Если характеристическая функция φ X является интегрируемой, то F X абсолютно непрерывна, и, следовательно, X имеет функцию плотности вероятности. В одномерном случае (т.е. когда X имеет скалярное значение) функция плотности задается как

f X (x) = F X ′ (x) = 1 2 π ∫ R e - i t x φ X (t) d t. {\ displaystyle f_ {X} (x) = F_ {X} '(x) = {\ frac {1} {2 \ pi}} \ int _ {\ mathbf {R}} e ^ {- itx} \ varphi _ {X} (t) \, dt.}{\displaystyle f_{X}(x)=F_{X}'(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{-itx}\varphi _{X}(t)\,dt.}

В многомерном случае это

f X (x) = 1 (2 π) n ∫ R ne - i (t ⋅ x) φ X (t) λ (dt) {\ displaystyle f_ {X} (x) = {\ frac {1} {(2 \ pi) ^ {n}}} \ int _ {\ mathbf {R} ^ {n}} e ^ {-i (t \ cdot x)} \ varphi _ {X} (t) \ lambda (dt)}{\displaystyle f_{X}(x)={\frac {1}{(2\pi)^{n}}}\int _{\mathbf {R} ^{n}}e^{-i(t\cdot x)}\varphi _{X}(t)\lambda (dt)}

где t ⋅ x {\ textstyle t \ cdot x}{\textstyle t\cdot x}- скалярное произведение.

PDF - это производная Радона – Никодима распределения μ X по мере Лебега λ:

f X (x) = d μ X d λ (x). {\ displaystyle f_ {X} (x) = {\ frac {d \ mu _ {X}} {d \ lambda}} (x).}{\displaystyle f_{X}(x)={\frac {d\mu _{X}}{d\lambda }}(x).}

Теорема (Леви) . Если φ X является характеристической функцией функции распределения F X, две точки < b are such that {x | a < x < b} is a задают непрерывность из μ X (в одномерном случае это условие эквивалентно непрерывности F X в точках a и b), то

  • Если X скалярный:
FX (b) - FX (a) = 1 2 π lim T → ∞ ∫ - T + T e - ita - e - itбит φ X (t) dt. {\ displaystyle F_ {X} (b) -F_ {X} (a) = {\ frac {1} {2 \ pi}} \ lim _ {T \ to \ infty} \ int _ {- T} ^ { + T} {\ frac {e ^ {- ita} -e ^ {- itb}} {it}} \, \ varphi _ {X} (t) \, dt.}F_{X}(b)-F_{X}(a)={\frac {1}{2\pi }}\lim _{T\to \infty }\int _{-T}^{+T}{\frac {e^{-ita}-e^{-itb}}{it}}\,\varphi _{X}(t)\,dt.
Эту формулу можно изменить в форме, более удобной для численных расчетов, как
F (x + h) - F (x - h) 2 h = 1 2 π ∫ - ∞ ∞ sin ⁡ hthte - itx φ X (t) dt. {\ displaystyle {\ frac {F (x + h) -F (xh)} {2h}} = {\ frac {1} {2 \ pi}} \ int _ {- \ infty} ^ {\ infty} { \ frac {\ sin ht} {ht}} e ^ {- itx} \ varphi _ {X} (t) \, dt.}{\frac {F(x+h) -F(xh)}{2h}}={\frac {1}{2\pi }}\int _{-\infty }^{ \infty }{\frac {\sin ht}{ht}}e^{-itx}\varphi _{X}(t)\,dt.
Для случайной величины, ограниченной снизу, можно получить F (b) {\ displaystyle F (b)}F(b), взяв a {\ displaystyle a}aтак, чтобы F (a) = 0. {\ displaystyle F (a) = 0.}F(a)=0.В противном случае, если случайная величина не ограничена снизу, предел для a → - ∞ {\ displaystyle a \ to - \ infty}a \ to - \ infty дает F (b) {\ displaystyle F (b)}F(b), но численно непрактично.
  • Если X - векторная случайная величина:
μ X ({a < x < b }) = 1 ( 2 π) n lim T 1 → ∞ ⋯ lim T n → ∞ ∫ − T 1 ≤ t 1 ≤ T 1 ⋯ ∫ − T n ≤ t n ≤ T n ∏ k = 1 n ( e − i t k a k − e − i t k b k i t k) φ X ( t) λ ( d t 1 × ⋯ × d t n) {\displaystyle \mu _{X}{\big (}\{a\mu _{X}{\big (}\{a<x<b\}{\big)}={\frac {1}{(2\pi)^{n}}}\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\int \limits _{-T_{1}\leq t_{1}\leq T_{1}}\cdots \int \limits _{-T_{n}\leq t_{n}\leq T_{n}}\prod _{k=1}^{n}\left({\frac {e^{-it_{k}a_{k}}-e^{-it_{k}b_{k}}}{it_{k}}}\right)\varphi _{X}(t)\lambda (dt_{1}\times \cdots \times dt_{n})

Теорема . Если a (возможно) является атомом X (в одномерном случае это означает точку разрыва F X), то

  • Если X скалярный:
FX (a) - FX (a - 0) знак равно lim T → ∞ 1 2 T ∫ - T + T e - ita φ X (t) dt {\ displaystyle F_ {X} (a) -F_ {X} (a-0) = \ lim _ {T \ to \ infty} {\ frac {1} {2T}} \ int _ {- T} ^ {+ T} e ^ {- ita} \ varphi _ {X} (t) \, dt}{\displaystyle F_{X}(a)-F_{X}(a-0)=\lim _{T\to \infty }{\frac {1}{2T}}\int _{-T}^{+T}e^{-ita}\varphi _{X}(t)\,dt}
  • Если X - векторная случайная величина:
μ X ({a}) = lim T 1 → ∞ ⋯ lim T n → ∞ (∏ k = 1 n 1 2 T k) ∫ [- T 1, T 1] × ⋯ × [- T n, T п] е - я (T ⋅ a) φ Икс (T) λ (dt) {\ Displaystyle \ му _ {X} (\ {a \}) = \ lim _ {T_ {1} \ to \ infty} \ cdots \ lim _ {T_ {n} \ to \ infty} \ left (\ prod _ {k = 1} ^ {n} {\ frac {1} {2T_ {k}}} \ right) \ int \ limits _ {[-T_ {1}, T_ {1}] \ times \ dots \ times [-T_ {n}, T_ {n}]} e ^ {- i (t \ cdot a)} \ varphi _ {X} (t) \ lambda (dt)}{\dis playstyle \mu _{X}(\{a\})=\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\left(\prod _{k=1}^{n}{\frac {1}{2T_{k}}}\right)\int \limits _{[-T_{1},T_{1}]\times \dots \times [-T_{n},T_{n}]}e^{-i(t\cdot a)}\varphi _{X}(t)\lambda (dt)}

Теорема (Гиль-Пелаес) . Для одномерной случайной величины X, если x является точкой непрерывности F X, то

FX (x) = 1 2 - 1 π ∫ 0 ∞ Im ⁡ [e - itx φ X (t) ] tdt. {\ displaystyle F_ {X} (x) = {\ frac {1} {2}} - {\ frac {1} {\ pi}} \ int _ {0} ^ {\ infty} {\ frac {\ operatorname {Im} [e ^ {- itx} \ varphi _ {X} (t)]} {t}} \, dt.}F_ { X}(x)={\frac {1}{2}}-{\frac {1}{\pi }}\int _{0}^{\infty }{\frac {\operatorname {Im} [e ^{-itx}\varphi _{X}(t)]}{t}}\,dt.

где мнимая часть комплексного числа z {\ displaystyle z}zзадается как I m (z) = (z - z ∗) / 2 i {\ displaystyle \ mathrm {Im} (z) = (zz ^ {*}) / 2i}\mathrm {Im} (z)=(z-z^{*})/2i. Интеграл может быть не интегрируемым по Лебегу ; например, когда X - это дискретная случайная величина, которая всегда равна 0, она становится интегралом Дирихле.

Доступны формулы обращения для многомерных распределений.

Критерии для характеристических функций

Множество всех характеристических функций замыкается при выполнении определенных операций:

  • A выпуклая линейная комбинация ∑ nan φ n (t) {\ textstyle \ sum _ {n} a_ {n} \ varphi _ {n} (t)}{\textstyle \sum _{n}a_{n}\varphi _{n}(t)}an ≥ 0, ∑ nan = 1 {\ textstyle a_ {n} \ geq 0, \ \ sum _ {n} a_ {n } = 1}{\textstyle a_{n}\geq 0,\ \sum _{n}a_{n}=1}) конечного или счетного числа характеристических функций также является характеристической функцией.
  • Произведение конечного числа характеристических функций также является характеристической функцией. То же самое верно и для бесконечного произведения при условии, что оно сходится к функции, непрерывной в начале координат.
  • Если φ - характеристическая функция, а α - действительное число, то φ ¯ {\ displaystyle {\ bar {\ varphi}}}{\bar {\varphi }}, Re (φ), | φ | и φ (αt) также являются характеристическими функциями.

Хорошо известно, что любое неубывающее càdlàg функция F с пределами F (−∞) = 0, F (+ ∞) = 1 соответствует кумулятивной функции распределения некоторой случайной величины. Также есть интерес найти аналогичные простые критерии, когда заданная функция φ может быть характеристической функцией некоторой случайной величины. Центральным результатом здесь является теорема Бохнера, хотя ее полезность ограничена, поскольку главное условие теоремы, неотрицательная определенность, очень трудно проверить. Существуют и другие теоремы, например, Хинчина, Матиаса или Крамера, хотя их применение столь же сложно. С другой стороны, теорема Поли дает очень простое условие выпуклости, которое является достаточным, но не необходимым. Характеристические функции, удовлетворяющие этому условию, называются типом Пойи.

Теорема Бохнера. Произвольная функция φ: R→ Cявляется характеристической функцией некоторой случайной величины тогда и только тогда, когда φ положительно определена, непрерывна в начале координат, и если φ (0) = 1.

критерий Хинчина . Комплекснозначная абсолютно непрерывная функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда она допускает представление

φ (t) = ∫ R g (t + θ) g (θ) ¯ d θ. {\ displaystyle \ varphi (t) = \ int _ {\ mathbf {R}} g (t + \ theta) {\ overline {g (\ theta)}} \, d \ theta.}{\displaystyle \varphi (t)=\int _{\mathbf {R} }g(t+\theta){\overline {g(\theta)}}\,d\theta.}

Теорема Матиаса . Вещественнозначная четная непрерывная абсолютно интегрируемая функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда

(- 1) n (∫ R φ (pt) e - t 2 / 2 ЧАС 2 N (t) dt) ≥ 0 {\ displaystyle (-1) ^ {n} \ left (\ int _ {\ mathbf {R}} \ varphi (pt) e ^ {- t ^ {2} / 2} H_ {2n} (t) \, dt \ right) \ geq 0}{\displaystyle (-1)^{n}\left(\int _{\mathbf {R} }\varphi (pt)e^{-t^{2}/2}H_{2n}(t)\,dt\right)\geq 0}

для n = 0,1,2,... и всех p>0. Здесь H 2n обозначает многочлен Эрмита степени 2n.

Теорема Поли может быть использована для построения примера двух случайных величин, характеристические функции которых совпадают на конечном интервале, но различны в другом месте.

Теорема Поли . Если φ {\ displaystyle \ varphi}\varphi является вещественной, четной, непрерывной функцией, которая удовлетворяет условиям

  • φ (0) = 1 {\ displaystyle \ varphi (0) = 1 }{\displaystyle \varphi (0)=1},
  • φ {\ displaystyle \ varphi}\varphi равно выпуклый для t>0 {\ displaystyle t>0}{\displaystyle t>0} ,
  • φ (∞) = 0 {\ displaystyle \ varphi (\ infty) = 0}{\displaystyle \varphi (\infty)=0},

, тогда φ (t) является характеристической функцией абсолютно непрерывного распределения, симметричного относительно 0.

Использует

Из-за теорема непрерывности, характеристические функции используются в наиболее часто встречающемся доказательстве центральной предельной теоремы. Основной метод, используемый при выполнении вычислений с характеристической функцией, - это распознавание функции как характеристической функции конкретной распределение.

Основные манипуляции с распределениями

Характеристика функции особенно полезны для работы с линейными функциями от независимых случайных величин. Например, если X 1, X 2,..., X n представляет собой последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и

S N = ∑ я = 1 nai X i, {\ displaystyle S_ {n} = \ sum _ {i = 1} ^ {n} a_ {i} X_ {i}, \, \!}S_{n}=\sum _{i=1}^{n}a_{i}X_{i},\,\!

где a i - константы, тогда характеристическая функция для S n задается как

φ S n (t) = φ X 1 (a 1 t) φ X 2 (a 2 t) ⋯ φ Икс N (муравей) {\ displaystyle \ varphi _ {S_ {n}} (t) = \ varphi _ {X_ {1}} (a_ {1} t) \ varphi _ {X_ {2}} (a_ {2} t) \ cdots \ varphi _ {X_ {n}} (a_ {n} t) \, \!}\varphi _{S_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\varphi _{X_{2}}(a_{2}t)\cdots \varphi _{X_{n}}(a_{n}t)\,\!

В частности, φ X + Y (t) = φ X (t) φ Y (t). Чтобы убедиться в этом, запишите определение характеристической функции:

φ X + Y (t) = E ⁡ [eit (X + Y)] = E ⁡ [eit X eit Y] = E ⁡ [eit X] E ⁡ [eit Y] знак равно φ Икс (T) φ Y (T) {\ Displaystyle \ varphi _ {X + Y} (t) = \ OperatorName {E} \ left [e ^ {it (X + Y)} \ right] = \ operatorname {E} \ left [e ^ {itX} e ^ {itY} \ right] = \ operatorname {E} \ left [e ^ {itX} \ right] \ operatorname {E} \ left [e ^ {itY} \ right] = \ varphi _ {X} (t) \ varphi _ {Y} (t)}{\displaystyle \varphi _{X+Y}(t)=\operatorname {E} \left[e^{it(X+Y)}\right]=\operatorname {E} \left[e^{itX}e^{itY}\right]=\operatorname {E} \left[e^{itX}\right]\operatorname {E} \left[e^{itY}\right]=\varphi _{X}(t)\varphi _{Y}(t)}

Независимость X и Y требуется для установления равенства третьего и четвертого выражений.

Другой особый случай, представляющий интерес для одинаково распределенных случайных величин, - это когда i = 1 / n и тогда S n является выборочным средним. В этом случае, написав X вместо среднего,

φ X ¯ (t) = φ X (tn) n {\ displaystyle \ varphi _ {\ overline {X}} (t) = \ varphi _ {X} \ ! \ left ({\ tfrac {t} {n}} \ right) ^ {n}}\varphi _{\overline {X}}(t)=\varphi _{X} \!\left({\tfrac {t}{n}}\right)^{n}

Моменты

Характеристические функции также могут использоваться для поиска моментов случайного переменная. При условии, что момент n существует, характеристическая функция может быть дифференцирована n раз и

E ⁡ [X n] = i - n φ X (n) (0) = i - n [dndtn φ X (t)] t Знак равно 0 {\ displaystyle \ operatorname {E} \ left [X ^ {n} \ right] = i ^ {- n} \, \ varphi _ {X} ^ {(n)} (0) = i ^ {- n} \, \ left [{\ frac {d ^ {n}} {dt ^ {n}}} \ varphi _ {X} (t) \ right] _ {t = 0} \, \!}\operatorname {E} \left[X^{n}\right]=i^{-n}\,\varphi _{X}^{(n)}(0)=i^{-n}\,\left[{\frac {d^{n}}{dt^{n}}}\varphi _{X}(t)\right]_{t=0}\,\!

Например, предположим, что X имеет стандартное распределение Коши. Тогда φ X (t) = e. Это не дифференцируемое при t = 0, что показывает, что распределение Коши не имеет ожидания. Кроме того, характеристическая функция выборочного среднего X n независимых наблюдений имеет характеристическую функцию φ X (t) = (e) = e, используя результат из предыдущего раздела. Это характерная функция стандартного распределения Коши: таким образом, выборочное среднее имеет то же распределение, что и сама генеральная совокупность.

Логарифм характеристической функции - это производящая функция кумулянта, которая полезна для поиска кумулянтов ; некоторые вместо этого определяют кумулянтную производящую функцию как логарифм функции создания момента и называют логарифм характеристической функции второй кумулянтной производящей функцией.

Анализ данных

Характеристические функции могут использоваться как часть процедур для подгонки распределений вероятностей к выборкам данных. Случаи, когда это обеспечивает практически осуществимый вариант по сравнению с другими возможностями, включают подгонку устойчивого распределения, поскольку выражения для плотности в закрытой форме недоступны, что затрудняет реализацию оценки максимального правдоподобия. Доступны процедуры оценки, которые сопоставляют теоретическую характеристическую функцию с эмпирической характеристической функцией , рассчитанной на основе данных. Полсон и др. (1975) и Heathcote (1977) предоставляют некоторые теоретические основы для такой процедуры оценки. Кроме того, Yu (2004) описывает применение эмпирических характеристических функций для соответствия моделям временных рядов, где процедуры правдоподобия нецелесообразны.

Пример

гамма-распределение с параметром масштаба θ и параметром формы k имеет характеристическую функцию

(1 - θ i t) - k. {\ displaystyle (1- \ theta \, i \, t) ^ {- k}.}(1-\theta \,i\,t)^{-k}.

Теперь предположим, что у нас есть

X ∼ Γ (k 1, θ) и Y ∼ Γ (k 2, θ) {\ displaystyle X ~ \ sim \ Gamma (k_ {1}, \ theta) {\ t_dv {and}} Y \ sim \ Gamma (k_ {2}, \ theta) \,}X~\sim \Gamma (k_{1},\theta){\t_dv{ and }}Y\sim \Gamma (k_{2},\theta)\,

с X и Y независимы друг от друга, и мы хотим знать, каково распределение X + Y. Характеристические функции:

φ X (t) = (1 - θ it) - k 1, φ Y (t) = (1 - θ it) - k 2 {\ displaystyle \ varphi _ {X} (t) = (1- \ theta \, i \, t) ^ {- k_ {1}}, \, \ qquad \ varphi _ {Y} (t) = (1- \ theta \, i \, t) ^ { -k_ {2}}}\varphi _{X}(t)=(1-\theta \,i\,t)^{-k_{1}},\,\qquad \varphi _{Y}(t)=(1-\theta \,i\,t)^{-k_{2}}

что в силу независимости и основных свойств характеристической функции приводит к

φ X + Y (t) = φ X (t) φ Y (t) = (1 - θ it) - k 1 (1 - θ it) - k 2 = (1 - θ it) - (k 1 + k 2). {\ displaystyle \ varphi _ {X + Y} (t) = \ varphi _ {X} (t) \ varphi _ {Y} (t) = (1- \ theta \, i \, t) ^ {- k_ {1}} (1- \ theta \, i \, t) ^ {- k_ {2}} = \ left (1- \ theta \, i \, t \ right) ^ {- (k_ {1} + k_ {2})}.}\varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)=(1-\theta \,i\,t)^{-k_{1}}(1-\theta \,i\,t)^{-k_{2}}=\left(1-\theta \,i\,t\right)^{-(k_{1}+k_{2})}.

Это характеристическая функция параметра масштаба гамма-распределения θ и параметра формы k 1 + k 2, поэтому мы заключаем

X + Y ∼ Γ (k 1 + k 2, θ) {\ displaystyle X + Y \ sim \ Gamma (k_ {1} + k_ {2}, \ theta) \,}X+Y\sim \Gamma (k_{1}+k_{2},\theta)\,

Результат может быть расширен к n независимым гамма-распределенным случайным величинам с одинаковым масштабным параметром, и мы получаем

∀ i ∈ {1,…, n}: X i ∼ Γ (ki, θ) ⇒ ∑ i = 1 n X i ∼ Γ (∑ i = 1 nki, θ). {\ displaystyle \ forall i \ in \ {1, \ ldots, n \}: X_ {i} \ sim \ Gamma (k_ {i}, \ theta) \ qquad \ Rightarrow \ qquad \ sum _ {i = 1} ^ {n} X_ {i} \ sim \ Gamma \ left (\ sum _ {i = 1} ^ {n} k_ {i}, \ theta \ right).}\forall i\in \{1,\ldots,n\}:X_{i}\sim \Gamma (k_{i},\theta)\qquad \Rightarrow \qquad \sum _{i=1}^{n}X_{i}\sim \Gamma \left(\sum _{i=1}^{n}k_{i},\theta \right).
Целые характеристические функции

Как определено выше, аргумент характеристической функции рассматривается как действительное число: однако некоторые аспекты теории характеристических функций расширяются за счет расширения определения на комплексную плоскость с помощью аналитического продолжения, в случаях где это возможно.

Понятия, связанные с данным

Понятия, связанные с данным, включают функцию создания момента и функцию создания вероятности. Характеристическая функция существует для всех распределений вероятностей. Это не так для функции создания момента.

Характеристическая функция тесно связана с преобразованием Фурье : характеристическая функция функции плотности вероятности p (x) представляет собой комплексно-сопряженное элемента непрерывное преобразование Фурье функции p (x) (согласно обычному соглашению; см. непрерывное преобразование Фурье - другие соглашения ).

φ Икс (t) = ⟨eit X⟩ = ∫ R eitxp (x) dx = (∫ R e - itxp (x) dx) ¯ = P (t) ¯, {\ displaystyle \ varphi _ {X} (t) = \ langle e ^ {itX} \ rangle = \ int _ {\ mathbf {R}} e ^ {itx} p (x) \, dx = {\ overline {\ left (\ int _ {\ mathbf {R}} e ^ {- itx} p (x) \, dx \ right)}} = {\ overline {P (t)}},}\varphi _{X}(t)=\langle e^{itX}\rangle =\int _{\mathbf {R} }e^{itx}p(x)\,dx={\overline {\left(\int _{\mathbf {R} }e^{-itx}p(x)\,dx\right)}}={\overline {P(t)}},

где P (t) обозначает непрерывный Фурье преобразовать функции плотности вероятности p (x). Аналогично, p (x) может быть восстановлен из φ X (t) с помощью обратного преобразования Фурье:

p (x) = 1 2 π ∫ R eitx P (t) dt = 1 2 π ∫ R eitx φ X (t) ¯ dt. {\ displaystyle p (x) = {\ frac {1} {2 \ pi}} \ int _ {\ mathbf {R}} e ^ {itx} P (t) \, dt = {\ frac {1} { 2 \ pi}} \ int _ {\ mathbf {R}} e ^ {itx} {\ overline {\ varphi _ {X} (t)}} \, dt.}p(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}P(t)\,dt={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}{\overline {\varphi _{X}(t)}}\,dt.

Действительно, даже когда случайная величина не имеет плотности, характеристическую функцию можно рассматривать как преобразование Фурье меры, соответствующей случайной величине.

Другая связанная концепция - это представление распределений вероятностей как элементов воспроизводящего гильбертова пространства ядра посредством встраивания распределений в ядро. Эту структуру можно рассматривать как обобщение характеристической функции при конкретном выборе функции ядра .

См. Также
  • Субзависимость, более слабое условие, чем независимость, которое определяется в терминах характеристических функций.
  • Кумулянт, член кумулянтных функций, которые являются журналами характеристических функций.
Примечания
Ссылки

Цитаты

Источники

Внешние ссылки
Последняя правка сделана 2021-05-14 06:08:44
Содержание доступно по лицензии CC BY-SA 3.0 (если не указано иное).
Обратная связь: support@alphapedia.ru
Соглашение
О проекте