Неравенство Чебышева

По поводу одноименного неравенства, включающего ряды, см. Неравенство сумм Чебышева.

Не в теории вероятностей, неравенство Чебышева (также называется неравенство Bienaymé-Чебышева) гарантирует, что для широкого класса распределений вероятностей, не более определенной доли значений может быть больше, чем на некотором расстоянии от среднего. В частности, не более 1 / k ² значений распределения могут отличаться от среднего на k или более стандартных отклонений (или, что то же самое, более 1 - 1 / k ² значений распределения меньше kстандартные отклонения от среднего). В статистике это правило часто называют теоремой Чебышева о диапазоне стандартных отклонений от среднего. Неравенство имеет большую полезность, поскольку его можно применить к любому распределению вероятностей, в котором определены среднее значение и дисперсия. Например, его можно использовать для доказательства слабого закона больших чисел.

Его практическое использование аналогично правилу 68–95–99,7, которое применяется только к нормальным распределениям. Неравенство Чебышева является более общим, утверждая, что минимум 75% значений должны находиться в пределах двух стандартных отклонений от среднего и 88,89% в пределах трех стандартных отклонений для широкого диапазона различных распределений вероятностей.

Термин неравенство Чебышева может также относиться к неравенству Маркова, особенно в контексте анализа. Они тесно связаны, и некоторые авторы называют неравенство Маркова «первым неравенством Чебышева», а подобное неравенство на этой странице - «вторым неравенством Чебышева».

СОДЕРЖАНИЕ

• 1 История
• 2 Заявление
  • 2.1 Вероятностное утверждение
  • 2.2 Теоретико-мерное утверждение
• 3 Пример
• 4 Четкость границ
• 5 Доказательство (двусторонней версии)
  • 5.1 Вероятностное доказательство
  • 5.2 Теоретико-мерное доказательство
  • 5.3 Доказательство в предположении, что случайная величина X непрерывна
• 6 расширений
  • 6.1 Асимметричный двусторонний
    • 6.1.1 Двумерное обобщение
  • 6.2 Двумерная известная корреляция
  • 6.3 Многовариантный
  • 6.4 Конечномерный вектор
  • 6.5 Бесконечные измерения
  • 6.6 Высшие моменты
  • 6.7 Экспоненциальный момент
  • 6.8 Ограниченные переменные
• 7 Конечные образцы
  • 7.1 Одномерный случай
    • 7.1.1 Зависимость от размера выборки
    • 7.1.2 Неравенство Самуэльсона
  • 7.2 Многомерный случай
    • 7.2.1 Примечания
• 8 заостренных границ
  • 8.1 Стандартизированные переменные
  • 8.2 полуварианты
  • 8.3 Неравенство Сельберга
  • 8.4 Неравенство Кантелли
    • 8.4.1 Приложение: расстояние между средним и медианным значением
  • 8.5 Неравенство Бхаттачарьи
  • 8.6 Неравенство Митценмахера и Упфала
• 9 Связанные неравенства
  • 9.1 Неравенство Зелена
  • 9.2 Неравенство Хэ, Чжана и Чжана
  • 9.3 Лемма Хёффдинга
  • 9.4 Граница Ван Зуйлена
• 10 Унимодальные распределения
  • 10.1 Унимодальные симметричные распределения
  • 10.2 Примечания
    • 10.2.1 Эффекты симметрии и унимодальности
    • 10.2.2 Симметричные унимодальные распределения
    • 10.2.3 Нормальные распределения
• 11 Границы для конкретных дистрибутивов
• 12 Нулевые средние
  • 12.1 Отклонение от единицы
• 13 Интегральное неравенство Чебышева
  • 13.1 Другое неравенство
• 14 трансформация Холдейна
• 15 заметок
• 16 См. Также
• 17 Ссылки
• 18 Дополнительная литература
• 19 Внешние ссылки

История

Теорема названа в честь русского математика Пафнутия Чебышева, хотя впервые ее сформулировал его друг и коллега Ирене-Жюль Бьенайме. Теорема была впервые сформулирована без доказательства Бьенайме в 1853 году, а затем доказана Чебышевым в 1867 году. Его ученик Андрей Марков представил еще одно доказательство в своей докторской диссертации 1884 года. Тезис.

Заявление

Неравенство Чебышева обычно формулируется для случайных величин, но может быть обобщено до утверждения о пространствах мер.

Вероятностное утверждение

Пусть X (интегрируемая) - случайная величина с конечным математическим ожиданием μ и конечной ненулевой дисперсией σ ². Тогда для любого действительного числа к gt; 0,

${\ displaystyle \ Pr (| X- \ mu | \ geq k \ sigma) \ leq {\ frac {1} {k ^ {2}}}.}$

Только случай пригодится. Когда правая часть и неравенство тривиальны, поскольку все вероятности ≤ 1. ${\ displaystyle kgt; 1}$${\ Displaystyle к \ leq 1}$${\ displaystyle {\ frac {1} {k ^ {2}}} \ geq 1}$

В качестве примера, использование показывает, что вероятность того, что значения лежат вне интервала, не превышает. ${\ Displaystyle к = {\ sqrt {2}}}$${\ Displaystyle (\ му - {\ sqrt {2}} \ sigma, \ му + {\ sqrt {2}} \ sigma)}$${\ displaystyle {\ frac {1} {2}}}$

Поскольку его можно применять к полностью произвольным распределениям при условии, что они имеют известное конечное среднее значение и дисперсию, неравенство обычно дает плохую оценку по сравнению с тем, что можно было бы вывести, если бы о задействованном распределении известно больше аспектов.

k	Мин. % в пределах k стандартных    отклонений от среднего	Максимум. % за k стандартных отклонений от среднего
1	0%	100%
√ 2	50%	50%
1.5	55,56%	44,44%
2	75%	25%
2 √ 2	87,5%	12,5%
3	88,8889%	11,1111%
4	93,75%	6,25%
5	96%	4%
6	97,2222%	2,7778%
7	97,9592%	2,0408%
8	98,4375%	1,5625%
9	98,7654%	1,2346%
10	99%	1%

Утверждение теории меры

Пусть ( X, Σ, μ) является мерой пространства, и пусть е быть расширенной реальной -значная измеримой функции, определенная на X. Тогда для любого действительного числа t gt; 0 и 0 lt; p lt;∞

${\ displaystyle \ mu (\ {x \ in X \,: \, \, | f (x) | \ geq t \}) ​​\ leq {1 \ над t ^ {p}} \ int _ {| f | \ geq t} | f | ^ {p} \, d \ mu.}$

В более общем смысле, если g - расширенная измеримая функция с действительным знаком, неотрицательная и неубывающая, с then: ${\ Displaystyle г (т) \ neq 0}$

${\ displaystyle \ mu (\ {x \ in X \,: \, \, f (x) \ geq t \}) ​​\ leq {1 \ над g (t)} \ int _ {X} g \ circ f \, д \ му.}$

Затем следует предыдущее утверждение, определяющее « как если бы» и «в противном случае». ${\ displaystyle g (x)}$${\ Displaystyle | х | ^ {p}}$${\ Displaystyle х \ geq т}$${\ displaystyle 0}$

Пример

Предположим, мы случайным образом выбираем журнальную статью из источника, содержащего в среднем 1000 слов на статью, со стандартным отклонением 200 слов. Затем мы можем сделать вывод, что вероятность того, что в нем содержится от 600 до 1400 слов (т. Е. В пределах k  = 2 стандартных отклонения от среднего), должна быть не менее 75%, потому что не более 1 ⁄ k² _{знак равно 1/4шанс оказаться за пределами этого диапазона по неравенству Чебышева. Но если мы дополнительно знаем, что распределение является нормальным, мы можем сказать, что существует вероятность 75%, что количество слов находится между 770 и 1230 (что является еще более жесткой границей).}

Резкость границ

Как показано в приведенном выше примере, теорема обычно дает довольно слабые оценки. Однако эти оценки, как правило, не могут быть улучшены (оставаясь верными для произвольных распределений). Оценки точны для следующего примера: для любого k  ≥ 1

${\ displaystyle X = {\ begin {cases} -1, amp; {\ text {с вероятностью}} {\ frac {1} {2k ^ {2}}} \\ 0, amp; {\ text {с вероятностью}} 1 - {\ frac {1} {k ^ {2}}} \\ 1, amp; {\ text {с вероятностью}} {\ frac {1} {2k ^ {2}}} \ end {cases}}}$

Для этого распределения среднее значение μ = 0 и стандартное отклонение σ =1/k, так

${\ displaystyle \ Pr (| X- \ mu | \ geq k \ sigma) = \ Pr (| X | \ geq 1) = {\ frac {1} {k ^ {2}}}.}$

Неравенство Чебышева является равенством как раз для тех распределений, которые являются линейным преобразованием этого примера.

Доказательство (двусторонней версии)

Вероятностное доказательство

Неравенство Маркова утверждает, что для любой вещественной случайной величины Y и любого положительного числа a имеем Pr (| Y |gt;  a) ≤ E (| Y |) / a. Один из способов доказать неравенство Чебышева - применить неравенство Маркова к случайной величине Y = ( X - μ) ² с a = ( kσ) ².

Это также можно доказать напрямую, используя условное ожидание :

${\ displaystyle {\ begin {align} \ sigma ^ {2} amp; = \ mathbb {E} [(X- \ mu) ^ {2}] \\ [5pt] amp; = \ mathbb {E} [(X- \ mu) ^ {2} \ mid k \ sigma \ leq | X- \ mu |] \ Pr [k \ sigma \ leq | X- \ mu |] + \ mathbb {E} [(X- \ mu) ^ {2} \ mid k \ sigmagt; | X- \ mu |] \ Pr [k \ sigmagt; | X- \ mu |] \\ [5pt] amp; \ geq (k \ sigma) ^ {2} \ Pr [ k \ sigma \ leq | X- \ mu |] +0 \ cdot \ Pr [k \ sigmagt; | X- \ mu |] \\ [5pt] amp; = k ^ {2} \ sigma ^ {2} \ Pr [к \ сигма \ leq | X- \ mu |] \ конец {выровнено}}}$

Тогда неравенство Чебышева следует делением на k ²σ ².

Это доказательство также показывает, почему оценки в типичных случаях являются довольно слабыми: условное ожидание для события, где | X  -  μ | lt;  kσ отбрасывается, и нижняя граница k ²σ ² для события | X  -  μ | ≥  kσ может быть довольно плохим.

Теоретико-мерное доказательство

Зафиксируйте и пусть будет определено как, и пусть будет индикаторной функцией множества . Тогда легко проверить, что для любого, ${\ displaystyle t}$${\ displaystyle A_ {t}}$${\ Displaystyle A_ {T} = \ {х \ в X \ mid f (x) \ geq t \}}$${\ displaystyle 1_ {A_ {t}}}$ ${\ displaystyle A_ {t}}$${\ displaystyle x}$

${\ displaystyle g (t) 1_ {A_ {t}} (x) \ leq g (f (x)) \, 1_ {A_ {t}} (x),}$

так как g не убывает, и, следовательно,

${\ Displaystyle {\ begin {align} g (t) \ mu (A_ {t}) amp; = \ int _ {X} g (t) 1_ {A_ {t}} \, d \ mu \\ amp; \ leq \ int _ {A_ {t}} g \ circ f \, d \ mu \\ amp; \ leq \ int _ {X} g \ circ f \, d \ mu, \ end {выровнено}}}$

где последнее неравенство оправдано неотрицательностью g. Требуемое неравенство следует из деления указанного неравенства на  g ( t).

Доказательство в предположении, что случайная величина X непрерывна

Используя определение функции плотности вероятности f ( x) и стандартную характеристику дисперсии Var ( X):

${\ Displaystyle \ Pr (a \ Leq X \ Leq b) = \ int _ {a} ^ {b} f_ {X} (x) \, dx,}$

${\ displaystyle \ operatorname {Var} (X) = \ sigma ^ {2} = \ int _ {\ mathbb {R}} (x- \ mu) ^ {2} f (x) \, dx,}$

у нас есть:

${\ Displaystyle {\ begin {align} \ Pr (| X- \ mu | \ geq k \ sigma) amp; = \ int _ {| x- \ mu | \ geq k \ sigma} f (x) \, dx \ \ [5pt] amp; \ leq \ int _ {| x- \ mu | \ geq k \ sigma} {\ frac {| x- \ mu |} {k \ sigma}} f (x) \, dx \ \ \ \ \ \ \ ({\ frac {| x- \ mu |} {k \ sigma}}gt; 1 \ \ {\ text {в области целостности}}) \\ [5pt] amp; \ leq \ int _ {| x- \ mu | \ geq k \ sigma} {\ frac {(x- \ mu) ^ {2}} {k ^ {2} \ sigma ^ {2}}} f (x) \, dx \\ [ 5pt] amp; = \ int _ {| x- \ mu | \ geq k \ sigma} {\ frac {1} {k ^ {2} \ sigma ^ {2}}} (x- \ mu) ^ {2} f (x) \, dx \\ [5pt] amp; = {\ frac {1} {k ^ {2} \ sigma ^ {2}}} \ int _ {| x- \ mu | \ geq k \ sigma} (x- \ mu) ^ {2} f (x) \, dx \\ [5pt] amp; \ leq {\ frac {1} {k ^ {2} \ sigma ^ {2}}} \ int _ {- \ infty} ^ {\ infty} (x- \ mu) ^ {2} f (x) \, dx \\ [5pt] amp; = {\ frac {1} {k ^ {2} \ sigma ^ {2} }} \ sigma ^ {2} \\ [5pt] amp; = {\ frac {1} {k ^ {2}}}. \ end {align}}}$

Заменяя kσ на ε, где k  =  ε / σ, мы получаем неравенство Чебышева в другой форме:

${\ Displaystyle \ Pr (| Икс- \ му | \ geq \ varepsilon) \ leq {\ frac {\ sigma ^ {2}} {\ varepsilon ^ {2}}},}$

или эквивалент

${\ Displaystyle \ Pr (| X- \ mu | lt;\ varepsilon)gt; 1 - {\ frac {\ sigma ^ {2}} {\ varepsilon ^ {2}}},}$

где ε определяется так же, как k ; любое положительное действительное число.

Расширения

Разработано несколько расширений неравенства Чебышева.

Асимметричный двусторонний

Если X имеет среднее μ и дисперсию σ ², то

${\ Displaystyle \ Pr (\ ell lt;Икс lt;и) \ geq {\ гидроразрыва {4 [(\ му - \ ell) (и- \ му) - \ sigma ^ {2}]} {(\ ell -u) ^ {2}}},}$

если и, где и. ${\ Displaystyle (\ му - \ ell) (ч- \ му) \ geq \ sigma ^ {2}}$${\ Displaystyle (\ му - \ ell) (ч- \ му) -k ^ {2} \ leq 2 \ sigma ^ {2}}$${\ Displaystyle к = \ мин (\ му - \ ell, ч- \ му)}$${\ displaystyle \ ell lt;\ mu lt;h}$

Это сводится к неравенству Чебышева в симметричном случае ( ℓ и u равноудалены от среднего).

Двумерное обобщение

Пусть X 1, X 2 - две случайные величины со средними μ 1, μ 2 и конечными дисперсиями σ 1, σ 2 соответственно. Тогда оценка объединения показывает, что

${\ Displaystyle \ Pr \ left (\ ell _ {1} \ leq {\ frac {X_ {1} - \ mu _ {1}} {\ sigma _ {1}}} \ leq u_ {1}, \ ell _ {2} \ leq {\ frac {X_ {2} - \ mu _ {2}} {\ sigma _ {2}}} \ leq u_ {2} \ right) \ geq 1 - {\ frac {4+ (u_ {1} + \ ell _ {1}) ^ {2}} {(u_ {1} - \ ell _ {1}) ^ {2}}} - {\ frac {4+ (u_ {2} + \ ell _ {2}) ^ {2}} {(u_ {2} - \ ell _ {2}) ^ {2}}}}$

Эта граница не требует, чтобы X 1 и X 2 были независимыми.

Двумерная известная корреляция

Берже вывел неравенство для двух коррелированных переменных X 1, X 2. Пусть ρ - коэффициент корреляции между X 1 и X 2, а σ i ² - дисперсия X i. потом

${\ displaystyle \ Pr \ left (\ bigcap _ {i = 1} ^ {2} \ left [{\ frac {| X_ {i} - \ mu _ {i} |} {\ sigma _ {i}}}} lt;k \ right] \ right) \ geq 1 - {\ frac {1 + {\ sqrt {1- \ rho ^ {2}}}} {k ^ {2}}}.}$

Позднее Лал получил альтернативную оценку

${\ displaystyle \ Pr \ left (\ bigcap _ {i = 1} ^ {2} \ left [{\ frac {| X_ {i} - \ mu _ {i} |} {\ sigma _ {i}}}} \ leq k_ {i} \ right] \ right) \ geq 1 - {\ frac {k_ {1} ^ {2} + k_ {2} ^ {2} + {\ sqrt {(k_ {1} ^ {2 } + k_ {2} ^ {2}) ^ {2} -4k_ {1} ^ {2} k_ {2} ^ {2} \ rho}}} {2 (k_ {1} k_ {2}) ^ {2}}}}$

Исии сделал еще одно обобщение. Позволять

${\ Displaystyle Z = \ Pr \ left (\ left (-k_ {1} lt;X_ {1} lt;k_ {2} \ right) \ cap \ left (-k_ {1} lt;X_ {2} lt;k_ {2 } \ right) \ right), \ qquad 0 lt;k_ {1} \ leq k_ {2}.}$

и определите:

${\ displaystyle \ lambda = {\ frac {k_ {1} (1+ \ rho) + {\ sqrt {(1- \ rho ^ {2}) (k_ {1} ^ {2} + \ rho)}} } {2k_ {1} -1+ \ rho}}}$

Сейчас есть три случая.

• Случай A: если и тогда${\ displaystyle 2k_ {1} ^ {2}gt; 1- \ rho}$${\ displaystyle k_ {2} -k_ {1} \ geq 2 \ lambda}$

${\ displaystyle Z \ leq {\ frac {2 \ lambda ^ {2}} {2 \ lambda ^ {2} +1+ \ rho}}.}$

• Случай B: Если условия случая A не выполняются, но k 1 k 2 ≥ 1 и

${\ displaystyle 2 (k_ {1} k_ {2} -1) ^ {2} \ geq 2 (1- \ rho ^ {2}) + (1- \ rho) (k_ {2} -k_ {1}) ^ {2}}$

тогда

${\ Displaystyle Z \ Leq {\ frac {(k_ {2} -k_ {1}) ^ {2} +4 + {\ sqrt {16 (1- \ rho ^ {2}) + 8 (1- \ rho) (k_ {2} -k_ {1})}}} {(k_ {1} + k_ {2}) ^ {2}}}.}$

• Случай C: Если ни одно из условий в случаях A или B не выполняется, то нет универсальной границы, кроме 1.

Многомерный

Общий случай известен как неравенство Бирнбаума – Раймонда – Цукермана в честь авторов, доказавших его для двух измерений.

${\ displaystyle \ Pr \ left (\ sum _ {i = 1} ^ {n} {\ frac {(X_ {i} - \ mu _ {i}) ^ {2}} {\ sigma _ {i} ^ {2} t_ {i} ^ {2}}} \ geq k ^ {2} \ right) \ leq {\ frac {1} {k ^ {2}}} \ sum _ {i = 1} ^ {n } {\ frac {1} {t_ {i} ^ {2}}}}$

где X i - i -я случайная величина, μ i - i-е среднее значение, а σ i ² - i-я дисперсия.

Если переменные независимы, это неравенство можно усилить.

${\ displaystyle \ Pr \ left (\ bigcap _ {i = 1} ^ {n} {\ frac {| X_ {i} - \ mu _ {i} |} {\ sigma _ {i}}} \ leq k_ {i} \ right) \ geq \ prod _ {i = 1} ^ {n} \ left (1 - {\ frac {1} {k_ {i} ^ {2}}} \ right)}$

Олкин и Пратт вывели неравенство для n коррелированных переменных.

${\ displaystyle \ Pr \ left (\ bigcap _ {i = 1} ^ {n} {\ frac {| X_ {i} - \ mu _ {i} |} {\ sigma _ {i}}} lt;k_ { i} \ right) \ geq 1 - {\ frac {1} {n ^ {2}}} \ left ({\ sqrt {u}} + {\ sqrt {n-1}} {\ sqrt {n \ sum _ {i} {\ frac {1} {k_ {i} ^ {2}}} - u}} \ right) ^ {2}}$

где сумма берется по n переменным и

${\ displaystyle u = \ sum _ {i = 1} ^ {n} {\ frac {1} {k_ {i} ^ {2}}} + 2 \ sum _ {i = 1} ^ {n} \ sum _ {j lt;i} {\ frac {\ rho _ {ij}} {k_ {i} k_ {j}}}}$

где ρ ij - корреляция между X i и X j.

Неравенство Олкина и Пратта было впоследствии обобщено Годвином.

Конечномерный вектор

Ферентинос показал, что для вектора X = ( x 1, x 2,...) со средним μ = ( μ 1, μ 2,...) стандартное отклонение σ = ( σ 1, σ 2,...) и евклидовой нормы || ⋅ || что

${\ displaystyle \ Pr (\ | X- \ mu \ | \ geq k \ | \ sigma \ |) \ leq {\ frac {1} {k ^ {2}}}.}$

Второе связанное неравенство также было выведено Ченом. Пусть п вполне размерность стохастического вектора X, и пусть Е ( X) быть среднее значение X. Пусть S - ковариационная матрица и k gt; 0. потом

${\ displaystyle \ Pr \ left ((X- \ operatorname {E} (X)) ^ {T} S ^ {- 1} (X- \ operatorname {E} (X)) lt;k \ right) \ geq 1 - {\ frac {n} {k}}}$

где Y ^Т является транспонированной из Y. Простое доказательство было получено в Наварро следующим образом:

${\ displaystyle Z = (X- \ operatorname {E} (X)) ^ {T} S ^ {- 1} (X- \ operatorname {E} (X)) = (X- \ operatorname {E} (X)) ^ {T} S ^ {- 1/2} S ^ {- 1/2} (X- \ operatorname {E} (X)) = Y ^ {T} Y \ geq 0}$

куда

${\ displaystyle Y = (Y_ {1},..., Y_ {n}) ^ {T} = S ^ {- 1/2} (X- \ operatorname {E} (X))}$

и является симметричной обратимой матрицей таким образом, что:. Следовательно, и где представляет собой единичную матрицу размерности  n. Тогда и ${\ displaystyle S ^ {- 1/2}}$${\ Displaystyle S ^ {- 1/2} S ^ {- 1/2} = S ^ {- 1}}$${\ Displaystyle \ OperatorName {E} (Y) = (0, \ ldots, 0) ^ {T}}$${\ displaystyle \ operatorname {Cov} (Y) = I_ {n}}$${\ displaystyle I_ {n}}$${\ displaystyle \ operatorname {E} (Y_ {i} ^ {2}) = \ operatorname {Var} (Y_ {i}) = 1}$

${\ displaystyle \ operatorname {E} (Z) = \ operatorname {E} (Y ^ {T} Y) = \ sum _ {i = 1} ^ {n} \ operatorname {E} (Y_ {i} ^ { 2}) = n}$

Наконец, применяя к Z неравенство Маркова, получаем

${\ displaystyle \ Pr \ left (Z \ geq k \ right) = \ Pr \ left ((X- \ operatorname {E} (X)) ^ {T} S ^ {- 1} (X- \ operatorname {E } (X)) \ geq k \ right) \ leq {\ frac {\ operatorname {E} (Z)} {k}} = {\ frac {n} {k}}}$

Итак, желаемое неравенство выполнено.

Неравенство можно записать в терминах расстояния Махаланобиса как

${\ displaystyle \ Pr \ left (d_ {S} ^ {2} (X, \ operatorname {E} (X)) lt;k \ right) \ geq 1 - {\ frac {n} {k}}}$

где расстояние Махаланобиса, основанное на S, определяется как

${\ displaystyle d_ {S} (x, y) = {\ sqrt {(xy) ^ {T} S ^ {- 1} (xy)}}}$

Наварро доказал, что эти границы точны, то есть они являются наилучшими возможными границами для этих регионов, когда мы просто знаем среднее значение и матрицу ковариации X.

Stellato et al. показали, что этот многомерный вариант неравенства Чебышева может быть легко выведен аналитически как частный случай Vandenberghe et al. где оценка вычисляется путем решения полуопределенной программы (SDP).

Бесконечные измерения

Существует прямое расширение векторной версии неравенства Чебышева на бесконечномерные параметры. Пусть X - случайная величина, которая принимает значения в пространстве Фреше (снабженном полунормами || ⋅ || α). Это включает в себя наиболее общие настройки векторных случайных величин, например, когда это банахово пространство (снабженное единственной нормой), гильбертово пространство или конечномерная настройка, как описано выше. ${\ Displaystyle {\ mathcal {X}}}$${\ Displaystyle {\ mathcal {X}}}$

Предположим, что X имеет « сильный порядок два », что означает, что

${\ Displaystyle \ OperatorName {E} \ left (\ | X \ | _ {\ alpha} ^ {2} \ right) lt;\ infty}$

для каждой полунормы || ⋅ || α. Это обобщение требования конечной дисперсии X, необходимое для этой сильной формы неравенства Чебышева в бесконечных измерениях. Термин «сильный порядок два» принадлежит Вахании.

Пусть - интеграл Петтиса от X (т. Е. Векторное обобщение среднего), и пусть ${\ displaystyle \ mu \ in {\ mathcal {X}}}$

${\ displaystyle \ sigma _ {a}: = {\ sqrt {\ operatorname {E} \ | X- \ mu \ | _ {\ alpha} ^ {2}}}}$

- стандартное отклонение относительно полунормы || ⋅ || α. В этой настройке мы можем заявить следующее:

Общая версия неравенства Чебышева. ${\ displaystyle \ forall kgt; 0: \ quad \ Pr \ left (\ | X- \ mu \ | _ {\ alpha} \ geq k \ sigma _ {\ alpha} \ right) \ leq {\ frac {1} {k ^ {2}}}.}$

Доказательство. Доказательство прямое и по сути такое же, как и окончательная версия. Если σ α = 0, то X почти наверняка константа (и равна μ), поэтому неравенство тривиально.

Если

${\ displaystyle \ | X- \ mu \ | _ {\ alpha} \ geq k \ sigma _ {\ alpha} ^ {2}}$

тогда || X - μ || α gt; 0, поэтому можно смело делить на || X - μ || α. Главный трюк в неравенстве Чебышева - признать это. ${\ Displaystyle 1 = {\ tfrac {\ | X- \ mu \ | _ {\ alpha} ^ {2}} {\ | X- \ mu \ | _ {\ alpha} ^ {2}}}}$

Следующие вычисления завершают доказательство:

${\ Displaystyle {\ begin {align} \ Pr \ left (\ | X- \ mu \ | _ {\ alpha} \ geq k \ sigma _ {\ alpha} \ right) amp; = \ int _ {\ Omega} \ mathbf {1} _ {\ | X- \ mu \ | _ {\ alpha} \ geq k \ sigma _ {\ alpha}} \, \ mathrm {d} \ Pr \\ amp; = \ int _ {\ Omega} \ left ({\ frac {\ | X- \ mu \ | _ {\ alpha} ^ {2}} {\ | X- \ mu \ | _ {\ alpha} ^ {2}}} \ right) \ cdot \ mathbf {1} _ {\ | X- \ mu \ | _ {\ alpha} \ geq k \ sigma _ {\ alpha}} \, \ mathrm {d} \ Pr \\ [6pt] amp; \ leq \ int _ {\ Omega} \ left ({\ frac {\ | X- \ mu \ | _ {\ alpha} ^ {2}} {(k \ sigma _ {\ alpha}) ^ {2}}} \ right) \ cdot \ mathbf {1} _ {\ | X- \ mu \ | _ {\ alpha} \ geq k \ sigma _ {\ alpha}} \, \ mathrm {d} \ Pr \\ [6pt] amp; \ leq {\ frac {1} {k ^ {2} \ sigma _ {\ alpha} ^ {2}}} \ int _ {\ Omega} \ | X- \ mu \ | _ {\ alpha} ^ {2} \, \ mathrm {d} \ Pr amp;amp; \ mathbf {1} _ {\ | X- \ mu \ | _ {\ alpha} \ geq k \ sigma _ {\ alpha}} \ leq 1 \\ [6pt] amp; = {\ frac {1} {k ^ {2} \ sigma _ {\ alpha} ^ {2}}} \ left (\ operatorname {E} \ | X- \ mu \ | _ {\ alpha} ^ {2} \ right) \\ [6pt] amp; = {\ frac {1} {k ^ {2} \ sigma _ {\ alpha} ^ {2}}} \ left (\ sigma _ {\ alpha} ^ {2} \ справа) \\ [6pt] amp; = {\ frac {1} {k ^ {2}}} \ end {align}}}$

Высшие моменты

Также возможно расширение на высшие моменты:

${\ Displaystyle \ Pr \ left (| X- \ OperatorName {E} (X) | \ GEQ k \ OperatorName {E} (| X- \ operatorname {E} (X) | ^ {n}) ^ {\ frac {1} {n}} \ right) \ leq {\ frac {1} {k ^ {n}}}, \ qquad kgt; 0, n \ geq 2.}$

Экспоненциальный момент

Связанное с этим неравенство, иногда известное как экспоненциальное неравенство Чебышева, - это неравенство

${\ Displaystyle \ Pr (Икс \ geq \ varepsilon) \ leq e ^ {- t \ varepsilon} \ operatorname {E} \ left (e ^ {tX} \ right), \ qquad tgt; 0.}$

Пусть K ( t) - кумулянтная производящая функция,

${\ displaystyle K (t) = \ log \ left (\ operatorname {E} \ left (e ^ {tx} \ right) \ right).}$

Взяв преобразование Лежандра – Фенхеля для K ( t) и используя экспоненциальное неравенство Чебышева, имеем

${\ displaystyle - \ log (\ Pr (X \ geq \ varepsilon)) \ geq \ sup _ {t} (t \ varepsilon -K (t)).}$

Это неравенство можно использовать для получения экспоненциальных неравенств для неограниченных переменных.

Ограниченные переменные

Если P ( x) имеет конечный носитель, основанный на интервале [ a, b ], пусть M = max (| a |, | b |), где | х | это абсолютное значение по х. Если среднее значение P ( x) равно нулю, то для всех k gt; 0

${\ Displaystyle {\ гидроразрыва {\ OperatorName {E} (| X | ^ {r}) - k ^ {r}} {M ^ {r}}} \ leq \ Pr (| X | \ geq k) \ leq {\ frac {\ operatorname {E} (| X | ^ {r})} {k ^ {r}}}.}$

Второе из этих неравенств при r = 2 - оценка Чебышева. Первый обеспечивает нижнюю границу значения P ( x).

Ниемитало предложил точные оценки для ограниченной вариации, но без доказательства.

Пусть 0 ≤ X ≤ M, где M gt; 0. потом

• Дело 1:

${\ Displaystyle \ Pr (Икс lt;к) = 0 \ qquad {\ text {if}} \ qquad \ OperatorName {E} (X)gt; k \ quad {\ text {and}} \ quad \ operatorname {E} ( X ^ {2}) lt;k \ operatorname {E} (X) + M \ operatorname {E} (X) -kM}$

• Случай 2:

${\ Displaystyle \ Pr (Икс lt;К) \ GEQ 1 - {\ гидроразрыва {к \ OperatorName {E} (X) + M \ OperatorName {E} (X) - \ OperatorName {E} (X ^ {2}) } {kM}} \ qquad {\ text {if}} \ qquad {\ begin {cases} \ operatorname {E} (X)gt; k \ quad {\ text {and}} \ quad \ operatorname {E} (X ^ {2}) \ geq k \ operatorname {E} (X) + M \ operatorname {E} (X) -kM \\\ qquad \ qquad \ qquad {\ text {или}} \\\ operatorname {E} (X) \ leq k \ quad {\ text {and}} \ quad \ operatorname {E} (X ^ {2}) \ geq k \ operatorname {E} (X) \ end {cases}}}$

• Случай 3:

${\ Displaystyle \ Pr (Икс lt;К) \ geq {\ гидроразрыва {\ OperatorName {E} (X) ^ {2} -2k \ OperatorName {E} (X) + k ^ {2}} {\ operatorname {E } (X ^ {2}) - 2k \ operatorname {E} (X) + k ^ {2}}} \ qquad {\ text {if}} \ qquad \ operatorname {E} (X) \ leq k \ quad {\ text {и}} \ quad \ operatorname {E} (X ^ {2}) lt;k \ operatorname {E} (X)}$

Конечные образцы

Одномерный случай

Со и соавторы распространили неравенство Чебышева на случаи, когда среднее значение и дисперсия генеральной совокупности неизвестны и могут не существовать, но выборочное среднее и стандартное отклонение выборки от N выборок должны использоваться, чтобы ограничить ожидаемое значение нового рисунка из того же распределения..

${\ Displaystyle P (| Xm | \ geq ks) \ leq {\ frac {g_ {N + 1} \ left ({\ frac {Nk ^ {2}} {N-1 + k ^ {2}}} \ right)} {N + 1}} \ left ({\ frac {N} {N + 1}} \ right) ^ {1/2}}$

где X - случайная величина, из которой мы производили выборку N раз, m - среднее значение выборки, k - постоянная величина, а s - стандартное отклонение выборки. g ( x) определяется следующим образом:

Пусть x ≥ 1, Q = N + 1 и R - наибольшее целое число, меньшее Q / x. Позволять

${\ displaystyle a ^ {2} = {\ frac {Q (QR)} {1 + R (QR)}}.}.$

Теперь

${\ displaystyle g_ {Q} (x) = {\ begin {case} R amp; {\ text {if}} R {\ text {равно,}} \\ R amp; {\ text {if}} R {\ text { нечетно и}} x lt;a ^ {2}, \\ R-1 amp; {\ text {if}} R {\ text {нечетно и}} x \ geq a ^ {2}. \ end {cases}} }$

Это неравенство сохраняется даже тогда, когда моментов популяции не существует и когда выборка лишь слабо обменно распределена; этот критерий выполняется для рандомизированной выборки. Таблица значений неравенства Со-Янга-Мо для конечных размеров выборки ( N lt;100) была составлена ​​Konijn. Таблица позволяет рассчитывать различные доверительные интервалы для среднего, основанные на кратных C, стандартной ошибки среднего, рассчитанного по выборке. Например, Konijn показывает, что для N  = 59 95-процентный доверительный интервал для среднего m равен ( m - Cs, m + Cs), где C = 4,447 × 1,006 = 4,47 (это в 2,28 раза больше, чем значение, найденное на предположение о нормальности, показывающее потерю точности в результате незнания точного характера распределения).

Кабан дает несколько менее сложную версию этого неравенства.

${\ displaystyle P (| Xm | \ geq ks) \ leq {\ frac {1} {N + 1}} \ left \ lfloor {\ frac {N + 1} {N}} \ left ({\ frac {N -1} {k ^ {2}}} + 1 \ right) \ right \ rfloor}$

Если стандартное отклонение кратно среднему, то можно вывести дополнительное неравенство:

${\ Displaystyle P (| Xm | \ geq ks) \ leq {\ frac {N-1} {N}} {\ frac {1} {k ^ {2}}} {\ frac {s ^ {2}} {m ^ {2}}} + {\ frac {1} {N}}.}$

Таблица значений неравенства Со-Янга-Мо для конечных размеров выборки ( N lt;100) была составлена ​​Konijn.

При фиксированном N и большом m неравенство Пила – Янга – Мо приблизительно равно

${\ Displaystyle P (| Xm | \ geq ks) \ leq {\ frac {1} {N + 1}}.}$

Бисли и др. Предложили модификацию этого неравенства.

${\ Displaystyle P (| Xm | \ geq ks) \ leq {\ frac {1} {k ^ {2} (N + 1)}}.}$

При эмпирическом тестировании эта модификация консервативна, но, по-видимому, имеет низкую статистическую мощность. Его теоретическая основа в настоящее время остается неизученной.

Зависимость от размера выборки

Границы, которые эти неравенства дают для конечной выборки, менее жесткие, чем оценки, которые неравенство Чебышева дает для распределения. Чтобы проиллюстрировать это, пусть размер выборки N = 100 и пусть k = 3. Неравенство Чебышева утверждает, что самое большее приблизительно 11,11% распределения будет лежать как минимум на три стандартных отклонения от среднего. Версия неравенства Кабана для конечной выборки гласит, что самое большее примерно 12,05% выборки находится за этими пределами. Зависимость доверительных интервалов от размера выборки дополнительно проиллюстрирована ниже.

Для N = 10 95% доверительный интервал составляет приблизительно ± 13,5789 стандартных отклонений.

Для N = 100 95% доверительный интервал составляет приблизительно ± 4,9595 стандартных отклонений; доверительный интервал 99% составляет приблизительно ± 140,0 стандартного отклонения.

Для N = 500 95% доверительный интервал составляет приблизительно ± 4,5574 стандартного отклонения; 99% доверительный интервал составляет приблизительно ± 11,1620 стандартных отклонений.

Для N = 1000 доверительные интервалы 95% и 99% составляют приблизительно ± 4,5141 и приблизительно ± 10,5330 стандартных отклонений соответственно.

Неравенство Чебышева для распределения дает 95% и 99% доверительные интервалы приблизительно ± 4,472 стандартных отклонений и ± 10 стандартных отклонений соответственно.

Неравенство Самуэльсона

Хотя неравенство Чебышева является наилучшей возможной оценкой для произвольного распределения, это не обязательно верно для конечных выборок. Неравенство Самуэльсона утверждает, что все значения выборки будут лежать в пределах √ N  - 1 стандартного отклонения от среднего. Оценка Чебышева улучшается с увеличением размера выборки.

Когда N = 10, неравенство Самуэльсона утверждает, что все члены выборки находятся в пределах 3 стандартных отклонений от среднего: в отличие от Чебышева, 99,5% выборки находятся в пределах 13,5789 стандартных отклонений от среднего.

Когда N = 100, неравенство Самуэльсона утверждает, что все члены выборки находятся в пределах примерно 9,9499 стандартных отклонений от среднего: Чебышев утверждает, что 99% выборки находятся в пределах 10 стандартных отклонений от среднего.

Когда N = 500, неравенство Самуэльсона утверждает, что все члены выборки находятся в пределах примерно 22,3383 стандартных отклонений от среднего: Чебышев утверждает, что 99% выборки находятся в пределах 10 стандартных отклонений от среднего.

Многомерный случай

Stellato et al. упростили обозначения и расширили эмпирическое неравенство Чебышева из Saw et al. к многомерному случаю. Позвольте быть случайной величиной и пусть. Мы рисуем iid образцов, обозначенных как. На основе первых выборок мы определяем эмпирическое среднее значение как и несмещенную эмпирическую ковариацию как. Если неособое, то для всех то ${\ textstyle \ xi \ in \ mathbb {R} ^ {п _ {\ xi}}}$${\ textstyle N \ in \ mathbb {Z} _ {\ geq n _ {\ xi}}}$${\ textstyle N + 1}$${\ textstyle \ xi}$${\ textstyle \ xi ^ {(1)}, \ точки, \ xi ^ {(N)}, \ xi ^ {(N + 1)} \ in \ mathbb {R} ^ {n _ {\ xi}}}$${\ textstyle N}$${\ textstyle \ mu _ {N} = {\ frac {1} {N}} \ sum _ {i = 1} ^ {N} \ xi ^ {(i)}}$${\ textstyle \ Sigma _ {N} = {\ frac {1} {N}} \ sum _ {i = 1} ^ {N} (\ xi ^ {(i)} - \ mu _ {N}) ( \ xi ^ {(i)} - \ mu _ {N}) ^ {\ top}}$${\ displaystyle \ Sigma _ {N}}$${\ displaystyle \ lambda \ in \ mathbb {R} _ {\ geq 0}}$

${\ Displaystyle {\ begin {align} amp; P ^ {N + 1} \ left ((\ xi ^ {(N + 1)} - \ mu _ {N}) ^ {\ top} \ Sigma _ {N} ^ {-1} (\ xi ^ {(N + 1)} - \ mu _ {N}) \ geq \ lambda ^ {2} \ right) \\ [8pt] \ leq {} amp; \ min \ left \ { 1, {\ frac {1} {N + 1}} \ left \ lfloor {\ frac {n _ {\ xi} (N + 1) (N ^ {2} -1 + N \ lambda ^ {2})} {N ^ {2} \ lambda ^ {2}}} \ right \ rfloor \ right \}. \ End {align}}}$

Замечания

В одномерном случае, т. Е. Это неравенство соответствует неравенству из Saw et al. Более того, правую часть можно упростить, ограничив нижнюю функцию сверху ее аргументом ${\ textstyle п _ {\ xi} = 1}$

${\ displaystyle P ^ {N + 1} \ left ((\ xi ^ {(N + 1)} - \ mu _ {N}) ^ {\ top} \ Sigma _ {N} ^ {- 1} (\ xi ^ {(N + 1)} - \ mu _ {N}) \ geq \ lambda ^ {2} \ right) \ leq \ min \ left \ {1, {\ frac {n _ {\ xi} (N ^ {2} -1 + N \ lambda ^ {2})} {N ^ {2} \ lambda ^ {2}}} \ right \}.}$

As, правая часть стремится к тому, что соответствует многомерному неравенству Чебышева над эллипсоидами, имеющими форму согласно и с центром в. ${\ textstyle N \ to \ infty}$${\ textstyle \ min \ left \ {1, {\ frac {n _ {\ xi}} {\ lambda ^ {2}}} \ right \}}$${\ textstyle \ Sigma}$${\ textstyle \ mu}$

Заостренные границы

Неравенство Чебышева важно из-за его применимости к любому распределению. В результате своей универсальности он не может (и обычно не дает) такой четкой границы, как альтернативные методы, которые можно использовать, если известно распределение случайной величины. Для улучшения точности оценок неравенства Чебышева был разработан ряд методов; для обзора см. например.

Стандартизированные переменные

Более точные границы могут быть получены путем предварительной стандартизации случайной величины.

Пусть X - случайная величина с конечной дисперсией Var ( X). Пусть Z - стандартизованная форма, определяемая как

${\ displaystyle Z = {\ frac {X- \ operatorname {E} (X)} {\ operatorname {Var} (X) ^ {1/2}}}.}$

Лемма Кантелли тогда

${\ Displaystyle P (Z \ geq k) \ leq {\ frac {1} {1 + k ^ {2}}}.}$

Это неравенство является точным и достигается значениями k и −1 / k с вероятностью 1 / (1 +  k ²) и k ² / (1 +  k ²) соответственно.

Если k gt; 1 и распределение X симметрично, то имеем

${\ Displaystyle P (Z \ geq k) \ leq {\ frac {1} {2k ^ {2}}}.}$

Равенство выполняется тогда и только тогда, когда Z = - k, 0 или k с вероятностями 1/2 k ², 1 - 1 / k ² и 1/2 k ² соответственно. Также возможно расширение до двустороннего неравенства.

Пусть u, v gt; 0. Тогда имеем

${\ Displaystyle P (Z \ leq -u {\ text {или}} Z \ geq v) \ leq {\ frac {4+ (uv) ^ {2}} {(u + v) ^ {2}}}.}$

Полуварианты

Альтернативный способ получения более резкие границы через использование semivariances (частичные) дисперсий. Верхняя ( σ + ²) и нижняя ( σ - ²) вариации определяются как

${\ displaystyle \ sigma _ {+} ^ {2} = {\ frac {\ sum _ {xgt; m} (xm) ^ {2}} {n-1}},}$

${\ displaystyle \ sigma _ {-} ^ {2} = {\ frac {\ sum _ {x lt;m} (mx) ^ {2}} {n-1}},}$

где m - среднее арифметическое для выборки, а n - количество элементов в выборке.

Дисперсия выборки - это сумма двух вариаций:

${\ displaystyle \ sigma ^ {2} = \ sigma _ {+} ^ {2} + \ sigma _ {-} ^ {2}.}$

В терминах нижней полувариантности неравенство Чебышева можно записать

${\ displaystyle \ Pr (x \ leq ma \ sigma _ {-}) \ leq {\ frac {1} {a ^ {2}}}.}$

Положив

${\ displaystyle a = {\ frac {k \ sigma} {\ sigma _ {-}}}.}$

Неравенство Чебышева теперь можно записать

${\ Displaystyle \ Pr (х \ Leq mk \ sigma) \ leq {\ frac {1} {k ^ {2}}} {\ frac {\ sigma _ {-} ^ {2}} {\ sigma ^ {2 }}}.}$

Аналогичный результат можно получить и для верхней полувариантности.

Если мы положим

${\ displaystyle \ sigma _ {u} ^ {2} = \ max (\ sigma _ {-} ^ {2}, \ sigma _ {+} ^ {2}),}$

Неравенство Чебышева можно записать

${\ displaystyle \ Pr (| x \ leq mk \ sigma |) \ leq {\ frac {1} {k ^ {2}}} {\ frac {\ sigma _ {u} ^ {2}} {\ sigma ^ {2}}}.}$

Поскольку σ u ² ≤ σ ², использование полудисперсности усиливает исходное неравенство.

Если известно, что распределение симметрично, то

${\ Displaystyle \ sigma _ {+} ^ {2} = \ sigma _ {-} ^ {2} = {\ frac {1} {2}} \ sigma ^ {2}}$

а также

${\ displaystyle \ Pr (x \ leq mk \ sigma) \ leq {\ frac {1} {2k ^ {2}}}.}$

Этот результат согласуется с результатом, полученным с использованием стандартизованных переменных.

Примечание

Неравенство с более низкой полувариантностью оказалось полезным при оценке риска ухудшения ситуации в финансах и сельском хозяйстве.

Неравенство Сельберга

Сельберг вывел неравенство для P ( x), когда a ≤ x ≤ b. Для упрощения обозначений пусть

${\ Displaystyle Y = \ альфа X + \ бета}$

куда

${\ displaystyle \ alpha = {\ frac {2k} {ba}}}$

а также

${\ displaystyle \ beta = {\ frac {- (b + a) k} {ba}}.}$

В результате этого линейного преобразования P ( a ≤ X ≤ b) становится равным P (| Y | ≤ k).

Среднее ( μ X) и дисперсия ( σ X) X связаны со средним ( μ Y) и дисперсией ( σ Y) Y:

${\ displaystyle \ mu _ {Y} = \ alpha \ mu _ {X} + \ beta}$

${\ displaystyle \ sigma _ {Y} ^ {2} = \ alpha ^ {2} \ sigma _ {X} ^ {2}.}$

В этих обозначениях неравенство Сельберга утверждает, что

${\ Displaystyle \ Pr (| Y | lt;k) \ geq {\ frac {(k- \ mu _ {Y}) ^ {2}} {(k- \ mu _ {Y}) ^ {2} + \ sigma _ {Y} ^ {2}}} \ quad {\ text {if}} \ quad \ sigma _ {Y} ^ {2} \ leq \ mu _ {Y} (k- \ mu _ {Y}) }$

${\ displaystyle \ Pr (| Y | lt;k) \ geq 1 - {\ frac {\ sigma _ {Y} ^ {2} + \ mu _ {Y} ^ {2}} {k ^ {2}}} \ quad {\ text {if}} \ quad \ mu _ {Y} (k- \ mu _ {Y}) \ leq \ sigma _ {Y} ^ {2} \ leq k ^ {2} - \ mu _ {Y} ^ {2}}$

${\ Displaystyle P (| Y | lt;k) \ geq 0 \ quad {\ text {if}} \ quad k ^ {2} - \ mu _ {Y} ^ {2} \ leq \ sigma _ {Y} ^ {2}.}$

Это, как известно, наилучшие возможные границы.

Неравенство Кантелли

Неравенство Кантелли из-за Франческо Паоло Кантелли утверждает, что для реальной случайной величины ( X) со средним ( μ) и дисперсией ( σ ²)

${\ Displaystyle P (X- \ mu \ geq a) \ leq {\ frac {\ sigma ^ {2}} {\ sigma ^ {2} + a ^ {2}}}}$

где a ≥ 0.

Это неравенство может быть использовано для доказательства одностороннего варианта неравенства Чебышева с k gt; 0

${\ displaystyle \ Pr (X- \ mu \ geq k \ sigma) \ leq {\ frac {1} {1 + k ^ {2}}}.}$

Граница для однохвостого варианта, как известно, резкая. Чтобы увидеть это, рассмотрим случайную величину X, которая принимает значения

${\ displaystyle X = 1}$ с вероятностью ${\ displaystyle {\ frac {\ sigma ^ {2}} {1+ \ sigma ^ {2}}}}$

${\ Displaystyle X = - \ sigma ^ {2}}$ с вероятностью ${\ displaystyle {\ frac {1} {1+ \ sigma ^ {2}}}.}$

Тогда E ( X) = 0, E ( X ²) = σ ² и P ( X lt;1) = 1 / (1 + σ ²).

Приложение: расстояние между средним и медианным значением

Односторонний вариант может использоваться для доказательства утверждения о том, что для распределений вероятностей, имеющих ожидаемое значение и медиану, среднее и медианное никогда не могут отличаться друг от друга более чем на одно стандартное отклонение. Чтобы выразить это в символах, пусть μ, ν и σ будут соответственно средним, медианным и стандартным отклонением. потом

${\ displaystyle \ left | \ mu - \ nu \ right | \ leq \ sigma.}$

Нет необходимости предполагать, что дисперсия конечна, потому что это неравенство тривиально верно, если дисперсия бесконечна.

Доказательство таково. Принятие k  = 1 в формулировке одностороннего неравенства дает:

${\ displaystyle \ Pr (X- \ mu \ geq \ sigma) \ leq {\ frac {1} {2}} \ подразумевает \ Pr (X \ geq \ mu + \ sigma) \ leq {\ frac {1} { 2}}.}$

Меняя знак X и μ, получаем

${\ Displaystyle \ Pr (Икс \ leq \ mu - \ sigma) \ leq {\ frac {1} {2}}.}$

Медианной по определению является любое действительное число  m, удовлетворяющее неравенствам

${\ displaystyle \ operatorname {P} (X \ leq m) \ geq {\ frac {1} {2}} {\ text {and}} \ operatorname {P} (X \ geq m) \ geq {\ frac { 1} {2}}}$

это означает, что медиана находится в пределах одного стандартного отклонения от среднего. Доказательство, используя неравенство Йенсена также существует.

Неравенство Бхаттачарьи

Бхаттачарья расширил неравенство Кантелли, используя третий и четвертый моменты распределения.

Пусть μ = 0 и σ ² дисперсия. Пусть γ = E ( X ³) / σ ³ и κ = E ( X ⁴) / σ ⁴.

Если k ² - k γ - 1gt; 0, то

${\ Displaystyle Р (Иксgt; к \ сигма) \ Leq {\ гидроразрыва {\ каппа - \ гамма ^ {2} -1} {(\ каппа - \ гамма ^ {2} -1) (1 + к ^ {2 }) + (k ^ {2} -k \ gamma -1)}}.}$

Необходимость k ² - k γ - 1gt; 0 требует, чтобы k было достаточно большим.

Неравенство Митценмахера и Упфала

Митценмахер и Упфаль отмечают, что

${\ Displaystyle (X- \ OperatorName {E} [X]) ^ {2k}gt; 0}$

для любого целого k gt; 0 и что

${\ Displaystyle \ OperatorName {E} [(X- \ OperatorName {E} (X)) ^ {2k}]}$

является 2 к ^й центральному моменту. Затем они показывают, что при t gt; 0

${\ Displaystyle \ Pr \ left (| X- \ OperatorName {E} [X] |gt; т \ OperatorName {E} [(X- \ Operatorname {E} [X]) ^ {2k}] ^ {1 / 2k } \ right) \ leq {\ frac {1} {t ^ {2k}}}.}$

При k = 1 получаем неравенство Чебышева. При t ≥ 1, k gt; 2 и в предположении, что k- ^й момент существует, эта оценка более жесткая, чем неравенство Чебышева.

Связанные неравенства

Известны и некоторые другие связанные с этим неравенства.

Неравенство Зелена

Зелен показал, что

${\ Displaystyle \ Pr (Икс- \ му \ geq к \ сигма) \ leq \ left [1 + k ^ {2} + {\ frac {\ left (k ^ {2} -k \ theta _ {3} - 1 \ right) ^ {2}} {\ theta _ {4} - \ theta _ {3} ^ {2} -1}} \ right] ^ {- 1}}$

с участием

${\ displaystyle k \ geq {\ frac {\ theta _ {3} + {\ sqrt {\ theta _ {3} ^ {2} +4}}} {2}}, \ qquad \ theta _ {m} = {\ frac {M_ {m}} {\ sigma}}}$

где M m - m -й момент, а σ - стандартное отклонение.

Неравенство Хэ, Чжана и Чжана

Для любого набора из n неотрицательных независимых случайных величин X i с математическим ожиданием 1

${\ displaystyle \ Pr \ left ({\ frac {\ sum _ {i = 1} ^ {n} X_ {i}} {n}} - 1 \ geq {\ frac {1} {n}} \ right) \ leq {\ frac {7} {8}}.}$

Лемма Хёффдинга

Основная статья: лемма Хёффдинга

Пусть X - случайная величина с a ≤ X ≤ b и E [ X ] = 0, тогда для любого s gt; 0 имеем

${\ displaystyle E \ left [e ^ {sX} \ right] \ leq e ^ {{\ frac {1} {8}} s ^ {2} (ba) ^ {2}}.}$

Связь Ван Зуйлена

Пусть X i - набор независимых случайных величин Радемахера : Pr ( X i = 1) = Pr ( X i = −1) = 0,5. потом

${\ displaystyle \ Pr \ left (\ left | {\ frac {\ sum _ {i = 1} ^ {n} X_ {i}} {\ sqrt {n}}} \ right | \ leq 1 \ right) \ geq 0.5.}$

Оценка точна и лучше, чем та, которая может быть получена из нормального распределения (приблизительно Prgt; 0,31).

Унимодальные распределения

Функция распределения F является унимодальной в ν, если ее кумулятивная функция распределения является выпуклой на (−∞, ν) и вогнутой на ( ν, ∞). Эмпирическое распределение можно проверить на унимодальность с помощью теста наклона.

В 1823 году Гаусс показал, что для одномодального распределения с нулевой модой

${\ displaystyle P (| X | \ geq k) \ leq {\ frac {4 \ operatorname {E} (X ^ {2})} {9k ^ {2}}} \ quad {\ text {if}} \ четырехъядерный к ^ {2} \ geq {\ frac {4} {3}} \ operatorname {E} (X ^ {2}),}$

${\ displaystyle P (| X | \ geq k) \ leq 1 - {\ frac {k} {{\ sqrt {3}} \ operatorname {E} (X ^ {2})}} \ quad {\ text { if}} \ quad k ^ {2} \ leq {\ frac {4} {3}} \ operatorname {E} (X ^ {2}).}$

Если мода не равна нулю, а среднее ( μ) и стандартное отклонение ( σ) конечны, то, обозначая медиану как ν и среднеквадратичное отклонение от моды через ω, мы имеем

${\ displaystyle \ sigma \ leq \ omega \ leq 2 \ sigma}$

(с первым равенством, когда мода равна среднему, а вторым, когда мода составляет √3 стандартных отклонений от среднего в однородном распределении, принимая моду на одном конце) и

${\ displaystyle | \ nu - \ mu | \ leq {\ sqrt {\ frac {3} {4}}} \ omega.}$

Винклер в 1866 г. распространил неравенство Гаусса на r ^-ые моменты, когда r gt; 0 и распределение является унимодальным с нулевой модой:

${\ Displaystyle P (| Икс | \ GEQ К) \ Leq \ left ({\ frac {r} {r + 1}} \ right) ^ {r} {\ frac {\ operatorname {E} (| X |) ^ {r}} {k ^ {r}}} \ quad {\ text {if}} \ quad k ^ {r} \ geq {\ frac {r ^ {r}} {(r + 1) ^ {r +1}}} \ operatorname {E} (| X | ^ {r}),}$

${\ Displaystyle P (| Икс | \ GEQ К) \ Leq \ left (1- \ left [{\ гидроразрыва {k ^ {r}} {(г + 1) \ OperatorName {E} (| X |) ^ { r}}} \ right] ^ {1 / r} \ right) \ quad {\ text {if}} \ quad k ^ {r} \ leq {\ frac {r ^ {r}} {(r + 1) ^ {r + 1}}} \ operatorname {E} (| X | ^ {r}).}$

Граница Гаусса была впоследствии уточнена и распространена на отклонения от среднего, а не на моду, обусловленную неравенством Высочанского – Петунина. Последний был расширен Дхармадхикари и Джоаг-Девом.

${\ Displaystyle P (| X |gt; к) \ Leq \ max \ left (\ left [{\ frac {r} {(r + 1) k}} \ right] ^ {r} E | X ^ {r} |, {\ frac {s} {(s-1) k ^ {r}}} E | X ^ {r} | - {\ frac {1} {s-1}} \ right)}$

где s - постоянная, удовлетворяющая как s gt; r + 1, так и s ( s  -  r  - 1) =  r ^r и  r  gt; 0.

Можно показать, что эти неравенства являются наилучшими из возможных и что дальнейшее уточнение границ требует наложения дополнительных ограничений на распределения.

Унимодальные симметричные распределения

Границы этого неравенства также можно уточнить, если распределение является одновременно унимодальным и симметричным. Эмпирическое распределение можно проверить на симметрию с помощью ряда тестов, включая R * Маквильямса. Известно, что дисперсия одномодального симметричного распределения с конечным носителем [,  Ь ] меньше или равно ( б  -  в) ² /12.

Пусть распределение поддерживается на конечном интервале [- N,  N ] и дисперсия конечна. Пусть режим распределения равен нулю, и измените масштаб дисперсии до 1. Пусть k  gt; 0 и предположим, что k  lt;2 N / 3. потом

${\ displaystyle P (X \ geq k) \ leq {\ frac {1} {2}} - {\ frac {k} {2 {\ sqrt {3}}}} \ quad {\ text {if}} \ quad 0 \ leq k \ leq {\ frac {2} {\ sqrt {3}}},}$

${\ displaystyle P (X \ geq k) \ leq {\ frac {2} {9k ^ {2}}} \ quad {\ text {if}} \ quad {\ frac {2} {\ sqrt {3}} } \ leq k \ leq {\ frac {2N} {3}}.}$

Если 0 lt; k ≤ 2 / √ 3, границы достигаются с плотностью

${\ displaystyle f (x) = {\ frac {1} {2 {\ sqrt {3}}}} \ quad {\ text {if}} \ quad | x | lt;{\ sqrt {3}}}$

${\ displaystyle f (x) = 0 \ quad {\ text {if}} \ quad | x | \ geq {\ sqrt {3}}.}$

Если 2 / √ 3 lt; k ≤ 2 N / 3, оценки достигаются распределением

${\ displaystyle (1- \ beta _ {k}) \ delta _ {0} (x) + \ beta _ {k} f_ {k} (x),}$

где β k = 4/3 k ², δ 0 - дельта-функция Дирака и где

${\ displaystyle f_ {k} (x) = {\ frac {1} {3k}} \ quad {\ text {if}} \ quad | x | lt;{\ frac {3k} {2}},}$

${\ displaystyle f_ {k} (x) = 0 \ quad {\ text {if}} \ quad | x | \ geq {\ frac {3k} {2}}.}$

Существование этих плотностей показывает, что оценки оптимальны. Поскольку N произвольно эти границы применимы к любому значению N.

Неравенство Кэмп-Мейделла является родственным неравенством. Для абсолютно непрерывного одномодального и симметричного распределения

${\ displaystyle P (| X- \ mu | \ geq k \ sigma) \ leq 1 - {\ frac {k} {\ sqrt {3}}} \ quad {\ text {if}} \ quad k \ leq { \ frac {2} {\ sqrt {3}}},}$

${\ displaystyle P (| X- \ mu | \ geq k \ sigma) \ leq {\ frac {4} {9k ^ {2}}} \ quad {\ text {if}} \ quad kgt; {\ frac { 2} {\ sqrt {3}}}.}$

DasGupta показала, что если известно, что распределение нормальное

${\ Displaystyle P (| X- \ mu | \ geq k \ sigma) \ leq {\ frac {1} {3k ^ {2}}}.}$

Примечания

Эффекты симметрии и унимодальности

Симметрия распределения уменьшает границы неравенства в 2 раза, в то время как унимодальность уточняет границы в 4/9 раз.

Поскольку среднее значение и мода в унимодальном распределении различаются не более чем на √ 3 стандартных отклонения, не более 5% симметричного унимодального распределения лежит за пределами (2 √ 10  + 3 √ 3) / 3 стандартных отклонения среднего (приблизительно 3,840 стандартных отклонений).). Это более точно, чем оценки, обеспечиваемые неравенством Чебышева (примерно 4,472 стандартных отклонения).

Эти границы для среднего менее точны, чем те, которые могут быть получены только на основе симметрии распределения, которая показывает, что максимум 5% распределения находится за пределами приблизительно 3,162 стандартных отклонений среднего. Неравенство Vysochanskiï-Петуния дополнительно обостряет эту оценку, показав, что для такого распределения в том, что не более 5% от распределения лежит за пределами 4 √ 5 /3 (примерно 2,981) стандартных отклонений от среднего значения.

Симметричные унимодальные распределения

Для любого симметричного унимодального распределения

• максимум приблизительно 5,784% распределения лежит за пределами 1,96 стандартных отклонений режима
• не более 5% от распределения лежит за пределами 2 √ 10 /3 (приблизительно 2.11) стандартных отклонений от режима

Нормальные распределения

Неравенство DasGupta утверждает, что для нормального распределения не менее 95% находится в пределах примерно 2,582 стандартных отклонений от среднего. Это менее резкое, чем истинное значение (приблизительно 1,96 стандартного отклонения среднего).

Границы для конкретных дистрибутивов

• DasGupta определила набор наилучших возможных оценок нормального распределения для этого неравенства.
• Стелига и Шиналь распространили эти границы на распределение Парето.
• Гречук и др. разработал общий метод получения наилучших возможных оценок в неравенстве Чебышева для любого семейства распределений и любой меры риска отклонения вместо стандартного отклонения. В частности, они вывели неравенство Чебышева для распределений с логарифмически вогнутыми плотностями.

Ноль означает

Когда среднее ( μ) равно нулю, неравенство Чебышева принимает простой вид. Пусть σ ² - дисперсия. потом

${\ Displaystyle Р (| Икс | \ geq 1) \ leq \ sigma ^ {2}.}$

При тех же условиях неравенство Кантелли принимает вид

${\ displaystyle P (X \ geq 1) \ leq {\ frac {\ sigma ^ {2}} {1+ \ sigma ^ {2}}}.}$

Отклонение от единицы

Если при этом E ( X ²) = 1 и E ( X ⁴) = ψ, то для любого 0 ≤ ε ≤ 1

${\ Displaystyle \ Pr (| Икс |gt; \ varepsilon) \ geq {\ frac {(1- \ epsilon ^ {2}) ^ {2}} {\ psi -1+ (1- \ varepsilon ^ {2}) ^ {2}}} \ geq {\ frac {(1- \ varepsilon ^ {2}) ^ {2}} {\ psi}}.}$

Первое неравенство точное. Это известно как неравенство Пэли – Зигмунда.

Также известно, что для случайной величины, удовлетворяющей указанным выше условиям,

${\ displaystyle P (X \ geq \ varepsilon) \ geq {\ frac {C_ {0}} {\ psi}} - {\ frac {C_ {1}} {\ sqrt {\ psi}}} \ varepsilon + { \ frac {C_ {2}} {\ psi {\ sqrt {\ psi}}}} \ varepsilon}$

куда

${\ displaystyle C_ {0} = 2 {\ sqrt {3}} - 3 \ quad (\ приблизительно 0,464),}$

${\ displaystyle C_ {1} = 1,397,}$

${\ displaystyle C_ {2} = 0,0231.}$

Также известно, что

${\ displaystyle \ Pr (Xgt; 0) \ geq {\ frac {C_ {0}} {\ psi}}.}$

Значение C 0 является оптимальным и оценки точны, если

${\ displaystyle \ psi \ geq {\ frac {3} {{\ sqrt {3}} + 1}} \ quad (\ приблизительно 1.098).}$

Если

${\ displaystyle \ psi \ leq {\ frac {3} {{\ sqrt {3}} + 1}}}$

тогда точная оценка

${\ displaystyle P (Xgt; 0) \ geq {\ frac {2} {3+ \ psi + {\ sqrt {(1+ \ psi) ^ {2} -4}}}}.}$

Интегральное неравенство Чебышева

Существует второе (менее известное) неравенство, также названное именем Чебышева.

Если f, g  : [ a, b ] → R - две монотонные функции одинаковой монотонности, то

${\ displaystyle {\ frac {1} {ba}} \ int _ {a} ^ {b} \! f (x) g (x) \, dx \ geq \ left [{\ frac {1} {ba} } \ int _ {a} ^ {b} \! f (x) \, dx \ right] \ left [{\ frac {1} {ba}} \ int _ {a} ^ {b} \! g ( x) \, dx \ right].}$

Если f и g имеют противоположную монотонность, то указанное выше неравенство работает в обратном порядке.

Это неравенство связано с неравенством Йенсена, неравенства Канторовича, в неравенстве Эрмита-Адамара и гипотезы Уолтера.

Другое неравенство

Есть также ряд других неравенств, связанных с Чебышевым:

• Неравенство сумм Чебышева
• Неравенства Чебышева – Маркова – Стилтьеса.

Превращение холдейна

Одно из применений неравенства Чебышева в приложениях - создание доверительных интервалов для переменных с неизвестным распределением. Холдейн отметил, используя уравнение, полученное Кендаллом, что, если переменная ( x) имеет нулевое среднее значение, единичную дисперсию, а также конечную асимметрию ( γ) и эксцесс ( κ), тогда вариация может быть преобразована в стандартную оценку с нормальным распределением ( z):

${\ displaystyle z = x - {\ frac {\ gamma} {6}} (x ^ {2} -1) + {\ frac {x} {72}} [2 \ gamma ^ {2} (4x ^ { 2} -7) -3 \ kappa (x ^ {2} -3)] + \ cdots}$

Это преобразование может быть полезно как альтернатива неравенству Чебышева или как дополнение к нему для получения доверительных интервалов для переменных с неизвестными распределениями.

Хотя это преобразование может быть полезно для умеренно искаженных и / или куртотических распределений, оно плохо работает, когда распределение заметно искажено и / или куртотическое.

Примечания

Агентство по охране окружающей среды предложило лучшие практики использования неравенства Чебышева для оценки доверительных интервалов. lt;Исхgt; Расчет верхних доверительных пределов воздействия точечных скоплений на опасных сайтах отходов (Отчет). Управление по чрезвычайным ситуациям и восстановлению Агентства по охране окружающей среды США. Декабрь 2002. Дата обращения 5 августа 2016.

Смотрите также

• Многомерное неравенство Чебышева.
• Неравенство концентрации - сводка хвостовых границ случайных величин.
• Расширение Корниш – Фишера
• Неравенство Итона
• Неравенство Колмогорова
• Доказательство слабого закона больших чисел с помощью неравенства Чебышева
• Теорема Ле Кама
• Неравенство Пэли – Зигмунда.
• Неравенство Высочанского – Петунина - более сильный результат, применимый к унимодальным вероятностным распределениям

использованная литература

дальнейшее чтение

• А. Папулис (1991), Вероятность, случайные величины и случайные процессы, 3-е изд. Макгроу-Хилл. ISBN   0-07-100870-5. С. 113–114.
• Г. Гриммет и Д. Стирзакер (2001), Вероятность и случайные процессы, 3-е изд. Оксфорд. ISBN   0-19-857222-0. Раздел 7.3.

внешние ссылки

• "Неравенство Чебышева в теории вероятностей", Математическая энциклопедия, EMS Press, 2001 [1994]
• Формальное доказательство в системе Мицара.
• Неравенство Ленгларта
• Неравенство Буркхолдера-Дэвиса-Ганди