Распределение Радемахера

редактировать

Радемахер
Поддержка	$k ∈ {- 1, 1} {\ displaystyle k \ in \ {- 1, 1 \} \,}$ $k \ in \ {- 1,1 \} \,$
PMF	$f (k) = {1/2, если k = - 1, 1/2, если k = + 1, 0 в противном случае. {\ Displaystyle е (к) = \ влево \ {{\ begin {matrix} 1/2 {\ t_dv {if}} к = -1, \\ 1/2 {\ t_dv {if}} к = + 1, \\ 0 {\ t_dv {в противном случае.}} \ End {matrix}} \ right.}$ $f (k) = \ left \ {{\ begin {matrix} 1/2 {\ t_dv {if}} k = -1, \\ 1/2 {\ t_dv {if}} k = + 1, \\ 0 {\ t_dv {в противном случае.}} \ End {matrix}} \ right.$
CDF	$F (k) = {0, k < − 1 1 / 2, − 1 ≤ k < 1 1, k ≥ 1 {\displaystyle F(k)={\begin{cases}0,k<-1\\1/2,-1\leq k<1\\1,k\geq 1\end{cases}}}$ $F (k) = \ begin {cases} 0, k <-1 \\ 1 / 2, -1 \ leq k <1 \\ 1, k \ geq 1 \ end {case}$
Среднее	$0 {\ displaystyle 0 \,}$ $0 \,$
Медиана	$0 {\ displaystyle 0 \,}$ $0 \,$
Режим	Н / Д
Дисперсия	$1 {\ displaystyle 1 \,}$ $1 \,$
Асимметрия	$0 {\ displaystyle 0 \,}$ $0 \,$
Пример. эксцесс	$- 2 {\ displaystyle -2 \,}$ $-2 \,$
Энтропия	$ln ⁡ (2) {\ displaystyle \ ln (2) \,}$ $\ ln (2) \,$
MGF	$cosh ⁡ (t) { \ displaystyle \ cosh (t) \,}$ $\ cosh (t) \,$
CF	$cos ⁡ (t) {\ displaystyle \ cos (t) \,}$ $\ cos (t) \,$

В теории вероятностей и статистике распределение Радемахера (названное в честь Ганса Радемахера ) - это дискретное распределение вероятностей, где случайная переменная X имеет 50% шанс иметь +1 и 50% шанс быть -1.

A ряд распределенных переменных Радемахера можно рассматривать как простое симметричное случайное блуждание с размером шага 1.

Содержание

1 Математическая формулировка
2 Граница Ван Зуйлена
3 Границы сумм
4 Приложения
5 Связанные распределения
6 Ссылки

Математическая формулировка

функция массы вероятности этого распределения равна

f (k) = {1/2, если k = - 1, 1/2, если k = + 1, 0 в противном случае. {\ Displaystyle е (к) = \ влево \ {{\ begin {matrix} 1/2 {\ t_dv {if}} к = -1, \\ 1/2 {\ t_dv {if}} к = + 1, \\ 0 {\ t_dv {в противном случае.}} \ End {matrix}} \ right.}

f (k) = \ left \ { \ begin {matrix} 1/2 \ t_dv {if} k = -1, \\ 1/2 \ t_dv {if} k = + 1, \\ 0 \ t_dv {в противном случае.} \ end {matrix} \ right.

В терминах дельта-функции Дирака, как

f (k) = 1 2 ( δ (k - 1) + δ (k + 1)). {\ Displaystyle е (к) = {\ гидроразрыва {1} {2}} \ left (\ delta \ left (k-1 \ right) + \ delta \ left (k + 1 \ right) \ right).}

f (k) = \ frac {1} {2} \ left (\ delta \ left (k - 1 \ right) + \ delta \ left (k + 1 \ right) \ right).

Оценка Ван Зуйлена

Ван Зуйлен доказал следующий результат:

Пусть X i - набор независимых случайных величин, распределенных по Радемахеру. Тогда

Pr (| ∑ i = 1 n X i n | ≤ 1) ≥ 0,5. {\ Displaystyle \ Pr \ left (\ left | {\ frac {\ sum _ {i = 1} ^ {n} X_ {i}} {\ sqrt {n}}} \ right | \ leq 1 \ right) \ geq 0.5.}

{\ displaystyle \ Pr \ left (\ left | {\ frac {\ sum _ {i = 1} ^ {n} X_ {i}} {\ sqrt {n}}} \ right | \ leq 1 \ right) \ geq 0.5.}

Граница точная и лучше, чем та, которая может быть получена из нормального распределения (приблизительно Pr>0,31).

Границы сумм

Пусть {x i } будет набором случайных величин с распределением Радемахера. Пусть {a i } будет последовательностью действительных чисел. Тогда

Pr (∑ ixiai>t | | a | | 2) ≤ e - t 2 2 {\ displaystyle \ Pr \ left (\ sum _ {i} x_ {i} a_ {i}>t || a || _ {2} \ right) \ leq e ^ {- {\ frac {t ^ {2}} {2}}}}

\Pr \left(\sum _{i}x_{i}a_{i}>t || a || _ {2} \ right) \ leq e ^ {- {\ frac {t ^ {2}} {2}}}

где || a || 2 - евклидова норма последовательности {a i }, t>0 - действительное число, а Pr (Z) - вероятность события Z.

Пусть Y = Σ x iaiи пусть Y почти наверняка сходится ряд в банаховом пространстве. Для t>0 и s ≥ 1 имеем

Pr (| | Y | |>st) ≤ [1 c Pr (| | Y | |>t) ] CS 2 {\ displaystyle \ Pr \ left (|| Y ||>st \ right) \ leq \ left [{\ frac {1} {c}} \ Pr (|| Y ||>t) \ right] ^ {cs ^ {2}}}

\Pr \left(||Y||>st \ right) \ leq \ left [{\ frac {1} {c}} \ Pr (|| Y ||>t) \ right] ^ { cs ^ {2}}

для некоторой константы c.

Пусть p - положительное действительное число. Тогда неравенство Хинчина говорит, что

c 1 [∑ | а я | 2] 1 2 ≤ (E [| ∑ a i x i | p]) 1 p ≤ c 2 [∑ | а я | 2] 1 2 {\ displaystyle c_ {1} \ left [\ sum {\ left | a_ {i} \ right | ^ {2}} \ right] ^ {\ frac {1} {2}} \ leq \ left (E \ left [\ left | \ sum {a_ {i} x_ {i}} \ right | ^ {p} \ right] \ right) ^ {\ frac {1} {p}} \ leq c_ {2} \ left [\ sum {\ left | a_ {i} \ right | ^ {2}} \ right] ^ {\ frac {1} {2}}}

{\ displaystyle c_ {1} \ left [\ sum {\ left | a_ {i} \ right | ^ {2}} \ right] ^ {\ frac {1} {2}} \ leq \ left ( E \ left [\ left | \ sum {a_ {i} x_ {i}} \ right | ^ {p} \ right] \ right) ^ {\ frac {1} {p}} \ leq c_ {2} \ left [\ sum {\ left | a_ {i} \ right | ^ {2}} \ right] ^ {\ frac {1} {2}}}

где c 1 и c 2 - константы, зависящие только от p.

Для p ≥ 1,

$c 2 ≤ c 1 p. {\ displaystyle c_ {2} \ leq c_ {1} {\ sqrt {p}}.}$ ${\ displaystyle c_ {2} \ leq c_ {1} {\ sqrt {p}}.}$

См. также: Неравенство концентрации - сводка хвостовых границ случайных величин.

Приложения

Распределение Радемахера использовалось в начальной загрузке.

Распределение Радемахера можно использовать, чтобы показать, что нормально распределенный и некоррелированный не подразумевает независимость.

Случайные векторы с компонентами, выбранными независимо от распределения Радемахера, полезны для различных стохастических приближений, например:

The, который можно использовать для эффективного приближения след из матрица, элементы которой не доступны напрямую, а скорее неявно определены с помощью произведений матрица-вектор.
SPSA, дешевое в вычислительном отношении приближение стохастического градиента без производных, полезное для числовых вычислений. оптимизация.

случайные величины Радемахера используются в неравенстве симметризации.

связанных распределениях

распределении Бернулли : если X имеет распределение Радемахера, то $X + 1 2 {\ displaystyle {\ frac {X + 1} {2}}}$ $\ frac {X + 1} {2 }$ имеет распределение Бернулли (1/2).
Распределение Лапласа ция : Если X имеет распределение Радемахера и Y ~ Exp (λ), то XY ~ Laplace (0, 1 / λ).

Ссылки