Преобразование отбеливания

редактировать

A Преобразование отбеливания или преобразование сферирования - это линейное преобразование, которое преобразует вектор случайных величин с известной ковариационной матрицей в набор новых переменных, ковариация которых является единичной матрицей, что означает, что они некоррелированы и у каждого есть дисперсия 1. Преобразование называется «отбеливанием», поскольку оно изменяет входной вектор на вектор белого шума.

Некоторые другие преобразования тесно связаны с отбеливанием:

преобразование декорреляции удаляет только корреляции, но оставляет дисперсии нетронутыми,
преобразование стандартизации устанавливает дисперсию на 1, но оставляет корреляции нетронутыми,
a преобразование окраски преобразует вектор белых случайных величин в случайный вектор с указанным ковариационная матрица.

Содержание

1 Определение
2 Отбеливание матрицы данных
3 Реализация R
4 См. также
5 Ссылки
6 Внешние ссылки

Определение

Предположим, $X {\ displaystyle X}$ $X$ - это случайный вектор (столбец) с невырожденной ковариационной матрицей $Σ {\ displaystyle \ Sigma}$ $\ Sigma$ и означает $0 {\ displaystyle 0}$ ${ \ displaystyle 0}$ . Затем преобразование $Y = WX {\ displaystyle Y = WX}$ ${\ displaystyle Y = WX}$ с матрицей отбеливания $W {\ displaystyle W}$ $W$ , удовлетворяющей условию $WTW = Σ - 1 {\ displaystyle W ^ {\ mathrm {T}} W = \ Sigma ^ {- 1}}$ ${\ displaystyle W ^ {\ mathrm {T}} W = \ Sigma ^ {- 1}}$ возвращает белый случайный вектор $Y {\ displaystyle Y}$ $Y$ с единичной диагональной ковариацией.

Существует бесконечно много возможных отбеливающих матриц $W {\ displaystyle W}$ $W$ , которые все удовлетворяют вышеуказанному условию. Обычно используются следующие варианты: $W = Σ - 1/2 {\ displaystyle W = \ Sigma ^ {- 1/2}}$ ${\ displaystyle W = \ Sigma ^ {- 1/2}}$ (отбеливание Махаланобиса или ZCA), разложение Холецкого из $Σ - 1 {\ displaystyle \ Sigma ^ {- 1}}$ ${\ displaystyle \ Sigma ^ {- 1}}$ (отбеливание по Холецкому), или собственная система $Σ {\ displaystyle \ Sigma}$ $\ Sigma$ (отбеливание PCA).

Оптимальные преобразования отбеливания можно выделить, исследуя кросс-ковариацию и взаимную корреляцию $X {\ displaystyle X}$ $X$ и $Y {\ displaystyle Y}$ $Y$ . Например, создается уникальное оптимальное преобразование отбеливания, обеспечивающее максимальную покомпонентную корреляцию между исходным $X {\ displaystyle X}$ $X$ и отбеленным $Y {\ displaystyle Y}$ $Y$ . с помощью отбеливающей матрицы $W = P - 1/2 V - 1/2 {\ displaystyle W = P ^ {- 1/2} V ^ {- 1/2}}$ ${\ displaystyle W = P ^ {- 1/2} V ^ {- 1/2}}$ где $P {\ displaystyle P}$ $P$ - это матрица корреляции, а $V {\ displaystyle V}$ $V$ - матрица дисперсии.

Отбеливание матрицы данных

Отбеливание матрицы данных следует за тем же преобразованием, что и для случайных величин. Эмпирическое преобразование отбеливания получают путем оценки ковариации (например, с помощью максимального правдоподобия ) и последующего построения соответствующей оценочной матрицы отбеливания (например, с помощью разложения Холецкого ).

Реализация R

Реализация нескольких процедур отбеливания в R, включая отбеливание ZCA и отбеливание PCA, а также отбеливание CCA, доступна в «отбеливающий» пакет R, опубликованный на CRAN.

См. также

Ссылки

Внешние ссылки

http://courses.media.mit.edu/2010fall/mas622j/whiten.pdf
Преобразование отбеливания ZCA. Приложение A «Изучение нескольких слоев функций из крошечных изображений» А. Крижевского.