Transformacja wybielająca - Whitening transformation

Wybielania transformacji lub kulistości transformacja jest przekształcenie liniowe , który przekształca to wektor zmiennych losowych ze znaną macierzy kowariancji w zestawem nowych zmiennych, których kowariancji jest macierzą jednostkową , to znaczy, że są skorelowane i każdy ma wariancję 1. Przekształcenie jest nazywane „wybielanie”, ponieważ zmienia wektor wejściowy na wektor białego szumu .

Kilka innych przemian jest ściśle związanych z wybielaniem:

1. dekorelacji przekształcić usuwa tylko korelacje ale pozostawia nienaruszone wariancji,
2. standaryzacja przekształcić zestawy wariancji do 1, ale pozostawia nienaruszone korelacje,
3. barwienia faza obróbki przekształca wektor białych zmiennych losowych w sposób losowy wektor z określonej macierzy kowariancji.

Definicja

Załóżmy, że jest to losowy (kolumnowy) wektor z nieosobliwą macierzą kowariancji i średnią . Następnie transformacja z macierzą wybielającą spełniającą warunek daje wybielony wektor losowy z jednostkową kowariancją diagonalną. ${\ Displaystyle X}$${\ Displaystyle \ Sigma}$${\ Displaystyle 0}$${\ Displaystyle Y = WX}$ ${\ Displaystyle W}$${\ Displaystyle W ^ {\ operatorname {T}} W = \ Sigma ^ {-1}}$${\ Displaystyle Y}$

Istnieje nieskończenie wiele możliwych matryc wybielających, które spełniają powyższy warunek. Powszechnie stosowane są wybory (Mahalanobisa lub ZCA wybielanie), gdzie jest rozkład choleskiego od (Cholesky wybielanie) lub eigen-System (PCA wybielanie). ${\ Displaystyle W}$${\ Displaystyle W = \ Sigma ^ {-1/2}}$${\ Displaystyle W = L ^ {T}}$${\ Displaystyle L}$${\ Displaystyle \ Sigma ^ {-1}}$${\ Displaystyle \ Sigma}$

Optymalne transformacje wybielające można wyróżnić, badając kowariancję krzyżową i korelację krzyżową i . Na przykład, unikalna optymalna transformacja wybielania osiągająca maksymalną korelację składową między oryginałem a wybielaczem jest wytwarzana przez macierz wybielania, gdzie jest macierz korelacji i macierz wariancji. ${\ Displaystyle X}$${\ Displaystyle Y}$${\ Displaystyle X}$${\ Displaystyle Y}$${\ Displaystyle W = P ^ {-1/2} V ^ {-1/2}}$${\displaystyle P}$${\ Displaystyle V}$

Wybielanie matrycy danych

Wybielanie macierzy danych przebiega tak samo jak w przypadku zmiennych losowych. Empiryczna transformacja wybielania jest uzyskiwana przez oszacowanie kowariancji (np. przez maksymalne prawdopodobieństwo ), a następnie skonstruowanie odpowiadającej oszacowanej macierzy wybielania (np. przez rozkład Cholesky'ego ).

Wdrożenie R

Wdrożenie kilku procedur wybielania w R , w tym wybielanie ZCA i wybielanie PCA ale także wybielanie CCA , jest dostępne w pakiecie „whitening” R opublikowanym na CRAN .

Zobacz też

• Decorrelacja
• Analiza głównych składowych
• Ważone najmniejsze kwadraty
• Korelacja kanoniczna

Bibliografia

Zewnętrzne linki

• http://courses.media.mit.edu/2010fall/mas622j/whiten.pdf
• Transformacja wybielania ZCA . Dodatek A: Nauka wielu warstw funkcji z Tiny Images autorstwa A. Krizhevsky'ego.