Kovaryans matrisi

İstatistik'te, kovaryans matrisi (veya varyans-kovaryans matrisi veya varyans matrisi), rassal vektörlerin elemanları arasındaki kovaryansları içeren matristir. Kovaryans matrisi, skaler-değerli rassal değişkenler için var olan varyans kavramının çok boyutlu durumlara genelleştirilmesidir.

Merkezi noktası (1, 3) olan ve yaklaşık (0,878,0,778) yönde standart sapma değeri 3 ve ona dikey ortogonal yönde 1 olan bir çokdeğişirli normal dağılım. x ve y ortakca değiştikleri için, x ve y kısım varyansları bu dağılımı tam olarak tanımlamamaktadır ve tüm tanımlama için (2 x 2) dereceli bir kovaryans matrisi verilmesi gerekir. Grafikteki okların yönleri bu kovaryans matrisinin eigenvektörlerini göstermektedir. (Bunlar karşıt eigendeğerlerin kare kökleri ile yeniden boyutlandırılmışlardır.)

Tanımlama

Eğer şu sütun vektörü içine

\mathbf {X} ={\begin{bmatrix}X_{1}\\\vdots \\X_{n}\end{bmatrix}}

giren değişkenlerin her biri sonlu varyansı olan rassal değişken iseler, o halde (i, j) elemanı bir kovaryans olan matris Σ kovaryans matrisi olur:

\Sigma _{ij}=\mathrm {cov} (X_{i},X_{j})=\mathrm {E} {\begin{bmatrix}(X_{i}-\mu _{i})(X_{j}-\mu _{j})\end{bmatrix}}

burada

\mu _{i}=\mathrm {E} (X_{i})\,

X vektöründeki iinci değişkenin beklenen değeri olur. Diğer bir deyişle, elimizde şu vardır:

\Sigma ={\begin{bmatrix}\mathrm {E} [(X_{1}-\mu _{1})(X_{1}-\mu _{1})]&\mathrm {E} [(X_{1}-\mu _{1})(X_{2}-\mu _{2})]&\cdots &\mathrm {E} [(X_{1}-\mu _{1})(X_{n}-\mu _{n})]\\\\\mathrm {E} [(X_{2}-\mu _{2})(X_{1}-\mu _{1})]&\mathrm {E} [(X_{2}-\mu _{2})(X_{2}-\mu _{2})]&\cdots &\mathrm {E} [(X_{2}-\mu _{2})(X_{n}-\mu _{n})]\\\\\vdots &\vdots &\ddots &\vdots \\\\\mathrm {E} [(X_{n}-\mu _{n})(X_{1}-\mu _{1})]&\mathrm {E} [(X_{n}-\mu _{n})(X_{2}-\mu _{2})]&\cdots &\mathrm {E} [(X_{n}-\mu _{n})(X_{n}-\mu _{n})]\end{bmatrix}}.

Bu matrisin tersi' olan matris, yani $\Sigma ^{-1}$ , ters kovaryans matrisi ya da konsantrasyon matrisi veya kesinlik matrisi olarak anılır.^[1] Bu "ters kovaryans matrisi"nın elemanları kısmî korelasyonlar veya kısmî varyanslara yapılan atıflarla açıklanabilirler.

Kulanılan notasyonlarda ve isimlendirmede çatışmalar

İstatistik literatüründe bu kavram için isimlendirme tek-örnek olarak degil, değişik şekillerde yapılmaktadır:

Amerikan olasılık teoricisi William Feller'in takipcileri bu matrise X rassal vektörünün Varyans matrisi adını verirler; çünkü bu tek-boyutlu varyans kavramının doğal olarak daha yüksek boyutlarda genelleştirilmesidir.
Diğerleri bu matris covaryans matris olarak isimlendirirler, cunku bu $X$ matrisinin skaler parcalarinin arasinda olan kovaryanslarin matrisidir.

Böylece

\operatorname {var} ({\textbf {X}})=\operatorname {cov} ({\textbf {X}})=\mathrm {E} \left[({\textbf {X}}-\mathrm {E} [{\textbf {X}}])({\textbf {X}}-\mathrm {E} [{\textbf {X}}])^{\top }\right].

Ama iki vektör arasındaki karşılıklı-kovaryans için notasyon sadece tek bir standarta uyar:

\operatorname {cov} ({\textbf {X}},{\textbf {Y}})=\mathrm {E} \left[({\textbf {X}}-\mathrm {E} [{\textbf {X}}])({\textbf {Y}}-\mathrm {E} [{\textbf {Y}}])^{\top }\right].

Özel var notasyonu William Feller'in An Introduction to Probability Theory and Its Applications, adlı eserinde kullanılır; ama her iki alternatif notasyon da standart olarak kullanılmaktadır; bu iki değişik başta açılanıp öğrenilmekte ve anlayıp kullananlar için bir anlam karışıklığına neden olmamaktadır.

$\Sigma$ matrisi ise çok zaman varyans-kovaryans matris olarak anılır; çünkü bu matrisin diagonal elemanları varyanslardır.

Özellikleri

X p-boyutlu bir rassal degisken ve Y q-boyutlu bir rassal degisken için $\Sigma =\mathrm {E} \left[\left({\textbf {X}}-\mathrm {E} [{\textbf {X}}]\right)\left({\textbf {X}}-\mathrm {E} [{\textbf {X}}]\right)^{\top }\right]$ ve $\mu =\mathrm {E} ({\textbf {X}})$ , olarak verilmisse, su temel ozellikler bulunmaktadır:

$\Sigma =\mathrm {E} (\mathbf {XX^{\top }} )-\mathbf {\mu } \mathbf {\mu ^{\top }}$
$\Sigma \,$ bir positif semi-definit matrisdir.
$\operatorname {var} (\mathbf {AX} +\mathbf {a} )=\mathbf {A} \,\operatorname {var} (\mathbf {X} )\,\mathbf {A^{\top }}$
$\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )^{\top }$
$\operatorname {cov} (\mathbf {X} _{1}+\mathbf {X} _{2},\mathbf {Y} )=\operatorname {cov} (\mathbf {X} _{1},\mathbf {Y} )+\operatorname {cov} (\mathbf {X} _{2},\mathbf {Y} )$
Eger p = q ise o zaman $\operatorname {var} (\mathbf {X} +\mathbf {Y} )=\operatorname {var} (\mathbf {X} )+\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )+\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )+\operatorname {var} (\mathbf {Y} )$
$\operatorname {cov} (\mathbf {AX} ,\mathbf {B} ^{\top }\mathbf {Y} )=\mathbf {A} \,\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )\,\mathbf {B}$
Eğer $\mathbf {X}$ ve $\mathbf {Y}$ birbirlerinden bağımsız iseler, o halde

$\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=0$

burada $\mathbf {X} ,\mathbf {X} _{1}$ ve $\mathbf {X} _{2}$ rassal p×1 derecede vektör, $\mathbf {Y}$ rassal q×1 derecede vektör, $\mathbf {a}$ ise q×1 derecede vektör, $\mathbf {A}$ ve $\mathbf {B}$ (q×p) dereceli matrislerdir.

Bu kovaryans matrisi değişik alanlarda uygulamaları bulunan bir matematik araçtır. Bu matrisden bir transformayon matrisi çıkartılabilir ve bu veride bulunan bütün korelasyonların elimine edilebilmesini mümkun kılar. Bu transformasyon matrisi bularak tüm korelasyonları elimine etme analizine temel bileşenler ("principal components) analizi adı verilir.

Bir doğrusal operatör olarak

Hangi matrisler kovaryans matrisleridir?

Uygun bir kovaryans matrisi nasıl bulunur

Bazı uygulamalarda (örneğin sadece kısmen gözumlenen verilerden veri modeli kurmada) bir verilmiş belirli (gözümlenen kovaryanslardan oluşmuş) bir simetrik matrise "en yakın" kovaryans matrisi bulmak istenebilir. 2002 yılında, Higham ^[2] "ağırlıklı Frobenius normu" kullanarak en yakınlılık kavramını formalize etmiştir ve böylece en yakın kovaryans matrisi bulmak için gereken yöntemi vermistir.

Kompleks rassal vektorler

Kestirim

Bir çoklu değişirli normal dağılım için kovaryans matrisinin maksimum-olabilirlilik kestrimcisininin elde edilmesi, belki çok zeki bir ince tranformasyon ile kolayca yapılabilir. Bakın kovaryans matrisleri kestimi

Olasılık yoğunluk fonksiyonu

Bir $n$ tane korelasyonlu rassal değişken dizisi için olasılık yoğunluk fonksiyonu, n dereceli bir Gauss-tipi vektor olan birlesik olasılık fonksiyonu olup Maksimum olabilirlik maddesinde aciklanmaktadir.

Dipnotlar

^ Wasserman, Larry (2004), All of Statistics: A Concise Course in Statistical Inference (İngilizce)
^ Higham, Nicholas J. ""Computing the nearest correlation matrix—a problem from finance" IMA Journal of Numerical Analysis, Cilt 22 No.3 say.329

Ayrıca bakınız

Dış bağlantılar

İngilizce Wikipedia "Covariance matrix" maddesi 15 Şubat 2010 tarihinde Wayback Machine sitesinde arşivlendi. (İngilizce) (Erişme:17.12.2009)
Weisstein, Eric W., "Covariance Matrix", MathWorld--A Wolfram Web Resource26 Temmuz 2019 tarihinde Wayback Machine sitesinde arşivlendi. (İngilizce) (Erişme:17.12.2009)
N.G. van Kampen, (1981) Stochastic processes in physics and chemistry. New York: North-Holland, (İngilizce)

[1] Wasserman, Larry (2004), All of Statistics: A Concise Course in Statistical Inference (İngilizce)

[2] Higham, Nicholas J. ""Computing the nearest correlation matrix—a problem from finance" IMA Journal of Numerical Analysis, Cilt 22 No.3 say.329

[1]

[2]