Kovaryans matrisi

İstatistik'te, kovaryans matrisi (veya varyans-kovaryans matrisi veya varyans matrisi), rassal vektörlerin elemanları arasındaki kovaryansları içeren matristir. Kovaryans matrisi, skaler-değerli rassal değişkenler için var olan varyans kavramının çok boyutlu durumlara genelleştirilmesidir.

Eğer şu sütun vektörü içine

${\displaystyle \mathbf {X} ={\begin{bmatrix}X_{1}\\\vdots \\X_{n}\end{bmatrix}}}$

giren değişkenlerin her biri sonlu varyansı olan rassal değişken iseler, o halde (i, j) elemanı bir kovaryans olan matris Σ kovaryans matrisi olur:

${\displaystyle \Sigma _{ij}=\mathrm {cov} (X_{i},X_{j})=\mathrm {E} {\begin{bmatrix}(X_{i}-\mu _{i})(X_{j}-\mu _{j})\end{bmatrix}}}$

burada

${\displaystyle \mu _{i}=\mathrm {E} (X_{i})\,}$

X vektöründeki iinci değişkenin beklenen değeri olur. Diğer bir deyişle, elimizde şu vardır:

${\displaystyle \Sigma ={\begin{bmatrix}\mathrm {E} [(X_{1}-\mu _{1})(X_{1}-\mu _{1})]&\mathrm {E} [(X_{1}-\mu _{1})(X_{2}-\mu _{2})]&\cdots &\mathrm {E} [(X_{1}-\mu _{1})(X_{n}-\mu _{n})]\\\\\mathrm {E} [(X_{2}-\mu _{2})(X_{1}-\mu _{1})]&\mathrm {E} [(X_{2}-\mu _{2})(X_{2}-\mu _{2})]&\cdots &\mathrm {E} [(X_{2}-\mu _{2})(X_{n}-\mu _{n})]\\\\\vdots &\vdots &\ddots &\vdots \\\\\mathrm {E} [(X_{n}-\mu _{n})(X_{1}-\mu _{1})]&\mathrm {E} [(X_{n}-\mu _{n})(X_{2}-\mu _{2})]&\cdots &\mathrm {E} [(X_{n}-\mu _{n})(X_{n}-\mu _{n})]\end{bmatrix}}.}$

Bu matrisin tersi' olan matris, yani ${\displaystyle \Sigma ^{-1}}$, ters kovaryans matrisi ya da konsantrasyon matrisi veya kesinlik matrisi olarak anılır.^[1] Bu "ters kovaryans matrisi"nın elemanları kısmî korelasyonlar veya kısmî varyanslara yapılan atıflarla açıklanabilirler.

İstatistik literatüründe bu kavram için isimlendirme tek-örnek olarak degil, değişik şekillerde yapılmaktadır:

• Amerikan olasılık teoricisi William Feller'in takipcileri bu matrise X rassal vektörünün Varyans matrisi adını verirler; çünkü bu tek-boyutlu varyans kavramının doğal olarak daha yüksek boyutlarda genelleştirilmesidir.
• Diğerleri bu matris covaryans matris olarak isimlendirirler, cunku bu ${\displaystyle X}$ matrisinin skaler parcalarinin arasinda olan kovaryanslarin matrisidir.

Böylece

${\displaystyle \operatorname {var} ({\textbf {X}})=\operatorname {cov} ({\textbf {X}})=\mathrm {E} \left[({\textbf {X}}-\mathrm {E} [{\textbf {X}}])({\textbf {X}}-\mathrm {E} [{\textbf {X}}])^{\top }\right].}$

Ama iki vektör arasındaki karşılıklı-kovaryans için notasyon sadece tek bir standarta uyar:

${\displaystyle \operatorname {cov} ({\textbf {X}},{\textbf {Y}})=\mathrm {E} \left[({\textbf {X}}-\mathrm {E} [{\textbf {X}}])({\textbf {Y}}-\mathrm {E} [{\textbf {Y}}])^{\top }\right].}$

Özel var notasyonu William Feller'in An Introduction to Probability Theory and Its Applications, adlı eserinde kullanılır; ama her iki alternatif notasyon da standart olarak kullanılmaktadır; bu iki değişik başta açılanıp öğrenilmekte ve anlayıp kullananlar için bir anlam karışıklığına neden olmamaktadır.

${\displaystyle \Sigma }$ matrisi ise çok zaman varyans-kovaryans matris olarak anılır; çünkü bu matrisin diagonal elemanları varyanslardır.

X p-boyutlu bir rassal degisken ve Y q-boyutlu bir rassal degisken için ${\displaystyle \Sigma =\mathrm {E} \left[\left({\textbf {X}}-\mathrm {E} [{\textbf {X}}]\right)\left({\textbf {X}}-\mathrm {E} [{\textbf {X}}]\right)^{\top }\right]}$ ve ${\displaystyle \mu =\mathrm {E} ({\textbf {X}})}$, olarak verilmisse, su temel ozellikler bulunmaktadır:

1. ${\displaystyle \Sigma =\mathrm {E} (\mathbf {XX^{\top }} )-\mathbf {\mu } \mathbf {\mu ^{\top }} }$
2. ${\displaystyle \Sigma \,}$ bir positif semi-definit matrisdir.
3. ${\displaystyle \operatorname {var} (\mathbf {AX} +\mathbf {a} )=\mathbf {A} \,\operatorname {var} (\mathbf {X} )\,\mathbf {A^{\top }} }$
4. ${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )^{\top }}$
5. ${\displaystyle \operatorname {cov} (\mathbf {X} _{1}+\mathbf {X} _{2},\mathbf {Y} )=\operatorname {cov} (\mathbf {X} _{1},\mathbf {Y} )+\operatorname {cov} (\mathbf {X} _{2},\mathbf {Y} )}$
6. Eger p = q ise o zaman ${\displaystyle \operatorname {var} (\mathbf {X} +\mathbf {Y} )=\operatorname {var} (\mathbf {X} )+\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )+\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )+\operatorname {var} (\mathbf {Y} )}$
7. ${\displaystyle \operatorname {cov} (\mathbf {AX} ,\mathbf {B} ^{\top }\mathbf {Y} )=\mathbf {A} \,\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )\,\mathbf {B} }$
8. Eğer ${\displaystyle \mathbf {X} }$ ve ${\displaystyle \mathbf {Y} }$ birbirlerinden bağımsız iseler, o halde

${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=0}$

burada ${\displaystyle \mathbf {X} ,\mathbf {X} _{1}}$ ve ${\displaystyle \mathbf {X} _{2}}$ rassal p×1 derecede vektör, ${\displaystyle \mathbf {Y} }$ rassal q×1 derecede vektör, ${\displaystyle \mathbf {a} }$ ise q×1 derecede vektör, ${\displaystyle \mathbf {A} }$ ve ${\displaystyle \mathbf {B} }$ (q×p) dereceli matrislerdir.

Bu kovaryans matrisi değişik alanlarda uygulamaları bulunan bir matematik araçtır. Bu matrisden bir transformayon matrisi çıkartılabilir ve bu veride bulunan bütün korelasyonların elimine edilebilmesini mümkun kılar. Bu transformasyon matrisi bularak tüm korelasyonları elimine etme analizine temel bileşenler ("principal components) analizi adı verilir.

Bazı uygulamalarda (örneğin sadece kısmen gözumlenen verilerden veri modeli kurmada) bir verilmiş belirli (gözümlenen kovaryanslardan oluşmuş) bir simetrik matrise "en yakın" kovaryans matrisi bulmak istenebilir. 2002 yılında, Higham ^[2] "ağırlıklı Frobenius normu" kullanarak en yakınlılık kavramını formalize etmiştir ve böylece en yakın kovaryans matrisi bulmak için gereken yöntemi vermistir.

Bir çoklu değişirli normal dağılım için kovaryans matrisinin maksimum-olabilirlilik kestrimcisininin elde edilmesi, belki çok zeki bir ince tranformasyon ile kolayca yapılabilir. Bakın kovaryans matrisleri kestimi

Bir ${\displaystyle n}$ tane korelasyonlu rassal değişken dizisi için olasılık yoğunluk fonksiyonu, n dereceli bir Gauss-tipi vektor olan birlesik olasılık fonksiyonu olup Maksimum olabilirlik maddesinde aciklanmaktadir.

• Kovaryans matrisleri kestrimi
• Çok değişirli istatistik
• Örneklem kovaryans matrisi
• Gramian matrisi
• eigendeğer dekompozisyon

• İngilizce Wikipedia "Covariance matrix" maddesi 15 Şubat 2010 tarihinde Wayback Machine sitesinde arşivlendi. (İngilizce) (Erişme:17.12.2009)
• Weisstein, Eric W., "Covariance Matrix", MathWorld--A Wolfram Web Resource26 Temmuz 2019 tarihinde Wayback Machine sitesinde arşivlendi. (İngilizce) (Erişme:17.12.2009)
• N.G. van Kampen, (1981) Stochastic processes in physics and chemistry. New York: North-Holland, (İngilizce)