Merkezî limit teoremi

Merkezi limit teoremi büyük bir sayıda olan bağımsız ve aynı dağılım gösteren rassal değişkenlerin (eğer sonlu varyans değerleri bulunuyorsa) aritmetik ortalamasının, yaklaşık olarak normal dağılım (yani Gauss dağılımı) göstereceğini ifade eden bir teoremdir. Matematiksel bir ifadeyle, bir merkezi limit teoremi olasılık kuramı içinde bulunan bir zayıf yakınsama sonucu setidir. Bunların hepsi, birçok bağımsız aynı dağılım gösteren rassal değişkenlerin herhangi bir toplam değerinin limitte belirli bir "çekim gücü gösteren dağılıma" göre dağılım gösterme eğiliminde olduğu gerçeğini önerir.

Pratik gerçekte birçok anakütle, sonlu varyans gösteren dağılımlar ortaya çıkardıkları için, bu teorem normal olasılık dağılımının önemini açığa çıkartır.

Bu teoreminin kapsamını genişletip sonuçlarını genelleştiren eklere göre (Lindeberg koşulu, Lyapunov koşulu, Gnedenko durumu ve Kolmogorov durumu) sonlu varyans gösterme için mutlaka aynı dağılım gerekmemektedir.

Tijms'in yazdığına göre:^[1]

^[2]

Merkezi limit teoremi olasılık kuramı için ikinci temel teorem olarak kabul edilmektedir. (Birinci temel teorem büyük sayılar yasasıdır.) ${\displaystyle X_{1},X_{2},...,X_{n}}$, ${\displaystyle n}$ tane bağımsız ve aynı şekilde sonlu sayıda ve ${\displaystyle \mu }$ ortalamasıyla ve ${\displaystyle \sigma ^{2}}$ varyansıyla dağılım gösteren rassal değişkenler olsun. Merkezi limit teoremine göre, değişken sayısı ${\displaystyle n}$ artarak sonsuza yaklaştıkça, orijinal dağılım her ne şekilde olursa olsun, ortalaması ${\displaystyle \mu }$ ve varyansı ${\displaystyle \sigma ^{2}}$ olan, bir normal dağılıma yakınsama gösterir.

Rassal değişkenlerin ${\displaystyle S_{n}}$ ile ifade edilen toplamı şöyle verilsin:

${\displaystyle S_{n}=X_{1}+...+X_{n}}$

ve

${\displaystyle Z_{n}={\frac {S_{n}-n\mu }{\sigma {\sqrt {n}}}}\,,}$

bir standart normal ${\displaystyle \mu }$ ortalamalı ve ${\displaystyle \sigma {\sqrt {n}}}$ varyanslı standart normal dağılım olsun.

Bu yakınsama teoremine göre limitte ${\displaystyle n\rightarrow \infty }$, ${\displaystyle S_{n}}$'nin dağılımı olan ${\displaystyle Z_{n}}$ dağılımı ${\displaystyle N(0,1)}$ standart normal dağılımına yaklaşır.

Bu demektir ki; eğer ${\displaystyle \Phi (z)}$, ${\displaystyle N(0,1)}$ dağılımının yığmalı dağılım fonksiyonu ise o halde her ${\displaystyle z}$ reel sayısı için

${\displaystyle \lim _{n\to \infty }{\mbox{P}}(Z_{n}\leq z)=\Phi (z)\,,}$

veya,

${\displaystyle \lim _{n\rightarrow \infty }{\mbox{P}}\left({\frac {{\overline {X}}_{n}-\mu }{\sigma /{\sqrt {n}}}}\leq z\right)=\Phi (z)\,,}$

olur. Burada

${\displaystyle {\overline {X}}_{n}={S_{n} \over n}={(X_{1}+\cdots +X_{n}) \over n}}$

örneklem ortalaması olur.

Yillarca, büyük örneklem hacmi pratik olarak ${\displaystyle n>29}$ olarak kabul edilmekteydi. Fakat 1990'lı yıllarda yapılan araştırmalar ortaya çıkarmıştır ki bu pratik kural her zaman geçerli değildir. Anakütle ne kadar çok çarpıklık gösterirse gereken büyük örneklem hacminin gittikçe daha büyük olması gerekmektedir. Bu şekilde çarpıklık gösteren anakütleler pratikte çok nadir bulunabilirler. Bu pratik kurala dayanan ve çıkarımsal istatistik için kullanılan Student'in t dağılımı tablolarına ancak ${\displaystyle n=30}$ verilmektedir ama simülasyon ve bilgisayar animasyonu ile gösterilmiştir ki Student'in t dağılımı tabloları için seçilen en yüksek örneklem hacmi olan ${\displaystyle n>29}$ yeterli büyüklükte değildir.^[3][4]

Olasılık kuramı ve istatistik bilimleri için temel önem taşıyan merkezi limit teoremi'nin ispatı karakteristik fonksiyonu kullanarak kolayca yapılabilir. Bu ispat zayıf büyük sayılar yasasını ispat etmek için kullanılan yönteme çok benzemektedir.

Sıfır ortalamaya ve birim varyansa sahip herhangi bir rassal değişken ${\displaystyle Y}$ alalım (yani ${\displaystyle E(Y)=0,}$ ${\displaystyle var(Y)=1}$); Taylor teoremi kullanılarak, ${\displaystyle Y}$ için karakteristik fonksiyonun şu olduğu bilinir:

${\displaystyle \varphi _{Y}(t)=1-{t^{2} \over 2}+o(t^{2}),\quad t\rightarrow 0}$

Burada ${\displaystyle t^{2}}$ ifadesinden daha hızlı sıfıra yaklaşan herhangi bir ${\displaystyle t_{2}}$ için ${\displaystyle o(t_{2})\rightarrow 0}$ olur. ${\displaystyle Y_{i}}$ ifadesini ${\textstyle X_{i}}$ standardize edilmiş değeri yani ${\textstyle (X_{i}-\mu )/\sigma }$ olarak koyalım. Bu halde ${\displaystyle X_{1},X_{2},...,X_{n}}$ gözlem noktalarının standardize edilmiş ortalaması

${\displaystyle Z_{n}={\frac {n{\overline {X}}_{n}-n\mu }{\sigma {\sqrt {n}}}}=\sum _{i=1}^{n}{Y_{i} \over {\sqrt {n}}}.}$

olur. Karakteristik fonksiyonun basit niteliklerine dayanarak, ${\displaystyle Z_{n}}$ için karakteristik fonksiyonun

${\displaystyle \left[\varphi _{Y}\left({t \over {\sqrt {n}}}\right)\right]^{n}=\left[1-{t^{2} \over 2n}+o\left({t^{2} \over n}\right)\right]^{n}\,\rightarrow \,e^{-t^{2}/2},\quad n\rightarrow \infty .}$

olduğu çıkartılır. Bu limit ise açıkça ${\displaystyle N(0,1)}$ standart normal dağılımı için karakteristik fonksiyondur ve merkezi limit teoremi, karakteristik fonksiyonların yakınsamasının dağılımın yakınsamasına eşit olduğunu bildiren Levy süreklilik teoremi kullanarak ispat edilmiş olur.

Eğer üçüncü merkezsel moment E((X₁ − μ)³) bulunuyorsa ve sonlu ise, yukarıda açıklanan yakınsalaşma Berry-Eseen teoremi ile yakınsalaşma hızı asgari 1/n^½ olur. Yakınsalaşma normali monotoniktir yani ${\displaystyle Z_{n}}$'nin enformasyon entropisi bir normal dağılım entropisine monotonik olarak yakınsalaşır.

Bir dağılımın toplama ile "düzgünleştirilmesi" için grafikler orijinal olasılık dağılım fonksiyonu ve diğer üç (dağılım fonksiyonların konvolusyonu ile elde edilen) toplama için şu grafiklerde görülür:

Merkezi limit teoreminin bir grafiksel temsili bir anakütlenin rassal ortalamalarının grafiği ile gösterilebilir. Bir A_n alalım ve bu bir rassal örneklem için örneklem ortalaması ve her bir örneklemden tek bir rassal değişken de X_n olsun:

A_n = (X₁ + ... + X_n) / n

1den verilen bir örneklem hacmine kadar A_n ifadesini bulalım:

A₁ = (X₁) / 1

A₂ = (X₁ + X₂)/ 2

A₃ = (X₁ + X₂ + X₃)/3

Merkezi limit teoremi için ortalamaları örneklem hacmi 90a kadar yani 30 nokta olarak gösterilmesi gerekir. Eğer A_n

Z_n = (A_n − μ) / (σ / n^½)

kullanılarak standartize edilirse, yukarıda verilen Z_n değişkeninin aynısı ortaya çıkar ve bu bir standart normal dağılımına yakınsanır.

Merkezi Limit teoremi sonlu sayıda gözlemler için bir tahmin olarak kullanılması gerek bu sayılar normal dağılımın zirvesi etrafında toplanırsa iyi sonucdur; dağılımın kuyruklarında olan gözlemler için bu tahminin yeterince doğru olması için çok sayıda gözlem elde edilmesi gerekir.

Merkezi Limit Teoremi özellikle bağımsız ve aynen dağılım gösteren ayrık rassal değişkenler için uygulanır. Ayrık rassal değişken için bir toplama ile elde edilen değerde bir ayrık rassal değişkendir ve böylece bir seri ayrık rassal değişken için tek tek yığmalı olasılık dağılım fonksiyonu bir sürekli değişken için bir yığmalı olasılık dağılım fonksiyonua (yani normal dağılıma) yakınsalaşır.

Bu demektir ki eğer n sayıda bağımsız ve özdeş ayrık değişkenlerin toplamının gerçekleşmelerinin bir histogramını kurarsak, histogramı şekillendiren dikdörtgenlerin yukarı yüzlerinin merkezlerini birleştiren eğri, n' ${\displaystyle \infty }$ değerine yakınsalaştıkça, bir Gauss-tipi çan eğrisine gittikçe benzemeye başlar. Basit sadece iki değer alan bir ayrık değişkeni içeren binom dağılımı gösterdiği simüle edilen bir halde bile bu merkezi limit teoremi uygulandığı görülebilir.

Hem büyük sayılar yasası hem de Merkezi Limit Teoremi daha genel bir problemin kısmı çözümleri olmaları çok olasıdır. Bu genel problem şöyle ifade edilebilir: "Eğer n sonsuz değere yakınsamaktaysa S_n ifadesinin yakınsama davranışı ne olur?". Matematik analizde bu çeşit sorulara yaklaşmak için en popüler matematik araç asimtotik seriler konumuna dayanır.

f(n) fonsksiyonunun asimtotik genişletilmesin şu olduğunu kabul edelim:

${\displaystyle f(n)=a_{1}\varphi _{1}(n)+a_{2}\varphi _{2}(n)+O(\varphi _{3}(n))\ (n\rightarrow \infty ).}$

Bu ifadenin her iki tarafını da ${\displaystyle \varphi _{1}(n)}$ ile bölersek ve limit alırsak, en ${\displaystyle f(n)}$ fonksiyonunun en baştaki terimin değişme haddini temsil eden, genişletilmenin en yüksek-sıradaki katsayısı olan ${\displaystyle a_{1}}$ ifadesini üretiriz:

${\displaystyle \lim _{n\to \infty }{\frac {f(n)}{\varphi _{1}(n)}}=a_{1}.}$

Formel olmadan bu şöyle açıklanabilir: "fonksiyon ile onu yakalsık olarak ifadenin arasındaki fark ${\displaystyle a_{2}\varphi _{2}(n)}$ haddinde büyür". Bu kavramın ana sonucu şöyledir: fonksiyonu uygun bir yaklaşık veren normalize eden fonksiyonlar ile bölersek ve bu sonucun limitteki davranışına bakarsak, bu netice orijinal fonksiyonun limitteki davranışı hakkında epeyce çok açıklama yapar.

S_n ifadesinin klasik olasılık teoride incelenmesinde de aynı usulde açıklama yapılmaktadır. Belirli düzenleme koşulları altında, eğer ${\displaystyle \xi }$ ifadesi ${\displaystyle N(0,\sigma ^{2})}$ olarak dağılım gösterirse, hem Büyük Sayılar Yasası yani

${\displaystyle {\frac {S_{n}}{n}}\rightarrow \mu }$

hem de Merkezi Limit Teoremi yani

${\displaystyle {\frac {S_{n}-n\mu }{\sqrt {n}}}\rightarrow \xi }$

şu formel olmayan ifadenin ilk iki sabitlerinin değerlerini verirler:

${\displaystyle S_{n}\approx \mu n+\xi {\sqrt {n}}.}$

Eğer X₁, X₂, X₃, ... bağımsız ve özdeş ifadeler ise ve belli bir ${\displaystyle 1\leq \beta <2}$ için ${\displaystyle E(|X_{1}|^{\beta })<\infty }$ ifadesi geçerli ise, o zaman

${\displaystyle {\frac {S_{n}-n\mu }{n^{\frac {1}{\beta }}}}\to 0}$

olur ve böylece ${\displaystyle {\sqrt {n}}}$ sıfır olmayan limitleyici davranışı temin eden bir normalize etme fonksiyonu hizmetini gören n nin en yüksek üssü olur. "Takrarlanan logaritma yasası" ise çok ilgi çekici olarak, ${\displaystyle {\sqrt {n\log \log n}}}$ normalize edici fonksiyonun, Büyük Sayılar Yasası için n ile Merkezi Limit Teoremi için ${\displaystyle {\sqrt {n}}}$ ifadeleri arasında olduğunu bildirir ve bu iki teorem ifadesi de bu değerin iki tarafında bulunan limitleri gösterir demektedir.

Main: Lyapunov'un merkezsel limit teoremi.

• Diversifikasyon (finansman)
• Merkezi limit teoreminin örnek gösterimi
• Büyük sayılar yasası

• Henk Tijms (2004), Understanding Probability: Chance Rules in Everyday Life 6 Mayıs 2021 tarihinde Wayback Machine sitesinde arşivlendi., Cambridge: Cambridge University Press.
• S. Artstein, K. Ball, F. Barthe ve A. Naor, (2004) "Solution of Shannon's Problem on the Monotonicity of Entropy", Journal of the American Mathematical Society C.17, say. 975-982 .
• S.N.Bernstein (1945), On the work of P.L.Chebyshev in Probability Theory, Nauchnoe Nasledie P.L.Chebysheva. Vypusk Pervyi: Matematika. (Rusca) [The Scientific Legacy of P. L. Chebyshev. First Part: Mathematics] Editor S. N. Bernstein.] Academiya Nauk SSSR, Moscow-Leningrad, 174 say.
• G. Rempala ve J. Wesolowski, (2002) "Asymptotics of products of sums and U-statistics", Electronic Communications in Probability, C. 7, say. 47-54.

• Çizimlerle Merkezi Limit Teoremi 5 Nisan 2011 tarihinde Wayback Machine sitesinde arşivlendi.
• Merkezi Limit Teoremi için örnekler13 Eylül 2008 tarihinde Wayback Machine sitesinde arşivlendi.
• Merkezi Limit Teoremi için Java
• Merkezi Limit Teoremi 27 Nisan 2008 tarihinde Wayback Machine sitesinde arşivlendi. Değişik parametre değerleri için deneysel etkileşimli simülasyon.
• CLT in NetLogo (Connected Probability - ProbLab)22 Mart 2006 tarihinde Wayback Machine sitesinde arşivlendi. Değiştirilebilen parametre değerleri ile etkileşimli simülasyon
• Genel Merkezi Limit Teoremi Aktivitesi 29 Nisan 2008 tarihinde Wayback Machine sitesinde arşivlendi. & corresponding SOCR CLT Applet (Select the Sampling Distribution CLT Experiment from the drop-down list of SOCR Experiments 29 Nisan 2008 tarihinde Wayback Machine sitesinde arşivlendi.)
• Generate sampling distributions in Excel 17 Mayıs 2008 tarihinde Wayback Machine sitesinde arşivlendi. Specify arbitrary population, sample size, and sample statistic.
• [1] 30 Mart 2007 tarihinde Wayback Machine sitesinde arşivlendi. Diğer bir ispat.
• CAUSEweb.org 5 Mart 2016 tarihinde Wayback Machine sitesinde arşivlendi. Merkezi Limit Teoremi dahil çeşitli istatistik yöntemi öğretmesi için çeşitli öğretme kaynakları bulunan bir web sitesi
• Merkezi Limit Teoremi 5 Mayıs 2008 tarihinde Wayback Machine sitesinde arşivlendi. Chris Boucher, Wolfram Demonstrasyonlari Projesi.
• Eric W. Weisstein, Central Limit Theorem (MathWorld)