Merkezi limit teoremi

Merkezi limit teoremi büyük bir sayıda olan bağımsız ve aynı dağılım gösteren rassal değişkenlerin (eğer sonlu varyans değerleri bulunuyorsa) aritmetik ortalamasının, yaklaşık olarak normal dağılım (yani Gauss dağılımı) göstereceğini ifade eden bir teoremdir. Matematiksel bir ifadeyle, bir merkezi limit teoremi olasılık kuramı içinde bulunan bir zayıf yakınsama sonucu setidir. Bunların hepsi, birçok bağımsız aynı dağılım gösteren rassal değişkenlerin herhangi bir toplam değerinin limitte belirli bir "çekim gücü gösteren dağılıma" göre dağılım gösterme eğiliminde olduğu gerçeğini önerir.

Pratik gerçekte birçok anakütle, sonlu varyans gösteren dağılımlar ortaya çıkardıkları için, bu teorem normal olasılık dağılımının önemini açığa çıkartır.

Bu teoreminin kapsamını genişletip sonuçlarını genelleştiren eklere göre (Lindeberg koşulu, Lyapunov koşulu, Gnedenko durumu ve Kolmogorov durumu) sonlu varyans gösterme için mutlaka aynı dağılım gerekmemektedir.

Tarihçe

Tijms'in yazdığına göre:^[1]

“	Merkezi limit teoreminin tarihi gelişmesi çok enterasandır. Bu teoremin ilk şekli Fransız matematikçi Abraham de Moivre tarafından 1733'te yayınlanarak gayet dikkati çeken bir yazıda bulunmakta ve bu yazıda bir yansız madeni paranın yazı-tura atış sonuçların da kaç defa yazı gelme sayısının dağılımının bir normal dağılım ile yaklaşık olarak açıklanabileceğini ortaya çıkartmıştır. Bu gelişme zamanı için çok zor görünüp nerdeyse unutulmuştur. Bu unutulmuş konu tanınmış Fransız matematikçisi Pierre-Simon Laplace'ın 1812'de yayınladığı çok tanınmış eseri Thoerie Analytique des Probabilites (Olasılıklar İçin Analitik Kuram)'da yeniden ortaya çıkarılmıştır; Laplace, De Moivre'in buluşunu daha da geliştirerek binom dağılımlarının yaklaşık olarak normal dağılım ile ifade edilip hesaplanabileceği sonucunu ortaya atmıştır. Ancak De Moivre gibi Laplace gelişmeleri de yaşadığı çağda çok az dikkati çekmiştir. Sonunda 19. yüzyılın içinde merkezi limit teoreminin önemi anlaşılmış ve 1901 Rus matematikçisi Aleksandr Lyapunov bu teoremi genel bir şekilde açıklamış ve matematik olarak nasıl ortaya çıktığını çok kesin bir şekilde ispatlamıştır. Bugün merkezi limit teoremi olasılık kuramının en önemli ögesi, gayriresmi kralı, olduğu kabul edilmektedir."	”

^[2]

Klasik merkezi limit teoremi

Merkezi limit teoremi olasılık kuramı için ikinci temel teorem olarak kabul edilmektedir. (Birinci temel teorem büyük sayılar yasasıdır.) ${\displaystyle X_{1},X_{2},...,X_{n}}$, ${\displaystyle n}$ tane bağımsız ve aynı şekilde sonlu sayıda ve ${\displaystyle \mu }$ ortalamasıyla ve ${\displaystyle \sigma ^{2}}$ varyansıyla dağılım gösteren rassal değişkenler olsun. Merkezi limit teoremine göre, değişken sayısı ${\displaystyle n}$ artarak sonsuza yaklaştıkça, orijinal dağılım her ne şekilde olursa olsun, ortalaması ${\displaystyle \mu }$ ve varyansı ${\displaystyle \sigma ^{2}}$ olan, bir normal dağılıma yakınsama gösterir.

Rassal değişkenlerin ${\displaystyle S_{n}}$ ile ifade edilen toplamı şöyle verilsin:

${\displaystyle S_{n}=X_{1}+...+X_{n}}$

ve

${\displaystyle Z_{n}={\frac {S_{n}-n\mu }{\sigma {\sqrt {n}}}}\,,}$

bir standart normal ${\displaystyle \mu }$ ortalamalı ve ${\displaystyle \sigma {\sqrt {n}}}$ varyanslı standart normal dağılım olsun.

Bu yakınsama teoremine göre limitte ${\displaystyle n\rightarrow \infty }$, ${\displaystyle S_{n}}$'nin dağılımı olan ${\displaystyle Z_{n}}$ dağılımı ${\displaystyle N(0,1)}$ standart normal dağılımına yaklaşır.

Bu demektir ki; eğer ${\displaystyle \Phi (z)}$, ${\displaystyle N(0,1)}$ dağılımının yığmalı dağılım fonksiyonu ise o halde her ${\displaystyle z}$ reel sayısı için

${\displaystyle \lim _{n\to \infty }{\mbox{P}}(Z_{n}\leq z)=\Phi (z)\,,}$

veya,

${\displaystyle \lim _{n\rightarrow \infty }{\mbox{P}}\left({\frac {{\overline {X}}_{n}-\mu }{\sigma /{\sqrt {n}}}}\leq z\right)=\Phi (z)\,,}$

olur. Burada

${\displaystyle {\overline {X}}_{n}={S_{n} \over n}={(X_{1}+\cdots +X_{n}) \over n}}$

örneklem ortalaması olur.

Yillarca, büyük örneklem hacmi pratik olarak ${\displaystyle n>29}$ olarak kabul edilmekteydi. Fakat 1990'lı yıllarda yapılan araştırmalar ortaya çıkarmıştır ki bu pratik kural her zaman geçerli değildir. Anakütle ne kadar çok çarpıklık gösterirse gereken büyük örneklem hacminin gittikçe daha büyük olması gerekmektedir. Bu şekilde çarpıklık gösteren anakütleler pratikte çok nadir bulunabilirler. Bu pratik kurala dayanan ve çıkarımsal istatistik için kullanılan Student'in t dağılımı tablolarına ancak ${\displaystyle n=30}$ verilmektedir ama simülasyon ve bilgisayar animasyonu ile gösterilmiştir ki Student'in t dağılımı tabloları için seçilen en yüksek örneklem hacmi olan ${\displaystyle n>29}$ yeterli büyüklükte değildir. ^[3][4]

Merkezi limit teoreminin ispatı

Olasılık kuramı ve istatistik bilimleri için temel önem taşıyan merkezi limit teoremi'nin ispatı karakteristik fonksiyonu kullanarak kolayca yapılabilir. Bu ispat zayıf büyük sayılar yasasını ispat etmek için kullanılan yönteme çok benzemektedir.

Sıfır ortalamaya ve birim varyansa sahip herhangi bir rassal değişken ${\displaystyle Y}$ alalım (yani ${\displaystyle E(Y)=0,}$ ${\displaystyle var(Y)=1}$); Taylor teoremi kullanılarak, ${\displaystyle Y}$ için karakteristik fonksiyonun şu olduğu bilinir:

${\displaystyle \varphi _{Y}(t)=1-{t^{2} \over 2}+o(t^{2}),\quad t\rightarrow 0}$

Burada ${\displaystyle t^{2}}$ ifadesinden daha hızlı sıfıra yaklaşan herhangi bir ${\displaystyle t_{2}}$ için ${\displaystyle o(t_{2})\rightarrow 0}$ olur. ${\displaystyle Y_{i}}$ ifadesini ${\textstyle X_{i}}$ standardize edilmiş değeri yani ${\textstyle (X_{i}-\mu )/\sigma }$ olarak koyalım. Bu halde ${\displaystyle X_{1},X_{2},...,X_{n}}$ gözlem noktalarının standardize edilmiş ortalaması

${\displaystyle Z_{n}={\frac {n{\overline {X}}_{n}-n\mu }{\sigma {\sqrt {n}}}}=\sum _{i=1}^{n}{Y_{i} \over {\sqrt {n}}}.}$

olur. Karakteristik fonksiyonun basit niteliklerine dayanarak, ${\displaystyle Z_{n}}$ için karakteristik fonksiyonun

${\displaystyle \left[\varphi _{Y}\left({t \over {\sqrt {n}}}\right)\right]^{n}=\left[1-{t^{2} \over 2n}+o\left({t^{2} \over n}\right)\right]^{n}\,\rightarrow \,e^{-t^{2}/2},\quad n\rightarrow \infty .}$

olduğu çıkartılır. Bu limit ise açıkça ${\displaystyle N(0,1)}$ standart normal dağılımı için karakteristik fonksiyondur ve merkezi limit teoremi, karakteristik fonksiyonların yakınsamasının dağılımın yakınsamasına eşit olduğunu bildiren Levy süreklilik teoremi kullanarak ispat edilmiş olur.

Limite yakınsama

Eğer üçüncü merkezsel moment E((X₁ − μ)³) bulunuyorsa ve sonlu ise, yukarıda açıklanan yakınsalaşma Berry-Eseen teoremi ile yakınsalaşma hızı asgari 1/n^½ olur. Yakınsalaşma normali monotoniktir yani ${\displaystyle Z_{n}}$'nin enformasyon entropisi bir normal dağılım entropisine monotonik olarak yakınsalaşır.

Bir dağılımın toplama ile "düzgünleştirilmesi" için grafikler orijinal olasılık dağılım fonksiyonu ve diğer üç (dağılım fonksiyonların konvolusyonu ile elde edilen) toplama için şu grafiklerde görülür:

Merkezi limit teoreminin bir grafiksel temsili bir anakütlenin rassal ortalamalarının grafiği ile gösterilebilir. Bir A_n alalım ve bu bir rassal örneklem için örneklem ortalaması ve her bir örneklemden tek bir rassal değişken de X_n olsun:

A_n = (X₁ + ... + X_n) / n

1den verilen bir örneklem hacmine kadar A_n ifadesini bulalım:

A₁ = (X₁) / 1

A₂ = (X₁ + X₂)/ 2

A₃ = (X₁ + X₂ + X₃)/3

Merkezi limit teoremi için ortalamaları örneklem hacmi 90a kadar yani 30 nokta olarak gösterilmesi gerekir. Eğer A_n

Z_n = (A_n − μ) / (σ / n^½)

kullanılarak standartize edilirse, yukarıda verilen Z_n değişkeninin aynısı ortaya çıkar ve bu bir standart normal dağılımına yakınsanır.

Merkezi Limit teoremi sonlu sayıda gözlemler için bir tahmin olarak kullanılması gerek bu sayılar normal dağılımın zirvesi etrafında toplanırsa iyi sonucdur; dağılımın kuyruklarında olan gözlemler için bu tahminin yeterince doğru olması için çok sayıda gözlem elde edilmesi gerekir.

Merkezi Limit Teoremi özellikle bağımsız ve aynen dağılım gösteren ayrık rassal değişkenler için uygulanır. Ayrık rassal değişken için bir toplama ile elede edilen değerde bir ayrık rassal değişkendir ve böylece bir seri ayrık rassal değişken için tek tek yığmalı olasılık dağılım fonksiyonu bir sürekli değişken için bir yığmalı olasılık dağılım fonksiyonua (yani normal dağılıma) yakınsalaşır.

Bu demektir ki eğer n sayıda bağımsız ve özdeş ayrık değişkenlerin toplamının gerçekleşmelerinin bir histogramını kurarsak, histogramı şekillendiren dikdörtgenlerin yukarı yüzlerinin merkezlerini birleştiren eğri, n' $\infty$ değerine yakınsalaştıkça, bir Gauss-tipi çan eğrisine gittikçe benzemeye başlar. Basit sadece iki değer alan bir ayrık değişkeni içeren binom dağılımı gösterdiği simüle edilen bir halde bile bu merkezi limit teoremi uygulandığı görülebilir.

Büyük sayılar yasasına ilişkisi

Hem büyük sayılar yasası hem de Merkezi Limit Teoremi daha genel bir problemin kısmı çözümleri olmaları çok olasıdır. Bu genel problem şöyle ifade edilebilir: "Eğer n sonsuz değere yakınsamaktaysa S_n ifadesinin yakınsama davranışı ne olur?". Matematik analizde bu çeşit sorulara yaklaşmak için en popüler matematik araç asimtotik seriler konumuna dayanır.

f(n) fonsksiyonunun asimtotik genişletilmesin şu olduğunu kabul edelim:

${\displaystyle f(n)=a_{1}\varphi _{1}(n)+a_{2}\varphi _{2}(n)+O(\varphi _{3}(n))\ (n\rightarrow \infty ).}$

Bu ifadenin her iki tarafını da ${\displaystyle \varphi _{1}(n)}$ ile bölersek ve limit alırsak, en ${\displaystyle f(n)}$ fonksiyonunun en baştaki terimin değişme haddini temsil eden, genişletilmenin en yüksek-sıradaki katsayısı olan ${\displaystyle a_{1}}$ ifadesini üretiriz:

${\displaystyle \lim _{n\to \infty }{\frac {f(n)}{\varphi _{1}(n)}}=a_{1}.}$

Formel olmadan bu şöyle açıklanabilir: "fonksiyon ile onu yakalsık olarak ifadenin arasındaki fark ${\displaystyle a_{2}\varphi _{2}(n)}$ haddinde büyür". Bu kavramın ana sonucu şöyledir: fonksiyonu uygun bir yaklaşık veren normalize eden fonksiyonlar ile bölersek ve bu sonucun limitteki davranışına bakarsak, bu netice orijinal fonksiyonun limitteki davranışı hakkında epeyce çok açıklama yapar.

S_n ifadesinin klasik olasılık teoride incelenmesinde de aynı usulde açıklama yapılmaktadır. Belirli düzenleme koşulları altında, eğer ${\displaystyle \xi }$ ifadesi ${\displaystyle N(0,\sigma ^{2})}$ olarak dağılım gösterirse, hem Büyük Sayılar Yasası yani

${\displaystyle {\frac {S_{n}}{n}}\rightarrow \mu }$

hem de Merkezi Limit Teoremi yani

${\displaystyle {\frac {S_{n}-n\mu }{\sqrt {n}}}\rightarrow \xi }$

şu formel olmayan ifadenin ilk iki sabitlerinin değerlerini verirler:

${\displaystyle S_{n}\approx \mu n+\xi {\sqrt {n}}.}$

Eğer X₁, X₂, X₃, ... bağımsız ve özdeş ifadeler ise ve belli bir ${\displaystyle 1\leq \beta <2}$ için ${\displaystyle E(|X_{1}|^{\beta })<\infty }$ ifadesi geçerli ise, o zaman

${\displaystyle {\frac {S_{n}-n\mu }{n^{\frac {1}{\beta }}}}\to 0}$

olur ve böylece ${\displaystyle {\sqrt {n}}}$ sıfır olmayan limitleyici davranışı temin eden bir normalize etme fonksiyonu hizmetini gören n nin en yüksek üssü olur. "Takrarlanan logaritma yasası" ise çok ilgi çekici olarak, ${\displaystyle {\sqrt {n\log \log n}}}$ normalize edici fonksiyonun, Büyük Sayılar Yasası için n ile Merkezi Limit Teoremi için ${\displaystyle {\sqrt {n}}}$ ifadeleri arasında olduğunu bildirir ve bu iki teorem ifadesi de bu değerin iki tarafında bulunan limitleri gösterir demektedir.

Lyapunov koşulu

Main: Lyapunov'un merkezsel limit teoremi.

Ayrıca bakınız

• Diversifikasyon (finansman)
• Merkezi limit teoreminin örnek gösterimi
• Büyük sayılar yasası

Notlar

1. Henk Tijms, Understanding Probability: Chance Rules in Everyday Life, (s. 169), Cambridge: Cambridge University Press, 2004.
2. Merkezi limit teoreminin gelişmesinin çok geniş ayrıntıları ile açıklanması, özellikle Laplace'in teoreminin temelleri hakkındaki çalışmaları ve Cauchy, Bessel ve Poisson'un katkıları Hald tarafından incelemektedir. Bakınız: Andreas Hald, History of Mathematical Statistics from 1750 to 1930, Ch.17.
3. Bakın "Identification of Misconceptions in the Central Limit Theorem and Related Concepts and Evaluation of Computer Media as a Remedial Tool" Yu, Chong Ho ve Dr. John T. Behrens, Arizona State University ve Spencer Anthony, Univ. of Oklahoma: "American Educational Research Association" Yıllık Toplantısı için makale. Sunma tarihi: 19 Nisan, 1995 ve revizyon: 12 Şubat, 1997, CWisdom-rtf(Erişme:25.10.2007).
4. Marasinghe, M., Meeker, W., Cook, D. & Shin, T.S.(1994 August), "Using graphics and simulation to teach statistical concepts", American Statistician Association'un, Toronto, Kanada 1994 yılı için yıllık konferansına sunulan bir makale.

Referanslar

• Henk Tijms (2004), Understanding Probability: Chance Rules in Everyday Life, Cambridge: Cambridge University Press.
• S. Artstein, K. Ball, F. Barthe ve A. Naor, (2004) "Solution of Shannon's Problem on the Monotonicity of Entropy", Journal of the American Mathematical Society C.17, say. 975-982 .
• S.N.Bernstein (1945), On the work of P.L.Chebyshev in Probability Theory, Nauchnoe Nasledie P.L.Chebysheva. Vypusk Pervyi: Matematika. (Rusca) [The Scientific Legacy of P. L. Chebyshev. First Part: Mathematics] Editor S. N. Bernstein.] Academiya Nauk SSSR, Moscow-Leningrad, 174 say.
• G. Rempala ve J. Wesolowski, (2002) "Asymptotics of products of sums and U-statistics", Electronic Communications in Probability, C. 7, say. 47-54.

Dışsal bağlantılar

• Çizimlerle Merkezi Limit Teoremi
• Merkezi Limit Teoremi için ornekler
• Merkezi Limit Teoremi için Java
• Merkezi Limit Teoremi Degisik parametre değerleri icin deneysel etkilesimli simulasyon.
• CLT in NetLogo (Connected Probability - ProbLab) Degistirilebilinen parametre değerleri ile etkilesimli simulasyon
• Genel Merkezi Limit Teoremi Activitesi & corresponding SOCR CLT Applet (Select the Sampling Distribution CLT Experiment from the drop-down list of SOCR Experiments)
• Generate sampling distributions in Excel Specify arbitrary population, sample size, and sample statistic.
• Diger bir isbat.
• CAUSEweb.org Merkezi Limit Teoremi dahil cesitli istatistik yontemi ogretmesi icin cesitli ogretme kaynaklari bulunan bir web sitesi
• Merkezi Limit Teoremi Chris Boucher, Wolfram Demonstrasyonlari Projesi.
• Eric W. Weisstein, Central Limit Theorem (MathWorld)