概率論歷史上第一個(gè)極限定理屬于伯努利，后人稱之為“大數(shù)定律”。概率論中討論隨機(jī)變量序列的算術(shù)平均值向隨機(jī)變量各數(shù)學(xué)期望的算術(shù)平均值收斂的定律。

在隨機(jī)事件的大量重復(fù)出現(xiàn)中，往往呈現(xiàn)幾乎必然的規(guī)律，這個(gè)規(guī)律就是大數(shù)定律。通俗地說，這個(gè)定理就是，在試驗(yàn)不變的條件下，重復(fù)試驗(yàn)多次，隨機(jī)事件的頻率近似于它的概率。偶然中包含著某種必然。

發(fā)展簡(jiǎn)史

我們知道，大數(shù)定律研究的是隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性的一類定理，當(dāng)我們大量重復(fù)某一相同的實(shí)驗(yàn)的時(shí)候，其最后的實(shí)驗(yàn)結(jié)果可能會(huì)穩(wěn)定在某一數(shù)值附近。就像拋硬幣一樣，當(dāng)我們不斷地拋，拋個(gè)上千次，甚至上萬次，我們會(huì)發(fā)現(xiàn)，正面或者反面向上的次數(shù)都會(huì)接近一半。除了拋硬幣，現(xiàn)實(shí)中還有許許多多這樣的例子，像擲骰子，最著名的實(shí)驗(yàn)就是蒲豐投針實(shí)驗(yàn)。這些實(shí)驗(yàn)都像我們傳達(dá)了一個(gè)共同的信息，那就是大量重復(fù)實(shí)驗(yàn)最終的結(jié)果都會(huì)比較穩(wěn)定。那穩(wěn)定性到底是什么？怎樣去用數(shù)學(xué)語(yǔ)言把它表達(dá)出來？這其中會(huì)不會(huì)有某種規(guī)律性？是必然的還是偶然的？

這一系列問題其實(shí)就是大數(shù)定律要研究的問題。很早的時(shí)候，人們其實(shí)就發(fā)現(xiàn)了這一規(guī)律性現(xiàn)象，也有不少的數(shù)學(xué)家對(duì)這一現(xiàn)象進(jìn)行了研究，這其中就包括伯努利（后來人們?yōu)榱思o(jì)念他，都認(rèn)為他是第一個(gè)研究這一問題的人，其實(shí)在他之前也早有數(shù)學(xué)家研究過）。伯努利在1713年提出了一個(gè)極限定理，當(dāng)時(shí)這個(gè)定理還沒有名稱，后來人們稱這個(gè)定理為伯努利大數(shù)定律。因此概率論歷史上第一個(gè)有關(guān)大數(shù)定律的極限定理是屬于伯努利的，它是概率論和數(shù)理統(tǒng)計(jì)學(xué)的基本定律，屬于弱大數(shù)定律的范疇。

當(dāng)大量重復(fù)某一實(shí)驗(yàn)時(shí)，最后的頻率無限接近事件概率。而伯努利成功地通過數(shù)學(xué)語(yǔ)言將現(xiàn)實(shí)生活中這種現(xiàn)象表達(dá)出來，賦予其確切的數(shù)學(xué)含義。他讓人們對(duì)于這一類問題有了新的認(rèn)識(shí)，有了更深刻的理解，為后來的人們研究大數(shù)定律問題指明了方向，起到了引領(lǐng)作用，其為大數(shù)定律的發(fā)展奠定了基礎(chǔ)。除了伯努利之外，還有許許多多的數(shù)學(xué)家為大數(shù)定律的發(fā)展做出了重要的貢獻(xiàn)，有的甚至花了畢生的心血，像德莫佛—拉普拉斯，李雅普諾夫，林德伯格，費(fèi)勒，切比雪夫，辛欽等等。這些人對(duì)于大數(shù)定律乃至概率論的進(jìn)步所起的作用都是不可估量的。

1733年，德莫佛—拉普拉斯經(jīng)過推理證明，得出了二項(xiàng)分布的極限分布是正態(tài)分布的結(jié)論，后來他又在原來的基礎(chǔ)上做了改進(jìn)，證明了不止二項(xiàng)分布滿足這個(gè)條件，其他任何分布都是可以的，為中心極限定理的發(fā)展做出了偉大的貢獻(xiàn)。在這之后大數(shù)定律的發(fā)展出現(xiàn)了停滯。直到20世紀(jì)，李雅普諾夫又在拉普拉斯定理的基礎(chǔ)上做了自己的創(chuàng)新，他得出了特征函數(shù)法，將大數(shù)定律的研究延伸到函數(shù)層面，這對(duì)中心極限定理的發(fā)展有著重要的意義。到1920年，數(shù)學(xué)家們開始探討中心極限定理在什么條件下普遍成立，這才有了后來發(fā)表的林德伯格條件和費(fèi)勒條件，這些成果對(duì)中心極限定理的發(fā)展都功不可沒。

經(jīng)過幾百年的發(fā)展，大數(shù)定律體系已經(jīng)很完善了，也出現(xiàn)了更多更廣泛的大數(shù)定律，例如切比雪夫大數(shù)定律，辛欽大數(shù)定律，泊松大數(shù)定律，馬爾科夫大數(shù)定律等等。正是這些數(shù)學(xué)家們的不斷研究，大數(shù)定律才得以如此迅速發(fā)展，才得以完善。

定理定義

概率論的基本定律之一，指關(guān)于大量的隨機(jī)現(xiàn)象具有穩(wěn)定性質(zhì)的法則。它說明，如果被研究現(xiàn)象的總體是由大量的相互獨(dú)立的隨機(jī)因素所形成的，而且每個(gè)隨機(jī)因素對(duì)總體的影響都相對(duì)地比較小，這時(shí)對(duì)大量因素加以綜合平均，上述因素的個(gè)別影響就將互相抵消并顯現(xiàn)出它們共同作用的傾向，使總體具有穩(wěn)定的性質(zhì)。

驗(yàn)證推導(dǎo)

車比雪夫

設(shè)隨機(jī)變相互獨(dú)立，它們的數(shù)學(xué)期望依次為方差依次為而且存在正常數(shù)，使得對(duì)一切有，則對(duì)任意給定的正常數(shù)，恒有.證設(shè)，則的數(shù)學(xué)期望和方差分別為:，.由車比雪夫不等式，對(duì)任意給定的正數(shù)，有，即.對(duì)不等式取極限，則得。

辛欽

設(shè)是相互獨(dú)立的隨機(jī)變量，而且有相同的分布，具有有限的數(shù)學(xué)期望，則對(duì)任意給定的正數(shù)，有，其中.注:定理2中條件比定理1的條件要寬，在定理1中要求方差有限，而定理2不需要這個(gè)條件.證因?yàn)槭蔷哂邢嗤植嫉碾S機(jī)變量序列，故它們有相同的特征函數(shù).設(shè)它們的特征函數(shù)為，由于存在，故有展開式:，其中表示關(guān)于的高階無窮小量.再由獨(dú)立性知，的特征函數(shù)為:.對(duì)任意取定的數(shù)，有//operatorname{limn} 而是連續(xù)函數(shù)，且是單點(diǎn)分布的特征函數(shù)，由逆極限定理知:的分布函數(shù)弱收斂于.其中，，因此，，由 - 2式知:

貝努利

設(shè)是次獨(dú)立試驗(yàn)中事件發(fā)生的次數(shù)，是事件在每次試驗(yàn)中發(fā)生的概率，則對(duì)任意給定的正數(shù)，有.此定理表明:當(dāng)很大時(shí)，重貝努利試驗(yàn)中事件發(fā)生的頻率幾乎等于事件在每次試驗(yàn)中發(fā)生的概率，這個(gè)定理以嚴(yán)格的數(shù)學(xué)形式刻畫了頻率的穩(wěn)定性，因此，在實(shí)際應(yīng)用中，當(dāng)試驗(yàn)次數(shù)很大時(shí)，便可以用事件發(fā)生的頻率來代替事件的概率.證作一次觀察時(shí)是定值，作多次觀察時(shí)是隨機(jī)變量，而且，在車比雪夫不等式中，取, 則 , 于是對(duì)任意給定的正 數(shù)，有 ， 因而。

泊松

設(shè)是相互獨(dú)立的隨機(jī)變量，則服從大數(shù)定律.證由定理所設(shè)可得:，.由車比雪夫不等式得，對(duì)任意，有.兩邊取極限得。

馬爾可夫

設(shè)是隨機(jī)變量序列，若，則服從大數(shù)定律.證由車比雪夫不等式得，取極限得:。

定理意義

大數(shù)定律以嚴(yán)格的數(shù)學(xué)形式表達(dá)了隨機(jī)現(xiàn)象最根本的性質(zhì)———平均結(jié)果的穩(wěn)定性，它是隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性的具體表現(xiàn).因此，大數(shù)定律在理論和實(shí)際中都有廣泛的應(yīng)用。

舉例說明

例如，在重復(fù)投擲一枚硬幣的隨機(jī)試驗(yàn)中，觀測(cè)投擲了n次硬幣中出現(xiàn)正面的次數(shù)。不同的n次試驗(yàn)，出現(xiàn)正面的頻率（出現(xiàn)正面次數(shù)與n之比）可能不同，但當(dāng)試驗(yàn)的次數(shù)n越來越大時(shí)，出現(xiàn)正面的頻率將大體上逐漸接近于1/2。又如稱量某一物體的重量，假如衡器不存在系統(tǒng)偏差，由于衡器的精度等各種因素的影響，對(duì)同一物體重復(fù)稱量多次，可能得到多個(gè)不同的重量數(shù)值，但它們的算術(shù)平均值一般來說將隨稱量次數(shù)的增加而逐漸接近于物體的真實(shí)重量。

幾乎處處收斂與依概率收斂不同。生活例子：開始上課了，慢慢地大家都安靜下來，這是幾乎處處收斂。絕大多數(shù)同學(xué)都安靜下來，但每一個(gè)人都在不同的時(shí)間不安靜，這是依概率收斂。

還有大數(shù)定律在保險(xiǎn)業(yè)應(yīng)用也十分廣泛。大數(shù)定律又稱大數(shù)法則。人們?cè)陂L(zhǎng)期的實(shí)踐中發(fā)現(xiàn)，在隨機(jī)現(xiàn)象的大量重復(fù)中往往出現(xiàn)幾乎必然的規(guī)律，即大數(shù)法則。此法則的意義是：風(fēng)險(xiǎn)單位數(shù)量愈多，實(shí)際損失的結(jié)果會(huì)愈接近從無限單位數(shù)量得出的預(yù)期損失可能的結(jié)果。據(jù)此，保險(xiǎn)人就可以比較精確的預(yù)測(cè)危險(xiǎn)，合理的厘定保險(xiǎn)費(fèi)率，使在保險(xiǎn)期限內(nèi)收取的保險(xiǎn)費(fèi)和損失賠償及其它費(fèi)用開支相平衡。大數(shù)法則是近代保險(xiǎn)業(yè)賴以建立的數(shù)理基礎(chǔ)。保險(xiǎn)公司正是利用在個(gè)別情形下存在的不確定性將在大數(shù)中消失的這種規(guī)則性，來分析承保標(biāo)的發(fā)生損失的相對(duì)穩(wěn)定性。按照大數(shù)法則，保險(xiǎn)公司承保的每類標(biāo)的數(shù)目必須足夠大，否則，缺少一定的數(shù)量基礎(chǔ)，就不能產(chǎn)生所需要的數(shù)量規(guī)律。但是，任何一家保險(xiǎn)公司都有它的局限性，即承保的具有同一風(fēng)險(xiǎn)性質(zhì)的單位是有限的，這就需要通過再保險(xiǎn)來擴(kuò)大風(fēng)險(xiǎn)單位及風(fēng)險(xiǎn)分散面。