Za rješavanje mnogih praktičnih problema potrebno je poznavati skup uslova zbog kojih je rezultat kombinovanog djelovanja velikog broja slučajnih faktora gotovo nezavisan od slučaja. Ovi uslovi su opisani u nekoliko teorema, koje se zajednički nazivaju zakon velikih brojeva, gde je slučajna varijabla k jednaka 1 ili 0, u zavisnosti od toga da li je rezultat k-tog pokušaja uspeh ili neuspeh. Dakle, Sn je zbir n međusobno nezavisnih slučajnih varijabli, od kojih svaka uzima vrijednosti 1 i 0 sa vjerovatnoćama p i q.

Najjednostavniji oblik zakona velikih brojeva je Bernoullijeva teorema, koja kaže da ako je vjerovatnoća događaja ista u svim pokušajima, onda kako se broj pokušaja povećava, učestalost događaja teži vjerovatnoći događaja i prestaje biti nasumičan.

Poissonova teorema navodi da učestalost događaja u nizu nezavisnih ispitivanja teži aritmetičkoj sredini njegovih vjerovatnoća i prestaje biti slučajna.

Granične teoreme teorije vjerovatnoće, Moivre-Laplaceove teoreme objašnjavaju prirodu stabilnosti učestalosti pojavljivanja događaja. Ova priroda se sastoji u činjenici da je ograničavajuća raspodjela broja pojavljivanja događaja sa neograničenim povećanjem broja pokušaja (ako je vjerovatnoća događaja u svim pokušajima ista) normalna distribucija.

Centralna granična teorema objašnjava raširenu distribuciju normalne distribucije. Teorema kaže da kad god se slučajna varijabla formira kao rezultat sabiranja velikog broja nezavisnih slučajnih varijabli sa konačnim varijacijama, zakon raspodjele ove slučajne varijable ispada praktički normalan zakon.

Ljapunovljeva teorema objašnjava široku distribuciju zakona normalne distribucije i objašnjava mehanizam njegovog formiranja. Teorema nam omogućava da kažemo da kad god se slučajna varijabla formira kao rezultat sabiranja velikog broja nezavisnih slučajnih varijabli, čije su varijanse male u odnosu na varijansu sume, ispada zakon distribucije ove slučajne varijable da bude praktično normalan zakon. A budući da su slučajne varijable uvijek generirane beskonačnim brojem uzroka, a najčešće nijedan od njih nema varijansu uporedivu sa varijansom same slučajne varijable, većina slučajnih varijabli koje se susreću u praksi podliježu normalnom zakonu distribucije.

Na osnovu kvalitativnih i kvantitativnih iskaza zakona velikih brojeva Čebiševljeva nejednakost. Definira gornju granicu vjerovatnoće da je odstupanje vrijednosti slučajne varijable od njenog matematičkog očekivanja veće od nekog datog broja. Izvanredno je da Čebiševljeva nejednakost daje procjenu vjerovatnoće događaja za slučajnu varijablu čija je distribucija nepoznata, poznati su samo njeno matematičko očekivanje i varijansa.

Čebiševljeva nejednakost. Ako slučajna varijabla x ima varijansu, tada za bilo koje x > 0 vrijedi sljedeća nejednakost, gdje M x i D x - matematičko očekivanje i varijansa slučajne varijable x .

Bernulijeva teorema. Neka je x n broj uspjeha u n Bernoullijevih pokušaja, a p vjerovatnoća uspjeha u jednom pokušaju. Tada je za bilo koji s > 0 tačno.

Ljapunovljeva teorema. Neka je s 1 , s 2 , …, s n , … neograničen niz nezavisnih slučajnih varijabli sa matematičkim očekivanjima m 1 , m 2 , …, m n , … i varijacijama s 1 2 , s 2 2 , …, s n 2 … . Označimo.

Tada je = F(b) - F(a) za bilo koje realne brojeve a i b, gdje je F(x) funkcija raspodjele normalnog zakona.

Neka je data diskretna slučajna varijabla. Razmotrimo zavisnost broja uspjeha Sn od broja pokušaja n. Sa svakim pokušajem, Sn se povećava za 1 ili 0. Ova izjava se može napisati kao:

Sn = 1 +…+ n . (1.1)

Zakon velikih brojeva. Neka je ( k ) niz međusobno nezavisnih slučajnih varijabli sa identičnim distribucijama. Ako matematičko očekivanje = M(k) postoji, onda za bilo koje > 0 za n

Drugim riječima, vjerovatnoća da se srednja vrijednost S n /n razlikuje od matematičkog očekivanja za manje od proizvoljno date jedinice teži jedan.

Centralna granična teorema. Neka je ( k ) niz međusobno nezavisnih slučajnih varijabli sa identičnim distribucijama. Pretpostavimo to i postojimo. Neka je Sn = 1 +…+ n , Tada za bilo koji fiksni

F () - F () (1.3)

Ovdje je Φ(x) normalna funkcija raspodjele. Ovu teoremu je formulirao i dokazao Linlberg. Ljapunov i drugi autori su to dokazali ranije, pod restriktivnijim uslovima. Mora se zamisliti da je gore navedena teorema samo vrlo poseban slučaj mnogo općenitije teoreme, koja je zauzvrat usko povezana s mnogim drugim graničnim teoremama. Imajte na umu da je (1.3) mnogo jača od (1.2), budući da (1.3) daje procjenu vjerovatnoće da je razlika veća od. S druge strane, zakon velikih brojeva (1.2) je istinit čak i ako slučajne varijable k nemaju konačnu varijansu, pa se primjenjuje na opštiji slučaj od centralne granične teoreme (1.3). Posljednje dvije teoreme ilustrujemo primjerima.

Primjeri. a) Razmotrite niz nezavisnih bacanja simetrične kocke. Neka je k broj bačenih poena na k-tom bacanju. Onda

M(k)=(1+2+3+4+5+6)/6=3,5,

a D(k)=(1 2 +2 2 +3 2 +4 2 +5 2 +6 2)/6-(3.5) 2 =35/12 i S n /n

je prosječan broj bodova rezultat n bacanja.

Zakon velikih brojeva kaže da je moguće da će za veliki n ovaj prosjek biti blizu 3,5. Centralna granična teorema utvrđuje vjerovatnoću da |Sn -- 3.5n |< (35n/12) 1/2 близка к Ф() -- Ф(-). При n = 1000 и а=1 мы находим, что вероятность неравенства 3450 < Sn < 3550 равна примерно 0,68. Выбрав для а значение а 0 = 0,6744, удовлетворяющее соотношению Ф(0)-- Ф(-- 0)=1/2, мы получим, что для Sn шансы находиться внутри или вне интервала 3500 36 примерно одинаковы.

b) Uzorak. Pretpostavimo da u opštoj populaciji,

koje se sastoje od N porodica, Nk porodice imaju tačno k djece

(k = 0, 1 ...; Nk = N). Ako je porodica odabrana nasumično, tada je broj djece u njoj slučajna varijabla koja poprima vrijednost sa vjerovatnoćom p = N/N. Uz rekurzivnu selekciju, uzorak veličine n može se uzeti u obzir kao kolekcija od n nezavisnih slučajnih varijabli ili "zapažanja" 1, ..., n koje imaju istu distribuciju; S n /n je srednja vrijednost uzorka. Zakon velikih brojeva kaže da će za dovoljno veliki slučajni uzorak njegova srednja vrijednost vjerovatno biti bliska, odnosno srednjoj populaciji. Centralna granična teorema vam omogućava da procijenite vjerovatnu količinu neslaganja između ovih srednjih vrijednosti i odredite veličinu uzorka potrebnu za pouzdanu procjenu. U praksi, i i obično su nepoznati; međutim, u većini slučajeva je lako dobiti preliminarnu procjenu i uvijek se može postaviti u pouzdane granice. Ako želimo da se srednja vrijednost uzorka S n /n razlikuje od nepoznate srednje vrijednosti populacije za manje od 1/10 s vjerovatnoćom od 0,99 ili više, tada veličinu uzorka treba uzeti tako da

Koren x jednačine F(h) - F(-- x) = 0,99 je jednak x = 2,57 ..., i, prema tome, n mora biti takvo da je 2,57 ili n > 660. Pažljiva pred-procjena omogućava pronalaženje potrebne veličine uzorka.

c) Poissonova raspodjela.

Pretpostavimo da slučajne varijable k imaju Poissonovu distribuciju (p(k;)). Tada Sn ima Poissonovu distribuciju sa srednjom sredinom i varijansom jednakim n.

Pišući umjesto n, zaključujemo da je za n

Sumiranje se vrši po svim k od 0 do. F-la (1.5) se takođe dešava kada je proizvoljno.

Neka su poznate standardne devijacije nekoliko međusobno nezavisnih slučajnih varijabli. Kako pronaći standardnu ​​devijaciju zbira ovih veličina? Odgovor na ovo pitanje daje sljedeća teorema.

Teorema. Standardna devijacija sume konačnog broja međusobno nezavisnih slučajnih varijabli jednaka je kvadratnom korijenu sume kvadrata standardnih devijacija ovih varijabli.

Dokaz. Označiti sa X zbir razmatranih međusobno nezavisnih veličina:

Varijanca zbira nekoliko međusobno nezavisnih slučajnih varijabli jednaka je zbiru varijansi članova (vidi § 5, posljedica 1), pa

ili konačno

Jednako raspoređene međusobno nezavisne slučajne varijable

Već je poznato da se prema zakonu raspodjele mogu pronaći numeričke karakteristike slučajne varijable. Iz toga slijedi da ako nekoliko slučajnih varijabli imaju iste distribucije, onda su njihove numeričke karakteristike iste.

Razmislite P međusobno nezavisne slučajne varijable X v X v ..., X fi , koje imaju iste distribucije i, shodno tome, iste karakteristike (matematičko očekivanje, varijansa, itd.). Najveći interes je proučavanje numeričkih karakteristika aritmetičke sredine ovih veličina, što ćemo raditi u ovom odeljku.

Označimo aritmetičku sredinu razmatranih slučajnih varijabli kao X:

Sljedeće tri odredbe uspostavljaju odnos između numeričkih karakteristika aritmetičke sredine X i odgovarajuće karakteristike svake pojedinačne količine.

1. Matematičko očekivanje aritmetičke sredine identično raspoređenih međusobno nezavisnih slučajnih varijabli jednako je matematičkom očekivanju a svake od varijabli:

Dokaz. Koristeći svojstva matematičkog očekivanja (konstantni faktor se može izvaditi iz predznaka matematičkog očekivanja; matematičko očekivanje sume je jednako zbiru matematičkih očekivanja članova), imamo

Uzimajući u obzir da je matematičko očekivanje svake od veličina po uslovu jednako a, dobijamo

2. Varijanca aritmetičke sredine n identično raspoređenih međusobno nezavisnih slučajnih varijabli je n puta manja od varijanse D svake od varijabli:

Dokaz. Koristeći svojstva varijanse (faktor konstante se može izvući iz znaka varijanse tako što se kvadrira; varijansa zbira nezavisnih varijabli jednaka je zbroju varijansi članova), imamo

§ 9. Jednako raspoređene međusobno nezavisne slučajne varijable 97

Uzimajući u obzir da je varijansa svake od veličina uslovno jednaka D, dobijamo

3. Standardna devijacija aritmetičke sredine n identično raspoređenih međusobno nezavisnih slučajnih

vrijednosti su 4n puta manje od standardne devijacije a svake od vrijednosti:

Dokaz. Jer D(X) = D/n, zatim standardna devijacija X jednaki

Opšti zaključak iz formula (*) i (**): imajući na umu da varijansa i standardna devijacija služe kao mjere disperzije slučajne varijable, zaključujemo da aritmetička sredina dovoljno velikog broja međusobno nezavisnih slučajnih varijabli ima

mnogo manje rasipanje od svake pojedinačne vrednosti.

Objasnimo na primjeru značaj ovog zaključka za praksu.

Primjer. Obično se za mjerenje određene fizičke veličine izvrši nekoliko mjerenja, a zatim se pronađe aritmetička sredina dobijenih brojeva, koja se uzima kao približna vrijednost mjerene veličine. Uz pretpostavku da se mjerenja vrše pod istim uslovima, dokazati:

• a) aritmetička sredina daje pouzdaniji rezultat od pojedinačnih mjerenja;
• b) sa povećanjem broja mjerenja, povećava se pouzdanost ovog rezultata.

Rješenje, a) Poznato je da pojedinačna mjerenja daju različite vrijednosti mjerene veličine. Rezultat svakog mjerenja ovisi o mnogim slučajnim faktorima (promjene temperature, fluktuacije uređaja, itd.), koji se ne mogu u potpunosti uzeti u obzir unaprijed.

Stoga imamo pravo razmotriti moguće rezultate P pojedinačna mjerenja kao slučajne varijable X v X 2,..., X str(indeks označava broj mjerenja). Ove veličine imaju istu distribuciju vjerovatnoće (mjerenja se vrše istom tehnikom i istim instrumentima), a samim tim i iste numeričke karakteristike; osim toga, oni su međusobno nezavisni (rezultat svakog pojedinačnog mjerenja ne zavisi od ostalih mjerenja).

Već znamo da aritmetička sredina takvih vrijednosti ima manju disperziju od svake pojedinačne vrijednosti. Drugim riječima, aritmetička sredina je bliža pravoj vrijednosti izmjerene vrijednosti nego rezultat jednog mjerenja. To znači da aritmetička sredina nekoliko mjerenja daje rezultat više slučajeva nego jedno mjerenje.

b) Već znamo da kako se broj pojedinačnih slučajnih varijabli povećava, širenje aritmetičke sredine opada. To znači da se povećanjem broja mjerenja aritmetička sredina nekoliko mjerenja sve manje razlikuje od prave vrijednosti mjerene veličine. Dakle, povećanjem broja mjerenja dobija se pouzdaniji rezultat.

Na primjer, ako je standardna devijacija jednog mjerenja a = 6 m, a ukupna P= 36 mjerenja, onda je standardna devijacija aritmetičke sredine ovih mjerenja samo 1 m. Zaista,

Vidimo da se aritmetička sredina nekoliko mjerenja, očekivano, pokazala bližom pravoj vrijednosti mjerene veličine nego rezultat jednog mjerenja.

Rad na kursu

na temu: "Zakoni velikih brojeva"

Jednako raspoređene slučajne varijable

Za rješavanje mnogih praktičnih problema potrebno je poznavati skup uslova zbog kojih je rezultat kombinovanog djelovanja velikog broja slučajnih faktora gotovo nezavisan od slučaja. Ovi uslovi su opisani u nekoliko teorema, koje se zajednički nazivaju zakon velikih brojeva, gde je slučajna varijabla k jednaka 1 ili 0, u zavisnosti od toga da li je rezultat k-tog pokušaja uspeh ili neuspeh. Dakle, Sn je zbir n međusobno nezavisnih slučajnih varijabli, od kojih svaka uzima vrijednosti 1 i 0 sa vjerovatnoćama p i q.

Najjednostavniji oblik zakona velikih brojeva je Bernoullijeva teorema, koja kaže da ako je vjerovatnoća događaja ista u svim pokušajima, onda kako se broj pokušaja povećava, učestalost događaja teži vjerovatnoći događaja i prestaje biti nasumičan.

Poissonova teorema kaže da učestalost događaja u nizu nezavisnih pokušaja teži aritmetičkoj sredini njegovih vjerovatnoća i prestaje biti slučajna.

Granične teoreme teorije vjerovatnoće, Moivre-Laplaceove teoreme objašnjavaju prirodu stabilnosti učestalosti pojavljivanja događaja. Ova priroda se sastoji u činjenici da je ograničavajuća raspodjela broja pojavljivanja događaja sa neograničenim povećanjem broja pokušaja (ako je vjerovatnoća događaja u svim pokušajima ista) normalna distribucija.

Centralna granična teorema objašnjava raširenu upotrebu zakona normalne distribucije. Teorema kaže da kad god se slučajna varijabla formira kao rezultat sabiranja velikog broja nezavisnih slučajnih varijabli sa konačnim varijacijama, zakon raspodjele ove slučajne varijable ispada praktički normalan zakon.

Ljapunovljev teorem objašnjava široku distribuciju zakona normalne raspodjele i objašnjava mehanizam njegovog formiranja. Teorema nam omogućava da kažemo da kad god se slučajna varijabla formira kao rezultat sabiranja velikog broja nezavisnih slučajnih varijabli, čije su varijanse male u odnosu na varijansu sume, ispada zakon distribucije ove slučajne varijable da bude praktično normalan zakon. A budući da su slučajne varijable uvijek generirane beskonačnim brojem uzroka, a najčešće nijedan od njih nema varijansu uporedivu sa varijansom same slučajne varijable, većina slučajnih varijabli koje se susreću u praksi podliježu normalnom zakonu distribucije.

Na osnovu kvalitativnih i kvantitativnih iskaza zakona velikih brojeva Čebiševljeva nejednakost. Definira gornju granicu vjerovatnoće da je odstupanje vrijednosti slučajne varijable od njenog matematičkog očekivanja veće od nekog datog broja. Izvanredno je da Čebiševljeva nejednakost daje procjenu vjerovatnoće događaja za slučajnu varijablu čija je distribucija nepoznata, poznati su samo njeno matematičko očekivanje i varijansa.

Čebiševljeva nejednakost. Ako slučajna varijabla x ima varijansu, tada je za bilo koji x > 0 tačna nejednakost, gdje je M x i D x - matematičko očekivanje i varijansa slučajne varijable x .

Bernulijeva teorema. Neka je x n broj uspjeha u n Bernoullijevih pokušaja, a p vjerovatnoća uspjeha u jednom pokušaju. Zatim, za bilo koji s > 0, .

Ljapunovljev teorem. Neka je s 1 , s 2 , …, s n , … neograničen niz nezavisnih slučajnih varijabli sa matematičkim očekivanjima m 1 , m 2 , …, m n , … i varijacijama s 1 2 , s 2 2 , …, s n 2 … . Označite , , , .

Tada je = F(b) - F(a) za bilo koje realne brojeve a i b, gdje je F(x) funkcija raspodjele normalnog zakona.

Neka je data diskretna slučajna varijabla. Razmotrimo zavisnost broja uspjeha Sn od broja pokušaja n. Sa svakim pokušajem, Sn se povećava za 1 ili 0. Ova izjava se može napisati kao:

Sn = 1 +…+ n . (1.1)

Zakon velikih brojeva. Neka je ( k ) niz međusobno nezavisnih slučajnih varijabli sa identičnim distribucijama. Ako matematičko očekivanje = M(k) postoji, onda za bilo koje > 0 za n

Drugim riječima, vjerovatnoća da se srednja vrijednost S n /n razlikuje od matematičkog očekivanja za manje od proizvoljno datog teži jedan.

Centralna granična teorema. Neka je ( k ) niz međusobno nezavisnih slučajnih varijabli sa identičnim distribucijama. Pretpostavimo to i postojimo. Neka je Sn = 1 +…+ n , Tada za bilo koji fiksni

Ž () - Ž () (1.3)

Ovdje je Φ(x) normalna funkcija raspodjele. Ovu teoremu je formulirao i dokazao Linlberg. Ljapunov i drugi autori su to dokazali ranije, pod restriktivnijim uslovima. Mora se zamisliti da je gore navedena teorema samo vrlo poseban slučaj mnogo općenitije teoreme, koja je zauzvrat usko povezana s mnogim drugim graničnim teoremama. Imajte na umu da je (1.3) mnogo jača od (1.2), budući da (1.3) daje procjenu vjerovatnoće da je razlika veća od . S druge strane, zakon velikih brojeva (1.2) je istinit čak i ako slučajne varijable k nemaju konačnu varijansu, pa se primjenjuje na opštiji slučaj od centralne granične teoreme (1.3). Posljednje dvije teoreme ilustrujemo primjerima.

Primjeri. a) Razmotrite niz nezavisnih bacanja simetrične kocke. Neka je k broj poena postignutih na k-tom bacanju. Onda

M( k)=(1+2+3+4+5+6)/6=3,5,

a D( k)=(1 2 +2 2 +3 2 +4 2 +5 2 +6 2)/6-(3.5) 2 =35/12 i S n /n

je prosječan broj bodova rezultat n bacanja.

Zakon velikih brojeva kaže da je moguće da će za veliki n ovaj prosjek biti blizu 3,5. Centralna granična teorema utvrđuje vjerovatnoću da |Sn - 3.5n |< (35n/12) 1/2 близка к Ф() - Ф(- ). При n = 1000 и а=1 мы находим, что вероятность неравенства 3450 < Sn < 3550 равна примерно 0,68. Выбрав для а значение а 0 = 0,6744, удовлетворяющее соотношению Ф( 0)- Ф(- 0)=1/2, мы получим, что для Sn шансы находиться внутри или вне интервала 3500 36 примерно одинаковы.

b) Uzorak. Pretpostavimo da u opštoj populaciji,

koje se sastoje od N porodica, Nk porodice imaju tačno k djece

(k = 0, 1 ...; Nk = N). Ako je porodica odabrana nasumično, tada je broj djece u njoj slučajna varijabla koja poprima vrijednost sa vjerovatnoćom p = N /N. Uz rekurzivnu selekciju, uzorak veličine n može se uzeti u obzir kao kolekcija od n nezavisnih slučajnih varijabli ili "zapažanja" 1, ..., n koje imaju istu distribuciju; S n /n je srednja vrijednost uzorka. Zakon velikih brojeva kaže da će za dovoljno veliki slučajni uzorak njegova srednja vrijednost vjerovatno biti blizu , tj. srednje vrijednosti populacije. Centralna granična teorema vam omogućava da procijenite vjerovatnu količinu neslaganja između ovih srednjih vrijednosti i odredite veličinu uzorka potrebnu za pouzdanu procjenu. U praksi, i i obično su nepoznati; međutim, u većini slučajeva je lako dobiti preliminarnu procjenu i uvijek se može postaviti u pouzdane granice. Ako želimo da se srednja vrijednost uzorka S n /n razlikuje od nepoznate srednje vrijednosti populacije za manje od 1/10 s vjerovatnoćom od 0,99 ili više, tada veličinu uzorka treba uzeti tako da

Koren x jednačine F(h) - F(- x) = 0,99 je jednak x = 2,57 ..., i, prema tome, n mora biti takvo da je 2,57 ili n > 660. Pažljiva pred-procjena omogućava pronalaženje potrebne veličine uzorka.

c) Poissonova raspodjela.

Pretpostavimo da slučajne varijable k imaju Poissonovu distribuciju (p(k; )). Tada Sn ima Poissonovu distribuciju sa srednjom sredinom i varijansom jednakim n.

Pišući umjesto n , zaključujemo da je za n

Zbrajanje se vrši preko svih k od 0 do . F-la (1.5) se takođe dešava kada je proizvoljno.

Iznad smo razmatrali pitanje pronalaženja PDF-a za zbir statistički nezavisnih slučajnih varijabli. U ovom dijelu ćemo ponovo razmotriti zbir statistički nezavisnih varijabli, ali naš pristup će biti drugačiji i neće ovisiti o parcijalnim PDF-ovima slučajnih varijabli u zbroju. Konkretno, pretpostavimo da su članovi zbira statistički nezavisne i identično raspoređene slučajne varijable, od kojih svaka ima ograničenu sredinu i ograničenu varijansu.

Neka se definira kao normalizirana suma nazvana uzorkovana sredina

Prvo određujemo gornje granice vjerovatnoće repova, a zatim dokazujemo vrlo važnu teoremu koja određuje PDF u granici kada teži beskonačnosti.

Slučajna varijabla , definisana (2.1.187), često se javlja kada se procjenjuje srednja vrijednost slučajne varijable u nizu opservacija , . Drugim riječima, može se smatrati nezavisnim uzorkom realizacije od distribucije , i predstavlja procjenu srednje vrijednosti .

Matematičko očekivanje je

.

Disperzija je

Ako se posmatra kao procjena srednje vrijednosti, vidimo da je njegovo matematičko očekivanje jednako , a njegova varijansa opada s povećanjem veličine uzorka. Ako se neograničeno povećava, varijansa teži nuli. Procjena parametra (u ovom slučaju, ) koja zadovoljava uslove da njegovo matematičko očekivanje teži pravoj vrijednosti parametra, a varijansa je striktno na nuli, naziva se konzistentna procjena.

Verovatnoća repa slučajne varijable može se proceniti odozgo koristeći granice date u sek. 2.1.5. Čebiševljeva nejednakost u primjeni ima oblik

,

. (2.1.188)

U granici kada , Iz (2.1.188) slijedi

. (2.1.189)

Stoga, vjerovatnoća da se procjena srednje vrijednosti razlikuje od prave vrijednosti za više od , teži nuli ako raste beskonačno. Ova odredba je oblik zakona velikih brojeva. Budući da gornja granica relativno sporo konvergira nuli, tj. obrnuto . izraz (2.1.188) se poziva slab zakon velikih brojeva.

Ako primijenimo Chernoffovu granicu koja sadrži eksponencijalnu ovisnost o na slučajnu varijablu, onda ćemo dobiti gustu gornju granicu za vjerovatnoću jednog repa. Prateći proceduru opisanu u odjeljku. 2.1.5, nalazimo da je verovatnoća repa za data sa

gdje i . Ali , su statistički nezavisni i jednako raspoređeni. shodno tome,

gdje je jedna od veličina. Parametar , koji daje najprecizniju gornju granicu, dobija se diferenciranjem (2.1.191) i postavljanjem derivacije na nulu. Ovo vodi do jednačine

(2.1.192)

Rješenje (2.1.192) označimo sa . Zatim granica za vjerovatnoću gornjeg repa

, . (2.1.193)

Slično, naći ćemo da donja vjerovatnoća repa ima granicu

, . (2.1.194)

Primjer 2.1.7. Neka je , biti niz statistički nezavisnih slučajnih varijabli definiranih na sljedeći način:

Želimo definirati čvrstu gornju granicu vjerovatnoće da je zbir veći od nule. Pošto , tada će zbir imati negativnu vrijednost za matematičko očekivanje (prosjek), stoga ćemo tražiti vjerovatnoću gornjeg repa. Jer u (2.1.193) imamo

, (2.1.195)

gdje je rješenje jednačine

shodno tome,

. (2.1.197)

Dakle, za granicu u (2.1.195) dobijamo

Vidimo da gornja granica opada eksponencijalno od , kao što se i očekivalo. Nasuprot tome, prema Čebiševovoj granici, vjerovatnoća repa opada obrnuto sa .

Centralna granična teorema. U ovom odeljku razmatramo izuzetno korisnu teoremu koja se odnosi na IGF sume slučajnih varijabli u granici gde broj članova u zbiru raste bez ograničenja. Postoji nekoliko verzija ove teoreme. Dokažimo teoremu za slučaj kada su slučajne sabirne varijable , , statistički nezavisne i identično raspoređene, svaka od njih ima ograničenu srednju vrijednost i ograničenu varijansu .

Radi praktičnosti, definiramo normaliziranu slučajnu varijablu

Dakle, ima nultu srednju vrijednost i jediničnu varijansu.

Hajde sada

Pošto svaki član sume ima nultu srednju vrijednost i jediničnu varijansu, normalizirana (faktorom) vrijednost ima nultu srednju vrijednost i jediničnu varijansu. Želimo definirati IDF za u ograničenju kada .

Karakteristična funkcija je

, (2.1.200).

,

ili, ekvivalentno,

. (2.1.206)

Ali ovo je samo karakteristična funkcija Gaussove slučajne varijable s nultom srednjom i jediničnom varijansom. Tako imamo važan rezultat; PDF zbira statistički nezavisnih i identično raspoređenih slučajnih varijabli s ograničenom srednjom sredinom i varijansom približava se Gaussovom na . Ovaj rezultat je poznat kao centralna granična teorema.

Iako smo pretpostavili da su slučajne varijable u zbroju podjednako raspoređene, ova pretpostavka može biti oslabljena pod uslovom da se i dalje nameću određena dodatna ograničenja na svojstva slučajnih zbrojivih varijabli. Postoji jedna verzija teoreme, na primjer, kada se odustaje od pretpostavke o istoj raspodjeli slučajnih varijabli u korist uvjeta nametnutog trećem apsolutnom momentu slučajnih varijabli zbira. Za raspravu o ovoj i drugim verzijama centralne granične teoreme, čitalac se poziva na Cramera (1946).

Centralna granična teorema je grupa teorema posvećenih utvrđivanju uslova pod kojima nastaje zakon normalne distribucije, a čije kršenje dovodi do distribucije koja nije normalna. Različiti oblici centralne granične teoreme razlikuju se jedni od drugih po uslovima nametnutim distribucijama slučajnih članova koji čine zbir. Dokažimo jedan od najjednostavnijih oblika ove teoreme, odnosno centralnu graničnu teoremu za nezavisne identično distribuirane članove.

Razmotrimo niz nezavisnih identično distribuiranih slučajnih varijabli sa matematičkim očekivanjem. Pretpostavimo i da postoji varijansa. Hajde da uvedemo notaciju. Zakon velikih brojeva za ovaj niz može se predstaviti u sljedećem obliku:

pri čemu se konvergencija može shvatiti i u smislu konvergencije u vjerovatnoći (slab zakon velikih brojeva) i u smislu konvergencije sa vjerovatnoćom jednakom jedan (jaki zakon velikih brojeva).

Teorema (centralna granična teorema za nezavisne identično distribuirane slučajne varijable). Neka je niz nezavisnih identično distribuiranih slučajnih varijabli, . Tada postoji uniforma u odnosu na () konvergenciju

gdje je standardna funkcija normalne distribucije (sa parametrima):

Ako je uslov takve konvergencije zadovoljen, niz se naziva asimptotski normalan.

Teoreme Ljapunova i Lindeberga

Razmotrimo slučaj kada slučajne varijable imaju različite distribucije - nezavisne sa različitim distribucijama.

Teorema (Lindeberg). Neka je niz nezavisnih slučajnih varijabli s konačnim varijacijama. Ako ovaj niz zadovoljava Lindebergov uslov:

gdje, onda za njega vrijedi središnja granična teorema.

Pošto je Lindebergov uslov teško direktno proveriti, razmatramo neki drugi uslov pod kojim važi centralna granična teorema, odnosno uslov Ljapunovljeve teoreme.

Teorema (Ljapunov). Ako je Ljapunovov uslov zadovoljen za niz slučajnih varijabli:

tada je niz asimptotski normalan, tj. važi centralna granična teorema.

Ispunjenje Ljapunovljevog uvjeta podrazumijeva ispunjenje Lindebergovog uvjeta, a iz njega slijedi središnja granična teorema.